W skrócie
- Śledczy twierdzą, że Carli Michelle Heller napisała 26 września, że „urządzi strzelaninę” w biurze szeryfa hrabstwa Lee, a następnego dnia powiedziała, że ma nowy pistolet.
- Zgodnie z raportem o aresztowaniu, systemy bezpieczeństwa Anthropic oznaczyły te wpisy, a zespół weryfikacji przez człowieka zgłosił je organom ścigania.
- Warunki konsumenckie Anthropic zastrzegają sobie prawo, według własnego uznania, do zgłaszania danych wejściowych użytkownika organom ścigania.
Mieszkanka Florydy powiedziała, że używa AI jak pamiętnika. Teraz grozi jej zarzut przestępstwa, a czytelnikiem, który ją tam wysłał, był ktoś, komu nigdy nie zamierzała tego pokazać.
Carli Michelle Heller z Bonita Springs została aresztowana po tym, jak śledczy odkryli, że napisała 26 września, iż „urządzi strzelaninę” w biurze szeryfa hrabstwa Lee, zgodnie z lokalnym WINK News. Według śledztwa jej konto Claude zawierało rozmowy, w których mówiła, że do następnego dnia zdobyła nowy pistolet.
Raport o aresztowaniu mówi, że platforma Anthropic monitoruje kluczowe frazy i treści zawierające groźby. Ze względu na powagę tych wypowiedzi trafiły one do zespołu weryfikacji przez człowieka, który zgłosił je organom ścigania.
Zastępcy zidentyfikowali Heller, udali się do jej domu i zatrzymali ją bez incydentów. Jest oskarżona o złożenie pisemnej groźby przemocy.
Dokumentacja Anthropic nie ukrywa niczego z tego. Jej warunki dla konsumentów zastrzegają sobie prawo, według „wyłącznego uznania” firmy, do zgłaszania danych wejściowych, wyników lub działań użytkownika organom ścigania. Jej polityka prywatności, obowiązująca od 10 września 2026 r., również pozwala na udostępnianie danych policji, gdy firma w dobrej wierze uważa, że ujawnienie jest racjonalnie konieczne do zapobieżenia poważnym szkodom.
W praktyce nawet rezygnacja z przetwarzania danych do trenowania modeli daje Anthropic prawo do wykorzystywania danych przez trzy miesiące zamiast pięciu lat, więc twoje rozmowy nigdy nie są prywatne.
BitcoinBTC · USD
$85,804+3.11%
Sep 28Sep 30Oct 2Oct 4Oct 5
$86.8k$85.5k$84.2k$83.0k
24h HighHigh$86,949
24h LowLow$85,010
VolVol$1.5B
Prognozy rynkoweKursy według Myriad
→Kup Bitcoin za USDT
Obsługiwane przez Jupiter
Ta sama polityka mówi, że rozmowy oznaczone do przeglądu bezpieczeństwa są nadal wykorzystywane do poprawy zdolności Anthropic do wykrywania szkodliwych treści. Oznaczony wpis w dzienniku może trafić jako materiał szkoleniowy dla detektorów.
Heller nie jest pierwszy. San Francisco Standard poinformował we wrześniu, że Anthropic zgłosił użytkownika na policję po tym, jak rzekomo napisał, że kupił AR-15 i miał CEO Dario Amodei na celowniku. Pracownik powiedział funkcjonariuszom, że początkowo nie obawiał się o bezpieczeństwo, i odmówił pokazania wiadomości, powołując się na politykę firmy.
Użytkownik powiedział Standard, że żartował, i nie został aresztowany ani oskarżony, gdy historia się ukazała. Rzecznik Anthropic nazwał ten epizod „naszym procesem zabezpieczeń działającym zgodnie z zamierzeniem”. Firma odmówiła powiedzenia, czy traktuje groźby wobec własnych pracowników inaczej.
To nie jest tylko problem Anthropic. Po lutowej strzelaninie w szkole w Tumbler Ridge, w Kolumbii Brytyjskiej, w której zginęło osiem osób, OpenAI powiedział, że rozważał powiadomienie kanadyjskiej policji w czerwcu 2025 r., ale doszedł do wniosku, że konto nie wykazywało bezpośredniego i wiarygodnego ryzyka poważnej krzywdy fizycznej.
Własny sierpniowy wpis polityki OpenAI z 2025 r. kieruje groźby wobec innych do ludzkich recenzentów, którzy mogą je przekazać organom ścigania.
Heller ma wyznaczoną rozprawę sądową na listopad.
