Коротко
- Слідчі кажуть, що Карлі Мішель Геллер написала 26 вересня, що вона «влаштує стрілянину» в офісі шерифа округу Лі, а наступного дня сказала, що в неї є нова зброя.
- Згідно з протоколом про арешт, системи безпеки Anthropic позначили ці записи, і команда людської перевірки повідомила про них правоохоронним органам.
- Споживчі умови Anthropic залишають за собою право на власний розсуд повідомляти правоохоронні органи про введені користувачем дані.
Жінка з Флориди сказала, що використовує ШІ як щоденник. Тепер їй загрожує звинувачення у кримінальному злочині, і читачем, який її туди привів, був той, кому вона ніколи не збиралася це показувати.
Карлі Мішель Геллер з Боніта-Спрінгс була заарештована після того, як слідчі виявили, що вона написала 26 вересня, що «влаштує стрілянину» в офісі шерифа округу Лі, згідно з місцевим WINK News. За даними слідства, її акаунт у Claude містив розмови, в яких ішлося про те, що наступного дня вона вже мала нову зброю.
У протоколі про арешт зазначено, що платформа Anthropic відстежує ключові фрази та загрозливий вміст. Через серйозність цих заяв вони потрапили до команди людської перевірки, яка повідомила про них правоохоронні органи.
Заступники ідентифікували Хеллер, прийшли до її дому та затримали її без інцидентів. Її звинувачують у письмовій погрозі насильством.
Документація Anthropic не приховує нічого з цього. Її умови споживання залишають за собою право, на «власний розсуд» компанії, повідомляти правоохоронні органи про введені користувачем дані, результати або дії. Її політика конфіденційності, що набирає чинності 10 вересня 2026 року, також дозволяє передавати дані поліції, коли компанія добросовісно вважає, що розкриття є розумно необхідним для запобігання серйозній шкоді.
Фактично, навіть відмова від обробки ваших даних для навчання моделей дає Anthropic право використовувати ваші дані протягом трьох місяців замість п’яти років, тож ваші чати ніколи не є приватними.
BitcoinBTC · USD
$85,804+3.11%
28 вер30 вер2 жов4 жов5 жов
$86.8k$85.5k$84.2k$83.0k
24г МаксимумМакс$86,949
24г МінімумМін$85,010
ОбсягОбсяг$1.5B
Ринкові прогнозиКоефіцієнти від Myriad
→Купити Bitcoin за USDT
Працює на Jupiter
Та сама політика зазначає, що розмови, позначені для перевірки безпеки, все ще використовуються для покращення здатності Anthropic виявляти шкідливий контент. Позначений запис щоденника може стати навчальним матеріалом для детекторів.
Геллер не перший. San Francisco Standard повідомив у вересні, що Anthropic передала користувача поліції після того, як він нібито написав, що купив AR-15 і тримає генерального директора Даріо Амодея на прицілі. Співробітник сказав офіцерам, що він не був одразу стурбований безпекою, і відмовився показати повідомлення, посилаючись на політику компанії.
Користувач сказав Standard, що він жартував, і на момент публікації історії його не заарештували й не висунули звинувачень. Речник Anthropic назвав цей епізод «нашим процесом захисту, який працює як задумано». Компанія відмовилася сказати, чи вона по-іншому ставиться до погроз проти власних співробітників.
Це не лише проблема Anthropic. Після лютневої стрілянини в школі в Тамблер-Ридж, Британська Колумбія, яка забрала вісім життів, OpenAI заявила, що зважувала можливість попередити канадську поліцію в червні 2025 року, але дійшла висновку, що обліковий запис не демонстрував неминучого та достовірного ризику серйозної фізичної шкоди.
Власна політична публікація OpenAI за серпень 2025 року спрямовує погрози проти інших до людських рецензентів, які можуть передати їх правоохоронним органам.
У Геллера призначено судове засідання на листопад.
