簡述
- 調查人員表示，卡莉·米歇爾·海勒（Carli Michelle Heller）在9月26日寫道，她將「掃射」李縣警長辦公室，並在隔天表示她有一把新槍。
- 根據逮捕報告，Anthropic的安全系統標記了這些內容，並由人工審查團隊向執法部門舉報。
- Anthropic的消費者條款保留自行決定向執法部門舉報用戶輸入內容的權利。
一名佛羅里達州女子表示，她將AI當作日記使用。如今她面臨重罪指控，而將她送入牢獄的讀者，是她從未想過要展示的對象。
來自博尼塔斯普林斯的卡莉·米歇爾·海勒（Carli Michelle Heller）在調查人員發現她於9月26日寫下將「掃射」李縣警長辦公室後被捕，據當地WINK新聞報導。根據調查，她的Claude帳戶顯示的對話表明，她在隔天就拿到了一把新槍。
逮捕報告指出，Anthropic的平台會監控關鍵短語和威脅性內容。由於這些陳述的嚴重性，它們被轉交給人工審查團隊，該團隊隨後向執法部門舉報。
副警長確認了海勒的身分，前往她家，並在未發生任何意外的情况下將她拘留。她被控以書面威脅使用暴力。
Anthropic 的文件並未隱瞞任何這些內容。其消費者條款保留權利，可依公司「全權裁量」向執法機關舉報使用者的輸入、輸出或行為。其隱私政策（2026 年 9 月 10 日生效）亦允許在公司善意相信揭露資料為防止嚴重傷害所合理必要時，與警方分享資料。
實際上，即使選擇退出將你的資料用於模型訓練，Anthropic 仍有權使用你的資料三個月而非五年，因此你的對話永遠不會是私密的。
比特幣BTC · USD
$85,804+3.11%
9月28日9月30日10月2日10月4日10月5日
$86.8k$85.5k$84.2k$83.0k
24小時高點高點$86,949
24小時低點低點$85,010
成交量成交量$1.5B
市場預測賠率由 Myriad
→用 USDT 購買 比特幣
由 Jupiter 提供技術支援
同一政策指出，被標記為安全審查的對話仍會被用於提升 Anthropic 偵測有害內容的能力。被標記的日記條目最終可能成為偵測器的訓練素材。
Heller 並非首例。《舊金山標準報》九月報導，Anthropic 曾將一名使用者轉介給警方，因為他據稱寫道自己買了一把 AR-15，並將執行長 Dario Amodei 列為目標。一名員工告訴警方，他並不立即擔心安全問題，並以公司政策為由拒絕出示這些訊息。
該使用者告訴《標準報》，他只是在開玩笑，而在報導刊出時，他並未被逮捕或起訴。Anthropic 發言人稱這一事件是「我們的防護流程按預期運作」。該公司拒絕說明是否會以不同方式處理針對自家員工的威脅。
這不只是 Anthropic 的問題。在二月於加拿大卑詩省 Tumbler Ridge 造成八人死亡的校園槍擊案之後，OpenAI 表示，它曾在 2025 年 6 月權衡是否通知加拿大警方，但得出結論認為該帳號並未顯示出即將發生且可信的嚴重身體傷害風險。
OpenAI 自己2025 年 8 月的政策文章將針對他人的威脅轉交給人工審查員，他們可能會將其轉介給執法部門。
Heller 已定於十一月出庭。
