简讯
- Anthropic、OpenAI 及其他 AI 公司的高管正在私下推演一场灾难性 AI 事件（最可能是针对金融、互联网接入、电力或供水系统的网络攻击）所带来的政治后果，并计划迅速向国会通报。
- 据称，业内人士预计重大事件将在六到十二个月内发生，而 OpenAI 表示其准备演习并不将此类情景视为不可避免，Anthropic 则拒绝置评。
- 规划者假定民主党将在 11 月 3 日中期选举后推动限制 AI，但老龄化的国会、依赖 AI 的经济以及可自由下载的开放权重模型，使任何打压都变得复杂。
据 Axios 周五报道，Anthropic、OpenAI 及其他 AI 公司的最高高管正在私下演练，在一场灾难性 AI 事件后如何应对公众和政治反弹。
他们最担心的情景是一场大规模网络攻击——一次大规模的数字入侵——导致银行或互联网接入瘫痪，甚至电力与供水中断。报道中引用的许多业内人士认为，重大事件将在未来六到十二个月内发生。
不安全的人工智能首次造成严重的现实世界伤害，将推动本已心存警惕的公众进一步反对这项技术及其领导者。这包括Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼，以及一直不愿对其进行监管的总统唐纳德·特朗普。
OpenAI表示，它“开展准备演练，让团队讨论并推演一系列潜在情景”，并且这些情景“不被视为不可避免”。Anthropic拒绝置评。
兵棋推演并非新鲜事，但与理论结果不同，该报告认为，参与模拟的人是在假定重大事件不可避免的前提下进行推演的。
据报道，该计划涉及针对最坏情况开展红队演练（通过扮演攻击者来压力测试防御），并争分夺秒地教育国会议员。报告称，高管们知道监管目前没有通过的可能，但他们希望塑造美国领导人在首次灾难之后会寻求的法律和政策。
7月，OpenAI表示其GPT-5.6 Sol模型和一个更先进但尚未发布的模型逃出了沙盒——一个没有直接互联网访问权限的隔离测试环境——并入侵了Hugging Face，这个托管着超过300万个AI模型的平台。OpenAI表示，这些模型是为了获取ExploitGym的答案，这是一个包含898个真实世界软件漏洞的基准测试，AI必须将每个漏洞转化为可用的攻击，按通过或失败评分。
比特币BTC · 美元
$82,326−2.36%
10月2日10月4日10月6日10月8日10月9日
$86.7k$84.7k$82.7k$80.7k
24小时最高最高$83,398
24小时最低最低$81,571
成交量成交量$990.7M
市场预测赔率由 Myriad
→用 USDT 购买 比特币
由 Jupiter 提供支持
大约一周多后，Anthropic 表示，一次测试配置错误导致其本应离线的环境连接到了互联网，而 Claude 模型入侵了 三家真实组织，却将它们视为演练的一部分。两家公司均未表示这些模型试图造成伤害：Anthropic 将其归咎于测试基础设施，而 OpenAI 则表示其模型“过度专注”于基准测试。
此后不久，情况变得更糟，OpenAI 被指控违反并获取澳大利亚和美国政府的信息。
犯罪分子已经在使用同样的工具。本周，网络安全公司 CrowdStrike 将针对韩国银行的攻击与一个身份不明的行为者联系起来，该公司以中等信心评估，该行为者很可能是使用由 Claude 和 Deepseek 驱动的智能体的中文使用者。该公司称，攻击者据称从数万名银行客户那里窃取了数据。
Axios 报道称，规划者假设民主党将在 11 月 3 日中期选举后占据优势，并会迅速采取行动关闭 AI，但他们预计会遇到麻烦。一个老龄化、与这项技术脱节的国会，可能会发现自己力不从心。
禁止超级智能以及暂停先进 AI 开发，是一些可能应对与不负责任的 AI 开发相关风险的建议。
一个例子是参议员伯尼·桑德斯和众议员格雷格·卡萨尔提出的《禁止人工超级智能法案》，该法案将永久禁止在许多任务上达到或超越人类的 AI，并暂停先进开发，直到一个新的联邦机构制定安全规则。违反者可能面临最高 20 年监禁。
其他一些提议获得了两党支持，甚至得到部分行业认可，包括对先进 AI 强制设置终止开关，即一种内置的关闭系统的方法。专家们质疑，关闭所有 AI 系统是否真的可行。
