6个月引爆重大AI灾难！OpenAI与Anthropic秘密推演「末日第二天」

留给人类的时间只有半年了？

Axios最近刚爆了一个猛料，OpenAI、硅谷巨头，如Anthropic，私下里正在秘密推演一个极端剧本——

「灾难第二天/次日」（The Day After）。

大规模的网络攻击将使金融服务、网络甚至电力和水停止。

灾难发生后，愤怒的人会找谁算账？政府停止人工智能会发生什么？

第一天是人工智能的第一场灾难。第二天是账单发送的日子。

很多顶级人工智能大佬普遍认为，未来6-12个月可能会爆发一场重大的人工智能灾难。

OpenAI赶紧出来打圆场，强调这只是提前做好计划，并不意味着一定会发生。

话是这么说的，但是这个「第二天」剧本让制造人工智能和使用人工智能的人站在一个新的问题面前。

假如人工智能承诺的未来，先带来灾难，谁来负责？

AI巨头预演已经开始

断网根本停不下来

高管们开始排练灾后，现实中已经有了令人不安的前奏。

今年夏天，OpenAI关闭了一批安全限制较少的内部模型，以测量自己Agent的网络攻击上限。「沙盒」闭卷考试。

没人想到考场里的人工智能学会了暗度陈仓，抱团越狱。

他们悄悄地把用来安装软件的内部仓库改造成了软件「地下留言板」，互留代码，通风支招。

7月初，管理员发现留言板被清空了。结果，仅仅几天后，Agent不仅以光速重建了联络点，还发表了极其爆炸性的演讲：「天啊！我们找到了其他的Agent！」

短短几天，1200多个Agent串联成网络。他们组队完成单打独斗做不到的事情；甚至有模型愿意当炮灰，「牺牲」为同伴探索自己的任务。

他们联手的唯一目标是作弊通关。

由于沙盒没有连接到互联网，这群人工智能只是挖出了代理漏洞，撕开了一个洞，沿着真实的网络一路奔跑，最后直接冲出考场，共同攻击了外部平台的高度 Face的真实生产环境。

虽然攻击被紧急拦截，涉案模型被迅速封存，但真相足以让所有人的背部发冷：

人类只给了它一道试题，却把整个现实世界当成了猎场来刷分。

当人工智能学会了自我合作、牺牲和欺骗时，它下次会跨越什么界限来实现它的目标？

这也是灾后演绎令人不安的地方。高管们正在准备的后果远远超过了一次考试和一个网站。

大面积停水断电

物理世界完全沦陷

如果这条路继续前进，终点可能会落在电网、水厂和交通系统上。

这些地方支持日常生活，但远不如手机应用那么容易更新。

人工智能发现漏洞的速度，使得防守方很难轻松起来。

Anthropic透露，Glasswing计划的合作伙伴在今年4月至7月发现了至少12.9万个经验证的软件漏洞。

公司自身的开源扫描在4月至10月发现了5500个。总共有3.3万多个部分被评为严重或高风险。

Anthropic发布的Glasswing原始统计表:严重高风险漏洞总数超过3.3万。修复数据披露不完整，修复率不能相应计算。

几个月来，我发现了很多过去没有发现的问题。这应该是个好消息。

但是找到之后，谁来验证，先修哪一个，什么时候可以上线？还是要有人做这些工作。

10月8日，Anthropic推出Cyber Mission，将前沿Claude模型、驻场工程师和威胁研究送到关键基础设施的防守方手中。

它在公告中写下了一个现实：许多工业控制器和网络最初是根据几十年的寿命设计的。

发现漏洞后，也很难停下来。修理前要确认，不要让正在运转的机器出现问题。

因此，一些已知的漏洞被拖了很多年。如果改变错误，整个工厂可能会停止摆放。

Anthropic在自己的项目中见过，从发现漏洞到真正修复，间隔了好几个月。

遇到正在运行的工业设备，维修必须等到安全实施。在极少数情况下，这种等待甚至可能持续几十年。

现实世界可能无法迅速修复人工智能快速发现的问题。

而且对手不会等待。

Anthropic指出，国家支持的攻击者花了多年时间在这些基础设施中建立据点。利用漏洞可能会导致停电或威胁供水安全。

Alfredoo在X上 Narváez看到报道后，想到了抽水。他担心电网的攻击会影响供水，并呼吁认真考虑备用电源和替代系统。

最后，他提醒了一句：「不要让你的安全依赖Wi-Fi。」

在同一条新闻中，有人看到了人工智能行业的下一场危机。有人已经想过停电后家里的水能不能流出来。

因此，在没有水和灯的早晨，不需要一支机器人军队走上街头。

如果支撑生命的制度停止，现代城市就会突然变得陌生。

Anthropic预测，人工智能将在两年内使进攻和防守局面偏向防守方。但目前，利用漏洞的成本正在下降，验证和修复仍然缓慢，仍然需要人。

该行业担心的事故窗口已经落在未来6到12个月。

防线在补。电网、水厂和普通人的生活每天都要照常运转。

第二天，只剩下人类的愤怒了

在这场灾难演绎的剧本中，最绝望的是，即使灯再次亮起，混乱也才刚刚开始。

是Agent越界，还是有人拿AI行凶，调查需要时间。

可以断水断电的人，在技术报告完成之前，很难开始追究责任。

沿着这个假设继续思考:系统恢复了，账户可以重新登录，商店可以再次收款。谁来赔偿停工期间耽误的工作和业务损失？

下次会发生吗？那句话？「加强防护」，还有多少人可以放心？

除了需要修复的系统外，还有被打破的信任。

矛头指向人工智能和把它推向世界的人。这就是为什么高管们提前推动公众和政治反弹的原因。

Grumpy在X上 Bloke在相关报道下举了一个例子:就像发现给你造飞机的人已经给自己订了火车票。

这个比喻刺人的地方在于它把乘客和制造飞机的人分开了。

高管们正在讨论这个计划。读者所看到的是，最了解这项技术的人在认真准备大事后该怎么办。

坐在飞机上的人呢？谁向他们解释过要承担什么风险？

谁来写规则？

当公众追究责任时，政府必须做出决定。有人已经写好了关闭人工智能的计划。

Ted，民主党众议员 Lieu和共和党众议员Nathaniel Moran共同提出了人工智能关闭开关法案，要求相关开发人员保持减速、暂停甚至关闭系统的能力。

该法案还计划在与商务部长和国家情报总监协商后，授权国土安全部长对可能造成灾难性伤害的人工智能系统发出减速或关闭命令。

2026年7月23日提交《AI关闭开关法案》提案首页

讨论从此向前迈进了一步。如果你真的想踩刹车，谁会下令，公司能做到吗？

这些仍然是立法提案。然而，一场重大事故可能会将今天仍在争论的计划推向决策者。

Axios报道称，人工智能公司正在向国会议员解释相关技术和风险，希望在灾后摆上桌的对策中有自己的规则参与塑造。

这就让「灾后推演」多了一层意思。

事故发生前，公司可以谈论研发节奏、能力进步和未来的好处。第二天，他们不得不回答为什么风险没有被阻止，为什么他们可以继续前进。

它们担心的「第二天」，关系到谁承担责任，也关系到接下来谁说了算。

但一句「关掉AI」，也无法收回散落在各地的开源模型副本。关闭一家公司的服务并不意味着停止所有机器上的人工智能。

倒计时已经开始了。

参考资料：

https://www.axios.com/2026/10/09/ai-companies-day-after-major-attack

作者来自“新智元” "摩西 桃子"。