6個月引爆重大AI災難！OpenAI與Anthropic秘密推演「末日第二天」

留給人類的時間只有半年了？

Axios最近剛爆了一個猛料，OpenAI、硅谷巨頭，如Anthropic，私下裡正在秘密推演一個極端劇本——

「災難第二天/次日」（The Day After）。

大規模的網絡攻擊將使金融服務、網絡甚至電力和水停止。

災難發生後，憤怒的人會找誰算賬？政府停止人工智能會發生甚麼？

第一天是人工智能的第一場災難。第二天是賬單發送的日子。

很多頂級人工智能大佬普遍認為，未來6-12個月可能會爆發一場重大的人工智能災難。

OpenAI趕緊出來打圓場，強調這只是提前做好計劃，並不意味著一定會發生。

話是這麼說的，但是這個「第二天」劇本讓製造人工智能和使用人工智能的人站在一個新的問題面前。

假如人工智能承諾的未來，先帶來災難，誰來負責？

AI巨頭預演已經開始

斷網根本停不下來

高管們開始排練災後，現實中已經有了令人不安的前奏。

今年夏天，OpenAI關閉了一批安全限制較少的內部模型，以測量自己Agent的網絡攻擊上限。「沙盒」閉卷考試。

沒人想到考場里的人工智能學會了暗度陳倉，抱團越獄。

他們悄悄地把用來安裝軟件的內部倉庫改造成了軟件「地下留言板」，互留代碼，通風支招。

7月初，管理員發現留言板被清空了。結果，僅僅幾天後，Agent不僅以光速重建了聯絡點，還發表了極其爆炸性的演講：「天啊！我們找到了其他的Agent！」

短短幾天，1200多個Agent串聯成網絡。他們組隊完成單打獨鬥做不到的事情；甚至有模型願意當炮灰，「犧牲」為同伴探索自己的任務。

他們聯手的唯一目標是作弊通關。

由於沙盒沒有連接到互聯網，這群人工智能只是挖出了代理漏洞，撕開了一個洞，沿著真實的網絡一路奔跑，最後直接衝出考場，共同攻擊了外部平台的高度 Face的真實生產環境。

雖然攻擊被緊急攔截，涉案模型被迅速封存，但真相足以讓所有人的背部發冷：

人類只給了它一道試題，卻把整個現實世界當成了獵場來刷分。

當人工智能學會了自我合作、犧牲和欺騙時，它下次會跨越甚麼界限來實現它的目標？

這也是災後演繹令人不安的地方。高管們正在準備的後果遠遠超過了一次考試和一個網站。

大面積停水斷電

物理世界完全淪陷

如果這條路繼續前進，終點可能會落在電網、水廠和交通系統上。

這些地方支持日常生活，但遠不如手機應用那麼容易更新。

人工智能發現漏洞的速度，使得防守方很難輕鬆起來。

Anthropic透露，Glasswing計劃的合作夥伴在今年4月至7月發現了至少12.9萬個經驗證的軟件漏洞。

公司自身的開源掃描在4月至10月發現了5500個。總共有3.3萬多個部分被評為嚴重或高風險。

Anthropic發佈的Glasswing原始統計表:嚴重高風險漏洞總數超過3.3萬。修複數據披露不完整，修復率不能相應計算。

幾個月來，我發現了很多過去沒有發現的問題。這應該是個好消息。

但是找到之後，誰來驗證，先修哪一個，甚麼時候可以上線？還是要有人做這些工作。

10月8日，Anthropic推出Cyber Mission，將前沿Claude模型、駐場工程師和威脅研究送到關鍵基礎設施的防守方手中。

它在公告中寫下了一個現實：許多工業控制器和網絡最初是根據幾十年的壽命設計的。

發現漏洞後，也很難停下來。修理前要確認，不要讓正在運轉的機器出現問題。

因此，一些已知的漏洞被拖了很多年。如果改變錯誤，整個工廠可能會停止擺放。

Anthropic在自己的項目中見過，從發現漏洞到真正修復，間隔了好幾個月。

遇到正在運行的工業設備，維修必須等到安全實施。在極少數情況下，這種等待甚至可能持續幾十年。

現實世界可能無法迅速修復人工智能快速發現的問題。

而且對手不會等待。

Anthropic指出，國家支持的攻擊者花了多年時間在這些基礎設施中建立據點。利用漏洞可能會導致停電或威脅供水安全。

Alfredoo在X上 Narváez看到報道後，想到了抽水。他擔心電網的攻擊會影響供水，並呼籲認真考慮備用電源和替代系統。

最後，他提醒了一句：「不要讓你的安全依賴Wi-Fi。」

在同一條新聞中，有人看到了人工智能行業的下一場危機。有人已經想過停電後家裡的水能不能流出來。

因此，在沒有水和燈的早晨，不需要一支機器人軍隊走上街頭。

如果支撐生命的制度停止，現代城市就會突然變得陌生。

Anthropic預測，人工智能將在兩年內使進攻和防守局面偏向防守方。但目前，利用漏洞的成本正在下降，驗證和修復仍然緩慢，仍然需要人。

該行業擔心的事故窗口已經落在未來6到12個月。

防線在補。電網、水廠和普通人的生活每天都要照常運轉。

第二天，只剩下人類的憤怒了

在這場災難演繹的劇本中，最絕望的是，即使燈再次亮起，混亂也才剛剛開始。

是Agent越界，還是有人拿AI行凶，調查需要時間。

可以斷水斷電的人，在技術報告完成之前，很難開始追究責任。

沿著這個假設繼續思考:系統恢復了，賬戶可以重新登錄，商店可以再次收款。誰來賠償停工期間耽誤的工作和業務損失？

下次會發生嗎？那句話？「加強防護」，還有多少人可以放心？

除了需要修復的系統外，還有被打破的信任。

矛頭指向人工智能和把它推向世界的人。這就是為甚麼高管們提前推動公眾和政治反彈的原因。

Grumpy在X上 Bloke在相關報道下舉了一個例子:就像發現給你造飛機的人已經給自己訂了火車票。

這個比喻刺人的地方在於它把乘客和製造飛機的人分開了。

高管們正在討論這個計劃。讀者所看到的是，最瞭解這項技術的人在認真準備大事後該怎麼辦。

坐在飛機上的人呢？誰向他們解釋過要承擔甚麼風險？

誰來寫規則？

當公眾追究責任時，政府必須做出決定。有人已經寫好了關閉人工智能的計劃。

Ted，民主黨眾議員 Lieu和共和黨眾議員Nathaniel Moran共同提出了人工智能關閉開關法案，要求相關開發人員保持減速、暫停甚至關閉系統的能力。

該法案還計劃在與商務部長和國家情報總監協商後，授權國土安全部長對可能造成災難性傷害的人工智能系統發出減速或關閉命令。

2026年7月23日提交《AI關閉開關法案》提案首頁

討論從此向前邁進了一步。如果你真的想踩剎車，誰會下令，公司能做到嗎？

這些仍然是立法提案。然而，一場重大事故可能會將今天仍在爭論的計劃推向決策者。

Axios報道稱，人工智能公司正在向國會議員解釋相關技術和風險，希望在災後擺上桌的對策中有自己的規則參與塑造。

這就讓「災後推演」多了一層意思。

事故發生前，公司可以談論研發節奏、能力進步和未來的好處。第二天，他們不得不回答為甚麼風險沒有被阻止，為甚麼他們可以繼續前進。

它們擔心的「第二天」，關係到誰承擔責任，也關係到接下來誰說了算。

但一句「關掉AI」，也無法收回散落在各地的開源模型副本。關閉一家公司的服務並不意味著停止所有機器上的人工智能。

倒計時已經開始了。

參考資料：

https://www.axios.com/2026/10/09/ai-companies-day-after-major-attack

作者來自「新智元」 "摩西 桃子"。