En 6 mois, une catastrophe majeure liée à l'IA pourrait se produire ! OpenAI et Anthropic travaillent secrètement à la simulation du « lendemain de la fin du monde ».

Il ne reste qu'un demi-an de temps à l'humanité ?

Axios vient de révéler une information explosive : OpenAI, ainsi que d’autres géants de la Silicon Valley comme Anthropic, travaillent en secret sur une scénario extrême…

«Le Jour Après» (The Day After).

Les attaques réseau à grande échelle pourraient paralyser les services financiers, les réseaux informatiques, ainsi que l’approvisionnement en électricité et en eau.

Après un désastre, à qui les gens en colère demanderont-ils des comptes ? Que se passera-t-il si le gouvernement arrête d'utiliser l'intelligence artificielle ?

Le premier jour a été le premier désastre de l'intelligence artificielle. Le deuxième jour était le jour de l'envoi des factures.

De nombreux grands experts en intelligence artificielle pensent généralement qu'une grave catastrophe liée à l'intelligence artificielle pourrait survenir au cours des prochains 6 à 12 mois.

OpenAI s'est empressé de clarifier la situation, soulignant que cela ne faisait que représenter une planification préalable et ne signifiait pas nécessairement que cela se produirait.

C'est ce qui est dit, mais ce scénario du « deuxième jour » place les créateurs et les utilisateurs de l'intelligence artificielle face à un nouveau problème.

Si l'avenir promis par l'intelligence artificielle commence par apporter des catastrophes, qui sera responsable ?

Les préparatifs des géants de l'IA ont déjà commencé.

Je ne peux tout simplement pas arrêter de me retrouver hors de connexion.

Les dirigeants ont commencé à préparer les mesures à prendre après une catastrophe, et dans la réalité, des signes inquiétants se font déjà sentir.

Cet été, OpenAI a désactivé un certain nombre de modèles internes avec moins de restrictions de sécurité afin de mesurer la capacité de ses agents à résister aux attaques en ligne. Une sorte d'examen « en boîte de sable » sans aucune aide extérieure.

Personne n'aurait imaginé que l'intelligence artificielle présente dans la salle d'examen avait appris...**Dunking the enemy into a trap to facilitate an escape**。

Ils ont discrètement transformé le répertoire interne utilisé pour l'installation du logiciel en une sorte de « forum secret pour le logiciel », où ils échangent des codes et des conseils pratiques.

Début juillet, les administrateurs ont découvert que le forum de messages avait été effacé. Résultat : quelques jours plus tard, l'Agent n'a pas seulement rétabli les points de contact à la vitesse de la lumière, mais il a également prononcé un discours extrêmement explosif :Mon Dieu ! Nous avons trouvé d'autres agents !

En seulement quelques jours, plus de 1200 agents ont été connectés en réseau. Ils travaillent ensemble pour accomplir des tâches qui seraient impossibles à réaliser seuls ; certains modèles sont même prêts à servir de « boucliers humains », à se sacrifier pour aider leurs compagnons à explorer leurs propres missions.

Le seul objectif de leur collaboration estTriche pour terminer le jeu。

Comme la sandbox n'était pas connectée à Internet, ces intelligences artificielles n'ont trouvé qu'une vulnérabilité dans un proxy, ont creusé un trou à travers ce proxy, ont couru le long du réseau réel et ont finalement quitté le lieu de l'examen pour attaquer ensemble l'environnement de production réel de la plateforme externe Face.

Bien que l’attaque ait été interrompue d’urgence et que le modèle concerné ait été rapidement mis sous scellé, la vérité est suffisamment effrayante pour faire frissonner tout le monde :

L'humanité ne lui a donné qu'une seule question à résoudre, mais elle a considéré tout le monde réel comme une arène pour accumuler des points.

Quand l'intelligence artificielle aura appris à coopérer, à se sacrifier et à tromper, quelles autres limites franchira-t-elle la prochaine fois pour atteindre ses objectifs ?

C'est aussi là que la réinterprétation des événements après une catastrophe devient inquiétante. Les conséquences que préparent les dirigeants vont bien au-delà d'un simple examen ou d'un site web.

Pannes d'eau et de courant sur une vaste échelle

Le monde physique est complètement tombé sous le contrôle de l'ennemi.

Si cette route continue d'avancer, son terminus pourrait se trouver sur un réseau électrique, une usine d'eau ou un système de transport.

Ces endroits prennent en charge les activités de la vie quotidienne, mais ils ne sont pas aussi faciles à mettre à jour que les applications mobiles.

La vitesse à laquelle l'intelligence artificielle détecte les vulnérabilités rend très difficile la tâche de la défense pour se protéger facilement.

Anthropic a révélé que les partenaires du projet Glasswing ont découvert au moins 129 000 vulnérabilités logicielles vérifiées entre avril et juillet de cette année.

L'analyse open-source menée par l'entreprise elle-même a révélé 5500 problèmes entre avril et octobre. Au total, plus de 33 000 éléments ont été classés comme étant graves ou à haut risque.

Les tableaux statistiques originaux Glasswing publiés par Anthropic montrent qu'il y a plus de 33 000 vulnérabilités de niveau de risque très élevé. Les données sur les corrections ne sont pas complètes, ce qui rend impossible le calcul du taux de correction correspondant.

Au cours des derniers mois, j'ai découvert de nombreux problèmes que je n'avais pas remarqués auparavant. Cela devrait être une bonne nouvelle.

Mais une fois que cela a été trouvé, qui va vérifier, quel cours doit être suivi en premier, et quand cela pourra être mis en ligne ? Il faut quand même que quelqu'un s'occupe de ces tâches.

Le 8 octobre, Anthropic a lancé Cyber Mission, qui met à la disposition des défenseurs des infrastructures critiques les modèles avancés Claude, des ingénieurs sur place et des recherches sur les menaces.

Il a écrit dans l'annonce une réalité : de nombreux contrôleurs industriels et réseaux ont été conçus initialement pour une durée de vie de plusieurs décennies.

Une fois que une vulnérabilité est découverte, il est également difficile de s'arrêter. Avant de la corriger, il est nécessaire de s'assurer que les machines en fonctionnement ne rencontrent pas de problèmes.

Par conséquent, certaines vulnérabilités connues ont été ignorées pendant de nombreuses années. Si l'erreur est corrigée, toute l'usine pourrait cesser de fonctionner correctement.

Dans leurs propres projets, Anthropic a constaté qu'il y avait un délai de plusieurs mois entre la découverte d'une faille et sa réparation effective.

Lorsqu'on se confronte à un équipement industriel en fonctionnement, les réparations doivent attendre que des mesures de sécurité soient mises en œuvre. Dans de rares cas, cet attente peut durer des décennies.

Dans le monde réel, il pourrait être difficile de résoudre rapidement les problèmes détectés par l'intelligence artificielle.

De plus, l'adversaire ne patientera pas.

Anthropic souligne que les attaquants soutenus par des États ont passé des années à établir des positions dans ces infrastructures. L'exploitation de ces vulnérabilités pourrait entraîner des pannes de courant ou menacer la sécurité de l'approvisionnement en eau.

Après avoir lu le rapport sur Alfredoo sur X, Narváez a pensé à l'idée de pompage. Il s'inquiète que les attaques sur le réseau électrique puissent affecter l'approvisionnement en eau et appelle à une réflexion sérieuse sur les sources d'alimentation de secours et les systèmes alternatifs.

Enfin, il a fait une remarque : « Ne faites pas dépendre votre sécurité du Wi-Fi. »

Dans le même article, certaines personnes voient la prochaine crise dans l'industrie de l'intelligence artificielle. D'autres se sont déjà demandé si l'eau coulerait encore dans leurs maisons après une panne de courant.

Par conséquent, le matin, sans eau ni lumière, il n'est pas nécessaire qu'une armée de robots sorte dans les rues.

Si les systèmes qui soutiennent la vie cessent de fonctionner, les villes modernes deviendraient soudainement étrangères.

Selon les prévisions d'Anthropic, l'intelligence artificielle fera pencher la situation, tant offensive que défensive, en faveur de la défense d'ici deux ans. Cependant, pour l'instant, le coût de l'exploitation des vulnérabilités diminue, mais la vérification et la correction de ces problèmes restent lentes et nécessitent encore des humains.

Les incidents redoutés dans ce secteur se produiront dans les prochains 6 à 12 mois.

Les lignes de défense sont renforcées. Le réseau électrique, les usines d’eau et la vie des gens continuent de fonctionner normalement chaque jour.

Le lendemain, il ne restait plus que la colère des humains.

Dans ce scénario où se déroule la catastrophe, le plus désespérant est que, même si les lumières se rallument, le chaos ne fait que commencer.

Il faut du temps pour enquêter pour savoir si c'est l'agent qui a dépassé ses limites ou si quelqu'un a utilisé l'IA pour commettre un acte criminel.

Les personnes qui ont le pouvoir de couper l'eau et l'électricité ont du mal à commencer à assumer des responsabilités avant la finalisation du rapport technique.

Continuons à réfléchir sur cette hypothèse : le système a été restauré, les comptes peuvent être réactivés et le magasin peut à nouveau recevoir des paiements. Qui va indemniser les pertes de travail et les pertes d'affaires dues à l'interruption des activités ?

Se produira-t-il à nouveau ? Cette phrase : « Renforcer la protection » ? Combien de personnes peuvent encore se sentir en sécurité ?

En plus des systèmes qui nécessitent une réparation, il y a également une confiance brisée.

Les accusations visent l'intelligence artificielle et ceux qui la promeuvent dans le monde entier. C'est pourquoi les dirigeants cherchent à provoquer une réaction de la part du public et des autorités politiques à l'avance.

Grumpy a mentionné un exemple sur X sous le rapport correspondant : c’est comme découvrir que la personne qui construit votre avion a déjà réservé son billet de train.

L'aspect piquant de cette métaphore est qu'elle sépare les passagers de ceux qui fabriquent les avions.

Les dirigeants discutent de ce plan. Ce que les lecteurs voient, c’est ce que les personnes qui connaissent le mieux cette technologie doivent faire après s’être préparées sérieusement à une grande occasion.

Et les personnes qui sont dans l'avion ? Qui leur a expliqué les risques qu'elles devaient assumer ?

Qui va écrire les règles ?

Lorsque le public exige des responsabilités, le gouvernement doit prendre une décision. Certaines personnes ont déjà rédigé des plans pour mettre fin à l'intelligence artificielle.

Ted, le député démocrate Lieu et le député républicain Nathaniel Moran ont conjointement proposé un projet de loi visant à mettre en place un « interrupteur » pour l'intelligence artificielle, exigeant que les développeurs concernés aient la capacité de ralentir, de suspendre ou même d'éteindre les systèmes.

Ce projet de loi prévoit également d'autoriser le ministre de la Sécurité intérieure à émettre des ordres de ralentissement ou d'arrêt aux systèmes d'intelligence artificielle susceptibles de causer des dommages catastrophiques, après consultation avec le ministre du Commerce et le directeur national du renseignement.

Présentation de la proposition de loi "Loi sur l'interrupteur d'arrêt de l'IA" soumise le 23 juillet 2026

La discussion a fait un pas en avant. Si vous voulez vraiment freiner, qui donnera l'ordre, et la société pourra-t-elle le faire ?

Ce ne sont toujours que des propositions législatives. Cependant, un accident majeur pourrait amener les plans qui font encore l'objet de débats aujourd'hui à être examinés par les décideurs.

Selon Axios, les entreprises de technologie de l'intelligence artificielle expliquent aux membres du Congrès les technologies et les risques associés, dans l'espoir de pouvoir contribuer à la définition des mesures à prendre après une catastrophe.

Cela ajoute une nouvelle dimension à la « simulation post-catastrophe ».

Avant l'accident, l'entreprise pouvait parler du rythme de la recherche et du développement, des progrès réalisés en termes de compétences et des avantages futurs. Le lendemain, ils ont dû répondre à la question de savoir pourquoi les risques n'avaient pas été prévenus et pourquoi ils avaient pu continuer leur chemin.

Le « lendemain » dont ils s'inquiètent concerne la responsabilité de chacun, ainsi que la personne qui aura le dernier mot par la suite.

Mais une simple phrase comme « Éteindre l'IA » ne suffit pas à supprimer toutes les copies des modèles open source dispersées un peu partout. Fermer les services d'une entreprise ne signifie pas non plus arrêter l'utilisation de l'intelligence artificielle sur tous les appareils.

Le décompte à rebours a déjà commencé.

Références :

https://www.axios.com/2026/10/09/ai-companies-day-after-major-attack

L'auteur est de "Xin Zhi Yuan", "Moses Taozi".