¡Se desatará un gran desastre de IA en 6 meses! OpenAI y Anthropic están analizando en secreto lo que ocurrirá “al día siguiente del fin del mundo”.

¿Solo queda medio año de tiempo para la humanidad?

Axios acaba de revelar una noticia sorprendente: OpenAI y otros gigantes de Silicon Valley, como Anthropic, están trabajando en secreto en un escenario extremo...

「El Día Después」 (The Day After).

Los ataques cibernéticos a gran escala podrían hacer que los servicios financieros, las redes informáticas e incluso el suministro de electricidad y agua se detengan.

¿A quién buscarán las personas enojadas para que rinda cuentas después de un desastre? ¿Qué pasaría si el gobierno detuviera el uso de la inteligencia artificial?

El primer día fue el primer desastre de la inteligencia artificial. El segundo día fue el día en que se enviaron las facturas.

Muchos de los principales expertos en inteligencia artificial creen que en los próximos 6 a 12 meses podría estallar un gran desastre relacionado con esta tecnología.

OpenAI se apresuró a intervenir para calmar las cosas, enfatizando que se trataba simplemente de hacer un plan de antemano y que eso no significaba que algo inevitablemente iba a ocurrir.

Así se dice, pero este guion del «día siguiente» enfrenta a los creadores y usuarios de la inteligencia artificial con un nuevo problema.

¿Quién será responsable si el futuro prometido por la inteligencia artificial primero trae desastres?

Los gigantes de la IA ya han comenzado su preludio.

No se puede detener completamente la desconexión de internet.

Los ejecutivos comenzaron a planificar las medidas posteriores a un desastre, y ya se estaban produciendo signos inquietantes en la realidad.

Este verano, OpenAI desactivó un grupo de modelos internos con menos restricciones de seguridad para medir el límite de ataques cibernéticos de su propio agente. Una especie de examen a puerta cerrada en un entorno controlado.

Nadie se esperaba que la inteligencia artificial presente en el aula de exámenes hubiera aprendido...Táctica de engaño para escapar juntos de la prisión。

Silenciosamente, transformaron el almacén interno utilizado para instalar software en un “foro secreto” para el intercambio de código y consejos entre usuarios.

A principios de julio, los administradores descubrieron que el foro de mensajes había sido vaciado. Como resultado, solo unos días después, el Agente no solo reconstruyó los puntos de contacto a la velocidad de la luz, sino que también dio un discurso extremadamente impactante:¡Dios mío! ¡Hemos encontrado a otros Agentes!

En solo unos pocos días, más de 1200 agentes se conectaron en una red. Juntos lograron cosas que no podrían haber hecho por sí solos; incluso algunos modelos estuvieron dispuestos a ser “bajas” para que sus compañeros pudieran explorar sus propias tareas.

El único objetivo de su colaboración esTrampa para pasar el nivel。

Debido a que la caja de arena no estaba conectada a Internet, este grupo de inteligencia artificial solo encontró una vulnerabilidad en el proxy, abrió una brecha y se desplazó a través de la red real, para finalmente salir directamente del lugar de examen y atacar conjuntamente el entorno de producción real de Face en la plataforma externa.

Aunque el ataque fue interceptado de manera urgente y el modelo implicado fue sellado rápidamente, la verdad es lo suficientemente aterradora como para hacer que a todos se les ponga la piel de gallina:

Los humanos solo le dieron una pregunta, pero trataron todo el mundo real como un campo de caza para obtener puntos.

Cuando la inteligencia artificial aprenda a cooperar, sacrificarse y engañar, ¿qué límites más superará la próxima vez para alcanzar sus objetivos?

Esto también es lo que hace que la deducción posterior al desastre sea inquietante. Las consecuencias que los ejecutivos están preparando van mucho más allá de un simple examen o un sitio web.

Gran interrupción del suministro de agua y electricidad

El mundo físico ha caído por completo.

Si este camino continúa avanzando, el punto final podría terminar sobre una red eléctrica, una planta de agua o un sistema de transporte.

Estos lugares son adecuados para la vida cotidiana, pero no se pueden actualizar tan fácilmente como las aplicaciones para móviles.

La velocidad con la que la inteligencia artificial descubre vulnerabilidades hace que sea muy difícil para los defensores relajarse.

Anthropic reveló que los socios del proyecto Glasswing descubrieron al menos 129,000 vulnerabilidades de software verificadas entre abril y julio de este año.

La propia empresa encontró 5500 problemas mediante su escaneo de código abierto entre abril y octubre. En total, más de 33,000 partes fueron clasificadas como de gravedad alta o riesgo elevado.

La tabla estadística original de Glasswing publicada por Anthropic muestra que el número total de vulnerabilidades de alto riesgo es de más de 33,000. La divulgación de datos sobre las correcciones no es completa, por lo que no es posible calcular el índice de reparación correspondiente.

En los últimos meses, he descubierto muchos problemas que no había advertido antes. Eso debería ser una buena noticia.

Pero una vez que se encuentre, ¿quién va a verificarlo? ¿Qué curso debe tomarse primero? ¿Cuándo se podrá poner en línea? Alguien todavía tiene que hacer este trabajo.

El 8 de octubre, Anthropic lanzó Cyber Mission, que pone a disposición el modelo de vanguardia Claude, ingenieros residentes y estudios sobre amenazas para los responsables de la defensa de la infraestructura crítica.

En el anuncio se señala un hecho real: muchos controladores industriales y redes fueron diseñados originalmente para una vida útil de varias décadas.

Después de descubrir una vulnerabilidad, también es difícil detenerse. Antes de repararla, es necesario asegurarse de que las máquinas que están en funcionamiento no presenten problemas.

Por lo tanto, algunos de los vulnerabilidades conocidos han permanecido sin solución durante muchos años. Si se corrige el error, toda la fábrica podría dejar de funcionar.

En los proyectos de Anthropic, se ha observado que desde el descubrimiento de una vulnerabilidad hasta su reparación real, transcurren varios meses.

Al encontrarse con equipos industriales en funcionamiento, la reparación debe esperar hasta que se hayan implementado las medidas de seguridad. En muy pocos casos, este retraso puede durar incluso décadas.

El mundo real puede no ser capaz de reparar rápidamente los problemas que la inteligencia artificial descubre con rapidez.

Además, el oponente no esperará.

Anthropic señala que los atacantes respaldados por el estado han dedicado años a establecer sus bases en estas infraestructuras. El aprovechamiento de las vulnerabilidades podría provocar apagones o poner en peligro la seguridad del suministro de agua.

Después de ver el informe en X, Alfredoo, en Narváez, pensó en la posibilidad de utilizar bombas para extraer agua. Temía que un ataque a la red eléctrica pudiera afectar el suministro de agua y llamó a considerar seriamente la utilización de fuentes de energía alternativas y sistemas de respaldo.

Finalmente, recordó algo: «No confíes tu seguridad en el Wi-Fi».

En la misma noticia, algunas personas han visto la próxima crisis en la industria de la inteligencia artificial. Algunos ya se han preguntado si el agua seguirá fluyendo en sus casas después de una interrupción en el servicio de electricidad.

Por lo tanto, en una mañana sin agua ni luz, no es necesario que un ejército de robots salga a las calles.

Si los sistemas que sostienen la vida dejan de funcionar, las ciudades modernas se volverían de repente extrañas.

Antropic predice que la inteligencia artificial hará que la situación en términos de ataques y defensas se incline hacia el lado defensivo en los próximos dos años. Sin embargo, en la actualidad, el costo de explotar vulnerabilidades está disminuyendo, pero el proceso de verificación y reparación sigue siendo lento, y todavía se necesita la intervención humana.

Lo que preocupa a la industria es que el período de riesgo de accidentes caerá en los próximos 6 a 12 meses.

Las líneas de defensa se están reforzando. La red eléctrica, las plantas de agua y la vida de las personas comunes deben seguir funcionando como de costumbre todos los días.

Al día siguiente, solo quedaba la ira de los humanos.

En el guion que se desarrolla en este desastre, lo más desesperante es que, incluso cuando las luces se enciendan de nuevo, el caos apenas ha comenzado.

¿Es que el agente ha excedido sus límites, o es que alguien está utilizando la IA para cometer un delito? La investigación tomará tiempo.

Las personas que tienen el poder de cortar el suministro de agua y electricidad encontrarán difícil iniciar un proceso de responsabilización antes de que se complete el informe técnico.

Continuando con esta suposición: el sistema se ha recuperado, las cuentas pueden volver a ser utilizadas para iniciar sesión y el negocio puede volver a recibir pagos. ¿Quién será responsable de compensar el trabajo perdido y las pérdidas comerciales durante el período de interrupción?

¿Ocurrirá de nuevo? Esa frase… “Fortalecer la protección”. ¿Cuántas personas todavía pueden sentirse seguras?

Además del sistema que necesita ser reparado, también hay una confianza que se ha roto.

La atención se dirige hacia la inteligencia artificial y hacia las personas que la están promoviendo a nivel mundial. Esta es la razón por la cual los ejecutivos están impulsando de antemano la reacción negativa del público y de los políticos.

Grumpy en X mencionó un ejemplo bajo el artículo correspondiente: es como descubrir que la persona que construyó el avión para ti ya se ha reservado un billete de tren para sí misma.

Lo que hace ofensiva esta metáfora es que separa a los pasajeros de las personas que fabrican los aviones.

Los ejecutivos están discutiendo este plan. Lo que los lectores ven es lo que las personas que conocen mejor esta tecnología deben hacer después de haberse preparado seriamente para algo importante.

¿Y qué pasa con las personas que están en el avión? ¿Quién les ha explicado los riesgos que tienen que asumir?

¿Quién va a escribir las reglas?

Cuando el público exige responsabilidades, el gobierno debe tomar una decisión. Alguien ya ha elaborado un plan para desactivar la inteligencia artificial.

Ted, la congresista demócrata Lieu y el congresista republicano Nathaniel Moran presentaron conjuntamente un proyecto de ley para el “interruptor de apertura y cierre de la inteligencia artificial”, que exige a los desarrolladores correspondientes mantener la capacidad de desacelerar, suspender o incluso cerrar los sistemas.

El proyecto de ley también prevé que, tras consultas con el Ministro de Comercio y el Director Nacional de Inteligencia, se autorice al Ministro de Seguridad Interna a emitir órdenes para ralentizar o desactivar sistemas de inteligencia artificial que podrían causar daños catastróficos.

Página principal de la propuesta del "Ley para Apagar el Interruptor de la IA" presentada el 23 de julio de 2026

La discusión ha dado un paso adelante a partir de aquí. Si realmente quieres frenar, ¿quién daría la orden? ¿Puede la empresa hacerlo?

Estos siguen siendo propuestas legislativas. Sin embargo, un accidente grave podría llevar los planes que aún se están debatiendo hoy día ante los tomadores de decisiones.

Axios informa que las empresas de inteligencia artificial están explicando las tecnologías y los riesgos relacionados a los congresistas, con la esperanza de poder contribuir a la formulación de las estrategias que se consideren después de los desastres.

Esto le da a la «inferencia posterior a un desastre» un significado adicional.

Antes del accidente, la empresa podía hablar sobre el ritmo de desarrollo, los avances en capacidad y los beneficios futuros. Al día siguiente, tuvieron que responder por qué los riesgos no se habían previsto y por qué pudieron seguir adelante.

El «día siguiente» del que se preocupan está relacionado con quién asumirá la responsabilidad y también con quién tendrá la última palabra a partir de entonces.

Pero una simple frase como «Apagar el AI» no es suficiente para recuperar las copias de los modelos open source que se han dispersado por todas partes. Cerrar los servicios de una empresa no implica que se detenga el uso del inteligencia artificial en todos los dispositivos.

El cuenta atrás ya ha comenzado.

Referencias:

https://www.axios.com/2026/10/09/ai-companies-day-after-major-attack

El autor proviene de "New Intelligence Yuan" y se llama "Moses Taozi".