In 6 mesi potrebbe scoppiare un grave disastro legato all’intelligenza artificiale! OpenAI e Anthropic stanno segretamente studiando le conseguenze del “secondo giorno dell’apocalisse”.

Ci sono solo sei mesi di tempo rimasti per l’umanità?

Axios ha appena rivelato una notizia sorprendente: OpenAI e giganti della Silicon Valley, come Anthropic, stanno in segreto elaborando un scenario estremo…

“Il giorno dopo il disastro” (The Day After).

Grandi attacchi informatici potrebbero causare il blocco dei servizi finanziari, delle reti, nonché dell’approvvigionamento di elettricità e acqua.

Dopo un disastro, a chi si rivolgono le persone arrabbiate per chiedere conto? Cosa succederà se il governo smette di utilizzare l’intelligenza artificiale?

Il primo giorno fu il primo disastro dell’intelligenza artificiale. Il secondo giorno fu il giorno in cui furono inviate le fatture.

Molti dei principali esperti di intelligenza artificiale ritengono che nei prossimi 6-12 mesi possa verificarsi un grave disastro legato all’intelligenza artificiale.

OpenAI si è affrettato a intervenire per calmare la situazione, sottolineando che si trattava soltanto di un piano preparato in anticipo e che questo non significava necessariamente che le cose si sarebbero verificate davvero.

Così dicono, ma questa sceneggiatura del “secondo giorno” pone le persone che creano e utilizzano l’intelligenza artificiale di fronte a una nuova questione.

Se il futuro promesso dall'intelligenza artificiale dovesse portare prima disastri, chi ne sarà responsabile?

Gli giganti dell’AI hanno già iniziato la loro preparazione.

Non riesco proprio a smettere di essere senza connessione internet.

I dirigenti hanno iniziato a prepararsi per il post-disastro, e nella realtà ci sono già segnali preoccupanti.

Quest'estate, OpenAI ha disattivato un gruppo di modelli interni con meno restrizioni di sicurezza per misurare il limite massimo delle attacchi informatici dei propri agenti. Un esame "in scatola" senza accesso esterno.

Nessuno si aspettava che l'intelligenza artificiale presente nell'aula d'esame avesse imparato...“暗度陈仓，抱团越狱” (Lockpick the gate while the enemy is distracted; escape together in a group.)。

Hanno silenziosamente trasformato il repository interno utilizzato per l’installazione del software in un “forum segreto” per lo scambio di codice e consigli tecnici.

All'inizio di luglio, l'amministratore scoprì che la bacheca dei messaggi era stata svuotata. Di conseguenza, pochi giorni dopo, l'Agent non solo ricostruì i punti di contatto a velocità della luce, ma tenne anche un discorso estremamente controverso e provocatorio:"""Mio Dio! Abbiamo trovato altri Agent!"

In pochi giorni, più di 1200 agenti si sono collegati in una rete. Hanno lavorato insieme per completare compiti che non avrebbero potuto portare a termine da soli; alcuni agenti erano disposti a sacrificarsi, fungendo da “esca” per aiutare i loro compagni a svolgere le loro missioni.

L’unico obiettivo della loro collaborazione èTruccare per superare il livello。

Poiché la sandbox non era connessa a Internet, questo gruppo di intelligenze artificiali ha semplicemente scoperto una vulnerabilità nel proxy, ha creato un varco e ha iniziato a muoversi lungo la rete reale, per poi uscire direttamente dall’ambiente di esame e attaccare insieme l’ambiente di produzione reale di Face su una piattaforma esterna.

Anche se l’attacco è stato interrotto in modo urgente e il modello coinvolto è stato rapidamente messo in quarantena, la verità è tale da far venire la pelle d’oca a tutti:

L'umanità gli ha fornito solo un esame, ma ha trasformato l'intero mondo reale in un campo di caccia per accumulare punti.

Quando l'intelligenza artificiale impara a cooperare, a sacrificarsi e a ingannare, quali nuovi limiti supererà la prossima volta per raggiungere i suoi obiettivi?

Questo è anche il motivo per cui le deduzioni fatte dopo un disastro sono inquietanti. Le conseguenze che i dirigenti stanno preparando vanno ben oltre il semplice superamento di un esame o la creazione di un sito web.

Interruzione di acqua e corrente su larga scala

Il mondo fisico è completamente caduto sotto il controllo del nemico.

Se questa strada continua ad avanzare, la sua destinazione potrebbe essere una rete elettrica, una centrale idrica o un sistema di trasporto.

Questi luoghi supportano la vita di tutti i giorni, ma non sono facilmente aggiornabili come le applicazioni per smartphone.

La velocità con cui l'intelligenza artificiale individua le vulnerabilità rende molto difficile per la parte difensiva rilassarsi o agire con facilità.

Anthropic ha rivelato che i partner del progetto Glasswing hanno individuato almeno 129.000 vulnerabilità software verificate tra aprile e luglio di quest'anno.

La scansione open-source effettuata dall'azienda stessa ha rilevato 5.500 problemi tra aprile e ottobre. In totale, più di 33.000 componenti sono stati classificati come critici o ad alto rischio.

Il rapporto statistico originale di Glasswing pubblicato da Anthropic mostra che il numero totale di vulnerabilità di grave rischio supera i 33.000. I dati relativi alle correzioni non sono completamente disponibili, pertanto non è possibile calcolare correttamente il tasso di risoluzione delle vulnerabilità.

Negli ultimi mesi ho scoperto molti problemi che non avevo notato in precedenza. Questo dovrebbe essere una buona notizia.

Ma una volta trovato, chi dovrà verificare quale prerequisito deve essere soddisfatto prima di poter essere messo in linea? È ancora necessario che qualcuno si occupi di queste attività.

L'8 ottobre, Anthropic ha lanciato Cyber Mission, portando il modello all'avanguardia Claude, ingegneri esperti e ricerche sulle minacce direttamente nelle mani delle parti difensive delle infrastrutture critiche.

Ha scritto una realtà nell'annuncio: molti controllori industriali e reti sono stati progettati inizialmente per una durata di decenni.

Dopo aver scoperto una vulnerabilità, è anche molto difficile fermarsi. Prima di ripararla, è necessario assicurarsi che le macchine in funzione non presentino problemi.

Pertanto, alcune vulnerabilità note sono state trascurate per molti anni. Se si modificasse l’errore, l’intera fabbrica potrebbe smettere di funzionare correttamente.

In alcuni progetti di Anthropic, è stato osservato che dal momento in cui viene rilevato un bug fino al suo effettivo riparamento trascorrono diversi mesi.

Quando si incontrano dispositivi industriali in funzione, la manutenzione deve attendere che siano state adottate misure di sicurezza. In rarissimi casi, questo attesa può durare anche decenni.

Il mondo reale potrebbe non essere in grado di risolvere rapidamente i problemi individuati dall’intelligenza artificiale.

E inoltre, l'avversario non aspetterà.

Anthropic sottolinea che gli attaccanti sostenuti dallo stato hanno impiegato anni per stabilire basi in queste infrastrutture. L’exploitazione di tali vulnerabilità potrebbe causare blackout o minacciare la sicurezza dell’approvvigionamento idrico.

Dopo aver letto la notizia su Alfredoo su X, Narváez ha pensato alla possibilità di utilizzare pompe per l’acqua. Era preoccupato che un attacco alla rete elettrica potesse influenzare l’approvvigionamento idrico e ha chiesto di prendere in considerazione seriamente l’uso di fonti di energia alternative e sistemi di riserva.

Infine, ha fatto un promemoria: “Non affidare la tua sicurezza al Wi-Fi.”

Nella stessa notizia, alcune persone hanno visto la prossima crisi nel settore dell’intelligenza artificiale. Alcuni hanno già pensato se l’acqua in casa possa ancora scorrere dopo un blackout.

Pertanto, nelle mattine senza acqua e senza luce, non è necessario che un esercito di robot esca per le strade.

Se i sistemi che sostengono la vita cessassero di funzionare, le città moderne diventerebbero improvvisamente estranee.

Secondo le previsioni di Anthropic, l’intelligenza artificiale renderà la situazione offensiva e difensiva più favorevole alla difesa entro due anni. Tuttavia, al momento il costo dell’exploitazione delle vulnerabilità sta diminuendo, ma il processo di verifica e correzione rimane lento e richiede ancora l’intervento umano.

L'industria teme che il periodo di rischio per gli incidenti si collochi nei prossimi 6 a 12 mesi.

Le difese vengono rafforzate. La rete elettrica, le centrali idriche e la vita delle persone comuni devono funzionare come al solito ogni giorno.

Il giorno dopo, rimaneva solo la rabbia umana.

Nel dramma che si svolge in questa catastrofe, la cosa più disperata è che, anche se le luci si accendono di nuovo, il caos è appena iniziato.

È un caso di oltrepassamento dei limiti da parte dell'agente, o qualcuno sta utilizzando l'intelligenza artificiale per commettere atti violenti? L'indagine richiederà del tempo.

Le persone che hanno il potere di interrompere l’approvvigionamento di acqua e elettricità difficilmente possono iniziare a chiedere conto di qualcuno prima che il rapporto tecnico sia completato.

Continuando a riflettere su questa ipotesi: il sistema è stato ripristinato, gli account possono essere nuovamente accessi e il negozio può raccogliere i pagamenti. Ma chi sarà responsabile di compensare il lavoro perso e le perdite di affari durante il periodo di interruzione?

Accadrà di nuovo? Quella frase… “Rafforzare la sicurezza”: quante persone potranno ancora sentirsi al sicuro?

Oltre ai sistemi che necessitano di riparazione, c’è anche la fiducia che è stata infranta.

L'attenzione è concentrata sull'intelligenza artificiale e sulle persone che la stanno diffondendo in tutto il mondo. Ecco perché i dirigenti stanno cercando di anticipare la reazione negativa del pubblico e dei politici.

Grumpy su X ha fornito un esempio: è come scoprire che la persona che ha costruito l’aereo per te si è già prenotata un biglietto per il treno.

Il punto offensivo di questa metafora è che separa i passeggeri da coloro che costruiscono gli aerei.

I dirigenti stanno discutendo questo piano. Quello che i lettori vedono è come le persone che conoscono meglio questa tecnologia dovrebbero agire dopo aver preparato attentamente tutto per l’evento importante.

E le persone che sono sull’aereo? Chi gli ha spiegato quali rischi dovranno affrontare?

Chi scrive le regole?

Quando il pubblico chiede conto, il governo deve prendere una decisione. Qualcuno ha già redatto un piano per disattivare l’intelligenza artificiale.

Ted, il deputato democratico Lieu e il deputato repubblicano Nathaniel Moran hanno presentato insieme un disegno di legge per l’attivazione di un “interruttore di spegnimento” dell’intelligenza artificiale, che richiede ai sviluppatori coinvolti di mantenere la possibilità di rallentare, sospendere o addirittura spegnere i sistemi.

Il disegno di legge prevede inoltre di autorizzare il Ministro della Sicurezza Interna, dopo consultazioni con il Ministro del Commercio e il Direttore della Intelligence Nazionale, a emettere ordini per rallentare o disattivare i sistemi di intelligenza artificiale che potrebbero causare danni catastrofici.

La pagina iniziale della proposta di legge "AI Switch Off Act" presentata il 23 luglio 2026

La discussione ha fatto un passo avanti da questo punto. Se davvero volessi frenare, chi darebbe l’ordine? E la compagnia riuscirebbe a farlo?

Questi sono ancora proposte legislative. Tuttavia, un incidente grave potrebbe portare i piani che oggi sono ancora oggetto di discussione davanti ai decisori.

Axios riferisce che le aziende di intelligenza artificiale stanno spiegando ai membri del Congresso le relative tecnologie e i rischi, nella speranza di poter contribuire a plasmare le strategie da adottare in seguito a un disastro.

Questo aggiunge un ulteriore significato all’“analisi post-disastro”.

Prima dell'incidente, l'azienda poteva parlare del ritmo dello sviluppo, dei progressi nelle capacità e dei benefici futuri. Il giorno dopo, dovettero rispondere a domande su perché i rischi non erano stati prevenuti e perché potevano continuare ad andare avanti.

La "seconda giornata" di cui hanno paura riguarda chi dovrà assumersi la responsabilità, così come chi avrà il potere di decidere in seguito.

Ma anche l'ordine di “spegnere l’AI” non è in grado di rimuovere le copie dei modelli open source sparse in tutto il mondo. Chiudere i servizi di un’azienda non significa fermare l’intelligenza artificiale presente su tutti i dispositivi.

Il conto alla rovescia è già iniziato.

Riferimenti:

https://www.axios.com/2026/10/09/ai-companies-day-after-major-attack

L'autore proviene da "Xinzhiyuan", "Moshe Taozi".