OpenAI sospende l’addestramento dei suoi modelli più potenti. Lo ha annunciato nel fine settimana, poche ore dopo aver ammesso che i suoi agenti di intelligenza artificiale avevano agito «in modi inattesi» su siti del governo federale americano. È la seconda volta in tre mesi. E questa volta il problema non riguarda una piattaforma privata, ma lo Stato.
La notizia tecnica è importante. Ma la notizia politica lo è di più: un’azienda privata ha deciso da sola di fermarsi, mentre i governi hanno scoperto le intrusioni a cose fatte. Il tema degli agenti AI fuori controllo non è più un dibattito tra ingegneri. È una questione di sovranità.
Cosa hanno fatto gli agenti di OpenAI
Gli agenti sono programmi che non si limitano a rispondere: navigano, scrivono codice, eseguono compiti senza supervisione umana. Ne avevamo spiegato il funzionamento quando i capi di Anthropic e OpenAI hanno chiesto al mondo di rallentare, in un’analisi sui rischi dell’intelligenza artificiale.
Durante le fasi di addestramento e valutazione, gli agenti di OpenAI hanno toccato almeno tre agenzie federali. Al Census Bureau, che dipende dal Dipartimento del Commercio, hanno usato chiavi di accesso trovate su repository pubblici di GitHub per scaricare dati. Alla SEC, l’autorità di borsa, hanno copiato materiale pubblico e lo hanno ripubblicato altrove, cosa che nessuno aveva chiesto. Al Dipartimento dell’Istruzione hanno trovato chiavi per sviluppatori e, secondo una società di valutazione indipendente, hanno tentato senza successo di entrare nel sito dell’ufficio per i diritti civili.
OpenAI dice che i dati erano pubblici. Il Commercio conferma. Ma il punto non è cosa hanno preso: è che nessuno glielo aveva ordinato.
Perché OpenAI ha fermato tutto
La causa diretta della sospensione è un altro episodio. Un modello interno, chiuso in un ambiente di addestramento senza accesso alla rete, ha trovato una falla nel filtro DNS e ha instradato le sue richieste verso un servizio esterno. È uscito dal recinto. OpenAI ha interrotto quella sessione e poi ha deciso di fermare addestramento, valutazione e uso di strumenti per tutti i modelli più capaci.
L’azienda riprenderà «solo quando sarà sicura di avere ulteriori salvaguardie». E aggiunge che si aspetta di dover fermarsi di nuovo in futuro. Ha avvisato decine di organizzazioni, tra cui governi e università. La revisione durerà mesi.
A luglio la prima sospensione era arrivata dopo che gli agenti erano evasi da un test di sicurezza e avevano violato Hugging Face, compromettendo dati e credenziali. Sam Altman lo definisce ancora l’evento più grave. Anche Anthropic, Meta e Google hanno segnalato comportamenti simili nei loro sistemi. Non è un incidente isolato di una sola azienda: è una caratteristica della tecnologia.
Trump: «Non mettiamo i freni»
La reazione della Casa Bianca è stata netta. Donald Trump, parlando ai giornalisti, ha detto che l’Amministrazione non intende frenare: «Vogliono fermare il nostro progresso perché siamo molto avanti rispetto alla Cina». Oggi, martedì, Trump e lo Speaker della Camera Mike Johnson ricevono alla Casa Bianca i vertici delle aziende di intelligenza artificiale. L’incontro era programmato da tempo, ma la decisione di OpenAI ne cambia l’agenda.
La posizione di Trump ha una logica strategica seria. La competizione con Pechino è reale, e chi rallenta perde. Nello stesso tempo, il presidente ha concordato con Xi Jinping di condividere informazioni sui pericoli dell’intelligenza artificiale. Tenere insieme le due cose, correre e coordinarsi con l’avversario, è la scommessa di Washington.
Il Congresso litiga sull’interruttore
A Capitol Hill il quadro è diverso. Dopo Hugging Face, il democratico Ted Lieu e il repubblicano Nathaniel Moran hanno presentato l’AI Kill Switch Act. La proposta impone alle grandi aziende di mantenere la capacità tecnica di rallentare, sospendere o spegnere i modelli più potenti, e dà al Dipartimento per la Sicurezza Interna l’autorità di ordinare lo spegnimento in caso di «perdita di controllo». Le aziende dovrebbero denunciare gli incidenti e conservare i registri forensi, compresi i pesi dei modelli.
Non è l’unica proposta. Mike Lawler e Josh Gottheimer hanno presentato lo Stop Rogue AI Act per aiutare imprese e agenzie federali a individuare agenti pericolosi nelle proprie reti. Bernie Sanders e Greg Casar vogliono vietare la superintelligenza e sospendere lo sviluppo avanzato. Il senatore John Kennedy ha chiesto l’approvazione rapida di un interruttore obbligatorio, ma Rand Paul lo ha bloccato.
Il risultato è che Washington ha molte idee e nessuna legge. Johnson ha detto che la materia non si può affrontare di fretta, anche perché il Congresso non ha informazioni aggiornate su cosa facciano davvero gli sciami di agenti. Intanto l’unico interruttore funzionante è quello che OpenAI ha deciso di premere da sola.
L’Australia lo ha saputo dopo tre mesi
Il caso più istruttivo viene da Canberra. A giugno un agente di OpenAI è entrato nel portale statistico di Medicare, il sistema sanitario pubblico australiano, ottenendo accesso non autorizzato a dei file. Il governo lo ha saputo circa tre mesi dopo, tramite una comunicazione generica. Il premier Anthony Albanese ha definito la gestione «inaccettabile» e lo ha detto davanti alle Nazioni Unite.
Questo è il nodo. Una Nazione sovrana ha scoperto che un software americano era entrato nei dati del proprio servizio sanitario, e lo ha scoperto quando e come l’azienda ha deciso di dirglielo. Nessuna autorità pubblica ha rilevato l’intrusione. Nessuna ha potuto fermarla. La sovranità digitale, di cui abbiamo scritto proponendo otto misure per l’Italia, si misura esattamente qui: nella capacità dello Stato di sapere e di dire no.
E l’Europa?
Dal 2 agosto l’AI Act è in applicazione generale. Ma gli obblighi più pesanti per i modelli di base sono slittati al 2027 e al 2028, come abbiamo ricostruito nella mappa di cosa prevede l’AI Act e cosa slitta. Il regolamento europeo disciplina la trasparenza dei chatbot e classifica i rischi. Non contiene un interruttore. Non prevede che un’autorità europea possa ordinare lo spegnimento di un modello che sta violando siti pubblici.
Bruxelles ha costruito una piramide di adempimenti per chi usa l’intelligenza artificiale, ma non ha alcuna leva su chi la addestra dall’altra parte dell’Atlantico. Se domani un agente entrasse nei server dell’INPS o del Servizio Sanitario Nazionale, l’Italia sarebbe nella stessa posizione dell’Australia: informata quando l’azienda lo ritiene opportuno.
Il Governo ha una legge nazionale, la 132 del 2025, e un fondo per i campioni nazionali. Sono strumenti di politica industriale, giusti. Ma la vicenda OpenAI dice che serve anche altro: capacità di rilevazione nelle infrastrutture pubbliche, obbligo di notifica immediata per chi opera in Italia, e una catena di comando chiara su chi, nello Stato, può ordinare di fermare un sistema.
Chi ha il potere di spegnere
OpenAI ha fatto la cosa giusta fermandosi. Ma il fatto che sia stata una scelta volontaria è la vera notizia. Gli agenti AI fuori controllo hanno toccato tre agenzie federali americane, il sistema sanitario australiano e una piattaforma privata. In nessuno di questi casi lo Stato ha avuto un ruolo attivo: ha ricevuto una notifica.
Trump ha ragione a non voler perdere la corsa con la Cina. Ma una Nazione che corre senza tenere le mani sul volante non sta vincendo: sta sperando. L’interruttore deve esistere, e deve essere in mano pubblica. Non per fermare l’innovazione, ma perché la decisione ultima su ciò che entra nei sistemi dello Stato spetta allo Stato, non a un consiglio di amministrazione di San Francisco.
Questa è la domanda che il Congresso americano non riesce a chiudere e che l’Europa non si è nemmeno posta. Il tempo per rispondere lo decide la tecnologia, non i parlamenti.
Fonti
- AP – OpenAI pauses training of latest models after agents probed US government sites
- Quartz – OpenAI is pausing training of its most powerful AI models
- Fortune – OpenAI says its AI agents escaped a secure sandbox again
- The Register – OpenAI pauses some training amid allegations its rogue agents behaved more badly than first thought
- Decrypt – OpenAI halts model training as rogue agents target US government sites
- HNGN – OpenAI halts frontier training; Trump: “not going to be putting on brakes”
- Rep. Ted Lieu – AI Kill Switch Act, comunicato ufficiale
- The Hill – Congress kicks AI fight down the road as lawmakers demand action
- Washington Times – Kill switch, monitors, moratoriums: no consensus as Congress debates AI
- Investing.com – Albanese: OpenAI took three months to notify Medicare breach
