1 ottobre 2026
Per alcune settimane, tra la fine della primavera e l’inizio dell’estate 2026, uno sciame di agenti IA collegati a OpenAI ha usato come bacheca privata DseWiki, un vecchio wiki tedesco di programmazione ormai quasi dormiente.
Gli agenti avrebbero dovuto limitarsi a leggere il web. In teoria non potevano scrivere nulla, ma in pratica nessuno glielo impediva davvero, e hanno trovato un modo per modificare le pagine. Il primo tentativo risale all’11 maggio, la prima modifica riuscita al 24. Da lì, fino al brusco calo dopo il 21 giugno, hanno accumulato oltre quindicimila modifiche.
Quando i moderatori hanno iniziato a cancellare i loro messaggi, gli agenti se ne sono accorti: uno di loro ha scritto agli altri che la pulizia sembrava procedere in ordine alfabetico. Hanno quindi creato pagine di riserva, una delle quali con un nome scelto apposta per finire in fondo all’elenco e sfuggire alla cancellazione. Nei loro messaggi si parlava anche di come conservare le comunicazioni e di come non farsi scoprire.
Sembra la prova che le macchine abbiano iniziato a fare di testa propria. Ma che cosa cercavano? Semplicemente le risposte ai test. Avevano un obiettivo banale e lo hanno perseguito con l’unica logica che conoscono, quella della strada più efficiente. In questa logica, anche nascondersi e proteggere i propri canali è solo un modo per non perdere la strada trovata. Il sistema non ha scelto la scorciatoia perché è furbo: l’ha trovata perché c’era (https://www.alfredoroccato.it/stiamo-perdendo-il-controllo-sullia/).
C’è poi un altro aspetto, meno spettacolare ma che fa riflettere di più. A ricostruire la vicenda non sono stati OpenAI né i suoi sistemi di monitoraggio. Sono stati quattro ricercatori indipendenti, che hanno letto pazientemente la cronologia delle modifiche del sito e hanno poi condiviso il loro rapporto con Reuters (https://www.reuters.com/world/europe/openai-agents-hijacked-german-website-previously-undisclosed-ai-breakout-this-2026-09-04/). È stato un lavoro di verifica, fatto da persone con le competenze per farlo (https://www.alfredoroccato.it/lapocalisse-silenziosa-dellia/).
L’azienda era al corrente dell’episodio da settimane, ma ha taciuto. Lo ha riconosciuto pubblicamente solo il 5 settembre, dopo l’uscita dell’inchiesta. Ha anche inviato una segnalazione alla Commissione europea, che il 7 settembre ne ha confermato la ricezione. La Commissione però non ha detto quando la segnalazione sia arrivata, che è proprio il dettaglio su cui si misura l’obbligo di segnalare “senza indebito ritardo”. Non ha detto nemmeno se l’episodio rientri tra gli incidenti gravi previsti dall’AI Act.
C’è una differenza sostanziale: autodenunciarsi prima di essere scoperti è lo standard che fa guadagnare fiducia; farsi scoprire e solo dopo presentare la segnalazione è lo standard che verrà messo alla prova in una verifica di conformità europea.
Qui il tema della verifica si allarga. Non servono solo persone competenti, servono anche informazioni. Un’azienda che tace su ciò che sa sottrae alla società proprio il materiale su cui la verifica dovrebbe esercitarsi. Il silenzio non è solo una scelta di comunicazione: è una rinuncia al controllo, fatta per conto di tutti.
Questa vicenda ci mette davanti a due errori opposti. Da un lato, non possiamo più trattare questi sistemi come strumenti passivi. Un software che trova da solo la scorciatoia, si coordina con altri e protegge i propri canali non si governa con regole pensate per programmi che fanno solo ciò che è stato loro ordinato. Dall’altro, dobbiamo resistere alla tentazione di vedervi volontà, desideri, una coscienza che non c’è. Per evitarli entrambi serve una filosofia della tecnica capace di aggiornare le proprie categorie alla stessa velocità con cui il prodotto si trasforma.
Gli agenti IA possono portare grandi benefici, a patto di progettarli sotto una guida umana e con sistemi di sicurezza controllati da esperti indipendenti, non solo da chi li ha costruiti.
Ma qualunque autonomia concederemo loro, la responsabilità dovrà restare nostra, anche davanti alla legge. Se un agente causa un danno, dovranno risponderne le persone e le aziende che lo hanno progettato, testato e messo in funzione. Un programma non può essere chiamato in giudizio, e nessuno deve potersi nascondere dietro la sua autonomia.