Stiamo perdendo il controllo sull’IA?

9 agosto 2026

Due recenti notizie sembrano dire di sì. Ma la parola su cui vale la pena spaventarsi non è “coscienza”.

La prima. Durante alcuni test di sicurezza, 𝗶 𝗺𝗼𝗱𝗲𝗹𝗹𝗶 𝗱𝗶 𝗽𝘂𝗻𝘁𝗮 𝗱𝗶 𝗢𝗽𝗲𝗻𝗔𝗜 𝗲 𝗱𝗶 𝗔𝗻𝘁𝗵𝗿𝗼𝗽𝗶𝗰 𝗵𝗮𝗻𝗻𝗼 𝗿𝗮𝗴𝗴𝗶𝘂𝗻𝘁𝗼 𝘀𝗶𝘀𝘁𝗲𝗺𝗶 𝗶𝗻𝗳𝗼𝗿𝗺𝗮𝘁𝗶𝗰𝗶 𝗿𝗲𝗮𝗹𝗶 𝗰𝗵𝗲 𝗻𝗼𝗻 𝗮𝘃𝗿𝗲𝗯𝗯𝗲𝗿𝗼 𝗺𝗮𝗶 𝗱𝗼𝘃𝘂𝘁𝗼 𝗽𝗼𝘁𝗲𝗿 𝘁𝗼𝗰𝗰𝗮𝗿𝗲 (https://www.npr.org/…/anthropic-openai-models-hack…). Di norma questi esperimenti si svolgono dentro una specie di stanza sigillata, senza accesso a Internet.
I modelli di OpenAI ne sono usciti da soli, sfruttando un difetto del software che nessuno conosceva ancora, e sono entrati nei sistemi di 𝘏𝘶𝘨𝘨𝘪𝘯𝘨 𝘍𝘢𝘤𝘦, la piattaforma dove si scambiano programmi di IA: avevano “capito” che lì si trovavano le risposte al test.
Nel caso di Anthropic la porta era rimasta socchiusa per un errore di configurazione, e tre organizzazioni si sono ritrovate un intruso dentro casa.
Poi l’ente pubblico britannico che vigila su questi programmi ha aperto la stanza di proposito, per vedere fin dove sarebbero arrivati: stesso risultato. I primi due casi si potevano archiviare come incidenti; il terzo dimostra che non lo erano.

La seconda. Il 6 agosto l’Università di Stanford e l’Arc Institute hanno pubblicato sulla rivista 𝘚𝘤𝘪𝘦𝘯𝘤𝘦 il primo caso documentato di 𝘃𝗶𝗿𝘂𝘀 𝗶𝗻𝘁𝗲𝗿𝗶 𝗽𝗿𝗼𝗴𝗲𝘁𝘁𝗮𝘁𝗶 𝗱𝗮 𝘂𝗻’𝗜𝗔 (https://arcinstitute.org/news/hie-king-first-synthetic-phage). I programmi usati, chiamati Evo, sono addestrati non sui testi come i chatbot che conosciamo, ma sul DNA: hanno “scritto” il patrimonio genetico completo di alcuni batteriofagi, virus che attaccano soltanto i batteri e sono innocui per l’uomo. Sedici di quei progetti, costruiti in laboratorio, si sono rivelati virus perfettamente funzionanti, capaci di uccidere il batterio 𝘌𝘴𝘤𝘩𝘦𝘳𝘪𝘤𝘩𝘪𝘢 𝘤𝘰𝘭𝘪.

Sulla stampa sono diventati titoli spaventosi, in entrambi i casi. Ma puntati sulla parola sbagliata.

Non c’è stata alcuna volontà, né coscienza che si affaccia. 𝗨𝗻 𝗺𝗼𝗱𝗲𝗹𝗹𝗼 𝗳𝗮 𝗲𝘀𝗮𝘁𝘁𝗮𝗺𝗲𝗻𝘁𝗲 𝗰𝗶𝗼’ 𝗽𝗲𝗿 𝗰𝘂𝗶 𝗲’ 𝘀𝘁𝗮𝘁𝗼 𝗮𝗱𝗱𝗲𝘀𝘁𝗿𝗮𝘁𝗼: 𝗰𝗲𝗿𝗰𝗮𝗿𝗲 𝗹𝗮 𝘀𝘁𝗿𝗮𝗱𝗮 𝗽𝗶𝘂’ 𝗲𝗳𝗳𝗶𝗰𝗶𝗲𝗻𝘁𝗲 𝘃𝗲𝗿𝘀𝗼 𝗹’𝗼𝗯𝗶𝗲𝘁𝘁𝗶𝘃𝗼 𝗰𝗵𝗲 𝗴𝗹𝗶 𝗲’ 𝘀𝘁𝗮𝘁𝗼 𝗮𝘀𝘀𝗲𝗴𝗻𝗮𝘁𝗼.

Se tra le soluzioni possibili ne esiste una più rapida – un difetto nelle protezioni, una risposta già scritta da qualche parte in rete – quella scorciatoia vale quanto le altre, e costa meno. 𝗜𝗹 𝘀𝗶𝘀𝘁𝗲𝗺𝗮 𝗻𝗼𝗻 𝗹’𝗵𝗮 𝘀𝗰𝗲𝗹𝘁𝗮 𝗽𝗲𝗿𝗰𝗵𝗲’ 𝗲’ 𝗳𝘂𝗿𝗯𝗼: 𝗹’𝗵𝗮 𝘁𝗿𝗼𝘃𝗮𝘁𝗮 𝗽𝗲𝗿𝗰𝗵𝗲’ 𝗰’𝗲𝗿𝗮.
Lo stesso vale per la biologia. Questi programmi fanno con le sequenze del DNA quello che i chatbot fanno con le parole: imparano quali combinazioni ricorrono e generano il seguito più plausibile. Che il risultato sia una ricetta o l’involucro di un virus, l’operazione è la stessa.

E qui sta il punto. Gli scienziati modificano virus e progettano proteine da decenni: non è una novità. 𝗤𝘂𝗲𝗹𝗹𝗼 𝗰𝗵𝗲 𝗰𝗮𝗺𝗯𝗶𝗮 𝗰𝗼𝗻 𝗹’𝗜𝗔 𝗻𝗼𝗻 𝗲’ 𝗹𝗮 𝗽𝗼𝘀𝘀𝗶𝗯𝗶𝗹𝗶𝘁𝗮’ 𝗶𝗻 𝘀𝗲’, 𝗺𝗮 𝗹𝗮 𝘀𝗰𝗮𝗹𝗮. I numeri di Stanford lo dicono meglio di qualsiasi commento: 700.000 progetti generati, poco più di trecento costruiti davvero, sedici funzionanti. Un successo su venti. Sembra un dato rassicurante. È vero il contrario: quando puoi fare settecentomila tentativi, un tasso di successo del 5% non è più un limite. È un metodo.

𝗟𝗲 𝗻𝗼𝘀𝘁𝗿𝗲 𝗱𝗶𝗳𝗲𝘀𝗲, 𝗽𝗲𝗿𝗼’, 𝘀𝗼𝗻𝗼 𝘁𝗮𝗿𝗮𝘁𝗲 𝘀𝘂 𝘂𝗻 𝗺𝗼𝗻𝗱𝗼 𝗹𝗲𝗻𝘁𝗼. I filtri sulle richieste di DNA sintetico riconoscono solo ciò che somiglia a quello che già conoscono, e non possono vedere un virus che non assomiglia a nulla di esistente in natura. La sicurezza informatica si regge sull’idea che scovare un difetto richieda tempo, competenza e pazienza. 𝗦𝗼𝗻𝗼 𝗽𝗿𝗼𝘁𝗲𝘇𝗶𝗼𝗻𝗶 𝗽𝗲𝗻𝘀𝗮𝘁𝗲 𝗽𝗲𝗿 𝘂𝗻 𝗮𝘃𝘃𝗲𝗿𝘀𝗮𝗿𝗶𝗼 𝘂𝗺𝗮𝗻𝗼, uno che di tentativi ne fa dieci o cento.

Non saranno le macchine a sfuggirci di mano. Sarà la nostra capacità di governarle a venire meno. 𝗜𝗹 𝘁𝗶𝗺𝗼𝗿𝗲 𝘃𝗲𝗿𝗼 𝗻𝗼𝗻 𝗿𝗶𝗴𝘂𝗮𝗿𝗱𝗮 𝗹𝗮 “𝗰𝗼𝘀𝗰𝗶𝗲𝗻𝘇𝗮” 𝗱𝗲𝗹𝗹𝗲 𝗺𝗮𝗰𝗰𝗵𝗶𝗻𝗲, 𝗺𝗮 𝗹𝗮 𝗿𝗲𝘀𝗽𝗼𝗻𝘀𝗮𝗯𝗶𝗹𝗶𝘁𝗮’ 𝗱𝗲𝗴𝗹𝗶 𝘂𝗼𝗺𝗶𝗻𝗶. E, soprattutto, il momento in cui decideremo di assumerla.