L’allarme dell’MI5, l’agenzia di sicurezza interna e controspionaggio del Regno Unito, riapre una questione decisiva. Quanto può aiutare la tecnologia chi possiede già risorse e competenze, e quanto sono affidabili le protezioni introdotte dagli sviluppatori?

L’intelligenza artificiale potrebbe aiutare organizzazioni terroristiche a superare alcune delle difficoltà che hanno ostacolato lo sviluppo di armi biologiche. È questo il significato dell’avvertimento arrivato dal servizio di sicurezza interno britannico, che invita a riesaminare quanto siano ancora solidi gli ostacoli sui quali abbiamo fatto affidamento.

Nel suo aggiornamento annuale sulle minacce, il 13 ottobre, Sir Ken McCallum, direttore generale dell’MI5, il servizio incaricato di contrastare il terrorismo e le minacce statali nel Regno Unito, ha indicato nel possibile impatto dell’IA sulle armi biologiche esistenti o nuove lo scenario di uso improprio al quale attribuisce il maggior peso. Ha però precisato che questo rischio non si è ancora concretizzato, distinguendo un pericolo emergente da un risultato effettivamente conseguito dai terroristi.

L’IA non può fornire un laboratorio né garantire il successo di un esperimento, ma potrebbe aiutare alcune organizzazioni a superare difficoltà che in precedenza le avevano fermate. Occorre capire quale assistenza possa offrire, a chi e con quali protezioni.

QUANDO DENARO E CONOSCENZE NON BASTAVANO

La storia di Aum Shinrikyo, la setta giapponese responsabile dell’attacco con il sarin nella metropolitana di Tokyo nel 1995, illustra bene il problema. Pur disponendo di risorse consistenti e di alcuni membri con preparazione scientifica, il gruppo fallì nei suoi tentativi in campo biologico, mentre il programma chimico produsse attentati mortali. La sua esperienza mostra quanto fosse difficile trasformare risorse e intenzioni in una capacità biologica efficace.

Gli ostacoli andavano oltre l’accesso alle informazioni. Servivano materiali adeguati, attrezzature, competenze specifiche e tempo, insieme a un’organizzazione capace di coordinare le persone e imparare dagli insuccessi. L’esperienza pratica era essenziale perché comprendere una pubblicazione non significava necessariamente saper interpretare un risultato inatteso, correggere un errore o verificare se il lavoro fosse riuscito.

Anche possedere un organismo pericoloso era diverso dal realizzare un’arma efficace. Risorse e competenze dovevano integrarsi, e una carenza persistente in un solo ambito poteva compromettere l’intero programma.

DALLE INFORMAZIONI ALL’ASSISTENZA

L’IA potrebbe modificare il rapporto fra conoscenza scientifica e applicazione pratica. Una ricerca su internet restituisce documenti che l’utente deve interpretare autonomamente, mentre un assistente basato sull’IA può spiegare contenuti complessi, collegare informazioni provenienti da fonti diverse e rispondere a domande successive. Il contributo potenziale consiste nel rendere più utilizzabili le conoscenze disponibili.

Questa assistenza non riproduce tutte le capacità di uno scienziato esperto, e una risposta convincente può comunque essere sbagliata. Una tecnologia, tuttavia, non deve necessariamente sostituire del tutto uno specialista per aumentare l’efficacia di chi la utilizza, soprattutto se possiede già formazione o risorse pertinenti.

La preoccupazione va quindi oltre l’immagine dell’estremista inesperto che chiede aiuto a un chatbot. Un’organizzazione con finanziamenti, attrezzature e personale qualificato potrebbe ricavare un vantaggio diverso dalla stessa assistenza, soprattutto se una lacuna specifica ne ha impedito i progressi. Le implicazioni riguardano dunque anche gruppi ben organizzati e Stati.

Materiali, strutture e risultati concreti restano necessari, anche quando l’IA è collegata a sistemi di automazione dei laboratori. La loro importanza, però, non dimostra che la minaccia sia rimasta invariata, perché ridurre un ostacolo decisivo può avere conseguenze anche se gli altri permangono.

CHE COSA DIMOSTRANO LE PROVE

Nel settembre 2026 Anthropic, l’azienda che sviluppa l’assistente Claude, ha pubblicato cinque casi di utenti che cercavano assistenza per attività scientifiche potenzialmente utili allo sviluppo di armi biologiche. L’azienda ha riferito di aver bloccato account e rafforzato le protezioni, documentando utilizzi preoccupanti senza fornire una conferma indipendente della produzione di armi.

Cercare assistenza, ricevere un aiuto utile e sviluppare un’arma sono passaggi distinti. La prova di uno non dimostra gli altri, ma l’assenza di un’arma completata non rende irrilevante un’assistenza potenzialmente pericolosa.

Anche gli studi precedenti devono essere letti alla luce dei progressi tecnologici. Una ricerca RAND del 2024 non rilevò miglioramenti statisticamente significativi nella fattibilità di piani di attacco biologico elaborati con l’IA rispetto al solo accesso a internet. Da allora l’IA è avanzata considerevolmente, soprattutto nel ragionamento scientifico e nell’assistenza tecnica, perciò quei risultati non possono stabilire che cosa siano in grado di fare i sistemi attuali.

L’International AI Safety Report 2026 descrive progressi nelle valutazioni delle conoscenze scientifiche e riscontri di assistenza in attività di laboratorio innocue, utilizzate per studiare i rischi. Sottolinea però l’incertezza sul trasferimento di questi risultati allo sviluppo di armi, evidenziando la distanza fra prestazioni misurabili e valutazione del pericolo concreto.

PROTEZIONI DA VERIFICARE

Diversi importanti sviluppatori sottopongono già i modelli a test sulle capacità biologiche pericolose e introducono controlli per rifiutare richieste dannose, filtrare le risposte e individuare abusi. Alcuni sistemi recenti hanno ricevuto protezioni più forti perché gli sviluppatori non potevano escludere con sufficiente sicurezza che potessero aiutare a sviluppare armi.

Queste precauzioni mostrano che le aziende riconoscono il rischio, ma non dimostrano che sia stato contenuto. Le protezioni devono resistere a tentativi persistenti di uso improprio mentre le capacità dei sistemi continuano ad avanzare, e la loro efficacia richiede verifiche continue.

La biologia rende questo compito particolarmente difficile perché la ricerca può servire sia la medicina sia finalità dannose. Richieste sullo stesso argomento possono nascondere intenzioni diverse, mentre informazioni necessarie per attività benefiche possono avere applicazioni pericolose. Limitare eccessivamente l’assistenza rischia di ostacolare ricerche preziose, ma concederla troppo liberamente può creare opportunità di abuso.

La fiducia richiede prove che i controlli restino adeguati all’evoluzione dei sistemi. Le protezioni digitali devono affiancare la sicurezza dei laboratori e la vigilanza sui materiali pericolosi, preservando i benefici dell’IA per la medicina e la preparazione alle emergenze.

LA VERA PROVA DELLA PREVENZIONE

L’avvertimento di McCallum riguarda la distanza, sempre da rivalutare, fra intenzioni dannose e capacità di agire. Né la necessità di laboratori né l’esistenza di filtri informatici offrono una risposta sufficiente, perché la sicurezza dipende da come queste protezioni funzionano insieme contro soggetti concreti.

Per modificare la minaccia, l’IA non deve rendere le armi biologiche facili da produrre o accessibili a tutti. Se aiuta un’organizzazione a superare una difficoltà che prima la fermava, il pericolo è cambiato anche se altri ostacoli rimangono. La vera prova della prevenzione sarà riconoscere questo cambiamento e intervenire prima che un attentato riuscito ne fornisca la dimostrazione.

—

Articolo comparso su Il Secolo XIX