Intelligenza artificiale e armi biologiche: quanto sono efficaci i sistemi di sicurezza?

L’intelligenza artificiale è davvero così efficace o, come molti sostengono, rappresenta un pericolo concreto per l’umanità?

L’IA è in continua evoluzione in tutti i settori e, se da un lato eccelle in ambito sanitario e promette rivoluzioni nella ricerca biologica grazie a una crescente capacità di elaborazione dei dati, dall’altro solleva interrogativi cruciali sulla sua potenziale applicazione in ambito batteriologico. Il divario tra chi ne esalta l’utilità e chi ne teme gli usi impropri rende urgente fare chiarezza sullo stato reale della sicurezza.

Cosa dicono i test di sicurezza: RAND Corporation e OpenAI

Per valutare i rischi ed arginare le preoccupazioni, sono stati condotti diversi studi mirati:

• Lo studio della RAND Corporation (Gennaio 2024): Un gruppo di ricercatori ha simulato attacchi biologici tramite modelli linguistici di grandi dimensioni (LLM). L’analisi ha mostrato che i piani elaborati dall’IA non presentavano una qualità significativamente superiore rispetto a quelli ottenibili con i normali strumenti di ricerca, evidenziando inoltre l’incapacità dei modelli di facilitare concretamente la produzione di agenti patogeni.

• La valutazione di OpenAI (2024): Un test condotto su 100 soggetti (50 biologi esperti e 50 studenti di biologia) ha confrontato l’uso di internet da solo rispetto all’uso combinato di internet e GPT-4. È emerso solo un leggero incremento (mild uplift) nelle performance, un margine comunque insufficiente a permettere lo sviluppo effettivo di armi biologiche.

Le prospettive degli esperti e i rapporti istituzionali

Nonostante i test preliminari mostrino barriere efficaci, la comunità scientifica e gli istituti di sicurezza invitano a non abbassare la guardia.

• Yoshua Bengio: Il vincitore del Premio Turing e coordinatore dell’International AI Safety Report sostiene che la protezione debba basarsi su una strategia multilivello, fondata su valutazioni preventive, monitoraggio continuo, limitazione delle richieste pericolose e cooperazione internazionale.

• Dario Amodei e Anthropic (2025): Vengono adottate protezioni avanzate di livello ASL-3 (AI Safety Level 3) per impedire che utenti con competenze STEM di base possano estrarre informazioni utili per minacce biologiche.

• L’AI Security Institute (AISI) britannico: Sebbene i filtri stiano migliorando costantemente, i rapporti evidenziano che non sono infallibili: i modelli testati hanno mostrato vulnerabilità che utenti esperti possono tentare di aggirare tramite tecniche di jailbreaking.

IA sotto osservazione tra filtri e minacce batteriologiche (Fonte: Pexels)

Esempi reali e il problema del “Dual Use”

Le preoccupazioni sulla sicurezza non sono teoriche, ma derivano da casi concreti di potenziale utilizzo improprio:

• L’esperimento MegaSyn (2022): Durante una ricerca, un algoritmo nato per individuare farmaci benefici è stato riconfigurato, generando in pochissimo tempo circa 40.000 molecole tossiche. Questo dimostra la natura dual use di molte tecnologie IA: gli stessi strumenti progettati per il bene possono essere piegati a scopi distruttivi.

Le contromisure adottate dalle aziende:

1. Filtri sui prompt per bloccare le richieste malevole.

2. Red Teaming (simulazioni di attacco etico per trovare vulnerabilità).

3. Monitoraggio delle capacità biologiche dei modelli.

4. Screening della sintesi del DNA, considerato oggi uno dei principali punti di controllo fisici e digitali contro abusi biologici.

La risposta più realistica alla domanda iniziale è: “Oggi sì, i sistemi reggono, ma potrebbero non bastare per il domani”.

I modelli di IA attuali non consentono la creazione autonoma di armi biologiche, ma il rapido progresso sperimentale rischia di abbattere queste barriere in tempi brevi. Il vero nodo critico non è la situazione odierna, bensì la velocità con cui l’innovazione tecnologica procede rispetto allo sviluppo delle contromisure. Una sfida e un rischio che il mondo non può permettersi di sottovalutare.