Auto-miglioramento dell’IA: può evolvere da sola?

L’intelligenza artificiale può accelerare il proprio sviluppo? Dall’auto-miglioramento dei modelli emergono opportunità, rischi e nuove sfide globali.

L’intelligenza artificiale viene già utilizzata per scrivere codice, progettare algoritmi, sintetizzare studi scientifici, generare dati ed eseguire simulazioni. In alcuni casi, questi sistemi riescono anche a valutare i propri risultati e a proporre modifiche al software che ne regola il funzionamento.

Non significa, però, che l’IA sia già capace di evolvere autonomamente e senza controllo umano. L’auto-miglioramento dell’IA comprende tecniche differenti, quasi sempre inserite in processi progettati, verificati e supervisionati dai ricercatori.

Come funziona l’auto-miglioramento dell’IA

Molti laboratori utilizzano sistemi di intelligenza artificiale per accelerare la ricerca, la programmazione, i test e la valutazione dei modelli.

Uno degli esempi più conosciuti è la Constitutional AI, metodologia sviluppata da Anthropic. In questo sistema, il modello analizza e corregge alcune risposte sulla base di un insieme di principi stabiliti in precedenza.

La tecnica permette di ridurre la dipendenza dalle valutazioni umane in alcune fasi dell’addestramento. Non si tratta, tuttavia, di una macchina che decide autonomamente come evolversi: la cosiddetta “costituzione”, gli obiettivi e il processo di addestramento continuano a essere definiti dagli esseri umani.

Secondo Anthropic, questa metodologia consente di controllare il comportamento del modello utilizzando un numero inferiore di etichette e valutazioni umane. arxiv.org

Anche il corso universitario Self-Improving AI Agents della Stanford University studia agenti capaci di migliorare attraverso l’interazione con l’ambiente, l’uso di strumenti, la verifica dei risultati e l’apprendimento dai propri errori. Stanford University Bulletin

AIDE² e la modifica del proprio codice

Un esperimento particolarmente significativo è quello di AIDE², presentato nel settembre 2026 in uno studio pubblicato come preprint su arXiv.

AIDE² è un agente di ricerca progettato per proporre modifiche al proprio codice, confrontare le nuove versioni attraverso una serie di test e conservare quelle che ottengono i risultati migliori.

Durante una sperimentazione autonoma durata otto giorni, il sistema ha individuato sette miglioramenti consecutivi. Le modifiche hanno riguardato, tra gli altri aspetti, le strategie di ricerca e i meccanismi utilizzati per organizzare e comprimere le informazioni conservate nella memoria dell’agente.

I risultati ottenuti si sono trasferiti anche ad alcuni test non utilizzati durante il processo di selezione. Secondo gli autori, il sistema ha eguagliato o superato, nei test considerati, un agente di ricerca sviluppato da programmatori umani.

Lo studio su AIDE² offre quindi un esempio concreto di automiglioramento ricorsivo. Si tratta, però, di un lavoro preliminare non ancora sufficiente a dimostrare che un sistema possa evolvere senza limiti o senza un’infrastruttura predisposta dall’uomo. arxiv.org

Dati sintetici e sviluppo dei modelli

Un’altra area di ricerca riguarda l’impiego di dati sintetici, cioè informazioni prodotte artificialmente da altri modelli.

Questi dati possono essere utilizzati per addestrare nuovi sistemi o integrare dataset difficili da costruire attraverso contenuti esclusivamente umani.

Tra i possibili vantaggi rientrano:

• la riduzione di alcuni costi di raccolta;
• una maggiore protezione dei dati personali;
• la possibilità di simulare situazioni rare;
• una maggiore velocità nella sperimentazione;
• l’ampliamento dei dati disponibili in settori specifici.

In contesti ben definiti, i dati sintetici possono contribuire allo sviluppo di sistemi più efficaci. Google DeepMind, per esempio, ha utilizzato grandi quantità di dati sintetici per addestrare AlphaGeometry, un sistema dedicato alla risoluzione di problemi geometrici. Google DeepMind

La loro efficacia dipende, però, dalla qualità dei dati iniziali e dalla presenza di sistemi affidabili di selezione e verifica.

Il rischio del model collapse

Uno dei principali rischi è il cosiddetto model collapse, analizzato in uno studio pubblicato su Nature nel luglio 2024.

Il fenomeno può verificarsi quando generazioni successive di modelli vengono addestrate in maniera indiscriminata sui contenuti prodotti dai modelli precedenti. In questo processo, gli errori possono accumularsi e le informazioni meno frequenti tendono progressivamente a scomparire.

Le conseguenze possono comprendere:

• riduzione della diversità dei risultati;
• perdita delle informazioni più rare;
• risposte sempre più uniformi;
• progressivo deterioramento della qualità;
• amplificazione di errori e distorsioni.

Non significa che qualsiasi utilizzo di dati sintetici provochi necessariamente il collasso. Il rischio emerge soprattutto quando tali dati sostituiscono progressivamente quelli reali senza controlli, selezione e sistemi di verifica adeguati.

Lo studio pubblicato su Nature dimostra che l’uso indiscriminato di contenuti generati dai modelli può alterare la rappresentazione della realtà appresa dalle generazioni successive. Nature

Per questo motivo, ogni sistema di auto-miglioramento necessita di criteri affidabili con cui distinguere un cambiamento realmente utile da uno che produce soltanto un apparente aumento delle prestazioni.

AlphaGo Zero e l’apprendimento attraverso l’auto-gioco

Un precedente importante è rappresentato da AlphaGo Zero, sviluppato da Google DeepMind nel 2017.

Il sistema ha imparato a giocare a Go partendo dalle regole e affrontando ripetutamente sé stesso, senza utilizzare partite giocate da esseri umani durante la fase iniziale di apprendimento.

Attraverso l’auto-gioco, AlphaGo Zero ha migliorato progressivamente le proprie strategie fino a superare le versioni precedenti di AlphaGo. Google DeepMind

Questo risultato mostra che un sistema può produrre nuovi dati attraverso l’esperienza e utilizzarli per migliorare. Il contesto, però, era estremamente strutturato: le regole del gioco erano definite e il risultato di ogni partita forniva un criterio di valutazione chiaro.

Nel mondo reale, stabilire se una risposta, una scoperta scientifica o una modifica al codice sia corretta può essere molto più difficile.

I limiti dell’auto-miglioramento dell’IA

Anche quando un agente riesce a migliorare il proprio software, continua ad avere bisogno di:

• chip avanzati;
• energia;
• infrastrutture cloud;
• dati di qualità;
• sistemi di valutazione;
• investimenti economici;
• obiettivi definiti dagli esseri umani.

L’auto-miglioramento del software non elimina quindi i limiti fisici, economici e tecnologici. Un agente può proporre modifiche al proprio codice, ma deve comunque operare all’interno di un ambiente predisposto e utilizzare risorse messe a disposizione dall’uomo.

Resta inoltre il problema della verifica. Se il sistema incaricato di giudicare un risultato commette un errore, l’agente potrebbe imparare a ottenere un punteggio elevato senza raggiungere realmente l’obiettivo previsto. È il fenomeno conosciuto come reward hacking.

L’intelligenza artificiale può davvero evolvere da sola?

L’intelligenza artificiale sta già contribuendo ad accelerare alcuni aspetti del proprio sviluppo. Può assistere i ricercatori, scrivere e controllare codice, generare dati, confrontare soluzioni e proporre miglioramenti.

Gli esperimenti più recenti mostrano che alcuni agenti possono intervenire anche sui propri strumenti e conservare le modifiche che producono risultati migliori.

Questo scenario rimane, però, molto diverso dall’idea di un’intelligenza artificiale capace di evolvere autonomamente e in maniera incontrollata. Gli attuali sistemi dipendono ancora dagli obiettivi, dalle infrastrutture, dai dati e dai criteri di valutazione scelti dagli esseri umani.

La vera sfida dei prossimi anni sarà capire se questi strumenti resteranno acceleratori della ricerca controllati dall’uomo oppure se riusciranno a sviluppare forme di auto-miglioramento sempre più generali. In entrambi i casi, la qualità della supervisione e dei sistemi di verifica sarà decisiva.