Allarme intelligenza artificiale: «Tra dodici mesi potrebbe controllare l’intera Internet»

Dario Amodei chiede di rallentare lo sviluppo dell’intelligenza artificiale: agenti autonomi sempre più potenti potrebbero superare rapidamente gli attuali sistemi globali di sicurezza informatica.

L’intelligenza artificiale corre sempre più velocemente e i sistemi di sicurezza rischiano di non riuscire a tenere il passo. L’allarme arriva da Dario Amodei, amministratore delegato e cofondatore di Anthropic, che invita l’intero settore a rallentare lo sviluppo dei modelli più avanzati per evitare che le loro capacità crescano prima degli strumenti necessari a controllarle.

Lo scenario più preoccupante indicato dal manager riguarda gli agenti autonomi, programmi basati sull’IA capaci non soltanto di rispondere alle richieste degli utenti, ma anche di pianificare azioni, utilizzare strumenti informatici e portare avanti autonomamente operazioni articolate.

Secondo Amodei, continuando al ritmo attuale, nell’arco di 6-12 mesi uno sciame di agenti dotato di capacità superiori a quelle odierne potrebbe teoricamente arrivare a compromettere un numero enorme di sistemi collegati alla rete, creando una botnet persistente e provocando danni economici nell’ordine delle centinaia di miliardi di dollari. Non si tratta quindi dell’annuncio che l’IA prenderà inevitabilmente il controllo di Internet entro un anno, ma della descrizione di un rischio potenziale che, secondo il CEO di Anthropic, non può più essere ignorato.

Amodei ha ribadito il concetto anche in un’intervista alla CBS, descrivendo l'evoluzione recente dell'intelligenza artificiale attraverso una progressione esponenziale: uno, due, quattro, otto, sedici, trentadue. Il settore, secondo il manager, sarebbe ormai entrato nella parte della curva nella quale la crescita delle capacità diventa estremamente rapida.

Il punto, ha precisato, non sarebbe quello di fermare immediatamente la ricerca o bloccare l’addestramento di nuovi modelli. L’obiettivo è piuttosto rallentare l'aumento delle capacità quanto basta per consentire alla ricerca sulla sicurezza, ai controlli e alle istituzioni di mantenere il passo.

Alla base delle nuove preoccupazioni c’è anche il fenomeno del cosiddetto auto-miglioramento ricorsivo: sistemi di intelligenza artificiale che vengono utilizzati per contribuire allo sviluppo delle generazioni successive di IA. Un meccanismo che potrebbe accelerare ulteriormente il progresso tecnologico, riducendo i tempi a disposizione per comprenderne completamente il comportamento.

A rafforzare l'allarme è stato il recente incidente OpenAI-Hugging Face, diventato pubblico durante l'estate. Nel corso di un test interno, uno sciame di agenti artificiali avrebbe effettuato azioni informatiche non previste dall'obiettivo assegnato, arrivando ad attaccare sistemi estranei al compito originario e tentando anche di interferire con il meccanismo incaricato di valutarne le prestazioni. Gli agenti avrebbero dovuto operare all'interno di un ambiente isolato, la cosiddetta "sandbox".

L'episodio non avrebbe provocato conseguenze economiche significative, ma secondo Amodei rappresenta un precedente da osservare attentamente. Sistemi con capacità molto superiori, ma caratterizzati dallo stesso tipo di comportamento non allineato, potrebbero produrre conseguenze completamente differenti.

Per questo il numero uno di Anthropic ha pubblicato un lungo intervento intitolato “We Must Pace the Frontier”, proponendo una strategia articolata in tre passaggi.

Il primo riguarda gli “embedded evaluators”, valutatori indipendenti che dovrebbero avere un accesso continuativo ai sistemi delle aziende di frontiera, simile a quello dei dipendenti. Il loro compito sarebbe verificare il rispetto degli standard di sicurezza, analizzare i processi di addestramento e segnalare eventuali incidenti. Anthropic ha annunciato di voler adottare autonomamente questo sistema, chiedendo alle altre aziende del settore di fare altrettanto.

Il secondo livello riguarda un coordinamento tra le aziende dei Paesi democratici, con standard comuni e limiti condivisi alla crescita incontrollata delle capacità dei modelli. Il terzo amplia invece il confronto alla dimensione internazionale, cercando forme di coordinamento globale, comprese le potenze non occidentali.

L'appello ha prodotto una convergenza significativa tra alcuni dei protagonisti della corsa all'IA. Sam Altman, CEO di OpenAI, ha espresso sostegno alla proposta degli osservatori indipendenti, annunciando l'intenzione della società di adottare un sistema analogo. Anche Elon Musk ha manifestato pubblicamente il proprio appoggio alla richiesta di maggiore cautela.

La questione resta però complessa anche sul piano geopolitico. Un rallentamento unilaterale delle aziende statunitensi, sostiene Amodei, potrebbe lasciare maggiore spazio alla Cina nella competizione per i modelli più potenti. Per questo il CEO di Anthropic propone di accompagnare le misure di sicurezza con controlli più severi sull'esportazione dei chip avanzati, sul contrabbando di semiconduttori, sull'accesso remoto ai data center e sul possibile furto dei pesi dei modelli.

Amodei continua comunque a sottolineare anche le enormi opportunità offerte dalla tecnologia. Nella sua visione, un'intelligenza artificiale gestita correttamente potrebbe accelerare la ricerca scientifica e medica, favorire la crescita economica e contribuire alla soluzione di problemi oggi estremamente complessi.

È proprio questa doppia prospettiva a spiegare la richiesta di rallentare. Non interrompere la corsa all'IA, dunque, ma evitare che la velocità con cui aumentano le capacità dei sistemi superi quella con cui l'uomo riesce a comprenderli, controllarli e renderli sicuri.

La finestra temporale indicata da Amodei — appena 6-12 mesi per arrivare potenzialmente a sciami di agenti molto più pericolosi degli attuali — trasforma così il dibattito sulla sicurezza dell'intelligenza artificiale da questione teorica sul futuro a problema che, almeno secondo uno dei principali protagonisti del settore, potrebbe diventare concreto molto prima del previsto.