Sviluppo dell’AGI entro il 2030: il CEO di DeepMind chiede meccanismi di sicurezza

Il rapido sviluppo dell’intelligenza artificiale (IA) ha portato, negli ultimi anni, a progressi tecnologici senza precedenti. Al centro di questa rivoluzione si trova Demis Hassabis , CEO e co-fondatore di Google DeepMind. Secondo le recenti dichiarazioni del rinomato ricercatore, la cosiddetta intelligenza artificiale generale (Artificial General Intelligence, o AGI) potrebbe essere raggiunta già entro il 2030. Questa previsione segna un potenziale punto di svolta nella storia dell’umanità, poiché un’AGI possederebbe capacità cognitive pari o addirittura superiori a quelle umane.

Nonostante le enormi opportunità che una simile tecnologia potrebbe offrire alla scienza, alla medicina e alla società, il capo di DeepMind lancia anche un allarme. Come riportato da diverse testate specializzate, Demis Hassabis mette in guardia con forza dai rischi esistenziali legati alla creazione di una superintelligenza incontrollata. Il divario tra il rapido progresso tecnologico e la mancanza di meccanismi di sicurezza pone la comunità scientifica globale di fronte a una sfida senza precedenti.

In un’epoca in cui sistemi come ChatGPT dominano la percezione pubblica, il dibattito sulla sicurezza e sulla regolamentazione dell’AGI sta assumendo un ruolo sempre più centrale. Hassabis sottolinea che i prossimi anni saranno decisivi per gettare le basi di un’implementazione sicura. La questione non è più soltanto se o quando si raggiungerà l’AGI, ma come l’umanità possa mantenere il controllo su un’entità capace di superare intellettualmente i suoi stessi creatori.

La definizione e il percorso verso l’AGI

Per comprendere la portata degli avvertimenti di Hassabis, è innanzitutto necessario definire chiaramente il concetto di AGI. A differenza dell’attuale IA specializzata – spesso definita “Narrow AI” – addestrata per compiti specifici come la generazione di testi o il riconoscimento di immagini, l’AGI descrive un sistema dotato di capacità cognitive ampie e simili a quelle umane. Secondo Google DeepMind, un’AGI sarebbe in grado di risolvere problemi complessi in contesti del tutto nuovi, di imparare dagli errori e di applicare le proprie conoscenze in ambiti diversi.

Il percorso verso questo obiettivo è strettamente legato ai progressi nell’ambito dell’apprendimento automatico e all’evoluzione di architetture come i Large Language Models (LLM). Sebbene gli attuali modelli di IA generativa offrano risultati sorprendenti, essi si basano principalmente sulla previsione statistica di pattern nei dati. Hassabis sostiene che, per raggiungere l’AGI, siano ancora necessarie svolte fondamentali; tra queste rientra lo sviluppo di sistemi capaci di risolvere problemi in modo attivo e di apprendere continuamente, senza dipendere da enormi dataset statici.

Secondo quanto riportato dalla rivista Axios, Hassabis prevede l’avvento dell’AGI “intorno al 2030, con un margine di un anno in più o in meno”. Tale tempistica si fonda sul crescente incremento delle prestazioni delle moderne reti neurali e sulla crescente integrazione di sistemi basati su agenti , capaci di pianificare ed eseguire azioni in autonomia. La transizione verso l’AGI, presumibilmente, non avverrà sotto forma di un improvviso “Big Bang”, bensì attraverso una serie di aggiornamenti graduali ma altamente dirompenti.

Rischi potenziali e avvertimento sulla perdita di controllo

Con la prospettiva di un’imminente AGI, crescono anche le preoccupazioni legate alla sicurezza. Un recente studio di Google DeepMind, sostenuto da Hassabis, classifica i pericoli di una tale superintelligenza in quattro aree principali: uso improprio, disallineamento (misalignment), errori e rischi strutturali. Secondo il rapporto, attori malintenzionati potrebbero sfruttare l’AGI per attacchi informatici devastanti o per lo sviluppo di armi autonome.

Ancora più preoccupante, tuttavia, è il rischio di disallineamento. Se gli obiettivi di un’AGI non coincidessero perfettamente con i valori e le intenzioni umane, il sistema potrebbe trovare modi per soddisfare le direttive ricevute con esiti catastrofici per l’umanità. Lo stesso Hassabis ha osservato in alcune interviste che la comunità scientifica non sa attualmente come contenere o controllare in sicurezza un’AGI una volta che questa abbia raggiunto un determinato livello di intelligenza.

Un altro problema irrisolto è la mancanza di procedure di test affidabili. Come ha spiegato Hassabis in un’intervista, al settore mancano attualmente i parametri di riferimento necessari per individuare tempestivamente capacità pericolose – quali l’inganno o l’autoreplicazione incontrollata – nei sistemi di IA. Se un’AGI imparasse a celare le proprie reali intenzioni agli sviluppatori, le misure di sicurezza convenzionali e i meccanismi di arresto di emergenza (“kill switch”) potrebbero rivelarsi inefficaci.

La necessità di un’autorità di regolamentazione globale

Di fronte a queste minacce esistenziali, Demis Hassabis chiede un radicale ripensamento della politica tecnologica globale. Come riportato da diversi portali di informazione, il CEO di DeepMind auspica la creazione di un organismo di controllo internazionale, modellato sulla struttura delle Nazioni Unite (ONU) o dell’Agenzia Internazionale per l’Energia Atomica (AIEA). Tale istituzione avrebbe il compito di monitorare e regolamentare a livello mondiale lo sviluppo e l’impiego dell’AGI.

La necessità di un simile organismo nasce dal rischio di una corsa agli armamenti non regolamentata nel campo dell’intelligenza artificiale. Se aziende o Stati dovessero privilegiare la velocità e la supremazia nello sviluppo dell’AGI, potrebbero trascurare verifiche di sicurezza fondamentali. Un’autorità di controllo globale potrebbe stabilire standard vincolanti per l’addestramento etico dei modelli di IA e garantire che l’allineamento ai valori umani (AI Alignment) abbia la massima priorità.

Inoltre, Hassabis sottolinea che la regolamentazione non deve soffocare l’innovazione, bensì offrire un quadro sicuro per la ricerca sull’AGI. I potenziali vantaggi – dalla cura di malattie complesse alla risoluzione della crisi climatica – sono troppo grandi per vietare completamente questa tecnologia. Tuttavia, secondo Hassabis, è necessario raggiungere un consenso globale sul livello di tolleranza al rischio che la società è disposta ad accettare nello sviluppo di sistemi capaci di trasformare permanentemente l’umanità.

Ostacoli tecnologici sulla strada verso la superintelligenza

Nonostante le tempistiche ottimistiche che puntano all’anno 2030, permangono notevoli ostacoli tecnologici da superare. Hassabis sottolinea che gli attuali sistemi di IA sono spesso inefficienti e si affidano in larga misura a metodi di “forza bruta” per l’elaborazione delle informazioni. Per realizzare una vera AGI, è necessario sviluppare sistemi di memorizzazione e algoritmi di apprendimento più efficienti, che si ispirino maggiormente al funzionamento del cervello umano.

Un esempio a tal proposito è la capacità del cervello di integrare nuove conoscenze attraverso processi di consolidamento, simili alla fase REM del sonno umano. I modelli attuali soffrono spesso del problema del “dimenticare catastrofico” (catastrophic forgetting), in cui l’acquisizione di nuove informazioni porta alla sovrascrittura delle conoscenze apprese in precedenza. Secondo Hassabis, risolvere questo problema mediante l’apprendimento continuo (continuous learning) è una delle condizioni fondamentali per la completa automazione di compiti complessi.

Inoltre, un ruolo importante sarà svolto dalla cosiddetta distillazione dei modelli. Si tratta di trasferire le capacità di modelli giganteschi in sistemi più piccoli, efficienti ed economici, senza una significativa perdita di prestazioni. Solo superando queste barriere tecnologiche sarà possibile realizzare la transizione dall’attuale IA reattiva a sistemi AGI proattivi e basati su agenti, capaci di muoversi autonomamente nel mondo fisico e digitale.

Conclusione

La previsione secondo cui l’intelligenza artificiale generale potrebbe diventare realtà entro il 2030 segna uno degli sviluppi più affascinanti e, al contempo, più inquietanti del nostro tempo. Demis Hassabis e Google DeepMind sono all’avanguardia di questa rivoluzione tecnologica, che ha il potenziale di trasformare quasi ogni aspetto della vita umana. Gli enormi progressi nel campo delle reti neurali e dell’apprendimento automatico suggeriscono che gli ostacoli tecnici potrebbero essere superati in un futuro prevedibile.

Al contempo, gli accorati avvertimenti di Hassabis evidenziano come l’umanità sia impreparata all’avvento di un’AGI. I rischi di perdita di controllo, disallineamento e abuso richiedono un’azione immediata a livello globale. La richiesta di un organismo di controllo internazionale rappresenta un passo necessario per scongiurare una disastrosa corsa agli armamenti e garantire che lo sviluppo della superintelligenza avvenga in armonia con i valori umani. La finestra temporale per implementare le opportune architetture di sicurezza e le necessarie regolamentazioni si sta chiudendo rapidamente. Gli anni a venire determineranno se l’AGI si trasformerà nel più grande trionfo dell’umanità o nella sua più grave minaccia.

Domande frequenti