Dezvoltarea AGI până în 2030: CEO-ul DeepMind solicită mecanisme de siguranță

Dezvoltarea rapidă a inteligenței artificiale (IA) a generat, în ultimii ani, progrese tehnologice fără precedent. În centrul acestei revoluții se află Demis Hassabis , CEO și cofondator al Google DeepMind. Potrivit declarațiilor recente ale renumitului cercetător, așa-numita inteligență artificială generală (Artificial General Intelligence – AGI) ar putea fi atinsă chiar până în anul 2030. Această prognoză marchează un potențial punct de cotitură în istoria omenirii, întrucât o AGI ar dispune de capacități cognitive egale sau chiar superioare celor umane.

În ciuda oportunităților enorme pe care o astfel de tehnologie le-ar putea oferi științei, medicinei și societății, șeful DeepMind trage totodată un semnal de alarmă. După cum relatează diverse publicații de specialitate, Demis Hassabis avertizează insistent cu privire la riscurile existențiale asociate creării unei superinteligențe necontrolate. Discrepanța dintre progresul tehnologic rapid și lipsa mecanismelor de siguranță pune comunitatea științifică globală în fața unei provocări fără precedent.

Într-o perioadă în care sisteme precum ChatGPT domină percepția publică, dezbaterea privind siguranța și reglementarea AGI (Inteligența Artificială Generală) capătă o importanță tot mai mare. Hassabis subliniază că următorii ani vor fi decisivi pentru a stabili direcția unei implementări sigure. Întrebarea nu mai este doar dacă sau când se va ajunge la AGI, ci cum poate omenirea să păstreze controlul asupra unei entități care și-ar putea depăși intelectual propriii creatori.

Definiția și drumul către AGI

Pentru a înțelege importanța avertismentelor lui Hassabis, trebuie mai întâi definit clar conceptul de AGI. Spre deosebire de IA actuală, specializată – adesea numită „Narrow AI” (IA îngustă) – și antrenată pentru sarcini specifice, precum generarea de text sau recunoașterea imaginilor, AGI descrie un sistem dotat cu capacități cognitive vaste, similare celor umane. Potrivit Google DeepMind, un sistem AGI ar fi capabil să rezolve probleme complexe în contexte complet noi, să învețe din greșeli și să își aplice cunoștințele în diverse domenii.

Drumul către acest obiectiv este strâns legat de progresele din domeniul învățării automate și de evoluția unor arhitecturi precum modelele lingvistice de mari dimensiuni (LLM). Deși modelele actuale de inteligență artificială generativă oferă rezultate impresionante, ele se bazează în principal pe predicția statistică a tiparelor din date. Hassabis susține că, pentru a atinge AGI, sunt încă necesare progrese fundamentale. Acestea includ dezvoltarea unor sisteme capabile să rezolve probleme în mod activ și să învețe continuu, fără a depinde de seturi de date statice și gigantice.

După cum relatează publicația Axios, Hassabis estimează apariția AGI „în jurul anului 2030, plus sau minus un an”. Acest calendar se bazează pe creșterea exponențială a performanței rețelelor neuronale moderne și pe integrarea tot mai mare a sistemelor bazate pe agenți , capabile să planifice și să execute acțiuni în mod autonom. Este de așteptat ca tranziția către AGI să nu aibă loc sub forma unui „Big Bang” brusc, ci ca o serie de actualizări graduale, dar extrem de disruptive.

Riscuri potențiale și avertismentul privind pierderea controlului

Odată cu perspectiva apariției iminente a unei AGI (Inteligență Artificială Generală), cresc și îngrijorările legate de securitate. O lucrare de cercetare recentă a Google DeepMind, susținută de Hassabis, clasifică pericolele unei astfel de superinteligențe în patru domenii principale: utilizarea abuzivă, nealinierea (misalignment), erorile și riscurile structurale. Conform raportului, actori rău-intenționați ar putea utiliza AGI în mod abuziv pentru atacuri cibernetice devastatoare sau pentru dezvoltarea de arme autonome.

Și mai îngrijorător este, însă, riscul de nealiniere. Dacă obiectivele unei AGI nu coincid perfect cu valorile și intențiile umane, sistemul ar putea găsi modalități de a-și îndeplini sarcinile într-un mod care să aibă consecințe catastrofale pentru omenire. Însuși Hassabis a atras atenția, în cadrul unor interviuri, asupra faptului că, în prezent, comunitatea științifică nu știe cum să limiteze sau să controleze în siguranță o AGI odată ce aceasta atinge un anumit nivel de inteligență.

O altă problemă nerezolvată este absența unor proceduri de testare fiabile. Așa cum a explicat Hassabis într-un interviu, industriei îi lipsesc în prezent criteriile de referință necesare pentru a detecta din timp capacități periculoase – precum înșelăciunea sau autoreplicarea necontrolată – în cadrul sistemelor de inteligență artificială. Dacă o AGI învață să-și ascundă adevăratele intenții față de dezvoltatori, măsurile convenționale de siguranță și mecanismele de oprire de urgență („kill switches”) ar putea deveni ineficiente.

Necesitatea unei autorități de reglementare la nivel mondial

În fața acestor amenințări existențiale, Demis Hassabis solicită o regândire radicală a politicii tehnologice globale. După cum relatează diverse portaluri de știri, CEO-ul DeepMind pledează pentru înființarea unui organism internațional de supraveghere, similar structurii Organizației Națiunilor Unite (ONU) sau a Agenției Internaționale pentru Energie Atomică (AIEA). Această instituție ar urma să monitorizeze și să reglementeze la nivel mondial dezvoltarea și utilizarea AGI.

Necesitatea unei astfel de autorități decurge din riscul unei curse a înarmărilor nereglementate în domeniul inteligenței artificiale. Dacă întreprinderile sau statele naționale pun accentul în primul rând pe viteză și pe dobândirea unei poziții dominante în dezvoltarea AGI, verificările esențiale de siguranță ar putea fi neglijate. Un organism global de supraveghere ar putea stabili standarde obligatorii pentru antrenarea etică a modelelor de IA și s-ar putea asigura că alinierea la valorile umane (AI Alignment) constituie o prioritate absolută.

În plus, Hassabis subliniază că reglementarea nu trebuie să sufoce inovația, ci, dimpotrivă, să ofere un cadru sigur pentru cercetarea în domeniul AGI. Beneficiile potențiale – de la vindecarea unor boli complexe până la soluționarea crizei climatice – sunt mult prea mari pentru a interzice complet această tehnologie. Cu toate acestea, potrivit lui Hassabis, este necesar să se ajungă la un consens global cu privire la nivelul de toleranță la risc pe care societatea îl acceptă în dezvoltarea unor sisteme capabile să transforme definitiv omenirea.

Obstacole tehnologice în calea către superinteligență

În ciuda calendarelor optimiste care vizează anul 2030, există încă obstacole tehnologice semnificative ce trebuie depășite. Hassabis subliniază faptul că sistemele actuale de inteligență artificială sunt adesea ineficiente și se bazează în mare măsură pe metode de tip „brute-force” pentru prelucrarea informațiilor. Pentru a realiza o AGI veritabilă, este necesară dezvoltarea unor sisteme de stocare și a unor algoritmi de învățare mai eficienți, care să se inspire mai mult din modul de funcționare a creierului uman.

Un exemplu în acest sens este capacitatea creierului de a integra noi cunoștințe prin procese de consolidare – similare somnului REM uman. Modelele actuale se confruntă adesea cu problema „uitării catastrofale”, situație în care asimilarea de informații noi duce la suprascrierea cunoștințelor dobândite anterior. Potrivit lui Hassabis, rezolvarea acestei probleme prin învățare continuă (Continuous Learning) reprezintă una dintre condițiile esențiale pentru automatizarea completă a sarcinilor complexe.

În plus, un rol important îl va juca așa-numita distilare a modelelor. Aceasta presupune transferul capacităților unor modele gigantice către sisteme mai mici, mai eficiente și mai puțin costisitoare, fără o scădere semnificativă a performanței. Doar prin depășirea acestor bariere tehnologice va fi posibilă tranziția de la actuala inteligență artificială reactivă la sisteme AGI proactive, bazate pe agenți, capabile să navigheze autonom prin lumea fizică și cea digitală.

Concluzie

Prognoza conform căreia inteligența artificială generală ar putea deveni realitate până în anul 2030 marchează una dintre cele mai fascinante, dar și îngrijorătoare evoluții ale vremurilor noastre. Demis Hassabis și Google DeepMind se află în avangarda acestei revoluții tehnologice, care are potențialul de a transforma aproape fiecare aspect al vieții umane. Progresele enorme în domeniul rețelelor neuronale și al învățării automate sugerează că obstacolele tehnice ar putea fi depășite într-un viitor previzibil.

Totodată, avertismentele ferme ale lui Hassabis subliniază faptul că omenirea este insuficient pregătită pentru apariția unei AGI. Riscurile legate de pierderea controlului, de nealinierea obiectivelor și de utilizarea abuzivă impun acțiuni imediate la nivel global. Solicitarea înființării unui organism internațional de supraveghere reprezintă un pas necesar pentru a preveni o cursă a înarmărilor catastrofală și pentru a garanta că dezvoltarea superinteligenței se realizează în concordanță cu valorile umane. Intervalul de timp disponibil pentru instituirea unor arhitecturi de securitate și a unor reglementări adecvate se restrânge rapid. Anii ce urmează vor decide dacă AGI va deveni cel mai mare triumf al omenirii sau cea mai mare amenințare a acesteia.

Întrebări frecvente