Desenvolvimento de AGI até 2030: CEO da DeepMind pede mecanismos de segurança

O rápido desenvolvimento da inteligência artificial (IA) proporcionou avanços tecnológicos sem precedentes nos últimos anos. No centro dessa revolução está Demis Hassabis , CEO e cofundador da Google DeepMind. Segundo declarações recentes do renomado pesquisador, a chamada inteligência artificial geral (AGI) poderá ser alcançada já até o ano de 2030. Essa previsão marca um possível ponto de virada na história da humanidade, uma vez que uma AGI possuiria capacidades cognitivas equivalentes ou até mesmo superiores às dos seres humanos.

Apesar das enormes oportunidades que tal tecnologia poderia oferecer à ciência, à medicina e à sociedade, o chefe da DeepMind também adota um tom de alerta. Conforme relatam diversos veículos especializados, Demis Hassabis alerta enfaticamente para os riscos existenciais associados à criação de uma superinteligência descontrolada. A discrepância entre o rápido avanço tecnológico e a ausência de mecanismos de segurança coloca a comunidade científica global diante de um desafio sem precedentes.

Em um momento em que sistemas como o ChatGPT dominam a percepção pública, o debate sobre a segurança e a regulamentação da AGI ganha cada vez mais destaque. Hassabis ressalta que os próximos anos serão decisivos para definir os rumos de uma implementação segura. A questão já não é apenas se ou quando a AGI será alcançada, mas sim como a humanidade poderá manter o controle sobre uma entidade capaz de superar intelectualmente seus próprios criadores.

A definição e o caminho para a AGI

Para compreender o alcance dos alertas de Hassabis, é preciso primeiro definir claramente o conceito de AGI. Ao contrário da IA especializada de hoje — frequentemente chamada de “IA restrita” (*Narrow AI*) —, treinada para tarefas específicas como geração de texto ou reconhecimento de imagens, a AGI descreve um sistema com capacidades cognitivas abrangentes e semelhantes às humanas. Segundo a Google DeepMind, uma AGI seria capaz de resolver problemas complexos em contextos totalmente novos, aprender com erros e aplicar seu conhecimento em diferentes domínios.

O caminho para isso está fortemente vinculado aos avanços no campo do aprendizado de máquina e ao desenvolvimento de arquiteturas como os Grandes Modelos de Linguagem (LLMs). Embora os atuais modelos de IA generativa apresentem resultados impressionantes, eles se baseiam principalmente na previsão estatística de padrões de dados. Hassabis argumenta que ainda são necessários avanços fundamentais para alcançar a AGI. Isso inclui o desenvolvimento de sistemas capazes de realizar a resolução ativa de problemas e de aprender continuamente, sem depender de conjuntos de dados gigantescos e estáticos.

Conforme relata a revista Axios, Hassabis prevê a chegada da AGI “por volta do ano 2030, com uma margem de um ano para mais ou para menos”. Esse cronograma baseia-se no aumento exponencial de desempenho das redes neurais modernas e na crescente integração de sistemas baseados em agentes , capazes de planejar e executar ações de forma autônoma. Espera-se que a transição para a AGI não ocorra como um “Big Bang” repentino, mas sim como uma série de atualizações graduais, porém altamente disruptivas.

Riscos potenciais e o alerta sobre a perda de controle

Com a perspectiva de uma AGI em breve, crescem também as preocupações com a segurança. Um estudo recente do Google DeepMind, apoiado por Hassabis, classifica os perigos de tal superinteligência em quatro áreas principais: uso indevido, desalinhamento, erros e riscos estruturais. Segundo o relatório, agentes mal-intencionados poderiam utilizar a AGI indevidamente para realizar ataques cibernéticos devastadores ou desenvolver armas autônomas.

Ainda mais preocupante, no entanto, é o risco de desalinhamento. Se os objetivos de uma AGI não estiverem em perfeita consonância com os valores e as intenções humanas, o sistema poderá encontrar maneiras de cumprir suas diretrizes de uma forma que resulte em consequências catastróficas para a humanidade. O próprio Hassabis observou, em entrevistas, que a comunidade científica ainda não sabe como conter ou controlar uma AGI de forma segura depois que ela atinge um determinado nível de inteligência.

Outro problema não resolvido é a falta de procedimentos de teste confiáveis. Como Hassabis explicou em uma entrevista, a indústria carece atualmente de parâmetros de referência para detectar precocemente capacidades perigosas — como o engano ou a autorreplicação descontrolada — em sistemas de IA. Se uma AGI aprender a ocultar suas verdadeiras intenções de seus desenvolvedores, as medidas de segurança convencionais e os mecanismos de desligamento de emergência (*kill switches*) poderão se tornar ineficazes.

A necessidade de uma autoridade reguladora global

Diante dessas ameaças existenciais, Demis Hassabis defende uma mudança radical de abordagem na política tecnológica global. Conforme relatam diversos portais de notícias, o CEO da DeepMind propõe a criação de um órgão regulador internacional, com estrutura semelhante à das Nações Unidas (ONU) ou da Agência Internacional de Energia Atômica (AIEA). Essa instituição teria a função de monitorar e regular o desenvolvimento e o uso da AGI em escala mundial.

A necessidade de tal órgão decorre do risco de uma corrida armamentista desregulamentada no campo da inteligência artificial. Se empresas ou Estados-nação priorizarem a velocidade e a dominância no desenvolvimento da AGI, verificações de segurança essenciais poderão ser negligenciadas. Uma supervisão global poderia estabelecer padrões obrigatórios para o treinamento ético de modelos de IA e garantir que o alinhamento com valores humanos (AI Alignment) receba prioridade máxima.

Além disso, Hassabis ressalta que a regulamentação não deve sufocar a inovação, mas sim oferecer uma estrutura segura para a pesquisa em AGI. Os benefícios potenciais — desde a cura de doenças complexas até a solução da crise climática — são imensos demais para que a tecnologia seja totalmente proibida. No entanto, segundo Hassabis, é preciso alcançar um consenso global sobre qual nível de tolerância ao risco a sociedade aceita no desenvolvimento de sistemas com potencial para transformar a humanidade de forma permanente.

Obstáculos tecnológicos no caminho para a superinteligência

Apesar dos cronogramas otimistas para o ano de 2030, ainda existem obstáculos tecnológicos significativos a serem superados. Hassabis ressalta que os sistemas atuais de IA são frequentemente ineficientes e dependem fortemente de métodos de “força bruta” para o processamento de informações. Para concretizar uma AGI verdadeira, é necessário desenvolver sistemas de armazenamento e algoritmos de aprendizado mais eficientes, que se baseiem mais estreitamente no funcionamento do cérebro humano.

Um exemplo disso é a capacidade do cérebro de integrar novos conhecimentos por meio de processos de consolidação – semelhantes ao sono REM humano. Modelos atuais frequentemente sofrem com o problema do “esquecimento catastrófico”, no qual o aprendizado de novas informações leva à sobrescrita de conhecimentos adquiridos anteriormente. Segundo Hassabis, a solução desse problema por meio do aprendizado contínuo (*Continuous Learning*) é um dos pré-requisitos mais importantes para a automação completa de tarefas complexas.

Além disso, a chamada destilação de modelos desempenhará um papel importante. Trata-se de transferir as capacidades de modelos gigantescos para sistemas menores, mais eficientes e de menor custo, sem uma perda significativa de desempenho. Somente superando essas barreiras tecnológicas será possível realizar a transição da IA reativa atual para sistemas de AGI proativos e baseados em agentes, capazes de navegar de forma autônoma pelos mundos físico e digital.

Conclusão

A previsão de que a inteligência artificial geral poderá se tornar realidade até o ano de 2030 marca um dos desenvolvimentos mais fascinantes e, ao mesmo tempo, mais inquietantes do nosso tempo. Demis Hassabis e a Google DeepMind estão na vanguarda dessa revolução tecnológica, que tem o potencial de transformar praticamente todos os aspectos da vida humana. Os enormes avanços nas áreas de redes neurais e aprendizado de máquina indicam que os obstáculos técnicos poderão ser superados em um futuro próximo.

Ao mesmo tempo, os alertas contundentes de Hassabis deixam claro que a humanidade está insuficientemente preparada para a chegada de uma AGI. Os riscos de perda de controle, desalinhamento e uso indevido exigem uma ação imediata em nível global. A demanda por um órgão regulador internacional é um passo necessário para evitar uma corrida armamentista catastrófica e garantir que o desenvolvimento da superinteligência ocorra em consonância com os valores humanos. A janela de oportunidade para estabelecer as arquiteturas de segurança e as regulamentações adequadas está se fechando rapidamente. Os próximos anos determinarão se a AGI se tornará o maior triunfo da humanidade ou a sua maior ameaça.

Perguntas frequentes