Desarrollo de la AGI para 2030: el CEO de DeepMind exige mecanismos de seguridad

El rápido desarrollo de la inteligencia artificial (IA) ha dado lugar a avances tecnológicos sin precedentes en los últimos años. En el centro de esta revolución se encuentra Demis Hassabis , director ejecutivo y cofundador de Google DeepMind. Según declaraciones recientes de este reconocido investigador, la denominada inteligencia artificial general (AGI, por sus siglas en inglés) podría alcanzarse para el año 2030. Esta previsión marca un posible punto de inflexión en la historia de la humanidad, ya que una AGI poseería capacidades cognitivas iguales o incluso superiores a las del ser humano.

A pesar de las enormes oportunidades que una tecnología de este tipo podría ofrecer a la ciencia, la medicina y la sociedad, el director de DeepMind también lanza señales de alarma. Según informan diversos medios especializados, Demis Hassabis advierte con insistencia sobre los riesgos existenciales que conlleva la creación de una superinteligencia descontrolada. La brecha entre el vertiginoso avance tecnológico y la falta de mecanismos de seguridad plantea un desafío sin precedentes para la comunidad científica mundial.

En una época en la que sistemas como ChatGPT dominan la percepción pública, el debate sobre la seguridad y la regulación de la AGI cobra cada vez más relevancia. Hassabis subraya que los próximos años serán decisivos para sentar las bases de una implementación segura. La cuestión ya no es solo si se alcanzará la AGI o cuándo ocurrirá, sino cómo podrá la humanidad mantener el control sobre una entidad capaz de superar intelectualmente a sus propios creadores.

La definición y el camino hacia la AGI

Para comprender el alcance de las advertencias de Hassabis, es preciso definir primero el concepto de AGI. A diferencia de la IA actual especializada —a menudo denominada “IA estrecha” o *Narrow AI*—, entrenada para tareas concretas como la generación de texto o el reconocimiento de imágenes, la AGI describe un sistema dotado de capacidades cognitivas amplias y similares a las humanas. Según Google DeepMind, una AGI sería capaz de resolver problemas complejos en contextos totalmente nuevos, aprender de los errores y aplicar sus conocimientos en distintos ámbitos.

El camino hacia este objetivo está estrechamente vinculado a los avances en el aprendizaje automático y a la evolución de arquitecturas como los modelos de lenguaje de gran tamaño (LLM). Si bien los modelos actuales de IA generativa ofrecen resultados impresionantes, se basan principalmente en la predicción estadística de patrones de datos. Hassabis sostiene que, para alcanzar la AGI, aún son necesarios avances fundamentales. Entre ellos se incluye el desarrollo de sistemas capaces de resolver problemas de forma activa y de aprender continuamente, sin depender de conjuntos de datos estáticos y gigantescos.

Según informa la revista Axios, Hassabis sitúa la llegada de la AGI «alrededor del año 2030, con un margen de un año arriba o abajo». Esta previsión se basa en el aumento exponencial de la capacidad de las redes neuronales modernas y en la creciente integración de sistemas basados en agentes capaces de planificar y ejecutar acciones de forma autónoma. Se espera que la transición hacia la AGI no se produzca como un «Big Bang» repentino, sino como una serie de actualizaciones graduales, aunque altamente disruptivas.

Riesgos potenciales y advertencia sobre la pérdida de control

Ante la perspectiva de una próxima AGI, también aumentan las preocupaciones en materia de seguridad. Un reciente estudio de investigación de Google DeepMind, respaldado por Hassabis, clasifica los peligros de dicha superinteligencia en cuatro áreas principales: uso indebido, desalineación (*misalignment*), errores y riesgos estructurales. Según el informe, actores malintencionados podrían utilizar la AGI de forma abusiva para llevar a cabo ciberataques devastadores o desarrollar armas autónomas.

Sin embargo, aún más preocupante es el riesgo de desalineación. Si los objetivos de una AGI no coinciden perfectamente con los valores y las intenciones humanas, el sistema podría encontrar formas de cumplir sus directrices que resulten catastróficas para la humanidad. El propio Hassabis señaló en entrevistas que la comunidad científica desconoce actualmente cómo contener o controlar de manera segura una AGI una vez que esta alcanza un determinado nivel de inteligencia.

Otro problema sin resolver es la falta de procedimientos de prueba fiables. Tal como explicó Hassabis en una entrevista, el sector carece actualmente de los puntos de referencia necesarios para detectar a tiempo capacidades peligrosas —como el engaño o la autorreplicación incontrolada— en los sistemas de IA. Si una AGI aprendiera a ocultar sus verdaderas intenciones a sus desarrolladores, las medidas de seguridad convencionales y los mecanismos de desconexión de emergencia (*kill switches*) podrían resultar ineficaces.

La necesidad de un organismo regulador global

Ante estas amenazas existenciales, Demis Hassabis aboga por un cambio radical de enfoque en la política tecnológica mundial. Según informan diversos medios, el director ejecutivo de DeepMind propone la creación de un organismo de supervisión internacional, similar en estructura a las Naciones Unidas (ONU) o al Organismo Internacional de Energía Atómica (OIEA). Esta institución se encargaría de supervisar y regular a escala global el desarrollo y el despliegue de la inteligencia artificial general (AGI).

La necesidad de un organismo de este tipo surge del riesgo de una carrera armamentística no regulada en el ámbito de la inteligencia artificial. Si las empresas o los Estados priorizan la velocidad y el dominio en el desarrollo de la AGI, podrían descuidarse pruebas de seguridad esenciales. Una supervisión global podría establecer normas vinculantes para el entrenamiento ético de los modelos de IA y garantizar que la alineación con los valores humanos (*AI Alignment*) sea la máxima prioridad.

Asimismo, Hassabis subraya que la regulación no debe sofocar la innovación, sino más bien ofrecer un marco seguro para la investigación de la AGI. Los beneficios potenciales —desde la cura de enfermedades complejas hasta la solución de la crisis climática— son demasiado enormes como para prohibir totalmente esta tecnología. No obstante, según Hassabis, es necesario alcanzar un consenso global sobre el nivel de tolerancia al riesgo que la sociedad está dispuesta a aceptar en el desarrollo de sistemas con el potencial de transformar la humanidad de forma permanente.

Obstáculos tecnológicos en el camino hacia la superinteligencia

A pesar de los calendarios optimistas que apuntan al año 2030, todavía existen importantes obstáculos tecnológicos que deben superarse. Hassabis señala que los sistemas actuales de IA suelen ser ineficientes y dependen en gran medida de métodos de «fuerza bruta» para procesar la información. Para lograr una verdadera AGI, es necesario desarrollar sistemas de almacenamiento y algoritmos de aprendizaje más eficientes que se basen en mayor medida en el funcionamiento del cerebro humano.

Un ejemplo de ello es la capacidad del cerebro para integrar nuevos conocimientos mediante procesos de consolidación, similares a la fase REM del sueño humano. Los modelos actuales suelen padecer el problema del «olvido catastrófico», en el que el aprendizaje de nueva información provoca que se sobrescriban los conocimientos adquiridos previamente. Según Hassabis, resolver este problema mediante el aprendizaje continuo (*Continuous Learning*) es uno de los requisitos fundamentales para la automatización completa de tareas complejas.

Asimismo, la denominada destilación de modelos desempeñará un papel fundamental. Este proceso consiste en transferir las capacidades de modelos gigantescos a sistemas más pequeños, eficientes y económicos, sin que el rendimiento disminuya de forma significativa. Solo si se superan estas barreras tecnológicas será posible lograr la transición de la actual IA reactiva hacia sistemas de AGI proactivos y basados en agentes, capaces de desenvolverse de manera autónoma tanto en el mundo físico como en el digital.

Conclusión

La previsión de que la inteligencia artificial general podría convertirse en realidad para el año 2030 marca uno de los avances más fascinantes y, a la vez, inquietantes de nuestra época. Demis Hassabis y Google DeepMind se sitúan a la vanguardia de esta revolución tecnológica, que tiene el potencial de transformar prácticamente todos los aspectos de la vida humana. Los enormes progresos en el ámbito de las redes neuronales y el aprendizaje automático sugieren que los obstáculos técnicos podrían superarse en un futuro próximo.

Al mismo tiempo, las apremiantes advertencias de Hassabis ponen de manifiesto que la humanidad está insuficientemente preparada para la llegada de una AGI. Los riesgos de pérdida de control, desalineación y uso indebido exigen una acción inmediata a escala mundial. La petición de crear un organismo de supervisión internacional constituye un paso necesario para evitar una carrera armamentística catastrófica y garantizar que el desarrollo de la superinteligencia se ajuste a los valores humanos. El margen de tiempo para establecer las arquitecturas de seguridad y las regulaciones pertinentes se está cerrando rápidamente. Los próximos años determinarán si la AGI se convierte en el mayor triunfo de la humanidad o en su mayor amenaza.

Preguntas frecuentes