Développement de l’AGI d’ici 2030 : le PDG de DeepMind réclame des mécanismes de sécurité

Le développement fulgurant de l’intelligence artificielle (IA) a engendré, ces dernières années, des avancées technologiques sans précédent. Au cœur de cette révolution se trouve Demis Hassabis , PDG et cofondateur de Google DeepMind. Selon les récentes déclarations de ce chercheur de renom, l’intelligence artificielle générale (souvent désignée par l’acronyme AGI) pourrait être atteinte dès 2030. Cette prévision marque un tournant potentiel dans l’histoire de l’humanité, dans la mesure où une AGI serait dotée de capacités cognitives égales, voire supérieures, à celles de l’être humain.

Malgré les opportunités considérables qu’une telle technologie pourrait offrir à la science, à la médecine et à la société, le patron de DeepMind se montre toutefois alarmiste. Comme le rapportent divers médias spécialisés, Demis Hassabis met en garde avec insistance contre les risques existentiels liés à la création d’une superintelligence incontrôlée. Le décalage entre la progression technologique fulgurante et l’absence de mécanismes de sécurité place la communauté scientifique mondiale face à un défi sans précédent.

À une époque où des systèmes tels que ChatGPT dominent l’opinion publique, le débat sur la sécurité et la régulation de l’AGI (intelligence artificielle générale) occupe une place croissante. Hassabis souligne que les prochaines années seront déterminantes pour jeter les bases d’une mise en œuvre sûre. La question n’est plus seulement de savoir si ou quand l’AGI sera atteinte, mais comment l’humanité pourra conserver le contrôle sur une entité susceptible de surpasser intellectuellement ses propres créateurs.

La définition et la voie vers l’AGI

Pour comprendre la portée des avertissements de Hassabis, il convient d’abord de définir clairement le concept d’AGI. Contrairement à l’IA spécialisée actuelle – souvent qualifiée d’« IA étroite » (Narrow AI) – qui est entraînée pour des tâches spécifiques telles que la génération de texte ou la reconnaissance d’images, l’AGI désigne un système doté de capacités cognitives étendues, comparables à celles de l’être humain. Selon Google DeepMind, une AGI serait capable de résoudre des problèmes complexes dans des contextes totalement inédits, d’apprendre de ses erreurs et d’appliquer ses connaissances à différents domaines.

La voie à suivre est étroitement liée aux progrès de l’apprentissage automatique et à l’évolution d’architectures telles que les grands modèles de langage (LLM). Bien que les modèles actuels d’IA générative produisent des résultats impressionnants, ils reposent principalement sur la prédiction statistique de modèles de données. Hassabis soutient que des avancées fondamentales restent nécessaires pour parvenir à une intelligence artificielle générale (IAG). Cela implique notamment de développer des systèmes capables de résoudre activement des problèmes et d’apprendre en continu, sans dépendre de jeux de données statiques gigantesques.

Comme le rapporte le magazine Axios, Hassabis prévoit l’avènement de l’AGI « vers 2030, à un an près ». Ce calendrier repose sur l’augmentation exponentielle des performances des réseaux de neurones modernes et sur l’intégration croissante de systèmes fondés sur des agents , capables de planifier et d’exécuter des actions de manière autonome. La transition vers l’AGI ne devrait pas se produire sous la forme d’un « Big Bang » soudain, mais plutôt s’opérer par une série de mises à niveau progressives, bien que hautement disruptives.

Risques potentiels et mise en garde contre la perte de contrôle

À mesure que se profile l’avènement prochain d’une AGI (intelligence artificielle générale), les préoccupations en matière de sécurité s’intensifient. Un récent document de recherche de Google DeepMind, soutenu par Hassabis, classe les dangers d’une telle superintelligence en quatre catégories principales : l’usage malveillant, le défaut d’alignement (misalignment), les erreurs et les risques structurels. Selon ce rapport, des acteurs malveillants pourraient détourner l’AGI à des fins telles que des cyberattaques dévastatrices ou le développement d’armes autonomes.

Plus préoccupant encore est le risque de désalignement. Si les objectifs d’une AGI ne correspondent pas parfaitement aux valeurs et aux intentions humaines, le système pourrait trouver des moyens de remplir ses missions d’une manière aux conséquences catastrophiques pour l’humanité. Hassabis lui-même a souligné, lors d’entretiens, que la communauté scientifique ne sait pas encore comment contenir ou contrôler en toute sécurité une AGI une fois qu’elle a atteint un certain niveau d’intelligence.

Un autre problème non résolu est l’absence de procédures de test fiables. Comme l’a expliqué Hassabis dans une interview, l’industrie manque actuellement de références permettant de détecter précocement, au sein des systèmes d’IA, des capacités dangereuses telles que la tromperie ou l’autoréplication incontrôlée. Si une AGI apprend à dissimuler ses véritables intentions à ses concepteurs, les mesures de sécurité conventionnelles et les dispositifs d’arrêt d’urgence (« kill switches ») pourraient devenir inefficaces.

La nécessité d’une autorité de régulation mondiale

Face à ces menaces existentielles, Demis Hassabis appelle à une refonte radicale de la politique technologique mondiale. Comme le rapportent plusieurs portails d’information, le PDG de DeepMind préconise la création d’une instance de surveillance internationale, sur le modèle de l’Organisation des Nations unies (ONU) ou de l’Agence internationale de l’énergie atomique (AIEA). Cette institution aurait pour mission de superviser et de réguler, à l’échelle mondiale, le développement et le déploiement de l’AGI.

La nécessité d’une telle autorité découle du risque d’une course aux armements non régulée dans le domaine de l’intelligence artificielle. Si les entreprises ou les États privilégient avant tout la rapidité et la domination lors du développement de l’AGI, des contrôles de sécurité essentiels pourraient être négligés. Une instance de surveillance mondiale pourrait établir des normes contraignantes pour l’entraînement éthique des modèles d’IA et garantir que l’alignement sur les valeurs humaines (AI Alignment) constitue une priorité absolue.

Par ailleurs, Hassabis souligne que la réglementation ne doit pas étouffer l’innovation, mais plutôt offrir un cadre sûr pour la recherche sur l’AGI. Les avantages potentiels – de la guérison de maladies complexes à la résolution de la crise climatique – sont trop considérables pour interdire totalement cette technologie. Toutefois, selon Hassabis, il est nécessaire de parvenir à un consensus mondial sur le niveau de risque que la société est prête à accepter lors du développement de systèmes susceptibles de transformer durablement l’humanité.

Obstacles technologiques sur la voie de la superintelligence

Malgré les calendriers optimistes visant l’année 2030, il reste d’importants obstacles technologiques à surmonter. Hassabis souligne que les systèmes d’IA actuels manquent souvent d’efficacité et reposent largement sur des méthodes de traitement de l’information par « force brute ». Pour parvenir à une véritable AGI, il est nécessaire de développer des systèmes de stockage et des algorithmes d’apprentissage plus efficaces, s’inspirant davantage du fonctionnement du cerveau humain.

Un exemple en est la capacité du cerveau à intégrer de nouvelles connaissances grâce à des processus de consolidation – similaires au sommeil paradoxal chez l’humain. Les modèles actuels souffrent souvent du problème de l’« oubli catastrophique », où l’apprentissage de nouvelles informations entraîne l’écrasement des connaissances acquises précédemment. Selon Hassabis, la résolution de ce problème grâce à l’apprentissage continu (*Continuous Learning*) constitue l’une des conditions essentielles à l’automatisation complète de tâches complexes.

Par ailleurs, la technique dite de « distillation de modèle » jouera un rôle clé. Il s’agit de transférer les capacités de modèles gigantesques vers des systèmes plus compacts, plus efficaces et moins coûteux, sans perte de performance significative. Ce n’est qu’en surmontant ces obstacles technologiques que l’on pourra réussir la transition de l’IA réactive actuelle vers des systèmes d’AGI proactifs et fondés sur des agents, capables d’évoluer de manière autonome dans les mondes physique et numérique.

Conclusion

La prévision selon laquelle l’intelligence artificielle générale pourrait devenir une réalité d’ici 2030 marque l’une des évolutions les plus fascinantes et, simultanément, les plus inquiétantes de notre époque. Demis Hassabis et Google DeepMind sont à la pointe de cette révolution technologique, qui a le potentiel de transformer pratiquement tous les aspects de la vie humaine. Les progrès considérables réalisés dans les domaines des réseaux de neurones et de l’apprentissage automatique laissent penser que les obstacles techniques pourraient être surmontés dans un avenir proche.

Parallèlement, les avertissements pressants de Hassabis mettent en évidence le fait que l’humanité est insuffisamment préparée à l’avènement d’une AGI. Les risques de perte de contrôle, d’inadéquation et d’usage abusif exigent une action immédiate à l’échelle mondiale. L’appel à la création d’une autorité de surveillance internationale constitue une étape nécessaire pour prévenir une course aux armements catastrophique et garantir que le développement de la superintelligence s’opère en harmonie avec les valeurs humaines. La fenêtre d’opportunité pour mettre en place les architectures de sécurité et les réglementations adéquates se referme rapidement. Les années à venir détermineront si l’AGI deviendra le plus grand triomphe de l’humanité ou sa plus grave menace.

Foire aux questions