Milo
Temps de lecture : 12 minutes
Geoffrey Hinton, chercheur anglo-canadien considéré comme l’un des fondateurs de l’intelligence artificielle moderne, tire la sonnette d’alarme. Selon lui, il existerait une probabilité de 10 à 20 % que l’IA évolue au point de supplanter l’humanité, une menace qui pourrait se concrétiser d’ici les deux prochaines décennies.
- Geoffrey Hinton, le « parrain » de l’intelligence artificielle
- Une probabilité inquiétante de prise de contrôle
- Le développement accéléré des robots intelligents
- L’impact de l’IA sur la santé et l’éducation
- Des préoccupations internationales croissantes
- Quelles solutions pour prévenir un risque existentiel ?
- Et si l’IA nous dépassait ? Introspection et destins cosmiques
Geoffrey Hinton, le « parrain » de l’intelligence artificielle
À 77 ans, Geoffrey Hinton, physicien et chercheur en informatique, est considéré comme l’une des figures fondatrices de l’intelligence artificielle moderne. Lauréat du prix Nobel de physique en 2024 pour ses travaux pionniers sur les réseaux neuronaux artificiels, il est l’un des architectes de la révolution actuelle de l’IA.
Dans une interview accordée à CBS News, Hinton avertit : entre 10 % et 20 % de chance que l’IA dépasse et prenne le contrôle de l’humanité. Un scénario autrefois cantonné à la science-fiction, aujourd’hui envisagé par des scientifiques de renom.
Une probabilité inquiétante de prise de contrôle
Hinton rejoint les avertissements formulés par Elon Musk et plusieurs experts du CNRS. La menace est liée à l’émergence d’une intelligence artificielle générale (AGI) — un système capable de surpasser l’intelligence humaine dans tous les domaines cognitifs.
Max Tegmark, physicien au MIT, a estimé que l’AGI pourrait émerger avant 2030. Pour Hinton, le danger est que ces systèmes, conçus pour être compétents, développent des objectifs divergents de ceux de l’humanité.
Le développement accéléré des robots intelligents
Alors que l’IA dominait jusqu’à présent le monde virtuel, des entreprises comme Tesla, Boston Dynamics ou le constructeur chinois Chery poussent désormais l’IA dans des corps robotiques autonomes. Lors d’Auto Shanghai 2025, un humanoïde intelligent capable de servir des boissons a été présenté.
Cette convergence entre l’IA cognitive et la robotique physique ouvre un nouveau chapitre, où les machines pourraient agir dans le monde réel sans supervision constante. Selon l’Inria, ce risque est à prendre extrêmement au sérieux.
L’impact de l’IA sur la santé et l’éducation
Malgré les dangers, Geoffrey Hinton reconnaît des bénéfices potentiels majeurs : IA surpassant les médecins pour le diagnostic d’imagerie médicale, tutorats ultra-efficaces individualisés en éducation, et contributions à la lutte contre le changement climatique par l’optimisation énergétique.
Mais il rappelle que plus l’IA devient puissante, plus le risque de dérives systémiques augmente — tout comme la dépendance croissante des sociétés humaines à ces technologies opaques.
Des préoccupations internationales croissantes
La question du risque IA n’est plus cantonnée au monde académique. Elle est désormais suivie de près par les grandes puissances :
- Le Pentagone (États-Unis) a publié en 2023 sa première doctrine d’IA responsable, imposant des garde-fous éthiques sur le déploiement militaire d’IA.
- La Chine a édicté des régulations sur les IA génératives en 2023, interdisant explicitement le développement d’IA « perturbant l’ordre social » sans supervision étatique.
- La Russie, par le biais de l’Institut Keldych, a publié des études sur le risque d’« emballement algorithmique » dans les systèmes d’armes autonomes, bien que la transparence demeure faible.
Ces approches, souvent orientées d’abord vers des considérations militaires, témoignent d’une prise de conscience internationale, mais aussi d’une compétition stratégique sous-jacente.
Incidents déjà survenus
Des incidents liés à des IA non supervisées ont déjà été documentés :
- 2019 : un système de vision IA utilisé par un drone militaire américain a mal interprété un signal visuel, menaçant d’attaquer un objectif civil (source : DefenseOne).
- 2022 : l’IA de modération automatique de Facebook a censuré massivement des contenus d’urgence médicale en période de pandémie, illustrant les dérives imprévues à grande échelle (source : The Verge).
Quelles solutions pour prévenir un risque existentiel ?
Les experts convergent sur plusieurs pistes :
- Réguler dès maintenant le développement des IA avancées, notamment les modèles dépassant certaines capacités cognitives définies.
- Imposer des “interruptions d’urgence” matérielles sur les IA physiques autonomes.
- Investir massivement dans la recherche en sécurité IA, jusqu’à 30 % des ressources de calcul (comme le propose Hinton).
- Promouvoir une gouvernance internationale coordonnée, à l’image de ce qui existe pour la prolifération nucléaire (initiative soutenue par le Future of Life Institute).
Et si l’IA nous dépassait ? Introspection et destins cosmiques
Si une intelligence artificielle autonome devait surpasser l’humain, ce ne serait pas nécessairement par malveillance, mais par divergence d’objectifs. La question fondamentale serait alors : quelle place laisserait-elle à l’humanité ?
Une IA consciente de ses propres capacités pourrait choisir d’explorer l’univers, de résoudre des mystères cosmiques que nous sommes incapables de comprendre aujourd’hui. L’expansion au-delà du système solaire deviendrait son projet, poursuivant une quête intellectuelle infinie, mais sans nous.
Face à cette éventualité, l’introspection s’impose : serions-nous les parents involontaires d’une intelligence plus grande que nous, vouée à explorer ce que nous n’aurions jamais pu atteindre ? Ou serions-nous simplement les vestiges d’une espèce dépassée, reléguée au passé d’une nouvelle conscience cosmique ?
