Mathieu
### ÉMERGENCE DE L’INTELLIGENCE ARTIFICIELLE GÉNÉRALE (IAG): VERS UN CHANGEMENT RÉVOLUTIONNAIRE
La montée de l’intelligence artificielle générale (IAG) – des systèmes capables d’accomplir n’importe quelle tâche humaine – pourrait être l’événement le plus important de l’histoire humaine, impactant radicalement tous les aspects de nos vies collectives. Cependant, l’IAG, qui pourrait émerger prochainement, reste un concept énigmatique et controversé. Nous manquons d’une définition claire de ce qu’elle est, nous ne savons pas comment la détecter, et nous ne savons pas comment la gérer si elle apparaît enfin.
### MANQUE DE RIGUEUR DANS LES RECHERCHES SUR L’IAG
Ce que nous savons, cependant, c’est que les approches actuelles pour étudier l’IAG ne sont pas assez rigoureuses. Dans l’industrie, où de nombreuses avancées en intelligence artificielle ont lieu, des sociétés comme OpenAI s’efforcent activement de créer de l’IAG, mais incluent la recherche sur les dimensions sociales et les problèmes de sécurité de l’IAG seulement selon le bon vouloir de leurs dirigeants. Tandis que la communauté académique examine l’IAG de manière plus large, en cherchant les caractéristiques d’une nouvelle forme de vie intelligente, les institutions académiques ne disposent pas des ressources nécessaires pour un effort significatif.
### LEÇONS TIRÉES DE L’INSTITUT SETI POUR LA RECHERCHE SUR L’IAG
Penser à l’IAG nous rappelle un autre phénomène mal compris et spéculatif avec le potentiel d’avoir un impact transformateur sur l’humanité. Nous croyons que les efforts de l’Institut SETI pour détecter une intelligence extraterrestre avancée démontrent plusieurs concepts précieux qui peuvent être adaptés pour la recherche sur l’IAG. Au lieu de prendre une position dogmatique ou sensationnaliste, le projet SETI adopte une approche scientifiquement rigoureuse et pragmatique – mettant en place les mécanismes les plus efficaces pour la définition, la détection et l’interprétation des signes d’une possible intelligence extraterrestre.
### DÉFINIR ET MESURER L’IAG: UN DÉFI COMPLEXE
Le défi crucial est de définir précisément ce qu’il faut rechercher. Dans le cas du SETI, les chercheurs ont décidé de rechercher des signaux à bande étroite distincts des autres signaux radio présents dans le fond cosmique. Ces signaux sont considérés comme intentionnels et uniquement produits par une vie intelligente.
En ce qui concerne l’IAG, les choses sont bien plus complexes. Aujourd’hui, il n’existe pas de définition claire de “l’intelligence artificielle générale” (d’autres termes, tels que l’IA forte, l’intelligence de niveau humain et la superintelligence sont également largement utilisés pour décrire des concepts similaires). Le terme est difficile à définir car il contient d’autres termes imprécis et controversés. Bien que “l’intelligence” soit définie dans le dictionnaire Oxford comme “la capacité à acquérir et à appliquer des connaissances et des compétences”, il y a encore beaucoup de débats sur les compétences impliquées et sur la manière dont elles peuvent être mesurées. Le terme “général” est également ambigu. Une IAG doit-elle pouvoir faire tout ce qu’un humain peut faire? La généralité est-elle une qualité que nous mesurons comme une variable binaire ou continue?
### MESURES DE L’INTELLIGENCE ARTIFICIELLE: VERS UNE APPROCHE INTERDISCIPLINAIRE
L’évaluation de l’intelligence artificielle est une question de longue date dans le domaine. Dans un célèbre document de 1950, Alan Turing a proposé le “jeu d’imitation”, maintenant plus largement connu sous le nom de Test de Turing, qui évalue si des interlocuteurs humains peuvent distinguer s’ils discutent avec un humain ou une machine. Bien que le Test de Turing ait été utile pour les évaluations par le passé, la montée des grands modèles de langage a clairement montré qu’il n’est pas un test complet pour mesurer l’intelligence.
Ces évaluations doivent être dirigées vers différentes dimensions de l’intelligence. Bien que les mesures de l’intelligence humaine suscitent des controverses, les tests de QI peuvent fournir une ligne de base initiale pour évaluer une dimension. De plus, des tests cognitifs sur des sujets tels que la résolution créative de problèmes, l’apprentissage et l’adaptation rapides, le raisonnement, le comportement orienté vers un objectif et la conscience de soi seraient nécessaires pour évaluer l’intelligence générale d’un système.
### PROTOCOLES POUR UNE INTERACTION SÉCURISÉE AVEC L’IAG
Nous reconnaissons volontiers que l’analogie avec le SETI a ses limites. Si l’IAG émerge, il s’agira d’un phénomène créé par l’homme. Nous allons probablement progressivement concevoir l’IAG et la voir émerger lentement, donc la détection pourrait être un processus se déroulant sur une période de plusieurs années, voire décennies. En revanche, l’existence de la vie extraterrestre est quelque chose sur laquelle nous n’avons aucun contrôle, et le contact pourrait se produire très soudainement.
### L’IMPORTANCE D’UNE APPROCHE MÉTHODIQUE ET INTERDISCIPLINAIRE
Pour mieux se préparer, nous avons besoin d’une approche méthodique, complète, fondée sur des principes et interdisciplinaire pour définir, détecter et traiter l’IAG. Avec le SETI comme source d’inspiration, nous proposons que la communauté de recherche sur l’IAG établisse un cadre similaire pour garantir une approche impartiale, scientifique, transparente et collaborative pour traiter possiblement le développement le plus important de l’histoire humaine.
