Barbara
GEOFFREY HINTON, LE « PARRAIN DE L’INTELLIGENCE ARTIFICIELLE », QUITTE GOOGLE ET MET EN GARDE CONTRE LES RISQUES DE L’AI
Le célèbre spécialiste en intelligence artificielle (IA), Geoffrey Hinton, a annoncé sa démission de Google et a exprimé ses inquiétudes quant à la technologie. Selon le New York Times, il a cité des préoccupations concernant la propagation de la désinformation, la possibilité que l’IA bouleverse le marché de l’emploi et les risques existentiels liés à la création d’une véritable intelligence digitale.
Hinton, un Britannico-Canadien, est considéré comme une figure de proue de la communauté de l’apprentissage profond. En 2012, il a créé un réseau neuronal avec deux de ses étudiants de l’université de Toronto. En 2018, il a reçu le Prix Turing, conjointement avec Yoshua Bengio et Yann LeCun, pour leur travail sur l’apprentissage profond.
LE REGRET DE HINTON ET LES DANGERS DE L’AI
Hinton, âgé de 75 ans, a déclaré qu’il avait rejoint Google en 2013 après que sa société, DNNresearch, avait été acquise par le géant de la recherche. Il avait alors annoncé qu’il prévoyait de « diviser son temps entre ses recherches universitaires et son travail chez Google ». Selon The Guardian, il a aidé à développer la technologie d’IA de l’entreprise et l’approche qu’il a pionnière a ouvert la voie aux systèmes actuels tels que ChatGPT.
Il a déclaré au New York Times qu’il avait cru jusqu’à l’année dernière que Google avait été un « gardien convenable » de la technologie, mais que cela avait changé depuis que Microsoft avait commencé à intégrer un chatbot dans son moteur de recherche Bing. Le géant de la recherche commençait à s’inquiéter du risque pour son entreprise de recherche.
Hinton a exprimé des inquiétudes quant aux risques posés par les chatbots qui peuvent devenir plus intelligents que les humains et être exploités par les « mauvais acteurs ». En outre, l’expert a également exprimé des craintes concernant le « risque existentiel de ce qui se passe lorsque ces choses deviennent plus intelligentes que nous ».
Il a averti que l’IA remplacera éventuellement des emplois de parajuriste, d’assistant personnel et d’autres tâches fastidieuses, et peut-être même davantage à l’avenir.
LA RÉACTION DE GOOGLE
Jeff Dean, le scientifique en chef de Google a déclaré dans une déclaration à The Guardian que Google appréciait les contributions de Hinton à l’entreprise au cours de la dernière décennie. Il a ajouté que Google reste engagé dans une approche responsable de l’IA, comme en témoigne sa publication d’un ensemble de principes pour l’IA.
De son côté, Alphabet a annoncé qu’elle fusionnait son équipe interne de recherche en IA (Google Brain) avec la société britannique DeepMind, acquise en 2014 pour 500 millions de dollars.
LES DANGERS DE L’AI SELON LES EXPERTS
Geoffrey Hinton n’est pas seul à s’inquiéter des dangers liés à l’IA. Le mois dernier, la Chambre de commerce américaine a appelé à la réglementation de la technologie de l’IA, ce qui constitue un revirement surprenant compte tenu de son opposition traditionnelle à la réglementation.
Des chercheurs en IA et des personnalités de l’industrie technologique tels qu’Elon Musk ont également lancé un appel à une pause dans le développement des systèmes d’IA de pointe pour « donner à la société une chance de s’adapter ».
Stephen Hawking avait prévenu que l’intelligence artificielle pourrait représenter une menace existentielle pour l’humanité et pouvait vouloir dire la fin de la vie telle que nous la connaissons sur la planète Terre.
De son côté, Musk avait précédemment déclaré que l’IA représentait une véritable menace pour l’humanité s’il était incontrôlé.
Sources :
– New York Times : https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html
– The Guardian : https://www.theguardian.com/technology/2023/may/02/geoffrey-hinton-godfather-of-ai-quits-google-warns-dangers-of-machine-learning
– Silicon UK : https://www.silicon.co.uk/information-management/ai/geoffrey-hinton-quits-google-ai-fears-409699
