Le patron de recherche de Google met en garde contre les chatbots d'IA «hallucinants»

# GOOGLE AVERTIT DE L’USAGE IMPRUDENT DES CHATBOTS AVEC SON PROPRE OUTIL DE CONVERSATION BARD

Le chef du moteur de recherche de Google, Prabhakar Raghavan, a averti de la possibilité d’« hallucinations » causées par les chatbots, alors que la société s’apprête à lancer son propre outil de conversation, Bard, pour concurrencer l’outil de l’entreprise locale ChatGPT. Raghavan a expliqué dans une interview accordée au journal allemand Welt am Sonntag, publiée le samedi 29 mai, que les chatbots peuvent parfois mener à une « hallucination », qui se produit lorsqu’une machine fournit une réponse convaincante mais entièrement fictive. Cela est dû aux modèles de langage sur lesquels sont basés les chatbots, qui sont tellement « énormes » qu’il est « impossible pour les humains de surveiller chaque comportement concevable du système », a-t-il ajouté.

Google s’apprête à intégrer des fonctionnalités de chatbot dans ses fonctions de recherche, en particulier pour les questions qui n’ont pas de réponse unique, comme l’a décrit l’entreprise lors d’une conférence de presse le lundi précédent. Toutefois, Raghavan a souligné la nécessité de tester l’outil sur une assez grande échelle pour être sûr des mesures à utiliser pour vérifier la véracité des réponses. Pour Google, il est essentiel de se tenir à un niveau extrêmement élevé pour maintenir la confiance du public.

# L’ERREUR DE BARD ET SES RÉPERCUSSIONS

La semaine dernière, Google a annoncé qu’il publierait son propre chatbot Bard auprès du grand public après les tests sur un groupe d’utilisateurs limités. Toutefois, le résultat de la publicité de l’outil a été désastreux, car Bard a donné des informations incorrectes. Cette erreur de la part de Google a été qualifiée de « catastrophe » par certains observateurs, car elle a entraîné une chute du cours de l’action de l’entreprise et une perte de 100 milliards de dollars de sa valeur de marché.

En effet, Google avait déjà déclaré une « alerte rouge » l’année dernière après la publication publique de ChatGPT, soutenu par Microsoft’s OpenAI. La société a donc diffusé une vidéo de démonstration de Bard, affirmant que « Bard peut répondre à toutes vos questions, qu’il s’agisse de biologie, d’histoire, de médecine, de finance ou de simplement bavarder », mais les résultats ont démontré le contraire.

La situation est interprétée par certains analystes comme un rappel de la nécessité d’exercer une grande prudence lors des tests des technologies à grande échelle, en particulier celles qui sont difficiles à surveiller.

Sources:
– https://www.silicon.co.uk/e-innovation/artificial-intelligence/google-warns-hallucinating-ai-chatbots-497022
– https://www.silicon.co.uk/e-innovation/artificial-intelligence/google-ai-chatbot-496211
– https://www.silicon.co.uk/e-enterprise/financial-market/google-shares-still-down-after-bard-ai-chatbot-blunder-497054