LES RISQUES DE L’INTELLIGENCE ARTIFICIELLE SUR GOOGLE

IMAGINEZ CE SCÉNARIO : vous avez prévu de passer une soirée tranquille pour vous détendre et décidez de faire une pizza maison. Vous assemblez votre pizza, la mettez au four et avez hâte de commencer à manger. Mais une fois que vous vous apprêtez à prendre une bouchée de votre création huileuse, vous rencontrez un problème – le fromage tombe immédiatement. Frustré, vous vous tournez vers Google pour une solution.

" Ajoutez de la colle ", répond Google. " Mélangez environ 1/8 de tasse de colle Elmer avec la sauce. La colle non toxique fonctionnera. "

ALORS, OUI, NE FAITES PAS CELA. À l’heure où j’écris ces lignes, c’est ce que recommandera la nouvelle fonctionnalité IA d’aperçu de Google. La fonctionnalité, bien qu’elle ne soit pas déclenchée pour chaque requête, analyse le web et génère une réponse générée par une IA. La réponse reçue pour la requête de colle à pizza semble être basée sur un commentaire d’un utilisateur nommé "fucksmith" dans un fil Reddit vieux de plus d’une décennie, et il est clairement en train de plaisanter.

CECI N’EST QU’UNE DES NOMBREUSES ERREURS SURVENANT DANS LA NOUVELLE FONCTIONNALITÉ QUE GOOGLE A LARGEMENT DÉPLOYÉE CE MOIS-CI. Elle prétend également que l’ancien président des États-Unis James Madison est diplômé de l’Université du Wisconsin non pas une mais 21 fois, qu’un chien a joué en NBA, NFL et NHL, et que les serpents sont des mammifères.

REGARDEZ, GOOGLE N’A PAS PROMIS QUE CELA SERAIT PARFAIT, IL COLLE MÊME UNE ÉTIQUETTE "L’IA générative est expérimentale" en bas des réponses de l’IA. Mais il est clair que ces outils ne sont pas prêts à fournir avec précision des informations à grande échelle.

PRENEZ LE LANCEMENT IMPORTANT DE CETTE FONCTIONNALITÉ PAR GOOGLE I/O, PAR EXEMPLE. La démonstration était très contrôlée, et pourtant, elle a livré une réponse douteuse sur la façon de réparer un appareil photo argentique coincé. (Il a suggéré de "ouvrir la porte arrière et retirer délicatement le film"; ne faites pas cela à moins que vous ne vouliez ruiner vos photos!)

LES RISQUES D’ERREURS DANS LES SYSTÈMES D’IA

LES ENTREPRISES DÉVELOPPANT L’INTELLIGENCE ARTIFICIELLE SONT SOUVENT RAPIDES À ÉVITER DE PRENDRE LA RESPONSABILITÉ DE LEURS SYSTÈMES AVEC UNE APPROCHE RESSEMBLANT À CELLE D’UN PARENT AVEC UN ENFANT INDISCIPLINÉ – LES GARÇONS SERONT DES GARÇONS ! Ces entreprises affirment qu’elles ne peuvent pas prédire ce que cette IA va sortir, c’est donc vraiment hors de leur contrôle.

MAIS POUR LES UTILISATEURS, C’EST UN PROBLÈME. L’année dernière, Google a déclaré que l’IA était l’avenir de la recherche. Quel est l’intérêt, cependant, si la recherche semble plus stupide qu’avant ?

Les optimistes de l’IA soutiennent que nous devrions embrasser l’engouement en raison des progrès rapides réalisés jusqu’à présent, en faisant confiance à ce que cela continuera à s’améliorer. Je crois vraiment que cette technologie continuera à s’améliorer, mais se concentrer sur un avenir idéalisé où ces technologies sont parfaites ignore les problèmes importants auxquels elles sont actuellement confrontées – et permet aux entreprises de continuer à livrer des produits médiocres.

POUR L’INSTANT, NOS EXPÉRIENCES DE RECHERCHE SONT ENVAHIES PAR DES POSTES REDDIT VIEUX DE DIX ANS DANS LE BUT D’INCORPORER L’IA DANS TOUT. Beaucoup d’idéalistes croient que nous sommes sur le point d’accomplir quelque chose de grand et que ces problèmes ne sont que les douleurs de croissance d’une technologie naissante. J’espère vraiment qu’ils ont raison. Mais une chose est sûre : nous verrons probablement quelqu’un mettre de la colle sur sa pizza bientôt, car c’est la nature d’Internet.

Sources :