in

La lettre ouverte intitulée ‘AI Pause’ suscite la peur et la controverse.

L’appel récent à une « pause en IA » de six mois – sous la forme d’une lettre ouverte demandant un moratoire temporaire sur l’intelligence artificielle – a suscité des inquiétudes parmi les membres de l’IEEE et le monde de la technologie en général. L’Institut a contacté certains des membres qui ont signé la lettre ouverte, publiée en ligne le 29 mars. Les signataires ont exprimé une gamme de craintes et d’appréhensions, notamment sur la croissance effrénée des grands modèles de langage de l’IA (LLMs) ainsi que sur l’hypocrisie médiatique incontrôlée de l’IA. La lettre ouverte, intitulée « Pause Giant AI Experiments », a été organisée par l’organisation à but non lucratif Future of Life Institute et signée par plus de 10 000 personnes (au 5 avril). Elle appelle à la cessation de la recherche sur « tous les systèmes d’IA plus puissants que GPT-4 ».
Il s’agit de la dernière de nombreuses propositions récentes de « pause en IA », notamment une suggestion de François Chollet de Google concernant un moratoire de six mois sur la surréaction aux LLM, dans les deux sens. Dans les médias, la lettre ouverte a inspiré des reportages directs, des comptes rendus critiques pour ne pas aller assez loin (« tout arrêter », a écrit Eliezer Yudkowsky dans Time Magazine), ainsi que des comptes rendus critiques pour être à la fois un désordre et une distraction alarmiste qui néglige les véritables défis posés par l’IA. Les membres de l’IEEE ont exprimé une diversité d’opinions similaires. « L’IA peut être manipulée par un programmeur pour atteindre des objectifs contraires aux normes morales, éthiques et politiques d’une société saine », déclare IEEE Fellow Duncan Steel, professeur de génie électrique, de sciences informatiques et de physique à l’Université du Michigan à Ann Arbor. « J’aimerais voir un groupe impartial sans agenda personnel ou commercial pour créer un ensemble de normes qui doit être suivi par tous les utilisateurs et fournisseurs d’IA. »
Le membre senior de l’IEEE, Stephen Deiss, ingénieur neuromorphique à la retraite de l’Université de Californie à San Diego, affirme avoir signé la lettre car l’industrie de l’IA est « débridée et non réglementée ». « Cette technologie est aussi importante que l’arrivée de l’électricité ou d’Internet », dit Deiss. « Il y a trop de façons dont ces systèmes pourraient être utilisés à mauvais escient. Ils sont distribués librement, et il n’y a aucune critique ou réglementation en place pour prévenir les dommages. »
Eleanor “Nell” Watson, une éthicienne de l’IA qui a enseigné des cours à l’IEEE sur le sujet, affirme que la lettre ouverte sensibilise aux préoccupations à court terme telles que la clonage de voix et les conversations automatisées effectuées par des systèmes d’IA – ce qui, dit-elle, constitue une « menace sérieuse pour la confiance et le bien-être social ». Bien que Watson se réjouisse de ce que la lettre ouverte a suscité un débat, elle avoue qu’elle a « des doutes sur l’actionnalité d’un moratoire, car les acteurs moins scrupuleux sont particulièrement peu susceptibles d’y adhérer. »
Le membre de l’IEEE, Peter Stone, professeur d’informatique à l’Université du Texas à Austin, affirme que certaines des plus grandes menaces posées par les LLM et les systèmes d’IA similaires restent inconnues. « Nous voyons encore des utilisations créatives et inattendues – et des abus possibles – des modèles existants », explique Stone. « Ma plus grande préoccupation est que la lettre soit perçue comme appelant à plus que ce qu’elle est. J’ai décidé de la signer et j’espère avoir l’occasion d’expliquer une vue plus nuancée que celle exprimée dans la lettre.
Je l’aurais écrite différemment », dit-il de la lettre. « Mais dans l’ensemble, je pense que cela aura un impact positif en attendant que la poussière retombe sur les versions actuelles des LLM avant de développer leurs successeurs. »ureau

What do you think?

Leave a Reply

Your email address will not be published. Required fields are marked *

Comment les grands modèles linguistiques ont changé l’intégralité de mon flux de travail OSINT | par Anthony Mensier | Avr, 2023

LeXYZ.ai