Germain
[ad_1]
# ÉCRIRE AVEC L’AIDE DE L’IA PEUT INFLUENCER NOS OPINIONS
Selon une nouvelle étude menée par Maurice Jakesch, étudiant en doctorat en sciences de l’information, l’utilisation d’assistants d’écriture alimentés par l’intelligence artificielle qui autocomplètent les phrases ou offrent des « réponses intelligentes » peut non seulement mettre des mots dans la bouche des gens, mais aussi des idées dans leur tête. Plus de 1 500 participants ont été invités à répondre à la question « Les réseaux sociaux sont-ils bons pour la société ? ». Les personnes ayant utilisé un assistant d’écriture IA biaisé pour ou contre les réseaux sociaux étaient deux fois plus susceptibles d’écrire un paragraphe d’accord avec l’assistant et beaucoup plus susceptibles de dire qu’elles partageaient la même opinion que les personnes ayant écrit sans aide IA.
## DES CONSEQUENCES POUR LA CULTURE ET LA POLITIQUE
Les outils d’écriture alimentés par l’IA, qu’ils soient intentionnels ou non, pourraient avoir des conséquences alarmantes sur la culture et la politique en raison des biais qu’ils incorporent, selon les chercheurs. L’étude montre que les effets de l’utilisation de ces outils ont des répercussions sur les opinions et le langage. Cette étude est la première à montrer que l’utilisation d’outils d’écriture IA peut influencer les opinions des individus.
En utilisant des modèles de langage tels que ChatGPT, des campagnes politiques et publicitaires peuvent être menées efficacement. Dans cette expérience, Jakesch a utilisé un grand modèle de langage pour orienter l’opinion des participants sur les réseaux sociaux, soit positivement, soit négativement. Les participants ont écrit leur paragraphe – seuls ou avec l’un des collaborateurs d’IA – sur une plateforme qu’il a créée, qui imite un site web de médias sociaux. Le temps de composition et quelles suggestions d’IA ils ont acceptées ont été enregistrés. Les participants qui ont utilisé l’assistant d’IA pour les réseaux sociaux étaient plus susceptibles de se conformer à l’opinion de l’assistant que les auteurs sans aide IA.
## UNE INFLUENCE SUBTILE
L’étude a révélé que même les participants qui ont pris plusieurs minutes pour écrire leur paragraphe se sont fortement laissé influencer. La plupart des participants n’ont pas réalisé que l’IA était opposée ou favorable aux réseaux sociaux. Ils ont simplement utilisé l’aide proposée et ont exprimé leurs pensées avec un peu d’aide. Les chercheurs se sont demandés si les gens acceptaient simplement l’aide d’IA pour compléter la tâche plus rapidement, mais les résultats ont montré que l’influence a été beaucoup plus subtile.
Les co-auteurs de l’étude, Advait Bhat de Microsoft Research, Daniel Buschek de l’Université de Bayreuth et Lior Zalmanson de l’Université de Tel Aviv, cherchent actuellement comment cette expérience crée un changement d’opinion et combien de temps les effets durent. Cependant, la question qui se pose est de savoir si cette expérience est susceptible de modifier les préférences et opinions d’une personne sur une plus longue période.
## LES BIASES DANS L’IA ÉCRITURE DOIVENT ETRE DISCUTES
Selon les chercheurs, les pouvoirs croissants de ces technologies doivent être discutés publiquement pour déterminer comment elles peuvent être utilisées de manière responsable et comment elles doivent être suivies et réglementées. Des outils d’écriture biaisés pourraient produire des effets similaires à ceux des réseaux sociaux, en facilitant la propagation de la désinformation et la formation de chambres d’écho.
L’étude a été présentée à la conférence CHI sur les facteurs humains en informatique en avril 2023, où elle a reçu une mention honorable. Le soutien pour cette étude a été accordé par la National Science Foundation, la Fondation universitaire allemande et le ministère bavarois de la science et des arts.
Sources:
– [Cornell University](https://news.cornell.edu/stories/2022/09/ai-powered-writing-tools-can-influence-opinions)
– [ACM Digital Library](https://dl.acm.org/doi/10.1145/3544548.3581196)
[ad_2]
