Germain
[ad_1]
LES PROMESSES ET LES RISQUES DE L’IA GÉNÉRATIVE POUR LES DÉMOCRATIES
La professeure de sciences politiques à l’Université Cornell, Sarah Kreps, a averti devant le Conseil présidentiel des conseillers en science et technologie (PCAST) le 19 mai que l’Intelligence Artificielle (IA) générative, popularisée par l’application ChatGPT d’Open AI en 2022, pouvait mettre à mal la confiance dans les régimes démocratiques. Cependant, elle a expliqué que cette technologie pouvait aussi être utilisée pour le bien public. Le PCAST, un groupe de scientifiques et d’ingénieurs nommés par le Président Joe Biden pour fournir des conseils et des recommandations, a récemment lancé un groupe de travail pour évaluer les opportunités et les risques de l’IA générative. Celle-ci permet de générer du texte, des images et des vidéos à partir d’une requête, une fois qu’elle a été entraînée sur de grands ensembles de données.
LA RICHESSE DES APPLICATIONS POUVANT ENTRAINER UNE PERTE DE CONFIANCE EN LA DÉMOCRATIE
Sarah Kreps, qui a enquêté sur l’impact de l’IA sur la société, a présenté un exposé intitulé “The Perils and Prospects of Generative AI in Democratic Representation”. Elle a expliqué que, même il y a seulement cinq ans, lorsque la technologie était bien moins puissante et peu pratiquable, ses recherches ont montré que les gens ne pouvaient pas discerner entre les articles de presse rédigés par l’IA et les informations rédigées par les médias traditionnels tels que le New York Times. Elle a souligné qu’alors, le danger était de voir les gens arrêter de croire à tout, ce qui mettrait à mal un élément clé de la démocratie : la confiance.
Les outils de l’IA générative tels que les larges modèles de langue, de plus en plus puissants et faciles à utiliser, pourraient accentuer ce problème. Les propagateurs de fausses informations pourraient ainsi diffuser rapidement du contenu politique qui paraîtrait plus authentique, même s’il est faux. Kreps, qui a été collaboratrice académique d’Open AI peu après l’élection de 2016, estime que des campagnes de désinformation menées par la Russie, qui étaient caractérisées par des erreurs grossières seulement perceptibles pour des locuteurs natifs de l’anglais, pourraient être remplacées par des outils plus avancés de l’IA générative. Ces outils peuvent être potentiellement dangereux en termes de sécurité nationale.
LA MANIPULATION DE L’OPINION AVEC L’ASTROTURFING
Dans des recherches ultérieures, Kreps a également étudié la façon dont l’IA pourrait être utilisée pour manipuler les représentants élus par le biais de campagnes d’astroturfing. Elle a écrit des lettres de soutien à l’aide de l’IA à plus de 7 000 législateurs de l’État. Les résultats de l’étude étaient préoccupants, avec des taux de réponse faibles en général, mais identiques pour les principales préoccupations exprimées : les armes, les soins de santé et l’éducation. Les mécanismes de protection contre la manipulation de l’IA sont insuffisants, mais sont en train d’être mis en place.
LES POTENTIALITÉS DE L’IA GÉNÉRATIVE POUR AMÉLIORER LA DÉMOCRATIE
Sarah Kreps estime que l’IA générative peut également être utile pour l’amélioration de la démocratie. Les outils de l’IA peuvent être utilisés pour détecter et résumer les messages envoyés aux législateurs, et même pour générer des réponses plus efficaces pour lesquelles les électeurs ont voté. Elle souligne que chaque fois que le gouvernement et le peuple communiquent, la démocratie est renforcée.
LES GARDE-FOUTES ÉMERGENTS FACE À L’IA GÉNÉRATIVE
Sarah Kreps estime que la littératie numérique est essentielle dès le plus jeune âge pour aider les étudiants à comprendre les technologies, y compris l’IA générative, plutôt que de chercher à les interdire.
La source provient de Cornell Chronicle.
[ad_2]
