Germain
CORNELL PARTENAIRE D’UN NOUVEL INSTITUT NSF DE 20 MILLIONS DE DOLLARS POUR UNE IA DE CONFIANCE
Cornell collabore avec l’Université du Maryland, l’Université George Washington et l’Université Morgan State pour lancer un nouvel institut appelé TRAILS financé par la National Science Foundation (NSF). Avec une dotation de 20 millions de dollars, l’institut vise à développer de nouvelles technologies d’intelligence artificielle (IA) pour promouvoir la confiance, réduire les risques et renforcer l’éducation et la participation du public. Cette collaboration rassemble des spécialistes de l’IA, des scientifiques sociaux, des enseignants, des juristes et des experts en politique publique. L’institut travaille également avec des organisations du secteur privé et gouvernemental, ainsi que des communautés touchées, pour déterminer ce à quoi doit ressembler la confiance en l’IA, comment développer des solutions techniques pour une IA digne de confiance, et quels modèles de politique créent et maintiennent la confiance.
LA THÉORIE “FUZZY-TRACE” DE REYNA
Valerie Reyna, professeure de développement humain à Cornell, est le chef de file de la contribution de son université à cet effort multi-institutionnel. En tant qu’investigatrice principale, elle utilisera son expertise en jugement et cognition humains pour améliorer les efforts visant à comprendre comment les gens interprètent leur usage de l’IA. Elle mènera une recherche à Cornell pour élaborer sa théorie novatrice de la psychologie humaine et de la prise de décision, ainsi que ses recherches précédentes financées par la NSF sur la façon dont la désinformation sur les réseaux sociaux a influencé les décisions prises autour de la COVID-19. Sa théorie “Fuzzy-Trace” est l’un des piliers de la recherche proposée par TRAILS. En se basant sur le concept de “gist” – c’est-à-dire des représentations qui capturent l’essence de l’information plutôt que les détails tels que les mots exacts ou les chiffres précis – sa théorie démontre que pour changer les comportements, les communicants scientifiques et autres représentants doivent connecter leurs messages aux valeurs sociales et émotionnelles pour que les gens puissent s’appuyer sur des interprétations significatives des statistiques et des informations factuelles. La théorie “Fuzzy-Trace” refuse l’idée que les communicants doivent choisir entre communiquer des émotions ou les faits, car “gist” capture les deux.
LA PSYCHOLOGIE DERRIÈRE LA CONFIANCE EN L’IA
Le lancement de cet institut est motivé par le consensus selon lequel l’IA est actuellement à un carrefour. Les systèmes AI ont un grand potentiel pour améliorer la capacité humaine, augmenter la productivité, stimuler l’innovation et résoudre des problèmes complexes, mais les systèmes d’aujourd’hui sont développés et déployés dans un processus peu transparent et insulaire au public, et donc souvent peu fiables pour les personnes affectées par la technologie. Pour développer une IA de confiance qui réponde aux besoins de la société, la compréhension de la psychologie de l’utilisateur humain est essentielle. Une confiance inadéquate dans l’AI peut entraîner de nombreuses conséquences négatives pour les utilisateurs, ont déclaré les professeurs Hal Daumé III de l’Université du Maryland et Reyna. Les gens ont souvent une “surconfiance” dans les systèmes AI pour faire des choses qu’ils ne peuvent pas fondamentalement accomplir, tandis que les gens peuvent également avoir une “sous-confiance” envers les systèmes AI, en les évitant pour des raisons de méfiance sans avoir la certitude qu’ils pourraient les aider.
En joignant forces, Cornell et les autres universités participantes à TRAILS travailleront à combler le fossé entre les capacités de l’IA et la confiance du public dans les systèmes IA.
Sources :
– Cornell Chronicle : https://news.cornell.edu/stories/2022/07/reyna-lead-part-cornells-20m-contributions-nsf-ai-institute
– National Science Foundation : https://www.nsf.gov/news/news_summ.jsp?cntn_id=305872&org=SBE&from=news
– Institute for Trustworthy AI in Law and Society : https://trustworthyai.umd.edu/
