Germain
ENSEIGNER L’ÉTHIQUE DE LA SCIENCE DES DONNÉES GRÂCE À DES VIDÉOS IMMERSIVES
Dans un cours de science des données ce printemps, les étudiants ont été confrontés à un dilemme complexe : devaient-ils lancer une application de reconnaissance faciale permettant aux personnes sans emploi d’accéder à leurs prestations – même si cela excluait souvent les femmes et les personnes de couleur ? Et que ressentirait l’un de ces utilisateurs, risquant l’expulsion le lendemain parce qu’elle ne pouvait pas recevoir ses allocations de chômage ?
UNE IMPLICATION DIRECTE DANS LES CONSÉQUENCES DE LEURS DÉCISIONS
Alors que la société réfléchit aux dangers et aux inconnues de l’intelligence artificielle générative, Liz Karns, Fellow du Provost de Cornell, permet à ses étudiants en statistiques de prendre conscience des implications de leurs décisions. Pour ce faire, elle a créé une vidéo immersive intitulée “Nobody’s Fault: An Interactive Experience in Data Science Practice” destinée à accroître l’empathie et la prise de conscience des spectateurs quant aux conséquences non intentionnelles de leurs actions. Karns l’a présentée à sa classe “Ethique intégrée en sciences des données” à la fin du semestre de printemps.
LA CONNEXION ENTRE LE MODÈLE SCIENTIFIQUE ET SES CONSÉQUENCES SUR LA SOCIÉTÉ
“Les étudiants en statistiques, qui construisent des modèles prédictifs à grande échelle, n’ont pas une bonne vision de ce qui se passe et de qui est affecté lorsque l’on a un mauvais modèle”, explique Karns, professeur principal à l’École ILR et à l’École d’informatique et des sciences de l’information de Cornell Bowers. “J’ai toujours eu un problème avec ce décalage.”
UNE EXPÉRIENCE INTERACTIVE QUI MONTRE LES CONSÉQUENCES DES DÉCISIONS
Dans “Nobody’s Fault”, les étudiants vivent l’expérience d’un scientifique des données confronté à un conflit moral. La vidéo s’arrête régulièrement, demandant aux spectateurs comment ils géreraient les situations délicates qui y sont représentées. Au fur et à mesure qu’ils prennent des décisions, l’intrigue évolue et ils voient les conséquences se dérouler sous leurs yeux – et comment elles affectent une femme au chômage qui n’arrive pas à faire fonctionner l’application de reconnaissance faciale. Après une série de résultats malheureux, la scène est rembobinée, de meilleures options sont proposées, et les étudiants voient comment les choses auraient pu être différentes pour la femme en quête de ses prestations.
UNE MEILLEURE COMPRÉHENSION DES DILEMMES ÉTHIQUES
“La vidéo nous a donné une expérience du monde réel avec des dilemmes éthiques”, explique Britt Snider, M.I.L.R. ’24. “Elle a amélioré notre apprentissage sur le sujet en nous montrant en temps réel les conséquences de nos décisions – et comment quelque chose d’apparemment anodin, comme quelques pourcentages, peut avoir de grandes conséquences pour la société dans son ensemble.”
L’IMPORTANCE D’UN COMPAS MORAL DANS LA SCIENCE DES DONNÉES
Karns a développé le scénario, inspiré de trois cas. Ensuite, elle l’a adapté en collaboration avec Martin Percy, un réalisateur de vidéos interactives basé à Londres qui a remporté des prix Webby et Clio. Percy a participé via Zoom à chaque phase de la production et a co-dirigé le film avec Karns. La vidéo a été filmée par le Center for Teaching Innovation (CTI), dirigé par les concepteurs pédagogiques Ksenia Ionova et Amy Cheatle. Le projet a été soutenu par une bourse d’enseignement et d’apprentissage innovants du CTI.
UN RENFORCEMENT DES MÉTHODES D’ENSEIGNEMENT
Karns prévoit de produire deux ou trois vidéos supplémentaires ; elle envisage également de créer une expérience accompagnée pour les accompagner, afin qu’elles puissent être utilisées par des classes et des instructeurs de Cornell. Elle enseigne “à quoi ressemble la prise de décision personnelle et pourquoi nos vertus sont ce qui compte vraiment. Les humains – les scientifiques des données – décident de la manière dont ces systèmes se déploient”, explique-t-elle. “À aucun moment nous ne pouvons dire : ‘C’est juste le système, c’est juste la technologie qui fait son truc’. C’est toujours un choix humain. Et je veux que les étudiants se sentent un peu plus responsables de cela.”
UNE RESPONSABILITÉ ÉTHIQUE INDIVIDUELLE
Pour Joyce Gorospe, M.I.L.R. ’24, l’une des principales leçons du cours a été que la responsabilité éthique incombe à chaque individu, et pas seulement aux dirigeants. “Il est facile de lire des articles sur les problèmes éthiques ; il est tout autre chose de les voir mis en scène par de vrais humains et d’observer les émotions derrière leurs réactions”, souligne Gorospe. “Il nous a été facile de nous mettre à leur place et d’imaginer les situations où il peut ou non y avoir une réponse claire, en fonction de notre sensibilisation à ces problématiques.”
Pour enseigner l’éthique de la science des données de manière immersive, cette approche via des vidéos interactives offre une opportunité précieuse pour les étudiants. De plus, l’intégration de scénarios réalistes leur permet de comprendre l’impact de leurs décisions sur les individus et la société dans son ensemble. Cette méthode pédagogique innovante permet aux futurs scientifiques des données d’avoir une meilleure compréhension des enjeux éthiques de leur domaine. En suivant une approche pratique et en se basant sur des situations réelles, les étudiants sont davantage conscients de leur responsabilité dans la création de technologies respectueuses de l’éthique.
Sources :
– Liz Karns, Profil sur le site de Cornell University, consulté le [insérer la date] https://www.ilr.cornell.edu/people/m-karns
– Center for Teaching Innovation, Innovative Teaching and Learning Award, consulté le [insérer la date] https://teaching.cornell.edu/Innovative-teaching-learning-awards
