Germain
# ONE-SIZE-FITS-ALL CONTENT MODERATION FAILS THE GLOBAL SOUTH
Une étude menée par Cornell révèle que les systèmes de modération de contenu des réseaux sociaux ont été conçus selon des normes occidentales et pénalisent injustement les utilisateurs du Sud global. Cette étude a été dirigée par Farhana Shahid, une doctorante en informatique topique à l’Université de Cornell, qui a interviewé des personnes du Bangladesh qui ont reçu des pénalités pour avoir enfreint les normes communautaires de Facebook. Les utilisateurs ont déclaré que le système de modération de contenu interprétait souvent de manière erronée leurs publications et supprimait du contenu acceptable pour leur culture, de manière injuste, opaque et arbitraire.
POUVOIR IMBALANCE DANS LA MODÉRATION DE CONTENU
Selon Shahid, les politiques de modération de contenu existantes perpétuent les déséquilibres de pouvoir historiques qui existaient sous le colonialisme, lorsque les pays occidentaux imposaient leurs règles aux pays du Sud global tout en extrayant des ressources. Les algorithmes de modération de contenu fonctionnent très mal pour les publications en bengali, une langue parlée par plus de 260 millions de personnes. Ces algorithmes ont mal interprété certaines insultes en bengali, tandis que les mêmes mots étaient autorisés en anglais. Les algorithmes ont également manqué à plusieurs reprises de contexte important. La modération de contenu a réellement des conséquences sur la vie de ses deux milliards d’utilisateurs, et peut mener à des pertes de photos, de messages et de contacts en ligne.
TEXTES ACCEPTABLES DANS LES COMMUNAUTÉS LOCALES
Les utilisateurs se plaignent régulièrement que des publications qui étaient acceptables dans leur communauté ont été supprimées parce qu’elles violaient les valeurs occidentales. À tel point qu’un appel a même été lancé pour que les plateformes de médias sociaux consultent des représentants des communautés locales pour intégrer les valeurs, les lois et les normes locales dans leurs systèmes de modération de contenu.
MODÉRATION DE CONTENU INJUSTE
La modération de contenu peut être injuste surtout pour les utilisateurs du Sud global, un marché souvent laissé pour compte alors que Facebook, qui enregistre 2,8 milliards de connexions actives mensuelles, est très rentable. Des utilisateurs se sont retrouvés bannis de leur compte Facebook, perdant par la même occasion des photos, des messages et des contacts en ligne. Comme Patricia Waldron l’a écrit dans la Cornell Ann S. Bowers College of Computing and Information Science, les gens qui dépendent de Facebook pour mener leurs activités ont perdu des revenus pendant la période de restriction et certains activistes se sont tus quand leurs publications ont été signalées par leurs opposants.
RÉFORMER LA MODÉRATION DE CONTENU DES MÉDIAS SOCIAUX
Au lieu d’une uniformisation des normes occidentales, Farhana Shahid et Aditya Vashistha plaident pour une adaptation des normes aux communautés locales sur les plateformes des réseaux sociaux. Les utilisateurs méritent également de savoir comment leurs publications ont été signalées, par qui et comment faire appel des pénalités qui leur sont imposées.
Sources :
* Cornell Chronicle: One-size-fits-all content moderation fails the Global South
* Breaking Defense: Social Media Companies Challenge to Regulate Speech
