Germain
Les manifestations faisant suite à la mort de George Floyd ont fait plier Amazon, qui fournit une technologie de reconnaissance faciale aux forces de l’ordre. Cette dernière est régulièrement mise en cause concernant de potentiels biais ethniques.
Amazon a décidé d’interdire à la police d’utiliser son logiciel de reconnaissance faciale Rekognition pendant un an, dans un contexte de pression des associations de défense des libertés et de manifestations contre les violences policières et le racisme aux Etats-Unis.
“Nous prônons des régulations plus strictes des gouvernements sur le recours éthique aux technologies de reconnaissance faciale, et le Congrès semble prêt à relever le défi”, a indiqué mercredi le géant du commerce en ligne dans un communiqué.
Moratoire d’un an
Depuis la mort de George Floyd, un Afro-Américain asphyxié par un policier blanc il y a deux semaines, les entreprises, ainsi que les autorités locales et nationales, tentent de réagir à la pression de la rue et des réseaux sociaux. Les manifestants exigent notamment des réformes en profondeur de la police et des systèmes de surveillance, dont ils estiment qu’ils ciblent les personnes noires de façon disproportionnée.
La Chambre des représentants, à majorité démocrate, a présenté lundi une loi qui vise à “changer la culture” au sein de la police des Etats-Unis. Elle entend notamment créer un registre national pour les policiers qui commettent des bavures, faciliter les poursuites judiciaires contre les agents et repenser leur recrutement et formation.
“Nous espérons que ce moratoire d’un an donnera au Congrès suffisamment de temps pour mettre en place des règles appropriées”, a ajouté Amazon dans son communiqué mercredi.
Pression des associations
Des organisations, comme la puissante American Civil Liberties Union (ACLU), appellent depuis deux ans Amazon à cesser de fournir sa technologie de reconnaissance faciale, soupçonnée de comporter des biais ethniques, aux forces de l’ordre. La pression est montée d’un cran mardi, quand des associations de lutte contre les inégalités raciales ont exhorté Amazon à cesser toute collaboration technologique avec la police américaine.
Dans leur pétition mise en ligne, elles accusent le groupe de Seattle “d’alimenter et de profiter de l’injustice systématique, des inégalités et des violences contre les communautés noires”.
“Amazon a longtemps cherché à être la colonne vertébrale technologique de la police et de l’ICE (police de l’immigration, ndlr) en promouvant activement Amazon Web Services (cloud), son logiciel de reconnaissance faciale (Rekognition) et ses caméras de surveillance (Ring)”, a élaboré Athena, un collectif d’associations qui interpellent le groupe sur les impacts négatifs de ses diverses activités.
Les caméras Ring servent à assurer la sécurité des particuliers, mais leurs propriétaires peuvent donner s’ils le souhaitent accès à la surveillance vidéo à la police.
Prise de conscience
“Il aura fallu deux ans à Amazon pour en arriver là, mais nous sommes heureux que l’entreprise ait enfin reconnu les dangers que pose la reconnaissance faciale pour les personnes de couleur, ainsi qu’en termes de droits civils en général”, a réagi mercredi Nicole Ozer, directrice des technologies et libertés pour une branche californienne de l’ACLU.
Elle voudrait que la multinationale cesse aussi de vendre les caméras Ring “qui alimentent les interventions policières excessives contre les personnes de couleur”.
Amazon avait reconnu en octobre que, “comme toutes les technologies”, la reconnaissance faciale pouvait être “mal utilisée”. Elle avait assuré que ses équipes fournissaient des indications à tous les clients du (logiciel) Rekognition, “y compris les forces de l’ordre, sur la bonne manière de s’en servir”.
Amazon après IBM
Le groupe de Jeff Bezos a précisé que le moratoire ne s’appliquerait pas aux organisations qui se servent de Rekognition pour sauver des victimes de trafics d’êtres humains ou retrouver des enfants disparus, comme Thorn ou l’International Center for Missing and Exploited Children.
IBM a annoncé lundi suspendre la vente de logiciels de reconnaissance faciale à des fins d’identification et s’est “opposé à l’utilisation de toute technologie à des fins de surveillance de masse, de profilage racial et de violations des droits et libertés humaines de base”.
Lors d’un discours à Bruxelles, Sundar Pichai, le patron de Google, avait expliqué en janvier que Google ne fournirait pas de service clé en main de reconnaissance faciale tant que des règles et garde-fous n’étaient pas mis en place par les autorités. Nicole Ozer a appelé “Microsoft et les autres à rejoindre IBM, Google et Amazon pour avancer vers le bon côté de l’histoire”.
