Germain
Malgré une enquête policière ayant conclu à son innocence, Google n’a jamais accepté de réactiver le compte de ce père de famille. Il n’est pas le seul dans ce cas.
Un père américain a vu son compte Google être supprimé après avoir transmis à un médecin des photos des partie génitales de son jeune enfant, dans le cadre d’un rendez-vous médical en visioconférence. Il a fait également l’objet d’une enquête policière, rapporte le quotidien américain The New York Times.
Après avoir décelé une possible infection chez son enfant, en février 2021, Mark et sa femme décident de contacter rapidement un médecin. Le rendez-vous est pris pour le lendemain, mais en plein coeur de la pandémie de Covid-19, il se fera via un appel vidéo. Dans ce cadre, le couple prend une série de clichés du pénis de leur nouveau-né pour les envoyer, au moyen d’une messagerie dédiée au système de santé, à leur praticien, qui les examinera en amont du rendez-vous.
L’enfant est rapidement guéri, mais en raison des photos transmises, Mark se trouve inquiété par Google mais également par la police, soupçonné de prendre part à un trafic de contenus pédopornographiques.
Banni de Google
Le géant du numérique supprime son compte deux jours après la prise des photos, rapporte le New York Times. Dans l’email avertissant le père, Google fait référence à des “contenus offensants”, représentant une “violation sévère de la politique de Google et pouvant être illégaux”. Dans ce message, une liste de potentielles raisons est détaillée, parmi lesquelles des “abus sexuels et exploitation d’enfants”.
Les services de Google disposent, en effet, d’un système de détection de photos pouvant repérer les photos à caractère pédopornographique. Cette analyse se fait notamment lorsque les utilisateurs activent la fonction de sauvegarde de leurs photos à distance, par exemple avec l’application Google Photos.
Les images sont dans un premier temps passées en revue par un système automatisé, puis, dans le cas où l’une fait l’objet d’un signalement, par un humain. Deux étapes qui n’ont pas permis d’éviter une mauvaise interprétation.
En vertu de la loi américaine, toute photo repérée par le système de Google fait immédiatement l’objet d’un signalement auprès de CyberTipline, une cellule du Centre national des enfants disparus et exploités américain. Mark a donc fait l’objet d’une enquête de police.
Dans le cadre de la suppression de son compte Google, Mark a perdu tous ses emails, les coordonnées de ses contacts, mais également les photos des premiers moments de son fils. Abonné au service téléphonique de Google, Google Fi, Mark a également dû se résoudre à prendre un abonnement chez un autre opérateur.
Une affaire similaire
Lorsqu’il a pris connaissance de ces conséquences, deux jours après, Mark a émis une demande de réactivation auprès de Google, qui s’est soldée par un refus “sans explication” de la part du géant du numérique.
Même chose il y a deux mois, en juin 2022, lorsqu’il reçoit un avis selon lequel son compte est supprimé de façon permanente. Mark a depuis renoncé à une procédure judiciaire, longue et coûteuse, qu’il avait envisagée envers le géant du numérique.
La police de San Fransisco a été plus conciliante avec le père de famille. En décembre 2021, lorsque Mark reçoit une lettre de la part des autorités lui indiquant l’objet de l’enquête, l’agent dédié à son cas lui affirme que l’affaire est close, aucun crime n’ayant été identifié.
Le New York Times indique que Mark n’est pas le seul à avoir connu cette situation. Un autre père de famille, résidant au Texas, s’est retrouvé dans une situation similaire, après avoir envoyé des photos de son enfant à leur praticien. Si l’enquête policière dont il a fait l’objet a rapidement été résolue, lui non plus n’a jamais pu récupérer son compte Google.
Si ces différentes affaires mettent en lumière l’efficacité du système de détection de Google, elles pointent également les limites d’une intelligence artificielle qui ne dispose pas d’une supervision humaine. En 2021, l’outil de détection a signalé plus de 600.000 images liées à des contenus pédopornographiques, supprimant dans le même temps 270.000 comptes d’utilisateurs.
