Corée du Sud. Google échoue à s’attaquer aux contenus en ligne montrant des atteintes sexuelles malgré les plaintes de victimes

Google n’a pas fait le nécessaire pour remédier aux failles de son système afin de supprimer les contenus non consentis à caractère sexuel de ses outils de recherche, malgré une longue campagne menée par des femmes et des filles sud-coréennes victimes d’infractions sexuelles numériques, a déclaré Amnistie internationale ce 8 décembre 2023, un an jour pour jour après avoir révélé ce problème.

Les victimes qui souhaitent supprimer d’Internet des vidéos non consenties à caractère sexuel explicite ont indiqué à Amnistie internationale que Google continuait d’appliquer une procédure confuse pour demander la suppression de contenus, et d’apporter des réponses incomplètes et inadéquates. 

Il y a un an, Amnistie internationale a lancé une pétition mondiale appelant Google à remédier aux défaillances de son système de signalement, après des années de pression de la part de victimes et de militants et militantes sur place.

« En Corée du Sud, les femmes et les filles qui ont été victimes d’atteintes sexuelles en ligne ont un but simple : supprimer ces contenus abusifs et traumatisants d’Internet. Google continue pourtant de compliquer les choses en raison de son système de signalement dysfonctionnel », a déclaré Ming Yu Hah, directrice adjointe régionale d’Amnistie internationale en charge des campagnes.

« Google a amplement eu le temps de remédier à ce problème, ou au moins d’améliorer la situation, bien avant qu’Amnistie ne commence à partager avec elle les histoires de victimes l’année dernière, mais les progrès dans ce domaine sont insuffisants. Google doit agir de toute urgence pour empêcher que les failles dans ses services ne perpétuent les préjudices subis par les victimes d’atteintes sexuelles. »

Beaucoup de victimes essayent depuis des années de faire supprimer les vidéos à caractère sexuel explicite des outils de recherche de Google, mais bon nombre de ces vidéos sont toujours en ligne en raison du système de signalement compliqué de l’entreprise et du traitement tardif des demandes.

Dans ses conclusions publiées le 8 décembre 2022, Amnistie internationale a établi que Google pouvait grandement réduire la souffrance des victimes en traitant rapidement les demandes de suppression de contenu. Les manquements de l’entreprise en la matière ont prolongé les préjudices physiques et mentaux subis par les femmes et les filles concernées pendant la procédure de signalement.

Plus particulièrement, les victimes avaient indiqué que les formulaires de signalement de ces contenus étaient difficiles à trouver et contenaient des catégories ambiguës de types de contenu à dénoncer.

Au cours de l’année suivante, Google a modifié et mis à jour un grand nombre de pages problématiques identifiées. Par exemple, certaines pages comportent maintenant un bouton unique pour accéder au formulaire « Signaler un problème juridique lié à la suppression de contenu ». Cependant, les victimes affirment que ces changements n’ont pas amélioré leur situation.

Selon elles, les problèmes demeurent avec des formulaires confus, un manque de transparence dans la procédure de signalement, et l’incapacité de Google à véritablement prendre en compte le traumatisme des victimes.

L’ombre de l’affaire « Nth Room » continue de planer sur la Corée du Sud

En mars 2020, un groupe de journalistes sud-coréens a dévoilé l’existence de huit forums de discussion secrets sur l’application de messagerie Telegram, où des milliers de vidéos non consenties à caractère sexuel explicite étaient partagées et vendues à l’aide de cryptomonnaie sans l’accord des femmes et des filles apparaissant dans ces vidéos. La police sud-coréenne a révélé que plus de 60 000 personnes participaient à ces infractions en entrant dans ces forums, connus collectivement sous le nom de « Nth Room ».

Malgré l’emprisonnement de certains opérateurs de « Nth Room », des contenus qui y ont été diffusés continuent d’apparaître dans les résultats de recherche sur Google. Les auteurs de ces contenus menacent généralement les victimes à l’aide de vidéos d’atteintes sexuelles existantes pour les forcer à en produire d’autres.

Si les contenus non consentis et les informations personnelles des victimes ne sont pas supprimés rapidement, ces femmes et ces filles endurent d’autres préjudices et infractions, même quand les responsables d’origine sont punis.

Les victimes voient leurs souffrances exacerbées par la procédure lente et confuse pour essayer de supprimer ces contenus d’Internet en utilisant la fonction de signalement de Google.

« Google a peut-être pris quelques mesures pour résoudre ce problème au cours de l’année passée, mais elle doit en faire plus. Amnesty réitère l’appel lancé par les défenseur·e·s des droits des femmes en exhortant Google à simplifier ses procédures de signalement », a ajouté Ming Yu Hah.

« Google doit aussi commencer à prendre des mesures plus concrètes pour empêcher la rediffusion de contenus non consentis à caractère sexuel explicite, et suivre une approche axée sur les victimes au moment d’examiner ces éléments. »

Google doit assumer ses responsabilités en matière de droits humains à l’égard des victimes

Les Principes directeurs des Nations unies relatifs aux entreprises et aux droits de l’homme énoncent clairement la responsabilité de toutes les entreprises de respecter les droits humains, en exigeant « qu’elles évitent d’avoir des incidences négatives sur les droits de l’homme ou d’y contribuer par leurs propres activités, et qu’elles remédient à ces incidences lorsqu’elles se produisent ».

Dans sa politique en matière de droits humains, Google s’engage à veiller « au respect des normes établies dans les Principes directeurs relatifs aux entreprises et aux droits de l’homme de l’ONU ».

« En ne facilitant pas la suppression rapide de ces contenus dommageables, Google échoue à assumer ses responsabilités en matière de droits humains. L’entreprise doit mettre l’expérience des victimes au cœur de son système de signalement, en le rendant plus intuitif et en faisant le nécessaire pour réduire le risque de raviver le traumatisme de ces personnes », a déclaré Ming Yu Hah.

« Les victimes d’infractions sexuelles numériques dépendent de Google pour obtenir l’aide dont elles ont besoin, c’est-à-dire le retrait des contenus non consentis à caractère sexuel explicite, et Google doit mieux faire pour apporter cette aide. » 

Le 5 décembre 2023, Google a assuré à Amnistie internationale qu’elle s’était « engagée de longue date à lutter contre le harcèlement et les violences liés au genre facilités par la technologie ». L’entreprise a reconnu les difficultés auxquelles sont confrontées les victimes qui cherchent à faire supprimer des contenus « de multiples plateformes et services en ligne », et mis en avant la création de son Centre pour la transparence, afin d’aider les utilisateurs et utilisatrices à comprendre les politiques de ses produits, et de sa page Centre d’aide, élaborée en réaction à la Loi sud-coréenne sur les entreprises de télécommunication.