Réseaux sociaux. Les plateformes doivent réagir plus vigoureusement à la prolifération de la haine et de la censure en ligne dans le contexte de la crise israélo-palestinienne

Les entreprises qui gèrent les réseaux sociaux doivent de toute urgence s’attaquer à la vague de haine et de racisme qui déferle en ligne contre les communautés palestinienne et juive, a déclaré Amnistie internationale vendredi 27 octobre 2023, sur fond d’escalade du conflit en Israël et dans les territoires palestiniens occupés.

L’organisation a constaté une multiplication alarmante, sur les plateformes de réseaux sociaux, des appels à la haine constituant des incitations à la violence, à l’hostilité et à la discrimination, interdits par le droit international relatif aux droits humains, ainsi que d’autres contenus préjudiciables visant les personnes juives ou palestiniennes. Elle a aussi recueilli des informations préoccupantes indiquant que des contenus publiés par des Palestinien·ne·s et des défenseurs des droits des Palestinien·ne·s font l’objet d’une modération potentiellement discriminatoire de la part de différentes plateformes de réseaux sociaux.

« Les réseaux sociaux peuvent jouer un rôle vital dans la communication en période de crise, c’est pourquoi les principales entreprises gérant ces réseaux doivent de toute urgence renforcer leurs mesures de protection des droits humains. Elles doivent veiller à ce que leurs plateformes ne diffusent pas des messages de haine et de violence, et ne risquent pas de contribuer à des atteintes flagrantes aux droits humains ni à de graves violations du droit international humanitaire. Cela inclut les crimes de guerre, qui ont marqué ce conflit et provoqué un nombre sans précédent de victimes civiles et une crise humanitaire catastrophique », a déclaré Rasha Abdul-Rahim, directrice d’Amnesty Tech.

Amnistie internationale a constaté qu’un nombre important de publications sur les réseaux sociaux glorifiaient les attaques israéliennes contre la population civile de Gaza, soutenaient la destruction de la bande de Gaza et prônaient la violence contre les Palestinien·ne·s. Beaucoup d’entre elles tiennent un discours déshumanisant et raciste contre les Palestinien·ne·s, reprenant souvent le langage utilisé par les autorités israéliennes.

L’organisation a aussi recensé un certain nombre de publications antisémites, dont beaucoup appellent à la haine et à la violence contre le peuple juif. Des recherches menées dernièrement par le Centre de lutte contre la haine numérique (CCDH) ont révélé une prolifération des contenus antisémiques sur X ces derniers mois.

Depuis le 7 octobre 2023, l’indicateur de violence de l’ONG palestinienne 7amleh a détecté plus de 493 000 appels à la haine contre les Palestinien·ne·s et les défenseur·e·s des droits des Palestinien·ne·s dans des contenus en hébreux sur les plateformes de réseaux sociaux, et a constaté leur augmentation constante.

Des membres du gouvernement et des responsables militaires israéliens ont aussi utilisé un langage déshumanisant et raciste à l’encontre des Palestinien·ne·s. Le 16 octobre, le Premier Ministre israélien a publié sur son compte X (@IsraeliPM) un message discriminatoire utilisant des termes déshumanisants, qui disait : « C’est un combat entre les enfants de la lumière et les enfants des ténèbres, entre l’humanité et la loi de la jungle. »

De même, le ministre de la Sécurité nationale, Itamar Ben Gvir, a déclaré le 17 octobre 2023 : « Tant que le Hamas n’aura pas libéré pas les otages qu’il détient, les seules choses qui méritent d’entrer à Gaza sont les centaines de tonnes d’explosifs de l’armée de l’air, mais pas une once d’aide humanitaire. »

Blocage total et bannissement furtif de contenus palestiniens

Amnistie internationale a aussi reçu des informations préoccupantes faisant état d’une censure excessive des contenus provenant de comptes palestiniens et de défenseur·e·s des droits des Palestinien·ne·s sur plusieurs plateformes de réseaux sociaux.

La population palestinienne de la bande de Gaza est de plus en plus soumise à des coupures des moyens de communications, qui limitent sa capacité à chercher, recevoir et transmettre des informations. Les inégalités dans la modération des contenus par les plateformes de réseaux sociaux risquent d’affaiblir encore plus la capacité des Palestinien·ne·s à l’intérieur comme à l’extérieur de la bande de Gaza d’exercer leurs droits à la liberté d’expression, d’association et de réunion pacifique.

« Tandis qu’Israël intensifie ses bombardements sans précédent sur la bande de Gaza, qui ont déjà fait plus de 7 000 morts, dont une majorité de civil·e·s, nous sommes extrêmement préoccupés par les informations faisant état du blocage partiel et de la suppression (procédé connu sous le nom de « shadow banning », ou « bannissement furtif ») de contenus publiés par des défenseur·e·s des droits des Palestinien·ne·s », a déclaré Rasha Abdul-Rahim.

« La modération des contenus doit être menée de manière à garantir le respect du droit à la liberté d’expression, tout en s’employant à remédier à l’omniprésence des appels à la haine. Les entreprises qui gèrent les réseaux sociaux doivent investir suffisamment de moyens dans la supervision humaine des systèmes de modération reposant sur l’intelligence artificielle (IA), afin que tous les utilisateurs et utilisatrices, y compris palestiniens, puissent exercer leurs droits en ligne au même titre que quiconque, quelles que soient leur langue et leurs opinions politiques. Plusieurs plateformes ont affaibli leurs capacités de supervision en la matière en licenciant le personnel chargé du respect des droits fondamentaux. »

Des recherches ont montré que, sous couvert de neutralité, les systèmes fondés sur l’IA reproduisaient souvent les préjugés existant déjà dans la société. Pas plus tard que le 19 octobre 2023, l’entreprise Meta s’est excusée d’avoir ajouté le mot « terroriste » dans des traductions de profils Instagram contenant les mots « Palestinien » et « Alhamdulillah » (qui signifie Dieu soit loué), ainsi que l’émoji drapeau palestinien. Elle a aussi abaissé de 80 % à 25 % le seuil de certitude requis pour « cacher » un contenu hostile, pour les contenus provenant en grande partie du Moyen-Orient. Cette mesure était une tentative d’endiguer le flux de propos hostiles, mais risque aussi d’entraîner des restrictions excessives des contenus.

En mai 2021, un rapport de l’organisation Business for Social Responsibility a montré que les contenus en langue arabe faisaient d’avantage l’objet d’une « modération excessive » sur les plateformes de Meta que les contenus dans d’autres langues, dont l’hébreu. Des avertissements infligés à tort ont contribué à réduire la visibilité et l’engagement de publications en arabe.

Déjà avant la crise actuelle, Amnistie internationale avait établi que le système d’oppression et de domination des Palestinien·ne·s mis en place par Israël était constitutif du crime d’apartheid, qui est un crime contre l’humanité. Des recherches menées par l’organisation montrent aussi que les algorithmes des réseaux sociaux sont conçus pour générer un maximum d’engagement, ce qui entraîne souvent une amplification disproportionnée des contenus délétères et provocateurs, comme les appels à la haine incitant à la violence, à l’hostilité et à la discrimination.

Dans ce contexte, il est impératif que les géants technologiques s’emploient à remédier aux conséquences réelles et potentielles de leurs activités sur les droits humains afin qu’elles ne causent pas d’atteintes aux droits humains, n’y contribuent pas et ne permettent pas à la haine, au racisme et à la désinformation de proliférer.

Complément d’information

Le 7 octobre, le Hamas et d’autres groupes armés palestiniens ont bafoué de manière flagrante le droit international et fait preuve d’un mépris glaçant pour la vie humaine en se livrant à des crimes cruels et violents, notamment des exécutions sommaires de masse et des prises d’otages, et en procédant à des tirs de roquettes aveugles sur Israël. Depuis, l’aviation militaire israélienne bombarde sans relâche l’ensemble de la bande de Gaza, avec des conséquences catastrophiques. En outre, la situation humanitaire dramatique découlant du blocus illégal imposé à Gaza par Israël depuis 16 ans a été encore aggravée par l’ordre donné le 8 octobre par le ministre de la Défense israélien d’imposer un siège total, ce qui prive la population palestinienne de Gaza d’accès à la nourriture, à l’eau, au carburant, à l’électricité et aux communications, et constitue une sanction collective, qui est un crime de guerre.

Par ailleurs, les manifestations de défense des droits humains des Palestinien·ne·s sont de plus en plus soumises à des restrictions imposées par les autorités en Cisjordanie et en Europe, entre autres.

Amnistie internationale continue de surveiller les cas de blocage ou de suppression injustifiés de publications sur les réseaux sociaux, ainsi que les cas de bannissement furtif de comptes, dans le contexte du conflit actuel. Si vous ou une personne que vous connaissez avez subi de tels faits, veuillez envoyer les liens concernés et/ou des captures d’écran du contenu qui a été signalé ou supprimé, ainsi que des captures d’écran du contenu d’origine, à l’adresse suivante : hello@amnesty.tech.