Il faut interdire les technologies de reconnaissance faciale qui amplifient le risque de racisme lors des opérations policières

Amnistie internationale lance le 26 janvier 2021 une campagne mondiale en vue d’interdire l’utilisation des systèmes de reconnaissance faciale, une forme de surveillance de masse qui décuple le risque de racisme lors des opérations policières et menace le droit de manifester.

La campagne Ban the Scan débute à New York et s’étendra ensuite pour s’intéresser à l’utilisation des systèmes de reconnaissance faciale dans d’autres régions du globe en 2021. Ces systèmes sont une forme de surveillance de masse qui porte atteinte au droit à la vie privée et menace les droits à la liberté de réunion pacifique et d’expression.

Cette technologie exacerbe le racisme systémique, car elle est susceptible de toucher de manière disproportionnée les personnes de couleur, déjà en butte à la discrimination et à des violations des droits humains imputables à des représentants des forces de l’ordre. [Cliquez ici pour des chiffres sur le racisme systémique et la justice au Québec].
En outre, les Noirs comptent parmi les groupes les plus exposés aux erreurs d’identification par les systèmes de reconnaissance faciale.
 

« La reconnaissance faciale risque de devenir une arme aux mains des forces de l’ordre contre des communautés marginalisées à travers le monde. De New Delhi à New York, cette technologie intrusive retourne notre identité contre nous-même et sape les droits fondamentaux, a déclaré Matt Mahmoudi, chercheur sur l’Intelligence artificielle et les droits humains à Amnistie internationale.

« Les New-Yorkais devraient pouvoir vaquer à leurs occupations quotidiennes sans être tracés au moyen de la reconnaissance faciale. Des grandes villes américaines ont déjà interdit cette technologie et New York doit leur emboîter le pas. »

À New York, Amnistie internationale unit ses forces à celles d’AI for the People, Surveillance Technologies Oversight Project, Immigrant Defence Project, New York Civil Liberties Union, New York City Public Advocate's office, The Privacy NY Coalition, du sénateur Brad Hoylman et Rada Studios, afin de faire campagne en faveur d’une législation interdisant l’utilisation des technologies de reconnaissance faciale à des fins de surveillance de masse par les forces de l’ordre dans la ville.

« Au moyen de cette technologie, la police inflige aux New-Yorkais et aux New-Yorkaises innocents un " tapissage " perpétuel et piétine nos droits à la vie privée. La reconnaissance faciale est omniprésente, non réglementée et devrait être interdite », a déclaré Mutale Nkonde, fondatrice et directrice d’AI For the People.

Albert Fox Cahn, directeur exécutif du projet STOP (Surveillance Technology Oversight Project) au Centre pour la justice urbaine, a déclaré : « La reconnaissance faciale est biaisée, déficiente et antithéthique avec la démocratie. Depuis des années, le Département de police de la ville de New York (NYPD) s’en sert pour surveiller des dizaines de milliers de New-Yorkais et fait courir aux habitants de couleur le risque d’être arrêtés à tort et de subir des violences policières. Le fait de l’interdire ne protègera pas seulement les droits civils : c’est une question de vie ou de mort. »

Les technologies de reconnaissance faciale peuvent être développées en récupérant des millions de clichés à partir de profils sur les réseaux sociaux et de permis de conduire, sans le consentement des personnes concernées. Le logiciel effectue alors une analyse faciale des images capturées par les systèmes de télévision en circuit fermé et d’autres systèmes de vidéosurveillance pour rechercher d’éventuelles correspondances avec la base de données des images récupérées.

Si d’autres villes américaines, comme Boston, Portland et San Francisco, ont interdit l’utilisation de cette technologie par les forces de l’ordre, le Département de police de la ville de New York (NYPD) continue de l’employer pour intimider et harceler des habitants respectueux de la loi, comme ce fut le cas lors des manifestations Black Lives Matter l’an dernier.

Black Lives Matter

Le 7 août 2020, des dizaines de policiers du NYPD ont tenté d’entrer par la force dans l’appartement de Derrick « Dwreck » Ingram, en vue de l’interpeller. Ils accusaient Dwreck, cofondateur de l’organisation de justice sociale Warriors in the Garden, d’avoir agressé un policier en lui hurlant dessus à l’aide d’un mégaphone lors d’une manifestation au mois de juin.

Une caméra a filmé un policier devant le domicile de Dwreck, tenant à la main un document intitulé Rapport d'information de la section de reconnaissance faciale : la reconnaissance faciale a donc probablement été utilisée pour permettre son arrestation. Sur ce document figurait une photo de Dwreck correspondant semble-t-il à une photo tirée de son compte Instagram.

Le NYPD n’a pas dûment informé Dwreck de ses droits, a menacé de défoncer sa porte, a tenté de l’interroger sans avocat, a employé au moins un hélicoptère et des drones de la police, et a posté des dizaines d’agents dans son entrée, au niveau de sa sortie de secours et à des positions tactiques dans des bâtiments voisins et aux alentours. La police n’est partie qu’après que Dwreck a filmé et diffusé en direct les événements, qu’une foule de manifestants s’est rassemblée et que les médias se sont mis à poser des questions.

La police a placardé dans son quartier des affiches Wanted (« Recherché »), avec une photo récupérée sans son consentement sur son compte privé Instagram. Le NYPD a initialement confirmé avoir utilisé la technologie de la reconnaissance faciale, mais doit encore transmettre les documents dans le cadre de l’action en justice intentée par Dwreck à ce sujet.

« Nous sommes particulièrement dans le viseur de cette technologie, en raison de ce que nous contestons et parce que nous tentons de déconstruire un système qui englobe aussi la police », a déclaré Dwreck Ingram.

L’impact discriminatoire de la reconnaissance faciale va bien au-delà de son utilisation par les forces de l’ordre pour cibler des manifestants pacifiques. À New York, les propriétaires pourraient s’en servir pour surveiller les communautés noires.

En 2018-2019, Atlantic Plaza Towers à Ocean Hill-Brownsville, à Brooklyn, un quartier majoritairement noir, a contesté avec succès l’installation de caméras de reconnaissance faciale dans le groupe d’immeubles par le propriétaire Nelson Management Group.

Les habitants qui se sont mobilisés au départ contre l’utilisation de la reconnaissance faciale ont été menacés par le propriétaire qui s’est servi de photos imprimées de leurs visages récupérées à partir de caméras de surveillance pour leur enjoindre de cesser de s’organiser. Menés par Tranae Moran et Fabian Rogers, les habitants ont refusé de renoncer. Les locataires ont alors saisi la justice pour faire cesser les atteintes à la vie privée et le vol de données biométriques de toute personne entrant dans l’ensemble d’immeubles, les habitants mobilisés autour de Tranae Moran et Fabian Rogers ont exercé des pressions soutenues et collaboré avec des organisations de la société civile et des médias. De ce fait, Nelson Management Group a annoncé en novembre 2019 lors d’une réunion de l’association des locataires qu’il n’installerait pas la reconnaissance faciale dans ces immeubles.

Le lancement de la campagne Ban the Scan s’accompagne d’un site Internet sur lequel les habitants de New York peuvent publier des commentaires sur l’utilisation de la reconnaissance faciale par le Département de la police de la ville de New York (NYPD) en s’appuyant sur la Loi sur la surveillance publique des technologies de surveillance (POST). Par la suite, ils pourront générer des requêtes relatives au droit d’accès à l’information pour voir où les systèmes de reconnaissance faciale sont placés dans leurs quartiers.

Le site sera étoffé en mai 2021, lorsque les « décodeurs » d'Amnistie, réseau mondial de militants numériques, contribueront à géolocaliser les dispositifs de surveillance par reconnaissance faciale installés à New York afin que les habitants sachent exactement où ils se trouvent. Le site propose également des ressources visant à permettre à chacun de mieux se protéger lors des manifestations et de lutter contre l’utilisation des technologies de reconnaissance faciale.

Amnistie internationale demande l’interdiction totale de l’utilisation, du développement, de la production et de la vente des technologies de reconnaissance faciale à des fins de surveillance de masse par la police et par les autres organes du gouvernement, ainsi que l’interdiction de l’exportation de ces systèmes à l’étranger.