Inde. Hyderabad est « sur le point de devenir une ville sous surveillance totale » – Nouvelle phase de la campagne Ban The Scan

La surveillance généralisée dans la ville d’Hyderabad, en Inde, est une menace pour les droits humains, a déclaré Amnistie internationale mercredi 10 novembre 2021 dans le cadre d’une nouvelle phase de sa campagne Ban The Scan, qui vise à faire interdire les technologies intrusives de reconnaissance faciale.

La capitale de l’État du Télangana – l’une des villes les plus surveillées au monde – a commencé la construction d’un « centre de commande et de contrôle » qui ne présage rien de bon, dans l’objectif de connecter en temps réel l’immense réseau de caméras de surveillance à reconnaissance faciale de l’État. Par ailleurs, selon une étude menée par l’Internet Freedom Foundation, l’État du Télangana est l’État indien qui compte le plus grand nombre de projets liés aux technologies de reconnaissance faciale.

« Hyderabad est sur le point de devenir une ville sous surveillance totale. Il est presque impossible d’y marcher dans la rue sans risquer de s’exposer à la reconnaissance faciale », a déclaré Matt Mahmoudi, chercheur sur l’intelligence artificielle et les mégadonnées à Amnistie internationale.

« Outre les caméras de surveillance, nous craignons que la pratique des forces de l’ordre consistant à utiliser des tablettes numériques pour arrêter, rechercher et photographier des personnes civiles sans aucune inculpation ne serve à des fins de reconnaissance faciale. »

« Les technologies de reconnaissance faciale peuvent déterminer qui vous êtes, où vous allez, ce que vous faites et qui vous connaissez. Elles menacent les droits humains, notamment le droit au respect de la vie privée, et mettent en danger certaines personnes parmi les plus vulnérables de la société. La construction du centre de commande et de contrôle est particulièrement préoccupante pour les droits à la liberté d’expression et de réunion », a déclaré Quinn McKew, directrice d’ARTICLE 19.

« Il n’existe actuellement aucune législation pour protéger la vie privée des citoyens et des citoyennes – la reconnaissance faciale est une technologie préjudiciable et invasive, et il est impératif que les autorités indiennes mettent immédiatement un terme à son utilisation », a déclaré Anushka Jain, avocate-conseil spécialisée dans la surveillance et la transparence au sein de l’Internet Freedom Foundation.

En Inde, les autorités utilisent depuis longtemps des technologies de reconnaissance faciale dans des contextes où les droits humains sont en jeu, notamment, parmi les exemples récents, pour faire appliquer les mesures de confinement liées au COVID-19, pour identifier les électeurs et électrices lors des élections municipales, et pour maintenir l’ordre pendant des manifestations. Les droits des musulmans, des dalits (opprimés), des adivasis (aborigènes), des personnes transgenres et de toutes les catégories de la société historiquement défavorisées sont particulièrement menacés par la surveillance de masse.

Ces recherches sur l’Inde marquent une nouvelle phase de la campagne Ban The Scan d’Amnistie internationale, après des recherches sur la surveillance dans la ville de New York parues début 2021. Les recherches sur Hyderabad sont menées en partenariat avec l’Internet Freedom Foundation et ARTICLE 19.

Amnistie internationale demande une interdiction totale de l’utilisation, du développement, de la production, de la vente et de l’exportation, tant par le secteur public que privé, des technologies de reconnaissance faciale à des fins de surveillance de masse.

Le harcèlement automatique à Hyderabad

Depuis quelques années, l’État du Télangana expérimente le renforcement de l’usage des technologies dangereuses de reconnaissance faciale contre la population civile.

Situé dans les collines de Banjara, à Hyderabad, le centre de commande et de contrôle devrait permettre le traitement simultané des données issues de jusqu’à 600 000 caméras, avec la possibilité d’élargir encore sa portée dans la région. Ces caméras peuvent être utilisées en combinaison avec le logiciel actuel de reconnaissance faciale de la police d’Hyderabad afin de localiser des personnes.

Avec l’aide de bénévoles locaux, Amnistie internationale, l’Internet Freedom Foundation et ARTICLE 19 ont cartographié les emplacements des caméras de surveillance extérieures visibles dans deux quartiers d’Hyderabad – Kala Pathar et Kishan Bagh. À partir d’analyses géospatiales, il a été estimé que, dans ces quartiers, au moins 530 864 et 513 683 mètres carrés, respectivement, étaient couverts par des caméras de surveillance – soit un total respectif impressionnant de 53,7 % et de 62,7 % de la superficie totale.

Amnistie internationale a découvert, sur des images vidéo partagées sur les réseaux sociaux entre novembre 2019 et juillet 2021, des dizaines de situations dans lesquelles des policiers d’Hyderabad ont demandé à des passant·e·s d’enlever leur masque pour les photographier, sans leur fournir aucune explication. Sur d’autres images, on voit des policiers prendre de façon aléatoire les empreintes digitales et une photo du visage de personnes civiles. 

En vertu de la Loi indienne de 1920 sur l’identification des prisonniers, la police n’a le droit de photographier que des personnes arrêtées ou inculpées, et n’est pas autorisée à partager ces photos avec d’autres organes chargés de l’application des lois.

Le contrôle des technologies de reconnaissance faciale en Inde

En juillet 2021, Amnistie internationale a contacté cinq entreprises (IDEMIA, NEC India, Staqu, Vision-Box et INNEFU Labs) pour leur demander des informations complémentaires sur leurs activités liées à la reconnaissance faciale en Inde et sur leurs éventuelles lignes de conduite relatives aux droits humains.

Elle n’a reçu qu’une réponse d’INNEFU Labs, affirmant que « l’utilisateur n’a aucune obligation de respecter de quelconques conditions d’emploi imposées par le vendeur ». L’entreprise n’a en revanche pas répondu aux 14 autres questions posées par Amnistie internationale. Dans une autre lettre en réponse à une précédente enquête d’Amnistie internationale, INNEFU Labs avait déclaré ne pas avoir « de ligne de conduite officielle sur les droits humains », mais « respecte[r] le droit indien et les lignes directrices du pays ».

En vertu des Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l’homme, toute entreprise doit disposer d’une ligne de conduite relative aux droits humains et prendre des mesures pour identifier, prévenir et atténuer toutes les menaces que ses activités peuvent faire peser sur les droits humains et tous les risques auxquels elle est liée du fait de ses relations commerciales, de ses produits ou de ses services, et rendre des comptes à ce sujet.

Les technologies de reconnaissance faciale constituent par nature une menace pour les droits humains, or ces cinq vendeurs n’ont pas démontré qu’ils prenaient les mesures nécessaires pour traiter ou atténuer les risques liés à la fourniture de telles technologies à des agences gouvernementales.