Les technologies automatisées et l’avenir de la forteresse Europe
En octobre 2018, l’Union européenne (UE) a annoncé avoir octroyé des financements à un nouveau système de contrôle automatisé aux frontières, mis à l’essai en Grèce, en Hongrie et en Lettonie. Ce projet, appelé iBorderCtrl, est un système de détection de mensonges conçu à partir de technologies d’intelligence artificielle, dont l’interface consiste en un garde-frontière virtuel chargé de poser des questions aux voyageurs souhaitant franchir la frontière. Les personnes dont les réponses sont jugées honnêtes par le système se voient remettre un code les autorisant à passer la frontière, tandis que celles qui n’ont pas eu cette chance sont orientées vers des gardes-frontières en chair et en os pour y être à nouveau interrogées.
iBorderCtrl n’est qu’un exemple des nombreux projets d’automatisation du contrôle aux frontières de l’UE, dont l’objectif est de lutter contre l’immigration clandestine. Cette nouvelle tendance qui se dessine en Europe soulève toute une série de graves préoccupations en matière de droits humains.
La technologie d’iBorderCtrl repose sur la reconnaissance émotionnelle, discipline scientifique largement contestée. La reconnaissance émotionnelle affirme pouvoir révéler la personnalité et les émotions d’une personne par l’analyse de ses expressions faciales. Ses défenseurs avancent que les émotions sont immuables et universelles, identiques chez tous les individus, et qu’elles se manifestent clairement au travers de mécanismes biologiques observables, quelle que soit l’empreinte de la culture. Ils soutiennent que l’examen des expressions faciales permet une lecture objective des états émotionnels authentiques.
iBorderCtrl met en œuvre ce raisonnement logique, considérant qu’un système intelligent de reconnaissance faciale animé par des gardes-frontières de synthèse est capable de lire les sentiments des gens.
Or, comme cela a déjà été démontré à plusieurs reprises, les systèmes intelligents de reconnaissance faciale sont par nature biaisés, car ils assimilent les idées préconçues figurant dans les données utilisées pour les former. Les objectifs déclarés du projet, à savoir la réduction des contrôles subjectifs et de la charge de travail pour les agents en chair et en os parallèlement au renforcement des contrôles objectifs par des moyens automatisés, induisent de toute évidence en erreur. Qui plus est, des chercheurs de tous bords ont démontré que la reconnaissance émotionnelle ne résistait pas à l’analyse et était déployée de façon dangereusement irresponsable. iBorderCtrl en est un bon exemple.
Le projet insiste sur le fait qu’un garde-frontières humain intervient systématiquement en cas de refus d’entrée sur le territoire et que ce type de décision ne sera jamais pris uniquement sur la base d’évaluations réalisées par l’intelligence artificielle. Cependant, dans la pratique, ces garanties ne peuvent pas être données, comme l’explique Evelien Brouwer, chargée de recherches au Centre d’Amsterdam pour le droit relatif aux réfugiés et aux migrations (Vrije Universiteit Amsterdam) : « Étant donné le nombre élevé de voyageurs, le défaut éventuel d’agents correctement formés et la réalité politique encourageant des approches restrictives du contrôle frontalier, le risque de voir des décisions être prises sur la base d’avis générés par l’intelligence artificielle est trop élevé. Dans la pratique, il sera très difficile pour la personne concernée, pour les agents en charge de la protection des données et pour les tribunaux d’évaluer si un refus d’entrée sur le territoire repose ou non sur une décision automatisée. »
Le manque de transparence qui caractérise le développement de la technologie est tout aussi préoccupant sur le plan pratique ; il s’agit ici du problème de la « boîte noire » si souvent invoqué dans le cadre de l’intelligence artificielle. Les agents de l’immigration devront s’appuyer sur une technologie qu’ils ne comprennent pas, tandis que les voyageurs seront invités à faire confiance à un système opaque, sans véritable obligation de justification.
Au-delà de ces aspects pratiques, le point crucial est que le projet iBorderCtrl est révélateur d’une tendance plus large au sein de l’UE de renforcement des capacités de surveillance aux frontières par le biais de la technologie. Depuis plusieurs dizaines d’années, l’UE investit dans la sécurisation et la militarisation de ses frontières, œuvrant à la construction de ce que d’aucuns décrivent comme la « forteresse Europe ». Même si, en réponse à la hausse du nombre de personnes cherchant à se mettre en sécurité en Europe en 2015, les investissements dans les systèmes traditionnels de sécurité aux frontières ont augmenté, l’intérêt de plus en plus marqué pour l’intelligence artificielle et le big data s’est traduit par une prolifération des solutions automatisées de sécurité pour des frontières soi-disant intelligentes.
On assiste ainsi à l’émergence du solutionnisme technologique dans le domaine de la surveillance frontalière un peu partout dans l’UE, parallèlement à l’apparition de nouvelles violations des droits humains. Le nombre de projets qui reposent sur des technologies automatisées aux fins de contrôle frontalier et qui sont financés par Horizon 2020, le plus gros programme européen pour la recherche et l’innovation à ce jour, témoigne clairement de cette tendance.
Citons l’exemple de ROBORDER, projet exploitant des technologies qui apparaissent comme une lointaine réalité. Également en phase pilote, ce projet est actuellement mis à l’essai sur l’île grecque de Kos ainsi qu’à la frontière terrestre entre la Bulgarie et la Serbie, entre autres lieux. Il offre des soi-disant solutions aux défis transfrontaliers actuels en déployant des robots mobiles sans pilote, dont des véhicules terrestres, sous-marins, marins et aériens, capables d’opérer de façon autonome ou en groupe et dotés de capteurs multimodaux dans le cadre d’un réseau interopérable. Cela signifie que les frontières marines, terrestres et aériennes de l’UE seraient surveillées par une armée de robots alertant les autorités d’activités détectées aux frontières tout en collectant de gros volumes de données afin de générer des analyses immédiates et prédictives de situation.
L’ensemble complexe de données recueillies crée un système de sécurité prédictif permettant aux services de police aux frontières de concentrer les ressources dans les zones indiquées. Les fonctionnalités prédictives de ce système renforcent la sécurité et la surveillance actuelles et futures, car elles donnent lieu à une augmentation sans limite des capacités de suivi et de détection. De fait, un système tel que ROBORDER s’accompagne d’un risque d’exacerbation des violations des droits humains infligées par la forteresse Europe.
L’utilisation de systèmes autonomes sans pilote pour sécuriser les frontières pourrait aussi déboucher sur la conception de robots équipés non seulement de capteurs mais aussi de fonctions létales. Parallèlement à la campagne menée pour mettre fin aux robots tueurs, qui donne à penser qu’ils sont loin d’être une simple chimère, ce type de robots a déjà par le passé été proposé à l’UE à titre de système de sécurité transfrontalière. Prono, une entreprise publique bulgare, a écrit à l’agence Frontex pour l’informer du développement d’un système de sécurité aux frontières « doté d’une influence meurtrière gérable sur les délinquants, ne nécessitant pas de surveillance permanente de la part d’agents compétents ». Étant donné que les frontières sont déjà largement militarisées, les systèmes d’armes autonomes aux frontières risquent fort de devenir bientôt réalité.
In fine, le déploiement de nouvelles technologies, à l’image de celles évoquées dans cet article (et, de toute évidence, il en existe bien d’autres encore), visant à automatiser les systèmes de sécurité aux frontières de l’UE, donne lieu à de multiples préoccupations relatives aux droits humains. Si les implications passées et présentes de la forteresse Europe pour les droits humains ont été largement recensées, ses implications futures, découlant des évolutions technologiques qui redessinent le paysage sécuritaire aux frontières de l’UE, doivent de toute urgence être examinées. À la lumière des souffrances humaines provoquées par les politiques de gestion des frontières, ainsi que du solutionnisme technologique de plus en plus suivi par l’UE en matière de sécurité transfrontalière, il serait imprudent de ne pas procéder à un examen approfondi des nouvelles avancées technologiques définissant la forteresse Europe de demain.
