Royaume-Uni. L’utilisation incontrôlée des technologies et des systèmes d’IA entraîne l’exclusion de personnes en situation de handicap et d’autres catégories marginalisées

Les personnes en situation de handicap, celles vivant dans la pauvreté ou ayant de graves problèmes de santé sont laissées dans les limbes bureaucratiques en raison de l’exclusion numérique causée par le déploiement incontrôlé des technologies par le ministère du Travail et des Pensions, indique Amnistie internationale dans un nouveau rapport publié mercredi 10 juillet.

Ce document intitulé “Too Much Technology, Not Enough Empathy”révèle que les opérations incessantes d’expérimentation, de déploiement et de retrait de technologies numériques coûteuses, notamment d’outils d’intelligence artificielle (IA), dans le cadre du crédit universel (UC), de la Prestation pour l’autonomie personnelle (PIP) et d’autres dispositifs menées par le ministère ont rendu le système de sécurité social inaccessible pour les personnes qui sont déjà marginalisées et risquant de tomber dans la pauvreté au Royaume-Uni. 

De nombreuses personnes ayant besoin d’aides sociales n’ont pas accès aux technologies numériques, à Internet ou à des appareils sur lesquels ils peuvent se connecter à Internet. Leur coût, associé aux barrières linguistiques et aux longs temps d’attente pour les services téléphoniques, aboutit à une exclusion de ces personnes des systèmes du ministère.

« La mission donnée au ministère du Travail et des Pensions de “réduire les coûts” explique la fascination pour des technologies problématiques et le recours excessif à celles-ci. Alors que des gens ont du mal à joindre les deux bouts et à nourrir leur famille en raison des coupes budgétaires de la sécurité sociale, le ministère se préoccupe surtout de surveiller les bénéficiaires à l’aide de technologies expérimentales, a déclaré Imogen Richmond-Bishop, chercheuse sur la technologie et les droits économiques, sociaux et culturels à Amnistie internationale.

« L’utilisation exclusive des technologies pour les demandes de prestations et leur gestion entraîne une déshumanisation incessante et un stress supplémentaire pour des personnes qui luttent déjà pour couvrir leurs besoin de base dans un système défaillant. »

Le nouveau rapport vient compléter le rapport d’Amnistie internationale diffusé en 2025 intitulé Social Insecurity:The devastating human rights impact of social security system failures in the UK, qui expliquait pourquoi une refonte complète du système de sécurité sociale britannique était nécessaire pour que celui-ci respecte à nouveau les droits fondamentaux et pour garantir un niveau de vie décent à toutes les personnes. Les difficultés d’accès à des prestations de sécurité sociale adaptées pour éviter la pauvreté sont intersectionnelles et complexes, et les technologies sont une composante de l’écosystème plus large des aides sociales.

Ces deux enquêtes tiraient leurs conclusions de questionnaires, d’entretiens collectifs avec des bénéficiaires de prestations sociales et des personnes travaillant pour les services de sécurité sociale, ainsi que du travail précédemment réalisé par des organisations de la société civile. Au total, les témoignages de 782 personnes ont été recueillies au cours de ce processus qui a duré d’octobre 2024 à janvier 2025.

Un cocktail explosif de défaillances préexistantes et de nouveaux problèmes

L’utilisation des technologies numériques, associée à des coupes budgétaires supplémentaires dans le système de sécurité social du Royaume-Uni après des années d’austérité, a créé un cocktail explosif de défaillances préexistantes qui se sont aggravées et de nouveaux problèmes liés à ces nouveaux outils.

L’automatisation et le recours à l’IA pour l’étude des dossiers et le versement des prestations peuvent générer un risque d’erreur considérable dans la prise de décisions en raison d’algorithmes porteurs de préjugés ou de discriminations, dont les conséquences peuvent être graves. 

L’exclusion numérique peut être due aux conditions de vie d’une personne, à son niveau d’instruction, à son état de santé et à son niveau de revenus – des facteurs complexes qui ne sont pas toujours pleinement pris en compte par les systèmes automatisés. 

Pour l’une des demandeuses interrogées par Amnistie internationale, son genre et son statut social et économique ont constitué des obstacles à son accès aux services en ligne.

« Nous savez, avoir une certaine compassion, rendre les formulaires et d’autres choses plus faciles. Je n’y connais rien. Beaucoup de femmes et d’hommes de mon âge ne peuvent pas les utiliser […]. Alors ils saturent. On m’envoie des courriers sur mon téléphone. Je ne peux pas les ouvrir. Alors j’appelle. Je ne peux pas l’ouvrir. Je n’ai pas d’iPad. Je ne peux pas me payer un iPad, vous savez », a déclaré cette femme à Amnistie internationale.

Répercussions pour les droits humains

La collecte numérisée et massive de données a par ailleurs créé un système de sécurité sociale intrusif qui a des conséquences sur les droits au respect de la vie privée, à la protection des données et à la dignité humaine.

L’utilisation de grandes quantités d’informations dans les décisions relatives à l’octroi d’aides de l’État n’a rien de nouveau. Le changement réside plutôt dans l’ampleur des données collectées et la vitesse à laquelle elles sont désormais traitées, ce nouveau modèle pouvant engendrer des conséquences indésirables et des risques pour les droits humains. 

« L’expérimentation de systèmes technologiques par le ministère du Travail et des Pensions met en péril les droits humains et réduit les personnes dans le besoin à des points de données. Le succès d’une demande peut dépendre davantage de leur capacité à rentrer dans une case ou à remplir certains critères que de leur éligibilité réelle. Dans le cas présent, la technologie a une vision simpliste des réalités complexes des personnes qui minimise leurs besoins, surtout quand elles ne peuvent pas obtenir l’aide dont elles ont besoin d’un humain professionnel du travail social », a déclaré Imogen Richmond-Bishop.

Amnistie internationale a écrit au ministère du Travail et des Pensions en amont de la publication du rapport, en lui fournissant une synthèse complète des conclusions de ses recherches et de sa méthodologie. Le ministère se refusait à tout commentaire sur le contenu du rapport au moment de la publication. 

Les autorités britanniques doivent procéder à un audit indépendant et impartial du système de sécurité sociale et des systèmes numériques utilisés par le ministère du Travail et des Pensions, et supprimer tout système qui ne respecte pas les droits humains. Il faut des lois pour réglementer l’IA afin d’éviter qu’elle ne contribue à des violations des droits humains. Les systèmes numériques doivent être transparents, compréhensibles et jamais obligatoires. 

Complément d’information

En mai 2025, le rapport d’Amnistie internationale intitulé “Social Insecurity” a révélé que les réductions budgétaires, les sanctions et les défaillances du système de sécurité sociale aggravaient la pauvreté de certaines personnes.

Amnistie internationale a également mené des recherches sur l’automatisation et la numérisation dans le secteur public au Danemark, aux Pays-Bas, en Inde et en Serbie et soutenu le travail réalisé en France et en Suède sur les risques relatifs aux droits humains associés et les impacts des décisions fondées sur des algorithmes dans ces pays.