Éthique et intelligence artificielle : Migration

"L'étude des machines pensantes nous en apprend plus sur le cerveau que les méthodes introspectives. L'homme occidental s'extériorise sous la forme de gadgets". - William S. Burroughs, Le déjeuner nu

Nous vivons l'une des plus grandes crises de réfugiés depuis la Seconde Guerre mondiale. Quelques semaines après le début de l'invasion russe de l'Ukraine, , plus de 4 millions de personnes ont fui le pays, selon l'Agence des Nations unies pour les réfugiés (HCR). Bien que l'attention des médias internationaux se concentre sur l'Europe de l'Est, cette situation s'ajoute à celle, déjà désespérée, des pays du Sud : On estime que les pays de cette région du monde ont absorbé les deux tiers des 82,4 millions de réfugiés dans le monde.

En Europe de l'Est et dans les pays du Sud, un grand nombre de personnes traversent les frontières à la hâte, à la recherche d'un abri et d'une protection, et ont besoin de conditions de base pour pouvoir séjourner dignement dans le pays de destination. Il s'agit d'une situation extrêmement difficile, mais les nouvelles technologies ont aidé ceux qui arrivent et ceux qui accueillent les migrants. La technologie peut aider les pays d'accueil à gérer de grandes quantités d'informations afin de prendre des décisions vitales pour leur sécurité et celle des personnes qui franchissent leurs frontières. Elle a également aidé les migrants de nombreuses manières, notamment en leur permettant d'obtenir une géolocalisation en temps réel, des séjours gratuits via des sociétés de location immobilière en ligne et des dons en crypto-monnaies, et en luttant contre les coupures d'Internet et les "fake news".

Les technologies d'intelligence artificielle (IA) peuvent potentiellement atténuer des situations telles que celle que nous avons observée en Ukraine au début de l'année 2022 et depuis des années dans les pays du Sud. L'utilisation des perspectives déontologiques et utilitaires pour réfléchir aux avantages et aux inconvénients de l'utilisation de l'IA dans le contexte migratoire est un exercice utile alors que la situation continue d'évoluer.

IA, éthique et migration

C'est un fait que l'IA a été de plus en plus utilisée dans le cycle migratoire au cours des dernières années. Depuis 2020, l'utilisation de l'IA appliquée à la migration s'est accélérée en raison de la pandémie de COVID-19 afin que les pays surveillent leurs frontières pour, soi-disant, aider à endiguer le flux du virus. Les technologies de l'IA ont également été utilisées pour la vérification de l'identité, la délibération sur les demandes de visa et d'autres décisions administratives, la gestion des frontières et, à l'aide d'un algorithme, l'analyse de la probabilité qu'un migrant pose des problèmes. Cependant, son utilisation sans discernement pose des problèmes à la fois aux responsables des politiques publiques et aux migrants, notamment en ce qui concerne les effets négatifs possibles sur la protection des droits de l'homme, tels que la discrimination et la violation de la vie privée.

L'histoire des crises migratoires révèle que la réalité d'une grande partie des migrants est celle de la vulnérabilité, comme c'est le cas pour les demandeurs d'asile et les réfugiés, les personnes déplacées, les enfants, en particulier ceux qui sont séparés et non accompagnés, les femmes, les minorités persécutées en raison de leur race et de leur appartenance ethnique, et les personnes LGBTQI+. Leurs vulnérabilités peuvent être atténuées ou aggravées en fonction de la manière dont l'IA est utilisée pendant la migration.

Enfin, nous considérons que les décisions migratoires se situent dans un spectre de deux extrêmes. D'un côté, il y a les droits de l'homme des migrants, de l'autre, la sécurité nationale de l'État d'accueil. Nous reconnaissons que les États ont le droit de décider de la meilleure façon de gérer les flux migratoires sur leur territoire. Cependant, nous soulignons également que ce pouvoir n'est pas sans contraintes. Il est limité par les normes internationales en matière de droits de l'homme volontairement adoptées par les États membres parties au régime international de mobilité humaine.

Exemples d'utilisation de l'IA dans le domaine de la migration

L'utilisation de l'IA dans la migration est une réalité de plus en plus fréquente et globale. Aux États-Unis, l'Extreme Vetting Initiative était un projet qui surveillait les activités sur les médias sociaux des demandeurs et des détenteurs de visas afin de déterminer s'ils contribueraient positivement à la société. Les États-Unis ont mis fin à l' aspect "apprentissage automatique" de ce projet à la suite de critiques selon lesquelles le programme pouvait présenter des informations peu fiables et violer le droit à la liberté d'expression en ligne. En Nouvelle-Zélande, des algorithmes détectent les personnes indésirables probables sur la base de l'âge, du sexe et de l'origine ethnique dans le contexte migratoire. Dans l'Union européenne, le détecteur de mensonges iBorderCtrl, qui fonctionne grâce aux technologies de l'IA, a déjà été utilisé pour contrôler les passagers dans les aéroports. La Grèce teste actuellement le système Centaur pour la surveillance des camps de réfugiés, qui, sur la base d'algorithmes, prédit et signale les menaces potentielles pour la sécurité. Sur le site , en Malaisie, la vérification du respect des mesures de restriction d'entrée a été effectuée par des drones. Les technologies de surveillance utilisées à la frontière entre les États-Unis et le Mexique ont été associées à une augmentation du nombre de décès de migrants, qui tentent d'échapper à la surveillance et finissent par emprunter des itinéraires plus dangereux. En 2020, le programme de recherche et d'innovation Horizon 2020 de l'Union européenne a financé le projet Roborder. Ce projet n'est pas encore opérationnel, mais il vise à mettre au point un système de surveillance des frontières entièrement autonome, capable d'identifier les activités criminelles à la frontière.

Déontologie x Utilitarisme

Pour mieux réfléchir à la migration et à l'IA, nous revenons sur les perspectives philosophiques déontologiques et utilitaires de l'utilisation de l'intelligence artificielle.

Les utilitaristes affirment que si l'IA peut produire de meilleurs résultats que les humains, elle doit être utilisée pour maximiser les gains. Par exemple, un robot qui décide du statut migratoire génère une plus grande sécurité pour les États. Selon cette perspective, la technologie permet une prise de décision rapide, impartiale, précise et fondée sur des données. Par conséquent, elle réduirait les risques de biais humains et d'idées préconçues dans le processus de prise de décision. Même si une minorité est lésée par des décisions qui ne reposent pas sur un jugement évaluatif adéquat, la décision est valable dans un contexte plus large puisqu'elle profite à un plus grand nombre de personnes. Du point de vue des États, des décisions rapides basées sur une grande quantité de données se traduiraient par une meilleure défense des intérêts de sécurité nationale. Par conséquent, l'utilisation de l'IA rendrait le processus plus équitable, plus sûr et plus objectif pour un plus grand nombre de personnes. Les arguments en faveur de l'utilisation de l'IA pour la gestion des migrations sont donc essentiellement utilitaires.

Les déontologues considèrent que même si l'IA peut fournir de meilleurs résultats que les humains, il est moralement inadmissible de l'employer pour effectuer des tâches intrinsèquement humaines. Par exemple, utiliser un algorithme pour décider qui peut entrer et rester dans un pays serait une erreur, quelles qu'en soient les conséquences. À la base de cet argument se trouve la notion que la dignité humaine résulte de l'interaction entre deux individus qui se reconnaissent comme libres et porteurs de droits. Ainsi, l'IA ne devrait pas être utilisée, du moins dans certains domaines qui nécessitent une évaluation, car elle n'aurait pas la capacité de comprendre l'ensemble du contexte personnel et migratoire et de mesurer les impacts d'une telle décision sur le projet de vie des migrants.

Même si elle est bien intentionnée, l'utilisation de l'IA peut devenir un instrument de surveillance et d'oppression. Son utilisation peut conduire à des pratiques discriminatoires et violer les droits à la vie privée, à la mobilité et à l'association. Étant donné que la technologie reproduit souvent les préjugés des bases de données qui reflètent des pratiques sociales injustes telles que le racisme et la xénophobie, ces formes de discrimination et d'autres sont susceptibles d'être reproduites par les systèmes d'IA. Ainsi, dans une perspective lombrosienne, les personnes pourraient être classées comme ayant une personnalité délinquante.

En outre, les équipes qui développent les algorithmes manquent souvent de diversité en termes de sexe, de classe sociale et d'origine ethnique, ce qui augmente les risques de discrimination voilée. La vie privée et le droit d'association sont violés par l'accès et la prise en compte de vos réseaux sociaux, de vos amis et de vos communautés, entre autres. En résumé, l'IA n'est pas en mesure de comprendre le contexte et les nuances des différentes réalités migratoires. Elle ne devrait donc pas avoir le dernier mot sur ce sujet. Cela dit, une perspective déontologique gravite autour des droits de l'homme des migrants.

Considérations finales

Lorsque l'on réfléchit aux questions de migration, il faut tenir compte, d'une part, des considérations de sécurité nationale et, d'autre part, des droits de l'homme des migrants. Jusqu'à présent, le seul argument en faveur de l'utilisation de l'IA dans ces situations qui semble bénéficier aux migrants est la possibilité d'accélérer les décisions en matière de migration. Même si l'IA peut maximiser le bien-être en offrant rapidité et sécurité nationale, son utilisation par les gouvernements dans le contexte migratoire doit trouver des limites fondées sur le principe de la dignité humaine.

Les gouvernements, les universités et la société civile doivent discuter de l'utilisation de l'IA dans le contexte migratoire afin d'éviter les excès et de garantir une utilisation efficace. Nous plaidons pour qu'une notion claire des droits de l'homme soit incorporée dans le développement des algorithmes ainsi que dans leur application et leur évaluation. Il est essentiel que les algorithmes migratoires soient développés par des équipes diversifiées en termes de genre, de classe, d'ethnicité et d'origine nationale. Les mécanismes d'examen des algorithmes avant et pendant leur utilisation, ainsi que les procédures de responsabilisation, doivent être au cœur de l'utilisation de cette technologie.