Risques liés aux données spatiales pour les populations réfugiées

Dans le cadre de la 17e conférence internationale annuelle sur la protection de la vie privée et des données (CPDP), qui s'est tenue à Bruxelles, en Belgique., la Fondation Ditchley et son directeur James Arroyo ont organisé un atelier sur les risques et les opportunités que l'intelligence artificielle (IA) et les données spatiales présentent pour la vie privée. Carnegie Council La chercheuse invitée Zhanna Malekos Smith a été sélectionnée pour présenter ses recherches sur les données spatiales et l'éthique. La session a mis en lumière la façon dont l'IA fait progresser la capacité de l'humanité à collecter, surveiller et analyser les données de l'espace extra-atmosphérique à des fins multiples. Cet article résume les principaux enseignements tirés des utilisations potentielles, ainsi que des utilisations abusives, des données d'observation de la Terre basées sur l'IA, également connues sous le nom de données spatiales.

Données spatiales

Les données spatiales font référence aux informations obtenues à partir d'instruments tels que les satellites, les télescopes et les sondes spatiales. En général, cette catégorie comprend les données de télédétection, les données météorologiques spatiales, l'imagerie satellitaire et les données de navigation et de communication. Selon Space Data Ethics, un livre blanc publié en 2023 par le groupe consultatif des utilisateurs du Conseil national de l'espace, ces données sont axées sur la compréhension des phénomènes au niveau macroéconomique. Il s'agit par exemple de l'observation des incendies de forêt, des schémas de migration des espèces animales, des conditions de circulation dans les villes, du niveau des eaux et même du mouvement des troupes militaires. Les données spatiales peuvent également inclure la collecte d'informations sur les mouvements d'un individu, ce qui soulève des questions en matière de respect de la vie privée.

Questions relatives à la vie privée et à la surveillance

D'une part, la collecte et le traitement de données spatiales par l'IA pourraient améliorer la capacité des organisations à coordonner et à acheminer l'aide humanitaire aux populations réfugiées. D'autre part, le livre blanc met en garde contre le fait que "l'étiquetage erroné des observations terrestres peut également créer des biais injustifiés aux effets néfastes, par exemple, l'étiquetage erroné d'une zone peuplée comme un "bidonville" ou un "camp de réfugiés" pourrait entraîner une stigmatisation indue et même une éradication ciblée". Avec l'aide de l'apprentissage automatique et de l'analyse prédictive pour étudier les populations de réfugiés, on craint que les régimes autoritaires n'utilisent ces informations pour nuire à ceux qui fuient la persécution. Selon un rapport de Chatham House sur la protection des réfugiés à l'ère de l'IA, "l'asile et la protection des réfugiés constitueront l'un des tests de la gouvernance mondiale et nationale de l'IA, et permettront de déterminer s'il est possible de mettre en place une IA respectueuse des droits de l'homme."

Outre ces préoccupations, le livre blanc du Conseil national de l'espace explique que la surveillance par satellite peut être utilisée pour surveiller un terroriste présumé et intercepter ses communications spatiales ou, plus innocemment, pour aider les agriculteurs à gérer des parcelles de terre grâce à l'agriculture de précision. Le document précise toutefois qu'il est généralement plus rentable et technologiquement plus viable d'utiliser des technologies terrestres que des technologies spatiales pour surveiller les individus.

Pour promouvoir l'équité et l'autonomie, le même livre blanc défend également l'idée que les États-Unis devraient promouvoir un nouvel ensemble d'éthique pour sauvegarder les droits individuels à la vie privée et réduire le risque de discrimination. Plus précisément, les auteurs recommandent ce qui suit "Pour traiter et partager les données spatiales de manière responsable, il est urgent d'anticiper les dommages possibles - qui peuvent être différents des défaillances ordinaires de l'éthique des données - et de développer un nouveau cadre éthique spécifique pour les données spatiales.

L'éthique des données dans l'espace

Au cours de l'atelier international de la CPDP, j'ai demandé aux participants s'ils étaient d'accord avec la proposition de développer un cadre éthique entièrement nouveau pour traiter les risques liés aux données spatiales. Personne n'a convenu que les données spatiales méritaient un nouveau cadre éthique. Les participants ont plutôt mis en doute la valeur pratique d'un "nouveau modèle" et ont plutôt encouragé l'utilisation des cadres existants pour garantir la dignité humaine, la surveillance et l'équité dans l'application de cet outil.

Plutôt que de réinventer la roue, le rapport Belmont est un exemple de cadre éthique préexistant utilisé dans la science des données. À la suite du scandale biomédical de la santé publique américaine en 1972, qui impliquait des pratiques contraires à l'éthique dans l'étude de patients afro-américains mourant de la syphilis, le Congrès a créé la Commission nationale pour la protection des sujets humains dans la recherche biomédicale et comportementale. La commission s'est réunie à Belmont, en Californie, et a promulgué les trois principes éthiques suivants pour les études en sciences de la santé : (1) le respect des personnes, (2) la justice et (3) la bienfaisance, en plus du consentement éclairé. Ensuite, en 1993, un groupe de dirigeants du secteur des technologies de l'information s'est réuni à Menlo Park, en Californie, pour produire le rapport Menlo. Ce rapport s'appuie sur les trois principes du rapport Belmont, mais en ajoute d'autres, tels que (1) le respect de la loi, (2) l'atténuation des préjudices, (3) la prise en compte du point de vue des parties prenantes et (4) l'obligation de rendre compte.

Avant que le sous-comité du groupe consultatif des utilisateurs sur le climat et les avantages sociétaux ne se présente au prochain conseil national pour plaider en faveur d'un "nouvel" ensemble de principes pour l'éthique des données, il pourrait être plus utile d'examiner les modèles de Belmont et de Menlo pour voir ce qui fait défaut. Comment ces modèles pourraient-ils être appliqués au domaine spatial ? À l'occasion de la 74e Conférence internationale d'astronautique qui se tiendra prochainement à Milan, en Italie, les responsables américains de l'espace pourraient organiser un atelier parallèle à la conférence afin de faire progresser la discussion sur les principes éthiques de la science des données avec un plus grand nombre de représentants de la communauté spatiale internationale. En retour, cela pourrait mettre en lumière la manière de protéger les réfugiés de la persécution dans le cadre de cette capacité augmentée par l'IA.

Carnegie Council for Ethics in International Affairs est un organisme indépendant et non partisan à but non lucratif. Les opinions exprimées dans cet article sont celles des auteurs et ne reflètent pas nécessairement la position de Carnegie Council.