Les droits de l'homme doivent être au cœur de la gouvernance de l'IA et des technologies

21 février 2023

Dans leur récent article, Anja Kaspersen et Wendell Wallach ont plaidé de manière convaincante en faveur d'une réinitialisation systémique de la gouvernance de l'IA et des technologies, appelant à ce que l'éthique de l'IA ne donne pas seulement la priorité à la transparence et à la responsabilité, mais préserve également les valeurs fondamentales et la dignité humaine.

À quoi devrait ressembler cette remise à zéro ? Nombreux sont ceux qui se posent cette question. Il existe aujourd'hui de nombreux ensembles de principes de gouvernance de l'IA et un nombre croissant de processus d'audit pour les applications de l'IA, ainsi qu'une législation et des normes techniques émergentes. Mais au milieu de cette pléthore d'engagements, il est actuellement difficile pour les entreprises de savoir ce qu'elles doivent faire, pour les gouvernements de savoir comment réglementer, et pour les individus de connaître les normes auxquelles ils peuvent s'attendre et les recours dont ils disposent si quelque chose ne va pas.

Il n'y a actuellement aucun point de référence clair dans la conversation sur l'éthique. Chaque fois qu'une nouvelle innovation majeure arrive sur le marché de masse - qu'il s'agisse du Metaverse ou de grands modèles linguistiques tels que ChatGPT - nous revenons au début du dialogue. En ce qui concerne le ChatGPT, la plupart des questions éthiques latentes n'ont même pas été identifiées, et encore moins abordées. Pendant ce temps, la technologie et les profits des entreprises se développent et croissent rapidement.

Nous avons besoin de principes fondamentaux de gouvernance qui garantissent, comme le disent Kaspersen et Wallach, que les technologies sont utilisées pour le bien commun et non pour le bénéfice de quelques privilégiés. Ces principes doivent être d'application générale et adaptables à l'éventail des innovations technologiques à venir.

Le rôle des droits de l'homme

Ces principes existent déjà : ce sont les droits de l'homme. Les droits de l'homme sont la cristallisation de principes éthiques en normes qui ont déjà été élaborées et mises en œuvre au cours des 70 dernières années. Ils distillent déjà un large éventail de points de vue éthiques en principes juridiques concrets. Les droits de l'homme peuvent protéger les valeurs fondamentales et la dignité humaine dans le monde en ligne, tout comme ils le font dans l'environnement hors ligne. Plutôt que de s'efforcer d'inventer de nouvelles normes, les gouvernements et les entreprises devraient adopter les normes et processus existants en matière de droits de l'homme comme point de départ de la gouvernance de l'IA. Les droits de l'homme constituent le cadre juridique existant des valeurs fondamentales et de la dignité humaine, auquel peuvent s'ajouter des protections spécifiques au contexte.

La question de l'équité en est un exemple. Les éthiciens de l'IA débattent régulièrement de la signification du terme "équitable" dans le contexte de la gouvernance de l'IA : dans quelles situations cela signifie-t-il traiter de la même manière des cas similaires, et dans quelles situations cela peut signifier les traiter différemment. Ce débat est souvent abordé comme s'il s'agissait d'un nouveau problème, sans tenir compte des discussions sur l'équité dans la législation sur les droits de l'homme ni de la manière dont les tribunaux l'ont interprété dans des cas concrets. L'une des raisons pour lesquelles les éthiciens de l'IA ont eu du mal à trouver la juste mesure de l'équité est qu'ils n'ont souvent pas reconnu l'approche contextuelle de l'équité qui est une caractéristique de la prise de décision judiciaire.

Placer les droits de l'homme au cœur de la gouvernance de l'IA présente plusieurs avantages. Tout d'abord, ils sont déjà largement acceptés au niveau international. La Déclaration universelle des droits de l'homme (DUDH) est connue partout. Tous les pays du monde sont non seulement parties à au moins quelques-uns des traités des Nations unies relatifs aux droits de l'homme, mais ils se présentent périodiquement devant le Conseil des droits de l'homme des Nations unies et les organes de surveillance des droits de l'homme pour défendre leur bilan en matière de droits de l'homme. Les droits de l'homme constituent déjà un langage universel et un cadre de normes éthiques dont la négociation a pris de nombreuses années. Leur acceptation internationale est particulièrement importante à une époque où il est très improbable de parvenir à un accord sur de nouvelles normes au niveau mondial.

Deuxièmement, les droits de l'homme sont relativement clairs : les praticiens des droits de l'homme ont traversé et résolu des questions telles que la signification de "l'équité" et de "l'égalité" au cours des 70 dernières années. Troisièmement, ils ne sont pas extrêmes : au contraire, ils offrent une méthode pour équilibrer les droits et les intérêts en jeu dans une situation donnée, en utilisant des tests de nécessité et de proportionnalité qui sont familiers aux tribunaux et aux gouvernements. Elles offrent en outre la possibilité d'une interprétation différente selon les pays et les contextes, dans le respect de paramètres généraux. Cela ne veut pas dire qu'ils sont parfaits : ils devront être adaptés à l'IA, tout comme ils l'ont été à d'autres évolutions au fil des ans.

Dissiper les mythes

Pourquoi les droits de l'homme ne sont-ils pas déjà au cœur de la gouvernance de l'IA ? Ils sont freinés par divers mythes, tels que :

  • Mythe : les droits de l'homme empêchent l'innovation. Réalité : Les droits de l'homme n'empêchent pas l'innovation, mais impliquent le respect de normes minimales et créent des conditions de concurrence équitables, au niveau national et international, pour les innovateurs.
  • Mythe : les droits de l'homme sont complexes. Réalité : Ils ne sont pas plus complexes que d'autres systèmes de règles - le problème est simplement qu'ils ne sont pas largement enseignés ou compris.
  • Mythe : les droits de l'homme concernent les gouvernements. Réalité : Les entreprises ont également des responsabilités en matière de droits de l'homme, comme l'ont décidé à l'unanimité les gouvernements aux Nations unies en 2011, et comme l'ont largement approuvé les entreprises et la société civile.
  • Mythe : les droits de l'homme sont radicaux ou vagues. Réalité : Les droits de l'homme prévoient des protections spécifiques contre les préjudices et les discriminations pour chaque adulte et chaque enfant, partout, au quotidien, et pas seulement la protection dans les situations extrêmes si souvent évoquée dans les médias.
  • Mythe : les droits de l'homme sont appliqués à l'étranger et concernent principalement les personnes en situation de crise, comme les conflits armés et les urgences humanitaires. Réalité : Les droits de l'homme (également connus sous le nom de libertés civiles) offrent une protection juridique des valeurs fondamentales et de la dignité humaine dans tous les pays du monde.

Les droits de l'homme sont souvent perçus à tort comme offrant des réponses extrêmes. Par exemple, il est communément admis que les droits de l'homme impliquent que la reconnaissance faciale ne soit pas utilisée. Ce n'est pas le cas : La législation sur les droits de l'homme exige au contraire que toute atteinte à la vie privée des personnes dont le visage est capturé soit prévue par la loi, nécessaire à un but légitime tel que la sécurité publique ou la prévention du désordre ou du crime, et proportionnée à ce but légitime. En résumé, cela signifie que la reconnaissance faciale qui permet à la police ou à d'autres d'accumuler de grandes quantités de données sur les mouvements des personnes n'est pas autorisée, mais qu'une reconnaissance faciale soigneusement prescrite pour éviter ou minimiser cette collecte de données, tout en visant à avoir un impact positif sur la sûreté et la sécurité publiques, peut être autorisée. Il ne s'agit pas d'une approche radicale, mais d'une approche sensée.

Dans certaines parties du monde, les droits de l'homme ont attiré un bagage politique : ils ont été qualifiés par les gouvernements et les médias d'obstacle à des politiques sensées, plutôt que de sauvegarde des libertés de chacun face à des abus potentiels. En outre, ils sont souvent mal compris, considérés comme promouvant des positions absolutistes ou extrêmes plutôt que nuancées. Par exemple, dans certains pays européens, dont le Royaume-Uni, une partie des médias a critiqué les droits de l'homme pour avoir limité la capacité des gouvernements à expulser les demandeurs d'asile. Mais quelques sujets controversés ne doivent pas nous empêcher de voir la valeur des droits de l'homme pour chacun, au quotidien : promouvoir l'égalité et l'équité, placer les enfants au cœur des décisions qui les concernent, améliorer les normes pour les personnes handicapées, fixer des normes de traitement pour la police et les prisons, étayer les politiques en matière de santé et d'éducation, et ainsi de suite.

Sensibilisation aux droits de l'homme

Un problème pratique majeur est que, dans de nombreuses régions du monde, les droits de l'homme ne sont pas largement compris en dehors des juristes et des militants qui les défendent. En particulier, ils ne sont souvent pas familiers aux informaticiens et aux codeurs. Il faut que cela change : il devrait y avoir plus d'enseignement interdisciplinaire sur les droits de l'homme dans les universités, plus de formation aux droits de l'homme pour les technologues ainsi que pour les cadres d'entreprise, plus d'expertise en matière de droits de l'homme dans les gouvernements. Le débat sur la gouvernance de l'IA dans les conseils d'administration et les assemblées législatives doit englober la société civile, au lieu de la laisser à l'écart, dans une conversation séparée. Les droits de l'homme doivent faire partie du dialogue général et ne pas être simplement un sujet réservé aux experts juridiques.

En résumé, le défi de la gouvernance de l'IA en 2023 n'est pas seulement d'embrasser l'éthique, mais de prendre les droits de l'homme comme point de départ des conversations sur l'éthique et la réglementation de l'IA. Les entreprises qui développent et utilisent l'IA devraient s'adjoindre une plus grande expertise en matière de droits de l'homme, et les investisseurs devraient mesurer cet aspect dans les cadres ESG. Les gouvernements devraient s'inspirer des droits de l'homme pour élaborer des réglementations et des politiques en matière d'IA. Les organisations internationales devraient souligner le rôle des droits de l'homme dans la gouvernance de l'IA.

Ce serait un raccourci pour garantir que l'IA préserve effectivement les valeurs fondamentales et la dignité humaine, et qu'elle soit effectivement exploitée pour le bien commun, non seulement dans quelques pays mais aussi dans le monde entier.

Kate Jones est membre associée de Chatham House et auteur du document de recherche de Chatham House récemment publié, AI Governance and Human Rights : Resetting the Relationship, Londres : Royal Institute of International Affairs, 2023.

Carnegie Council for Ethics in International Affairs est un organisme indépendant et non partisan à but non lucratif. Les opinions exprimées dans cet article sont celles de l'auteur et ne reflètent pas nécessairement la position de Carnegie Council.

Vous pouvez aussi aimer

24 JAN 2023 - Article

Le moment est venu de procéder à une réinitialisation systémique de la gouvernance de l'IA et des technologies

Comment faire en sorte que les technologies actuellement développées soient utilisées pour le bien commun, plutôt que pour le bénéfice de quelques privilégiés ? ...

7 FÉVRIER 2023 - Podcast

Gouvernance technologique et rôle du multilatéralisme, avec Amandeep Singh Gill

Dans ce podcast de l'AIEI, Wendell Wallach et Anja Kaspersen sont rejoints par l'ambassadeur Amandeep Singh Gill, envoyé du secrétaire général de l'ONU, M. Guterres, pour la technologie. Ils discutent de quelques ...

29 SEP, 2022 - Article

Le long terme : Un cheval de Troie éthique

Le "long-termisme", l'idée que le sort de l'humanité devrait être notre première priorité morale, a récemment pris de l'importance dans les écrits du philosophe William MacAskill ...

18 AOÛT 2022 - Article

Qui décide Qui décide Quelles conversations sont autorisées sur l'intelligence artificielle ?

Dans le cadre du développement, de l'utilisation et de l'achat de systèmes d'IA, il est important de s'interroger sur les détenteurs du pouvoir, sur les conversations que nous ...