Définition et introduction
La gouvernance de l'IA est l'ensemble des règles, des réglementations, des cadres éthiques et techniques et des mécanismes similaires qui guident le développement et le déploiement des technologies d'intelligence artificielle. Des questions pressantes se posent quant à savoir si les systèmes actuels de gouvernance de l'IA sont suffisamment répandus, réfléchis, suffisants ou inclusifs pour être efficaces.
Les Senior Fellows Wendell Wallach et Anja Kaspersen, codirecteurs de l'initiative "Intelligence artificielle et égalité " (AIEI) de Carnegie Council, affirment qu 'il est possible de promouvoir les avantages de l'IA tout en s'attaquant aux perturbations potentielles afin de protéger la sécurité publique, mais pas sans un cadre solide pour la gouvernance internationale de la technologie. Un cadre formel a été élaboré sur la base des discussions multidisciplinaires qui ont eu lieu lors de deux ateliers organisés en juin 2023 par l'AIEI et l'IEEE SA.
L'une des composantes du cadre proposé suggère la création d'un observatoire mondial de l'IA (GAIO ) pour fournir les recherches et analyses nécessaires en matière d'IA afin d'éclairer la prise de décision. À l'instar du Groupe d'experts intergouvernemental sur l'évolution du climat (GIEC) dans le domaine du climat, l'Observatoire mondial de l'IA "fournirait une base fiable de données, de modèles et d'interprétations pour guider la politique et la prise de décision plus large en matière d'IA".
Pour une analyse plus approfondie de la gouvernance de l'IA, vous trouverez ci-dessous des articles, des podcasts et des ressources hors site créés et sélectionnés par le réseau d'experts de Carnegie Council.
Explorer le cadre de gouvernance de l'IA proposé
5 JUILLET 2023 - Article
Un cadre pour la gouvernance internationale de l'IA
6 JUILLET 2023 - Article
Arguments en faveur d'un observatoire mondial de l'IA (GAIO), 2023
L'argumentaire en faveur d'un "Observatoire mondial de l'IA" (GAIO), qui relève six domaines d'activité principaux pour une réglementation plus sérieuse de l'IA.
7 JUILLET 2023 - Article
Mise en place d'un cadre international pour la gouvernance de l'IA
Wendell Wallach et Anja Kaspersen, Senior Fellows, plaident en faveur d'un cadre solide pour la gouvernance internationale de l'IA.
Les droits de l'homme doivent être au cœur de la gouvernance de l'IA et des technologies
Dans le prolongement de l'argument de Wallach et Kaspersen en faveur d'une réinitialisation systémique de la gouvernance de l'IA, Kate Jones explore les raisons pour lesquelles les droits de l'homme doivent être au cœur de la gouvernance de l'IA à l'avenir.
Abonnez-vous à la lettre d'information sur l'éthique de Carnegie pour en savoir plus sur la gouvernance de l'IA.
Comment influencer la politique et la gouvernance en matière d'IA
Merve Hickok et Marc Rotenberg, respectivement chercheur principal et président du Center for AI and Digital Policy (CAIDP), rejoignent Wallach sur le podcast AI & Equality pour discuter des principales initiatives politiques en matière d'IA et de l'indice annuel de l'intelligence artificielle et de la démocratie du CAIDP.
Plus d'informations sur le podcast AI & Equality
7 FÉVRIER 2023 - Podcast
Gouvernance technologique et rôle du multilatéralisme, avec Amandeep Singh Gill
7 JUILLET 2021 - Podcast
Approches non contraignantes de la gouvernance de l'IA
Dans ce podcast sur l'intelligence artificielle et l'égalité, Anja Kaspersen, Senior Fellow, s'entretient avec Gary Marchant et Carlos Ignacio Gutierrez, de l'université de l'Arizona, au sujet de leurs travaux sur la caractérisation des programmes de soft law pour la gouvernance de l'IA. Quel rôle ces programmes jouent-ils dans la gestion des applications de l'IA ?
22 JUIN 2022 - Podcast
L'IA bouleverse-t-elle la géopolitique ? avec Angela Kane
Dans cet épisode du podcast "Artificial Intelligence & Equality Initiative", Wendell Wallach, membre de Carnegie-Uehiro, est rejoint par Angela Kane, présidente du Conseil d'administration de l'Université des Nations unies, pour discuter de la manière dont l'IA est susceptible de bouleverser la géopolitique.
Pensez-vous que les technologies d'IA actuelles ont la capacité de manipuler le comportement humain ?
Ressources hors site
Leçons tirées des deux expériences mondiales en matière de gouvernance de l'IA
"L'intelligence artificielle (IA) est à la fois omniprésente et conceptuellement glissante, ce qui la rend notoirement difficile à réglementer. Heureusement pour le reste du monde, deux expériences majeures dans la conception de la gouvernance de l'IA se déroulent actuellement en Europe et en Chine."
LireAlliance pour la gouvernance de l'IA
"Il s'agit d'une initiative multipartite pionnière qui réunit des leaders de l'industrie, des gouvernements, des institutions académiques et des organisations de la société civile, afin de promouvoir une conception et une diffusion mondiales responsables de systèmes d'IA transparents et inclusifs".
En savoir plusGouverner l'IA : un plan d'action pour l'avenir
"Ne demandez pas ce que les ordinateurs peuvent faire, demandez ce qu'ils devraient faire".
Ce rapport propose un plan juridique et réglementaire pour l'avenir et décrit l'approche de Microsoft pour construire une IA responsable.
Perspectives sur les questions de gouvernance de l'IA
"Nous avons depuis longtemps dépassé l'époque où les progrès de la recherche sur l'IA étaient confinés au laboratoire. L'IA est maintenant devenue une technologie d'application dans le monde réel et fait partie du tissu de la vie moderne".
Lire