Auteur
Wendell Wallach
Ancien titulaire de la bourse Carnegie-Uehiro, Initiative pour l'intelligence artificielle et l'égalité (AIEI) ; Centre interdisciplinaire de bioéthique de Yale
Anja Kaspersen
Ancienne Carnegie Council Senior Fellow, Initiative pour l'intelligence artificielle et l'égalité (AIEI) ; IEEE
Le déploiement rapide de l'intelligence artificielle générative (IA) a créé un point d'inflexion pour l'utilisation responsable de la technologie et a placé la société devant une question cruciale : Comment pouvons-nous promouvoir les avantages des technologies innovantes tout en faisant face aux perturbations potentielles et en garantissant la sécurité publique ? Nous soutenons que cet équilibre est possible , mais pas sans un cadre solide en place pour la gouvernance internationale de l'IA. La communauté internationale doit agir maintenant pour mettre en place des mécanismes de gouvernance puissants qui assurent une surveillance éthique et juridique efficace de l'IA.
Un cadre formel pour la gouvernance internationale de l'IA a été élaboré à partir des idées et des concepts discutés lors de deux ateliers d'experts multidisciplinaires organisés en juin 2023 par l'Initiative IA et égalité (AIEI) de Carnegie Councilet l'IEEE SA, et accueillis par l'UNESCO à Paris et l'UIT à Genève. Ce cadre propose cinq composantes symbiotiques, dont trois sont mentionnées ici. Premièrement, il est nécessaire de créer immédiatement un Observatoire mondial de l'IA (GAIO) pour faciliter la communication, la coopération et un certain degré de coordination entre les nombreuses initiatives qui entrent dans l'espace de gouvernance de l'IA. Un tel observatoire devrait accomplir toute une série de tâches, allant de la production de rapports annuels à la tenue de registres essentiels. Deuxièmement, le développement d'une capacité de gouvernance normative avec un pouvoir d'exécution limité qui légitime la surveillance mondiale de l'IA - étant entendu que cela peut prendre plus de temps à développer. Enfin, divers outils (dont certains techniques) devront être mis au point pour garantir la sécurité et la transparence des applications de l'IA et pour faciliter la capacité des États et des parties prenantes à les gouverner.
Notre objectif est que ces recommandations aient un effet immédiat. C'est pourquoi nous avons délibérément attiré l'attention sur les moyens pratiques de mettre en œuvre un cadre de gouvernance qui s'appuie sur les ressources existantes pour promouvoir la compréhension, la collaboration et la mise en œuvre. Un tel cadre permettrait une utilisation constructive de l'IA et des technologies connexes tout en aidant à prévenir les utilisations immatures ou abusives qui causent des perturbations sociétales ou menacent la sécurité publique et la stabilité internationale.
Un cadre pour la gouvernance internationale de l'IA
Lire le cadrePerspectives d'avenir
Nous sommes pleinement conscients que ce squelette de cadre soulève d'innombrables questions sur la manière dont ces mécanismes de gouvernance sont mis en œuvre et gérés, sur la manière dont leur neutralité et leur fiabilité peuvent être établies et maintenues, ou sur la manière dont les désaccords politiques et techniques seront tranchés et les conséquences néfastes potentielles remédiées. Cependant, il est proposé pour stimuler une réflexion plus approfondie sur ce que nous avons appris de la promotion et de la gouvernance des technologies existantes, sur ce qui est nécessaire et sur les prochaines étapes à franchir.
Nous pensons également que ce cadre a des applications potentielles significatives au-delà de l'espace de l'IA. S'ils sont efficaces, nombre des éléments proposés pourraient servir de modèles pour la gouvernance de domaines de découverte scientifique et d'innovation technologique qui n'ont pas encore été anticipés. Si l'IA générative rend urgente la mise en place d'une gouvernance internationale, de nombreux autres domaines existants, émergents et prévus de la découverte scientifique et de l'innovation technologique nécessiteront une surveillance. Ces domaines amplifient le développement des uns et des autres et convergent d'une manière difficile à prévoir.
Carnegie Council for Ethics in International Affairs est un organisme indépendant et non partisan à but non lucratif. Les opinions exprimées dans cet article sont celles des auteurs et ne reflètent pas nécessairement la position de Carnegie Council.
