L'éthique des agents IA dans la gouvernance mondiale

L'adoption des agents IA connaît une expansion rapide, en particulier dans les espaces multilatéraux et diplomatiques. Une telle intégration soulève une multitude de nouvelles questions éthiques et de nouveaux défis pour les praticiens d'aujourd'hui et les dirigeants de demain.

Dans cet « Ethics Empowered : Leadership in Practice » , Eleonore Fournier-Tombs, responsable de l'IA pour l'État de New York, anime une discussion sur cette question urgente.

Ressources

«Une zone grise éthique : les agents IA dans les délibérations politiques », Éléonore Fournier-Tombs, Carnegie Council, 13 novembre 2024

«Scénarios prévisionnels liés à l'utilisation de l'IA dans le domaine de la diplomatie », Carnegie Ethics Accelerator, Carnegie Council, 15 mai 2024

«La géopolitique à l'ère de l'IA générale », Values & Interests, Carnegie Council, 25 novembre 2025

«Les compromis de l'IA en diplomatie », Carnegie Council, 12 février 2024

Questions de discussion

1. Quelles devraient être les premières mesures à prendre pour mettre en place un cadre crédible et inclusif de coopération en matière d'IA entre les pouvoirs publics, la société civile et le secteur privé ?
2. Comment les dirigeants de la prochaine génération devraient-ils utiliser de manière éthique les outils d'IA susceptibles de renforcer la transparence ?
3. Qui devrait définir les principes éthiques régissant l'IA dans les processus délibératifs : les institutions qui la déploient, les communautés qui y participent, ou une toute autre entité ?
4. Comme l'ont souligné les intervenants, la gouvernance de l'IA doit placer l'action humaine au cœur de ses préoccupations. Quels exemples pouvons-nous tirer – dans les domaines du contrôle des armements, de la gouvernance de l'Internet ou de la diplomatie climatique – pour garantir que cela reste la priorité ?
5. Comment s'assurer que les personnes qui utilisent des agents IA dans le cadre de délibérations internationales possèdent les compétences numériques nécessaires pour comprendre les avantages et les inconvénients liés à l'utilisation de ces technologies ?
6. Comment les institutions devraient-elles concilier les principes de protection de la vie privée et de sécurité, et donner la priorité aux droits des personnes lorsqu'elles décident d'utiliser ou non des outils d'IA ?

Carnegie Council for Ethics in International Affairs est un organisme indépendant et non partisan à but non lucratif. Les opinions exprimées dans ce panel sont celles des intervenants et ne reflètent pas nécessairement la position de Carnegie Council.

Images d'archives fournies par four_track.