Auteur
Eleonore Fournier-Tombs
Centre de recherche sur les politiques de l'Université des Nations unies (UNU-CPR)
L'IA agentique - un type de système d'IA capable de planifier et d'exécuter de manière autonome des processus à plusieurs étapes - est devenue beaucoup plus importante ces dernières années en raison de l'essor de l'IA générative. Les modèles d'IA générative, notamment les grands modèles de langage, qui permettent d'interpréter un texte et de créer des réponses, permettent aux agents d'IA, tels que les chatbots, d'imiter les attributs et les dialogues humains de manière beaucoup plus convaincante qu'il y a encore quelques années.
Ces nouvelles capacités ont donné lieu à une multitude d'applications inédites, notamment dans le domaine de la délibération politique, ce qui permet aux représentants et aux non-décideurs d'envisager trois types de rôles pour les agents d'IA :
- L'IA au service des délibérations entre êtres humains ;
- l'IA en tant que participant à des délibérations hybrides (où des êtres humains sont également présents) ; et
- L'IA comme substitut aux délibérations humaines (en l'absence d'êtres humains).
Aujourd'hui, de nouveaux outils et initiatives permettant de jouer ces rôles sont déployés, notamment la plateforme en ligne gratuite pol.is et les dialogues numériques pour la paix du Département des affaires politiques et de la consolidation de la paix des Nations unies (UN-DPPA), qui confient tous deux un rôle de modération à des agents d'intelligence artificielle.
L'évolution de la délibération : De l'analogique à l'Internet et à l'IA
Même avant l'essor de l'IA générative, les processus délibératifs, qui permettent à une multitude de participants de discuter et de façonner leurs idées par le dialogue en convergeant idéalement vers une décision commune, ont été fortement influencés par les nouvelles technologies au cours des dernières décennies.
En 1967, lorsque le philosophe politique allemand Jürgen Habermas a publié La transformation structurelle de la sphère publiqueil a critiqué les technologies de l'information de l'époque - la télévision et la radio - pour avoir détruit le dialogue public en créant des outils de diffusion de l'information à sens unique où les gens ne pouvaient que recevoir des idées, et non y contribuer. Toutefois, avec l'émergence de l'internet et des médias sociaux, cette tendance s'est inversée, permettant aux personnes disposant d'une connectivité numérique de partager leurs idées de manière beaucoup plus indépendante.
C'est ainsi qu'a commencé une ère, pour le meilleur et pour le pire, où l'internet a fourni un espace dynamique pour le débat et le dialogue autour des questions politiques. De nouveaux obstacles à la participation sont apparus, de la culture numérique à la connectivité, ainsi que de nouveaux défis délibératifs, de la polarisation accrue au développement de chambres d'écho en ligne.
Nous sommes désormais confrontés à une nouvelle question, qui concerne la participation des modèles d'IA aux processus délibératifs, tant formels qu'informels, et ce que cela pourrait signifier pour la prise de décision sociétale, en particulier lorsqu'il s'agit de fixer des normes et des objectifs globaux.
Délibération formelle et informelle en politique
Il est important de noter ici deux types de processus de décision politique.
Nous avons tout d'abord les processus délibératifs formels, qui se déroulent généralement dans le cadre de l'élaboration de la politique gouvernementale. Pour les non-décideurs, cela peut prendre la forme d'une réunion publique avec des représentants du gouvernement ou d'une assemblée de citoyens, qui visent toutes deux à recueillir des informations sur les besoins et les idées des électeurs afin de mieux adapter les décisions de leurs représentants élus. Les assemblées citoyennes, telles que la Convention française des citoyens pour le climat de 2020, offrent des structures dans lesquelles, selon les théoriciens de la délibération, des résultats optimaux peuvent émerger. Ces dialogues structurés utilisent des outils tels que des exposés d'experts, des groupes de travail, des modérateurs et le vote. Les mairies sont généralement plus simples dans leur architecture, avec un discours d'un représentant élu ou d'un candidat, et une période de questions-réponses avec les membres de l'électorat.
Les délibérations informelles, quant à elles, sont des discussions qui façonnent l'opinion politique de manière plus générale, sans être spécifiquement conçues ou ciblées. Il peut s'agir de discussions sur des sujets politiques dans les médias sociaux, de fils de commentaires sur des blogs ou des articles de presse, ou de commentaires vidéo sur des événements d'actualité. Les discussions en ligne se propagent souvent comme des réseaux, avec des personnes qui repostent, commentent, aiment et fournissent un contenu original sur un sujet politique spécifique.
Bien entendu, les délibérations informelles sont beaucoup plus efficaces que les délibérations formelles pour façonner l'opinion publique, mais elles n'ont souvent pas de voies claires vers l'action politique. La politologue Jane Mansbridge parle de "discussions de tous les jours", expliquant que les gens peuvent être plus ouverts à changer d'avis dans le cadre d'un dialogue à bâtons rompus, où les défenses sont abaissées et où les émotions et les expériences peuvent être intégrées de manière plus naturelle. Toutefois, les délibérations informelles peuvent créer des boucles fermées où les bonnes idées ne parviennent pas aux décideurs.
Rôles émergents des agents d'intelligence artificielle et leurs implications
Les agents d'intelligence artificielle commencent à être utilisés intentionnellement dans des contextes formels afin de relever certains des défis actuels de la délibération, en permettant la délibération à grande échelle, en surmontant les barrières linguistiques, en surveillant les comportements préjudiciables dans les dialogues et en guidant les participants vers des résultats clairs. Cependant, les agents d'IA sont également présents, volontairement ou non, dans les délibérations informelles. En fait, les chatbots d'IA n'ont rien de nouveau dans les médias sociaux et sont déployés pour des raisons à la fois bénignes et nuisibles depuis près d'une décennie. La différence aujourd'hui est que les agents d'IA sont beaucoup plus convaincants, polyvalents et faciles à créer.
Ces diverses utilisations des agents d'IA conduisent à différentes couches de zones grises éthiques, qu'il sera de plus en plus nécessaire d'aborder.
L'IA en tant qu'outil de délibération risque de manipuler les débats, par exemple en déformant les perspectives dans le résumé, en surveillant les commentaires de manière inappropriée ou en omettant des points d'action pour le suivi. Les agents d'IA en tant que participants peuvent risquer de "polluer" le processus de délibération avec des idées inappropriées ou nuisibles, entraînant des résultats négatifs pour la société. Et bien sûr, les délibérations menées uniquement par des agents d'IA, c'est-à-dire les délibérations sans humains et entre "jumeaux numériques" , posent des questions importantes sur la perte de l'action humaine dans la formation de la société dans laquelle nous vivons, ainsi que sur la perte des avantages du dialogue dans le développement et le renforcement de notre tissu social.
Le tableau ci-dessous présente quelques-unes des principales utilisations et préoccupations éthiques pour chaque type d'agent d'IA.
| Type de délibération | Type d'agent AI | Utilisations principales | Préoccupations éthiques |
|---|---|---|---|
| Formel | Modérateur | Résumé des points clés, traduction, orientation des participants vers les résultats. | Omission de certains points des participants, résultats erronés ou biaisés. |
| Formel | Participant | Représentation de la voix exclue dans la délibération. | Fausse représentation, absence de pouvoir et de bénéfices de la délibération pour le groupe "remplacé". |
| Formel | "Jumelles | Test des perceptions et des idées, par exemple la réaction potentielle de la population à un changement de politique. | Fausse représentation, absence de pouvoir et de bénéfices de la délibération pour le groupe "remplacé". |
| Informel | Modérateur | Recommandation de contenu, publicité. | Silos d'information et chambres d'écho, polarisation, manipulation. |
| Informel | Participant | L'influence (qui peut être de la désinformation, mais aussi certaines causes), l'agrégation de contenu (par exemple, un bot qui retweete sur un certain sujet). | Manipulation, surtout si les participants humains ne savent pas que la boîte de dialogue est artificielle. |
| Informel | "Jumelles | Une délibération informelle sur les jumeaux numériques pourrait avoir lieu si les chatbots "conversaient" entre eux. | Les avis sont très partagés à ce sujet, certains estimant que le dialogue informel des chatbots pourrait avoir des effets positifs sur les délibérations, tandis que d'autres craignent qu'en l'absence de contraintes, les chatbots puissent prendre toute une série de mesures préjudiciables. |
La prise de conscience de ces défis éthiques peut restaurer une partie de l'action humaine perdue, en particulier si elle s'accompagne de choix de conception intentionnels pour les délibérations formelles et informelles.
Les processus délibératifs sont des moyens naturels pour les êtres humains d'échanger leurs idées et de façonner les sociétés dans lesquelles ils vivent. L'insertion de "penseurs" artificiels, pour ainsi dire, n'est pas simple, mais une utilisation responsable peut être possible dans certains cas si les risques sont compris et traités. Il sera particulièrement important d'examiner cette question dans les années à venir, alors que les décideurs politiques et le grand public s'orienteront vers de nouvelles séries d'objectifs de développement durable (ODD) et utiliseront les forums multilatéraux pour relever une multitude de défis mondiaux.
À mesure que l'adoption de l'IA agentique progresse, il est essentiel que les chercheurs et les décideurs politiques étudient la manière dont ces systèmes d'IA autonomes peuvent influencer nos idées et nos décisions politiques, puis se mettent d'accord sur des principes éthiques pour informer la gouvernance de l'IA.
Eleonore Fournier-Tombs est responsable de l'action anticipative et de l'innovation au Centre de recherche sur les politiques de l'Université des Nations unies (UNU-CPR).
Carnegie Council for Ethics in International Affairs est un organisme indépendant et non partisan à but non lucratif. Les opinions exprimées dans cet article sont celles de l'auteur et ne reflètent pas nécessairement la position de Carnegie Council.
