Auteur
Elizabeth Seger
CASM, Démos
De nombreux acteurs appellent à la "démocratisation de l'IA". Mais cette expression renvoie à des objectifs variés et parfois contradictoires.
Ce billet, rédigé par Elizabeth Segerdécrit et compare quatre significations différentes de la "démocratisation de l'IA". Lire l'article article complet en libre accès ici.
Introduction
Au cours de l'année écoulée, le débat sur la "démocratisation de l'IA" a pris de l'ampleur. Les entreprises d'IA, les communautés de développeurs et les gouvernements parlent de l'importance de la démocratisation de l'IA et de leur engagement à cet égard, mais ce qu'ils entendent par là n'est pas toujours clair. Le terme "démocratisation de l'IA" est employé de diverses manières, ce qui amène souvent les commentateurs à se parler les uns les autres lorsqu'ils discutent des objectifs, des méthodologies, des risques et des avantages des efforts de démocratisation de l'IA.
Ce billet identifie quatre notions différentes de "démocratisation de l'IA" couramment utilisées : la démocratisation de l'utilisation de l'IA, la démocratisation du développement de l'IA, la démocratisation des profits de l'IA et la démocratisation de la gouvernance de l'IA.
Ces notions se complètent souvent, même si elles s'opposent parfois. Par exemple, si le public préfère que l'accès à certains types de systèmes d'IA soit restreint, la "démocratisation de la gouvernance de l'IA" peut nécessiter la mise en place de restrictions d'accès, mais l'adoption de ces restrictions peut entraver la "démocratisation du développement de l'IA", pour laquelle un certain degré d'accessibilité des modèles d'IA est essentiel.
Ce billet met en évidence deux points importants : (1) la démocratisation de l'IA n'est pas la même chose que la diffusion de modèles, et (2) la valeur positive de la démocratisation de l'IA est ancrée dans la manière dont elle répond aux intérêts et aux valeurs des personnes concernées.
Types de démocratisation de l'IA
Démocratisation de l'utilisation de l'IA
Lorsque l'on parle de démocratisation d'une technologie, on fait souvent référence à la démocratisation de son utilisation, c'est-à-dire au fait de faciliter l'utilisation de cette technologie par un grand nombre de personnes. C'est ainsi que Microsoft utilise le terme lorsqu'il évoque son projet de "démocratiser l'intelligence artificielle (IA), de la sortir des tours d'ivoire et de la rendre accessible à tous". Une partie importante de ce plan consiste à "insuffler de l'intelligence dans chaque application avec laquelle nous interagissons, sur n'importe quel appareil, à n'importe quel moment".
Objectifs :
L'objectif le plus courant de la démocratisation de l'utilisation de l'IA est de distribuer les avantages de l'utilisation de l'IA pour que de nombreuses personnes puissent en profiter. Ces avantages comprennent la valeur ludique (par exemple, la création de poèmes avec ChatGPT), les applications liées à la santé et au bien-être, l'amélioration de la productivité et d'autres fonctions utilitaires (écriture de codes, analyse de données, création artistique). Nombre de ces avantages pourraient se traduire par des gains financiers pour ceux qui intègrent efficacement les outils d'IA dans leur travail.
Toutefois, il est important de reconnaître que pour certaines applications de l'IA, les avantages de la mise à disposition de la technologie à tout un chacun peuvent être relativement mineurs, alors que les risques peuvent être importants. Par exemple, le cercle des personnes qui bénéficieraient grandement de l'accès à un outil d'IA pour la découverte de médicaments est relativement restreint (principalement des chercheurs pharmaceutiques), mais ces outils peuvent être réaffectés à la découverte de nouvelles toxines susceptibles d'être utilisées comme armes chimiques.
Méthodes :
Les efforts visant à démocratiser l'utilisation de l'IA consistent à réduire les coûts d'acquisition et d'exploitation des outils d'IA et à fournir des interfaces intuitives pour faciliter l'interaction entre l'homme et l'IA sans formation ni connaissances techniques approfondies.
Démocratisation du développement de l'IA
Lorsque la communauté de l'IA parle de démocratiser l'IA, elle se limite rarement à démocratiser l'utilisation de l'IA. Une grande partie de l'enthousiasme porte sur la démocratisation du développement de l'IA, c'est-à-dire sur le fait d'aider un plus grand nombre de personnes à contribuer aux processus de conception et de développement de l'IA. Par exemple, Emad Mostaque, PDG de Stability AI, estime que "chacun doit construire sa propre technologie [d'IA]. . . . C'est quelque chose que nous voulons permettre, car personne ne sait ce qui est le mieux [par exemple] pour les habitants du Viêt Nam à part les Vietnamiens". À cette fin, Stability AI a décidé de mettre en open-source Stable Diffusion, ce qui signifie que tout le monde peut télécharger et développer le modèle à condition d'accepter les conditions d'utilisation.
Objectifs :
L'idée est que l'exploitation d'une communauté mondiale de développeurs d'IA accélérera l'innovation et facilitera le développement d'applications d'IA répondant à des intérêts et des besoins divers. Il est également avancé que l'implication d'un plus grand nombre de personnes (par exemple, des universitaires, des développeurs individuels, des laboratoires plus petits) dans les processus de développement de l'IA fournit un mécanisme critique d'évaluation externe et d'audit.
Méthodes :
Diverses activités peuvent permettre une participation productive aux processus de conception et de développement de l'IA. Certaines stratégies permettent d'accéder aux modèles et aux ressources de l'IA afin de faciliter l'engagement de la communauté de l'IA (partage de modèles, amélioration de l'accès aux ordinateurs, soutien et coordination de projets, etc. D'autres stratégies contribuent à élargir la communauté des personnes capables de contribuer aux processus de développement de l'IA, par exemple en offrant des possibilités de formation et de perfectionnement ou en fournissant des outils d'assistance.
Mais là encore, il ne faut pas croire que toutes les méthodes de démocratisation du développement de l'IA sont universellement souhaitables. Par exemple, le partage de modèles en source ouverte permet des contributions plus nombreuses et plus diversifiées au développement de modèles, mais il peut aussi ouvrir la porte à des modifications malveillantes des modèles. Les avantages de l'open-sourcing doivent être mis en balance avec les risques.
Démocratisation des profits de l'IA
Un troisième sens de la "démocratisation de l'IA" se réfère à la démocratisation des profits de l'IA - en facilitant la distribution large et équitable de la valeur accumulée par les organisations qui construisent et contrôlent les capacités avancées de l'IA. La démocratisation des profits est souvent une préoccupation majeure des gouvernements et de la société civile qui s'inquiètent de l'aggravation des fractures socio-économiques et du pouvoir, ainsi que du bien-être des citoyens.
Objectifs :
La démocratisation des profits de l'IA vise notamment à éviter l'élargissement du fossé socio-économique entre les pays leaders et les pays en retard en matière d'IA, à alléger le poids financier des pertes d'emplois dues à l'automatisation, à faciliter la transition économique en cas de croissance rapide de l'industrie de l'IA et à fournir aux laboratoires des mécanismes leur permettant de démontrer leur engagement à poursuivre des activités d'IA avancée pour le bien de tous.
Méthodes :
Les bénéfices pourraient être redistribués, par exemple, par le biais de dons philanthropiques (par exemple, par un engagement en faveur d'une"clause d'aubaine") ou par l'État via l'impôt. Démocratiser le développement de l'IA peut également contribuer à démocratiser les profits en décentralisant le développement de l'IA en le retirant à une poignée de grandes entreprises technologiques.
Démocratisation de la gouvernance de l'IA
Enfin, certaines discussions sur la démocratisation de l'IA font référence à la démocratisation de la gouvernance de l'IA. Les décisions relatives à la gouvernance de l'IA impliquent souvent de mettre en balance les risques et les avantages liés à l'IA afin de déterminer si, comment et par qui l'IA doit être utilisée, développée et partagée. La démocratisation de la gouvernance de l'IA consiste à distribuer l'influence sur ces décisions à une communauté plus large de parties prenantes et de populations concernées. Il s'agit d'un concept principalement porté par des organisations de la société civile telles que le Collective Intelligence Project et Demos, et également reflété dans le projet de subvention "Democratic Inputs to AI" de l'OpenAI.
Objectifs:
L'objectif principal de la démocratisation de la gouvernance de l'IA est de garantir que les décisions concernant des questions telles que l'utilisation, le développement et les bénéfices de l'IA reflètent les intérêts et les préférences des personnes concernées.
Parmi les sous-objectifs importants, citons la décentralisation du contrôle de l'IA par rapport aux grandes entreprises technologiques, la résolution de questions normatives complexes sur l'IA qui peuvent varier d'une culture à l'autre, et la répartition juste et équitable des avantages et des charges liés au développement et à la mise en œuvre de l'IA.
Méthodes :
Les méthodes proposées pour démocratiser les décisions de gouvernance de l'IA comprennent l'exploitation des structures gouvernementales démocratiques existantes, la convocation d'organes internationaux multipartites pour délibérer sur les défis complexes de la gouvernance de l'IA, et l'utilisation d'approches de gouvernance participative et délibérative modernes et prometteuses, rendues possibles par des outils délibératifs et des plates-formes numériques.
Aperçu des principaux éléments
La démocratisation de l'IA est un terme multiforme qui comporte de nombreux objectifs et de nombreuses méthodes pour les atteindre. Cette observation met en évidence deux points importants.
1. La démocratisation de l'IA n'est pas la même chose que le partage d'un modèle de source ouverte.
Un modèle d'IA est open source si le développeur décide de permettre à quiconque de télécharger, de modifier ou de construire le modèle sur son ordinateur, à condition qu'il en accepte les conditions d'utilisation. Dans le discours populaire, "démocratisation de l'IA" et "open source" sont souvent prononcés dans la même phrase. L'implication est que l'open-sourcing est une étape nécessaire vers la démocratisation de l'IA, mais il s'agit d'une simplification excessive. L'open-sourcing est une forme de partage de modèles ; le partage de modèles est une méthode de démocratisation du développement de l'IA ; et la démocratisation du développement de l'IA est un aspect de la démocratisation de l'IA.
2. Les efforts de démocratisation de l'IA ne sont pas intrinsèquement bons.
Parfois, différentes formes de démocratisation de l'IA peuvent entrer en conflit. Par exemple, la décision d'ouvrir le code source irait à l'encontre de la démocratisation de la gouvernance de l'IA si elle ne répondait pas aux intérêts et aux valeurs des personnes susceptibles d'être touchées.
Cela nous amène au dernier point. Tout effort de démocratisation de l'IA - qu'il s'agisse du partage de modèles, de la répartition des bénéfices, de l'obtention de l'avis des parties prenantes ou de la création d'interfaces utilisateur intuitives - n'est pas intrinsèquement bon ; sa valeur découle de l'alignement sur les intérêts et les préférences de ceux qui seront touchés.
C'est pourquoi nous pourrions considérer que la démocratisation de la gouvernance de l'IA prime sur les autres et constitue la source d'où découle la valeur morale et politique de la terminologie "démocratisation" ; l'invocation de la terminologie "démocratisation" implique que toute décision (de partager, de restreindre, de distribuer, de développer, etc.
Carnegie Council for Ethics in International Affairs est un organisme indépendant et non partisan à but non lucratif. Les opinions exprimées dans cet article sont celles de l'auteur et ne reflètent pas nécessairement la position de Carnegie Council.
