Cartographie de l'IA et de l'égalité, Partie 2 : Définir l'IA et l'égalité

En cartographiant l'IA et l'égalité, il est utile de développer de grandes catégories qui mettent en évidence des trajectoires distinctes montrant l'impact de l'IA sur les personnes et leurs relations les unes avec les autres, ainsi qu'avec notre environnement commun. Cette série de billets de blog a pour but d'alimenter la réflexion.

L'intelligence artificielle est un terme contesté.En règle générale, elle désigne la simulation des capacités cognitives humaines (formes discrètes d'intelligence) par des machines. Toutefois, il y a eu des désaccords sur les capacités qui sont véritablement des expressions de l'intelligence.   

Le processus ou l'ensemble des règles utilisées par un ordinateur pour effectuer une tâche est appelé algorithme.

De nombreux processus (algorithmes) impliquent des étapes mécaniques ou purement mathématiques, tandis que d'autres processus nécessitent des facultés mentales d'ordre supérieur, telles que la capacité d'apprendre ou de planifier. Mais tout au long de la courte histoire de l'informatique, certaines tâches essentiellement mécaniques effectuées par des ordinateurs ont été qualifiées d'intelligence artificielle.Par exemple, la recherche d'un mot ou d'une phrase dans une grande base de données ou sur l'internet est parfois qualifiée d'intelligence artificielle, même s'il est généralement admis qu'il s'agit d'une activité essentiellement mécanique qui ne requiert aucune intelligence particulière de la part de l'ordinateur.Dans cette acception, les applications de l'IA existent depuis des décennies.  

Toutefois, de nombreux puristes de l'IA, tels que Stuart Russell, coauteur du principal manuel sur le sujet, souhaitent réserver le terme d'IA aux capacités cognitives d'ordre supérieur (Russell, Stuart, 2019, Human Compatible, Generic) telles que l'apprentissage, la planification, la résolution de problèmes et la compréhension précise du langage humain. La capacité à prendre des décisions de manière autonome (avec peu ou pas d'implication humaine directe) a également été considérée comme une caractéristique essentielle dans certaines définitions de l'IA.Par exemple, le Groupe d'experts de haut niveau sur l'IA établi par la Commission européenne en juin 2018 a fait de la prise de décision autonome un élément de sa définition d'un système d'IA, qu'il définit comme une machine "conçue par des humains qui, étant donné un objectif complexe, agissent dans la dimension physique ou numérique [...] la ou les meilleures actions à entreprendre pour atteindre l'objectif donné" (Groupe d'experts indépendant de haut niveau sur l'intelligence artificielle, 2019).   

L'histoire de la recherche en IA a été caractérisée par des périodes de grand enthousiasme, ou étés de l'IA, chaque fois générées par une nouvelle approche passionnante, suivies d'un hiver de l'IA lorsque l'approche n'aboutit pas aux percées attendues. Toutefois, l'avènement des algorithmes d'apprentissage en profondeur, associé au matériel de pointe suffisamment puissant pour les exécuter, produit des avancées significatives et continues qui ont permis au domaine de la recherche en IA de s'appuyer sur des bases solides. L'évolution de l'IA n'a pas été linéaire et son impact transformateur sur la condition humaine continue de se manifester à travers un spectre de différences culturelles qui ne peuvent pas être clairement capturées dans des modèles simples ou statistiques.  

Les systèmes d'apprentissage profond analysent de grandes bases de données d'informations par le biais de multiples couches de traitement.Les algorithmes d'apprentissage profond ont donné naissance à de nouvelles approches pour résoudre des problèmes autrefois insolubles, ainsi qu'à des gains d'efficacité et de productivité, en triant des bibliothèques de données, en recherchant et en extrapolant des relations saillantes qui auraient pu être impossibles à trouver autrement. C'est une bénédiction pour l'exploration de vastes quantités de données de recherche, telles que celles relatives à toute condition médicale complexe, afin de révéler des corrélations qui méritent d'être étudiées expérimentalement.   

L'apprentissage en profondeur est un sous-ensemble de l'apprentissage automatique.Comme indiqué précédemment, les ordinateurs sont loin d'avoir les capacités d'apprentissage générales d'un jeune enfant. Néanmoins, les techniques d'apprentissage qui ont été informatisées, en combinaison avec d'autres processus informatisés, ont surpassé les experts humains dans une variété de tâches. Par exemple, les chercheurs ont eu du mal à résoudre la structure tridimensionnelle des protéines complexes, ce que l'on appelle le problème du repliement des protéines.En novembre 2020, DeepMind (une division d'Aphabet/Google) a annoncéAlphaFold, une application d'IA qui a réussi à décrire la structure de nombreuses protéines.Des modèles pour la structure de plus de 365 000 protéines ont accompagné l'ouverture d'unebase de données sur la structure des protéines AlphaFold introduite en juillet 2020(Nature July 22, 2020). 

Un riche débat est en cours sur les processus qui méritent vraiment d'être qualifiés d'intelligence et sur ceux qui semblent humains mais qui sont de nature mécanique. À son tour, ce débat alimente une conversation plus large sur les capacités susceptibles d'être informatisées et sur celles qui peuvent (ou doivent) rester uniquement humaines. Cette dernière conversation dépasse largement les objectifs de cet article, sauf dans la mesure où la discussion est parfois formulée de manière à dévaloriser les capacités humaines et à dégrader la dignité humaine par rapport aux systèmes informatiques existants ou futurs. En d'autres termes, les personnes sont déjà ou seront considérées comme inégales par rapport aux machines à certains égards.   

Les éléments distincts d'IA dans un système informatisé peuvent ne comprendre qu'une ou deux caractéristiques pour des applications plus compliquées et dans des systèmes adaptatifs complexes tels que les marchés financiers ou de produits dérivés dans lesquels les humains et les systèmes informatiques interagissent.  

Dans le cadre de l'initiative "IA et égalité" du site Carnegie Council, nous ne faisons pas toujours la distinction entre les éléments d'un système dotés d'une intelligence artificielle, les algorithmes qui ne méritent pas ce qualificatif et les tâches exécutées par des personnes. Par exemple, l'économie numérique, qui joue un rôle clé dans les questions contemporaines d'égalité et d'inégalité, est composée de ces trois éléments.Toutefois, les éléments propres à l'IA deviennent de plus en plus importants pour la croissance, l'efficacité, la stabilité et la sécurité globales de l'économie numérique. En cartographiant les effets des tâches informatisées sur l'économie numérique, nous parlons parfois de "systèmes algorithmiques et d'IA" afin de nuancer, mais aussi de contourner les discussions plus laborieuses sur les éléments qui relèvent de l'IA et ceux qui n'en relèvent pas. 

Certains des impacts des processus algorithmiques et de l'IA sur les questions d'égalité sont intrinsèques aux processus eux-mêmes, d'autres découlent des bases de données sur lesquelles les algorithmes sont entraînés et des bases de données qu'ils analysent, et enfin, il y a les outils et les techniques que les humains choisissent de déployer. En cartographiant l'impact de l'IA sur les questions d'égalité, nous essayons de distinguer l'importance des algorithmes des caractéristiques intrinsèques à la base de données, ou des outils sélectionnés par les personnes pour servir des objectifs institutionnels ou individuels distincts.   

De même qu'il existe de nombreuses formes d'intelligence, depuis les compétences en mathématiques de haut niveau jusqu'au génie créatif dans l'improvisation jazz, il existe de nombreuses formes d'inégalité, depuis l'inégalité économique jusqu'à l'inégalité des chances, en passant par le traitement inéquitable ou injuste par rapport au traitement préférentiel accordé à d'autres. L'égalité n'est pas un idéal ou un objectif à tous égards.Les individus naissent avec des inclinaisons différentes et développent des compétences différentes.Les personnes ont accès à des ressources économiques différentes ou en créent, ce qui est généralement toléré, sinon toujours accepté. Notre préoccupation est de cartographier les différentes façons dont l'IA ou l'économie numérique, dont l'IA est devenue un moteur essentiel, ont un impact sur toute une série de questions relatives à l'égalité ou à l'inégalité, souvent sans examen scientifique ou discours public significatif.  

Considérons l'objectif de l'égalité des chances, qui consiste à uniformiser les règles du jeu afin que la race, le sexe ou d'autres facteurs culturels ne compromettent pas l'accès à l'éducation, à l'emploi ou au logement.De plus en plus, le manque d'accès aux ordinateurs et à l'internet peut en soi désavantager les individus et les communautés. Si l'accès et l'alphabétisation numérique sont devenus un objectif central de l'UNESCO, des États et des villes dans la lutte contre la pauvreté, il ne s'agit pas explicitement d'une forme d'inégalité où l'IA joue un rôle important.

Anja Kaspersen est Senior Fellow à Carnegie Council of Ethics in International Affairs. Elle a été directrice du Bureau des affaires de désarmement des Nations unies à Genève et secrétaire générale adjointe de la Conférence du désarmement. Auparavant, elle était responsable de l'engagement stratégique et des nouvelles technologies au Comité international de la Croix-Rouge (CICR).

Wendell Wallach est consultant, éthicien et chercheur au Centre interdisciplinaire de bioéthique de l'université de Yale. Il est également chercheur au Lincoln Center for Applied Ethics, membre de l'Institute for Ethics & Emerging Technology et conseiller principal au Hastings Center.