Cartographie de l'IA et de l'égalité, partie 5 : Les crises de (dé)légitimation et de distribution de l'IA

En cartographiant l'IA et l'égalité, il est utile de développer de grandes catégories qui mettent en évidence des trajectoires distinctes montrant l'impact de l'IA sur les personnes et leurs relations les unes avec les autres, ainsi qu'avec notre environnement commun. Cette série de billets de blog a pour but d'alimenter la réflexion.

L'humanité est entrée dans un point d'inflexion de son histoire. La convergence des crises causées par le changement climatique, les pandémies, les inégalités structurelles et les technologies déstabilisantes contribue à ce que le philosophe Jurgen Habermas a appelé une "crise de légitimation", dans laquelle les citoyens perdent confiance en leurs gouvernements pour résoudre leurs problèmes (Habermas, Jürgen, 1975. Legitimation Crisis. Boston : Beacon Press).L'instabilité de l'ordre international est palpable et les dirigeants cyniques ou aspirant à l'autoritarisme en profitent.   

En 1930, l'économiste britannique John Maynard Keyes a inventé le terme de "chômage technologique" pour exprimer la crainte des luddites de voir chaque nouvelle technologie supprimer plus d'emplois qu'elle n'en crée. Au cours des 200 dernières années, presque toutes les avancées technologiques, de la révolution industrielle aux percées dans les domaines de l'agriculture, de la fabrication, de la chimie et des soins de santé, ont créé beaucoup plus d'emplois qu'elles n'en ont détruits. Toutefois, ces emplois sont rarement répartis de manière à ce que ceux dont les professions sont les plus susceptibles d'être décimées en bénéficient directement. L'économie numérique crée de nombreux nouveaux emplois haut de gamme qui requièrent des compétences avancées, mais elle n'a pas encore investi dans l'éducation civique pour constituer et élargir de manière adéquate le vivier de talents nécessaire. Ainsi, les régions les plus défavorisées du monde ne bénéficient pas d'améliorations significatives. 

Il s'en est suivi une crise de la distribution où les gains de productivité vont de plus en plus aux détenteurs de capitaux, ceux d'entre nous qui sont capables d'investir dans des instruments financiers. Par exemple, ceux qui ont investi dans le secteur technologique pendant la pandémie ont vu la valeur de leurs portefeuilles augmenter de façon spectaculaire, alors que des centaines de millions de personnes ont perdu leur emploi. Les grandes entreprises qui fournissent des services numériques, qui facilitent une nouvelle façon de travailler virtuellement, se sont développées rapidement. Selon Satya Nadella, le PDG de Microsoft, les objectifs que son entreprise prévoyait de réaliser en deux ans ont été atteints en deux mois au printemps 2020.

Les gouvernements sont de plus en plus soumis à un culte de l'innovation , où l'innovation en soi est perçue comme bonne et ne doit pas être altérée par des contraintes réglementaires. Lorsque les législateurs ou les agences gouvernementales cherchent des moyens de contrôler les entreprises technologiques ou les plateformes de médias sociaux, par exemple, on leur dit souvent qu'ils ne comprennent pas la technologie et que s'ils instaurent des contraintes, ils saperont l'innovation et les gains de productivité essentiels. Dans certains cas, les gouvernements craignent également que les réglementations n'entravent la réalisation d'objectifs stratégiques fondés sur des préoccupations de sécurité nationale. Si les fournisseurs de technologies de rupture ne récoltent que les bénéfices et n'assument pas la responsabilité des coûts sociaux, les inégalités structurelles s'aggraveront.Cette situation n'est pas saine. 

Il y a toujours eu un problème de rythme, un décalage entre la mise en œuvre d'une nouvelle technologie et la vitesse à laquelle le contrôle éthique/juridique est mis en place.Comme l'a noté David Collingridge en 1980(The Social Control of Technology, New York : St. Martin's Press ; London : Pinter), le développement d'une technologie peut plus facilement être façonné dès le début. Malheureusement, il est rare que l'on anticipe pleinement l'impact sociétal d'une technologie dès le début de son développement.Lorsque nous reconnaissons les conséquences sociétales indésirables de l'adoption d'une technologie, celle-ci est probablement tellement ancrée dans le milieu politique et économique qu'il devient difficile de la modifier."Lorsque le changement est facile, il est impossible d'en prévoir la nécessité ; lorsque la nécessité du changement est évidente, le changement est devenu coûteux, difficile et long.(Ibid) La vitesse de déploiement des technologies est rapide et notre capacité à les maîtriser est faible. 

En d'autres termes, l'économie numérique exacerbe les inégalités et les gouvernements n'ont pas réussi à dompter ses excès ou à remédier efficacement aux préjudices causés à ceux qui ont perdu leur emploi, qui ont besoin d'une formation ou qui sont victimes de biais algorithmiques. Comme le dit Christina Colclough, "nous pourrions exiger des entreprises, lorsqu'elles investissent dans des technologies de rupture, qu'elles soient également obligées d'investir dans leur personnel, dans leur recyclage et leur perfectionnement, ainsi que dans leur parcours professionnel". Les opportunités se sont multipliées et les défis continueront probablement à se poser pour ceux qui n'ont pas encore été intégrés de manière significative (ou sûre) dans l'économie numérique.

Anja Kaspersen est Senior Fellow à Carnegie Council of Ethics in International Affairs. Elle a été directrice du Bureau des affaires de désarmement des Nations unies à Genève et secrétaire générale adjointe de la Conférence du désarmement. Auparavant, elle était responsable de l'engagement stratégique et des nouvelles technologies au Comité international de la Croix-Rouge (CICR).

Wendell Wallach est consultant, éthicien et chercheur au Centre interdisciplinaire de bioéthique de l'université de Yale. Il est également chercheur au Lincoln Center for Applied Ethics, membre de l'Institute for Ethics & Emerging Technology et conseiller principal au Hastings Center.