Pourquoi la démocratie et l'autocratie n'ont rien à voir l'une avec l'autre

Ne manquez pas la conférence du professeur Guéhenno Intelligence artificielle et égalité du professeur Guéhenno sur ce sujet avec Anja Kaspersen, Senior Fellow.

J'ai toujours été un anticonformiste. Je l'ai été en 1989 lorsque j'ai écrit mon premier livre, critiquant l'idée - alors largement répandue - que la démocratie avait triomphé une fois pour toutes. Aujourd'hui, je suis à nouveau un anticonformiste avec mon nouveau livre, parce que tout le monde parle de la confrontation entre les démocraties et les autocraties et je pense que c'est passer à côté de l'essentiel.

Quelque chose de bien plus important est en train de se produire : la révolution des données, de l'internet et de l'intelligence artificielle. Je pense que nous sommes à l'aube d'un tremblement de terre dans l'histoire de l'humanité, d'un type qui ne se produit qu'une fois par centaines d'années. La comparaison la plus récente est la Renaissance, et le rythme du changement est beaucoup plus rapide aujourd'hui qu'à l'époque.

Les institutions que nous avons construites avant l'ère des données seront bientôt complètement dépassées, et le fait de penser en termes de vieilles catégories de démocraties par rapport aux autocraties ne tient pas compte de tous les nouveaux défis auxquels elles devront faire face. Nous vivons une époque de grands périls, mais aussi de grandes promesses, comme l'a été la Renaissance - non seulement l'époque de Léonard de Vinci, mais aussi un siècle de guerres de religion.

La révolution actuelle des données et des algorithmes redistribue le pouvoir d'une manière qui ne peut être comparée à aucune autre évolution historique. Traditionnellement, nous pensons que le pouvoir se concentre entre les mains des chefs d'État ou des grandes entreprises industrielles. Mais le pouvoir est de plus en plus entre les mains d'algorithmes qui sont chargés (initialement par des humains) d'apprendre et de se modifier eux-mêmes, et qui évoluent d'une manière que nous ne pouvons pas prédire.

Cela signifie que les propriétaires de Google, de Facebook ou d'Amazon ne sont pas les maîtres de notre destin au même titre que les anciens titans de l'industrie. De même, s'il est vrai dans une certaine mesure que les données donneront aux dictateurs un pouvoir sans précédent pour manipuler la société, ils pourraient également être dominés par l'évolution des algorithmes dont ils dépendent.

Nous voyons déjà comment les algorithmes remodèlent la politique. Les médias sociaux ont créé des tribus autonomes qui ne se parlent pas. Le plus important en démocratie n'est pas le vote lui-même, mais le processus de délibération avant le vote, et les médias sociaux fragmentent rapidement le terrain commun sur lequel ces délibérations ont été construites.

Comment les sociétés peuvent-elles exercer un contrôle sur la manière dont les algorithmes gèrent les données, et s'ils favorisent la haine ou l'harmonie ? Les institutions capables de contrôler ce nouveau pouvoir ne sont pas encore vraiment en place. Ce à quoi elles devraient ressembler sera l'un des grands débats de l'avenir.

Je n'ai pas les réponses : Je crois qu'aucun esprit humain ne peut anticiper l'ampleur des transformations qui vont se produire. En fait, je pense que l'idée même que l'on puisse savoir aujourd'hui quelles seront les bonnes institutions pour l'avenir relève de l'orgueil démesuré. Les meilleures institutions (et les meilleures personnes) seront celles qui s'adapteront le mieux.

Cependant, je pense qu'une approche prometteuse consiste à réfléchir à la relation entre la logique de la connaissance et la logique de la démocratie. Prenons l'exemple des banques centrales. Le citoyen moyen n'a pas la moindre idée du fonctionnement de la politique monétaire. Au lieu de cela, nous comptons sur les hommes politiques pour charger les experts des banques centrales d'essayer d'atteindre un certain objectif - qu'il s'agisse du plein emploi ou d'une monnaie stable.

La pandémie en est un autre exemple. Les responsables politiques ont souvent déclaré qu'ils suivaient les conseils de groupes de scientifiques. Mais le rôle des scientifiques devrait être limité. Ils sont experts en matière de risques et d'effets néfastes du virus, mais les choix politiques visant à répondre au virus s'accompagnent tous d'autres types de risques et d'effets néfastes, et leur évaluation relève essentiellement d'une décision politique, et non d'une décision scientifique.

Ces exemples nous éclairent sur la manière dont nous devrions envisager de contrôler le pouvoir des données. Le commun des mortels n'a aucune idée du fonctionnement des algorithmes, c'est pourquoi nous avons besoin de l'expertise de spécialistes. Mais l'équilibre entre les valeurs concurrentes qui définissent une société est une décision politique. Nous avons besoin de politiciens qui ne prétendent pas savoir mieux que les scientifiques, et de scientifiques qui n'essaient pas de dicter la politique à suivre.

Nous devons également accepter que des sociétés différentes présentent un équilibre différent entre des valeurs concurrentes, telles que le collectivisme et l'individualisme. Aujourd'hui, nous regardons la Russie pousser son programme ethno-nationaliste et nous nous félicitons d'être les bons. Mais pouvons-nous définir ce qui, fondamentalement, maintient l'unité de nos propres sociétés ? L'expression "pas d'ethno-nationalisme" est un bon début, mais ce n'est qu'un premier pas.

Il n'y aura pas de réponse globale unique et nous ne devrions pas aspirer à en trouver une. Nous avons plutôt besoin d'une pluralité de réponses, afin d'avoir une meilleure chance de voir ce qui fonctionne et ce qui ne fonctionne pas. Autocratie contre démocratie peut sembler être la question du jour, mais la révolution à venir nous obligera rapidement à réfléchir de manière plus novatrice et plus nuancée.

Jean-Marie Guéhenno est titulaire de la chaire Arnold A. Saltzman de pratique politique à l'université de Columbia et membre du conseil consultatif de l'initiative pour l'intelligence artificielle et l'égalité de Carnegie Council. Initiative pour l'intelligence artificielle et l'égalité (AIEI), et ancien sous-secrétaire général des Nations unies pour les opérations de maintien de la paix.