Entamons une conversation sur le contrat technosocial

Les 30 dernières années ont été marquées par une vague croissante de médiation technologique dans la vie des individus. La moitié de la planète a accès à l'internet et les organisations internationales prennent des initiatives pour connecter le reste. Les dix dernières années ont été marquées par une accélération des progrès dans le domaine de l'intelligence artificielle. Les investissements ont atteint 40 milliards de dollars par an et continueront probablement à augmenter fortement.

Rien qu'au cours des cinq dernières années, les algorithmes d'apprentissage automatique ont introduit des systèmes de reconnaissance faciale controversés dans le système de justice pénale, des contrefaçons profondes dans le domaine public et des moteurs de recommandation populaires dans nos foyers, sur les marchés du travail et dans les départements des ressources humaines. Et il n'y a aucun signe de ralentissement.

Cette ère de transformation est cependant encore assez jeune, si l'on se réfère à la durée de vie d'un être humain. Google a eu 23 ans en septembre dernier. Il vient à peine de sortir de l'adolescence et il est le moteur de recherche le plus populaire de la planète. Ce qui est peut-être encore plus frappant, c'est que 42 % de la population mondiale n'a jamais connu un monde sans lui. Pendant ce temps, 2,8 milliards de personnes (35 % de la population mondiale) sont connectées par l'intermédiaire d'un seul réseau social - Facebook - qui, s'il s'agissait d'une personne, serait trop jeune pour voter.

Le secteur des crypto-monnaies n'a que 12 ans d'existence, sa capitalisation boursière est d'environ 2 500 milliards de dollars et 3 à 4 % de la population mondiale y investit déjà, même en l'absence de mécanismes substantiels de résolution des conflits. Amazon, qui n'était au départ qu'un site web vendant des livres il y a 25 ans, a atteint une valorisation de plus de 1 700 milliards de dollars, et ses services web alimentent un tiers de l'ensemble de l'internet, soutenant les services des entreprises et des gouvernements qui y effectuent des transactions.

Les infrastructures et les plateformes numériques, ainsi que les technologies qu'elles permettent, sont partout, à la fois invisibles, omniprésentes et dominant une part croissante de nos ressources mentales et physiques. Les vies, les libertés et les droits sont liés à la transformation technologique du 21e siècle, même si les effets de cette transformation entrent en conflit avec les accords tacites et concrets de la société pour structurer le pouvoir et les obligations entre les citoyens et les autorités.

Les technologies médiatisent nos vies. Ce fait n'est pas nouveau. Les êtres humains sont, après tout, des êtres techniques : la condition humaine est une condition technologique. Cela a toujours été vrai : nous nous connaissons à la fois archéologiquement et anthropologiquement par la présence d'outils et de symboles. Mais la profondeur de cette vérité est devenue de plus en plus visible au cours du 21e siècle.

À tel point que les entreprises commerciales ont commencé à saisir cette vérité comme une opportunité de développer des concepts pour des produits potentiels existant dans des mondes hybrides tels que le métavers, un vaste réseau de mondes et de simulations 3D persistants, rendus en temps réel, dans lesquels les gens pourraient bientôt vivre leur vie quotidienne.

Une telle existence est déjà manifeste pour des millions de personnes. Fortnite - un jeu gratuit - a généré plus de 5 milliards de dollars de revenus grâce à la vente d'actifs virtuels à plus de 300 millions de joueurs en 2020. Il suffit de constater à quel point les smartphones ont changé la vie quotidienne pour se faire une idée du potentiel d'une telle vision pour l'avenir.

Les technologies ne sont pas séparables du monde qui se crée au 21ème siècle. Elles ne sont pas séparables de la vie personnelle et professionnelle. Elles ne sont pas séparables de la délibération politique, de la délibération publique ou des opportunités fondamentales pour les individus et les sociétés.

Qu'il s'agisse de débattre des coûts et des avantages de la livraison d'organes transplantables par des drones, d'essayer de comprendre la fiabilité de l'information et la manière dont elle est diffusée, ou d'évaluer les témoignages de dénonciateurs au sujet d'algorithmes nuisibles à la démocratie, il est temps d'intégrer les technologies elles-mêmes dans la discussion. Il est temps de parler de la façon dont ces technologies seront intégrées de manière responsable dans le monde et de la façon dont les droits, les libertés et les protections des sociétés seront préservés au fur et à mesure qu'elles pénètrent l'expérience humaine. Il est temps de parler du contrat technosocial

Le "contrat technosocial" est une nouvelle série de contenus organisée par l'initiative Carnegie pour l'intelligence artificielle et l'égalité (AIEI) qui examine la relation du XXIe siècle entre les technologies et la société. Rejoignez la liste de diffusion de Carnegie Councilpour recevoir les derniers articles, podcasts et événements relatifs au contrat technosocial.

Tom Philbeck est directeur général de SWIFT Partners, une société de technologie et de stratégie basée à Genève.