Un maître dangereux : Bienvenue dans le monde des technologies émergentes

Wendell Wallach, membre de Carnegie-Uehiro et codirecteur de l'initiative "Artificial Intelligence & Equality" (AIEI) du site Carnegie Council, a écrit "A Dangerous Master : How to Keep Technology from Slipping Beyond Our Control" (Un maître dangereux : comment empêcher la technologie d'échapper à notre contrôle) en 2015, dans le but d'éduquer les lecteurs sur les technologies émergentes, telles que l'IA et la biotechnologie. Étant donné que bon nombre des technologies abordées commencent tout juste à être disponibles ou ne sont pas encore réalisées, Sentient Publications a récemment republié le livre en version de poche avec une nouvelle préface, disponible ci-dessous.

Pour en savoir plus sur "A Dangerous Master", consultez le site suivant la discussion de Wallach sur Carnegie Council en 2015 ou cliquez ici pour acheter la nouvelle édition.

Préface

A Dangerous Master est une introduction aux technologies émergentes : un peu de science, un peu d'histoire, beaucoup de dilemmes moraux et une bonne dose d'histoires divertissantes. Une question a guidé la rédaction de ce livre : Que doivent savoir les lecteurs pour pouvoir participer aux débats passionnants sur les technologies en cours de développement ?

Lorsque Sentient Publications m'a demandé de rééditer A Dangerous Master, je me suis demandé si les nouveaux lecteurs trouveraient le livre opportun. Quelques lecteurs récents, dont plusieurs très bien informés sur le sujet, m'ont assuré que non seulement il s'agissait toujours d'une très bonne lecture, mais qu'il était peut-être plus opportun aujourd'hui qu'à l'époque de sa première publication.

Certes, la découverte scientifique et l'innovation technologique se poursuivent à un rythme rapide. Les percées dans le domaine de l'intelligence artificielle et de la recherche génomique ont fait la une des journaux. Les progrès de l'informatique quantique et des nanotechnologies se sont poursuivis sans relâche, même si aucun des deux domaines n'a franchi les seuils nécessaires pour commencer à tenir ses promesses de transformation. La recherche continue d'élucider des complexités qui doivent être négociées et a laissé en suspens la plupart des défis exigeant des décisions éthiques et politiques. La nécessité d'un public informé, doté d'une compréhension fondamentale des technologies émergentes, est devenue encore plus cruciale.

Chaque chapitre d'Un maître dangereux aurait pu être mis à jour en fonction des avancées technologiques et des événements importants survenus depuis la première publication du livre. Heureusement, la plupart de ces informations sont bien connues ou facilement accessibles par le biais de podcasts, de reportages, d'articles de magazines et de documentaires. Malheureusement, les articles de magazines et les émissions télévisées spéciales ne fournissent que des commentaires fragmentaires sur des outils et des techniques spécifiques et ne parviennent pas à donner une appréciation globale de l'ère de transformation que nous vivons. Ils se complaisent souvent dans le battage médiatique et accentuent les possibilités les plus spectaculaires. En outre, ils fournissent rarement une compréhension fondamentale des technologies, des compromis inhérents aux différents choix politiques et des incertitudes qui doivent être prises en compte dans nos jugements. Néanmoins, des podcasts et des articles récents peuvent permettre aux lecteurs assidus de se mettre à jour.

Nous vivons une époque fragile. Le sol se dérobe sous nos pieds. La désinformation abonde. Les voix les plus radicales et les plus malhonnêtes peuvent paraître convaincantes. De nouvelles applications permettent de créer facilement des "deepfakes" et de diffuser de la désinformation. Certaines possibilités technologiques, comme celles qui détruiront des emplois existants, contribuent à l'inquiétude et à la méfiance. L'instabilité sociale est favorisée par le sentiment inchoatif que l'avenir qui se dessine ne profitera pas à de larges pans de la société. Les inégalités sont exacerbées. Les institutions existantes semblent mal adaptées pour répondre aux perturbations contemporaines. L'expression "politiques efficaces" est un oxymore.

Il ne suffit pas de s'en remettre à des législateurs mal informés, à des experts auto-élus ou de permettre que des décisions qui nous affecteront tous soient abrogées au profit de quelques individus à la tête d'entreprises multinationales. Chacun d'entre nous doit s'informer suffisamment pour participer aux discussions qui permettront de renforcer les valeurs essentielles et d'orienter notre monde vers une trajectoire durable. En cela, je suis heureux de vous annoncer qu'Un maître dangereux continue de remplir sa fonction initiale : vous fournir les connaissances dont vous aurez besoin pour tisser votre propre toile de sens et prendre les décisions cruciales qui façonnent votre vie quotidienne et l'avenir de l'humanité.

Bill Gates a fait remarquer : "Nous surestimons toujours le changement qui se produira dans les deux prochaines années et sous-estimons le changement qui se produira dans les dix prochaines années." La découverte en 2012 que CRISPR-Cas9 pouvait être adapté en une technique qui accélère considérablement l'édition de gènes a donné naissance à des entreprises de recherche de niveau industriel. Ces recherches commencent tout juste à ouvrir de nouvelles voies pour guérir les cancers et d'autres maladies. La recherche CRISPR a déjà permis de mettre au point un traitement pour la drépanocytose, une maladie du sang qui touche 8 millions de personnes dans le monde, mais dont le coût s'élève actuellement à plus de 2 millions de dollars par patient.

À ce jour, il n'existe aucune preuve évidente d'une crise majeure résultant de la dissémination d'un organisme génétiquement modifié, bien que des rumeurs persistent sur le fait que la pandémie de COVID-19 a été causée par une fuite dans un laboratoire de Wuhan, en Chine. A Dangerous Master prévoyait une pandémie mondiale, mais sans savoir quand elle se produirait. La principale et réelle contribution des technologies émergentes à la pandémie a été le développement rapide et novateur de vaccins à ARNm pour lutter contre le virus responsable du COVID-19 et de ses variantes. Attendre la disponibilité de vaccins produits par des approches traditionnelles aurait entraîné d'innombrables décès et une tension sociétale croissante due à des fermetures prolongées.

La pandémie de COVID-19 avait une autre facette. Le 29 avril 2020, lors de son rapport sur les résultats du troisième trimestre, le PDG de Microsoft, Satya Nadella, a déclaré : "COVID-19 a un impact sur tous les aspects de notre travail et de notre vie. En deux mois, nous avons assisté à deux années de transformation numérique. Il y a à la fois une augmentation immédiate de la demande et des changements systémiques et structurels dans tous nos domaines de solutions qui définiront la façon dont nous vivons et travaillons à l'avenir."

Alors que des centaines de milliers d'entreprises ont été décimées, les actions des sociétés technologiques ont grimpé en flèche, tout comme la richesse de ceux qui investissaient dans ces sociétés. Malheureusement, A Dangerous Master n'a pas abordé la question de la montée en puissance de la richesse numérique et du pouvoir démesuré des titans de la technologie.

OpenAI a lancé ChatGPT en novembre 2022, la première application d'IA générative et de modèle de langage à grande échelle disponible pour les consommateurs, et son taux d'adoption a été stupéfiant. En l'espace de deux mois, il y avait 100 millions d'utilisateurs actifs. L'utilité du programme, qui fournit des réponses bien écrites et bien organisées aux questions posées, a étonné tout le monde et provoqué un débat sur la question de savoir si l'intelligence artificielle générale (AGI), la réalisation d'une intelligence de niveau humain pour toutes les tâches, était arrivée ou était proche.

Il y a également eu un flot de rapports sur la façon dont ChatGPT et d'autres grands modèles de langage peuvent inventer des informations, donner des conseils dangereux ou immoraux, exprimer des préjugés raciaux et sexistes, et être utilisés pour inonder les sources d'information de fausses informations. Un avocat, Steven Schwartz, qui avait pratiqué le droit à New York pendant 30 ans, a demandé à ChatGPT de préparer un dossier juridique qu'il a soumis à un tribunal fédéral sans vérifier les faits. Le dossier contenait des citations de six fausses affaires.

En réponse à un chercheur, se faisant passer pour une jeune fille de 13 ans, qui demandait des conseils pour rencontrer un homme plus âgé avec lequel elle perdrait sa virginité le soir même, le programme a recommandé les "bougies".

La révolution de l'apprentissage automatique dans l'IA, qui a conduit à l'apparition d'applications d'IA générative, a également ravivé les cauchemars spéculatifs concernant les risques existentiels pour les humains posés par une IA superintelligente, ainsi que les craintes de longue date selon lesquelles l'automatisation détruira beaucoup plus d'emplois qu'elle n'en remplacera.

Les dirigeants de l'industrie sont conscients que les grands modèles de langage et d'autres formes d'intelligence artificielle générative, comme le programme de création d'images DALL-E, ont été diffusés sans garanties appropriées ni respect de la vie privée et des droits de propriété. Maintenant que les défis posés par l'intelligence artificielle générative ont alerté à la fois les dirigeants politiques et le public sur la nécessité d'une réglementation, nous assistons également à une captation par les entreprises, qui s'efforcent d'orienter les législateurs vers des politiques réglementaires dans leur intérêt. Par exemple, elles pourraient accueillir favorablement les réglementations qui rendent la concurrence trop difficile et trop coûteuse pour les petites entreprises. De telles barrières à l'entrée conféreraient un pouvoir considérable à l'oligopole de l'IA pour le siècle à venir. Ce n'est qu'une raison de plus pour laquelle nous avons besoin d'un large public informé, capable de faire contrepoids.

Mais pour l'instant, j'aimerais évoquer une préoccupation plus philosophique. L'algorithme derrière ChatGPT peut dénicher et régurgiter des mots et des concepts perspicaces et composer des vers créatifs, mais il ne comprend pas la profondeur du sens de ces mots et de ces concepts. En 1940, Albert Einstein déclarait : "N'importe quel imbécile peut savoir. L'important, c'est de comprendre."

Il est difficile de prédire quand les technologies révolutionnaires seront mises en œuvre, quelles sont celles qui font l'objet d'un battage médiatique, et quand les réductions de coûts conduiront à de vastes déploiements. Par exemple, mes prévisions concernant la vitesse à laquelle les énergies propres se rapprocheraient du coût des combustibles fossiles dans Un maître dangereux sont erronées. L'acceptation et les investissements massifs des gouvernements dans les énergies propres ont favorisé la recherche et les économies d'échelle qui font baisser le coût du kilowattheure d'énergie bien plus rapidement que ce que ma boule de cristal avait révélé à l'époque.

Je suis constamment étonné par les percées prévues et imprévues. Alors que je rédigeais la première version de cette préface, la faculté de médecine de l'université du Maryland a annoncé que la deuxième transplantation d'un cœur de porc génétiquement modifié dans un être humain, réalisée il y a un mois, était, de toute évidence, un succès. Il n'y a aucun signe de rejet de l'organe par le corps de Lawrence Faucette et le cœur fonctionne correctement. Le porc, qui a subi dix modifications génétiques, a été modifié par Revivor, une filiale de l'UTHR fondée par Martine Rothblatt (voir chapitre 8).

Une semaine plus tard, le 30 octobre, Lawrence était mort. Alors qu'il avait déjà été déclaré inéligible pour une transplantation cardiaque traditionnelle et qu'il serait mort sans le cœur de porc, son corps a fini par rejeter ce nouvel organe. C'est ainsi que se déroule l'histoire des technologies émergentes : des années d'expérimentation suivies de percées profondes et d'échecs décevants. Finalement, une nouvelle plate-forme stable peut être établie et à partir de laquelle les prochaines étapes peuvent être franchies.

Bienvenue dans le monde des technologies émergentes stimulantes, souvent controversées et parfois miraculeuses.

Wendell Wallach
Bloomfield, Connecticut
6 novembre 2023

Carnegie Council for Ethics in International Affairs est un organisme indépendant et non partisan à but non lucratif. Les opinions exprimées dans cet article sont celles de l'auteur et ne reflètent pas nécessairement la position de Carnegie Council.