Le complexe techno-militaire-industriel-universitaire

Cet article a été publié à l'origine sur Fortune.com

La grève de Harvard, au printemps 1969, est née de ce que les étudiants considéraient comme la complicité de l'université dans la guerre du Viêt Nam. Après que le président de Harvard, Nathan Pusey, a fait appel à la police pour déloger par la force les étudiants qui avaient pris possession du bâtiment de l'administration centrale, la grève qui s'en est suivie a reçu un large soutien de la part du corps étudiant et de la faculté.

L'un de nos principaux griefs était que l'université avait été capturée par le complexe militaro-industriel, dont le président Dwight Eisenhower avait mis en garde contre le pouvoir de plus en plus préjudiciable dans son discours d'adieu de 1961. À l'époque de la grève de Harvard, ce complexe nous avait légué une guerre fabriquée au Viêt Nam, pour laquelle on demandait à de jeunes hommes de donner leur vie sur le champ de bataille au nom de "notre pays, qu'il ait raison ou tort".

En tant qu'étudiant diplômé, j'ai joué un rôle modeste mais non négligeable dans la grève de Harvard, ainsi que dans la grève nationale du printemps suivant, lorsque la guerre au Viêt Nam a été étendue au Cambodge. La complicité de l'université dans la guerre du Viêt Nam est devenue un modèle pour les grèves et les protestations sur près de neuf cents campus. Ces grèves ont pris de l'ampleur après la mort de quatre jeunes gens tués par la Garde nationale de l'Ohio lors d'une manifestation sur le campus de l'université d'État de Kent.

Les universités étaient perçues comme canalisant la main-d'œuvre par le biais d'un système de récompenses qui permettait de déterminer qui avait les bonnes valeurs et les bons objectifs et méritait donc d'être promu à des postes de direction au sein du gouvernement et de l'industrie. Pour nous, il ne faisait aucun doute que le complexe militaro-industriel s'était transformé en un complexe militaro-industriel-académique.

En décembre dernier, un trouble s'est emparé de mon âme lorsque j'ai lu que l'ancien président de Google, Eric Schmidt, avait accepté de verser 15,3 millions de dollars à Yale, l'université à laquelle je suis affilié en tant que chercheur depuis 2001. Ce don à l'Institut Jackson de Yale pour les affaires mondiales est destiné à établir le programme Schmidt sur l'intelligence artificielle, les technologies émergentes et le pouvoir national.

Aujourd'hui, l'industrie et l'argent de la technologie jouent déjà un rôle prépondérant dans la définition de l'agenda des universités contemporaines. Ce don semble être une étape importante dans l'établissement d'un complexe techno-militaire-industriel-académique.

Au moment où j'ai pris connaissance de ce don, je formulais déjà une critique du livre de Henry Kissinger, Eric Schmidt et Daniel Huttenlocher intitulé L'âge de l'I.A. : et notre avenir humain. À mon avis, ce livre, ainsi que le rapport d'une commission de sécurité nationale sur l'intelligence artificielle présidée par M. Schmidt, favorisent la militarisation de l'I.A. et le déclenchement d'une nouvelle guerre froide entre les États-Unis et la Chine. Pendant ce temps, M. Schmidt s'emploie à obtenir des contrats de défense pour les entreprises de la Silicon Valley dans lesquelles il a des intérêts directs. Malgré toutes les critiques légitimes à l'égard de la Chine, il n'est pas du tout évident pour moi que les Chinois souhaitent une guerre froide. Ils préfèrent dominer l'économie mondiale.

En outre, l'ère de l'I.A. fait du prosélytisme en affirmant que les systèmes d'I.A. seront inévitablement beaucoup plus intelligents que les humains et que nous ne serons pas en mesure de comprendre comment ils parviennent à leurs décisions, et que nous devrions donc être prêts à nous soumettre aux jugements de l'I.A. En tant qu'éthicien de l'I.A., je considère cette abrogation de la responsabilité au profit des machines comme le summum de l'immoralité humaine.

L'IA plus intelligente que l'homme et la nécessité de la militariser sont présentées comme inévitables. Ne vous y trompez pas, le récit actuel qui domine la révolution technologique est en fait façonné par les entreprises et les nantis de la technologie et sert leurs intérêts, en supposant qu'ils parviennent à faire adhérer le reste d'entre nous au métavers, à la publicité ciblée, aux crypto-monnaies et à la militarisation de l'I.A. Mais nous devons nous rappeler que rien de technologique n'est inévitable, si ce n'est que la volonté et l'intention de l'homme le rendent ainsi.

Lorsque j'ai parlé à Ted Wittenstein, directeur exécutif des études sur la sécurité internationale à Yale, il était à juste titre fier de la subvention accordée par Eric et Wendy Schmidt, qui a rehaussé la stature de l'Institut Jackson. Lors d'un appel Zoom, il m'a assuré qu'il était nécessaire d'adopter des perspectives critiques pour atteindre l'objectif de la subvention. Cela garantirait un minimum d'intégrité académique. Nous verrons bien. Les voix critiques sont souvent cooptées et marginalisées. Et en nommant le programme "A.I., Emerging Technologies, and National Power" - au lieu de Coopération internationale ou Sécurité internationale, ou même Sécurité nationale - son orientation idéologique était très claire.

Plus important encore, à une époque où les universités et les chercheurs ont du mal à obtenir le financement de programmes dans le domaine des sciences humaines, les grandes entreprises technologiques et les nantis de la technologie sont facilement disponibles pour financer des recherches qui servent leurs intérêts. Des universités comme le MIT reçoivent des millions de dollars pour financer des programmes utiles à la construction d'un pipeline pour les étudiants les plus susceptibles de contribuer à une économie technologique en plein essor. Avec l'alliance naissante entre la technologie et l'establishment de la défense, la mainmise de l'industrie technologique sur les universités est sur le point de s'achever.

Wendell Wallach est consultant, éthicien et chercheur au Centre interdisciplinaire de bioéthique de l'université de Yale. Il est également chercheur au Lincoln Center for Applied Ethics, membre de l'Institute for Ethics & Emerging Technology et conseiller principal au Hastings Center.