Pourquoi le droit souple est la meilleure façon d'aborder le problème du rythme dans l'IA

Le "problème du rythme" se produit lorsqu'une technologie en développement rapide a un impact sur la société trop rapidement pour que les gouvernements puissent protéger les personnes au moyen de lois et de règlements.

Les lois et les règlements constituent le "droit dur". En revanche, le droit non contraignant fait référence à des mesures qui ne sont pas directement applicables sur le plan juridique, mais qui peuvent néanmoins parfois créer des obligations substantielles. Il s'agit par exemple de lignes directrices, d'ensembles de principes, de codes de conduite, de normes privées et de programmes de partenariat. Dans de nombreux secteurs, le droit contraignant et le droit souple coexistent.

Le scepticisme persiste quant au rôle des normes juridiques non contraignantes dans le domaine de l'IA. Certains affirment que nous devons avoir des lois contraignantes pour protéger les personnes, et je comprends pourquoi : lorsque vous regardez le comportement des géants de la technologie au cours des dernières années, il est difficile de dire que nous pouvons ou devons leur faire confiance pour s'autoréguler.

Toutefois, ce que les sceptiques perdent souvent de vue, c'est que l'autorégulation peut effectivement faire partie des instruments juridiques non contraignants, mais qu'elle est loin de tout régler. D'autres approches non contraignantes peuvent avoir plus de mordant et plus d'impact. La recherche sur les cellules souches en est un exemple : si vous souhaitez publier dans l'une des meilleures revues universitaires, vous devez prouver que vous respectez les normes convenues en matière de recherche sur les cellules souches. Cela s'est avéré être une incitation puissante pour faire respecter les normes dans la pratique.

Avec mon collègue Carlos Ignacio Gutierrez du Center for Law, Science & Innovation de l'université d'État de l'Arizona, j'ai étudié des exemples de ce type pour découvrir ce qui fonctionne bien, ce qui fonctionne à contre-courant et ce qui fonctionne moins bien. Nous avons compilé 634 programmes d'IA non contraignants dans une base de données accessible au public. Ces programmes proviennent de différents endroits dans le monde, et contiennent des programmes qui touchent à différents secteurs et domaines. Nous avons analysé chacun d'entre eux et les avons testés sur la base de plus de 100 critères.

Nous avons constaté qu'environ deux tiers d'entre eux ne prévoyaient aucun mécanisme public permettant de garantir que le programme tiendrait ses promesses. Les normes juridiques douces ne sont donc certainement pas une panacée pour l'utilisation responsable de l'IA et des technologies adjacentes. Toutefois, lorsque l'on transforme cette constatation en enseignements futurs fondés sur les succès passés et actuels, deux facteurs qui rendent les approches non contraignantes plus efficaces ressortent : des mécanismes d'application indirects crédibles et une perception de la légitimité. L'exemple des cellules souches illustre ces deux facteurs.

Même si, dans l'idéal, nous préférons les approches fondées sur le droit contraignant, le problème du rythme signifie qu'il n'est ni raisonnable ni responsable d'attendre que la roue législative tourne. Les nanotechnologies illustrent bien le temps que cela peut prendre : il y a 15 ans, j'ai participé à des discussions au cours desquelles certains ont insisté sur le fait que seul le droit contraignant pouvait régir les nanotechnologies, et aujourd'hui encore, aux États-Unis, il n'existe pas de droit contraignant spécifique aux nanotechnologies.

Bien que leur principal inconvénient soit de ne pas être directement applicables sur le plan juridique, les normes douces présentent de nombreux avantages par rapport aux normes contraignantes. Elles sont plus souples et plus adaptables. Il est plus facile d'expérimenter avec les normes douces, de voir ce qui fonctionne et d'abandonner ce qui ne fonctionne pas. Le droit souple est normatif et transfrontalier, alors que le droit contraignant est souvent promulgué prématurément, avant qu'un accord et une compréhension ne soient atteints, et qu'il est confiné dans les juridictions nationales.

Les gouvernements sont conscients de ces avantages : l'une des surprises de notre base de données a été de réaliser combien d'exemples de normes douces sont mis en place et dirigés par les autorités publiques. On pense généralement que les normes douces sont mises en œuvre par des entités non gouvernementales : entreprises, organisations non gouvernementales ou autres organismes à large base de parties prenantes. Bien que cela arrive, dans la plupart des cas, c'est un gouvernement qui met en place un mécanisme de droit souple, reconnaissant ses avantages en termes de rapidité et de flexibilité.

Les véhicules autonomes en sont un exemple : plus d'une douzaine de gouvernements ont établi des lignes directrices pour le développement de véhicules autonomes, indiquant aux entreprises comment elles veulent qu'ils se comportent. Les normes non contraignantes, telles que les normes privées établies par divers organismes de normalisation, ont une chance de fonctionner efficacement dans des cas comme celui-ci, car les entreprises veulent éviter que le gouvernement ne passe à des réglementations formelles, qui pourraient imposer davantage de coûts et de contraintes.

Cela dit, la législation non contraignante débouche souvent sur la législation contraignante par d'autres moyens. Lorsqu'un ensemble de principes est bien établi dans un secteur, les tribunaux peuvent décider de tenir les entreprises pour responsables des dommages causés par leur non-respect de ces principes. Le refus des assureurs de couvrir la responsabilité légale peut constituer une incitation puissante pour les entreprises à se conformer aux lignes directrices des normes douces.

L'IA pose des défis particuliers en matière de législation non contraignante. Tout d'abord, sa nature "boîte noire" rend plus difficile la transparence. Deuxièmement, les obstacles à la compréhension rendent plus difficile une participation significative des parties prenantes.

Troisièmement, les lignes directrices fonctionnent mieux lorsque chaque entreprise est incitée à les suivre, par exemple pour que ses produits soient interopérables avec d'autres, ou parce qu'elle y voit un avantage en termes de réputation. L'IA pose le défi plus complexe d'amener les entreprises à suivre des lignes directrices qui nuiront à leurs profits, par exemple en ne déployant pas de moyens de manipuler les gens.

Si le droit souple a certainement ses défis à relever, le droit dur souffre également de nombreuses faiblesses et limitations, en particulier dans le cas d'une technologie diversifiée en évolution rapide comme l'IA. Winston Churchill a fait remarquer un jour que la démocratie est la pire forme de gouvernement, à l'exception de toutes les autres. Le droit souple est loin d'être un outil parfait pour relever tous les défis posés par l'intégration de l'IA dans nos structures démocratiques et sociétales - mais, d'un point de vue pragmatique, le droit souple est peut-être la pire forme de gouvernance, à l'exception de toutes les autres.

Gary Marchant est professeur de droit et directeur du Centre pour le droit, la science et l'innovation à l'université d'État de l'Arizona (ASU). Ses recherches portent sur les aspects juridiques de la génomique et de la médecine personnalisée, l'utilisation de l'information génétique dans la réglementation environnementale, le risque et le principe de précaution, et la gouvernance des technologies émergentes telles que les nanotechnologies, les neurosciences, les biotechnologies et l'intelligence artificielle.