IA générative

Définition et introduction

L'IA générative fait référence à une catégorie de technologies d'intelligence artificielle (IA) qui produisent des résultats tels que du texte, des images, des ensembles de données ou d'autres médias en réponse à des invites de l'utilisateur. Ces technologies s'appuient généralement sur l'apprentissage automatique ou sur de grands modèles de langage pour identifier des schémas dans un ensemble de données d'apprentissage et les utiliser pour générer les résultats.

Dans un article publié sur le site Carnegie Council's Artificial Intelligence & Equality Initiative (AIEI) et intitulé "Now is the Moment for a Systemic Reset of AI and Technology Governance", Wendell Wallach et Anja Kaspersen, Senior Fellows, soulignent les progrès "impressionnants" réalisés par les technologies d'IA générative ces dernières années, tout en précisant que les algorithmes à l'origine de ces solutions "peuvent repérer et régurgiter des mots et des concepts perspicaces, mais ils ne comprennent pas la profondeur du sens de ces mots et de ces concepts".

La rapidité, la facilité d'utilisation et l'accessibilité de cette technologie posent des problèmes éthiques aux entreprises, aux écoles et aux universités, ainsi qu'aux particuliers. Les questions de propriété intellectuelle et de droits d'auteur ont conduit Amazon à avertir ses employés de ne pas partager leur code avec ChatGPT. Pour les établissements d'enseignement, selon la manière dont les étudiants exploitent l'IA générative, les pratiques acceptables en matière de recherche et de devoirs pourraient en pâtir.

Pour en savoir plus sur ce sujet, vous trouverez ci-dessous des articles, des podcasts et des ressources hors site créés et sélectionnés par le réseau Carnegie Council.

Un cadre pour la gouvernance internationale de l'IA

Le déploiement rapide des technologies d'IA générative souligne l'importance de mettre en place des mécanismes de gouvernance efficaces pour assurer un contrôle éthique et juridique.

Cette note conceptuelle propose la création immédiate d'un Observatoire mondial de l'IA (GAIO) soutenu par des mécanismes consultatifs coopératifs afin d'identifier et de diffuser les meilleures pratiques, les normes et les outils pour une gouvernance internationale globale des systèmes d'IA.

Lire le cadre

Le moment est venu de procéder à une réinitialisation systémique de la gouvernance de l'IA et des technologies

Wallach et Kaspersen posent une question importante : Comment pouvons-nous nous assurer que les technologies actuellement développées sont utilisées pour le bien commun, plutôt que pour le bénéfice de quelques privilégiés ?

Comment ChatGPT a-t-il répondu à la question de savoir ce que les progrès de l'intelligence artificielle signifient pour la condition humaine ?

Lire l'article

Sommes-nous en train d'automatiser la banalité et la radicalité du mal ?

Dans un article publié sur le site Carnegie Council's Artificial Intelligence & Equality Initiative (AIEI), Anja Kaspersen et Wendell Wallach, Senior Fellows, ainsi que Kobi Leins, conseiller du conseil d'administration de l'AIEI, affirment :

"Dans la hâte de déployer des modèles et des technologies d'IA générative, sans garde-fous ou réglementations suffisants, les individus ne sont plus considérés comme des êtres humains mais comme des points de données, alimentant une machine plus large d'efficacité pour réduire les coûts et tout besoin de contributions humaines. De cette manière, l'IA menace de permettre à la fois la banalité et la radicalité du mal, et alimente potentiellement le totalitarisme".

Lire l'article

Questions de discussion sur l'éthique de l'IA générative

  1. Est-il éthique pour quelqu'un de créer du contenu à l'aide de l'IA générative sans divulguer que l'IA générative a été utilisée ?
  2. Les contenus générés par l'IA, tels que les images, les vidéos et les autres médias, doivent-ils être soumis aux lois sur le droit d'auteur ? Dans l'affirmative, qui devrait détenir les droits d'auteur ?
  3. L'IA générative doit-elle être réglementée pour garantir qu'elle est utilisée d'une manière éthiquement acceptable ? À quoi pourrait ressembler ce type de réglementation ?
  4. Comment les outils d'IA générative peuvent-ils être conçus pour minimiser les biais ?
  5. L'utilisation de l'IA générative devrait-elle être interdite dans certains contextes, par exemple pour un étudiant qui fait ses devoirs, pour des utilisateurs qui créent des fausses nouvelles ou de la propagande, pour une société de divertissement qui crée une image ou une vidéo profondément fausse, etc.

En savoir plus sur l'éthique et l'intelligence artificielle

NOV 3, 2021 - Podcast

Il est temps de tenir un discours scientifique honnête sur l'IA et l'apprentissage profond, avec Gary Marcus

Dans cet épisode du podcast "Artificial Intelligence & Equality Initiative", Anja Kaspersen, Senior Fellow, s'entretient avec Gary Marcus de la nécessité d'un discours scientifique ouvert et sain sur l'IA. Que pouvons-nous apprendre de la physique des particules et du CERN ?

22 JUIN 2022 - Podcast

L'IA bouleverse-t-elle la géopolitique ? avec Angela Kane

Dans cet épisode du podcast "Artificial Intelligence & Equality Initiative", Wendell Wallach, membre de Carnegie-Uehiro, est rejoint par Angela Kane, présidente du Conseil d'administration de l'Université des Nations unies, pour discuter de la manière dont l'IA est susceptible de bouleverser la géopolitique.

Carnegie CouncilL'initiative "Intelligence artificielle et égalité" de la Commission européenne

L'initiative "Intelligence artificielle et égalité" vise à jeter les bases d'un dialogue inclusif sur l'éthique de l'IA et à faire de l'éthique un outil permettant de prendre des décisions réfléchies sur la manière dont l'IA s'intègre dans nos vies.

En savoir plus

Ressources supplémentaires sur l'IA générative

ChatGPT pour les agences nationales et locales ? Pas si vite.

Carnegie Council Arthur Holland Michel, Senior Fellow, examine certains des impacts sociétaux possibles du ChatGPT.

Lire

Le ChatGPT peut-il résoudre les problèmes pressants de l'éthique mondiale ?

"Traiter le ChatGPT comme une source objective de connaissances n'est donc pas seulement une erreur, mais reproduit les inégalités en matière de connaissances.

Lire

L'éthique de l'IA générative - BMJ

"L'intelligence artificielle (IA) et son introduction dans les parcours cliniques posent une série de problèmes éthiques. . ."

Read

ChatGPT a jeté de l'essence sur les craintes d'une course à l'armement entre les États-Unis et la Chine dans le domaine de l'IA

Wendell Wallach, membre de Carnegie-Uehiro, a discuté des implications d'une "course à l'armement sur l'IA" entre les deux pays.

Lire

Risques et considérations éthiques de l'IA générative

"Lors de l'entraînement sur un grand corpus de données textuelles ou d'images, le modèle reproduit naturellement tous les biais représentatifs de sa source".

Lire