IA générative

L'IA générative fait référence à une catégorie de technologies d'intelligence artificielle (IA) qui produisent des résultats tels que du texte, des images, des ensembles de données ou d'autres médias en réponse à des invites de l'utilisateur. Ces technologies s'appuient généralement sur l'apprentissage automatique ou sur de grands modèles de langage pour identifier des schémas dans un ensemble de données d'apprentissage et les utiliser pour générer les résultats.

Dans un article publié sur le site Carnegie Council's Artificial Intelligence & Equality Initiative (AIEI) et intitulé "Now is the Moment for a Systemic Reset of AI and Technology Governance", Wendell Wallach et Anja Kaspersen, Senior Fellows, soulignent les progrès "impressionnants" réalisés par les technologies d'IA générative ces dernières années, tout en précisant que les algorithmes à l'origine de ces solutions "peuvent repérer et régurgiter des mots et des concepts perspicaces, mais ils ne comprennent pas la profondeur du sens de ces mots et de ces concepts".

La rapidité, la facilité d'utilisation et l'accessibilité de cette technologie posent des problèmes éthiques aux entreprises, aux écoles et aux universités, ainsi qu'aux particuliers. Les questions de propriété intellectuelle et de droits d'auteur ont conduit Amazon à avertir ses employés de ne pas partager leur code avec ChatGPT. Pour les établissements d'enseignement, selon la manière dont les étudiants exploitent l'IA générative, les pratiques acceptables en matière de recherche et de devoirs pourraient en pâtir.

Pour en savoir plus sur ce sujet, vous trouverez ci-dessous des articles, des podcasts et des ressources hors site créés et sélectionnés par le réseau Carnegie Council.

1. Est-il éthique pour quelqu'un de créer du contenu à l'aide de l'IA générative sans divulguer que l'IA générative a été utilisée ?
2. Les contenus générés par l'IA, tels que les images, les vidéos et les autres médias, doivent-ils être soumis aux lois sur le droit d'auteur ? Dans l'affirmative, qui devrait détenir les droits d'auteur ?
3. L'IA générative doit-elle être réglementée pour garantir qu'elle est utilisée d'une manière éthiquement acceptable ? À quoi pourrait ressembler ce type de réglementation ?
4. Comment les outils d'IA générative peuvent-ils être conçus pour minimiser les biais ?
5. L'utilisation de l'IA générative devrait-elle être interdite dans certains contextes, par exemple pour un étudiant qui fait ses devoirs, pour des utilisateurs qui créent des fausses nouvelles ou de la propagande, pour une société de divertissement qui crée une image ou une vidéo profondément fausse, etc.