Définition et introduction
L'IA décisionnelle fait référence aux processus dans lesquels les systèmes d'intelligence artificielle (IA) fournissent des conseils ou des données pour aider les humains à faire des choix. Dans certains de ces processus, l'IA joue un rôle de soutien, les résultats étant examinés et analysés par les humains avant d'arriver à une conclusion. Mais à mesure que les systèmes d'IA évoluent, leur rôle dans les processus de prise de décision peut devenir plus important, ce qui soulève de nouvelles questions éthiques.
La prise de décision par l'IA est utilisée dans de nombreux domaines et applications, notamment :
- Santé : L'IA aide les professionnels de la santé à diagnostiquer les maladies en analysant les résultats de laboratoire et les antécédents des patients.
- Finance : Les algorithmes d'IA évaluent la solvabilité et sont utilisés dans la détection des fraudes.
- Politique : Les agents d'IA influencent les processus délibératifs formels et informels tels que les assemblées de citoyens et la diffusion d'idées dans les espaces numériques.
- Ventes : Les outils d'IA au sein des plateformes de données clients peuvent automatiser la prospection en fonction de l'intention de l'acheteur.
- Police : Les systèmes de fusion de données, qui s'appuient sur l'IA, permettent à la police d'élaborer des hypothèses sophistiquées sur les personnes susceptibles d'avoir commis un délit.
Consultez les ressources ci-dessous pour en savoir plus sur les défis éthiques liés à la prise de décision en matière d'IA.
Risquer l'escalade au nom de l'efficacité : Implications éthiques de la prise de décision par l'IA dans les conflits
Max Lamparth, de l'université de Stanford, analyse le potentiel de prise de décision de l'IA dans des contextes militaires stratégiques et partage les résultats de deux projets de recherche concernant les tendances à l'escalade des grands modèles de langage.
Ressources supplémentaires sur la prise de décision en matière d'IA
13 NOVEMBRE 2024 - Article
Une zone grise éthique : Les agents d'intelligence artificielle dans les délibérations politiques
12 SEP 2024 - Article
Des principes à l'action : Tracer la voie de la gouvernance de l'IA militaire
Alors que l'IA redéfinit les dimensions éthiques de la guerre, les parties prenantes doivent travailler ensemble à une plus grande transparence et à des efforts de gouvernance pour cette technologie émergente, écrit Brianna Rosen.
9 MAI 2022 - Podcast
Des progrès dans la construction de machines morales ? avec Colin Allen
Anja Kaspersen et Wendell Wallach s'entretiennent avec Colin Allen, professeur à l'université de Pittsburgh, pour évaluer les progrès réalisés dans la construction de systèmes d'intelligence artificielle capables de prendre des décisions morales.
Avez-vous utilisé un grand modèle linguistique tel que ChatGPT dans le cadre de votre travail ?
Prendre des décisions en cas de conflit de valeurs ou de priorités différentes
Paul Root Wolpe, de l'université Emory, s'entretient avec Wendell Wallach, membre de Carnegie-Uehiro, au sujet de la prise de décision éthique et du défi que représente la réglementation des nouvelles technologies dont l'impact est incertain.
Questions de discussion
- Les humains devraient-ils toujours avoir la possibilité d'annuler une décision prise par l'IA, quel que soit le contexte ?
- Dans quelles conditions peut-on donner plus d'autonomie à l'IA pour qu'elle prenne des décisions sans contrôle humain, si tant est qu'il y en ait un ?
- Les systèmes d'IA devraient-ils être tenus d'expliquer leurs décisions ? Pourquoi ou pourquoi pas ?
- Comment la responsabilité doit-elle être répartie entre les développeurs, les utilisateurs ou l'IA elle-même lorsqu'un système d'IA est impliqué dans une décision qui aboutit à un mauvais résultat ?
- Quelles lignes directrices éthiques devraient régir l'utilisation des systèmes d'IA pour la prise de décision ? Comment ces lignes directrices évoluent-elles en fonction du contexte ?
- Comment améliorer l'équité des décisions prises par l'IA ?
- Faut-il réglementer le développement des systèmes décisionnels d'IA ?
Pour en savoir plus sur l'éthique et la prise de décision en matière d'IA, abonnez-vous à la lettre d'information sur l'éthique de Carnegie.
Ressources complémentaires
Comment l'IA peut aider les dirigeants à prendre de meilleures décisions sous pression
Mark Purdy et A. Mark Williams, écrivant pour le "Harvard Business Journal", analysent comment les chefs d'entreprise peuvent bénéficier efficacement des technologies de prise de décision de l'IA tout en atténuant les risques.
LireComment l'intelligence artificielle va transformer la prise de décision
Dans un article publié par le Forum économique mondial, Philip Meissner et Yusuke Narita examinent comment la confiance, l'accès et l'intégration détermineront la vitesse d'adoption de l'IA pour la prise de décision.
LireLes préoccupations éthiques se multiplient à mesure que l'IA joue un rôle plus important dans la prise de décision dans un plus grand nombre d'industries
Christina Pazzanese, écrivant pour "The Harvard Gazette", examine les promesses et les pièges potentiels de l'intelligence artificielle et de l'apprentissage automatique dans le contexte de la prise de décision.
LireInstitut de l'IA pour la prise de décision sociétale
L'institut de l'université Carnegie Mellon "réunit des chercheurs en IA et en sciences sociales pour développer une IA centrée sur l'homme pour le bien de la société".
En savoir plus