Définition et introduction
Les données comportementales sont des informations qui reflètent les actions d'un individu. Compte tenu de l'omniprésence des technologies d'extraction de données dans le monde d'aujourd'hui, il existe d'innombrables façons de créer des données comportementales :
- glisser votre carte de crédit dans un magasin d'alimentation ou de détail
- faire du jogging avec une montre intelligente pour connaître les calories brûlées ou le BPM moyen
- aimer ou commenter un message sur une plateforme de médias sociaux
- voyager pour des vacances d'été avec un appareil équipé d'un GPS comme un téléphone portable
- regarder une émission ou une vidéo en ligne
Un point de données comportementales isolé est relativement sans conséquence. Mais lorsqu'un système compile toutes les données comportementales d'une personne dans une interface unique, des hypothèses sur les préférences, les désirs et les actions futures de cette personne peuvent être générées. De nombreuses organisations exploitent les données comportementales dans des circonstances plutôt anodines telles que le marketing, la publicité et le commerce électronique ; un détaillant qui vend un produit peut diffuser des publicités aux utilisateurs qui ont déjà visité une page de produit sur son site, par exemple.
Cependant, il existe des systèmes - comme les technologies de fusion de données - qui compilent et analysent les données comportementales d'une personne dans des contextes beaucoup plus controversés, avec des résultats peu clairs ou mitigés.
Pour en savoir plus sur ce sujet, consultez les ressources Carnegie Council et hors site présentées ci-dessous.
Données comportementales et fusion
Les systèmes de fusion de données rassemblent des données de surveillance provenant d'un réseau croissant de sources : activité des téléphones portables, caméras de vidéosurveillance, lecteurs de plaques d'immatriculation, messages sur les médias sociaux, etc.
Quels types d'activités peuvent générer des données qui sont ensuite intégrées dans un système de fusion de données à des fins de référence dans le cadre d'enquêtes criminelles ?
En savoir plus sur les données comportementales et l'éthique de l'IA
8 JUIN 2020 - Podcast
Machines mystérieuses : Le chemin à parcourir pour l'éthique de l'IA dans la sécurité internationale, avec Arthur Holland Michel
Comment apprendre à faire confiance à des systèmes d'IA que nous ne comprenons pas ? Quelles sont les implications de cette nouvelle technologie alors que de nombreux pays sont confrontés à une combinaison de manifestations de masse et de pandémie ?
9 DÉCEMBRE 2021 - Podcast
Éthique, gouvernance et technologies émergentes : Une conversation avec l'Initiative Carnegie pour la gouvernance du climat (C2G) et l'Initiative pour l'intelligence artificielle et l'égalité (AIEI)
Les technologies émergentes ayant un impact global créent de nouveaux espaces non gouvernés à un rythme rapide. Les responsables des initiatives C2G et AIEI de Carnegie Council discutent de la manière dont ils travaillent pour éduquer et activer les communautés autour de ces questions de gouvernance.
Il y a des yeux espions partout et maintenant ils partagent un cerveau
Sommes-nous vraiment sous surveillance 24 heures sur 24, 7 jours sur 7 ? Dans cet article de Wired, Arthur Holland Michel, Senior Fellow, décrit les coulisses de la division "sécurité publique" d'une société de technologie de sécurité et une version de démonstration de son produit de fusion appelé Citigraf.
Dans quelle mesure le fantasme du technologue d'une "plate-forme de surveillance en expansion constante et omnisciente" est-il réaliste ?
Questions de discussion
- Existe-t-il des principes éthiques qui devraient guider l'utilisation des données comportementales dans les systèmes d'IA ?
- Quels types de données comportementales, le cas échéant, devraient être strictement confidentiels ?
- Quelle est l'importance du consentement éclairé pour l'utilisation des données comportementales dans les technologies d'intelligence artificielle ?
- Comment les développeurs et les ingénieurs peuvent-ils réduire ou éliminer les préjugés raciaux et sexistes dans les systèmes d'IA exploitant les données comportementales ?
- Quels mécanismes peuvent être mis en place pour améliorer la transparence de l'utilisation des données comportementales dans l'IA ?
- Comment les différences culturelles peuvent-elles influer sur la validité de l'utilisation des données comportementales dans ces systèmes ?
- Quels sont les effets potentiels à long terme de l'utilisation généralisée des données comportementales dans tous les secteurs d'activité ?
Pour en savoir plus sur l'éthique des technologies émergentes, abonnez-vous à la Carnegie Ethics Newsletter.
Ressources complémentaires
Science des données comportementales - L'Institut Alan Turing
Comment la compréhension du comportement humain peut-elle contribuer à améliorer les résultats économiques et sociaux ?
LirePourquoi devons-nous parler d'éthique et de partialité dans l'IA ?
Kim Escherich d'IBM pose la question : Jusqu'où pouvons-nous étendre la numérisation ?
LireQu'est-ce que l'analyse comportementale ?
Microsoft explique comment les entreprises peuvent exploiter les données comportementales dans les domaines du marketing, des ventes, du service à la clientèle et d'autres fonctions de l'entreprise.
Lire