L'état de la sécurité de l'IA en Chine, avec Kwan Yee Ng et Brian Tse

9 mai 2024 - 59 minutes d'écoute

La sécurité et la gouvernance de l'IA sont beaucoup plus avancées en Chine qu'on ne le pense généralement. Le gouvernement chinois et la communauté de l'IA sont bien conscients des risques que pose l'IA et s'efforcent d'y remédier. Une coordination internationale est donc tout à fait possible.

Dans ce podcast sur l'intelligence artificielle et l'égalité, Wendell Wallach, membre de Carnegie-Uehiro, discute avec Kwan Yee Ng et Brian Tse, de Concordia AI, de la manière de tirer parti de l'élan donné par des événements récents tels que le sommet de Bletchley et la résolution de l'Assemblée générale des Nations unies sur l'IA pour établir des normes mondiales pour un développement responsable de l'IA.

State of AI Safety AIEI podcast link State of AI Safety AIEI podcast link

WENDELL WALLACH : Bonjour. Je suis Wendell Wallach. Aujourd'hui, nous allons parler de l'état de la sécurité de l'intelligence artificielle (IA) en Chine, qui est également le titre d'un rapport de Concordia AI, une organisation indépendante basée à Pékin qui se concentre sur la sécurité et la gouvernance de l'IA.

Nous allons parler de ce rapport avec deux des dirigeants de Concordia. Tout d'abord, Brian Tse, fondateur et directeur général de Concordia AI. Il est également affilié au Centre pour la gouvernance de l'IA et fait partie du réseau consultatif de l'Organe consultatif de haut niveau des Nations unies sur l'IA. Brian est diplômé de l'université de Hong Kong. Je le connais depuis de nombreuses années, car il participe à différents forums sur l'éthique et la sécurité de l'IA en Chine et dans le monde entier.

Kwan Yee Ng est gestionnaire de programme senior à Concordia AI. Elle fait également partie de l'équipe de rédaction du rapport scientifique international sur la sécurité de l'IA avancée, présidé par Yoshua Bengio. Kwan Yee a une formation en relations internationales et est diplômée de la London School of Economics et de l 'Université de Pékin.

Bienvenue à vous deux. Kwan Yee, alors que vous étudiez la sécurité de l'IA en Chine, qu'est-ce qui, selon vous, sera le plus surprenant pour les auditeurs occidentaux de ce podcast ?

KWAN YEE NG : Merci, Wendell. Tout d'abord, je tiens à vous remercier, vous et votre équipe, de nous avoir invités à participer à ce podcast.

Permettez-moi de prendre quelques instants pour planter le décor. En 2023, après le lancement de ChatGPT, je pense que la discussion sur la sécurité et la gouvernance de l'IA d'avant-garde a vraiment décollé, mais certaines voix influentes ont présenté le développement de l'IA comme une compétition à somme nulle entre la Chine et certains pays occidentaux, arguant que la Chine ne se soucie pas ou n'est pas susceptible d'agir pour réduire les risques liés à l'IA. D'où la question suivante : dans quelle mesure la Chine se préoccupe-t-elle réellement des risques liés à l'IA ? Dans quelle mesure la Chine se préoccupe-t-elle réellement des risques liés au développement de l'IA et prendra-t-elle des mesures significatives pour répondre à ces préoccupations ?

Carnegie Council for Ethics in International Affairs est un organisme indépendant et non partisan à but non lucratif. Les opinions exprimées dans ce podcast sont celles des intervenants et ne reflètent pas nécessairement la position de Carnegie Council.

Vous pouvez aussi aimer

31 JUILLET 2024 - Podcast

L'IA responsable et les compromis éthiques des grands modèles, avec Sara Hooker

Dans cet épisode, Anja Kaspersen, Senior Fellow, s'entretient avec Sara Hooker, de Cohere for AI, pour discuter de la conception des modèles, des biais des modèles et de la représentation des données.

24 JUILLET 2024 - Podcast

L'IA et la guerre : Une nouvelle ère pour la maîtrise des armements et la dissuasion, avec Paul Scharre

Anja Kaspersen, Senior Fellow, s'entretient avec Paul Scharre, du Center for a New American Security, sur les questions émergentes à l'intersection de la technologie et de la guerre.

2 JUIL. 2024 Podcast (en anglais)

Cybernétique, surveillance numérique et rôle des syndicats dans la gouvernance technologique, avec Elisabet Haugsbø

Anja Kaspersen, Senior Fellow, s’entretient avec Elisabet Haugsbø, présidente du syndicat technologique Tekna, sur son parcours d’ingénieure, sa résilience à l’ère de l’IA, et bien plus encore.