YouTube a annoncé ce 17 décembre s’associer à la Creative Artists Agency (CAA), l’une des agences les plus influentes dans le domaine du divertissement et du sport, afin de protéger les personnalités publiques contre les deepfakes sur sa plateforme.

La Creative Artists Agency compte parmi ses clients nombre de personnalités de premier plan, notamment les acteurs Jennifer Aniston, George Clooney, Tom Cruise, Nicole Kidman, les chanteurs Beyoncé, Justin Bieber, Ariana Grande ou les sportifs Tony Parker, Cristiano Ronaldo et Serena Williams.

Elle s’emploie à préserver l’intégrité des talents à travers des initiatives comme le CAA Vault, un service qui capture et stocke les répliques numériques des clients (visage, voix, corps) pour identifier les contenus non autorisés. Cet engagement en faveur de l’innovation responsable en fait un partenaire de choix pour YouTube.

Bryan Lourd, PDG et co-président de Creative Artists Agency, déclare :

“Neal [Mohan] et moi avons commencé à parler plus tôt cette année de l’importance de créer un écosystème d’IA responsable qui protège les artistes, tout en ouvrant de nouvelles possibilités d’expression créative. Chez CAA, nos conversations sur l’IA sont centrées sur l’éthique et les droits des talents”.

Début 2025, des acteurs primés et des athlètes de haut niveau de la NBA et de la NFL représentés par l’agence auront un accès anticipé à la technologie que YouTube développe pour détecter et gérer les contenus générés par l’IA qui représentent l’image des artistes, notamment leur visage. Elle leur permettra également de demander leur suppression via le processus de plainte pour atteinte à la vie privée de YouTube.

Leurs retours d’expérience permettront d’améliorer les systèmes de détection et d’ajuster les fonctionnalités. Selon la plateforme de streaming :

“En collaborant avec CAA, nous obtiendrons les conseils de certaines des personnalités les plus influentes du monde, dont certaines ont été considérablement touchées par les dernières vagues d’innovation en matière d’IA, afin de peaufiner notre produit avant de le proposer à un groupe plus large de créateurs et d’artistes. L’expérience directe des clients de CAA avec les répliques numériques dans le paysage en constante évolution de l’IA sera essentielle à l’élaboration d’un outil qui responsabilise et protège de manière responsable les créateurs et la communauté YouTube dans son ensemble”.

De nouvelles cohortes de test “composées des meilleurs créateurs YouTube, des professionnels de la création et d’autres partenaires de premier plan représentant les talents” seront formées dans les mois à venir.

Un nouveau rapport de l’UNESCO met en lumière les dangers potentiels de l’IA générative sur la préservation et la transmission de la mémoire de l’Holocauste. Publié en collaboration avec le Centre juif mondial ce 18 juin à l’occasion de la Journée internationale de la lutte contre les discours de haine, il alerte sur la capacité de l’IA à propager des discours antisémites et sur la menace croissante de désinformation et de manipulation historique qu’elle représente.

Alors que ces derniers mois, nous assistons à une recrudescence des propos et des actes antisémites, Audrey Azoulay, Directrice générale de l’UNESCO, prévient :

“Si nous permettons que les faits terribles de l’Holocauste soient dilués, déformés ou falsifiés par une utilisation irresponsable de l’IA, nous risquons une propagation fulgurante de l’antisémitisme et une diminution de notre compréhension des causes et des conséquences de ces atrocités. Il est urgent de mettre en œuvre la Recommandation de l’UNESCO sur l’éthique de l’IA afin que les jeunes générations se nourrissent de faits avérés et non fabriqués”.

Les dangers de la désinformation et des “hallucinations” de l’IA

Les modèles d’IA générative, lorsqu’ils manquent de données suffisantes, tendent à “halluciner”, c’est-à-dire, à inventer des événements ou des faits historiques inexacts. Le rapport souligne que des IA comme ChatGPT et Gemini, le modèle que Google avait d désactiver en février dernier après qu’il ait généré des images de Nazis noirs, ont déjà produit de fausses informations sur l’Holocauste. Par exemple, ChatGPT a créé de toutes pièces un récit sur des “campagnes de noyade” perpétrées par les nazis, tandis que Gemini a fabriqué des citations de témoins inexistants.

D’autre part, les IA ont tendance à simplifier à l’extrême les faits complexes, en se concentrant sur un nombre limité de sources et d’événements. Par exemple, dans les moteurs de recherche utilisant l’IA, une majorité des images affichées concernent uniquement Auschwitz-Birkenau, négligeant d’autres aspects et expériences de l’Holocauste.

Une propagation incontrôlée de la désinformation

Le rapport montre que les jeunes, de plus en plus dépendants des outils d’IA pour leurs recherches et leurs devoirs, sont particulièrement vulnérables à cette désinformation. Selon une étude de l’ONU, quatre jeunes sur cinq âgés de 10 à 24 ans utilisent l’IA plusieurs fois par jour. L’absence de supervision rigoureuse et l’entraînement des IA sur des données potentiellement biaisées ou trompeuses augmentent le risque de propagation de contenus négationnistes.

Les deepfakes, un outil de radicalisation

Les deepfakes représentent un outil puissant pour les acteurs malveillants. Ces contenus, souvent convaincants, peuvent falsifier des témoignages ou des archives historiques, trompant ainsi le public. Le rapport mentionne des deepfakes impliquant des figures historiques nazies et même des personnalités contemporaines comme Emma Watson lisant Mein Kampf, ayant été vus des millions de fois sur les réseaux sociaux.

Erosion de la confiance publique

Le rapport met en garde contre une possible érosion de la confiance du public dans les faits historiques, du fait de la difficulté croissante à distinguer les contenus générés par IA des informations véridiques. Cette méfiance pourrait s’étendre aux témoignages des survivants de l’Holocauste et aux preuves historiques réelles.

Appel à une action collective

Pour contrer ces risques, l’UNESCO appelle les entreprises technologiques à assumer leurs responsabilités. Elles doivent s’assurer que leurs outils respectent les principes éthiques tels que l’équité, la transparence et les droits humains. Le rapport recommande également une collaboration étroite avec la communauté juive, les survivants de l’Holocauste, les éducateurs et les historiens pour élaborer des modèles d’IA fiables et respectueux de la mémoire historique.

Elle encourage les gouvernements à suivre la Recommandation sur l’éthique de l’intelligence artificielle, adoptée par ses 193 États membres en 2021 et invite les enseignants à défendre l’histoire de l’Holocauste en sensibilisant les jeunes à un usage responsable des technologies, en développant leur esprit critique, et en leur fournissant une compréhension approfondie de ce génocide.

Pour retrouver le rapport : “AI and the Holocaust: rewriting history? The impact of artificial intelligence on understanding the Holocaust”, cliquer ici

C’est finalement à Séoul, en Corée du Sud, que va se dérouler, ces 21 et 22 mai, la seconde édition du “AI Safety Summit“, co-organisée par Séoul et le Royaume-Uni. Ce sommet mondial sur l’IA, organisé pour la 1re fois en novembre dernier à Londres pour trouver des réponses aux risques induits par les modèles de fondation comme ChatGPT, se déroulera en virtuel ce mardi et en présentiel le lendemain.

L'”AI Safety Summit” est un événement crucial pour aborder les enjeux liés à l’IA, et garantir son développement sûr et éthique. À l’occasion de sa 1re édition, 28 pays et l’Europe ont co-signé La déclaration de Bletchley, un engagement de principe peu contraignant, pour une IA développée, déployée et utilisée de manière sûre, centrée sur l’humain, digne de confiance et responsable.

Ce second sommet s’appuiera sur les avancées de la 1ère édition, mais également sur le rapport que le gouvernement britannique avait demandé alors à Yoshua Bengio de superviser. Cet éminent expert en IA a été l’un des signataires de la lettre demandant une pause dans le développement des grands modèles de fondation et a fait partie des militants pour un encadrement strict de l’IA en Europe, en amont de l’AI Act.

Si la première version, provisoire, de ce rapport présentée pour le sommet, souligne les dangers des modèles d’IA de pointe en matière de désinformation, notamment via les deepfakes, de fraudes, de cyberattaques, les dangers de leurs biais, elle met également en lumière de profondes divergences entre les experts et entre les pays.

Le Sommet de Séoul

Outre la poursuite de l’élaboration d’une feuille de route pour assurer la sécurité de l’IA,  la promotion de l’innovation et le partage équitable des opportunités et des avantages de l’IA seront également à l’ordre du jour.

Ce 21 mai, la session virtuelle coprésidée par le Premier ministre Rishi Sunak et le président de la République de Corée Yoon Suk Yeol, réunira des dirigeants de pays, dont Emmanuel Macron. Des leaders mondiaux de l’industrie seront également invités à faire le point sur la manière dont ils respectent les engagements pris à Bletchley Park pour assurer la sécurité de leurs modèles. Parmi eux, Anthropic, Google DeepMind, OpenAI, Microsoft et côté français, Mistral AI.

La réunion en présentiel des ministres du numérique, le lendemain, sera co-organisée par la secrétaire britannique à la technologie, Michelle Donelan, et le ministre coréen des Sciences et des TIC, Lee Jong-Ho.

À l’Elysée, plusieurs tables rondes seront organisées à la suite de la session virtuelle avec des acteurs de l’IA comme Eric Schmidt, ancien PDG de Google, ou encore Yann LeCun, vice-président de Meta.

La France a quant à elle repoussé le Sommet de Paris prévu en novembre prochain au mois de février 2025. Plusieurs groupes de travail devraient d’ailleurs être annoncés par Emmanuel Macron pour préparer son ordre du jour. Si, tout comme le Royaume-Uni,  la France a l’ambition de se positionner en tant que l’un des leaders mondiaux de l’IA, elle ne veut pas limiter le débat sur l’IA aux “risques existentiels de cette technologie” selon un communiqué de presse de la présidence, ajoutant “Il y a d’autres enjeux plus urgents et concrets sur le déploiement de l’IA et son utilisation pour le bien commun”.

Grâce au perfectionnement des modèles d’IA de synthèse vocale, cloner une voix est aujourd’hui très facile. Les deepfakes permettant de récupérer une vidéo pour faire dire ce que l’on veut à une personne sont aujourd’hui monnaie courante, des escrocs s’en sont inspirés pour améliorer “l’arnaque au président”. C’est un employé d’un centre financier chinois, à Hong Kong, qui en a fait l’amère expérience : croyant participer à une visioconférence avec son directeur financier et des collègues, il a versé aux fraudeurs la coquette somme de plus 25 millions de dollars.

“L’arnaque au président” consiste à voler l’identité d’un dirigeant d’entreprise et à faire effectuer un faux ordre de virement par un salarié. Les escrocs n’ont pas attendu l’arrivée des IA génératives de voix pour tenter d’arnaquer les gens par téléphone mais la sophistication de ces dernières leur a permis d’être plus convaincants.

L’un des premiers cas d’arnaque par clonage vocal grâce à l’IA signalés, date de mars 2019. Le PDG d’une société d’énergie au Royaume-Uni a cru parler au téléphone avec un supérieur hiérarchique, le directeur général de la société mère allemande de l’entreprise, qui lui a demandé d’envoyer en urgence 243 000 $ à un fournisseur hongrois. Certain de reconnaître l’accent et l’intonation de son patron, il a obéi.

L’année suivante, c’est un directeur de banque qui s’est fait abusé par le clonage de voix : on lui a fait croire que le PDG d’une entreprise sur le point de faire une acquisition lui demandait de débloquer 35 millions de dollars par virement.

Bien que connaissant ce chef d’entreprise, le banquier des Emirats Arabes Unis, rassuré par les mails de confirmation, n’a pas douté de l’identité de l’auteur de l’appel et a donné l’ordre d’effectuer le virement.

Pour cloner une voix, il suffisait aux escrocs d’aller récupérer des messages audio sur Tik Tok, YouTube ou Facebook, les vidéos publiées sur ces réseaux sociaux sont aujourd’hui également utilisées pour améliorer les deepfakes.

Cette arnaque à la visioconférence a été dévoilée le 4 février dernier par RTHK (Radio Television Hong Kong), la police cherchant à alerter sur ce nouveau genre de menaces.

Selon le surintendant principal par intérim, le baron Chan, l’employé a reçu un message prétendument du directeur financier de l’entreprise l’invitant à un appel vidéo pour discuter de transactions confidentielles qui devaient être effectuées. Celui-ci, conforté par la présence de collaborateurs à cette visioconférence alors qu’il était en fait face à des vidéos préenregistrées, a effectué 15 transactions sur cinq comptes bancaires locaux, pour un total de 200 millions de dollars de Hong Kong, soit plus de 25,5 millions de dollars américains.

Il aurait suffi à l’employé d’essayer d’interagir avec ses collègues durant la visioconférence pour s’apercevoir qu’ils n’étaient pas réels, mais il n’a réalisé la supercherie qu’après les avoir appelés, la réunion terminée.