En signe de protestation contre l'investissement du PDG de Spotify dans une entreprise de défense militaire spécialisée dans l'IA, les membres du groupe de rock australien King Gizzard & the Lizard Wizard ont décidé de retirer leur catalogue de la plateforme. Quelques mois après cette décision, un clone IA de leur musique enregistrait des dizaines de milliers d'écoutes.

Créé à Strasbourg en 1992 au sein du Conseil de l’Europe pour répondre au manque d’information et de transparence du secteur, l’Observatoire européen de l’audiovisuel publie régulièrement des études et analyses. Alors que l’IA transforme profondément ce domaine, que ce soit pour la création, la distribution ou la consommation des contenus, il a profité du Marché du film classique de Lyon pour présenter son dernier rapport intitulé “IA et secteur audiovisuel : exploration du paysage juridique actuel”.

“Quels sont les enjeux de l’IA pour le secteur audiovisuel et quel est le rôle de la législation européenne ?” sont les questions auxquelles s’attelle ce rapport de 157 pages. L’Observatoire s’est intéressé à l’impact de l’IA sur le secteur dès 2020, mais alors que l’IA générative remodèle l’industrie audiovisuelle, affectant toutes ses composantes, ce document met en lumière plusieurs enjeux clés liés à cette évolution soulignant l’importance pour la législation européenne de s’adapter pour encadrer ce domaine face à l’évolution du paysage technologique.

Conçu, élaboré et coordonné par différents experts européens du département juridique de l’Observatoire, ce rapport est divisé en quatre parties.

Avantages et défis de l’IA dans l’audiovisuel

Le premier chapitre du rapport examine l’intégration croissante de l’IA dans les industries européennes du cinéma, de la télévision et du streaming, présentant à la fois les avantages et les défis qu’elle pose.

L’IA ouvre de nouvelles perspectives pour l’industrie audiovisuelle, dynamisant la créativité, optimisant les processus de production et permettant de cibler les audiences de manière plus précise. Cette 1ère partie présente des études de cas pour illustrer les applications concrètes de l’IA dans l’audiovisuel : les utilisations des modèles Claude, Midjourney, DALL.E ainsi que celle de DiversityCatch, un outil permettant de mesurer la diversité dans les contenus et d’assurer une représentation équilibrée à l’écran.

Elle soulève également les défis à venir pour le secteur liés à la GenAI concernant l’emploi, la qualité des contenus, l’éthique de l’IA, et aborde les difficultés à mettre en place un cadre réglementaire adapté, en raison de la nature évolutive et variée des technologies d’IA.

Ce chapitre jette ainsi les bases pour une compréhension complète de l’IA dans le secteur audiovisuel, préparant à l’analyse approfondie de ses implications juridiques et éthiques dans les chapitres suivants.

Enjeux juridiques de l’IA : protection des données et propriété intellectuelle

La deuxième partie se penche sur la protection des données et la question des droits d’auteur. La protection des données revêt une importance cruciale, car l’IA traite souvent des volumes importants de données personnelles. Le second chapitre examine comment le règlement général sur la protection des données (RGPD) et l’AI Act récemment adopté permettent de protéger les informations personnelles. Il examine également les transferts de données internationaux et la divergence des approches entre l’Europe et les États-Unis en matière de vie privée.

Lors de l’entraînement des modèles d’IA, des œuvres protégées par des droits d’auteur peuvent être utilisées, ce qui soulève des questions de propriété intellectuelle. Au chapitre 3, l’Observatoire analyse la complexité juridique entourant l’utilisation par l’IA d’œuvres protégées par le droit d’auteur, notamment lors de la création d’œuvres dérivées par les modèles d’IA.

Cinq défis clés posés par l’IA à l’industrie audiovisuelle.

Les chapitres 4 à 8 de cette troisième partie soulèvent 5 problématiques majeures.

La montée des contenus générés par l’IA introduit des défis en matière de transparence, de responsabilité et de droits d’auteur. Qui peut revendiquer la paternité de contenus IA ? La question est particulièrement complexe pour les œuvres qui intègrent des éléments d’œuvres protégées.

Le rapport explore la possibilité d’attribuer les œuvres générées par l’IA à des créateurs humains et analyse les risques potentiels de préjudice pour les œuvres préexistantes ayant servi à l’entraînement des systèmes d’IA. Il met également en avant l’importance de la transparence et soulève la question de la responsabilité quant aux contenus produits par l’IA.

Il aborde d’autre part la menace que représente l’IA pour les droits de la personnalité et la transparence : la capacité de l’IA à reproduire des voix et à créer des doubles numériques pose de nouveaux défis aux acteurs pour protéger leurs droits à la voix et à l’image. Le chapitre 5 explore le cadre juridique des droits de la personnalité, en mettant l’accent sur l’AI Act et la convention-cadre sur l’IA du Conseil de l’Europe.

L’IA pourrait transformer de nombreux métiers au sein de l’industrie audiovisuelle. Des récentes grèves aux États-Unis aux politiques du travail en Europe, le chapitre 6 montre que les acteurs du secteur prennent conscience de l’impact de l’IA sur le marché du travail. Il examine également les réponses des parties prenantes telles que les organisations de gestion collective, les syndicats et les diverses associations et fédérations concernées aux profondes répercussions de l’IA.

La capacité de l’IA à créer et propager la désinformation dans le secteur audiovisuel est également un problème crucial. Le chapitre 7 décrit comment l’IA peut produire de faux contenus (textes, images, deepfakes et fichiers audio), susceptibles de manipuler le public. Il examine les mesures actuellement en place pour limiter la propagation de la désinformation et garantir l’intégrité des médias. La possibilité de recourir aux modèles d’IA eux-mêmes pour la vérification des faits est également discutée.

L’IA facilite la production de deepfakes et autres contenus trompeurs, ce qui est préoccupant pour l’intégrité des médias. Les régulations actuelles cherchent à limiter ces risques, mais la technologie elle-même pourrait être un outil dans la vérification des faits.

Le 8ème chapitre du rapport explore l’impact de l’IA sur la diversité culturelle et le pluralisme des médias. L’IA, par la personnalisation des contenus, pourrait renforcer les préjugés et limiter l’accès des spectateurs à une diversité de points de vue. Ce chapitre examine les mesures réglementaires possibles pour atténuer ces effets et promouvoir une consommation diversifiée des contenus.

L’avenir de l’encadrement juridique de l’audiovisuel

La quatrième partie évalue si les récentes réglementations en IA peuvent efficacement répondre aux défis propres au secteur audiovisuel pour lequel il n’existe pas de réglementation contraignante spécifique. Le chapitre 9 explore comment des cadres réglementaires futurs pourraient s’adapter de meilleure façon aux défis et aux opportunités créés par l’IA, en favorisant un équilibre entre l’innovation et la protection des droits et intérêts des parties prenantes de l’industrie. Enfin, le chapitre 10 clôt l’ouvrage en abordant les dilemmes éthiques que pose l’IA, tels que l’authenticité, le potentiel de manipulation de la réalité, et les effets sociétaux plus larges des contenus générés par ces technologies.

Pour retrouver l’intégralité du rapport, cliquer ici.

Le 12 août dernier, le juge fédéral Orrick a rendu une ordonnance autorisant la poursuite de l’affaire concernant la violation du droit d’auteur déposée contre Stability AI, Midjourney et DeviantART par les artistes Sarah Andersen, Kelly McKernan et Karla Ortiz. Une première victoire pour celles-ci et leurs avocats, Matthew Butterick et Joseph Saveri, d’autant plus que le juge William Orrick avait rejeté la plupart de leurs demandes en octobre 2023. 

Depuis que les modèles text-to-image comme Stable Diffusion, Dall-E, Imagen ou Midjourney ont fait leur apparition, de nombreux artistes s’insurgent contre leur utilisation. Certains contestent le processus créatif de l’auteur d’une œuvre générée par IA, comme celle de Midjourney primée à la Colorado State Fair, ou le fait qu’on entraîne ces modèles sur des œuvres sans demander le consentement à leurs auteurs ni contrepartie financière.

Basée à Londres et San Francisco, Stability AI a connu la notoriété en annonçant en août 2022 la sortie publique de Stable Diffusion, un modèle text-to-image open-source fruit d’une collaboration entre Stability AI, RunwayML, des groupes de recherche du centre Machine Vision & Learning au LMU de Munich (anciennement laboratoire CompVis à l’Université de Heidelberg), d’EleutherAI et de LAION.

En janvier 2023, la célèbre banque d’images et agence de photographie américaine, Getty Images, lui a intenté un procès devant la Haute Cour de justice de Londres, affirmant que la start-up avait enfreint les droits de propriété intellectuelle, y compris les droits d’auteur sur le contenu qu’elle détient ou représente. Le même mois, Matthew Butterick et Joseph Saveri déposaient la plainte initiale Andersen v. Stability au nom des trois artistes Sarah Andersen, Kelly McKernan et Karla Ortiz.

Celle-ci conteste la légalité des IA génératives d’images créées par Stability AI, Midjourney et DeviantArt (DreamUp, qui utilise le modèle Stable Diffusion). Toutes trois ont été entraînées sur de vastes ensembles de données d’images et de textes provenant de diverses sources sur Internet, notamment des bases de données LAION-5B et LAION-400M

Lorsqu’il a rejeté la plupart de leurs demandes en octobre 2023, le juge Orrick a laissé aux plaignantes le droit de modifier leur plainte pour la représenter, ce qui a été fait le mois suivant. Dans son ordonnance du 12 août dernier, il a autorisé les réclamations pour violation du droit d’auteur et de la marque. Stability AI, Midjourney et DeviantArt vont donc devoir fournir des informations sur les données d’entraînement de leurs modèles text-to-image, préciser si des œuvres protégées par le droit d’auteur en font partie et dans quelle mesure.

Matthew Butterick souligne dans son blog intitulé “La fin du début”:

“Non, cela ne veut pas dire que nous gagnons. Au contraire, cela signifie seulement que nous pouvons commencer : nous pouvons commencer la découverte et mettre l’affaire sur la voie du procès. Mais il s’agit d’un pas en avant important pour l’affaire, qui avait été suspendue pendant plus de 18 mois”.