Alors que l’administration Biden a dévoilé début décembre de nouvelles restrictions visant à limiter l’accès de la Chine à certaines technologies de pointe, notamment les puces d’IA, elle a présenté hier, une semaine avant de céder la place à Donald Trump, un projet de réglementation visant à bloquer les exportations de ces puces vers la Chine, la Russie, l’Iran et la Corée du Nord. Leur accès à ses principaux alliés, dont la France, sera également soumise à certaines conditions, soulevant le tollé chez les acteurs de l’IA, notamment chez NVIDIA.

Sous couvert de sécurité nationale, les Etats-Unis, pour préserver leur position prédominante dans la course à l’IA, ont mis en place des restrictions vers l’exportation des GPU et des puces d’accélération d’IA vers la Chine, son principal concurrent, et la Russie dès 2022, introduisant des exigences plus strictes pour l’octroi de licences pour les exportations vers la Chine et d’autres pays en 2023.

Ils pourraient franchir un nouveau pas avec cette nouvelle réglementation, que critique Ned Finkle, vice-président des affaires gouvernementales chez NVIDIA. Il affirme dans un billet de blog où il rappelle l’apport de l’IA pour les soins de santé, l’agriculture, la fabrication, l’éducation, entre autres :

“L’administration Biden cherche maintenant à restreindre l’accès aux applications informatiques grand public avec sa règle sans précédent et erronée de « diffusion de l’IA », qui menace de faire dérailler l’innovation et la croissance économique dans le monde entier”.

Que stipule la réglementation provisoire ?

La réglementation provisoire, présentée par la Maison-Blanche, introduit une série de mesures destinées à encadrer strictement la diffusion des technologies d’IA avancées, tout en préservant les intérêts économiques et stratégiques des États-Unis.

Blocage des exportations vers les pays de préoccupation

Les exportations de puces avancées seront strictement interdites vers la Chine, la Russie, l’Iran et la Corée du Nord. Ces pays, considérés comme des adversaires stratégiques, sont ciblés pour empêcher l’utilisation de ces technologies à des fins militaires, cybernétiques ou de surveillance de masse.

Aucune restriction pour les alliés

Les 18 principaux alliés des États-Unis, parmi lesquels la France, l’Allemagne, la Belgique, le Danemark, l’Irlande, l’Italie, l’Espagne, le Royaume-Uni, la Suède, le Japon, la Corée du Sud et Taïwan, pourront continuer à importer ces technologies, mais sous réserve de répondre à des critères de sécurité stricts et d’obtenir des licences pour les commandes de grande envergure.

Deux statuts ont été créés pour encadrer les exportations vers les utilisateurs finaux :

• Universal Verified End User (UVEU) : Ce statut permettra aux entreprises situées dans des pays alliés et respectant des normes de sécurité élevées de bénéficier de livraisons flexibles pour leurs besoins en IA. Elles ne pourront toutefois déployer que 7% de leur capacité de calcul dans chaque pays tiers ;
• National Verified End User (NVEU) : Accordé aux entreprises des pays considérés comme non-préoccupants qui pourront acheter jusqu’à 320 000 GPU avancés sur deux ans, tout en respectant les exigences de sécurité.

Les entités non-VEU pourront quant à elles acheter jusqu’à 50 000 GPU avancés par pays, un nombre qui pourra être doublé en cas d’accord signé avec les États-Unis.

Exemptions pour les petites commandes de puces

Les commandes de puces dont la capacité de calcul collective ne dépasse pas 1 700 GPU avancé ne nécessiteront pas de licence et ne seront pas comptabilisées pas dans les plafonds nationaux. Ces exemptions concernent principalement des institutions universitaires, médicales et de recherche qui utilisent ces technologies à des fins non-sensibles et pourront ainsi les recevoir rapidement.

Encadrement des modèles d’IA avancés

Les poids de modèles fermés ne pourront être transférés qu’à des acteurs vérifiés, tandis que des normes de sécurité accrue sont imposées pour leur stockage.

Cette réglementation pourrait entrer en vigueur d’ici 120 jours, reste à savoir ce qu’en fera le gouvernement Trump, soutenu par les acteurs de la Silicon Valley.

Pour Ned Finkle :

“Elle sape déjà les intérêts des États-Unis. Comme l’a démontré la première administration Trump, l’Amérique gagne grâce à l’innovation, à la concurrence et au partage de nos technologies avec le monde – et non en se retirant derrière un mur d’excès de pouvoir gouvernemental. Nous attendons avec impatience un retour à des politiques qui renforcent le leadership américain, stimulent notre économie et préservent notre avantage concurrentiel dans le domaine de l’IA et au-delà”.

La Fondation Eclipse, l’une des plus grandes fondations open source au monde, et l’Open Source Initiative (OSI), ont signé la semaine dernière un protocole d’accord (MoU) pour promouvoir l’intérêt de la communauté open source dans la mise en œuvre d’initiatives réglementaires sur l’intelligence artificielle open source (OSAI).

L’OSI, une organisation californienne à but non-lucratif créée en 1998, qui défend et éduque sur les avantages de l’open source, a récemment publié la première définition officielle de l’IA open source, l’OSAID. L’Eclipse Foundation a été l’une des premières à soutenir cette version.

Alors que les réglementations sur l’IA se multiplient, leur partenariat vise à ce qu’elles s’alignent sur cette définition et les valeurs de l’open source. La Fondation Eclipse et l’OSI s’efforceront d’apporter de la clarté dans le langage et les termes sur lesquels l’industrie, la communauté, la société civile et les décideurs peuvent se baser pour élaborer et appliquer les politiques publiques. Elles tireront parti de leurs plateformes et événements publics respectifs pour sensibiliser le public sur le sujet.

Stefano Maffulli, directeur exécutif de l’OSI, explique :

“L’IA est sans doute la technologie la plus transformatrice de notre génération. Le défi est maintenant d’élaborer des politiques qui non seulement favorisent la croissance de l’IA, mais garantissent que l’IA Open Source prospère dans ce paysage en évolution. Le partenariat avec la Fondation Eclipse et son expertise, combinée à son expérience en matière de développement open source en Europe et de conformité réglementaire, est important pour façonner l’avenir de l’IA Open Source”.

Objectifs et actions

Le mémorandum d’accord définit plusieurs domaines de coopération, notamment :

• Échange d’Information : L’OSI et la Fondation Eclipse partageront des informations et des points de vue pertinents sur l’élaboration des politiques publiques et les activités réglementaires en matière d’intelligence artificielle ;
• Représentation aux décideurs : OSI et la Fondation Eclipse coopéreront pour représenter les principes et les valeurs des licences open source auprès des décideurs politiques et des organisations de la société civile ;
• Promotion des principes Open Source : Des efforts conjoints seront déployés pour sensibiliser le public au rôle de l’open source dans l’IA, en soulignant comment elle peut favoriser l’innovation tout en atténuant les risques.

Un partenariat pour l’avenir

Pour l’OSI et la Fondation Eclipse, l’évolution rapide des technologies de l’IA, ainsi que les nouveaux paysages réglementaires complexes à venir, exigent des orientations claires, cohérentes, alignées et enracinées dans les principes de l’open source. Les deux organisations s’engagent à fournir à la communauté open source, aux leaders de l’industrie et aux décideurs les outils et les connaissances dont ils ont besoin pour naviguer dans ce domaine en évolution rapide.

Ce protocole d’accord marque le début d’une collaboration à long terme, de nouvelles initiatives et activités conjointes seront prochainement annoncées.

Ce 19 septembre, une trentaine d’entreprises, des chercheurs et des institutions européens ont publié une lettre ouverte adressée aux régulateurs de l’UE avec un message clair : l’Europe doit harmoniser ses approches réglementaires en matière d’IA si elle veut libérer pleinement le potentiel de l’IA générative, notamment open source. Parmi les signataires figurent Mark Zuckerberg (Meta), Daniel Ek (Spotify), Yann LeCun (Meta), Christian Klein (SAP), Maurice Lévy (Publicis Groupe), Börje Ekholm (Ericsson) qui soulignent l’urgence d’une prise de décision rapide et cohérente pour garantir que l’Europe reste compétitive.

Selon la lettre ouverte, “l’Europe est devenue moins compétitive et moins innovante par rapport à d’autres régions, et elle risque maintenant de prendre encore plus de retard à l’ère de l’IA en raison de décisions réglementaires incohérentes”.

L’environnement réglementaire européen, qui a pour but de protéger les consommateurs et de garantir une concurrence équitable, a été source de tensions entre des géants technologiques comme Meta ou OpenAI et les régulateurs européens.

La loi sur les Marchés Numériques (DMA), cherche à limiter le pouvoir des grandes plateformes en ligne, en imposant des règles pour empêcher les comportements anticoncurrentiels alors que la loi sur les Services Numériques (DSA) vise à créer un espace numérique plus sûr, exigeant des plateformes en ligne une modération rigoureuse des contenus. De son côté, le règlement Général sur la Protection des Données (RGPD) impose des règles strictes sur la collecte, le traitement et le stockage des données personnelles des citoyens européens.

L’AI Act, entré en vigueur le 1er août dernier, sera quant à lui appliqué progressivement. Il établit un cadre pour l’utilisation de l’IA, notamment pour les applications à haut risque, imposant des exigences strictes en matière de transparence et de sécurité, mais selon certains, manque de clarté et d’exemption à part entière pour les modèles de fondation open source.

L’Europe à un tournant décisif

L’un des points cruciaux soulevés dans la lettre est l’absence d’une réglementation unifiée en Europe sur l’utilisation des données pour l’IA, empêchant les entreprises de développer des solutions innovantes à l’échelle locale. Les interventions récentes des autorités européennes de protection des données ont semé le trouble quant aux types de données qui peuvent être utilisés pour entraîner des modèles d’IA, ce qui freine considérablement les efforts de recherche et développement.

Les signataires avertissent que sans règles harmonisées et cohérentes, l’Europe se privera des dernières avancées technologiques dont bénéficient les États-Unis, la Chine et l’Inde, comme celles des LLMs multimodaux qui pourraient radicalement transformer des secteurs comme la santé, la science ou encore la culture, tout en contribuant à une augmentation significative du PIB mondial estimée à 10 % au cours de la prochaine décennie. Elle va également se priver d’un second élément essentiel à l’innovation en IA : “le développement de modèles “ouverts”, disponibles gratuitement pour que tout le monde puisse les utiliser, les modifier et les améliorer, multipliant ainsi les bénéfices et diffusant des opportunités sociales et économiques”.

Pour Laurent Solly, vice-président de Meta Europe du Sud :

“Les entreprises qui travaillent sur l’IA générative ont besoin de décisions harmonisées, cohérentes, rapides et claires dans le cadre de la réglementation européenne sur les données. C’est l’avenir et la place de l’Europe qui se jouent ici”.

Ce que la lettre ouverte souligne :

“L’Europe fait face à un choix qui aura un impact sur la région pendant des décennies. Elle peut choisir de réaffirmer le principe d’harmonisation inscrit dans des cadres réglementaires comme le RGPD afin que l’innovation en matière d’IA se produise ici à la même échelle et à la même vitesse qu’ailleurs. Ou bien, elle peut continuer à rejeter le progrès, trahir les ambitions du marché unique et regarder le reste du monde développer des technologies auxquelles les Européens n’auront pas accès”.

Vous pouvez retrouver la lettre ouverte et rejoindre les signataires ici.

Alors que le Congrès américain peine à établir une réglementation encadrant les systèmes d’IA, l’état de Californie a décidé de se doter de sa propre réglementation au grand dam des principales entreprises du secteur de l’Etat, OpenAI en tête.

La loi SB 1047 en Californie est une proposition législative visant à encadrer les modèles d’IA générative. Elle a été introduite par le sénateur démocrate Scott Wiener dans le but de prévenir les dommages potentiels que des systèmes d’IA puissants pourraient causer, comme des cyberattaques ou des incidents qui pourraient entraîner des pertes massives de vies humaines. Ses détracteurs, comme ceux de l’AI Act, estiment qu’elle pourrait freiner l’innovation et faire fuir les investisseurs.

Le 2 août dernier, la société de capital-risque Andreessen Horowitz (“a16z”), basée à la Silicon Valley écrivait au sénateur Wiener :

“Bien que nous soyons convaincus que vos intentions sont de protéger la sécurité des Californiens – un objectif louable, bien sûr – le projet de loi tel qu’il est actuellement rédigé n’atteindra pas ses objectifs. Il entravera l’innovation et l’investissement dans cette technologie émergente importante, affaiblira la position des États-Unis en tant que leader mondial de la technologie et créera des obstacles inutiles et arbitraires pour une industrie compétitive qui stimule la création d’emplois en Californie à une échelle record. C’est pourquoi votre législation a généré des réactions ouvertes et des préoccupations généralisées de la part de presque tous les principaux développeurs et investisseurs de l’écosystème de l’IA”.

Face à cette opposition, les législateurs californiens ont apporté des modifications au projet de loi. Le 15 août dernier,  celui-ci a été adopté par la California Appropriations Committee, une commission législative de l’Assemblée de l’État de Californie, dernière étape avant qu’il ne soit soumis à un vote final.

Le sénateur Wiener a précisé à TechCrunch :

“Nous avons accepté un certain nombre d’amendements très raisonnables proposés, et je pense que nous avons répondu aux principales préoccupations exprimées par Anthropic et beaucoup d’autres dans l’industrie. Ces amendements s’appuient sur des modifications importantes apportées précédemment au SB 1047 pour répondre aux besoins uniques de la communauté open source, qui est une source importante d’innovation”. 

La version amendée du projet de loi a en effet atténué certaines exigences initiales, comme la création d’une nouvelle agence de régulation, qui a été retirée, mais elle propose néanmoins la mise en place d’un conseil consultatif chargé de développer des normes pour les systèmes d’IA les plus avancés. En outre, la législation maintient les obligations pour les développeurs de LLMs de tester la sécurité de leurs systèmes et de simuler des cyberattaques. En cas de non-respect, des amendes sont prévues, mais sans sanctions pénales.

Opposition et soutien au projet de loi

Malgré ces compromis, le projet de loi rencontre une ferme opposition de la part d’acteurs clés du secteur technologique, comme OpenAI, Google, et Meta. OpenAI, par exemple, a exprimé des préoccupations concernant le risque de voir les innovateurs quitter la Californie pour des environnements moins régulés. Des chercheurs reconnus comme Yann LeCun ou Fei-Fei Li, de l’université de Stanford, ont critiqué le projet de loi. Pour Yann LeCun, l’un des parrains de l’IA, il vise à répondre à une “illusion de ‘risque existentiel’ poussée par une poignée de groupes de réflexion délirants”, pour Fei-Fei Li, il nuira à l’écosystème d’IA naissant.

Certaines figures influentes, comme Nancy Pelosi, membre du parti démocrate, bien qu’elles soutiennent l’idée de protéger les consommateurs et de réguler l’IA, estiment que le projet de loi actuel est mal conçu et pourrait nuire à la position de leader de la Californie dans le domaine de l’IA.

Les défenseurs du projet, comme Scott Wiener et des experts comme les deux autres parrains de l’IA, Geoffrey Hinton et Joshua Bengio, estiment quant à eux que la régulation est nécessaire pour anticiper les dangers potentiels des systèmes d’IA tout en soutenant l’innovation responsable.

Le projet de loi SB 1047 doit encore passer par un vote à l’Assemblée californienne avant la fin du mois. Si elle est adoptée, ce sera au gouverneur Gavin Newsom de décider de sa promulgation. La décision du gouverneur est encore incertaine, car il n’a pas pris publiquement position sur ce texte.

Ce projet de loi est suivi de près, car il pourrait poser un précédent pour la régulation de l’IA aux États-Unis et influencer la manière dont d’autres États, voire le gouvernement fédéral, abordent cette question.

La Commission européenne a officiellement annoncé la création du Bureau de l’IA au sein de la Direction générale des réseaux de communication, du contenu et des technologies (DG Connect). Ce nouveau centre d’expertise, qui sera opérationnel à partir du 16 juin 2024, a pour mission principale de veiller à l’application uniforme du règlement de l’UE sur l’IA (AI Act) et de promouvoir une IA digne de confiance dans toute l’Union européenne.

L’UE a été pionnière dans l’établissement d’un cadre réglementaire pour l’IA, visant à réguler l’IA en fonction de son potentiel à causer des dommages. Le 21 mai dernier, le Conseil de l’Union européenne a donné son feu vert final à l’AI Act, dont l’objectif est de garantir que les systèmes et modèles d’IA commercialisés au sein de l’UE soient utilisés de manière éthique, sûre et dans le respect des droits fondamentaux de l’UE.

Il était prévu qu’un bureau soit créé pour surveiller sa mise en œuvre et son application, en particulier en ce qui concerne les modèles d’IA à usage général au sein de DG Connect. Cette direction de la Commission européenne responsable des politiques relatives aux réseaux de communication, aux contenus numériques et aux technologies joue un rôle crucial dans la promotion du développement numérique en Europe.

Composé de 140 experts en technologie, juristes et économistes, le Bureau de l’IA sera non seulement chargé de garantir que l’IA utilisée en Europe respecte des normes élevées de sécurité, de fiabilité et de protection des droits fondamentaux mais aura également pour tâche de favoriser la collaboration internationale.

La Commission a dévoilé ce 29 mai sa structure organisationnelle.

La structure du Bureau de l’IA

La DG CONNECT Direction A a fait l’objet d’une réorganisation. À partir du 16 juin, le bureau européen de l’IA sera composé de 5 unités et de 2 conseillers, un conseiller scientifique principal et un conseiller aux affaires internationales conformément à son mandat.

• L’unité “Excellence en IA et robotique ” soutiendra et financera la recherche et le développement pour promouvoir un écosystème d’excellence en IA et robotique.  Elle coordonnera l’initiative GenAI4EU, encouragera le développement de modèles d’IA et leur intégration dans des applications innovantes ;
• La cellule “Réglementation et conformité” coordonnera l’approche réglementaire pour assurer l’application uniforme de la législation sur l’IA dans toute l’Union européenne. Dans ce but, elle collaborera étroitement avec les États membres, contribuera aux enquêtes sur les infractions et appliquera des sanctions ;
• L’unité “Sécurité IA” aura pour rôle d’identifier les risques systémiques liés aux modèles d’IA à usage général et proposer des mesures d’atténuation. Elle développera des approches d’évaluation et de test pour garantir la sécurité des systèmes d’IA ;
• L’unité “Innovation IA et coordination des politiques” supervisera  la mise en œuvre de la stratégie de l’UE en matière d’IA ;
• L’unité “L’IA pour le bien de la société” aura pour tâche de concevoir et mettre en œuvre des initiatives internationales pour utiliser l’IA au bénéfice de la société. Elle travaillera ainsi sur des projets tels que la modélisation météorologique, les diagnostics de cancer et les jumeaux numériques pour la reconstruction.

Pour s’acquitter de ses missions, le bureau de l’IA collaborera étroitement avec le Comité européen de l’IA (CAI), les États membres, les institutions européennes, ainsi qu’un large éventail d’experts et de parties prenantes, y compris la communauté scientifique, l’industrie, les groupes de réflexion et la société civile. Cette collaboration se fera par le biais de forums, de groupes d’experts spécialisés et de partenariats stratégiques.

C’est finalement à Séoul, en Corée du Sud, que va se dérouler, ces 21 et 22 mai, la seconde édition du “AI Safety Summit“, co-organisée par Séoul et le Royaume-Uni. Ce sommet mondial sur l’IA, organisé pour la 1re fois en novembre dernier à Londres pour trouver des réponses aux risques induits par les modèles de fondation comme ChatGPT, se déroulera en virtuel ce mardi et en présentiel le lendemain.

L'”AI Safety Summit” est un événement crucial pour aborder les enjeux liés à l’IA, et garantir son développement sûr et éthique. À l’occasion de sa 1re édition, 28 pays et l’Europe ont co-signé La déclaration de Bletchley, un engagement de principe peu contraignant, pour une IA développée, déployée et utilisée de manière sûre, centrée sur l’humain, digne de confiance et responsable.

Ce second sommet s’appuiera sur les avancées de la 1ère édition, mais également sur le rapport que le gouvernement britannique avait demandé alors à Yoshua Bengio de superviser. Cet éminent expert en IA a été l’un des signataires de la lettre demandant une pause dans le développement des grands modèles de fondation et a fait partie des militants pour un encadrement strict de l’IA en Europe, en amont de l’AI Act.

Si la première version, provisoire, de ce rapport présentée pour le sommet, souligne les dangers des modèles d’IA de pointe en matière de désinformation, notamment via les deepfakes, de fraudes, de cyberattaques, les dangers de leurs biais, elle met également en lumière de profondes divergences entre les experts et entre les pays.

Le Sommet de Séoul

Outre la poursuite de l’élaboration d’une feuille de route pour assurer la sécurité de l’IA,  la promotion de l’innovation et le partage équitable des opportunités et des avantages de l’IA seront également à l’ordre du jour.

Ce 21 mai, la session virtuelle coprésidée par le Premier ministre Rishi Sunak et le président de la République de Corée Yoon Suk Yeol, réunira des dirigeants de pays, dont Emmanuel Macron. Des leaders mondiaux de l’industrie seront également invités à faire le point sur la manière dont ils respectent les engagements pris à Bletchley Park pour assurer la sécurité de leurs modèles. Parmi eux, Anthropic, Google DeepMind, OpenAI, Microsoft et côté français, Mistral AI.

La réunion en présentiel des ministres du numérique, le lendemain, sera co-organisée par la secrétaire britannique à la technologie, Michelle Donelan, et le ministre coréen des Sciences et des TIC, Lee Jong-Ho.

À l’Elysée, plusieurs tables rondes seront organisées à la suite de la session virtuelle avec des acteurs de l’IA comme Eric Schmidt, ancien PDG de Google, ou encore Yann LeCun, vice-président de Meta.

La France a quant à elle repoussé le Sommet de Paris prévu en novembre prochain au mois de février 2025. Plusieurs groupes de travail devraient d’ailleurs être annoncés par Emmanuel Macron pour préparer son ordre du jour. Si, tout comme le Royaume-Uni,  la France a l’ambition de se positionner en tant que l’un des leaders mondiaux de l’IA, elle ne veut pas limiter le débat sur l’IA aux “risques existentiels de cette technologie” selon un communiqué de presse de la présidence, ajoutant “Il y a d’autres enjeux plus urgents et concrets sur le déploiement de l’IA et son utilisation pour le bien commun”.

L’IA change la donne dans les data, le tsunami des réglementations aussi ! Placée sous le signe de l’intelligence artificielle, de la confiance, de l’évolution des régulations et de la gouvernance des données, l’édition 2024 du Printemps des DPO, organisée le jeudi 18 juin prochain, donnera aux professionnels des données et de la privacy toutes les clés pratiques et prospectives indispensables pour avancer dans un écosystème en pleine révolution.

L’intelligence artificielle induit de nouveaux enjeux liés à la protection des données et à l’éthique. La première table ronde du matin réunira Yann Padova, avocat, IAPP country leader, Félicien Vallet, chef du service IA de la CNIL, Isabelle Landreau, DPO du groupe d’Idemia et Laurence Hadj, directrice data protection groupe de Doctolib quatre personnalités incontestées qui répondront aux grands enjeux posés par l’IA : comment gérer les nouveaux défis qu’elle soulève en matière de confidentialité, de collecte de données d’apprentissage, de sécurité des données, de biais algorithmiques discriminatoires, d’erreurs et de diffusion de données personnelles sans base légale ? Quels changements dans la gestion de la conformité ? Quel apport de l’IA pour les DPO et les responsables privacy ? Comment peuvent-ils se positionner pour concilier IA, protection et gouvernance des données ?

Régulations numériques : combien de pilotes dans l’avion ?

Par ailleurs, la régulation du numérique est face à un dilemme : trouver le juste équilibre entre réglementation, innovation et compétitivité, pour concilier impératif de vie privée, logique économique et géopolitique. Depuis cinq ans, la profusion de régulateurs du numérique et de textes européens a-t-elle réussi à répondre efficacement à cet enjeu ? Empiler et sanctionner est-ce protéger ? Comment donner du sens et une méthode à cet écosystème compliqué et à ses inévitables injonctions contradictoires ? Pour en finir avec le chacun pour soi, quels arbitrages et quelle interrégulation instaurer ? Sabrina Bouguessa, ads privacy and regulations lead for Southern Europe de Google, Fabrice Naftalski, avocat, Juliette Rouilloux-Sicre, vice-présidentes Affaires juridiques de Thalès et présidente du Comité Régulations du numérique du MEDEF, et Nathalie Laneret, vice-présidente Affaires publiques chez Criteo, se pencheront pendant la table ronde de l’après-midi, sans langue de bois, sur ce maelström réglementaire qui commence à donner des vertiges à certains….

Un face-à-face très attendu et un programme d’une richesse inégalée

En début d’après-midi, Etienne Drouard, avocat associé chez Hogan Lovells et représentant de l’OCDE pour les transferts de données et la souveraineté numérique, confrontera aussi son point de vue sur ce qu’est la souveraineté numérique et ce qu’on peut en attendre à celui de Guillaume Champeau, directeur des affaires juridiques d’Olympe Legal et fondateur de Numerama, un face-à-face très attendu !

Le Printemps des DPO 2024, c’est aussi des dizaines de workshops, de panoramas, de masterclass et des rencontres de travail exclusives en petit comité entre DPO qui ont fait la réputation de l’événement, les Table Teams DPO, sur des sujets très pratiques : comment bien gérer une violation de données en dix points clés ? Quelles solutions pour faire son registre de traitement vite et bien ? Quels lendemains sans cookies tiers ? Comment sensibiliser ses collaborateurs sans (trop) les chatouiller à la confidentialité des données ?Comment retrouver ses petits RGPD dans la sous-traitance cloud en évitant les rapports de force ? Mais aussi : les réglementations connexes sur le numérique décryptées, apprendre à maîtriser l’exercice des droits des utilisateurs, faire face aux enjeux de conformité posés par ChatGPT, une plongée dans le darkweb avec Damien Bancal pour savoir ce que deviennent les données volées, les dos & don’ts, les tips & tricks et les bonnes pratiques lors d’un contrôle CNIL… et bien d’autres thématiques au service de sa pratique quotidienne et de votre évolution professionnelle.

Ne ratez pas ce rendez-vous exceptionnel le jeudi 18 juin prochain, au Parc des Princes, un moment unique d’échange d’idées et de networking, à la rencontre d’autres professionnels de la protection des données, pour tisser des liens précieux, garder une longueur d’avance et faire bouger les lignes, dans un lieu privilégié accueillant et dans une ambiance conviviale. C’est gratuit (sur invitation et sur inscription) https://www.printemps-des-dpo.com/registration/register!

Le rapport annuel d’Amnesty International publié ce 24 avril met en lumière les préoccupations croissantes concernant l’impact de l’intelligence artificielle sur les droits humains dans le monde. Il souligne que l’essor rapide de l’IA, combiné à l’inaction en matière de réglementation, crée un environnement propice pour le racisme, la discrimination et la division.

Pour Amnesty International, “le monde récolte les terribles conséquences de l’escalade des conflits et du quasi-effondrement du droit international”.

Le rapport 2024 sur La situation des droits humains dans le monde évalue l’état des droits fondamentaux dans 155 pays. En 2023, de nombreux états et groupes armés ont ignoré ou contourné les règles de la guerre, tandis que le racisme a été central dans certains conflits armés et leurs répercussions. Les populations marginalisées ont été particulièrement touchées par les crises économiques, le changement climatique et la dégradation de l’environnement.

Les défenseurs des droits humains, en particulier ceux qui militent pour les droits de ces populations, ont été visés dans une répression généralisée des voix dissidentes. Les oppositions aux droits des femmes, des filles et des personnes LGBTI ont également augmenté, tout comme la prolifération en ligne de discours de haine et d’autres contenus préjudiciables visant certains groupes racisés. Parallèlement, les avancées dans le domaine de l’intelligence artificielle ont parfois été utilisées pour restreindre les libertés individuelles et bafouer les droits fondamentaux.

Agnès Callamard, secrétaire générale d’Amnesty International, déclare :

“Le rapport d’Amnesty International dresse un tableau affligeant caractérisé par une répression alarmante des droits humains et de multiples violations des règles internationales, sur fond d’accroissement des inégalités mondiales, de rivalités entre superpuissances pour la suprématie et d’aggravation de la crise climatique”.

Pour l’organisation, l’effondrement de l’état de droit constaté en 2023 risque de s’accélérer avec le développement rapide de l’IA qui, couplé à la domination des géants de la haute technologie, pourrait entraîner une multiplication des violations des droits humains si la réglementation reste à la traîne.

Selon elle :

“Le mépris de la loi, la discrimination et l’impunité dans les conflits et ailleurs ont été favorisés par l’utilisation incontrôlée de technologies nouvelles ou familières, qui sont aujourd’hui couramment utilisées comme armes par des acteurs militaires, politiques et du monde de l’entreprise. Les plateformes des géants technologiques alimentent les conflits. Des logiciels espions et des outils de surveillance de masse sont utilisés pour attenter aux libertés et aux droits fondamentaux, tandis que les gouvernements déploient des outils automatisés visant les groupes les plus marginalisés de la société”.

De l’urgence d’une réglementation de l’IA plus stricte

Pour Amnesty International, bien qu’imparfait et incomplet, l’AI Act a eu le mérite d’ouvrir un débat indispensable sur la réglementation de l’IA. Cependant, elle estime que l’évolution rapide de l’IA générative a fait changer d’échelle la menace que constituait l’éventail de technologies déjà existantes, des logiciels espions à l’automatisation des services publics en passant par les algorithmes incontrôlables des réseaux sociaux.

Agnès Callamard souligne :

“Nous avons vu combien la haine, la discrimination et la désinformation étaient amplifiées et diffusées par les algorithmes des réseaux sociaux, qui sont optimisés avant tout pour obtenir un taux d’“engagement” maximal. Ils créent une boucle de commentaires infinie et dangereuse, en particulier dans les périodes particulièrement sensibles sur le plan politique. Les outils actuels peuvent générer des images, des enregistrements audio et des vidéos virtuels en quelques secondes, ainsi que prendre pour cible des publics précis par groupes entiers. Or, la réglementation électorale est en retard face à cette menace. Jusqu’à présent, nous avons vu trop de discours mais pas assez d’actes”.

Pour Amnesty International, les gouvernements doivent prendre des mesures législatives et réglementaires fermes pour lutter contre les risques et les préjudices liés aux technologies de l’IA et au règne des géants technologiques.

Il n’est pas simple de suivre les avancées dans le domaine de l’intelligence artificielle, encore moins leur mise en œuvre. Cependant, face à la mise en place de nouvelles réglementations (IA Act ou la déclaration de Bletchley sur la sécurité de l’IA signée par 28 pays), il sera bientôt difficile d’invoquer cette excuse. Un cadre plus précis pour la réglementation de l’IA va faciliter sa mise en œuvre dans les entreprises, à condition de disposer d’un socle de données solide.

Principale conséquence, les dirigeants mettent la pression sur leurs collaborateurs en leur demandant de démontrer rapidement la valeur de l’IA pour l’entreprise. Ce sont les équipes en charge des données qui se trouvent en première ligne. Ces experts jouent un rôle clé dans toute stratégie d’IA, car leur mission consiste à alimenter les modèles en injectant des informations contrôlées tout en s’assurant de leur pertinence et de leur éthique.

Les équipes data entretiennent désormais avec l’IA des relations réellement fusionnelles. Certes, une de leurs missions consiste à vérifier les informations alimentant l’intelligence artificielle, mais pour réaliser son plein potentiel, l’IA peut avant tout les aider à extraire le maximum de valeur des données disponibles.

Améliorer les processus de données avec l’IA

S’il est reconnu depuis longtemps que les données massives engrangées par les entreprises cachent une valeur significative ; aujourd’hui l’IA peut jouer un rôle majeur dans l’amélioration des processus analytiques et contribuer à exploiter pleinement le potentiel non encore exploré des données.

Au-delà de la rapidité d’analyse souvent associée à l’IA, ces technologies sont capables de créer des modèles prédictifs qui permettent aux entreprises d’anticiper les tendances et leurs résultats, un avantage incontesté dans un contexte économique perturbé. Ainsi, dans le domaine de la santé, les entreprises collectent des données à chaque interaction avec le patient et à chaque test de diagnostic. Ces données sont ensuite utilisées pour prévoir de possibles goulots d’étranglement et le flux de patients entre les services, pour mieux répondre à la demande et dispenser les meilleurs soins possibles.

Le principal atout de l’IA pour les équipes data est bien là : apporter des réponses aux questions qu’elles ne se posaient même pas. Outre la capacité à analyser de très grandes quantités d’informations, l’IA peut instantanément identifier des relations, des formes, des patterns et des anomalies dans des jeux de données. Pour les entreprises cela signifie que sans être des data scientists, les utilisateurs métiers et les analystes seront capables de tirer des données toute leur valeur.

Et pourtant adopter l’IA ne se fait pas d’un coup de baguette magique. Les équipes data connaissent les difficultés que présente l’intégration de l’IA aux processus en place qui ont fait leurs preuves, même s’ils demeurent perfectibles. Des tests rigoureux et le respect des réglementations en vigueur sont essentiels pour créer un socle de données nécessaire à l’adoption de l’IA et atteindre l’équilibre entre le risque et l’innovation.

Mettre l’IA au service des équipes data

Conscients des avantages, mais aussi des interrogations que peuvent avoir les professionnels des données qui cherchent à améliorer les processus analytiques grâce à l’IA, comment appliquer concrètement ces techniques et les mettre en pratique pour maximiser leur valeur ?

• Trouver des quick wins : malgré la capacité de l’IA à gérer des données non structurées, c’est dans les informations structurées que se trouvent les gains les plus rapides. Connues et exploitées de façon régulière par les entreprises, ces données sont propres, fiables et représentent une bonne base pour tester des techniques d’IA plus sophistiquées sans prendre de risques.
• Choisir un cas d’usage pour mesurer l’impact de l’IA : fait désormais avéré, l’IA aura un fort impact dans les entreprises. Il est donc important d’associer l’IA à un cas d’usage précis pour produire un retour démontrable. Simplement expérimenter avec la technologie ne mènera nulle part. Pour démontrer les avantages de la technologie, les initiatives et les investissements dans l’IA, souvent pilotés par l’équipe data chargée de la gestion des modèles, doivent être guidés par un objectif précis.
• Penser aux utilisateurs : utiliser l’IA dans les processus de données ne garantit pas qu’elle apportera un résultat business. Une analyse avancée ne présente aucun intérêt si elle ne peut être partagée clairement avec les décideurs. Il est essentiel d’impliquer les utilisateurs de ces informations dans tout le processus, de la création du modèle d’IA jusqu’à la manière dont les insights vont être partagés. Trop souvent les modèles innovants restent non utilisés parce que la façon dont ils sont déployés ne correspond pas aux besoins et aux attentes de l’utilisateur final des données.
• Minimiser les risques grâce à l’intégration des données : l’intégration et la gouvernance des données sont deux piliers essentiels à la mise en œuvre de nouveaux processus impliquant l’IA. Cette dernière exige également une approche plus souple de la gestion des données, parce que l’ingestion de nouvelles données peut très vite modifier un modèle. Les organisations doivent bâtir une source de données fiable, solide et gouvernée, pour soutenir les processus de données et d’analyse actuels, mais aussi être en mesure de s’ouvrir aux nouvelles techniques basées sur l’IA.
• Aller de l’avant et expérimenter : le déploiement de processus de sécurité et de gouvernance des données ne doit pas empêcher les équipes data d’expérimenter avec l’IA. Il est essentiel de se donner des objectifs clairs, correctement anonymiser les données et introduire des POC avec le concours du service IT. Remettre en cause des processus existants n’est jamais facile, c’est même une raison de plus pour expérimenter sans tarder.

  Avec l’aide de l’IA, les équipes data peuvent extraire les données plus rapidement et en obtenant des résultats bien meilleurs. Parfois des applications adressant des consommateurs font la une, mais avant d’y arriver, il est indispensable d’optimiser l’utilisation des données pour les équipes internes. Comme pour toute nouvelle technologie, introduire de l’AI dans des processus établis suscite des débats sur son véritable impact business. Si l’IA était appliquée aux process fondamentaux qui sous-tendent l’IA, cet impact pourrait être exponentiel.

Compte tenu du potentiel que cachent les données d’entreprise, l’IA semble un allié indispensable pour beaucoup, mais son l’adoption reste un long chemin. Pour maximiser son intérêt, les équipes data doivent avancer étape par étape, par itérations et apprendre en permanence, sans négliger les pratiques éthiques et responsables. Et surtout, se lancer sans hésiter !

Le 8 décembre dernier,  les négociateurs du Parlement européen et du Conseil, à la suite d’âpres négociations, annonçaient être parvenus à un accord provisoire sur l’AI Act. Après avoir été adopté par les Etats membres de l’UE le 2 février dernier, il l’a été hier par les eurodéputés. Il ne lui manque plus que la validation du Conseil de l’Europe en avril prochain et sa publication dans le Journal Officiel de l’UE pour entrer en vigueur progressivement selon le niveau de risque des systèmes ou modèles d’IA.

L’UE a été la première à vouloir instaurer un cadre réglementaire pour l’IA, visant à réguler l’intelligence artificielle en fonction de son potentiel à causer des dommages. Elle a de fortes chances d’être également la première à appliquer une loi contraignante sur l’IA puisqu’hier matin les eurodéputés l’ont adopté à une très large majorité : 523 votes pour, 46 contre, 49 abstentions.

Thierry Breton s’est félicité sur X : “L’Europe est AUJOURD’HUI un pionnier mondial de l’IA”, ajoutant “Nous réglementons le moins possible, mais autant que nécessaire !”

🇪🇺 Democracy: 1️⃣ | Lobby: 0️⃣

I welcome the overwhelming support from European Parliament for our #AIAct —the world's 1st comprehensive, binding rules for trusted AI.

Europe is NOW a global standard-setter in AI.

We are regulating as little as possible — but as much as needed! pic.twitter.com/t4ahAwkaSn

— Thierry Breton (@ThierryBreton) March 13, 2024

Pour rappel, la Commission européenne avait soumis une proposition de règlement de l’IA le 21 avril 2021. Les développements de l’IA générative et de modèles de fondation, notamment celui de ChatGPT, qui n’étaient pas prévus dans la proposition initiale de la loi européenne, lui ont fait subir de nombreuses modifications et reports.

L’AI Act vise à garantir que les systèmes et modèles d’IA commercialisés au sein de l’UE soient utilisés de manière éthique, sûre et dans le respect des droits fondamentaux de l’UE.

Il impose des obligations et des restrictions aux fournisseurs et aux utilisateurs qui développent, déploient ou exploitent des systèmes et des modèles d’IA au sein de l’UE. Bien qu’il soit désormais prévu de réviser régulièrement ces obligations, aujourd’hui, une réglementation produit, allant du marquage CE à l’interdiction de mise sur le marché, est  appliquée à ces derniers suivant leur niveau de risque, des dispositions particulières sont prévues pour les entreprises qui développent des modèles d’IA génératives.

• les systèmes d’IA présentant un risque inacceptable vont être interdits de mise sur le marché ;
• les systèmes d’IA présentant un haut risque devront obtenir un marquage CE;
• les systèmes d’IA à risque faible ou minime doivent intégrer des obligations d’information des utilisateurs ou suivre un code de conduite volontaire.

Selon Ashley Casovan, Directrice générale de l’AI Governance Center pour l’Association internationale des professionnels de la vie privée, à but non lucratif (IAPP) :

“L’adoption de la loi européenne sur l’IA marquera le début d’une nouvelle ère pour le développement et l’utilisation de l’IA. Avec des valeurs centrées sur l’humain qui sous-tendent cette législation sur la sécurité des produits, elle établit des garde-fous importants pour l’adoption sûre, équitable et responsable de l’IA dans tous les secteurs de la société. Reconnaissant et s’appuyant sur les cadres adoptés à l’échelle mondiale et la législation connexe, cette loi complète fournira les conseils nécessaires aux entreprises qui achètent, construisent et vendent de l’IA. Compte tenu de la nature mondiale de l’utilisation de l’IA, il est probable que ces règles de l’UE auront un impact bien au-delà des frontières européennes. C’est pourquoi il est crucial pour toutes les entreprises impliquées dans l’IA à quelque titre que ce soit de comprendre la loi et de commencer à préparer leur organisation et leurs équipes à la conformité”.

Après une stratégie annoncée en juin 2023 pour renforcer la sécurité économique de l’UE, la Commission européenne a présenté en janvier dernier de nouvelles initiatives allant dans ce sens, notamment un meilleur filtrage des investissements étrangers dans l’UE et une coordination dans le domaine du contrôle des exportations. Pour SEMI Europe, avant de mettre en place plus de mesures restrictives et protectrices, l’UE devrait s’attacher à un des piliers de la stratégie : le renforcement de partenariats et de collaborations avec des pays tiers partageant les mêmes intérêts et les mêmes préoccupations.

Face aux difficultés d’approvisionnement de puces et aux menaces sur la technologie soulignées par la pandémie, l’UE a annoncé en mars 2021 son objectif de doubler les capacités de production de puces en Europe d’ici à 2030 pour parvenir à produire 20% des semi-conducteurs dans le monde, ce qui devait également lui permettre d’attirer des investissements étrangers. Par la suite, le projet d’un Chips Act européen a été présenté début 2022 visant à renforcer la souveraineté de l’Europe dans le domaine des semi-conducteurs en stimulant la production locale de puces électroniques et réduisant la dépendance vis-à-vis des fournisseurs étrangers. Il est d’ailleurs entré en vigueur en septembre dernier.

Dans un contexte géopolitique dégradé, (guerre entre Ukraine et Russie, tensions sino-américaines sur le marché des puces, menaces chinoises sur Taiwan), et de profondes mutations technologiques, La Commission européenne et le haut représentant ont publié en juin 2023 une communication conjointe sur une “stratégie européenne en matière de sécurité économique”.

En janvier dernier, la Commission a adopté 5 initiatives visant à renforcer la sécurité économique au sein de l’UE tout en préservant l’ouverture des échanges commerciaux, des investissements et de la recherche au bénéfice de l’économie de l’UE, s’appuyant sur trois piliers : promouvoir la compétitivité de l’Union, se prémunir contre les risques et conclure des partenariats avec le plus large éventail de pays possible afin de préserver les intérêts communs en matière de sécurité économique.

SEMI, une association industrielle mondiale représentant plus de 3 000 entreprises membres et plus de 300 entreprises européennes de toute la chaîne d’approvisionnement en fabrication et conception de microélectronique, a publié la semaine dernière “Priorités sur la stratégie européenne de sécurité économique“, un document de position qui propose différentes recommandations à l’intention des décideurs politiques.

Elle y encourage notamment la Commission européenne à mettre l’accent sur les aspects de protection, de promotion et de partenariat de la sécurité économique afin de donner aux entreprises européennes le plus haut niveau possible d’accès aux marchés mondiaux, préservant ainsi leur compétitivité.

Elle lui demande également de maintenir une approche équilibrée des contrôles des investissements étrangers qui peuvent préserver la compétitivité mondiale des entreprises européennes.

Elle déclare dans le document de position :

“Nous en appelons à la Commission européenne afin qu’elle procède à une évaluation minutieuse des avantages sécuritaires liés à l’instauration de mécanismes de contrôle des investissements directs étrangers (IDE) plus rigoureux. Cette évaluation devra prendre en considération l’impact potentiel sur l’attractivité de l’UE en tant que destination d’investissement, notamment à la lumière de l’adoption récente de l’European Chips Act et des investissements substantiels réalisés par des acteurs non-UE. En outre, il est essentiel que la Commission reconnaisse l’importance des investissements en greenfield pour l’avenir de l’industrie européenne des semi-conducteurs, tant ceux provenant d’acteurs européens que de pays tiers, afin de renforcer les capacités productives de l’Europe dans ce secteur”.

Laith Altimime, Président de SEMI Europe, commente :

“La stratégie européenne de sécurité économique devrait prévoir un dialogue structuré avec les parties prenantes de l’industrie sur la base d’une compréhension commune des risques liés à la chaîne d’approvisionnement et de la sécurité économique. Il est d’une importance vitale pour la Commission européenne de s’engager avec l’industrie des puces en Europe afin de permettre des conclusions significatives et des décisions politiques efficaces”. 

La réussite du mariage entre le progrès technologique et les impératifs réglementaires

L’intelligence artificielle s’est imposée comme un thème central dans les discussions internationales, notamment à Davos et au sein de l’Union Européenne. Lors de sa 54ème édition, Davos a récemment mis en lumière l’importance cruciale de l’IA dans le futur technologique, particulièrement l’IA générative avec des avancées majeures comme ChatGPT d’OpenAI. Le président d’OpenAI, Sam Altman, a marqué les débats en présentant la perspective d’une IA générale, imaginant des machines ayant une intelligence similaire à celle des humains.

Malgré ces perspectives enthousiasmantes, de nombreuses préoccupations sont soulignées. Le progrès rapide de l’IA alimente les inquiétudes quant à l’avenir du travail et les implications pour l’économie mondiale. Selon Goldman Sachs, près de 300 millions d’emplois pourraient disparaître dans le monde en raison de l’intégration généralisée de l’IA. Les PDG à travers le monde sont conscients de cette réalité, un sondage de PwC indiquant que près d’un quart des dirigeants d’entreprise s’attendent à réduire leurs effectifs en raison des gains de productivité apportés par l’IA.

Le rôle majeur de l’Union Européenne pour l’équilibre entre innovation et protection des droits fondamentaux

Les progrès de l’intelligence artificielle mettent en évidence l’importance croissante d’une régulation appropriée de cette technologie. L’Union Européenne s’est affirmée comme un acteur central dans cette démarche. En effet, en avril 2021, la Commission européenne a présenté un cadre réglementaire inédit, connu sous le nom de « loi sur l’IA », l’IA Act. Et plus récemment, le 9 décembre 2023, le Conseil et le Parlement européens ont conclu un accord provisoire sur cette proposition de loi. Ce texte est une avancée importante vers une régulation harmonisée de l’IA à l’échelle européenne, et au-delà.

Cette loi novatrice ambitionne de trouver un équilibre entre la protection des droits fondamentaux et le soutien à l’innovation. Elle a été conçue pour cultiver une IA digne de confiance, soutenant la sécurité et les droits des individus et entreprises tout en favorisant l’adoption et l’innovation dans une variété de domaines. En parallèle, un défi majeur apparaît : il est nécessaire d’établir des cadres réglementaires fiables qui permettent un développement harmonieux de l’IA à l’échelle mondiale. Alors que l’Europe a fait un pas décisif avec l’IA Act, d’autres régions expriment leurs préoccupations et leurs demandes de régulation, illustrant le caractère incontournable de ces considérations éthiques et pratiques pour l’avenir de l’IA.

La montée en puissance de l’intelligence artificielle, soulignée au Forum de Davos et matérialisée par des avancées comme ChatGPT d’OpenAI, crée donc à la fois des opportunités et des défis. Malgré les promesses d’innovation, le rapide développement de l’IA engendre des préoccupations légitimes sur l’emploi à l’échelle mondiale. Face à ces enjeux, l’Union Européenne s’établit comme un leader réglementaire avec son IA Act, une loi novatrice cherchant un équilibre entre l’innovation et la protection des droits fondamentaux.

Néanmoins, pour un avenir harmonieux de l’IA à l’échelle internationale, l’implication et la collaboration d’autres régions et des grands acteurs de l’industrie informatique sont cruciales. La discussion entre tous les acteurs concernés doit continuer.

Les Etats membres de l’UE ont adopté l’AI Act le 2 février dernier, confirmant l’accord provisoire obtenu en décembre dernier. Les premières obligations l’accompagnant seront effectives dans les 6 mois suivant sa publication au Journal officiel de l’UE, après un dernier vote au Parlement européen. France Digitale, Wavestone et Gide publient un guide pratique à l’intention des entreprises de toutes tailles, leur permettant de comprendre rapidement les enjeux de cette nouvelle réglementation et d’anticiper les prochaines étapes de la mise en conformité de leurs systèmes d’IA.

L’AI Act vise à garantir que les systèmes et modèles d’IA commercialisés au sein de l’UE soient utilisés de manière éthique, sûre et respectueuse des droits fondamentaux de l’UE.

L’AI Act impose des obligations et des restrictions aux fournisseurs et aux utilisateurs qui développent, déploient ou exploitent des systèmes et des modèles d’IA au sein de l’UE. Bien qu’il soit désormais prévu de réviser régulièrement ces obligations, aujourd’hui, une réglementation produit, allant du marquage CE à l’interdiction de mise sur le marché, est  appliquée à ces derniers suivant leur niveau de risque, des dispositions particulières sont prévues pour les entreprises qui développent des modèles d’IA génératives.

• les systèmes d’IA présentant un risque inacceptable vont être interdits de mise sur le marché ;
• les systèmes d’IA présentant un haut risque devront obtenir un marquage CE;
• les systèmes d’IA à risque faible ou minime doivent intégrer des obligations d’information des utilisateurs ou suivre un code de conduite volontaire.

Selon Marianne Tordeux Bitker, Directrice des affaires publiques de France Digitale, la plus grande association de start-ups et investisseurs de l’UE:

“Cette décision a un goût doux amer. Si l’AI Act répond à un enjeu majeur en matière de transparence et d’éthique, il crée néanmoins des obligations conséquentes pour toutes les entreprises qui utilisent ou développent de l’intelligence artificielle, malgré quelques aménagements prévus pour les startups et PME notamment au travers de bacs à sable réglementaires. Nous craignons que le texte ne fasse que créer des barrières réglementaires supplémentaires qui profiteront à la concurrence américaine et chinoise et réduiront l’opportunité de faire émerger des champions européens de l’IA”.

L’AI Act va entrer en vigueur progressivement selon le niveau de risque des systèmes ou modèles d’IA, les entreprises auront de 6 à 36 mois pour se mettre en conformité comme on peut le voir dans la frise ci-dessous :

Mais pour les auteurs du guide, si ce calendrier progressif a été pensé par le régulateur pour laisser le temps aux entreprises de se mettre en conformité, il est important d’anticiper les différentes étapes à venir dès à présent.

Chadi Hantouche, Partner chez Wavestone, un cabinet de conseil français, explique :

“Pour réussir cette mise en conformité, les entreprises vont devoir réaliser des tests, fournir la documentation requise, interagir avec la gouvernance prévue et suivre le processus de mise en conformité dans la durée. 3 conseils pour y arriver sereinement : suivre la méthode par étapes que nous proposons dans le guide, constituer une équipe dédiée et anticiper l’impact budgétaire pour votre entreprise.”

Le non-respect du règlement expose les fournisseurs et les utilisateurs  à des risques juridiques et financiers. Le règlement prévoit en effet des sanctions administratives, civiles et pénales, qui peuvent aller jusqu’à 7% du chiffre d’affaires annuel mondial ou 35 millions d’euros, pour les infractions les plus graves, comme la mise sur le marché ou l’utilisation d’IA interdites.

Comment tester l’IA avant sa mise sur le marché ou en service ?

L’AI Act prévoit une obligation pour chaque autorité nationale de mettre en place un bac à sable réglementaire.

Ces bacs à sables doivent être opérationnels au moment de l’entrée en application de l’AI Act, en 2026. Ils permettront aux entreprises de tester les systèmes d’IA avant leur mise sur le marché ou en service, afin de favoriser l’innovation et le développement de l’IA en Europe.

Des tests en vie réelle sont également prévus par l’AI Act, ces expérimentations pourront être menées par les fournisseurs d’IA, avec le consentement des utilisateurs et des autorités nationales concernés, tout en respectant certaines conditions de sécurité, de transparence et de supervision.

Julien Guinot-Deléry, Associé, et Matthieu Lucchesi, Counsel chez Gide, concluent :

“L’application de l’AI Act va arriver très vite. Les opportunités mais aussi les défis que pose ce nouveau règlement sont significatifs et touchent un panel d’acteurs et d’industries très large. Il est essentiel que les entreprises se préparent dès maintenant et anticipent la mise en conformité de leurs systèmes d’IA, en tenant compte d’autres réglementations, dont celles sur le droit d’auteur”.

Découvrir le guide ici

Comme de nombreux pays, l’Australie cherche à encadrer l’utilisation de l’IA, plus particulièrement celle de l’IA générative. En juin dernier, une consultation a été lancée pour recueillir l’avis et les propositions du public afin d’établir de nouvelles règles pour renforcer la faible confiance des citoyens australiens envers l’IA. Le ministre des Sciences et de l’Industrie, Ed Husic, a publié mercredi dernier un rapport détaillant les mesures qui devraient répondre aux préoccupations mises en lumière.

L’Australie, à laquelle nous avons consacré notre dossier international du n°13 de notre magazine papier, a été l’un des premiers pays à vouloir réglementer l’IA, proposant un cadre éthique volontaire en 2018.

Le développement de l’IA générative et ses dérives potentielles n’y étaient pas envisagées, l’Australie, tout comme les législateurs européens l’ont fait avant elle, se voit contrainte d’adapter sa réglementation et combler ses lacunes en matière de droit d’auteur, de protection des consommateurs et de données personnelles. Tout comme l’UE, l’Australie veut considérer les systèmes d’IA suivant leur degré de risque.

En juin dernier, le Conseil national des sciences et de la technologie publiait un document de travail sur “l’IA sûre et responsable en Australie” et un rapport sur l’IA générative, mettant en lumière le rôle qu’elle peut jouer dans la désinformation lors de consultations parlementaires et pour la création de deepfakes. Ces 2 documents ont fait partie de la consultation publique de huit semaines qui a servi de base aux nouvelles propositions du gouvernement.

Une approche axée sur les risques

La consultation a reçu plus de 500 réponses. Ed Husic, le Ministre des Sciences et de l’Industrie australiens, lors de la présentation d’un rapport provisoire de 25 pages, a souligné le manque de confiance autour de l’IA générative, un frein à son adoption, avec 2/3 des Australiens estimant les mesures existantes insuffisantes.

Pourtant, elle pourrait accroître le PIB de l’Australie de 600 milliards de dollars par an, contribuant ainsi de manière significative à la croissance économique du pays.

La stratégie gouvernementale met l’accent sur la création d’un cadre complet, envisageant la mise en place de nouvelles lois pour superviser l’utilisation de l’IA dans des domaines à haut risque comme les forces de l’ordre, la santé et l’éducation.

Le gouvernement souhaite faire une distinction entre les utilisations d’IA qu’il considère “à faible risque”, comme le filtrage des spams, et celles “à haut risque”, tels que la création de contenu manipulé, autrement dit les « deep fakes »

Pour assurer la transparence et la responsabilité dans le développement et l’utilisation de l’IA, le gouvernement propose la création d’un organisme consultatif. Ce groupe jouerait un rôle essentiel en collaborant avec des experts du gouvernement et de l’industrie pour élaborer de nouvelles lois et définir les critères des systèmes d’IA à haut risque.

Les entreprises, de leur côté, devront améliorer la transparence des systèmes d’IA qu’elles utilisent et tout contenu généré par l’IA devrait être signalé.