Alors que l’IA occupe une place de plus en plus grande dans notre quotidien et que les entreprises sont nombreuses à envisager son adoption, qu’en est-il de notre compréhension des risques liés sur lesquels alertent de nombreux experts ? Les cadres actuels d’évaluation de ces risques, bien qu’utiles, montrent des lacunes significatives. Pour tenter de les combler, les chercheurs du MIT publient “AI Risk Repository”, un référentiel qui comprend une base de données accessible au public, comptant plus de 700 risques liés à l’IA, qui sera élargie et mise à jour pour s’assurer qu’elle reste pertinente.

Ce référentiel a été élaboré par des chercheurs du MIT CSAIL, du MIT FutureTech, de l’Université du Queensland, du Future of Life Institute, de la KU Leuven et d’Harmony Intelligence. En rendant cette base de données accessible au public, ils espèrent non seulement sensibiliser davantage aux risques potentiels de l’IA, mais aussi encourager une collaboration plus étroite entre les différents acteurs concernés, qu’il s’agisse de développeurs, de régulateurs ou de simples utilisateurs. L’objectif est de créer un cadre de référence commun qui facilite la discussion, la recherche et la mise en place de mesures de prévention adaptées, permettant ainsi une adoption plus sûre et plus éthique de l’IA.

Peter Slattery, postdoctorant entrant au MIT FutureTech Lab et actuel chef de projet, explique :

“Étant donné que la littérature sur les risques liés à l’IA est dispersée dans des revues à comité de lecture, des prépublications et des rapports de l’industrie, et qu’elle est très variée, je crains que les décideurs ne consultent involontairement des aperçus incomplets, passent à côté de préoccupations importantes et développent des angles morts collectifs”.

Un référentiel inédit des risques liés à l’IA

Pour construire ce référentiel, les chercheurs ont passé une revue systématique des taxonomies existantes et d’autres classifications structurées des risques liés à l’IA, ce qui leur a permis de recenser et d’analyser 43 cadres déjà en place, d’identifier les forces et les faiblesses de chaque approche. Ils ont intégré les éléments les plus pertinents et robustes de ces différents cadres existants pour créer une classification qui capture de manière complète les divers types de risques associés à l’IA.

Ce référentiel se distingue par son approche systématique et exhaustive. Il est structuré autour de deux taxonomies principales. Une taxonomie causale, qui classe les risques selon leurs facteurs d’origine : entité (humain ou IA), intentionnalité et timing (avant ou après déploiement) et une taxonomie de domaine, qui les organise en 7 catégories : la confidentialité et la sécurité, la désinformation, l’interaction homme-machine, les acteurs malveillants et usage abusif, la discrimination et la toxicité, les dommages socio-économiques et environnementaux, et les défaillances et les limites des systèmes d’IA.

Les 7 domaines ont ensuite été divisés en 23 sous-domaines, souvent négligés dans les évaluations traditionnelles. Selon l’examen des chercheurs, les 43 cadres n’ont mentionné que 34 % des 23 sous-domaines de risque identifiés, près d’un quart en couvrant moins de 20 %. Aucun document ou aperçu n’a mentionné la totalité des 23 sous-domaines de risque, les plus complets n’en couvrant que 70 %.

L’analyse montre que certains domaines de risque, tels que la “sécurité des systèmes d’IA” et les “préjudices socio-économiques”, reçoivent une attention disproportionnée par rapport à d’autres, comme “l’interaction homme-machine” ou la “désinformation”. Par exemple, les risques liés à la “discrimination injuste” sont fréquemment abordés, et ont été mentionnés par 62 % des documents alors que des sujets tels que le “bien-être et les droits de l’IA” (2 %) sont presque totalement ignorés.

Chacun des 777 risques extraits des 43 cadres étudiés a été rigoureusement analysé et classé en fonction de cette double taxonomie, qui permet une analyse plus fine et une gestion plus efficace des risques. Les chercheurs ont également souligné que plus de 65 % de ces risques émergent après le déploiement des systèmes d’IA, ce qui met en évidence l’importance de la vigilance continue et de l’adaptation des stratégies de gestion des risques une fois que les technologies sont en usage réel.

Neil Thompson, directeur du MIT FutureTech Lab et l’un des chercheurs principaux du projet, commente :

“Le référentiel des risques d’IA est, à notre connaissance, la première tentative de sélectionner, d’analyser et d’extraire rigoureusement des cadres de risque d’IA dans une base de données de risques accessible au public, complète, extensible et catégorisée. Cela fait partie d’un effort plus vaste visant à comprendre comment nous réagissons aux risques liés à l’IA et à identifier s’il existe des lacunes dans nos approches actuelles”.

Ajoutant :

“Nous commençons par une liste de contrôle complète, pour nous aider à comprendre l’étendue des risques potentiels. Nous prévoyons de l’utiliser pour identifier les lacunes dans les réponses organisationnelles. Par exemple, si tout le monde se concentre sur un type de risque tout en négligeant d’autres d’importance similaire, c’est quelque chose que nous devrions remarquer et aborder”.

Le référentiel est disponible gratuitement en ligne, peut être téléchargé, copié et utilisé. Il continuera d’évoluer au fur et à mesure que de nouveaux risques seront identifiés et que de nouvelles analyses seront effectuées. Les chercheurs encouragent à contribuer à cette ressource afin qu’elle reste pertinente et à jour.

Références de l’article :

Slattery, P., Saeri, A. K., Grundy, E. A. C., Graham, J., Noetel, M., Uuk, R., Dao, J., Pour, S., Casper, S., & Thompson, N. (2024). “Une revue systématique des données probantes et un cadre de référence commun pour les risques liés à l’intelligence artificielle”. http://doi.org/10.13140/RG.2.2.28850.00968

Le Health Data Hub, plateforme de données de santé des patients français lancée en 2019, a choisi Microsoft Ireland pour héberger ces données particulièrement sensibles sur Azure. Choix qui a été loin de faire l’unanimité et bien qu’il ait été conforté en décembre dernier par la CNIL, plusieurs sociétés, associations et particuliers dont Clever Cloud, Cleyrop, Nexedi, Rapid.Space, l’Open Internet Project, l’Association de défense des libertés constitutionnelles et Bernard Benhamou de l’Institut de la souveraineté numérique ont décidé de saisir le Conseil d’Etat.

Le Health Data Hub a été créé pour permettre de croiser les bases de données de santé (système national des données de santé, données collectées auprès des hôpitaux, des médecins…) et faciliter leur utilisation par les nombreuses équipes de recherche et de développement avec un respect total de la vie privée des usagers du système de santé.

Le ministère de la Santé et de la Prévention et la CNIL privilégiaient à l’origine un hébergeur européen mais le ministère ayant considéré qu’il n’y avait pas de solutions européennes opérationnelles avant 2025, Microsoft Azure, qui avait été choisi comme hébergeur cloud sans appel d’offres, est amené à le rester pour quelque temps encore. Le problème est que même si ces données sont stockées dans des datacenters situés en France, Microsoft est basé aux Etats-Unis et sa filiale irlandaise est soumise au droit américain, ce qui implique la possibilité légale de demandes de communication des données par l’administration des Etats-Unis.

Dès 2020, la CNIL a exprimé des préoccupations concernant le risque de transfert de données vers les États-Unis. Des requérants, associations et professionnels, ont alors saisi le Conseil d’Etat d’un recours demandant la suspension du Health Data Hub. Dans son ordonnance du 13 octobre 2020, le Conseil d’État reconnaissait l’existence d’un risque de transfert de données issues du Health Data Hub vers les États-Unis et demandait des garanties supplémentaires, mais, au regard de son utilité pour la gestion de la crise sanitaire, refusait de suspendre le fonctionnement de la plateforme.

Le projet EMC2

Le Health Data Hub a remporté fin 2021 l’appel d’offres lancé par l’Agence européenne du médicament (EMA) visant à constituer un entrepôt de données de santé multi-centrique afin de permettre aux établissements de santé, aux institutions publiques, aux associations de patients ou encore aux agences européennes comme l’EMA de réaliser des recherches, des études et des évaluations. Cet entrepôt de données de santé dénommé “EMC2” est alimenté par les données de 4 établissements de santé partenaires avec un appariement à la base principale du Système National de Données de Santé (SNDS).

S’appuyant sur les avis de la DNS (Délégation au numérique en santé), l’Agence du Numérique en Santé (ANS), la Direction Interministérielle du Numérique (DINUM) et l’Institut National de Recherche en Informatique et en Automatique (INRIA), la CNIL a rendu en décembre dernier un avis favorable sur la capacité du Health Data Hub à gérer ce projet et l’a autorisé à mettre en œuvre le traitement automatisé de données à caractère personnel ayant pour finalité la constitution de cet entrepôt de données de santé.

Ce qui sous-entend que Microsoft va héberger pendant trois ans de nombreuses informations médicales de 300 000 à 600 000 patients français au grand dam des entreprises françaises et européennes qui seraient légitimes sur ce marché.

Clever Cloud, Cleyrop, Nexedi, Rapid.Space, l’Open Internet Project, l’Association de défense des libertés constitutionnelles et Bernard Benhamou demandent l’annulation de la décision de la CNIL, ou du moins la transmission d’une question préjudicielle à la CJUE, La Cour de justice de l’UE.

L’affaire sera traitée en audience publique le 19 mars à 11h, une conférence de presse sera organisée en présence des requérants le 18 mars à 8h30 au café le Concorde, à Paris.

Material Projects, une base de données en libre accès du Berkeley Lab, permet aux chercheurs d’accéder à des informations cruciales sur divers matériaux, Google DeepMind a permis avec son outil GNoME d’y ajouter 380 000 structures cristallines. Certains des calculs de GNoME ont été utilisés avec les données du projet Materials pour tester A-Lab, un laboratoire futuriste du Berkeley Lab, combinant robotique et IA pour accélérer la découverte de nouveaux matériaux.

Fondé en 1931, le Lawrence Berkeley National Laboratory (Berkeley Lab), est un laboratoire national multiprogramme géré par l’Université de Californie pour le compte de l’Office of Science du département de l’Énergie des États-Unis. Le laboratoire A-Lab, qui y est installé, a démarré ses activités en février dernier et fonctionne 24h/24, 7 jours/7.

Material Projects : une base de données pour la découverte de matériaux

Lancé en 2011 par le Berkeley Lab, le Materials Project est le dépôt d’informations en libre accès sur les matériaux inorganiques qui compte le plus grand nombre d’utilisateurs (400 000) dans le monde. En calculant les propriétés des matériaux connus ou prédits, il permet aux chercheurs de se concentrer sur des matériaux prometteurs pour les technologies futures, comme des alliages plus légers qui permettraient d’économiser le carburant, des cellules solaires plus efficaces pour stimuler les énergies renouvelables ou des transistors plus rapides pour la prochaine génération d’ordinateurs.

Google DeepMind a utilisé les informations du projet Materials pour développer l’outil  GNoME, basé sur le deep learning, qui a permis la découverte de 2,2 millions de nouveaux cristaux, dont 380 000, considérés comme stables et prometteurs pour des applications technologiques futures, ont été ajoutés à la base de données de Material Projects.

L’ensemble de données comprend la façon dont les atomes d’un matériau sont disposés (la structure cristalline) et sa stabilité (énergie de formation).

Kristin Persson, fondatrice et directrice du Materials Project au Berkeley Lab et professeure à l’UC Berkeley, explique :

“Nous devons créer de nouveaux matériaux si nous voulons relever les défis environnementaux et climatiques mondiaux. Grâce à l’innovation dans les matériaux, nous pouvons potentiellement développer des plastiques recyclables, exploiter l’énergie résiduelle, fabriquer de meilleures batteries et construire des panneaux solaires moins chers qui durent plus longtemps, entre autres choses”.

A-Lab : l’automatisation guidée par l’IA pour la synthèse de nouveaux matériaux

Dirigé par la scientifique Yan Zeng, le laboratoire A-Lab utilise des robots guidés par l’IA pour effectuer les étapes complexes du processus de synthèse de matériaux. Cette automatisation permet de traiter 50 à 100 fois plus d’échantillons par jour que ne le ferait un chercheur humain, accélérant considérablement le rythme de découverte.

En seulement 17 jours , A-Lab a permis de créer 41 nouveaux composés prédits par le Materials Project sur une tentative de 58, soit un rythme de plus de deux nouveaux matériaux par jour, là où il aurait fallu des mois à un chercheur humain. Les données du GNoME ont été utilisées comme vérification supplémentaire de la stabilité de ces matériaux prévus.

Gerd Ceder, chercheur principal d’A-Lab et scientifique au Berkeley Lab et à l’UC Berkeley, conclut :

“Nous avons eu ce taux de réussite stupéfiant de 71 %, et nous avons déjà quelques moyens de l’améliorer. Nous avons montré que la combinaison de la théorie et des données avec l’automatisation donne des résultats incroyables. Nous pouvons fabriquer et tester des matériaux plus rapidement que jamais, et l’ajout de points de données supplémentaires au projet sur les matériaux signifie que nous pouvons faire des choix encore plus intelligents”.

Références : blog Berkeley Lab