Tout juste investi 47ème président des États-Unis, Donald Trump a révoqué lundi dernier le décret de Joe Biden du 30 octobre 2023 qui visait à encadrer les risques liés à l’IA. Bien que ce décret ait eu pour objectif de soutenir le développement d’une IA responsable, le nouveau président le considère avant tout comme un frein à l’innovation.

Le décret de Joe Biden exigeait que les entreprises développant des systèmes d’IA avancés présentant des risques potentiels pour la sécurité nationale, l’économie ou la santé partagent leurs résultats de tests de sécurité et d’autres informations critiques avec le gouvernement.

Cette décision, de révoquer ce décret intervient à un moment critique où les principales entreprises d’IA présentent des lacunes significatives dans leurs pratiques de gestion des risques, selon une évaluation de SaferAI, une organisation à but non-lucratif française spécialisée dans la gestion des risques de l’IA.

Siméon Campos, fondateur et directeur exécutif de SaferAI, affirme :

“Les garde-fous qui viennent d’être supprimés doivent être urgemment remplacés. Notre récente notation, mesurant la maturité de gestion des risques des entreprises d’IA, montre que même les entreprises leaders obtiennent des scores entre 1,5 et 1,9 sur 5 en matière de pratiques de gestion des risques, certaines entreprises n’obtenant que 0,1. Ces évaluations révèlent que même les leaders de l’industrie sont loin de mettre en œuvre des pratiques de gestion des risques adéquates, et sans régulation, ces lacunes préoccupantes pourraient s’aggraver.”

Selon l’organisation, les enjeux sont particulièrement élevés compte tenu des développements récents des capacités de l’IA. Le modèle o1 d’OpenAI a démontré des capacités qui pourraient aider des experts à développer des armes biologiques, tandis que les capacités du modèle o3 semblent encore plus significatives. Encore en phase de test, il devrait être lancé d’ici quelques semaines, o3-mini, une version plus rapide et plus économique, le sera d’ici la fin du mois. Si le décret de Biden avait été pleinement mis en œuvre, il aurait exigé le partage des résultats des tests de sécurité et le partage d’information clés au gouvernement pour de tels systèmes.

Henry Papadatos, Managing Director de SaferAI, déclare :

“Sans les exigences du décret en matière de tests de sûreté et de transparence, nous naviguons à l’aveugle avec des systèmes d’IA de plus en plus avancés. Comme le montrent nos notations, les pratiques de gestion des risques que nous observons dans l’industrie suggèrent que les engagements volontaires seuls ne suffisent pas à garantir une gestion adéquate des risques.”

Les experts en gestion des risques de SaferAI appellent à de nouvelles mesures législatives pour combler le vide réglementaire laissé par la suppression du décret. Les dispositions du décret concernant la gestion des risques chimiques, biologiques, radiologiques, nucléaires et de cybersécurité ne seront plus appliquées, suscitant des inquiétudes quant à l’utilisation potentiellement abusive des systèmes d’IA avancés.

Pure Storage, fournisseur de technologies et de services de stockage de données, a dévoilé un nouveau rapport, réalisé en partenariat avec le cabinet de recherche indépendant Vanson Bourne, révélant les tendances et les défis actuels qui façonnent l’innovation au sein des entreprises françaises. Intitulé « La course à l’innovation : réduire les risques et naviguer dans la frontière de l’IA pour un succès futur », ce rapport vise à mettre en lumière les points de vue des 200 DSI (Directeurs des Systèmes d’Information) et décideurs informatiques interrogés.

L’étude de Pure Storage couvre trois thèmes principaux, à savoir les risques et les défis pour les entreprises, le dilemme du choix entre innovation et gestion des risques, et pour finir, la montée en puissance de l’IA. Selon le rapport, l’essor de l’IA ouvre des opportunités pour les entreprises de tous les secteurs, mais, pour beaucoup, l’accent mis sur la gestion des risques freine l’innovation.

Modernisation de l’infrastructure : un impératif

Une écrasante majorité (97 %) des entreprises françaises s’accorde sur la nécessité de moderniser leur infrastructure pour pouvoir soutenir efficacement la gestion des risques et les initiatives d’innovation, notamment en lien avec l’IA. Cette modernisation est cruciale pour éviter l’obsolescence technologique et rester compétitives dans un marché en constante évolution.

Défis technologiques majeurs

Les défis technologiques identifiés par les décideurs informatiques sont les suivants :

• Modernisation des infrastructures : 37 % des répondants soulignent la difficulté de moderniser et maintenir leurs infrastructures informatiques.
• Coûts croissants : 34 % pointent les coûts du cloud et 24 % les coûts énergétiques comme des obstacles significatifs.
• Gestion des charges de travail disparates : 33 % des entreprises doivent jongler avec de multiples charges de travail, complexifiant ainsi leur gestion opérationnelle.

Un équilibre délicat entre gestion des risques et innovation

La gestion des risques occupe une place prédominante dans les préoccupations des DSI : 87 % d’entre eux consacrent une grande partie de leur temps à cette tâche qui limite leur capacité à se concentrer sur l’innovation technologique, pourtant essentielle au succès futur de leur entreprise. Près de 68 % des répondants regrettent cette situation et préfèreraient investir plus de temps dans des initiatives innovantes plutôt que dans la gestion des risques.

Si 87 % accordent la plus haute importance à la réduction des risques, une proportion encore plus élevée, 96 %, estime que les budgets actuels de cybersécurité pourraient être investis plus efficacement dans des projets innovants. Ces pourcentages mettent en évidence la tension entre le besoin de sécuriser les opérations et l’aspiration à exploiter les nouvelles technologies et opportunités de croissance.

Selon Pure Storage :

“Pour relever ces défis, les dirigeants informatiques doivent comprendre tous les risques pour leur entreprise au-delà des menaces cyber évidentes. Développer des plans complets avant, pendant et après les attaques et simplifier le parc informatique peut réduire la dette technique et améliorer la sécurité, libérant ainsi des ressources pour l’innovation”.

L’IA : entre opportunité et défi

L’IA se présente comme une opportunité transformative pour les entreprises françaises, mais également comme un défi :

• Risques d’inefficacité technologique : 43 % des décideurs voient l’incapacité à exploiter l’IA comme un risque majeur ;
• Potentiel de transformation : 94 % des répondants considèrent l’IA comme une opportunité unique pour transformer leurs organisations. Actuellement, toutes les entreprises sont en phase de planification ou d’adoption de l’IA, ce qui témoigne d’un consensus général quant à son potentiel d’amélioration des systèmes existants ;
• Préparation insuffisante : 85 % craignent que leur entreprise soit laissée pour compte sans une infrastructure adéquate pour supporter l’IA ;
• Capacité des datacenters : 90 % anticipent que les données générées par l’IA dépasseront les capacités actuelles des datacenters, soulignant un besoin urgent d’investir dans des plateformes de données durables.

Jonathan Bourhis, Country Manager France de Pure Storage, commente :

“Le véritable défi pour les entreprises est de trouver un équilibre entre l’innovation, essentielle à leur croissance, et les exigences de gestion des risques pour garantir leur sécurité à long terme. Ce rapport sur la course à l’innovation met en lumière les dilemmes auxquels sont confrontés les DSI français, où la gestion des risques limite leur capacité à explorer de nouvelles opportunités technologiques et à mettre en œuvre des solutions innovantes”.

Retrouver le rapport de Pure Storage ici.

Hub France IA a récemment publié le livrable “Opérationnaliser la gestion des risques des systèmes d’intelligence artificielle” élaboré par son groupe de travail Banque et Auditabilité. Regroupant des experts en IA, de la gestion des risques et de l’audit de trois grandes banques françaises : BNP Paribas, La Banque Postale et Société Générale, ce groupe travaille depuis plusieurs années sur la gestion des risques liés à l’IA.

Un contexte réglementaire en évolution

L’entrée en vigueur de l’AI Act, prévue pour 2026, et l’essor rapide de l’IA générative, ont poussé le groupe de travail à répondre à une question essentielle : comment doter la gestion des risques d’outils efficaces pour réduire les coûts de mise en conformité à l’AI Act ?

La mise en conformité exige de prendre en compte l’intégralité du processus de développement d’un système d’IA, allant de la phase d’idéation, de conception, de développement et de mise en production, jusqu’au suivi continu. Les coûts de mise en conformité sont importants : d’après une enquête réalisée par le Hub France IA et ses partenaires européens en décembre 2022, plus de 50% des entreprises interrogées ont estimé ces coûts entre 160 000 et 330 000 euros.

Le groupe de travail fournit dans ce livrable des conseils pour mettre en place les outils nécessaires pour satisfaire à un audit de certification en conformité avec l’AI Act : documents, fichiers Excel, logiciels, outils de gestion de flux de travail… Ces outils pourront également servir de preuves auprès des régulateurs.

Une démarche méthodologique rigoureuse

En s’appuyant sur un livre blanc qu’il a publié en 2022, le groupe de travail décrit le cycle de développement d’un système d’IA dans son intégralité, associant à chaque étape un outil de conformité spécifique. Suite à l’adoption de l’AI Act par le Conseil de l’Union européenne en mai dernier, une analyse approfondie s’avère nécessaire pour aligner les outils proposés avec les attentes de conformité. Un prochain guide viendra détailler cette correspondance.

Le travail présenté dans le livrable ne vise pas à être exhaustif mais souhaite apporter un
cadre méthodologique et de bonnes pratiques.

Ses principaux enseignements incluent :

• La disponibilité de nombreux outils d’analyse des risques tout au long du processus de mise en œuvre des systèmes d’IA ;
• Une couverture partielle des solutions logicielles pour l’opérationnalisation du AI Act ;
• L’émergence de nouveaux risques liés à l’IA générative, accompagnée de nombreuses incertitudes juridiques.

Retrouver le livrable ici.