Le 30 octobre 2023, Joe Biden a émis un décret présidentiel historique visant à garantir que les Etats-Unis soient à l’avant-garde pour saisir les opportunités et gérer les risques de l’IA. Un an plus tard, il publie le tout premier Mémorandum de Sécurité Nationale (NSM) sur l’IA, soulignant son importance pour la sécurité nationale et la politique étrangère.

Ce NSM s’appuie sur les mesures clés déjà prises par le gouvernement fédéral, y compris ce décret exécutif historique. Il part du principe que les avancées de pointe en IA auront des répercussions significatives sur la sécurité nationale américaine et sa politique étrangère dans un avenir proche.

Le NSM définit plusieurs priorités stratégiques afin que les États-Unis conservent leur position de leaders mondiaux dans le développement de l’IA. Il vise également à exploiter cette dernière pour renforcer les capacités de sécurité nationale et à favoriser un consensus international autour de normes communes pour l’utilisation de cette technologie.

Des actions concrètes pour sécuriser la chaîne d’approvisionnement et prévenir les ingérences étrangères

L’un des volets essentiels du NSM concerne le renforcement de la chaîne d’approvisionnement en semi-conducteurs, technologie indispensable au développement de systèmes avancés d’IA. S’appuyant sur la loi CHIPS, signée par Joe Biden en 2023, le NSM appelle à sécuriser et diversifier l’accès aux puces, rendant les États-Unis moins dépendants de pays étrangers et mieux armés contre les cyber-menaces.

En parallèle, le mémorandum met un accent particulier sur la protection des technologies américaines contre les tentatives de vol et d’espionnage. Des directives strictes exigent une vigilance accrue des agences de renseignement et des entités gouvernementales pour renforcer la sécurité des innovations en IA, en fournissant notamment des informations de contre-espionnage aux développeurs et aux chercheurs. Cette stratégie vise à préserver la compétitivité technologique des États-Unis face aux tentatives d’ingérence économique et technologique de pays concurrents.

L’Institut de sécurité en IA et la mobilisation de la recherche scientifique

Le NSM désigne l’Institut de Sécurité en IA comme point de contact central entre l’industrie et le gouvernement. Composé d’experts techniques, il sera chargé de faciliter les échanges et de promouvoir des pratiques rigoureuses de cybersécurité et de contre-espionnage. Le National AI Research Resource, lancé en tant que pilote, est quant à lui renforcé pour permettre à un éventail plus large d’institutions (universités, petites entreprises…), de contribuer aux avancées en IA et d’améliorer les capacités de recherche américaines.

Un cadre de gouvernance pour une IA au service de la sécurité nationale et des valeurs démocratiques

Reconnaissant le potentiel de l’IA à transformer les missions de sécurité nationale, le NSM introduit le tout premier cadre de gouvernance et de gestion des risques pour l’utilisation de l’IA dans les missions sensibles. Intitulé “Framework to Advance AI Governance and Risk Management in National Security”, il introduit des directives aux agences fédérales visant à limiter les applications de l’IA qui pourraient compromettre la sécurité nationale, les droits civils ainsi que les libertés individuelles.

Les principaux cas interdits sont les suivants :

• Discrimination et biais : Les systèmes d’IA ne doivent pas être utilisés pour des décisions automatisées qui introduisent des biais ou discriminent injustement en fonction de caractéristiques protégées (telles que l’origine ethnique, la religion, ou le genre), en particulier dans les contextes de sécurité nationale ;
• Surveillance de masse non autorisée : L’utilisation de l’IA pour la surveillance de masse sans supervision légale appropriée est proscrite. Cela comprend des pratiques de surveillance intrusives qui pourraient violer la vie privée des individus ou la confidentialité des données personnelles ;
• Violations des droits humains : Toute utilisation de l’IA qui pourrait être employée pour la surveillance ou le contrôle répressif des populations (par exemple, dans les zones de conflit) est interdite si elle enfreint les droits de l’Homme ;
• Usage létal sans supervision humaine : Les applications de l’IA pour les systèmes d’armement autonome ne doivent pas permettre des actions létales sans supervision humaine appropriée, afin de garantir que des décisions de vie ou de mort ne soient pas déléguées uniquement à des machines ;
• Manipulation et influence : L’IA ne doit pas être utilisée pour manipuler ou influencer l’opinion publique ou des comportements à des fins politiques ou stratégiques sans transparence ou sans consentement, pour éviter les risques de propagande ou de désinformation ;
• Intrusions dans la vie privée : L’IA ne peut être utilisée pour collecter, stocker, ou traiter des données personnelles de manière abusive, notamment sans un cadre légal et des mesures de sécurité adéquates pour protéger les droits à la vie privée.

Un leadership international pour une IA responsable

Enfin, le NSM affirme la volonté des États-Unis de jouer un rôle central dans la définition des règles internationales de l’IA. En coopération avec ses alliés, Washington poursuit l’objectif d’établir des normes globales pour l’utilisation de l’IA, respectueuses des droits humains et compatibles avec le droit international. Après la création d’un Code de Conduite International sur l’IA avec les membres du G7 en 2023, les États-Unis s’engagent avec leurs partenaires à promouvoir un cadre de gouvernance pour une IA pacifique et responsable, encadrant notamment son usage militaire.

Le Sommet de l’Avenir 2024 s’est tenu les 22 et 23 septembre derniers au siège de l’ONU à New York. En marge de cet événement qui a réuni plus de 130 chefs d’État et de gouvernement pour discuter des défis mondiaux actuels et futurs, l’ONU et l’OCDE ont annoncé une nouvelle collaboration pour renforcer la gouvernance mondiale de l’IA. Cette initiative vise à répondre aux défis croissants posés par le développement rapide de l’IA et à maximiser ses opportunités tout en gérant les risques associés.

Créée en 1961, l’OCDE (Organisation de coopération et de développement économiques) a pour objectif de promouvoir la coopération économique entre ses pays membres, mais aussi de faire progresser le bien-être social au niveau mondial en dispensant aux gouvernements des conseils sur la mise en œuvre de politiques à l’appui d’une croissance résiliente, inclusive et durable.

Dès 2017, l’Organisation s’est intéressée aux usages d’une IA bénéficiant à toute la société, a adopté en 2019 les principes sur l’IA établissant les normes d’une IA responsable et digne de confiance qu’elle a révisés en mai dernier, prenant en compte l’émergence des IA génératives et à usage général et abordant plus directement les défis associés à l’IA : la protection de la vie privée, les droits de propriété intellectuelle, la sécurité et l’intégrité des informations. Aujourd’hui, 47 pays y adhèrent.

Pour aider les gouvernements et les parties prenantes à les comprendre et à les mettre en œuvre, elle a lancé, en février 2020, l’Observatoire des politiques publiques relatives à l’IA,(OECD.AI), fournissant aux gouvernements des données comparatives et des analyses des politiques adoptées à travers le monde, leur permettant ainsi d’anticiper les impacts de l’IA sur leurs sociétés. Servant de plateforme de dialogue et de partage de bonnes pratiques, il couvre divers aspects de l’IA, tels que la gouvernance, la sécurité, la confidentialité des données, et l’impact de l’IA sur le marché du travail et les compétences.

Depuis 2020, l’OCDE héberge le secrétariat du PMIA à Paris, une initiative franco-canadienne favorisant les échanges entre décideurs et experts en IA afin de combler l’écart entre la théorie et la pratique en matière de politiques relatives à l’IA.

De son côté, l’ONU travaille également activement pour s’assurer que l’IA soit utilisée de manière bénéfique pour toute l’humanité. Par le biais de l’UNESCO, elle a adopté le premier accord mondial sur l’éthique de l’IA en 2021, sa résolution sur les systèmes d’armes autonomes a été approuvée par 152 pays en décembre 2023. Plus récemment, son projet de résolution visant à promouvoir des systèmes d’IA sûrs, sécurisés et dignes de confiance pour répondre aux grands défis mondiaux, tels que la pauvreté, la sécurité alimentaire, la santé, l’éducation, l’énergie et le changement climatique, a été adopté sans vote lors d’une de ses assemblées générales en mai dernier.

Une collaboration renforcée pour la gouvernance mondiale de l’IA

Amandeep Singh Gill, Envoyé du Secrétaire général des Nations Unies pour les technologies, a souligné lors de l’annonce l’importance cruciale du renforcement de la collaboration entre les deux entités :

“Le développement rapide des technologies d’IA et l’ampleur de leur impact nécessitent une collaboration renforcée, et en temps réel, entre les divers écosystèmes de politiques publiques. Cette nouvelle initiative entre l’ONU et l’OCDE mettra à profit leurs capacités complémentaires pour aider les gouvernements à agir rapidement et efficacement en réponse aux enjeux liés à l’IA. L’objectif est d’établir des mécanismes de gouvernance mondiale, inclusifs et robustes, en coopération avec des parties prenantes clés, dont des centres universitaires de renom et des scientifiques du monde entier”.

La collaboration entre l’ONU et l’OCDE s’articulera autour d’évaluations régulières, fondées sur des données scientifiques des risques et des opportunités que présente l’IA. Les deux organisations mettront à profit leurs réseaux, plateformes d’échanges et travaux en cours respectifs en matière de politiques publiques et de gouvernance de l’IA pour soutenir leurs États membres et d’autres parties prenantes dans leurs efforts visant à promouvoir une approche inclusive à l’échelle mondiale.

Ulrik Vestergaard Knudsen, Secrétaire général adjoint de l’OCDE, explique :

“L’évaluation scientifique rigoureuse et fondée sur des données probantes doit être au cœur de la gouvernance mondiale de l’IA. Notre annonce marque une avancée notable dans cette direction : le partenariat alliera les capacités techniques et analytiques de l’OCDE au vaste rayonnement mondial des Nations Unies et à ses efforts complémentaires pour soutenir une coordination internationale de la gouvernance de l’IA”.

Concluant :

“L’Observatoire des politiques publiques relatives à l’IA de l’OCDE, les travaux d’envergure que nous menons pour faire progresser la mise en œuvre des Principes sur l’IA et le Partenariat mondial sur l’intelligence artificielle à l’OCDE offrent une base solide à cette collaboration. Nos efforts conjoints aideront les pays à tirer parti de toutes les possibilités offertes par l’IA tout en atténuant et en gérant plus efficacement les risques et les bouleversements qui lui sont associés, afin de favoriser une IA centrée sur l’humain, sûre, sécurisée et digne de confiance”.

L’Union européenne est confrontée à des défis majeurs dans son ambition de devenir un leader mondial de l’intelligence artificielle. Selon le rapport de la Cour des comptes européenne publié ce 29 mai, malgré des efforts significatifs depuis 2018, les investissements et la coordination nécessaires pour développer un écosystème européen d’IA restent insuffisants.

L’IA englobe diverses technologies émergentes, notamment la robotique, les mégadonnées, le cloud et les neurosciences. Les États-Unis ont longtemps dominé ce secteur, mais la Chine vise à les surpasser d’ici 2030 grâce à des investissements privés massifs. L’UE, de son côté, s’est fixée des objectifs ambitieux, notamment atteindre 20 milliards d’euros par an d’investissements pour la prochaine décennie et que 75 % de ses entreprises intègrent l’IA d’ici 2030. Toutefois, la part des entreprises européennes utilisant l’IA varie considérablement d’un État membre à l’autre, avec une adoption encore faible dans de nombreux pays.

La France et l’Allemagne ont déclaré les investissements publics les plus importants de l’UE dans le secteur de l’IA, alors que quatre pays n’ont toujours pas établi de stratégie spécifique. En 2021, l’Europe et l’Asie centrale représentaient moins de 4 % des nouvelles demandes de brevets à l’échelle mondiale.

Selon le rapport, “L’UE peine à développer l’écosystème européen d’intelligence artificielle et n’a pas réussi à doper suffisamment les investissements dans le domaine de l’IA pour faire jeu égal avec les leaders mondiaux du secteur”.

Il révèle que les investissements de l’UE dans l’IA sont nettement inférieurs à ceux des États-Unis et de la Chine. Depuis 2015, le capital-risque en Europe est à la traîne, et entre 2018 et 2020, l’écart d’investissements avec les États-Unis a plus que doublé, atteignant un retard de plus de 10 milliards d’euros. Cette situation compromet la capacité de l’UE à rivaliser avec les leaders mondiaux du secteur.

Pourtant, la Commission européenne a pris depuis 2018 de nombreuses initiatives pour stimuler le développement de l’IA, notamment en matière de réglementation, d’infrastructures, de recherche et d’investissement. Alors que l’UE aspire à devenir un chef de file mondial d’une IA de pointe, éthique et sûre, les mesures de la Commission n’ont pas été coordonnées avec celles des États membres, et les investissements n’ont pas fait l’objet d’un suivi systématique.

Des objectifs d’investissement obsolètes

Les objectifs d’investissement fixés par l’UE en 2018 n’ont pas été révisés depuis et manquent de l’ambition nécessaire pour créer un écosystème d’IA compétitif à l’échelle mondiale. Bien que la Commission ait réussi à augmenter les dépenses budgétaires de l’UE pour les projets de recherche en IA, elle n’a pas réussi à mobiliser suffisamment de cofinancements privés. D’autre part, les résultats des projets de recherche financés par l’UE dans le domaine de l’IA n’ont pas été pleinement commercialisés ou exploités, selon le rapport.

Les infrastructures, telles que les installations d’essai et les espaces de données, ont mis du temps à se mettre en place, retardant ainsi les progrès dans le secteur. Les initiatives récentes de l’UE visant à créer un marché unique des données en sont encore à un stade préliminaire et ne permettent pas, pour l’instant, de stimuler les investissements dans l’IA.

Mihails Kozlovs, le membre de la Cour responsable de l’audit mené dans le cadre de ce rapport, commente :

“Des investissements dans l’IA, massifs et ciblés, sont un facteur décisif qui déterminera la vigueur de la croissance économique de l’UE dans les années à venir. Dans la course à l’IA, il y a fort à parier que le gagnant raflera toute la mise. Si l’UE veut gagner son pari, la Commission européenne et les États membres doivent unir leurs forces de manière plus efficace, accélérer la cadence et libérer le potentiel de l’Union pour réussir cette révolution technologique majeure qui est en cours”.

Les 5 recommandations de la Cour des comptes européenne

Le rapport recommande à la Commission européenne de :

• Renforcer la planification et la coordination des investissements dans l’IA ;
• Améliorer le soutien en capital aux innovateurs de l’IA ;
• Améliorer l’accès aux infrastructures d’innovation dans le domaine de l’IA ;
• Renforcer le suivi des financements de l’UE en faveur de la recherche et de l’innovation dans le domaine de l’IA ;
• Exploiter les résultats de la recherche et de l’innovation pour l’IA.

Pour plus d’informations, consulter le rapport “L’UE face au défi de l’intelligence artificielle – Pas de progrès possibles sans une gouvernance renforcée et sans investissements plus importants et mieux ciblés”.

Le 14 juin 2024, la Cour des comptes européenne organisera une table ronde sur le thème de l’UE face au défi de l’IA. Elle sera diffusée en direct sur YouTube.