Le 5 septembre dernier, à Vilnius, en Lituanie, la Commission européenne a franchi une nouvelle étape en matière de régulation de l’IA en signant la Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’État de droit. Cette signature, effectuée au nom de l’UE par Věra Jourová, vice-présidente de la Commission européenne chargée des valeurs et de la transparence, marque un tournant décisif dans l’effort de l’Europe pour établir un cadre légal international autour de l’IA.

Un instrument juridiquement contraignant

La Convention-cadre du Conseil de l’Europe est le premier accord international juridiquement contraignant qui régule l’utilisation de l’IA tout en veillant à protéger les droits fondamentaux, et ce, sans freiner l’innovation. Cet accord vise à garantir que les systèmes d’IA respectent les valeurs démocratiques et les principes de l’État de droit. La convention s’inscrit dans le prolongement des initiatives législatives prises par l’UE, notamment l’AI Act, première réglementation complète au monde en la matière.

Les négociations concernant la Convention ont commencé en septembre 2022 sous l’égide du Comité sur l’intelligence artificielle (CAI), institué par le Conseil de l’Europe à Strasbourg. Le 17 mai dernier, elle a été adoptée par le Comité des Ministres du Conseil de l’Europe, avant de l’être par la Commission ce 5 septembre, lors de la conférence informelle des ministres de la Justice des États membres du Conseil de l’Europe.

Principes clés de la Convention

Cette convention repose sur plusieurs concepts fondamentaux qui sont au cœur des discussions actuelles sur l’IA. Elle comprend notamment un certain nombre de concepts clés de l’AI Act, auxquels les systèmes d’IA doivent se conformer, tels que :

• une IA centrée sur l’humain, dans le respect des droits de l’homme, de la démocratie et de l’État de droit ;
• une approche fondée sur les risques ;
• les principes clés d’une IA digne de confiance (par exemple, transparence, robustesse, sécurité, gouvernance et protection des données) ;
• la transparence du contenu généré par l’IA et des interactions avec les systèmes d’IA ;
• le renforcement de la documentation, de la responsabilisation et des recours ;
• un soutien à l’innovation sécuritaire grâce à des bacs à sable réglementaires ;
• des obligations en matière de gestion des risques et de documentation ;
• des mécanismes de surveillance pour la supervision des activités d’IA.

Un cadre pour les acteurs publics et privés

Les principes et obligations de la Convention s’appliquent à toutes les phases du cycle de vie des systèmes d’IA, qu’ils soient déployés par des autorités publiques ou des acteurs privés. Les entreprises, tout en devant se conformer aux normes de sécurité et de transparence, pourront également adopter des approches alternatives, adaptées aux besoins spécifiques de leurs activités. Des exemptions sont prévues pour la recherche et développement ainsi que pour les questions de sécurité nationale.

Afin de résister au temps, la Convention-cadre ne régule pas la technologie et est essentiellement neutre sur le plan technologique.

Une portée internationale

Ouverte à l’adhésion des membres du Conseil de l’Europe, de l’Union européenne et d’autres États du monde entier, cette Convention vise à établir une norme mondiale pour le développement et l’utilisation de l’intelligence artificielle. Les négociations ont inclus une large variété d’acteurs, des représentants de gouvernements, d’ONG (OCDE, OSCE, UNESCO), d’universités et d’entreprises, permettant ainsi une approche inclusive et globale. Outre les 46 Etats membres du Conseil de l’Europe (dont les 27 pays de l’UE), d’autres pays ont pris part aux négociations : Argentine, Australie, Canada, Costa Rica, Etats-Unis, Israël, Japon, Mexique, Pérou, Saint-Siège et Uruguay.

Prochaines étapes pour l’UE

La signature de cette convention est un engagement symbolique fort de l’UE. Désormais, la Commission européenne prépare une proposition de décision du Conseil pour conclure officiellement la convention, une étape qui nécessitera l’approbation du Parlement européen. La mise en œuvre dans l’UE se fera par l’intermédiaire de la loi sur l’IA, garantissant une harmonisation totale avec les règles communautaires déjà existantes.

La Convention-cadre du Conseil de l’Europe sur l’IA et les droits de l’homme, la démocratie et l’État de droit est le premier instrument international juridiquement contraignant dans ce domaine. Adoptée à Strasbourg le 17 mai dernier lors de la réunion ministérielle annuelle du Comité des Ministres du Conseil de l’Europe et ouverte aux pays non-européens, elle vise à encadrer les systèmes d’IA tout au long de leur cycle de vie.

Le Conseil de l’Europe, est une organisation internationale fondée le 5 mai 1949, ayant pour but de promouvoir la démocratie, les droits de l’homme et l’État de droit en Europe. En cas de violation, les citoyens de ses 46 États membres peuvent saisir la Cour européenne des droits de l’Homme (CEDH), son organe judiciaire.

Une collaboration internationale

Fruit de deux années de travail du Comité sur l’intelligence artificielle (CAI), la convention a été élaborée en collaboration avec les 46 États membres du Conseil de l’Europe, l’Union européenne, ainsi que 11 États non membres incluant des pays comme l’Argentine, l’Australie, le Canada et les États-Unis. Des représentants du secteur privé, de la société civile et du monde académique ont également participé aux discussions en tant qu’observateurs.

Un cadre juridique pour une IA éthique et responsable

Adoptée à l’unanimité, cette convention a pour but de répondre aux défis posés par l’IA, en garantissant que son développement et son utilisation se fassent dans le respect des droits de l’homme, de la démocratie et de l’État de droit.

Marija Pejčinović Burić, Secrétaire Générale du Conseil de l’Europe, saluant son adoption, a expliqué :

“La Convention-cadre sur l’intelligence artificielle est un traité international unique en son genre qui fera en sorte que l’intelligence artificielle soit respectueuse des droits des personnes. Elle répond à la nécessité de disposer d’une norme de droit international bénéficiant du soutien d’États de différents continents unis par des valeurs communes, qui permet de tirer parti des avantages de l’intelligence artificielle, tout en réduisant les risques qu’elle représente. Avec ce nouveau traité, nous entendons garantir une utilisation responsable de l’IA, respectueuse des droits de l’homme, de la démocratie et de l’État de droit”.

Les principaux objectifs de la convention-cadre

• Transparence et responsabilité : La convention impose des exigences de transparence pour tous les systèmes d’IA, y compris l’identification des contenus générés par l’IA et l’information des utilisateurs lorsqu’ils interagissent avec ces systèmes.
• Évaluation des risques : Les parties devront adopter des mesures pour identifier, évaluer, prévenir et atténuer les risques potentiels associés à l’utilisation des systèmes d’IA. En cas de risques incompatibles avec les normes relatives aux droits de l’homme, des mesures appropriées telles que des moratoires ou interdictions pourront être mises en place.
• Protection des droits de l’homme : Le traité établit des responsabilités claires en matière de protection des droits de l’homme, veillant à ce que les systèmes d’IA respectent l’égalité, notamment l’égalité de genre, interdisent la discrimination et protègent la vie privée.
• Préservation de la démocratie : Il exige des mesures pour s’assurer que l’IA ne soit pas utilisée de manière à porter atteinte aux institutions démocratiques, à la séparation des pouvoirs, à l’indépendance de la justice, et à l’accès à la justice.
• Voies de recours : Les victimes de violations des droits de l’homme liées à l’utilisation des systèmes d’IA devront disposer de recours et de garanties procédurales efficaces.

Exemptions du traité

Des exemptions sont prévues pour équilibrer la protection des droits de l’homme, de la démocratie et de l’État de droit avec les enjeux de sécurité nationale, de défense et d’innovation technologique.

Ainsi, les États parties ne sont pas contraints d’appliquer les dispositions du traité aux activités qui sont essentielles pour la protection de leurs intérêts de sécurité nationale. La convention exclut également les activités de recherche et développement de son champ d’application général à condition que la mise à l’essai des systèmes d’IA n’interfèrent pas avec les droits de l’homme.

Mise en œuvre

Pour assurer une mise en œuvre efficace, la convention établit un mécanisme de suivi via une conférence des parties. Les États signataires devront également mettre en place des mécanismes de contrôle indépendants pour surveiller le respect de la convention, sensibiliser le public et mener des consultations multipartites sur l’utilisation de l’IA.

La signature officielle du traité aura lieu à Vilnius, Lituanie, le 5 septembre prochain, lors d’une conférence des ministres de la justice.

Dans une période marquée par un scepticisme croissant envers les institutions et une intensification de la guerre de l’information lors des périodes électorales, la France prend les devants avec le lancement du programme “Communs Démocratiques”. Cette initiative ambitieuse, portée par Make.org, Sciences Po, Sorbonne Université et le CNRS, vise à développer des solutions d’IA générative open-source pour renforcer la démocratie à l’échelle mondiale et améliorer la participation citoyenne.

Le lancement de cette initiative a été annoncé par Marina Ferrari, Secrétaire d’Etat chargée du Numérique, lors du rassemblement des plus grands talents français de l’IA autour du Président de la République à l’Elysée le mardi 21 mai dernier.

Elle a alors déclaré :

“La France défend une approche vis-à-vis de l’IA qui se veut ouverte, juste et responsable. C’est le sens des appels à projet que nous avons lancés pour les “Communs numériques” sur l’intelligence artificielle. Je suis heureuse d’annoncer aujourd’hui les lauréats, notamment le projet “Communs démocratiques” de Make.org avec Sciences Po, Sorbonne Université et le CNRS, qui permettra d’avoir des solutions d’évaluation et de correction des biais dans les systèmes d’IA pour en assurer un usage responsable dans les processus démocratiques”.

Un projet d’envergure internationale et multidisciplinaire

Financé à hauteur de 6 millions d’euros par le programme “Communs Numériques” de France 2030 et Bpifrance, le projet “Communs Démocratiques” se distingue par sa dimension interdisciplinaire, associant des experts en data science, sciences politiques, linguistiques et sociales. Plus de 50 chercheurs et ingénieurs collaboreront ainsi pendant deux ans afin de développer et de partager en open source un cadre scientifique pour l’évaluation et la correction des biais des grands modèles de langage (LLM) ainsi que des plateformes de participation citoyenne conformes aux principes démocratiques.

Ils s’appuieront sur l’expertise de leaders en IA éthique tels que Hugging Face, Aspen Institute, Mozilla.ai, Project Liberty Institute et le Genci.

Ce consortium de partenaires travaillera en étroite collaboration avec un Conseil scientifique de supervision regroupant des sommités parmi lesquelles Yochai Benkler (Berkman Klein Center), Hélène Landemore (Yale), Karine Perset (OECD.ai), Asma Mhalla (EHESS/CNRS – Columbia), Raja Chatila (Sorbonne-Université) et Djamé Seddah (Inria), et Michelle Barsa (Omidyar Network).

Une réponse aux défis contemporains

Axel Dauchez et Alicia Combaz, fondateurs de Make.org, ont souligné l’urgence d’une telle initiative :

“L’abstention électorale qui progresse reflète une crise profonde de confiance envers les institutions démocratiques. Cette méfiance est exacerbée par la montée des conflits mondiaux et l’émergence de l’IA générative, amplifiant leurs moyens d’action. Dans ce contexte, il était prioritaire pour Make.org de s’investir massivement dans la construction d’une IA au service de la démocratie”.

Antoine Petit, Président Directeur Général du CNRS, a ajouté :

“L’IA générative et les grands modèles linguistiques révolutionnent de multiples secteurs d’activités. Anticiper les impacts de ces technologies sur la société, et notamment sur l’exercice de la citoyenneté dans les espaces numériques, devient urgent. Le CNRS apporte à ce projet des expertises complémentaires en sciences informatiques, politiques et linguistiques”.

Le programme “Communs Démocratiques” représente une étape significative dans la recherche et l’application de l’IA pour la démocratie. Il réaffirme l’expertise de la France en matière d’IA sur la scène internationale et son rôle historique dans la protection des droits de l’Homme et la sauvegarde de la démocratie.