La méthodologie HUDERIA (Human Rights, Democracy and Rule of Law Impact Assessment), conçue pour protéger et promouvoir les droits de l’homme, la démocratie et l’État de droit, fournit des orientations et une approche structurée pour la réalisation d’évaluations des risques et d’impact des systèmes d’IA. Cet outil vise à mettre en place des garde-fous essentiels contre les risques apportés par les technologies d’IA de plus en plus présentes dans nos sociétés, notamment en évaluant leur impact tout au long de leur cycle de vie.

Une évaluation rigoureuse du cycle de vie des systèmes d’IA

HUDERIA est le fruit de travaux entamés en 2019 par le Comité ad hoc sur l’intelligence artificielle (CAHAI) et s’inscrit dans une perspective de prévention et d’atténuation des risques inhérents aux systèmes d’IA. Elle propose une méthodologie rigoureuse, bien que juridiquement non-contraignante, et flexible pouvant être appliquée tant par des acteurs publics que privés pour identifier et traiter les risques en matière de droits humains, de démocratie et d’État de droit. La méthodologie repose sur une analyse contextuelle des risques (COBRA) visant à cartographier les impacts possibles et à fournir une vision globale du contexte socio-technique des IA.

Le processus d’engagement des parties prenantes

HUDERIA intègre un processus de consultation et d’engagement des parties prenantes (Stakeholder Engagement Process, SEP) permettant de contextualiser et corroborer les risques potentiels à partir des retours des personnes affectées. L’enjeu est de faire dialoguer à chaque étape les concepteurs, les régulateurs, mais aussi les utilisateurs et les groupes potentiellement vulnérables face aux IA. Ce processus participatif est essentiel pour s’assurer que les risques identifiés reflètent bien les réalités socio-économiques et technologiques.

Une évaluation des risques adaptée et différenciée

La méthodologie prévoit une évaluation des risques et des impacts (“Risk and Impact Assessment”), permettant d’évaluer le degré de probabilité et de sévérité des impacts sur les droits fondamentaux. Ces évaluations sont adaptées aux contextes et aux niveaux de risques associés aux différents systèmes d’IA. Par exemple, un système utilisé dans un contexte sensible comme le recrutement de personnel fera l’objet d’une évaluation plus rigoureuse pour détecter d’éventuels biais discriminatoires.

HUDERIA ne s’arrête pas à l’évaluation. Elle fournit également des recommandations pratiques pour la mise en place d’un plan d’atténuation des risques. Ce plan peut inclure des mesures comme l’ajustement des algorithmes pour corriger des biais ou encore l’implémentation d’une surveillance humaine des systèmes d’IA lorsque cela est nécessaire.

Une réévaluation itérative pour une IA éthique et sûre

HUDERIA suit une approche dynamique et itérative qui impose une réévaluation régulière des systèmes d’IA afin de s’assurer de leur sécurité et de leur éthique, même lorsque le contexte technologique ou sociétal évolue. Cette flexibilité est essentielle à la gestion des risques émergents et garantit que les systèmes d’IA ne deviennent pas obsolètes face aux nouvelles menaces ou contextes d’utilisation.

Adoptée par le Comité sur l’intelligence artificielle du Conseil de l’Europe (CAI, qui a succédé au CAHAI en 2022), lors de sa 12e réunion plénière tenue à Strasbourg en novembre 2024, la méthodologie HUDERIA sera complétée d’ici 2025 par un modèle HUDERIA. Ce dernier fournira des ressources et outils de soutien supplémentaires, rendant la méthodologie encore plus opérationnelle et adaptée aux besoins divers des utilisateurs.

Le 5 septembre dernier, à Vilnius, en Lituanie, la Commission européenne a franchi une nouvelle étape en matière de régulation de l’IA en signant la Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’État de droit. Cette signature, effectuée au nom de l’UE par Věra Jourová, vice-présidente de la Commission européenne chargée des valeurs et de la transparence, marque un tournant décisif dans l’effort de l’Europe pour établir un cadre légal international autour de l’IA.

Un instrument juridiquement contraignant

La Convention-cadre du Conseil de l’Europe est le premier accord international juridiquement contraignant qui régule l’utilisation de l’IA tout en veillant à protéger les droits fondamentaux, et ce, sans freiner l’innovation. Cet accord vise à garantir que les systèmes d’IA respectent les valeurs démocratiques et les principes de l’État de droit. La convention s’inscrit dans le prolongement des initiatives législatives prises par l’UE, notamment l’AI Act, première réglementation complète au monde en la matière.

Les négociations concernant la Convention ont commencé en septembre 2022 sous l’égide du Comité sur l’intelligence artificielle (CAI), institué par le Conseil de l’Europe à Strasbourg. Le 17 mai dernier, elle a été adoptée par le Comité des Ministres du Conseil de l’Europe, avant de l’être par la Commission ce 5 septembre, lors de la conférence informelle des ministres de la Justice des États membres du Conseil de l’Europe.

Principes clés de la Convention

Cette convention repose sur plusieurs concepts fondamentaux qui sont au cœur des discussions actuelles sur l’IA. Elle comprend notamment un certain nombre de concepts clés de l’AI Act, auxquels les systèmes d’IA doivent se conformer, tels que :

• une IA centrée sur l’humain, dans le respect des droits de l’homme, de la démocratie et de l’État de droit ;
• une approche fondée sur les risques ;
• les principes clés d’une IA digne de confiance (par exemple, transparence, robustesse, sécurité, gouvernance et protection des données) ;
• la transparence du contenu généré par l’IA et des interactions avec les systèmes d’IA ;
• le renforcement de la documentation, de la responsabilisation et des recours ;
• un soutien à l’innovation sécuritaire grâce à des bacs à sable réglementaires ;
• des obligations en matière de gestion des risques et de documentation ;
• des mécanismes de surveillance pour la supervision des activités d’IA.

Un cadre pour les acteurs publics et privés

Les principes et obligations de la Convention s’appliquent à toutes les phases du cycle de vie des systèmes d’IA, qu’ils soient déployés par des autorités publiques ou des acteurs privés. Les entreprises, tout en devant se conformer aux normes de sécurité et de transparence, pourront également adopter des approches alternatives, adaptées aux besoins spécifiques de leurs activités. Des exemptions sont prévues pour la recherche et développement ainsi que pour les questions de sécurité nationale.

Afin de résister au temps, la Convention-cadre ne régule pas la technologie et est essentiellement neutre sur le plan technologique.

Une portée internationale

Ouverte à l’adhésion des membres du Conseil de l’Europe, de l’Union européenne et d’autres États du monde entier, cette Convention vise à établir une norme mondiale pour le développement et l’utilisation de l’intelligence artificielle. Les négociations ont inclus une large variété d’acteurs, des représentants de gouvernements, d’ONG (OCDE, OSCE, UNESCO), d’universités et d’entreprises, permettant ainsi une approche inclusive et globale. Outre les 46 Etats membres du Conseil de l’Europe (dont les 27 pays de l’UE), d’autres pays ont pris part aux négociations : Argentine, Australie, Canada, Costa Rica, Etats-Unis, Israël, Japon, Mexique, Pérou, Saint-Siège et Uruguay.

Prochaines étapes pour l’UE

La signature de cette convention est un engagement symbolique fort de l’UE. Désormais, la Commission européenne prépare une proposition de décision du Conseil pour conclure officiellement la convention, une étape qui nécessitera l’approbation du Parlement européen. La mise en œuvre dans l’UE se fera par l’intermédiaire de la loi sur l’IA, garantissant une harmonisation totale avec les règles communautaires déjà existantes.

La Convention-cadre du Conseil de l’Europe sur l’IA et les droits de l’homme, la démocratie et l’État de droit est le premier instrument international juridiquement contraignant dans ce domaine. Adoptée à Strasbourg le 17 mai dernier lors de la réunion ministérielle annuelle du Comité des Ministres du Conseil de l’Europe et ouverte aux pays non-européens, elle vise à encadrer les systèmes d’IA tout au long de leur cycle de vie.

Le Conseil de l’Europe, est une organisation internationale fondée le 5 mai 1949, ayant pour but de promouvoir la démocratie, les droits de l’homme et l’État de droit en Europe. En cas de violation, les citoyens de ses 46 États membres peuvent saisir la Cour européenne des droits de l’Homme (CEDH), son organe judiciaire.

Une collaboration internationale

Fruit de deux années de travail du Comité sur l’intelligence artificielle (CAI), la convention a été élaborée en collaboration avec les 46 États membres du Conseil de l’Europe, l’Union européenne, ainsi que 11 États non membres incluant des pays comme l’Argentine, l’Australie, le Canada et les États-Unis. Des représentants du secteur privé, de la société civile et du monde académique ont également participé aux discussions en tant qu’observateurs.

Un cadre juridique pour une IA éthique et responsable

Adoptée à l’unanimité, cette convention a pour but de répondre aux défis posés par l’IA, en garantissant que son développement et son utilisation se fassent dans le respect des droits de l’homme, de la démocratie et de l’État de droit.

Marija Pejčinović Burić, Secrétaire Générale du Conseil de l’Europe, saluant son adoption, a expliqué :

“La Convention-cadre sur l’intelligence artificielle est un traité international unique en son genre qui fera en sorte que l’intelligence artificielle soit respectueuse des droits des personnes. Elle répond à la nécessité de disposer d’une norme de droit international bénéficiant du soutien d’États de différents continents unis par des valeurs communes, qui permet de tirer parti des avantages de l’intelligence artificielle, tout en réduisant les risques qu’elle représente. Avec ce nouveau traité, nous entendons garantir une utilisation responsable de l’IA, respectueuse des droits de l’homme, de la démocratie et de l’État de droit”.

Les principaux objectifs de la convention-cadre

• Transparence et responsabilité : La convention impose des exigences de transparence pour tous les systèmes d’IA, y compris l’identification des contenus générés par l’IA et l’information des utilisateurs lorsqu’ils interagissent avec ces systèmes.
• Évaluation des risques : Les parties devront adopter des mesures pour identifier, évaluer, prévenir et atténuer les risques potentiels associés à l’utilisation des systèmes d’IA. En cas de risques incompatibles avec les normes relatives aux droits de l’homme, des mesures appropriées telles que des moratoires ou interdictions pourront être mises en place.
• Protection des droits de l’homme : Le traité établit des responsabilités claires en matière de protection des droits de l’homme, veillant à ce que les systèmes d’IA respectent l’égalité, notamment l’égalité de genre, interdisent la discrimination et protègent la vie privée.
• Préservation de la démocratie : Il exige des mesures pour s’assurer que l’IA ne soit pas utilisée de manière à porter atteinte aux institutions démocratiques, à la séparation des pouvoirs, à l’indépendance de la justice, et à l’accès à la justice.
• Voies de recours : Les victimes de violations des droits de l’homme liées à l’utilisation des systèmes d’IA devront disposer de recours et de garanties procédurales efficaces.

Exemptions du traité

Des exemptions sont prévues pour équilibrer la protection des droits de l’homme, de la démocratie et de l’État de droit avec les enjeux de sécurité nationale, de défense et d’innovation technologique.

Ainsi, les États parties ne sont pas contraints d’appliquer les dispositions du traité aux activités qui sont essentielles pour la protection de leurs intérêts de sécurité nationale. La convention exclut également les activités de recherche et développement de son champ d’application général à condition que la mise à l’essai des systèmes d’IA n’interfèrent pas avec les droits de l’homme.

Mise en œuvre

Pour assurer une mise en œuvre efficace, la convention établit un mécanisme de suivi via une conférence des parties. Les États signataires devront également mettre en place des mécanismes de contrôle indépendants pour surveiller le respect de la convention, sensibiliser le public et mener des consultations multipartites sur l’utilisation de l’IA.

La signature officielle du traité aura lieu à Vilnius, Lituanie, le 5 septembre prochain, lors d’une conférence des ministres de la justice.