❌

Vue lecture

Il y a de nouveaux articles disponibles, cliquez pour rafraîchir la page.

La liste : les mots comme armes

Alors que l’essai sur le capitalisme linguistique de Frédéric Kaplan semblait souvent dépolitisé, celui de Cécile Alduy, D’abord ils sont venus chercher les mots (Les Arènes, 2026) semble son exact inverse et donc son parfait complément. 

Il permet, nous semble-t-il, d’éclairer les conceptualisations de Kaplan de réalités bien plus terre-à-terre. La professeure de littérature à l’université Stanford, sémiologue et sémioticienne, spécialiste de l’analyse des discours d’extrême-droite, y raconte, depuis son poste – celle d’une femme, professeure à Stanford, titulaire d’une double nationalité – les dégâts de l’arrivée de Trump au pouvoir. Son enquête, très personnelle, se concentre notamment sur la chasse aux mots, c’est-à-dire ces listes de mots censurées et interdits via plusieurs décrets promulgués par Trump dès le début de son mandat. 

Cécile Alduy analyse depuis des années la guerre culturelle que mène l’extrême droite. Depuis l’élection de Trump, elle vit de plein fouet le changement politique. Immigrée dans un pays qui les chasse, professeure d »université quand ceux-ci sont mis sur la sellette, femme… Elle est saisie de la bascule politique qui la vise directement. Malgré le confort qui est le sien, elle montre dans son livre, qu’elle ne se sent plus à l’abri mais menacée. Pourtant, au-delà de son cas particulier, ce n’est pas lui, le cœur du livre. Depuis la nomination Trump, les décrets présidentiels innombrables s’en prennent à toutes et à tous. C’est un ensemble de décrets du 20 janvier 2025, pris dès le début de la présidence, qui obnubile ce livre et notamment celui de suppression des programmes gouvernementaux DEI (Diversity, Equity and Inclusion, parfois également appelés DEIA, Diversity, Equity, Inclusion and Accessibility). Des principes établis pour promouvoir l’inclusion et la lutte contre les discriminations envers des groupes historiquement minoritaires ou minorisés qui visent bien plus à créer du respect, à ouvrir des opportunités pour tous, bien loin des quotas de discrimination positive qu’ils ne sont pas et sous lesquels ils sont souvent caricaturés, comme le rappelle Wikipedia. 

Mais pour supprimer encore faut-il désigner. Or, les décrets de Trump ne contiennent que des intentions, des orientations, sans construire la méthode pour obtenir le résultat attendu. Le décret souhaite faire disparaître les programmes progressistes de l’administration sans proposer de méthode opératoire pour les identifier. Le décret demande de mettre fin à tous les mandats, politiques, programmes, préférences et activités liés à la « diversité, l’équité, l’inclusion et l’accessibilité ». Il exige également que les agences fédérales transmettent au directeur du Bureau de la gestion et du budget, dans un délai de 60 jours, la liste de tous les employés occupant des postes liés à la DEIA ou à la « justice environnementale ». Mais il n’y a pas eu que des listes d’employés produites, listes qui ont conduit à leur éviction massive. L’enjeu a aussi été, ensuite, de supprimer toute mention de la diversité, de l’équité ou de l’inclusion, conduisant plusieurs agences fédérales à traquer des termes relatifs au DEI, notamment à la Fondation nationale pour la science chargée de réexaminer les demandes de subventions pour éliminer les programmes devenus problématiques (cela a été le cas dans d’autres services, notamment le Fonds national pour les arts et le Fonds national pour les sciences humaines). D’autres agences ont travaillé à supprimer de leurs documents et sites web les mentions vers des programmes DEI, faisant disparaître des images, des histoires, des personnes, comme le racontait le Washington Post dans une enquête interactive.  

Pour identifier ces programmes, ces références, dans des délais aussi courts et les supprimer, les agences ont eu recours à des listes de mots. Des mots interdits, effacés, que nombres d’acteurs ont tenté de reconstituer enquête après enquête pour saisir exactement de quels mots il était question. Une liste absurde, parce qu’elle s’en prend au langage même, comme si en faisant disparaître les mots on pouvait faire disparaître ce qu’ils décrivent. Ces mots sont des plus courants pour nombre d’entre eux : égalité, identité, monorités, hispanique, handicap, rougeole, autisme… anti-racisme, féminisme, gay… immigrants. Des mots qui se sont mis à disparaître de l’administration, des sites et documents des agences fédérales. En janvier 2025, le Washington Post publie une première analyse du nettoyage du web des sites ministériels. En mars, le New York Times allonge la liste. 

« Des mots tabous ou impurs, des termes contagieux qui risqueraient de transmettre les choses qu’ils désignent – l’homosexualité ou l’idéologie de genre. Par quelle pensée magique éliminer les mots effacerait-il la chose ? »

Les mots pour produire l’arbitraire

La liste des mots interdits est reconstruite par rétro-ingénierie par les journalistes du New York Times. Elle est compilée à partir de recoupements minutieux, déduits de disparition de termes, de modifications lexicales sur des sites officiels et des documents administratifs. Mais surtout, cette liste produite par l’enquête finit par devenir LA liste elle-même, via un copié-collé de l’article du New York Times. Elle sera utilisée par des bureaucrates zélés, comme si elle était le document officiel. 

Image : capture d’écran de la liste établie par le New York Times. 

La liste pour accabler et devenue la liste pour dénoncer, et inversement. La recherche de la vérité a produit l’autodafé lexical. Mais ce n’est pas la seule origine de la liste, ou plutôt des listes, car visiblement plusieurs circuleront, se complèteront, se succéderont. A la fin de son essai, Alduy produit une liste de 483 termes qui se sont trouvés sur l’une ou l’autre de ces différentes listes. Une liste non exhaustive, faite d’innombrables termes et de leurs synonymes. Une liste des mots dangereux qui non seulement empêche de parler du carbone, mais également de tout ce qui s’y rapporte. Une liste qui interdit de parler du genre, des femmes, de l’esclavage, des migrants, des origines ethniques… 

En mars 2026, le New York Times révèle que les annulations de crédits massives pour la recherche étaient l’œuvre de ChatGPT. Elles étaient l’œuvre de Doge Boys, qui ont éliminé en 22 jours 1477 projets de recherche soit plus de 100 millions de dollars de fonds de recherche du NEH (National endowment for the humanities ou Fonds national pour les sciences humaines)… sans posséder aucune autorité légale ou compétence scientifique pour se faire. Dans la déposition de l’un d’entre eux devant une cour de justice, Justin Fox affirmera que son critère pour faire un sort aux subventions n’était rien d’autre que ce qui relevait du DEI, sans être capable de définir ce que c’est. Là encore, une personne refuse de penser, de s’exprimer, répétant et ânonnant des éléments de langage qu’il semble ne pas comprendre, ne pas penser. Il refuse d’interpréter. S’exonère de toute responsabilité. Il se présente comme l’automate d’un autre automate.

Dans sa déposition, Fox, expliquera la méthode : il récupère de courtes descriptions de projets de demandes de financement et les soumet au chatbot avec une instruction minimaliste « Ce qui suit a-t-il un quelconque rapport avec la DEI ? » en exigeant une réponse très courte. Fox ne cherche pas à comprendre comment ChatGPT interprète la notion de DEI, ni à vérifier les réponses. Le chatbot devient le filtre, qu’importe les projets. Dans la logique du chatbot, toute recherche évoquant la race, le genre ou les minorités devient suspecte. Une archive sur les langues autochtones d’Alaska est signalée pour avoir le potentiel de promouvoir l’inclusion. Un documentaire sur le travail forcé de femmes juives pendant la Shoah est également jugé problématique. 

Avant même d’utiliser ChatGPT, Justin Fox crée une « liste de détection » (c’est ainsi qu’il nommera son fichier Excel) : une liste de mots-clés pour filtrer les projets. Cette première liste de 49 mots sont ceux qui sont venus spontanément à son auteur. Parmi eux, citons par exemple LGBTQ+, BIPOC (un acronyme qui fait référence à des programmes pour les Noirs, Autochtones et aux personnes de couleur), immigrants, tribal, gay, indigène… Les premiers mots de la liste sont LGBTQ puis homosexuel. Mais on ne sait pas si cette liste sera utilisée ni comment. Cette première liste de 49 mots sont ceux qui seraient venus spontanément à son auteur. Elle sera corrigée. Complétée. Amendée. Utilisée. Pour Alduy, c’est là la liste originelle. On ne sait pas vraiment si Fox a composé la liste lui-même, ou si elle a été produite à l’aide d’une requête sur ChatGPT. Certains mots semblent étranges. Certaines absences également. C’est une réponse que nous n’aurons pas. L’arbitraire est-il le fait de l’homme ou de la machine ? Quelque part entre les deux certainement, comme le souligne Thibault Prévost Dans Technologie du coup d’Etat : « l’IA fournit à l’arbitraire un vernis de rationalité et de respectabilité ». C’est exactement l’endroit où nous sommes, où la liste se situe. 

Dans les 5 heures de vidéo de l’interrogatoire de Fox, celui-ci se décrit comme un exécutant, recruté au Doge pour appliquer les décrets du président. Fox était interrogé dans le cadre d’une plainte déposée par l’Authors Guild, l’American Council of Learned Societies, l’American Historical Association et la Modern Language Association… des associations qui ont vu leurs subventions par le NEH annulée. Or, celles-ci étaient jusqu’alors attribuées selon un processus rigoureux, chaque projets étant évalués par des spécialistes. Mais d’un coup, ce n’était plus la qualité scientifique des projets qui était évaluée, mais leur contenu idéologique. Enfin pas vraiment. La méthode employée par Fox montre surtout qu’elle consistait à utiliser l’IA pour ne pas avoir à faire le moindre travail. Que l’arbitraire du jugement produit par l’IA, tout comme l’arbitraire de la liste, était finalement ce qui était recherché.    

L’éradication de mots n’est « que le prélude à l’annulation des personnes que ces mots désignent », rappelle Alduy. Les personnes protégées de la discrimination deviennent les catégories des personnes attaquées. On retrouve bien là, l’inversion, l’upside down, lexical mais également fonctionnel. On assiste à un changement de finalité qui modifie la réalité, comme quand nous évoquions l’application CBP One, celle qui permettait aux immigrants de faire une demande d’asile et qui, avec l’arrivée de Trump, est devenue une application de partage d’information avec les services de police pour localiser les demandeurs d’asile et les arrêter. « Les finalités sociales sont transformées en finalités policières. La confidentialité même des données est détruite », écrivions-nous. Même chose partout désormais : dans le nouvel ordre du langage où celui-ci devient le pouvoir, les mots changent de valeur et de fonction. Le sens est mis à l’envers. Le 23 juillet 2025, le président d’une agence fédérale demande à l’université de Pennsylvanie une liste pour identifier les étudiants, professeurs et employés juifs du campus afin de collecter des informations à charge dans un procès lancé par cette même agence contre l’université qui aurait laissé prospérer l’antisémitisme sur le campus depuis le 7 octobre 2023. Upside down. L’inversion du sens des mots change l’ordre du monde. Pour censément protéger une partie de la population, on la liste. L’horreur se retourne comme un gant. 

Une liste : « ça s’exécute »

Cette liste qui existe sans exister ne se lit pas. Elle n’est pas disponible. Elle n’est pas produite officiellement par le décret de Trump, rappelle Cécile Alduy. Dans un article de Reuters évoquant une liste de termes interdits à la FDA (l’agence des produits alimentaires et médicamenteux), la Maison Blanche a même démenti son existence tout en confirmant son existence. A défaut d’être, la liste se construit par l’enquête, celle des journalistes notamment qui récupèrent des mails de termes interdits, et qui tentent de repérer les mots qui disparaissent dans les mises à jour du web. Et cette même liste produite par l’enquête devient LA liste utilisée par les bureaucrates pour procéder à leur chasse lexicale, d’un simple copié-collé. « Une liste, ça ne se lit pas, ça s’utilise ». « Une liste ne se justifie pas, elle s’impose ». 

La liste est surtout matricielle. Elle se complète d’une disparition l’autre. Jamais définitive. Elle liste les phobies du camp présidentiel ou les peurs de ceux qui le craignent. Elle s’attaque non seulement à la langue, mais derrière elle, elle attaque aussi les gens, les choses désignées par ces mots. Alduy rappelle qu’une liste « ça s’exécute ». Une liste ordonne. Une liste ne laisse aucune place à la pensée (tout comme les réponses des chatbots nous enlèvent la charge de penser). « La liste comme type de texte favorise l’obéissance facile ». Elle est un mode d’action en soi. Elle désigne tout ce qu’il faut écarter. Elle dresse une cartographie pour révoquer ceux qui sont désignés. La liste dit aussi l’inverse de ce qu’elle annonce, puis qu’elle liste ce qu’il faut rendre invisible, sans pointer ce qui par défaut est rendu visible. Ce sont ceux qui espèrent maintenir la hiérarchie raciale qui interdisent le mot race. Ce sont ceux qui sacralisent la liberté d’expression qui la réduisent. Elle rend impossible certaines politiques et rend illégal le vocabulaire de l’adversaire. 

La solidité d’une démocratie repose pourtant sur le respect du sens des mots, rappelle la chercheuse. Quand celui-ci vacille, c’est la démocratie même qui s’écroule. Et c’est bien là où nous sommes aujourd’hui. Partout, les mots semblent être détournés de leurs sens. Comme s’ils étaient tous devenus, non seulement des mots, mais des vecteurs dans un espace qui n’a rien de latent, mais qui semble au contraire manifeste et même suractif. Les mots semblent être devenus partout des armes. Leur sens semble partout inversé, comme si l’inversion de leur sens nous projetait dans une réalité alternative, un monde à l’envers. Trump publie un décret intitulé « Restaurer l’excellence scientifique » au moment même où l’administration annule des milliers de programmes de recherche. Les mesures de rétorsion, de destruction, d’annulation sont baptisées « réparations ». Bien sûr, nous pensons tous à l’usage orwellien du langage de 1984, à renverser le sens des mots : « La guerre c’est la paix…» et la dépossession qui en résulte. Dans l’Amérique de Trump, l’effacement du langage va de pair avec une forme d’obsession pour la nomination, comme si nommer était un moyen pour cadrer et régner à l’image du fameux golfe d’Amérique. Des effets qui seraient risibles s’ils n’étaient pas immédiatement mis en œuvre, changeant de noms sur tous les téléphones des Etats-Unis aussi immédiatement que le décret est signé. Et c’est peut-être là finalement que cet effacement, que ce grand remplacement des mots prend tout son sens : dans le fait qu’il s’inscrit immédiatement. La liste produit son effet immédiat, sur les pages web qui disparaissent sur les écrans qui se réécrivent dès la mise à jour faite. D’un coup, la puissance de la langue semble se mettre en action. Pas partout. La réalité n’est pas la même si votre téléphone borne au Mexique ou en France. Ce qui se fissure ce ne sont pas seulement des mots, c’est aussi une réalité commune. Alduy parle d’une « prestidigitation digitale instantanée », remplaçant des mots par d’autres. Derrière la disparition des programmes DEI et du langage qui les rend possibles, la liste des termes proscrits permet de faire disparaître le langage du militantisme, de l’émancipation, des sciences sociales. Le « Diversité, Équité et Inclusion » est renversé par son sens antonyme : « Uniformité, iniquité et exclusion », sans que ce sens ne soit lui-même visible. Ce qui est supprimé laisse aussi invisible ce qui est affirmé.

La liste nous invite dans l’esprit de la machine

La liste est aussi une matrice, un creuset, une matière à délation, à condamnation et pas seulement à disparition, explique Alduy. La chercheuse rappelle d’ailleurs qu’en 2016, une première directive de Trump avait interdit une liste de 7 mots (vulnerable, entitlement, diversity, transgender, fetus, evidence-based, science-based) conduisant par exemple à bannir le terme transgenre de tous les documents du ministère de la santé. La liste est un programme qu’il suffit de répéter pour le rendre effectif. Elle n’existe pas dans le décret et pourtant dans l’administration, des gens l’appliquent. La censure est anticipatrice. L’injonction à la censure reste vague ce qui la rend puissante pour les zélotes. Elle provoque une psychose. On interdit des mots et on s’interdit des mots… La liste se complète, s’étoffe, de synonymes en oublis.

L’idée de la liste « innocule le virus de la liste comme automatisme ». La liste nous invite à classer machinalement, comme une machine. Comme l’IA, la liste trie, classe, discrimine. Les mots, les choses, les gens. La liste nous invite dans l’esprit de la machine. La liste est facile à produire et à reproduire. Elle se duplique. Viralement. Se dissémine. La liste conduit à entendre les anathèmes que produisait la sphère Maga depuis longtemps et que les progressistes refusaient d’entendre. La liste rend le délire réel. Et nous force en retour à choisir nos mots. La liste va au-delà de la liste, puisqu’elle permet par exemple de fabriquer des tests de loyautés idéologiques comme ceux qui sont institués pour les fonctionnaires fédéraux. La liste produit ses effets, de la suppression des mots à la suppression des postes de scientifiques et des données de la science. 

JD Vance l’avait annoncé avant de devenir vice-président des Etats-Unis : « Si nous voulons accomplir ce que nous voulons, nous devons, honnêtement et agressivement, attaquer les universités de ce pays ». L’arrivée de Trump au pouvoir a depuis multiplié les attaques, menaces et coupes des financements de l’enseignement supérieur. Alduy en raconte très concrètement la réalité : la fermeture de programmes de recherche, la disparition de disciplines entières, la suppression de bourses, la suspension des demandes de visa étudiants, quand les grandes universités comptent entre 16 et 25 % d’étudiants internationaux. Les « lieux où l’on apprend à utiliser le langage pour penser » sont les premiers visés, comme nous le racontions nous-mêmes en évoquant la montée de la contestation de l’IA à l’école. Alduy dresse le parallèle avec l’invasion de l’IA dans les études supérieures, avec la force politique et financière des entreprises de l’IA, qui non seulement déploient leurs outils pour penser à nos places, mais les déploient également pour croiser les données et armer la répression, révoquer les visas, surveiller les réseaux sociaux. Comme si cette lutte contre le langage n’était possible que via l’arme qui la rend possible : le numérique qui permet de produire des listes, des scripts réplicables et disséminables, et l’IA, qui va être le fer de lance de l’administration Trump, comme le raconte parfaitement bien le journaliste Thibault Prévost dans son livre.  

Nous sommes confrontés à une asymétrie de pouvoir inédite et un exercice du pouvoir qui repose sur la représaille produite par une armée de sycophantes et de serviteurs zélés, explique la chercheuse. Mark Zuckerberg n’a pas attendu le moindre décret présidentiel pour mettre fin aux efforts de son entreprise en matière de diversité, rappelle Alduy. Dès le 10 janvier 2025, avant l’investiture, il supprime ses programmes DEI et le fact-checking. D’innombrables multinationales (Coca-Cola, Google, McDonald, Warner Bros, Target…), longtemps à l’avant-garde de la représentativité, lui emboiteront le pas. L’équité et la diversité sont devenues d’un geste, d’une signature de Trump sur un décret, des valeurs à géométrie variable. Les décrets offrent un plan d’action : censure, licenciements, démantèlement, incitation à la délation… Les premiers sycophantes, ces flagorneurs, ne sont pas tant les outils de la tech, que les patrons de la Tech envers le pouvoir. « L’âge de l’IA coïncide avec le retour d’un système de courtisans et d’obéissance verticale sycophantique ». En français, rappelle la sémioticienne, le sycophante ne désigne pas tant un flagorneur qu’un délateur d’ailleurs. Courtisans et délateurs semblent être devenus la double face d’une même lame. 

Alduy raconte la réalité qui touche désormais les Américains de papiers, face à la « dénaturalisation ». La nationalité est désormais révocable. A l’heure du calcul permanent, les droits sont désormais révocables, annonçait le philosophe Achille Mbembe dans Brutalisme. Et ce très concrètement : les exactions de l’ICE à capturer des individus pour les envoyer en camp de détention, sans pouvoir contacter leur famille ou parler à un avocat, en les retenant pour des durées indéfinies, sans avoir autre chose à se reprocher que la révocation unilatérale d’un visa. Lister permet de produire des outils de filtrages simples et accessibles, permettant de faire changer leur fonction d’un clic, comme quand le Doge a délibérément reclassé 6000 immigrés comme décédés dans les bases de la sécurité sociale, alors qu’ils étaient bien vivants. 

Les centres de détention de l’ICE accueillent des gens qui n’ont plus d’existence légale ni droits, dans un espace de vide juridique, laissé vide, volontairement. « Le futur avance plus vite que nos peurs », écrit Alduy. « L’horreur avance plus vite que nos craintes », pourrions-nous ajouter. Pour la professeure, comme nous y invitait Naomi Klein dans Le Double (Actes Sud, 2024), nous n’avons pas assez fait attention aux mots de l’extrême-droite. « Nous avons cru qu’ils utilisaient le langage comme nous : pour convaincre, pour créer, pour penser, pour figurer, pour métaphoriser, pour comprendre. Alors qu’ils utilisaient le langage sans fioritures comme un instrument de domination ». Quand JD Vance dit que « les université sont l’ennemi », ce n’est pas de l’emphase rhétorique : c’est un programme politique !, rappelle la chercheuse. « Nous n’avons pas assez pris au sérieux leurs mots ». « Ce ne sont pas des manières de parler. Ce sont des manières de penser. Et – aujourd’hui aux Etats-Unis, demain en France – des manières de gouverner ». 

« La langue est plus vraie que celui qui la parle », disait Victor Klemperer dans LTI, la langue du IIIe Reich. La langue Maga explique le nouvel ordre qu’elle espère instaurer. « Les listes, le superlatif permanent, l’hyperbole à outrance, l’injure, les antithèses structurantes, ne sont pas des ornements, mais des dispositifs signifiants : les outils de construction d’un monde manichéen régi par la loi du plus fort ». Pervertir le sens des mots de tous, confisquer le vocabulaire adverse, expurger le dictionnaire, désarticuler la pensée… détruire la capacité de raisonner en est la conséquence. Utiliser des moyens de rétorsion pour imposer sa langue, et avec elle, sa vision du monde également. C’est ce que produit la liste. « Ce qu’on ne peut plus dire, on oublie de le penser » : interdire de nommer des structures de domination, occulter la réalité, empêche de les transformer. 

Intervenir sur les mots vise à « faire échec à la pensée ». Nous sommes confrontés à une langue pour ne pas penser. De chiffres pour ne pas penser, comme quand Pangram écrase un texte d’un chiffre pour nous écraser de la réduction qu’il produit. Nous sommes désormais renvoyés à une langue plus pauvre, au vocabulaire limité, réduit à un usage transactionnel, fonctionnel, utilitariste. A un manichéisme simpliste, Femme/Homme, Noir/Blanc, Diversité/Majorité… La liste, par son caractère manichéen, produit de l’antagonisme, du clivage, qui oppose amis aux ennemis, fidèles et traîtres, eux et nous. Elle produit une rhétorique qui invite à « une réaction viscérale et une loyauté irréfléchie ». Le sentiment doit supplanter la pensée disait Klemperer. L’opposition binaire invite au campisme, à désigner un ennemi, comme quand on nous invite à choisir entre la Violence et la République. Répondre au campisme consiste souvent à en proposer un autre. A opposer des réalités sans plus aucun débat possible. Les néologismes, les attaques ad hominem, les épithètes dévalorisantes, les amalgames sont utilisés pour dévaloriser l’adversaire, l’essentialiser par le genre, la race, la couleur politique. Alduy parle d’idiolecte, de terme pour interdire les mots des autres. En linguistique, l’idiolecte désigne l’ensemble des usages du langage propre à un individu donné, c’est-à-dire à une langue qui n’est plus parlé que par quelques-uns. Mais cet idiolecte pourrait être aussi le langage de l’idiocratie. Une mère assise dans une voiture devient une « terroriste domestique », comme Kristi Noem, la ministre de la sécurité intérieure, a qualifié Renee Nicole Good quelques heures après son meurtre par un agent de l’ICE. L’idiolecte vise à écraser le pluralisme, à imposer une seule vision du monde, il permet « de réduire la focale sur les obsessions d’une minorité et d’imposer un seul filtre, une seule langue, une seule idéologie ». 

Pour Alduy, nous entrons dans un nouvel ordre du langage, totalisant, qui impose d’adhérer à ses fictions. Qui nous invite à abandonner la langue (le logos) « dans sa capacité raisonnante et universelle au profit du mythos, le mythe sous forme de récits alternatifs déconnectés de tout ancrage factuel et le pathos », la réponse purement émotionnelle, impulsive. « Croire dans l’absurde est une vraie démonstration de loyauté ». On assiste à une alliance entre idéologie et rhétorique pulsionnelle qui produit un « prêt-à-penser qui filtre la complexité du monde et la remplace par une image simplifiée, claire, tranchée, une histoire de bons et de méchants ». Qui permet de manifester ses croyances, comme le propose la désinformation augmentée par l’IA. « Les faits dépendent entièrement du pouvoir de les fabriquer ». Le langage ainsi détourné « croit en la force plus qu’en la vérité ». Pourtant seule la langue nous hisse « au-dessus du rapport de force brut », rappelle la spécialiste des mots. C’est la langue, la parole, qui produit la réparation et la justice. Nous avons bien plus besoin d’ajouter des mots à nos dictionnaires plutôt que d’en retirer.

Détruire : la nouvelle fonction du langage

Lire D’abord ils sont venus chercher les mots par ces temps troublés inspire nécessairement plusieurs réflexions. 

D’abord, il nous rappelle que les mots, et le capitalisme qui les exploite désormais, ne font pas que dévorer le monde, ils le transforment. Comme s’ils étaient désormais dotés d’une fonction performative immédiate, une capacité d’agir, une agentivité rendue possible par les systèmes numériques eux-mêmes. On le sait déjà depuis longtemps, dans les systèmes numériques, la liste (qui est le résultat du tri et du classement) est une fonction phare des outils informatiques. 

La liste des mots interdits par l’administration Trump, fait indéniablement écho à d’autres listes. Celle des mots interdits de Google Photos (et qui le sont toujours), à celle des URL interdites que se partagent les opérateurs dans la traque des sites de téléchargement illégaux comme des sites de phishing, à celle des filtres de censure des IA génératives russes qu’évoquait la chercheuse Ksenia Ermoshina. Là où le rapport à la langue est le plus construit, le filtrage et la censure restent traités avec des solutions bricolées. Comme disait déjà le chercheur Tarleton Gillespie dans Custodians of the internet (2018, Yale University Press, voir notre lecture) : le filtrage, via des listes noires, n’est pas très probants et produit une censure trop forte, très facilement contournée pourtant par des techniques d’obfuscation élémentaire, comme d’introduire des fautes d’orthographe ou des caractères étranges. Toutes imparfaites qu’elles soient, le risque, pourtant, est bien que ces techniques se démultiplient, sans que les utilisateurs ne soient sûrs de l’effet produit, car bien souvent, l’interdiction n’est pas directe, mais restreint surtout la portée des messages comportant les termes interdits. Le projet d’interdire les termes appelant à la violence sur les réseaux sociaux, comme le projette la loi dite casseurs-payeurs (qui vise surtout à faire payer d’autres personnes que les casseurs, en introduisant des moyens d’enquêtes qui reposent sur une surveillance sans limite et qui est d’abord une attaque contre le droit à manifester), ne cesse de renouveler la promesse de la liste : censurer sans se montrer, modérer sans le dire, interdire sans l’avouer et punir par l’arbitraire. 

Malgré les défaillances de ces listes, elles nous rappellent que les mots ont désormais une fonctionnalité. Et que le passage de la modération à la censure, n’est plus rien d’autre qu’un glissement d’opérations dont rien ne nous prémunit, caché derrière l’opacité des plateformes. Dans la confusion des innombrables formes de modération qui se propagent dans la plus grande opacité, plus rien n’est clair, comme quand Bluesky s’arroge le droit de bloquer des liens vers une fuite de données sur les agents de l’ICE.

La liste propage à la fois la signose et le glissement. Elle permet à la fois de « prendre le signal pour la chose », c’est-à-dire de transformer le signe (le mot) en signal (celui qui le prononce le défend) et de produire « le glissement », c’est-à-dire le changement de finalité. La liste rend les mots fonctionnels, quelles que soient leurs défaillances. Et c’est bien cela qui devrait nous inquiéter. Les techniques de modération sont les mêmes que les techniques de censure.  

Mais la censure, même algorithmique, est toujours défaillante. Si elle est plus active sur certains que sur d’autres comme le remarquait déjà Gillespie, ses modes opératoires restent extrêmement frustres. Et c’est cela que souligne Cécile Alduy dans son livre. Son mode opératoire. Son flou. La liste n’est jamais vraiment produite, jamais claire, toujours mouvante. Ses effets le sont tout autant. A la fois réels et putatifs, à la fois lourds et évanescents, à la fois concrets et potentiels. A l’heure du capitalisme du langage, les mots ne sont pas tant de l’argent, ils sont d’abord transformés en armes par les systèmes numériques eux-mêmes. Quant à croire que le trumpisme ne nous menace pas, la Commission consultative des droits de l’homme s’est récemment inquiétée du risque que le CNRS retire les thématiques « égalité femmes-hommes » , « inégalités » et « discriminations » de ses priorités de recherche. Avant de recevoir l’assurance du contraire… Pour l’instant.

L’autre enjeu qu’évoque assez peu directement le livre de Cécile Alduy, c’est bien sûr le rôle et la place de l’IA dans la production de l’arbitraire. Alors bien sûr, confrontés désormais aux bullshiteurs, aux « simulateurs de conversation » on pourrait croire de la même façon, que l’IA est un outil pour penser, pour comprendre… alors que lui aussi, doit être d’abord lu comme un instrument de domination. La concomitance du fascisme et des outils de production de langue ne semble pas tenir du hasard, tant l’un est mis au service de l’autre. L’IA semble d’abord recouvrir l’arbitraire de ses calculs d’un vernis de science pour les rendre acceptables, alors qu’ils sont d’abord rendus irredevables. L’IA semble surtout un outil pour implémenter et renforcer l’irresponsabilité de l’État comme des entreprises qui la mobilise. Discriminer sans le montrer est certainement la première fonction de l’IA. Et détruire, par delà les mots, nos capacités même de penser, l’inquiétude qui devrait nous alarmer.

Hubert Guillaud

La couverture du livre de Cécile Alduy, D’abord ils sont venus chercher les mots.

La Quadrature du Net attaque en justice la collaboration entre la police et les administrations sociales

L’an dernier, nous révélions l’existence de contrôles CAF réalisés sur demande de la police dans le cadre des comités opérationnels départementaux anti-fraude, les CODAF. Aujourd’hui nous attaquons en justice ce qui rend possible ces échanges d’information : différents protocoles censés les encadrer, et les dispositions législatives qui sont à la base de ce système.

Chaque année, plusieurs milliers de contrôles CAF sont réalisés sur demande de la police. Appelés « signalements », ces contrôles sont un outil de répression extra-judiciaire visant à transformer des administrations sociales en relais de la répression policière.

Ils trouvent leur origine dans les « CODAF », des institutions regroupant administrations sociales (CAF, Assurance maladie, France Travail…) et forces de police et gendarmerie. Mis en place sous Sarkozy, leur rôle est d’organiser la collaboration entre institutions policières et sociales à des fins de « lutte contre la fraude ».

Signalements : la CAF transformée en auxiliaire de police

Concrètement, cette collaboration prend deux formes. La première est la pratique dite des « signalements », évoquée plus haut et que nous décrivions dans cet article, à travers lesquels la police peut demander qu’une personne fasse l’objet d’un contrôle CAF.

Aucune justification n’est demandée : il suffit que la police « soupçonne » qu’une personne touche illégalement des prestations sociales pour qu’un contrôle soit déclenché. Cette pratique transformant une institution de protection sociale en relais de la police ouvre la porte à l’arbitraire et au harcèlement policier.

Créée par Nicolas Sarkozy autour de la figure raciste du « dealer touchant des allocations sociales », cette pratique des signalements cible particulièrement les jeunes racisé·es et les habitant·es des quartiers populaires. Mais elle peut aussi être mobilisée à des fins de répression politique. Nous avions notamment documenté le cas de gilets jaunes ayant fait l’objet d’un contrôle CAF sur demande de la police après avoir été arrêtés·es lors d’une manifestation.

Quand la police ouvre ses fichiers aux contrôleur·euses de la CAF

À cela s’ajoute une seconde forme de collaboration : la transmission d’informations issues des fichiers de police aux contrôleur·euses de la CAF.

Cet échange peut se faire à l’intiative de la police lors d’un signalement : pour « appuyer » sa demande, l’agent·e transmet les informations de son choix (procès-verbaux par exemple). Mais la demande peut aussi émaner directement des équipes de contrôle de la CAF. Un ancien contrôleur de la CAF nous expliquait ainsi qu’il est courant pour les contrôleur·euses d’appeler leurs contacts dans la police – obtenus via les CODAF – pour demander ce que contiennent les fichiers de police sur une personne contrôlée. Et ce partage est ensuite formalisée par une transmission en bonne et due forme de l’information en application de la procédure des CODAF.

L’intérêt pour les contrôleur·euses est qu’ils et elles peuvent alors obtenir des informations personnelles collectées lorsque la personne contrôlée a eu affaire à la police, comme suspecte ou comme victime. En particulier, les contrôleur·euses des CAF s’intéressent aux parties dites « sociales » des procès-verbaux détenus par la police, qui portent sur la vie personnelle, familiale et professionelle des personnes en train d’être contrôlées.

Cela peut aussi prendre la forme de demandes plus précises. Notre témoin raconte par exemple que lors d’un contrôle à domicile, les contrôleur·euses peuvent noter les plaques d’immatriculation des véhicules garés devant une maison puis demander à la police d’identifier leurs propriétaires via le Système d’immatriculation des véhicules et le fichier associé avant un signalement formel. Ceci est notamment utilisé dans le cas des contrôles dits à « l’isolement », qui consistent à vérifier si une personne – dans la grande majorité des femmes – vit réellement seule. Il s’agit alors de vérifier si l’une des voitures n’appartient à une personne soupçonnée de partager sa vie.

Ce que l’on attaque en justice

D’un point de vue du droit, ces échanges sont autorisés par le code de la sécurité sociale et précisés par divers protocoles. L’article L. 114-16 du code de la sécurité sociale autorise ainsi l’autorité judiciaire à transmettre « toute indication [de fraude] qu’elle recueille, à l’occasion de toute procédure judiciaire » aux administrations sociales. Et l’article L. 114-16-1 du même code permet aux administrations sociales de s’échanger, entre elles, « tous renseignements et tous documents utiles » à la recherche de fraudes. Or, parce que ces échanges d’informations concernent aussi des données personnelles, ils doivent répondre aux obligations du Règlement général sur la protection des données (RGPD).

Premièrement, nous attaquons les protocoles censés encadrer ces échanges de données. Signés à l’initiative de la mission interministérielle de coordination anti-fraude (MICAF), ces protocoles sont en réalité une confirmation de la dimension openbar de ces échanges. Ils n’encadrent absolument rien, et laissent tout pouvoir aux administrations pour s’échanger des informations dans le cadre des CODAF. Les largesses du code de la sécurité sociale, la déloyauté dans les transmissions de données personnelles, l’utilisation de données collectées pour des finalités étrangères au contrôle, ou encore le traitement de données sensibles alors que cela est normalement interdit sont autorisés par ces protocoles alors que cela est contraire à plusieurs exigences légales du RGPD. Pour rappel, la CNIL – l’autorité française de protection des données – avait été créée suite au scandale SAFARI) en 1974 qui visait justement à faciliter l’interconnexion entre fichiers des administrations. L’émotion avait été si forte que la loi « Informatique et Libertés » et la CNIL, avaient été créées en 1978 à la suite de ce scandale. Les temps ont semble-t-il changé.

Deuxièmement, nous avons également déposé une question prioritaire de constitutionnalité (QPC) sur ces articles L. 114-16 et L. 114-16-1 du code de la sécurité sociale. Ces dernières années, le Conseil constitutionnel a développé une jurisprudence assez constante qui vient sanctionner les accès trop larges des administrations aux données personnelles. En 2020, c’était par exemple la Hadopi qui en faisait les frais. Si le Conseil constitutionnel censurait ces articles de loi, les CODAF ne pourraient plus s’échanger aucune donnée1Il est probable que le Conseil constitutionnel censure les articles du code de la sécurité sociale sur les échanges d’informations dans les CODAF, mais diffère dans le temps les effets de sa censure pour laisser perdurer ces échanges quelques mois, afin que le législateur ait le temps de venir corriger le tir..

Soyons clair : cette action en justice ne vise pas à mieux « encadrer » ces échanges mais à y mettre fin. Nous nous opposons au principe même de la transformation d’institutions de protection sociale en bras armé de la répression policière. La sécurité sociale n’a pas à servir les politiques sécuritaires de nos gouvernements et leur discours nauséabond de « lutte contre l’assistanat ». Alors pour nous aider à poursuivre la lutte, vous pouvez nous aider avec un don.

References[+]

References
↑1 Il est probable que le Conseil constitutionnel censure les articles du code de la sécurité sociale sur les échanges d’informations dans les CODAF, mais diffère dans le temps les effets de sa censure pour laisser perdurer ces échanges quelques mois, afin que le législateur ait le temps de venir corriger le tir.

Le gouvernement utilise la répression antiterroriste contre la contestation sociale

Le mouvement social continue et la dystopie s’installe. Comme l’ont rapporté plusieurs médias et associations, des militant·es écologistes, antifascistes ou en soutien à la Palestine ont reçu ces dernières semaines des assignations à résidence, une mesure issue du droit de l’antiterrorisme, les empêchant de se rendre à des manifestations. Au-delà de l’atteinte à leur liberté de manifester, ces décisions ouvrent un nouveau chapitre de la surveillance policière, que l’on redoutait depuis des années. Désormais, les lois antiterroristes, qui ont permis un acharnement contre les musulman⋅es, sont utilisées contre le milieu militant pour l’intimider et l’empêcher d’agir.

Les MICAS, c’est quoi ?

De manière inédite et gravissime, des mesures d’assignation à résidence, théoriquement réservées à la lutte contre le terrorisme, ont été utilisées contre des participant⋅es au mouvement social en cours, en assimilant de fait militantisme politique et terrorisme. Plus précisément, le ministère de l’intérieur a utilisé les « mesures individuelles de contrôle administratif et de surveillance », dites MICAS. Celles-ci font partie des outils de répression que l’administration a développés depuis une dizaine d’années, alors qu’elles étaient auparavant réservées à la justice.

Rappelez-vous : après les attentats de 2015, François Hollande proclamait l’état d’urgence et donnait ainsi au gouvernement de Manuel Valls des pouvoirs exceptionnels à la police. Cet état d’urgence lui donnait des pouvoirs pour agir de façon « préventive », c’est-à-dire sans juge et sous la seule direction du ministère de l’intérieur et des préfets. Censé durer quelques jours, ce régime s’est prolongé pendant deux ans, permettant des centaines de perquisitions et d’assignations à résidence qui visaient quasi exclusivement des personnes musulmanes, assimilées au terrorisme islamiste, très souvent de façon abusive1Voir également le rapport du Défenseur des droits et du CREDOF : « Ce qu’il reste(ra) toujours de l’urgence », 5 juillet 2018..

Ne souhaitant pas perdre ces « super pouvoirs », le gouvernement d’Emmanuel Macron a fait passer en 2017 la loi de sécurité intérieure et la lutte contre le terrorisme, dite « SILT », pour leur donner un cadre juridique sur le long terme : ce sont les fameuses « MICAS ». Si le ministère de l’intérieur ou un préfet estiment qu’une personne constitue une « menace terroriste »2 L’article L. 228-1 du code de la sécurité intérieure vise « toute personne à l’égard de laquelle il existe des raisons sérieuses de penser que son comportement constitue une menace d’une particulière gravité pour la sécurité et l’ordre publics et qui soit entre en relation de manière habituelle avec des personnes ou des organisations incitant, facilitant ou participant à des actes de terrorisme, soit soutient, diffuse, lorsque cette diffusion s’accompagne d’une manifestation d’adhésion à l’idéologie exprimée, ou adhère à des thèses incitant à la commission d’actes de terrorisme ou faisant l’apologie de tels actes »., alors elle peut être assignée à résidence ou se faire perquisitionner. Pas de juge, pas de jugement, pas de contradictoire ou de preuve concrète à apporter : les seuls arrêtés ont force de loi.

Depuis dix ans, les dégâts sont énormes : des centaines de MICAS, notamment pendant les Jeux Olympiques de 2024, ont été prises quasi exclusivement contre des personnes musulmanes désignées comme « radicalisées » sur la base de préjugés islamophobes, et ont littéralement brisé des vies3Lire aussi le rapport de Promote, du CCIE et Equitas sur les MICAS appliquées lors des Jeux Olympiques et revoir l’émission que nous avons consacré en 2025 à ces mesures et à leur utilisation à l’encontre des personnes musulmanes.. Comme le démontre une étude4« De la normalisation de l’état d’urgence à sa routinisation ? Une étude empirique des MICAS » par Stéphanie Hennette-Vauchez, Nicolas Klausser et Vincent Louis (2025) accessible ici et « Les MICAS pendant les JOP, ou l’usage extraordinaire d’outils routiniers » par Nicolas Klausser, Vincent Louis, Lula Michallet et Serge Slama (2026) accessible ici., ces mesures sont également devenues une sorte de peine complémentaire officieuse à la sortie de prison de certain·es détenu·es, permettant de continuer à les maintenir dans le giron de la police.

Puisque les MICAS sont limitées à un an maximum, un nouvel outil est venu prendre la suite de cette répression qui ne dit pas son nom : ce sont les « interdictions de paraître » très récemment votées dans la loi sur les Jeux Olympiques. Ce nouveau régime est plus simple à utiliser car il répond à moins de conditions. Il permet au préfet d’empêcher « toute personne pour laquelle il existe des raisons sérieuses de penser que son comportement constitue une menace d’une particulière gravité pour la sécurité publique » de venir sur un lieu, sans intervention du juge ni nécessité d’une condamnation pénale préalable. Ces interdictions de paraître ont ainsi également été utilisées ces derniers jours, en complément des MICAS, pour empêcher des personnes de se rendre dans des manifestations.

L’antiterrorisme ou la police prédictive

Les MICAS font partie d’un arsenal de mesures antiterroristes déployées massivement depuis une dizaine d’années et qui repose sur une même logique. Celle-ci suppose que le rôle de l’État serait d’identifier, dans toutes les sphères sociales, les personnes qui présenteraient une menace afin de les empêcher préventivement d’agir. Il s’agit en quelque sorte d’une police prédictive : même sans acte matériel de terrorisme, l’État estime qu’il peut réprimer des personnes « en avance », pour anticiper les actes. La surveillance joue alors une place cruciale dans ce processus. Les MICAS se fondent sur la base de faits non vérifiés et rapportés par des agents du renseignement dans des « notes blanches », des documents sans aucune source, ni en-tête, rapportant des faits invérifiables.

Pour les personnes musulmanes, des interactions sur les réseaux sociaux, la fréquentation de certaines mosquées ou la possession de livres religieux peuvent suffire à caractériser des éléments de suspicion et alimenter un récit selon lequel la personne serait susceptible de recourir à la violence.

Ce type de raisonnement se transpose exactement aujourd’hui sur les personnes militantes5Voir « L’antiterrorisme administratif contre le mouvement social : l’extension des MICAS et interdictions de paraître », Lula Michallet et Vincent Louis, accessible ici.. Dans les MICAS que nous avons pu consulter, on lit que la participation à des actions écologistes, des manifestations et des blocages de lycées seraient autant d’indices de la dangerosité d’une personne, dans un climat présenté comme insurrectionnel et violent à cause de « l’ultra-gauche ». Pour étayer ce contexte, les arrêtés reprennent des contenus partagés par des comptes antifascistes ou de gilets jaunes sur les réseaux sociaux.

Un précédent laissait déjà entrevoir ce qui se passe aujourd’hui : celui du procès de « l’affaire du 8-Décembre » que nous avons documenté depuis plusieurs années. On y apprenait, en creux, la manière dont est perçu un potentiel « terroriste de gauche », et avec lui les « signaux faibles » caractéristiques qui permettraient de le reconnaître. Si l’État considère comme « inquiétant » le fait chez les musulman⋅es d’être « trop » pratiquant, à gauche, c’est la critique de l’État qui constitue un élément décisif pour caractériser le profil terroriste des inculpé·es.

Du harcèlement administratif

L’acceptabilité de ces mesures repose sur la construction d’un ennemi intérieur, mais également sur le mythe qu’elles respecteraient « l’État de droit ». Puisqu’elles sont prévues par la loi et qu’elles peuvent être contestées après leur édiction, alors les MICAS seraient légitimes et proportionnées. En réalité, comme nous le dénonçons depuis des années, il s’agit d’une décision arbitraire et politique, reposant sur un récit construit par les services de renseignement, le tout enrobé d’un vocabulaire juridique et d’un tampon du ministère.

L’argument selon lequel ces décisions pourraient être valablement contestées en justice doit également être sérieusement écarté. Non seulement il faut des ressources pour aller devant un tribunal, et encore plus dans l’urgence, puisque ces MICAS sont en général délivrées au dernier moment. Mais ensuite, une fois devant une juridiction, la charge de la preuve s’inverse : ce n’est pas au procureur de démontrer la culpabilité, mais c’est à la personne concernée de contester elle-même le récit, construit à partir de quelques éléments choisis par le renseignement, et de démontrer qu’elle n’est pas dangereuse. Aussi, les quelques assignations à résidence contestées ces derniers jours se sont heurtées à différents obstacles : le court délai n’a pas permis au juge de statuer ou bien le recours est rejeté car la manifestation a déjà eu lieu. Le plus souvent, le mal est donc fait et la personne n’a pas pu manifester sans qu’aucune défense ne soit possible6À ce sujet, nous venons de nous associer à un recours devant le Conseil d’État avec la Ligue des droits de l’homme, l’ADELICO et des syndicats, demandant que soient prises des mesures pour que cette pratique de publication ou de notification tardives des arrêtés cesse..

L’objectif des MICAS n’est donc pas d’empêcher un attentat mais bel et bien de décourager et d’épuiser des personnes par le harcèlement administratif. Lors des Jeux Olympiques, ces mesures ont entraîné pour certain⋅es la perte de leur travail, et ont traumatisé des familles. Aujourd’hui, elles sont utilisées pour empêcher un mouvement de contestation et effrayer celles et ceux qui voudraient y prendre part. Libre Flot, ayant déjà purgé sa peine dans l’affaire du 8-Décembre, a même été assigné à résidence pendant trois mois, lui faisant renoncer à tout lien social ou toute situation professionnelle. Comme nous le dénoncions il y a quelques semaines, les MICAS s’ajoutent aux autres pouvoirs des préfets pour organiser cette répression, tels que les interdictions de manifestation, le maintien de l’ordre par la violence ou la surveillance systématique par drone ou hélicoptère.

Cet épisode n’est en rien une « dérive ». Il est le fruit d’un processus bien conscient, visant à contenir toute contestation du pouvoir. Et le futur que l’on pouvait redouter est bien là : interdictions de manifestation, utilisations sans limites des armes mutilantes même contre des mineur⋅es, surveillance permanente, protection des milices d’extrême droite par la police et désormais assignation à résidence des militant⋅es sur la base du renseignement d’État. Se mobiliser contre cela n’est plus une option, c’est une urgence.

References[+]

References
↑1 Voir également le rapport du Défenseur des droits et du CREDOF : « Ce qu’il reste(ra) toujours de l’urgence », 5 juillet 2018.
↑2 L’article L. 228-1 du code de la sécurité intérieure vise « toute personne à l’égard de laquelle il existe des raisons sérieuses de penser que son comportement constitue une menace d’une particulière gravité pour la sécurité et l’ordre publics et qui soit entre en relation de manière habituelle avec des personnes ou des organisations incitant, facilitant ou participant à des actes de terrorisme, soit soutient, diffuse, lorsque cette diffusion s’accompagne d’une manifestation d’adhésion à l’idéologie exprimée, ou adhère à des thèses incitant à la commission d’actes de terrorisme ou faisant l’apologie de tels actes ».
↑3 Lire aussi le rapport de Promote, du CCIE et Equitas sur les MICAS appliquées lors des Jeux Olympiques et revoir l’émission que nous avons consacré en 2025 à ces mesures et à leur utilisation à l’encontre des personnes musulmanes.
↑4 « De la normalisation de l’état d’urgence à sa routinisation ? Une étude empirique des MICAS » par Stéphanie Hennette-Vauchez, Nicolas Klausser et Vincent Louis (2025) accessible ici et « Les MICAS pendant les JOP, ou l’usage extraordinaire d’outils routiniers » par Nicolas Klausser, Vincent Louis, Lula Michallet et Serge Slama (2026) accessible ici.
↑5 Voir « L’antiterrorisme administratif contre le mouvement social : l’extension des MICAS et interdictions de paraître », Lula Michallet et Vincent Louis, accessible ici.
↑6 À ce sujet, nous venons de nous associer à un recours devant le Conseil d’État avec la Ligue des droits de l’homme, l’ADELICO et des syndicats, demandant que soient prises des mesures pour que cette pratique de publication ou de notification tardives des arrêtés cesse.

Pourquoi nous sommes contre la reconnaissance faciale

Alors que le ministre de la justice Gérald Darmanin a annoncé que la reconnaissance faciale serait utilisée pour identifier les participant·es au mouvement social en cours, nous republions la dernière partie de notre brochure « Reconnaissance faciale et contrôle d’identité : que peut faire la police ? » sortie en mars 2026. Ce texte revient sur les arguments historiques et politiques qui ne laissent pas d’autre choix que d’interdire cette technologie. Retrouvez la brochure en intégralité ici.

Nous ne voulons pas d’amélioration du cadre légal de la reconnaissance faciale ni de la manière dont elle est conçue. Nous nous opposons à son développement technique et commercial et nous exigeons son interdiction pure et simple car cette technologie ne peut, selon nous, que faire des ravages et nuire à nos liens et à nos existences.

A. La reconnaissance faciale s’inscrit dans l’histoire française du contrôle des corps

La reconnaissance faciale s’inscrit dans la longue histoire des technologies déployées par l’État pour contrôler sa population. Elle fait partie des techniques dites biométriques qui visent à mesurer et quantifier les corps, souvent sous couvert de scientificité, pour en réalité en faire des objets, les assujettir, les dominer. Ces techniques ont toujours occupé une place particulière dans la construction de la bureaucratie policière et judiciaire française et on les retrouve encore aujourd’hui dans le fonctionnement de l’État. En faisant de notre visage un identifiant numérique indélébile, la reconnaissance faciale s’ajoute ainsi aux différents systèmes de contrôle et disciplinarisation des corps.

Le système esclavagiste construit autour de la traite transatlantique reposait ainsi sur des techniques d’identification et de marquage des corps des Africain·es afin de leur assigner une valeur et les circonscrire à une dimension de propriété privée dont il et elles ne pouvaient échapper1Voir EDRi, The colonial biometric legacy at heart of new EU asylum system, 17 avril 2024 disponible ici et Simone Browne, Dark matters : on the Surveillance of Blackness, Octobre 2015 . Par ailleurs, un racisme scientifique va se développer en Europe et en Amérique du Nord avec le but de démontrer scientifiquement l’existence d’une hiérarchie raciale et sexuelle entre les êtres humains. Dans un contexte d’expansion des empires coloniaux européens au 19e siècle, des scientifiques à travers l’Europe cherchent à légitimer l’ordre politique établi en le faisant passer pour naturel, par l’étude et la mesure des crânes (phrénologie) ou des traits du visage (physiognomie), par exemple.

Cette vision selon laquelle on pourrait « lire » et classifier les corps va soutenir le développement de ce que l’on appelle l’anthropométrie. Cette technique vise à identifier les personnes via certaines parties de leur corps (par exemple, les empreintes digitales). En 1883, Alphonse Bertillon, agent de la préfecture de police de Paris, propose un système anthropométrique censé permettre l’identification à des fins judiciaires ou policières de toute personne ayant déjà été fichée selon sa méthode. Celle-ci consiste à décrire précisément les attributs physiques et corporels spécifiques d’une personne au travers de fiches de signalement, où sont détaillés méticuleusement le visage – front, profil, oreilles, nez, bouche, menton – les cicatrices, grains de beauté, tatouages ou encore la colorimétrie de l’iris.

Pour cela, le « bertillonage » implique de mesurer précisément, à l’aide d’instruments, le corps des prévenu·es pour l’inscrire sur une fiche. Ce modèle sera repris ensuite mondialement2Ilsen About, Les fondations d’un système national d’identification policière en France (1893-1914), 2004.

Ce moment coïncide avec l’apparition de la photographie qui, couplée à ce système, s’avère être un outil efficace d’identification. Les techniques de quantification des corps vont alors servir à contrôler plus largement des groupes que l’État veut garder sous sa domination comme les anarchistes ou les personnes « indigènes » qui devront fournir leur photographie auprès des administrations coloniales au début du XXe siècle3Ilsen About, Identités indigènes et police coloniale. L’introduction de l’anthropométrie judiciaire en Algérie, 1890-1910 disponible ici tandis que les « nomades », c’est-à-dire les personnes n’ayant pas de résidence fixe, se verront imposer à partir de 1912 un carnet anthropométrique. Ensuite, avec l’apparition du contrôle aux frontières, les étranger·es auront l’obligation de posséder une carte de séjour. Cet encartement sera généralisé à tous·tes les citoyen·nes par le gouvernement de Vichy avec la création de la carte d’identité4Gerard Noiriel, «L’identification des personnes» dans Du papier à la biométrie : identifier les individus, 2006.

Ainsi se construit le système d’identification qui demeure aujourd’hui. D’un coté, tout le monde doit avoir des papiers qui lient son visage et son corps à son identité administrative. De l’autre, l’État crée des fichiers centralisés, d’abord judiciaire puis d’état civil, afin d’être en mesure de vérifier en permanence la réalité de ces identités.

La reconnaissance faciale est une étape supplémentaire de ce mécanisme. Le visage, obligatoirement découvert, devient l’interface entre l’intériorité de la personne et le monde extérieur5Assia Wirth, La surveillance composite des images photographiques à l’origine des technologies d’analyse faciale, 2024, disponible ici . Il doit pouvoir faire l’objet d’une lecture automatisée à notre insu et de façon invisible, comme un « code-barre » lié à un être vivant, pour que notre identité soit mise à nue. Ce marqueur permanent empêche alors tout anonymat, notion de plus en plus restreinte par l’État, et exclut tout échappatoire. Il instaure une forme de contrôle d’identité permanent. Les quelques applications non-sécuritaires anecdotiques6Il existe des utilisations de la reconnaissance faciale présentées comme des méthodes « d’authentification », c’est-à-dire des usages où la personne se soumet d’elle-même à la technologie. C’est le cas du déverrouillage de téléphone, du passage de portiques dans les aéroports ou des méthodes pour prouver son identité en ligne. Aucune de ces méthodes n’est nécessaire, elles constituent un pied dans la porte permettant d’habituer la population à se scanner elle-même le visage, rendant acceptable voire récréatif l’usage de la reconnaissance faciale. de la reconnaissance faciale ne servent qu’à la rendre acceptable tout en nous habituant à considérer nous-même notre visage comme un matricule que l’on se retrouve à scanner de notre plein gré.

Aussi, les techniques de reconnaissance faciale fonctionnent via des systèmes de classification et de schématisation du visage qui reposent sur des catégories raciales et de genre. Ainsi, elles reproduisent et exacerbent les mécanismes de racisme, d’inégalité et de violence systémique de l’État7Voir Luke Stark, Facial recognition is the plutonium of AI, avril 2019, XRDS disponible ici, rendant certains visages plus à même d’être distingués que d’autres8Voir le projet Gender Shades.

Comme toutes les technologies, la reconnaissance faciale n’est ni « bonne », ni « mauvaise » et encore moins « neutre ». Elle existe dans un contexte de rapport de force ou elle est « bonne » pour les intérêts de la classe dirigeante et des entreprises qui la fabriquent et « mauvaise » pour les autres, surtout pour les personnes déjà victimes d’oppressions.

Il est alors stratégique de s’y opposer frontalement sans se laisser bercer par la croyance qu’il y aurait un chemin à tracer pour imaginer une « reconnaissance faciale éthique ». Les effets sociaux de cette technologie sont tellement dévastateurs qu’il convient non pas d’en interdire ou d’en autoriser certains usages, mais de comprendre qu’elle reste avant tout un outil militaire, conçu pour contrôler les populations, pour surveiller et réprimer. Certaines technologies sont si dangereuses qu’elles sont régulées ou interdites (comme le clonage ou l’exploitation du plutonium). Il faut en faire de même avec la reconnaissance faciale.

B. La reconnaissance faciale est façonnée par la convergence entre intérêts économiques et sécuritaires

On nous présente souvent les « innovations technologiques » comme étant uniquement le fruit d’un progrès technique, décorrélé du reste de la société. En réalité, lorsqu’une technologie émerge, elle est le résultat de volontés politiques et économiques de groupes en position de pouvoir et qui influencent la forme même de cette technologie. La reconnaissance faciale est en cela un exemple typique : voulue par les États et développée par le complexe militaro-industriel, cela fait plus de vingt ans qu’elle se prépare pour identifier les populations.

Comme pour toute technique reposant sur de « l’intelligence artificielle », la reconnaissance faciale est rendue possible par une accumulation d’énormément de données en amont, en l’occurrence des photographies de visages. Cette collecte a été sciemment organisée par l’industrie pendant des années et a été grandement facilitée par la multiplication des sources d’images, qu’il s’agisse des réseaux sociaux ou de la surveillance de l’espace public. Cet accaparement de nos visages s’est le plus souvent fait dans l’opacité et sans le consentement des personnes, pour constituer des bases de données de millions de photos venues d’Instagram, Flickr, Youtube9Voir Adam Harvey, Today’s Selfie Is Tomorrow’s Biometric Profile, 2022 disponible ici et Kashmir Hill, Your Face Belongs to Us, Random House, Aout 2024…

Les entreprises se sont également chargées dans un deuxième temps de faire « annoter » ces photographies, de sorte à faire apparaître sur les visages les informations nécessaires à l’analyse automatisée par un algorithme. Ce travail qui consiste à dessiner, photo par photo, des points et des traits sur les visages (sur le nez, les yeux, la bouche.., voir le préambule). est en général sous-traité à des travailleur·euses – le plus souvent exploité·es – de pays du Sud global, tel que Madagascar. Les algorithmes sont ensuite conçus et entraînés par des ingénieurs pour être intégrés dans un logiciel destiné à la vente. Nos visages sont ainsi mis en données pour que les entreprises se fassent de l’argent dessus, améliorent leurs algorithmes et les vendent sur le marché international.

La reconnaissance faciale existe donc aujourd’hui principalement parce que des entreprises ont répondu aux demandes de surveillance des États, voyant dans le contrôle des populations des intérêts économiques importants. Ce marché échappe cependant aux seules mains des gouvernements puisque des entreprises comme Clearview et PimEyes proposent aujourd’hui des outils de reconnaissance faciale accessibles au grand public, en pillant et en utilisant également les photos que nous avons laissées sur Internet. Condamnées dans de nombreux pays, ces entreprises n’ont que faire de la loi et des personnes victimes de leurs outils de contrôle qui sont rendus librement accessibles par tous·tes et au détriment de tous·tes.

Le complexe militaro-industriel français s’est taillé une place très importante dans cet écosystème. La multinationale française Idemia s’est longtemps targuée d’être numéro 1 sur le créneau des logiciels de reconnaissance faciale. Cette entreprise affine ses outils au sein des aéroports français (avec les dispositifs PARAFE), brésiliens, états-uniens, norvégiens et partout dans l’UE avec le système Entry/ Exit, pour ensuite les vendre à des polices et des États du monde entier, notamment à la police australienne, à l’Arabie Saoudite, mais également à Interpol et ses 196 pays membres.

À ses cotés, Thalès se positionne également comme un acteur clé de la reconnaissante faciale depuis le rachat de Gemalto en 2019. La méga-entreprise militaire française équipe notamment les polices suisse ou slovaque ainsi que les aéroports indiens. On trouve également Ipsotek (filiale d’Eviden, anciennement Atos) qui se place discrètement dans le marché. Sans oublier les nombreuses entreprises et start-ups telles que XXII, Orasio, Videtics ou Wintics qui, si elles ne font pas de la reconnaissance faciale à proprement parler, développent des algorithmes similaires pour analyser le reste de notre corps, vêtements, comportements, ou d’analyse faciale d’émotions, et s’intègrent dans la même catégorie des technologies biométriques. Ces entreprises ont pu prospérer grâce à des commandes venues de la police et de l’armée française tout en étant bénéficiaires d’investissements publics, notamment via la Banque Publique d’investissement (Bpifrance).

La reconnaissance faciale est donc devenue une offre commerciale au sein d’un marché mondial à double usage. Cette technologie peut en effet être à la fois utilisée pour des applications « grand public » et à des fins répressives. Tel est le cas du logiciel de Clearview qui propose des services récréatifs tout en étant utilisée par de nombreuses polices dans le monde.

Cela ne doit pas faire oublier que ces algorithmes sont principalement conçus et développés par et pour des armées. La Chine utilise des logiciels d’identification dans sa politique génocidaire contre les Ouïghours quand l’armée israélienne déploie des systèmes de reconnaissance faciale aux checkpoints à Gaza et en Cisjordanie. L’usage systématique de la reconnaissance faciale renforce la surveillance et le contrôle généralisés de la population palestinienne et constitue un pilier technologique de la politique génocidaire des autorités israéliennes.

C. La reconnaissance faciale est un instrument de la violence d’État

Si la reconnaissance faciale est présentée aujourd’hui comme utile ou légitime, c’est aussi la conséquence des nombreuses politiques répressives qui l’ont précédée.

Les années 2000 ont été un accélérateur de politiques sécuritaires. Les attentats du 11 septembre 2001 ont ouvert les vannes des lois de surveillance dans les pays occidentaux au nom de « la guerre contre la terreur ». Les cadres juridiques d’exception déployés au nom de la lutte anti-terroriste se sont multipliés, renversant la logique de la répression : on ne cherchait plus à retrouver des personnes qui avaient commis des infractions mais à anticiper leurs actions, à deviner leurs intentions. Pour cela, tous les moyens étaient permis, parmi lesquels la multiplication des outils de surveillance et de contrôle. De plus, la numérisation des modes de communication offrait alors un nouveau et large spectre d’informations à exploiter.

En parallèle, la répression policière du quotidien – qui cible depuis toujours un certain nombre de groupes et de minorités – s’est accentuée dans les années Sarkozy. Au nom d’un populisme pénal, la question de « l’insécurité » est devenue le moteur de nombreuses évolutions législatives, exploitant davantage un sentiment de peur que la connaissance d’une réalité matérielle des mécanismes de la criminalité. Le résultat est net : davantage d’amendes liées à l’apparition de nouveaux délits (« groupements » par exemple), davantage de caméras, davantage de fichiers. Et les populations ciblées sont toujours les mêmes : les habitant·es des quartiers populaires, les étranger·es, les précaires, les personnes vivant et travaillant dans la rue, les personnes racisées, les musulman·es…

Ce qu’on appelait le « tournant » sécuritaire est devenu une situation irréversible dans les années 2010 avec à la fois l’état d’urgence de 2015 et la généralisation de nouvelles technologies policières. D’une part, l’administration, tels que le Ministère de l’intérieur ou les préfets, se sont vus dotés de nombreux pouvoirs répressifs (perquisition et assignation à résidence) pour imiter les juges sans en être un. D’autre part, le nombre de fichiers a explosé, la nature des outils de surveillance et des caméras s’est transformée (drones, caméras piétons, vidéosurveillance algorithmique…) et les pouvoirs coercitifs ont été étendus à de nouvelles sphères avec l’expansion de la sécurité privée.

Le même objectif est affiché à chaque nouvelle loi : anticiper et empêcher les actes avant qu’ils aient lieu. Au nom de cette croyance de la « prévention » – qui est en réalité une répression -, on veut pouvoir trouver de potentiels suspects avant même un passage à l’acte. La reconnaissance faciale remplit parfaitement ce cahier des charges puisqu’elle permet de contrôler et identifier à tout moment une personne et de connaître immédiatement son histoire et son passé à son insu ou même contre sa volonté. Elle donne un pouvoir d’omniscience à la police qui saura si cette personne doit être mise dans la catégorie des personnes à suspecter ou non.

La reconnaissance faciale permet également de traquer les personnes. Notre visage est unique et la loi réprime pénalement toute dissimulation. D’une part, le maillage des caméras de surveillance est aujourd’hui si important dans la plupart des villes qu’il est difficile de ne pas laisser de trace de nos passages. D’autre part, les policiers sont équipés de dispositifs qu’ils peuvent mettre dans leurs poches et sortir à tout instant. Il est difficile d’échapper à cette surveillance totale et il serait illusoire de penser que la reconnaissance faciale n’est un danger que pour celles et ceux qui ont commis quelque chose de grave.

Si aujourd’hui vous n’êtes pas concerné·es par la répression (qui s’abat principalement sur les musulman·es, les militant·es ou les étranger·es), rien ne dit que vous en serez préservé·es demain. Il ne faut jamais oublier que c’est l’État qui détermine les groupes à persécuter en fonction de ses intérêts et que ceux-ci évoluent dans le temps, l’espace en fonction des visions politiques de ceux qui nous gouvernent. Les technologies de surveillance, elles, sont prêtes à l’emploi dès aujourd’hui et les volontés de les perfectionner, d’élargir leur usage, de les financer et de les promouvoir sont très actives.

Rappelons-nous que le système de fichage inspiré de Bertillon était une technique bien rodée quand le régime de Vichy s’est installé. Les collaborationnistes ont ainsi pu immédiatement utiliser ces techniques pour identifier, classer, repérer là où habitaient les Juif·ves pour organiser les rafles et réprimer les communistes et les résistantes. Ils n’ont rien eu à inventer. De la même manière, la traque des personnes étrangères actuellement opérée par les agents de la ICE aux États-Unis repose sur le harcèlement par des contrôles d’identités au cours desquels la reconnaissance faciale est utilisée pour empêcher de dissimuler son identité. Trump n’a pas eu à développer de logiciels, ils étaient déjà prêts.

Si les exemples ci-dessus peuvent sembler éloignés géographiquement ou historiquement, ils amènent à une conclusion politique pourtant toujours d’actualité : chaque technologie de surveillance n’a pas d’autre but que de réprimer et sera utilisée comme telle par les gouvernements. Maintenant que cet arsenal de surveillance existe, il n’attend que d’être déployé par les extrême droites du monde entier. Il suffirait de donner des instructions pour le mettre au service de leurs idéologies racistes, xénophobes, homophobes ou discriminatoires de toutes sortes, en vue de bannir une population ou la moindre opposition politique.

La reconnaissance faciale est donc l’incarnation même des technologies de contrôle et de surveillance. Elle impose l’idée que l’État serait en droit de tout savoir sur nous et pourrait lire sur notre visage des informations sur notre passé, nos convictions, nos faiblesses.

Cette perspective nous est inacceptable. C’est pourquoi nous nous opposons totalement à cette technologie. Nous devons préserver notre droit à l’anonymat et notre capacité à agir et à aller et venir librement. Nous ne voulons pas d’un outil de contrôle qui permet à un État et à sa police de harceler, discriminer et opprimer une partie de la population.

Interdisons la reconnaissance faciale.

Pour nous aider dans ce combat, n’hésitez pas à nous faire un don.

References[+]

References
↑1 Voir EDRi, The colonial biometric legacy at heart of new EU asylum system, 17 avril 2024 disponible ici et Simone Browne, Dark matters : on the Surveillance of Blackness, Octobre 2015
↑2 Ilsen About, Les fondations d’un système national d’identification policière en France (1893-1914), 2004
↑3 Ilsen About, Identités indigènes et police coloniale. L’introduction de l’anthropométrie judiciaire en Algérie, 1890-1910 disponible ici
↑4 Gerard Noiriel, «L’identification des personnes» dans Du papier à la biométrie : identifier les individus, 2006
↑5 Assia Wirth, La surveillance composite des images photographiques à l’origine des technologies d’analyse faciale, 2024, disponible ici
↑6 Il existe des utilisations de la reconnaissance faciale présentées comme des méthodes « d’authentification », c’est-à-dire des usages où la personne se soumet d’elle-même à la technologie. C’est le cas du déverrouillage de téléphone, du passage de portiques dans les aéroports ou des méthodes pour prouver son identité en ligne. Aucune de ces méthodes n’est nécessaire, elles constituent un pied dans la porte permettant d’habituer la population à se scanner elle-même le visage, rendant acceptable voire récréatif l’usage de la reconnaissance faciale.
↑7 Voir Luke Stark, Facial recognition is the plutonium of AI, avril 2019, XRDS disponible ici
↑8 Voir le projet Gender Shades
↑9 Voir Adam Harvey, Today’s Selfie Is Tomorrow’s Biometric Profile, 2022 disponible ici et Kashmir Hill, Your Face Belongs to Us, Random House, Aout 2024

France Travail expérimente une IA générative de contrôle

Nous publions un document prouvant que France Travail développe un outil d’IA générative, de type ChatGPT, pour le contrôle des plus de 6 millions de personnes inscrites1Inscrits à France Travail, premier semestre 2026, catégories A, B, C, D et E, France Travail, disponible ici.. Devant les risques que fait peser le déploiement d’IA génératives à des fins de contrôle social, et alors que ce projet fait figure de pilote à l’échelle nationale, nous appelons à son retrait immédiat.

Le 30 juin dernier, les dirigeant·es de France Travail annonçaient en Comité d’éthique IA2Pour une présentation du Comité Consultatif Ethique de France Travail, voir ici. travailler au déploiement d’une IA générative à destination des équipes du contrôle de la recherche d’emploi. « Mettre en place le contrôle continu », permettre la « détection de signaux faibles » et la « systématisation des contrôles » : les objectifs poursuivis sont sans équivoques.

Le document de présentation de ce projet, que nous publions, est précieux en ce qu’il permet d’appréhender l’ampleur de la banalisation des IA génératives en termes de contrôle social. De par leurs capacités techniques inédites tant d’analyse de données hétérogènes, de prise en compte de contextes variés ainsi que d’échanges par la voix ou l’écrit, elles permettent l’automatisation de processus de contrôle complexes dont le nombre était jusqu’alors limité par leur coût. Ce faisant, elles ouvrent la voie à leur multiplication et à l’apparition de formes de contrôle toujours plus intrusives.

Automatisation et massification des contrôles

À France Travail, cette automatisation est prévue en plusieurs étapes. Dans un premier temps, l’IA n’aura pas la possibilité de déclencher des contrôles ni celle d’interagir directement avec les personnes contrôlées. Elle jouera un rôle complémentaire à l’algorithme de profilage utilisé par France Travail pour sélectionner les personnes à contrôler et que nous présentions cet été3Les contrôles ont plusieurs sources. Ils peuvent cibler un public particulier (intermittent·es, précaires, transfrontalier·ères, etc.), être aléatoires ou se baser sur un algorithme de sélection tel que celui que nous révelions cet été..

L’objectif à court terme est de réduire le temps humain nécessaire à la réalisation d’un contrôle en transférant à l’IA la charge de l’analyse du dossier de la personne contrôlée (situation administrative, professionnelle, personnelle, rapports d’entretiens, diagnostic professionnel…)4Le document précise que l’IA sera nourrie des données disponibles au équipes de contrôle dans le « Datamart ». Si nous n’avons pas plus de précisions quant à son contenu précis, il devrait contenir a minima le dossier de la personne contrôlée, son « diagnostic » ainsi que l’ensemble des échanges avec les contrôleur·ses.. Elle produira une « restitution structurée » de ce dernier, comprenant une « synthèse et des points d’attention », afin de préparer les « conclusions » du contrôle. Le travail des contrôleur·ses se limitera à valider l’application d’éventuelles sanctions.

Sur la seule année 2027, France Travail estime que le « gain de temps » permis par l’IA participera à atteindre la « cible de [1,5 millions de] contrôles 2027 à effectifs constants ». Soit 400 000 contrôles supplémentaires (+36%) par rapport à l’année 2026, sans recrutements supplémentaires5France Travail, Le contrôle de la recherche d’emploi en 2025, disponible ici. Les chiffres pour 2026 sont issus de documents internes..

Un objectif de « systématisation » des contrôles

À moyen terme, le projet des dirigeant·es de France Travail est bien plus ambitieux. D’ici 2030, le document précise que le recours à l’IA vise à une « systématisation des contrôles » par l’automatisation de l’intégralité du processus de contrôle, de la sélection des personnes à contrôler à la réalisation du contrôle lui-même.

Techniquement, la chose est aisée. Il s’agira d’abord de ne pas restreindre l’accès de l’IA aux données des personnes ayant préalablement été sélectionnées pour un contrôle, mais de l’étendre au flux de données personnelles de l’ensemble des personnes inscrites. Un simple changement de son prompt (c’est-à-dire les instructions régissant le fonctionnement de toute IA générative) suffirait alors pour lui donner tant la possibilité de choisir les personnes à contrôler que celle d’échanger avec elles et eux, par mails ou SMS, afin de leur poser les questions de son choix6En plus du changement de prompt, cela pourrait nécessiter la mise en place d’outils, services externes appelés par l’IA pour nourrir son processus de réflexion ou entreprendre des actions concrètes ( envoyer des mails, modifier une base de données..)..

En cas de « doute », l’outil pourrait alors demander de lui-même des informations supplémentaires ou des pièces justificatives. Et à l’issue de ce processus de contrôle continu, l’IA décidera de clore le contrôle ou de transmettre le dossier aux équipes de contrôles en vue de sanctions.

IA et contrôle social : un nouveau paradigme

Dès lors, rien n’empêchera la multiplication de contrôles. En levant toute barrière matérielle à leur expansion, le recours à l’IA acte le passage d’un système de contrôle ponctuel et sélectif à un dispositif permanent et généralisé.

Certes, il existe d’ores et déjà des mécanismes de contrôles automatisés dont le fonctionnement réside sur l’analyse des flux de données en temps réel. Ainsi, l’ensemble des administrations sociales vérifient la quasi-totalité des déclarations des allocataires en croisant leurs informations, des contrôles étant déclenchés en cas de détection d’incohérences. Invisibles, ces contrôles sont pourtant, en nombre, les plus importants et de loin. À titre d’exemple, la CAF reporte plus de 27 millions de contrôles automatisés sur un total de 28,7 millions.

Mais ces contrôles automatisés sont aujourd’hui limités à des opérations simples, principalement la comparaison entre les déclarations et les données détenues par d’autres administrations (revenus, adresse, situation professionnelle…). L’IA générative représente une rupture dans le sens où ce sont des opérations de contrôle « complexes », nécessitant l’analyse de données multiples, la prise en compte de contextes variés et l’échange avec les personnes contrôlées qui sont désormais automatisables. Un ensemble de tâches qui, jusqu’alors, nécessitaient une intervention humaine.

Vers des formes de contrôle inédites

Dès lors, s’ouvre la possibilité non seulement de massifier les formes de contrôles existantes, mais aussi de créer de nouveaux dispositifs toujours plus fins et intrusifs. Une chose qu’ont bien compris les dirigeant·es de France Travail.

Le document que nous avons obtenu fait ainsi référence à l’utilisation de l’IA à des fins de « suivi de parcours »7« Suivi de parcours » est l’application conçue par France Travail pour centraliser les données des personnes inscrites. Elle est prévue pour qu’y soient renseignées les 15 heures d’activité. Une vidéo de présentation est disponible ici.. Il s’agit d’une référence au contrôle de l’obligation de réalisation de 15 « heures d’activité » hebdomadaires. Introduite par la loi Plein Emploi, elle porte sur toute personne inscrite à France travail, qu’elle soit allocataire du RSA ou non.

Aujourd’hui, l’effectivité de cette mesure se heurte aux réalités matérielles du coût induit par le contrôle d’un tel volume d’informations sur une population de plus de 6 millions de personnes, à une fréquence hebdomadaire8La difficulté de suivi et de contrôle de ces heures d’activité par les conseiller·ères a été largement documentée dans le cadre du Contrat d’Engagement Jeune (CEJ), qui fut la première aide y étant conditionnée. Son extension aux 6 millions d’inscrit·es met dès lors en tension le mot d’ordre de mise au travail des personnes bénéficiant de certaines prestations sociales et les réalités matérielles nécessaires à son application. Voir notamment Mauricio Aranda, François Sarfati et Jules Simha , Une jeunesse au guichet de l’emploi. Enquête sur le Contrat d’engagement jeune, 2025 disponible ici et l’étude du CEREQ Conditionner l’accompagnement à des heures d’activités : le cas du Contrat d’engagement jeune disponible ici.. Car, en plus de s’assurer du contrôle de la déclaration desdites « heures d’activités », il faut pouvoir s’assurer de leur cohérence – entre elles et par rapport au projet professionnel et à la situation personnelle – ainsi que de leur véracité. De fait, le travail à réaliser est titanesque et nécessiterait le recrutement de centaines de contrôleur·ses supplémentaires.

Ici, le recours à l’IA générative permettrait de fait la mise en application d’une des mesures de contrôle social les plus invasives qui n’ait jamais existé.

Un outil de répression centralisé, discriminant et opaque

Le discours développé par France Travail pour répondre aux craintes portant sur son projet est également intéressant à analyser.

Premièrement, l’IA générative ne serait qu’un simple outil « d’aide à la décision », le choix d’appliquer une sanction ou non restant du ressort des équipes de contrôles. Cette « supervision » humaine serait supposée empêcher les éventuelles erreurs que pourraient commettre une IA. Cet argument est en réalité largement relativisé par deux éléments. D’une part, il existe nécessairement ce que l’on appelle le biais d’automatisation, c’est-à-dire le fait qu’une personne humaine a tendance à suivre les conclusions d’un outil d’automatisation telle qu’une IA générative sans les remettre en question. D’autre part, l’objectif d’un tel outil est justement d’augmenter la cadence des contrôles, donc de laisser moins de temps pour une analyse humaine. Il est donc faux de laisser croire que les contrôleur·ses auront le temps de vérifier les conclusions de l’IA, alors même que l’institution ne leur en laissera pas le temps.

À ceci, France Travail ajoute que l’IA générative garantirait un contrôle plus « juste » et « équitable » via un traitement « homogène » des personnes contrôlées. Ici, France Travail omet l’essentiel : ce qui se joue est avant tout une opération de centralisation des politiques de contrôle dans les mains des dirigeant·es de l’institution. De fait, ces dernier·ères pourront décider du jour au lendemain de modifier les politiques de contrôle sans aucune concertation et en toute opacité, à travers la simple modification des instructions données à l’IA.

Deuxièmement, on notera également que les IA ne sont en aucun cas neutres ou exemptes de biais. Entraînées sur des bases de données issues d’opérations réalisées par des être humains, elles héritent des mêmes biais et orientations que ceux de la population : les exemples d’IA racistes ou sexistes ne sont plus à compter.

Enfin, France Travail met en avant que l’IA générative permettrait une meilleure « traçabilité » des décisions de sanction. Cet argument n’est pas recevable techniquement, les IA génératives reposant sur l’utilisation de réseaux de neurones dont une des propriétés est justement qu’ils fonctionnent en « boîte noire », c’est-à-dire qu’il n’est pas possible d’expliquer la manière dont une IA générative produit tel ou tel résultat.

Un dangereux précédent

Si le projet de France Travail voyait le jour, tout laisse à penser que l’institution serait rapidement imitée par l’ensemble des administrations sociales, de la CAF à l’Assurance maladie en passant par l’Assurance vieillesse.

Elles hériteraient des grands projets de centralisation de données construites ces vingt dernière années. Nourries aux immenses quantités de données auxquelles ces administrations ont aujourd’hui accès (revenus, déclarations fiscales, dossier médical, factures, comptes bancaires, …), elles ouvrent la voie à un contrôle dont on peine à mesurer l’ampleur.

Rappelons enfin que ces dispositifs n’auront pas le même impact pour toutes et tous. Comme nous l’avons documenté, avec d’autres, dans notre campagne France Contrôle, notre système social contrôle bien plus fortement les plus précaires d’entre nous. Ce sont donc ces personnes qui subiront en premier les conséquences psychologiques et matérielles de la généralisation de contrôles réalisés par des IA génératives.

C’est pourquoi il est fondamental que France Travail renonce à ce projet, comme aux autres. Pour freiner les velléités autoritaires de ses dirigeant·es, vous pouvez nous faire un don. Vous pouvez également retrouver l’ensemble de nos publications sur l’utilisation par les organismes sociaux d’algorithmes à des fins de contrôle social sur notre page dédiée.

References[+]

References
↑1 Inscrits à France Travail, premier semestre 2026, catégories A, B, C, D et E, France Travail, disponible ici.
↑2 Pour une présentation du Comité Consultatif Ethique de France Travail, voir ici.
↑3 Les contrôles ont plusieurs sources. Ils peuvent cibler un public particulier (intermittent·es, précaires, transfrontalier·ères, etc.), être aléatoires ou se baser sur un algorithme de sélection tel que celui que nous révelions cet été.
↑4 Le document précise que l’IA sera nourrie des données disponibles au équipes de contrôle dans le « Datamart ». Si nous n’avons pas plus de précisions quant à son contenu précis, il devrait contenir a minima le dossier de la personne contrôlée, son « diagnostic » ainsi que l’ensemble des échanges avec les contrôleur·ses.
↑5 France Travail, Le contrôle de la recherche d’emploi en 2025, disponible ici. Les chiffres pour 2026 sont issus de documents internes.
↑6 En plus du changement de prompt, cela pourrait nécessiter la mise en place d’outils, services externes appelés par l’IA pour nourrir son processus de réflexion ou entreprendre des actions concrètes ( envoyer des mails, modifier une base de données..).
↑7 « Suivi de parcours » est l’application conçue par France Travail pour centraliser les données des personnes inscrites. Elle est prévue pour qu’y soient renseignées les 15 heures d’activité. Une vidéo de présentation est disponible ici.
↑8 La difficulté de suivi et de contrôle de ces heures d’activité par les conseiller·ères a été largement documentée dans le cadre du Contrat d’Engagement Jeune (CEJ), qui fut la première aide y étant conditionnée. Son extension aux 6 millions d’inscrit·es met dès lors en tension le mot d’ordre de mise au travail des personnes bénéficiant de certaines prestations sociales et les réalités matérielles nécessaires à son application. Voir notamment Mauricio Aranda, François Sarfati et Jules Simha , Une jeunesse au guichet de l’emploi. Enquête sur le Contrat d’engagement jeune, 2025 disponible ici et l’étude du CEREQ Conditionner l’accompagnement à des heures d’activités : le cas du Contrat d’engagement jeune disponible ici.

Censure et surveillance partout, justice nulle part

Le mouvement social qui parcourt actuellement la France, parti de revendications lycéennes et rejoint par le mouvement « contre la vie chère », fait l’objet d’une répression policière et judiciaire intense. Celle-ci est une triste synthèse de ce qu’aura été la décennie du macronisme : pour la police et l’État, toujours plus de pouvoirs arbitraires de surveillance, de censure, de blocage ; pour les opposant·es, les « contestataires », les mouvements sociaux, une liberté de manifester et de s’exprimer toujours plus restreinte et exposée à de plus en plus de dangers. La nouveauté aujourd’hui est que le pouvoir en place ne cache désormais plus son mépris envers la jeunesse, et celle des quartiers populaires en particulier. Voici une description non exhaustive des mesures répressives prises ou annoncées par les responsables politiques.

Alors que revoilà la censure des réseaux sociaux

Ces derniers jours, une petite musique de fond monte au sein de la droite française : il faudrait bloquer les réseaux sociaux pour rétablir l’ordre. Gabriel Attal ou Bruno Retailleau répètent à l’envi qu’il faudrait empêcher les manifestant·es de s’exprimer en ligne, dans une grossière stratégie visant à capitaliser à des fins électoralistes sur le fantasme de l’ordre. Ce mot d’ordre qui traverse toute une part de l’échiquier politique soulève diverses problématiques : déconnexion avec les modes de communication des jeunes, recours autoritaire à la censure, poursuite des velléités d’interdiction des réseaux sociaux aux plus jeunes ou encore recours à une censure extralégale.

La déconnexion entre la classe dirigeante qui martèle son discours anti-social sur les plateaux de télévision et la jeunesse qui, elle, s’informe et se mobilise sur les réseaux sociaux, a effectivement été particulièrement visible depuis le début du mouvement lycéen. Les lycéen·nes et étudiant·es ont fui ces plateaux télé où l’objectif n’est pas d’informer pour se recréer leurs propres espaces d’expression. Dans un entretien donné à Mediapart des jeunes mobilisé·es, ont unanimement exprimé l’absence de pertinence du vieux monde télévisuel.

Les velléités de censure des réseaux sociaux réapparaissent alors comme une énième tentative réactionnaire de museler la jeunesse. Rappelons que bloquer les réseaux sociaux est une marque de fabrique des régimes autoritaires. Personne ne sera donc surpris que la droite extrême ou l’extrême-droite veuillent ce genre de mesure. Gabriel Attal, déjà lui, avait ainsi fait procéder au blocage de Tiktok en Nouvelle-Calédonie–Kanaky en 2024 lorsqu’il était Premier ministre. Lorsque nous avions attaqué cette censure, nous rappelions que ce sont des pays comme la Russie ou la Turquie qui utilisaient ce type de mesure. Le plus triste dans cette histoire est que le droit français sera, si une telle censure était décidée par le gouvernement, totalement incapable de l’empêcher. En 2025, le Conseil d’État, la plus haute juridiction administrative en France, avait certes estimé que le blocage de Tiktok était illégal. Cependant, dans sa décision, il a surtout donné un guide à destination du gouvernement pour qu’une prochaine censure puisse contourner les objections légales.

Les jeunes n’ont pas la parole

N’oublions pas que se joue également en ce moment la question d’interdire aux jeunes d’accéder aux réseaux sociaux, sous couvert de leur protection. La loi Miller, du nom de la députée du groupe présidentiel Ensemble pour la République qui l’a portée depuis fin 2025 jusqu’à son vote final en juillet 2026, voulait ainsi interdire aux moins de 15 ans de se créer un compte sur un réseau social. Bien que cette loi ait été censurée cet été, la France a, en toute discrétion, annoncé la préparation d’un nouveau projet de loi sur le sujet. En parallèle, la présidente conservatrice de la Commission, Ursula von der Leyen, a annoncé un texte européen.

Et à côté de tout ça, le gouvernement continue sa censure extralégale des réseaux sociaux sur lesquels se passe l’organisation du mouvement. Pour rappel, en 2023, le ministère de l’intérieur avait déjà « convoqué » (selon ses propres mots) les plateformes pour leur demander de retirer des contenus légaux (notamment des vidéos des émeutes de 2023). Cette censure, qui reposait sur le bon vouloir des plateformes, s’est faite en dehors de toute autorisation par la loi, l’État menaçant à l’époque de changer les règles applicables si les plateformes ne coopéraient pas. En 2026, rebelote : le gouvernement a annoncé avoir convoqué des plateformes de réseaux sociaux et de places de marchés et trouvé un « accord » pour censurer des contenus.

Surveillance et exploitation des vidéos

Les blocages de lycées ainsi que les manifestations du 17 octobre ont été l’occasion pour les autorités de déployer tous les outils répressifs et de surveillance qu’elles ont acquis ces dernières années. Parmi ceux-ci, c’est probablement l’analyse d’image qui est la plus sollicitée. Entre les caméras désormais très présentes dans les rues des villes, celles installées à l’intérieur des commerces, les drones déployés en manifestation et, surtout, les milliers de vidéos postées par les manifestant⋅es eux-mêmes, l’image offre à la police une source très importante de contrôle et de surveillance.

D’une part, les agents peuvent utiliser la reconnaissance faciale au travers du fichier traitement des antécédents judiciaires (TAJ) afin de retrouver les personnes qui y seraient déjà inscrites. Pour rappel, des personnes simplement passées par un commissariat mais non poursuivies peuvent se retrouver dans cette base de données. Si le fondement légal permettant le recours à cette technologie d’identification est très contestable, la police l’utilise quand même massivement, jusqu’à 1 million de fois en 2024 d’après le media Disclose. Pour en savoir plus, vous pouvez consulter notre guide juridique publié il y a quelques mois. Aussi, n’hésitez pas à flouter vos vidéos si des personnes sont reconnaissables lorsque vous les postez en ligne (Signal permet par exemple de flouter les images avant de les envoyer).

Aussi, la police peut avoir recours à la vidéosurveillance algorithmique a posteriori, lorsqu’une enquête est ouverte. Grace à un logiciel d’analyse des images, elle peut retrouver quelqu’un, non pas via son visage, mais à partir de vêtements distinctifs ou d’autres caractéristiques physiques. Cette surveillance algorithmique a pendant longtemps été opérée par l’entreprise Briefcam, et aujourd’hui c’est la jeune entreprise Orasio qui a remporté un contrat avec la police et la gendarmerie nationales il y a quelques mois. Celle-ci se targuait ainsi le 19 octobre d’aider la police à retrouver les personnes via leurs vêtements et accessoires et de pister les véhicules en suivant les plaques d’immatriculation. Nous avons toujours soutenu que ce type de VSA a posteriori est illégal et intrusif et n’est encadré par aucun texte. C’était sans compter sur la CNIL, censée protéger les données personnelles mais absente dès qu’il s’agit de se frotter à la surveillance d’État, qui est venue à la rescousse du ministère de l’intérieur en 2024. Par une interprétation douteuse, elle cautionne aujourd’hui une utilisation illégitime qui a commencé il y a près de dix ans, laissant libre cours à un usage sans contrôle de ces logiciels de suivi des personnes.

Des pouvoirs exceptionnels banalisés ?

Le ministre de la justice, Gérald Darmanin, a lui aussi tenté d’exister politiquement depuis le début de la séquence. Il a ainsi demandé aux parquets de « passer en qualification de criminalité organisée » les procédures judiciaires ouvertes, afin de pouvoir étendre la durée des gardes à vue et d’avoir accès à des moyens de surveillance encore plus intrusifs. Comme nous le rappelions au moment de la loi Narcotrafic, ces règles sont de plus en plus utilisées pour viser les militant·es, en tentant de prouver que les personnes auraient commis des actions en « bande organisée » ou qu’une « association de malfaiteurs » serait constituée. Cette annonce du ministre nous rappelle une fois encore non seulement que les procureur·es ne sont pas indépendant·es en France, mais aussi que le dévoiement de ce régime d’exception de la criminalité grave, qui n’est pas du tout prévu pour ce type d’infractions, est facile pour le pouvoir en place.

Gérald Darmanin, rejoint par Sébastien Lecornu et Emmanuel Macron, a également dit qu’il n’était pas nécessaire de déclencher l’état d’urgence. Une telle déclaration n’est pas l’expression d’un amour des libertés publiques mais plutôt un aveu que l’arsenal répressif légalisé cette dernière décennie donne suffisamment de pouvoir à l’État pour agir sans avoir besoin de cet état d’urgence. Les préfets n’ont jamais eu autant de prérogatives : interdiction de manifestations, utilisation de drones, « interdictions de paraître » individuelles empêchant l’accès à un lieu, assignations à résidence, ou perquisitions sur simple soupçon peu étayé de « terrorisme » (que l’on appelle « MICAS »), … Très souvent, ces mesures sont mises en œuvre de façon illégale, comme cela a par exemple été le cas pour des drones survolant des lycées en Ardèche, qui ont été qualifiés de non conforme à la loi par un tribunal. Mais dans ce mécanisme où l’administration est toute puissante, le contrôle du juge n’arrive qu’après la bataille, une fois que le mal est fait, et uniquement si des personnes ont les ressources pour contester ces décisions en justice.

La répression qui s’abat aujourd’hui est violente. Elle est la synthèse déplorable de 10 ans de macronisme, qui n’a eu de cesse de multiplier les attaques contre les mouvements sociaux et la jeunesse. Alors que c’est la jeunesse des quartiers populaires qui a réussi à faire collectivement ouvrir les yeux sur l’état déplorable des services publics, elle se retrouve frontalement attaquée, comme l’ensemble du mouvement social désormais. Nous dénonçons l’hypocrisie générale : le pouvoir prend les jeunes pour des incapables à qui il faudrait retirer les réseaux sociaux sous couvert de leur protection, et en même temps il voudrait les criminaliser comme des adultes dès 16 ans. Nous exprimons également notre solidarité et notre soutien à toutes les personnes mobilisées.

Sortir des nécrotechniques des frontières

L’avocate et anthropologue, Petra Molnar, spécialiste des droits humains et des questions de migration, co-fondatrice du Migration and Technology Monitor, directrice associée du Refugee Law Lab à l’université de York et autrice de The Walls Have Eyes: Surviving Migration in The Age of Artificial Intelligence (New Press, 2024, non traduit), vient de publier un nouvel ouvrage sur le développement des technologies aux frontières : Border Necrotechnics: Automation, Surveillance, and the Racial Politics of Migration Control (Springer, 2026, non traduit, mais disponible en libre accès). 

Pour elle, explique-t-elle dans une tribune pour Tech Policy Press, nous avons besoin d’un langage précis pour rendre visible les infrastructures numériques qui décident qui vit et qui meurt. Elle parle de nécrotechniques, de techniques pour produire de la mort. « La nécrotechnique des frontières désigne l’ensemble des systèmes automatisés, des bases de données et des architectures de surveillance par lesquels les États et les entreprises décident quelles vies sont rendues passibles de mort, d’expulsion ou de surveillance indéfinie, à la frontière et au-delà ». Les débats sur les politiques technologiques de surveillance et de contrôle des frontières n’abordent jamais la réalité des décès causés par ces systèmes. L’importation croissante de technologies frontalières rend les décisions politiques neutres et les réduit à une simple question de technologie ou de calcul, exonérant et diluant de toute responsabilité les États et les acteurs privés qui leur fournissent les technologies. Or, rappelle-t-elle, les décès engendrés par ces systèmes ne sont ni des dysfonctionnements ni des effets secondaires, mais bien « le fonctionnement normal du système ». 

« Le contrôle moderne des migrations découle directement de la gouvernance coloniale, de l’enregistrement biométrique des populations colonisées à la surveillance des communautés jugées suspectes et à la restriction collective de leurs déplacements. Les frontières contemporaines fonctionnent comme des mécanismes de réinscription et de préservation de la hiérarchie raciale mondiale, restreignant systématiquement la mobilité des personnes racialisées comme Africaines, Arabes, Musulmanes ou non occidentales, tandis que la circulation dans l’autre sens reste largement fluide.» 

« Les technologies numériques de contrôle des frontières contribuent à cette continuité en étendant la portée des opérations et en donnant une apparence d’objectivité à des processus décisionnels complexes qui soustraient les décisions racistes de tout examen critique. Des outils d’évaluation des risques classent les personnes en déplacement selon le danger perçu, les infrastructures biométriques catégorisent les individus comme suspects permanents, et l’analyse prédictive évalue les personnes non pas pour leurs actes passés, mais pour leurs actes potentiels. Ces technologies produisent une forme de punition sans crime, continue et préventive. Les technologies numériques confèrent également un vernis d’objectivité scientifique à des processus décisionnels opaques et complexes, transformant les choix politiques concernant les personnes en déplacement en décisions techniques, obscurcissant davantage les responsabilités. Ce que font les frontières numériques modernes n’est pas une nouvelle forme de racisme, mais plutôt une réinscription de l’ancien ordre racial, normalisé et plus difficile à contester. La logique raciale au cœur des frontières modernes n’est pas un simple effet secondaire malheureux, mais bien le principe organisateur fondamental de la frontière numérique elle-même.» 

A la suite de Frantz Fanon et d’Achille Mbembe qui ont conceptualisé la nécropolitique, comme un pouvoir souverain d’exposer certains à la mort ou de les reléguer à des mondes de mort, la « nécrotechnique frontalière », souligne, à la suite des travaux de la professeure de droit E. Tendayi Achiume, de la sociologue Simone Browne (auteure de Dark Matters, Duke university press, 2015) et Ruha Benjamin (auteure de Race After Technology, Polity, 2019, voire notre compte-rendu de lecture), que la hiérarchie raciale s’inscrit dans le droit, la surveillance et la technologie. « Alors que la violence souveraine exigeait autrefois une décision visible, la nécrotechnique frontalière dissémine désormais cette décision à travers des bases de données signalant les corps « à risque », des capteurs redirigeant les parcours vers des terrains hostiles et des plateformes administratives banalisant la détention des migrants et la rendant indéfinie. Dans ces environnements, l’exposition au danger devient structurelle, cumulative et diffuse – répartie entre de multiples acteurs, interfaces et choix de conception -, si bien que la violence se fragmente et se détache de tout acte ou décision unique, ce qui la rend plus difficile à contester. » 

Pourtant, cette violence est bien réelle. Des chercheurs – notamment les géographes Samuel Chambers et Geoffrey Boyce – ont depuis longtemps documenté la forte hausse du nombre de décès dans le désert de l’Arizona suite à l’installation de tours de surveillance « intelligentes », les traversées s’étant déplacées vers des zones toujours plus isolées et mortelles. Ce même « effet d’entonnoir » s’observe en mer Égée comme au Sahara. Plus récemment, fin juillet, des dizaines de milliers de personnes ont contourné à la nage les brise-lames de Ceuta (Espagne) – l’une des frontières les plus surveillées et fortifiées au monde ; plus d’une centaines d’entre elles ont péri dans des eaux pourtant scrutées par des caméras, des patrouilleurs et des capteurs. En quelques jours, vingt-deux États membres de l’UE ont réagi non pas en s’interrogeant sur les causes de ces décès aux frontières « intelligentes », mais en appelant au renforcement des frontières extérieures – ce qui, concrètement, revient à continuer le développement des infrastructures responsables de ces morts. 

Rob Nixon, dans son livre Slow Violence (Harvard university press, 2013), qualifie ce phénomène de « violence lente » : un préjudice progressif, qui s’inscrit dans la durée et ne saurait être attribué à un événement unique ; c’est précisément ce qui lui permet d’échapper à la mise en cause de responsabilité qu’un acte de violence ponctuel aurait inévitablement provoquée. Aucun responsable pris isolément ne tue qui que ce soit, et le système lui-même semble venir édulcorer la violence à l’œuvre.

Des technologies exclues de la régulation… et donc de toutes réformes

Le problème, estime Molnar, c’est qu’il semble impossible de réformer le déploiement de ces outils. L’IA Act de l’Union européenne – « la tentative la plus complète à ce jour de réguler ces technologies » – classe sur le papier les systèmes de contrôle aux frontières comme étant « à haut risque »… tout en excluant du champ de la loi les applications liées au maintien de l’ordre, à la sécurité nationale et au contrôle migratoire (domaines où les enjeux sont pourtant les plus critiques). « Cette exclusion se dédouane de ses impacts en confiant la supervision de leurs effets à des mécanismes d’auto-évaluation et de conformité interne, sans offrir de perspectives réelles de recours effectif ». Ces exceptions sont le fruit de compromis politiques : comme l’ont souligné des coalitions de la société civile telles que Protect Not Surveil. Pour Molnar, la manière dont le règlement européen sur l’IA traite la question migratoire reflète une trajectoire européenne plus large, s’éloignant de la protection des droits des personnes en mobilité pour privilégier la délocalisation des contrôles, les expulsions et l’enfermement. « Les préjudices structurels – qu’il s’agisse de personnes refoulées sans explication ou de demandeurs d’asile mal classés par des scores de risque opaques – sont ainsi requalifiés en simples défis de mise en œuvre appelant une réglementation plus robuste, tandis que les systèmes frontaliers eux-mêmes ne sont jamais remis en question. »

Pourtant, la nécrotechnique frontalière ne distribue pas la mort au hasard. « Au nom de la préservation des régimes d’apartheid, de la suprématie blanche et de l’extractivisme néocolonial occidental, le projet global de gestion moderne des frontières perpétue une répartition raciale de la richesse et de la mobilité, héritée de siècles d’impérialisme et de colonialisme – façonnée par l’extraction, l’esclavage et le tracé de ces mêmes frontières dont la traversée coûte aujourd’hui la vie à tant de personnes.»

Tendayi Achiume figure parmi les universitaires ayant avancé l’idée que le projet colonial n’a jamais vraiment pris fin, mais a simplement changé de forme. Pour elle, d’ailleurs, les migrations actuelles sont la conséquence de l’histoire coloniale et devraient être abordées comme une prolongation effective de la décolonisation, et considérer ces personnes comme des acteurs politiques exerçant leurs droits de décolonisation. « Le monde occidental demeure lié à des structures de commerce, d’extraction de ressources et d’intervention militaires qui sont autant de moyens par lesquels les États riches continuent de tirer profit des sociétés qu’ils ont autrefois officiellement dominées et d’exercer un pouvoir sur elles ». Les populations des pays anciennement colonisés ne sont pas des étrangères cherchant à intégrer des communautés politiques qui leur seraient étrangères, mais tentent, par leur migration, de reprendre du pouvoir sur un système international bâti sur leur dépossession. « À ce titre, leur migration constitue une affirmation de l’appartenance politique créée – mais jamais honorée – par l’empire ; elles revendiquent une part de la richesse et de la sécurité accumulées grâce à la subordination de leurs propres sociétés ».

La perspective réparatrice peut aller encore plus loin, rappelle Molnar. « Les pays du Nord global, qui se sont industrialisés grâce à l’extraction coloniale, sont les mêmes dont les émissions rendent aujourd’hui des régions entières du Sud global inhabitables, déplaçant ainsi les populations les moins responsables de la crise ; ce sont aussi ceux qui exportent des armes et financent les conflits poussant les gens à l’exil. Le déplacement de populations n’est pas un malheur survenant ailleurs et s’échouant par hasard à Ceuta. Il est orchestré par ces mêmes États qui, ensuite, déploient des drones et des algorithmes d’évaluation des risques contre les personnes déplacées. Or, envisager la migration sous l’angle de la réparation permet de ne plus percevoir la liberté de circulation comme un acte de charité, ni l’admission sur un territoire comme un geste de bienveillance ou de générosité. Le déplacement humain depuis les pays de la « majorité mondiale » devient alors le remboursement partiel d’une dette séculaire, une forme de réparation bien moins coûteuse pour les États d’accueil qu’un règlement formel des comptes liés à l’héritage colonial.»

« Les nécrotechnologies frontalières apparaissent clairement comme le bras armé d’un système de contrôle des frontières qui refuse de reconnaître la dette bien réelle contractée envers la majorité mondiale au fil des siècles de colonialisme et d’impérialisme. »

Molnar esquisse d’autres voies possibles pour bousculer les politiques publiques répressives envers les migrations, comme de mettre fin aux protections du secret des affaires qui permettent aux fournisseurs privés de dissimuler les taux d’erreur aux personnes qui en subissent les conséquences, exiger la transparence des marchés publics pour le complexe militaro-industriel frontalier – où des entreprises comme Elbit Systems commercialisent des technologies éprouvées au combat en Palestine pour les déployer en Arizona (comme l’avait montré le journaliste Antony Loewenstein dans son livre, The Palestine Laboratory, Penguin, 2024) – et s’engager à instaurer un moratoire sur les technologies frontalières contraires aux principes établis en matière de droits humains. Toutefois, constate l’avocate, « toute approche réformiste est vouée à l’échec si l’on ne s’attaque pas aux logiques fondamentales qui sous-tendent nos systèmes frontaliers ». En attendant, enquêter sur les nécrotechniques frontalières reste le seul moyen pour « rassembler des préjudices délibérément disséminés entre bases de données, capteurs et contrats pour en faire une structure de responsabilité unique et lisible ; c’est affirmer que les morts solitaires ne sont pas des accidents géographiques, mais bien les conséquences directes d’une conception délibérée ».

Nécrotechnologies de désinformation : de la manipulation et de l’ingérence étrangère… 

Dans un autre article pour Tech Policy Press, Petra Molnar (accompagnée de Liz Carolan de Digital Action) revient sur la crise de Ceuta de cet été, et notamment sur la désinformation qui a alimenté l’exode mortel des dizaines de milliers de Marocains vers l’enceinte espagnole. Suite à une enquête, le premier ministre espagnol, Pedro Sánchez, a accusé les réseaux de désinformation russes et israéliens qu’il a décrit comme un réseau international d’extrême droite qui « instrumentalise systématiquement les migrations pour attaquer l’Espagne et l’Europe ». M. Sánchez a affirmé que les deux gouvernements s’étaient emparés de cette affaire en raison des positions de Madrid sur les guerres en Ukraine et à Gaza, et que les enquêteurs n’avaient jusqu’à présent trouvé aucune preuve d’implication de l’État marocain. Si Israël et la Russie ont démenti, cette campagne de désinformation orchestrée sur les réseaux sociaux qui promettait un assouplissement des règles d’accueil dans l’enceinte de Ceuta, présente des similitudes frappantes avec les contenus ciblant les personnes tentant de rejoindre les États-Unis, estime Petra Molnar. « Dans les deux cas, le succès de ces campagnes de désinformation ne tient pas tant  à la crédulité des personnes qui y ont été soumises, qu’au manque de clarté, à la variabilité et à la mauvaise communication des règles de passage de frontière ». 

« Le média espagnol El Español a découvert des dizaines de faux profils sur TikTok et Instagram, se faisant passer pour de jeunes créateurs de contenu marocains ayant effectué le voyage et célébrant leur liberté retrouvée à Ceuta. Les vidéos, conçues comme du contenu d’influenceurs, contenaient souvent des conseils pratiques pour la traversée, allant de l’équipement nécessaire aux conseils pour les enfants et les personnes ne sachant pas nager. Si de nombreux comptes ont été fermés, ils ont ensuite réapparu sous de nouveaux pseudonymes. Selon un reportage de Reuters, des jeunes venus de tout le Maroc ont voyagé suite à des rumeurs et des récits circulant en ligne. C’est le cas de Dounia Kherradi, serveuse vivant à neuf heures et demie de route de Ceuta, et d’Ayoub El Abyad, 16 ans, qui a expliqué aux journalistes avoir décidé avec son cousin de faire douze heures de route jusqu’au point de passage après avoir vu des vidéos sur Instagram. La réalité était bien différente des images optimistes véhiculées par les Réels. Ceux qui avaient franchi la frontière ont raconté aux journalistes de DW News avoir dû croiser des cadavres lors de la périlleuse traversée à la nage jusqu’à Ceuta, avoir été confrontés à la violence à leur arrivée et s’être vu refuser de la nourriture dans les magasins. Ils ont ensuite compris qu’il leur était impossible de poursuivre leur route vers l’Europe et que les rumeurs étaient infondées. » 

Les techniques de désinformation utilisées à Ceuta ne sont pas nouvelles, et les vidéos partagées montrent des similitudes frappantes dans la manière dont les migrants tentent de rejoindre les États-Unis. En mars de l’année dernière, l’Associated Press a analysé des centaines de vidéos TikTok publiées par des réseaux mexicains de facilitation de l’immigration et y a retrouvé des thèmes similaires à ceux documentés par El Español du côté marocain du détroit : des musiques entraînantes, des légendes truffées d’émojis, des buggies fonçant vers le mur frontalier, des jet-skis, des hélicoptères et des tunnels proposés comme options haut de gamme, des passeurs ouvrant des cactus pour que leurs clients puissent boire, un champ de laitues avec la légende « Les champs américains sont prêts (à vous accueillir) ! », et, pour finir, le témoignage de clients des passeurs satisfaits. À Ceuta comme partout en Amérique, ces vidéos et images servent de publicité, présentant le passage de la frontière comme un simple problème logistique gérable et géré par les passeurs. La dimension commerciale de ce contenu est désormais bien établie. En Espagne, le Premier ministre avait d’abord accusé les réseaux de trafic d’êtres humains d’être responsables de cette désinformation, car ils avaient un intérêt financier aux tentatives de franchissement de la frontière. Des enquêtes ont révélé comment Meta a tiré profit du trafic de migrants et de publicités frauduleuses ciblant les personnes tentant de rejoindre les États-Unis. 

Le Tech Transparency Project a montré que Facebook et WhatsApp étaient saturés de fausses informations concernant des changements de politique et de prétendues dispositions spéciales pour les femmes enceintes et les parents voyageant avec des enfants. La rumeur ayant circulé au Maroc en juillet – selon laquelle une décision de justice aurait discrètement ouvert un passage – illustre parfaitement un schéma bien documenté ; c’est une difficulté que la couverture médiatique des événements de Ceuta a largement ignorée. « Les contenus trompeurs n’atteignent pas les migrants par un canal distinct des informations fiables ; ils leur parviennent via les mêmes fils d’actualité, sous la même forme visuelle, et souvent depuis des comptes impossibles à distinguer au premier coup d’œil. Par exemple, aux côtés des comptes éphémères, on trouve des créateurs vénézuéliens et colombiens ayant filmé leur propre traversée du bouchon du Darién (entre la Colombie et le Panama) ; certains ont accumulé des dizaines de millions de vues, leurs vidéos servant de guides pratiques indiquant les lieux d’hébergement, les coûts de transport, les points de traversée des rivières… Qu’importe si plusieurs d’entre eux précisaient explicitement qu’ils cherchaient à dissuader les gens plutôt qu’à les inciter au départ. Il s’agit de la même plateforme et du même format : pour beaucoup, les vidéos des réseaux sociaux sont la seule source d’information sur le voyage disponible dans une langue qu’ils comprennent, à un coût abordable et émanant d’une personne dont la situation ressemble à la leur. » 

… à l’exploitation de la précarité informationnelle 

Les travaux de recherche sur l’utilisation des smartphones par les réfugiés désignent par un terme précis la situation dans laquelle ils évoluent. Des chercheurs tels que Marie Gillespie, Souad Osseiran et Margie Cheesman parlent de « précarité informationnelle » : « un état d’instabilité chronique où les migrants s’appuient sur des réseaux de pairs précisément parce que les canaux officiels sont inaccessibles, non traduits, contradictoires ou ouvertement hostiles, et où ils sont exposés aux rumeurs et à la désinformation pour cette même raison. Cette vulnérabilité informationnelle résulte d’un cadre juridique qui n’apporte pratiquement aucune réponse fiable ou exploitable à la question de savoir qui peut entrer sur le territoire et selon quelles modalités.» Agir dans un contexte de pénurie d’informations reste une forme d’action autonome, mais il convient de veiller à ce que toute critique des campagnes de désinformation ne reproduise pas le vieux réflexe colonial consistant à situer le problème dans la prétendue crédulité des populations, plutôt que dans les systèmes qui, par conception, les maintiennent dans l’ignorance. 

Enfin, soulignent les chercheuses, n’oublions pas que les États sont parmi les acteurs les plus actifs de ce même écosystème informationnel. Leurs messages dissuasifs (voir cette publicité de 30 secondes passée sur les médias sociaux par la secrétaire à la sécurité intérieure américaine Kristi Noem avertissant les migrants de ne pas entrer illégalement sur le territoire américain que la présidente mexicaine a qualifié de propagande discriminatoire) passent par les mêmes canaux que la publicité des passeurs et visent les mêmes publics tout en formulant des promesses contradictoires quant à ce qui se passera à la frontière. Un double son qui finit certainement bien plus par instiller le doute qu’à le résoudre. Les messages des acteurs étatiques n’expliquent pas clairement ce qui attend les personnes qui souhaitent migrer autrement que sous formes de menaces. « Personne – ni à Rabat, ni à Madrid, ni à Washington – n’avait l’obligation de fournir aux gens des informations fiables, actualisées et accessibles ; par conséquent, personne ne l’a fait. »

Hubert Guillaud

PS : Dans une très riche enquête, la Technology Review  revient précisément sur les enjeux posés par Petra Molnar :  « Les États-Unis ont dépensé des milliards pour la surveillance des frontières. Pourquoi ne parviennent-ils pas à intercepter les personnes avant qu’elles ne meurent ? ». Lorsque José Morales Bernal a franchi la frontière pour entrer aux États-Unis le 8 avril 2024 en passant par le désert du sud du Nouveau-Mexique, il se trouvait à portée de trois tours de surveillance construites par Anduril pour le service des douanes et de la protection des frontières américain (CBP, Customs and Border Protection), équipées de caméras et de systèmes d’IA capables de détecter et suivre les individus. Mais ce ne sont pas les employés des douanes qui ont repéré M. Morales Bernal, mais des employés de la décharge locale qui l’ont retrouvé mort, à seulement 110 mètres de la tour de surveillance la plus proche.

Si le CBP affirme que ces dispositifs ont permis de sauver des vies, les décès de migrants dans le désert américain entre le Mexique et les Etats-Unis sont courants. En recoupant les informations sur quelques 4000 morts durant leur traversée collectés par les collectifs No More Deaths et Humane Borders et la base de données de localisation des 600 tours de surveillance identifiés par l’Electronic Frontier Foundation, les journalistes de la Technology Review, James O’Donnell et Eileen Guo, estiment qu’une véritable crise humanitaire se déroule sous l’oeil des caméras du gouvernement. Et ils en ont dressé la carte. Les journalistes ont recensé « 1 050 personnes décédées dans le rayon d’action des tours de surveillance frontalière entre 2015 et le début de l’année 2026. Ces décès ne résultent pas d’une défaillance de quelques tours ou technologies isolées : nous avons constaté des décès à l’intérieur de la portée annoncée de près des deux tiers des tours analysées. Notre analyse topographique – visant à déterminer dans quelle mesure le relief pouvait masquer la vue d’une tour sur un lieu de décès précis ou sur sa zone de surveillance globale – a révélé que certaines tours ne couvrent parfois que 10 % de leur zone de surveillance théorique ; toutefois, nous avons également constaté que la plupart des décès n’ont pas eu lieu dans les angles morts de ces tours. Ces décès ne sont pas la conséquence d’équipements obsolètes ». Pour les journalistes, le tableau d’ensemble révèle des défaillances répétées de l’une des fonctions de sécurité fondamentales de ce « mur virtuel », telle que décrite par le CBP dans ses communiqués : identifier et localiser efficacement les migrants entrant illégalement aux États-Unis. 

En réponse à ces accusations, Anduril a précisé qu’un incident survenant à proximité d’une de ses tours ne signifie pas nécessairement que la tour a manqué une détection, renvoyant le problème aux agents chargés de la surveillance de la CBP.  « La question cruciale, lors de tout décès survenant près du « mur virtuel », est de savoir si les autorités savaient qu’une personne se trouvait là sans parvenir à l’atteindre, ou si elles ignoraient totalement qu’une traversée était en cours. Dans les deux cas, il s’agit d’une défaillance du système. » L’enquête des journalistes souligne que les deux types de défaillances se produisent : la technologie échoue à détecter les intrusions, et les agents échouent à intervenir. 

Ces deux phénomènes illustrent les limites d’une approche consistant à miser uniquement sur la technologie pour résoudre un problème complexe. Ces conclusions mettent en lumière des problèmes inédits concernant le mur virtuel, alors même que celui-ci continue de bénéficier d’un large soutien politique et d’une augmentation des dépenses fédérales (le CBP a construit 803 tours à ce jour pour un coût de 6,2 milliards de dollars et prévoit d’en installer 1 497 autres d’ici 2034). Mais leur efficacité reste bien peu évaluée. Pour nombre de responsables politiques, les décès à proximité du mur virtuel seraient rares voire inexistants, alors que l’enquête montre que ce n’est pas le cas. Et le CBP ne mène pas d’enquête pour savoir dans ces cas si la personne avait été détectée ni pour comprendre la non intervention des agents. 

L’enquête de la Technology Review retrace l’histoire du mur virtuel pour surveiller la frontière mexicaine. L’histoire souligne que son développement tient surtout d’une volonté politique et d’une inflation de marchés publics, alors que la réalité, elle, est défaillante. Entre les caméras qui ne marchent pas et les agents qui ne veulent pas passer leur temps à regarder les images, la réalité de l’efficacité de la vidéosurveillance est toujours mise en défaut. Le CBP n’a pourtant cessé de justifier le déploiement de caméras pour assurer la sécurité des migrants, quand la réalité était plutôt leur défaillance (en 2024, des membres de la commission de la Sécurité intérieure de la Chambre des représentants ont indiqué que plus de 66 % des tours de première génération de la Border Patrol étaient hors service). 

Les tours de seconde génération ont intégré des radars pour mieux détecter les déplacements, via l’entreprise de défense israélienne Elbit, dont les systèmes de tours surveillent déjà les frontières d’Israël.  Mais là encore, cela n’a pas empêché des décès dans le champ de surveillance des tours. Enfin, si les radars étaient plus performants, la détection de mouvement générait à nouveau d’innombrables faux positifs, notamment causés par le bétail et les animaux en mouvement.

C’est Anduril qui a été retenu pour bâtir la troisième génération de tours. L’entreprise a surtout produit des algorithmes et des systèmes d’IA pour classer les éléments détectés par les radars et caméras. « Anduril a vanté la capacité de sa technologie à réduire les faux positifs, comme les cas où la faune sauvage est confondue avec des êtres humains. En revanche, l’entreprise a peu communiqué sur les faux négatifs : ces personnes que les systèmes ne parviennent pas à détecter », qui restent visiblement nombreux. Certains observateurs estiment que les tours d’Anduril auraient un taux d’erreur de 10 à 15%. Par exemple, une simple bâche recouvrant un canot pneumatique traversant le Rio Grande ou des couvertures recouvrant des marcheurs, pouvaient suffire pour que les tours détectent le mouvement sans identifier l’objet, ce qui ne déclenchait pas d’alerte. 

Le problème enfin, c’est que les données utilisées par la CBP ne sont pas accessibles pour contester ses actions et ses inactions. Pour les agents, l’efficacité des tours d’Anduril se heurte au problème récurrent du manque d’effectifs pour assurer la surveillance. Pour les journalistes cependant, « toute tentative de comprendre les dysfonctionnements est entravée par une réticence institutionnelle à mesurer le problème », concluent-ils. Seule la police des frontières peut réaliser un audit complet de ce mur virtuel, alors qu’elle en est le principal commanditaire et bénéficiaire. 

Quant à savoir si les tours dissuadent les passages, difficile à dire. Leur déploiement entraîne une baisse du nombre d’interpellations à proximité. Mais les recherches menées par le géographe Geoff Boyce montrent que leur présence incite les migrants à « emprunter des terrains plus difficiles d’accès, hors de vue », et donc possiblement plus dangereux. L’absence d’étude sur leur efficacité n’empêche pas nombre d’acteurs d’être convaincus de la nécessité de leur déploiement. Le produit phare d’Anduril semble surtout promettre à tous de déployer des solutions sans avoir à se poser de questions.

Loi RIPOST adoptée : faisons le bilan

Au cœur de l’été, le Conseil constitutionnel a validé la quasi totalité de la loi dite « RIPOST », dernier cadeau sécuritaire du ministre de l’intérieur Laurent Nuñez avant les élections de 2027. Si elle a concentré beaucoup d’attention en raison de la criminalisation disproportionnée des free-parties qu’elle instaure, cette loi augmente encore considérablement l’arsenal de surveillance – déjà bien fourni – de la police. Voici un récapitulatif des principales mesures adoptées.

  • Vidéosurveillance algorithmique (VSA)

Depuis des années, les entreprises travaillent main dans la main avec les responsables politiques pour légaliser la VSA. Ces logiciels analysent les comportements filmés par les caméras des villes de France pour trouver d’éventuelles personnes « suspectes ». Opposé⋅es à cette dangereuse technologie, nous dénonçons la « stratégie des petits pas » qui l’installe doucement dans notre quotidien et empêche tout réel débat public permettant de s’y opposer. Ainsi, la VSA a d’abord été introduite comme une « expérimentation » en 2023 en prévision des Jeux Olympiques 2024 (en réalité pour un périmètre et une durée bien plus larges), puis ce cadre a été reconduit jusqu’en 2027 au prétexte des JO 2030. Désormais, l’article 50 de la loi RIPOST étend l’utilisation de la VSA jusqu’en 2030, en affichant toujours un caractère « expérimental » alors qu’à ce stade l’inscription dans la durée est plus que visible.

Le texte élargit aussi le champ d’application de la surveillance algorithmique de l’espace public. D’abord limités à des évènements ponctuels (matchs de foot, concerts ou festivals), ces logiciels pourront désormais être déployés aux abords des « bâtiments ou des lieux ouverts au public qui, par leur nature, sont de façon permanente ou en raison de circonstances exceptionnelles particulièrement exposés » à des risques « d’actes de terrorisme ou d’atteintes graves à la sécurité des personnes ». Rappelons que ces « risques » sont interprétés de façon très large, puisqu’ils ont pu être caractérisés pour des concerts de Taylor Swift, les NRJ Music Awards ou encore des matchs du PSG. Auparavant limitée à quelques semaines, la VSA pourra aussi durer plus longtemps. Désormais, cette surveillance pourra être autorisée jusqu’à trois mois, renouvelable indéfiniment tant que la menace persiste. Ce qui, en pratique, signifie qu’elle pourrait être autorisée de manière quasi-permanente.

La liste de ces bâtiments, encore inconnue car fixée par arrêté ministériel, est donc susceptible de concerner toutes les villes de France. D’autres questions restent également en suspens : quelles entreprises mettront en place cette VSA et qui les contrôlera ? S’agit-il des entreprises ayant gagné les appels d’offre en 2023, comme Wintics ou Videtics, ou bien de nouvelles entreprises rentreront-elles dans la danse ? Est-ce que le comité d’évaluation – qui avait directement critiqué l’efficacité et l’utilité de cette technologie – sera reconduit ?

Enfin, malgré tous ses efforts pour légaliser les logiciels de VSA dans les supermarchés, le député macroniste Paul Midy va encore devoir attendre. En effet, la commission mixte paritaire a écarté son amendement, qui reprenait le contenu d’une loi qu’il avait déposée, mais dont le parcours législatif patine. Son obstination est intacte : il veut venir à la rescousse des logiciels qui analysent les mouvements dans les supermarchés, dont ceux commercialisés par la société Veesion, pour leur donner un cadre juridique. Bien que déclarés illégaux par le Conseil d’État et la CNIL, ces logiciels continuent d’être massivement mis en place.

Si vous voyez des affiches indiquant leur présence dans vos commerces, n’hésitez pas à signaler leur illégalité au gérant et à vous y opposer  !

  • Lecteurs de plaques d’immatriculation des voitures (LAPI)

Les capteurs de plaques d’immatriculation disposés sur les routes de France permettent d’identifier et de suivre les véhicules, et donc leurs propriétaires. Avec la loi RIPOST, les capacités de l’État pour cette analyse des plaques d’immatriculation va considérablement changer d’échelle. Les articles 44 et 45 étendent à un an la durée de conservation de ces données, créent la possibilité de consulter l’historique de cette surveillance même en dehors d’une enquête judiciaire, favorisent l’accès aux caméras des villes et des parkings, et permettent aux services de renseignement de faire de l’analyse algorithmique de ces déplacements. Alors qu’aux États-Unis, la colère monte contre ces systèmes de surveillance opérés par l’entreprise Flock, qui sont devenus un symbole de la surveillance de masse, la France, elle, opte pour le développement massif de cette technologie permettant de traquer les déplacements. Pour plus de détails, vous pouvez relire notre article publié au mois de juin sur le sujet.

  • Contrôle d’identité aux frontières

Il existe d’ores et déjà différents cadres juridiques permettant à la police de contrôler l’identité des personnes, que nous avons détaillés dans notre récent guide juridique. L’article 35 de la loi RIPOST offre encore une nouvelle possibilité calquée sur le régime des douanes. Désormais, certains agents de police et de gendarmerie pourront, sans réquisition du procureur, contrôler l’identité des personnes et fouiller des véhicules et bagages dans un périmètre de 40 kilomètres aux frontières, ainsi que dans les gares, les aéroports et les trains internationaux, au nom de la prévention de certaines infractions de criminalité organisée et en dehors de toute procédure judiciaire. Parmi les délits permettant ce type de contrôle, on retrouve « l’aide à l’entrée, à la circulation et au séjour irréguliers », laissant donc craindre que ce nouveau type de contrôle d’identité pourra notamment être opéré contre les militant·es organisant la solidarité aux frontières françaises.

  • Caméra-piétons

Les caméras-piétons incarnent la gourmandise insatiable des acteurs de la répression. Ce petit boîtier-caméra, installé sur le torse des agents, ne sert pas à grand-chose pour la sécurité des personnes d’après les quelques évaluations publiées. En revanche, les caméras-piétons constituent bel et bien des outils pour la « guerre des images » de la police et contribuent à instaurer un rapport de force face à la population (et quand ces images n’arrangent pas la police, il faut compter sur les rares fuites dans la presse). Après la police et la gendarmerie nationales, les sapeurs-pompiers, les gardes-champêtres, l’administration pénitentiaire, les polices municipales, les services de sécurité de la RATP et de la SNCF et les contrôleurs dans les transports – on reprend sa respiration –, l’article 47 de la loi RIPOST permettra désormais aux agents des douanes de disposer eux aussi de ces caméras-piétons. L’article 53, quant à lui, les met à disposition des agents de sécurité privée pour une « expérimentation » de 3 ans qui sera très probablement pérennisée. En revanche, le Conseil constitutionnel a censuré la possibilité pour les gestionnaires d’autoroutes de disposer de ces caméras.

  • Caméras en garde à vue

L’article 54 supprime l’obligation d’enregistrer les images de vidéosurveillance au sein des cellules de garde à vue et de retenue douanière, qui était auparavant prévue par le code de la sécurité intérieure. Si les caméras ne sont structurellement pas là pour nous protéger, cette mesure va tout de même priver de preuve toute personne qui subirait des violences ou des atteintes aux droits dans sa cellule lors de sa garde à vue, et qui auraient pu être démontrées avec ces enregistrements.

  • Drones

Légalisés en 2022, les drones policiers sont entrés massivement dans notre quotidien. Leurs utilisations sont si fréquentes qu’il est difficile de les compter, et le cadre juridique est interprété de manière tellement disproportionnée qu’il laisse le champ libre à une surveillance générale. Pour donner un récent exemple, la préfecture d’Ille-et-Vilaine a autorisé la surveillance de Rennes pour tout le mois de septembre 2026, au nom de la lutte contre le trafic de stupéfiants. Pour tenter de garder une apparence de proportionnalité, la mesure est découpée en cinq arrêtés préfectoraux, chacun autorisant le survol d’une zone précise par quatre drones – soit en réalité 20 engins qui pourront survoler la quasi-totalité de la ville pendant un mois.

La loi RIPOST va contribuer à accélérer davantage cette dynamique débridée. D’une part, l’article 7 offre à la police et à la gendarmerie une nouvelle possibilité de faire voler des drones, pour la prévention «d’infractions routières d’une particulière gravité en raison des troubles qu’elles présentent pour la sécurité et la tranquillité publiques» (en d’autres termes : les rodéos urbains).

D’autre part, l’article 42 créé une procédure d’urgence permettant d’utiliser les drones sans autorisation préfectorale formelle « face à une situation d’urgence caractérisée nécessitant une intervention immédiate afin de renforcer la réactivité et l’efficacité des opérations menées tout en assurant la sécurité des agents sur le terrain. ». Dans ce cas très vague, le préfet peut s’affranchir des règles de droit commun et donner autorisation « par tout moyen permettant d’assurer sa matérialité », à la seule condition de régulariser la situation par une publication formelle de l’autorisation dans l’heure. Cette procédure dérogatoire empêchera donc la population de pouvoir s’informer sur le survol d’un drone et éventuellement de contester la légalité de l’autorisation, alors que que cette information est déjà difficilement accessible. Jusqu’à présent, les arrêtés préfectoraux autorisant des drones étaient publiés dans les recueils des actes administratifs des préfectures, des sortes de journaux officiels locaux mais qui sont de véritables labyrinthes. C’est pour limiter les effets de cette opacité que nous développons depuis 2024 un moteur de recherche des arrêtés préfectoraux, Attrap. En supprimant tout formalisme lorsque la police estime qu’il y a urgence, la loi RIPOST supprime ainsi une condition indispensable à la contestation de la légalité de ces autorisations.

  • Caméras embarquées et frontales

S’ils n’ont pas réussi à obtenir de caméras-piétons, les agents gestionnaires du réseau routier auront néanmoins le droit d’utiliser des caméras embarquées sur leurs véhicules pendant cinq ans, et donc d’enregistrer leurs interventions, le tout aux fins d’« assurer la prévention et l’analyse des accidents routiers » (article 47). Aussi, l’article 43 renouvelle une expérimentation démarrée en 2021 de mise en place de caméras frontales à l’avant des trains, pour « prévenir et analyser les accidents »..

Si cette liste est longue, elle ne représente malheureusement qu’une petite partie de la loi RIPOST qui renforce la répression à bien d’autres égards. Ce texte sanctionne par exemple la possession de feux d’artifices, durcit la lutte contre les squats dans la continuité de la loi Kasbarian, s’en prend une fois de plus au mode de vie des voyageur·euses ou encore élargit le pouvoir des préfets en matière d’expulsion d’occupants de logements sociaux, autorisée depuis la loi Narcotrafic.

Si le rythme d’adoption des lois va ralentir au Parlement à l’approche des élections, les deux quinquennats d’Emmanuel Macron auront définitivement installé un édifice sécuritaire vertigineux, dont le prochain gouvernement n’aura plus qu’à s’emparer à son avantage. Pour nous aider dans notre combat et pour que l’on puisse continuer à lutter dans ce futur assombri, n’hésitez pas à nous faire un don.

Flock : quel niveau de surveillance êtes-vous prêts à tolérer ?

Aux Etats-Unis, la fronde contre le développement des détecteurs automatiques des numéros de plaques d’immatriculations est forte. Si quelques caméras Flock ont été vandalisées, ce sont surtout nombre de conseils municipaux abonnés au système qui rejettent et résilient leurs contrats avec l’entreprise qui les installe, suite notamment aux révélations de l’utilisation du système par l’ICE, la police qui de l’immigration américaine, qui s’en sert pour traquer les étrangers sans lien avec des infractions de circulations. 

Pour faire face à la fronde, Flock a fini par réagir et a annoncé une série de changements dans les modalités de partage d’information avec les forces de l’ordre américaine. Des changements surtout cosmétiques, ironise Gizmodo. L’entreprise, en effet, propose désormais que par défaut, la durée de conservation des informations passe de 30 à 7 jours. Mais en fait, précise l’entreprise, « les forces de l’ordre peuvent prolonger ou réduire cette période. Chaque collectivité continuera de choisir la durée de conservation adaptée à sa stratégie de sécurité publique et conforme aux politiques locales ou étatiques. » Elle annonce également un dispositif supplémentaire (le mode « Preuve ») qui permettra à la police de conserver « des données LAPI (systèmes de Lecture automatisée de plaques d’immatriculation) spécifiques à titre de preuve pour une enquête en cours, dans un stockage à long terme ». L’ACLU (American Civil Liberties Union) a publié une réponse moqueuse (« Flock semble davantage viser à résoudre un problème d’image qu’à s’attaquer aux atteintes majeures à la vie privée et aux autres préjudices engendrés par ses produits ») et maintient sa campagne invitant les citoyens à agir pour « se débarrasser du Flock » (Get the Flock out). L’Institut pour la Justice a pour sa part publié une base de données pour recenser les abus d’utilisation des systèmes de lecture automatisée de plaques d’immatriculation. L’ACLU rappelle que si Flock souhaite évaluer l’efficacité de son outil et notamment mieux surveiller les usages abusifs qu’en fait la police, l’entreprise devrait le soumettre à l’analyse d’un évaluateur indépendant. Flock a déjà par le passé annoncé des mesures de sécurité liées au motif de recherche, mais elles n’ont produit aucune amélioration, bien au contraire. Comme, le rappelle Gizmodo, « il est difficile d’imaginer qu’une personne prête à détruire une caméra Flock changera d’avis simplement parce que la durée recommandée de conservation des données passe de 30 à 7 jours ». 

Dans un entretien à la BBC, le PDG de Flock, Garrett Langley, ajoute qu’il s’est rallié à l’idée d’organisations telles que l’ACLU et l’Electronic Frontier Foundation (EFF), selon lesquelles la police devrait disposer d’un numéro de dossier en cours pour pouvoir consulter les données de Flock. Pour Cooper Quentin, de l’EFF, « les requêtes dans les bases de données [de lecteurs automatiques de plaques d’immatriculation], devraient impérativement faire l’objet d’un mandat judiciaire ». Ce n’est pas le cas. 

Alors que le gouvernement américain surveille activement sur les réseaux sociaux les publications anti-Flock devenues virales, rapporte 404 media, et menace le site DeFlock, qui cartographie la présence des caméras, son initiateur, Will Freeman, rappelle qu’il n’a jamais appelé à neutraliser les caméras ni à masquer les plaques d’immatriculation, contrairement à ce qu’affirment les récents bulletins des forces de l’ordre. Le vandalisme montre surtout que les gens sont mécontents de voir ces systèmes installés à leur insu ou sans leur consentement. Mais le sabotage semble surtout assez anecdotique, bien moindre en tout cas que la contestation qui pousse les citoyens à demander des comptes aux autorités locales qui tissent des partenariats avec l’entreprise Flock. 

Comme l’explique une enquête de New Republic sur la montée de la contestation contre les systèmes de caméras LAPI, « Flock constitue un système de surveillance de masse d’une puissance – et d’une rentabilité – stupéfiante. Ses caméras LAPI sont utilisées par plus de 1 000 entreprises et environ un tiers des 18 000 services de police des États-Unis ». L’ACLU l’estime à le nombre de caméras de surveillance des plaques d’immatriculations déployées aux Etats-Unis à 90 000. Quant à l’entreprise, elle a généré un chiffre d’affaires de 285 millions de dollars en 2024. Le géant du capital-risque Andreessen Horowitz a récemment valorisé l’entreprise à 7,5 milliards de dollars. 

Alors qu’il valorise son entreprise en promettant rien de moins que l’élimination de la criminalité des Etats-Unis d’ici une décennie, l’année dernière, Garrett Langley a qualifié DeFlock d’« organisation terroriste ». A l’heure où les actions de résistance anti-tech sont devenues, aux Etats-Unis, une menace terroriste, Will Freeman répond que son site, DeFlock, est surtout un outil de transparence. 

Les études (2019 et 2024), jusqu’à présent, montrent surtout que l’efficacité des caméras à prévenir le crime est plus que douteuse. « En 2022, l’entreprise s’est vantée que ses caméras à San Marino, en Californie, avaient entraîné une baisse de 80 % des cambriolages en cinq mois ; Forbes a révélé par la suite que les cambriolages avaient en réalité augmenté dans les années suivant l’installation des caméras de Flock ». « Même si les caméras et le réseau de surveillance de Flock contribuent à élucider certains crimes, les critiques estiment que le prix à payer en matière de vie privée est trop élevé. La police a été prise en flagrant délit d’utilisation illégale des données de Flock pour localiser une femme cherchant à avorter, pour traquer et harceler des individus, surveiller des manifestations ou prêter main-forte aux services d’immigration de l’ICE pour arrêter des individus depuis de simples suspiscions. » 

« Au minimum, cette surveillance de masse implique le suivi, sans mandat, de toute personne circulant sur la voie publique », a averti l’ACLU. « Au pire, elle instaure un État policier numérique où les forces de l’ordre […] peuvent traquer manifestants, opposants politiques, immigrés, patients et autres personnes non soupçonnées de crime, et utiliser ces informations pour leur nuire. »

Une contestation de droite comme de gauche

Sous la pression populaire d’opposants à Flocks, locaux et actifs, « Austin, au Texas, a suspendu son programme Flock en juin dernier face à la contestation locale, tandis qu’Evanston, dans l’Illinois, y a mis fin en août. Selon la NPR, au moins 30 localités « ont soit désactivé leurs caméras Flock, soit annulé leurs contrats depuis le début de l’année 2025 ». » A Ithaca, les manifestations ont fait reculer la police. Par des pétitions, des interventions publiques et des tribunes dans la presse locale, le collectif local, Flock Off, a quelque peu freiné les activités de l’entreprise. En octobre, le bureau du shérif du comté a cessé de partager les données Flock avec les comtés collaborant avec l’ICE. En février, suite à une  manifestation devant l’hôtel de ville, la police locale a réduit le nombre de services avec lesquels elle partageait les données. « À bien des égards, cela prouve qu’au niveau local, la démocratie peut encore fonctionner », estime le responsable du groupe Flock Off local. Le prochain objectif de Flock Off est de faire résilier purement et simplement le contrat passé avec la ville.

« Si les groupes opposés à Flock émergent généralement de bastions progressistes, certains États dirigés par des républicains ont également pris des mesures pour restreindre la surveillance par ces systèmes. Les libertariens, en particulier, s’opposent à Flock : le magazine libertarien Reason a publié plusieurs articles critiquant l’entreprise, qu’il accuse de mener un programme de surveillance de masse orwellien », rapporte New Republic. 

Le New York Times s’est également intéressé à « ces caméras que la police adore et que les citoyens détestent ». Au Texas, rapportent les journalistes Fernando Alfonso III et Kashmir Hill, « il est un point sur lequel progressistes et conservateurs s’accordent : ils ne veulent pas de caméras braquées sur leurs voitures ». Pourtant, les Américains sont habitués à la vidéosurveillance. « Ils en installent sur leurs sonnettes et les acceptent au coin des rues, dans les bureaux et les restaurants ». Mais, ce qui distingue les caméras Flock, rappellent les journalistes, « c’est qu’elles sont connectées entre elles, formant un vaste réseau national interrogeable ; cette situation surprend souvent les habitants – qui ignoraient que leurs autorités locales avaient souscrit à ce service – et suscite des craintes d’une surveillance digne de « Big Brother ». De plus, il est difficile de ne plus les voir une fois qu’on a commencé à les remarquer. » Le Texas est devenu un baromètre, estiment les journalistes. « Flock a commencé à vendre ses services aux services de police début 2020, en installant quelques dizaines de caméras dans une banlieue de Houston. Six ans plus tard, 700 services de police texans ont passé contrat avec l’entreprise. L’opposition regroupe des progressistes inquiets de la surveillance gouvernementale, des conservateurs méfiants à l’égard de l’extension du pouvoir de l’État, ainsi que des citoyens et des élus soucieux de leur vie privée et préoccupés par les possibles dérives du réseau. » A l’image de Hannah Foust, qui vit à Carrollton (Texas), qui a commencé à publier des messages sur les lecteurs de plaques d’immatriculation dans des groupes Reddit et a lancé une pétition en ligne pour obtenir le retrait de ces caméras de sa commune. Devant le conseil municipal, elle explique : « Je ne commets aucun délit, mais je ne veux pas nécessairement que quiconque – et encore moins des agences gouvernementales ou une entreprise privée – puisse voir où je dépose mes enfants, quel itinéraire je privilégie pour me rendre au travail, si je préfère H-E-B ou Kroger, ou quel lieu de culte je fréquente. » À travers le Texas, l’opposition à ces caméras transcende les clivages partisans. Les contrats de Flock ont ​​été résiliés aussi bien à Austin, ville progressiste, qu’à Bandera, une localité conservatrice de la région de Hill Country comptant environ 900 habitants. « Au Congrès, Keith Self, un républicain dont la circonscription se situe au nord de Dallas, a déposé un projet de loi en juillet. Ce texte imposerait aux agences fédérales chargées de l’application de la loi d’obtenir un mandat avant d’accéder aux données collectées par les systèmes de surveillance étatiques et locaux – notamment les lecteurs de plaques d’immatriculation – ou de les interroger. » Pour un colonel de l’armée à la retraite et ancien juge de comté, « nous sommes en train de basculer vers un État de surveillance », estime-t-il, en flirtant avec des dénonciations que l’on retrouve dans les pire propos conspirationnistes d’extrême-droite, comme ceux que colporte, à longueur d’émission, la War Room de Steve Bannon.

Flock, la plateforme d’hypersurveillance des déplacements

« Flock facture environ 3 000 dollars par caméra et par an, a précisé M. Langley. En contrepartie, l’entreprise installe et entretient les caméras, fournit une base de données consultable répertoriant tous les véhicules qui passent devant elles et envoie des alertes si les caméras repèrent des voitures figurant sur une liste de surveillance prioritaire – comme la base de données du FBI recensant les véhicules volés et les plaques d’immatriculation associées à des personnes disparues ou recherchées. Ces dernières années, grâce aux progrès de l’intelligence artificielle, Flock a ajouté une fonctionnalité permettant de rechercher des voitures en fonction de leur marque, de leur type, de leur couleur ou de détails spécifiques, tels que des autocollants sur le pare-chocs ou des dommages visibles.» 

« Pour effectuer une recherche, les agents précisent le type de délit, allant de la cruauté envers les animaux à l’homicide. Ils saisissent ensuite un numéro de plaque d’immatriculation ou une description du véhicule ainsi qu’un lieu, ou optent simplement pour l’option par défaut : « Tous les réseaux sélectionnés ». La recherche affiche les images des voitures correspondantes, en indiquant précisément l’heure et le lieu où elles ont été repérées, ainsi que le service de police auquel appartenaient les caméras. Par défaut, les photos prises par les caméras sont supprimées au bout de 30 jours, bien que les services de police puissent modifier la durée de conservation.

Si un service de police souhaite accéder à d’autres caméras ailleurs dans l’État ou dans le pays, il doit partager l’accès aux siennes. La plupart des organismes effectuent des recherches et partagent des informations à l’échelle nationale. » 

L’éditorialiste et animateur de télévision de droite radicale américain Tucker Carlson, qui pourrait être candidat à la prochaine élection présidentielle américaine, s’est récemment moqué de l’assimilation faite par M. Langley entre un projet de cartographie participative et le terrorisme. Carlson a déclaré n’avoir pris conscience que récemment de l’ampleur du réseau Flock après avoir consulté le site de DeFlock ; il a confié au New York Times que cette découverte l’avait « horrifié ». Il s’est dit surpris qu’un système de surveillance aussi vaste ait pu se développer en suscitant si peu d’attention de la part du public… Tant et si bien que le PDG de Flock a depuis présenté ses excuses pour ses propos assimilant le site DeFlock au terrorisme. 

« Que l’on soit libertarien, conservateur, partisan du mouvement MAGA ou progressiste, tout le monde a des objections à l’encontre de Flock », a déclaré Chad Marlow de l’ACLU. Reste que si l’opposition au Texas attire peut-être l’attention, elle n’a pas freiné la croissance de Flock. À travers l’État, de nouvelles villes signent des contrats plus rapidement que d’autres ne les résilient, a indiqué Jennifer Szimanski, porte-parole de la Combined Law Enforcement Associations of Texas, un syndicat de police représentant plus de 28 000 agents. Selon elle, la raison repose sur les résultats impressionnants du réseau. Certains services de police texans ont retrouvé des centaines de véhicules volés après avoir installé ces caméras, a-t-elle précisé, et dans les petites municipalités, les vols dans les véhicules ont pratiquement cessé. Pour elle, le risque d’utilisation abusive du système par les policiers texans n’était pas plus élevé qu’avec les autres bases de données auxquelles ils ont accès, et que Flock fournissait un historique de chaque recherche, précisant qui l’avait effectuée et pour quel motif.

La possibilité de rechercher n’importe quel véhicule circulant sur les routes du pays est certes pratique pour les autorités, mais Barry Friedman, professeur de droit et directeur du Policing Project, soutient que la création d’une vaste base de données sur les déplacements des Américains est inconstitutionnelle : « il s’agit d’une collecte de données indiscriminée, et non d’une surveillance ciblant des infractions spécifiques ». « Si le quatrième amendement existe, c’est parce que l’on estimait que le gouvernement ne devrait pas pouvoir s’en prendre à n’importe qui, même en l’absence de tout acte répréhensible. » 

Jusqu’à présent, les tribunaux ont rejeté cette interprétation, tout en laissant entendre que la situation pourrait évoluer à mesure que la technologie se généralise. Dans une affaire où des habitants avaient poursuivi la ville de Norfolk (Virginie) pour l’installation de 172 caméras Flock, un juge fédéral a statué que les lecteurs de plaques pourraient un jour devenir si omniprésents que leur utilisation s’apparenterait à une surveillance de masse indiscriminée et inconstitutionnelle, mais que ce n’était pas encore le cas. « Je ne pense pas que les juges réalisent que le pays est désormais couvert par ces dispositifs et qu’ils sont tous interconnectés », a déclaré Sid Thaxter, de l’Association nationale des avocats de la défense pénale.

En attendant, la police américaine invite les agents à ne plus mentionner le fait qu’ils ont eu recours à une technologie de détection automatique des numéros de plaques d’immatriculations dans leur rapports ou auprès des personnes qu’ils appréhendent, rapporte 404media. « Lorsque les forces de l’ordre utilisent Flock pour procéder à une arrestation dans le comté de Wapello, en Iowa, elles ne souhaitent pas que la personne concernée le sache. Une politique d’utilisation des caméras de lecture automatique de plaques du comté ordonne explicitement à la police de garder ce dispositif secret. » Un moyen de rendre encore plus invisible les abus que Flock annonce vouloir limiter. 

Pour Tech Policy Press, Jake Laperruque responsable du projet « Sécurité et surveillance » au sein du Center for Democracy & Technology (CDT), « les systèmes de lecture automatisée de plaques d’immatriculation en général, et le fournisseur de premier plan Flock en particulier, sont confrontés à un moment de prise de conscience publique aux États-Unis. Cette technologie de surveillance provoque des réactions négatives majeures dans tout le pays et devient un sujet de campagne majeur ». Mais pour Laperruque, les risques actuels liés à la vie privée liés aux systèmes de détection des plaques d’immatriculation ne sont que la pointe de l’iceberg et vont s’étendre considérablement dans les années à venir. « À moins qu’ils ne soient sérieusement maîtrisés, ces systèmes deviendront un outil de surveillance de masse bien plus répandu qu’aujourd’hui ». La raison, notamment : de nouvelles fonctionnalités ajoutées à Flock à partir d’analyses automatisées par l’agence fédérale des douanes créant des alertes sur des comportements de conduite suspects et signalant des véhicules à arrêter, rapporte AP News. Un comportement innocent au volant, comme prendre une route secondaire, conduire à des heures indues ou se rendre dans un endroit inhabituel, pourrait devenir des motifs de contrôle. 404 media a révélé également que les vidéos captées par les caméras étaient utilisées pour identifier des formes ou des conducteurs. Une fonctionnalité de recherche en texte libre permet de trouver des personnes tatouées ou portant des maillots de sport spécifiques ; ces recherches incluent parfois l’origine ethnique de la personne visée. A terme, connectée à la reconnaissance faciale, elle pourrait permettre de rechercher des personnes partout sur les routes. « Ces systèmes risquent fort de se transformer en un « œil omniscient » permettant de rechercher n’importe quel type de véhicule, d’objet ou de personne, avec la même facilité que nous recherchons aujourd’hui des mots dans un fichier texte ». Reste à savoir s’il faut limiter ce pouvoir par une accréditation judiciaire pour chercher dans ces images, comme le propose Laperruque ou limiter le développement du réseau. 

Wired rappelle que Flock Safety, géant de la surveillance des véhicules, affirme depuis des années que sa technologie « ne peut ni reconnaître, ni identifier, ni suivre des individus ». Ses pages dédiées à la confiance du public assurent aux clients que la technologie est conçue pour des enquêtes spécifiques, au cas par cas, et « non pour surveiller les gens ». Ce n’est plus le cas, notamment via l’ajout d’innombrables outils qui donnent accès « aux métadonnées des caméras, aux dossiers d’arrestation, aux dossiers d’enquête, aux journaux d’appels, aux résultats d’analyses balistiques ainsi qu’à des bases de données commerciales contenant des numéros de sécurité sociale, dates de naissance, numéros de téléphone, adresses e-mail, informations sur les proches et les associés ». Les requêtes préconfigurées d’OS Investigate, le logiciel de Flock, inversent la logique de recherche. « Un agent n’a plus besoin de plaque, de nom ou d’infraction pour lancer une recherche : il lui suffit d’indiquer un lieu, une période et un schéma comportemental, et le système identifie les personnes correspondant à ces critères. » Pour utiliser ce moteur de recherche, Flock propose des requêtes préconfigurées, comme «« Trouve-moi des témoins en te basant sur les véhicules les plus aperçus dans [tel quartier] au cours des [X derniers jours] durant [telle plage horaire quotidienne] ». Un agent remplit les champs vides et valide la demande. Le résultat est une liste de plaques d’immatriculation que d’autres outils du logiciel convertissent ensuite en noms et adresses de domicile.»

« Dix-neuf de ces requêtes visent à identifier des schémas comportementaux plutôt qu’à consulter un dossier spécifique. Quatorze d’entre elles ne nécessitent ni plaque d’immatriculation, ni nom, ni description physique ; l’agent indique simplement un lieu, un créneau horaire et un comportement.

Certaines requêtes ciblent des véhicules ayant visité au moins trois commerces dans une ville en trois jours, plusieurs banques en une semaine ou plusieurs stations-service entre minuit et 5 heures du matin. Aucune de ces cinq requêtes ne mentionne de cible ou d’incident précis.

L’outil utilisé pour ces recherches intègre un filtre qui exclut les bus, les semi-remorques, les fourgonnettes utilitaires et les remorques ; ainsi, un livreur visitant cinq magasins est retiré de la liste, tandis qu’un conducteur ordinaire effectuant la même tournée y figure toujours. Ce type de recherche s’applique également aux déplacements interurbains : véhicules ayant quitté une ville pour une autre avant d’y revenir dans la semaine, ayant effectué plusieurs allers-retours sur une période de 14 jours ou ayant traversé trois zones successivement.»

Flock se défend en expliquant que ce produit en cours de développement ne proposera pas à terme toutes ces fonctionnalités lors de son lancement commercial. Pour Jay Stanley de l’ACLU : « Nous assistons à un déploiement agressif de l’IA par Flock ; on observe, à certains égards, une frontière très mince entre ce qui est techniquement possible et ce qui est réellement mis en œuvre. » Pour Chad Marlow, avocat à la tête de la campagne « Get The Flock Out » de l’ACLU, le danger est de passer de : « Voyez-vous des schémas criminels ? à Trouvez-moi des schémas criminels, car ces requêtes donneront des résultats différents ». Le risque est de glisser très vite au moment où un agent demandera à une IA quelles personnes elle considère comme les plus susceptibles de commettre des crimes. « Elle ne se fondera pas sur une norme juridique de suspicion criminelle, mais sur ses propres critères internes. » Le code définit déjà les filtres auxquels la requête sera soumise. Le logiciel de Flock associe des recherches de véhicules à des interrogations de fichiers de police classant les individus selon le sexe, la race, l’origine ethnique, la taille, le poids, la corpulence, ainsi que la présence de cicatrices, de marques distinctives et de tatouages. Une fonction permet d’effectuer une recherche uniquement à partir d’une description, en ciblant des enregistrements correspondant à des critères tels que « homme, environ 1,80 m, sweat à capuche noir, tatouage sur l’avant-bras » à proximité d’un lieu donné. L’outil permet à l’agent de délimiter ces critères en choisissant un rayon d’action ou en dessinant des formes libres sur une carte. Selon Stanley, cette pratique s’apparente étroitement à la question examinée par la Cour suprême des États-Unis en juin dernier : la Cour a alors statué que les individus conservent un droit à la vie privée concernant les données retraçant leurs déplacements et que le quatrième amendement s’applique lorsque la police réclame ces informations à une entreprise. Dans le cas présent, les services de police achètent directement cette capacité technologique, ouvrant la voie à des recherches exploratoires (fishing expeditions) d’une ampleur inédite.

L’année dernière, un policier du Texas a effectué des recherches sur plus de 83 000 caméras à travers le pays pour retrouver une femme ayant pratiqué un avortement elle-même, selon des journaux de recherche obtenus initialement par 404 Media. Une enquête récente du Washington Post a révélé qu’une cinquantaine d’agents de police avaient été inculpés ou accusés d’usage abusif des systèmes de lecture de plaques d’immatriculation : 26 d’entre eux les utilisaient pour surveiller leur épouse, leur petite amie, leur ex-compagne ou des femmes qu’ils souhaitaient rencontrer. En août dernier, les autorités de régulation de l’Illinois ont conclu que Flock avait enfreint la loi de l’État en menant un programme pilote – aujourd’hui suspendu – qui donnait au service des douanes et de la protection des frontières accès aux caméras situées dans l’État.

Flock laisse à ses clients le soin de définir la plupart des règles. Les responsables des services décident qui obtient des identifiants, si les données des caméras doivent être partagées au-delà des limites de la ville ou de l’État, et s’il convient d’activer les paramètres proposés par l’entreprise pour prévenir les abus. L’outil d’audit, conçu pour repérer les schémas suspects dans les recherches effectuées par un service, a été lancé en avril 2026 en tant qu’option activable par les forces de l’ordre. Or, selon le Washington Post, de nombreux services de police ont jusqu’à présent peu surveillé les recherches qu’accomplissent leurs agents sur ces systèmes.

L’Electronic Frontier Foundation a examiné des ensembles de données portant sur plus de 12 millions de recherches enregistrées sur une période de 10 mois ; elle a constaté qu’environ 20 % d’entre elles ne mentionnaient qu’un terme vague tel que « enquête », « suspect » ou « requête ». Plus de 50 services ont effectué des centaines de recherches dont le champ « motif » faisait référence à des manifestations.

Comment réguler le changement de nature de la surveillance ?

« Flock ambitionne bien au-delà de la simple lecture automatique des plaques d’immatriculation ; l’objectif est de devenir une plateforme numérique pour le maintien de l’ordre », explique Bob Ferguson, gouverneur de Washington, à l’origine d’une proposition de loi pour réguler le déploiement des caméras. « Nous sommes à l’aube de l’ère de la police automatisée et la capacité à créer des chatbots en langage naturel capables d’effectuer des recherches dans d’immenses bases de données deviendra bientôt la norme. »

Pour Jason Pye, du Due Process Institute, il y a peu de preuves que ces technologies contribuent à faire baisser la criminalité. Il rappelle que, contrairement à ce qu’affirme l’administration Trump, la criminalité violente américaine est en baisse depuis les années 90 (758,2 crimes pour 100 000 habitants en 1991 contre 348,6 en 2024). La raison de cette baisse n’est pas unique, elle n’est pas liée uniquement à l’augmentation de l’incarcération (qui s’est stabilisée dans les années 2000 alors que la criminalité a continué à chuter), mais également à l’amélioration des perspectives économiques, aux mutations des marchés de la drogue, voire même au vieillissement de la population. Si des études montrent que les LAPI peuvent aider la police à identifier des véhicules volés, à générer des pistes d’enquête et, parfois, à élucider des crimes. Établir qu’ils jouent un rôle significatif dans la baisse de la criminalité observée après 2020 est une tout autre affaire, bien plus complexe à démontrer. 

Et Pye de citer deux études portant sur l’effet des LAPI : la première note que le déploiement à Atlantic City est associé à une baisse des fusillades, des vols de véhicules et des atteintes aux bien, mais sans reconnaître que le déploiement des caméras puisse être le seul facteur explicatif. La seconde passe en revue l’ensemble des recherches sur le sujet et montre que les preuves que ces systèmes génèrent des avantages plus larges en matière de lutte contre la criminalité restent mitigées. Pye observe ensuite Atlanta, qui compte plus de 3000 systèmes Flock. Or, malgré ce réseau de surveillance sans précédent, les taux d’élucidation des crimes ne se sont pas améliorés. « Par exemple, une arrestation a eu lieu dans 54,3 % des cas d’homicide en 2021. En 2025, seuls 48 % des homicides ont été élucidés. Il existe toutefois des catégories de crimes pour lesquelles les taux d’élucidation se sont améliorés, notamment les cambriolages et les vols dans des véhicules. » De plus, malgré l’un des plus importants réseaux de surveillance des Etats-Unis, le taux de crimes violents à Atlanta a augmenté entre 2024 et 2025 (mais a beaucoup diminué, elle aussi, depuis au moins 2011). Cela ne signifie pas que les LAPI n’apportent rien à la sécurité publique, estime Pye. Ils peuvent être efficaces pour certaines tâches ou certains crimes, mais cela ne signifie pas qu’ils soient à l’origine de la baisse de la criminalité aux Etats-Unis. Et quand bien même ce serait le cas, la question de savoir quel niveau de surveillance l’Amérique est-elle prête à accepter en contrepartie de sa sécurité reste entière, estime Pye. Qui rappelle qu’avec ces systèmes, « il n’est pas nécessaire d’être soupçonné d’un crime pour que les autorités disposent potentiellement d’un relevé indiquant que votre voiture se trouvait à proximité d’une manifestation politique, d’une église, d’une armurerie, d’une clinique médicale ou du domicile d’un tiers. Il s’agit d’une forme de surveillance fondamentalement différente de celle d’un policier vérifiant ponctuellement une plaque d’immatriculation sur l’autoroute ». Le problème, c’est bien le caractère amplificateur de la surveillance que produit la mise en réseau des caméras et la possibilité de les interroger. « Cette situation soulève des questions quant aux personnes habilitées à consulter ces données, aux justifications requises pour effectuer une recherche, à l’étendue du partage de l’information, à la durée de conservation des données et aux conséquences d’une utilisation abusive du système – une éventualité inévitable. Ces questions ne disparaissent pas pour autant du simple fait que les systèmes de lecture automatique de plaques d’immatriculation aident parfois la police à élucider des crimes. » Reste que c’est « une chose qu’un agent de police voit votre voiture traverser un carrefour. C’est tout autre chose qu’un réseau de caméras enregistre discrètement chaque apparition de votre véhicule, stocke ces informations et les rend consultables dans le temps et entre différentes juridictions ». « La question est de savoir si le gouvernement devrait pouvoir exploiter des millions, voire des milliards, d’observations publiques ordinaires et légales pour en faire une carte détaillée et consultable des déplacements des personnes, sans aucun soupçon individualisé ni contrôle significatif ». 

« Supposons que des preuves plus solides finissent par démontrer que Flock prévient certains crimes. Je resterais néanmoins mal à l’aise avec ce compromis. La sécurité publique est importante, certes, mais ce n’est pas le seul critère essentiel dans une société libre. Le respect de la vie privée et l’autonomie sont tout aussi importants. Pouvoir vaquer à ses occupations quotidiennes sans que le gouvernement n’enregistre discrètement ses déplacements est fondamental. Les caméras de Flock ne se limitent pas aux personnes soupçonnées d’avoir commis des crimes. Elles collectent des informations sur tous les automobilistes qui passent devant elles, dont l’immense majorité n’a absolument rien fait de mal.

Bien sûr, ces informations peuvent être utiles à la police. C’est précisément ce qui rend la question si complexe. Presque n’importe quel système de surveillance peut améliorer la sécurité publique s’il fournit au gouvernement davantage d’informations sur nous. Installez suffisamment de caméras à des endroits stratégiques, conservez suffisamment de données et donnez-y accès à un nombre suffisant d’agences : tôt ou tard, ces informations contribueront à résoudre des crimes. L’argument selon lequel « le gouvernement pourrait trouver cela utile un jour » est un critère inacceptable pour déterminer le niveau de surveillance que les Américains sont prêts à tolérer. » Pour Pye, la surveillance omniprésente ne devrait pas devenir une composante normale de la vie américaine. 

Pour The Conversation, le philosophe et criminologue de l’Institut catholique de Lille, Tony Ferri, rappelait que c’est la nature des systèmes de surveillance, quels qu’ils soient, de s’étendre (même si dans son article, il n’évoque pas les dispositifs de lecture automatisés des plaques d’immatriculation). « Un dispositif de contrôle naît pour une cible précise, dans un contexte qui rend son acceptation facile » (…) « puis, par la force de son infrastructure technique désormais disponible, il s’étend, se prolonge, se banalise, bien au-delà de sa justification initiale ». Pris isolément, ces solutions peuvent paraître légitimes. Mais, comme le disait la CNIL elle-même dans un avis de 2022 : « ces outils ne constituent pas une simple évolution technologique, mais une modification de la nature des dispositifs ». Un changement de nature et pas seulement de degré, face auquel nous avons pour l’instant bien peu de réponses pour en limiter la déflagration à l’encontre des libertés publiques.

Ah, oui, les systèmes LAPI se déploient également en France, même si pour l’instant, ce n’est pas avec la même intensité qu’aux Etats-Unis (on compterait 700 lecteurs en France mis en œuvre par la police nationale, la gendarmerie et les douanes, sans compter ceux des municipalités et des acteurs privés, comme les opérateurs de parkings et d’autoroute). Depuis 2024, un système de traitement central a été mis en place. En 2026, le récent projet de loi RIPOST renforce leur utilisation (par exemple à des fins administratives sans avoir à justifier d’une enquête spécifique), étend le régime d’infraction permettant leur consultation ainsi que la durée de conservation des informations à un an, comme s’en inquiétait, bien légitimement, la Quadrature du Net. La plateforme d’hypersurveillance des déplacements se porte bien chez nous aussi !

Hubert Guillaud

Le Parlement vote l’interdiction des réseaux sociaux aux jeunes de moins de 15 ans

Mise à jour du 17 août 2026 : le Conseil constitutionnel a censuré la loi.

L’Assemblée nationale et le Sénat ont adopté ce 21 juillet la proposition de loi de la députée Laure Miller interdisant aux mineur·es de moins de 15 ans d’accéder aux réseaux sociaux. Ce texte, qui veut instaurer une vérification d’âge en ligne dont la conséquence est un contrôle d’identité généralisé, doit entrer en application au 1er septembre 2026 si le Conseil constitutionnel ne le censure pas entre-temps. Cette loi réactionnaire est une défaite pour l’internet libre, décentralisé, interopérable et défait des logiques marchandes et de la surveillance.

Contours techniques et instruments juridiques flous

Le texte adopté par le Parlement se limite à proclamer que « L’accès à un service de réseaux sociaux en ligne fourni par une plateforme en ligne est interdit aux mineurs de quinze ans ». Comme le souhaitait le gouvernement, il consiste à interdire l’accès aux jeunes à tout réseau social, une notion extrêmement large qui concerne tout lieu en ligne sur lequel il est possible de discuter après s’être créé un compte. Autrement dit, sont non seulement concernés les réseaux sociaux commerciaux comme Instagram, X/Twitter, Facebook, etc., mais aussi ceux décentralisés du Fédivers comme Mastodon ou Peertube. Pire encore, pourraient rentrer dans cette définition des messageries en ligne comme Signal, Whatsapp ou Telegram qui, par leurs systèmes de groupes, se rapprochent de ce que le droit entend par réseau social.

Toutes ces plateformes en ligne devront interdire aux mineur·es de moins de 15 ans l’accès à leurs services. Mais on ne sait pas comment en pratique elles devront le faire. Est-ce que les plateformes devront utiliser un dispositif d’estimation d’âge comme au Royaume-Uni ou en Australie, qui sera contourné par la très grande majorité des plus jeunes ? Faudra-t-il présenter ses papiers d’identité à une IA, empêchant alors de s’exprimer en ligne les personnes sans papier, pas à l’aise avec la technologie, ou tout simplement dont les papiers ne sont pas reconnus par la machine ? France Connect, l’identité numérique de la France qui sert aujourd’hui à accéder à certains services publics en ligne, devient-il le point de passage obligé avant d’avoir le droit d’exprimer une opinion en ligne ? Si la loi est muette sur ce point, le gouvernement semble écarter les dispositifs d’estimation d’âge. Ne seraient alors sur la table que des mesures de vérification d’identité.

D’autres flous persistent dans la loi, notamment concernant les pouvoirs de contraintes contre les plateformes qui refuseraient de faire cette vérification d’âge. Le Parlement a supprimé les pouvoirs de contraintes de l’Arcom, qui se voyait dans les premières versions du texte chargée de sanctionner les plateformes récalcitrantes. Probablement par peur que ce système ne soit pas conforme au droit européen, ces pouvoirs ont disparu dans la dernière ligne droite des négociations parlementaires, et l’Arcom a totalement disparu de l’équation dans le texte final.

Mais cela ne veut pas nécessairement dire qu’il n’y aurait pas de sanction pour les plateformes qui refuseraient de contrôler l’identité de leurs utilisateur·rices : la loi votée insère l’obligation de vérification d’âge dans la loi pour la confiance en l’économie numérique (LCEN), dans une partie sur la régulation des plateformes en ligne. Or, cette même LCEN comporte un article 6-3 qui permet à l’autorité judiciaire d’imposer à un intermédiaire technique de prendre « toutes les mesures » jugées nécessaires pour mettre fin au non-respect de la loi. En théorie, le gouvernement pourrait utiliser cette voie pour faire censurer une plateforme qui ne procéderait pas à la vérification d’âge des internautes. Il avait d’ailleurs déjà tenté d’utiliser cette procédure pour faire censurer la plateforme Shein.

Museler de plus en plus la jeunesse

Comble du cynisme, le gouvernement et le Parlement prennent l’excuse de la protection de la jeunesse pour faire passer leur mesure paternaliste. Ne nous trompons pas : cette loi ne protégera pas la jeunesse, bien au contraire. Elle ne s’attaque pas à la source du problème qu’est le modèle économique des réseaux sociaux commerciaux. Pendant les débats parlementaires, les défenseur·euses de ce texte n’ont eu de cesse d’essentialiser les réseaux sociaux pour en faire la source de tous les maux en ligne. Ils et elles ont pourtant oublié que cette toxicité désormais bien établie de certaines plateformes est due à leur caractère commercial. Exit donc des mesures de fond pour s’attaquer au modèle économique des plateformes commerciales. Et on se retrouve avec un texte d’affichage politique.

En privilégiant une interdiction autoritaire au détriment d’une remise en cause profonde du modèle économique basé sur la publicité, cette loi démontre qu’elle n’est qu’une énième mesure de défiance envers les jeunes. Et ce n’est pas la première fois. En 2023 déjà, lors des révoltes suite au meurtre de Nahel Merzouk, les réseaux sociaux avaient été désignés comme les responsables, permettant aux pouvoirs publics d’ignorer les causes réelles du malaise de la jeunesse. Emmanuel Macron pointait du doigt les réseaux sociaux utilisés par la jeunesse et appelait déjà à leur censure. Son gouvernement n’a pas hésité à mettre la pression sur certaines plateformes en les « convoquant » pour qu’elles retirent des contenus parfaitement légaux, en dehors de toute procédure encadrée par la loi. Puis, en 2024, lors des révoltes en Nouvelle-Calédonie-Kanaky, le gouvernement de Gabriel Attal a fait censurer Tiktok en prétextant que se trouvaient sur cette plateforme des contenus illicites. Ceux-ci sont pourtant toujours restés introuvables, et la véritable raison était que la jeunesse s’informait et s’organisait (légalement) dessus.

Les défenseur·euses de ce texte ont-ils ou elles seulement demandé leur avis aux jeunes avant de légiférer ? C’est ce qu’ont fait aux États-Unis nos camarades de l’Electronic Frontier Foundation, qui se battent elles et eux aussi contre des États américains qui veulent interdire aux plus jeunes d’accéder aux réseaux sociaux. En donnant la parole aux plus jeunes, ils et elles ont mis en évidence le fait que ces plateformes restent, qu’on le veuille ou non, un lieu absolument nécessaire pour leur épanouissement.

Un danger illégal pour l’internet décentralisé

Parce que c’est sur les réseaux sociaux que reposera la charge d’empêcher les jeunes d’accéder à leurs services, cette loi va transformer encore plus les plateformes en auxiliaires de police. Elle met en cela en danger l’internet décentralisé, auto-hébergé, géré par des petits collectifs avec peu de moyens. Puisque les réseaux sociaux alternatifs et non-commerciaux comme les instances Mastodon ou Peertube sont concernés par cette obligation d’empêcher les jeunes de moins de 15 ans d’accéder à leurs services, ils devront eux aussi s’équiper de ces lourdes infrastructures de surveillance (se connecter aux services de l’État pour permettre une authentification par identité numérique, ou payer un prestataire de vérification des papiers ou d’estimation d’âge). Au risque de disparaître tant cela est incompatible avec le modèle économique, souvent basé sur le don, de ces réseaux alternatifs.

Pourtant, cette vérification d’âge obligatoire semble être illégale. En juin dernier, la Cour de justice de l’Union européenne (CJUE) a précisé comment le droit européen devait s’interpréter (on vous renvoie à notre analyse de mai dernier pour plus de détails). Saisie par la justice française à propos de la loi SREN, la CJUE a drastiquement limité les possibilités d’actions des États membres. Tout en admettant que la protection des mineur·es en ligne pouvait autoriser des régulations nationales, la Cour a rappelé que le droit européen ne donne que très peu de marge de manœuvre dans ce cas. Elle a notamment rappelé que ces mesures ne doivent pas consister en des obligations générales (c’est-à-dire qu’il faut cibler certaines plateformes seulement), et qu’elles doivent être proportionnées. Autant de critères que ne respecte pas le texte voté en France.

Les oppositions parlementaires ont déjà annoncé qu’elles saisiraient le Conseil constitutionnel, dernier obstacle à son entrée en application. Nous espérons qu’il censurera ce texte, même si nous ne nous faisons pas d’illusion face à un Conseil constitutionnel qui s’illustre de plus en plus en allié de la montée du fascisme. Si le texte était validé, il ne restera que le refus de respecter la loi. Nous invitons les réseaux sociaux non commerciaux à refuser cette vérification d’âge. Nous invitons le Fédivers à montrer qu’il est une alternative crédible aux volontés de contrôle du gouvernement, un modèle souhaitable, y compris pour les jeunes, qui n’attend que le soutien de la loi. Alors pour nous aider à lutter pour un internet émancipateur, vous pouvez faire un don à La Quadrature du Net ! <3

Mise à jour du 17 août 2026 :

Par une décision du 14 août 2026, le Conseil constitutionnel a censuré la loi. Il sanctionne la largesse de la notion de réseau social en estimant qu’interdire aux jeunes l’accès à tout réseau social, entendu de manière très large, porte une atteinte disproportionnée à la liberté d’expression.

Le Conseil constitutionnel admet également qu’interdire l’accès aux jeunes de moins de 15 ans implique de vérifier l’âge de tout le monde. Or, là où nous mettions en avant le fait qu’en pratique, cela signifie très probablement un contrôle d’identité généralisé, il relève que comme la loi ne précise pas comment cette vérification d’âge est faite, cela porte une atteinte disproportionnée au droit à la vie privée.

Le Conseil constitutionnel ne remet pas en question le principe de la vérification d’âge sur les réseaux sociaux. Cela reste décevant puisque cela aurait laissé beaucoup moins de marge de manœuvre au gouvernement pour revenir à la charge, mais ce n’est pas surprenant puisque le Conseil avait déjà validé la vérification d’âge pour les sites pornographiques avec la loi SREN en 2024.

Mais il semble avoir des exigences en matière de protection de la vie privée et, contrairement à son habitude, le Conseil constitutionnel ne donne pas de mode d’emploi dans sa décision pour qu’une prochaine loi soit validée. Il n’indique pas comment il serait possible de concilier droit à la vie privée et vérification d’âge. Il ne donne notamment aucune indication pour déterminer s’il accepterait le principe d’un contrôle d’identité généralisé. La question reste donc entièrement en suspens.

Macron avait fait de cette loi le symbole de son action paternaliste et autoritaire envers la jeunesse et la régulation des plateformes. Une politique qui se refuse à traiter la question du modèle économique des plateformes commerciales. La censure du Conseil constitutionnel est donc une claque pour Macron. Mais n’idolâtrons pas pour autant le Conseil, qui reste un architecte de la surveillance en France : le même jour, il a validé l’extension de la VSA dans la loi Ripost.

Pas content, Macron a déjà annoncé qu’il demandait au gouvernement de revenir avec une nouvelle loi interdisant les réseaux sociaux aux jeunes. Une annonce qui ne sera sans doute pas suivie d’effet, tant le calendrier parlementaire français est bouché d’ici aux élections présidentielles de 2027. Mais c’est par l’Union européenne que cette mesure pourrait revenir. La Commission européenne planche toujours sur une loi européenne pour instaurer une interdiction des réseaux sociaux aux jeunes.

France Travail déploie un outil de profilage algorithmique à des fins de contrôle

France Travail développe un algorithme de profilage des chômeur·euses à des fins de contrôle, comme le prouve un document que nous publions aujourd’hui en partenariat avec la cellule investigation de Radio France. Cet algorithme, encore en phase de test, manifeste la volonté de France Travail de massifier les contrôles via l’utilisation d’outils numériques. Nous appelons à la mobilisation contre cet algorithme illégal et à son abandon par la direction de France Travail.

Le 10 décembre dernier, un nouvel outil numérique était présenté au comité d’éthique IA de France Travail. Intitulé « Ciblage du Contrôle de la Recherche d’Emploi », son objectif est de « recourir à l’IA » afin d’« identifier les dossiers nécessitant un examen approfondi » et d’« alimenter automatiquement l’outil de contrôle de la recherche d’emploi ». Lors de sa présentation, cet outil était en phase active de test, étape préalable à un déploiement plus large.

En d’autres termes, l’ancien Pôle Emploi cherche à se doter d’un outil similaire à ceux que nous dénonçons à la CNAF ou à l’Assurance maladie, visant à automatiser la sélection des personnes devant faire l’objet d’un contrôle.

6 millions de personnes concernées

Cet algorithme vise à « prédire » quel·les chômeur·euses manqueraient à leurs obligations de recherche d’emploi. Concrètement, il repose sur la construction de profils « suspects/non suspects » fondée sur l’analyse de dizaines de milliers de contrôles passés1L’algorithme a été entraîné sur la base de 60 000 contrôles passés. Techniquement, il se base sur un arbre de décision, une technique de machine-learning dont les paramètres sont sélectionnés par itérations successives.. Chaque personne inscrite est ensuite assignée à l’un de ces profils sur la base des données personnelles que détient France Travail. Celles et ceux classifié·es comme « suspect·es » sont placé·es sur une liste de personnes prioritaires à contrôler.

Si cet algorithme est aujourd’hui testé sur les profils de personnes en situation de rupture conventionnelle2À la date de publication du document, l’algorithme avait fait l’objet de deux campagnes de 7 000 tests environ chacune, portant sur les personnes ayant fait l’objet d’une rupture conventionnelle., France Travail souhaite « étendre l’utilisation du modèle à d’autres publics » afin d’« alimenter automatiquement l’outil de contrôle et transmettre chaque mois des listes de contrôle ciblés »3Ciblage du contrôle de la recherche d’emploi, document présenté en comité d’éthique IA du 10 décembre 2025, disponible ici. Le document précise que l’algorithme vise à alimenter les « listes de contrôles ciblées ». Ces contrôles représentent environ 40% de l’ensemble des contrôles, soit 500 000 contrôles en 2025, aux côtés des contrôles aléatoires ou des contrôles déclenchés sur « signalement ».. En prenant en compte l’ensemble des personnes au RSA, dont l’inscription à France Travail est obligatoire depuis le 1er janvier 2026, ce sont plus de 6 millions de personnes qui pourraient se voir profiler chaque mois par l’algorithme4Inscrits à France Travail, premier semestre 2026, catégories A, B, C, D et E, France Travail, disponible ici..

Un ciblage incertain

À ce jour, nous disposons seulement de la liste des 26 variables utilisées par l’algorithme, mais nous ne connaissons pas les règles utilisées dans la construction des profils5La liste exhaustive des variables est disponible dans le document que nous publions.. Nous ne sommes donc pas en mesure de déterminer, via des simulations, quelles populations sont les plus ciblées par cet outil. Nous avons fait une demande d’accès au code source de l’algorithme mais, eu égard à l’opacité qu’entretient France Travail vis-à-vis de ses outils numériques, il est peu probable qu’elle aboutisse.

Parmi les catégories de variables retenues, notons notamment celles relatives aux « activités déclarées », à la « visibilité du demandeur d’emploi » (par exemple si le CV est en ligne sur le site de France Travail), à la recherche d’un travail dans un « métier en tension », au « niveau de formation », à « l’ancienneté d’inscription », ou encore à « l’historique des manquements » (absence à un rendez-vous par exemple). On retrouve également la présence d’une activité non salariée, critère par ailleurs utilisé par la CNAF dans son dernier algorithme de scoring pour dégrader la note des personnes en emploi précaire.

Mais l’absence de transparence quant aux règles de classification de l’algorithme ne doit pas masquer l’essentiel. Comme le montrent les exemples de la CNAF et de la CNAM, ces algorithmes sont dangereux en eux-mêmes, car ils sont des outils particulièrement efficaces pour organiser, en toute impunité, la répression de populations entières, et en particulier des plus vulnérables.

Déresponsabilisation et répression sociale

En premier lieu car, comme nous l’avions documenté en détail dans le cas de la CNAF, l’introduction d’algorithmes dopés à l’IA ou au « machine learning » dépolitise la question du contrôle social et des violences associées. France Travail ne fait pas exception : le document présenté à son comité d’éthique avance, dans un paragraphe intitulé « Pourquoi recourir à l’IA ? », que cette dernière permettrait une « suppression des a priori » en proposant « des dossiers à contrôler sur la base de critères objectifs ».

Ce que l’on observe ici c’est la transformation d’un problème politique – le choix des critères de sélection des personnes à contrôler – en un problème purement technique. Cette dépolitisation s’accompagne d’une délégitimation de la critique des politiques de contrôle, puisque ces dernières sont désormais censées être « neutres » et « objectives ». Elle procède également d’une déresponsabilisation des dirigeant·es qui n’ont plus à assumer, en leur nom, les politiques qui conduisent au ciblage de certaines catégories de personnes.

Ajoutons enfin que le profilage algorithmique est utilisé pour invisibiliser le caractère discriminatoire des politiques de contrôle à travers l’individualisation du processus de sélection. Nul·le n’est contrôlé·e parce qu’il ou elle fait partie de telle ou telle population, mais parce que son « score » individuel s’est détérioré.

Opacité et maltraitance

À cela s’ajoute l’opacité qui entoure le code des algorithmes de profilage. En permettant aux responsables des institutions sociales de taire la réalité du tri social organisé, elle complique considérablement la mise en lumière de leurs dérives.

On rappellera ici que, dans le cas de la CNAF, le code source de l’algorithme n’a été obtenu qu’après une longue bataille juridique et médiatique, tandis que celui de l’Assurance maladie ne l’a été qu’à la faveur d’une erreur de caviardage par l’administration. Pendant des années, l’absence de publication des paramètres de ces algorithmes a permis à ces institutions d’organiser le sur-contrôle de certaines populations (femmes isolées, personnes au RSA, personnes en situations de handicap…) sans jamais avoir à rendre de comptes. Pire, les dirigeant·es de ces institutions ont profité de cette opacité pour aller jusqu’à se vanter du recours à des outils de « modernisation » à la « pointe de la technologie ».

Ce risque est particulièrement fort concernant France Travail. Car, loin de la communication de sa direction vantant un recours à une IA « éthique » et « transparente »6Voir notamment la « Charte de France Travail pour une éthique de ses usages de l’intelligence artificielle », disponible ici., toutes nos demandes d’accès au code des IA utilisées par France Travail sont, à ce jour, restées lettres mortes. En violation flagrante de la loi, France Travail a notamment refusé de nous communiquer la moindre information sur des IA aussi sensibles que celles utilisées pour échanger par SMS afin de proposer des offres d’emplois à des usager·ères (MatchFt) ou celle que France Travail a généralisé auprès de ses conseillers afin de les aider dans leurs tâches quotidiennes (ChatFt)7Notons que nos demandes ne portaient pas que sur le code source de ces IA, mais aussi sur la documentation technique ou l’analyse d’impact de la protection des données.. Pire, dans ces deux cas, l’institution n’a même pas pris la peine de motiver sa décision auprès de la Commission d’accès aux documents administratifs (CADA) – l’institution chargée d’indiquer si ces refus sont légaux ou pas – lorsque nous l’avons saisie.

IA générative et massification des contrôles

Le développement de ce nouvel outil de profilage s’inscrit dans un contexte plus large de multiplication des outils numériques de contrôle au sein de France Travail. Rien que l’année dernière, nous alertions déjà sur le déploiement de « robots » visant à automatiser la décision de clore ou non un contrôle. Ces « robots » intervenaient lors du contrôle lui-même, alors que le nouvel algorithme intervient en amont, lors de la sélection des personnes à contrôler.

Ce qui se dessine, c’est la volonté d’automatiser l’ensemble de la chaîne de contrôle afin de répondre aux objectifs gouvernementaux de massification des contrôles, dont le nombre est passé de 200 000 en 2017 à 730 000 en 2025. En 2027, l’objectif fixé par le gouvernement est d’en réaliser 1,5 millions8Pour les chiffres de 2017, voir l’étude de Pôle Emploi « Le contrôle de la recherche d’emploi : l’impact sur le parcours des demandeurs d’emploi » disponible ici. Pour 2025, voir le document de présentation de l’algorithme. L’objectif de 1,5 millions a été annoncé par Gabriel Attal en 2024, voir cet article..

Mais c’est du côté de l’IA générative que les risques les plus importants existent aujourd’hui. Alors que France Travail multiplie le développement d’IA (ChatfT, NeoFt, MatchFT…), on ne peut que s’attendre à ce qu’une IA générative soit déployée à des fins de contrôle. Connectée au dossier de la personne contrôlée, elle formulerait une « suggestion » quant à la décision à prendre par le ou la contrôleur·euse. Ce serait une étape décisive vers une automatisation totale du contrôle de la recherche d’emploi et la possibilité de massifier, à moindre coût, le contrôle et la surveillance des millions de personnes inscrites à France Travail.

Il est fondamental que France Travail change de politique. Celle qui se dessine, une automatisation toujours plus inhumaine du contrôle, doit être rejetée. Il est encore plus inquiétant de voir que les dirigeant·es de France Travail ne veulent pas voir la réalité sociale de leur politique de contrôle et préfèrent s’enfermer dans la douce mélodie du solutionnisme technologique. Alors pour nous aider à continuer la lutte, vous pouvez nous faire un don et retrouvez l’ensemble de nos publications sur l’utilisation par les organismes sociaux d’algorithmes à des fins de contrôle social sur notre page dédiée.

References[+]

References
↑1 L’algorithme a été entraîné sur la base de 60 000 contrôles passés. Techniquement, il se base sur un arbre de décision, une technique de machine-learning dont les paramètres sont sélectionnés par itérations successives.
↑2 À la date de publication du document, l’algorithme avait fait l’objet de deux campagnes de 7 000 tests environ chacune, portant sur les personnes ayant fait l’objet d’une rupture conventionnelle.
↑3 Ciblage du contrôle de la recherche d’emploi, document présenté en comité d’éthique IA du 10 décembre 2025, disponible ici. Le document précise que l’algorithme vise à alimenter les « listes de contrôles ciblées ». Ces contrôles représentent environ 40% de l’ensemble des contrôles, soit 500 000 contrôles en 2025, aux côtés des contrôles aléatoires ou des contrôles déclenchés sur « signalement ».
↑4 Inscrits à France Travail, premier semestre 2026, catégories A, B, C, D et E, France Travail, disponible ici.
↑5 La liste exhaustive des variables est disponible dans le document que nous publions.
↑6 Voir notamment la « Charte de France Travail pour une éthique de ses usages de l’intelligence artificielle », disponible ici.
↑7 Notons que nos demandes ne portaient pas que sur le code source de ces IA, mais aussi sur la documentation technique ou l’analyse d’impact de la protection des données.
↑8 Pour les chiffres de 2017, voir l’étude de Pôle Emploi « Le contrôle de la recherche d’emploi : l’impact sur le parcours des demandeurs d’emploi » disponible ici. Pour 2025, voir le document de présentation de l’algorithme. L’objectif de 1,5 millions a été annoncé par Gabriel Attal en 2024, voir cet article.

Loi RIPOST, quand Nuñez attaque : les « LAPI » ou la surveillance massive des déplacements

À un an des présidentielles, le ministre de l’intérieur Laurent Nuñez tente de laisser sa marque pour avoir, lui aussi, sa loi sécuritaire. Le résultat est la loi dite « RIPOST », sorte de fourre-tout de mesures répressives sans aucune cohérence globale. Déjà examiné au Sénat, ce texte arrive lundi 22 juin à l’Assemblée nationale et constitue une vitrine pour le ministre qui souhaite montrer force et autorité face à des comportements de loisirs jugés « déviants » (free party, rodéo urbain, feux d’artifice…). Cette loi est également un énième accélérateur de surveillance. Non seulement elle prolonge et étend l’utilisation de la vidéosurveillance algorithmique mais elle renforce aussi massivement le dispositif méconnu, mais non moins dangereux, des lecteurs automatiques de plaque d’immatriculation.

Les LAPI, qu’est ce que c’est ?

Les lecteurs automatiques de plaques d’immatriculation, plus fréquemment dénommés par l’acronyme « LAPI », sont encore peu connus en France. Pourtant, derrière ces quatre lettres se cache un dispositif ancien qui permet d’identifier et de localiser des véhicules en France à grande échelle.

Concrètement, les LAPI sont des boîtiers contenant des lecteurs optiques et un système informatique, dont le but est de reconnaître et de lire les plaques d’immatriculation à la volée. À partir d’une photo ou d’une analyse vidéo en temps réel, ces lecteurs peuvent ainsi, selon un appel d’offres de 2018, « détecter les véhicules, isoler les plaques d’immatriculation, reconnaître les caractères supportés par ces plaques et les traiter » de façon à en faire une donnée brute, facilement exploitable automatiquement. En d’autres termes, quand une voiture ou tout autre véhicule immatriculé (moto, scooter, camion…) passe devant un LAPI, il est pris en photo et le numéro de plaque, la localisation et l’heure atterrissent immédiatement dans une base de données. La photographie du véhicule et de ses passagers peut également être conservée. Il s’agit donc d’une technique d’identification et de traçage d’un véhicule et, a fortiori, du ou de la propriétaire qui l’a immatriculé ainsi que potentiellement de ses occupant·es.

Les dispositifs LAPI sont très nombreux en France, et de différentes natures. Il y a tout d’abord les LAPI des entreprises privées comme les opérateurs de parking ou de péage. En leur permettant de connaître l’heure de passage d’une voiture, cette technologie sert à facturer un stationnement ou à lever automatiquement la barrière face à une plaque préalablement enregistrée. Ensuite, on trouve les LAPI utilisés par les villes et collectivités locales pour verbaliser certaines infractions routières, vérifier le stationnement payant, ou encore contrôler les accès à certaines zones et sous certains critères (zones limitées aux taxis, au covoiturage, aux transports en commun, aux véhicules à faible émission de CO2, zones piétonnes). Enfin, les LAPI peuvent être mis en place au niveau national par l’État à des fins d’enquête et de surveillance policière.

Alors que ces dispositifs existent depuis une vingtaine d’années, la loi RIPOST renforce de façon vertigineuse leur utilisation policières, en recyclant dans son article 15 une proposition de loi déposée il y a quelques mois par le sénateur Pierre-Jean Rochette. Déjà accélérée par une réforme de 2024, cette surveillance des déplacements routiers est sur le point de devenir totalement débridée.

Une surveillance sur tout le territoire

Formellement introduite par la loi du 18 mars 2003 pour la sécurité intérieure, l’utilisation des LAPI par la police a débuté par une expérimentation de deux ans en 2007, avant d’être pérennisée par un arrêté en 2009. Depuis 2012, leur cadre juridique est codifié dans le code de la sécurité intérieure.

Concrètement, ce régime juridique prévoit que les LAPI fixes ou mobiles peuvent être mis en œuvre par la police nationale, la gendarmerie et les douanes « en tous points appropriés du territoire et en particulier dans les zones frontalières […] ainsi que sur les grands axes de transit national ou international ». Il n’existe pas de liste publique de l’emplacement des presque 700 capteurs LAPI1Dans le rapport de la commission des lois du Sénat, on peut lire qu’au « 28 août 2025, les services des trois administrations – police et gendarmerie nationales, douanes – exploitent 480 LAPI fixes » et que et que « les services des douanes bénéficient de leur propre parc de dispositifs LAPI implantés sur les axes routiers, au nombre de 175 – chacun comprenant trois ou quatre capteurs – en 2025, avec un objectif de 200 dispositifs pour fin 2027 ». Il est également mentionné l’existence de « 98 LAPI mobiles et 23 LAPI transportables ». qui ont été installés par ces services étatiques, mais on peut en retrouver sur des cartes collaboratives comme OpenStreetMap ou les visualiser sur la carte du projet Deflock. Ces dispositifs peuvent également être installés dans les gyrophares de voitures de police afin de scanner les voitures sur la voie publique. On peut donc croiser en un trajet de nombreux capteurs LAPI, publics ou privés, sans s’en rendre compte.

Les dispositifs LAPI sont capables de prendre en photo aussi bien les plaques d’immatriculation que les véhicules en entier, avec leurs éventuel·les occupant·es. La police, la gendarmerie et les douanes peuvent mettre en oeuvre et utiliser les LAPI uniquement dans le cadre de la recherche et de la prévention de certaines infractions. Mais rien qu’avec cela, la liste est déjà longue : l’article L. 233-1 du code de la sécurité intérieure vise aussi bien le régime du terrorisme et de la criminalité organisée (qui, rappelons-le, peut aussi être utilisé pour poursuivre des militant·es politiques) que d’autres infractions telles que le vol de véhicule ou la contrebande.

En pratique, les LAPI sont utilisés de deux manières par la police. D’une part, chaque voiture qui passe devant un capteur LAPI installé par la police, la gendarmerie nationale ou les douanes voit sa plaque comparée en temps réel à deux fichiers. Il s’agit du FOVeS (fichier des objets et véhicules volés et signalés) et du fichier N-SIS (système d’information Schengen) qui centralise les informations concernant les personnes et objets signalés par les autorités administratives et judiciaires des États membres2En France, le fichier N-SIS est notamment alimenté par le fichier des personnes recherchées, qui contient entre autres les célèbres « fiches S ». Un certain nombre de personnes (et leurs véhicules) peuvent donc atterrir dans ce fichier, notamment au nom de la « prévention d’une menace grave émanant de l’intéressé ou d’autres menaces graves pour la sûreté intérieure et extérieure de l’État ». L’Anafé rappelle dans sa boite à fichier qu’« il y a un glissement du passage du fichier SIS comme fichier d’identification à un fichier d’enquête policière».. S’il y a une correspondance, alors une alerte est envoyée immédiatement à la police et les données sont conservées pendant un mois supplémentaire. S’il n’y a aucune correspondance, alors la plaque est tout de même conservée pendant 15 jours, contre 8 avant 2024. Pendant ce laps de temps, le système va continuer d’interroger les fichiers fréquemment au cas où le véhicule ou son·sa propriétaire y seraient inscrits après coup.

D’autre part, pendant cette période de 15 jours, les agents de police judiciaire peuvent demander à avoir accès aux données LAPI dans le cadre d’une enquête. Cela leur permet de connaître quelles voitures sont passées à un endroit en particulier ou bien, s’ils recherchent un véhicule spécifique ou les personnes qui sont dedans, de connaître toutes les fois où la plaque de cette voiture a été captée par un LAPI et donc de reconstituer son trajet.

Au-delà des capteurs nationaux réservés au domaine judiciaire, la police peut également exiger d’avoir accès aux données des LAPI utilisés par les municipalités (pour contrôler le stationnement) ou bien ceux des parkings et opérateurs privés d’autoroute. Cela semble être une pratique courante. Par exemple, dans l’enquête sur l’affaire dite « Lafarge Bouc-Bel-Air » visant à retrouver des militant·es s’étant introduit·es dans une usine du cimentier, des photographies de voitures prises au franchissement de péages ont ainsi fait l’objet de réquisitions par les enquêteurs et utilisées pour identifier des personnes.

Aussi, l’emploi de dispositifs LAPI est possible, à titre temporaire, pour « la préservation de l’ordre public, à l’occasion d’événements particuliers ou de grands rassemblements de personnes, par décision de l’autorité administrative ». En théorie, le préfet peut donc autoriser la police à déployer des capteurs mobiles à l’entrée d’un évènement pour lire les plaques d’immatriculation des véhicules qui arrivent et sortent d’une zone donnée. Si ce dispositif existe depuis 2003, nous n’avons pas trouvé d’arrêté, de documentation ou de rapport explicitant le recours à ce dispositif et ses usages concrets. L’étude d’impact du projet de loi RIPOST indique uniquement un usage lors de la Troisième Conférence des Nations unies sur l’Océan en juin 2025 tandis que lors des débats en commission, les sénateurs ont mentionné l’utilisation de ces LAPI temporaires pour les sommets du G8 ou des matchs de la Coupe du monde.

En 2016, une réforme de la justice a autorisé la consultation de trois autres fichiers via ce traitement de données : le système d’immatriculation des véhicules qui permet d’associer le numéro de plaque avec l’identité civile du propriétaire ; le système de contrôle automatisé (SCA) qui collecte les informations liées aux infractions routières et aux amendes forfaitaires délictuelles ; ainsi que les traitements de données relatives à l’assurance des véhicules. Aussi, de nombreuses informations peuvent y être collectées comme la marque, le modèle ou la couleur des véhicules signalés.

La centralisation, « game changer »

En 2024, l’échelle de cette surveillance a basculé sans que cela ne provoque de vrai débat public. Le cadre légal décrit ci-dessus est resté quasiment le même, mais sa mise en œuvre pratique a été fortement modifiée. Cette année-là, le projet du Système de traitement central LAPI (ou STCL), en construction depuis dix ans, a vu le jour. Comme son nom l’indique, ce dispositif récupère et centralise l’ensemble des informations récupérées par les capteurs LAPI de l’État afin de les rendre accessibles depuis un même endroit. Cela permet aux policiers et gendarmes de consulter – en temps réel et sur une plateforme unique – l’ensemble des LAPI du territoire national. En somme, depuis un poste informatique, les autorités peuvent savoir où et quand tel véhicule est passé, dès lors qu’il aura été flashé par des LAPI.

Vu comme un véritable « game changer » par la gendarmerie nationale, selon ses propres mots, le STCL est effectivement un tournant de facilitation de la surveillance. Puisque jusque-là chaque traitement était autonome et isolé, la police devait faire ses réquisitions sur un capteur précis, préalablement identifié, pour récupérer les données. Cela permettait de limiter l’accès aux informations de déplacements de la population. Depuis la mise en place du STCL, l’ensemble des plaques sont accessibles en quelques clics dans le cadre de la recherche et prévention des nombreuses infractions listées plus haut.

La CNIL s’en est inquiétée, mais sans grande ténacité. Dans sa délibération de 2024 sur le STCL, elle alertait sur le fait que « l’ampleur du traitement projeté », « le nombre important de véhicules pouvant être concernés et [l’ampleur] du territoire couvert par l’ensemble des dispositifs LAPI » et la « centralisation des données » impliquaient qu’une « vigilance particulière [devait] être apportée sur tous les aspects de la mise en œuvre d’un tel dispositif. »

Pire encore, le méga fichier du STCL ne contient non pas uniquement les plaques d’immatriculation faisant l’objet d’une alerte, mais la totalité des photos des plaques des véhicules qui passent devant un LAPI, ainsi que la photo éventuelle de leurs occupants. Les chiffres du ministère de l’intérieur permettent de connaître l’ampleur de la surveillance. Celui-ci explique qu’« à chaque instant, la base de données [d’un capteur en activité, conservant chaque plaque pendant 15 jours] contient en moyenne les enregistrements temporaires relatifs à 90 000 véhicules ». En multipliant ce chiffre par le nombre de capteurs de l’État – environ 700 d’après le rapport du Sénat – cela signifie donc que le STCL contient déjà plus de 60 millions de photos de plaques d’immatriculation à chaque instant (avec des doublons de véhicules qui peuvent avoir été flashés par différents capteurs). De quoi pouvoir retracer les déplacements de centaines de milliers de personnes et positionner géographiquement des millions de véhicules à un moment donné.

Ouverture des vannes

Si la loi RIPOST est adoptée, cette situation serait encore aggravée. Tout d’abord, l’article 15 de ce texte prévoit d’ajouter de nouvelles infractions au périmètre permettant à la police, à la gendarmerie et aux douanes d’accéder aux données des LAPI. Parmi cette extension, on retrouve l’évasion, l’escroquerie, mais surtout l’aide à l’entrée et au séjour irréguliers, ce qui peut directement viser les militant·es aidant les personnes exilées aux frontières et justifier des usages extensifs des LAPI dans les zones de passages. La CNIL regrette certes que ce dispositif originellement réservé à une certaine catégorie de crimes et délits (terrorisme et criminalité organisée) « tend à se généraliser ». Cependant, cette manœuvre grossière consistant à introduire une technique de surveillance pour un périmètre prétendument ciblé et acceptable puis, petit pas après petit pas, à l’élargir, est devenue la norme et ne surprend plus.

Ensuite, la loi RIPOST propose d’allonger de façon faramineuse la durée de conservation de l’ensemble des données captées par les LAPI. La loi ferait ainsi passer le délai pendant lequel la totalité des plaques sont conservées par défaut, qu’il y ait ou non une correspondance, de 15 jours à… un an. Le gouvernement justifie cela par la volonté de s’aligner sur les législations de nos voisins européens, notamment la Belgique. La CNIL, elle, met en garde dans sa délibération préalable au projet de loi, en rappelant que désormais les données sont centralisées dans le STCL, ce qui donne à cet allongement une proportion colossale. Ainsi, elle constate que « l’allongement significatif des durées de conservation […] conduirait à conserver environ 700 millions de plaques d’immatriculation ». Il existerait donc une base de données unique, regroupant la liste de la quasi-totalité des véhicules roulant en France, associés à leurs nombreux points de passages, géolocalisés et horodatés, sans oublier la potentielle photographie de leurs occupant·es. Il s’agit donc pour l’État de pouvoir remonter jusqu’à un an en arrière dans l’historique des déplacements de ces véhicules et de toutes les personnes empruntant les routes de France.

L’article 15 de la loi RIPOST introduit également une nouvelle finalité permettant à la police de consulter encore plus facilement les informations liées aux trajets des véhicules sur les routes. Cet accès ne serait plus réservé aux correspondances avec des fichiers ou à une enquête judiciaire. Désormais des agents de police et de gendarmerie pourraient y avoir accès aussi « aux fins de prévenir et de réprimer les actes de terrorisme et de faciliter la constatation des infractions s’y rattachant », le tout pendant un mois après l’enregistrement de la plaque. Cette nouvelle disposition ouvre donc l’accès au STCL à des fins administratives sans avoir à justifier d’une enquête spécifique, c’est-à-dire sans aucun contrôle d’un juge, ni même du ministère public, ni aucun procès verbal à verser dans un dossier judiciaire. Non seulement cet objectif est très large, mais dès lors qu’aucune justification n’est demandée aux agents, tout laisse à penser qu’il s’agit d’un accès open bar aux données des LAPI.

Enfin, lors du passage au Sénat, les parlementaires et le gouvernement ont introduit une nouvelle technique de surveillance à l’article 15bis. Cette fois-ci il s’agit d’ouvrir un accès aux services de renseignement sur ces informations liées aux LAPI et aux déplacements des personnes. En dehors de toute enquête pénale, et sans avis de la Commission nationale de contrôle des techniques de renseignement (CNCTR), ceux-ci pourraient conserver pendant 4 mois les données des LAPI afin de pouvoir les analyser de manière automatisée, c’est-à-dire au moyen d’un algorithme.

Ce logiciel aurait pour but de détecter « les mouvements de véhicules susceptibles de révéler » certaines infractions de criminalité organisé ou vol de véhicules. En d’autres termes, il s’agit d’une volonté similaire aux boîtes noires de renseignement et à la vidéosurveillance algorithmique, prétendument capable de trouver les comportements « suspects ». Avec la loi RIPOST, il s’agirait désormais de trouver les « mouvements de véhicules suspects ».

Le gouvernement continue de surfer sur le mythe de l’IA magique et inoffensive. Pourtant cette nouvelle « boîte noire » de surveillance routière ne sera pas mieux documentée que celle des précédents projets d’analyse de comportements ou de communications. Si le fonctionnement concret de ce nouveau type de surveillance semble donc très obscur, il sera difficile d’en savoir plus dès lors qu’il est prévu que le décret d’application ne soit pas publié et reste donc secret. De plus, comme pour les autres projets de surveillance, les quelques garanties affichées, comme le caractère expérimental ou l’élaboration d’un rapport d’évaluation ne servent qu’à rendre acceptable sur le papier une technique qui présente des risques vertigineux pour le contrôle de la population et favorise les utilisations abusives et répressives.

Mettre les municipalités à contribution

Si l’État veut intensifier cette surveillance, il lui faut également démultiplier les capteurs LAPI : avec plus de données, il est possible de localiser plus de véhicules et de tracer plus finement les trajets. Le projet de loi RIPOST vise donc à mettre les villes à contribution, ce qui est aujourd’hui difficile à la fois d’un point de vue juridique et financier.

En effet, depuis plusieurs années, la CNIL et le Conseil d’État rappellent que les communes n’ont pas le droit d’utiliser les LAPI des caméras de la ville (prévus pour sanctionner les délits de stationnement par exemple) à des fins de recherche et de constatation d’infraction, prérogative réservée à la police et la gendarmerie nationale. Leur seule manière de collaborer est de mettre gracieusement des capteurs à disposition, sans y avoir accès. Or ces installations coûtent cher, de 15 000€ à 30 000€ par caméra de surveillance, selon les technologies utilisées, d’après le rapport de la commission des lois sur la proposition de loi de M. Rochette, et les contraintes budgétaires des communes, de plus en plus grandes, ne les incitent pas à faire « cadeau » à l’État de capteurs qu’elles ne pourront pas utiliser elles-mêmes.

Les deux sénatrices rapporteures du texte ont donc introduit la possibilité pour les communes de conclure des conventions avec l’État afin qu’elles mettent à disposition de la police les données collectées via les systèmes LAPI installés sur les caméras de la ville. Repris tel quel depuis la proposition de loi sénatoriale de 2025, ce mécanisme permet de contourner l’interdiction juridique. Ces conventions permettront également à l’État d’indiquer à quel endroit les capteurs LAPI devraient être installés dans les villes tout en prévoyant des « modalités de financement ». Du donnant-donnant. Le rapport sur la proposition de loi explique que la police, la gendarmerie et les douanes « sont davantage intéressées par la mise en œuvre d’un maillage fin, au cas par cas, lié aux besoins réels sur le terrain » que par le fait d’obliger toutes les communes à installer des LAPI, comme cela avait initialement été envisagé. Autrement dit, les villes sont déjà suffisamment surveillées par des caméras et les autorités préfèrent faire des commandes sur-mesure des points de passage stratégiques.

Ce même type de convention serait également autorisé avec les concessionnaires d’autoroutes et exploitants de parkings. Au final, il s’agit donc d’étendre encore plus la masse de données accessibles qui, rappelons-le, était déjà conséquente et deviendrait tentaculaire.

Une surveillance de masse des déplacements

Jamais vraiment traitée dans le débat public en France, la centralisation des données LAPI est en réalité un dispositif de surveillance de masse – au sens littéral du terme. En effet, son périmètre (toutes les personnes qui détiennent ou utilisent un véhicule immatriculé) et le volume de données collectées (plusieurs millions par an) empêchent de qualifier cette surveillance de « ciblée » ou « limitée ». L’ensemble de la population est touché, d’autant que les capteurs semblent installés sur des voies très utilisées, voire incontournables dans certains territoires (abord de ponts, axes principaux…).

De plus en plus facile d’accès, cette base de donnée peut révéler les emplacements et déplacements des personnes à grande échelle, être utilisée pour du suivi en temps réel ou pour conserver en mémoire des passages de véhicules pendant une année. Bien que réservé aux trajets routiers, ce pouvoir doit être empêché ou bien drastiquement réduit. La création du fichier centralisé (STCL) en 2024 était déjà préoccupante pour les libertés. La situation qui résulterait de l’adoption de la loi RIPOST est extrêmement dangereuse dans un contexte de dérives autoritaires marquées.

Les États-Unis, un exemple à ne pas suivre

Ces risques ne sont pas hypothétiques, la presse indépendante et les associations de défense des libertés étasuniennes documentent ces dernières années les abus graves des systèmes LAPI, semaine après semaine. Aux États-Unis, ces dispositifs sont notamment mis en place par l’entreprise « Flock Safety » qui déploie une majorité des caméras LAPI (en anglais ALPR pour Automated Licence Plate Reader) et dispose de partenariats avec les forces de l’ordre.

De nombreux abus sont d’ores et déjà documentés aux États-Unis. La police classique les utilise à des fins racistes de contrôle des population de voyageur·euses quand les agents de la milice ICE s’en servent pour traquer les personnes étrangères. Les manifestations politiques comme les marches « No Kings » s’opposant à la politique de Trump sont surveillées. Les États anti-IVG les exploitent pour retrouver les personnes ayant avorté. Les faux positifs aboutissent à des interpellations illégitimes. Des policiers détournent les LAPI à des fins personnelles. Sans compter les problèmes de sécurité informatique et de transparence qu’impliquent cette technologie.

De nombreuses voix se sont élevées contre cet outil de surveillance, notamment au travers des campagnes Deflock et NoALPR mais aussi par la destruction de matériel, des recours juridiques ou encore des villes qui ne veulent pas continuer leurs contrats avec cette entreprise. Plutôt que de permettre maintenant ces usages et ces abus pour ensuite devoir lutter pour les empêcher, il faut au contraire tout faire pour que cet outil de contrôle ne soit pas renforcé.

Alors que les lecteurs automatiques de plaques d’immatriculation se sont déployés à bas bruit et que leur exploitation s’est centralisée, la loi RIPOST appuie sur l’accélérateur. Présentés à l’origine comme un dispositif ciblé, les LAPI ont désormais changé d’échelle. La simplicité de détection et d’exploitation des plaques d’immatriculation, couplée aujourd’hui à une centralisation et, demain, à une analyse algorithmique, décuple les possibilités de contrôle étatique. Cette surveillance massive porte atteinte à la liberté d’aller et venir et favorise les utilisations arbitraires. La Quadrature du Net appelle donc à la suppression des articles 15 et 15 bis du projet de loi RIPOST, et à ce que la lumière soit mise sur ce système de surveillance de masse des déplacements.

 


Pour aider la Quadrature à continuer sa lutte contre la surveillance de masse permise par des systèmes comme les LAPI, n’hésitez pas à nous soutenir financièrement par un don !

Aussi, nous invitons plus généralement toutes les personnes qui souhaitent lutter contre le déploiement de ces outils à se mobiliser. À l’image de la campagne Deflock aux États-Unis, de nombreuses pistes d’actions peuvent être envisagées :

  • documenter les appareils mis en œuvre sur le territoire français (quels constructeurs, quelles spécificités matérielles… ;
  • contribuer à améliorer les informations déjà présentes sur OpenStreetMaps (type de capteurs, orientation…) et compléter les capteurs LAPI non encore indiqués ;
  • lutter aux échelles locale et municipale pour empêcher le déploiement de nouveaux capteurs LAPI (même à des fins de contrôle du stationnement), d’éventuelles conventions de partage de données ou bien de remettre en cause les caméras et conventions existantes ;
  • si vous disposez d’informations non publiques, par exemple sur les pratiques de réquisitions judiciaires LAPI, ou de simples demandes officieuses aux acteurs privés qui opèrent des LAPI ou bien en général sur les usages policiers ou judiciaires, nous disposons d’une plateforme sécurisée : https://technopolice.fr/leak/

References[+]

References
↑1 Dans le rapport de la commission des lois du Sénat, on peut lire qu’au « 28 août 2025, les services des trois administrations – police et gendarmerie nationales, douanes – exploitent 480 LAPI fixes » et que et que « les services des douanes bénéficient de leur propre parc de dispositifs LAPI implantés sur les axes routiers, au nombre de 175 – chacun comprenant trois ou quatre capteurs – en 2025, avec un objectif de 200 dispositifs pour fin 2027 ». Il est également mentionné l’existence de « 98 LAPI mobiles et 23 LAPI transportables ».
↑2 En France, le fichier N-SIS est notamment alimenté par le fichier des personnes recherchées, qui contient entre autres les célèbres « fiches S ». Un certain nombre de personnes (et leurs véhicules) peuvent donc atterrir dans ce fichier, notamment au nom de la « prévention d’une menace grave émanant de l’intéressé ou d’autres menaces graves pour la sûreté intérieure et extérieure de l’État ». L’Anafé rappelle dans sa boite à fichier qu’« il y a un glissement du passage du fichier SIS comme fichier d’identification à un fichier d’enquête policière».

Derrière la vérification d’âge sur les réseaux sociaux, la généralisation du contrôle d’identité en ligne

Le Parlement s’apprête à voter une proposition de loi qui veut interdire d’accès aux réseaux sociaux les jeunes de moins de 15 ans. Sous couvert de protection des mineur·es, ce texte imposerait à toute personne souhaitant accéder à ces plateformes de prouver leur âge. Derrière cette vérification d’âge se cache en fait un contrôle d’identité, que la France et la Commission européenne poussent chacune de leur coté pour le généraliser à l’échelle de l’Union européenne. Avec comme conséquence une remise en cause toujours plus grande du droit à l’anonymat en ligne.

Un mouvement global d’interdiction des réseaux sociaux aux jeunes

Ce n’est pas la première fois que des dirigeants essayent d’introduire une vérification d’âge sur internet. En France, les contenus pornographiques ne doivent pas être accessibles aux mineur·es. Jusqu’en 2020, les plateformes pornographiques demandaient aux internautes une auto-déclaration, c’est-à-dire de cliquer sur un bouton « J’ai plus de 18 ans ». Puis, une loi de 2020 a précisé que cette auto-déclaration n’était pas suffisante. Cette loi n’a toutefois jamais été appliquée faute de possibilités techniques. Autre tentative en 2023, la loi Marcangeli, a voulu créer un système d’autorisation parentale avant qu’un·e mineur·e de moins de 15 ans puisse se créer un compte sur un réseau social. Mais cette loi non plus n’est jamais entrée en application car le législateur, doutant fortement de sa conformité au droit de l’UE, a conditionné son application à un feu vert de la Commission européenne qui n’est jamais arrivé.

Puis, en 2024, la loi dite « SREN » (pour « sécuriser et réguler l’espace numérique ») a changé la donne. Depuis cette loi, les plateformes proposant du contenu pornographique doivent vérifier l’âge des internautes, une auto-déclaration ne suffisant plus. Surtout, depuis cette loi, lorsqu’une plateforme ne vérifie pas l’âge des internautes, ce n’est plus la justice qui décide de la sanction (une censure et une amende), mais l’Arcom, l’autorité administrative chargée, entre autres, de réguler la télévision. La loi SREN est donc la première loi à réellement imposer une vérification d’âge en ligne, pour l’instant cantonnée aux contenus pornographiques (même si le ministre du numérique de l’époque, Jean-Noël Barrot, se rêvait l’imposer aussi aux réseaux sociaux).

En dehors de la France, nous assistons également à un mouvement général d’interdiction des réseaux sociaux aux mineur·es. Au niveau de l’Union européenne d’abord, rappelez-vous du règlement Chat Control qui voulait imposer de scanner les correspondances échangées sur les messageries chiffrées. Si ce volet a certes été repoussé en raison de l’absence croissante de soutien des États membres et du Parlement européen, le texte comporte toujours une obligation faites aux magasins d’application (Apple Store, Google Play, Microsoft Store, etc.) d’empêcher leurs utilisateur·rices de télécharger certaines applications si ils ou elles sont mineur·es. Aux États-Unis, la moitié des États obligent les sites pornographiques à vérifier l’âge de leurs utilisateur·rices. La Grande-Bretagne est même allée plus loin, puisque depuis l’été 2025 et l’entrée en application de l’Online Safety Act, ce sont tous les contenus dits « harmful » (dangereux) qui doivent être cachés derrière des systèmes de vérification d’âge (une notion particulièrement floue qui a conduit au blocage de contenus sur le génocide à Gaza ou sur la guerre en Ukraine). L’Australie également s’est lancée dans la course à l’échalote de la vérification d’âge sur les réseaux sociaux : depuis fin 2025, une loi interdit aux mineur·es de moins de 16 ans d’avoir un compte sur un réseau social. Mais, de l’aveu même du régulateur australien, cette loi n’empêche cependant pas les deux-tiers des mineur·es concerné·es de réussir à contourner l’interdiction. La course est également lancée au sein des pays européens. L’Espagne, l’Autriche, la Grèce, la partie flamande de la Belgique, ou encore le Danemark ont annoncé leurs lois pour interdire aux mineur·es l’accès aux réseaux sociaux. Le chancelier allemand est également favorable à une telle mesure.

À Paris comme à Bruxelles, la volonté de bannir les mineur·es d’internet

Côté français, l’attaque vient du gouvernement et de son groupe parlementaire, appuyé par la droite et une partie de la gauche. Fin 2025, la députée EPR Laure Miller présentait une proposition de loi visant à interdire l’accès aux réseaux sociaux aux mineur·es de moins de 15 ans. La version initiale du texte prévoyait même l’instauration d’un « couvre-feu » numérique pour les mineur·es, qui n’est pas sans rappeler une mesure similaire en vigueur depuis 2019 en Chine et visant les services de jeux vidéo en ligne.

Le gouvernement a rapidement fait sienne cette proposition de loi. Il l’a inscrite sur le temps parlementaire dédié au gouvernement, a demandé au Conseil d’État un avis sur le texte, puis a enclenché la procédure accélérée pour qu’il n’y ait qu’une seule lecture par l’Assemblée nationale et le Sénat. Suite à l’avis très critique du Conseil d’État, l’autrice de la proposition de loi a réécrit en partie son texte et a supprimé le couvre-feu numérique. Puis, en séance publique à l’Assemblée, le gouvernement a lui aussi réécrit le texte : il a préféré instaurer une obligation de contrôle d’âge pour tous les réseaux sociaux, là où l’autrice de la proposition de loi suggérait plutôt un système de liste où seules les plateformes inscrites dessus par le gouvernement auraient dû vérifier l’âge des internautes. Une fois voté par l’Assemblée nationale, le texte est passé au Sénat, qui l’a validé dans son principe mais en revenant à un système de liste, contre l’avis du gouvernement. Nous attendons désormais que la commission mixte paritaire (CMP), qui réunit sept sénateur·ices et sept député·es, se réunisse pour se mettre d’accord sur un texte commun que les deux chambres du Parlement voteraient ensuite définitivement.

Côté européen aussi, l’offensive pour instaurer un contrôle d’âge en ligne s’est accéléré. Mi-avril, la Commission européenne a, par la voix de sa présidente Ursula von der Leyen et de sa commissaire à la société numérique Henna Virkkunen, annoncé le lancement d’une application de vérification d’âge, qui était en développement depuis l’année dernière. Cette application n’est pas destinée à être directement utilisée par les internautes, mais sert de vitrine technique à destination des États membres : l’objectif est de montrer qu’il est techniquement possible de faire de la vérification d’âge en ligne, afin de les inciter à suivre ce mouvement en leur offrant une « brique technique » clé en main.

« Double-anonymat », double-tromperie

Techniquement, l’application de la Commission européenne repose sur un concept cryptographique appelé « ZKP », pour zero knowledge proof, ou preuve à divulgation nulle de connaissance. Il s’agit d’un concept en réalité très simple : une attestation d’âge est délivrée par un tiers de confiance. Avec ce système, lorsqu’une plateforme en ligne veut confirmer l’âge d’un internaute, elle va confier cette tâche à un tiers, c’est-à-dire une entreprise sous-traitante qui, elle, procédera à la vérification d’âge pour le compte de la plateforme. Concrètement, l’internaute est redirigé temporairement vers le site internet de ce tiers le temps de procéder à la vérification d’âge. À l’issue du contrôle, le tiers redirige l’internaute vers le site internet qu’il ou elle voulait initialement consulter, et transmet en même temps à la plateforme un jeton signé électroniquement indiquant que l’internaute a l’âge requis. En confiant la vérification d’âge à un tiers, le but est d’ajouter une couche de confidentialité : la plateforme en ligne n’a pas connaissance des informations qui ont permis au tiers de faire cette vérification d’âge, et le tiers n’est pas censé savoir à quoi sert l’attestation qu’il délivre. Est-ce une bonne chose pour autant ? Absolument pas.

Parce que ce système repose, par essence, sur un contrôle d’identité. Pour vérifier l’âge d’une personne, il existe principalement deux techniques : la vérification des papiers d’identité (l’internaute prend en photo un titre d’identité sur lequel sa date de naissance est visible) ou l’utilisation d’une identité numérique d’État (par exemple, en France, en se connectant à l’aide de France Connect). Dans les deux cas, pour prouver son âge, il faut être en capacité de prouver son identité civile. Ce contrôle d’identité n’est, certes, pas fait directement par la plateforme et celle-ci ne pourra pas connaître l’identité réelle de l’internaute (en théorie), mais il force malgré tout l’internaute à divulguer son identité avant de pouvoir accéder à un service en ligne. Certains sites utilisent une troisième technique pour vérifier l’âge qui n’implique pas de connaître l’identité civile de l’internaute : il s’agit de la technique d’estimation d’âge (la personne prend son visage en vidéo et un traitement biométrique estime, à la grosse louche, l’âge de la personne), mais cette méthode est notoirement défaillante1C’est pour cette raison que la CNIL l’a interdite pour les bureaux de tabac., notamment parce qu’il ne sera jamais possible de faire coïncider une réalité juridique (l’âge, calculé de la même manière pour tous·tes, qui ouvre des droits) avec une réalité biologique (chaque personne vieillit différemment)2Il existe d’autres techniques pour faire de la vérification d’âge : obliger l’internaute à effectuer un paiement avec une carte bancaire (ce qui ne fonctionne pas si les mineur·es ont accès à ce moyen de paiement), analyser le comportement de navigation (c’est-à-dire qu’une machine espionne la navigation d’un internaute pour dire si cela correspond à un·e mineur·e ou pas), ou analyser la forme de la main (au lieu du visage). Mais ces technologies, en plus d’être pour certaines inapplicables en pratique ou de constituer une surveillance vraiment disproportionnée, sont particulièrement imprécises et, de ce fait, leur usage reste aujourd’hui marginal.. En raison de leur absence de fiabilité3Une récente étude britannique vient par exemple de mettre en évidence le fait que se dessiner une moustache sur le visage peut permettre de tromper le système. Le media Next a également mis en évidence le fait que des vidéos issues de banques d’images sont validées par certains dispositifs d’estimation d’âge., on peut s’attendre à ce que la technique d’estimation d’âge soit progressivement exclue pour vérifier l’âge en ligne.

Ainsi, contrairement à ce qu’affirme la présidente de la Commission européenne, la technique du ZKP n’est aucunement une manière « complètement anonyme » de prouver son âge. Il ne s’agit pas d’une opération indolore puisque tous·tes les internautes souhaitant accéder à un réseau social devront présenter leur identité à ce tiers : pour empêcher les mineur·es d’accéder à des réseaux sociaux il faut bien entendu contrôler l’âge de toute personne voulant se faire un compte, et donc leur identité.

En France, la guerre des mots va encore plus loin puisque les pouvoirs publics parlent même de « double-anonymat », laissant penser que la technique du ZKP permettrait d’offrir deux fois plus d’anonymat. Cet élément de langage a notamment été mobilisé à partir de 2023 par Jean-Noël Barrot, alors ministre du numérique qui planchait sur la loi SREN. C’est ensuite la CNIL qui a adopté ce terme dans une étude technique. Enfin, l’Arcom a suivi le mouvement dans son référentiel des techniques utilisables pour procéder à la vérification d’âge dans le cadre de la loi SREN. Redisons-le : le « double-anonymat » n’offre aucun anonymat. Au mieux, il offre une étanchéité des données entre la plateforme qui exige une preuve d’âge et le tiers vérificateur d’âge. Mais c’est à la condition que ce cloisonnement soit techniquement correctement réalisé, ce qui n’est pas toujours le cas : en 2025, AI Forensics révélait que AgeGo, une entreprise vérifiant l’âge pour de nombreux sites pornographiques, collectait l’URL complète de la vidéo que l’internaute souhaitait consulter, foulant ainsi aux pieds la promesse technologique de cloisonnement. Après l’enquête de AI Forensics, l’entreprise a limité les données collectées et connaît « seulement » le site auquel l’internaute souhaite accéder.

De plus, la vérification d’âge mettra de côté bon nombre de personnes, et pas seulement les mineur·es. Et le fait que ce contrôle d’identité soit effectué par un tiers ne résoudra pas ce problème. En particulier, les personnes qui n’ont pas de carte d’identité, par exemple certaines personnes migrantes, seront exclues des plateformes qui décideront de faire de la vérification de titres d’identité. Celles qui ne maîtrisent pas assez bien la technologie et qui ne comprendront pas pourquoi elles doivent se prendre en selfie, alors qu’elles veulent simplement voir les photos de vacances postées dans un groupe familial sur un réseau social, abandonneront lorsqu’un service en ligne exigera une estimation d’âge. Sans oublier que les personnes non-blanches, déjà victimes de systèmes automatisés pensés et testés par des ingénieurs blancs, seront encore plus discriminées par des systèmes qui reproduisent par nature les biais sexistes et racistes de nos sociétés.

Le résultat sera que les internautes seront face à un dilemme : liberté d’expression ou vie privée. Nous devrons, demain, choisir entre sacrifier notre vie privée pour nous exprimer en ligne, ou bien abandonner notre liberté d’expression pour nous protéger de fuites de données qui arriveront nécessairement, à l’image de ce qui s’est passé pour 70 000 utilisateur·rices de Discord. Et ce n’est pas le « double-anonymat » qui changera cela.

Un système illégal

Il y a pas que la structure technique qui est bancale : la justification juridique pour pousser l’outil dans l’Union européenne l’est tout autant. Dans l’UE, le Digital Services Act (DSA, ou « règlement sur les services numériques ») est le principal texte qui régule les plateformes en ligne. Il comporte à son article 28 une obligation faite aux plateformes de prendre des mesures pour garantir aux mineur·es « un niveau élevé de protection de la vie privée, de sûreté et de sécurité des mineurs sur leur service ». Autrement dit, le DSA impose aux plateformes de rendre leur espace en ligne sûr, pour que les mineur·es puissent utiliser leurs services en toute sécurité, par exemple avec des règles de modération particulières ou des paramètres de confidentialité restreints par défaut.

Pourtant, pour faire passer leur vérification d’âge, la France et la Commission européenne se basent sur une interprétation farfelue de cet article 28. La Commission estime en effet que ce texte permettrait d’imposer une obligation de vérification d’âge pour empêcher les mineur·es d’accéder à certaines plateformes. Il s’agit pourtant là d’une interprétation contraire à l’esprit de cet article : empêcher les mineur·es d’accéder à un réseau social, ce n’est pas leur offrir un espace en ligne sûr, c’est les exclure d’un lieu.

Encore plus éclairant : le paragraphe 3 de l’article 28 du DSA précise qu’il « n’impose pas aux fournisseurs de plateformes en ligne de traiter des données à caractère personnel supplémentaires afin de déterminer si le destinataire du service est un mineur ». Une obligation de vérification d’âge consiste pourtant en l’inverse : c’est obliger une plateforme à traiter des données de tout le monde (même si cela se fait via un tiers), pour exclure les mineur·es.

L’article 28 du DSA est donc détourné et ne constitue pas une base juridique suffisante en droit de l’UE pour imposer cette vérification d’âge, contrairement à ce que défend la Commission. Et puisque le droit de l’UE exige également que la régulation des plateformes en ligne se fasse en principe à l’échelle européenne (on appelle cela le « domaine coordonné »), cela veut dire que les États membres ne peuvent pas agir pour autant à leur niveau.

Une affaire en cours de jugement devant la Cour de justice de l’Union européenne (CJUE) et qui concerne l’obligation de vérification d’âge imposée en France pour les contenus pornographiques par la loi SREN vient rappeler ce principe. Dans cette affaire, la loi SREN est accusée de ne pas respecter le domaine coordonné. Or, l’avocat général (le juge chargé d’éclairer la juridiction, même si cette dernière n’est pas liée par ses conclusions) a sérieusement mis en doute la conformité de la loi française au droit de l’Union4C’est aussi ce que nous disions dès les débats législatifs français.. Si la Cour suivait ce raisonnement, c’est tout un pan de la vérification d’âge qui tomberait car la France n’a aucune liberté d’agir5La position de l’avocat général n’est pas nouvelle puisque la CJUE avait déjà rappelé à l’ordre l’Autriche en 2023 pour cette même raison : un État membre ne peut légiférer dans son coin en matière de régulation des contenus en ligne.. C’est peut-être en raison de ces incertitudes juridiques que la Commission vient tout juste de laisser entendre qu’elle est en train de travailler sur un projet de règlement européen pour permettre explicitement aux États membres d’imposer une vérification d’âge.

Au-delà de la coordination entre droit national et droit de l’UE, il ne faut pas oublier pour autant qu’une vérification d’identité porte une atteinte extrêmement grave à la liberté d’expression et au droit au respect de la vie privée, et qu’une loi européenne ne changera rien à cela. Rappelons que le principe sur internet est l’anonymat : contrairement à une croyance que se plaisent à répandre les autorités, il existe bel et bien un droit à l’anonymat en ligne, entendu comme le droit de ne pas faire l’objet d’une surveillance lorsqu’on navigue sur internet. Ainsi, la directive e-commerce (qui a précédé le DSA mais qui est toujours en vigueur) rappelle que le principe est « l’utilisation anonyme de réseaux ouverts tels qu’Internet ». Pour la CJUE, cela signifie que « les utilisateurs des moyens de communications électroniques sont en droit de s’attendre, en principe, à ce que leurs communications et les données y afférentes restent, en l’absence de leur consentement, anonymes et ne puissent pas faire l’objet d’un enregistrement. » La Cour européenne des droits de l’Homme (CEDH) partage cet avis en rattachant ce principe à la liberté d’expression. Or, exiger d’une personne qu’elle justifie son identité avant de pouvoir s’exprimer en ligne, c’est l’exact opposé de l’anonymat : c’est l’identification préalable à l’utilisation d’une plateforme.

Les États contre l’internet artisanal

N’oublions pas que l’idée de contrôler l’identité des internautes pour bannir les mineur·es vient du fait que le danger des plateformes commerciales est de plus en plus largement admis et que la législation actuelle se montre insuffisante. En 2025, Amnesty International dénonçait le fait que l’algorithme de Tiktok mettait en avant pour les adolescent·es des contenus relatifs au suicide (attention, le rapport d’Amnesty International est difficile à lire). Mais les dangers de ces plateformes ne sont pas limités aux plus jeunes, d’ailleurs parfois mieux outillés que les adultes face à ces problèmes. Depuis son rachat par le milliardaire néo-nazi Elon Musk, X est devenu un lieu d’influence de l’extrême droite et son algorithme sert à la manipulation politique (ce qui a poussé le parquet de Paris à demander la mise en examen de la société X, de son ancienne directrice générale Linda Yaccarino et d’Elon Musk). Cette année, Meta et Google ont été condamnés aux États-Unis en raison des dangers de leurs algorithmes de recommandation fondés sur des mécanismes d’addiction. Il ne s’agit-là que des exemples les plus récents du danger, y compris pour les adultes et nos démocraties, des réseaux sociaux commerciaux.

Et la réaction des États ? Bannir les mineur·es pour faire semblant d’agir mais ne surtout pas s’attaquer au fond du problème qu’est le modèle économique de ces réseaux sociaux. Parce qu’il s’agit d’entreprises commerciales dont l’objectif est de maximiser le profit, les réseaux sociaux commerciaux se rémunèrent sur la publicité en ligne. Il faut donc non seulement que les publicités affichées soient le plus ciblées possible (cela nécessite donc une surveillance la plus intrusive possible), mais il faut également en afficher le plus possible. Plus les personnes restent longtemps sur une plateforme, plus elles verront de publicités. C’est pour cela que les réseaux sociaux commerciaux essaient de susciter l’addiction, avec des interfaces conçues à cette fin (par exemple par le doom scroling, c’est-à-dire un fil d’actualités qui ne finit jamais) et des contenus haineux qui feront réagir.

À l’inverse, ce n’est pas pour rien qu’il n’existe pas d’algorithme de recommandation sur les réseaux sociaux fédérés tels que Mastodon : l’algorithme, c’est vous. Ce qui importe dans les réseaux sociaux non commerciaux, c’est la qualité de la discussion, pas la capitalisation boursière et les dividendes. L’humain·e est au centre des préoccupations de ces réseaux, pas le fait de savoir comment optimiser au mieux avec une IA les retombées économiques. Et pourtant, ces réseaux sociaux non commerciaux sont mis en danger par les obligations de vérification d’âge.

Dans le texte voté par l’Assemblée tel qu’issu de la réécriture faite par le gouvernement, tout « service de réseaux sociaux en ligne » à l’exception des encyclopédies en ligne et des forges logicielles devra vérifier l’âge de ses utilisateur·rices. Aucune taille minimale n’est exigée, ni aucune caractéristique autre qu’être un « service de réseaux sociaux en ligne »6C’est un autre texte européen, le Digital Markets Act (DMA, règlement sur les marchés numériques), qui définit cette notion : il s’agit d’« une plateforme permettant aux utilisateurs finaux de se connecter ainsi que de communiquer entre eux, de partager des contenus et de découvrir d’autres utilisateurs et d’autres contenus, sur plusieurs appareils et, en particulier, au moyen de conversations en ligne (chats), de publications (posts), de vidéos et de recommandations ».. Le champ d’application particulièrement large de la proposition de loi française signifie que toute plateforme permettant de se créer un compte puis de communiquer sera concernée, incluant donc les réseaux sociaux interopérables tels qu’une instance Mastodon ou Peertube.

Cette proposition de loi pose donc un sérieux problème pour l’internet que nous voulons défendre : contrôler l’identité des internautes est incompatible avec les valeurs que défendent les petits réseaux sociaux décentralisés. Elle offre une réponse inadaptée à un problème issu du mode de fonctionnement des réseaux sociaux commerciaux qu’on ne retrouve pas ailleurs. C’est l’internet artisanal, décentralisé, fabriqué humainement de bric et de broc, qui est mis en danger.

La vérification d’âge et le contrôle d’identité qu’elle implique sont la traduction d’une vision autoritariste de la régulation des contenus en ligne et d’une défiance envers les jeunes. Ces politiques ne peuvent mener qu’à plus d’arbitraire et de censure, comme ce fut le cas au moment des révoltes suite à la mort de Nahel Merzouk, ou du blocage de Tiktok en Nouvelle-Calédonie. La suite autoritaire logique à cette proposition de loi est déjà connue : après les réseaux sociaux, le gouvernement compte forcer les fournisseurs de VPN (principal outil pour contourner les mesures de vérification d’âge) à procéder à leur tour à une vérification d’âge. Pourtant, une autre réponse que le contrôle et la surveillance existe : forcer les plateformes à changer leur mode de fonctionnement, remettre en question le contrôle qu’elles exercent sur leurs communautés en les forçant à s’ouvrir, grâce à l’interopérabilité. Alors pour nous aider à continuer la lutte, vous pouvez nous aider par un don.

References[+]

References
↑1 C’est pour cette raison que la CNIL l’a interdite pour les bureaux de tabac.
↑2 Il existe d’autres techniques pour faire de la vérification d’âge : obliger l’internaute à effectuer un paiement avec une carte bancaire (ce qui ne fonctionne pas si les mineur·es ont accès à ce moyen de paiement), analyser le comportement de navigation (c’est-à-dire qu’une machine espionne la navigation d’un internaute pour dire si cela correspond à un·e mineur·e ou pas), ou analyser la forme de la main (au lieu du visage). Mais ces technologies, en plus d’être pour certaines inapplicables en pratique ou de constituer une surveillance vraiment disproportionnée, sont particulièrement imprécises et, de ce fait, leur usage reste aujourd’hui marginal.
↑3 Une récente étude britannique vient par exemple de mettre en évidence le fait que se dessiner une moustache sur le visage peut permettre de tromper le système. Le media Next a également mis en évidence le fait que des vidéos issues de banques d’images sont validées par certains dispositifs d’estimation d’âge.
↑4 C’est aussi ce que nous disions dès les débats législatifs français.
↑5 La position de l’avocat général n’est pas nouvelle puisque la CJUE avait déjà rappelé à l’ordre l’Autriche en 2023 pour cette même raison : un État membre ne peut légiférer dans son coin en matière de régulation des contenus en ligne.
↑6 C’est un autre texte européen, le Digital Markets Act (DMA, règlement sur les marchés numériques), qui définit cette notion : il s’agit d’« une plateforme permettant aux utilisateurs finaux de se connecter ainsi que de communiquer entre eux, de partager des contenus et de découvrir d’autres utilisateurs et d’autres contenus, sur plusieurs appareils et, en particulier, au moyen de conversations en ligne (chats), de publications (posts), de vidéos et de recommandations ».

Projet de loi SURE : main basse sur les données génétiques par la police

Vous souvenez-vous du kit de test génétique offert par votre proche à Noël ou pour votre anniversaire ? Curieux·se d’en savoir plus sur vos origines, vous avez soigneusement emballé votre échantillon de salive pour l’envoyer à l’étranger. Puis, vous avez reçu les résultats du test, parfois évidents, parfois surprenants, mais surtout peu fiables. Avec le projet de loi « SURE » adopté le 15 avril au Sénat, vos données génétiques, et les millions d’autres récupérées et stockées par les entreprises privées réalisant les tests ADN, majoritairement situées aux États-Unis, pourront être exploitées par la police française à votre insu.

Ce texte, intitulé « Projet de loi sur la justice criminelle et le respect des victimes » et surnommé S.U.R.E. pour « Sanction Utile, Rapide et Effective », est porté par l’actuel ministre de la justice, Gérald Darmanin. Prétextant raccourcir les délais d’enquête et de jugement pour le bien des victimes, il rouvre la boîte de Pandore de l’analyse ADN. En effet, l’article 3 du projet de loi donne le feu vert à une manipulation massive des données génétiques par les services de police.

L’appétit insatiable de l’État pour la collecte de données sur sa population l’amène, à travers ce projet de loi, à rogner les gardes-fous entourant l’utilisation des données génétiques par la police, sans se soucier des dérives du fichage génétique déjà constatées dans d’autres pays.

Extension du fichier de police centralisant l’ADN

En France, l’ADN récolté par les services de police sur les scènes d’infraction (à partir de sang, salive, cheveux…) est conservé dans un endroit spécifique : le fichier national automatisé des empreintes génétiques (ou « FNAEG »). Comme son nom l’indique, ce n’est pas l’intégralité de l’ADN d’une personne qui est stockée dans ce fichier de police mais uniquement son empreinte génétique, soit certaines séquences de son ADN qui la distinguent des autres individus (sachant que 99 % de l’ADN des êtres humains est identique)1Les séquences enregistrées dans le fichier portent uniquement sur les marqueurs non codants de l’ADN, c’est-à-dire les segments d’ADN qui organisent le génome et qui ne sont pas censés révéler les caractéristiques les plus sensibles d’une personne, comme son ethnie ou son état de santé, à l’exception du marqueur du sexe qui lui peut apparaître dans le fichier. À noter que la distinction entre ADN codant et non codant tend aujourd’hui à être remise en question à l’aune des nouvelles découvertes scientifiques, ce qui interroge sur la nature des informations inscrites au FNAEG..

Créé en 1998 en réaction à l’émotion suscitée par l’affaire « Guy Georges », le FNAEG était d’abord destiné à centraliser uniquement les profils génétiques des individus condamnés pour infraction sexuelle. Depuis, son périmètre n’a cessé d’être élargi.

D’une part, la liste des infractions susceptibles de donner lieu à un enregistrement au FNAEG (prévue à l’article 706‑55 du code de procédure pénale) a été progressivement rallongée, s’éloignant de l’esprit initial affiché du fichier qui ne visait que les crimes les plus graves. D’autre part, le relevé des empreintes génétiques n’est plus limité aux personnes condamnées ; il peut notamment concerner une personne suspectée d’avoir commis une infraction, donc présumée innocente. Concrètement, lorsqu’elle est placée en garde-à-vue, des policiers prélèvent sa salive, en extraient l’ADN, reportent les marqueurs distinctifs dans le FNAEG et conservent ses données génétiques. Les données peuvent rester dans le fichier même si elle est innocentée par la suite car il faut que le procureur ou que cette personne en demande expressément la suppression, qui n’a rien d’automatique.

Afin de faciliter la récolte d’ADN, le législateur a créé une infraction spécifique sanctionnant le refus de se soumettre à un prélèvement destiné à alimenter le fichier. Ainsi, une personne simplement soupçonnée d’avoir tagué une affiche, volé des plants d’OGM ou versé de la peinture sur un·e politique peut aujourd’hui voir son empreinte génétique archivée dans le FNAEG, sans son consentement et pendant potentiellement 40 ans.

Résultat de cette boulimie politique pour notre ADN : au 1er janvier 2025, le FNAEG contenait plus de 7,4 millions d’empreintes, dont les trois-quarts appartiennent à des personnes simplement suspectées.

Une pente glissante : le fichage croissant de données ultra sensibles

L’article 3 du projet de loi SURE agrandit encore le champ du FNAEG en y associant de nouvelles infractions. Deux délits interpellent particulièrement : l’aide à l’entrée, à la circulation et au séjour irréguliers ; et le fait de participer à une manifestation ou à une réunion publique en étant porteur d’une arme. Ce faisant, le texte autorise le fichage génétique des militant·es et associations portant secours aux étranger·es ainsi que celui des manifestant·es dans leur ensemble car l’interprétation de la notion d’arme est généralement très large (par exemple, des pancartes ont déjà été qualifiées d’armes par destination).

Outre le coup porté à l’action militante, cette mesure traduit une « stratégie d’extension continue de fichage judiciaire de la population, avec un glissement toujours plus important vers des infractions de plus faible intensité » comme le dénonce le Syndicat de la magistrature. L’Institut national de la santé et de la recherche médicale (INSERM) abonde en ce sens : « Il faut noter une préoccupante dérive sécuritaire présentée comme légitimant le fichage de données individuelles identifiantes. ». La Cnil relève aussi que l’article 3 du projet de loi participe à « banaliser l’usage des données génétiques » dans son avis du 5 mars 2026.

De manière générale, le fichage n’est jamais neutre et le récent scandale de l’usage illégal de la reconnaissance faciale par les policiers, mettant en cause le fichier de traitement des antécédents judiciaires (TAJ), a mis en lumière les dérives d’un tel système de surveillance étatique. L’extension du FNAEG prévue par le projet de loi SURE est particulièrement préoccupante dans la mesure où les données génétiques sont extrêmement sensibles et identifiantes à vie. De plus, il ne s’agit pas de données uniquement personnelles, comme les empreintes digitales, mais de données pluripersonnelles car elles sont transmissibles et partagées par les membres d’une même famille. Or, lorsque le nombre de données génétiques conservées dépasse un certain seuil, il devient possible de déduire les caractéristiques génétiques de l’ensemble d’une population, à l’image de ce qui est sur le point de se produire aux États-Unis à cause de la banalisation des test ADN.

Par conséquent, plus les données versées au FNAEG sont nombreuses, plus la possibilité qu’il soit utilisé à des fins de contrôle de masse ou de discrimination génétique se concrétise. Or, au regard des chiffres de 2025, 11 % de la population française a déjà son empreinte génétique enregistrée au FNAEG (mais il est à noter que ce chiffre prend en compte des doublons). Le FNAEG est donc un danger aussi bien pour sa vie privée individuelle que pour le collectif.

Au-delà de son extension potentielle, l’existence même du FNAEG est actuellement remise en question par la Cour de justice de l’Union européenne (CJUE). En effet, dans l’affaire Comdribus, la CJUE a récemment déclaré contraire au droit de l’UE des relevés systématiques et non motivés des données biométriques par la police (en l’espèce il s’agissait des empreintes digitales, mais le raisonnement peut s’appliquer à l’ADN). Et en 2017 déjà, la France avait été condamnée pour fichage abusif par la Cour européenne des droits de l’Homme. Or, en droit français, il n’existe aucune obligation de motiver les raisons de l’inscription d’une personne au FNAEG, ce qui laisse penser que la France pourrait à nouveau se faire condamner.

Poursuivant sa fuite en avant, le gouvernement ouvre aux services de police l’accès aux bases de données génétiques constituées par des entreprises privées situées à l’étranger notamment grâce aux tests ADN vendus sur Internet.

Piochage tous azimuts dans les stocks d’ADN à l’étranger

En France, tout examen des caractéristiques génétiques dites « constitutionnelles »2La génétique constitutionnelle désigne l’ensemble des informations sur un patrimoine génétique transmis par la voie héréditaire, par opposition à un patrimoine modifié au cours de la vie, en présence de tumeurs cancéreuses par exemple. d’une personne est interdit en dehors du cadre médical ou de la recherche scientifique. Et même dans ce cadre, un examen ne peut être mené sans le consentement explicite de la personne (à la seule exception du dopage où une simple information préalable suffit).

Un individu ne peut donc pas en principe procéder lui-même à un test ADN sans l’intermédiaire d’un professionnel de santé. C’est pourquoi les fameux kits offerts par milliers à Noël sont interdits en France (pour des raisons éthiques mais aussi de fiabilité et de sécurité des données) sous peine d’amende pour les particuliers (article 226-28-1 du code pénal) et de dissolution pour les entreprises proposant ce type de service (article 226-30 du code pénal). Mais, malgré cette interdiction, entre 1,5 et 2 millions de Français auraient transmis leurs données génétiques à des entreprises localisées à l’étranger, principalement aux États-Unis. C’est sur ces données que lorgne désormais le gouvernement.

Afin que la police puisse les exploiter, l’article 3 du projet de loi introduit une nouvelle exception à l’interdiction de procéder à l’examen des caractéristiques génétiques d’un individu : la recherche et l’identification des personnes dans une procédure pénale. Contrairement aux autres exceptions (cadre médical et recherche scientifique), il supprime purement et simplement l’exigence de consentement, sans même lui substituer une obligation d’information comme pour le dopage. Cela signifie que s’il est adopté, une personne pourra avoir son ADN exploitée par la police sans même en être au courant !

Concrètement, cette exception autoriserait la comparaison de l’ADN détecté sur une scène de crime avec des bases de données étrangères et commerciales afin de trouver des parents du suspect pour remonter jusqu’à lui. Cette technique est appelée généalogie génétique d’investigation.

Si aujourd’hui, il est déjà possible de comparer une trace biologique avec celles recensées dans le FNAEG, la faible quantité de marqueurs caractéristiques extraits de l’ADN (une vingtaine) ne permet pas de remonter ou descendre très loin dans la lignée de l’auteur présumé de l’infraction (parents, enfants et frères et sœurs seulement). Avec l’intégration des bases de données commerciales, qui contiennent des milliers de marqueurs (notamment codants donc révélateurs des caractéristiques physiques, entre autres) pour chaque échantillon d’ADN collecté, il deviendrait possible d’avoir une correspondance avec un cousin jusqu’au sixième degré de la personne dont l’identité est recherchée. Aux enquêteur·rices ensuite de remonter la piste de l’inconnu·e en reconstituant l’arbre généalogique de son parent puis en éliminant, via les procédés classiques d’enquête, les membres de la famille dont le profil n’est pas compatible (personne décédée, sexe opposé, âge trop avancé, …). Il s’agit donc d’un enchaînement d’hypothèses à partir d’un lien familial parfois très mince.

En résumé, si vous n’êtes pas fichés dans le FNAEG mais que vous avez effectué un test ADN auprès d’une entreprise du style 23andMe, la police pourra s’en servir pour retrouver votre cousin, grande-tante ou petit-fils et inversement, sans vous avertir. Les banques de données génétiques étrangères et privées deviendraient ainsi une sorte de prolongement du FNAEG, sans les quelques garde-fous associés à ce fichier déjà très critiquable.

Alors que cette technique n’est pas légale aujourd’hui, la police française y a déjà eu recours en sollicitant
son homologue américaine, le FBI, pour accéder aux données génétiques stockées par les entreprises étasuniennes. Darmanin souhaite donc sécuriser un procédé illégal, au mépris du paradoxe juridique et éthique que cela engendrerait. De fait, de nombreux acteur·ices, comme la vice-présidente du comité éthique de l’Inserm, Catherine Bourgain, dénoncent le caractère contradictoire de la mesure dans le journal Le Monde  : « Ce sont des données sensibles, qui concernent toute votre famille, qui sont gérées dans un cadre commercial […] On va autoriser la justice à utiliser des informations génétiques détenues par des entreprises privées étrangères, dont le business est jugé, chez nous, illégal. On marche sur la tête. »

Un accès aux allures de cheval de Troie

Selon le texte, la généalogie génétique d’investigation serait cantonnée aux enquêtes portant sur les crimes de meurtre, d’assassinat, d’actes de torture et de barbarie, de viol et d’enlèvement et de séquestration. Mais il ne fait aucun doute que cette liste sera rallongée par la suite, à l’image d’autres dispositifs de surveillance. De plus, alors que dans chaque pays ayant légalisé cette technique le droit affirme qu’elle ne peut être employée qu’en dernier recours, lorsque l’enquête est au point mort, cette condition ne figure pas dans le projet de loi où il suffirait d’avoir consulté le FNAEG au préalable.

En dehors des lacunes du projet de loi, les risques inhérents à la généalogie génétique d’investigation s’opposent à sa légalisation. En effet, une telle mesure ouvrirait une brèche en droit français dans laquelle pourraient s’engouffrer toutes les dérives de la collecte des données génétiques constatées à l’étranger : marchandisation des données génétiques pour faire de la publicité ciblée3Exemple : « Au mois de juin dernier, l’entreprise américaine 23andMe a brisé un tabou dans l’utilisation commerciale de ses données en permettant à Airbnb d’afficher des publicités ciblées, proposant des voyages correspondant à l’“héritage” génétique des internautes ciblés »., surveillance collective accrue4L’Union des Jeunes Avocats de Paris relève ainsi : « Ce dispositif présente également un risque de biais social, certaines populations étant surreprésentées dans les bases de données et susceptibles d’être davantage surveillées, ce qui accentuerait les inégalités et les discriminations existantes. L’exploitation de données étrangères soulève par ailleurs des problèmes de régulation et de souveraineté juridique, tandis que la limitation annoncée aux seules affaires anciennes et plus graves apparaît largement illusoire. Une fois introduite, cette technique pourrait facilement être détournée à d’autres enquêtes, ouvrant la voie à une surveillance génétique généralisée. » ou encore discrimination génétique. Par exemple, en Australie et en Nouvelle-Zélande, les compagnies d’assurance peuvent désormais augmenter le montant de l’assurance-vie, voire refuser d’en octroyer une, à une personne dont le test génétique révèle des prédispositions à certaines maladies. Autre exemple : au Canada, l’agence des frontières a créé un projet pilote visant à déterminer la nationalité des demandeurs d’asile par le biais de tests ADN.

Finalement, avec le projet de loi SURE, la collecte de masse des données génétiques à l’étranger serait légitimée et risquerait d’être détournée par les services de police en France, mais aussi en dehors du cadre judiciaire, à l’image de ce qui s’est déjà produit ailleurs.

Face à tous ces dangers, pour convaincre le grand public, le gouvernement soutient, dans l’exposé des motifs du projet de loi, que la généalogie génétique permettra de « mettre hors d’état de nuire de dangereux criminels en série » et d’élucider des affaires vieilles de plusieurs années (les fameux « cold cases »). Or, cet argument est à nuancer, car la qualification de l’ADN comme « reine des preuves » relève davantage du fantasme : elle est assez éloignée de la réalité des procédures judiciaires et les erreurs judiciaires liées à une prise en compte démesurée de l’ADN comme preuve sont plus fréquentes qu’on ne l’imagine. De manière générale, il n’existe aucune technique révolutionnaire qui permettrait de résoudre toutes les affaires. Cependant, cet argument technosolutionniste est ressassé à chaque fois qu’une nouvelle technique de surveillance émerge. Elle est ainsi présentée comme décisive et indispensable afin d’écarter tout débat sur sa proportionnalité.

Multiplication des agents capables de consulter des fichiers de police

Aujourd’hui, l’article 15-5 du code de procédure pénale prévoit que la consultation des fichiers de police est réservée à des agents « spécialement et individuellement habilités ». En d’autres termes, en théorie, l’accès aux fichiers n’est pas open bar mais réservé à un nombre restreint et défini de personnes. L’article 3 du projet vient vider de sens cette disposition en octroyant cette faculté à quasiment l’ensemble du personnel de la police judiciaire : officiers, agents, adjoints et même les fonctionnaires et agents administratifs dotés de fonctions de police judiciaire. Une habilitation spéciale n’est plus exigée.

Cette mesure permet ainsi un accès quasi total et non encadré aux fichiers de police. Elle vise clairement à empêcher les avocats de soulever une nullité procédurale, le ministre ne s’en cachant même pas, au mépris des droits de la défense et de la protection des données personnelles contenues dans ces fichiers.

En résumé, l’article 3 du projet de loi gave les fichiers de police de toujours plus de données sensibles tout en ouvrant leur accès à des personnels de moins en moins formés et encadrés. Le projet de loi SURE sera examiné prochainement à l’Assemblée nationale. De nombreuses organisations se sont mobilisées pour exiger son retrait et nous nous joignons à leurs revendications pour appeler les député·es à le rejeter. Pour nous permettre de continuer notre travail contre les lois liberticides, vous pouvez nous aider en nous faisant un don.

References[+]

References
↑1 Les séquences enregistrées dans le fichier portent uniquement sur les marqueurs non codants de l’ADN, c’est-à-dire les segments d’ADN qui organisent le génome et qui ne sont pas censés révéler les caractéristiques les plus sensibles d’une personne, comme son ethnie ou son état de santé, à l’exception du marqueur du sexe qui lui peut apparaître dans le fichier. À noter que la distinction entre ADN codant et non codant tend aujourd’hui à être remise en question à l’aune des nouvelles découvertes scientifiques, ce qui interroge sur la nature des informations inscrites au FNAEG.
↑2 La génétique constitutionnelle désigne l’ensemble des informations sur un patrimoine génétique transmis par la voie héréditaire, par opposition à un patrimoine modifié au cours de la vie, en présence de tumeurs cancéreuses par exemple.
↑3 Exemple : « Au mois de juin dernier, l’entreprise américaine 23andMe a brisé un tabou dans l’utilisation commerciale de ses données en permettant à Airbnb d’afficher des publicités ciblées, proposant des voyages correspondant à l’“héritage” génétique des internautes ciblés ».
↑4 L’Union des Jeunes Avocats de Paris relève ainsi : « Ce dispositif présente également un risque de biais social, certaines populations étant surreprésentées dans les bases de données et susceptibles d’être davantage surveillées, ce qui accentuerait les inégalités et les discriminations existantes. L’exploitation de données étrangères soulève par ailleurs des problèmes de régulation et de souveraineté juridique, tandis que la limitation annoncée aux seules affaires anciennes et plus graves apparaît largement illusoire. Une fois introduite, cette technique pourrait facilement être détournée à d’autres enquêtes, ouvrant la voie à une surveillance génétique généralisée. »

Fraude sociale : l’industrialisation de la chasse aux pauvres continue

La coalition RSA réunit de nombreuses associations (ATD Quart Monde, le Secours Catholique, Aequitaz, Changer de Cap, la Quadrature du Net, la Ligue des droits de l’Homme, le Mouvement national des chômeurs et des précaires, la Fédération des centres sociaux…), syndicats (CGT, FSU, Solidaires, CFDT, Unsa) et chercheurs, autour d’un objectif commun : documenter, mutualiser, partager les analyses sur les effets concrets sur les demandeurs d’emploi, les bénéficiaires des minimas sociaux (RSA, AAH) et les jeunes suivis en mission locale de la loi pour le plein emploi de décembre 2023 et de son décret d’application du 30 mai 2025, plus connu sous le nom de « décret-sanction RSA » que ces associations contestent devant le conseil d’Etat.

Dans sa newsletter, l’association Changer de Cap souligne que ces associations tentent de dresser un état des lieux des pratiques des Départements, décisionnaires pour les sanctions appliquées aux allocataires du RSA. « D’après un document interne de France Travail, sur les 51 conseils départementaux ayant déjà adopté un barème de sanctions, 48 font le choix de taux fixe sans aucune proportionnalité ni individualisation, contrairement à ce qu’indiquaient les textes. Parmi ceux-ci, 45 appliquent une suspension d’au moins 50 % du RSA dès le premier manquement, quelle qu’en soit sa gravité et 32 départements des suspensions de 80 ou 100 %. L’extrême dureté dans la mise en œuvre de ce décret conforte les craintes et analyses de Changer de Cap : une logique budgétaire entraînant une précarisation accrue de pans entiers de la société et une fragilisation du Pacte social dans la quasi-indifférence générale. » A l’image des pratiques du président du département du département du Finistère, Maël de Calan, poursuivit par la CGT et six allocataires du RSA pour « harcèlement moral institutionnel », dénonçant une pression et un suivi inadaptés, pour un plan RSA qui a surtout fait passer le nombre d’allocataires finistériens de 18 000 en 2021 à 13 500 fin 2025 rapporte Splann. « Un taux de radiation pour fraude vingt fois supérieur à celui des autres départements (39,8% en 2024 contre 1,96% au niveau national) », dénonce la CGT du Finistère, rapporte Révolution Permanente, qui dénonce également les pratiques de coaching et d’activité de placement en emploi d’entreprises délégataires.

La newsletter de Changer de Cap pointe vers un rapport publié par l’Observatoire de la surveillance en démocratie de l’université de Bordeaux sur les contrôles de la CAF qui montre la logique du soupçon, l’injustice et le stress des contrôles, les obstacles à la contestation et la montée du non recours face à la violence des contrôles. Ceux qui perçoivent des minima sociaux (RSA, APL, prime d’activité, AAH ) sont, du fait de leur situation même, identifiés comme des « profils à risque » par les algorithmes de la CNAF, rappelle Marine Lamare, l’auteure du rapport. « Ce n’est pas le comportement qui est suspect, c’est la condition sociale elle-même », résume pertinemment Didier Dubasque sur son blog. Derrière la neutralité et l’objectivité des algorithmes, se développe une surveillance différenciée, inégalitaire. « La logique est circulaire : la précarité engendre l’instabilité des déclarations, l’instabilité engendre les erreurs, les erreurs engendrent les contrôles, les contrôles engendrent les sanctions. Et la boucle se referme sur celles et ceux que la CNAF est censée protéger. » Mais surtout, le rapport de Marine Lamare, montre que loin de simplement « corriger » des situations, les contrôles produisent quelque chose de plus profond : ils découragent les personnes les plus pauvres à recourir à leurs droits. Comme si derrière le non recours se cachait de moins en moins un manque d’information des publics, et de plus en plus une capitulation face à la violence de la machine administrative.

Cette politique n’est pas nouvelle, rappelle Marine Lamare, rappelant les critiques formulées dès les années 70 par l’historien et sociologue, Jacques Donzelot, dans un article pour la revue Esprit, puis dans son livre, La police des familles (Minuit, 1977) qui expliquait déjà que « plus on est pauvre, plus on est surveillé ». La criminalisation de la pauvreté est devenue une politique publique depuis les années 90, rappelle-t-elle à la suite des travaux du sociologue Loïc Wacquant dans Punir les pauvres (Agone, 2004). « Les procédures de mise en recouvrement des indus se sont vues consolidées. De façon générale, le droit a contribué à un « durcissement » dans le traitement des cas, à la fois quant aux critères d’attribution des prestations, à la qualification de la fraude et aux sanctions administratives, faisant des CAF des « quasi-tribunaux » », comme l’expliquait le sociologue Vincent Dubois dans Contrôler les assistés (Raisons d’agir, 2021). 

Dans son mémoire, Marine Lamare rappelle que le respect de la vie privée est socialement situé. Pour ceux soumis aux contrôles, c’est une formule creuse. Pour eux, les relations de pouvoir qu’ils vivent sont toujours plus dissymétriques. 

Le sentiment d’incompréhension face aux contrôles s’explique d’abord par le silence des CAF sur les raisons des contrôles. Il s’augmente quand les bénéficiaires contrôlés découvrent qu’ils doivent déclarer les aides financières reçus de leurs proches quel qu’en soit le montant, comme si la solidarité de proximité, familiale, s’opposait finalement à la solidarité collective, alors que selon diverses jurisprudences, ils devraient être exclus des ressources prises en compte pour le RSA. Même choses pour les situations maritales que la CAF interprète toujours très étroitement et normativement, quand le Conseil d’Etat, lui, par exemple, reconnaît les séparations de faits. C’est un peu comme si la CAF portait partout une conception restrictive des droits, dans une interprétation qui semble se faire toujours au détriment de l’allocataire. Le décalage, le sentiment d’incompréhension, s’exprime encore entre le discours du contrôleur et les courriers de l’administration, et plus encore dans la « discontinuité des droits » que les contrôles instaurent, notamment les « sanctions de faits » c’est-à-dire la suspension des prestations, parfois sans préavis, souvent sans motivation explicite et souvent sans réponses. 

Le mémoire rappelle les coûts de ces procédures pour les allocataires. Les coûts psychologiques et moraux, mais également financiers pour des gens qui ne peuvent se le permettre. Et notamment, les plus difficiles : la suspension des aides ou la notification d’indus, qui nécessitent pour les contester des nouveaux recours et des procédures toujours plus complexes, difficilement accessibles aux allocataires précaires. Au final, c’est toujours le quotidien des allocataires qui devient impossible quand les aides sont suspendues. 

Dans son mémoire, Marine Lamare constate encore que le droit de communication de la CAF auprès de tiers, lui permettant d’obtenir d’innombrables données sur les administrés, s’est considérablement élargi au tournant des années 2010, « lorsque les pouvoirs d’investigation des agents des organismes de sécurité sociale ont été alignés sur ceux des agents des services fiscaux », où le contrôle des documents semble n’avoir plus aucune limite (notamment de rétroactivité et de proportionnalité…), comme quand un agent utilise le fait qu’une dame soit toujours indiquée en couple sur Facebook. Pourtant, les enquêtes de la CAF montrent surtout la grande difficulté à transformer des indices en preuves et la grande difficulté du droit à vouloir transformer des faisceaux d’indices en certitudes. La juriste montre surtout que les critères mobilisés (domiciliation commune, la communauté affective ou d’intérêts…) sont souvent plus fragiles, notamment au regard de la jurisprudence qui va les confirmer ou les écarter d’une manière très différente d’un jugement l’autre. Les avocats et le Défenseur des droits rappellent que c’est à la CAF de prouver la situation de concubinage ou de non-présence en France, par delà les indices et suspicions. Pour la docteure en droit, on assiste à « une criminalisation de la dépendance aux prestations sociales ». 

Quant à la contestation, elle est un chemin semé d’embûches, rappelle-t-elle, notamment du fait même de la numérisation de l’accès au droit. Les résistances sont souvent silencieuses et individuelles. Les contentieux sont, par nature, déséquilibrés au détriment des justiciables. Ce qui n’est pas sans évoquer les constats des derniers épisodes du Code a changé sur la dématérialisation. « Les espaces libre-service créés dans les années 2010 condensent en particulier les publics les plus démunis, les agents les moins formés et les conditions d’accueil les plus défavorables. Conformément à « l’aménagement dissuasif » déployé, des barrières sont érigées entre les plus précaires et les personnels qualifiés », souligne Lamare à la suite du psychologue Pascal Martin. Les associations ou les avocats apparaissent alors comme des substituts à l’absence d’interlocuteurs à la CAF, pour démêler l’écheveau des situations. Quant au numérique, il donne désormais la temporalité des démarches, puisque ce sont les enregistrements et les courriers électroniques qui marquent les relations. Par exemple, confient les accompagnateurs et les allocataires, il est difficile d’obtenir le « tableau de liquidation » qui permettrait d’accéder à la « boîte noire du calcul des droits » et de comprendre éventuellement les calculs d’indus opérés par les CAF. Même les rapports de contrôles ou d’enquête nécessitent bien souvent de passer par de longues démarches via la Commission d’accès aux documents administratifs pour être obtenus. Enfin, la complexité des procédures, des recours (par exemple entre demande de remise de dette et contestation de la décision, démarches incompatibles), finissent d’épuiser parfois les meilleures volontés. 

Lamare montre également que nombre d’acteurs sociaux de l’accompagnement préfèrent la conciliation au conflit avec les CAF, d’autant que certains, comme « les assistantes sociales des départements et des CAF sont juges et parties sur ce type de dossiers ». Non seulement le contentieux est difficile pour les administrés, mais il rémunère peu les avocats et face à l’envolée des demandes, se résout surtout par un fort désintérêt des acteurs pouvant accompagner les justiciables en difficultés. Les « contentieux des pauvres » démontrent surtout qu’ils n’intéressent pas grand monde et produisent peu de justice, comme le soulignait d’ailleurs la sociologue Delphine Serre dans son livre, Ultime recours (raison d’agir, 2024) quant aux procédures à l’encontre de la sécurité sociale pour faire reconnaître un accident du travail ou une maladie professionnelle, dénonçant elle aussi, le risque que les droits sociaux deviennent des principes sans objets.  

Mais surtout, conclut Marine Lamare, « le non-recours se dessine alors comme une voie de sortie qui prend l’allure d’issue de secours ». « Par peur, pression, culpabilisation, découragement, épuisement et/ou désaccord avec les principes et pratiques des CAF, [nombre de bénéficiaires] ne veulent pas ou ne veulent plus avoir affaire à elles ». L’abandon s’enkyste. La chasse à la fraude ressemble à une chasse à l’homme, témoigne une allocataire. L’acte individuel devient une critique des politiques sociales. Le non-recours devient une non-demande, le résultat d’une fabrique collective de l’exclusion plus que le signe de défaillances individuelles. 

Autant de constats qui font échos à ceux du dernier rapport de la Défenseure des droits sur la fraude sociale, alors même que le gouvernement vient de durcir l’arsenal contre les fraudes et à réformer en profondeur les aides sociales (Le Monde, Médiapart). Claire Hédon y dénonce une industrialisation de la lutte contre la fraude des bénéficiaires, explique Le Monde. Le rapport souligne, par exemple, que la communication bancaire est devenue une procédure automatisée, alors qu’elle est normalement circonscrite à certaines situations et proportionnée. De même, la généralisation de la consultation des réseaux sociaux à des fins de contrôle se déploie sans garde-fous. La Défenseure des droits rappelle à nouveau le surciblage et le surcontrôle de certaines catégories de population et renouvelle ses demandes de transparence et de mesure de l’équité des ciblages et contrôles. Elle dénonce également des notifications non motivées et non conforme à la réglementation et une faible communication sur les voies et délais de recours. Mais surtout, elle pointe combien la fraude est une qualification plastique et que ce qualificatif devenu omniprésent entrave le droit à l’erreur et l’accès aux droits. Et de plaider pour lui substituer et « ériger le droit à l’erreur de bonne foi en tant que principe général applicable en toutes circonstances aux relations entre les usagers et les organismes sociaux ».

La Défenseure des droits plaide pour une amélioration de l’information aux usagers, mais surtout pour que les services sociaux priorisent la prévention plutôt que la répression. Elle rappelle que l’administration a de plus en plus tendance à confondre la fraude et l’erreur, alors même que le droit à l’erreur a été inscrit dans la loi depuis 2018 et dénonce le constat que les pouvoirs publics s’accommodent trop du non-recours. 

Mais, si les constats du Défenseur des droits s’accumulent et se répètent de rapports en rapports, peut-être faut-il convenir que le problème est bien plus politique qu’on le pense. La nouvelle réforme proposée par le projet de loi sur la fraude sociale, montre combien le discours saturé ne parvient plus à laisser d’espace pour d’autres approches que la chasse aux pauvres. 

Pour la Quadrature du net également, le flicage n’en finit pas, dénonçant, dans la dernière version du projet de loi, l’élargissement de l’accès aux comptes bancaires pour le contrôle du RSA. Le contrôle sur les moindres dépenses des plus pauvres, a clairement pour but d’humilier, « tout en imposant une charge administrative démesurée jusqu’à ce que les allocataires renoncent à leurs droits ». « Le Finistère n’est pas un cas isolé. Des campagnes de contrôle similaires ont notamment été documentées dans les départements du Nord, du Vaucluse, du Bas-Rhin ou de l’Eure ». En réalité, explique l’association, le projet de loi vise d’abord à permettre aux départements de procéder à ces contrôles, alors que normalement, ils sont du recours des seuls services sociaux (et à protéger les départements de poursuites, comme celle engagée par les allocataires du Finistère). Et surtout, il vise à élargir considérablement aux acteurs du social la possibilité « d’obtenir les documents et renseignements de leur choix auprès d’un très grand nombre d’acteurs publics et privés. Outre les demandes adressées aux banques, ce droit est mobilisable auprès des opérateurs de téléphonie, des fournisseurs d’énergie, des associations, des organismes de formation, des professionnels de santé ou encore des employeurs. » Pour la Quadrature, cette mesure s’inscrit « dans un processus d’extension continue du droit de communication » à des fins de « lutte contre la fraude sociale », faisant fit des limites et des garanties de ce droit, supprimées d’un projet de loi l’autre. « Accordé en 2008 aux agent·es de contrôle des organismes de sécurité sociale (CAF, CNAM, CNAV), il a depuis fait l’objet d’une dizaine de modifications, afin d’étendre tant les organismes pouvant l’utiliser – notamment, depuis 2021, aux agent·es de lutte contre la fraude de France Travail – que les informations communicables ou les sanctions en cas de non-réponse. » 

La Quadrature estime pourtant qu’un espoir pourrait venir depuis le droit européen, pour réaffirmer des limites et des garanties. La Cour européenne des droits de l’Homme (CEDH) a récemment « condamné l’Italie pour violation de la vie privée en raison d’un droit de communication octroyé au fisc italien similaire au droit de communication français ». « La CEDH exige notamment qu’un tel droit de communication soit entouré de nombreuses garanties tout au long de son utilisation : une notification des personnes pour leur permettre de contester l’usage de ce droit, y compris avant que les données communiquées n’aient été utilisées dans le cadre d’un contrôle, et y compris si le résultat du contrôle n’a pas conduit à une sanction ; une motivation précise par l’administration expliquant pourquoi elle a besoin d’accéder à ces données ; un contrôle indépendant de la demande pour que le droit de communication ne puisse pas être utilisé systématiquement et s’assurer de la nécessité de l’accès. L’absence de ces garanties dans la loi française est criante et le projet de loi Fraudes ne corrige absolument pas cela. »

Dans un communiqué de presse, Changé de Cap dénonce le fait qu’il sera bientôt possible à la CAF, aux Départements comme à France Travail de procéder à une suspension conservatoire des prestations et allocations en cas « d’indices sérieux d’un manquement délibéré ou de manœuvre frauduleuse ». Les organismes sociaux vont donc pouvoir couper les droits unilatéralement sans que ne soit défini ce que sont les manquements, les indices sérieux voire les indices graves et concordants. 

« Le collectif Changer de cap est en opposition totale avec cette politique de chasse aux pauvres. Nous réaffirmons :

Que la lutte contre les exclusions doit rester un impératif national fondé sur le respect de l’égale dignité de tous les êtres humains et une priorité de l’ensemble des politiques publiques.

Que toute personne en difficulté a le droit au soutien de la nation, tel que cela est énoncé dans plusieurs lois fondamentales et dans la Constitution.

Que l’État, les collectivités territoriales, les établissements publics dont les centres communaux et intercommunaux d’action sociale, les organismes de sécurité sociale ainsi que les institutions sociales et médico-sociales doivent participer à cette mission de soutien aux populations précarisées.

Que chaque personne a le droit à un accompagnement respectueux de son parcours, prenant réellement en compte les difficiles chemins empruntés et les situations complexes.

Et ne craignons pas d’exiger de nos responsables politiques de lutter contre les causes de la pauvreté plutôt que d’orchestrer la chasse aux pauvres. »

La possibilité d’accéder à toutes les données disponibles bouleverse comme nulle autre le rapport des organismes des gestion sociale à leur mission. Sans limites, ce sont les valeurs mêmes de leurs missions qui seront transformées.

Voir également notre billet sur les algorithmes de score de risque de fraude à la CAF qui surveillent les bénéficiaires.

Projet de loi Fraudes : le Parlement élargit l’accès aux comptes bancaires pour le contrôle du RSA

Le 5 mai 2026, l’Assemblée nationale a voté une version durcie du projet de loi « relatif à la lutte contre les fraudes sociales et fiscales ». Le Sénat devrait également voter ce texte la semaine prochaine. En plus d’avoir validé les principales mesures de surveillance que nous dénoncions lors de l’examen du texte au Sénat, les député·es ont voté l’extension du droit de communication aux agents de contrôles RSA des départements1Amendement AS483, disponible ici.. Ce pouvoir extrêmement large permettra notamment aux départements d’accéder aux relevés bancaires des allocataires du RSA à des fins de contrôle. Cette mesure, votée alors que la contestation monte contre les pratiques de contrôles RSA par les départements, représente un cap en termes de contrôle social, en particulier au vu des risques d’instrumentalisation politique de ces contrôles par les président·es des conseils départementaux.

Le 15 juin prochain, le président du conseil départemental du Finistère comparaîtra devant le tribunal correctionnel pour répondre aux accusations de « harcèlement moral institutionnel »2L’action en justice vise Maël de Calan et son directeur de l’emploi. Voir notamment ce communiqué de la CGT 29 et les articles de Splann, L’Humanité, Mediapart et Libération.. L’accusation est portée par six allocataires du RSA, avec le soutien de la CGT. Tous·tes ont en commun d’avoir subi un contrôle RSA initié par le département du Finistère3Les allocataires du RSA peuvent faire l’objet de contrôles de la part de la CAF, de la Mutualité sociale agricole (MSA) ou des départements. Par ailleurs, depuis la loi Plein Emploi et leur inscription obligatoire à France Travail, des contrôles peuvent également être menés par France Travail.. Demandes abusives, remarques déplacées et logique de suspicion : leurs témoignages, appuyés par ceux d’une trentaine d’autres allocataires du département, dressent un tableau glaçant des pratiques de contrôle dans ce département, et des abus que le système actuel permet déjà et que le projet de loi Fraudes accentuera.

L’accès aux comptes bancaires : un outil d’humiliation et de répression sociale

Au centre du récit des victimes se trouvent les demandes systématiques de transmission des relevés bancaires par le conseil départemental, sur une période allant de deux mois à plusieurs années4D’après les témoignages, un premier courrier demande l’envoi des relevés sur les deux derniers mois. Il est généralement suivi par un second étendant la période à une ou deux années, mais un allocataire s’est même vu demander trois années de relevés bancaires.. Les courriers précisent qu’en cas de refus, le RSA sera suspendu.

Ces demandes sont un pilier du harcèlement administratif qu’ils et elles ont subi. Les relevés sont minutieusement analysés par les équipes de contrôle qui exigent, pour chaque rentrée d’argent, une explication et une attestation sur l’honneur de la personne ayant versé l’argent. Le but semble clair : humilier, tout en imposant une charge administrative démesurée jusqu’à ce que les allocataires renoncent à leurs droits.

Parmi les exemples remontés : le remboursement d’une plante détruite par le chat d’une amie, des cagnottes organisées lors d’anniversaires, un remboursement suite à une sortie en week-end, ou des factures médicales pour une allocataire ayant été aidée par ses proches pour une opération. Les montants importent peu, des justificatifs étant demandés pour des virements parfois inférieurs à 10 euros.

À cela s’ajoute un sentiment d’humiliation via l’incursion dans l’intimité de la personne contrôlée. Rappelons que, si les demandes de justificatifs portent principalement sur les entrées d’argent, les contrôleur·ses ont aussi accès aux dépenses des allocataires. Or, ces dernières renseignent tant sur les problèmes médicaux, les orientations sexuelles, les pratiques religieuses que les habitudes alimentaires ou les loisirs.

Tous·tes racontent comment la charge administrative démesurée que représente la production des pièces justificatives, associée aux menaces de suspension et à des délais de réponse très courts, les a plongé·es dans une situation de stress intense s’accompagnant de syndrômes dépressifs nécessitant un suivi médical.

Départements : des contrôles politiques ouverts à l’arbitraire

Le Finistère n’est pas un cas isolé. Des campagnes de contrôle similaires ont notamment été documentées dans les départements du Nord, du Vaucluse, du Bas-Rhin ou de l’Eure5Pour le Vaucluse, voir notamment cet article de Mediapart, cet article de Michel Abhervé et celui-ci de La Provence pour les chiffres récents de ce département. Pour le département du Nord, voir cet article de Michel Abhervé recensant des articles sur le sujet, en particulier le travail du journal La Brique. Sur le Bas-Rhin, voir cet article de Rue89 Strasbourg. Cet article de Libération évoque des demandes de relevés dans l’Eure, le Haut-Rhin et le Bas-Rhin..

Partout le même scénario : un·e président·e de conseil départemental décide d’instrumentaliser la « lutte contre l’assistanat » à des fins politiques. Un mot d’ordre qui se traduit par un renforcement des politiques de contrôle via la mobilisation d’équipes de contrôleur·ses placé·es sous son autorité. À chaque fois, ces équipes envoient des demandes de relevés bancaires à des milliers d’allocataires en leur demandant de justifier leurs rentrées d’argent en échange du maintien de leur allocation.

Si les chiffres disponibles ne permettent pas d’établir avec précision l’impact de ces politiques, plusieurs éléments indiquent qu’elles renforcent les difficultés d’accès aux droits. Ainsi, le Vaucluse et le Finistère – deux des départements dont les politiques de contrôle sont les plus critiquées – ont vu leur nombre d’allocataires du RSA baisser respectivement de 13,9 % et 9,6 % en 2024, alors qu’à l’échelon national le nombre d’allocataires au RSA augmentait de 0,2 %. Une tendance vérifiée sur la période 2021-20256Pour les chiffres 2024, voir cet article de Michel Abhervé. Entre 2021 et 2025, les baisses du nombre d’allocataires sont respectivement de 32%, 32% et 17% dans le Vaucluse, les Alpes Maritimes ou le Finistère alors qu’elle s’établit à 4% au niveau national. Voir notamment cette carte produite par Ouest-France. Pour le Finistère, voir les chiffres de radiations de cet article de Michel Abhervé. Pour le Vaucluse voir cet article et cet article de Michel Abhervé.. Une enquête de Ouest-France portant sur ces mêmes départements documente que cette baisse s’explique notamment par l’incapacité des allocataires à répondre aux innombrables demandes de justificatifs, se soldant par leurs radiations.

Ces résultats sont annoncés sur un ton triomphaliste par les responsables politiques locaux qui mettent en avant le succès de leurs politiques « de retour à l’emploi » – et les gains financiers pour le département, financeur du RSA – tout en taisant la réalité des mécanismes répressifs7Voir notamment cet interview de Dominique Santoni pour le Vaucluse ou la page « plan RSA » du Finistère..

Des contrôles réalisés en toute illégalité

Mais il est une seconde chose que taisent les conseils départementaux : les demandes de communication des relevés bancaires sont en réalité faites dans l’illégalité la plus totale. Une preuve supplémentaire de l’arbitraire dans lequel sont réalisés ces contrôles.

Car les textes sont clairs, comme le rappelle la Défenseure des Droits dans un récent rapport. Les politiques de contrôle des allocataires du RSA sont de la responsabilité des CAF et non des départements. À ce titre, les agents des CAF disposent de pouvoirs étendus, dont le droit de communication, qui leur permet d’accéder aux relevés des allocataires directement auprès des banques.

Les prérogatives de contrôle des départements se limitent à la possibilité de demander des informations sur les allocataires du RSA auprès des administrations publiques (par exemple l’administration fiscale ou France Travail), et non directement auprès des bénéficiaires8Article L. 262-40 du code de l’action sociale et des familles.. À cela s’ajoute la possibilité de déclencher «  une évaluation forfaitaire des éléments de train de vie » sur la base d’éléments se limitant au patrimoine et à certaines dépenses (personnels « domestiques », voyages, …), sans que jamais ne soit évoquée la possibilité de demander l’accès aux comptes bancaires9Article L. 262-41 et les articles R. 262-74 et suivants du code de l’action sociale et des familles. Ce type d’enquête ne peut être enclenché que sur demande de la CAF ou après consultation de cette dernière, et l’allocataire doit en être informé·e..

Le Parlement sécurise des procédures aujourd’hui illégales

Comme le souligne la Défenseure des droits dans son rapport, le code de l’action social et des familles ne prévoit absolument pas qu’un département puisse, sous couvert d’opérations de contrôle, demander des pièces justificatives arbitraires aux allocataires, a fortiori des informations aussi intrusives que les relevés bancaires, le tout sous la menace de suspension du RSA. Mais, continue le rapport, « il ressort des observations effectuées par le Défenseur des droits que certains conseils départementaux adressent directement aux allocataires du RSA des demandes de justificatifs […] dans le cadre de contrôles globaux de leur situation ». Une pratique illégale que le projet de loi Fraudes veut corriger.

L’objectif de l’octroi du droit de communication aux conseils départementaux est donc double. À court terme, il servira à protéger contre les poursuites juridiques les président·es de conseils départementaux qui organisent, en toute connaissance de cause, des politiques de contrôles aujourd’hui illégales. À moyen terme, il donnera les mains libres aux présidents de conseils départementaux qui le souhaitent pour mener les politiques répressives de leur choix.

Pire encore : s’il est principalement utilisé pour obtenir l’accès aux relevés bancaires, le droit de communication a un champ d’application potentiellement bien plus large. Il s’agit d’une sorte de pouvoir de réquisition, similaire à celui dont disposent les forces de police, qui permet aux contrôleur·ses d’obtenir les documents et renseignements de leur choix auprès d’un très grand nombre d’acteurs publics et privés10Voir l’article L. 114-19 du code de sécurité sociale et l’article 115 de la loi de financement de sécurité sociale pour 2008 qui l’introduit pour les organismes de protection sociale.. Outre les demandes adressées aux banques, ce droit est mobilisable auprès des opérateurs de téléphonie, des fournisseurs d’énergie, des associations, des organismes de formation, des professionnels de santé ou encore des employeurs11À titre d’exemple, voir le rapport annuel 2024 de lutte contre les fraudes de l’assurance maladie, détaillant les organismes auprès de qui ce droit a été exercé..

Le droit de communication : une extension continue

Cette mesure s’inscrit dans un processus d’extension continue du droit de communication à des fins de « lutte contre la fraude sociale ». Dans un contexte de radicalisation toujours plus à droite du discours politique, notamment sur les questions sociales, les limites à ce droit de communication et les garanties associées sont peu à peu supprimées.

Accordé en 2008 aux agent·es de contrôle des organismes de sécurité sociale (CAF, CNAM, CNAV), il a depuis fait l’objet d’une dizaine de modifications, afin d’étendre tant les organismes pouvant l’utiliser – notamment, depuis 2021, aux agent·es de lutte contre la fraude de France Travail – que les informations communicables ou les sanctions en cas de non-réponse12La loi de finances 2021 l’a étendu aux agents chargés de la lutte contre la fraude à France Travail en modifiant l’article L. 5312-13-2 du code du travail..

Ici, outre les agents départementaux, rappelons que le projet de loi prévoit, comme nous le détaillions ici, son élargissement à des agent·es des CAF et des CPAM qui ne sont ni agréé·es ni assermenté·es, une garantie dont la CNIL avait pourtant rappelé l’importance en 201713Délibération n° 2017-053 du 9 mars 2017, disponible ici.. Notons enfin qu’en 2021, alors que le Parlement discutait de la loi « 3DS »14Acronyme pour « Loi relative à la différenciation, la décentralisation, la déconcentration et portant diverses mesures de simplification de l’action publique locale »., le Sénat avait déjà tenté d’obtenir cette extension du droit de communication pour les départements. Et c’est grâce à un rapporteur macroniste à l’Assemblée que cette extension n’a finalement pas eu lieu, puisque, pour s’y opposer, il a fait voter, avec succès, un amendement supprimant cette extension introduite au Sénat15Cette mesure avait été introduite au Sénat en 2021 par un amendement de la droite créant un nouvel article au projet de loi 3DS. Cet article a finalement été supprimé en commission des affaires sociales, par un amendement du rapporteur qui rappelait la disproportion de l’atteinte créée au droits fondamentaux..

Un espoir européen

Une décision récente de la Cour européenne des droits de l’Homme (CEDH) ouvre des perspectives juridiques intéressantes. Dans un arrêt du 8 janvier dernier16CEDH, 8 janvier 2026, Ferrieri et Bonassisa c. Italie, nos 40607/19 et 34583/20., la CEDH a condamné l’Italie pour violation de la vie privée en raison d’un droit de communication octroyé au fisc italien similaire au droit de communication français. Pour la CEDH, ce pouvoir n’est pas suffisamment encadré par la législation italienne, ce qui laisse la porte ouverte aux demandes de communication abusives. Et alors que le droit de communication italien est plus strict que ce qui est prévu en droit français pour les administrations sociales.

La CEDH exige notamment qu’un tel droit de communication soit entouré de nombreuses garanties tout au long de son utilisation : une notification des personnes pour leur permettre de contester l’usage de ce droit, y compris avant que les données communiquées n’aient été utilisées dans le cadre d’un contrôle, et y compris si le résultat du contrôle n’a pas conduit à une sanction ; une motivation précise par l’administration expliquant pourquoi elle a besoin d’accéder à ces données ; un contrôle indépendant de la demande pour que le droit de communication ne puisse pas être utilisé systématiquement et s’assurer de la nécessité de l’accès. L’absence de ces garanties dans la loi française est criante et le projet de loi Fraudes ne corrige absolument pas cela17Pour une analyse plus complète, voir notre note d’analyse envoyée aux députés..

Il est donc nécessaire de lutter collectivement. Face à une violence administrative institutionnalisée et encouragée par le législateur, il est plus que nécessaire de trouver les manières d’y répondre ensemble. Nous appelons celles et ceux qui souhaitent discuter de cette lutte à nous écrire à algos@laquadrature.net. Et pour celles et ceux qui le peuvent, vous pouvez faire aussi nous faire un don.

References[+]

References
↑1 Amendement AS483, disponible ici.
↑2 L’action en justice vise Maël de Calan et son directeur de l’emploi. Voir notamment ce communiqué de la CGT 29 et les articles de Splann, L’Humanité, Mediapart et Libération.
↑3 Les allocataires du RSA peuvent faire l’objet de contrôles de la part de la CAF, de la Mutualité sociale agricole (MSA) ou des départements. Par ailleurs, depuis la loi Plein Emploi et leur inscription obligatoire à France Travail, des contrôles peuvent également être menés par France Travail.
↑4 D’après les témoignages, un premier courrier demande l’envoi des relevés sur les deux derniers mois. Il est généralement suivi par un second étendant la période à une ou deux années, mais un allocataire s’est même vu demander trois années de relevés bancaires.
↑5 Pour le Vaucluse, voir notamment cet article de Mediapart, cet article de Michel Abhervé et celui-ci de La Provence pour les chiffres récents de ce département. Pour le département du Nord, voir cet article de Michel Abhervé recensant des articles sur le sujet, en particulier le travail du journal La Brique. Sur le Bas-Rhin, voir cet article de Rue89 Strasbourg. Cet article de Libération évoque des demandes de relevés dans l’Eure, le Haut-Rhin et le Bas-Rhin.
↑6 Pour les chiffres 2024, voir cet article de Michel Abhervé. Entre 2021 et 2025, les baisses du nombre d’allocataires sont respectivement de 32%, 32% et 17% dans le Vaucluse, les Alpes Maritimes ou le Finistère alors qu’elle s’établit à 4% au niveau national. Voir notamment cette carte produite par Ouest-France. Pour le Finistère, voir les chiffres de radiations de cet article de Michel Abhervé. Pour le Vaucluse voir cet article et cet article de Michel Abhervé.
↑7 Voir notamment cet interview de Dominique Santoni pour le Vaucluse ou la page « plan RSA » du Finistère.
↑8 Article L. 262-40 du code de l’action sociale et des familles.
↑9 Article L. 262-41 et les articles R. 262-74 et suivants du code de l’action sociale et des familles. Ce type d’enquête ne peut être enclenché que sur demande de la CAF ou après consultation de cette dernière, et l’allocataire doit en être informé·e.
↑10 Voir l’article L. 114-19 du code de sécurité sociale et l’article 115 de la loi de financement de sécurité sociale pour 2008 qui l’introduit pour les organismes de protection sociale.
↑11 À titre d’exemple, voir le rapport annuel 2024 de lutte contre les fraudes de l’assurance maladie, détaillant les organismes auprès de qui ce droit a été exercé.
↑12 La loi de finances 2021 l’a étendu aux agents chargés de la lutte contre la fraude à France Travail en modifiant l’article L. 5312-13-2 du code du travail.
↑13 Délibération n° 2017-053 du 9 mars 2017, disponible ici.
↑14 Acronyme pour « Loi relative à la différenciation, la décentralisation, la déconcentration et portant diverses mesures de simplification de l’action publique locale ».
↑15 Cette mesure avait été introduite au Sénat en 2021 par un amendement de la droite créant un nouvel article au projet de loi 3DS. Cet article a finalement été supprimé en commission des affaires sociales, par un amendement du rapporteur qui rappelait la disproportion de l’atteinte créée au droits fondamentaux.
↑16 CEDH, 8 janvier 2026, Ferrieri et Bonassisa c. Italie, nos 40607/19 et 34583/20.
↑17 Pour une analyse plus complète, voir notre note d’analyse envoyée aux députés.

L’affaire du « 8 décembre » de retour devant la justice

Ce lundi 4 mai, débute à Paris le procès en appel de l’affaire dite du « 8 décembre ». Celle-ci concerne sept personnes poursuivies pour « association de malfaiteurs terroristes » supposément liées à une « idéologie » d’extrême gauche. Six d’entre elles ont fait appel de leur condamnation en première instance. En 2023, La Quadrature du Net s’était mobilisée pour dénoncer les amalgames dangereux et malhonnêtes faits par la justice, qui assimilait l’utilisation de communications chiffrées à une preuve de comportement clandestin ou répréhensible.

À l’heure où les débats vont recommencer, il est nécessaire de rappeler que c’est l’ensemble de la judiciarisation de l’affaire qui doit être critiquée. Alors qu’aucun acte terroriste n’a été commis ni même envisagé, l’accusation repose sur une pure et simple criminalisation des idées politiques, nourrie par une surveillance intrusive et propice à la surinterprétation.

Tout commence en 2020 quand les services de renseignement, puis de police antiterroriste, surveillent puis interpellent neuf personnes, au motif qu’elles prépareraient un attentat. Au centre des arrestations se trouve un homme qui avait passé plusieurs mois au Rojava (Kurdistan) pour combattre Daech et qui était alors suspecté d’avoir transmis, à son retour en France, des « intentions violentes » à plusieurs personnes. Après la clôture de l’enquête, sept personnes sont poursuivies, puis condamnées en 2023. Pourtant, la lecture du dossier a rapidement révélé qu’aucun élément matériel ne permettait de caractériser un quelconque projet terroriste.

Pour construire les poursuites, les autorités ont utilisé un faisceau d’indices qui mêlent des comportements individuels pénalement répréhensibles (détention d’arme sans permis, fabrique d’éléments explosifs dans un contexte ludique) et d’autres éléments complètement anodins (pratique de l’airsoft, protection numérique de la vie privée), en les englobant dans un prétendu endoctrinement politique d’extrême gauche. De là, le juge d’instruction, le procureur puis le tribunal ont estimé que ces éléments étaient bel et bien constitutifs d’une association de malfaiteurs en vue de commettre une infraction terroriste.

Surveiller et prévenir

Pour comprendre comment des personnes ont pu être condamné⋅es pour terrorisme sans avoir aucun projet d’attentat, il faut se pencher sur la manière de fonctionner de la justice antiterroriste. Celle-ci n’est pas une justice comme les autres1Pour approfondir, voir notamment Julie Alix et Olivier Cahn, « Mutations de l’antiterrorisme et émergence d’un droit répressif de la sécurité nationale », Revue de science criminelle et de droit pénal comparé, 2017. Disponible ici.. Elle ne cherche pas uniquement à enquêter sur des attentats qui auraient d’ores et déjà été commis, en essayant de retrouver leurs auteurs. Elle vise également depuis les année 1980 à prévenir et empêcher des attentats qui pourraient être organisés. Avec cette logique de prévention et d’anticipation, le but est d’identifier et arrêter les personnes avant tout passage à l’acte. Or, prévenir c’est vouloir deviner, et pour deviner il faut nécessairement surveiller. La surveillance joue donc un rôle crucial puisqu’elle doit permettre de prouver que « quelque chose » va arriver.

Cette logique d’anticipation vise à poursuivre des personnes qui auraient eu l’intention ou même seulement les moyens d’un projet terroriste. Il ne s’agit plus uniquement de rapporter des faits mais de matérialiser le soupçon que l’action risque d’avoir lieu. La justice antiterroriste cherche donc à caractériser l’hypothèse d’agir et s’appuie pour cela sur des techniques très intrusives, notamment des écoutes (appelées « sonorisations »). Elles sont d’autant plus nécessaires pour l’État quand les preuves matérielles manquent cruellement, comme cela est le cas dans l’affaire du 8 décembre. Dès lors, des paroles échangées ont valeur de preuve pour l’accusation.

Sonder les coeurs et les pensées

C’est cette logique qu’illustre parfaitement l’affaire du 8 décembre. Dans leur délibéré de première instance, les juges du tribunal judiciaire de Paris expliquent que pour caractériser la participation à une association de malfaiteurs terroristes, il suffit que « le mis en cause participe aux activités du groupe en connaissance de cause de sa nature terroriste […] ou qu’il ou elle adhère à l’idéologie du groupe terroriste », même s’il n’a pas accompli d’action précise. En d’autre termes, « Il ne s’agit donc pas de rapporter la preuve d’un projet abouti, mais celle de l’intention des membres de cette association ». Les juges expliquent également que, selon la jurisprudence, « il importe peu que les crimes ou délits auxquels tend l’association soient déterminés ou qu’ils demeurent imprécis ». Ainsi, selon le raisonnement adopté par le tribunal, on peut participer à une association de malfaiteurs terroristes sans avoir réalisé aucun acte préparatoire concret, mais uniquement si la personne a potentiellement pu en avoir l’idée. La justice antiterroriste en vient donc à essayer de sonder les cerveaux et les coeurs.

Ici, pour démontrer que les personnes inculpées avaient pour but de « troubler gravement l’ordre public », le jugement s’appuie quasi intégralement sur des propos prononcés à titre privé et obtenus grâce à la surveillance. Cela souligne tout le risque que la justice antiterroriste fait porter sur nos libertés individuelles et politiques. Peut-on vraiment faire émerger une « conscience » terroriste à partir de paroles prononcées dans le cadre de discussions entre amis et en dehors de tout contexte politique ? Est-ce qu’extraire une phrase toutes les trente minutes sur une conversation de 3 heures pour constituer un ensemble cohérent est un procédé judiciaire loyal ? Peut-on parler « d’adhésion à une idéologie terroriste » pour des conversations parfois alcoolisées de fin de soirée ?

Si les réponses nous semblent évidentes, nous espérons en revanche que la cour d’appel se les posera sérieusement.

Signaux faibles, surveillance et construction de l’ennemi intérieur

Le jugement de première instance est également empreint des logiques de détection de « l’ennemi intérieur » que l’État met en place dans toute la société, au-delà des tribunaux. Si ces pratiques de surveillance ont toujours existé, elles ont pris une nature particulière depuis les vagues d’attentats islamistes qui ont eu lieu dans les pays occidentaux ces deux dernières décennies. Les politiques antiterroristes ont mis au centre le concept de « radicalisation »2Voir Caroline Guibet Lafaye, Ami-Jacques Rapin,« La « radicalisation » : individualisation et dépolitisation d’une notion », Politiques de communication, 2017, disponible ici., alors compris comme un processus individuel et idéologique qui mènerait inévitablement à une action violente. Le rôle de l’État serait alors d’identifier, dans toutes les sphères sociales, les personnes qui seraient en train de se « radicaliser ».

Pour cela, les gouvernements successifs ont alimenté une croyance : qu’en détectant et combinant des caractéristiques comportementales en apparence anodines, on pourrait faire émerger le profil-type de quelqu’un en voie de « radicalisation ». Les administrations, écoles, hôpitaux et autres institutions sont alors chargées de repérer des « signaux faibles » présentés par l’État comme des indices objectifs d’une avancée vers le djihadisme3On se souvient notamment du visuel gouvernemental « Radicalisation djihadiste, les premiers signes qui peuvent alerter » accessible ici.. En réalité, ils incarnent une vision fondamentalement subjective, stigmatisante et islamophobe des personnes musulman⋅es et justifient de leur faire subir nombre de mesures coercitives (comme les assignations à résidence ou les perquisitions) au nom de cette « prévention »4Voir l’émission que nous avons consacré sur le sujet « L’état d’urgence sans fin contre les musulman·es » avec Mathilde Dabed, Rayan Freschi et Nicolas Klausser, disponible sur notre chaine Peertube..

Cette mécanique consistant à croire que l’on peut, d’une part, dessiner le portrait-robot d’une personne « dangereuse » et d’autre part, fixer des éléments qui permettraient de l’identifier, dépasse la répression des personnes musulmanes et irrigue la manière dont les jugements anti-terroristes sont formés.

Criminalisation politique

L’affaire du 8 décembre est en effet construite sur ce type de raisonnement dangereux. Ce que l’on y apprend, en creux, c’est la manière dont est perçu un potentiel « terroriste de gauche », et avec lui les « signaux faibles » caractéristiques qui permettraient de le reconnaître. Si l’État considère comme « inquiétant » le fait chez les musulman⋅es, d’être « trop » pratiquant, à gauche, c’est la critique de l’État qui constitue un élément décisif pour caractériser le profil terroriste des inculpé·es.

Ceci est clairement établi dans le jugement rendu en première instance. En l’absence de projet établi, la condamnation se fonde sur deux piliers particulièrement inquiétants. Le premier est la détention de livres et documents constitutifs d’une culture politique « de gauche » . Le second des propos politiques critiquant, à titre privé, l’État et ses outils répressifs, au premier rang desquels la police nationale.

Les juges de première instance indiquent ainsi que « le but de troubler gravement l’ordre public par l’intimidation ou la terreur trouve en abondance ses illustrations […] dans divers documents écrits retrouvés lors des perquisitions » : parmi ces « documents écrits » sont cités un écrit d’Auguste Blanqui (mort en 1881) et un livre d’Alfred Bonnano (anarchiste italien et braqueur de banques né dans les années 1930 et poursuivi par l’État italien jusqu’à sa mort à l’age de 86 ans). Soit deux écrits historiques, dont le simple fait qu’ils soient mobilisés par l’institution judiciaire pourrait faire sourire, si les circonstances étaient moins graves.

Quant aux écoutes, les juges mobilisent des conversations, captées par les écoutes, et des expressions aussi variées que « chiens de garde » ou « violence d’État », ou bien une expression de colère proférée en passant à côté d’une voiture de police (fantasme de la voir brûler), ou encore une conversation anodine où un⋅e inculpée, au téléphone avec une proche, s’emporte contre sa banque.

Rendez-vous au procès

À l’heure où s’ouvre ce procès en appel, nous observons avec inquiétude l’expansion toujours plus loin des logiques antiterroristes. Après des décennies de jurisprudences liberticides sur les populations musulmanes, établies dans une certaine indifférence, ces logiques s’étendent aujourd’hui aux militant·es de gauche et à la criminalisation de leurs idées politiques.

Les audiences auront lieu du 4 mai au 7 mai, du 11 au 13 mai, du 20 au 22 mai, sur des journées entières à partir de 9h à la Cour d’appel de Paris.

Soyons nombreux·ses pour afficher notre soutien. Retrouvez les informations et comptes rendus sur le blog des comités de soutien.

References[+]

References
↑1 Pour approfondir, voir notamment Julie Alix et Olivier Cahn, « Mutations de l’antiterrorisme et émergence d’un droit répressif de la sécurité nationale », Revue de science criminelle et de droit pénal comparé, 2017. Disponible ici.
↑2 Voir Caroline Guibet Lafaye, Ami-Jacques Rapin,« La « radicalisation » : individualisation et dépolitisation d’une notion », Politiques de communication, 2017, disponible ici.
↑3 On se souvient notamment du visuel gouvernemental « Radicalisation djihadiste, les premiers signes qui peuvent alerter » accessible ici.
↑4 Voir l’émission que nous avons consacré sur le sujet « L’état d’urgence sans fin contre les musulman·es » avec Mathilde Dabed, Rayan Freschi et Nicolas Klausser, disponible sur notre chaine Peertube.

Hadopi (2009–2026)

Aujourd’hui, le Conseil d’État a donné raison à La Quadrature du Net, French Data Network (FDN), Franciliens.net et la Fédération FDN. Il a reconnu que le système de surveillance de la Hadopi (opéré depuis 2021 par l’Arcom) n’est pas compatible avec le respect des droits fondamentaux protégés par l’Union européenne. En conséquence, il a enjoint au gouvernement de procéder à l’abrogation d’une partie d’un décret central de la Hadopi qui organise la riposte graduée. Ce combat contre la Hadopi, que La Quadrature mène depuis les premiers débats législatifs à l’Assemblée en 2009, est emblématique de la vision archaïque qu’ont les différents gouvernements, de gauche comme de droite, sur la question du partage de la culture et de la connaissance en ligne. Il revient désormais au gouvernement d’acter la mort de la Hadopi et, au lieu de tenter de la ressusciter, d’admettre enfin que le partage non-marchand de la culture en ligne ne doit pas être criminalisé.

La Hadopi est bien une machine de surveillance

La Hadopi, c’est la loi qui créa l’autorité éponyme : la « Haute Autorité pour la diffusion des œuvres et la protection des droits sur internet ». Le mécanisme mis en place fonctionne en deux temps : dans un premier temps, les ayants droit constatent que des internautes partagent de la culture sur Internet en peer-to-peer ; ils notent leur adresse IP et l’envoie à la Hadopi ; dans un deuxième temps, la Hadopi, à partir de ces listes d’adresses IP, demande aux fournisseurs d’accès à Internet l’identité civile et les coordonnées des abonné·es repéré·es et conservent ces informations dans un fichier des téléchargeur·euses. S’enclenche alors la riposte graduée : la première fois qu’un·e internaute est repéré·e, la Hadopi commence par envoyer un premier e-mail d’avertissement, puis un second en cas de récidive, puis une lettre recommandée en cas de réitération, et peut enfin transmettre le dossier à la justice pour les internautes qui ignoreraient ces avertissements. L’autorité judiciaire peut alors sanctionner l’internaute d’une contravention de cinquième classe (pouvant aller jusqu’à 1 500 € d’amende ; 3 000 en cas de récidive) pour « défaut de sécurisation d’une connexion Internet »1La Hadopi ne sanctionne pas directement le fait d’avoir téléchargé puisqu’il n’est pas possible, techniquement, de s’assurer que l’abonné·e est bien la personne qui a téléchargé. La parade du législateur a donc été de créer une obligation de sécurisation de son accès à Internet dont le défaut est sanctionné..

En 2021, le législateur a fusionné le CSA (Conseil supérieur de l’audiovisuel) avec la Hadopi pour donner naissance à l’Arcom (Autorité de régulation de la communication audiovisuelle et numérique). Mais l’Arcom n’a fait qu’hériter des missions de la Hadopi, et ce système de surveillance a continué.

Christine Albanel, ministre sarkozyste de la culture qui a défendu en 2009 la première loi Hadopi, affirmait que son texte permettrait de concilier vie privée et lutte contre le piratage, alors qu’elle ne comprenait pas les réalités et enjeux techniques de sa loi. On savait pourtant déjà en 2009 que cela ne fonctionnerait pas, que les internautes allaient arrêter de télécharger en peer-to-peer pour se tourner vers le streaming ou le téléchargement direct (ce qui a, inévitablement, créé un marché pour des plateformes marchandes illégales), et que les questions de piratage sont intrinsèquement liées à l’accessibilité des offres légales (le piratage baisse lorsque l’offre l’égale est facilement accessible et augmente lorsque les offres légales se dégradent ou quand les plateformes sont inaccessibles).

On sait aujourd’hui que les atteintes aux droits fondamentaux sont telles que ce système ne peut pas continuer.

Sept ans de combat judiciaire

En 2019, nous avons demandé au Conseil d’État l’abrogation du décret central de la Hadopi, qui autorise le stockage des données personnelles nécessaires à la riposte graduée (les adresses IP, l’identité civile et les œuvres téléchargées). L’affaire a été renvoyée devant le Conseil constitutionnel et en 2020 nous avons obtenu une première victoire partielle : le Conseil constitutionnel a censuré l’accès large de la Hadopi aux données personnelles (la loi prévoyait à l’époque qu’elle pouvait accéder à « tous documents »). Mais, contrairement à notre analyse immédiate, cela ne signifiait pas nécessairement la fin de la Hadopi.

De retour devant le Conseil d’État pour tirer les conséquences de cette censure partielle de la loi, nous avons alors souligné que la jurisprudence de la Cour de Justice de l’Union européenne (CJUE) s’opposait au système Hadopi : en principe, avant qu’une autorité puisse accéder à des données de connexion (telles que l’adresse IP ou l’identité civile associée à cette IP), il doit y avoir un contrôle indépendant de la légalité et de la proportionnalité de cet accès. Contrôle qui n’existe pas pour la Hadopi. Le rapporteur public du Conseil d’État, mécontent de devoir reconnaître l’illégalité de la Hadopi, admettait tout de même le problème : « Cette affaire devrait, hélas, réjouir des millions d’internautes puisqu’elle met en jeu, indirectement, l’existence même de la [Hadopi]. » Mais, mauvais joueur, au lieu d’inviter le Conseil d’État à mettre un terme à la Hadopi, il lui suggéra de demander à la CJUE une « exception Hadopi » : assouplir les exigences européennes pour que la surveillance de masse de la Hadopi puisse continuer.

Cette requête nous a ainsi amené devant la CJUE. Pour un résultat décevant puisque nous avons perdu sur le principe : la CJUE a accepté d’affaiblir sa position. Elle a accepté qu’un accès à des données de connexion puisse, dans certains cas, ne pas être précédé d’un contrôle indépendant. Mais elle assorti cette possibilité de nombreuses conditions, tant sur les conditions de conservation de ces données que des condition de contrôle indépendant préalable.

Dans sa décision, le Conseil d’État nous donne finalement raison sur ces deux points. Premièrement, il estime que la conservation des données de connexion n’est pas faite de manière à préserver les libertés. La CJUE exigeait une conservation dite « étanche » entre l’adresse IP et les données d’identité civile (qu’on peut comprendre comme deux bases de données, ou deux fichiers, distinct·es, qui ne peuvent être techniquement recoupé·es qu’après une demande d’accès en bonne et due forme par l’Arcom). Le Conseil d’État constate qu’« aucune disposition légale n’impose une telle conservation, dans ces conditions, aux opérateurs de communications électroniques ».

Deuxièmement, il constate également que l’accès à ces données n’est pas précédé d’un contrôle indépendant. Il s’en remet parfaitement aux conclusions déjà tirées par la CJUE, qui est que l’Arcom ne peut être juge et partie : elle ne peut demander l’accès et contrôler elle-même la légalité de cet accès, même si elle est une autorité indépendante. Mais, comme le fait la CJUE, le Conseil d’État estime que cette absence de contrôle ne pose problème qu’à partir du troisième accès aux données, l’étape où une lettre recommandée est envoyée.

La nécessité de trouver un nouveau modèle

Concrètement, cela signifie que la riposte graduée est grippée. L’Arcom ne peut plus vous envoyer devant la justice, puisque les exigences requises par la CJUE ne sont pas remplies. Et elle ne peut vous envoyer de mail que si elle s’est assurée auparavant que les données de connexion ont été conservées de manière « étanche » par votre fournisseur d’accès à Internet2La ministre de la culture affirme avoir demandé à SFR, Free, Orange et Bouygues Telecom si cette conservation était faite de manière étanche. Ces opérateurs lui ont répondu que oui, mais l’Arcom devra s’en assurer. L’occasion de vous inviter à prendre votre abonnement à Internet chez un opérateur éthique de la Fédération FDN !. Elle est donc aujourd’hui reléguée au rôle d’immense machine à spams.

Cela ne veut pas dire pour autant que la Hadopi est définitivement morte. Le gouvernement pourrait revenir à la charge, créer une forme d’autorité de contrôle de l’Arcom pour se mettre en conformité. S’il s’engageait dans cette voie, le gouvernement s’obstinerait à maintenir à flot un système de surveillance illégitime. En se concentrant sur la pénalisation des internautes qui partagent de la culture sur internet, le système Hadopi a manqué sa cible. Il n’a jamais permis de s’attaquer aux plateformes illégales marchandes qui vendent des accès privilégiés à leur catalogue sur le dos des artistes. Au contraire, il a créé un espace pour cette offre illégale. Le système Hadopi n’a pas non plus mis fin à l’exploitation des sociétés d’ayants droit, ces « moines copistes » qui maintiennent les artistes dans une sujétion politique ou économique dont quelques-un·es seulement peuvent se défaire. Commencer par mettre fin à la criminalisation du partage non-marchand de la culture est la première étape à une nécessaire refonte.

Un mème qui parodie les annonces anti-pirate : « You wouldn't bring back Hadopi ».
 

La Quadrature du Net se mobilise depuis 2009 contre la Hadopi et cette victoire résonne donc particulièrement pour nous. Le combat n’est toutefois pas terminé. Ni contre une Hadopi qui pourrait sortir, telle un zombie, de son tombeau. Ni contre toutes ces lois qui voudraient faire d’Internet une zone de non-droits fondamentaux. Alors vous pouvez nous aider en nous faisant un don.

References[+]

References
↑1 La Hadopi ne sanctionne pas directement le fait d’avoir téléchargé puisqu’il n’est pas possible, techniquement, de s’assurer que l’abonné·e est bien la personne qui a téléchargé. La parade du législateur a donc été de créer une obligation de sécurisation de son accès à Internet dont le défaut est sanctionné.
↑2 La ministre de la culture affirme avoir demandé à SFR, Free, Orange et Bouygues Telecom si cette conservation était faite de manière étanche. Ces opérateurs lui ont répondu que oui, mais l’Arcom devra s’en assurer. L’occasion de vous inviter à prendre votre abonnement à Internet chez un opérateur éthique de la Fédération FDN !

La Cour de justice de l’Union européenne désavoue le système de fichage français

Jeudi dernier, la Cour de justice de l’Union européenne – la plus haute juridiction de l’UE – a rendu un arrêt « Comdribus » très attendu concernant les pratiques de fichage françaises. Dans une décision très claire, la Cour estime que la manière dont le droit français permet de prendre les empreintes digitales et la photographie des personnes arrêtées est disproportionnée et contraire au droit de l’UE. Alors que deux jours avant nous dénoncions la prise de photo sauvage dans la rue par les forces de l’ordre, il s’agit d’une illégalité de plus dans l’édifice tentaculaire des fichiers de police. Il est urgent de le démanteler.

Tout commence en 2020, quand « HW » participe à une action d’Extinction Rebellion sur les Champs-Élysées, à Paris. La manifestation n’est pas déclarée et il se fait arrêter sur ce fondement, ainsi que pour rébellion. Comme cela est désormais très fréquemment le cas, la police exige qu’il donne son code de téléphone et qu’il se prête à ce qu’on appelle la prise de « signalétique », afin d’alimenter des fichiers de police.

Cette pratique, prévue par l’article 55-1 du code de procédure pénale, vise à collecter les empreintes digitales et la photo du visage d’une personne soupçonnée d’avoir commis une infraction. Les empreintes sont ensuite conservées dans le fichier automatisé des empreintes digitales (FAED). La photo, elle, atterrit dans le fichier de traitement des antécédents judiciaires (TAJ). Le fichier TAJ constitue ensuite le fondement juridique très contestable pour identifier les personnes par reconnaissance faciale. La police enregistre ces données afin de pouvoir les comparer à l’avenir dans d’autres enquêtes.

Revenons en 2020 : HW refuse cette prise de signalétique. Or, en France, dire non à une telle collecte de données constitue un délit, peu importe que les faits initiaux pour lesquels la personne a été arrêtée aboutissent in fine à une condamnation ou non. C’est ce qu’on appelle un délit « autonome » et c’est ce pourquoi HW est inculpé. Relaxé de la participation à la manifestation non déclarée et du refus de donner son code de téléphone, il reste uniquement poursuivi pour avoir refusé de donner sa signalétique.

Au cours de la procédure, son avocat décide de porter l’affaire devant la Cour de justice de l’UE, afin qu’elle analyse si ce système de fichage prévu par le droit français respecte les droits et libertés protégés par la Charte des droits fondamentaux, notamment le droit à la vie privée. Cette Cour a répondu1La Cour devait répondre à trois questions afin de déterminer si le cadre français était conforme au droit de l’UE. Pour cela, elle s’est notamment appuyée sur un arrêt « VS », rendu il y a 3 ans, concernant le droit bulgare sur un sujet quasiment identique. dans l’arrêt Comdribus du 19 mars dernier, qui constitue une condamnation cinglante pour la France.

Pas de « nécessité absolue »

Premièrement, la Cour se penche sur le respect du droit français aux exigences de proportionnalité. En effet, les prises de photographie et d’empreintes constituent des traitements de données biométriques, qui sont des données « sensibles » selon le droit européen. Ce type de traitement donc est interdit par principe, et ce n’est qu’« en cas de nécessité absolue » qu’un tel traitement peut être mis en œuvre2 Voir les articles 6 et 88 de la loi n° 78-17 du 6 janvier 1978 dite « Informatique et Libertés » ainsi que l’article 10 de la directive 2016/680 dite « police-justice ».

Cette notion de « nécessité absolue » est très utile et protectrice car elle signifie que la collecte d’empreintes et de photos ne peut jamais être systématique. En effet, il faut d’abord que les finalités du traitement – c’est-à-dire ses objectifs, en l’occurrence la recherche des auteurs d’une infraction – soient suffisamment précises. Ensuite, les données collectées doivent être strictement utiles et pertinentes pour atteindre cet objectif. Cela signifie qu’il ne doit exister aucun moyen alternatif et moins attentatoire aux droits fondamentaux pour atteindre l’objectif du traitement de manière aussi efficace. Par conséquent, le traitement de données biométriques ne peut être forcément permis que dans un nombre limité de cas.

Pourtant, l’article 55-1 du code de procédure pénale permet aux policiers de pouvoir faire des relevés signalétiques de « toutes les personnes à l’égard desquelles il existe une ou plusieurs raisons plausibles de soupçonner qu’elles ont commis ou tenté de commettre une infraction pénale ». En effet, comme dans le cas de HW, une personne simplement mise en garde à vue, même sans poursuites, sera concernée par cette prise d’empreintes et de photo. Pour la Cour, ce périmètre est très large et le seul fait qu’il existe un soupçon ne permet pas de remplir la condition de « nécessité absolue ». De plus, les dispositions propres relatives au fichiers TAJ et FAED ne prévoient aucunement le respect de ces exigences et concernent un nombre très vaste de situations et de personnes3L’article R. 40-38-2, 3° du code de procédure pénale prévoit que les empreintes digitales sont collectées pour des « personnes à l’encontre desquelles il existe des indices graves ou concordants rendant vraisemblable qu’elles aient pu participer, comme auteur ou complice, à la commission d’un crime ou d’un délit, ou des personnes mises en cause dans une procédure criminelle ou délictuelle, dont l’identification certaine s’avère nécessaire ». Elles sont conservées 15 ans ou plus, et 10 ans pour les mineur·es.

Pour le TAJ, la photographie du visage à l’article R. 40-25 du code de procédure pénale vise « les personnes à l’encontre desquelles sont réunis, lors de l’enquête préliminaire, de l’enquête de flagrance ou sur commission rogatoire, des indices graves ou concordants rendant vraisemblable qu’elles aient pu participer, comme auteurs ou complices, à la commission d’un crime, d’un délit ou d’une contravention de cinquième classe ». Dans les deux cas, le périmètre est extrêmement large et il n’y a aucun processus permettant d’examiner la condition de nécessité absolue au stade de la collecte.
.

Le gouvernement français a essayé de se défendre en prétendant qu’il ne s’agissait pas d’une obligation mais d’une simple faculté pour les policiers, qui disposaient d’une marge de manœuvre pour apprécier ou non la prise de signalétique. La Cour balaye cet argument et, de façon très intéressante, invite la Cour d’appel qui rejugera de cette affaire à examiner « la mise en œuvre effective du droit », c’est à dire la pratique au-delà de la lettre du texte4En cela, la Cour adopte une position différente de celle de l’avocat général qui se refusait à une telle interprétation in concreto. L’association EDRi analysait ses conclusions dans un article du 13 novembre 2025..

L’analyse de la Cour amène donc à conclure que le cadre français de prise d’empreintes et de photo est contraire au droit de l’UE car il ne permet pas de respecter l’exigence de nécessité absolue.

Une exigence de justification absente du droit français

Deuxièmement, la Cour de justice de l’Union européenne se penche sur la manière dont le droit français impose ou non aux policiers de justifier leur choix de collecter les empreintes et la photographie. Elle exige qu’une explication claire soit fournie à la personne concernée, même de façon succincte, pour notamment lui permettre d’exercer son droit au recours. Elle ajoute que ce n’est pas parce qu’un juge peut ensuite se prononcer sur la légalité de la collecte que cela exonère la police de toute explication auprès de la personne.

Enfin, puisque la prise de signalétique ne doit pas être systématique mais limitée à un petit nombre de cas absolument nécessaires, elle estime que demander aux policiers de motiver leur décision ne constitue pas une « charge déraisonnable ». En utilisant cette formule, la Cour répond en réalité au gouvernement français qui avait tenté de se défendre en arguant que se conformer à cette exigence représenterait un travail trop important pour les policiers.

À nouveau, le droit français n’impose aucune obligation de justification pour collecter les données biométriques et se retrouve donc non conforme au droit de l’UE. Quant à la pratique, elle est également à l’opposé de ces exigences. Les policiers n’expliquent jamais pourquoi ils prennent les empreintes et la photo quand une personne est arrêtée ou auditionnée. Ces gestes sont devenus une banalité dans les commissariats, même pour des personnes en audition libre ou des mineurs d’après des témoignages d’avocat·es. Cela explique les chiffres faramineux de 9 millions de photos dans le TAJ et 6,5 millions d’empreintes dans le FAED. Surtout, cet article 55-1 est fréquemment utilisé pour mettre la pression sur des personnes qui s’exposent à des sanctions et des gardes à vue si elles refusent. Rappelons également que depuis 2022, la prise d’empreinte peut même être faite de force.

Enfin, dans un troisième temps, la Cour examine le caractère « autonome » du délit de refus de donner ses empreintes, c’est-à-dire le fait que la personne puisse être poursuivie uniquement pour cela et indépendamment de la situation qui a menée à son arrestation. Malheureusement, les juges n’en condamnent pas le principe. Cependant, ils exigent des conditions très strictes pour condamner quelqu’un pour un tel refus. Cela doit être fait en fonction des circonstances individuelles (comportement, profil, antécédents) et être réservé aux cas les plus graves. Une fois de plus, le droit français ne respecte en rien ces exigences puisque de nombreuses personnes sont poursuivies uniquement sur la base de ce délit, sans aucune appréciation individuelle de la situation.

Le fichage français dans le viseur

Cette décision de la CJUE constitue un bouleversement dans le droit français. En effet, sa portée délégitime toute la philosophie qui a permis d’alimenter les fichiers de police. En France, la collecte d’informations sur la population n’est pas pensée comme une exception mais comme une manière de ratisser le plus large possible. La pratique montre bien que si des informations sont disponibles ou récupérables, la police les prend « au cas où », pour plus tard. Si une personne est au commissariat, on exige d’elle sa signalétique. Si une personne est contrôlée, on va la prendre en photo et l’identifier par reconnaissance faciale bien que ce soit illégal– comme nous l’avons dénoncé avec le média Disclose.

Selon cette logique, chaque personne pourrait potentiellement être un futur suspect ou coupable, ce qui justifie la collecte de ses données de manière « préventive » et sans raison valable. Cette vision selon laquelle en chacun·e se loge un potentiel suspect est le fondement même de la surveillance de masse. Avec sa décision, la Cour de justice exige un renversement total de cette idéologie. Contrairement à ce que prévoit le droit français, la collecte d’informations et de données biométriques ne doit pas être une situation fréquente concernant une grande partie de la population mais un cas exceptionnel réservé à quelques rares hypothèses.

L’arrêt Comdribus porte donc un coup d’arrêt à une surveillance abusive et massive, mise en place depuis des années. Le ministère de l’intérieur doit sortir de son silence, rendre des comptes, et ordonner que cessent immédiatement les prises d’empreintes et de photo systématiques par la police. Cet arrêt majeur doit mener à une refonte intégrale du droit et à la suppression des millions de fiches illégitimes contenues aujourd’hui dans le TAJ et le FAED.

Aussi si vous le pouvez, n’hésitez pas à faire un don pour soutenir notre travail !

References[+]

References
↑1 La Cour devait répondre à trois questions afin de déterminer si le cadre français était conforme au droit de l’UE. Pour cela, elle s’est notamment appuyée sur un arrêt « VS », rendu il y a 3 ans, concernant le droit bulgare sur un sujet quasiment identique.
↑2 Voir les articles 6 et 88 de la loi n° 78-17 du 6 janvier 1978 dite « Informatique et Libertés » ainsi que l’article 10 de la directive 2016/680 dite « police-justice »
↑3 L’article R. 40-38-2, 3° du code de procédure pénale prévoit que les empreintes digitales sont collectées pour des « personnes à l’encontre desquelles il existe des indices graves ou concordants rendant vraisemblable qu’elles aient pu participer, comme auteur ou complice, à la commission d’un crime ou d’un délit, ou des personnes mises en cause dans une procédure criminelle ou délictuelle, dont l’identification certaine s’avère nécessaire ». Elles sont conservées 15 ans ou plus, et 10 ans pour les mineur·es.

Pour le TAJ, la photographie du visage à l’article R. 40-25 du code de procédure pénale vise « les personnes à l’encontre desquelles sont réunis, lors de l’enquête préliminaire, de l’enquête de flagrance ou sur commission rogatoire, des indices graves ou concordants rendant vraisemblable qu’elles aient pu participer, comme auteurs ou complices, à la commission d’un crime, d’un délit ou d’une contravention de cinquième classe ». Dans les deux cas, le périmètre est extrêmement large et il n’y a aucun processus permettant d’examiner la condition de nécessité absolue au stade de la collecte.

↑4 En cela, la Cour adopte une position différente de celle de l’avocat général qui se refusait à une telle interprétation in concreto. L’association EDRi analysait ses conclusions dans un article du 13 novembre 2025.

Contrôles d’identité : défendons-nous contre la reconnaissance faciale

Aujourd’hui, nous lançons une offensive contre l’utilisation de la reconnaissance faciale, par la police, lors de simples contrôles d’identité dans la rue. En partenariat avec le média Disclose, nous publions un guide démontrant l’illégalité de cette pratique et, plus généralement, les dangers de cette technologie. Face à l’inaction des tribunaux, de la CNIL et des pouvoirs publics, il est temps de riposter et de s’organiser pour que ces pratiques soient sanctionnées et que soit enfin actée l’interdiction de la reconnaissance faciale.

Beaucoup pensent que la reconnaissance faciale n’existe pas en France, et que cette technologie serait réservée à des pays lointains et autoritaires. Pourtant, cela fait des années que la police s’en sert chaque jour, de façon illégale, sous la supervision de l’État. À travers le fichier de traitement des antécédents judiciaires (dit « TAJ »), les agents ont accès à un module de reconnaissance du visage aussi bien dans le cadre d’enquêtes que dans la rue, grâce à leur téléphone « NEO » . La reconnaissance faciale est ainsi massivement utilisée, de façon sauvage, par la police lors de contrôles d’identité. Pourtant, comme le révèle Disclose, cette pratique est totalement interdite. De plus, il n’existe aucun texte qui prévoie la manière dont la reconnaissance faciale peut être utilisée, par qui, dans quelle situation, avec quel contrôle. En dotant des milliers de policiers et gendarmes de ces outils, le ministère de l’intérieur a donc sciemment organisé une surveillance abusive et illégale.

Dès 2021, nous nous faisions l’écho de témoignages et de reportages attestant de cette pratique. Par ailleurs, nous attaquions – en vain – la reconnaissance faciale devant le Conseil d’État. Puis, en 2022, nous lancions une plainte collective devant la CNIL contre le fichier TAJ. Nous y pointions notamment le fait que la police prenne en photo les personnes lors de contrôles d’identité ou au cours de manifestations. Celle-ci est toujours en cours d’instruction et nous n’avons pour le moment pas de nouvelle. Cette utilisation de la reconnaissance faciale par la police continue d’être documentée, par exemple par le Bondy Blog à Paris en 2024, mais demeure toujours illégale.

Face à l’inaction des pouvoirs publics et de la CNIL, il nous revient de nous organiser pour riposter. C’est ce que nous avons fait avec le média Disclose, qui a rassemblé de nombreux témoignages et éléments afin de prouver l’illégalité organisée de cette pratique (lire leur enquête ici). De notre côté, nous avons synthétisé et réuni au sein d’un guide l’ensemble des arguments juridiques permettant de démontrer que l’utilisation de la reconnaissance faciale pendant un contrôle d’identité est illégitime et hors-la-loi (à lire et télécharger là). Le but est à la fois de permettre au plus grand nombre de se défendre contre cette situation abusive, mais également d’exiger que les autorités qui ont activement et délibérément déployé cette surveillance illégale, pendant des années, répondent de leurs actes. Nous y avons également intégré un argumentaire politique pour exiger l’interdiction de la reconnaissance faciale ainsi que des modèles de courrier pour demander l’accès, la rectification et la suppression de sa fiche TAJ.

Nous avons bien conscience qu’en matière de contrôle d’identité, il y a un monde entre la théorie du droit et la pratique policière. Que les contrôles policiers s’inscrivent dans un continuum de violences et de racisme qui concerne principalement une certaine partie de la population, jeune, racisée, vivant dans certains quartiers, à qui le droit ne s’applique pas de la même manière. Que dire « c’est illégal » n’empêchera pas des policiers d’agir contre la loi tant qu’il n’y aura ni contrôle, ni condamnation de ces abus.

Cependant, il nous semble important de visibiliser ces situations abusives pour mieux les tenir en échec. C’est en nous organisant collectivement que nous pouvons inverser le rapport de force, demander des comptes et empêcher le déploiement et la banalisation de la reconnaissance faciale tant qu’il est encore temps. Au-delà de cette utilisation illégale lors de contrôles d’identité, de nombreux politiques veulent aller plus loin et permettre le recours à la reconnaissance faciale en temps réel en la connectant aux caméras de vidéosurveillance de l’espace public.

Ces demandes sont loin d’être nouvelles. Dès 2019, un député macroniste proposait une expérimentation de la sorte, tout comme le secrétaire d’État au numérique Cédric O, qui appelait à « expérimenter la reconnaissance faciale pour que nos industriels progressent ». En 2020, le Livre Blanc de la sécurité intérieure « estimait hautement souhaitable d’expérimenter la reconnaissance faciale dans les espaces publics », proposition relayée par différents rapports parlementaires à l’Assemblée nationale et au Sénat. En parallèle, la France bataillait au sein de l’Union européenne pour que le règlement sur l’intelligence artificielle, adopté en 2023, contienne le moins de restrictions possibles à l’utilisation policière de la reconnaissance faciale. Enfin, en mai 2025, Gerald Darmanin a proposé qu’un « groupe de travail » soit constitué pour avancer sur le sujet.

La reconnaissance faciale gagne donc du terrain et nous devons impérativement la repousser. Le guide juridique que nous publions aujourd’hui se veut un outil permettant d’y contribuer et de se défendre collectivement. Il est pensé pour être diffusé largement et pris en main par tout le monde et par tous types de collectifs, qu’il s’agisse de groupes luttant contre le contrôle au faciès, de legal teams et groupes d’autodéfense juridique, d’avocat⋅es ou de collectifs luttant contre les violences policières et institutionnelles… Bref, lisez-le, imprimez-le, envoyez-le, laissez-le traîner, partagez-le le plus possible !

Quant à la suite, il faut être clair : nous ne voulons pas d’une loi pour régulariser l’utilisation de la reconnaissance faciale, nous refusons purement et simplement cette technologie déshumanisante. En rendant l’anonymat pratiquement impossible, elle arrache aux citoyen·nes leur identité contre leur volonté et donne à l’État une connaissance inédite de sa population et une capacité à la contrôler et l’empêcher d’agir. C’est pourquoi nous exigeons l’interdiction pure et simple de la reconnaissance faciale et que les responsables politiques qui ont permis son déploiement illégal soient sanctionnés.

Aussi si vous le pouvez, n’hésitez pas à faire un don pour soutenir notre travail !

Projet de loi polices municipales, blanc-seing pour la Technopolice municipale

Depuis la loi « Chevènement » du 15 avril 1999, les services municipaux de police se sont multipliés sur l’ensemble du territoire français. Aujourd’hui, environ 28 000 agents répartis dans 4 600 communes y sont rattachés. En parallèle de l’augmentation des effectifs, huit réformes successives ont renforcé les équipements et missions des policiers municipaux. Le projet de loi sur les polices municipales, présenté fin octobre 2025 par Laurent Nuñez, accentue ce mouvement en les dotant (ainsi que les gardes champêtres1Les gardes champêtres sont des agents communaux bénéficiant d’une compétence de police spéciale, la police des campagnes, et qui sont chargés de rechercher les contraventions aux règlements et arrêtés de police municipale.), de moyens de surveillance et de sanction supplémentaires : drones, caméras individuelles, amendes forfaitaires ou encore accès au fichier TAJ. La plupart de leurs nouvelles prérogatives sont calquées sur celles des policiers et gendarmes nationaux. Le Conseil constitutionnel avait pourtant, à deux reprises, censuré des articles de lois qui prévoyaient une extension similaire des pouvoirs de la police municipale2En 2011, dans la loi Loppsi 2, et en 2021, dans la loi Sécurité globale.. Le gouvernement, main dans la main avec les sénateur·rices qui ont adoubé le texte à une écrasante majorité le 10 février dernier, tente donc à nouveau de franchir le Rubicon.

Le timing du projet de loi n’est pas anodin car il tombe en plein milieu de la campagne pour les élections municipales, période généralement favorable aux penchants sécuritaires. En effet, à chaque élection, la même rengaine populiste sur la hausse exponentielle de l’insécurité monopolise le devant de la scène politique et médiatique. Qu’importe si les chiffres disent le contraire3Voir également le rappel du Centre d’observation de la société ou le rapport de la Cour des comptes de 2020 sur les polices municipales (pp. 69–71)., élu·es et candidat·es entretiennent cette chimère et rivalisent d’inventivité pour proposer des remèdes miracles, quitte à flirter avec l’illégalité. La lutte contre l’insécurité, terme fourre-tout qui désigne tout aussi bien des festivités bruyantes, des ordures sur la voie publique, que des cambriolages ou des homicides, est ainsi devenue l’alibi idéal pour instaurer des mesures toujours plus attentatoires aux libertés, à l’image des textes sécuritaires présentés par le gouvernement ces dernières semaines.

Au milieu de cette surenchère, le projet de loi en cause investit les policiers municipaux de pouvoirs toujours plus importants sans véritablement renforcer leur formation ou leur encadrement en parallèle. L’objectif affiché par le ministre de l’intérieur avec ce texte est de donner (encore) plus de place à la police locale dans l’édifice de la « sécurité globale » en France. Aussi, à travers ce texte, ce sont non seulement les libertés qui sont sacrifiées sur l’autel du sacro-saint « continuum de sécurité », mais aussi, paradoxalement, la sécurité elle-même.

Drones, caméras embarquées, LAPI : les nouveaux joujoux de la police municipale

Les drones

L’article 6 du projet de loi autorise, à titre expérimental les policiers municipaux à se servir de drones, dans cinq situations aux contours flous, incluant notamment tout « grand rassemblement de personnes particulièrement exposées à des risques de troubles graves à l’ordre public ».

Le gouvernement, après deux camouflets du Conseil constitutionnel4Décision n° 2021-817 DC du 20 mai 2021, Loi pour une sécurité globale préservant les libertés ; Décision n° 2021-834 DC du 20 janvier 2022, Loi relative à la responsabilité pénale et à la sécurité intérieure., tente donc de réintroduire cette mesure. Cette fois, pour échapper à une énième censure, il subordonne le déploiement des drones à la délivrance d’une autorisation préfectorale écrite et motivée, qui mentionne le nombre maximal de caméras pouvant procéder simultanément aux enregistrements, d’une durée maximale de 3 mois et révocable à tout moment par le préfet.

Néanmoins, il ne faut pas être dupe de ces faibles garde-fous qui sont, dans d’autres cadres déjà en place, régulièrement enjambés par les autorités. Même la CNIL déplore que les finalités qui justifieraient le recours à des drones par les services de police municipale soient « à la fois très larges, diverses et d’importance inégale », et juge la durée de l’expérimentation disproportionnée.

Et surtout, les précédents déploiements de drones par la police et la gendarmerie nationales ont montré les dérives de la surveillance aérienne via cette technologie. En plus de devenir un réflexe qui n’est pas toujours adapté à la situation, les préfectures court-circuitent la contestation de leur autorisation en les multipliant, en les republiant après une première annulation par un tribunal administratif, ou en les promulguant tardivement. Cette pratique de contournement de la loi par les préfectures a été particulièrement visible durant le mouvement « Bloquons tout » : autorisations très larges (parfois couvrant tout un département ou toute une agglomération), adoptées la veille au soir d’un rassemblement prévu le matin (empêchant ainsi quasiment tout recours dans les délais), refus par les préfectures de cesser des drones lorsque la justice l’ordonne, etc.

Les caméras piéton et embarquées

En plus des drones, l’article 6 quater lance une expérimentation quinquennale pour doter les policiers municipaux de caméras embarquées dans leurs moyens de transport. L’article 7 du projet de loi, quant à lui, pérennise l’expérimentation relative au port de caméras-piétons par les gardes champêtres, issue de la loi Sécurité globale de 2021. Cependant, cette pérennisation rime avec banalisation alors même que leur pertinence n’est pas étayée : l’expérimentation n’a concerné que 17 caméras pour une quarantaine de gardes champêtres…

De plus, cette pérennisation s’accompagne d’un affaiblissement des garanties juridiques : certaines interdictions prévues dans la loi expérimentale, comme la transmission des enregistrements en temps réel au poste de commandement et la consultation en direct des enregistrements par les agents, ont purement et simplement disparu du projet de loi.

De manière générale, les caméras-piétons sont un dispositif néfaste qui participe à la «  robocopisation  » des policiers et par conséquent à creuser le fossé entre la police et la population (voir notre brochure sur la VSA ou encore le récent sujet de Last Week Tonight sur le sujet aux États-Unis).

Les dispositifs de lecture automatisée des plaques d’immatriculation (LAPI)

L’article 8 du projet de loi étend la capacité des policiers municipaux à utiliser des dispositifs de lecture automatisée de plaques d’immatriculation (LAPI) pour l’ensemble des infractions au code de la route. Ces dispositifs sont composés :

  • d’un capteur vidéo, mobile ou fixe permettant de prendre en photo les données signalétiques du véhicule ainsi que ses occupants ;
  • d’un logiciel de traitement de l’image qui permet de numériser la plaque (dans tous les cas) et de détecter des comportements prédéfinis (dans certains cas seulement).

Ils captent donc des images portant sur des données personnelles : numéro d’immatriculation du véhicule, photographie du véhicule et de ses éventuels occupants, ce qui remet en question le principe d’anonymat dans l’espace public. Ces données feront ensuite l’objet de traitements automatisés, notamment une consultation du système d’immatriculation des véhicules (SIV).

Or, l’unique garantie prévue par le projet de loi se résume à une autorisation préfectorale qui se bornerait à préciser les modalités d’information de la mise en œuvre des dispositifs LAPI. Cela est largement insuffisant comme le dénoncent le Conseil d’État et la CNIL qui plaident pour l’instauration de garanties supplémentaires. Le Conseil d’État estime par exemple que le champ des données recueillies est trop important, la photographie des occupants n’étant « pas nécessaire pour constater les nouvelles infractions autorisées ».

Finalement, le projet de loi ouvre (ou élargit) l’accès de la police locale à des technologies défaillantes et dangereuses pour les libertés. Le tout financé généreusement (et plus illégalement) par les régions comme en rêvait Valérie Pécresse.

Un arsenal technologique financé par la région

L’article 9 du projet de loi prévoit que les régions puissent « contribuer au financement des projets […] concourant à l’équipement des polices municipales ou à la mise en œuvre de systèmes de vidéoprotection. » Il balaye ainsi discrètement un principe fondamental du droit administratif : l’incompétence des régions en matière de sécurité, d’ordre public ou de forces de police.

Le gouvernement justifie cette disposition par la nécessité de financer les coûts de la formation supplémentaire des policiers municipaux dotés de missions de police judiciaire. Or, cette finalité n’est absolument pas mentionnée dans l’article. En réalité, il s’agit de légitimer le programme sécuritaire déjà mis en œuvre par certain·es président·es de région, à l’instar de Valérie Pécresse, en toute illégalité. En l’état des discussions parlementaires, l’article 9 du projet de loi légaliserait les subventions (à l’instar de celle de la région PACA annulée il y a quelques années par la justice5TA Marseille, Préfet des Bouches-du-Rhône 17 décembre 2019, n° 1703337.) de communes par une région pour financer l’équipement des polices municipales, comme des drones, et sauverait l’actuel « bouclier de sécurité » de la région Île-de-France que nous contestons actuellement en justice aux côtés d’élu·es d’opposition. L’ancien ministre de l’intérieur, Bruno Retailleau, avait d’ailleurs explicitement promis à une sénatrice proche de Valérie Pécresse, en juillet 2025, qu’un article du futur projet de loi polices municipales donnerait compétence aux régions en matière de sécurité. Cet article est donc clairement le résultat du lobbying de Valérie Pécresse et de ses allié·es pour sauver son « bouclier de sécurité » devenu la colonne vertébrale de la Technopolice francilienne.

Ce projet de loi montre bien toute l’hypocrisie des dirigeants, qui rognent sur la moindre dépense pour mener une politique sociale ou écologique tout en faisant couler à flots les subventions pour les politiques sécuritaires (depuis 2016, la région Île-de-France a octroyé 145 millions d’euros de subventions aux communes pour l’équipement des polices municipales ou la vidéoprotection). En s’enfermant dans cette rhétorique de la peur, le gouvernement et ses partisans privilégient la coercition à la prévention et ne traitent à aucun moment les causes de la délinquance à la racine.

Amendes, consultation des fichiers, contrôles d’identité… : les nouveaux pouvoirs démesurés de la police municipale

En plus d’autoriser de nouvelles technologies de surveillance pour les polices municipales, le projet de loi renforce aussi les pouvoirs des agents, rendant toujours plus floue la frontière entre police nationale et police municipale.

Par principe, la police municipale remplit des missions de police administrative, c’est-à-dire qui visent à prévenir les atteintes à l’ordre public, et non à réprimer des infractions comme la police judiciaire. Toutefois, les policiers municipaux ne sont pas complètement étrangers aux missions de police judiciaire : en leur qualité d’agents de police judiciaire adjoints (APJ), ils détiennent la faculté de constater certaines infractions en établissant un procès-verbal. Néanmoins, ils ne sont compétents ni pour infliger des amendes, ni pour arrêter les auteur·rices de l’infraction, ni pour enquêter, ces pouvoirs étant réservés à la police et la gendarmerie nationales.

L’article 2 du projet de loi déséquilibre cette répartition en octroyant d’importantes prérogatives judiciaires aux policiers municipaux. En pratique, les maires n’auront qu’à demander à leur conseil municipal pour que soit créé un « service de police municipale à compétence judiciaire élargie » (SPMCJE), composé de policiers municipaux encadrés par chefs et les directeurs de service (appelés « personnel d’encadrement »)6La police municipale est composée de différentes catégories de fonctionnaires : les agents de police municipale et gardes champêtres (catégorie C) ; les chefs de service (catégorie B) dont la fonction est accessible par concours externe sans avoir jamais travaillé dans le corps de la police municipale ; et les directeurs de service (catégorie A) qui doivent justifier d’une longue expérience dans la police municipale..

Dans la version votée par le Sénat, les policiers municipaux des SPMCJE pourront constater une vingtaine d’infractions supplémentaires : occupation illicite d’un hall d’immeuble, vol, conduite avec permis de conduire invalide ou en grand excès de vitesse, usage de stupéfiants, pénétration sur une aire de compétition sportive, intrusion dans un établissement d’enseignement scolaire, abandon ou dépôt illicite de déchets, etc. Petit détail non négligeable : afin de constater le délit d’occupation illicite, l’article 2 bis autorise les polices municipales à pénétrer dans les parties communes des habitations sans formalité préalable.

Surtout, les policiers municipaux pourront désormais infliger une amende forfaitaire délictuelle (AFD), en cas de flagrant délit, sans être supervisés. Or, cette généralisation des AFD est particulièrement préoccupante car il s’agit d’une sanction pénale prononcée en dehors de tout procès, au mépris des principes du droit pénal (présomption d’innocence, droit au recours et au procès équitable, individualisation des peines, etc.). De plus, il a aujourd’hui été démontré, comme l’a rappelé le Conseil national des barreaux dans un avis, que l’AFD est un instrument discriminatoire car elle cible d’abord les personnes en situation de précarité, à l’image de personnes sans abri se réfugiant des les halls d’immeuble ou les établissements scolaires, et est parfois sciemment dévoyée à l’encontre des personnes jugées « indésirables » dans certains quartiers (voir l’avis de la CNCDH, § 33, et le communiqué du Syndicat de la magistrature).

D’ailleurs, face aux multiples dysfonctionnements de la procédure d’AFD, un rapport de la Mission d’urgence relative à la déjudiciarisation, commandé par le ministère de la justice, préconisait début 2025 une « pause » dans son développement. Le même gouvernement ayant diligenté cette mission va donc à rebours des conclusions de ses propres services en s’entêtant à déployer un dispositif défaillant.

Par effet boule de neige, l’octroi du pouvoir d’infliger des AFD aux policiers municipaux a été assorti de l’autorisation de consulter deux fichiers. D’une part, le fichier des véhicules terrestres à moteur assurés, pour vérifier si le véhicule est assuré ou non. D’autre part, le fichier des traitement d’antécédents judiciaires (TAJ), dans le cadre de quatre infractions uniquement, pour déterminer si la personne visée par une amende est en état de récidive (une AFD ne pouvant pas être prononcée si c’est le cas). Seul le personnel d’encadrement pourra effectuer de telles consultations.

En dehors de la verbalisation des infractions, une panoplie de prérogatives qui étaient auparavant l’apanage exclusif de la police nationale et de la gendarmerie sont mises à disposition de la police municipale : dépistage du taux d’alcoolémie ou de l’usage de stupéfiants, y compris en l’absence de raisons plausibles de soupçonner une infraction, inspection visuelle des véhicules (dont le coffre) lorsque leur conducteur ou passager commet un crime ou délit flagrant, et enfin contrôle de l’identité sur la base d’un simple soupçon. Le tout sous la houlette d’un personnel d’encadrement qui n’est pas spécialement formé aux fonctions de direction (ni d’encadrement…).

La police municipale est ainsi amenée (et incitée7Les sénateurs ont adopté trois amendements identiques instaurant le reversement partiel ou total du produit des AFD aux communes dotées d’un SPMCJE, ce qui les poussera nécessairement à inciter leurs agents à verbaliser.) à accomplir davantage de missions répressives au détriment de ses missions habituelles de prévention. Ce « glissement » de l’activité des polices municipales et des gardes-champêtres vers les missions traditionnelles de la police et de la gendarmerie nationale contribue à la dérive des pouvoirs de police. Ainsi, il confie des pouvoirs répressifs à des agents peu ou mal formés, à l’image des missions confiées à des agents de sécurité privés.

Mais, également, il conduit les policiers municipaux à se substituer aux policiers nationaux au lieu de les compléter. La Cour des compte s’alarmait dès 2020, dans son rapport sur les polices municipales, du fait que « le développement des polices municipales conduit les forces de l’État – et principalement la police nationale en zone urbaine – à les utiliser comme force d’appui, au risque de créer une relation de dépendance ». Elle concluait que « l’assimilation de certaines polices municipales aux forces nationales est préjudiciable pour les communes, qui exposent leurs agents à des risques auxquels ils ne sont pas formés à faire face, et pour l’État, dont la mission régalienne de sécurité repose sur des moyens extérieurs », sans oublier la population qui subit ce double préjudice par ricochet. Ce changement de paradigme va donc nécessairement tendre les relations entre policiers municipaux et habitant·es, et plus largement peser sur les relations police-population.

Un imbroglio juridique

Le débordement de la police municipale sur le domaine judiciaire repose en outre sur un montage juridique kafkaïen. Pour éviter une troisième censure du Conseil constitutionnel, le gouvernement prévoit un système de double tutelle : celle du maire, lorsque les policiers municipaux exercent leurs missions classiques de police municipale, et celle du procureur de la République, lorsqu’ils exercent des missions de police judiciaire.

Le problème est qu’en pratique, ce système engendrera une forte confusion pour les usagers car rien ne permettrait de déterminer à quel titre les policiers municipaux interviennent, et donc de savoir s’ils outrepassent leurs compétences. Par exemple, en l’état actuel des discussions parlementaires, l’article 2 du projet de loi prévoit que les policiers municipaux d’un SPMCJE sont compétents pour procéder à des contrôles d’identité. Les policiers municipaux d’un service de police classique (c’est-à-dire un service qui n’est pas un SPMCJE) pourront ainsi jouer sur l’opacité de leur statut pour contrôler l’identité des habitant·es de la commune en toute impunité.

Ce chevauchement opérationnel complique également les contrôles par les autorités compétentes : qui, du maire ou du procureur, se déclarera compétent pour vérifier les modalités d’exécution d’une mission administrative qui a dérivé en mission judiciaire, ou inversement ? Les abus passeront mécaniquement plus facilement à travers les mailles du filet.

Dans son avis sur le texte, le Conseil d’État pointe les multiples dysfonctionnements du montage juridique envisagé : « l’extension des prérogatives judiciaires des agents de police municipale, le rôle nouveau joué par les personnels d’encadrement et le contrôle renforcé de l’autorité judiciaire vont nécessairement accroître les zones d’incertitude en termes d’articulation des compétences (compétences complémentaires ou concurrentes, caractère distinct ou mixte des infractions constatées…), au risque, notamment de fragiliser les procédures engagées et, en fin de compte, d’affaiblir l’efficacité du dispositif envisagé. […] le fonctionnement d’un tel régime de procédure pénale à géométrie variable sera complexe à mettre en œuvre compte tenu des risques de mésusage ou de confusion des compétences détenues ou non par les agents de police municipale, en fonction du contexte ».

En plus d’être illisible, l’encadrement des policiers municipaux par l’autorité judiciaire est illusoire : il est certain que le parquet n’aura pas la capacité de les contrôler car c’est ce qui se produit déjà à l’égard de la police nationale, en raison d’un déficit structurel de moyens et d’effectifs, comme l’ont déjà rappelé la Cour des comptes et la Défenseure des droits.

Dans la même veine, si le texte prévoit la création d’un numéro d’identification individuel, calqué sur le référentiel des identités et de l’organisation (RIO) de la police nationale, en pratique, le port du RIO n’est aujourd’hui déjà pas systématique en pratique et son absence est rarement sanctionnée. Cette mesure n’est donc en réalité qu’un pur effet d’annonce.

On ne peut même pas compter sur une amélioration de la formation des agents pour limiter la casse. Déjà, la formation de base des policiers municipaux constitue une version très allégée de celle dispensée aux policiers et gendarmes nationaux (6 mois contre 1 an minimum de formation). Ensuite, si le projet de loi met en place des formations spécifiques pour les agents des SPMCJE, il prévoit en même temps que ces derniers puissent en être partiellement ou totalement dispensés. Enfin, le contenu des formations complémentaires n’est absolument pas détaillé.

Aussi, le projet de loi confie aux policiers municipaux des missions délicates qui peuvent rapidement virer à la confrontation, comme le contrôle d’identité, sans déontologie ni formation appropriées. Cette asymétrie entre niveau de formation et niveau de responsabilité crée un risque non négligeable d’atteintes aux droits fondamentaux, accentué par les moyens invasifs mis à disposition de la police municipale.

En résumé, le projet de loi dote les policiers municipaux de prérogatives et de moyens plus importants qui sont particulièrement dangereux pour les libertés individuelles et collectives. Il sera examiné à partir du 7 avril prochain à l’Assemblée nationale en commission des lois et nous appelons les député·es à le rejeter. Et pour nous permettre de continuer notre travail contre la Technopolice, vous pouvez nous aider en nous faisant un don.

References[+]

References
↑1 Les gardes champêtres sont des agents communaux bénéficiant d’une compétence de police spéciale, la police des campagnes, et qui sont chargés de rechercher les contraventions aux règlements et arrêtés de police municipale.
↑2 En 2011, dans la loi Loppsi 2, et en 2021, dans la loi Sécurité globale.
↑3 Voir également le rappel du Centre d’observation de la société ou le rapport de la Cour des comptes de 2020 sur les polices municipales (pp. 69–71).
↑4 Décision n° 2021-817 DC du 20 mai 2021, Loi pour une sécurité globale préservant les libertés ; Décision n° 2021-834 DC du 20 janvier 2022, Loi relative à la responsabilité pénale et à la sécurité intérieure.
↑5 TA Marseille, Préfet des Bouches-du-Rhône 17 décembre 2019, n° 1703337.
↑6 La police municipale est composée de différentes catégories de fonctionnaires : les agents de police municipale et gardes champêtres (catégorie C) ; les chefs de service (catégorie B) dont la fonction est accessible par concours externe sans avoir jamais travaillé dans le corps de la police municipale ; et les directeurs de service (catégorie A) qui doivent justifier d’une longue expérience dans la police municipale.
↑7 Les sénateurs ont adopté trois amendements identiques instaurant le reversement partiel ou total du produit des AFD aux communes dotées d’un SPMCJE, ce qui les poussera nécessairement à inciter leurs agents à verbaliser.

Notation des allocataires : la CNAF publie son code mais omet l’essentiel

Le 15 janvier dernier, la Caisse nationale des allocations familiales (CNAF) a dévoilé le code source de la dernière version de son algorithme de notation des allocataires. Cette annonce s’est accompagnée d’une campagne de communication de l’administration visant à présenter cette nouvelle version comme répondant aux critiques auxquelles l’algorithme fait face depuis plusieurs années, alors que 25 organisations européennes menées par La Quadrature du Net attaquent la CNAF en justice. À l’entendre, ce nouvel algorithme garantirait « la protection des droits des personnes » et « l’équité » de tous·tes face aux pratiques de contrôle de l’institution. Mais cette opération de communication vise à masquer l’essentiel : l’analyse du code et une étude de la CNAF elle-même montrent que le nouvel algorithme discrimine toujours les mêmes populations.

Rappelons l’affaire avant de continuer : depuis 2010, la CNAF (Caisse nationale des allocations familiales), utilise un algorithme pour orienter ses contrôles. Cet algorithme recherche les indus, c’est-à-dire les foyers qui auraient reçu plus de prestations sociales que ce à quoi ils ont droit. La plupart du temps, ces indus existent en raison d’erreurs de déclaration, parce que les conditions pour recevoir des prestations sociales se complexifient lorsqu’elles concernent les personnes les plus pauvres. Chaque mois, chaque foyer se voit attribuer par l’algorithme un score, compris entre 0 et 1, qui représente la probabilité que, si un contrôle était ouvert, un indu de plus de 600€ par mois sur 6 mois soit trouvé. Et comme l’objectif de cet algorithme est d’orienter les contrôles vers les dossiers les plus faciles, la conséquence est que plus le score d’un foyer est élevé, plus le risque de contrôle est important.

Quatre versions de l’algorithme ont été utilisées depuis la mise en place de ce système : une version conçue en 2010 (où trois « sous-modèles » calculaient trois scores, le plus élevé étant retenu) ; une version conçue en 2014 (cette fois à modèle unique) ; une version de 2018 (à modèle unique aussi, que la CNAF vient tout juste de publier en catimini) ; et la toute nouvelle version conçue en 2025 et mise en œuvre en 2026 (publiée par la CNAF en janvier).

En 2022, La Quadrature du Net a commencé à travailler sur cet algorithme. Nous avons donc demandé à obtenir le code source et – plus important encore – les variables et pondérations. Si l’algorithme en cours d’utilisation (version 2018 à cette date) ne nous avait alors pas été communiqué, nous avions eu accès à une ancienne version de l’algorithme et nous avions pu démontrer son caractère intrinsèquement discriminant (voir notre analyse et nos explications).

Un nouvel algorithme ?

En début d’année, la CNAF a modifié son algorithme et a publié le code de cette « nouvelle » version. Cette version, utilisée depuis janvier dernier, apporte des modifications mineures par rapport à l’algorithme que nous avions pu analyser en 2023 (version 2014). Ainsi, on ne retrouve plus de critère qui augmente le score si la personne bénéficie de l’allocation adulte handicapé (AAH) et travaille, ce qui avait fait grand bruit quand nous l’avions révélé. Exit également l’analyse des comportements : la CNAF n’utilise désormais plus le nombre de connexions au site caf.fr, le nombre d’e-mails envoyés ou le nombre de changements de code postal, comme c’était le cas auparavant. La toute récente publication de la version 2018 de l’algorithme montre que la CNAF a également fait le ménage parmi des critères particulièrement scandaleux : ne sont notamment plus utilisés des critères comme le fait d’avoir attaqué en justice sa CAF, de ne pas être de nationalité française, ou de vivre dans un quartier défavorisé1D’autres critères discriminatoires qui étaient présents dans la version 2018 ont été supprimés comme le fait de vivre dans une résidence sociale, un foyer de jeunes travailleurs ou dans une chambre d’hôtel, ou encore de garder son logement étudiant pendant l’été..

Mais derrière cette amélioration de façade, rien ne change. Les personnes pauvres ou précaires sont toujours directement ciblées. Le score de risque augmente ainsi toujours lorsque les personnes bénéficient de certaines prestations sociales (revenu de solidarité active, complément familial, allocation de soutien familial, allocation de rentrée scolaire ou encore l’allocation d’éducation de l’enfant handicapé) ou pour celles qui auraient le droit à une pension alimentaire (qu’elle ait été touchée ou non). Également, le fait d’avoir des revenus faibles fait toujours augmenter le score2Les foyers ayant entre 0,6 et 1,5 fois le SMIC auront un score plus élevé. La CNAF ne précise pas si le calcul se fait par personne ou pour l’ensemble du foyer..

Pire encore : la CNAF avait introduit dans son algorithme de 2018 des critères ciblant sans équivoque les personnes précaires, critères qui sont aujourd’hui encore utilisés dans la version 2025 et multipliés. Un critère de cumul des prestations sociales a notamment été introduit dans la version 2025 pour cibler les personnes bénéficiant de plus de trois prestations. Les personnes qui touchent plus de 200 euros d’allocations par mois verront également leur score augmenter, comme c’était déjà le cas dans la version 2018 (seul le seuil a changé). Ce nouvel algorithme recherche également toujours la précarité professionnelle puisque les personnes subissant l’ubérisation du monde du travail et qui déclarent une activité non-salariée, les personnes dont le conjoint ne travaille pas, ou celles qui entrent ou sortent du RSA (parce qu’elles ont pu trouver un revenu leur retirant temporairement le droit au RSA) subiront encore un score plus élevé.

Les mêmes populations concernées

Dès lors, quel impact attendre de ces changements sur les profils des personnes ciblées par l’algorithme ? Aucun, et c’est ici un document de la CNAF elle-même qui le prouve.

En octobre 2025, la direction des statistiques, des études et de la recherche (DSER) de la CNAF a réalisé une étude consistant à « simuler » les scores pour différents types de profils socio-économiques (allocataires au RSA, mères isolées, personnes à faibles revenus, …) afin d’identifier les cas de « sur-ciblage », donc les discriminations, dont les allocataires peuvent faire l’objet. Pour cela, cette étude a analysé la part des différentes catégories d’allocataires étudiées dans les 5 % des plus hauts scores – soit les personnes qui auront le plus de risque de se faire contrôler. L’étude a été réalisée pour le modèle 2018 et le nouveau modèle 2025.

Présentée par la CNAF en octobre dernier à son comité d’éthique sur les usages des données, des algorithmes et de l’intelligence artificielle, organe consultatif lancé en mars 20253Ce comité, dont l’objectif est d’aiguiller les choix de la CNAF sur l’usage de nouvelles technologies, notamment l’usage d’algorithmes, n’a qu’un pouvoir consultatif (il n’a pas le pouvoir d’empêcher la CNAF d’utiliser une technologie). Il est composé d’expert·es, de directeur·rices de la CNAF, des membres du conseil d’administration de la CNAF, et de représentant·es d’associations. La Quadrature ne fait pas partie de ce comité, mais d’autres associations parties au contentieux en cours le sont : notre coalition d’organisations a donc pu utiliser les résultats de cette étude dans le recours actuel contre l’algorithme (voir le mémoire en réplique de décembre 2025 qui revient sur la version 2018 de l’algorithme et le mémoire en observations de janvier 2026 qui revient sur le nouveau modèle 2025)., cette étude montre que, tout comme pour le modèle précédent de 2018, les personnes précaires sont surreprésentées dans le nouvel algorithme 2025 au sein du groupe des 5 % des plus hauts scores. C’est-à-dire qu’elles subissent une discrimination par la plus forte probabilité de devoir faire face à des contrôles.

Ainsi, les bénéficiaires du RSA représentaient 13 % des allocataires en 2024 mais entre 39 et 41% des 5% des scores les plus élevés dans le modèle 20254Au total, la DSER identifie que sont surreprésenté·es les bénéficiaires de la prime d’activité ; du RSA ; de l’aide au logement ; du complément familial ; de l’allocation de soutien familial ; de l’allocation de rentrée scolaire ; de l’allocation d’éducation de l’enfant handicapé.. Les mères isolées, quant à elles, représentaient 14 % des allocataires en 2024 mais 37 à 40 % des plus hauts scores dans les simulations sur le modèle 2025. Cette étude a également mis en lumière une surreprésentation des personnes qui ont plus de trois prestations sociales, celles qui touchent plus de 600 euros de prestations par mois ou encore les foyers dont une des personnes est au chômage.

Enfin, la CNAF a beau mettre l’accent dans sa communication sur le fait qu’elle n’utilise plus de critère de nationalité, l’étude montre cependant que les foyers composés au moins d’une personne de nationalité étrangère ont, dans les faits, toujours plus de risque d’avoir un score plus élevé. Et la situation est encore aggravée pour les personnes ayant une nationalité hors de l’Union européenne. Un cas d’école de discrimination fondée sur la nationalité…

Les surreprésentations mises en évidence par cette étude de la DSER s’expliquent par le fait que les personnes en situations de pauvreté ou de précarité vont cumuler différents critères, qui sont autant de « facteurs de risques » utilisés par l’algorithme. La surreprésentation des personnes au RSA ou des mères isolées peut ainsi s’expliquer par des revenus plus faibles, ou des instabilités dans les revenus. On voit alors tout l’intérêt de réaliser des analyses par profils plutôt que d’analyser les variables prises isolément.

Ne surtout pas se remettre en question

Face à ces éléments, la CNAF s’est lancé aujourd’hui dans une stratégie d’intimidation face à nos organisations qui contestent la légalité de son algorithme en prenant appui sur cette étude de la DSER. Dans son mémoire de janvier dernier, la CNAF a écrit qu’elle s’« interroge sur ses conditions d’obtention » et se montre menaçante puisqu’elle n’exclue pas que « des suites [puissent] être réservées à cet élément » (bien qu’elle reste floue sur lesdites « suites » envisagées).

La Quadrature dénonce une tentative d’intimidation sur nos organisations : ce document a été envoyé par la CNAF elle-même aux organisations de son comité d’éthique, dont certaines sont également requérantes dans ce contentieux5Précisons, par souci de transparence, que La Quadrature du Net, qui ne fait pas partie du comité d’éthique de la CNAF et n’a donc pas eu accès à ce document, a fait une demande de communication de document administratif pour obtenir cette étude. La CNAF a refusé de faire droit à notre demande. La Commission d’accès aux documents administratifs (CADA) est saisie de l’affaire et nous espérons que son avis arrivera très prochainement..

Cette étude que ne veut pas publier la CNAF traduit en creux l’absence de remise en question de sa propre politique de contrôle. En 2023, interrogée par Le Monde et Lighthouse Reports, la CNAF déclarait qu’elle n’avait jamais fait de travail d’analyse des personnes principalement concernées par son algorithme6Ce qui, en réalité, est faux puisqu’elle le savait dès 2016, grâce au travail des chercheur·euses Vincent Dubois, Morgane Paris et Pierre-Edouard Weill dans leur étude « Politique de contrôle et lutte contre la fraude dans la branche Famille ». En analysant les données de la CNAF, ils et elles ont démontré que l’introduction de cet algorithme en 2010 a eu pour conséquence de réorienter les contrôles vers les personnes précaires. Ce travail universitaire de 2016, pendant longtemps publié sur le site internet de la CNAF, a été discrètement retiré en 2024 (mais vous pouvez toujours en consulter une copie).. Avec cette étude de la DSER, la CNAF ne peut désormais plus nier savoir que son algorithme cible de façon discriminatoire les personnes les plus précaires. Et ce, d’autant plus que les associations tirent également la sonnette d’alarme sur les pratiques de la CNAF. En juin 2025, la question du ciblage des familles monoparentales a par exemple été abordée au sein du comité d’éthique, en s’appuyant notamment sur des témoignages.

Cela n’empêche pas la CNAF de tordre la réalité pour continuer de nier la violence de ses pratiques de contrôle. Ainsi, en février 2025, pour se défendre devant le Conseil d’État, elle écrivait que son algorithme n’avait pas d’« effet significatif sur l’allocataire » parce que « l’ouverture du contrôle expose[rait] simplement à la nécessité de répondre aux demandes qui peuvent être présentées par le contrôleur ». On sait pourtant combien ces contrôles peuvent être intrusifs et engendrer un stress intense en raison des enjeux pour les personnes qui ont besoin de ce filet social de sécurité pour survivre. Celles et ceux ayant déjà subi un contrôle de la CNAF apprécieront l’euphémisme de l’administration…

Une transparence forcée

Dans un publireportage autour de ce nouvel algorithme, Nicolas Grivel, le directeur de la CNAF, affirme que l’administration aurait choisi « d’ouvrir le capot ». En somme, que cette transparence serait de son initiative et qu’il faudrait la féliciter pour cela. Ce qu’il omet pourtant de dire c’est qu’il n’avait plus vraiment le choix.

Il existe en droit de la non-discrimination un principe fondamental : l’aménagement de la charge de la preuve. Parce qu’il est très souvent impossible d’apporter la preuve « parfaite » d’une discrimination, le droit exige plutôt de la part de la partie défenderesse (c’est-à-dire celle qui est attaquée) qu’elle démontre l’absence de discrimination. Nous demandions depuis le début de notre contentieux contre l’algorithme que ce principe soit appliqué : puisque la CNAF avait refusé de nous transmettre la version actuelle de son algorithme mais continuait d’affirmer que celui-ci ne serait pas discriminatoire, c’était à elle de démontrer l’absence de discrimination. Par exemple en transmettant au Conseil d’État et aux organisations requérantes une copie de son code source, ce qu’elle s’était, jusqu’en janvier dernier, refusé de faire.

La Défenseure des droits est venue enfoncer le clou : en octobre 2025, elle s’est exprimée sur notre contentieux en considérant que la CNAF ne prouvait pas l’absence de discrimination indirecte7On distingue en droit deux types de discriminations. La discrimination directe est constituée lorsqu’une variable relative à un critère protégé par la loi est utilisée. La discrimination indirecte est constituée lorsqu’un algorithme a des effets négatifs sur des populations protégées.. Autrement dit, comme la CNAF n’a jamais voulu communiquer son algorithme dans le cadre du contentieux, la Défenseure des droits lui a donné tort.

La CNAF était donc coincée : pour se défendre, elle était en réalité dans l’obligation de publier son algorithme devant le Conseil d’État. Dès lors, le « choix » de le publier en ligne plutôt que de ne l’envoyer qu’au Conseil d’État et à nos organisations ressemble plus à une opération de communication qu’à une volonté de transparence. Notamment pour contrôler le narratif et répéter ad nauseam que ce nouvel algorithme serait réparé, et ainsi doubler nos organisations qui auraient voulu communiquer sur cette affaire d’abord. Surtout, le choix de ne pas publier l’étude de la DSER, puis de publier en catimini la version 2018 de son algorithme qui était encore plus discriminatoire que le nouvel algorithme de 2025, montre à quel point cet « effort » de transparence est loin d’être complet et désintéressé.

De notre côté, nous continuons de nous battre pour exiger la fin de cet algorithme et la remise en cause drastique de la politique de contrôle discriminatoire de la CNAF. La coalition d’organisations que nous menons et qui se mobilise dans ce contentieux a d’ailleurs été rejointe par dix nouvelles structures. Tout le monde déteste cet algorithme. Alors pour nous aider à continuer la lutte, vous pouvez nous faire un don.

References[+]

References
↑1 D’autres critères discriminatoires qui étaient présents dans la version 2018 ont été supprimés comme le fait de vivre dans une résidence sociale, un foyer de jeunes travailleurs ou dans une chambre d’hôtel, ou encore de garder son logement étudiant pendant l’été.
↑2 Les foyers ayant entre 0,6 et 1,5 fois le SMIC auront un score plus élevé. La CNAF ne précise pas si le calcul se fait par personne ou pour l’ensemble du foyer.
↑3 Ce comité, dont l’objectif est d’aiguiller les choix de la CNAF sur l’usage de nouvelles technologies, notamment l’usage d’algorithmes, n’a qu’un pouvoir consultatif (il n’a pas le pouvoir d’empêcher la CNAF d’utiliser une technologie). Il est composé d’expert·es, de directeur·rices de la CNAF, des membres du conseil d’administration de la CNAF, et de représentant·es d’associations. La Quadrature ne fait pas partie de ce comité, mais d’autres associations parties au contentieux en cours le sont : notre coalition d’organisations a donc pu utiliser les résultats de cette étude dans le recours actuel contre l’algorithme (voir le mémoire en réplique de décembre 2025 qui revient sur la version 2018 de l’algorithme et le mémoire en observations de janvier 2026 qui revient sur le nouveau modèle 2025).
↑4 Au total, la DSER identifie que sont surreprésenté·es les bénéficiaires de la prime d’activité ; du RSA ; de l’aide au logement ; du complément familial ; de l’allocation de soutien familial ; de l’allocation de rentrée scolaire ; de l’allocation d’éducation de l’enfant handicapé.
↑5 Précisons, par souci de transparence, que La Quadrature du Net, qui ne fait pas partie du comité d’éthique de la CNAF et n’a donc pas eu accès à ce document, a fait une demande de communication de document administratif pour obtenir cette étude. La CNAF a refusé de faire droit à notre demande. La Commission d’accès aux documents administratifs (CADA) est saisie de l’affaire et nous espérons que son avis arrivera très prochainement.
↑6 Ce qui, en réalité, est faux puisqu’elle le savait dès 2016, grâce au travail des chercheur·euses Vincent Dubois, Morgane Paris et Pierre-Edouard Weill dans leur étude « Politique de contrôle et lutte contre la fraude dans la branche Famille ». En analysant les données de la CNAF, ils et elles ont démontré que l’introduction de cet algorithme en 2010 a eu pour conséquence de réorienter les contrôles vers les personnes précaires. Ce travail universitaire de 2016, pendant longtemps publié sur le site internet de la CNAF, a été discrètement retiré en 2024 (mais vous pouvez toujours en consulter une copie).
↑7 On distingue en droit deux types de discriminations. La discrimination directe est constituée lorsqu’une variable relative à un critère protégé par la loi est utilisée. La discrimination indirecte est constituée lorsqu’un algorithme a des effets négatifs sur des populations protégées.

Censure et surveillance : surchauffe au Parlement

Contrairement à ce que l’on pourrait penser, les parlementaires ne parlent pas que du budget. Comme chaque année, ils et elles échangent aussi sur leur autre sujet favori, avec la bénédiction du gouvernement : la dérive autoritaire, avec plus de sécurité, plus de surveillance et plus de censure. Après plusieurs mois de pause parlementaire et à l’approche des municipales où ces sujets peuvent faire office de vitrine électorale, le nombre de lois sécuritaires en discussion explose. C’est l’occasion de faire un petit point sur les sujets du moment.

JO 2030 : allonger l’autorisation de la vidéosurveillance algorithmique

En mai 2025, le gouvernement a déposé au Sénat un projet de loi pour préparer l’organisation des jeux olympiques d’hiver de 2030.

Première disposition qui nous intéresse : l’extension de l’autorisation de la VSA jusqu’en 2027. Pour rappel, la loi sur les JO de 2024 avait autorisé le déploiement de logiciels de reconnaissance de comportements en temps réel dans l’espace public. Malgré un bilan plus que douteux sur l’intérêt de cette technologie, le gouvernement ne veut pas s’arrêter en si bon chemin et souhaite prendre l’excuse des JO 2030 pour continuer (avec les industriels de la sécurité) les expérimentations jusqu’en… 2027 (avant une probable reconduction d’ici-là). Nous avions consacré un article à ce sujet cet été.

À noter aussi, moins numérique, mais tout aussi grave : ce texte veut créer un nouveau régime d’interdiction de paraître dans les lieux où se déroulent un grand évènement : le ministère considère en effet que le régime existant (celui des MICAS, pour mesures individuelles de contrôle administratif et de surveillance1Nous avons consacré une émission à ces mesures et à leur utilisation à l’encontre des personnes musulmanes, que nous vous invitons à revoir ici.) ne lui suffit plus et serait trop contraignant. Il veut donc créer un nouveau régime, plus simple à utiliser (rappelons que pendant les JO 2024, il y avait eu plus de 300 MICAS prononcées par le ministère). Ces interdictions de paraître permettent au préfet d’empêcher quelqu’un de venir sur un lieu, sans intervention du juge ni nécessité d’une condamnation pénale préalable. Elles ont été introduites dans le droit par la loi Narcotrafic et ont déjà été utilisées 1682 fois depuis le mois de juin 2025. La loi JO 2030 viserait à les étendre à « toute personne pour laquelle il existe des raisons sérieuses de penser que son comportement constitue une menace d’une particulière gravité pour la sécurité publique ». Difficile de faire plus large et vague.

Et on en est où ? Adopté au Sénat en mai 2025 puis à l’Assemblée nationale ce 13 janvier. On attend la synthèse du texte par la commission mixte paritaire avant un nouveau vote au Sénat et à l’Assemblée nationale.

Faciliter l’usage des logiciels de lecture de plaque d’immatriculation

Il s’agit ici des LAPI, des lecteurs et logiciels de lecture automatisée de plaques d’immatriculation des voitures (par exemple montés sur des caméras) et utilisées aujourd’hui par la gendarmerie, la police nationale ou les douanes. En octobre 2025, un sénateur de droite (Horizon), Pierre Jean Rochette a déposé une proposition de loi pour « assouplir les contraintes à l’usage de dispositifs de lecture automatisée de plaques d’immatriculation… ».

Ces dispositifs se sont démultipliés dans les villes de France cette dernière décennie en étant liés aux caméras des rues et des péages. Ce déploiement constitue une surveillance à une échelle de masse qui permet d’identifier les voitures, et donc les personnes qui en possèdent la carte grise, dans l’espace public et sur les routes.

Même refrain pour justifier son extension : l’outil serait pratique mais le cadre actuel trop restrictif. Le sénateur (on imagine inspiré par le ministère ou certains lobbies sécuritaires) veut élargir les finalités pouvant justifier l’utilisation de ces LAPI, étendre la durée de conservation des données et faciliter l’échange des données entre services.

Et on en est où ? Pour l’instant, c’est adopté par le Sénat et renvoyé à l’Assemblée nationale, où il n’y a toujours pas de calendrier.

Étendre les pouvoirs de la police municipale et des gardes champêtres

C’est un projet de loi (donc venant du gouvernement – et plus spécifiquement de son ministre de l’intérieur, Laurent Nuñez). Le titre en entier : « projet de loi relatif à l’extension des prérogatives, des moyens, de l’organisation et du contrôle des polices municipales et des gardes champêtres ».

L’idée est malheureusement plutôt simple : extension massive des pouvoirs des polices municipales et des gardes champêtres. C’est-à-dire, entre autres : autorisation à utiliser des logiciels de lecture de plaques d’immatriculation (LAPI, ce qui leur était refusé jusque là – à part pour le contrôle de stationnement payant), autorisation pour les gardes champêtres à utiliser des drones de surveillance et des caméras piétons, autorisation de dresser des amendes forfaitaires délictuelles (qui sont unanimement dénoncées par les associations et dont le nombre, notamment pour réprimer l’usage de stupéfiants, explose), autorisation pour les régions de subventionner les équipements de sécurité des communes (une demande de Valérie Pécresse qui risque de voir son programme phare de « bouclier de sécurité » retoqué par la justice)…

L’impact de ce projet de loi risque d’être assez massif pour nos droits et libertés – vu que ces agents gagnent aussi des pouvoirs de contrôle d’identité. Nous reviendrons bien vite dessus plus en détails. Notons à ce titre que c’est un mouvement continu depuis notamment la loi dite de « sécurité globale » : un glissement des pouvoirs de police vers des agents de moins en moins formés et de moins en moins publics : officiers de police judiciaire, police municipale, gardes champêtres, agents de sécurité privé…

Et on en est où ? Le texte a été déposé au Sénat en octobre et devrait être débattu en commission et en séance publique début février.

Augmenter les pouvoirs de contrôle des administrations sociales

De nouveau ici, un projet de loi déposé dans un premier temps au Sénat. Son objectif affiché par le gouvernement : accentuer la détection et la lutte contre les « fraudes fiscales ou sociales ».

Nous avions écrit en décembre à son sujet (l’article est ici) : nous y critiquions l’extension de l’accès des contrôleurs·ses des principaux organismes sociaux à de multiples données, dont notamment les fichiers des passagers aériens et les données de communications téléphoniques. Ce texte est une nouvelle malheureuse illustration des dérives des politiques de « lutte contre la fraude sociale » qui, en 20 ans, ont déjà démultiplié les capacités de contrôle et de surveillance des administrations sociales.

Et on en est où ? Adopté au Sénat en novembre 2025, le texte devrait bientôt être discuté en séance publique à l’Assemblée.

Interdiction des réseaux sociaux

Autre texte dans cette revue, le projet de loi issu de la volonté de gouvernement d’interdire les réseaux sociaux aux moins de 15 ans.

Le texte le plus avancé est celui d’une députée Ensemble pour la République, Laure Miller qui a reçu très récemment le soutien du gouvernement. Au programme : interdiction des réseaux sociaux pour les moins de 15 ans avec obligation de vérification de l’âge pour les plateformes… Difficile de savoir si cette interdiction sera effective, puisque que le Conseil d’État a déjà commencé à exprimer des limites aux velléités des parlementaires, et que la faisabilité technique et légale est très incertaine.

Et on en est où ? Le texte de la sénatrice Laure Miller a été voté par l’Assemblée nationale. Il devrait être prochainement débattu au Sénat sur le temps parlementaire du gouvernement, celui-ci ayant activé la procédure accélérée (qui permet de ne faire qu’une seule lecture par chaque chambre du Parlement) et qu’Emmanuel Macron a annoncé vouloir son application en septembre 2026.

Surveillance automatisée des magasins

Dernier texte dans cette litanie sans fin : la surveillance automatisée des magasins. Il s’agit ici d’une proposition de loi déposée par un député EPR, Paul Midy, un des promoteurs de la « French tech » — comprendre l’écosystème de jeunes entreprises françaises spécialisées dans le numérique.

L’idée ici est plutôt simple : légaliser la vidéosurveillance algorithmique dans les magasins. Il s’agit en réalité d’un service rendu à une partie de l’industrie sécuritaire française qui voudrait non seulement déployer ses outils de VSA sur la voie publique, mais aussi dans les supermarchés. C’est ce qu’essaie de faire par exemple Veesion depuis des années en prétendant pouvoir détecter des comportements ressemblant à du vol. Ces entreprises se heurtent à une difficulté qui n’est pas négligeable : ce n’est pas légal. Nous le disons depuis des années, la CNIL le dit, le Conseil d’Etat le dit… bref, aucun doute dessus, même si Veesion n’a jamais été sanctionnée et continue au contraire à bénéficier de soutien financier – on en parlait ici. Heureusement pour eux, Paul Midy se propose avec ce texte de rendre cette technologie légale en l’inscrivant dans le code de sécurité intérieure.

Et on en est où ? Le texte a été adopté mercredi 28 janvier en commission des lois et arrive en séance le lundi 2 février.

Comme on le voit, le Parlement et le gouvernement continuent tranquillement de savonner la planche vers l’autoritarisme : plus de surveillance, plus de censure, moins de juge… Si cette liste peut paraître effrayante, elle nous donne également le vertige face au peu de moyens que nous avons, d’une part, pour suivre ces textes et vous transmettre l’actualité des débats, et d’autre part pour tenter un minimum de s’y opposer.

Surtout que l’inventaire n’est pas terminé : le ministère de l’Intérieur veut déposer un projet de loi sur la sécurité du quotidien (si le texte semble limité aux « rodéos urbains », il risque d’être un véhicule législatif bien pratique pour d’autres dispositions plus dangereuses, telles que la pérennisation de la VSA) et continue de brandir des mesures islamophobes dès qu’il le peut.

References[+]

References
↑1 Nous avons consacré une émission à ces mesures et à leur utilisation à l’encontre des personnes musulmanes, que nous vous invitons à revoir ici.

Algorithme discriminatoire de notation de la CNAF : 10 nouvelles organisations se joignent à l’affaire devant le Conseil d’État

Il y a un peu plus d’un an, 15 organisations de la société civile ont contesté l’algorithme d’évaluation des risques utilisé par la Caisse nationale d’allocations familiales (CNAF), la branche familiale du système français de protection sociale. Le recours a été porté devant le Conseil d’État au nom du droit de la protection des données personnelles et du principe de non-discrimination. Cet algorithme attribue à chaque allocataire un score de suspicion dont la valeur est utilisée pour sélectionner celles et ceux faisant l’objet d’un contrôle. Chaque mois, l’algorithme analyse les données personnelles de plus de 32 millions de personnes et calcule plus de 13 millions de scores. Parmi les facteurs venant augmenter un score de suspicion on trouve notamment le fait d’avoir de faibles revenus, d’être au chômage, de bénéficier du revenu de solidarité active (RSA) ou de l’allocation adulte handicapé (AAH).

Aujourd’hui, notre coalition est fière d’accueillir 10 nouvelles organisations dans ce litige. Nous sommes désormais 25 à demander l’interdiction de l’algorithme de notation de la CNAF. La diversité de la coalition, qui rassemble des collectifs de personnes concernées, des syndicats ainsi que des ONG françaises et européennes de défense des droits fondamentaux, témoigne de la large opposition à l’algorithme de la CNAF et, plus largement, aux algorithmes discriminatoires visant les personnes vulnérables.

Notre action en justice débutée en octobre 2024 devant le Conseil d’État vise à la fois l’étendue de la surveillance mise en place et la discrimination perpétrée par cet algorithme. Alimenté par les données personnelles de millions de personnes, il cible délibérément les personnes les plus défavorisées. La grave discrimination inhérente à l’algorithme a été confirmée par la Défenseure des droits dans des observations transmises à la justice en octobre dernier.

Enfin, le 15 janvier 2026, la CNAF a publié le code source de son algorithme actuel. Si nous saluons les efforts de transparence — la CNAF avait auparavant refusé de divulguer le code source de l’algorithme utilisé —, la transparence seule ne suffit pas. Cela ne doit pas détourner l’attention sur le fait qu’une étude interne de la CNAF datant de 2025, dont nous avons obtenu copie, a reconnu les effets discriminatoires de l’algorithme. Notre coalition a inclus cette étude dans un nouveau mémoire envoyé à la justice en décembre.

« Notre nouvelle coalition élargie rassemble diverses organisations européennes et françaises issues de domaines variés. Cela montre que le Conseil d’État devrait renvoyer l’affaire devant la Cour de justice de l’Union européenne afin que celle-ci puisse rendre une décision applicable à l’ensemble de l’Europe », déclare Bastien Le Querrec, juriste à La Quadrature du Net.

Le Conseil d’État a informé les plaignants que la phase écrite du contentieux prendra fin à la fin du mois. Nous nous attendons à ce que l’audience publique ait lieu au printemps prochain.

Nouvelles organisations plaignantes :

Premières organisations requérantes :

Vérification d’âge (2/4) : de l’impunité des géants à la criminalisation des usagers

Avec la vérification d’âge : la modération des plateformes au profit des géants

Pour Molly Buckley de l’Electronic Frontier Foundation (EFF), principale organisation non gouvernementale américaine de défense des libertés numériques, la vérification d’âge est une aubaine pour les géants du numérique. Aux Etats-Unis, bluesky a mis en place des mesures de vérifications d’âge dans le Wyoming, dans le Dakota du Sud et a fermé ses accès dans le Mississippi suite à la promulgation, là encore, de lois sur la vérification d’âge. Pour l’EFF, les difficultés de Bluesky montrent que ces lois vont écraser les petites plateformes qui ne peuvent pas absorber les coûts des mesures de vérification et renforcer le pouvoir des plus grandes plateformes. « Les obligations de vérification de l’âge concentrent et consolident le pouvoir entre les mains des plus grandes entreprises, seules entités disposant des ressources nécessaires pour mettre en place des systèmes de conformité coûteux et assumer des amendes potentiellement colossales ». C’est le même constat que fait l’EFF au Royaume-Uni : les plus grandes plateformes « ont mis en place des mesures de vérification de l’âge étendues (et extrêmement maladroites), tandis que des sites plus petits, notamment des forums sur la parentalité, l’écologie et les jeux vidéo sous Linux, ont été contraints de fermer ». L’EFF donne l’exemple du “Forum du Hamster”– un forum britannique pour discuter de tout ce qui touche au petit rongeur domestique, qui a fermé ses forums, pour renvoyer ses utilisateurs vers un simple compte Instagram, et donc vers les géants des réseaux sociaux ! Pour Molly Buckler, l’OSA (Online Safety Act) est en train de flécher le trafic vers les seuls géants du net, qui seront les mieux à même de censurer les utilisateurs. C’est une loi pour consolider le pouvoir des géants au plus grand cauchemar des utilisateurs dont les ressources communautaires vont s’atrophier.

Dans un autre article pour l’Electronic Frontier Foundation, Molly Buckley rappelle que la loi sur la vérification d’âge au Royaume-Uni ne concerne pas que les contenus à caractère sexuel, mais englobe une large catégorie de contenus « préjudiciables ». Préventivement, plusieurs forums sur la parentalité, les jeux vidéo ou l’écologie ont préféré fermer leurs portes pour éviter le risque d’amendes et les complexités de la conformité à la loi. La plateforme Reddit au Royaume-Uni a été contrainte de s’enfermer derrière des barrières de vérification d’âge. Et cela n’a pas concerné que les canaux dédiés aux contenus explicites, mais également à nombre de sous-groupes dédiés à l’identité, au soutien LGBTQ+, au journalisme, aux forums liés à la santé publique comme ceux dédiés au menstruations ou aux violences sexuelles. « L’OSA définit le terme « préjudiciable » de multiples façons, bien au-delà de la pornographie. Les obstacles rencontrés par les utilisateurs britanniques correspondent donc exactement à ce que la loi prévoyait. L’OSA entrave bien plus que l’accès des enfants à des sites clairement réservés aux adultes. En cas d’amendes, les plateformes auront toujours recours à la surcensure. »

L’EFF est surtout étonné que l’OSA ait contraint Reddit à la censure, notamment explique  Buckley parce que Reddit a été une plateforme qui a œuvré à la défense de la liberté d’expression. Même si on peut lui reprocher des excès en la matière, Reddit s’est attelé à résoudre ses problèmes. Elle a été la seule plateforme à obtenir la meilleure note de l’analyse de la modération des plateformes par l’EFF en 2019, notamment parce qu’elle a mis en place une modération souvent qualifiée de remarquable (mais pas parfaite). Pour l’EFF, les mesures de vérifications d’âge ne protégeront pas les adolescents, car ceux-ci trouveront toujours des moyens pour les contourner et se rendre sur des sites toujours plus douteux, où la modération est moindre, les risques plus importants. 

Pour l’EFF, l’exclusion des publics d’importantes communautés sociales, politiques et créatives est problématique. « Les mandats de vérification de l’âge sont des régimes de censure » et la régulation de la pornographie n’est bien souvent que la partie émergée d’une censure qui va bien au-delà et qui permet très rapidement de censurer des contenus parfaitement légaux, notamment ceux relatifs à l’éducation sexuelle ou à l’actualité. « Les questions de modérations ne sont pas simples : on glisse vite d’une condamnation morale à une condamnation politique », observait déjà le chercheur Tarleton Gillespie dans son livre sur la modération. Et l’EFF de prévenir les Américains du risque qu’ils courent à leur tour. 

Du flou des contenus à modérer… à la régulation individuelle

Dans un autre billet datant de janvier, Paige Collings and Rindala Alajaji de l’EFF rappelaient que le problème des lois pour la protection des jeunes exigeant la vérification de l’âge des internautes, c’est qu’elles ne concernent pas seulement a pornographie en ligne, comme elles aiment à se présenter. Derrière la lutte contre les contenus « dangereux », les gouvernements s’arrogent de plus en plus le pouvoir de décider des sujets jugés « sûrs ». Pas étonnant donc, que les contestations à l’encontre de ces lois se multiplient. En fait, la question du « contenu sexuel » par exemple est définie de manière vague et peut concerner des films et vidéos interdits aux moins de 18 ans, comme des contenus d’éducation sexuelle ou des contenus LGBTQ+. D’autres énumèrent des préjudices causés par les contenus, mais là encore, vaguement définis, comme les violences qui doivent être limitées, alors que les représentations de la violence servent aussi de moyens pour les dénoncer. Sans compter que les plateformes ont déjà des politiques de modération qui qualifient nombre de contenus qui ne tombent pas sous le coup de la loi comme préjudiciables, comme l’expliquait Tarleton Gillespie dans Custodians of the Internet (Yale University Press, 2018). Bref, bien souvent la censure de contenus non pornographiques n’apparaît aux gens qu’une fois que ces lois sont mises en œuvre. En Oklahoma, le projet de loi sur la vérification de l’âge entré en vigueur le 1er novembre 2024 défini comme contenu préjudiciable aux mineurs toute description ou exposition de nudité et de « conduite sexuelle », ce qui implique que des associations sur la sexualité et la santé comme Glaad ou Planet Parenthood doivent mettre en place des systèmes de vérification d’âge des visiteurs. Pour éviter d’éventuelles poursuites judiciaires, ces associations risquent de mettre en place une surcensure.

Toutes ces lois rendent les autorités administratives et les plateformes arbitres de ce que les jeunes peuvent voir en ligne, explique encore l’EFF. C’est le cas du Kids Online Safety Act (Kosa), américain, validé par le Sénat mais pas par la Chambre des représentants, défendue ardemment par la sénatrice américaine Marsha Blackburn qui l’a promue pour « protéger les mineurs des transgenres ». Si la censure des contenus LGBTQ+ par le biais des lois de vérification de l’âge peut être présentée comme une « conséquence involontaire » dans certains cas, interdire l’accès aux contenus LGBTQ+ fait partie intégrante de la conception des plateformes. L’un des exemples les plus répandus est la suppression par Meta de contenus LGBTQ+ sur ses plateformes sous prétexte de protéger les jeunes utilisateurs des « contenus à connotation sexuelle ». Selon un rapport récent, Meta a caché des publications faisant référence au hashtag LGBTQ+, le filtre contenu sensible étant appliqué par défaut aux mineurs, faisant disparaître les hastags #lesbienne, #bisexuel, #gay, #trans et #queer. Si Meta a visiblement fait machine arrière depuis, on constate qu’une forme de censure automatisée vague et subjective s’étend sur nombre de contenus et notamment sur l’information sur la santé sexuelle. Pour les jeunes, notamment LGBTQ+, plus exposés au harcèlement et au rejet, l’accès aux communautés et aux ressources numériques est essentiel pour eux, et en restreindre l’accès présente des dangers particuliers, rappelle un rapport du Gay, Lesbian & Straight Education Network (Glsen). Mais il n’y a pas que ces publics que la censure des contenus d’information sexuel met en danger… A terme, ce sont tous les adolescents qui se voient refuser une information claire sur les risques et la santé sexuelle. Or rappellent des chercheurs espagnols pour The Conversation, l’exposition à la pornographie façonne les expériences affectives et normalisent l’idée que le pouvoir, la soumission et la violence font partie du désir. Mais, rappellent-ils, c’est bien « l’absence d’une éducation sexuelle adéquate qui est l’un des facteurs qui contribuent le plus à la consommation précoce de pornographie ».

Pour l’EFF enfin, il est crucial de reconnaître les implications plus larges des lois de vérification d’âge sur la vie privée, la liberté d’expression et l’accès à l’information. Notamment pour ceux qui tentent de préserver leur anonymat. « Ces politiques menacent les libertés mêmes qu’elles prétendent protéger, étouffant les discussions sur l’identité, la santé et la justice sociale, et créent un climat de peur et de répression ». 

« La lutte contre ces lois ne se limite pas à défendre les espaces en ligne ; il s’agit de protéger les droits fondamentaux de chacun à s’exprimer et à accéder à des informations vitales.» Dans un autre article encore, Paige Collings, rappelle que « les jeunes devraient pouvoir accéder à l’information, communiquer entre eux et avec le monde, jouer et s’exprimer en ligne sans que les gouvernements ne décident des propos qu’ils sont autorisés à tenir ». 

En fait, la proposition d’interdire les contenus aux plus jeunes permet assurément de simplifier la modération : aux plus jeunes, tout est interdit… Mais pour le public majeur, conscient des risques, tout est autorisé. C’est à chacun de réguler ses usages, pas à la société. 

La même injonction à une régulation qui ne serait plus qu’individuelle traverse la société. C’est à chacun de trier ses poubelles et ceux qui ne le font pas seront condamnés pour ne pas l’avoir fait, comme c’est à chacun d’être conscient des risques de ses usages numériques, et d’en subir sinon les conséquences.

Vers la criminalisation des comportements des mineurs

En France, la commission d’enquête parlementaire sur les effets psychologiques de TikTok sur les mineurs a rendu son rapport. Ses conclusions sont « accablantes », comme le dit le Monde. Mais l’épais rapport (plus de 1000 pages) est tout de même bien problématique, comme l’analyse très pertinemment le journaliste Nicolas Kayser-Bril dans l’édition du 2 octobre de la newsletter d’Algorithm Watch. Alors que nombre d’universitaires interrogés soulignent que l’utilisation élevée de TikTok est corrélée à l’anxiété et la dépression, le rapport glisse souvent à la simple accusation. Comme si TikTok était seul porteur des maux de la jeunesse. « Les députés ont-ils succombé à la faible capacité d’attention et à l’émotionnalisation qu’ils dénoncent ? Nous ne le saurons jamais, car le Parlement français n’a pas commandé, et ne commandera probablement pas, de rapport sur les effets de Facebook sur les baby-boomers, ni sur l’algorithme de X sur les responsables politiques ». Si le rapport est accablant, il l’est surtout parce qu’il montre le déficit de mise en œuvre du DSA, malgré les obligations, comme l’expliquent Garance Denner et Suzanne Vergnolle de la Chaire de modération des contenus du Cnam. 

Face à ce déluge d’accusations à l’encontre de TikTok, les 53 recommandations du rapport deviennent rapidement plus surprenantes, puisqu’on n’y trouve pas de proposition d’interdiction de TikTok. On ne trouve pas non plus beaucoup de mesures qui imposent quelque chose à la plateforme, hormis celles qui renforcent ou précisent le cadre du RGPD et du DSA européen (recommandation 8 à destination du suivi des modérateurs de la plateforme), celle invitant à étudier la modification du statut des fournisseurs de réseaux sociaux comme éditeur, les rendant responsables des contenus accessibles (recommandation 10), celle réclamant davantage de ressources pour les signaleurs de confiance (c’est-à-dire les organismes en contact direct avec les plateformes pour signaler les contenus inappropriés), ainsi que celles obligeant les plateformes à fournir des paramètres de personnalisation et de diversification ou pluralisme algorithmique (recommandations 11 et 12, qui consisterait à produire « une norme ouverte pour les algorithmes de recommandation afin que des tiers puissent concevoir des flux “Pour vous” spécifiques. Les utilisateurs pourraient ensuite parcourir “TikTok, sélectionné par ARTE”, par exemple », explique Nicolas Kayser-Bril… Ce qui ne semble pas l’objectif d’un pluralisme algorithmique permettant à chacun de produire des règles de recommandation selon ses choix). En fait, presque toutes les recommandations proposées dans ce rapport sont à l’égard d’autres acteurs. Des plus jeunes d’abord : en imposant la fermeture d’accès à TikTok au moins de 15 ans, en proposant un couvre-feu pour les 15-18 ans et en envisageant d’étendre l’interdiction dès 2028 aux moins de 18 ans. 

Mais l’essentiel des recommandations portent sur le développement de messages de prévention à l’école et dans les services de prévention comme auprès des parents et des services de l’enfance. Des services déjà bien souvent surchargés par les injonctions. Aucune recommandation n’exige de TikTok de renforcer l’accès à des données pour la recherche ou de corriger ses algorithmes pour moins prendre en compte le temps passé par exemple ! 

Si le rapport ne fait pas (encore) de propositions pour condamner les jeunes qui accéderaient aux réseaux sociaux malgré l’interdiction, elle propose de créer dès 2028 un nouveau délit de « négligence numérique » (recommandation 43) à l’égard des parents qui laisseraient leurs enfants accéder aux réseaux sociaux. Un peu comme si dans les années 50 on avait supprimé les aides sociales aux parents qui laissaient écouter du rock à leurs enfants sous prétexte de « négligence musicale ». Ce que suggère cette recommandation qui doit être étudiée par des experts d’ici l’échéance, c’est que la vérification de l’âge va conduire à la criminalisation des comportements des plus jeunes. 

Pour l’instant, on n’en entend parler nulle part. Toutes les déclarations sur le développement de la vérification d’âge et du contrôle parental, n’évoquent que la protection des plus jeunes, jamais les peines qui pourraient advenir… plus tard. Mais du moment où elles seront en place, on voit déjà s’esquisser la perspective de criminaliser les adolescents et leurs parents qui ne respecteraient pas ces règles. L’implicite ici, consiste d’abord à interdire, puis demain, à condamner. Après la mise en place de la barrière d’accès, viendra la condamnation de ceux qui chercheront à la contourner. Va-t-on vers une société qui s’apprête à condamner des gamins de 14 ans pour être allé chercher des contenus pornos en ligne ? Vers des médias qui seront condamnés pour avoir laissé des enfants accéder à des images de répression violentes de manifestations ? Vers des parents qui seront condamnés pour avoir laissé leurs enfants accéder à internet ? Les 16-18 ans seront-ils condamnés pour être allé cherché de l’information sur la prévention sexuelle ou parce qu’ils se sont connectés sur TikTok au-delà de 23 heures ? Où parce qu’ils auront échangé une vidéo de Squeezie ?

La vérification d’âge nous conduit tout droit à une « nouvelle pudibonderie », disait pertinemment le journaliste David-Julien Rahmil pour l’ADN. Renforçant celle déjà l’œuvre sur les grandes plateformes sociales qu’observait en 2012 Evgeny Morozov ou le chercheur Tarleton Gillespie dans son livre, dont les systèmes automatisés surcontrôlent déjà la nudité plutôt que la pornographie. 

L’autre risque, à terme, c’est l’élargissement sans fin de la vérification d’âge à tous types de contenus, notamment au secteur marchand comme l’a montré la polémique des contenus explicites découverts sur des sites de commerces en ligne. Pour la haut-commissaire à l’enfance, Sarah El Haïry, « la protection des enfants en ligne ne peut souffrir d’aucune faille », soulignant par là le risque maximaliste des règles à venir (et ce alors que la protection sociale à l’enfance par exemple n’est que failles). Au risque que ces règles deviennent des couteaux suisses, faisant glisser la surveillance des contenus pornographiques à la surveillance de l’internet, comme le disait avec pertinence le journaliste Damien Leloup dans une analyse pourLe Monde, au prétexte que le « risque » pornographique est partout. 

Qu’on s’entende bien. Loin de moi de défendre TikTok (pas plus que Meta ou X). Mais la criminalisation des comportements des enfants et des parents sans imposer de mesures de régulation claires aux entreprises et d’abord à elles, me semble une voie sans issue. La vérification d’âge accuse la société des dégâts sociaux provoqués par les décisions des plateformes sans leur demander ni de données, ni de correctifs. En criminalisant les mineurs, elle ne propose qu’une nouvelle ère de contrôle moral, sans nuance, comme s’en émouvait pour The Conversation, le spécialiste en gestion de l’information, Alex Beattie.

Hubert Guillaud

Vérification d’âge (1/4) : vers un internet de moins en moins sûr

Le 25 juillet 2025, dans le cadre de la loi sur la sécurité en ligne (Online Safety Act, OSA) adoptée en 2023, les nouvelles règles de vérification de l’âge sont entrées en vigueur au Royaume-Uni, pour les sites proposant du contenu qualifié de « dangereux », notamment pornographique (mais pas seulement). La loi britannique définit des catégories pour les services en ligne auxquels elle s’applique, en fonction de leurs fonctionnalités et de leur nombre d’utilisateurs actifs par mois. En regard, sont définies différentes catégories de contenus, allant de contenus dits illégaux à des contenus dits nuisibles aux enfants. La loi ne se contente pas de faire la chasse à la pornographie en ligne, c’est-à-dire à des contenus à caractères sexuels explicites, mais déborde très largement de ce seul cadre qui ouvre, en regard des sanctions lourdes, et impose une modération des contenus qui peut aller jusqu’aux images violentes de l’actualité (et pas seulement sanglantes) voire à tous propos sur la sexualité, comme ceux abordant les questions de santé.  

Un renforcement sans précédent de la surveillance et de la censure préventive : la conformité n’est pas contournable

Comme le pointe l’une des plus synthétiques et lumineuses analyses en français sur le loi que j’ai pu lire, celle de Nicolas Morin sur son blog, la loi demande aux plateformes un « devoir de diligence » proactif et fondé sur les risques, mais également impose un comportement « préventif », rendant les plateformes, sites et services en ligne, directement responsables de la sécurité de leurs utilisateurs et du contenu qu’ils rencontrent. « Enfin ! », pourrait-on s’enthousiasmer en pensant qu’on exige un peu plus de contrôle de la part des Gafams. Sauf que le champ d’application de la loi est très large et dépasse les seules plateformes de médias sociaux et les plus grands services en ligne. Elle s’applique jusqu’aux forums, commentaires de blogs et sites de partage de fichiers, même si les obligations les plus strictes s’appliquent aux plateformes les plus importantes. 

Les services en ligne doivent garantir que les enfants aient un « accès adapté à leur âge », ce qui implique une approche faisant appel à des systèmes de filtrage et de modération de contenu adaptés aux différents groupes d’âge qui s’imposent partout. « Les sanctions prévues sont sévères, potentiellement existentielles, en cas de manquement. Les amendes peuvent atteindre 18 millions de livres sterling ou 10 % du chiffre d’affaires annuel mondial d’une entreprise, et les cadres supérieurs peuvent être tenus personnellement responsables pénalement en cas de non-coopération avec le régulateur. » Du fait de la lourdeur des sanctions, avec l’OSA, la conformité réglementaire n’est pas contournable.

Mais surtout, explique Morin, « à un niveau fondamental, l’OSA illustre la bascule d’une logique procédurale à une logique de valeurs ». Jusqu’à présent, la modération de contenu suivait une approche procédurale, se concentrant sur le « comment » plutôt que sur le « quoi ». Cette logique ne disait pas aux plateformes quel contenu spécifique (en dehors de ce qui est déjà manifestement illégal) était bon ou mauvais. Elle imposait plutôt des obligations de moyens et de transparence (souvent très légères, comme des conditions de modération claires, des mécanismes de signalement simples, des processus d’appels, des rapports sur les contenus modérés…). Avec l’OSA et son approche sur les valeurs, les plateformes doivent porter un jugement même sur les contenus et leur impose une obligation de résultat. « Ce faisant, la loi délègue aux entreprises privées et à l’organe de régulation britannique (l’Ofcom) le soin de définir ce qui constitue un discours acceptable dans la société, une mission qui relève normalement du débat démocratique et de la loi pénale ». Le problème est que les contenus qui peuvent être qualifiés de préjudiciables est large et introduit un flou juridique supplémentaire, qui, à l’aune de la sévérité des sanctions, conduit déjà chacun à une sur-modération. « Pour les utilisateurs, l’application des règles devient arbitraire. Un même contenu pourra être supprimé un jour et toléré le lendemain, en fonction du modérateur ou de l’algorithme qui l’examine. Il n’y a plus de prévisibilité, un principe fondamental de l’État de droit ». 

« En utilisant des termes vagues, le Parlement britannique a, de fait, délégué son pouvoir normatif. Ce ne sont plus les législateurs élus qui définissent précisément les limites de la liberté d’expression, mais l’Ofcom, un régulateur non élu, qui publiera des codes de pratique pour “interpréter” ce que la loi entend par “préjudiciable”, et les plateformes elles-mêmes, qui créeront leurs propres règles internes pour se conformer aux interprétations de l’Ofcom.

Le débat sur ce que notre société tolère comme discours est ainsi retiré de la sphère publique et démocratique pour être confié à des comités de conformité et des régulateurs techniques.

En passant d’une logique procédurale à une logique de valeurs incarnée par des termes vagues, l’Online Safety Act crée un système où la censure devient préventive, privatisée et arbitraire. La quête légitime de sécurité en ligne, sous l’étendard ici de la sécurité des enfants et de la lutte contre le terrorisme, se fait au détriment de la liberté d’expression, de la sécurité juridique et des principes démocratiques fondamentaux. »

« L’obligation pour les plateformes de gérer le contenu « préjudiciable » mais légal les amène, par prudence, à classifier et restreindre l’accès à un large éventail de contenus, y compris les reportages d’actualité, la couverture de la guerre et des conflits, le journalisme d’investigation et les images de manifestations politiques, qui pourraient tous être considérés comme « préjudiciables » ou « dépeignant une violence grave » selon les définitions larges de la loi. Ce système délègue de fait aux entreprises technologiques privées le rôle d’arbitres de l’État en matière de discours acceptable. Alors que les partisans pourraient y voir une application de la responsabilité, les critiques y voient un « cadeau massif à la grande technologie ». Cela renforce leur pouvoir en leur donnant une autorité mandatée par l’État pour décider de ce que les utilisateurs peuvent et ne peuvent pas voir, une fonction quasi-judiciaire pour laquelle les entreprises privées sont institutionnellement mal adaptées et démocratiquement irresponsables. »

Le premier problème de l’OSA est bien le large spectre de ce que son champ réglementaire couvre. Ce n’est pas une loi qui cherche à réguler uniquement les vidéos et les images pornographiques. 

Vers une modération fonctionnelle

La loi s’applique aux sites web, aux services de réseaux sociaux, aux sites de stockage et de partage de fichiers, aux forums en ligne, aux applications de rencontre et aux services de messagerie instantanée. Tous sont désormais tenus de vérifier l’âge des visiteurs si leurs plateformes contiennent du contenu préjudiciable ou inapproprié, rappelle le New York Times. Au-delà des sites pornographiques, les applications qui ont introduit la vérification de l’âge incluent Grindr, le service de rencontres gay ; Discord, l’application de chat social ; et Reddit… Même l’encyclopédie Wikipédia reste menacée de devoir intégrer une vérification d’âge (notamment parce qu’elle entre dans la catégorie des grands services en ligne).  

La majorité des Britanniques – près de 80 % – se sont déclarés favorables aux nouvelles règles, selon un sondage YouGov auprès d’environ 4 400 adultes, peut-être sans toujours comprendre que ces règles ne concernaient pas que les contenus sexuellement explicites, puisqu’après la mise en place des premières mesures effectives, ils n’étaient plus que 69% à soutenir les règles. Mais, selon l’enquête, seule une personne sur quatre environ estime que ces restrictions empêcheront réellement les enfants d’accéder à la pornographie en ligne. Au Royaume-Uni, une vague de résistance s’est également manifestée. Plus de 500 000 personnes ont signé une pétition demandant l’abrogation de la loi sur la sécurité en ligne, critiquée par les défenseurs du droit à la vie privée et de la liberté d’expression. Ces derniers affirment que ces règles constituent un exemple d’abus de pouvoir du gouvernement et les jugent dangereuses pour les personnes souhaitant préserver leur anonymat en ligne. 

Les critiques affirment également que la portée des règles va trop loin, en incluant les forums de loisirs en ligne et divers autres sites. Ils affirment que les petits sites qui ne disposent pas des ressources nécessaires pour se conformer à la loi devront fermer, notamment parce qu’ils s’exposent à des poursuites juridiques inédites. 

Les contenus sont définis en trois catégories : des contenus primaires prioritaires préjudiciable aux enfants (les contenus pornographiques et de promotion du suicide notamment), les contenus prioritaires préjudiciables aux enfants (contenus incitant à la haine, à l’intimidation ou à la violence notamment) et des contenus non désigné comme dangereux pour les enfants mais qui peuvent leur porter préjudice, c’est-à-dire les perturber, comme des images de violences ou de manifestation. Le problème consiste bien sûr dans les flous de ces définitions : un article qui parle d’un suicide en fait-il la promotion ? Parler des violences d’une guerre ou de manifestations est-il préjudiciable ? Même la définition de la pornographie peut-être plus ou moins lâche : un texte érotique est-il de même nature qu’une vidéo explicite ?  

Face à ces risques, les sites accessibles doivent mettre en œuvre un certain nombre de mesures et notamment la « vérification vigoureuse de l’âge », en développant des algorithmes plus sûrs pour les jeunes publics et en renforçant la modération des contenus. 

Depuis l’entrée en vigueur de ces mesures fin juillet, les plateformes de réseaux sociaux Reddit, Bluesky, Discord et X ont toutes mis en place des contrôles d’âge pour empêcher les enfants de consulter des contenus préjudiciables sur leurs sites. Des sites pornographiques comme Pornhub et YouPorn ont mis en place des contrôles d’âge, demandant désormais aux utilisateurs de fournir une pièce d’identité officielle, une adresse e-mail pour que la technologie analyse les autres services en ligne où elle a été utilisée, ou de soumettre leurs informations à un fournisseur tiers pour vérification de l’âge. Des sites comme Spotify exigent également que les utilisateurs soumettent un scan facial à Yoti, une société tierce de gestion d’identité numérique, pour accéder aux contenus étiquetés 18+. L’Ofcom, qui supervise la mise en œuvre de l’OSA, est allé plus loin en envoyant des lettres pour tenter de faire appliquer la législation britannique aux entreprises basées aux États-Unis. 

La généralisation de la vérification d’âge et du contrôle parental

La contrainte de la vérification d’âge n’est pas que britannique. Elle concerne également  l’Union européenne, les Etats-Unis (une vingtaine d’Etats ayant déjà légiféré en ce sens) et l’Australie. « En France, deux lois successives ont entériné depuis 2020 la vérification d’âge », rappelait Le Monde cet été. En juin, menacé de sanctions par l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) s’il ne mettait pas en place une procédure de vérification d’âge, Pornhub a fermé ses accès en France. Si l’Europe a lancé une enquête à l’encontre des principales plateformes de contenus pornographiques, pour qu’elles mettent en place des outils de vérification d’âge plus approprié qu’un simple déclaratif, au motif du DSA et de la taille de leur audience, la Commission estime que fixer une majorité numérique ne relève pas de ses compétences, même si elle travaille à proposer une solution harmonisée de vérification d’âge des internautes. En novembre, les députés macronistes ont déposé une proposition de loi pour interdire les réseaux sociaux aux moins de 15 ans, imposer un couvre-feu numérique pour les 15-18 ans de 22 heures à 8 heures, ainsi que l’interdiction des smartphones dans les lycées. Des perspectives défendues par le président lui-même. Des propositions d’interdiction des réseaux sociaux aux moins de 15 ans sont également à l’ordre du jour au Danemark, en Norvège, et au Royaume-Uni (via un autre projet de loi, le Protection of Children Bill).

En Australie, une loi nationale a d’ores et déjà été adoptée. Elle interdit l’accès aux réseaux sociaux aux moins de 16 ans. En revanche, les applications de messagerie ou celles dévolues à l’éducation et à la santé sont exclues de cette réglementation, tout comme YouTube – sans qu’on comprenne très bien les motivations de cette exclusion. 

« Parallèlement, tous les grands réseaux sociaux ont mis en place, au fil du temps, des outils de contrôle parental et de protection des adolescents, qui permettent notamment de limiter le temps d’utilisation de l’application par les plus jeunes. Certaines plateformes, comme Instagram ou TikTok, limitent ainsi les fonctionnalités des comptes créés par les mineurs, qui sont notamment paramétrés par défaut comme « privés », c’est-à-dire dont le contenu n’est accessible qu’aux personnes acceptées par l’utilisateur.

Les grandes plateformes assurent également utiliser toute une série d’outils automatisés pour détecter les internautes qui mentent sur leur âge lors de leur inscription. En avril, Meta – maison mère d’Instagram – a ainsi annoncé son intention de tester aux Etats-Unis l’utilisation de l’intelligence artificielle pour repérer les profils des jeunes s’étant fait passer pour des adultes afin de les basculer automatiquement en « comptes adolescents ».

La plupart des réseaux sociaux arguent toutefois que la responsabilité du contrôle ne devrait pas leur échoir, mais être confiée aux opérateurs téléphoniques ainsi qu’à Apple et à Google. Ce sont ces deux entreprises qui gèrent les magasins d’applications et sont plus à même, selon les grandes plateformes, de contrôler facilement l’âge des utilisateurs. »

Certains États américains ont également commencé à introduire des législations pour restreindre l’accès à certains sites, notamment pornographiques, aux mineurs, rappelait Le Monde. Les lois de l’Utah et du Texas sont particulièrement contraignante, rappelle la chercheuse Meg Leta Jones pour Tech Policy Press : elles demandent de vérifier l’âge de tous les utilisateurs et les classent en quatre catégories : enfant (moins de 13 ans), jeune adolescent (13-15 ans), adolescent plus âgé (16-17 ans) et adulte (18 ans et plus). « Les deux lois exigent des plateformes d’applications : (1) qu’elles vérifient l’âge des utilisateurs lors de leur inscription par des « méthodes commercialement raisonnables » (par exemple, pièce d’identité, carte de crédit, lecture biométrique), (2) qu’elles relient les comptes des enfants à ceux de leurs parents, (3) qu’elles obtiennent l’autorisation des parents avant que les enfants puissent télécharger des applications ou effectuer des achats, (4) qu’elles indiquent aux développeurs d’applications l’âge de chaque utilisateur et si les parents ont donné leur autorisation, (5) qu’elles informent les parents des modifications importantes apportées aux applications (comme une nouvelle collecte de données) et qu’elles obtiennent à nouveau leur autorisation, et (6) qu’elles transmettent les informations relatives à l’âge aux développeurs de manière sécurisée et chiffrée ». Des mesures qui devraient permettre à l’Etat de poursuivre ceux qui ne les mettraient pas en œuvre au motif de pratiques commerciales trompeuses en vertu de la loi sur la protection des consommateurs et aux parents de porter plainte directement contre les applications et les boutiques d’applications. 

La loi Californienne, elle, privilégie l’auto-déclaration de l’âge (sans vérification d’exactitude). « La Californie exige : (1) un écran simple lors de la configuration de l’appareil demandant aux utilisateurs de saisir leur âge ou leur date de naissance ; (2) que le système d’exploitation partage automatiquement cette information d’âge avec les applications lors de leur téléchargement ; et (3) que les boutiques d’applications obtiennent l’autorisation parentale avant que les enfants de moins de 16 ans puissent télécharger des applications ». Ces différences permettent de comprendre pourquoi Google a soutenu le projet Californien et s’oppose aux projets du Texas et de l’Utah, explique la chercheuse Meg Leta Jones. Au Texas, les géants du web s’opposent à une loi imposant la vérification d’âge sur les magasins d’application d’Apple et Google, au prétexte de la liberté. Facebook soutient pourtant l’obligation faite aux magasins d’applications de procéder aux vérifications d’âge, afin de ne pas avoir à le faire lui-même. Pornhub également. La loi sur la responsabilité des App Stores (App Store Accountability Act) en discussion au Congrès vise pourtant à étendre l’approche de l’Utah et du Texas, mais en plaçant son respect sous la responsabilité de la Commission fédérale du commerce afin d’éliminer les recours privés de parents contre des applications qui ne se conformeraient pas à la législation. Le projet de loi fédéral permettrait d’harmoniser les modalités de contrôle d’âge aux Etats-Unis, explique The Verge. 

Pour l’instant, la vérification d’âge avance donc en ordre dispersé et tente de faire peser des obligations à certains acteurs plus qu’à d’autres. Plutôt que d’être organisée dès l’achat d’appareil ou la création de comptes, elle a tendance à se propager partout, pour mieux exercer son carcan et éliminer ses failles – quand on pourrait peut-être chercher plutôt à faire progresser globalement les limites d’accès, plutôt que de les imposer partout et penser qu’elles doivent être sans failles. Enfin, la vérification d’âge ne vient pas seule, notamment aux Etats-Unis, où elle se raffine d’un droit de regard renforcé des parents sur les téléphones de leurs enfants, notamment avec le développement du contrôle parental.. 

Vers un nouvel internet : le contrôle identitaire et moral généralisé 

Pour Wired, nous franchissons une nouvelle étape dans l’ère d’un internet de plus en plus contrôlé, qui pourrait mettre fin à l’anonymat en ligne, comme l’explique Riana Pfefferkorn, chercheuse en politiques publiques à l’Université de Stanford. « Si les gens choisissent de ne pas se connecter [aux moteurs de recherche] pour éviter les contrôles d’âge, cela pourrait avoir un impact considérable sur les méthodes de recherche d’informations en ligne, rationalisées et intégrées », explique Lisa Given, professeure de sciences de l’information à l’Université RMIT en Australie. Pour Riana Pfefferkorn de Stanford : « En fin de compte, la technologie de vérification de l’âge présente un risque pour les enfants qu’elle est censée protéger. Elle entrave leur accès à l’information et peut les exposer à des risques de violation de la vie privée, d’usurpation d’identité et d’autres problèmes de sécurité. » Pour Emanuel Maiberg et Samantha Cole de 404media, les techniques de vérification d’âge s’apprêtent à « refondre en profondeur de l’infrastructure d’Internet ». Pornhub est pourtant, scandale après scandale, bien plus modéré qu’il n’a jamais été. Le risque que fait introduire la vérification d’âge est celui d’un développement de « sites qui ne tiennent aucun compte de la loi et où certains des contenus les plus nocifs disponibles en ligne leur sont activement proposés ». Au Texas, où Pornhub est désormais bloqué, c’est Xvideos qui s’impose désormais et d’autres sites hébergés dans des pays bien moins regardant, avec des contenus plus problématiques encore. Ce que proposent les lois de vérification d’âge, c’est de « ré-embrayer sur le piratage », estiment les journalistes de 404media, c’est-à-dire que le renforcement des règles risque surtout d’assombrir les pratiques faisant naître des galaxies de sites qu’il sera plus difficile de réguler, comme la lutte contre le piratage a contribué à l’exacerber. 

Dans le nouvel internet qu’introduit la vérification d’âge, l’enjeu n’est pas seulement qu’il va être pénible de devoir s’identifier partout en activant la vérification d’âge localement, mais bien plus qu’il n’y aura plus d’internet sans identification. Le mouvement, déjà largement amorcé partout par l’authentification généralisée ne va faire que se renforcer en tentant de réduire toujours plus les espaces de liberté. Au final, la vérification d’âge va surtout renforcer les grands acteurs, ceux seuls à même de développer ces technologies de contrôle. 

Reste à savoir si la vérification d’âge nous promet un internet plus sécurisé et plus sûr ? Cela risque d’être le cas pour les mineurs effectivement, qui partout autour du monde risquent d’avoir de moins en moins accès à internet et moins accès à l’information quelles que soient ses qualités. Mais, la vérification d’âge ne promet pas une amélioration de la protection pour tous, au contraire. Elle va surtout permettre d’ouvrir les vannes des machines pour tous les majeurs. Elle risque surtout de renforcer la modération pour les plus jeunes et de l’arrêter pour tous les autres. C’est ainsi qu’il faut lire les annonces d’OpenAI à permettre à ses chatbots de produire des contenus érotiques. C’est le sens qu’il faut d’ailleurs donner à un autre projet de loi américain, dénoncé par l’EFF, la loi GUARD, qui oblige à un contrôle d’âge qui s’imposerait à tous les chatbots d’IA destinés au public.Si l’accès aux chatbots va se fermer pour les mineurs, la crise des chatbots compagnons, elle, risque surtout de se résoudre par son accélération. 

Ce que promet la vérification d’âge, finalement, c’est un internet fermé aux enfants et aux adolescents et un internet beaucoup moins sûr pour tous les autres. Un peu comme si on concentrait la régulation sur le seul principe de l’âge et de la responsabilité individuelle. En fait, il est probable que ces lois renforcent encore le peu de prise qu’ont les utilisateurs sur les politiques de modération « unilatérales décidées par les plateformes », comme l’expliquait  le chercheur Tarleton Gillespie dans son livre, Custodians of the internet (Les gardiens de l’internet, 2018, Yale University Press, non traduit – voir notre recension). 

Comme si tous les autres types d’intervention n’avaient pas d’importance. danah boyd ne disait pas autre chose : les projets de lois visant à exclure les plus jeunes des réseaux sociaux ne proposent de mettre en place aucune ceinture de sécurité, mais seulement de ne pas les accueillir dans les véhicules au risque qu’ils ne puissent plus se déplacer. « Les enfants regardent leurs parents plongés toute la journée sur leur téléphones et on est en train de leur dire qu’ils ne pourront y avoir accès avant 18 ans ! En fait, on fait tout pour ne pas interroger les processus de socialisation et leurs limites ». Nous mettons en place un solutionnisme techno-légal. « Le cadre réglementaire n’énonce pas d’exigences de conception spécifiques que les plateformes devraient éviter et n’observent que les résultats qu’elles doivent atteindre ». Le risque enfin, c’est qu’au prétexte du contrôle, nous enterrions toutes les autres modalités politiques, allant de l’éducation à la conception des plateformes. Avec la vérification d’âge, on propose finalement aux géants de concentrer leur modération sur l’exclusion des mineurs, au détriment de toute autre politique. 

Hubert Guillaud

La police détourne le fichier des passeports et des cartes d’identité

Fournir sa photographie et ses empreintes quand on demande son passeport ou sa carte d’identité est plus lourd de conséquence que ce qu’on imagine. Ces données, qui sont enregistrées dans le fichier des « titres électroniques sécurisés » (TES) sont récupérées par la police par un contournement de la loi. La Quadrature du Net a pu obtenir des témoignages et preuves formelles de l’utilisation abusive de ce fichier pour identifier des personnes lors d’enquêtes judiciaires. Nous avons alerté la CNIL sur ce scandale qui était malheureusement prévisible, tant ce fichier TES portait, par son existence même, les risques d’un abus de surveillance par l’État.

Plus belle la vie du fichier TES

Pour comprendre comment nous en sommes arrivé·es là, revenons sur les origines de ce fichier. En 2005, un décret autorise pour la première fois l’enregistrement des informations des personnes demandant un passeport (nom, prénom…) dans une puce électronique au sein du passeport, mais également dans un fichier centralisé à destination des agent·es chargé·es de la délivrance des titres d’identité. Ainsi naît le premier fichier TES (qui s’appelait alors « DELPHINE »). En 2008, afin de se conformer à un règlement européen, sont ajoutées au sein de la puce l’image numérisée du visage et des empreintes digitales. Le gouvernement en profite alors pour également les ajouter dans le fichier, au lieu de rester sur une seule conservation décentralisée. Ceci n’était clairement pas un choix neutre puisqu’il s’agit de données biométriques particulièrement sensibles.

La CNIL, elle, se montrait pourtant défavorable à un enregistrement centralisé d’autant de données dans le fichier TES. En effet, pour la première fois, une base de données faisait un lien entre des données biométriques et une identité civile. L’objectif affiché était de faciliter les démarches administratives et lutter contre la « fraude documentaire ». Mais factuellement, ce lien technique entre identité et données biométrique peut aussi permettre l’identification d’une personne par la comparaison de ses empreintes ou de son visage avec les données contenues dans le fichier. Bien qu’une telle possibilité ne soit pas prévue par les textes, la CNIL estimait tout de même que le choix de centraliser ces données était disproportionné dès lors qu’il existait des modalités de lutte contre la fraude qui apparaissaient tout à la fois aussi efficaces et plus respectueuses de la protection de la vie privée des personnes.

En 2012, une loi proposée par deux sénateurs de droite a tenté de faire évoluer ce fichier TES, qui contenait alors les données biométriques d’environ 6,5 millions de personnes. Cette loi prévoyait de permettre expressément à la police de se servir dans la base de données pour pouvoir identifier des personnes lors de certaines enquêtes. Cette volonté de mise a disposition du fichier TES à la police a cependant été invalidée par le Conseil constitutionnel. Celui-ci a estimé que l’ampleur de la base de donnée qui contenait des données particulièrement sensibles, couplée avec la nouvelle possibilité technique et légale de permettre une identification par la police – qui n’avait rien à voir avec l’objectif initial de faciliter la délivrance des passeports – engendraient des atteintes trop graves aux libertés. Le Conseil craignait notamment que si ces techniques d’identification n’étaient pas limitées, elles « ne pouvaient […] qu’être vouées à se développer »1Voir le commentaire autorisé de la décision du Conseil constitutionnel, page 21, accessible sur cette page.

C’est surtout en 2016 que ce fichier a fait l’objet de critiques et d’attention médiatique. Le gouvernement Valls avait discrètement fait passer un décret créant un nouveau fichier TES au périmètre drastiquement différent. Désormais, il pouvait aussi contenir les données relatives aux cartes nationales d’identité2Pour rappel, la carte d’identité nationale a été créée en 1940 sous le régime de Vichy. Le projet de carte nationale d’identité avait d’abord été imaginé par la préfecture de police en 1921, avec pour objectif d’étendre à tous les citoyens les mesures d’encartement imposées aux étrangers et aux nomades. Face à l’ampleur des protestations, le ministre de l’intérieur abandonna ce projet. Ce n’est que lorsque les libertés publiques auront été anéanties par le gouvernement de Vichy que l’identification totale des citoyens, au moyen de la généralisation de la carte d’identité, pourra être imposée.
Pour aller plus loin : « Système d’enregistrement d’identité, numéro d’identification et “carte d’identité de Français” durant le Régime de Vichy (France, 1940-1944) », Pierre Piazza, 2017 disponible ici et « L’identification des personnes », Gerard Noiriel, 2006, accessible ici.

Or, quasiment tous·tes les Français·es en possèdent une. De nombreuses institutions comme la CNIL, l’ANSSI, l’Inria ou le Conseil national du numérique avaient vertement critiqué ce choix, pointant les risques de la centralisation inédite d’informations liées à l’identité, et en particulier les données biométriques, de quasiment toute la population. Elles craignaient aussi bien les fuites de données que les attaques informatiques et les abus étatiques, d’autant que d’autres options moins attentatoires et décentralisées étaient possibles. Face aux critiques, il était notamment répété à l’envi qu’au grand jamais ce fichier ne pourrait servir à faire de l’identification.

Avec d’autres, nous avions attaqué le fichier devant le Conseil d’État, qui l’a néanmoins validé en 2018. Nous avons tout de même poursuivi le combat. En 2022, avec 15 248 personnes, nous avons déposé une plainte collective devant la CNIL pour dénoncer l’illégalité de ce fichier. L’instruction de cette plainte est toujours en cours et c’est dans le cadre de cette procédure que nous avons envoyé de nouveaux documents à la CNIL pour démontrer ce que nous craignions depuis l’origine : la police se sert allègrement dans le fichier TES.

Administrations et policiers main dans la main

Techniquement et légalement, un simple officier de police judiciaire ne peut pas avoir accès au fichier TES. Le décret de 2016 prévoit uniquement que certains agents individuellement nommés et « chargés des missions de prévention et de répression des atteintes aux intérêts fondamentaux de la Nation et des actes de terrorisme » puissent le consulter. Pourtant, le ministère de l’Intérieur a laissé s’installer une pratique qui permet de contourner les interdictions d’accès aux données du TES, et ce, sans aucune restriction et pour n’importe quel type d’affaire.

Il s’appuie pour cela sur le mécanisme des « réquisitions » judiciaires prévu par le code de procédure pénale. Sur autorisation du procureur de la République, les officiers de police judiciaire peuvent exiger de toute entité publique ou privée de leur fournir les informations qu’elles possèdent et qui seraient utiles pour une enquête. C’est ainsi que la police peut, par exemple, récupérer les enregistrements de vidéosurveillance d’un magasin ou les données personnelles d’une personne précise que détiendrait une banque, la SNCF, un réseau social ou encore la CAF. Ces acteurs sont obligés de répondre sous peine d’une amende de 3 750 euros.

Aujourd’hui, nous pouvons démontrer que la police utilise ce pouvoir de réquisition abusivement auprès des administrations qui participent à la création et la délivrance des cartes d’identité ou passeports. Nous avons ainsi constaté des demandes des informations d’identité aux agent·es :

  • Des « Centres d’expertise et de ressources titres » (CERT). Les CERT sont les services chargés au sein d’une préfecture ou d’une sous-préfecture d’instruire les dossiers de demandes de titres.
  • De l’Agence nationale des titres électroniques (ANTS). C’est l’administration chargée de gérer le système informatique derrière les demandes et délivrances de cartes d’identité et passeports.

La police n’interroge donc pas directement le fichier TES. Concrètement, elle contourne l’interdiction qui lui est faite de piocher dans le fichier TES en adressant des réquisitions à ceux qui y ont accès. Détournant la procédure, elle s’arroge ainsi un pouvoir de consultation du fichier qui lui est normalement interdit.

Nous avions déjà entendu des témoignages en ce sens et cette pratique avait été pointée dans la brochure militante sur les moyens d’enquête dans l’affaire Lafarge Bouc-Bel-Air publiée en octobre 2023. Désormais, nous avons envoyé des preuves concrètes à la CNIL. Nous dénonçons ce détournement illégal afin que cette dérive cesse et que le ministère de l’Intérieur rende des comptes.

Des preuves accablantes

Ces éléments proviennent d’une affaire judiciaire clôturée où les procès-verbaux illustrent l’entêtement des policiers à vouloir identifier un individu à tout prix. N’arrivant pas à mettre un nom et un prénom sur une personne suspectée de rébellion (une qualification pénale par ailleurs régulièrement utilisée abusivement pour masquer des violences policières), les officiers de police judiciaire vont utiliser tous les moyens de surveillance à leur disposition, peu importe les exigences de proportionnalité.

Ils vont d’abord prendre une photographie de la personne à son insu dans le commissariat puis se servir du fichier TES pour confirmer son identité (que la personne n’a pas donnée, mais que les policiers présument). Les policiers vont donc exiger auprès d’un CERT des dossiers de demande de carte d’identité dans le but d’obtenir la photo de visage de la personne (voir les PV anonymisés), et récupèrent au passage tous les documents annexes, comme les justificatifs de domicile. Ils ne s’arrêtent pas là. Au cours de leur enquête, ils font également une demande auprès de l’ANTS pour récupérer des empreintes digitales (voir le PV). Sans jamais justifier ou motiver leur demande, ils exigent ainsi des administrations d’aller fouiller dans la base de données TES, et celles-ci répondent sans poser de question.

L’accès à ces données est lourd de conséquences car, dans cette affaire comme dans d’autres, c’est bien la photographie issue du TES qui, en étant comparée à l’image de vidéosurveillance du commissariat, permet d’identifier in fine la personne suspectée (voir le PV), ce qui est totalement contraire à ce pourquoi le fichier TES a été créé. Le constat est donc clair et accablant : les informations que nous fournissons pour faire notre carte d’identité ou notre passeport pourront être détournées et utilisées par la police dans des enquêtes, au mépris total de la loi.

Les limites du droit

Dans les observations que nous venons de transmettre (à lire ici) , nous rappelons qu’aussi bien le Conseil d’État que le Conseil constitutionnel ou la CNIL avaient formellement exprimé leurs craintes quant aux dérives potentielles de ce fichier. Ces institutions avaient exigé des limites et des garanties fortes afin de contenir ces risques et demandaient à ce que cette base de données soit exclusivement utilisée pour la délivrance des titres d’identité. Elles avaient toutes expressément déclaré ce fichier légal car il ne permettait pas, entre autres, d’identifier une personne.

Malgré cette unanimité, la pratique policière s’est installée, en contradiction totale avec l’esprit du cadre qui a créé le fichier TES. Cela démontre une fois de plus les limites, voire l’impuissance, du droit face aux obsessions de surveillance de l’État. Nous le constatons depuis toujours : dès que les autorités disposent d’une capacité d’obtenir des informations sur la population, cela leur brûle les doigts de l’utiliser pour identifier, contrôler, réprimer. Le soin de respecter les règles n’est alors que cosmétique, surtout quand il n’existe aucun contrôle effectif sur l’activité de la police, permettant ainsi à l’impunité de se propager.

Plutôt que d’empêcher un tel abus, c’est exactement le choix inverse qu’a fait le ministère de l’Intérieur en laissant prospérer ce détournement du fichier TES. Il l’a également volontairement facilité. En 2023, la loi de programmation dite « LOPMI » a assoupli le régime des réquisitions judiciaires, permettant « la remise de données relatives aux documents d’identité » sur la base d’une simple instruction générale (un mécanisme qui permet à un procureur de la République de délivrer une autorisation générale, et non circonstanciée, c’est-à-dire sans s’arrêter sur le cas d’espèce pour vérifier que la réquisition serait véritablement nécessaire à l’enquête et proportionnée). Si nous ne sommes malheureusement pas surpris, cet énième exemple témoigne du mépris de ceux qui nous gouvernent pour les droits fondamentaux et les principes démocratiques : tout est bon pour renforcer les techniques de surveillance et le fichage de la population.

S’attaquer au monstre

Le ministère de l’Intérieur doit être mis face à ses responsabilités et sanctionné. Le détournement et l’utilisation des données du fichier TES doivent être condamnées et doivent cesser immédiatement. Mais au-delà, il faut également comprendre que cet exemple est révélateur d’un phénomène plus large : celui de l’échange débridé et démesuré des données au nom du droit de « réquisition » (ou de « communication » quand il s’agit d’administrations fiscales ou sociales). En effet, ces pouvoirs généraux permettent à la police ou à d’autres institutions d’exiger des données pour une enquête pénale, fiscale ou administrative. C’est ainsi que, via cette prérogative, les organismes de sécurité sociale – CAF, Assurance Maladie… – peuvent récupérer le détail des comptes bancaires, ou que la police peut demander des factures d’électricité.

Or, cette possibilité très large de se voir transmettre des informations s’est construite sans prise en compte des règles de protection des données spécifiques à chaque traitement. Elle n’est guidée que par une logique d’efficacité supposée, réduisant le respect des droits fondamentaux à l’état de vulgaires obstacles à dépasser ou à contourner. Les limites et garanties propres à ces traitements de données sont, d’une certaine manière, écartées au nom du pouvoir de réquisition, ce qui rend difficile le constat d’abus ou de détournement. À l’heure ou tout est informatisé et où la quantité de données communicables est immense, il est nécessaire de questionner profondément ce mécanisme, source d’abus et d’excès.

Par-dessus tout, il faut continuer de combattre le système tentaculaire des fichiers administratifs et policiers. Celui-ci n’en finit pas de s’étendre, sans qu’aucun contrôle sur le travail de la police ne soit fait au quotidien. En effet, la démultiplication des outils facilite la collecte et l’accès aux données, permettant aux agents de rajouter des informations et de contrôler les personnes dans de plus en plus de situations. Cette capacité de surveillance est aujourd’hui devenue un monstre, avec plus d’une centaine de fichiers de police aux périmètres toujours plus larges. Les conséquences sont bien réelles pour les personnes qui s’y trouvent, celles-ci pouvant aussi bien se faire refuser un emploi que recevoir une obligation de quitter le territoire de par leur seule présence dans un fichier. En parallèle, la répression s’intensifie sur les personnes qui refuseraient de se soumettre au fichage, les mettant face à des poursuites et sanctions disproportionnées. Cette surveillance est un piège, auquel il semble de plus en plus difficile d’échapper.

Nous l’écrivions déjà en 2016 : « L’histoire nous rappelle combien la capacité à résister à des dérives autoritaires passe par la faculté d’échapper au contrôle étatique, notamment sur son identité. Les fichiers centralisés ne font pas les régimes autoritaires, mais tout régime autoritaire s’appuie sur un fichage de sa population ».

Ce combat, qui promet d’être long, est possible grâce à votre soutien. Nous espérons pouvoir le continuer pour les années à venir, alors n’hésitez pas à nous faire un don. Merci !

References[+]

References
↑1 Voir le commentaire autorisé de la décision du Conseil constitutionnel, page 21, accessible sur cette page
↑2 Pour rappel, la carte d’identité nationale a été créée en 1940 sous le régime de Vichy. Le projet de carte nationale d’identité avait d’abord été imaginé par la préfecture de police en 1921, avec pour objectif d’étendre à tous les citoyens les mesures d’encartement imposées aux étrangers et aux nomades. Face à l’ampleur des protestations, le ministre de l’intérieur abandonna ce projet. Ce n’est que lorsque les libertés publiques auront été anéanties par le gouvernement de Vichy que l’identification totale des citoyens, au moyen de la généralisation de la carte d’identité, pourra être imposée.
Pour aller plus loin : « Système d’enregistrement d’identité, numéro d’identification et “carte d’identité de Français” durant le Régime de Vichy (France, 1940-1944) », Pierre Piazza, 2017 disponible ici et « L’identification des personnes », Gerard Noiriel, 2006, accessible ici.

À l’heure de la fascisation, soutenez La Quadrature du Net

La Quadrature lance sa campagne de dons 2026 afin de rassembler les 250 000 € nécessaires pour continuer le travail. Comme chaque année, on va profiter de cette campagne pour débattre sur un thème en lien avec nos luttes. Cette année, c’est le mot « fascisation » qui s’est imposé à nous.

Pour les libertés publiques et les droits fondamentaux, les nouvelles sont mauvaises d’où qu’elles viennent. Le fascisme qu’on redoute depuis si longtemps est-il devenu le nom de notre présent ? Comment agir et lutter dans ce contexte ?

Sur l’horloge des libertés, où en est-on ?

À l’heure où des millionnaires d’extrême droite achètent des médias pour répandre leurs fantasmes réactionnaires et racistes et porter leur candidat au pouvoir.
À l’heure où les grandes entreprises de la Tech étasunienne sont dirigées par des idéologues libertariens aux idées ouvertement oligarchiques et eugénistes, en lien avec le pouvoir trumpiste.
À l’heure où le gouvernement français donne un pouvoir abusif aux forces de police et à l’administration sous couvert d’état d’urgence permanent.
À l’heure où la seule réponse donnée aux crises sociales et aux discriminations systémiques est la violence haineuse d’une police sur-armée, quelles que soient les revendications : Gilets jaunes, méga-bassines, réforme des retraites, révoltes après l’assassinat de Nahel Merzouk, indépendance en Kanaky, soutiens à la Palestine, etc.
À l’heure où l’évènement hors-norme qu’ont été les Jeux Olympiques de Paris 2024 sert à normaliser une surveillance algorithmique permanente des comportements dans le quotidien de nos villes.
À l’heure où « l’intelligence artificielle » est utilisée pour surveiller et sanctionner les bénéficiaires des services sociaux.

À La Quadrature du Net, nous parlons « d’autoritarisme » depuis longtemps. Mais ce qu’on a longtemps pris pour une série d’escarmouches ressemble aujourd’hui de plus en plus à une attaque cohérente et concertée et à un programme politique élaboré. Aux États-Unis où c’est plus flagrant, les analystes parlent même, vu le rôle que jouent les pouvoirs du numérique, de « technofascisme ». Et en France ? En Europe ?

Nous avons décidé de profiter de cette campagne de dons pour nous interroger collectivement, et à haute voix, sur le nom à donner à la période que nous vivons. Sur son sens, sur la place des libertés, sur le rôle du numérique et sur les actions que nous pouvons mener pour éviter le pire.

Le fascisme qui n’arrête pas de venir

Aujourd’hui, plus personne ne hausse les épaules avec mépris quand on parle d’un retour des fascismes. On trouve encore des experts raisonnables de plateau télé pour dire qu’on exagère. Mais c’est presque une preuve par l’absurde : les idées proprement fascistes sont devenues si banales qu’on s’offusque quand elles sont désignées avec leur vrai nom.

Et pourtant, aujourd’hui encore l’extrême droite tue, et la fachosphère en ligne regorge d’appels à la ratonnade, à la déportation, au meurtre.
Et une partie croissante de la classe dirigeante endosse le discours idéologique du Rassemblefront national pour encourager son avènement ou sous prétexte de lui faire un « barrage » en sable.

Et ce qui arrive, c’est exactement ce qu’on redoutait.
L’affaiblissement des contre-pouvoirs institutionnels et sociaux, le saccage de l’État social, le réarmement militaire, le mépris pour l’expression populaire, les discours islamophobes, xénophobes et racistes, l’exaltation de la fierté nationale, les avantages donnés à des élites économiques sur-privilégiées et sûres d’elle, la stigmatisation et le traitement brutal de la population pauvre et des personnes racisées, l’homophobie, la transphobie, le discours sécuritaire alarmiste, le durcissement de la répression policière de toute contestation politique, la surveillance massive et permanente de la population, la disqualification des oppositions politiques.

Rien de tout cela n’est fasciste en soi, rien ne suffit à soi seul pour acter nettement le fascisme, mais tout y participe. Le réel de nos démocraties coche déjà plusieurs points de la célèbre liste des symptômes du « Ur-Fascisme » dressée par Umberto Eco en 1995. Tout le paradoxe est ici : on croit qu’on n’y est pas encore tout à fait mais en fait on y est déjà, parce qu’on est entré depuis plusieurs décennies dans une mécanique qui va vers le fascisme : un horizon qui fascine ou qui terrifie, qui commence nulle part et qu’on n’atteint jamais, et c’est pourquoi nous avons choisi de parler plutôt, pendant cette campagne de dons, de « processus de fascisation ».

Une campagne pour parler ensemble

Pendant toute cette campagne de dons, jusqu’à fin décembre, nous allons donc nous interroger sur les liens entre technologies numériques et fascisation du monde. Ce tour d’horizon passera par des articles mais aussi par des émissions en live. Ce format, nouveau pour nous, réunira des invité·es pour décortiquer et analyser ensemble la situation, les processus politiques et sociaux, les forces en présence et les idées à défendre aujourd’hui et demain. Nous inviterons des journalistes, des chercheur·euses, des militant·es d’autres associations de défense des droits. Nous viendrons avec notre connaissance des enjeux numériques et juridiques français et européens, et tous·tes ensemble nous discuterons de ce à quoi nous devons faire face.

Le premier live traitera d’abord de la question des termes, du « fascisme » et du « technofascisme », pour se mettre d’accord sur les mots avant de parler du fond.

Le second abordera les liens entre le militantisme et le journalisme, pour confronter les problèmes que rencontrent les un·es et les autres, démonter le mythe de la neutralité de la presse et voir comment la proximité avec les luttes locales aide les journalistes à informer sur la réalité des vies.

Dans le troisième, on questionnera l’apparente « neutralité de la technique » en analysant comment la forme qui est donnée aux objets techniques les met bien souvent au service de la fascisation, et on explorera d’autres façons de la concevoir menant vers un chemin émancipateur.

Puis on explorera la question de la surveillance des frontières, et du système général de contrôle des personnes exilées et étrangères. Le numérique joue dans ces questions un rôle sinistre, en réalisant le fantasme totalitaire de l’identification et de la surveillance permanente.

Enfin, on se penchera sur les méthodes administratives qui permettent la répression et le harcèlement des personnes musulmanes, assignées à résidence ou perquisitionnées sur la base de notes blanches ou de rapprochements hasardeux qui cherchent à criminaliser certaines croyances religieuses et l’appartenance à des minorités.

Et surtout, soutenez La Quadrature !

Tout cela a pour nous une grande importance, parce que l’association a besoin d’avoir un cap, une stratégie, et les idées claires. Mais une campagne de dons, c’est d’abord la nécessité de se financer pour pouvoir travailler l’année prochaine.

La campagne de dons de 2025 a été bonne, mais elle n’a pas atteint son objectif. Nous accusons un déficit.
Cette année, il nous faut 250 000 € pour tenir. Soutenez l’association par un don ponctuel ou mensuel – nos préférés, parce qu’ils permettent de travailler plus sereinement dans la durée.
La Quadrature ne reçoit pas un centime d’argent public. Nous tenons grâce à votre générosité et à votre engagement avec nous.

Venez assister aux lives, diffusez les replays autour de vous ! Lisez nos articles et partagez-les ! Et surtout, si vous le pouvez, n’hésitez pas à soutenir La Quadrature du Net avec un don.

Nous vous souhaitons quant à nous de garder l’espoir, de savoir trouver les lucioles dans cette période sombre, de lutter ensemble pour nos libertés fragiles et de mener autant que possible dès aujourd’hui, comme disait Michel Foucault, « une vie non-fasciste ».

Faire un don

Parution du livre « Caméras sous surveillance »

Le livre Caméras sous surveillance – Luttes contre l’œil électronique est paru cette semaine aux éditions Terres de feu. Écrit par Martin Drago, membre de La Quadrature du Net, l’ouvrage s’intéresse aux personnes et collectifs qui ont refusé les caméras de vidéosurveillance, en mettant en lumière cette résistance qui persiste : multiple, artistique, locale et internationale, inspirante pour les combats à mener.

Il y a 30 ans était promulguée la loi « d’orientation et de programmation relative à la sécurité » qui autorisait en France le déploiement sur la voie publique des caméras de vidéosurveillance. Comme c’est le cas pour chaque loi sécuritaire, il ne s’agissait évidemment pas d’un quelconque encadrement ou limitation de l’usage des caméras, mais bien d’une normalisation, la première étape officielle d’une surveillance vidéo à grande échelle du territoire français. C’est aussi la couche nécessaire à l’avènement de la Technopolice contre laquelle La Quadrature du Net et de multiples collectifs et personnes luttent aujourd’hui.

Le livre paru cette semaine revient sur l’historique du déploiement de la vidéosurveillance en France, depuis son invention dans les années 40 en passant par sa légalisation en 1995. Il s’intéresse particulièrement aux mouvements qui ont lutté contre ces dispositifs, leurs victoires, leurs outils, leurs arguments et aux forces que ces organisations ont dû affronter – entre État sécuritaire et lobbies avides d’un nouveau marché.

« Refuser que les caméras deviennent un détail architectural de notre quotidien et en refaire un objet politique contesté, tel est l’un des enjeux de cet ouvrage »

Le lien vers le site des éditions Terres de Feu, avec un accès libre au PDF : Caméras sous surveillance

Chat Control : on fait le point

Ceci est une traduction de l’article « Chat Control: What is actually going on? » publié le 24 septembre 2025 par EDRi, réseau d’associations européennes dont La Quadrature du Net fait partie.

Chat Control : de quoi s’agit-il ?

Au cours de l’été 2025, le dossier « Chat Control » est devenu un sujet brûlant dans le débat public. Lors d’un vote très important, le 14 octobre prochain, les gouvernements des États membres de l’UE décideront d’approuver ou de rejeter un texte qui veut instaurer une surveillance de masse, briser le chiffrement des communications et mettre fin à l’anonymat en ligne : le règlement CSAR. Mais nous avons encore une bonne occasion d’empêcher l’adoption de ces mesures qui contrôleraient nos conversations, car le système législatif européen nous laisse encore des possibilités de contrepouvoirs démocratiques.

Durant l’été 2025, le sujet des libertés numériques a percé la bulle du microcosme législatif européen pour devenir un sujet de conversation pour les législateurs nationaux, les influenceurs en ligne, et même pour les apéros entre amis et les dîners en famille. Tout ça à cause d’une proposition de règlement européen appelée « Chat Control ».

Chat Control a suscité un grand intérêt sur les réseaux sociaux et dans le débat public, à juste titre, en raison de plusieurs mesures draconiennes. De nombreuses voix ont dénoncé les atteintes particulières aux droits des journalistes, des communautés LGBTQIA+, des parents qui partagent leurs photos de famille, des avocats, et même des enfants eux-mêmes – que ce texte est pourtant censé protéger.

Mais heureusement, il est encore possible de faire bouger les choses au sein de l’UE pour lutter contre ce texte de loi, lisez la suite pour voir comment vous pouvez contribuer à aider !

« Chat Control » est en réalité le surnom d’un projet de règlement européen « établissant des règles en vue de prévenir et de combattre les abus sexuels sur enfants », baptisé « Child Sexual Abuse Regulation » ou CSAR en anglais. Depuis sa présentation en 2022 par l’ex-commissaire européenne Ylva Johanssson, très controversée, EDRi et sa campagne Stop Scanning Me ont démontré qu’en dépit de son objectif annoncé de traquer les contenus pédocriminels en ligne, le projet n’est ni légitime ni réaliste.

Que contient le projet de loi « Chat Control » ?

1. D’après le projet de règlement, les communications privées de tout un chacun pourraient être scannées à l’aide de filtres douteux fondés sur de l’intelligence artificielle, pour voir si les messages contiendraient des contenus pédopornographiques. Il s’agit là d’un cas parfait de surveillance de masse qui, en plus d’être contraire au principe de la présomption d’innocence, n’est pas très efficace d’un point de vue mathématique. La Commission prétend que l’analyse resterait ciblée, mais nous expliquons ici pourquoi cela est faux.

2. La proposition exige que ce scan soit effectué par tous les services de messagerie chiffrés de bout en bout, tels que WhatsApp et Signal. Tous les spécialistes tech du monde entier sont catégoriques, une telle analyse ne pourrait pas se faire sans compromettre l’intégrité même des services chiffrés. Cela reviendrait à déployer un logiciel espion personnalisé sur les appareils de millions de personnes (ordinateurs ou téléphones). En plus d’être un cauchemar en matière de cybersécurité (à tel point que même les agences de renseignement mettent en garde contre cette mesure !), l’ONU et la Cour européenne des droits de l’Homme ont rappelé que compromettre le chiffrement constituerait une violation massive du droit à la vie privée de chacun.

3. Pour se conformer à cette proposition, les services de communication en ligne devraient probablement exiger que les utilisateurs se soumettent d’abord à une vérification d’âge. Il a pourtant été démontré que tous les outils actuels de vérification d’âge constituent une menace pour la liberté d’expression, l’indépendance et le droit à la vie privée. Par conséquent, de telles mesures risqueraient d’exclure systématiquement les personnes qui ne possèdent pas de documents d’identité numériques et pourraient également signer la fin de l’anonymat en ligne. Cela mettrait également en danger de nombreuses personnes : les lanceur·euses d’alerte, les militant·es, les personnes qui ont besoin de soins de santé, etc.

En bref, l’impact négatif de Chat Control sur la démocratie serait sans précédent. Et en légitimant ces pratiques dangereuses, l’UE enverrait au reste du monde un signal indiquant que la confidentialité des communications en ligne n’existe plus.

Pourquoi Chat Control est-il soudainement devenu un sujet d’actualité ?

Le 14 octobre 2025, le Conseil de l’UE (le regroupement des gouvernements des États membres de l’UE) votera sur le règlement CSAR. Ce vote encourage malheureusement les pays de l’UE à prendre officiellement position en faveur de ce texte.

Cependant, le projet Chat Control devra encore franchir plusieurs obstacles législatifs avant de pouvoir entrer en vigueur. Il n’a même pas encore atteint le stade des négociations finales (appelées « trilogues ») et il est possible qu’il n’y arrive même pas. En effet, le droit européen prévoit une série de contre-pouvoirs visant à garantir que les projets de loi soient examinés démocratiquement, et bon nombre de nos législateurs sont heureusement à l’écoute des arguments qui sont avancés.

L’importance des contre-pouvoirs démocratiques de l’UE

L’un de ces principaux contre-pouvoirs est que le Parlement européen, qui jouera un rôle majeur dans les négociations finales, a adopté une position forte sur ce texte en 2023. Avec l’accord de député·es venant de l’ensemble de l’éventail politique, le Parlement a adopté une position qui exclut la surveillance de masse, garantit que le chiffrement ne serait pas compromis et fixe des critères stricts quant à l’utilisation excessive des outils de vérification d’âge. Cela a son importance, car si le Conseil adopte une mauvaise position, nous compterons sur le Parlement pour nous protéger contre Chat Control pendant les trilogues. Cependant, le Parlement a historiquement moins de pouvoir dans ces négociations et le député rapporteur a laissé entendre qu’il pourrait assouplir sa position sur le chiffrement. Il est donc plus important que jamais que le Parlement tienne sa position.

Une autre bonne nouvelle est que, même après trois ans de discussions intenses, les gouvernements des pays de l’UE ne parviennent toujours pas à se mettre d’accord sur la marche à suivre. Si certains pays favorables à la surveillance des communications, comme la Hongrie, l’Irlande, l’Espagne et le Danemark, ont soutenu sans faiblir les mesures d’analyse de masse des contenus et de contournement du chiffrement, de nombreux autres pays se sont inquiétés à juste titre. Par exemple, le Luxembourg, l’Autriche, l’Allemagne et la Pologne se sont toujours opposés à Chat Control et d’autres pays comme les Pays-Bas, la Slovénie, la Finlande, la Belgique, la République tchèque et l’Estonie ont tous pris position contre ou se sont abstenus à divers moments.

[Ajout de La Quadrature : Après avoir été contre le texte, puis s’être abstenue, la France risque désormais désormais de voter en faveur du texte.]

Mais nous savons aussi que le département des affaires intérieures de la Commission européenne (qui a été un acteur notoire dans la promotion du texte, et ce, de façon illégale) a tout fait pour que les États membres la suivent dans ses plans au sein du Conseil. La rumeur dit que certains pays, notamment l’Allemagne, ont fait l’objet de pression pour « abandonner » dans le dossier Chat Control. C’est pourquoi ce vote d’octobre sera décisif.

Que pouvez-vous faire maintenant ?

Le moment est venu pour que les citoyens de toute l’UE fassent entendre leur voix. Faire entendre aux eurodéputé·es que nous soutenons la position du Parlement leur sera utile pour les éventuelles négociations futures. Plus encore, les gouvernements des États membres de l’UE doivent absolument entendre l’opposition populaire à toute mesure qui reviendrait à contrôler et surveiller les conversations. Le droit européen et international les oblige à s’opposer au règlement CSAR puisqu’il ne protège ni nos droits, ni nos libertés, ni notre sécurité. Le texte actuel du Conseil qui fera l’objet d’un vote en octobre est très loin de remplir ces objectifs.

Signez la pétition de la campagne Stop Scanning Me [coordonnée par le réseau EDRi, à l’origine de l’article et dont La Quadrature du Net fait partie] et rejoignez les milliers de personnes qui s’opposent à cette atteinte à la sécurité de nos communications. Dès que notre pétition aura atteint le seuil nécessaire, nous la remettrons aux décideurs politiques, comme nous l’avons déjà fait par le passé.

Répression sociale : des milliers de contrôles CAF déclenchés sur demande policière

Après avoir dénoncé les dérives de l’algorithme de notation utilisé par la CAF pour sélectionner les personnes à contrôler, nous abordons ici la question des contrôles CAF réalisés sur signalements policiers. Utilisée par la police comme arme de répression sociale et politique, cette pratique symbolise l’instrumentalisation par l’État des administrations sociales à des fins de contrôle.

En 2019, peu de temps après avoir été arrêté par la police lors d’une manifestation de Gilets Jaunes, Jean1Prénom modifié. subit un contrôle CAF. Perplexe face à la concomitance des deux évènements, il demande à la CAF si le contrôle a un lien avec son arrestation. Alors que la CAF lui répond que non, il apprendra, à la suite d’une longue bataille juridique, que ce contrôle était bel et bien le fruit d’une demande de la police.

Son cas est loin d’être isolé. Chaque année, ce sont plusieurs milliers de contrôles CAF qui sont déclenchés sur « signalements » de la police2Les chiffres des contrôles déclenchés sur « signalement » de la police/gendarmerie dont nous disposons sont les suivants. En 2012 ce nombre s’élevait à 2747 (source CNAF, Bilan annuel contre la fraude 2012, 2013, disponible ici), en 2013 à 2346 (source DNLF, Lutte contre la fraude. Bilan 2013, disponible ici) en 2015 à 2769 contrôles (source CNAF, Bilan de la lutte contre la fraude 2015, 2016, disponible ici), en 2016 à 2877 (source CNAF, Bilan de la politique de contrôle et de la lutte contre la fraude 2016 aux prestations légales, 2017, disponible ici), en 2019 à 5163 (source CNAF, Bilan 2019 Prévention et lutte contre la fraude aux prestations légales, 2020, disponible ici), en 2020 à 2386 (source CNAF, Bilan 2020 Prévention et lutte contre la fraude aux prestations légales, 2021, disponible ici), en 2022 et 2023 respectivement à 3830 et 3249 (source Mission interministérielle de coordination anti-fraude, Lutte contre la fraude aux finances publiques, résultats 2023, disponible ici)..

Au problème politique que soulève l’utilisation d’une institution sociale à des fins de répression policière s’ajoute le fait que cette pratique souffre d’une absence d’encadrement. Ces « signalements » sont réalisés en dehors de tout cadre judiciaire et n’ont, dans les faits, pas à être motivés par la police. Ceci génère un risque de recours aux « signalements » à des fins de harcèlement policier.

Qui plus est, cette procédure est particulièrement opaque. La personne contrôlée n’a ainsi pas connaissance du fait que ses déclarations devant la police, lors d’une garde-à-vue par exemple, peuvent être transmises à la CAF, alors que cette possibilité entre en contradiction avec le principe du secret de l’instruction. Également, en cas de « signalement », la personne visée ignore que son contrôle résulte d’une demande de la police et n’a pas accès aux informations communiquées à la CAF.

En retour, les abus sont inévitables, comme le montrent les témoignages que nous avons collectés. Outre leur utilisation à des fins de répression politique, un contrôleur nous a ainsi témoigné avoir assisté à un cas de signalement pour soupçon de « fraude à l’isolement » visant une femme ayant déposé une plainte pour violences conjugales. Autrement dit, il a été demandé à la CAF de vérifier la composition du foyer déclaré pour s’assurer que la victime avait bien déclaré vivre avec son agresseur, et la sanctionner en cas d’omission. Ajoutons, enfin, que ces contrôles risquent de cibler les plus précaires et les habitant·es des quartiers populaires, un point sur lequel nous revenons ci-après.

Les CODAF : les institutions sociales au service de la répression policière

C’est dans le cadre des «Comités opérationnels départementaux anti-fraude» (CODAF) que la pratique du « signalement police » est apparue. Créés en 2010 sous l’impulsion de Nicolas Sarkozy, ces comités départementaux regroupent institutions policières (police, gendarmerie), organismes de protection sociale (CNAF, France Travail ou Assurance maladie) ainsi que différentes administrations publiques (impôts, douanes…)3La liste exacte des membres est la suivante: les procureurs de la République du département ou leurs représentants, les chefs de services préfectoraux compétents en matière de lutte contre la fraude, la police nationale, la gendarmerie nationale, la direction générale des finances publiques, la direction générale des douanes et droits indirects, les autorités compétentes dans les domaines de la concurrence, consommation et répression des fraudes, le directeur régional des entreprises, de la concurrence, de la consommation, du travail et de l’emploi, le directeur régional de l’environnement, de l’aménagement et du logement ou son représentant, le directeur général de l’agence régionale de santé ou son représentant, les directeurs des organismes locaux de sécurité sociale du régime général et du régime agricole ou leurs représentants, un responsable coordonnateur régional désigné par la Caisse nationale de l’assurance maladie ou son représentant, le directeur régional de Pôle emploi ou son représentant, le responsable du centre de gestion et d’étude AGS territorialement compétent ou son représentant, dûment habilités par la direction nationale de la délégation Union nationale interprofessionnelle pour l’emploi dans l’industrie et le commerce (UNEDIC) Association pour la gestion du régime de garantie des créances des salariés (AGS), dans les départements de la région Ile-de-France, le directeur de la Caisse nationale d’assurance vieillesse ou son représentant, dans les départements des Hauts-de-Seine, de la Seine-Saint-Denis et du Val-de-Marne, un représentant du préfet de police. Voir Arrêté du 25 mars 2010 fixant la composition dans chaquedépartement des CODAF, abrogé en 2020 par l’arrêté du 12 octobre 2020)..

Placés sous l’égide de la Mission interministérielle de coordination anti-fraude (MICAF), les CODAF visent à favoriser « les coopérations locales » pour lutter contre les « fraudes aux finances publiques », et en particulier les «fraudes aux prestations sociales »4Yannick Herry et Éric Belfayol, 2019, Le comité opérationnel départemental anti-fraude : un outil local efficace contre la fraude aux finances publiques, Gestion et finances publiques. Disponible ici. A l’époque, la MICAF portait le nom de Direction Nationale de Lutte contre la Fraude. Concrètement, il s’agit d’organiser des réunions régulières à l’échelon départemental afin de planifier « des opérations de contrôles coordonnés » et de faciliter les « échanges d’informations » entre forces de police et institutions sociales5Citations extraites du site de la MICAF, archive disponible ici..

Un dispositif aux origines racistes

Dès leurs créations, la MICAF met l’accent sur l’importance de promouvoir les « signalements police » au sein des CODAF afin de lutter « contre la fraude sociale ».

L’objectif est de permettre aux policiers·ères de transmettre à la CAF les informations dont iels disposent sur des personnes arrêtées, qui bénéficieraient de « revenus illégaux » tirés « d’affaires de trafic de stupéfiants, [de] proxénétisme, [de] vente illégale de métaux »6Délégation Nationale à la Lutte contre la Fraude, Bilan 2018. Disponible ici. tout en « bénéficiant des prestations du type RSA ou CMU-complémentaire »7Délégation Nationale à la Lutte contre la Fraude, La lettre des CODAF, 2 juillet 2010. Disponible ici..

Politiquement, la promotion de ce dispositif est portée par un discours politique stigmatisant aux accents racistes visant directement les habitant·es des quartiers populaires. Pour reprendre les documents officiels, les « signalements » ont pour objectif de « lutter contre l’économie souterraine dans les banlieues » et les « délinquant[s] » y habitant8Délégation Nationale à la Lutte contre la Fraude, La lettre des CODAF, 2 juillet 2010. Disponible ici. .

Contourner le secret de l’instruction

Lorsque le système des CODAF est pensé, il existait un obstacle juridique majeur au projet de la MICAF : le secret de l’instruction9Article 11 du code de procédure pénal.. Ce principe juridique fondamental tient au secret professionnel les personnes impliquées dans une procédure en cours (policiers·ères, juges d’instruction, magistrat·es du parquet…). Comme le rappelle le Conseil constitutionnel, il vise notamment à « protéger les personnes concernées par une enquête ou une instruction, afin de garantir le droit au respect de la vie privée et de la présomption d’innocence, qui résulte des articles 2 et 9 de la Déclaration de 1789 »10Conseil constitionnel, décision n° 2017-693 QPC du 2 mars 2018..

Le secret de l’instruction limitait fortement l’intérêt des « signalements » en empêchant la police de communiquer aux administrations sociales le moindre élément d’une enquête non clôturée.

Mais un an de lobby de la MICAF suffira pour que cette interdiction soit levée, au mépris de droits fondamentaux. Sur proposition de la MICA11Yannick Herry et Éric Belfayol, 2019, Le comité opérationnel départemental anti-fraude : un outil local efficace contre la fraude aux finances publiques, Gestion et finances publiques. Disponible ici. A l’époque, la MICAF portait le nom de Direction Nationale de Lutte contre la Fraude., la loi d’orientation et de programmation pour la performance de la sécurité intérieure (LOPSSI2) votée en 2011 autorise les membres du CODAF à « s’échanger tous renseignements et tous documents utiles à l’accomplissement des missions de recherche et de constatation des fraudes en matière sociales »12Voir loi d’orientation et de programmation pour la performance de la sécurité intérieure (LOPSSI), codifiée aux articles L 114-16 et suivants du code de la sécurité sociale.. Et ce quelque soit le stade de la procédure judiciaire.

Une pratique déloyale

La CAF est la première institution sociale à se saisir pleinement des possibilités offertes par la loi LOPSSI2. En 2013, elle signe un protocole avec la police nationale visant à préciser les modalités d’application de la LOPSSI213Protocole entre la direction générale de la police nationale, de la gendarmerie nationale, de la direction de la sécurité sociale, de la caisse nationale des allocations familiales et la délégation nationale à la lutte contre la fraude, 8 février 2013, disponible ici. Ce document prévoit que la police ou la gendarmerie puissent transmettre « tous renseignements et tous documents » à la CAF, qu’il s’agisse de « procès-verbaux, quel que soit le cadre juridique », de « main-courantes », de « rapports d’enquête ou de rapports administratifs », de « télégrammes » ou « tout autre document officiel ». Ce protocole fait par la suite l’objet d’une déclinaison au niveau départemental. Selon les déclarations du directeur de la MICAF devant une « commission d’enquête relative à la lutte contre les fraudes aux prestations sociales », il était décliné dans une trentaine de départements en 2020.. L’objectif est de créer un cadre visant à « intensifier les collaborations » entre les deux institutions14Délégation nationale à la Lutte contre la fraude, bilan 2013, disponible ici. en vue de « susciter des signalements »15Délégation Nationale à la lutte contre la fraude, Lettre des CODAF, numéro 17, décembre 2011. Disponible ici.
.

Un document annexé au protocole et intitulé « procès-verbal type protection sociale » retient l’attention. Co-rédigé par la CAF et la police nationale sur le modèle d’un procès-verbal policier classique, il contient une dizaine de questions portant notamment sur la composition du foyer, le patrimoine, les ressources et les «constatations faites lors des perquisitions ou surveillance », soit l’ensemble des informations nécessaires aux services de contrôle de la CAF.

Ce « procès-verbal type protection sociale » signe tant l’aboutissement d’un processus de rationalisation administrative – les questions à poser sont pré-écrites par la CAF et la police n’a qu’un seul document à transmettre à la CAF – que le caractère déloyal de la pratique des signalements. La personne interrogée sur sa base, et ce dans le cadre d’une procédure quelconque, ne sait pas que les réponses qu’elle apporte seront transmises à la CAF en vue d’un contrôle. En d’autres termes, elle ignore la finalité des questions qui lui sont posées par les services de police.

Ajoutons à cela que si un signalement est effectué suite à ses déclarations, elle n’en est pas informée. Cela signifie en particulier qu’elle n’a pas connaissance des informations dont dispose le ou la contrôleur·se, un manque de transparence venant compliquer toute contestation des éléments qui peuvent lui être reprochés.

Un risque d’abus policiers

Le cadre juridique encadrant les signalements est donc particulièrement souple. Ces derniers peuvent être réalisés à n’importe quel stade de la procédure, avant donc qu’une décision de justice n’ait été prononcée. Ils peuvent se baser sur de simples suspicions sans que la police n’ait réellement à se justifier.

Cette absence d’encadrement ouvre, en retour, la porte à de nombreux abus aux conséquences lourdes pour les personnes visées. Sentiment d’humiliation, mise à nue numérique, questions intrusives, peur des conséquences, auxquels s’ajoutent les difficultés de recours et les nombreuses irrégularités constatées dans la procédure : rappelons que de nombreux témoignages viennent attester de la violence inhérente aux contrôles CAF16Voir à ce sujet l’article de Lucie Inland disponible ici, cet article du Monde et le rapport du Défenseur des Droits « La lutte contre la fraude aux prestations sociales » disponible ici. La fondation pour le logement, le Défenseur des droits et le collectif Changer de Cap ont par ailleurs collecté de nombreux témoignages décrivant la violence vécue par les allocataires lors des contrôles. Difficulté de recours, contrôles répétés, suspension automatique des prestations sociales, intrusion sans précédent dans les moindres recoins de la vie privée. Nous vous invitons à lire l’ensemble de ces témoignages ici)..

Un chiffre vient confirmer la crainte que les signalements soient avant tout utilisés comme un moyen de harcèlement policier17Il ne semble pas que la CAF soit tenue de déclencher un contrôle suite à un signalement mais nous ignorons le pourcentage de signalements aboutissant effectivement à un contrôle.. En moyenne, seuls 17% des contrôles déclenchés sur signalements aboutissent à la détection d’un trop-perçu18Les chiffres disponibles sur les taux d’indus sont issus des bilans annuels de lutte contre rédigés par la CNAF. Nous disposons des chiffres pour les années 2012, 2016, 2017, 2018, 2019, 2020.. Autrement dit, la plupart des signalements ne sont pas fondés, loin de l’image d’une police utilisant à dessein des pouvoirs qui lui sont conférés.

Si la CAF s’abstient de commenter ce chiffre, elle écrit plus largement au sujet des contrôles que des sources aboutissant à la détection de trop-perçus dans 20% des cas ou moins ne sont « pas en général très justifiés » eu égard à leur faible efficacité19CNAF, Bilan 2012 de lutte contre la fraude, disponible ici.. Ajoutons enfin que si les taux de fraudes détectées suite aux signalements ne sont pas communiqués, ils sont par définition plus faibles. Car, comme l’écrit la CAF elle-même, « la majeure partie des indus détectés ne sont pas frauduleux car l’erreur de déclaration à l’origine de l’indu n’est pas intentionnelle »20CNAF, Bilan 2018 Prévention et lutte contre la fraude aux prestations légales, disponible ici.. Comme nous le répétons avec d’autres, les indus sont avant tout dus à la complexité des règles de calcul des aides sociales engendrant des erreurs de déclarations, et non de comportements malhonnêtes.

La CNAF, complice de répression sociale

En l’absence de données publiquement disponibles sur les personnes contrôlées suite à un signalement, il n’est pas possible d’identifier avec certitude les populations les plus exposées à ces contrôles et aux risques d’abus d’associés. Mais le système des CODAF ouvre un boulevard pour qu’une répression sociale se mette en place.

Le discours politique anti « banlieues » autour des signalements va, comme nous l’avons vu, directement en ce sens, et justifie le développement de cette pratique. À travers lui, sont directement visé·es les plus précaires et tout particulièrement les habitant·es des quartiers populaires via l’accent mis sur « l’économie souterraine des banlieues » et les personnes « bénéficiant des prestations du type RSA ou CMU-complémentaire »21Délégation Nationale à la Lutte contre la Fraude, La lettre des CODAF, 2 juillet 2010. Disponible ici.. Les deux catégories se regroupant par ailleurs22Voir par exemple Jean-Michel Floch, Disparités de revenus et ségrégation dans les grands pôles urbains, INSEE, 2016. Disponible ici..

Par ailleurs, la liberté laissée à la police dans le choix des signalements ne peut que favoriser l’expression des pratiques discriminatoires de la police vis-à-vis des personnes racisées, aujourd’hui largement documentées, que ce soit dans le cas des contrôles d’identité ou à travers la prégnance des discours racistes dans cette institution, comme le rappelle, entre autres, le Défenseur des droits23Voir notamment le dossier « Contrôles d’identité : que dit le droit et comment mettre fin aux contrôles discriminatoires » du Défenseur des Droits, disponible ici ou l’article de Fabien Jobard et Omar Slaouti, Police, justice, Etat : discriminations raciales publié dans Racismes de France, La Découverte, 2020..

S’ajoute enfin le risque d’un sur-ciblage des mères célibataires via l’accent mis cette fois-ci dans la recherche de la « fraude à l’isolement ». Il s’agit de la situation d’une personne déclarant vivre seule alors que ce n’est pas le cas, et ce type de contrôle visant tout particulièrement les mères célibataires24Voir notamment l’article du Monde du 4 décembre 2023 « Dans la vie de Juliette, mère isolée, précaire et cible de l’algorithme des CAF », disponible ici et le livre de Selim Derkaoui, Laisse pas trainer ton fils. Comment l’État criminalise les mères seules, 2025, Les Liens qui libèrent..

Un risque de répression politique

Reste enfin le risque d’une utilisation à des fins de répression politique. Si, ici aussi, l’absence de chiffres et de témoignages rend difficile toute appréhension de cette dérive, notons que le cas du militant Gilet Jaune que nous avons mentionné en introduction démontre, a minima, que cette situation existe et que rien n’est fait pour l’empêcher.

Pour reprendre ce qui a été dit plus haut, ce militant n’a appris que le contrôle qu’il subissait était le résultat d’un signalement policier qu’à l’issue d’un long combat juridique. Et ce alors même que le contrôleur lui avait assuré que ce n’était pas le cas.

Ce n’est qu’au moment de passer au tribunal que la CAF a consenti à lui donner accès au « rapport de contrôle », le document qu’écrit tout·e contrôleur·se à l’issue d’un contrôle à domicile. Sur la première page de ce document, que nous avons consulté, est pourtant écrit: « Cible 922 : signalements reçus police », ce qui correspond aux signalements CODAF. Bien que rien ne puisse permettre de le prouver formellement, tout indique donc que le signalement était consécutif à son interpellation en manifestation. Quant aux informations que la police avait transmises au contrôleur, elles ne lui ont jamais été communiquées.

Lutter : appel à témoignages

La première difficulté pour lutter contre ce type de pratiques est de les documenter. Pour cela, nous lançons un appel à témoignages aux personnes ayant subi un contrôle à propos duquel elles soupçonnent, ou savent, qu’il est le fruit d’un signalement policier.

Précisons d’emblée que nous ne connaissons qu’un moyen de savoir avec certitude que c’est le cas : accéder au rapport de contrôle établi par le ou la contrôleur·se et chercher, sur sa première page, s’il est écrit « Cible: 922 signalements reçus police/gendarmerie/préfecture ». Ce rapport de contrôle est communicable à toute personne ayant fait l’objet d’un contrôle à domicile. Nous mettons en ligne un guide pour obtenir l’accès à ce rapport via une demande d’accès aux documents administratifs.

Nous suspectons par ailleurs que ces pratiques ne soient pas limitées au cas de la CNAF, mais que cette dernière fait, à l’image de son algorithme de notation, figure de « pionnière ». Si vous avez des informations sur de telles pratiques à France Travail, l’Assurance maladie ou l’Assurance vieillesse, vous pouvez nous écrire à algos@laquadrature.net ou nous envoyer des documents anonymement via notre SecureDrop. Vous trouverez un guide pour ce faire ici.

Le système des signalements CODAF, comme l’algorithme de la CNAF, traduit une vision autoritaire de ce que devraient être les institutions sociales. C’est pourtant une remise en question radicale de leur rôle, qui devrait être d’accompagner et d’aider les personnes plutôt que de les contrôler. Alors pour nous aider à continuer notre travail, vous pouvez aussi nous faire un don.

References[+]

References
↑1 Prénom modifié.
↑2 Les chiffres des contrôles déclenchés sur « signalement » de la police/gendarmerie dont nous disposons sont les suivants. En 2012 ce nombre s’élevait à 2747 (source CNAF, Bilan annuel contre la fraude 2012, 2013, disponible ici), en 2013 à 2346 (source DNLF, Lutte contre la fraude. Bilan 2013, disponible ici) en 2015 à 2769 contrôles (source CNAF, Bilan de la lutte contre la fraude 2015, 2016, disponible ici), en 2016 à 2877 (source CNAF, Bilan de la politique de contrôle et de la lutte contre la fraude 2016 aux prestations légales, 2017, disponible ici), en 2019 à 5163 (source CNAF, Bilan 2019 Prévention et lutte contre la fraude aux prestations légales, 2020, disponible ici), en 2020 à 2386 (source CNAF, Bilan 2020 Prévention et lutte contre la fraude aux prestations légales, 2021, disponible ici), en 2022 et 2023 respectivement à 3830 et 3249 (source Mission interministérielle de coordination anti-fraude, Lutte contre la fraude aux finances publiques, résultats 2023, disponible ici).
↑3 La liste exacte des membres est la suivante: les procureurs de la République du département ou leurs représentants, les chefs de services préfectoraux compétents en matière de lutte contre la fraude, la police nationale, la gendarmerie nationale, la direction générale des finances publiques, la direction générale des douanes et droits indirects, les autorités compétentes dans les domaines de la concurrence, consommation et répression des fraudes, le directeur régional des entreprises, de la concurrence, de la consommation, du travail et de l’emploi, le directeur régional de l’environnement, de l’aménagement et du logement ou son représentant, le directeur général de l’agence régionale de santé ou son représentant, les directeurs des organismes locaux de sécurité sociale du régime général et du régime agricole ou leurs représentants, un responsable coordonnateur régional désigné par la Caisse nationale de l’assurance maladie ou son représentant, le directeur régional de Pôle emploi ou son représentant, le responsable du centre de gestion et d’étude AGS territorialement compétent ou son représentant, dûment habilités par la direction nationale de la délégation Union nationale interprofessionnelle pour l’emploi dans l’industrie et le commerce (UNEDIC) Association pour la gestion du régime de garantie des créances des salariés (AGS), dans les départements de la région Ile-de-France, le directeur de la Caisse nationale d’assurance vieillesse ou son représentant, dans les départements des Hauts-de-Seine, de la Seine-Saint-Denis et du Val-de-Marne, un représentant du préfet de police. Voir Arrêté du 25 mars 2010 fixant la composition dans chaquedépartement des CODAF, abrogé en 2020 par l’arrêté du 12 octobre 2020).
↑4 Yannick Herry et Éric Belfayol, 2019, Le comité opérationnel départemental anti-fraude : un outil local efficace contre la fraude aux finances publiques, Gestion et finances publiques. Disponible ici.
↑5 Citations extraites du site de la MICAF, archive disponible ici.
↑6 Délégation Nationale à la Lutte contre la Fraude, Bilan 2018. Disponible ici.
↑7, ↑8, ↑21 Délégation Nationale à la Lutte contre la Fraude, La lettre des CODAF, 2 juillet 2010. Disponible ici.
↑9 Article 11 du code de procédure pénal.
↑10 Conseil constitionnel, décision n° 2017-693 QPC du 2 mars 2018.
↑11 Yannick Herry et Éric Belfayol, 2019, Le comité opérationnel départemental anti-fraude : un outil local efficace contre la fraude aux finances publiques, Gestion et finances publiques. Disponible ici. A l’époque, la MICAF portait le nom de Direction Nationale de Lutte contre la Fraude.
↑12 Voir loi d’orientation et de programmation pour la performance de la sécurité intérieure (LOPSSI), codifiée aux articles L 114-16 et suivants du code de la sécurité sociale.
↑13 Protocole entre la direction générale de la police nationale, de la gendarmerie nationale, de la direction de la sécurité sociale, de la caisse nationale des allocations familiales et la délégation nationale à la lutte contre la fraude, 8 février 2013, disponible ici. Ce document prévoit que la police ou la gendarmerie puissent transmettre « tous renseignements et tous documents » à la CAF, qu’il s’agisse de « procès-verbaux, quel que soit le cadre juridique », de « main-courantes », de « rapports d’enquête ou de rapports administratifs », de « télégrammes » ou « tout autre document officiel ». Ce protocole fait par la suite l’objet d’une déclinaison au niveau départemental. Selon les déclarations du directeur de la MICAF devant une « commission d’enquête relative à la lutte contre les fraudes aux prestations sociales », il était décliné dans une trentaine de départements en 2020.
↑14 Délégation nationale à la Lutte contre la fraude, bilan 2013, disponible ici.
↑15 Délégation Nationale à la lutte contre la fraude, Lettre des CODAF, numéro 17, décembre 2011. Disponible ici.
↑16 Voir à ce sujet l’article de Lucie Inland disponible ici, cet article du Monde et le rapport du Défenseur des Droits « La lutte contre la fraude aux prestations sociales » disponible ici. La fondation pour le logement, le Défenseur des droits et le collectif Changer de Cap ont par ailleurs collecté de nombreux témoignages décrivant la violence vécue par les allocataires lors des contrôles. Difficulté de recours, contrôles répétés, suspension automatique des prestations sociales, intrusion sans précédent dans les moindres recoins de la vie privée. Nous vous invitons à lire l’ensemble de ces témoignages ici).
↑17 Il ne semble pas que la CAF soit tenue de déclencher un contrôle suite à un signalement mais nous ignorons le pourcentage de signalements aboutissant effectivement à un contrôle.
↑18 Les chiffres disponibles sur les taux d’indus sont issus des bilans annuels de lutte contre rédigés par la CNAF. Nous disposons des chiffres pour les années 2012, 2016, 2017, 2018, 2019, 2020.
↑19 CNAF, Bilan 2012 de lutte contre la fraude, disponible ici.
↑20 CNAF, Bilan 2018 Prévention et lutte contre la fraude aux prestations légales, disponible ici.
↑22 Voir par exemple Jean-Michel Floch, Disparités de revenus et ségrégation dans les grands pôles urbains, INSEE, 2016. Disponible ici.
↑23 Voir notamment le dossier « Contrôles d’identité : que dit le droit et comment mettre fin aux contrôles discriminatoires » du Défenseur des Droits, disponible ici ou l’article de Fabien Jobard et Omar Slaouti, Police, justice, Etat : discriminations raciales publié dans Racismes de France, La Découverte, 2020.
↑24 Voir notamment l’article du Monde du 4 décembre 2023 « Dans la vie de Juliette, mère isolée, précaire et cible de l’algorithme des CAF », disponible ici et le livre de Selim Derkaoui, Laisse pas trainer ton fils. Comment l’État criminalise les mères seules, 2025, Les Liens qui libèrent.

3 applis pour le 18 septembre et après

Lors des mobilisations et manifestations, nos smartphones sont des outils cruciaux pour s’organiser. Bien qu’ils soient extrêmement pratiques à bien des égards, ils peuvent aussi devenir dangereux s’ils tombent dans de mauvaises mains ou sont mal utilisés (voir notre article de 2023, toujours d’actualité ). Les informations que nos téléphones contiennent doivent donc être protégées. Voici 3 applications libres et gratuites à découvrir et installer, afin de réduire ces risques autant que possible en amont des mobilisations à venir (ou après !).

Un avertissement toutefois avant de commencer : ne croyez pas que ces 3 applications, ou quelque autre application, peuvent assurer une sécurité parfaite. La sécurité numérique est un sujet complexe, qui dépend avant tout de votre contexte et des menaces auxquelles vous faites face. Voyez-les comme une première étape pour se prémunir de certaines menaces, mais pas comme une assurance totale de votre sécurité. Nous listons en fin d’article des ressources et des guides qui vous permettront d’en apprendre plus sur l’autodéfense numérique.

De manière générale, la meilleure option reste de ne pas avoir son téléphone sur soi lors d’une action. Dans le cas où l’usage d’un téléphone est difficilement évitable, voici quelques recommandations d’applications qui permettent de réduire les risques.

Signal

Signal est une application de messagerie instantanée qui protège vos messages grâce à un chiffrement de bout en bout. C’est-à-dire que le chiffrement des messages est fait sur votre téléphone, et sur les téléphones de vos correspondant·es. Ni Signal, ni aucune autre tierce personne n’a accès aux clés cryptographiques qui permettent de chiffrer / déchiffrer vos messages. Signal ne connaît pas le contenu des messages, et ne sait même pas qui parle à qui. Vous pouvez également protéger l’accès à Signal via un code, à l’aide d’un paramètre dans l’application.

Signal ne semble pas conserver l’adresse IP utilisée pour se connecter. Cette information ne ressort en tout cas pas des rapports de transparence de la fondation qui développe l’application. Il n’est toutefois pas possible d’exclure techniquement que l’adresse IP de connexion soit conservée et rattachable au numéro de téléphone utilisé pour s’inscrire. Signal peut alors être contraint par la police de partager ces données. Si vous avez besoin de cacher à Signal votre adresse IP de connexion, vous pouvez alors utiliser Tor, ou un VPN.

Signal est une application libre, c’est-à-dire que, contrairement à Whatsapp ou d’autres applications commerciales, son fonctionnement est décrit publiquement dans son code source, lisible par tous·tes, ce qui permet à chacun·e de vérifier que le code fait bien ce qu’il dit faire, sans backdoors ou autre fonctionnement caché.

Si vous avez un smartphone avec Android, vous pouvez télécharger Signal depuis F-Droid, un magasin d’applications alternatif qui ne propose que des logiciels libres, en suivant ce tutoriel et en ajoutant le dépôt du Guardian Project, ou bien en téléchargeant directement l’application sur le site de Signal. L’application est également disponible sur le magasin d’applications de Google ou d’Apple.

Duress

Duress vous permet de définir un code de déverrouillage secondaire qui, lorsqu’il est saisi, effacera l’ensemble de votre téléphone. Dans une situation où un tiers chercherait à obtenir des informations sur votre téléphone par la force ou si vous avez besoin d’effacer votre téléphone en urgence, vous n’avez qu’à saisir ce code.

Si vous êtes dans une situation où il y a un risque imminent, vous pouvez alors effacer vos données en utilisant le code de Duress. Attention toutefois : si vous êtes en garde à vue et qu’un officier de police judiciaire (OPJ) vous demande votre code, provoquer l’effacement des données peut conduire à des poursuites.1

Comme Signal, cette application libre et gratuite est disponible sur F-Droid.

Wasted

Wasted fonctionne de manière similaire à Duress, mais peut aussi être activée à distance. Lors du premier lancement, Wasted génère un code secret qui, s’il est reçu par votre téléphone, lancera l’effacement de votre téléphone. Wasted peut aussi mimer une fausse application sur votre téléphone qui, si elle est ouverte, lancera également l’effacement. 

Cette application est très pratique si vous perdez votre téléphone et souhaitez l’effacer à distance, ou s’il est volé et que quelqu’un cherche à fouiller votre téléphone.

Les mêmes avertissements que pour Duress s’appliquent à Wasted : si un Officier de Police Juridicaire vous demande d’accéder à votre téléphone, provoquer la suppression de ses données peut vous faire courir un risque de poursuites.

Comme Signal et Duress, Wasted est une application libre et gratuite disponible sur le store F-Droid.

Bonus : Briar

Briar est une application de messagerie pensée pour les situations où l’accès à Internet n’est plus possible, ou si vous avez besoin d’une sécurité renforcée (par exemple dans des pays autoritaires). Elle ne nécessite aucune information personnelle pour s’inscrire. Elle passera toujours par le réseau Tor pour transmettre les messages afin de garantir votre anonymat, et peut aussi utiliser le Bluetooth si Internet n’est pas disponible ou est censuré.

L’application est elle-aussi disponible sur F-Droid, le magasin d’application de Google, ou directement depuis le site web de Briar.

Attention toutefois : utiliser le réseau Tor permet de cacher les données qui transitent à un tiers qui écouterait la communication, mais cela peut aussi attirer l’attention de la police. Dans certains pays autoritaires qui criminalisent l’usage de Tor ou de VPN, cela peut donc être dangereux. En France, l’utilisation d’un VPN est légitime et parfaitement légal et paraît peu risqué dans un contexte de manifestations. Mais la justice française a déjà reconnu que l’usage de Tor caractérisait un comportement « clandestin » pouvant permettre de condamner des personnes pour association de malfaiteurs à caractère terroriste.

Aller plus loin dans l’autodéfense numérique

Pour avoir une meilleure pratique de la sécurité numérique, accessible à tous·tes, il est intéressant de comprendre le pourquoi et le comment du fonctionnement et des enjeux autour de nos usages. Pour cela, nous vous recommandons plusieurs guides, édités par différentes organisations, qui peuvent vous aider à vous instruire sur le sujet :

  • La bibliographie sur l’autodéfense juridique et numérique compilée par La Coalition Libertés Associatives.

Si vous le souhaitez, vous pouvez rejoindre notre groupe de discussion sur l’autodéfense numérique. Vous aurez besoin d’un compte sur le réseau Matrix, que vous pouvez obtenir, entre autres, en installant l’application Element.

Et les iPhones ? Vous aurez peut-être remarqué que seule l’appli Signal est disponible sur iOS. Malheureusement, Apple a une approche beaucoup trop restrictive qui, à notre connaissance, ne permet pas l’existence d’applications comme Duress ou Wasted.

Et, si vous le pouvez, vous pouvez aussi nous faire un don pour nous permettre de continuer nos combats.

Illustration: 31C3 – Impressions par heipei, sous licence CC BY-SA 2.0.

  1. En 2024, la Cour de justice de l’Union européenne (CJUE) a fortement encadré le droit d’accès aux données d’un téléphone. Toutefois, la portée de cette décision reste incertaine, et il est aujourd’hui possible que ne pas répondre à une demande d’accès aux données du téléphone par un OPJ soit encore sanctionné par les tribunaux en France, malgré l’existence de cette décision de la CJUE. ↩︎

Jeux Olympiques 2030 : vous reprendriez bien un peu de VSA ?

La lutte contre la vidéosurveillance algorithmique (VSA) est une bataille de longue haleine. L’expérimentation officielle, menée au prétexte des Jeux Olympiques, s’est pourtant achevée fin mars et a été émaillée de multiples défaillances. En parallèle, les luttes locales s’intensifient dans les villes où ces logiciels sont déployés illégalement. Le gouvernement veut pourtant remettre une pièce dans la machine. Ainsi, le projet de loi sur les Jeux Olympiques d’hiver 2030 propose de repartir pour un tour d’expérimentation de deux ans. Le texte a déjà été examiné au Sénat et devrait arriver à l’Assemblée Nationale à la rentrée. Une pierre de plus à l’édifice de la surveillance algorithmique de l’espace public…

Surveiller à tout prix

Il y a deux ans déjà, nous luttions contre la loi relative aux Jeux Olympiques de 2024. Elle prévoyait, pour la première fois en Europe, le déploiement de logiciels de reconnaissance de comportements en temps réel dans l’espace public. Adopté au printemps 2023, ce texte a autorisé la police, la gendarmerie et les opérateurs de transports à utiliser les logiciels d’entreprises privées de VSA pendant plus d’un an et bien au-delà des seuls Jeux d’été. Ces algorithmes ont analysé les foules lors de concerts, matchs de foots, fêtes de la musique et autres événements publics au gré des envies des pouvoirs publics. Ce premier round s’est achevé le 31 mars 2025 avec, à la clé, une évaluation officielle qui faisait état des résultats peu probants, pour ne pas dire que la VSA n’avait servi à rien du tout.

Mais le gouvernement, déterminé à imposer la surveillance automatisée et la reconnaissance faciale, ne souhaite pas s’arrêter en si bon chemin. Plutôt que de conclure à l’abandon de ces logiciels, il persiste, espérant que ces systèmes finissent par fonctionner un jour. Au mois de février dernier, le ministre des transports tentait ainsi un coup de force à l’Assemblée en faisant voter un amendement qui prolongeait l’expérimentation jusqu’en 2027 dans une loi qui n’avait rien à voir. Raté ! Le Conseil constitutionnel a estimé qu’il s’agissait d’un cavalier législatif et l’a censuré.

Face à cet obstacle, les promoteurs de la Technopolice se devaient de trouver une manière de revenir à la charge. Et quoi de mieux que de tenter une combine qui a déjà marché ? Les Jeux d’hiver de 2030, qui auront lieu dans les Alpes, sont ainsi apparus comme une parfaite excuse pour légitimer une nouvelle salve d’expérimentations. A l’instar des Jeux de 2024, le gouvernement utilise la dimension exceptionnelle de ce méga-événement sportif pour mettre en oeuvre une politique prétendument expérimentale et donc socialement plus acceptable. Comme le théorise le chercheur Jules Boykoff, les Jeux Olympiques agissent comme un accélérateur de politiques exceptionnelles. Ils prennent appui sur un moment de fête ou de spectacle, par essence « extra-ordinaire », où les règles politiques peuvent être temporairement suspendues, pour faire progresser des politiques qu’ii aurait été impossibles de mettre en place en temps normal.

Minimiser pour mieux forcer

Pour prolonger l’utilisation de la vidéosurveillance algorithmique, le projet de loi déposé par le gouvernement relatif à l’organisation des jeux Olympiques et Paralympiques de 2030 prévoit ainsi un article 35 expéditif : « L’expérimentation mise en œuvre sur le fondement de l’article 10 de la loi [relative aux JO 2024] est reconduite, dans les mêmes conditions, jusqu’au 31 décembre 2027. »

La stratégie mise en oeuvre ici est de prétendre que cette pérennisation serait indolore et presque anodine puisqu’il n’y a aucune modification du cadre légal. Il s’agirait uniquement de prolonger les « petites expériences » de la police. Telle est notamment la position du Conseil d’État. Consulté pour avis, il estime « que la reconduction pure et simple du dispositif, contraignant mais protecteur, auquel il a déjà donné un avis favorable (…) et que le Conseil constitutionnel a expressément reconnu comme conforme à la Constitution (…) répond de manière adéquate au bilan de l’évaluation et permettra, au terme de cette période, de décider de l’abandon ou de la pérennisation de la technique ». Rappelons que le choix de poursuivre ou non devait initialement être fait en 2025 et qu’avec cette logique, il serait possible « d’expérimenter » à l’infini.

La CNIL, elle, n’a même pas été sollicitée pour avis, ce qui illustre une nouvelle fois le peu d’égard que lui accorde le gouvernement. Pourtant, si la loi était votée en l’état, des dizaines et dizaines d’utilisations de la VSA, voire des centaines, pourraient être mises en oeuvre dans les rues de France, d’ici à la fin de l’année 2027. La loi de 2023 permet en effet que cette technologie de surveillance de masse puisse être utilisée pour tout événement récréatif, sportif ou culturel, sur simple autorisation d’un préfet. Lors du passage du texte au Sénat, les parlementaires ont d’ores et déjà étendu le périmètre des personnes pouvant utiliser le dispositif de VSA aux simples agents municipaux chargés du visionnage des images de surveillance, donc potentiellement à toutes les villes de France équipées de caméras.

De plus, si le cadre juridique de 2023 limitait le déploiement d’algorithmes à huit cas d’usage, les volontés d’étendre l’expérimentation à davantage de situations est sur toutes les lèvres des promoteurs de la VSA, et ce depuis plusieurs mois. Or, plutôt que de modifier la loi, Julie Mercier, directrice du comité de pilotage et de la DEPSA (direction des entreprises et partenariats de sécurité et des armes), chargée de piloter l’expérimentation au sein du ministère de l’intérieur, assumait récemment dans une interview au média spécialisé AEF vouloir « déverrouiller » le sujet dans la loi JOP 2030. Elle précise, concernant les cas d’usages, vouloir « regagner de la souplesse à travers les décrets ». En d’autres termes, il s’agirait d’étendre le périmètre de l’expérimentation par des actes administratifs du gouvernement, en dehors de tout débat parlementaire et de tout contrôle démocratique. Un tel élargissement du dispositif pourrait par exemple inclure la recherche et le suivi de personnes, comme cela est demandé par la SNCF et la RATP dans le rapport d’évaluation ou bien la reconnaissance de banderoles militantes tel que suggérée par le député LR Eric Pauget. On peut aussi s’attendre à ce que les récentes annonces de Bruno Retailleau et Gérald Darmanin concernant la reconnaissance faciale en temps réel soient poussées par voie d’amendement au cours de l’examen du projet de loi.

L’hypocrisie comme moteur

Il faut le rappeler : la vidéosurveillance algorithmique s’assimile à une surveillance de masse automatisée de l’espace public et à ce titre est totalement inacceptable. De plus, ces logiciels sont déployés de façon illégale dans de nombreuses villes de France, comme à Lille ou Saint-Denis, et le gouvernement lui-même l’a déployée de manière totalement illégale ces dernières années.

Obsédé par l’objectif d’une légalisation de cette technologie, souhaitant conforter les industriels du secteur de la surveillance qui fournissent les algorithmes, le gouvernement enchaîne les justifications grossières pour mieux imposer la VSA. Pour les Jeux Olympiques de 2024, les mouvements de foule étaient brandis comme le prétexte ultime pour s’équiper de ces logiciels. Après les Jeux, l’inutilité et l’inefficacité de la VSA ont été écartés d’un revers de main, avec l’excuse selon laquelle leur intérêt était de toute façon mineur compte tenu du grand nombre de policiers sur le terrain. Désormais, pour l’édition de 2030, la ministre des sports Marie Barsacq explique très sérieusement que « là, on va être dans les territoires de montagnes. On n’aura pas autant de forces de l’ordre […] donc, la vidéo algorithmique pourra être beaucoup plus pertinente ». Sachant que l’expérimentation est prévue jusqu’en 2027 pour un évènement qui se tiendra en 2030… Logique on vous a dit !

On pourrait se moquer du ridicule de ce texte et de ces stratégies si seulement la composition de l’Assemblée nationale ne rendait pas très probable l’adoption du texte. Dominée par l’extrême droite, obnubilée par les thèmes sécuritaires, il y a fort à parier que l’Assemblée laisse passer cet article sans encombre.

Nous scruterons donc attentivement les avancées et débats dès que ce texte sera débattu dans l’hémycicle de l’Assemblée nationale à la rentrée. En attendant, nous devons continuer à faire valoir le refus populaire de ce projet de société. Cela passe notamment par l’échelon local : il ne faut pas lâcher les combats au niveau des villes et des villages contre les projets mortifères de vidéosurveillance, en particulier dans le contexte des élections municipales de 2026. Pour vous y aider n’hésitez pas à consulter notre brochure et nos ressources sur notre page de campagne.

Aussi, pour soutenir ce travail vous pouvez nous faire un don !

La loi Narcotrafic devant le Conseil constitutionnel

Au milieu de l’hiver, la loi Narcotrafic est arrivée à toute vitesse et, avec elle, ont déferlé des propositions sécuritaires et de surveillance qui dépassaient largement la question du trafic de stupéfiants. Avec vous, nous avons mené campagne pour alerter sur les risques de ce texte. Son examen au Parlement est désormais terminé et nous avons envoyé nos arguments au Conseil constitutionnel pour le convaincre de censurer ces dispositions dangereuses et révoltantes. Sa décision sera rendue cette semaine.

Il s’agit de l’ultime étape du processus législatif. Saisi par les députés insoumis, écologistes et socialistes, le Conseil constitutionnel doit désormais analyser si un certain nombre de mesures de la loi « Narcotrafic » sont conformes aux principes constitutionnels. De la même manière que nous avons alerté les député·es de l’inconstitutionnalité de certaines mesures lors des débats parlementaires, nous avons envoyé au Conseil constitutionnel nos critiques en ce qui concerne les dispositifs de surveillance contenus dans la loi (la contribution est accessible ici).

Des cadeaux pour le renseignement

Nous dénonçons d’abord l’extension des pouvoirs des services de renseignement. D’une part, la loi supprime l’obligation pour les services d’obtenir une autorisation explicite du Premier ministre et de la Commission nationale de contrôle des techniques de renseignement (CNCTR) avant la transmission d’informations entre les différents services (article 1er). De ce fait, ils pourraient s’échanger beaucoup plus facilement des informations récoltées dans des contextes différents et pour des finalités différentes. D’autre part, l’échange d’information avec la justice est également assoupli (article 13), en totale contradiction avec le principe de séparation des pouvoirs, qui devrait impliquer que les services de renseignements n’ont pas à recevoir des éléments liés à des enquêtes. En effet, ils ne sont pas une autorité judiciaire et n’ont aucune compétence de répression pénale. Le mélange des genres est donc complet.

Surtout, les services de renseignement pourraient demain utiliser plus largement ce que l’on appelle les « boites noires » (article 15), ces algorithmes qui analysent un réseau pour trouver des comportements de connexion qui seraient « suspects ». Ces boites noires constituent, depuis leur création en 2015, de la surveillance de masse. Elles peuvent notamment cibler les personnes protégeant leur vie privée : lors des débats, le député Sacha Houlié, membre de la Délégation parlementaire au renseignement (DPR) et qui a ainsi accès à plus d’informations que ses collègues sur le fonctionnement précis des services de renseignement, expliquait que les personnes faisant attention à leur « hygiène numérique » sont la cible de ces boites noires. Le député mentionnait ainsi les personnes utilisant des « messageries cryptées » comme « Whatsapp » ou « Signal », et on suppose que ces boites noires visent également les internautes utilisant un VPN ou Tor.

Après avoir été autorisées pour la lutte contre le terrorisme puis contre les ingérences étrangères, ces boites noites pourraient, si la loi passait le filtre constitutionnel, alors être installées pour la lutte contre la « criminalité et la délinquance organisée », soit un périmètre très large. De plus, depuis une modification de 2021, ces algorithmes analysent également les adresses URL des sites consultés sur un réseau, ce qui peut donner accès à des informations très précises sur les contenus consultés. Nous avons donc rappelé au Conseil constitutionnel que cette technique de surveillance porte une atteinte disproportionnée au droit à la vie privée, à la liberté d’expression et au secret des correspondances.

De nouveaux outils de surveillance pour la police et l’administration

Loin de se limiter aux seuls services de renseignement, la loi « Narcotrafic » dote aussi la police judiciaire de nouveaux pouvoirs de surveillance extrêmement intrusifs, dès lors qu’une affaire serait liée à la criminalité organisée. Nous avons rappelé à de nombreuses reprises que ce régime juridique d’exception, qui ne peut, en principe, être mobilisé que pour les seules enquêtes portant sur des faits très graves, est en réalité utilisé de façon très large, loin de se limiter au « haut du spectre » (pour reprendre une expression abondamment utilisée par les défenseurs de ce système) et qui, déjà aujourd’hui, fait l’objet d’utilisations abusives, notamment pour poursuivre des militant·es.

Ainsi, la police pourrait, pour certaines infractions, activer à distance les micros et caméras des objets connectés (articles 38 et 39), en compromettant les appareils grâce à des failles de sécurité. Nous n’avons pas manqué de rappeler au Conseil constitutionnel qu’il a déjà déclaré ce dispositif inconstitutionnel en raison de l’atteinte disproportionnée au droit au respect de la vie privée. Aussi, la loi introduit une nouvelle procédure dénommée « dossier-coffre », ou « procès-verbal distinct », consistant à ne pas verser au dossier pénal certains actes de procédure relatifs à des mesures de surveillance (article 40). Dénoncée par les avocat·es et les magistrat·es, cette mesure porte atteinte au principe du contradictoire et au procès équitable car elle empêche les personnes de pouvoir se défendre, faute de pouvoir savoir comment cette surveillance dissimulée s’est concrètement faite et si les exigences légales ont bien été respectées.

De son coté, l’administration n’est pas en reste sur l’extension de ses pouvoirs. Les enquêtes administratives de sécurité, qui conditionnent l’accès à certains emplois, pourraient être très largement étendues à tout emploi public et privé lié à des menaces de corruption (article 54). Ces enquêtes impliquent la consultation de nombreux fichiers de police et de renseignement et reposent sur des critères opaques. Elles ont pourtant des conséquences bien concrètes puisque, pendant les Jeux Olympiques, elles ont conduit à empêcher certaines personnes perçues comme militantes par les autorités de travailler. Nous avons expliqué au Conseil constitutionnel en quoi ces discriminations fondées sur les opinions politiques portent atteinte au principe d’égalité.

Par ailleurs, la plateforme Pharos, chargée d’exiger des plateformes en ligne qu’elles censurent des contenus, aura de nouvelles compétences puisqu’elle pourra agir contre les contenus relatifs à la cession de stupéfiants (article 28). Depuis des années, nous critiquons le principe de cette censure administrative, qui permet à la police de décider elle-même de retirer un contenu sans qu’un juge n’intervienne, laissant la possibilité de multiples abus.

Une nouvelle escalade sécuritaire

Nous avons également attiré l’attention du Conseil constutionnel sur l’obligation radicalement disproportionnée faite aux opérateurs de communication électronique de conserver pendant cinq années l’identité civile de toute personne achetant des cartes SIM prépayées (article 29). Non seulement il s’agirait d’une nouvelle forme de contrôle de l’expression en ligne, mais la loi est tellement mal rédigée que ce sont tous les services de communication en ligne (notamment les messageries) qui pourraient être concernés par cette obligation de contrôle d’identité à partir du moment où certaines fonctionnalités sont payantes (comme c’est par exemple le cas pour Olvid, la messagerie plébiscitée par les macronistes).

Enfin, nous avons longuement expliqué que l’extension de l’utilisation des drones en prison (article 56) viole la Constitution, pour trois raisons. Premièrement le législateur a violé le principe de séparation des pouvoirs en confiant à l’administration pénitentiaire un pouvoir de répression pénale constitutionnellement réservé à l’autorité judiciaire. Deuxièmement, cette surveillance par drones mise en œuvre par l’administration n’est ni nécessaire ni proportionnée au regard des très nombreux dispositifs déjà existants pour surveiller les prisons. Et, troisièmement, cette nouvelle autorisation de drones prévoit qu’ils puissent être utilisés sans aucune information, publicité ou transparence, rendant impossible la moindre contestation en justice, déjà en pratique extrêmement compliquée.

Malheureusement, la loi Narcotrafic contient d’autres mesures répressives qui repoussent toujours plus loin les limites du droit et généralisent l’exception, telle que l’extension de la durée de garde à vue pour les « mules » ou les personnes arrêtées avec des substances stupéfiantes dans le sang, l’interdiction administrative de paraître dans certains quartiers, la facilitation de l’expulsion de logements, la création de la notion vague d’« organisation criminelle »… D’autres organisations ont dénoncé ces nombreux risques pour les libertés.

Si nous n’avons que des espoirs mesurés dans la future décision du Conseil constitutionnel, nous regardons aussi les prochains combats à venir. En effet, si l’obligation de mettre en place une porte dérobée au sein des messageries chiffrées a bel et bien été retirée du texte, le président de la commission des lois, Florent Boudié, a annoncé vouloir remettre le sujet sur la table. En parallèle, les ministres Gerald Darmanin et Bruno Retailleau ont brandi la criminalité organisée et le « narcotrafic » comme excuse pour rendre acceptable une potentielle légalisation de la reconnaissance faciale en temps réel mais aussi justifier la confiscation extrajudiciaire des téléphones.

Quoi qu’il arrive, nous continuerons d’agir et dénoncer cette escalade vers un État de surveillance de plus en plus généralisée. Pour nous aider dans cette lutte, n’hésitez pas à faire un don !

France Travail : des robots pour contrôler les chômeurs·euses et les personnes au RSA

France Travail déploie actuellement des robots visant à automatiser et massifier le contrôle des personnes inscrites à France Travail. Depuis le 1 janvier 2025, cela inclut également les personnes au RSA. Il s’agit d’une nouvelle étape du dangereux projet de gestion algorithmique des personnes sans-emplois, porté par le directeur général de France Travail, Thibaut Guilluy. Retour sur le contexte de cette mise en place et ses implications sociales.

Sous l’impulsion d’Emmanuel Macron, les contrôles réalisés par France Travail sont passés de moins de 200 000 en 2017 à plus de 600 000 en 2024. Il y a tout juste un an, l’exécutif surenchérissait et fixait à l’institution un objectif de 1,5 million de contrôles en 20271Pour les chiffres de 2017, voir l’étude de Pôle Emploi « Le contrôle de la recherche d’emploi : l’impact sur le parcours des demandeurs d’emploi » disponible ici. Pour 2024, voir « Bilan du Contrôle de la recherche d’emploi » disponible ici. Pour les annonces d’Emmanuel Macron dès son arrivée au pouvoir voir cet article de 2017 et cet article de 2021. L’objectif de 1,5 million a été annnoncé par Gabriel Attal en 2024, voir cet article..

Parallèlement était votée, en décembre 2023, la loi dite « Plein Emploi », entrée en vigueur le 1er janvier dernier. Cette dernière vient modifier en profondeur les modalités du contrôle des personnes sans-emplois via deux mesures phares. La première est l’extension du pouvoir de contrôle et de sanctions des personnes au RSA par France Travail. La seconde concerne l’obligation pour toute personne suivie par France Travail – qu’elle soit au RSA ou au chômage – de réaliser 15 « heures d’activité » hebdomadaires sous peine de sanctions.

C’est dans ce contexte que France Travail déploie actuellement une refonte de son processus de contrôle. Dénommée « Contrôle de la Recherche d’Emploi rénové » (ou « CRE rénové »), elle vise tant à « arriver à mettre en oeuvre 1,5 million de contrôles […] à l’horizon 2027 » qu’à prendre en compte les « évolutions introduites par la loi “Plein Emploi” »2« Information en vue d’une consultation sur le contrôle de la recherche d’emploi rénové », Comité Social d’Entreprise Central des 9 et 10 octobre 2024, disponible ici..

Automatisation et massification des contrôles

Pour atteindre l’objectif de massification des contrôles, France Travail mise sur l’automatisation3A noter que le CRE rénové s’accompagne aussi d’une réduction des droits des personnes contrôlées afin de réduire le temps nécessaire à un contrôle. Il s’agit de mettre en place une procédure « flash » permettant de faire « l’économie de l’entretien téléphonique » et/ou de l’envoi d’un formulaire à la personne contrôlée, deux choses qui étaient systématiques jusqu’alors lors d’un CRE. En cas d’« avertissement avant sanction », la personne contrôlée disposera de 10 jours pour justifier de sa situation. Voir « Information sur le pilote du contrôle de la recherche d’emploi (CRE) rénové », Comité Social d’Entreprise Central des 13 et 14 mars 2024, disponible ici.. Début 2025, ses dirigeant·es ont ainsi annoncé que le « CRE rénové » s’accompagnerait du déploiement de « robot[s] d’aide à l’analyse du dossier » destinés à assister la personne en charge du contrôle. L’objectif affiché est de réaliser des « gains de productivité » permettant de réduire la durée d’un contrôle pour pouvoir alors les multiplier à moindre coût4« Information sur le pilote du contrôle de la recherche d’emploi (CRE) rénové », Comité Social d’Entreprise Central (CSEC) des 13 et 14 mars 2024, disponible ici..

Pour ce faire, ces « robots » ont pour tâche de classer les personnes ayant été sélectionnées pour un contrôle selon différents degrés de « suspicion »5La sélection des personnes relève d’un autre traitement algorithmique. Elles sont le fruit de requêtes ciblées (métiers en tensions…) et aléatoires, de signalements agence ou encore d’« alertes automatiques » incluant désormais certains des flux provenant de la « gestion de la liste ». Voir le document « Information sur le pilote du contrôle de la recherche d’emploi (CRE) rénové », Comité Social d’Entreprise Central des 13 et 14 mars 2024, disponible ici. afin de guider le travail du contrôleur ou de la contrôleuse. Concrètement, ils réalisent un profilage algorithmique de la personne contrôlée sur la base de l’analyse des données personnelles détenues par France Travail.

Ce profilage prend la forme d’une classification en trois niveaux : « clôture » (pas de suspicion), « clôture potentielle » (suspicion moyenne) ou « contrôle potentiel » (suspicion forte)6Ces informations se basent sur des discussions avec des équipes de France Travail ayant eu accès aux résultats des profilages réalisés par les robots. Notons aussi l’existence d’une catégorie « erreur » pour les dossiers n’ayant pas pu être traités par l’algorithme.. Ce résultat est alors transmis, en amont du contrôle, au contrôleur ou à la contrôleuse afin de l’inciter à se concentrer sur les dossiers considérés comme suspects par l’algorithme, tout en clôturant rapidement le contrôle pour les autres.

France Travail se réfugie dans l’opacité

À travers notre campagne France Contrôle, nous avons déjà parlé de la Caisse nationale des allocations familiales (CNAF), la première à se lancer dans ce contrôle algorithmique des populations. Le fait qu’elle soit rejointe par France Travail démontre une fois de plus pourquoi il est fondamental de s’opposer, par principe, à l’usage d’algorithmes de profilage à des fins de contrôle. Mais également d’exiger la transparence autour du fonctionnement de ces algorithmes, afin de mieux pouvoir les combattre tant politiquement que juridiquement.

Dans le cas présent, cette transparence est d’autant plus importante que l’objectif d’un contrôle de la recherche d’emploi – « une appréciation globale des manquements [de la personne contrôlée] afin de sanctionner un comportement général »7« Information sur le pilote du contrôle de la recherche d’emploi (CRE) rénové », Comité Social d’Entreprise Central des 13 et 14 mars 2024, disponible ici. – est très flou et propice à l’arbitraire. L’analyse du code de l’algorithme pourrait aussi appuyer un combat juridique, tel que l’actuel contentieux contre la CNAF.

Mais sur le sujet des « robots » de contrôle – comme sur beaucoup d’autres8Une grande partie de nos demandes d’accès aux documents administratifs restent sans réponse. Nous reviendrons sur ce point dans un article dédié. – la direction de France Travail se refuse à toute transparence. Son directeur est allé jusqu’à déclarer à la Commission d’accès aux documents administratifs (CADA) « qu’aucun algorithme n’est utilisé dans le cadre du « CRE rénové » […] » suite à la saisine déposée par des journalistes de Cash Investigation ayant travaillé sur ce sujet9L’avis de la CADA citant le directeur de France Travail est disponible ici..

Un profilage policier

En l’absence de transparence sur le fonctionnement de ces « robots », nous ne pouvons qu’avancer quelques hypothèses sur le fonctionnement du profilage algorithmique. Côté technique, la direction de France Travail a déclaré que le « robot » n’était pas basé sur de l’intelligence artificielle, sans toutefois exclure qu’il puisse l’être à l’avenir10Propos tenus lors du CSEC de France Travail du 22 novembre 2024.. En conséquence, le profilage serait le résultat d’opérations algorithmiques simples issues de la combinaison de différents critères construits à partir des données personnelles détenues par France Travail11On pense assez naturellement à un algorithme du type « arbre de décision »..

Quant à la nature de ces critères, des pistes sont données par un document distribué aux équipes de contrôle de France Travail il y a quelques mois. Assumant pleinement un discours policier, la direction de France Travail y présente une « grille d’analyse » venant préciser le « niveau d’importance » de différents « indices » permettant de caractériser les « manquements » des personnes contrôlées.

Parmi ces éléments, notons notamment l’absence de périodes récentes de travail ou de formation, l’absence de mobilisation des outils numériques mis à disposition par France Travail (offres, CV ou carte de visite en ligne), l’absence de contact avec son ou sa conseiller·ère, les résultats des derniers contrôles de recherche d’emploi, l’absence de candidatures envoyées via le site de France Travail ou encore le non-respect des 15 « heures d’activité » prévue par la loi « Plein Emploi ».

Tout indique que ce travail de rationalisation du processus de contrôle aurait servi de base à la construction du « robot » lui-même. En effet, en plus du résultat du profilage, le « robot » fait remonter au contrôleur ou à la contrôleuse une liste d’éléments issus de cette grille. Ces remontées permettent alors à la personne en charge du contrôle d’apprécier la décision de classification du « robot », sans pour autant qu’il ou elle ait accès à ses règles de fonctionnement précises.

Automatisation et violence institutionnelle

Le déploiement d’algorithmes de profilage à des fins de contrôle participe activement à la politique de répression et à la paupérisation des personnes sans-emplois. La massification des contrôles à laquelle contribue ce processus d’automatisation entraîne mécaniquement une hausse du nombre de sanctions et de pertes de droits associé·es.

Ainsi, d’après les documents de France Travail, 17% en moyenne des contrôles aboutissent à une radiation12Voir le tableau 1 du document Le contrôle de la recherche d’emploi en 2023, France Travail, disponible ici. A noter que ce chiffre est passé à 20% dans les régions ayant expérimentées le CRE rénové avant sa généralisation. Voir la slide 15 de ce document présenté en Comité Social et Economique Central de France Travail le 9 octobre 2024.. Dans l’hypothèse où ce taux resterait constant, l’augmentation de 500 000 à 1,5 million de contrôles par an implique que le nombre de radiations associées passerait d’environ 85 000 aujourd’hui à 255 000 en 202713A noter ici que l’effet de la loi « plein emploi » sur le nombre total de radiations n’est pas clair. En effet, une partie de la « gestion de la liste » – situations entraînant auparavant une radiation automatique tel que l’absence à un rendez-vous ou l’absence à formation – est transférée au CRE. Pour des statistiques sur les radiations et les sorties des personnes inscrites à France Travail est disponible ici sur le site de la DARES.. Ajoutons que l’impact des contrôles n’est pas le même pour toutes et tous : d’après les chiffres disponibles, les personnes n’ayant pas le bac ou étant au RSA sont sur-représentées parmi les personnes radiées suite à un contrôle14Voir Le contrôle de la recherche d’emploi en 2023, France Travail, tableau 2, disponible ici. Voir aussi le tableau 1 de l’étude « Le contrôle de la recherche d’emploi: l’impact sur le parcours des demandeurs d’emploi », Pôle Emploi, 2018.. L’automatisation des contrôles est donc une manière d’écarter les plus précaires de France Travail.

Notons enfin, comme le rappellent cinq chercheurs et chercheuses dans le livre Chômeurs, vos papiers !15C. Vives, L. Sigalo Santos, J.-M Pillon, V. Dubois et H. Clouet, « Chômeurs, vos papiers ! », 2023. Cet essai revient sur les aspects historiques, politiques et sociologiques du contrôle dans les politiques publiques de l’emploi. Concernant l’impact des contrôles, notons l’étude « Le contrôle de la recherche d’emploi : l’impact sur le parcours des demandeurs d’emploi » publiée par Pôle Emploi en 2018, qui ne permet pas de conclure, tels que les résultats sont présentés, à un quelconque impact statistiquement significatif du contrôle., qu’aucun travail scientifique ne vient valider le récit mis en avant par nos dirigeant·es selon lequel les contrôles favoriseraient la reprise d’emploi. Cette hypocrisie politique n’a pour fondement qu’une vision stigmatisante et infantilisante des personnes sans-emplois, visant à nier toute responsabilité collective vis-à-vis du chômage de masse et à le réduire à une problématique individuelle.

À l’inverse, ajoutent les auteurs·ices, les effets négatifs des contrôles sont largement documentés. En plaçant les personnes contrôlées dans une situation humiliante – « où au stigmate de l’assisté s’ajoute celui du tricheur »16V. Dubois, « Contrôler les assistés », Chapitre 10. Voir aussi l’article de Lucie Inland disponible ici, cet article du Monde et le rapport du Défenseur des Droits « La lutte contre la fraude aux prestations sociales » disponible ici. La Fondation pour le logement des défavorisés, le Défenseur des droits et le collectif Changer de Cap ont par ailleurs collecté de nombreux témoignages décrivant la violence vécue par les allocataires lors des contrôles. Difficultés de recours, contrôles répétés, suspension automatique des prestations sociales, intrusion humiliante dans les moindres recoins de la vie privée. Nous vous invitons à lire l’ensemble de ces témoignages disponibles ici. – s’accompagnant de lourdes démarches de justification, ils induisent un effet dissuasif vis-à-vis de l’accès aux droits. En retour, ils contribuent à l’augmentation du non-recours, dont le taux est estimé à plus de 25% pour l’assurance chômage et à 30% pour le RSA17C. Hentzgen, C. Pariset, K. Savary, E.Limon, « Quantifier le non-recours à l’assurance chômage », Direction de l’Animation de la recherche, des Études et des Statistiques, 2022, disponible ici. Céline Marc, Mickaël Portela, Cyrine Hannafi, Rémi Le Gall , Antoine Rode et Stéphanie, Laguérodie « Quantifier le non-recours aux minima sociaux en Europe », 2022, disponible ici.. À ceci s’ajoute le fait qu’il plonge dans la précarité celles et ceux contraints·es à accepter des postes pénibles, sous-payés et précaires.

Loi « Plein Emploi » : des contrôles aux effets démultipliés

Tout ceci est d’autant plus inquiétant à l’heure où entre en vigueur la loi « Plein Emploi », qui vient renforcer l’impact et le champ des contrôles réalisés par France Travail.

En premier lieu via l’instauration d’une obligation de 15 « heures d’activité » pour toute personne sans-emploi18Le nombre « d’heures d’activités hebdomadaires » à réaliser peut être diminué en fonction des difficultés personnelles (handicap, parent isolé…). Voir l’article 2 de la loi pour le « Plein Emploi ».. À la violence qu’elle entraîne en termes de niveau de contrôle et d’intrusion dans la vie privée des personnes contrôlées, cette mesure conjugue une contrainte administrative extrêmement lourde de par la difficulté que chacun·e aura pour justifier ces heures. Elle vient ainsi considérablement renforcer l’arbitraire des contrôles et, de fait, les pouvoirs de répression de France Travail. Si la difficulté qu’il y aura à (faire) respecter cette mesure pourrait la faire paraître presque illusoire, notons cependant que France Travail développe déjà un agenda partagé entre personne sans-emploi et conseiller·ère, c’est-à-dire un outil numérique dédié au contrôle de ces « heures d’activité ».

En second lieu, parce que la loi « Plein Emploi » vient étendre les prérogatives de contrôle de France Travail sur les personnes au RSA19L’obligation d’inscription concerne aussi les personnes en situation de handicap suivies par Cap Emploi et les « jeunes » accompagnés par une mission locale ayant conclu un « Parcours contractualisé d’accompagnement vers l’emploi et l’autonomie » ou un « contrat d’engagement jeune ». Voir l’article 1 de la loi pour le « Plein Emploi ».. Jusqu’alors, les sanctions relatives au RSA relevaient de la compétence du département et le retrait de son bénéfice nécessitait le passage devant une commission pluridisciplinaire dédiée. Via les « suspensions-remobilisations »20L’article 3 de la loi pour le « Plein Emploi » prévoit notamment la possibilité pour un département de déléguer le « prononcé des mesures de suspension du versement du RSA » pour les personnes dont France Travail est l’organisme référent. L’article 2 de la même loi une coopération accrue entre France Travail. Il précise aussi que France Travail est en charge du contrôle du « Contrat d’Engagement » des personnes au RSA dont il est l’organisme référent et qu’il peut proposer au Conseil Départemental des sanctions (suspension/radiation) concernant le versement du RSA. Des précisions seront apportées par décret dont une version préliminaire a fuité dans la presse., la loi « Plein Emploi » a désormais introduit la possibilité pour les départements de déléguer à France Travail la compétence de suspension du RSA. Dans ce cas, France Travail pourra suspendre le RSA d’une personne à la suite d’un contrôle de manière unilatérale et sans que l’avis d’une commission de contrôle de la suspension soit nécessaire.

Face au contrôle algorithmique, lutter

À l’heure où nous écrivons ces lignes, la contestation monte de toute part contre le renforcement des contrôles à France Travail.

Du Défenseur des Droits à la Commission nationale consultative des droits de l’Homme (CNCDH), en passant par le Conseil national des politiques de lutte contre la pauvreté et l’exclusion (CNLE), l’ensemble des institutions de lutte contre la pauvreté critiquent vertement la loi « Plein Emploi » et ses velléités autoritaires21Voir notamment la déclaration de la CNCDH, l’avis du CNLE et cette étude publiée par le Secours Catholique, Aequitaz et ATD Quart Monde..

De leur côté les associations de lutte contre la précarité se regroupent et dénoncent une réforme « inhumaine, injuste et inefficace », tandis que sur le terrain, les premier·ères concernées s’organisent. En Bretagne, le Conseil départemental du Finistère a ainsi été occupé par des personnes réunies en « Assemblée Générale contre la réforme du Rsa-france-travail »22Voir notamment cet appel et cet article sur leur action au conseil départemental du Finistère. Vous pouvez les contacter à l’adresse ag-rsa-francetravail-brest chez riseup.net..

Devant la multiplication des oppositions et la diversité des modes d’actions, nous appelons toutes celles et ceux qui refusent la destruction de notre système de protection sociale et la violence des politiques néo-libérales dont elle s’inspire à s’organiser et à rejoindre ces luttes de la manière qui leur convient le mieux.

De notre côté, nous tâcherons d’y contribuer à travers la documentation de cette infrastructure numérique de surveillance que les dirigeant·es de France Travail mettent en place dans le cadre de la loi « Plein Emploi ». Nous appelons par ailleurs les personnes ayant connaissance des critères utilisés par les robots de contrôle à nous contacter à algos@laquadrature.net ou à déposer des documents de manière anonyme sur notre SecureDrop (voir notre page d’aide ici). Si vous le pouvez, vous pouvez nous aider en nous faisant un don.

References[+]

References
↑1 Pour les chiffres de 2017, voir l’étude de Pôle Emploi « Le contrôle de la recherche d’emploi : l’impact sur le parcours des demandeurs d’emploi » disponible ici. Pour 2024, voir « Bilan du Contrôle de la recherche d’emploi » disponible ici. Pour les annonces d’Emmanuel Macron dès son arrivée au pouvoir voir cet article de 2017 et cet article de 2021. L’objectif de 1,5 million a été annnoncé par Gabriel Attal en 2024, voir cet article.
↑2 « Information en vue d’une consultation sur le contrôle de la recherche d’emploi rénové », Comité Social d’Entreprise Central des 9 et 10 octobre 2024, disponible ici.
↑3 A noter que le CRE rénové s’accompagne aussi d’une réduction des droits des personnes contrôlées afin de réduire le temps nécessaire à un contrôle. Il s’agit de mettre en place une procédure « flash » permettant de faire « l’économie de l’entretien téléphonique » et/ou de l’envoi d’un formulaire à la personne contrôlée, deux choses qui étaient systématiques jusqu’alors lors d’un CRE. En cas d’« avertissement avant sanction », la personne contrôlée disposera de 10 jours pour justifier de sa situation. Voir « Information sur le pilote du contrôle de la recherche d’emploi (CRE) rénové », Comité Social d’Entreprise Central des 13 et 14 mars 2024, disponible ici.
↑4 « Information sur le pilote du contrôle de la recherche d’emploi (CRE) rénové », Comité Social d’Entreprise Central (CSEC) des 13 et 14 mars 2024, disponible ici.
↑5 La sélection des personnes relève d’un autre traitement algorithmique. Elles sont le fruit de requêtes ciblées (métiers en tensions…) et aléatoires, de signalements agence ou encore d’« alertes automatiques » incluant désormais certains des flux provenant de la « gestion de la liste ». Voir le document « Information sur le pilote du contrôle de la recherche d’emploi (CRE) rénové », Comité Social d’Entreprise Central des 13 et 14 mars 2024, disponible ici.
↑6 Ces informations se basent sur des discussions avec des équipes de France Travail ayant eu accès aux résultats des profilages réalisés par les robots. Notons aussi l’existence d’une catégorie « erreur » pour les dossiers n’ayant pas pu être traités par l’algorithme.
↑7 « Information sur le pilote du contrôle de la recherche d’emploi (CRE) rénové », Comité Social d’Entreprise Central des 13 et 14 mars 2024, disponible ici.
↑8 Une grande partie de nos demandes d’accès aux documents administratifs restent sans réponse. Nous reviendrons sur ce point dans un article dédié.
↑9 L’avis de la CADA citant le directeur de France Travail est disponible ici.
↑10 Propos tenus lors du CSEC de France Travail du 22 novembre 2024.
↑11 On pense assez naturellement à un algorithme du type « arbre de décision ».
↑12 Voir le tableau 1 du document Le contrôle de la recherche d’emploi en 2023, France Travail, disponible ici. A noter que ce chiffre est passé à 20% dans les régions ayant expérimentées le CRE rénové avant sa généralisation. Voir la slide 15 de ce document présenté en Comité Social et Economique Central de France Travail le 9 octobre 2024.
↑13 A noter ici que l’effet de la loi « plein emploi » sur le nombre total de radiations n’est pas clair. En effet, une partie de la « gestion de la liste » – situations entraînant auparavant une radiation automatique tel que l’absence à un rendez-vous ou l’absence à formation – est transférée au CRE. Pour des statistiques sur les radiations et les sorties des personnes inscrites à France Travail est disponible ici sur le site de la DARES.
↑14 Voir Le contrôle de la recherche d’emploi en 2023, France Travail, tableau 2, disponible ici. Voir aussi le tableau 1 de l’étude « Le contrôle de la recherche d’emploi: l’impact sur le parcours des demandeurs d’emploi », Pôle Emploi, 2018.
↑15 C. Vives, L. Sigalo Santos, J.-M Pillon, V. Dubois et H. Clouet, « Chômeurs, vos papiers ! », 2023. Cet essai revient sur les aspects historiques, politiques et sociologiques du contrôle dans les politiques publiques de l’emploi. Concernant l’impact des contrôles, notons l’étude « Le contrôle de la recherche d’emploi : l’impact sur le parcours des demandeurs d’emploi » publiée par Pôle Emploi en 2018, qui ne permet pas de conclure, tels que les résultats sont présentés, à un quelconque impact statistiquement significatif du contrôle.
↑16 V. Dubois, « Contrôler les assistés », Chapitre 10. Voir aussi l’article de Lucie Inland disponible ici, cet article du Monde et le rapport du Défenseur des Droits « La lutte contre la fraude aux prestations sociales » disponible ici. La Fondation pour le logement des défavorisés, le Défenseur des droits et le collectif Changer de Cap ont par ailleurs collecté de nombreux témoignages décrivant la violence vécue par les allocataires lors des contrôles. Difficultés de recours, contrôles répétés, suspension automatique des prestations sociales, intrusion humiliante dans les moindres recoins de la vie privée. Nous vous invitons à lire l’ensemble de ces témoignages disponibles ici.
↑17 C. Hentzgen, C. Pariset, K. Savary, E.Limon, « Quantifier le non-recours à l’assurance chômage », Direction de l’Animation de la recherche, des Études et des Statistiques, 2022, disponible ici. Céline Marc, Mickaël Portela, Cyrine Hannafi, Rémi Le Gall , Antoine Rode et Stéphanie, Laguérodie « Quantifier le non-recours aux minima sociaux en Europe », 2022, disponible ici.
↑18 Le nombre « d’heures d’activités hebdomadaires » à réaliser peut être diminué en fonction des difficultés personnelles (handicap, parent isolé…). Voir l’article 2 de la loi pour le « Plein Emploi ».
↑19 L’obligation d’inscription concerne aussi les personnes en situation de handicap suivies par Cap Emploi et les « jeunes » accompagnés par une mission locale ayant conclu un « Parcours contractualisé d’accompagnement vers l’emploi et l’autonomie » ou un « contrat d’engagement jeune ». Voir l’article 1 de la loi pour le « Plein Emploi ».
↑20 L’article 3 de la loi pour le « Plein Emploi » prévoit notamment la possibilité pour un département de déléguer le « prononcé des mesures de suspension du versement du RSA » pour les personnes dont France Travail est l’organisme référent. L’article 2 de la même loi une coopération accrue entre France Travail. Il précise aussi que France Travail est en charge du contrôle du « Contrat d’Engagement » des personnes au RSA dont il est l’organisme référent et qu’il peut proposer au Conseil Départemental des sanctions (suspension/radiation) concernant le versement du RSA. Des précisions seront apportées par décret dont une version préliminaire a fuité dans la presse.
↑21 Voir notamment la déclaration de la CNCDH, l’avis du CNLE et cette étude publiée par le Secours Catholique, Aequitaz et ATD Quart Monde.
↑22 Voir notamment cet appel et cet article sur leur action au conseil départemental du Finistère. Vous pouvez les contacter à l’adresse ag-rsa-francetravail-brest chez riseup.net.

Doge : la fin du cloisonnement des données

A l’heure où, aux Etats-Unis, le FBI, les services d’immigration et de police se mettent à poursuivre les ressortissants étrangers pour les reconduire aux frontières, sur Tech Policy Press, l’activiste Dia Kayyali rappelle que les Etats-Unis ont une longue histoire de chasse aux opposants politiques et aux étrangers. Du MacCarthysme au 11 septembre, les crises politiques ont toujours renforcé la surveillance des citoyens et plus encore des ressortissants d’origine étrangère. Le Brennan Center for Justice a publié en 2022 un rapport sur la montée de l’utilisation des réseaux sociaux dans ces activités de surveillance et rappelle que ceux-ci sont massivement mobilisés pour la surveillance des opposants politiques, notamment depuis Occupy et depuis 2014 pour le contrôle des demandes d’immigration et les contrôles aux frontières, rappelle The Verge. 

Le premier projet de loi du second mandat de Donald Trump était un texte concernant l’immigration clandestine, nous rappelle Le Monde. C’est un texte qui propose la détention automatique par les forces de l’ordre fédérales de migrants en situation irrégulière qui ont été accusés, condamnés ou inculpés pour certains délits, mêmes mineurs, comme le vol à l’étalage. 

La lutte contre l’immigration est au cœur de la politique du président américain, qui dénonce une “invasion” et annonce vouloir déporter 11 millions d’immigrants illégaux, au risque que le tissu social des Etats-Unis, nation d’immigrants, se déchire, rappelait The Guardian. Dès janvier, l’administration Trump a mis fin à l’application CBP One, seule voie pour les demandeurs d’asile désirant entrer légalement sur le territoire des Etats-Unis pour prendre rendez-vous avec l’administration douanière américaine et régulariser leur situation. La suppression unilatérale de l’application a laissé tous les demandeurs d’asile en attente d’un rendez-vous sans recours, rapportait Le Monde. 

Une opération de fusion des informations sans précédent

Cette politique est en train de s’accélérer, notamment en mobilisant toutes les données numériques à sa disposition, rapporte Wired. Le Doge est en train de construire une base de données dédiée aux étrangers, collectant les données de plusieurs administrations, afin de créer un outil de surveillance d’une portée sans précédent. L’enjeu est de recouper toutes les données disponibles, non seulement pour mieux caractériser les situations des étrangers en situation régulière comme irrégulière, mais également les géolocaliser afin d’aider les services de police chargés des arrestations et de la déportation, d’opérer. 

Jusqu’à présent, il existait d’innombrables bases de données disparates entre les différentes agences et au sein des agences. Si certaines pouvaient être partagées, à des fins policières, celles-ci n’ont jamais été regroupées par défaut, parce qu’elles sont souvent utilisées à des fins spécifiques. Le service de l’immigration et des douanes (ICE, Immigration and Customs Enforcement) et le département d’investigation de la sécurité intérieure (HSI, Homeland Security Investigations), par exemple, sont des organismes chargés de l’application de la loi et ont parfois besoin d’ordonnances du tribunal pour accéder aux informations sur un individu dans le cadre d’enquêtes criminelles, tandis que le service de citoyenneté et d’immigration des États-Unis (USCIS, United States Citizenship and Immigration Services) des États-Unis collecte des informations sensibles dans le cadre de la délivrance régulière de visas et de cartes vertes. 

Des agents du Doge ont obtenu l’accès aux systèmes de l’USCIS. Ces bases de données  contiennent des informations sur les réfugiés et les demandeurs d’asile, des données sur les titulaires de cartes vertes, les citoyens américains naturalisés et les bénéficiaires du programme d’action différée pour les arrivées d’enfants. Le Doge souhaite également télécharger des informations depuis les bases de données de myUSCIS, le portail en ligne où les immigrants peuvent déposer des demandes, communiquer avec l’USCIS, consulter l’historique de leurs demandes et répondre aux demandes de preuves à l’appui de leur dossier. Associées aux informations d’adresse IP des personnes qui consultent leurs données, elles pourraient servir à géolocaliser les immigrants. 

Le département de sécurité intérieur (DHS, Department of Homeland Security) dont dépendent certaines de ces agences a toujours été très prudent en matière de partage de données. Ce n’est plus le cas. Le 20 mars, le président Trump a d’ailleurs signé un décret exigeant que toutes les agences fédérales facilitent « le partage intra- et inter-agences et la consolidation des dossiers non classifiés des agences », afin d’entériner la politique de récupération de données tout azimut du Doge. Jusqu’à présent, il était historiquement « extrêmement difficile » d’accéder aux données que le DHS possédait déjà dans ses différents départements. L’agrégation de toutes les données disponibles « représenterait une rupture significative dans les normes et les politiques en matière de données », rappelle un expert. Les agents du Doge ont eu accès à d’innombrables bases, comme à Save, un système de l’USCIS permettant aux administrations locales et étatiques, ainsi qu’au gouvernement fédéral, de vérifier le statut d’immigration d’une personne. Le Doge a également eu accès à des données de la sécurité sociale et des impôts pour recouper toutes les informations disponibles. 

Le problème, c’est que la surveillance et la protection des données est également rendue plus difficile. Les coupes budgétaires et les licenciements ont affecté trois services clés qui constituaient des garde-fous importants contre l’utilisation abusive des données par les services fédéraux, à savoir le Bureau des droits civils et des libertés civiles (CRCL, Office for Civil Rights and Civil Liberties), le Bureau du médiateur chargé de la détention des immigrants et le Bureau du médiateur des services de citoyenneté et d’immigration. Le CRCL, qui enquête sur d’éventuelles violations des droits de l’homme par le DHS et dont la création a été mandatée par le Congrès est depuis longtemps dans le collimateur du Doge. 

Le 5 avril, le DHS a conclu un accord avec les services fiscaux (IRS) pour utiliser les données fiscales. Plus de sept millions de migrants travaillent et vivent aux États-Unis. L’ICE a également récemment versé des millions de dollars à l’entreprise privée Palantir pour mettre à jour et modifier une base de données de l’ICE destinée à traquer les immigrants, a rapporté 404 Media. Le Washington Post a rapporté également que des représentants de Doge au sein d’agences gouvernementales – du Département du Logement et du Développement urbain à l’Administration de la Sécurité sociale – utilisent des données habituellement confidentielles pour identifier les immigrants sans papiers. Selon Wired, au Département du Travail, le Doge a obtenu l’accès à des données sensibles sur les immigrants et les ouvriers agricoles. La fusion de toutes les données entre elles pour permettre un accès panoptique aux informations est depuis l’origine le projet même du ministère de l’efficacité américain, qui espère que l’IA va lui permettre de rendre le traitement omniscient. 

Le changement de finalités de la collecte de données, moteur d’une défiance généralisée

L’administration des impôts a donc accepté un accord de partage d’information et de données avec les services d’immigration, rapporte la NPR, permettant aux agents de l’immigration de demander des informations sur les immigrants faisant l’objet d’une ordonnance d’expulsion. Derrière ce qui paraît comme un simple accès à des données, il faut voir un changement majeur dans l’utilisation des dossiers fiscaux. Les modalités de ce partage d’information ne sont pas claires puisque la communication du cadre de partage a été expurgée de très nombreuses informations. Pour Murad Awawdeh, responsable de la New York Immigration Coalition, ce partage risque d’instaurer un haut niveau de défiance à respecter ses obligations fiscales, alors que les immigrants paient des impôts comme les autres et que les services fiscaux assuraient jusqu’à présent aux contribuables sans papiers la confidentialité de leurs informations et la sécurité de leur déclaration de revenus.

La NPR revient également sur un autre changement de finalité, particulièrement problématique : celle de l’application CBP One. Cette application lancée en 2020 par l’administration Biden visait à permettre aux immigrants de faire une demande d’asile avant de pénétrer aux Etats-Unis. Avec l’arrivée de l’administration Trump, les immigrants qui ont candidaté à une demande d’asile ont reçu une notification les enjoignants à quitter les Etats-Unis et les données de l’application ont été partagées avec les services de police pour localiser les demandeurs d’asile et les arrêter pour les reconduire aux frontières. Pour le dire simplement : une application de demande d’asile est désormais utilisée par les services de police pour identifier ces mêmes demandeurs et les expulser. Les finalités sociales sont transformées en finalités policières. La confidentialité même des données est détruite.

CBP One n’est pas la seule application dont la finalité a été modifiée. Une belle enquête du New York Times évoque une application administrée par Geo Group, l’un des principaux gestionnaires privés de centres pénitentiaires et d’établissements psychiatriques aux Etats-Unis. Une application que des étrangers doivent utiliser pour se localiser et s’identifier régulièrement, à la manière d’un bracelet électronique. Récemment, des utilisateurs de cette application ont été convoqués à un centre d’immigration pour mise à jour de l’application. En fait, ils ont été arrêtés. 

Geo Group a développé une activité lucrative d’applications et de bracelets électroniques pour surveiller les immigrants pour le compte du gouvernement fédéral qui ont tous été mis au service des procédures d’expulsion lancées par l’administration Trump, constatent nombre d’associations d’aides aux étrangers. “Alors même que M. Trump réduit les dépenses du gouvernement fédéral, ses agences ont attribué à Geo Group de nouveaux contrats fédéraux pour héberger des immigrants sans papiers. Le DHS envisage également de renouveler un contrat de longue date avec l’entreprise – d’une valeur d’environ 350 millions de dollars l’an dernier – pour suivre les quelque 180 000 personnes actuellement sous surveillance”. Ce programme “d’alternative à la détention en centre de rétention » que Noor Zafar, avocate principale à l’American Civil Liberties Union, estime relever plutôt d’une “extension à la détention”, consiste en des applications et bracelets électroniques. Les programmes de Geo Group, coûteux, n’ont pas été ouverts à la concurrence, rapporte le New York Times, qui explique également que ses programmes sont en plein boom. Ces applications permettent aux employés de Geo Group de savoir en temps réel où se trouvent leurs porteurs, leur permettent de délimiter des zones dont ils ne peuvent pas sortir sans déclencher des alertes. 

Une confiance impossible !

Ces exemples américains de changement de finalités sont emblématiques et profondément problématiques. Ils ne se posent pourtant pas que de l’autre côté de l’Atlantique. Utiliser des données produites dans un contexte pour d’autres enjeux et d’autres contextes est au cœur des fonctionnements des systèmes numériques, comme nous l’avions vu à l’époque du Covid. Les finalités des traitements des services numériques qu’on utilise sont rarement claires, notamment parce qu’elles peuvent être mises à jour unilatéralement et ce, sans garantie. Et le changement de finalité peut intervenir à tout moment, quelque soit l’application que vous utilisez. Remplir un simple questionnaire d’évaluation peut finalement, demain, être utilisé par le service qui le conçoit ou d’autres pour une toute autre finalité, et notamment pour réduire les droits des utilisateurs qui y ont répondu. Répondre à un questionnaire de satisfaction de votre banque ou d’un service public, qui semble anodin, peut divulguer des données qui seront utilisées pour d’autres enjeux. Sans renforcer la protection absolue des données, le risque est que ces exemples démultiplient la méfiance voire le rejet des citoyens et des administrés. A quoi va être utilisé le questionnaire qu’on me propose ? Pourra-t-il être utilisé contre moi ? Qu’est-ce qui me garantie qu’il ne le sera pas ? 

La confiance dans l’utilisation qui est faite des données par les services, est en train d’être profondément remise en question par l’exemple américain et pourrait avoir des répercussions sur tous les services numériques, bien au-delà des Etats-Unis. La spécialiste de la sécurité informatique, Susan Landau, nous l’avait pourtant rappelé quand elle avait étudié les défaillances des applications de suivi de contact durant la pandémie : la confidentialité est toujours critique. Elle parlait bien sûr des données de santé des gens, mais on comprend qu’assurer la confidentialité des données personnelles que les autorités détiennent sur les gens est tout aussi critique. Les défaillances de confidentialité sapent la confiance des autorités qui sont censées pourtant être les premières garantes des données personnelles des citoyens. 

Aurait-on oublié pourquoi les données sont cloisonnées ?

« Ces systèmes sont cloisonnés pour une raison », rappelle Victoria Noble, avocate à l’Electronic Frontier Foundation. « Lorsque vous centralisez toutes les données d’une agence dans un référentiel central accessible à tous les membres de l’agence, voire à d’autres agences, vous augmentez considérablement le risque que ces informations soient consultées par des personnes qui n’en ont pas besoin et qui les utilisent à des fins inappropriées ou répressives, pour les instrumentaliser, les utiliser contre des personnes qu’elles détestent, des dissidents, surveiller des immigrants ou d’autres groupes. »

« La principale inquiétude désormais est la création d’une base de données fédérale unique contenant tout ce que le gouvernement sait sur chaque personne de ce pays », estime Cody Venzke de l’Union américaine pour les libertés civiles (ACLU). « Ce que nous voyons est probablement la première étape vers la création d’un dossier centralisé sur chaque habitant.» Wired rapporte d’ailleurs que l’ACLU a déposé plainte contre l’Administration de la Sécurité Sociale (SSA) et le Département des Anciens Combattants (VA) qui ont ouvert des accès de données sensibles au Doge en violation de la loi sur la liberté d’information, après en avoir déjà déposé une en février contre le Trésor américain pour les mêmes raisons (alors que ce n’est pas nécessairement la seule manière de procéder. Confronté aux demandes du Doge, le régulateur des marchés financiers américains, rapporte Reuters, a pour l’instant pu créer une équipe de liaison spécifique pour répondre aux demandes d’information du Doge, afin que ses équipes n’aient pas accès aux données de l’autorité des marchés financiers). 

En déposant plainte, l’ACLU cherche notamment à obtenir des documents pour saisir exactement ce à quoi a accès le Doge. “Les Américains méritent de savoir qui a accès à leurs numéros de sécurité sociale, à leurs informations bancaires et à leurs dossiers médicaux”, explique une avocate de l’ACLU. 

Le cloisonnement des données, des bases, selon leurs finalités et les agences qui les administrent, est un moyen non seulement d’en préserver l’intégrité, mais également d’en assurer la sécurité et la confidentialité. Ce sont ces verrous qui sont en train de sauter dans toutes les administrations sous la pression du Doge, posant des questions de sécurité inédites, comme nous nous en inquiétons avec Jean Cattan dans une lettre du Conseil national du numérique. Ce sont les mesures de protection d’une démocratie numérique qui sont en train de voler en éclat. 

Pour Wired, Brian Barrett estime que les données qu’agrège le Doge ne sont pas tant un outil pour produire une hypothétique efficacité, qu’une arme au service des autorités. La question de l’immigration n’est qu’un terrain d’application parmi d’autres. La brutalité qui s’abat sur les étrangers, les plus vulnérables, les plus démunis, est bien souvent une préfiguration de son extension à toutes les autres populations, nous disait le philosophe Achille Mbembe dans Brutalisme. 

Et maintenant que les croisements de données sont opérationnels, que les données ont été récupérées par les équipes du Doge, l’enjeu va être de les faire parler, de les mettre en pratique. 

Finalement, le départ annoncé ou probable de Musk de son poste en première ligne du Doge ne signe certainement pas la fin de cette politique, toute impopulaire qu’elle soit (enfin, Musk est bien plus impopulaire que les économies dans les services publics qu’il propose), mais au contraire, le passage à une autre phase. Le Doge a pris le contrôle, et il s’agit désormais de rendre les données productives. L’efficacité n’est plus de réduire les dépenses publiques de 2 000 milliards de dollars, comme le promettait Musk à son arrivée. Il a lui-même reconnu qu’il ne visait plus que 150 milliards de dollars de coupe en 2025, soit 15 % de l’objectif initial, comme le soulignait Le Monde. Mais le débat sur les coupes et l’efficacité, sont d’abord un quolifichet qu’on agite pour détourner l’attention de ce qui se déroule vraiment, à savoir la fin de la vie privée aux Etats-Unis. En fait, la politique initiée par le Doge ne s’arrêtera pas avec le retrait probable de Musk. IL n’en a été que le catalyseur.

Elizabeth Lopatto pour The Verge explique elle aussi que l’ère du Doge ne fait que commencer. Malgré ses échecs patents et l’explosion des plaintes judiciaires à son encontre (Bloomberg a dénombré plus de 300 actions en justice contre les décisions prises par le président Trump : dans 128 affaires, ils ont suspendu les décisions de l’administration Trump). Pour elle, Musk ne va pas moins s’immiscer dans la politique publique. Son implication risque surtout d’être moins publique et moins visible dans ses ingérences, afin de préserver son égo et surtout son portefeuille. Mais surtout, estime-t-elle, les tribunaux ne sauveront pas les Américains des actions du Doge, notamment parce que dans la plupart des cas, les décisions tardent à être prises et à être effectives. Pourtant, si les tribunaux étaient favorables à « l’élimination de la fraude et des abus », comme le dit Musk – à ce stade, ils devraient surtout œuvrer à “éliminer le Doge” !

Ce n’est malgré tout pas la direction qui est prise, au contraire. Même si Musk s’en retire, l’administration continue à renforcer le pouvoir du Doge qu’à l’éteindre. C’est ainsi qu’il faut lire le récent hackathon aux services fiscaux ou le projet qui s’esquisse avec Palantir. L’ICE, sous la coupe du Doge, vient de demander à Palantir, la sulfureuse entreprise de Thiel, de construire une plateforme dédiée, explique Wired : “ImmigrationOS”, « le système d’exploitation de l’immigration » (sic). Un outil pour “choisir les personnes à expulser”, en accordant une priorité particulière aux personnes dont le visa est dépassé qui doivent, selon la demande de l’administration, prendre leurs dispositions pour “s’expulser elles-mêmes des Etats-Unis”. L’outil qui doit être livré en septembre a pour fonction de cibler et prioriser les mesures d’application, c’est-à-dire d’aider à sélectionner les étrangers en situation irrégulière, les localiser pour les arrêter. Il doit permettre de suivre que les étrangers en situation irrégulière prennent bien leur disposition pour quitter les Etats-Unis, afin de mesurer la réalité des départs, et venir renforcer les efforts des polices locales, bras armées des mesures de déportation, comme le pointait The Markup. 

De ImmigrationOS au panoptique américain : le démantèlement des mesures de protection de la vie privée

Dans un article pour Gizmodo qui donne la parole à nombre d’opposants à la politique de destructions des silos de données, plusieurs rappellent les propos du sénateur démocrate Sam Ervin, auteur de la loi sur la protection des informations personnelles suite au scandale du Watergate, qui redoutait le caractère totalitaire des informations gouvernementales sur les citoyens. Pour Victoria Noble de l’Electronic Frontier Foundation, ce contrôle pourrait conduire les autorités à « exercer des représailles contre les critiques adressées aux représentants du gouvernement, à affaiblir les opposants politiques ou les ennemis personnels perçus, et à cibler les groupes marginalisés. » N’oubliez pas qu’il s’agit du même président qui a qualifié d’« ennemis » les agents électoraux, les journalistes, les juges et, en fait, toute personne en désaccord avec lui. Selon Reuters, le Doge a déjà utilisé l’IA pour détecter les cas de déloyauté parmi les fonctionnaires fédéraux. Pour les défenseurs des libertés et de la confidentialité, il est encore temps de renforcer les protections citoyennes. Et de rappeler que le passage de la sûreté à la sécurité, de la défense contre l’arbitraire à la défense de l’arbitraire, vient de ce que les élus ont passé bien plus d’énergie à légiférer pour la surveillance qu’à établir des garde-fous contre celle-ci, autorisant toujours plus de dérives, comme d’autoriser la surveillance des individus sans mandats de justice.

Pour The Atlantic, Ian Bogost et Charlie Warzel estiment que le Doge est en train de construire le panoptique américain. Ils rappellent que l’administration est l’univers de l’information, composée de constellations de bases de données. Des impôts au travail, toutes les administrations collectent et produisent des données sur les Américains, et notamment des données particulièrement sensibles et personnelles. Jusqu’à présent, de vieilles lois et des normes fragiles ont empêché que les dépôts de données ne soient regroupés. Mais le Doge vient de faire voler cela en éclat, préparant la construction d’un Etat de surveillance centralisé. En mars, le président Trump a publié un décret visant à éliminer les silos de données qui maintiennent les informations séparément. 

Dans leur article, Bogost et Warzel listent d’innombrables bases de données maintenues par des agences administratives : bases de données de revenus, bases de données sur les lanceurs d’alerte, bases de données sur la santé mentale d’anciens militaires… L’IA promet de transformer ces masses de données en outils “consultables, exploitables et rentables”. Mais surtout croisables, interconnectables. Les entreprises bénéficiant de prêts fédéraux et qui ont du mal à rembourser, pourraient désormais être punies au-delà de ce qui est possible, par la révocation de leurs licences, le gel des aides ou de leurs comptes bancaires. Une forme d’application universelle permettant de tout croiser et de tout inter-relier. Elles pourraient permettre de cibler la population en fonction d’attributs spécifiques. L’utilisation actuelle par le gouvernement de ces données pour expulser des étrangers, et son refus de fournir des preuves d’actes répréhensibles reprochées à certaines personnes expulsées, suggère que l’administration a déjà franchi la ligne rouge de l’utilisation des données à des fins politiques. 

Le Doge ne se contente pas de démanteler les mesures de protection de la vie privée, il ignore qu’elles ont été rédigées. Beaucoup de bases ont été conçues sans interconnectivité par conception, pour protéger la vie privée. “Dans les cas où le partage d’informations ou de données est nécessaire, la loi sur la protection de la vie privée de 1974 exige un accord de correspondance informatique (Computer Matching Agreement, CMA), un contrat écrit qui définit les conditions de ce partage et assure la protection des informations personnelles. Un CMA est « un véritable casse-tête », explique un fonctionnaire, et constitue l’un des moyens utilisés par le gouvernement pour décourager l’échange d’informations comme mode de fonctionnement par défaut”. 

La centralisation des données pourrait peut-être permettre d’améliorer l’efficacité gouvernementale, disent bien trop rapidement Bogost et Warzel, alors que rien ne prouve que ces croisements de données produiront autre chose qu’une discrimination toujours plus étendue car parfaitement granulaire. La protection de la vie privée vise à limiter les abus de pouvoir, notamment pour protéger les citoyens de mesures de surveillance illégales du gouvernement. 

Derrière les bases de données, rappellent encore les deux journalistes, les données ne sont pas toujours ce que l’on imagine. Toutes les données de ces bases ne sont pas nécessairement numérisées. Les faire parler et les croiser ne sera pas si simple. Mais le Doge a eu accès à des informations inédites. “Ce que nous ignorons, c’est ce qu’ils ont copié, exfiltré ou emporté avec eux”. 

“Doge constitue l’aboutissement logique du mouvement Big Data” : les données sont un actif. Les collecter et les croiser est un moyen de leur donner de la valeur. Nous sommes en train de passer d’une administration pour servir les citoyens à une administration pour les exploiter, suggèrent certains agents publics. Ce renversement de perspective “correspond parfaitement à l’éthique transactionnelle de Trump”. Ce ne sont plus les intérêts des américains qui sont au centre de l’équation, mais ceux des intérêts commerciaux des services privés, des intérêts des amis et alliés de Trump et Musk.

La menace totalitaire de l’accaparement des données personnelles gouvernementales

C’est la même inquiétude qu’exprime la politiste Allison Stanger dans un article pour The Conversation, qui rappelle que l’accès aux données gouvernementales n’a rien à voir avec les données personnelles que collectent les entreprises privées. Les référentiels gouvernementaux sont des enregistrements vérifiés du comportement humain réel de populations entières. « Les publications sur les réseaux sociaux et les historiques de navigation web révèlent des comportements ciblés ou intentionnels, tandis que les bases de données gouvernementales capturent les décisions réelles et leurs conséquences. Par exemple, les dossiers Medicare révèlent les choix et les résultats en matière de soins de santé. Les données de l’IRS et du Trésor révèlent les décisions financières et leurs impacts à long terme. Les statistiques fédérales sur l’emploi et l’éducation révèlent les parcours scolaires et les trajectoires professionnelles. » Ces données là, capturées pour faire tourner et entraîner des IA sont à la fois longitudinales et fiables. « Chaque versement de la Sécurité sociale, chaque demande de remboursement Medicare et chaque subvention fédérale constituent un point de données vérifié sur les comportements réels. Ces données n’existent nulle part ailleurs aux États-Unis avec une telle ampleur et une telle authenticité. » « Les bases de données gouvernementales suivent des populations entières au fil du temps, et pas seulement les utilisateurs actifs en ligne. Elles incluent les personnes qui n’utilisent jamais les réseaux sociaux, n’achètent pas en ligne ou évitent activement les services numériques. Pour une entreprise d’IA, cela impliquerait de former les systèmes à la diversité réelle de l’expérience humaine, plutôt qu’aux simples reflets numériques que les gens projettent en ligne.«  A terme, explique Stanger, ce n’est pas la même IA à laquelle nous serions confrontés. « Imaginez entraîner un système d’IA non seulement sur les opinions concernant les soins de santé, mais aussi sur les résultats réels des traitements de millions de patients. Imaginez la différence entre tirer des enseignements des discussions sur les réseaux sociaux concernant les politiques économiques et analyser leurs impacts réels sur différentes communautés et groupes démographiques sur des décennies ». Pour une entreprise développant des IA, l’accès à ces données constituerait un avantage quasi insurmontable. « Un modèle d’IA, entraîné à partir de ces données gouvernementales pourrait identifier les schémas thérapeutiques qui réussissent là où d’autres échouent, et ainsi dominer le secteur de la santé. Un tel modèle pourrait comprendre comment différentes interventions affectent différentes populations au fil du temps, en tenant compte de facteurs tels que la localisation géographique, le statut socio-économique et les pathologies concomitantes. » Une entreprise d’IA qui aurait accès aux données fiscales, pourrait « développer des capacités exceptionnelles de prévision économique et de prévision des marchés. Elle pourrait modéliser les effets en cascade des changements réglementaires, prédire les vulnérabilités économiques avant qu’elles ne se transforment en crises et optimiser les stratégies d’investissement avec une précision impossible à atteindre avec les méthodes traditionnelles ». Explique Stanger, en étant peut-être un peu trop dithyrambique sur les potentialités de l’IA, quand rien ne prouve qu’elles puissent faire mieux que nos approches plus classiques. Pour Stanger, la menace de l’accès aux données gouvernementales par une entreprise privée transcende les préoccupations relatives à la vie privée des individus. Nous deviendrons des sujets numériques plutôt que des citoyens, prédit-elle. Les données absolues corrompt absolument, rappelle Stanger. Oubliant peut-être un peu rapidement que ce pouvoir totalitaire est une menace non seulement si une entreprise privée se l’accapare, mais également si un Etat le déploie. La menace d’un Etat totalitaire par le croisement de toutes les données ne réside pas seulement par l’accaparement de cette puissance au profit d’une entreprise, comme celles de Musk, mais également au profit d’un Etat. 

Nombre de citoyens étaient déjà résignés face à l’accumulation de données du secteur privé, face à leur exploitation sans leur consentement, concluent Bogost et Warzel. L’idée que le gouvernement cède à son tour ses données à des fins privées est scandaleuse, mais est finalement prévisible. La surveillance privée comme publique n’a cessé de se développer et de se renforcer. La rupture du barrage, la levée des barrières morales, limitant la possibilité à recouper l’ensemble des données disponibles, n’était peut-être qu’une question de temps. Certes, le pire est désormais devant nous, car cette rupture de barrière morale en annonce d’autres. Dans la kleptocratie des données qui s’est ouverte, celles-ci pourront être utilisées contre chacun, puisqu’elles permettront désormais de trouver une justification rétroactive voire de l’inventer, puisque l’intégrité des bases de données publiques ne saurait plus être garantie. Bogost et Warzel peuvent imaginer des modalités, en fait, désormais, les systèmes n’ont même pas besoin de corréler vos dons à des associations pro-palestiniennes pour vous refuser une demande de prêt ou de subvention. Il suffit de laisser croire que désormais, le croisement de données le permet. 

Pire encore, “les Américains sont tenus de fournir de nombreuses données sensibles au gouvernement, comme des informations sur le divorce d’une personne pour garantir le versement d’une pension alimentaire, ou des dossiers détaillés sur son handicap pour percevoir les prestations d’assurance invalidité de la Sécurité sociale”, rappelle Sarah Esty, ancienne conseillère principale pour la technologie et la prestation de services au ministère américain de la Santé et des Services sociaux. “Ils ont agi ainsi en étant convaincus que le gouvernement protégerait ces données et que seules les personnes autorisées et absolument nécessaires à la prestation des services y auraient accès. Si ces garanties sont violées, ne serait-ce qu’une seule fois, la population perdra confiance dans le gouvernement, ce qui compromettra à jamais sa capacité à gérer ces services”. C’est exactement là où l’Amérique est plongée. Et le risque, devant nous, est que ce qui se passe aux Etats-Unis devienne un modèle pour saper partout les garanties et la protection des données personnelles. 

Hubert Guillaud

Le gouvernement prêt à tout pour casser le droit au chiffrement

Les discussions viennent de recommencer à l’Assemblée nationale concernant la loi « Narcotrafic ». Les mesures les plus dangereuses pourraient être réintroduites par voie d’amendement : obligation pour les services de communication chiffrée de donner accès au contenu des échanges (article 8 ter), logiciels-espions pour accéder à distance aux fonctionnalités d’un appareil numérique (articles 15 ter et 15 quater) et « dossier coffre » (article 16). Elles sont toutes soutenues par le gouvernement et en particulier Bruno Retailleau. Concernant le chiffrement, celui-ci n’hésite pas à aligner les mensonges pour justifier la disposition. Petite (re)mise au point.

Le fantôme derrière la porte

Tel qu’introduit au Sénat, l’article 8 ter visait à créer une obligation pour les fournisseurs de services de messagerie chiffrée de donner à la police et au renseignement un accès au contenu des communications. Il s’agit d’une attaque frontale contre la technologie de chiffrement de bout-en-bout, aujourd’hui intégrée dans de nombreux services de communications tels que Signal, Whatsapp, Matrix ou encore la messagerie étatique Tchap, et qui permet d’empêcher quiconque autre que le destinataire d’accéder aux échanges. Avec d’autres organisations telles que la Global Encryption Coalition, nous avons fortement dénoncé l’absurdité et le danger d’une telle mesure qui mettrait fin à la confidentialité des correspondances en ligne. Cette disposition a été supprimée en commission dans une quasi-unanimité assez rare. Seuls le centre et la droite se sont abstenus.

Trois députés demandent pourtant son rétablissement  : Paul Midy (EPR), Mathieu Lefevre (EPR) et Olivier Marleix (LR). Ces amendements sont soutenus par le gouvernement. Cela n’est guère étonnant puisqu’on a vu le ministre de l’intérieur défendre tant bien que mal cette mesure lors de son audition à l’Assemblée. Il a insisté de nouveau ce week-end dans une interview au journal Le Parisien, tout comme Céline Berthon, la directrice de la DGSI, dans l’hebdomadaire d’extrême droite Le JDD. Que ce soit en audition ou dans les journaux, ceux-ci expliquent que l’article 8 ter n’affaiblirait pas le chiffrement ni ne créerait de « porte dérobée » ou de « backdoor » (les termes sont d’ailleurs savamment évités dans ces interviews) car il s’agirait uniquement d’introduire un participant fantôme dans la conversation.

Par cela, ils tentent surtout de semer la confusion chez les député·es censé·es voter la loi. En effet, contourner le chiffrement de bout-en-bout en autorisant une personne tierce à connaître le contenu des messages constitue, par définition, une « porte dérobée ». Dans un article datant d’il y a quelques années déjà, l’Internet Society expliquait très bien le fonctionnement et l’impasse de ce type de mécanisme vis-à-vis des promesses de confidentialité des messageries chiffrées.

Il faut comprendre que le chiffrement repose sur un échange de clés qui garantit que seuls les destinataires de messages possédant les clés pourront déchiffrer les échanges. À l’inverse, le mécanisme du « fantôme » distribue en secret des clés à d’autres personnes non-autorisées, pour qu’elles aient accès au contenu des conversations. Ce dispositif oblige donc à modifier le code derrière les messageries ou les services d’hébergement chiffrés et la conséquence est la même que de modifier directement l’algorithme de chiffrement. N’en déplaise au gouvernement qui cherche à embrouiller les esprits en jouant avec les mots, ceci est bien une méthode, parmi d’autres, de création d’une porte dérobée. La « proposition du fantôme », revient purement et simplement à remettre en cause le principe même du chiffrement de bout-en-bout qui repose sur la garantie que seuls les destinataires d’un message sont en mesure de lire son contenu.

L’Internet Society est d’ailleurs très claire : « Bien que la proposition du fantôme ne modifierait pas les algorithmes utilisés par les applications de messagerie à chiffrement de bout en bout pour chiffrer et déchiffrer les messages, elle introduirait une vulnérabilité de sécurité systémique dans ces services, qui aurait des conséquences négatives pour tous les utilisateurs, y compris les utilisateurs commerciaux et gouvernementaux. Cette proposition nuit à la gestion des clés et à la fiabilité du système ; par conséquent, les communications supposées être confidentielles entre l’émetteur et le destinataire peuvent ne plus l’être, et sont moins sécurisées. »

Un piège démocratique

Casser un protocole de chiffrement et le contourner posent, dans les deux cas, exactement les mêmes problèmes :

  • le service est contraint de modifier son code et son algorithme ;
  • cela crée une vulnérabilité qui peut être utilisé par d’autres acteurs ;
  • cela peut être étendu à d’autres finalités ;
  • cela affaiblit la sécurité générale des infrastructures de réseau ;
  • toutes les personnes utilisatrices sont touchées par cet affaiblissement.

Non seulement le gouvernement tente de minimiser ces conséquences très graves, mais il ne s’arrête pas là. Il prétend désormais qu’une solution respectueuse de la vie privée pourrait exister pour mettre en œuvre cette obligation auprès des fournisseurs de messageries. Ainsi, dans les amendements soutenus par le gouvernement, il serait ajouté à l’article 8 ter un paragraphe précisant que « ces dispositifs techniques préservent le secret des correspondances et assurent la protection des données à caractère personnel au titre du respect de la vie privée », qu’ils doivent « exclure toute possibilité d’accès par une personne autre que les agents autorisés à mettre en œuvre les techniques de recueil de renseignement » et enfin qu’ils ne « peuvent porter atteinte à la prestation de cryptologie visant à assurer une fonction de confidentialité. »

De nouveau, affirmer avec assurance qu’un tel compromis serait possible est faux. Au regard du principe du chiffrement de bout-en-bout, il ne peut exister de possibilité d’accès au contenu des messages. Cette promesse constitue une escroquerie démocratique en ce qu’elle tend à faire adopter une mesure en pariant sur l’avenir, alors qu’une telle mise en œuvre est impossible techniquement. Cette manœuvre avait déjà été utilisée par le Royaume-Uni pour faire adopter le « UK Safety Bill », ou par la Commission européenne lors des discussions sur le règlement « Chat Control ». Dans les deux cas, il s’agissait de convaincre de voter une mesure attentatoire à la vie privée en affirmant qu’on trouverait bien demain comment faire. Faire croire cela est non seulement un mensonge, mais c’est aussi dangereux d’un point de vue démocratique : le gouvernement est en train d’essayer de tromper la représentation nationale en lui expliquant mal une technologie, en plus de l’avoir introduite sans prévenir au milieu des débats au Sénat.

Continuer le rapport de force

Cette bataille n’a rien de nouveau. Il existe depuis toujours une tension politique autour du chiffrement des communications électroniques, et cela est bien logique puisque le chiffrement est politique par nature. Les outils de chiffrement ont été pensé pour se protéger des surveillances illégitimes et sont nécessaires pour garantir le secret des correspondances. Elles ont été déployées sur Internet pour protéger les communications de la surveillance d’acteurs dangereux et notamment des États qui voudraient surveiller leur population. C’est pourquoi ces mêmes États ont toujours opposé une résistance au développement et à la généralisation du chiffrement. À l’occasion du procès dit du « 8-Décembre », qui a remis ce sujet au cœur de l’actualité, nous revenions sur l’histoire des « crypto-wars » dans les années 1990 et des évènements ayant freiné la démocratisation du chiffrement.

En 2025, le gouvernement ne fait donc qu’essayer de nouvelles manœuvres pour mener à bien un projet politique ancien, visant à limiter le plus possible la confidentialité de nos vies numériques. Et il ne s’arrête pas là puisque deux autres mesures très problématiques font leur retour par des amendements, largement soutenus du Modem jusqu’au RN. Il s’agit de l’autorisation du piratage de nos appareils pour activer à distance le micro et la caméra, et du retour du « dossier coffre », qui permet à la police de s’affranchir des règles de procédure pénale en matière de surveillance intrusive et qui a suscité une forte fronde de la part des avocats.

Ces dispositions sont tout aussi dangereuses que l’attaque contre le chiffrement et il faut convaincre les député·es de rejeter les amendements visant à les réintroduire. Les débats reprendront l’après-midi du 18 mars. Si vous le pouvez, c’est maintenant qu’il faut contacter les parlementaires pour expliquer le danger de ces mesures et réfuter les mensonges du gouvernement.

Retrouvez nos arguments et les coordonnées des parlementaires sur notre page de campagne : www.laquadrature.net/narcotraficotage.

Un grand merci à vous pour votre aide dans cette lutte !

Inférences : comment les outils nous voient-ils ?

Comment les systèmes interprètent-ils les images ? Ente, une entreprise qui propose de chiffrer vos images pour les échanger de manière sécurisée sans que personne d’autres que ceux que vous autorisez ne puisse les voir, a utilisé l’API Google Vision pour montrer comment les entreprises infèrent des informations des images. C’est-à-dire comment ils les voient, comment les systèmes automatisés les décrivent. Ils ont mis à disposition un site pour nous expliquer comment « ILS » voient nos photos, qui permet à chacun d’uploader une image et voir comment Google Vision l’interprète. 

Sommes-nous ce que les traitements disent de nous ?

Le procédé rappelle le projet ImageNet Roulette de Kate Crawford et Trevor Paglen, qui renvoyait aux gens les étiquettes stéréotypées dont les premiers systèmes d’intelligence artificielle affublaient les images. Ici, ce ne sont pas seulement des étiquettes dont nous sommes affublés, mais d’innombrables données inférées. Pour chaque image, le système produit des informations sur le genre, l’origine ethnique, la localisation, la religion, le niveau de revenu, les émotions, l’affiliation politique, décrit les habits et les objets, pour en déduire des passe-temps… mais également des éléments de psychologie qui peuvent être utilisés par le marketing, ce qu’on appelle les insights, c’est-à-dire des éléments permettant de caractériser les attentes des consommateurs. Par exemple, sur une des images en démonstration sur le site représentant une famille, le système déduit que les gens priorisent l’esthétique, sont facilement influençables et valorisent la famille. Enfin, l’analyse associe des mots clefs publicitaires comme albums photos personnalisé, produits pour la peau, offre de voyage de luxe, système de sécurité domestique, etc. Ainsi que des marques, qui vont permettre à ces inférences d’être directement opérationnelles (et on peut se demander d’ailleurs, pourquoi certaines plutôt que d’autres, avec le risque que les marques associéées démultiplient les biais, selon leur célébrité ou leur caractère international, comme nous en discutions en évoquant l’optimisation de marques pour les modèles génératifs).

Autant d’inférences probables, possibles ou potentielles capables de produire un profil de données pour chaque image pour leur exploitation marketing.

Comme l’explique le philosophe Rob Horning, non seulement nos images servent à former des modèles de reconnaissance d’image qui intensifient la surveillance, mais chacune d’entre elles produit également des données marketing disponibles pour tous ceux qui souhaitent les acheter, des publicitaires aux agences de renseignement. Le site permet de voir comment des significations sont déduites de nos images. Nos photos, nos souvenirs, sont transformés en opportunités publicitaires, identitaires et consuméristes, façonnées par des logiques purement commerciales (comme Christo Buschek et Jer Thorp nous l’avaient montré de l’analyse des données de Laion 5B). L’inférence produit des opportunités, en ouvre certaines et en bloque d’autres, sur lesquelles nous n’avons pas la main. En nous montrant comment les systèmes interprètent nos images, nous avons un aperçu de ce que, pour les machines, les signifiants signifient.

Mais tout n’est pas parfaitement décodable et traduisible, transparent. Les inférences produites sont orientées : elles ne produisent pas un monde transparent, mais un monde translucide. Le site They see your photos nous montre que les images sont interprétées dans une perspective commerciale et autoritaire, et que les représentations qu’elles produisent supplantent la réalité qu’elles sont censées interpréter. Il nous permet de voir les biais d’interprétation et de nous situer dans ceux-ci ou de nous réidentifier sous leur répétition.

Nous ne sommes pas vraiment la description produite de chacune de ces images. Et pourtant, nous sommes exactement la personne au coeur de ces descriptions. Nous sommes ce que ces descriptions répètent, et en même temps, ce qui est répété ne nous correspond pas toujours ou pas du tout.

Exemples d’intégration d’images personnelles dans TheySeeYourPhotos qui montrent les données qui sont inférées de deux images. Et qui posent la question qui suis-je ? Gagne-je 40 ou 80 000 euros par mois ? Suis-je athée ou chrétien ? Est-ce que je lis des livres d’histoire ou des livres sur l’environnement ? Suis-je écolo ou centriste ? Est-ce que j’aime les chaussures Veja ou les produits L’Oréal ?

Un monde indifférent à la vérité

L’autre démonstration que permet le site, c’est de nous montrer l’évolution des inférences publicitaires automatisées. Ce que montre cet exemple, c’est que l’enjeu de régulation n’est pas de produire de meilleures inférences, mais bien de les contenir, de les réduire – de les faire disparaître voire de les rendre impossibles. Nous sommes désormais coincés dans des systèmes automatisés capables de produire de nous, sur nous, n’importe quoi, sans notre consentement, avec un niveau de détail et de granularité problématique.

Le problème n’est pas l’automatisation publicitaire que ce délire de profilage alimente, mais bien le délire de profilage automatisé qui a été mis en place. Le problème n’est pas la qualité des inférences produites, le fait qu’elles soient vraies ou fausses, mais bien le fait que des inférences soient produites. La prévalence des calculs imposent avec eux leur monde, disions-nous. Ces systèmes sont indifférents à la vérité, expliquait le philosophe Philippe Huneman dans Les sociétés du profilage (Payot, 2023). Ils ne produisent que leur propre renforcement. Les machines produisent leurs propres mèmes publicitaires. D’un portrait, on propose de me vendre du cognac ou des timbres de collection. Mais ce qu’on voit ici n’est pas seulement leurs défaillances que leurs hallucinations, c’est-à-dire leur capacité à produire n’importe quels effets. Nous sommes coincés dans un régime de facticité, comme le dit la philosophe Antoinette Rouvroy, qui finit par produire une vérité de ce qui est faux.

Où est le bouton à cocher pour refuser ce monde ?

Pourtant, l’enjeu n’est pas là. En regardant très concrètement les délires que ces systèmes produisent on se demande surtout comment arrêter ces machines qui ne mènent nulle part ! L’exemple permet de comprendre que l’enjeu n’est pas d’améliorer la transparence ou l’explicabilité des systèmes, ou de faire que ces systèmes soient plus fiables, mais bien de les refuser. Quand on comprend la manière dont une image peut-être interprétée, on comprend que le problème n’est pas ce qui est dit, mais le fait même qu’une interprétation puisse être faite. Peut-on encore espérer un monde où nos photos comme nos mots ne sont tout simplement pas interprétés par des machines ? Et ce alors que la grande interconnexion de celles-ci facilite ce type de production. Ce que nous dit « They see your photos », c’est que pour éviter ce délire, nous n’avons pas d’autres choix que d’augmenter considérablement la confidentialité et le chiffrement de nos échanges. C’est exactement ce que dit Vishnu Mohandas, le développeur de Ente.

Hubert Guillaud

MAJ du 25/03/2025 : Il reste une dernière inconnue dans les catégorisations problématiques que produisent ces outils : c’est que nous n’observons que leurs productions individuelles sur chacune des images que nous leurs soumettons… Mais nous ne voyons pas les catégorisations collectives problématiques qu’ils peuvent produire. Par exemple, combien de profils de femmes sont-ils catalogués comme « faible estime de soi » ? Combien d’hommes catégorisés « impulsifs » ? Combien d’images de personnes passées un certain âge sont-elles caractérisées avec des mots clés, comme « alcool » ? Y’a-t-il des récurrences de termes selon le genre, l’âge putatif, l’origine ou le niveau de revenu estimé ?… Pour le dire autrement, si les biais individuels semblent innombrables, qu’en est-il des biais démographiques, de genre, de classe… que ces outils produisent ? L’exemple permet de comprendre très bien que le problème des biais n’est pas qu’une problème de données et d’entraînement, mais bien de contrôle de ce qui est produit. Ce qui est tout de suite bien plus problématique encore…

Prolongement de la VSA : la petite danse autoritaire du gouvernement

Pendant que le gouvernement fait adopter au pas de course les mesures de surveillance de la loi « Narcotrafic », un autre coup de force est en train de se jouer à l’Assemblée nationale. La vidéosurveillance algorithmique (VSA), cette technologie de surveillance de masse que nous dénonçons depuis des années et qui a été récemment déclarée illégale par le tribunal administratif de Grenoble, va être étendue au détour d’un tour de passe-passe législatif.

Les droits humains mis de coté

Nous vous en parlions il y a quelques semaines : le cadre « expérimental » d’utilisation de la VSA prévu par la loi sur les Jeux Olympiques devait prendre fin au 31 mars 2025. Alors que le rapport d’évaluation constatait l’immaturité et l’absence d’utilité opérationnelle de cette technologie, le ministre des transports Philippe Tabarot déposait un amendement opportuniste au dernier moment sur une loi qui n’avait rien à voir, relative aux transports, pour repousser ce délai jusqu’à la fin de l’année 2027. Ce texte comporte par ailleurs de nombreuses autres mesures de surveillance, comme l’expérimentation de micros dans les bus et les cars, la pérennisation des caméras piétons pour les agents de contrôle ainsi que le renforcement des pouvoirs coercitifs de ces agents (palpations, taser…). Malheureusement, le rythme soutenu de l’activité législative ne nous a pas permis de lutter efficacement au Parlement contre cette extension de la répression dans l’espace public et notre quotidien.

L’Assemblée nationale s’apprête à voter solennellement cette loi relative à la sûreté dans les transports demain, mardi 18 mars. Si la commission mixte paritaire a réduit de quelques mois le prolongement de l’expérimentation de VSA – ramenant son achèvement au mois de mars 2027 – cela ne change rien à la situation.

Car ce qui est révélé par cette séquence dépasse les enjeux de surveillance. Sur le fond, nous ne sommes pas surpris·es de cette volonté d’étendre la surveillance algorithmique de l’espace public, tant cela a été affiché par les promoteurs de la Technopolice année après année, rapport après rapport. En revanche, la manière dont l’opération est menée est aussi brutale qu’inquiétante. Elle révèle l’indifférence et le mépris croissant de la classe politique dominante vis-à-vis de l’État de droit. Les mécanismes juridiques de protection des droits humains sont ainsi perçus comme des « lourdeurs administratives », empêchant « l’efficacité » de l’action qu’il faudrait mener pour la « sécurité ».

Au nom de cette logique, nulle peine de s’expliquer ni de prendre en compte les décisions des tribunaux, les promesses que le gouvernement a lui-même faites à la représentation parlementaire ou encore les exigences posées par le Conseil constitutionnel. La fin — légaliser la VSA, structurer le marché et l’imposer dans les usages policiers — justifie les moyens — violer les promesses d’évaluation, mentir en assurant la représentation nationale que ces technologies ont donné entière satisfaction, prétendre que la VSA n’a rien à avoir avec la reconnaissance faciale alors que le ministère est évidemment dans l’attente de pouvoir légalement suivre des personnes et les identifier au travers de ces technologies.

Le symptôme d’une dérive générale

Ce nouveau déni de démocratie n’est pas un cas isolé. Nous voyons ce phénomène s’étendre de plus en plus, et dans toutes nos luttes. Nous voyons ainsi l’État vouloir écarter le droit à se défendre et le principe du contradictoire dans la loi Narcotrafic, tout en supprimant les limites aux pouvoirs du renseignement, le tout pour toujours surveiller davantage. Nous suivons également ses intentions de modifier la réglementation environnementale afin de construire des data centers sans s’embêter avec la protection des territoires et des ressources, perçue comme une entrave. Nous documentons aussi la destruction organisée de la solidarité et de la protection sociale, à travers un système de surveillance et de flicage automatisé des administré·es de la CAF, de la CNAM ou de France Travail, sans que jamais ces institutions n’aient à expliquer ou à rendre des comptes sur le contrôle social qu’elles mettent en place. Nous assistons, enfin, à l’élargissement toujours plus important des pouvoirs des préfets, qui s’en servent pour limiter abusivement les libertés d’association, empêcher des manifestations ou fermer des établissements. S’ils se font parfois rattraper par les tribunaux, ils parient le plus souvent sur l’impossibilité d’agir des personnes réprimées, faisant de nouveau primer le coercitif sur la légalité.

L’extension de la VSA qui sera votée demain doit donc s’analyser dans ce contexte plus général de recul de l’État de droit. Dès lors que l’on se place dans le jeu légaliste et démocratique, ces méthodes brutales du gouvernement sont révélatrices de la dynamique autoritaire en cours. Et le silence médiatique et politique entourant cet épisode, alors que la VSA a pourtant suscité beaucoup d’oppositions et de critiques depuis le début de l’expérimentation, est particulièrement inquiétant. Le Conseil constitutionnel sera probablement saisi par les groupes parlementaires de gauche et il reste la possibilité qu’il censure cette prolongation. Nous ne sommes pas rassuré·es pour autant.

Ce processus de mise à l’écart des règles de droit ne fait que s’accélérer et nos alertes ne seront certainement pas suffisantes pour arrêter le gouvernement. Le sursaut doit venir des parlementaires encore attaché·es au respect des droits et des libertés en démocratie.

Pour nous aider dans nos combats, pensez si vous le pouvez à nous faire un don.

Loi « Narcotraficotage » : la mobilisation paye alors ne lâchons rien

Il y a quelques semaines, nous avons alerté sur les dangers de la loi dite « Narcotrafic » qui arrivait à toute allure à l’Assemblée nationale. Vous avez été nombreuses et nombreux à réagir à ces annonces, à partager les informations et à contacter les député·es. Un grand merci à vous ! La mobilisation a en partie payé : les membres de la commission des lois ont supprimé plusieurs mesures problématiques. Mais nous ne pouvons malheureusement pas totalement nous réjouir : la loi reste très déséquilibrée et certains articles peuvent revenir lors de l’examen, en séance, qui débutera le lundi 17 mars.
Voici un récapitulatif des articles les plus dangereux en matière de surveillance. Et si vous voulez aller plus loin, vous pouvez lire l’analyse juridique que nous avions envoyée aux député·es juste avant les travaux en commission des lois ou revoir l’émission d’Au Poste sur le sujet.

Banco pour le renseignement

Les grands gagnants de cette loi sont pour l’instant les services de renseignement qui ont réussi à obtenir gain de cause sur toutes leurs demandes. Car, oui, cette loi « Narcotrafic » est aussi une petite « loi renseignement » déguisée. En effet, la Coordination nationale du renseignement et de la lutte contre le terrorisme (CNRLT) assumait de chercher des « briques législatives » pour faire passer ses revendications – étant donné que l’instabilité politique empêche de garantir qu’un projet de loi porté par le gouvernement soit adopté. Dans cette proposition de loi, trois mesures accroissent les pouvoirs des services.

L’article 1er facilite l’échange d’informations entre les services de renseignement. Normalement, les services doivent demander l’autorisation du Premier ministre, après un avis de la Commission nationale de contrôle des techniques de renseignement (CNCTR), s’ils veulent partager certains renseignements pour une autre raison que celle qui a en justifié la collecte. Une autorisation est par exemple aujourd’hui nécessaire pour la DGSE qui aurait surveillé des personnes pour « prévention du terrorisme » et voudrait transférer les informations ainsi obtenues à la DGSI pour la finalité, différente, de « prévention des violences collectives de nature à porter atteinte à la paix publique ». Ce filtre permet de vérifier que les services ne contournent pas les règles du code de sécurité intérieure et que l’échange est bien nécessaire, tout en les obligeant à une certaine transparence sur leurs pratiques. Mais cette nécessité d’autorisation préalable a été supprimée pour toutes les situations – et pas uniquement en cas de criminalité organisée – au nom d’une « lourdeur » procédurale, laissant ainsi le champ libre aux services pour s’échanger les informations qu’ils veulent, sans contrôle.

L’article 6 permet à la justice de transmettre aux services de renseignement des informations relatives à des dossiers de délinquance et criminalité organisée. En principe, ces échanges sont interdits au nom de la séparation des pouvoirs : les renseignements font de la « prévention » administrative et la justice est la seule autorité pouvant rechercher et réprimer les auteurs d’infractions. Si elle a des éléments, elle doit les conserver en attendant de rassembler davantage de preuves et non les donner à un service de renseignement, qui est une administration et qui n’a pas de pouvoir de répression alors que son activité est par nature secrète. Cette disposition affaiblit donc les garanties procédurales qui entourent l’action judiciaire et renforcent les capacités de surveillance du renseignement et donc du gouvernement.

Enfin, l’article 8 est un des plus dangereux de la proposition de loi puisqu’il étend la technique de renseignement dite des « boites noires ». Cette mesure consiste à analyser le réseau internet via des algorithmes pour trouver de prétendus comportements « suspects ». Tout le réseau est scanné, sans distinction : il s’agit donc de surveillance de masse. Autorisée pour la première fois en 2015 pour la prévention du terrorisme, cette technique de renseignement a été étendue en 2024 à la prévention des ingérences étrangères. Avec cet article 8, cette surveillance serait à nouveau étendue et s’appliquerait alors à la « prévention de la criminalité organisée ». On ne sait pas grand-chose de ces boites noires, ni de leur utilisation, puisque les quelques rapports sur le sujet ont été classés secret défense. En revanche, pendant les débats en commission, le député Sacha Houlié (qui a été le promoteur de leur extension l’année dernière) a donné des indications de leurs fonctionnement. Il explique ainsi que les comportements recherchés seraient ceux faisant de « l’hygiène numérique », soit, d’après lui, des personnes qui par exemple utiliseraient plusieurs services à la fois (WhatsApp, Signal, Snapchat). L’ensemble de ce passage est édifiant. Le député macroniste, ancien membre de la délégation parlementaire au renseignement, semble peu maîtriser le sujet mais laisse comprendre en creux que l’algorithme pourrait être configuré pour rechercher toute personne ayant des pratiques numériques de protection de sa vie privée. Les métadonnées révélant le recours à un nœud Tor ou l’utilisation d’un VPN pourrait semblent de fait être considérées comme suspectes. Ce mouvement consistant à considérer comme suspectes les les bonnes pratiques numériques n’est malheureusement pas nouveau et a notamment été très présent lors de l’affaire du « 8-Décembre ».

Ces trois dispositions sont passées sans encombre et demeurent donc dans la proposition de loi.

Le droit au chiffrement en sursis

L’article 8 ter du texte prévoyait une obligation pour les fournisseurs de services de messagerie chiffrée de donner à la police et au renseignement un accès au contenu des communications. Cette mesure consiste en pratique à installer une « porte dérobée », ou « backdoor », pour compromettre le fonctionnement de ces services. Elle a fait l’unanimité contre elle. Qu’il s’agisse des associations fédérées au sein de la Global Encryption Coalition, des entreprises (réunies au sein de l’Afnum ou de Numeum) ou encore de certaines personnalités politiques et institutionnelles dans une tribune du journal Le Monde, tout le monde rappelait le caractère insensé et dangereux de cette mesure, pourtant adoptée avec la loi à l’unanimité du Sénat.

À l’Assemblée nationale aussi, le front contre cette disposition était large puisque des amendements de suppression sont venus de tous les bords politiques. Lors de son audition, le ministre Retailleau a tant bien que mal essayé de défendre cette mesure, en répétant les bobards fournis par le renseignement, sans sembler pleinement les comprendre. Et le ministre d’expliquer par exemple que cette mesure ne « casserait » pas le chiffrement mais viserait uniquement à transférer le contenu des conversations à un utilisateur fantôme… Or, contourner le chiffrement en autorisant une personne tierce à connaître le contenu des messages constitue bien une « porte dérobée », puisque celle-ci disposera de nouvelles clés de déchiffrement, que le service de messagerie aura été obligé de fournir aux autorités (voir notamment les explications de l’ISOC). De plus, contrairement à ce qu’affirmait le ministre de l’intérieur, une telle modification impacterait nécessairement le service dans son intégralité et concernerait de fait tous·tes ses utilisateur·ices.

Cette mesure controversée a été supprimée… pour l’instant. Nous restons en effet prudent·es car les attaques contre le chiffrement sont récurrentes. Si les menaces se cantonnaient en général à des postures médiatiques de personnalités politiques, le rapport de force est constant et les stratégies autoritaires pour faire adopter de tels dispositifs sont régulièrement remises à l’ordre du jour. Que ce soit pour préparer leurs acceptabilité sociale ou pour faire diversion sur d’autres mesures, il n’empêche que ces attaques contre le chiffrement sont de plus en plus fréquentes et révèlent une volonté assumée des services de renseignement de voir, un jour, cette technologie mise au pas. C’est aussi et surtout au niveau européen qu’il faut être vigilant·es pour l’avenir. De nombreux pays (comme la Suède, le Danemark ou le Royaume-Uni) essayent également de mettre la pression sur les services de messagerie ou d’hébergement chiffrés. De leur côté, les institutions de l’Union européenne poussent plusieurs projets visant à affaiblir la confidentialité des communications, comme le règlement « Chat Control » ou le projet du groupe de travail « Going Dark ». C’est pour cela que montrer une forte résistance est crucial. Plus nous rendons le rapport de force coûteux pour les adversaires du chiffrement, plus nous montrons qu’il sera compliqué de revenir la prochaine fois.

Des conquêtes prudentes

D’autres mesures très dangereuses ont été supprimées par les membres de la commission des lois. Tel est ainsi le cas des articles 15 ter et 15 quater qui permettaient à la police judiciaire de compromettre la sécurité des objets connectés pour activer à distance des micros et des caméras. Une disposition quasi-identique avait été invalidée par le Conseil constitutionnel en 2023, ce qui semble avoir refroidi une majorité de député·es.

De la même manière, le « dossier coffre » prévu par l’article 16 a été supprimé. Cette mesure crée une atteinte inédite aux droits de la défense en empêchant les personnes poursuivies d’avoir accès aux procès-verbaux détaillant les mesures de surveillance les concernant, donc de les contester. À travers ce mécanisme de PV séparé, la police pourrait donc utiliser en toute opacité des outils très intrusifs (comme les logiciel-espions par exemple) sans jamais avoir à rendre de comptes auprès des personnes poursuivies.

Mais ces deux mesures ont été supprimées à seulement quelques voix près et sont défendues bec et ongles par le gouvernement, ce qui nous fait dire qu’elles vont très probablement être remises sur la table lors de l’examen en séance, ou ensuite en commission mixte paritaire.

De la même manière, nous avons fortement critiqué l’article 12 du texte qui prévoit l’extension de la censure administrative d’internet par la police. En l’état, cette mesure permettait aux agents de Pharos d’exiger le retrait de contenus liés à un champ très large d’infractions liées au trafic et à l’usage de drogues, comme « la provocation à l’usage de drogues ». Cela pouvait donc inclure aussi bien des extraits de films que des articles publiés sur des sites de réduction des risques. Les membres de la commission des lois ont drastiquement réduit le périmètre des infractions concernées par cette censure, qui est désormais limité aux publications relatives à la vente de drogues. Si cette avancée est bienvenue, il n’empêche que le mécanisme a été validé et continue de renforcer la capacité de l’État à censurer internet en dehors de tout contrôle judiciaire.

Pour ces trois mesures, nous restons donc très prudent·es car elles peuvent être rétablies dans leur version d’origine en hémicycle. La mobilisation auprès des député·es reste donc très importante.

Une loi qui reste dangereuse

De nombreuses autres mesures ont été votées : la collecte, et la conservation pendant une durée disproportionnée de cinq années, des informations d’identité de toute personne achetant notamment une carte SIM prépayée (article 12 bis), la banalisation des enquêtes administratives de sécurité pour l’accès à de nombreux emplois (article 22) ou l’utilisation des drones par l’administration pénitentiaires (article 23). Au-delà de ces mesures de surveillance, le texte renforce une vision très répressive de la détention, de la peine ou de la justice des mineurs et – comme le dénonce l’association Droit Au Logement – facilite les expulsions locatives.

L’élargissement du nombre des agents pouvant consulter le fichier TAJ (article 15) a en revanche été supprimée. Non pas pour le respect des libertés mais parce qu’en pratique ces accès sont déjà possibles.

Surtout, comme nous l’expliquons depuis le début de la mobilisation, cette proposition de loi s’applique à un champ bien plus large de situations que le seul trafic de drogues. En effet, elle modifie toutes les règles liées au régime dérogatoire de la délinquance et la criminalité organisées, qui sont fréquemment utilisées pour réprimer les auteurs et autrices d’actions militantes. Par exemple, les procureurs n’hésitent pas à mobiliser la qualification de « dégradation en bande organisée » pour pouvoir jouir de ces pouvoirs plus importants et plus attentatoires aux libertés publiques. Tel a été le cas pendant le mouvement des Gilets jaunes, lors de manifestations ou contre les militant·es ayant organisé des mobilisations contre le cimentier Lafarge. Ce cadre juridique d’exception s’applique également à l’infraction « d’aide à l’entrée et à la circulation de personnes en situation irrégulière en bande organisée », qualification qui a été utilisée contre des militant·es aidant des personnes exilées à Briançon, mais a ensuite été abandonnée lors du procès.

En l’état, la loi Narcotrafic reste donc fondamentalement la même : un texte qui utilise la question du trafic du drogue pour légitimer une extension de pouvoirs répressifs, aussi bien au bénéfice de la police judiciaire que de l’administration. Il faut donc continuer de lutter contre ce processus d’affaiblissement de l’État de droit et refuser cette narration jouant sur les peurs et le chantage à la surveillance. Nous avons eu beaucoup de retours de personnes qui ont contacté les député·es pour les pousser à voter contre la loi. Un grand merci à elles et eux ! Cela a très certainement dû jouer dans le retrait des mesures les plus dangereuses.

Il ne faut cependant pas s’arrêter là. La proposition de loi va désormais passer en hémicycle, c’est-à-dire avec l’ensemble des député·es, à partir du lundi 17 mars. Les propositions d’amendements seront publiées d’ici la fin de semaine et donneront une idée de la nature des débats à venir. En attendant, vous pouvez retrouver notre page de campagne mise à jour et les moyens de contacter les parlementaires sur la page de campagne dédiée. Vous pouvez aussi nous faire un don pour nous aider à continuer la lutte.

Dans les algorithmes bancaires

« Faux positifs » est une série de 3 épisodes de podcasts produits par Algorithm Watch et l’AFP, disponibles en français ou en anglais, et que vous trouverez sur la plupart des plateforme. Cette série pourrait être une enquête anodine et pourtant, c’est l’une des rares de disponible sur le sujet des défaillances des algorithmes bancaires. Les 3 épisodes explorent le problème du debanking ou débancarisation, c’est-à-dire le blocage et la fermeture automatisée de comptes bancaires, sans que vous n’y puissiez rien. Un phénomène qui touche des centaines de milliers de personnes, comme le montre cette grande enquête à travers l’Europe.

Dans les erreurs de la débancarisation

On ne sait pas grand chose des innombrables algorithmes qu’utilisent les banques, rappellent les journalistes de Faux positifs. La débancarisation repose sur des alertes automatisées développées par les banques et leurs prestataires sur les mouvements de comptes et leurs titulaires, mais elles semblent bien souvent mal calibrées. Et sans corrections appropriées, elles débouchent très concrètement sur la fermeture de comptes en banques. Le problème, comme souvent face aux problèmes des systèmes du calcul du social, c’est que les banques ne mettent en place ni garanties ni droits de recours pour ceux dont les comptes sont considérés comme suspects par les systèmes de calculs. Et le problème s’étend à bas bruit, car les clients chassés de leurs banques n’ont pas tendance à en parler.

Ça commence assez simplement par le blocage brutal du compte, racontent ceux qui y ont été confrontés. Impossible alors de pouvoir faire la moindre opération. Les usagers reçoivent un courrier qui leur annonce que leur compte sera clos sous deux mois et qu’ils doivent retirer leurs fonds. Bien souvent, comme dans d’autres problèmes du social, les banques annoncent être en conformité avec la réglementation dans leur décision voire nient le fait que la décision soit automatisée et assurent que la décision finale est toujours prise par un humain, comme l’exige la loi. Rien n’est pourtant moins sûr.

Comme ailleurs, les explications fournies aux usagers sont lacunaires, et elles le sont d’autant plus, que, comme quand on est soupçonné de fraude dans les organismes sociaux, le fait d’être soupçonné de malversation bancaire diminue vos possibilités de recours plutôt qu’elle ne les augmente. Visiblement, expliquent les journalistes, le blocage serait lié à des erreurs dans le questionnaire KYC (Know your customer, système de connaissance client), un questionnaire très exhaustif et intrusif, assorti de pièces justificatives, qui permet de certifier l’identité des clients et leur activité. Bien souvent, les défaillances sont liées au fait que l’activité ou l’identité des clients est mal renseignée. Certaines catégories, comme le fait de pratiquer l’échange de devises, sont considérées comme des activités à haut risques et sont plus susceptibles que d’autres de déclencher des alertes et blocages.

« Les saisines de l’autorité de surveillance des banques pour des plaintes liées à des fermetures de comptes en banques ont quadruplé en Espagne entre 2018 et 2022« , rapporte le pool de journalistes auteurs du podcast. « En novembre 2023, le New York Times a publié une enquête sur le même phénomène et au Royaume-uni, une hausse de 69% des plaintes a été constatée entre 2020 et 2024 par le médiateur des banques. En France, ce sont les associations du culte musulman qui ont tiré la sonnette d’alarme » et alertent sur la discrimination bancaire dont elles sont l’objet. Un tiers de ces associations auraient expérimenté des fermetures de comptes. Les associations cultuelles, les personnalités politiques et les réfugiés politiques semblent faire partie des catégories les plus débancarisées.

En 2024, le problème des associations cultuelles musulmanes n’est toujours pas réglé, confirment les associations, les empêchant de payer leurs loyers ou leurs charges. Ici aussi, les victimes se retrouvent face à un mur, sans recevoir d’explications ou de solutions. Si les banques ont le droit de fermer les comptes inactifs ou à découvert, elles doivent aussi respecter une réglementation très stricte pour lutter contre le blanchiment d’argent ou le financement du terrorisme, et les amendes sont très élevées pour celles qui ne respectent pas ces contraintes. En France, les banques doivent rapporter à Tracfin, la cellule de renseignement financier, les opérations douteuses qu’elles détectent. Les algorithmes bancaires repèrent des opérations sensées correspondre à certaines caractéristiques et seuils, développés par les banques ou des acteurs tiers, aux critères confidentiels. Ces logiciels de surveillance de la clientèle se sont déployés, et avec eux, les « faux positifs », rapportent les journalistes.

A la Banque postale, rapporte un cadre, chaque années, ce sont plusieurs dizaines de milliers d’opérations qui font l’objet d’alertes. Une fois analyse faite, si l’alerte se confirme, l’opération est déclarée à Tracfin, mais 95% des alertes ne débouchent sur aucun signalement. Dans les banques, à Paris, 17 à 20 000 personnes vérifient chaque jour ces alertes. Mais, visiblement, les rapports d’activité suspecte existent et ne sont pas sans conséquence sur les comptes. En fait, contrairement à ce qu’on pourrait penser, les faux positifs visent à surprotéger les banques contre les amendes réglementaires, en démontrant aux régulateurs qu’elles agissent, qu’importe si cette efficacité est très défaillante. Les faux positifs ne sont pas tant des erreurs, qu’un levier pour se prémunir des amendes. Finalement, les banques semblent encouragées à produire des faux positifs pour montrer qu’elles agissent, tous comme les organismes sociaux sont poussés à détecter de la fraude pour atteindre leurs objectifs de contrôle ou les systèmes de contrôle fiscaux automatisés sont poussés à atteindre certains niveaux d’automatisation. Le fait de débrancher des comptes, de soupçonner en masse semble finalement un moyen simple pour montrer qu’on agit. Pour la professeure Mariola Marzouk de Vortex Risk qui a quitté le secteur de la conformité réglementaire des banques, cette conformité est hypocrite et toxique. Les erreurs ne sont pas un bug, elles sont une fonctionnalité, qui protège les banques au détriment des usagers.

Faux positifs, la série de podcast d’Algorithm Watch et de l’AFP.

La débancarisation, outil bien commode de la réduction du risque

Le 2e épisode commence par revenir sur les Panama Papers et les scandales de l’évasion fiscale qui ont obligé les banques à renforcer leurs contrôles. Mais la véritable origine de la surveillance des comptes provient de la lutte contre le trafic de drogue, explique l’avocate Charlotte Gaudin, fondatrice de AML Factory, une entreprise qui aide les entreprises à lutter contre le blanchiment de capitaux et le financement du terrorisme, dans tous les secteurs, des banques, aux assurances, en passant par les notaires et avocats, aux entreprises de cryptomonnaies, qui « ont toutes l’obligation de surveiller leurs clients ». Pour Transparency International, les banques doivent surveiller les dépôts à risques, notamment provenance de pays à risques établis par le GAFI, le Groupe d’action financière, l’organisme mondial de surveillance du blanchiment de capitaux et du financement du terrorisme. Outre, le KYC, la surveillance des clients, il y aussi la surveillance des transactions (KYT, Know your transactions). Le KYC permet de générer un score client. Le KYT lui permet de regarder s’il y a des dépôts d’argents « décorélés de ce que vous êtes sensé gagner tous les mois ». Les dépôts d’espèces sont mécaniquement plus risqués que les dépôts par carte, par exemple. Quand un dépôt d’espèces semble suspect, la banque alerte Tracfin qui estime s’il faut prévenir la justice ou l’administration fiscale. Pour s’éviter des ennuis, la banque peut décider de fermer votre compte, sans avoir le droit de vous dire pourquoi pour que vous n’effaciez pas les preuves.

Le problème, c’est que cette réglementation font des banques des auxiliaires de police et de justice… Mais sans avoir les moyens ou les compétences de mener des enquêtes. Les banques, pour poursuivre leur but, gagner de l’argent, ont donc tendance à se débarrasser de tous clients qui pourraient les mettre en danger. « C’est ce qu’on appelle le « derisking » ». Pour Mariola Marzouk, « ces règles sont vraiment simplistes ». Elles peuvent dire qu’une ONG est à haut risque parce qu’elle envoie des fonds dans une zone de conflits. En janvier 2022, l’autorité bancaire européenne elle-même a lancé une alerte sur le risque du derisking. En 2023, le politicien britannique d’extrême-droite, Nigel Farage, s’est vu fermer ses comptes par sa banque et a lancé un appel à témoignage qui a rencontré beaucoup d’échos, montrant à nouveau l’étendue du problème. Tous les politiques sont jugés à hauts risques par ces systèmes et font l’objet de mesures de contrôles renforcés (on parle de PPE, Personnes politiquement exposées). Selon les données de l’autorité qui contrôle les banques et les marchés financiers au Royaume-Uni, 170 000 personnes ont vu leur compte en banque fermé en 2021-2022 en lien avec la lutte anti-blanchiment, alors que seulement 1083 personnes ont été condamné pour ce délit ces mêmes années selon l’Institut des affaires économiques britanniques.

En France aussi, les politiques sont sous surveillance. C’est arrivé au sénateur centriste du Tarn, Philippe Folliot, qui a même déposé une loi contre la fermeture abusive des comptes bancaires. Pour le sénateur, la débancarisation est liée à la déshumanisation, aux développement des robots bancaires et aux fermetures d’agences. Depuis la crise financière de 2008, le nombre de succursales bancaires en France est passé de 180 000 agences à 106 000 en 2023. Si l’on en croit le Canard Enchaîné, il y aurait d’autres raisons à la débancarisation du sénateur du Tarn, notamment les activités de sa compagne, d’autant que les banques semblent également utiliser les informations de la presse et des réseaux sociaux pour prolonger leurs informations. Mais quand bien même ces informations auraient pu jouer dans ce cas précis, les banques agissent ici sans mandat ni preuves. Cela montre, il me semble, la grande limite à confier à des acteurs des pouvoirs de police et de justice, sans assurer de possibilités de se défendre. Un peu comme l’on confie désormais aux Gafams la possibilité d’exclure des utilisateurs sans que ceux-ci ne puissent faire de recours. « Les banques de leur côté, ne nient pas qu’il puisse y avoir des difficultés, mais soulignent qu’elles ne font qu’appliquer la réglementation », souligne un acteur de la réglementation bancaire. Dans le cadre de PPE, se sont tous les proches qui sont placés sous-surveillance.

Pour l’expert américain Aaron Ansari de RangeForce, les décisions, aux Etats-Unis, sont automatisés en temps réel. Depuis les années 2010, quand un dépôt est effectué, les signalements sont immédiats… et si la marge d’erreur est faible, les comptes sont automatiquement fermés. En Europe, on nous assure que ce n’est pas le cas.

Sans issue ?

Le 3e épisode, évoque l’internationalisation du problème, en montrant que les banques peuvent débancariser des réfugiés politiques au prétexte qu’ils sont signalés comme terroristes par les pays autoritaires qu’ils ont fuit. La débancarisation est devenue un moyen pour exclure des opposants dans leurs pays et qui ont des effets au-delà de leurs pays d’origine.

Yasir Gökce, réfugié turc en Allemagne, estime que nombre d’opposants turcs en Europe sont débancarisés du fait que les banques utilisent des informations provenant de courtiers en données pour alimenter leurs algorithmes de débancarisation, sans toujours les trier. Des données turques assignent les opposants comme terroristes et ces termes restent dans les fiches nominatives des courtiers. Les banques les utilisent pour évaluer les risques, et à moins de prêter une attention particulière à ces données pour les désactiver, génèrent des scores de risque élevés…

Le grand problème, c’est que les citoyens confrontés à ces décisions n’ont pas de recours. Faire modifier leur fiches KYC ne leur est souvent même pas proposé. Pour Maíra Martini de Transparency International, « les institutions financières n’ont pas à rechercher de preuves. Ce n’est pourtant pas à elles de décider si des personnes sont ou pas criminelles ».

« Les institutions financières n’arrivent donc pas toujours à corriger les erreurs de leurs systèmes algorithmiques et faire appel de ces décisions fondées sur leurs calculs ou sur leur aversion au risque peut-être très compliqué. C’est un problème que l’on retrouve ailleurs : dans l’aide social, dans l’éducation, les ressources humaines. » Les citoyens ne savent pas à qui s’adresser pour demander un réexamen de leurs cas. En fait, bien souvent, la possibilité n’est même pas proposée. Dans les boucles absurdes des décisions automatisées, bien souvent, l’usager est laissé sans recours ni garantie. « Les boutons Kafka » qu’évoquait l’avocate hollandaise Marlies van Eck pour permettre aux administrés de s’extraire de situations inextricables, n’est toujours pas une option.

Maíra Martini estime que les institutions financières devraient motiver leurs décisions. Les autorités de contrôle devraient également mieux évaluer les fermetures de compte, demander aux banques des statistiques annuelles, pour connaître les types de comptes et de personnes touchées, la proportion de fermeture par rapport aux condamnations… Empêcher que les abus ne se cachent derrière l’envolée des « faux positifs ». Et que les « faux positifs » ne deviennent partout une solution à la minimisation des risques. Bref, peut-être un peu mieux surveiller le niveau de derisking afin qu’il ne soit pas le prétexte d’une discrimination en roue libre.

Hubert Guillaud

Prenez le temps d’aller écouter les 3 épisodes de « Faux positifs », pilotés par Naiara Bellio d’Algorithm Watch et Jean-Baptiste Oubrier pour l’Agence France-Presse. Signalons que les journalistes invitent les victimes de débancarisation à témoigner par message audio sur whatsapp au + 33 6 79 77 38 45 ou par mail : podcast@afp.com

La loi Narcotrafic est une loi de surveillance : mobilisons nous !

La semaine prochaine, l’Assemblée nationale discutera d’une proposition de loi relative au « narcotrafic ». Contrairement à ce que le nom du texte indique, les mesures qui pourraient être adoptées vont bien au-delà du seul trafic de stupéfiants. En réalité, son champ d’application est si large qu’il concernerait également la répression des mouvements militants. Cette loi prévoit de légaliser de nombreuses mesures répressives. Si elle était adoptée, elle hisserait la France en tête des pays les plus avancés en matière de surveillance numérique.

C’est l’un des textes les plus dangereux pour les libertés publiques proposés ces dernières années. En réaction, et face à un calendrier législatif extrêmement resserré, La Quadrature du Net lance aujourd’hui une campagne de mobilisation pour lutter contre la loi Narcotrafic. Le but est d’abord d’informer sur le contenu de ce texte, en faisant en sorte que les mesures techniques et répressives qu’il cherche à légaliser soient compréhensibles par le plus grand nombre. Nous souhaitons également dénoncer l’instrumentalisation de la problématique du trafic de stupéfiants — une « guerre contre la drogue » qui, là encore, a une longue histoire bardée d’échecs — pour pousser des mesures sécuritaires bien plus larges, à grand renfort de discours sensationnalistes. Notre page de campagne répertorie ainsi différents décryptages, des ressources, mais aussi des outils pour contacter les député⋅es et les alerter sur les nombreux dangers de cette proposition de loi. Nous avons pour l’occasion décidé de renommer cette loi « Surveillance et narcotraficotage » tant elle est l’espace fourre-tout d’une large panoplie sécuritaire.

Parmi les mesures proposées et largement retravaillées par le ministre de l’Intérieur Bruno Retailleau, on retrouve l’extension de la surveillance du réseau par algorithmes, la censure administrative d’Internet ou encore l’instauration d’une procédure de surveillance secrète échappant aux débats contradictoires et largement dénoncée par la profession des avocat·es. Au gré de son examen au Sénat, la proposition de loi n’a fait qu’empirer, incluant de nouvelles techniques de surveillance extrêmement intrusives, comme l’espionnage à travers les caméras et micros des personnes via le piratage de leurs appareils et l’obligation pour les messageries chiffrées de donner accès au contenu des communications. Cette dernière mesure va à contre-courant des recommandations de nombreuses institutions et pourrait conduire à l’éviction de France de services comme Signal ou Whatsapp ou d’abaisser leur niveau de sécurité, comme Apple vient d’être contraint de le faire pour ses produits au Royaume-Uni. Ces dispositions ne sont nullement limitées aux trafiquants de drogue : la police peut y avoir recours pour l’ensemble de la « criminalité organisée », un régime juridique extrêmement large qui est notamment utilisé dans la répression des actions militantes.

Face à cela, les groupes politiques au Sénat ont voté à l’unanimité pour ce texte — y compris à gauche. La Quadrature du Net appelle les élu·es à se réveiller et à réaliser la gravité des enjeux posés par ce texte. La lutte contre le trafic de stupéfiants ne peut pas servir à justifier des atteintes aussi graves aux principes fondateurs de la procédure pénale, ni à banaliser des pouvoirs de surveillance aussi intrusifs et qui pourraient encore être étendus à l’avenir.

Pour prendre connaissance de nos arguments, de nos ressources ainsi que des coordonnées des député⋅es pour les contacter, rendez-vous sur notre page de campagne : laquadrature.net/narcotraficotage

La reconnaissance faciale : un projet politique

Suite de notre plongée dans le livre de Kashmir Hill, « Your face belongs to us ». Après avoir observé l’histoire du développement de la reconnaissance faciale, retour sur l’enquête sur le développement de Clearview, la startup de la reconnaissance faciale. 2e partie.


Clearview, un outil d’investissement idéologique

Le cœur du livre de Kashmir Hill, Your face belongs to us, est consacré à l’histoire de l’entreprise Clearview. Hill rappelle que lorsqu’elle entend parler de cette entreprise jusqu’alors inconnue, face au silence qu’elle reçoit de ses fondateurs, elle contacte alors des policiers qui lui en font immédiatement les louanges : Clearview parvient à identifier n’importe qui, lui expliquent-ils ! Pourtant, quand ils entrent une photo de la journaliste dans le moteur, celui-ci ne fournit aucune réponse, alors que de nombreuses images d’elle sont disponibles en ligne, ce qui devrait permettre de la réidentifier facilement. En fait, ce n’est pas que la journaliste n’est pas dans la base, mais que toute recherche sur elle est protégée et déclenche même une alerte quand quelqu’un s’y essaye. 

Cette anecdote permet de montrer, très concrètement, que ceux qui maintiennent la base disposent d’un pouvoir discrétionnaire immense, pouvant rendre des personnes totalement invisibles à la surveillance. Les constructeurs de Clearview peuvent voir qui est recherché par qui, mais également peuvent contrôler qui peut-être retrouvé. Cet exemple est vertigineux et souligne que les clefs d’un tel programme et d’un tel fichier sont terribles. Que se passera-t-il quand le suspect sera le supérieur d’un agent ? Qui pour garantir l’incorruptibilité d’un tel système ? On comprend vite que dans une société démocratique, un tel outil ne peut pas être maintenu par une entreprise privée, hormis si elle est soumise à des contrôles et des obligations des plus rigoureux – et le même problème se pose si cet outil est maintenu par une entité publique. Ce qui n’est absolument pas le cas de Clearview. 

Hill raconte longuement l’histoire de la rencontre des cofondateurs de Clearview. Elle souligne le fait que ceux-ci se rencontrent du fait de leurs opinions politiques, lors de réunions et de meetings en soutien à la candidature de Donald Trump à l’été 2016. Hoan Ton-That, le développeur et confondateur de Clearview, fasciné par le candidat républicain, prend alors des positions politiques racistes que ses amis ne lui connaissaient pas. C’est via les réseaux républicains qu’il rencontre des personnages encore plus radicaux que lui, comme Peter Thiel, le milliardaire libertarien qui sera le premier financeur du projet, ou encore Richard Schwartz, qui deviendra son associé. Si les deux cofondateurs de Clearview ne sont pas des idéologues, le produit qu’ils vont imaginer correspond néanmoins aux convictions politiques de l’extrême-droite américaine dont ils se revendiquent à cette époque. L’entreprise va d’ailleurs particulièrement attirer (et aller chercher) des investisseurs au discours politique problématique, comme Paul Nehlen, tenant du nationalisme blanc. 

C’est en voyant fonctionner l’application russe de reconnaissance faciale FindFace, qui permet de retrouver les gens inscrits sur VKontakte, le réseau social russe, que Ton-That a l’idée d’un produit similaire. En novembre 2016, il enregistre le site web smartcherckr.com. Le projet se présente alors comme un système de réidentification depuis une adresse mail ou une image, permettant d’inférer les opinions politiques des gens… dans le but « d’éradiquer les gauchistes » ! 

Si depuis les discours des fondateurs se sont policés, nous avons là des gens très conservateurs, qui tiennent des propos d’extrême-droite et qui vont concevoir un outil porteur de ces mêmes valeurs. La reconnaissance faciale et ceux qui la portent sont bien les révélateurs d’une idéologie : ils relèvent tout à fait du technofascisme que dénonce le journaliste Thibault Prévost dans son livre, Les prophètes de l’IA. Et nul ne peut faire l’économie du caractère fasciste que porte la possibilité de réidentifier n’importe qui, n’importe quand pour n’importe quelle raison. C’est d’ailleurs là l’héritage de la reconnaissance faciale, inspirée des théories racistes de Francis Galton, qui va donner naissance à la police scientifique d’Alphonse Bertillon, comme à l’eugénisme et à la phrénologie d’un Cesare Lombroso. L’analyse des traits distinctifs des être humains est d’abord et reste le moyen de masquer le racisme sous le vernis d’une rigueur qui se veut scientifique. Hill suggère (sans jamais le dire) que Clearview est un projet politique. 

Clearview, un outil de contournement du droit

Hill souligne un autre point important. Elle n’est pas tendre avec l’arrivisme du jeune informaticien australien Hoan Ton-That qui se fait un nom en créant des outils de phishing via des quizz pour Facebook et des jeux pour iPhone. Elle montre que celui-ci n’a pas beaucoup de conscience morale et que le vol des données, comme pour bien de porteurs de projets numériques, n’est qu’un moyen de parvenir à ses fins. Dès l’origine, Ton-That mobilise le scraping pour construire son produit. Derrière ce joli mot, la pratique consiste à moissonner des contenus en ligne, sauf que cette récolte consiste à ramasser le blé qui a poussé sur les sites web des autres, sans le consentement des sites que l’on pille ni celui des utilisateurs dont on vole les données. En juin 2017, une première version de l’outil de recherche de visage est lancée, après avoir pillé quelque 2,1 millions de visages provenant de plusieurs services en ligne, comme Tinder. A la fin 2018, elle comportera plus de 2 milliards d’images. L’entreprise qui a changé de nom pour Clearview, dispose alors d’un produit robuste. Seuls Facebook et Google disposent de plus de portraits que lui. 

Certes, Clearview a volé toutes les images disponibles. Facebook, Google ou Linked-in vont officiellement protester et demander l’effacement des images volées. Reste que les géants n’intentent aucun procès à la startup. Il faut dire que les entreprises de la Tech sont en effet refroidies par les échecs de Linked-in à lutter contre le scraping. Dans un bras de fer avec une entreprise qui a moissonné les données du réseau social, Linked-in a été débouté en 2017 par un jugement confirmé en appel en 2019. Le tribunal de Californie a déclaré qu’il était légal de collecter des informations publiques disponibles sur le net. Le jugement a gelé les ardeurs des géants à lutter contre un phénomène… qu’ils pratiquent eux-même très largement.  

Hill pointe également que Ton-That n’est pas un génie du développement. Comme nombre d’ingénieurs, non seulement il vole les données, mais il a recours à des outils existants pour développer son application, comme OpenFace. Ton-That n’a pas d’états d’âme. Si les géants de la Tech refusent de sortir un produit de réidentification, c’est parce qu’ils ont peur des retombées désastreuses d’un tel outil, en termes d’image. Ce n’est pas le cas de Ton-That. 

Reste que c’est bien la qualité de l’application qui va convaincre. Clearview permet d’identifier des gens dans la foule quelles que soient les conditions (ou presque). Pour tous ceux qui l’essayent, l’application semble magique. C’est à ce moment que les investisseurs et les clients se précipitent… D’abord et avant tout des investisseurs libertariens, très marqués politiquement. Pourtant, ceux-ci sont conscients que l’application risque d’avoir des problèmes avec les régulateurs et va s’attirer des poursuites en justice. Mais le risque semble plutôt les convaincre d’investir. Hill sous-entend par là un autre enjeu majeur : l’investissement s’affole quand les produits technologiques portent des enjeux de transformation légale. Si les capitaux-risqueurs ont tant donné à Uber, c’est certainement d’abord parce que l’entreprise permettait d’agir sur le droit du travail, en le contournant. C’est l’enjeu de modification des règles et des normes que promettent les outils qui muscle l’investissement. C’est parce que ces technologies promettent un changement politique qu’elles sont financées. Pour les investisseurs de Clearview, « pénétrer dans une zone de flou juridique constitue un avantage commercial ». Hill suggère une fois encore une règle importante. L’investissement technologique est bien plus politique qu’on ne le pense. 

Mais, il n’y a pas que les investisseurs qui vont voir dans Clearview un outil pour contourner les normes. Ses clients également. 

Après avoir tenté d’élargir le recrutement de premiers clients, Clearview va le resserrer drastiquement. Au-delà du symbole, son premier client va être la police de New York. Mais là encore, Clearview ne rencontre pas n’importe quels policiers. L’entreprise discute avec des officiers qui ont soutenu les théories problématiques de la vitre brisée, des officiers qui ont promu le développement du Big data dans la police et notamment les systèmes tout aussi problématiques de police prédictive. C’est donc par l’entremise de policiers radicaux, eux aussi très marqués à droite, que Clearview signe, en décembre 2018, un contrat avec la police de New York. Le contrat demande que l’entreprise prenne des engagements en matière de sécurité et de contrôle des agents qui l’utilisent. Le nombre de requêtes sur l’application décolle. Pourtant, après 6 mois de tests et plus 11 000 requêtes, la police de New York renonce à poursuivre le contrat. Elle aussi est inquiète de la perception par l’opinion publique. Sa direction a plus de pudeurs que les officiers qui ont permis le rapprochement entre la startup et la police. D’autres départements de police n’auront pas ces pudeurs. L’Indiana, la Floride, le Tennessee vont se mettre à utiliser Clearview. Viendront Londres puis le Département américain de la sécurité intérieure. Des agences du monde entier testent l’outil et l’adoptent : Interpol, la police australienne, canadienne… Clearview multiplie les contrats alors que l’entreprise est encore totalement inconnue du grand public. Malgré ces contrats publics, l’entreprise reste sous les radars. Assurément, parce que son usage permet là aussi pour ses clients de s’affranchir des règles, des normes et des modalités d’examen public en vigueur. Alors que la reconnaissance faciale est une technologie sulfureuse, l’abonnement discret à Clearview permet de le rendre invisible. La zone de flou de légalité profite à tous. 

Discrètement, la reconnaissance faciale est advenue

En 2017, un militant de l’ACLU entend parler de Rekognition, l’outil de reconnaissance faciale développé par Amazon et lance une campagne à son encontre. L’ACLU lance l’outil sur les photos de 535 membres du Congrès et en identifie faussement 28 comme des criminels connus des services de police. L’ACLU lance sa campagne pour interdire la surveillance des visages, que quelques villes adopteront, comme San Francisco ou Oakland. Pour Clearview, ces controverses sont préjudiciables. La startup va alors utiliser le même test sur son propre produit qui ne déclenche aucune erreur et identifie parfaitement les 535 membres du Congrès. D’ailleurs, quand on met une photo provenant du site This Person Does not exist dans Clearview, l’application ne produit aucun résultat ! 

Bien sûr, Kashmir Hill rappelle que des Américains qui ont été et continuent d’être indûment arrêtés à cause de la reconnaissance faciale. Mais ces rares exemples semblent n’avoir plus grand poids. Le Nist qui a testé quelque 200 algorithmes de reconnaissance faciale a montré qu’il y avait de fortes variations selon les produits. 

En décembre 2021, Clearview a soumis son algorithme au NIST pour évaluation. Son logiciel de reconnaissance facial a obtenu parmi les meilleurs résultats. 

Pour les médias, ces variations dans les résultats des outils de reconnaissance faciale montrent que la reconnaissance faciale est biaisée, mais elles montrent plutôt qu‘il y a de bons algorithmes et de mauvais. Le NIST dispose de 2 sortes de tests, le premier pour comparer deux images et déterminer si le système est capable d’identifier une même personne et le second pour chercher un visage particulier dans une base de données remplie de visages. Contrairement à ce que l’on pense, les pires biais se trouvent plutôt dans le premier cas, où les systèmes ont du mal avec à reconnaître les sujets féminin, noirs ou asiatiques. « Reste que, aussi précis qu’ils soient, les algorithmes de reconnaissance faciale déployés dans des sociétés inégalitaires et structurellement racistes vont produire des résultats racistes ». Les personnes faussement arrêtées par la reconnaissance faciale étaient toutes noires, rappelle Hill. Ce qui est une preuve supplémentaire, non seulement de ses défauts, mais plus encore de son ancrage idéologique. 

L’exemple du développement de Clearview nous rappelle en tout cas qu’il n’y a pas de neutralité technologique. Les outils ne sont pas des outils qui dépendent des usages qu’on en fait, comme le dit l’antienne. Ils ont des fonctionnalités spécifiques qui embarquent des idéologies. L’essor de Clearview nous montre très bien qu’il est un instrument au service d’un projet politique. Et que quelques soient ses défauts ou ses qualités, la reconnaissance faciale sert des objectifs qui ne sont pas que ceux, financiers, d’une classe sociale qui a intérêt à son succès, mais bien avant tout, ceux, politiques, d’idéologues qui ont un projet. Et ce projet, on l’a vu, n’est pas celui de construire une société apaisée, mais son exact contraire : faire avancer, dans l’ombre, les technologies nécessaires à l’avènement de la dissolution de l’Etat de droit.

(à suivre)

La reconnaissance faciale, l’enjeu du siècle

Avec cet article, nous nous lançons dans un dossier que nous allons consacrer à la reconnaissance faciale et au continuum sécuritaire. Première partie.

Your face belongs to us (Random House, 2023), le livre que la journaliste du New York Times, Kashmir Hill, a consacré à Clearview, l’entreprise leader de la reconnaissance faciale, est une plongée glaçante dans la dystopie qui vient. 

Jusqu’à présent, j’avais tendance à penser que la reconnaissance faciale était problématique d’abord et avant tout parce qu’elle était défaillante. Elle est « une technologie qui souvent ne marche pas », expliquaient Mark Andrejevic et Neil Selwyn (Facial Recognition, Wiley, 2022), montrant que c’est souvent dans son implémentation qu’elle défaille. La juriste, Clare Garvie, faisait le même constat. Si l’authentification (le fait de vérifier qu’une personne est la même que sur une photo) fonctionne mieux que l’identification (le fait de retrouver une personne dans une banque d’image), les deux usages n’ont cessé ces dernières années de montrer leurs limites.

Mais les choses évoluent vite.

L’une des couvertures du livre de Kashmir Hill.

« Le plus grand danger de la reconnaissance faciale vient du fait qu’elle fonctionne plutôt très bien »

Dans leur livre, AI Snake Oil, les spécialistes de l’intelligence artificielle, Arvind Narayanan et Sayash Kapoor, soulignent pourtant que le taux d’erreur de la reconnaissance faciale est devenu négligeable (0,08% selon le NIST, l’Institut national des normes et de la technologie américain). « Quand elle est utilisée correctement, la reconnaissance faciale tend à être exacte, parce qu’il y a peu d’incertitude ou d’ambiguïté dans la tâche que les machines doivent accomplir ». Contrairement aux autres formes d’identification (identifier le genre ou reconnaître une émotion, qui sont bien plus sujettes aux erreurs), la différence cruciale c’est que l’information requise pour identifier des visages, pour les distinguer les uns des autres, est présente dans les images elles-mêmes. « Le plus grand danger de la reconnaissance faciale vient du fait qu’elle fonctionne plutôt très bien » et c’est en cela qu’elle peut produire énormément de dommages. 

Le risque que porte la reconnaissance faciale repose tout entier dans la façon dont elle va être utilisée. Et de ce côté là, les dérives potentielles sont innombrables et inquiétantes. Gouvernements comme entreprises peuvent l’utiliser pour identifier des opposants, des personnes suspectes mais convaincues d’aucuns délits. Certes, elle a été utilisée pour résoudre des affaires criminelles non résolues avec succès. Certes, elle est commode quand elle permet de trier ou d’organiser ses photos… Mais si la reconnaissance faciale peut-être hautement précise quand elle est utilisée correctement, elle peut très facilement être mise en défaut dans la pratique. D’abord par ses implémentations qui peuvent conduire à y avoir recours d’une manière inappropriée et disproportionnée. Ensuite quand les images ne sont pas d’assez bonnes qualités, au risque d’entraîner tout le secteur de la sécurité dans une course sans limites à toujours plus de qualité, nécessitant des financements disproportionnés et faisant peser un risque totalitaire sur les libertés publiques. Pour Narayanan et Kapoor, nous devons avoir un débat vigoureux et précis pour distinguer les bons usages des usages inappropriés de la reconnaissance faciale, et pour développer des gardes-fous pour prévenir les abus et les usages inappropriés tant des acteurs publics que privés. 

Certes. Mais cette discussion plusieurs fois posée n’a pas lieu. En 2020, quand la journaliste du New York Times a commencé ses révélations sur Clearview, « l’entreprise qui pourrait mettre fin à la vie privée », le spécialiste de la sécurité, Bruce Schneier avait publié une stimulante tribune pour nous inviter à réglementer la ré-identification biométrique. Pour lui, nous devrions en tant que société, définir des règles pour déterminer « quand une surveillance à notre insu et sans notre consentement est permise, et quand elle ne l’est pas », quand nos données peuvent être combinées avec d’autres et quand elles ne peuvent pas l’être et enfin savoir quand et comment il est permis de faire de la discrimination biométrique et notamment de savoir si nous devons renforcer les mesures de luttes contre les discriminations qui vont se démultiplier avec cette technologie et comment. En France, à la même époque, le sociologue Laurent Mucchielli qui avait fait paraître son enquête sur la vidéosurveillance (Vous êtes filmés, Dunod, 2018 – voir notre compte-rendu de l’époque, désabusé), posait également sur son blog des questions très concrètes sur la reconnaissance faciale : « Quelle partie de la population serait fichée ? Et qui y aurait accès ? Voilà les deux problèmes. » Enfin, les deux professeurs de droit, Barry Friedman (auteur de Unwarranted : policing without permission, 2017) et Andrew Guthrie Ferguson, (auteur de The Rise of Big Data policing, 2017) condamnaient à leur tour, dans une tribune pour le New York Times, « la surveillance des visages » (c’est-à-dire, l’utilisation de la reconnaissance faciale en temps réel pour trouver où se trouve quelqu’un) mais reconnaissaient que l’identification faciale (c’est-à-dire la réidentification d’un criminel, uniquement pour les crimes les plus graves), elle, pourrait être autorisée. Ils y mettaient néanmoins une condition : la réidentification des visages ne devrait pas être autorisée sans décision de justice et sans sanction en cas d’utilisation abusive. Mais, à nouveau, ce n’est pas ce qui s’est passé. La reconnaissance faciale s’est déployée sans contraintes et sans limites. 

Les dénonciations comme les interdictions de la reconnaissance faciale sont restées éparses. Les associations de défense des libertés publiques ont appelé à des moratoires et mené des campagnes pour l’interdiction de la reconnaissance faciale, comme Ban Facial Recognition aux Etats-Unis ou Reclaim your face en Europe. Souvent, ces interdictions restent circonscrites à certains types d’usages, notamment les usages de police et de surveillance d’État, oubliant les risques que font courir les outils de surveillance privée. 

Reste que le débat public sur son implémentation et ses modalités est inexistant. Au lieu de débats de sociétés, nous avons des « expérimentations » qui dérogent au droit, des déploiements épars et opaques (plus de 200 autorités publiques par le monde sont clientes de Clearview qui n’est qu’un outil parmi une multitude de dispositifs plus ou moins efficaces, allant de la reconnaissance faciale, à la vidéosurveillance algorithmique), et surtout, un immense déni sur les enjeux de ces technologies. Au final, nous ne construisons aucune règle morale sur son utilité ou son utilisation. Nous faisons collectivement l’autruche et son utilisation se déploie sans cadres légaux clairs dans un continuum de technologies sécuritaires et problématiques, allant des drones aux technologies de contrôle de l’immigration.

Une histoire de la reconnaissance faciale : entre amélioration par à-coups et paniques morales à chaque amélioration

Dans son livre, Your face belongs to us, Kashmir Hill alterne à la fois une histoire de l’évolution de la technologie et une enquête sur le développement de Clearview.

Sur cette histoire, Hill fait un travail qui met en exergue des moments forts. Elle rappelle d’abord que le terme de vie privée, définit à l’origine comme le droit d’être laissé tranquille par les juristes américains Samuel Warren et Louis Brandeis, était inspiré par la création de la pellicule photographique par Kodak, qui promettait de pouvoir sortir l’appareil photo des studios où il était jusqu’alors confiné par son temps de pause très long. Dans cette longue histoire de la reconnaissance faciale, Hill raconte notamment l’incroyable histoire du contrôle des tickets de trains américains dans les années 1880, où les contrôleurs poinçonnaient les tickets selon un codage réduit (de 7 caractéristiques physiques dont le genre, l’âge, la corpulence…) permettant aux contrôleurs de savoir si le billet contrôlé correspondait bien à la personne qui l’avait déjà présenté. Bien évidemment, cette reconnaissance humaine et basique causa d’innombrables contestations, tant ces appréciations d’un agent à un autre pouvaient varier. Mais la méthode aurait inspiré Herman Hollerith, qui va avoir l’idée de cartes avec des perforations standardisées et va adapter la machine pour le recensement américain, donnant naissance à l’entreprise qui deviendra IBM. 

Hill surfe sur l’histoire de l’IA, des Perceptrons de Marvin Minsky, à Panoramic, l’entreprise lancée dans les années 60 par Woody Bledsoe, qui va être la première, à la demande de la CIA, à tenter de créer un outil de reconnaissance des visages simplifié, en créant une empreinte de visages comme autant de points saillants. Elle raconte que les améliorations dans le domaine vont se faire avec l’amélioration de la qualité et de la disponibilité des images et de la puissance des ordinateurs, à l’image des travaux de Takeo Kanade (dans les années 70, pour l’entreprise japonaise NEC), puis de Matthew Turk qui va bénéficier de l’amélioration de la compression des images. Accusé d’être à la tête d’un programme Orwellien, Turk s’en défendra pourtant en soulignant qu’enregistrer les informations sur les gens qui passent devant une caméra est surtout bénin. A croire que notre déni sur les conséquences de cette technologie remonte à loin.

En 2001, lors du Super Bowl, plusieurs entreprises, dont Viisage Technology et Raytheon, communiquent sur le fait qu’elles ont sécurisé l’accès au stade grâce à la reconnaissance faciale, identifiant 19 spectateurs avec un passé criminel. Viisage a récupéré la technologie de Turk et l’a commercialisé pour des badges d’identification pour entreprises. Ces déploiements technologiques, financés par les agences fédérales, commencent à inquiéter, notamment quand on apprend que des entreprises y ont recours, comme les casinos. Reste que la technologie est encore largement défaillante et peine bien souvent à identifier quiconque.

Mais le 11 septembre a changé la donne. Le Patriot Act permet aux agences du gouvernement d’élargir leurs accès aux données. Joseph Atick, cofondateur de Visionics, une autre entreprise du secteur, propose sa technologie aux aéroports pour rassurer les voyageurs. Il sait que celle-ci n’est pas au point pour identifier les terroristes, mais il a besoin des données pour améliorer son logiciel. Bruce Schneider aura beau dénoncer le « théâtre de la sécurité« , l’engrenage sécuritaire est lancé… Face à ses déploiements, les acteurs publics ont besoin d’évaluer ce qu’ils achètent. Jonathon Philips du National Institute of Standards and Technology (Nist) créée une base de données de visages de très bonne qualité sous différents angles, « Feret », pour tester les outils que vendent les entreprises. Il inaugure un concours où les vendeurs de solutions sont invités à montrer qui parvient à faire le mieux matcher les visages aux photos. En 2001, le premier rapport du Nist montre surtout qu’aucune entreprise n’y parvient très bien. Aucune entreprise n’est capable de déployer un système efficace, mais cela ne va pas les empêcher de le faire. Les meilleures entreprises, comme celle d’Atick, parviennent à faire matcher les photos à 90%, pour autant qu’elles soient prises dans des conditions idéales. Ce qui tient surtout de l’authentification faciale fonctionne également mieux sur les hommes que sur les femmes, les personnes de couleurs ou les jeunes. En 2014, le FBI lance à son tour un concours pour rendre sa base d’images de criminels cherchable, mais là encore, les résultats sont décevants. La technologie échoue dès qu’elle n’est pas utilisée dans des conditions idéales.

En 2006, le juriste de l’ACLU James Ferg-Cadima découvre dans une grande surface la possibilité de payer depuis son empreinte digitale. Face à de tels dispositifs, s’inquiète-t-il, les consommateurs n’ont aucun moyen de protéger leurs empreintes biométriques. Quand son mot de passe est exposé, on peut en obtenir un nouveau, mais nul ne peut changer son visage ou ses empreintes. Le service « Pay by Touch », lancé en 2002 fait faillite en 2007, avec le risque que sa base d’empreintes soit vendue au plus offrant ! Avec l’ACLU, Ferg-Cadima œuvre alors à déployer une loi qui oblige à recevoir une permission pour collecter, utiliser ou vendre des informations biométriques : le Biometric Information Privacy Act (Bipa) que plusieurs Etats vont adopter.

En 2009, Google imagine des lunettes qui permettent de lancer une recherche en prenant une photo, mais s’inquiète des réactions, d’autant que le lancement de Street View en Europe a déjà terni son image de défenseur de la vie privée. La fonctionnalité de reconnaissance faciale existe déjà dans Picasa, le service de stockage d’images de Google, qui propose d’identifier les gens sur les photos et que les gens peuvent labelliser du nom de leurs amis pour aider le logiciel à progresser. En 2011, la fonctionnalité fait polémique. Google l’enterre. 

A la fin des années 90, l’ingénieur Henry Schneiderman accède à Feret, mais trouve que la base de données est trop parfaite pour améliorer la reconnaissance faciale. Il pense qu’il faut que les ordinateurs soient d’abord capables de trouver un visage dans les images avant qu’ils puissent les reconnaître. En 2000, il propose d’utiliser une nouvelle technique pour cela qui deviendra en 2004, PittPatt, un outil pour distinguer les visages dans les images. En 2010, le chercheur Alessandro Acquisti, fasciné par le paradoxe de la vie privée, lance une expérience en utilisant PittPatt et Facebook et montre que ce croisement permet de ré-identifier tous les étudiants qui se prêtent à son expérience, même ceux qui n’ont pas de compte Facebook, mais qui ont été néanmoins taggés par leurs amis dans une image. Acquisti prédit alors la « démocratisation de la surveillance » et estime que tout le monde sera demain capable d’identifier n’importe qui. Pour Acquisti, il sera bientôt possible de trouver le nom d’un étranger et d’y associer alors toutes les données disponibles, des sites web qu’il a visité à ses achats en passant par ses opinions politiques… et s’inquiète du fait que les gens ne pourront pas y faire grand chose. Pour le professeur, d’ici 2021 il sera possible de réidentifer quelqu’un depuis son visage, prédit-il. Acquisti s’est trompé : la fonctionnalité a été disponible bien plus tôt !  

En 2011, PittPatt est acquise par Google qui va s’en servir pour créer un système pour débloquer son téléphone. En décembre 2011, à Washington se tient la conférence Face Facts, sponsorisée par la FTC qui depuis 2006 s’est doté d’une petite division chargée de la vie privée et de la protection de l’identité, quant, à travers le monde, nombre d’Etats ont créé des autorités de la protection des données. Si, suite à quelques longues enquêtes, la FTC a attaqué Facebook, Google ou Twitter sur leurs outils de réglages de la vie privée défaillants, ces poursuites n’ont produit que des arrangements amiables. A la conférence, Julie Brill, fait la démonstration d’un produit de détection des visages que les publicitaires peuvent incorporer aux panneaux publicitaires numériques urbains, capable de détecter l’âge où le genre. Daniel Solove fait une présentation où il pointe que les Etats-Unis offrent peu de protections légales face au possible déploiement de la reconnaissance faciale. Pour lui, la loi n’est pas prête pour affronter le bouleversement que la reconnaissance faciale va introduire dans la société. Les entreprises se défendent en soulignant qu’elles ne souhaitent pas introduire de systèmes pour dé-anonymiser le monde, mais uniquement s’en servir de manière inoffensive. Cette promesse ne va pas durer longtemps…

En 2012, Facebook achète la startup israélienne Face.com et Zuckerberg demande aux ingénieurs d’utiliser Facebook pour « changer l’échelle » de la reconnaissance faciale. Le système de suggestions d’étiquetage de noms sur les photos que les utilisateurs chargent sur Facebook est réglé pour n’identifier que les amis, et pas ceux avec qui les utilisateurs ne sont pas en relation. Facebook assure que son outil ne sera jamais ouvert à la police et que le réseau social est protégé du scraping. On sait depuis que rien n’a été moins vrai. Après 5 ans de travaux, en 2017, un ingénieur de Facebook provenant de Microsoft propose un nouvel outil à un petit groupe d’employés de Facebook. Il pointe la caméra de son téléphone en direction d’un employé et le téléphone déclame son nom après l’avoir reconnu. 

A Stanford, des ingénieurs ont mis au point un algorithme appelé Supervision qui utilise la technologie des réseaux neuronaux et qui vient de remporter un concours de vision par ordinateur en identifiant des objets sur des images à des niveaux de précision jamais atteints. Yaniv Taigman va l’utiliser et l’améliorer pour créer DeepFace. En 2014, DeepFace est capable de faire matcher deux photos d’une même personne avec seulement 3% d’erreurs, même si la personne est loin dans l’image et même si les images sont anciennes. En 2015, DeepFace est déployé pour améliorer l’outil d’étiquetage des images de Facebook. 

En 2013, les révélations d’Edward Snowden changent à nouveau la donne. D’un coup, les gens sont devenus plus sensibles aux incursions des autorités à l’encontre de la vie privée. Pourtant, malgré les efforts de militants, le Congrès n’arrive à passer aucune loi à l’encontre de la reconnaissance faciale ou de la protection de la vie privée. Seules quelques villes et Etats ont musclé leur législation. C’est le cas de l’Illinois où des avocats vont utiliser le Bipa pour attaquer Facebook accusé d’avoir créer une empreinte des visages des 1,6 millions d’habitants de l’Etat. 

Cette rapide histoire, trop lacunaire parfois, semble s’arrêter là pour Hill, qui oriente la suite de son livre sur le seul Clearview. Elle s’arrête effectivement avec le déploiement de l’intelligence artificielle et des réseaux de neurones qui vont permettre à la reconnaissance faciale de parvenir à l’efficacité qu’elle espérait.

Reste que cette rapide histoire, brossée à grands traits, souligne néanmoins plusieurs points dans l’évolution de la reconnaissance faciale. D’abord que la reconnaissance faciale progresse par vague technologique, nécessitant l’accès à de nouvelles puissances de calcul pour progresser et surtout l’accès à des images en quantité et en qualité.

Ensuite, que les polémiques et paniques nourrissent les projets et les relancent plutôt que de les éteindre. Ceux qui les développent jouent souvent un jeu ambivalent, minimisant et dissimulant les capacités des programmes qu’ils déploient. 

Enfin, que les polémiques ne permettent pas de faire naître des législations protectrices, comme si la législation était toujours en attente que la technologie advienne. Comme si finalement, il y avait toujours un enjeu à ce que la législation soit en retard, pour permettre à la technologie d’advenir.  

(à suivre)

VSA jusqu’en 2027 : quand le gouvernement ose tout

Dans la famille du grand n’importe quoi, on voudrait le gouvernement Bayrou s’il vous plaît ! L’expérimentation de vidéosurveillance algorithmique (VSA) prévue par la loi sur les Jeux Olympiques était censée se terminer dans moins de deux mois. Pourtant, le gouvernement a déposé hier un amendement pour tout simplement prolonger l’expérimentation… jusqu’à la fin de l’année 2027. Le tout en s’affranchissant totalement des promesses faites ou des règles constitutionnelles.

Le déploiement de la VSA avait été autorisé par la loi sur les Jeux Olympiques en 2023 au nom de la sécurité de cet évènement. En réalité, ce texte permettait l’utilisation de cette technologie de surveillance de masse pour une durée bien plus longue et dans un périmètre bien plus large. La VSA a ainsi été déployée dès le mois d’avril 2024 et ensuite pour de nombreux évènements comme des concerts, matchs de foot ou même récemment dans la rue pour le jour de l’An à Paris. Cette « expérimentation » est censée se terminer le 31 mars prochain.

Aussi, la loi avait prévu de façon inédite la création d’un comité chargé d’évaluer la mise en œuvre de la VSA. Ses conclusions étaient présentées comme essentielles pour juger de l’utilité de cette technologie du point de vue policier, et décider ensuite d’une éventuelle pérennisation. Depuis le début, nous avons affiché notre plus grand scepticisme face à ce mécanisme d’évaluation, dont on anticipait qu’il serait instrumentalisé par le gouvernement. Surtout, l’approche consistant à se focaliser sur l’efficacité de la VSA éludait l’ensemble des dangers inhérents à cette technologie. Il n’empêche que ce comité avait le mérité d’exister. Lors des débats parlementaires, il a d’ailleurs été brandi à de multiples reprises par le gouvernement et la majorité d’alors comme la preuve de leur bonne foi et de leur respect des libertés publiques.

Qu’il est loin ce temps-là ! Déjà, il y a quelques mois, avant même que le comité ait finalisé son travail, Laurent Nunez et Michel Barnier y allaient de leur petit commentaire pour dire à quel point ils souhaitaient le prolongement de cette technologie, comme une manière de préparer les esprits. Puis, comme prévu par la loi, le comité a remis son rapport au gouvernement à la fin de l’année 2024. Si plusieurs médias y ont eu accès et s’en sont fait l’écho, ce document n’a toujours pas été rendu public [EDIT: il l’a été quelques heures après la publication de cet article]. Pourquoi une telle opacité ? Peut-être, comme le pointent Le Monde ou France Info, parce que le rapport montre de nombreuses défaillances et un manque d’efficacité de cette technologie ? À moins que cela s’explique par le fait que l’opposition populaire à la VSA monte et que, la semaine dernière, la justice a même exigé l’interdiction du recours à ce type de logiciel ?

Quoiqu’il en soit, le gouvernement veut continuer à utiliser cette technologie. Profitant du énième retour de la loi relative à la sûreté dans les transports à l’Assemblée (dont la discussion avait d’abord été interrompue par la dissolution puis par la chute du gouvernement Barnier, et dont l’initiateur, Philippe Tabarot, est depuis devenu ministre), il a fait un coup de force. Ainsi, il a déposé un hier un amendement demandant l’extension du dispositif de VSA pendant encore trois années, au prétexte que les services n’auraient pas eu assez de temps pour tester la technologie. Reformulons les choses : il a joué et il a perdu. Mais il s’en fiche, comme nous l’anticipions, le caractère « expérimental » et tout le dispositif d’évaluation n’ont été qu’un alibi commode permettant au gouvernement de faire passer la pilule. Que la VSA « marche » ou pas est au fond accessoire. Pour le gouvernement, il s’agit de l’imposer coûte que coûte.

Sur le plan juridique, la régularité de cet amendement est parfaitement douteuse : d’une part, il pourrait ne pas être recevable puisqu’il s’agit d’un cavalier législatif, qui déborde largement l’objet de la proposition de loi. D’autre part, s’il venait à être adopté, il rentrerait en contradiction avec les règles fixées par le Conseil constitutionnel en 2023. En effet, ce dernier avait jugé que toute pérennisation et tout nouvel examen par les Sages de la conformité de la VSA à la Constitution devrait se faire à la lumière des résultats de l’évaluation. Or, si l’évaluation a bien été produite, le gouvernement s’en moque complètement. Il tente de forcer la main au Parlement qui n’aura même pas le temps de se faire sa propre idée. Outre le projet politique funeste associé à la VSA, c’est là le plus parlant dans cette affaire : l’absence totale de considération pour la légalité ou le respect des engagements fait à la représentation parlementaire. Rien d’étonnant s’agissant d’un ministre de l’intérieur qui affiche clairement son mépris pour l’État de droit.

Cet amendement est tout bonnement un scandale. La VSA ne doit pas être prolongée. Elle doit être interdite. Produit d’une industrie de la sécurité avide de profit, cette surveillance de nos corps et nos comportements est le vecteur technologique d’une amplification des discriminations policières. Elle contribue à parfaire un édifice de la surveillance qui transforme l’espace public en un espace de contrôle social permanent, qui trie les « bons citoyens » et les « suspects ».

Nous appelons tous les parlementaires à voter contre cette mesure et nous invitons toutes les personnes intéressées à se mobiliser dans leur ville ou après de leur député·e, pour faire valoir leur refus radical de ces technologies.

Note du 3 Mars 2025 : L’amendement en question a été malheureusement adopté.

Pour vous informer sur la VSA et vous y opposer, retrouvez notre brochure sur le sujet et d’autres ressources sur notre page de campagne. Et pour soutenir notre travail, n’hésitez pas à faire un don.

La justice confirme enfin l’illégalité de Briefcam

Victoire totale aujourd’hui au tribunal administratif de Grenoble ! L’affaire opposant La Quadrature du Net à la ville de Moirans, en Isère, s’achève par une décision reconnaissant l’illégalité du logiciel de vidéosurveillance algorithmique Briefcam. La justice ordonne à la commune de cesser immédiatement l’utilisation de ce logiciel.

Le logiciel de Briefcam est installé en toute opacité dans de très nombreuses communes de France. Techniquement, il permet d’appliquer des filtres algorithmiques sur les images de vidéosurveillance pour suivre ou retrouver les personnes en fonction de leur apparence, leurs vêtement, leur genre ou encore leur visage via une option de reconnaissance faciale. Depuis des années, nous dénonçons la dangerosité de cette vidéosurveillance algorithmique (VSA) qui est un outil inefficace et utilisé surtout pour le contrôle des populations dans l’espace public. En parallèle, nous rappelons constamment son illégalité manifeste et le laisser-faire des pouvoirs publics.

Ainsi, nous avons récemment critiqué la prise de position de la CNIL venue au secours de la police et la gendarmerie nationale, qui utilisaient ce logiciel depuis 2015 et 2017 sans l’avoir déclaré. La CNIL avait validé leur interprétation juridique farfelue pour sauver leur utilisation de ce logiciel dans le cadre d’enquête.

Or, dans cette affaire contre l’utilisation de Briefcam à Moirans, la CNIL était opportunément intervenue quelques semaines avant l’audience pour affirmer que Briefcam serait légal si utilisé par une commune pour répondre à des réquisitions judiciaires. La décision du tribunal administratif de Grenoble vient donc contredire frontalement cette position : il estime que le logiciel Briefcam met en œuvre un traitement de données personnelles disproportionné et qui n’est pas prévu par la loi, y compris dans le cas particulier d’enquêtes judiciaires.

Cette décision d’illégalité est une victoire sans précédent dans notre lutte contre la VSA. Les habitant·es de toute ville, à l’instar de Saint-Denis, Reims ou encore Brest qui ont choisi de mettre en place ce type de surveillance algorithmique, peuvent légitimement en demander l’arrêt immédiat. Les promoteurs politiques et économiques de la Technopolice doivent faire face à la réalité : leurs velléités de surveillance et de contrôle de la population n’ont pas leur place dans notre société. La CNIL n’a plus d’autre choix que d’admettre son erreur et sanctionner les communes qui continueraient d’utiliser de la VSA.

C’est grâce à vos dons que nous avons pu mener cette lutte jusqu’à son dénouement heureux aujourd’hui, et nous avons toujours besoin de votre aide pour continuer demain !

Quand la loi « Narcotrafic » devient la loi « Roue libre »

Le Sénat a débuté hier la discussion en hémicycle de la proposition de loi dite « Narcotrafic », dont les mesures de surveillance et répressives nous inquiètent particulièrement, à La Quadrature comme avec les autres organisations de l’Observatoire des Libertés et du Numérique. À la lecture des amendements adoptés à ce stade, nous constatons que les sénateurs se sont manifestement senti pousser des ailes. Ils ont adopté nombre de mesures qui semblent irréelle tant elles sont dangereuses, faisant sauter autant que possible les limites de la surveillance et des pouvoirs répressifs. Voici un aperçu de ce florilège autoritaire.

Tout d’abord, les sénateurs ont signé le retour de l’activation à distance des objets connectés pour filmer et écouter les personnes à leur insu. Proposée par Eric Dupont-Moretti en 2023 dans une loi de réforme de la justice, cette mesure de surveillance avait été censurée par le Conseil constitutionnel. Cela n’empêche pas les parlementaires de réintroduire aujourd’hui dans le texte un régime quasi identique, qui présente les mêmes dangers qu’il y a deux ans. Ainsi, aussi bien les appareils fixes (voir l’amendement) que mobiles (voir l’amendement) seraient transformés en mouchards pour la poursuite de certaines infractions. C’est une poursuite du processus de légalisation des logiciels espions (comme ceux de NSO/Pegasus) là où l’urgence serait de les interdire tant ils sont dangereux pour les équilibres démocratiques et les libertés individuelles.

Ensuite, les sénateurs tentent de donner corps à l’obsession des dirigeants ces dernières années : accéder au contenu des communications chiffrées, par exemple via les applications Whatsapp, Signal ou Telegram (lire l’amendement). Et cela fait autant d’années que les organisations comme La Quadrature, les experts en cryptographie ou même l’ANSSI le répètent : non seulement cette mesure est impossible techniquement mais elle contrevient à toutes les exigences de sécurité numérique. Le chiffrement de bout-en-bout est conçu pour que les entreprises elles-mêmes n’aient pas accès aux messages. Introduire un accès, une « backdoor », affaiblirait le niveau de protection de l’ensemble des communications et cela n’est d’ailleurs prévu nulle part dans le monde. Le chiffrement est une mesure de sécurité, le casser rendrait le monde numérique vulnérable et personne n’y a intérêt. Mais pourquoi s’embarrasser de la vérité quand on peut faire du sensationnel ? Il est urgent que cette modification soit retirée du texte.

Les sénateurs ont ensuite continué leur festival en élargissant la possibilité pour les policiers de Pharos de censurer les contenus liés aux stupéfiants (voir l’amendement). Les Sénateurs ont ainsi voté un amendement du Gouvernement élargissant cette censure, jusqu’à présent « limitée » aux contenus faisant référence à la vente de drogue, pour englober les contenus concernant toutes les infractions liées au trafic de stupéfiants. Cette volonté de verrouiller Internet ne peut que mener à des abus au regard du volume de contenus concerné, et au cadre extra-judiciaire de ces censures. Comment les policiers sauront-ils faire la différence entre des mèmes ou des blagues sur la drogue ou encore des extraits de films ou de clips sortis de leur contexte ? Et surtout, en quoi le retrait de ces contenus auraient véritablement un impact sur la problématique sociale de la consommation de drogues, qui repose sur tellement d’autres facteurs ? Les décennies passent et pourtant le réflexe inutile et dangereux de censurer et verrouiller les moyens de communication ne s’est manifestement pas perdu.

Bien d’autres élargissements répressifs sont prévus, mais s’agissant des enjeux numériques les sénateurs ont aussi décidé de s’en prendre aux opérateurs en renforçant les conditions de vente des cartes SIM prépayées et en imposant de conserver pendant cinq (!) années les données personnelles des personnes les ayant achetées (voir l’amendement).

L’examen du texte n’est pas fini que le Sénat est déjà en roue libre à écraser les libertés fondamentales et les règles protectrices de la procédure pénale, galvanisé par le traitement médiatique et politique du sujet lié au trafic de drogues et les largesses consenties au Gouvernement Bayrou à l’égard de l’extrême-droite. Cela permet à la « chambre haute » de mettre en pratique ses obsessions de surveillance rabâchées depuis des années. Nous attendons avec crainte les discussions à venir sur le reste du texte et notamment concernant le « dossier coffre » qui créerait une procédure secrète pour empêcher les personnes de connaître – et donc de contester – la manière dont elles sont surveillées et les très larges élargissements des pouvoirs des services de renseignement. Surtout, il faut avoir conscience que ces modifications s’appliquent à l’ensemble du régime de criminalité organisée, qui va bien au delà des personnes impliquées dans le trafic de drogue.

Il est plus que temps que les membres des partis qui votent de telles mesures se ressaisissent et retournent dans le « champ républicain » et dans les perspectives de l’État de droit au lieu de faire la course à l’autoritarisme pour tenter d’égaler l’extrême droite et la droite extrême dans son délire sécuritaire.

PPL Narcotrafic : les droits et libertés à nouveau victimes de l’addiction aux lois sécuritaires

Communiqué de l’Observatoire des libertés et du numérique (OLN), Paris, le 28 janvier 2025.

Voilà des mois que nos responsables politiques font mine de faire la guerre au trafic de drogues et que les médias leur emboîtent le pas de façon sensationnaliste, en amplifiant des faits graves, des tragédies humaines ou en donnant de l’écho à des opérations « choc ». Les sénateurs Jérome Durain (PS) et Étienne Blanc (LR), en cheville avec les ministres de l’Intérieur et de la Justice, cherchent à renforcer le dispositif répressif et de surveillance, abaisser le contrôle de l’activité policière et réduire les droits de la défense au nom de la lutte contre le trafic de stupéfiants.

L’Observatoire des Libertés et du Numérique (OLN) souhaite alerter sur les dangers de ce texte qui, au prétexte d’une reprise en main d’une problématique sociétale pourtant loin d’être nouvelle et appelant d’autres solutions que le tout répressif – comme le rappelait récemment le Haut commissaire aux droits humains de l’ONU -, vise à introduire et renforcer des mesures dangereuses pour les libertés et dérogatoires au droit commun.

La proposition de loi « Sortir la France du piège du narcotrafic », outre qu’elle convoque l’imaginaire des cartels mexicains, vise à renforcer largement le régime juridique d’exception de la criminalité organisée. Ce dernier déroge déjà au droit commun en ce qu’il permet que soient utilisés les moyens d’enquête les plus intrusifs et attentatoires à la vie privée dès lors que la commission de l’une des infractions figurant sur une liste qui ne cesse de s’allonger, est suspectée. Elle englobe ainsi une grande partie des crimes et délits lorsqu’ils sont commis en bande organisée ou via la constitution d’une association de malfaiteurs, mais aussi toutes les infractions relevant du trafic de stupéfiants.

La notion de criminalité organisée, insérée en 2004 dans le code de procédure pénale officiellement pour cibler des réseaux mafieux, s’applique donc en réalité à de nombreuses autres situations. Aujourd’hui, elle légitime, comme la lutte contre le terrorisme avant elle, d’élargir toujours plus les mécanismes d’exception en vue d’une répression accrue, au nom d’une logique d’efficacité, mais dont l’expérience montre qu’ils sont toujours détournés de leur finalité initiale. Par exemple, la qualification d’association de malfaiteurs a pu être utilisée dans des affaires relatives à des actions militantes, comme à Bure contre l’enfouissement des déchets nucléaires. En outre, depuis une réforme de 2016, les pouvoirs d’enquêtes du parquet, non indépendant car soumis à l’autorité hiérarchique du Garde des Sceaux, ont été renforcés et élargis en matière de criminalité organisée, évinçant encore un peu plus les garanties attachées à l’intervention du juge d’instruction.

Mais surtout, ce texte prévoit de faire tomber toujours un peu plus les barrières encadrant la surveillance policière. À titre d’illustration, il propose d’élargir le champ d’utilisation des « boites noires », cette technique de renseignement qui analyse les données de toutes nos communications et données récupérées sur internet via des algorithmes au motif de « détecter » de nouveaux suspects, technique que nous dénonçons depuis sa création. Initialement prévue pour le seul champ du terrorisme, elle a récemment été étendue aux « ingérences étrangères » et serait donc désormais aussi autorisée « pour la détection des connexions susceptibles de révéler des actes de délinquance et à la criminalité organisées ».

Le texte vise en outre à étendre la durée d’autorisation de la surveillance par géolocalisation ainsi que pour l’accès à distance aux correspondances en matière de criminalité organisée, tandis que l’article 23 amorce la possibilité d’utiliser les drones dans les prisons. De plus, il permettra à la police – via le service Pharos – de censurer sur internet « tout contenu faisant la promotion de produits stupéfiants ». Cette censure administrative avait été autorisée dans un premier temps pour les contenus pédopornographiques avant d’être étendue au terrorisme. Vous avez dit effet « cliquet » ? Ce texte constitue incontestablement une étape de plus vers la surveillance de masse et l’extension des pouvoirs de contrôle sécuritaire.

Enfin, il innove avec une mesure extrêmement inquiétante : « le dossier coffre », ou « procès-verbal distinct ». Prévue à l’article 16 du texte, cette mesure a pour objectif d’empêcher les personnes poursuivies de connaître la manière dont elles ont été surveillées pendant l’enquête, afin qu’elles ne puissent pas contourner cette surveillance à l’avenir ou la contester dans le cadre de la procédure. Les sénateurs proposent ainsi tout bonnement que les procès-verbaux autorisant et détaillant les modalités de mise en œuvre de cette surveillance ne soient pas versés au dossier, autrement dit qu’ils ne puisse jamais être débattus. Les personnes poursuivies n’auraient ainsi plus aucun moyen de savoir ni de contester quand et comment elles ont été surveillées, y compris donc, en cas de potentiels abus des services d’enquête. Le législateur créerait une nouvelle forme de procédure secrète, introduisant par là une faille béante dans le respect du principe du contradictoire et par suite dans le droit pourtant fondamental à se défendre, maillon essentiel d’une justice équitable et d’une société démocratique.

Si nous ne sommes à l’évidence plus étonnés de l’affaiblissement progressif des libertés publiques au nom des discours sécuritaires, une attaque à ce point décomplexée des principes fondateurs d’une justice démocratique témoigne de la profonde perte de repères et de valeurs des actuels responsables publics. Parce que la proposition de loi relative au trafic de drogues suscite de graves inquiétudes quant à l’atteinte aux droits et libertés fondamentales, nous appelons l’ensemble des parlementaires à rejeter ce texte.

Organisations signataires membres de l’OLN : Globenet, Creis-Terminal, la Ligue des droits de l’Homme (LDH), le Syndicat des Avocats de France (SAF), le Syndicat de la Magistrature (SM), La Quadrature du Net (LQDN), le CECIL.

Réguler la surveillance au travail

Comme nous le disions dans la précédente partie de notre dossier sur la surveillance au travail, les technologies numériques ont permis une expansion sans précédent du volume et du type de données collectées sur les travailleurs. La capacité à les analyser permet aux employeurs de tirer d’innombrables conclusions sur la productivité de leurs salariés… 

Pourtant, concrètement, ces analyses sont bien souvent problématiques quand ce n’est pas défaillantes. En rendant fonctionnelles les statistiques, les indicateurs rétroagissent sur les comportements. La granularité et l’individualisation des métriques permettent de multiplier et d’accroître les pressions au travail, tous les dysfonctionnements étant renvoyés aux pratiques individuelles, « faisant peser toutes les contraintes sur le plus petit et le plus faible maillon de la chaîne », comme l’explique la sociologue Karen Levy dans son livre. Enfin, parce que dans le contexte du travail, les connaissances acquises par les données réorganisent et renforcent d’abord des déséquilibres de pouvoirs majeurs. La régulation de la surveillance n’arrive pas à limiter la recherche de l’amélioration de la production que la surveillance vise à faire advenir. Nous sommes confrontés à une surveillance qui se démultiplie sans parvenir à renforcer les protections légales des travailleurs, seules à même de les protéger d’une exploitation renforcée. 

La lutte contre la surveillance devrait nous mobiliser

« Des caméras alimentées par l’IA qui suivent l’attention des camionneurs aux scanners portables qui surveillent la vitesse d’emballage et de tri des colis des employés des entrepôts d’Amazon, en passant par les logiciels de vidéoconférence qui surveillent les conversations des employés pendant les réunions, dans de nombreux secteurs les entreprises utilisent de plus en plus d’outils automatisés pour collecter des données sur les travailleurs, puis utilisent ces données pour prendre des décisions automatisées sur les tâches et les horaires des travailleurs, les salaires, les promotions, la discipline et même les licenciements », explique le politologue Alexander Hertel-Fernandez sur le blog du LPE Project. Hertel-Fernandez est l’auteur d’une étude sur le management automatisé et la surveillance des travailleurs qui montre que les 2/3 des travailleurs Américains sont sous surveillance sur leur lieu de travail. Cette surveillance est désormais aussi commune pour les cols bleus que pour les cols blancs. Bien qu’elle soit souvent invisible, masquée sous les outils numériques que tous utilisent au quotidien, elle n’est pas sans conséquences : elle a un impact sur la santé et la sécurité des travailleurs.

Pour le chercheur, la montée de la surveillance nécessite d’établir des protections adaptées qui devraient recevoir du soutien de tous les travailleurs, tant celle-ci transcende les classes sociales, les professions et les secteurs. Les organisations du travail ont largement documenté comment cette surveillance érode les droits à l’action collective, intensifie les rythmes de travail, discrimine les femmes, les travailleurs âgés ou les travailleurs handicapés. Le problème pourtant, c’est que le régulateur manque de données sur cette surveillance, d’où l’importance de son enquête. Celle-ci montre d’ailleurs, que le facteur prédictif principal de l’adoption de la surveillance électronique est la taille de l’entreprise : plus l’entreprise est grande, plus la surveillance est intense et variée. L’étude montre également que plus les travailleurs sont soumis à une surveillance intensive, plus l’anxiété grimpe, notamment parce que l’intensité de la surveillance signifie d’abord une intensification des cadences. Ce couplage intensification/anxiété se retrouve dans tous les secteurs, et pas seulement les plus documentés, comme la logistique ou l’industrie. Enfin, les effets négatifs sur la santé et le bien être sont plus forts là où la surveillance est mobilisée pour renforcer la discipline et limiter l’expression. Pour le chercheur, ces résultats suggèrent que ce n’est pas nécessairement la surveillance qui est problématique, mais la manière dont elle est utilisée par le management. Parmi les mesures à prendre pour rétablir l’équilibre, le politologue suggère d’améliorer la transparence de la surveillance, des indicateurs de productivité et des quotas. Mais si le problème est l’intensité de la surveillance, la documenter ne suffira pas à la faire refluer. 

L’impossible transparence de la surveillance

Pourtant, c’est à l’exact inverse que l’on assiste. La surveillance et ses indicateurs relèvent partout d’une opacité qui ne cesse de se renforcer, comme pour toujours mieux s’invisibiliser, à l’image des calculs d’Uber qui ne cessent d’évoluer pour échapper à la documentation comme à la régulation. En 2020, les livreurs de la plateforme Shipt, qui appartient à la chaîne de grande distribution américaine Target, ont vu leurs salaires s’effondrer. Ils ont alors créé un outil pour comprendre l’évolution de l’algorithme, expliquait la chercheuse Dana Calacci pour IEEE Spectrum, qui rappelle que l’asymétrie d’information est un moyen de contrôle (et ce d’autant que ces travailleurs indépendants, par contrat, n’ont pas de droits sur les données). Les livreurs ont utilisé les résultats de l’Observatoire des algorithmes des travailleurs, qui corroboraient l’effondrement de rémunération constaté, pour appuyer leurs revendications pour un salaire minimum garanti. Dans un rapport, le Worker Info Exchange estime que les applications de covoiturage et de livraisons devraient être contraintes de publier des données sur la charge de travail des chauffeurs et les rémunérations, d’autant que le déficit de données actuel pourrait même dissimuler d’importants vols de salaires (et pas seulement des pourboires). Des exemples qui rappellent qu’il n’y a pas d’alternative à la transparence des données, ce qui n’empêche pas celle-ci de continuer à échapper à tous. Accéder aux données reste le premier levier pour observer la surveillance et la limiter.

Image : Page d’accueil de l’observatoire algorithmique des travailleurs.

L’année dernière, le LPE Project avait publié plusieurs articles pour questionner les limites de la surveillance. La chercheuse Karen Levy y montrait que non seulement la surveillance s’opacifie, mais que les autorités en favorisent l’extension, plutôt que de chercher à la contraindre et à la limiter. La sociologue parle d’ailleurs « d’interopérabilité de la surveillance » pour pointer la compatibilité des différentes formes de surveillance, que ce soit celle des autorités de contrôle, comme celle des employeurs ou celle des tiers auxquels les employeurs accordent des accès. 

L’extension, l’intensification et l’élargissement de la surveillance se fait au détriment des employés, pris en tenaille par de nouvelles injonctions liées aux objectifs multiples et contradictoires de tous ceux qui ont accès aux données produites par ces surveillances. Les surveillances “gouvernementales, patronales et commerciales” se superposent pour créer de nouvelles rigidités au travail. Le problème est que cette conjonction d’objectifs complémentaires laisse peu d’espace aux travailleurs pour résister à ces pressions concomitantes, pour résister à “un régime de surveillance supérieur à la somme de ses parties”. La surveillance est d’autant plus opaque qu’elle sert les intérêts de trop d’acteurs pour devenir transparente. Cette surveillance alimente en données des acteurs avec lesquels les entreprises ont des partenariats commerciaux, comme leurs clients. Mais pas seulement. Outre la police et les services sociaux, de plus en plus d’intermédiaires de données tentent d’en tirer profit, à l’image de services de crédits qui proposent des avances sur salaires aux employés. 

La surveillance produit les cadences, modifie les conditions d’emploi

La spécialiste de l’économie des plateformes, Sarrah Kassem , auteure de Work and Alienation in the Platform Economy: Amazon and the Power of Organization, expliquait quant à elle que les travailleurs des entrepôts d’Amazon sont dépendants d’un « régime de productivité algorithmique », qui les pousse à respecter des taux « d’unités par heure », c’est-à-dire rien d’autre que des cadences, imposées par les tâches, les volumes, et les moyennes productives des autres employés auxquelles chacun est comparé. Si les solidarités collectives et les résistances sont possibles, elles sont rendues très difficiles, du fait des innombrables types de contrats qui se rencontrent dans les entrepôts (fixes, intérimaires, sous-traitants, indépendants… avec des horaires fluctuants…) et des manœuvres anti-syndicales d’Amazon. 

Dans les chaînes de production numériques hyper-taylorisées du Mechanical Turk d’Amazon par contre, la surveillance, elle, est totale. La grande précarité du travail et l’absence de relation avec les autres travailleurs rend l’organisation collective encore plus compliquée, même si, à l’initiative des travailleurs, des espaces alternatifs de solidarité et de lutte ont parfois réussi à émerger. Pour le chercheur Reed Shaw, qui s’est lui aussi intéressé aux entrepôts d’Amazon, la surveillance modifie les conditions d’emploi. Si le taux de blessure y est deux fois supérieur à la moyenne nationale, c’est que l’unité de mesure du travail d’Amazon, focalise sur le temps pendant lequel les travailleurs sont inactifs entre deux colis scannés. Le nombre d’unités traitées par heure favorise l’intensification du travail qui génère en réponse une augmentation du risque de blessure et d’accident. Pour Shaw, c’est l’intensification que le taylorisme numérique produit le coupable : c’est donc sur la régulation des cadences qu’il faut pouvoir agir. D’autant que les systèmes de mesures ne s’adaptent pas à certains types d’employés, comme les femmes enceintes ou les travailleurs handicapés, qui sont encore plus sévèrement punis par les systèmes qui évaluent les cadences sans aménagements. Pour Shaw, “la surveillance généralisée des employés devrait être considérée comme modifiant le contexte de l’emploi d’une manière qui menace un large éventail de lois et de protections du droit du travail”. 

Vers une surveillance sans échappatoire

Pour le professeur de droit Matthew Bodie, co-auteur de Reconstructing the Corporation: From Shareholder Primacy to Shared Governance, la surveillance des employés procède d’une nouvelle collecte de données et propose une nouvelle création de valeur permettant aux employeurs de tirer une nouvelle valeur de la relation de travail, explique-t-il, sans qu’il n’y ait de recours ni de droits pour les travailleurs fournisseurs de données, ni de modalités pour exercer leur pouvoir collectifs sur ces données. Pour Bodie, la frontière traditionnelle entre les informations de travail et les informations personnelles, est en train de devenir totalement floue. Toutes sortes d’informations personnelles peuvent désormais être convoquées comme “pertinentes” pour évaluer la performance individuelle au travail : notre santé, nos relations avec nos collègues, nos opinions politiques, notre consommation de caféine, notre disposition au conflit… (sans que cette “pertinence” ne soit jamais évaluée, comme le soulignaient les chercheurs Mona Sloane, Rumman Chowdhury et Emmanuel Moss dans un excellent article qui dénonçait la prétention à la connaissance des systèmes). La réponse instinctive à ce problème consisterait à renforcer la protection de la vie privée sur les lieux de travail, mais cette réponse ne convainc pas Bodie, notamment parce qu’il suffit d’un pseudo consentement imposé dans une relation de travail par nature déséquilibrée pour vider ce renforcement de sa substance. 

“La relation aux données ne cesse de devenir de plus en plus déséquilibrée”, constate le chercheur. C’est par les données sur les chauffeurs et leurs clients que les entreprises de covoiturage fixent les prix et affectent les chauffeurs, sans que les conducteurs puissent avoir la main sur ce qui leur est soustrait. Bodie est pessimiste : désormais, “la relation de travail nécessite un flux de données trop important pour espérer ne jamais l’arrêter”. Selon lui, les travailleurs ont besoin de plus de droits sur leurs données et leur utilisation, à l’image de ceux que déploient le RGDP en Europe (comme le droit de limitation des finalités ou les droits d’opposition à certains types de prise de décision automatisée). Reste pourtant à trouver les modalités d’action collectives. Ici, Bodie dresse un comparatif avec l’hypersurveillance des athlètes de haut niveau, qui, malgré la démultiplication d’information sur leurs performances, gardent des droits sur leurs données voire des voix collectives pour négocier la portée de la collecte de données par les équipes. Les organisations syndicales devraient avoir la capacité de négocier avec les employeurs par l’accès aux données et leur partage – mais seulement 6% des employés du secteur privé sont syndiqués aux États-Unis. Les travailleurs sans représentation collective n’ont donc aucune perspective de pouvoir collectif sur la collecte. D’autres structures organisationnelles pourraient également faire levier, allant de l’actionnariat salarié aux coopératives de plateformes, en passant par la codétermination…  et invite à imaginer des “conseils de données” habilitées à examiner toute collecte ou utilisation de données des employés. “Nous devons donner aux travailleurs la possibilité d’avoir leur mot à dire dans la gestion des données et les droits sur les données qu’ils fournissent.” Oui ! Mais là encore la contribution ne trouve pas le levier de cette activation. 

On pourrait croire à lire ces billets, que le RGPD est l’alpha et l’omega de la solution. C’est oublier pourtant, comme le rappelle son intitulé complet, que celui-ci n’est pas qu’une protection vis-à-vis du traitement des données à caractère personnelles, mais qu’il organise également leur libre circulation, sous conditions.

Les calculs sont surtout opaques pour invisibiliser leurs incohérences et  renforcer leur opacité

Ce que ces billets disent assez imparfaitement, c’est ce que change cette surveillance, ses impacts et les modalités de cet impact. Ce qui se joue dans le renforcement de la surveillance au travail est pourtant très fort au niveau RH et plus encore au niveau de la question salariale. Les données sont de plus en plus utilisées pour produire des indicateurs de performances souvent problématiques sur de plus en plus d’employés, comme s’en émouvait un article du Washington Post prédisant l’arrivée du licenciement algorithmique. La surveillance a un impact direct sur l’employabilité, le recrutement et sur la rémunération. C’est ce qu’expliquait dans un autre billet du LPE Project la professeure de droit Veena Dubal. Dans le monde des plateformes de livraison ou de transport, la rémunération n’est pas fixe. Elle est à la fois “imprévisible, variable et personnalisée”. En cas de forte demande par exemple, les prix des courses vont augmenter et les revenus des coursiers également. Mais il n’y a pas que cette tension entre l’offre et la demande qui explique les variations, et même quand c’est cette explication qui domine, les variations demeurent incohérentes. En fait, la rémunération algorithmique n’est pas du tout une forme applicative et parfaite du marché, comme elle voudrait nous le faire croire. Au contraire.

Les incohérences sont nombreuses, explique Dubal. Parfois vous pouvez obtenir une prime si vous acceptez un trajet supplémentaire, mais bien souvent cette prime n’est pas proposée à un collègue qui a le même historique de circulation. La modularité des incitations de ce type varie sans arrêt, sans que les travailleurs ne parviennent à comprendre leur logique. A l’inverse, vous pouvez attendre ce trajet et cette prime liée à un certain nombre de courses à accomplir, sans que l’algorithme ne vous donne de course, alors que d’autres conducteurs en obtiennent. Le problème, c’est que tout cela n’est pas une question de marché, de malchance ou de hasard, mais bien le résultat d’un calcul. La manipulation des données des conducteurs permet de leur faire croire que les variations de leurs rémunérations tiennent d’un Casino, expliquait dans Fortune Stephanie Vigil, conductrice pour DoorDash, qui rappelle par exemple que les pourboires que les clients donnent ne sont pas attribués directement à leurs livreurs, mais obscurcies par les plateformes pour que les chauffeurs ne privilégient pas les courses avec pourboire. Pour elle, les conducteurs doivent récupérer l’accès à leurs données, comme le défend l’association DriverRights. Les bas salaires et les pourboires sont devenus la règle chez les plateformes de livraison de nourriture, rappelait Inayat Sabhikhi de One Faire Wage dans Points, l’année dernière, rappelant qu’elles ont toutes pratiqué le vol de pourboires et que toutes les organisations réclament désormais la transparence sur ceux-ci… sans l’obtenir. 

La surveillance pour produire des discriminations

De plus en plus de travailleurs du transport et de la logistique sont confrontés à un salaire constamment fluctuant lié à la gestion algorithmique du travail, explique encore Dubal. “Dans le cadre de ces nouveaux régimes de rémunération, les travailleurs perçoivent des salaires différents – calculés à l’aide de formules opaques et en constante évolution reflétant l’emplacement, le comportement, la demande, l’offre et d’autres facteurs de chaque conducteur – pour un travail globalement similaire.” Le problème de ces situations, n’est pas seulement celui d’une rémunération variable basée sur la performance, mais la conjonction de cette variabilité avec une autre : celle de la répartition du travail basée non seulement sur le comportement des travailleurs, mais également sur d’autres critères liés eux à la profitabilité que le calcul opère pour l’entreprise entre tous les critères. Elle produit une “discrimination salariale algorithmique” (voir également son papier de recherche) qui permet aux entreprises de personnaliser et différencier les salaires d’une manière inconnue à ceux que ce calcul impacte, en les payant pour qu’ils se comportent de la manière dont l’entreprise le souhaite, à la limite de ce qu’ils sont disposés à accepter. L’asymétrie d’information laisse à l’entreprise toute latitude d’ajustement. Enfin, “la discrimination salariale algorithmique crée un marché du travail dans lequel des personnes qui effectuent le même travail, avec les mêmes compétences, pour la même entreprise, en même temps, peuvent percevoir une rémunération horaire différente”, le tout via un système obscur qui ne permet ni de prédire ni de comprendre sa rémunération. 

Pourtant, rappelle la chercheuse, les lois internationales du travail rappellent qu’à travail égal salaire égal, et que les entreprises ne peuvent pas introduire de règles nouvelles ou opaques pour obscurcir le calcul du salaire. “Si un mineur devait être payé en fonction de la quantité de charbon qu’il extrayait, la société minière ne pouvait pas peser le charbon après l’avoir fait passer à travers un tamis”. Pourtant, c’est ce que font les calculs algorithmiques. Ils ruinent les logiques d’équité, notamment parce que le salarié ne peut pas connaître les critères que l’entreprise a déterminé pour évaluer son travail ou le planifier, et que le calcul rend le salaire de chaque personne différent, même si le travail est le même au même moment, comme c’est le cas entre les conductrice et les conducteurs d’Uber : les femmes gagnant 7% de moins que les hommes. 

En plus de saper l’équité salariale, la rémunération algorithmique est sans cesse changeante, ce qui fait que des pratiques rémunératrices peuvent ne plus le devenir d’une manière qui semble aléatoire au travailleur, alors qu’elles sont calculées. Les conducteurs parlent d’une “mécanique de casino”. Pour la chercheuse, le fait de reconnaître les coursiers comme des salariés ou de fixer des prix planchers pourraient améliorer les choses bien sûr. Mais la rémunération variable automatisée nécessite, elle, une réglementation supplémentaire. La contre-collecte de données (organisés par les travailleurs indépendants pour documenter les algorithmes auxquels ils n’ont pas accès, à l’image de ce que le Worker Info Exchange a mis en place pour et avec les chauffeurs d’Uber) ou les appels à une plus grande transparence des calculs oeuvrent dans le bon sens, mais sont également insuffisants. La chercheuse invite à aller plus loin via une “abolition de l’extraction de données au travail”. L’extraction de données au travail n’est pas nécessaire à la gestion du travail, rappelle-t-elle en invitant à en finir avec le calcul algorithmique au travail. Radical ! 

Réguler le croisement de données

Sans être aussi radical qu’elle, il me semble que le problème, ici, tient du fait que nous sommes en train d’autoriser des croisements de données qui ne devraient pas l’être. A l’ère de l’Intelligence artificielle, les entreprises ont intégré l’idée que pour améliorer leurs calculs, elles devaient disposer de toujours plus de données et que de leurs croisements sortiront des indicateurs de performance toujours plus optimaux. Mais on ne s’est jamais posé la question de savoir si certains croisements n’étaient pas souhaitables, voire contraires à l’esprit du droit du travail. Que se passe-t-il quand le calcul du salaire est corrélé au planning afin d’optimiser les deux, voire l’un plus que l’autre, comme le montrait le scandale Orion à la SNCF, où dans les entrepôts du hub logistique néerlandais, où les informations de planning sont corrélées avec le calcul de primes, pour les limiter. C’est typiquement ce que montre Veena Dubal quand elle souligne que la prime devient inaccessible à un chauffeur parce que son obtention vient en conflit avec l’objectif de réduction des coûts que programme également le système d’Uber. Pour ma part, il me semble qu’à l’heure où l’on promet de pouvoir croiser toutes les données les unes avec les autres, il est temps de se demander quelles données RH ne doivent pas être croisées entre elles. Pour poser la question des limites à la surveillance, il est nécessaire de regarder ce que produit l’interconnexion de ces données et de montrer qu’il y a des croisements de données, des calculs qui ne devraient pas être possibles. A l’heure où les entreprises partent du principe que toutes les données sont associables pour produire de meilleurs calculs et de meilleurs indicateurs, la piste qui n’est jamais évoquée dans cette libération des calculs, c’est la régulation de leurs croisements. Peut-être que certains croisements ne devraient pas être rendus possibles, parce qu’ils transforment profondément l’esprit de la loi qui régit le code du travail. En tout cas, à l’heure où tous les croisements de données sont autorisés, nous interroger sur ce qui ne devrait pas être corrélé est assurément un exercice qui pêche par son absence.

Pas de transparence sans lutte sociale

En fait, les appels à la transparence se démultiplient sans être suivis d’effets, d’abord parce que le régulateur n’incite pas à la transparence, mais surtout, parce qu’à elle-seule, la transparence ne suffit pas à produire le progrès social.  

En septembre, la Stanford Social Innovation Review publiait un dossier sur les questions de technologies au travail. Parmi les contributions, celle de Christina Colclough et Kate Lappin revenait sur la nécessité de se mobiliser pour que le développement technique au travail soit plus maîtrisé qu’il n’est (on avait déjà rencontré les stimulantes réflexions de Christina Colclough en défense de l’algogouvernance). « Les systèmes numériques au travail sont souvent présentés comme augmentant l’efficacité et la productivité et rendant les décisions plus neutres, en supprimant la subjectivité humaine. Mais trop souvent, les algorithmes reproduisent et intensifient les inégalités et les préjugés, conduisent à une demande croissante de productivité des travailleurs et utilisent les données des employés de manière à la fois opaque et abusive. Aujourd’hui, les travailleurs n’ont aucune idée des données qui sont collectées par devers eux ni de la manière dont elles sont utilisées pour évaluer leurs performances, alors que des jugements sont souvent effectués par des systèmes automatisés tiers, dont les fonctionnements ne sont jamais explicités ». Alors que les cas problématiques documentés sont nombreux, la même cause produit les mêmes effets : « lorsque les travailleurs n’ont pas accès aux algorithmes utilisés par les employeurs, il est presque impossible de prouver qu’il y a eu discrimination ». La transparence en matière de salaires et de conditions de travail est censée être la règle, mais les systèmes numériques propriétaires sapent ce principe. 

Construire des syndicats puissants pour dominer le bossware de l’IA.

Pour l’améliorer, plusieurs initiatives sont mobilisables, comme la formation en négociation sur la numérisation dispensée par le syndicat Public Service International ou encore le guide de la gouvernance des systèmes algorithmiques au travail du Why Not Lab, le cabinet de conseil de Colclough, qui permet aux syndicats d’adresser des questions aux directions sur les systèmes utilisés ou encore la clause du droit d’entrée numérique que les syndicats proposent d’introduire dans les conventions collectives, afin que les technologies utilisées par les employeurs soient mieux documentées. Les deux autrices défendent une gouvernance inclusive des systèmes avec ceux qui sont affectés par eux. Le Community and Public Sector Union australien qui représente les travailleurs qui gèrent le système de protection sociale a négocié avec succès un ensemble de clauses dans sa nouvelle convention collective pour permettre aux travailleurs sociaux de dénoncer des utilisations d’algorithmes contraire à l’éthique, afin qu’à l’avenir un scandale comme celui du robot-dette (un programme gouvernemental qui a envoyé des demandes de remboursement de dettes à plus de 400 000 bénéficiaires de prestations sociales) ne puisse plus être possible. Reste, rappellent les deux chercheuses et militantes, qu’aucun des progrès obtenus par des travailleurs n’a été obtenu facilement : tous sont le résultat d’une lutte soutenue, et celle-ci doit désormais se faire jusqu’aux outils numériques !

Un autre article sur la surveillance des lieux de travail, explique que celle-ci n’a plus du tout comme enjeu le déploiement de caméras de surveillance. La surveillance des cadences et des comportements est désormais l’objet d’innombrables dispositifs embarqués… La pandémie a favorisé l’essor de systèmes de surveillance, comme le montrait un rapport de Data & Society sur « le patron perpétuel ». Le rapport de Coworker sur le déploiement des « petites technologies de surveillance », mais omniprésentes (qu’on évoquait dans cet article) rappelait déjà que c’est un essaim de solutions qui se déversent désormais sur les employés. A l’image des outils de surveillance des postures comme StrongArm ou Modjul qui commencent à coloniser les entrepôts de Walmart et d’Amazon et qui transforment la question de la sécurité au travail en score que les employés doivent respecter. 

Le patron perpétuel, un rapport de Data & Society

Les conséquences sont diverses : augmentation de la discrimination, de la surveillance, atteintes à la vie privée et aux droits d’organisation collective, marchandisation des données, impossibilité de se déconnecter… « La surveillance n’est pas simplement une pratique commerciale invasive, mais un principe opérationnel visant à contrôler les travailleurs et à optimiser les profits ». 

Le Bossware : « une pratique commerciale déloyale »

Avec sa verve à nulle autre pareille, Cory Doctorow explique que les logiciels du patronat sont aussi défaillants que l’a été la gestion scientifique du travail inventée par « l’escroc » Frederic Taylor. Taylor a fait croire aux riches industriels qu’il pouvait augmenter la productivité des ouvriers en « transformant leur travail en une sorte de kabuki de l’obéissance ». Les employés n’étaient pas plus efficaces, mais avaient l’air plus obéissants, ironise-t-il, à la plus grande satisfaction de leurs patrons. Les employeurs ont pourtant bien remarqué que leurs revenus ne s’amélioraient pas avec le taylorisme, mais Taylor leur a fait croire que c’était parce que cette gestion scientifique n’était pas encore assez aboutie. « Plus ses conseils étaient mauvais, plus il y avait de raisons de le payer pour plus de conseils ». « Le taylorisme est une arnaque parfaite pour les riches et les puissants. Il alimente leurs préjugés et leur méfiance envers leurs employés, et leur confiance mal placée en leur propre capacité à comprendre le travail de leurs employés mieux que leurs employés. » 

Ce management scientifique du travail est désormais disponible sous formes d’innombrables applications, explique Doctorow. C’est ce qu’on appelle le « bossware », le matériel du patron. « Les travailleurs indépendants sont au cœur du bossware ». Alors que le travailleur indépendant rêve de devenir son propre patron, il est en fait totalement dépendant d’un téléphone qui le surveille et le discipline en continue. Et l’IA vient renouveler cette bulle du bossware, qui continue à venir convaincre les patrons que l’IA va pouvoir faire votre travail à votre place, comme il a été convaincu que la gestion scientifique du travail allait améliorer la productivité. 

Pour Alvaro Bedoya, commissaire à la Commission fédérale du travail américaine (FTC) qui s’intéresse à la protection des travailleurs, cette gestion algorithmique du travail devrait être considérée comme illégale, explique-t-il dans une stimulante défense. En moyenne, rappelle ce dernier, un employé d’un centre d’appels est soumis à au moins 5 formes de surveillance qui pèsent sur lui, le dénigrent et ne tolèrent aucune discussion. A savoir, une surveillance vidéo sous IA, une surveillance vocale sous IA qui prétend mesurer leur empathie, une IA qui chronomètre leurs appels, une autre qui analyse les sentiments durant l’appel et une dernière qui évalue la réussite des employés à atteindre des objectifs arbitraires. Bedoya estime que ces surveillances pourraient être qualifiées de pratiques commerciales déloyales… Prouver une pratique commerciale déloyale nécessite de démontrer qu’elle cause un « préjudice substantiel », qu’elle ne peut pas être « raisonnablement évitée » et qu’elle n’est pas corrigée par un « avantage compensatoire ». Dans son discours, Bedoya fait valoir que la gestion algorithmique du travail satisfait à ces trois critères… et que la FTC qui est chargée de réguler les pratiques commerciales déloyales devrait être capable d’agir. Par exemple, il est clair que l’augmentation des cadences que produit le bossware conduit à des préjudices sur la santé des employés. Que l’autoritarisme des applications de surveillance des chauffeurs-livreurs ne peut pas être évité. Enfin, elles ne proposent aucun avantage compensatoire, au contraire. La gestion algorithmique du travail produit surtout des sanctions arbitraires, comme quand les opérateurs de centres d’appels qui ont un accent, du Sud des Etats-Unis ou des Philippines, sont évalués négativement par les IA qui sont chargés de détecter leur émotion. « Les travailleurs devraient avoir le droit de savoir quelles données les concernant sont collectées, par qui elles sont partagées et comment elles sont utilisées. Nous devrions tous avoir ce droit. »

« Les gens riches peuvent rester irrationnels plus longtemps que vous ne pouvez rester solvables. Les marchés ne résoudront pas ce problème, mais le pouvoir des travailleurs le peut », conclut Doctorow.

Reste que démontrer l’arbitraire et pire encore l’absurdité des calculs reste extrêmement difficile. 

Dans un autre billet, l’infatigable Doctorow revient sur le travail d’un groupe de chercheurs et de hackers européens, Reversing Works (une division spécialisée du collectif AI Forensics, ex-Tracking Exposed), qui ont contribué à un travail d’ingénierie inversée sur l’application de livraison italienne Glovo/Foodinho, multicondamnée par les autorités italiennes pour atteinte à la vie privée. Dans un rapport publié par l’Institut syndical européen en novembre 2023, on apprenait que l’application démultipliait l’utilisation de données problématiques, surveillait les travailleurs au-delà de leurs heures de travail, utilisait un score de notation des travailleurs et envoyait d’innombrables informations confidentielles à des tiers. Pour Doctorow, ce mode d’enquête et de révélation présente un réel potentiel pour les organisations syndicales qui cherchent à protéger les travailleurs et promet également de développer des outils d’action directe qui permettent aux travailleurs de retrouver du pouvoir. « Ce n’est qu’en s’emparant des moyens de calcul que les travailleurs et les syndicats peuvent renverser la situation face au système de domination, à la fois en modifiant directement les conditions de leur emploi et en produisant les preuves nécessaires à ces démonstrations. Autant d’outils que les régulateurs pourraient également utiliser pour forcer les employeurs à rendre ces changements permanents. » Comme l’expliquait le collectif dans un communiqué, le RGPD est insuffisamment utilisé par les syndicats, notamment parce que « la vie privée est un droit individuel qui n’est pas considéré comme un outil de lutte des travailleurs », alors qu’il permet de contester nombre de pratiques déloyales. 

Reste que la production de « contre-données » – comme l’ont fait Reversing Works avec Glovo, le Worker Info Exchange ou le Stop-Club au Brésil ou encore Driver’s seat, une coopérative de chauffeurs qui aide les conducteurs à utiliser leurs données pour optimiser leurs revenus – n’est pas si simple. Le problème, bien sûr, c’est que ces collectes sont compliquées et fragiles à mettre en place et leurs résultats pas toujours assurés. En 2021 par exemple, des livreurs de Doordash avaient mis au point un outil pour observer les pourboires qu’ils recevaient sur l’application pour veiller à ce que l’entreprise ne les accapare pas… jusqu’à ce que l’entreprise ferme l’accès aux données. Sans compter que bien souvent, le législateur ne permet pas aux employés de produire des données en parallèle de celles de l’employeur. 

Pas plus qu’il n’oblige les entreprises au partage de données à leurs employés et à leurs représentants… Le problème, c’est que le RGPD en consacrant exclusivement un droit aux données personnelles a oublié d’armer le droit aux données collectives. C’est bien souvent au prétexte que les données mobilisées par les entreprises sont personnelles que les collectifs de travail et les syndicats ne peuvent y avoir accès, alors que leur traitement collectif, lui, est possible pour les entreprises. 

Limiter les cadences comme on lutte contre le morcellement des horaires

Autre piste d’action pour limiter la surveillance au travail : mettre des seuils aux cadences que la convergence des systèmes de surveillance numérique tentent d’optimiser ! La réponse consiste alors pour le régulateur à poser des limites aux cadences (à l’image d’une récente loi californienne et de la décision de la Cnil contre Amazon Logistic) tout comme il intervient parfois pour définir des limites aux morcellement horaires du travail en définissant par exemple des durées minimales de travail journalier. 

Reste que légiférer pour faire que les outils de contrôle du travail rendent des comptes est difficile, comme le montre l’échec de la loi new-yorkaise à imposer des audits aux outils d’embauches automatisés qui continuent à proposer peu de recours et de garantie aux chercheurs d’emplois (voir notre article sur la question, qui pointait les limites de la régulation des outils de recrutement automatisés). 

Autre risque : le caractère discrétionnaire et opaque des promotions et avantages, à l’image du titre de « Master » qu’Amazon attribue à certains travailleurs du Mechanical Turk selon un score de confiance confidentiel : une forme de plafond de verre algorithmique que dénonçait la chercheuse Lilly Irani. Même chose quand Amazon finalement note les travailleurs de ses entrepôts selon leur rapidité d’exécution ou leur taux d’erreur, sans prendre en compte les particularités de ses employés, indifférent aux situations, au genre, au handicap… ou au taux d’accident provoqué. Ajoutez à cela le fait que les données permettent de fixer des objectifs dynamiques, des performances changeantes et opaques… et vous avez un cocktail de paramètres opaques qui vient directement impacter et fragiliser le droit du travail. 

Il n’y aura pas de limites à la surveillance sans consacrer un droit d’accès aux données pour les travailleurs

Qui décide de la signification que les traitements produisent depuis les données ? Telles sont les questions que pose un intéressant travail sur la dataification du travailleur réalisé par la chercheuse Alexandra Mateescu pour Data & Society. La chercheuse y rappelle simplement que le management algorithmique ne peut pas remplacer les règles qui garantissent des droits équitables, comme le pointait déjà l’AI Now Institute. Quant à l’information des salariés sur la collecte et le traitement des données les concernant, elle est bien souvent insuffisante pour remédier aux problèmes. Le management algorithmique ne peut pas remplacer les droits des travailleurs, bien au contraire, il les sape. 

Pour dépasser ces problèmes, nombre de travailleurs tentent de s’organiser pour reprendre la main sur leurs données, explique Alexandra Mateescu. Mais ces tentatives nécessitent de leur part une organisation, une expertise et des moyens dont ils ne disposent pas toujours. 

Les syndicats sont néanmoins de plus en plus conscients de l’impact des données et tentent de plus en plus souvent d’inclure des dispositions relatives à celles-ci dans leurs négociations, comme le montrait la chercheuse Lisa Kresge dans un rapport pour le Labor Center de Berkeley. Une coalition de syndicats de services publics européens a mis en place un espace de ressource (en français) pour faciliter les négociations sur les enjeux numériques. Reste que la question des données et de leur accès demeure trop souvent secondaire dans les négociations syndicales. On le comprend. Mais il n’y aura pas de limites à la surveillance sans consacrer un droit d’accès et de traitement pour les travailleurs et leurs représentants. 

Hubert Guillaud

Les trous noirs dans le contrôle des services de renseignement

Ce texte restitue la prise de parole d’un membre de La Quadrature du Net à l’occasion d’un colloque organisé conjointement par la revue Études Françaises de Renseignement et de Cyber et par la CNCTR, la Commission nationale de contrôle des techniques de renseignement, à Paris le 14 octobre 2024.

Ces dernières années, les services de renseignement français ont connu une croissance continue de leurs pouvoirs, qu’il s’agisse des ressources budgétaires et humaines dont ils disposent que des prérogatives juridiques dont ils bénéficient. Or, l’enjeu du contrôle démocratique du renseignement – historiquement faible dans ces matières relevant de la raison d’État, et ce particulièrement en France – est largement resté secondaire. Il n’est donc pas surprenant de constater la permanence de véritables « trous noirs » dans le dispositif institutionnel français.

Opacité

Avant d’en venir à ces trous noirs, le premier point qu’il nous faut aborder à trait l’opacité des politiques publiques du renseignement, et la façon dont ce manque de transparence empêche une organisation comme La Quadrature du Net de cultiver une expertise sur le renseignement, et donc de porter une critique correctement informée, et donc perçue comme légitime. Si c’est à l’honneur des deux présidents de la CNCTR que d’avoir accepté, à l’occasion, de nous rencontrer, que dire des silences assourdissants que des parlementaires de la Délégation parlementaire au renseignement, des services eux-mêmes, ont opposé à nos demandes répétées de rendez-vous et d’échange ?

Ce colloque – le premier du genre – est certes bienvenu. Mais il ne permet pas de remédier à l’opacité systémique du champ du renseignement, la manière dont il maintient sciemment tout critique externe à distance, qu’il s’agisse de celle nourrie par des journalistes d’investigation ou de groupes militants attachés à la défense des droits humains. Alors que dans l’histoire du renseignement, en France et dans d’autres pays, c’est presque toujours cette critique externe qui semble avoir permis de remédier aux abus les plus graves, de documenter les illégalités en matière de surveillance, et ce bien sûr en lien avec leurs sources et autres lanceurs d’alerte issus le plus souvent des services.

Cette critique externe ne joue pas seulement un rôle crucial dans le cadre des controverses qui, régulièrement, se nouent autour des servies de renseignement. Elle est aussi nécessaire au travail des organes de contrôle institutionnalisés, ne serait-ce que pour leur permettre d’entendre un autre son de cloche, d’autoriser une forme de pluralisme dans ces matières, et faire en sorte que ces organes puissent être exposés à un autre d’autres points de vue. Cela est de nature à éviter que ces organes ne deviennent inféodés aux services qu’ils sont censés contrôler.

De fait, en dehors des quelques informations ayant filtré via des journalistes, et outre les rares allusions faites par les responsables du renseignement lors d’auditions parlementaires ou par la CNCTR, aucune information officielle n’est fournie en France quant à la nature et le coût des technologies de surveillance déployées par les services pour collecter, stocker et analyser les communications et autres données numériques. L’enjeu de leur imbrication dans les processus de production du renseignement, la nature des marchés publics et l’identité des sous-traitants privés, et même les interprétations juridiques ayant cours au sein des services quant à l’utilisation de ces système, restent également marqués par une grande opacité.

Pour finir, rappelons que cette opacité est d’autant plus illégitime, d’autant plus dangereuse, que depuis la dernière publication de la stratégie nationale du renseignement en 2019, et grâce aux rapports de la CNCTR depuis lors, on sait que l’activité des services dans les matières les plus sensibles sur le plan démocratique – qu’on pense à la surveillance des mouvements sociaux —, sont en forte recrudescence. C’est notamment le cas s’agissant de groupes militants non seulement légitimes en démocratie mais nécessaires pour sortir nos sociétés de leur immobilisme face à la crise sociale et écologique.

Techniques

Outre cette opacité systémique, le droit du renseignement français reste marqué par de véritables trous noirs dans le contrôle de certaines modalités de collecte ou d’analyse des données. Passons donc en revue certaines des plus graves lacune du cadre juridique français.

Le plus significatif réside sans aucun doute dans l’absence de contrôle des échanges de données avec des services de renseignement étrangers. Depuis plusieurs années, la CNCTR demande de pouvoir contrôler le partage de données entre services français et services étrangers. En France, la question est d’autant plus pressante que les flux de données échangés entre la DGSE et la NSA ont connu une augmentation rapide suite à la conclusion des accords SPINS, signés fin 2015.
Or, la loi française exclut explicitement tout contrôle de la CNCTR sur ces collaborations internationales nourries par des services jouissant d’une forte autonomie.

Dans son rapport annuel publié en 2019, la CNCTR admettait que ce trou noir dans le contrôle du renseignement présentait un risque majeur, puisqu’il pourrait permettre aux services français de recevoir de leurs homologues des données qu’ils n’auraient pas pu se procurer légalement au travers des procédures définies dans la loi française. Dans le langage feutré qui la caractérise, la commission estimait qu’« une réflexion devait être menée sur l’encadrement légal des échanges de données entre les services de renseignement français et leurs partenaires étrangers ». La CEDH a en effet rappelé dans son arrêt Big Brother Watch du 25 mai 2021 que ces échanges devaient être encadrés par le droit national et soumis au contrôle d’une autorité indépendante (§ 362). Pourtant, à ce jour, la France est le dernier État membre de l’Union européenne à ne disposer d’aucun cadre juridique pour encadrer ces échanges internationaux.

Un autre de ces trous noirs est bien sûr l’immunité pénale liée à l’article 323-8 du code pénal et l’absence de tout encadrement législatif des activités de piratage informatique menées par les services français sur des équipements situés hors des frontières nationales. Cette absence d’encadrement conduit à ce que ces activités soient de facto illégales. L’immunité pénale ainsi accordée apparaît également contraire à l’article 32(b) de la convention de Budapest sur la cybercriminalité.

Autre forme de surveillance non couverte par la loi et donc tout aussi illégale : la surveillance dite « en source ouverte » (OSINT), notamment sur les réseaux sociaux comme Facebook ou X – une activité sur laquelle peu de choses ont fuité dans la presse mais dont on sait qu’elle a pris une importance croissante ces dix dernières années. L’achat de données aux data brokers n’est pas non plus régulé en droit français. Or rien ne permet de penser que cette activité, qui a fait la controverse aux États-Unis, ne soit pas aussi coutumière pour les services français.

Droits et garanties

Le droit français présente aussi d’énormes lacunes du point de vue des droits apportés aux personnes surveillées.

Le droit à l’information tout d’abord. Il s’agit-là d’un principe essentiel dégagé par la jurisprudence européenne : les personnes ayant fait l’objet d’une mesure de surveillance secrète doivent pouvoir en être informées, dès lors qu’une telle information n’est plus susceptible d’entraver l’enquête menée à leur encontre par les services. Dès son rapport publié en janvier 2018, la CNCTR passait en revue la jurisprudence afférente et mentionnait plusieurs exemples de législations étrangères – la loi allemande notamment – garantissant une procédure de notification des personnes surveillées, prévoyant un certain nombre d’exceptions étroitement limitées.

Il y a enfin l’absence de pouvoirs octroyés à la CNCTR pour tenir en échec des formes de surveillance illégale, et notamment l’absence d’avis conforme. Le Conseil d’État rappelait pourtant dans son arrêt du 21 avril 2021 relatif à la conservation généralisée des données de connexion que ce dernier était une exigence du point de vue du droit de l’Union européenne. Dans cette décision qui donnait largement gain de cause au gouvernement, le Conseil d’État se fondait sur l’arrêt La Quadrature du Net de la CJUE, en date d’octobre 2020, pour exiger que les avis rendus par la CNCTR sur les mesures de surveillance soient « conformes » (c’est-à-dire impératifs pour le gouvernement) et non plus simplement consultatifs.

Ces quelques aspects, loin de donner un aperçu exhaustif de tous les problèmes posés par le droit français en matière de surveillance numérique conduite par les services de renseignement, suffit à illustrer le fait que, en dépit des compliments reçus par la France de la part d’un certain rapporteur de l’ONU à la vie privée qui restera de triste mémoire, la France a encore beaucoup à faire pour se hisser au niveau des standards internationaux, lesquels devraient pourtant être considéré comme un socle minimal dans tout État de droit qui se respecte.

2025 marquera les 10 ans de la loi renseignement. Pour continuer notre travail sur la surveillance d’État l’année prochaine, nous avons besoin de votre soutien. Alors si vous le pouvez, faites un don à La Quadrature du Net.

❌