❌

Vue normale

Il y a de nouveaux articles disponibles, cliquez pour rafraîchir la page.
À partir d’avant-hierpolitique
  • ✇Dans les algorithmes
  • Quels travailleurs détestent le plus l’IA ?
    Il y a visiblement une profession qui déteste l’IA plus que toute autre, ce sont les assureurs chargés du traitement des sinistres, rapporte Wired. Ils sont les premiers à se plaindre de « dirigeants obsédés par l’IA qui l’imposent, à eux et à leurs clients ». C’est en tout cas ce qu’on apprend d’une étude de Glassdoor sur le ressenti des travailleurs face à l’IA qui a étudié les réflexions des employés sur l’IA issue des avis qu’ils laissent sur leur employeur sur le grand site participatif d’é

Quels travailleurs détestent le plus l’IA ?

23 septembre 2026 à 07:00

Il y a visiblement une profession qui déteste l’IA plus que toute autre, ce sont les assureurs chargés du traitement des sinistres, rapporte Wired. Ils sont les premiers à se plaindre de « dirigeants obsédés par l’IA qui l’imposent, à eux et à leurs clients ». C’est en tout cas ce qu’on apprend d’une étude de Glassdoor sur le ressenti des travailleurs face à l’IA qui a étudié les réflexions des employés sur l’IA issue des avis qu’ils laissent sur leur employeur sur le grand site participatif d’évaluation des environnements de travail. Tout secteur confondu, rapporte l’étude, les mentions de l’IA dans les avis Glassdoor ont augmenté de 240 % entre mai 2025 et mai 2026. Mais si par le passé, les avis mentionnant l’IA étaient majoritairement positifs (81 % d’avis positifs en 2019), cette tendance s’inverse : en 2026, on ne compte plus que 43 % d’avis positifs, 4 % d’avis mitigés et 53 % d’avis négatifs. 

L’étude empirique de Glassdoor montre un renforcement de la tension sociale autour de l’IA. Hormis les dirigeants d’entreprises qui demeurent le groupe le plus favorable à l’IA, certains métiers adhèrent à ses avantages, comme les responsables des ventes et des produits, les recruteurs, les architectes logiciels ainsi que les analystes et ingénieurs de données. A l’inverse, d’autres professions y sont majoritairement hostiles, notamment les rédacteurs, les journalistes, les comptables, les agents de service client, les designers et professionnels de l’informatique. Mais les plus hostiles restent les gestionnaires de sinistres : 98 % de leurs commentaires étant négatifs.

Les femmes et la génération Z (nés entre 1997-2012) sont les plus critiques à l’égard de l’IA. Les travailleurs plus âgés ont tendance à avoir une opinion plus positive de l’IA, tandis que les plus jeunes sont plus critiques. Au sein de chaque génération, les hommes sont plus enclins à mentionner l’IA, et les femmes se montrent plus critiques que les hommes à son sujet. Chez les hommes de la génération X (nés entre 1960 et 1980), 50 % des commentaires sur l’IA sont positifs, alors que 42 % des commentaires des femmes de cette même génération sont négatifs. Les différences liées au poste occupé et au secteur d’activité expliquent entièrement cet écart. Les commentaires des hommes de la génération Y (milléniaux, nés entre 1980 et 1997) sont positifs à 44 %, contre 33 % pour les femmes. Les différences de poste et de secteur n’expliquent qu’un quart de cet écart. Les hommes de la génération Z affichent 42 % d’avis positifs, contre 21 % pour les femmes de la même génération ; ici, le poste et le secteur d’activité n’entrent pas en ligne de compte. Cet écart persiste même après ajustements statistiques. 

Les commentaires sur l’IA reflètent des opinions tranchées Les mentions de l’IA apparaissent généralement dans des avis Glassdoor très positifs ou très négatifs, en particulier concernant la direction et les perspectives de l’entreprise. Seuls 23 % des auteurs d’avis critiques envers l’IA approuvent le PDG, et 18 % perçoivent des perspectives commerciales positives. À l’inverse, 86 % des auteurs d’avis positifs sur l’IA approuvent le PDG et 81 % envisagent des perspectives commerciales favorables. Les auteurs d’avis positifs sur l’IA sont plus attachés à leur entreprise Les employés ayant cité l’IA comme un point positif sont 47 % moins susceptibles de postuler à d’autres emplois sur Glassdoor. Ceux qui émettent des critiques sur l’IA postulent à d’autres emplois dans des proportions similaires aux employés ne mentionnant pas l’IA. Aucun secteur ni aucune taille d’entreprise ne recueille une majorité de commentaires positifs sur l’IA, mais certains affichent un taux de critique élevé. Les travailleurs du secteur technologique mentionnent l’IA 3,6 fois plus souvent que la moyenne. Les secteurs suivants en termes de fréquence sont les médias et la communication (1,8 fois) ainsi que la gestion et le conseil (1,1 fois le taux de référence). L’IA est la plus populaire dans le secteur juridique, bien que les avis y soient partagés à parts égales (50/50). D’autres secteurs se montrent extrêmement critiques à l’égard de l’IA, notamment les arts (89 % d’avis négatifs), les organisations à but non lucratif (85 %), les assurances (81 %), les télécommunications (80 %) et le transport/la logistique (79 %). Les petites entreprises (200 employés ou moins) ont tendance à susciter davantage de commentaires positifs sur l’IA (50 % d’avis positifs), un chiffre qui tombe à 33 % pour les entreprises de plus de 10 000 employés. 

Bon, revenons à nos agents d’assurances. « Nous sommes épuisés par la quantité d’IA qu’on nous impose », témoigne l’un d’eux à Wired. En fait, la profession traverse une crise majeure. Le nombre de postes a baissé de 5% au cours de la dernière décennie et de plus de 21% entre mai 2025 et 2026, et les postes de débutants ont chuté de plus de 50% depuis 2025. Pour le bureau des statistiques du travail américain, cette chute serait liée au déploiement technique. « Des startups spécialisées, comme Liberate ou Pace, ont levé des millions de dollars en promettant de « réinventer » l’assurance, tandis que les assureurs ont intensifié le recours à l’IA pour traiter un volume croissant de dossiers. Concrètement, cela peut se traduire par un échange avec un chatbot plutôt qu’avec une personne physique pour déclarer un sinistre. Au lieu d’envoyer des agents inspecter une habitation endommagée, des outils d’IA peuvent analyser des photos ou des vidéos pour estimer le montant des indemnisations. L’IA peut également résumer des centaines de pages de dossiers médicaux afin d’en extraire les informations essentielles. Ou bien, l’outil d’IA d’un assureur pourrait traiter les informations transmises par un assuré – photos, vidéos, documents, reçus – puis effectuer un versement, le tout en quelques secondes », comme le propose Lemonade dont le chatbot traiterait 55% de l’ensemble des dossiers de sinistres, laissant à ses employés la gestion des dossiers les plus complexes. Mais les professionnels du secteur ont surtout l’impression d’être remplacés par des modèles d’IA… sans que les clients ne comprennent très bien que les conclusions d’une expertise (et ses erreurs) sont bien plus le fait de robots que d’experts. 

Comme le résume l’historien Brian Merchant sur son blog qui s’est également intéressé à l’étude : « les personnes qui décrivent l’IA en termes très positifs occupent, pour la grande majorité, des postes de direction ; ce sont les cadres de niveau directeur ou supérieur qui manifestent le plus d’enthousiasme à son égard. Les responsables des ventes – en somme, les chefs d’équipe commerciale – se montraient également bien plus favorables que défavorables à l’IA, dans une proportion d’environ deux pour un. Les chefs de produit, les recruteurs et les ingénieurs logiciels affichent eux aussi un avis plutôt positif, avant que les opinions ne tendent vers un certain équilibre ». A l’inverse, remarque l’historien, si l’on observe les professions qui décrivent l’IA en termes très négatifs, on voit apparaître une toute autre configuration sociale. Merchant souligne que le basculement des avis négatifs a progressé et qu’il s’affirme à mesure que les entreprises adoptent massivement des solutions d’automatisation basées sur l’IA. Mais, il semble que « plus les travailleurs sont exposés à l’IA, moins ils l’apprécient ». Pour Merchant, « le ressenti vis-à-vis de l’IA au travail dépend probablement du pouvoir dont vous disposez au sein de l’entreprise ». Le rapport à l’IA est distribué selon le pouvoir dont on dispose sur ces outils. L’appréciation est directement liée à la position sociale qu’on occupe. 

« Pour percevoir l’IA de manière positive, il faut avoir la main sur les décisions concernant son utilisation (ou non) et disposer d’une marge de manœuvre suffisante pour se sentir protégé contre le risque de remplacement, de surveillance ou de dégradation des conditions de travail ». Les cadres et les patrons ont bien peu de comptes à rendre quant à leur utilisation de l’IA. A l’inverse, les employés, eux, n’ont bien souvent aucune liberté dans leur rapport à l’IA. Pour Brian Merchant, la question de la responsabilité éclaire la différence de perception. C’est pourquoi les emplois d’employés sont bien plus en colère contre l’IA que les cadres. Cela explique que les comptables, les conseillers clientèles ou les informaticiens de base soient mis en difficulté par ces outils, car c’est sur eux que repose la tension de la vérification entre « le patron exige que toute l’entreprise utilise l’IA » et « la moindre erreur est de votre faute et vous en êtes responsable ». Entre ceux qui sont contraints et ceux qui restent libres. La tension entre ceux que ces outils assistent et libèrent et ceux que ces outils contrôlent et limitent, n’est pas tant une différence d’approche de l’IA, qu’une différence sociale entre le haut et le bas du déploiement de l’IA.

  • ✇Dans les algorithmes
  • La gauche doit-elle céder au chant de l’IA générative ? Non ! 
    « Depuis que le camp de l’émancipation a renoncé à combattre l’aliénation et a adopté les « innovations » du capital en les saluant comme des progrès, il ne cesse de multiplier les défaites. Parce que, précisément, ces innovations garantissent une passivité face à la réalité capitaliste qui sape les bases de toute tentative sérieuse d’émancipation. » Pour le journaliste Romaric Godin de Mediapart, l’IA générative ne conduira la gauche nulle part. « Le capital est le principe dominant de cette te

La gauche doit-elle céder au chant de l’IA générative ? Non ! 

9 septembre 2026 à 07:00

« Depuis que le camp de l’émancipation a renoncé à combattre l’aliénation et a adopté les « innovations » du capital en les saluant comme des progrès, il ne cesse de multiplier les défaites. Parce que, précisément, ces innovations garantissent une passivité face à la réalité capitaliste qui sape les bases de toute tentative sérieuse d’émancipation. » Pour le journaliste Romaric Godin de Mediapart, l’IA générative ne conduira la gauche nulle part. « Le capital est le principe dominant de cette technologie qui est à son service. » « Si l’État prenait le contrôle de l’IA aujourd’hui, il la mettrait au service de la société capitaliste comme une matière première. Il en assurerait donc l’abondance bien davantage que la sobriété. Cela changerait certes les rapports de force au sein du capital, mais cela ne changerait rien à la centralité du capital dans la société. »

Mais surtout, rappelle le journaliste, à quoi sert l’IAG dans la lutte pour l’émancipation ? « En réalité, cette technologie n’est pas qu’un simple outil que l’on pourrait aisément retourner. La gestion de l’économie du capitalisme tardif passe par le déni des crises économiques, anthropologiques et écologiques. Et l’IAG est l’outil conçu pour organiser ce déni. Son développement est un choix du capital qui a investi et continue d’investir dans cette technologie au détriment d’autres technologies qui pourraient davantage répondre aux besoins de l’humanité. »

  • ✇C'est pas mon idée !
  • Une IA pour remplacer les actuaires
    Huscarl, qui vient d'opérer une première levée de fonds au début du mois, s'attaque à une forteresse historique de l'analyse de données : l'actuariat. Elle développe en effet, à l'intention des entreprises auto-assurées, des outils d'intelligence artificielle capables de calculer des projections de pertes et de primes sur des scénarios personnalisés.Bien sûr, il n'est pas question – en tous cas pour l'instant (?) – de remplacer les experts qui, dans les compagnies, affinent presque quotidiennem

Une IA pour remplacer les actuaires

Par : Patrice
18 septembre 2026 à 21:45
Huscarl
Huscarl, qui vient d'opérer une première levée de fonds au début du mois, s'attaque à une forteresse historique de l'analyse de données : l'actuariat. Elle développe en effet, à l'intention des entreprises auto-assurées, des outils d'intelligence artificielle capables de calculer des projections de pertes et de primes sur des scénarios personnalisés.

Bien sûr, il n'est pas question – en tous cas pour l'instant (?) – de remplacer les experts qui, dans les compagnies, affinent presque quotidiennement les évaluations de risques sur les produits courants de l'industrie avec des modèles mis au point et étalonnés sur de longues années. En revanche, la jeune pousse (française) défend ses atouts pour s'implanter dans des domaines plus spécialisés, tels que ceux que prennent en charge les entités captives, correspondant fréquemment à des besoins atypiques.

Huscarl propose ainsi de réaliser des études de faisabilité ad hoc ou bien de construire un véritable plan d'affaires pour une couverture donnée. À partir d'informations plus ou moins riches et d'une description des attentes, ses algorithmes vont élaborer un dossier d'étude sur cinq ans, illustrant l'équation économique d'un projet, y compris en conditions extrêmes, ou bien estimer le coût à prévoir, ligne par ligne, prenant même en compte les évolutions structurelles, par exemple autour des aléas liés au changement climatique.

Dans une large mesure, la startup cherche plus à combler les niches dans lesquelles les professionnels ne peuvent s'engager qu'à remplacer le travail des actuaires, ce qui explique son positionnement. Elle promet notamment, de manière explicite, de fournir des résultats exploitables sur des risques que les acteurs traditionnels ne veulent pas considérer ou, du moins, pas avec le niveau de personnalisation souhaité, que ce soit par manque de données de référence ou en raison de leur mauvaise qualité.

Accueil Muscarl

Aujourd'hui, vus de l'extérieur, les actuaires représentent une élite intouchable dans l'univers de l'assurance. Pourtant, ils ne seront pas épargnés par la révolution de l'intelligence artificielle, bien au contraire. Leurs compétences en matières de statistiques sont évidemment parmi les plus exposées à l'automatisation… et, conscients du progrès, ils ont su s'approprier les générations précédentes de science de données en vue de décupler leur efficacité. Désormais, c'est le second pan de leur savoir-faire qui est menacé : la compréhension des sous-jacents d'un risque et d'une couverture. Certes les IA n'en ont pas une réelle perception mais elles sont néanmoins en mesure de les capturer dans des documents ou autre sources d'information et cette capacité peut probablement suffire à reproduire une expertise convaincante.

  • ✇C'est pas mon idée !
  • Des IA pour les conseillers financiers
    Coup sur coup, OpenAI puis Anthropic ont présenté leurs solutions d'intelligence artificielle générative à l'intention des conseillers financiers. Au milieu de la frénésie pour les agents IA, leurs prétentions, largement circonscrites à la documentation, paraissent timides : l'extrême prudence qui règne dans le secteur impose ses conditions.Pour être précis, les annonces des deux firmes ne concernent pas exactement les mêmes populations : la déclinaison de ChatGPT s'adresse plutôt aux équipes d

Des IA pour les conseillers financiers

Par : Patrice
16 septembre 2026 à 21:45
Claude
Coup sur coup, OpenAI puis Anthropic ont présenté leurs solutions d'intelligence artificielle générative à l'intention des conseillers financiers. Au milieu de la frénésie pour les agents IA, leurs prétentions, largement circonscrites à la documentation, paraissent timides : l'extrême prudence qui règne dans le secteur impose ses conditions.

Pour être précis, les annonces des deux firmes ne concernent pas exactement les mêmes populations : la déclinaison de ChatGPT s'adresse plutôt aux équipes de banque d'investissement tandis que celle de Claude est véritablement dédiée aux professionnels de l'accompagnement des particuliers. J'estime néanmoins intéressant de constater à quel point les approches s'avèrent similaires et, finalement, portent sur un périmètre contraint qui, en pratique, en limite la valeur en tant qu'offre tierce.

Les solutions visent ainsi un même objectif de simplifier les phases documentaires et préparatoires au travail des spécialistes. Dans cette perspective, l'accent est mis sur les connecteurs pré-intégrés, qui permettent à l'IA d'accéder directement et de manière aussi transparente que possible (donc sans requérir des configurations techniques parfois complexes) aux sources d'information habituelles de ses utilisateurs. À partir de cette matière, elle réalise les tâches administratives classiques de son audience cible.

Pour ChatGPT, qui rattrape ici son grand concurrent sur un produit datant de plus d'un an, il s'agit de produire des documents d'analyse financière – sous divers formats, y compris graphiques, adaptés aux chartes de chaque client, le cas échéant – en combinant des sources multiples et en opérant sur des dimensions variables (statique, temporelle…). Naturellement, OpenAI insiste sur les garanties de sécurité et de confidentialité qu'elle engage vis-à-vis des données ingérées par son modèle.

L'IA pour les Conseillers Financiers

Du côté de Claude, c'est une batterie de fonctions unitaires qui est mise à la disposition des conseillers, également dans l'optique de faciliter leur quotidien : études préalables à un entretien, portant, selon les cas, sur les investissements alternatifs, sur les aspects réglementaires, sur la fiscalité, la revue des équilibres du portefeuille… Les protections sont partiellement automatisées, par exemple le contrôle des exigences de la SEC sur les communications aux clients, ou déléguées à l'humain, dont la validation est requise pour les livrables potentiellement sensibles (notamment s'ils sont partagés).

En synthèse, les géants de l'IA proposent à l'industrie de la finance des outils qui se contentent d'implémenter les « basiques » de l'intelligence artificielle générative dans ses métiers, à savoir, en simplifiant le concept, l'acquisition d'information, son traitement, et la restitution de contenus dérivés plus ou moins originaux. Cette démarche évite certes les inquiétudes suscitées par des modèles qui élaboreraient des stratégies d'investissement ou émettraient des recommandations. Mais ne correspond-elle pas à ce que les institutions construisent déjà en interne depuis quelques temps ?

  • ✇Dans les algorithmes
  • Flock : quel niveau de surveillance êtes-vous prêts à tolérer ?
    Aux Etats-Unis, la fronde contre le développement des détecteurs automatiques des numéros de plaques d’immatriculations est forte. Si quelques caméras Flock ont été vandalisées, ce sont surtout nombre de conseils municipaux abonnés au système qui rejettent et résilient leurs contrats avec l’entreprise qui les installe, suite notamment aux révélations de l’utilisation du système par l’ICE, la police qui de l’immigration américaine, qui s’en sert pour traquer les étrangers sans lien avec des infra

Flock : quel niveau de surveillance êtes-vous prêts à tolérer ?

8 septembre 2026 à 07:00

Aux Etats-Unis, la fronde contre le développement des détecteurs automatiques des numéros de plaques d’immatriculations est forte. Si quelques caméras Flock ont été vandalisées, ce sont surtout nombre de conseils municipaux abonnés au système qui rejettent et résilient leurs contrats avec l’entreprise qui les installe, suite notamment aux révélations de l’utilisation du système par l’ICE, la police qui de l’immigration américaine, qui s’en sert pour traquer les étrangers sans lien avec des infractions de circulations. 

Pour faire face à la fronde, Flock a fini par réagir et a annoncé une série de changements dans les modalités de partage d’information avec les forces de l’ordre américaine. Des changements surtout cosmétiques, ironise Gizmodo. L’entreprise, en effet, propose désormais que par défaut, la durée de conservation des informations passe de 30 à 7 jours. Mais en fait, précise l’entreprise, « les forces de l’ordre peuvent prolonger ou réduire cette période. Chaque collectivité continuera de choisir la durée de conservation adaptée à sa stratégie de sécurité publique et conforme aux politiques locales ou étatiques. » Elle annonce également un dispositif supplémentaire (le mode « Preuve ») qui permettra à la police de conserver « des données LAPI (systèmes de Lecture automatisée de plaques d’immatriculation) spécifiques à titre de preuve pour une enquête en cours, dans un stockage à long terme ». L’ACLU (American Civil Liberties Union) a publié une réponse moqueuse (« Flock semble davantage viser à résoudre un problème d’image qu’à s’attaquer aux atteintes majeures à la vie privée et aux autres préjudices engendrés par ses produits ») et maintient sa campagne invitant les citoyens à agir pour « se débarrasser du Flock » (Get the Flock out). L’Institut pour la Justice a pour sa part publié une base de données pour recenser les abus d’utilisation des systèmes de lecture automatisée de plaques d’immatriculation. L’ACLU rappelle que si Flock souhaite évaluer l’efficacité de son outil et notamment mieux surveiller les usages abusifs qu’en fait la police, l’entreprise devrait le soumettre à l’analyse d’un évaluateur indépendant. Flock a déjà par le passé annoncé des mesures de sécurité liées au motif de recherche, mais elles n’ont produit aucune amélioration, bien au contraire. Comme, le rappelle Gizmodo, « il est difficile d’imaginer qu’une personne prête à détruire une caméra Flock changera d’avis simplement parce que la durée recommandée de conservation des données passe de 30 à 7 jours ». 

Dans un entretien à la BBC, le PDG de Flock, Garrett Langley, ajoute qu’il s’est rallié à l’idée d’organisations telles que l’ACLU et l’Electronic Frontier Foundation (EFF), selon lesquelles la police devrait disposer d’un numéro de dossier en cours pour pouvoir consulter les données de Flock. Pour Cooper Quentin, de l’EFF, « les requêtes dans les bases de données [de lecteurs automatiques de plaques d’immatriculation], devraient impérativement faire l’objet d’un mandat judiciaire ». Ce n’est pas le cas. 

Alors que le gouvernement américain surveille activement sur les réseaux sociaux les publications anti-Flock devenues virales, rapporte 404 media, et menace le site DeFlock, qui cartographie la présence des caméras, son initiateur, Will Freeman, rappelle qu’il n’a jamais appelé à neutraliser les caméras ni à masquer les plaques d’immatriculation, contrairement à ce qu’affirment les récents bulletins des forces de l’ordre. Le vandalisme montre surtout que les gens sont mécontents de voir ces systèmes installés à leur insu ou sans leur consentement. Mais le sabotage semble surtout assez anecdotique, bien moindre en tout cas que la contestation qui pousse les citoyens à demander des comptes aux autorités locales qui tissent des partenariats avec l’entreprise Flock. 

Comme l’explique une enquête de New Republic sur la montée de la contestation contre les systèmes de caméras LAPI, « Flock constitue un système de surveillance de masse d’une puissance – et d’une rentabilité – stupéfiante. Ses caméras LAPI sont utilisées par plus de 1 000 entreprises et environ un tiers des 18 000 services de police des États-Unis ». L’ACLU l’estime à le nombre de caméras de surveillance des plaques d’immatriculations déployées aux Etats-Unis à 90 000. Quant à l’entreprise, elle a généré un chiffre d’affaires de 285 millions de dollars en 2024. Le géant du capital-risque Andreessen Horowitz a récemment valorisé l’entreprise à 7,5 milliards de dollars. 

Alors qu’il valorise son entreprise en promettant rien de moins que l’élimination de la criminalité des Etats-Unis d’ici une décennie, l’année dernière, Garrett Langley a qualifié DeFlock d’« organisation terroriste ». A l’heure où les actions de résistance anti-tech sont devenues, aux Etats-Unis, une menace terroriste, Will Freeman répond que son site, DeFlock, est surtout un outil de transparence. 

Les études (2019 et 2024), jusqu’à présent, montrent surtout que l’efficacité des caméras à prévenir le crime est plus que douteuse. « En 2022, l’entreprise s’est vantée que ses caméras à San Marino, en Californie, avaient entraîné une baisse de 80 % des cambriolages en cinq mois ; Forbes a révélé par la suite que les cambriolages avaient en réalité augmenté dans les années suivant l’installation des caméras de Flock ». « Même si les caméras et le réseau de surveillance de Flock contribuent à élucider certains crimes, les critiques estiment que le prix à payer en matière de vie privée est trop élevé. La police a été prise en flagrant délit d’utilisation illégale des données de Flock pour localiser une femme cherchant à avorter, pour traquer et harceler des individus, surveiller des manifestations ou prêter main-forte aux services d’immigration de l’ICE pour arrêter des individus depuis de simples suspiscions. » 

« Au minimum, cette surveillance de masse implique le suivi, sans mandat, de toute personne circulant sur la voie publique », a averti l’ACLU. « Au pire, elle instaure un État policier numérique où les forces de l’ordre […] peuvent traquer manifestants, opposants politiques, immigrés, patients et autres personnes non soupçonnées de crime, et utiliser ces informations pour leur nuire. »

Une contestation de droite comme de gauche

Sous la pression populaire d’opposants à Flocks, locaux et actifs, « Austin, au Texas, a suspendu son programme Flock en juin dernier face à la contestation locale, tandis qu’Evanston, dans l’Illinois, y a mis fin en août. Selon la NPR, au moins 30 localités « ont soit désactivé leurs caméras Flock, soit annulé leurs contrats depuis le début de l’année 2025 ». » A Ithaca, les manifestations ont fait reculer la police. Par des pétitions, des interventions publiques et des tribunes dans la presse locale, le collectif local, Flock Off, a quelque peu freiné les activités de l’entreprise. En octobre, le bureau du shérif du comté a cessé de partager les données Flock avec les comtés collaborant avec l’ICE. En février, suite à une  manifestation devant l’hôtel de ville, la police locale a réduit le nombre de services avec lesquels elle partageait les données. « À bien des égards, cela prouve qu’au niveau local, la démocratie peut encore fonctionner », estime le responsable du groupe Flock Off local. Le prochain objectif de Flock Off est de faire résilier purement et simplement le contrat passé avec la ville.

« Si les groupes opposés à Flock émergent généralement de bastions progressistes, certains États dirigés par des républicains ont également pris des mesures pour restreindre la surveillance par ces systèmes. Les libertariens, en particulier, s’opposent à Flock : le magazine libertarien Reason a publié plusieurs articles critiquant l’entreprise, qu’il accuse de mener un programme de surveillance de masse orwellien », rapporte New Republic. 

Le New York Times s’est également intéressé à « ces caméras que la police adore et que les citoyens détestent ». Au Texas, rapportent les journalistes Fernando Alfonso III et Kashmir Hill, « il est un point sur lequel progressistes et conservateurs s’accordent : ils ne veulent pas de caméras braquées sur leurs voitures ». Pourtant, les Américains sont habitués à la vidéosurveillance. « Ils en installent sur leurs sonnettes et les acceptent au coin des rues, dans les bureaux et les restaurants ». Mais, ce qui distingue les caméras Flock, rappellent les journalistes, « c’est qu’elles sont connectées entre elles, formant un vaste réseau national interrogeable ; cette situation surprend souvent les habitants – qui ignoraient que leurs autorités locales avaient souscrit à ce service – et suscite des craintes d’une surveillance digne de « Big Brother ». De plus, il est difficile de ne plus les voir une fois qu’on a commencé à les remarquer. » Le Texas est devenu un baromètre, estiment les journalistes. « Flock a commencé à vendre ses services aux services de police début 2020, en installant quelques dizaines de caméras dans une banlieue de Houston. Six ans plus tard, 700 services de police texans ont passé contrat avec l’entreprise. L’opposition regroupe des progressistes inquiets de la surveillance gouvernementale, des conservateurs méfiants à l’égard de l’extension du pouvoir de l’État, ainsi que des citoyens et des élus soucieux de leur vie privée et préoccupés par les possibles dérives du réseau. » A l’image de Hannah Foust, qui vit à Carrollton (Texas), qui a commencé à publier des messages sur les lecteurs de plaques d’immatriculation dans des groupes Reddit et a lancé une pétition en ligne pour obtenir le retrait de ces caméras de sa commune. Devant le conseil municipal, elle explique : « Je ne commets aucun délit, mais je ne veux pas nécessairement que quiconque – et encore moins des agences gouvernementales ou une entreprise privée – puisse voir où je dépose mes enfants, quel itinéraire je privilégie pour me rendre au travail, si je préfère H-E-B ou Kroger, ou quel lieu de culte je fréquente. » À travers le Texas, l’opposition à ces caméras transcende les clivages partisans. Les contrats de Flock ont ​​été résiliés aussi bien à Austin, ville progressiste, qu’à Bandera, une localité conservatrice de la région de Hill Country comptant environ 900 habitants. « Au Congrès, Keith Self, un républicain dont la circonscription se situe au nord de Dallas, a déposé un projet de loi en juillet. Ce texte imposerait aux agences fédérales chargées de l’application de la loi d’obtenir un mandat avant d’accéder aux données collectées par les systèmes de surveillance étatiques et locaux – notamment les lecteurs de plaques d’immatriculation – ou de les interroger. » Pour un colonel de l’armée à la retraite et ancien juge de comté, « nous sommes en train de basculer vers un État de surveillance », estime-t-il, en flirtant avec des dénonciations que l’on retrouve dans les pire propos conspirationnistes d’extrême-droite, comme ceux que colporte, à longueur d’émission, la War Room de Steve Bannon.

Flock, la plateforme d’hypersurveillance des déplacements

« Flock facture environ 3 000 dollars par caméra et par an, a précisé M. Langley. En contrepartie, l’entreprise installe et entretient les caméras, fournit une base de données consultable répertoriant tous les véhicules qui passent devant elles et envoie des alertes si les caméras repèrent des voitures figurant sur une liste de surveillance prioritaire – comme la base de données du FBI recensant les véhicules volés et les plaques d’immatriculation associées à des personnes disparues ou recherchées. Ces dernières années, grâce aux progrès de l’intelligence artificielle, Flock a ajouté une fonctionnalité permettant de rechercher des voitures en fonction de leur marque, de leur type, de leur couleur ou de détails spécifiques, tels que des autocollants sur le pare-chocs ou des dommages visibles.» 

« Pour effectuer une recherche, les agents précisent le type de délit, allant de la cruauté envers les animaux à l’homicide. Ils saisissent ensuite un numéro de plaque d’immatriculation ou une description du véhicule ainsi qu’un lieu, ou optent simplement pour l’option par défaut : « Tous les réseaux sélectionnés ». La recherche affiche les images des voitures correspondantes, en indiquant précisément l’heure et le lieu où elles ont été repérées, ainsi que le service de police auquel appartenaient les caméras. Par défaut, les photos prises par les caméras sont supprimées au bout de 30 jours, bien que les services de police puissent modifier la durée de conservation.

Si un service de police souhaite accéder à d’autres caméras ailleurs dans l’État ou dans le pays, il doit partager l’accès aux siennes. La plupart des organismes effectuent des recherches et partagent des informations à l’échelle nationale. » 

L’éditorialiste et animateur de télévision de droite radicale américain Tucker Carlson, qui pourrait être candidat à la prochaine élection présidentielle américaine, s’est récemment moqué de l’assimilation faite par M. Langley entre un projet de cartographie participative et le terrorisme. Carlson a déclaré n’avoir pris conscience que récemment de l’ampleur du réseau Flock après avoir consulté le site de DeFlock ; il a confié au New York Times que cette découverte l’avait « horrifié ». Il s’est dit surpris qu’un système de surveillance aussi vaste ait pu se développer en suscitant si peu d’attention de la part du public… Tant et si bien que le PDG de Flock a depuis présenté ses excuses pour ses propos assimilant le site DeFlock au terrorisme. 

« Que l’on soit libertarien, conservateur, partisan du mouvement MAGA ou progressiste, tout le monde a des objections à l’encontre de Flock », a déclaré Chad Marlow de l’ACLU. Reste que si l’opposition au Texas attire peut-être l’attention, elle n’a pas freiné la croissance de Flock. À travers l’État, de nouvelles villes signent des contrats plus rapidement que d’autres ne les résilient, a indiqué Jennifer Szimanski, porte-parole de la Combined Law Enforcement Associations of Texas, un syndicat de police représentant plus de 28 000 agents. Selon elle, la raison repose sur les résultats impressionnants du réseau. Certains services de police texans ont retrouvé des centaines de véhicules volés après avoir installé ces caméras, a-t-elle précisé, et dans les petites municipalités, les vols dans les véhicules ont pratiquement cessé. Pour elle, le risque d’utilisation abusive du système par les policiers texans n’était pas plus élevé qu’avec les autres bases de données auxquelles ils ont accès, et que Flock fournissait un historique de chaque recherche, précisant qui l’avait effectuée et pour quel motif.

La possibilité de rechercher n’importe quel véhicule circulant sur les routes du pays est certes pratique pour les autorités, mais Barry Friedman, professeur de droit et directeur du Policing Project, soutient que la création d’une vaste base de données sur les déplacements des Américains est inconstitutionnelle : « il s’agit d’une collecte de données indiscriminée, et non d’une surveillance ciblant des infractions spécifiques ». « Si le quatrième amendement existe, c’est parce que l’on estimait que le gouvernement ne devrait pas pouvoir s’en prendre à n’importe qui, même en l’absence de tout acte répréhensible. » 

Jusqu’à présent, les tribunaux ont rejeté cette interprétation, tout en laissant entendre que la situation pourrait évoluer à mesure que la technologie se généralise. Dans une affaire où des habitants avaient poursuivi la ville de Norfolk (Virginie) pour l’installation de 172 caméras Flock, un juge fédéral a statué que les lecteurs de plaques pourraient un jour devenir si omniprésents que leur utilisation s’apparenterait à une surveillance de masse indiscriminée et inconstitutionnelle, mais que ce n’était pas encore le cas. « Je ne pense pas que les juges réalisent que le pays est désormais couvert par ces dispositifs et qu’ils sont tous interconnectés », a déclaré Sid Thaxter, de l’Association nationale des avocats de la défense pénale.

En attendant, la police américaine invite les agents à ne plus mentionner le fait qu’ils ont eu recours à une technologie de détection automatique des numéros de plaques d’immatriculations dans leur rapports ou auprès des personnes qu’ils appréhendent, rapporte 404media. « Lorsque les forces de l’ordre utilisent Flock pour procéder à une arrestation dans le comté de Wapello, en Iowa, elles ne souhaitent pas que la personne concernée le sache. Une politique d’utilisation des caméras de lecture automatique de plaques du comté ordonne explicitement à la police de garder ce dispositif secret. » Un moyen de rendre encore plus invisible les abus que Flock annonce vouloir limiter. 

Pour Tech Policy Press, Jake Laperruque responsable du projet « Sécurité et surveillance » au sein du Center for Democracy & Technology (CDT), « les systèmes de lecture automatisée de plaques d’immatriculation en général, et le fournisseur de premier plan Flock en particulier, sont confrontés à un moment de prise de conscience publique aux États-Unis. Cette technologie de surveillance provoque des réactions négatives majeures dans tout le pays et devient un sujet de campagne majeur ». Mais pour Laperruque, les risques actuels liés à la vie privée liés aux systèmes de détection des plaques d’immatriculation ne sont que la pointe de l’iceberg et vont s’étendre considérablement dans les années à venir. « À moins qu’ils ne soient sérieusement maîtrisés, ces systèmes deviendront un outil de surveillance de masse bien plus répandu qu’aujourd’hui ». La raison, notamment : de nouvelles fonctionnalités ajoutées à Flock à partir d’analyses automatisées par l’agence fédérale des douanes créant des alertes sur des comportements de conduite suspects et signalant des véhicules à arrêter, rapporte AP News. Un comportement innocent au volant, comme prendre une route secondaire, conduire à des heures indues ou se rendre dans un endroit inhabituel, pourrait devenir des motifs de contrôle. 404 media a révélé également que les vidéos captées par les caméras étaient utilisées pour identifier des formes ou des conducteurs. Une fonctionnalité de recherche en texte libre permet de trouver des personnes tatouées ou portant des maillots de sport spécifiques ; ces recherches incluent parfois l’origine ethnique de la personne visée. A terme, connectée à la reconnaissance faciale, elle pourrait permettre de rechercher des personnes partout sur les routes. « Ces systèmes risquent fort de se transformer en un « œil omniscient » permettant de rechercher n’importe quel type de véhicule, d’objet ou de personne, avec la même facilité que nous recherchons aujourd’hui des mots dans un fichier texte ». Reste à savoir s’il faut limiter ce pouvoir par une accréditation judiciaire pour chercher dans ces images, comme le propose Laperruque ou limiter le développement du réseau. 

Wired rappelle que Flock Safety, géant de la surveillance des véhicules, affirme depuis des années que sa technologie « ne peut ni reconnaître, ni identifier, ni suivre des individus ». Ses pages dédiées à la confiance du public assurent aux clients que la technologie est conçue pour des enquêtes spécifiques, au cas par cas, et « non pour surveiller les gens ». Ce n’est plus le cas, notamment via l’ajout d’innombrables outils qui donnent accès « aux métadonnées des caméras, aux dossiers d’arrestation, aux dossiers d’enquête, aux journaux d’appels, aux résultats d’analyses balistiques ainsi qu’à des bases de données commerciales contenant des numéros de sécurité sociale, dates de naissance, numéros de téléphone, adresses e-mail, informations sur les proches et les associés ». Les requêtes préconfigurées d’OS Investigate, le logiciel de Flock, inversent la logique de recherche. « Un agent n’a plus besoin de plaque, de nom ou d’infraction pour lancer une recherche : il lui suffit d’indiquer un lieu, une période et un schéma comportemental, et le système identifie les personnes correspondant à ces critères. » Pour utiliser ce moteur de recherche, Flock propose des requêtes préconfigurées, comme «« Trouve-moi des témoins en te basant sur les véhicules les plus aperçus dans [tel quartier] au cours des [X derniers jours] durant [telle plage horaire quotidienne] ». Un agent remplit les champs vides et valide la demande. Le résultat est une liste de plaques d’immatriculation que d’autres outils du logiciel convertissent ensuite en noms et adresses de domicile.»

« Dix-neuf de ces requêtes visent à identifier des schémas comportementaux plutôt qu’à consulter un dossier spécifique. Quatorze d’entre elles ne nécessitent ni plaque d’immatriculation, ni nom, ni description physique ; l’agent indique simplement un lieu, un créneau horaire et un comportement.

Certaines requêtes ciblent des véhicules ayant visité au moins trois commerces dans une ville en trois jours, plusieurs banques en une semaine ou plusieurs stations-service entre minuit et 5 heures du matin. Aucune de ces cinq requêtes ne mentionne de cible ou d’incident précis.

L’outil utilisé pour ces recherches intègre un filtre qui exclut les bus, les semi-remorques, les fourgonnettes utilitaires et les remorques ; ainsi, un livreur visitant cinq magasins est retiré de la liste, tandis qu’un conducteur ordinaire effectuant la même tournée y figure toujours. Ce type de recherche s’applique également aux déplacements interurbains : véhicules ayant quitté une ville pour une autre avant d’y revenir dans la semaine, ayant effectué plusieurs allers-retours sur une période de 14 jours ou ayant traversé trois zones successivement.»

Flock se défend en expliquant que ce produit en cours de développement ne proposera pas à terme toutes ces fonctionnalités lors de son lancement commercial. Pour Jay Stanley de l’ACLU : « Nous assistons à un déploiement agressif de l’IA par Flock ; on observe, à certains égards, une frontière très mince entre ce qui est techniquement possible et ce qui est réellement mis en œuvre. » Pour Chad Marlow, avocat à la tête de la campagne « Get The Flock Out » de l’ACLU, le danger est de passer de : « Voyez-vous des schémas criminels ? à Trouvez-moi des schémas criminels, car ces requêtes donneront des résultats différents ». Le risque est de glisser très vite au moment où un agent demandera à une IA quelles personnes elle considère comme les plus susceptibles de commettre des crimes. « Elle ne se fondera pas sur une norme juridique de suspicion criminelle, mais sur ses propres critères internes. » Le code définit déjà les filtres auxquels la requête sera soumise. Le logiciel de Flock associe des recherches de véhicules à des interrogations de fichiers de police classant les individus selon le sexe, la race, l’origine ethnique, la taille, le poids, la corpulence, ainsi que la présence de cicatrices, de marques distinctives et de tatouages. Une fonction permet d’effectuer une recherche uniquement à partir d’une description, en ciblant des enregistrements correspondant à des critères tels que « homme, environ 1,80 m, sweat à capuche noir, tatouage sur l’avant-bras » à proximité d’un lieu donné. L’outil permet à l’agent de délimiter ces critères en choisissant un rayon d’action ou en dessinant des formes libres sur une carte. Selon Stanley, cette pratique s’apparente étroitement à la question examinée par la Cour suprême des États-Unis en juin dernier : la Cour a alors statué que les individus conservent un droit à la vie privée concernant les données retraçant leurs déplacements et que le quatrième amendement s’applique lorsque la police réclame ces informations à une entreprise. Dans le cas présent, les services de police achètent directement cette capacité technologique, ouvrant la voie à des recherches exploratoires (fishing expeditions) d’une ampleur inédite.

L’année dernière, un policier du Texas a effectué des recherches sur plus de 83 000 caméras à travers le pays pour retrouver une femme ayant pratiqué un avortement elle-même, selon des journaux de recherche obtenus initialement par 404 Media. Une enquête récente du Washington Post a révélé qu’une cinquantaine d’agents de police avaient été inculpés ou accusés d’usage abusif des systèmes de lecture de plaques d’immatriculation : 26 d’entre eux les utilisaient pour surveiller leur épouse, leur petite amie, leur ex-compagne ou des femmes qu’ils souhaitaient rencontrer. En août dernier, les autorités de régulation de l’Illinois ont conclu que Flock avait enfreint la loi de l’État en menant un programme pilote – aujourd’hui suspendu – qui donnait au service des douanes et de la protection des frontières accès aux caméras situées dans l’État.

Flock laisse à ses clients le soin de définir la plupart des règles. Les responsables des services décident qui obtient des identifiants, si les données des caméras doivent être partagées au-delà des limites de la ville ou de l’État, et s’il convient d’activer les paramètres proposés par l’entreprise pour prévenir les abus. L’outil d’audit, conçu pour repérer les schémas suspects dans les recherches effectuées par un service, a été lancé en avril 2026 en tant qu’option activable par les forces de l’ordre. Or, selon le Washington Post, de nombreux services de police ont jusqu’à présent peu surveillé les recherches qu’accomplissent leurs agents sur ces systèmes.

L’Electronic Frontier Foundation a examiné des ensembles de données portant sur plus de 12 millions de recherches enregistrées sur une période de 10 mois ; elle a constaté qu’environ 20 % d’entre elles ne mentionnaient qu’un terme vague tel que « enquête », « suspect » ou « requête ». Plus de 50 services ont effectué des centaines de recherches dont le champ « motif » faisait référence à des manifestations.

Comment réguler le changement de nature de la surveillance ?

« Flock ambitionne bien au-delà de la simple lecture automatique des plaques d’immatriculation ; l’objectif est de devenir une plateforme numérique pour le maintien de l’ordre », explique Bob Ferguson, gouverneur de Washington, à l’origine d’une proposition de loi pour réguler le déploiement des caméras. « Nous sommes à l’aube de l’ère de la police automatisée et la capacité à créer des chatbots en langage naturel capables d’effectuer des recherches dans d’immenses bases de données deviendra bientôt la norme. »

Pour Jason Pye, du Due Process Institute, il y a peu de preuves que ces technologies contribuent à faire baisser la criminalité. Il rappelle que, contrairement à ce qu’affirme l’administration Trump, la criminalité violente américaine est en baisse depuis les années 90 (758,2 crimes pour 100 000 habitants en 1991 contre 348,6 en 2024). La raison de cette baisse n’est pas unique, elle n’est pas liée uniquement à l’augmentation de l’incarcération (qui s’est stabilisée dans les années 2000 alors que la criminalité a continué à chuter), mais également à l’amélioration des perspectives économiques, aux mutations des marchés de la drogue, voire même au vieillissement de la population. Si des études montrent que les LAPI peuvent aider la police à identifier des véhicules volés, à générer des pistes d’enquête et, parfois, à élucider des crimes. Établir qu’ils jouent un rôle significatif dans la baisse de la criminalité observée après 2020 est une tout autre affaire, bien plus complexe à démontrer. 

Et Pye de citer deux études portant sur l’effet des LAPI : la première note que le déploiement à Atlantic City est associé à une baisse des fusillades, des vols de véhicules et des atteintes aux bien, mais sans reconnaître que le déploiement des caméras puisse être le seul facteur explicatif. La seconde passe en revue l’ensemble des recherches sur le sujet et montre que les preuves que ces systèmes génèrent des avantages plus larges en matière de lutte contre la criminalité restent mitigées. Pye observe ensuite Atlanta, qui compte plus de 3000 systèmes Flock. Or, malgré ce réseau de surveillance sans précédent, les taux d’élucidation des crimes ne se sont pas améliorés. « Par exemple, une arrestation a eu lieu dans 54,3 % des cas d’homicide en 2021. En 2025, seuls 48 % des homicides ont été élucidés. Il existe toutefois des catégories de crimes pour lesquelles les taux d’élucidation se sont améliorés, notamment les cambriolages et les vols dans des véhicules. » De plus, malgré l’un des plus importants réseaux de surveillance des Etats-Unis, le taux de crimes violents à Atlanta a augmenté entre 2024 et 2025 (mais a beaucoup diminué, elle aussi, depuis au moins 2011). Cela ne signifie pas que les LAPI n’apportent rien à la sécurité publique, estime Pye. Ils peuvent être efficaces pour certaines tâches ou certains crimes, mais cela ne signifie pas qu’ils soient à l’origine de la baisse de la criminalité aux Etats-Unis. Et quand bien même ce serait le cas, la question de savoir quel niveau de surveillance l’Amérique est-elle prête à accepter en contrepartie de sa sécurité reste entière, estime Pye. Qui rappelle qu’avec ces systèmes, « il n’est pas nécessaire d’être soupçonné d’un crime pour que les autorités disposent potentiellement d’un relevé indiquant que votre voiture se trouvait à proximité d’une manifestation politique, d’une église, d’une armurerie, d’une clinique médicale ou du domicile d’un tiers. Il s’agit d’une forme de surveillance fondamentalement différente de celle d’un policier vérifiant ponctuellement une plaque d’immatriculation sur l’autoroute ». Le problème, c’est bien le caractère amplificateur de la surveillance que produit la mise en réseau des caméras et la possibilité de les interroger. « Cette situation soulève des questions quant aux personnes habilitées à consulter ces données, aux justifications requises pour effectuer une recherche, à l’étendue du partage de l’information, à la durée de conservation des données et aux conséquences d’une utilisation abusive du système – une éventualité inévitable. Ces questions ne disparaissent pas pour autant du simple fait que les systèmes de lecture automatique de plaques d’immatriculation aident parfois la police à élucider des crimes. » Reste que c’est « une chose qu’un agent de police voit votre voiture traverser un carrefour. C’est tout autre chose qu’un réseau de caméras enregistre discrètement chaque apparition de votre véhicule, stocke ces informations et les rend consultables dans le temps et entre différentes juridictions ». « La question est de savoir si le gouvernement devrait pouvoir exploiter des millions, voire des milliards, d’observations publiques ordinaires et légales pour en faire une carte détaillée et consultable des déplacements des personnes, sans aucun soupçon individualisé ni contrôle significatif ». 

« Supposons que des preuves plus solides finissent par démontrer que Flock prévient certains crimes. Je resterais néanmoins mal à l’aise avec ce compromis. La sécurité publique est importante, certes, mais ce n’est pas le seul critère essentiel dans une société libre. Le respect de la vie privée et l’autonomie sont tout aussi importants. Pouvoir vaquer à ses occupations quotidiennes sans que le gouvernement n’enregistre discrètement ses déplacements est fondamental. Les caméras de Flock ne se limitent pas aux personnes soupçonnées d’avoir commis des crimes. Elles collectent des informations sur tous les automobilistes qui passent devant elles, dont l’immense majorité n’a absolument rien fait de mal.

Bien sûr, ces informations peuvent être utiles à la police. C’est précisément ce qui rend la question si complexe. Presque n’importe quel système de surveillance peut améliorer la sécurité publique s’il fournit au gouvernement davantage d’informations sur nous. Installez suffisamment de caméras à des endroits stratégiques, conservez suffisamment de données et donnez-y accès à un nombre suffisant d’agences : tôt ou tard, ces informations contribueront à résoudre des crimes. L’argument selon lequel « le gouvernement pourrait trouver cela utile un jour » est un critère inacceptable pour déterminer le niveau de surveillance que les Américains sont prêts à tolérer. » Pour Pye, la surveillance omniprésente ne devrait pas devenir une composante normale de la vie américaine. 

Pour The Conversation, le philosophe et criminologue de l’Institut catholique de Lille, Tony Ferri, rappelait que c’est la nature des systèmes de surveillance, quels qu’ils soient, de s’étendre (même si dans son article, il n’évoque pas les dispositifs de lecture automatisés des plaques d’immatriculation). « Un dispositif de contrôle naît pour une cible précise, dans un contexte qui rend son acceptation facile » (…) « puis, par la force de son infrastructure technique désormais disponible, il s’étend, se prolonge, se banalise, bien au-delà de sa justification initiale ». Pris isolément, ces solutions peuvent paraître légitimes. Mais, comme le disait la CNIL elle-même dans un avis de 2022 : « ces outils ne constituent pas une simple évolution technologique, mais une modification de la nature des dispositifs ». Un changement de nature et pas seulement de degré, face auquel nous avons pour l’instant bien peu de réponses pour en limiter la déflagration à l’encontre des libertés publiques.

Ah, oui, les systèmes LAPI se déploient également en France, même si pour l’instant, ce n’est pas avec la même intensité qu’aux Etats-Unis (on compterait 700 lecteurs en France mis en œuvre par la police nationale, la gendarmerie et les douanes, sans compter ceux des municipalités et des acteurs privés, comme les opérateurs de parkings et d’autoroute). Depuis 2024, un système de traitement central a été mis en place. En 2026, le récent projet de loi RIPOST renforce leur utilisation (par exemple à des fins administratives sans avoir à justifier d’une enquête spécifique), étend le régime d’infraction permettant leur consultation ainsi que la durée de conservation des informations à un an, comme s’en inquiétait, bien légitimement, la Quadrature du Net. La plateforme d’hypersurveillance des déplacements se porte bien chez nous aussi !

Hubert Guillaud

  • ✇C'est pas mon idée !
  • Démocratiser la gestion de patrimoine avec l'IA
    Rêve ancien mais, hélas, jamais concrétisé, la gestion de patrimoine pour tous semble aujourd'hui réveiller les appétits, à l'aune des promesses de l'intelligence artificielle. Le géant américain Vanguard annonce ainsi l'acquisition d'Altruist, en espérant que sa plate-forme aide les conseillers spécialisés à démultiplier leur force de frappe.Avec les générations successives de « robots-conseillers », la première vague de démocratisation du secteur vise, depuis une quinzaine d'années, à propose

Démocratiser la gestion de patrimoine avec l'IA

Par : Patrice
27 août 2026 à 21:30
Vanguard
Rêve ancien mais, hélas, jamais concrétisé, la gestion de patrimoine pour tous semble aujourd'hui réveiller les appétits, à l'aune des promesses de l'intelligence artificielle. Le géant américain Vanguard annonce ainsi l'acquisition d'Altruist, en espérant que sa plate-forme aide les conseillers spécialisés à démultiplier leur force de frappe.

Avec les générations successives de « robots-conseillers », la première vague de démocratisation du secteur vise, depuis une quinzaine d'années, à proposer une alternative aux personnes ne disposant pas des moyens de bénéficier des services d'un professionnel. L'absence d'une dimension d'accompagnement de proximité dans ces outils les a malheureusement relégués à un rôle de plate-forme d'investissement certes accessible, mais avec laquelle le client est largement laissé seul devant ses choix.

La vision cible a maintenant changé, y compris chez les trublions d'autrefois, qui, pour les plus évolués, ont mis en place des modèles de conseil humain pour les utilisateurs « haut de gamme ». L'objectif privilégié consiste désormais à rendre ces approches plus efficaces, de manière à en abaisser les coûts et parvenir de la sorte à les ouvrir à une population plus large… qui ne pourra cependant englober l'immense majorité des ménages, modestes, voués, pour l'instant (à jamais ?), à rester à l'écart de la tendance.

Altruist se positionne clairement sur ce créneau, avec une solution propulsée à l'IA pour l'optimisation des processus administratifs qui consomment tellement de temps et d'énergie chez les conseillers, qu'ils préfèreraient consacrer à aider plus d'individus dans le pilotage de leur argent : ouvertures de compte (et les contraintes, notamment réglementaires, associées), suivi des portefeuilles et rapports contextualisés (incluant aussi un portail dédié pour les clients), pilotage des opérations, facturation…

Vanguard x Altruist

Le domaine de la gestion de patrimoine est historiquement en retard dans sa transformation « digitale » et cette situation crée une opportunité pour des jeunes pousses qui voient dans l'intelligence artificielle un moyen de combler le déficit (en France, Patrimind, dont je parlais récemment en fournit un autre exemple). En revanche, leurs offres adressent en priorité des enjeux de productivité dans les métiers existants plutôt que d'envisager une modernisation pourtant nécessaire de l'expérience client.

Je reste toutefois optimiste pour l'avenir, même si celui ci semble encore lointain, car, comme je le remarquais dans un article précédent, je pense que les acteurs qui commencent à convaincre la profession de recourir à l'IA dans leur quotidien – et l'irruption de Vanguard dans la bataille devrait accélérer le mouvement – prendront certainement conscience, avec leurs clients, des possibilités d'étendre progressivement leur périmètre d'intervention, en particulier en permettant à leurs outils d'offrir les niveaux de conseil primaires qui font aussi partie du train-train des spécialistes et peuvent couvrir une part importante des besoins des moins fortunés.

  • ✇C'est pas mon idée !
  • Un assistant IA pour la gestion de patrimoine
    Conçue et développée par un conseiller en gestion de patrimoine en activité et un spécialiste de l'intelligence artificielle, Patrimind est une solution qui vise d'abord à soulager les professionnels du domaine de leurs tâches administratives, mais qui peut également les aider à mieux accompagner leurs clients, notamment les plus modestes.Dans son rôle primaire d'assistante technique, le premier volet de l'expertise de cette IA sectorielle porte sur l'acquisition et la restitution d'information

Un assistant IA pour la gestion de patrimoine

Par : Patrice
14 août 2026 à 21:50
Intellectuality
Conçue et développée par un conseiller en gestion de patrimoine en activité et un spécialiste de l'intelligence artificielle, Patrimind est une solution qui vise d'abord à soulager les professionnels du domaine de leurs tâches administratives, mais qui peut également les aider à mieux accompagner leurs clients, notamment les plus modestes.

Dans son rôle primaire d'assistante technique, le premier volet de l'expertise de cette IA sectorielle porte sur l'acquisition et la restitution d'information. Pour ce faire, la plate-forme ingurgite différents types de sources (documents d'identité, justificatifs fiscaux, échanges informels…), sous de multiples formats (fichiers PDF, feuilles de calcul, courriels…),  et en extrait les données importantes pour, par exemple, l'analyse initiale du dossier d'un prospect ou la préparation d'une proposition de plan d'investissement.

Outre un tableau de bord récapitulatif du client, l'utilisateur a la possibilité d'interroger, par tchat, le corpus ainsi constitué, de manière à retrouver en un tournemain une information utile sans avoir à explorer les pièces accumulées. Et, parce que le métier de la gestion de patrimoine ne souffre aucune approximation et que règne, à juste titre, une certaine méfiance vis-à-vis des hallucinations de l'IA, les réponses apportées à chaque question sont assorties d'une référence précise et vérifiable à leur origine.

Selon sa complétude, la connaissance engrangée de la sorte est ensuite disponible pour diverses analyses – bilans, audits, études de conformité… – qui pourront aussi déboucher sur des suggestions opérationnelles, spontanées ou stimulées (par une demande explicite). Comme tout ce que produit l'outil, les éléments de raisonnement mis en œuvre dans ce contexte sont toujours fournis avec leur provenance officielle, entre autres les textes juridiques pertinents, afin d'asseoir la légitimité des recommandations.

Patrimind

À partir des propositions retenues, émanant de l'IA ou élaborées à l'instigation du professionnel, la solution est alors en mesure de dérouler des scénarios de bout en bout, basés sur les données réelles, afin d'en évaluer la valeur et/ou de constituer un argumentaire à partager avec le client. Enfin, lors du passage à l'action, elle va extraire de ses registres et transmettre automatiquement les données nécessaires à la souscription de produits (pour les procédures de KYC et anti-fraude, en particulier).

Clairement et sans ambiguïté possible, l'objectif de Patrimind consiste bien à libérer du temps pour le conseiller, qu'il va pouvoir consacrer à son véritable savoir-faire, au service de ses clients. Cependant, les préconisations que commence à inclure son outil laissent également entrevoir une autre opportunité, de démocratisation de la gestion de fortune. En effet, l'intelligence artificielle pourrait assumer une part autonome plus ou moins importante et plus ou moins standardisée de l'accompagnement – sous contrôle d'un expert humain, par sécurité – selon le niveau de patrimoine de l'intéressé.

  • ✇C'est pas mon idée !
  • L'IA commence à remplacer les débutants
    Dans les entreprises du secteur tertiaire, l'intelligence artificielle s'avère bien adaptée à l'exécution des tâches historiquement réservées aux employés inexpérimentés et l'impact sur les recrutements commence à s'en ressentir. Alors Gartner s'interroge sur les moyens d'adapter les pipelines traditionnels de formation des débutants ainsi menacés.Alors que l'adoption massive de l'IA ne produit encore que rarement des résultats probants – seulement un cinquième des 95% organisations concernées

L'IA commence à remplacer les débutants

Par : Patrice
1 août 2026 à 18:30
Gartner
Dans les entreprises du secteur tertiaire, l'intelligence artificielle s'avère bien adaptée à l'exécution des tâches historiquement réservées aux employés inexpérimentés et l'impact sur les recrutements commence à s'en ressentir. Alors Gartner s'interroge sur les moyens d'adapter les pipelines traditionnels de formation des débutants ainsi menacés.

Alors que l'adoption massive de l'IA ne produit encore que rarement des résultats probants – seulement un cinquième des 95% organisations concernées déclarent en avoir tiré une valeur significative –, 22% des responsables de ressources humaines interrogés au cours du dernier trimestre de 2025 confirment que, dans au moins un département, les embauches de personnel pour les positions juniors ont déjà été totalement interrompues en raison des initiatives d'automatisation engagées.

Le raisonnement est trivial. Les parcours d'apprentissage des nouveaux arrivants, notamment dans les métiers intellectuels, passent par la réalisation des opérations simples et répétitives préparatoires à la mise en œuvre de l'expertise de leurs aînés. Or leur nature rend ces tâches propices à leur prise en charge par l'intelligence artificielle. Hélas, comme je l'ai souligné par le passé, comment les experts de demain apprendront-ils s'ils n'ont plus de place dans l'entreprise au début de leur carrière ?

Au mieux, et dans un premier temps, les firmes devront faire appel à des compétences externes, plus onéreuses et plus volatiles, afin de compenser la disparition de leur vivier de talents cultivé en interne. Au pire, et, à défaut de changement de méthode, de manière inévitable, elles ne trouveront plus les individus correctement formés dont elles ont besoin… et rien ne garantit (heureusement ?) que, à ce moment de rupture, l'IA aura atteint une maturité suffisante pour assumer les rôles correspondants.

Gartner HR

Concrètement, les directions de ressources humaines n'ont donc guère d'autre choix que d'entamer une transformation profonde des pratiques en vigueur vis-à-vis des débutants. Les analystes de Gartner leur proposent trois approches possibles, qu'il faudra certainement combiner pour un maximum d'efficacité (et un minimum de perturbations dans la vie de l'entreprise), en prenant en compte simultanément l'évolution à long terme des compétences requises à l'ère de l'intelligence artificielle.

La priorité portera d'abord sur l'identification des fonctions que les jeunes recrues sont à même d'assumer une fois que celles qui leur étaient dévolues jusqu'à présent sont assignées à l'IA. Il s'agira fréquemment d'interagir avec cette dernière au service de capacités critiques. Le déficit de formation, qui ne sera pas comblé de la sorte, imposera ensuite de développer des méthodes d'apprentissage dédiées. Enfin, l'ensemble devra être entouré d'un filet de sécurité, constitué d'outils, d'accompagnement et de réseautage, de manière à limiter les risques d'erreur durant ces phases initiales.

Nombre d'organisations s'emparent des promesses de l'intelligence artificielle sans prendre le moindre recul et, outre qu'elles oublient de définir les critères objectifs et mesurables de succès, ne considèrent pas toujours les conséquences de leurs choix à des échéances lointaines. Les impacts considérables de la technologie, sur toutes les dimensions de leur fonctionnement, dont la gestion des effectifs et des talents, rendent pourtant absolument indispensable de l'intégrer dans une perspective stratégique.

  • ✇La Quadrature du Net
  • France Travail déploie un outil de profilage algorithmique à des fins de contrôle
    France Travail développe un algorithme de profilage des chômeur·euses à des fins de contrôle, comme le prouve un document que nous publions aujourd’hui en partenariat avec la cellule investigation de Radio France. Cet algorithme, encore en phase de test, manifeste la volonté de France Travail de massifier les contrôles via l’utilisation d’outils numériques. Nous appelons à la mobilisation contre cet algorithme illégal et à son abandon par la direction de France Travail. Le 10 décembre dernier, u

France Travail déploie un outil de profilage algorithmique à des fins de contrôle

Par : cc
20 juillet 2026 à 08:00

France Travail développe un algorithme de profilage des chômeur·euses à des fins de contrôle, comme le prouve un document que nous publions aujourd’hui en partenariat avec la cellule investigation de Radio France. Cet algorithme, encore en phase de test, manifeste la volonté de France Travail de massifier les contrôles via l’utilisation d’outils numériques. Nous appelons à la mobilisation contre cet algorithme illégal et à son abandon par la direction de France Travail.

Le 10 décembre dernier, un nouvel outil numérique était présenté au comité d’éthique IA de France Travail. Intitulé « Ciblage du Contrôle de la Recherche d’Emploi », son objectif est de « recourir à l’IA » afin d’« identifier les dossiers nécessitant un examen approfondi » et d’« alimenter automatiquement l’outil de contrôle de la recherche d’emploi ». Lors de sa présentation, cet outil était en phase active de test, étape préalable à un déploiement plus large.

En d’autres termes, l’ancien Pôle Emploi cherche à se doter d’un outil similaire à ceux que nous dénonçons à la CNAF ou à l’Assurance maladie, visant à automatiser la sélection des personnes devant faire l’objet d’un contrôle.

6 millions de personnes concernées

Cet algorithme vise à « prédire » quel·les chômeur·euses manqueraient à leurs obligations de recherche d’emploi. Concrètement, il repose sur la construction de profils « suspects/non suspects » fondée sur l’analyse de dizaines de milliers de contrôles passés1L’algorithme a été entraîné sur la base de 60 000 contrôles passés. Techniquement, il se base sur un arbre de décision, une technique de machine-learning dont les paramètres sont sélectionnés par itérations successives.. Chaque personne inscrite est ensuite assignée à l’un de ces profils sur la base des données personnelles que détient France Travail. Celles et ceux classifié·es comme « suspect·es » sont placé·es sur une liste de personnes prioritaires à contrôler.

Si cet algorithme est aujourd’hui testé sur les profils de personnes en situation de rupture conventionnelle2À la date de publication du document, l’algorithme avait fait l’objet de deux campagnes de 7 000 tests environ chacune, portant sur les personnes ayant fait l’objet d’une rupture conventionnelle., France Travail souhaite « étendre l’utilisation du modèle à d’autres publics » afin d’« alimenter automatiquement l’outil de contrôle et transmettre chaque mois des listes de contrôle ciblés »3Ciblage du contrôle de la recherche d’emploi, document présenté en comité d’éthique IA du 10 décembre 2025, disponible ici. Le document précise que l’algorithme vise à alimenter les « listes de contrôles ciblées ». Ces contrôles représentent environ 40% de l’ensemble des contrôles, soit 500 000 contrôles en 2025, aux côtés des contrôles aléatoires ou des contrôles déclenchés sur « signalement ».. En prenant en compte l’ensemble des personnes au RSA, dont l’inscription à France Travail est obligatoire depuis le 1er janvier 2026, ce sont plus de 6 millions de personnes qui pourraient se voir profiler chaque mois par l’algorithme4Inscrits à France Travail, premier semestre 2026, catégories A, B, C, D et E, France Travail, disponible ici..

Un ciblage incertain

À ce jour, nous disposons seulement de la liste des 26 variables utilisées par l’algorithme, mais nous ne connaissons pas les règles utilisées dans la construction des profils5La liste exhaustive des variables est disponible dans le document que nous publions.. Nous ne sommes donc pas en mesure de déterminer, via des simulations, quelles populations sont les plus ciblées par cet outil. Nous avons fait une demande d’accès au code source de l’algorithme mais, eu égard à l’opacité qu’entretient France Travail vis-à-vis de ses outils numériques, il est peu probable qu’elle aboutisse.

Parmi les catégories de variables retenues, notons notamment celles relatives aux « activités déclarées », à la « visibilité du demandeur d’emploi » (par exemple si le CV est en ligne sur le site de France Travail), à la recherche d’un travail dans un « métier en tension », au « niveau de formation », à « l’ancienneté d’inscription », ou encore à « l’historique des manquements » (absence à un rendez-vous par exemple). On retrouve également la présence d’une activité non salariée, critère par ailleurs utilisé par la CNAF dans son dernier algorithme de scoring pour dégrader la note des personnes en emploi précaire.

Mais l’absence de transparence quant aux règles de classification de l’algorithme ne doit pas masquer l’essentiel. Comme le montrent les exemples de la CNAF et de la CNAM, ces algorithmes sont dangereux en eux-mêmes, car ils sont des outils particulièrement efficaces pour organiser, en toute impunité, la répression de populations entières, et en particulier des plus vulnérables.

Déresponsabilisation et répression sociale

En premier lieu car, comme nous l’avions documenté en détail dans le cas de la CNAF, l’introduction d’algorithmes dopés à l’IA ou au « machine learning » dépolitise la question du contrôle social et des violences associées. France Travail ne fait pas exception : le document présenté à son comité d’éthique avance, dans un paragraphe intitulé « Pourquoi recourir à l’IA ? », que cette dernière permettrait une « suppression des a priori » en proposant « des dossiers à contrôler sur la base de critères objectifs ».

Ce que l’on observe ici c’est la transformation d’un problème politique – le choix des critères de sélection des personnes à contrôler – en un problème purement technique. Cette dépolitisation s’accompagne d’une délégitimation de la critique des politiques de contrôle, puisque ces dernières sont désormais censées être « neutres » et « objectives ». Elle procède également d’une déresponsabilisation des dirigeant·es qui n’ont plus à assumer, en leur nom, les politiques qui conduisent au ciblage de certaines catégories de personnes.

Ajoutons enfin que le profilage algorithmique est utilisé pour invisibiliser le caractère discriminatoire des politiques de contrôle à travers l’individualisation du processus de sélection. Nul·le n’est contrôlé·e parce qu’il ou elle fait partie de telle ou telle population, mais parce que son « score » individuel s’est détérioré.

Opacité et maltraitance

À cela s’ajoute l’opacité qui entoure le code des algorithmes de profilage. En permettant aux responsables des institutions sociales de taire la réalité du tri social organisé, elle complique considérablement la mise en lumière de leurs dérives.

On rappellera ici que, dans le cas de la CNAF, le code source de l’algorithme n’a été obtenu qu’après une longue bataille juridique et médiatique, tandis que celui de l’Assurance maladie ne l’a été qu’à la faveur d’une erreur de caviardage par l’administration. Pendant des années, l’absence de publication des paramètres de ces algorithmes a permis à ces institutions d’organiser le sur-contrôle de certaines populations (femmes isolées, personnes au RSA, personnes en situations de handicap…) sans jamais avoir à rendre de comptes. Pire, les dirigeant·es de ces institutions ont profité de cette opacité pour aller jusqu’à se vanter du recours à des outils de « modernisation » à la « pointe de la technologie ».

Ce risque est particulièrement fort concernant France Travail. Car, loin de la communication de sa direction vantant un recours à une IA « éthique » et « transparente »6Voir notamment la « Charte de France Travail pour une éthique de ses usages de l’intelligence artificielle », disponible ici., toutes nos demandes d’accès au code des IA utilisées par France Travail sont, à ce jour, restées lettres mortes. En violation flagrante de la loi, France Travail a notamment refusé de nous communiquer la moindre information sur des IA aussi sensibles que celles utilisées pour échanger par SMS afin de proposer des offres d’emplois à des usager·ères (MatchFt) ou celle que France Travail a généralisé auprès de ses conseillers afin de les aider dans leurs tâches quotidiennes (ChatFt)7Notons que nos demandes ne portaient pas que sur le code source de ces IA, mais aussi sur la documentation technique ou l’analyse d’impact de la protection des données.. Pire, dans ces deux cas, l’institution n’a même pas pris la peine de motiver sa décision auprès de la Commission d’accès aux documents administratifs (CADA) – l’institution chargée d’indiquer si ces refus sont légaux ou pas – lorsque nous l’avons saisie.

IA générative et massification des contrôles

Le développement de ce nouvel outil de profilage s’inscrit dans un contexte plus large de multiplication des outils numériques de contrôle au sein de France Travail. Rien que l’année dernière, nous alertions déjà sur le déploiement de « robots » visant à automatiser la décision de clore ou non un contrôle. Ces « robots » intervenaient lors du contrôle lui-même, alors que le nouvel algorithme intervient en amont, lors de la sélection des personnes à contrôler.

Ce qui se dessine, c’est la volonté d’automatiser l’ensemble de la chaîne de contrôle afin de répondre aux objectifs gouvernementaux de massification des contrôles, dont le nombre est passé de 200 000 en 2017 à 730 000 en 2025. En 2027, l’objectif fixé par le gouvernement est d’en réaliser 1,5 millions8Pour les chiffres de 2017, voir l’étude de Pôle Emploi « Le contrôle de la recherche d’emploi : l’impact sur le parcours des demandeurs d’emploi » disponible ici. Pour 2025, voir le document de présentation de l’algorithme. L’objectif de 1,5 millions a été annoncé par Gabriel Attal en 2024, voir cet article..

Mais c’est du côté de l’IA générative que les risques les plus importants existent aujourd’hui. Alors que France Travail multiplie le développement d’IA (ChatfT, NeoFt, MatchFT…), on ne peut que s’attendre à ce qu’une IA générative soit déployée à des fins de contrôle. Connectée au dossier de la personne contrôlée, elle formulerait une « suggestion » quant à la décision à prendre par le ou la contrôleur·euse. Ce serait une étape décisive vers une automatisation totale du contrôle de la recherche d’emploi et la possibilité de massifier, à moindre coût, le contrôle et la surveillance des millions de personnes inscrites à France Travail.

Il est fondamental que France Travail change de politique. Celle qui se dessine, une automatisation toujours plus inhumaine du contrôle, doit être rejetée. Il est encore plus inquiétant de voir que les dirigeant·es de France Travail ne veulent pas voir la réalité sociale de leur politique de contrôle et préfèrent s’enfermer dans la douce mélodie du solutionnisme technologique. Alors pour nous aider à continuer la lutte, vous pouvez nous faire un don et retrouvez l’ensemble de nos publications sur l’utilisation par les organismes sociaux d’algorithmes à des fins de contrôle social sur notre page dédiée.

References[+]

References
↑1 L’algorithme a été entraîné sur la base de 60 000 contrôles passés. Techniquement, il se base sur un arbre de décision, une technique de machine-learning dont les paramètres sont sélectionnés par itérations successives.
↑2 À la date de publication du document, l’algorithme avait fait l’objet de deux campagnes de 7 000 tests environ chacune, portant sur les personnes ayant fait l’objet d’une rupture conventionnelle.
↑3 Ciblage du contrôle de la recherche d’emploi, document présenté en comité d’éthique IA du 10 décembre 2025, disponible ici. Le document précise que l’algorithme vise à alimenter les « listes de contrôles ciblées ». Ces contrôles représentent environ 40% de l’ensemble des contrôles, soit 500 000 contrôles en 2025, aux côtés des contrôles aléatoires ou des contrôles déclenchés sur « signalement ».
↑4 Inscrits à France Travail, premier semestre 2026, catégories A, B, C, D et E, France Travail, disponible ici.
↑5 La liste exhaustive des variables est disponible dans le document que nous publions.
↑6 Voir notamment la « Charte de France Travail pour une éthique de ses usages de l’intelligence artificielle », disponible ici.
↑7 Notons que nos demandes ne portaient pas que sur le code source de ces IA, mais aussi sur la documentation technique ou l’analyse d’impact de la protection des données.
↑8 Pour les chiffres de 2017, voir l’étude de Pôle Emploi « Le contrôle de la recherche d’emploi : l’impact sur le parcours des demandeurs d’emploi » disponible ici. Pour 2025, voir le document de présentation de l’algorithme. L’objectif de 1,5 millions a été annoncé par Gabriel Attal en 2024, voir cet article.
  • ✇C'est pas mon idée !
  • Un régulateur teste l'IA contre la fraude
    Consciente que la lutte contre la criminalité financière est incontestablement plus efficace quand elle porte sur un périmètre élargi, la banque centrale singapourienne lance une expérimentation de détection de malversations grâce à des techniques d'analyse de données évoluées appliquées à un historique de transactions réelles.Le principe du recours à des modèles d'apprentissage automatique, voire d'intelligence artificielle, en vue d'améliorer la performance des protections contre la fraude n'

Un régulateur teste l'IA contre la fraude

Par : Patrice
11 mai 2026 à 21:30
MAS
Consciente que la lutte contre la criminalité financière est incontestablement plus efficace quand elle porte sur un périmètre élargi, la banque centrale singapourienne lance une expérimentation de détection de malversations grâce à des techniques d'analyse de données évoluées appliquées à un historique de transactions réelles.

Le principe du recours à des modèles d'apprentissage automatique, voire d'intelligence artificielle, en vue d'améliorer la performance des protections contre la fraude n'est évidemment pas nouvelle… elle représente même un des cas d'usage de ces outils parmi les plus répandus dans l'industrie. En revanche, sa déclinaison à l'échelle d'un régulateur national est plus originale et répond à un vrai enjeu de réactivité, l'identification des risques étant plus rapide à partir d'une vue de l'ensemble des échanges dans un pays plutôt qu'au seul niveau d'un établissement.

La mise en œuvre n'est toutefois pas triviale, comme le démontrent les conditions dans lesquelles la MAS organise ce qui devrait être un simple test. Certes, il n'y a aucune prouesse technique à demander à cinq banques locales de partager les informations qu'elles détiennent sur les opérations réalisées pendant une période spécifique (non précisée) puis à entraîner des solutions d'IA plus ou moins sophistiquées sur cette matière première pour l'identification automatique des tentatives d'escroquerie.

La réelle difficulté consiste à réaliser un tel projet avec toute la sécurité requise, alors que les données dont il est question sont extrêmement sensibles. Les responsables se veulent rassurants, en évoquant la mise en place d'un mécanisme de « hash » sur les références de compte (ce qui ne vaut pas anonymisation totale), un stockage chiffré (heureusement !) et des règles strictes d'accès. Mais dans le climat actuel où les fuites sont légion, est-ce suffisant ? Et il ne s'agit que d'une phase d'évaluation préliminaire : comment une éventuelle généralisation pourra-t-elle éliminer tout danger ?

La démarche engagée par la MAS est importante afin d'espérer réduire les pertes subies par les particuliers et les entreprises dans un contexte de croissance de la criminalité, désormais assistée elle-même par l'intelligence artificielle. Elle ne peut cependant, sans être taxée d'incohérence, ignorer les défis de sécurité qu'implique automatiquement son approche. Dans ce sens, elle devrait probablement se pencher au préalable ou, à tout le moins, en parallèle, sur les technologies émergentes de traitement de données préservant la confidentialité (PET)… comme l'avait fait l'ACPR française il y a quelques années (mais dont je ne connais hélas pas les résultats officiels).

MAS

  • ✇intelligence artificielle (IA) – The Conversation
  • Déléguer nos décisions à l’IA : une menace pour la démocratie ?
    Pour la philosophe Hannah Arendt, l’effondrement moral d’une société n’exige pas nécessairement une volonté de faire le mal, elle peut résider dans l’érosion de la capacité de juger. Or, l’utilisation massive de l’IA menace notre capacité de juger. Barbara Niggl Radloff/Munich City Museum, CC BY-NC-SAÀ mesure que des systèmes d’intelligence artificielle prennent en charge des décisions autrefois humaines, la question n’est plus seulement ce qu’ils peuvent faire, mais ce que nous cessons de faire

Déléguer nos décisions à l’IA : une menace pour la démocratie ?

Pour la philosophe Hannah Arendt, l’effondrement moral d’une société n’exige pas nécessairement une volonté de faire le mal, elle peut résider dans l’érosion de la capacité de juger. Or, l’utilisation massive de l’IA menace notre capacité de juger. Barbara Niggl Radloff/Munich City Museum, CC BY-NC-SA

À mesure que des systèmes d’intelligence artificielle prennent en charge des décisions autrefois humaines, la question n’est plus seulement ce qu’ils peuvent faire, mais ce que nous cessons de faire nous-mêmes. À bas bruit, c’est notre capacité de jugement qui se transforme, avec des effets potentiels sur la démocratie.


En 1963, observant Adolf Eichmann lors de son procès à Jérusalem, Hannah Arendt formule l’une des intuitions les plus dérangeantes du XXe siècle : cet homme n’était pas un monstre. Il avait simplement cessé de penser. En déléguant son jugement moral à l’appareil bureaucratique, il était devenu capable de participer à un mal radical sans jamais le reconnaître comme tel. Arendt nomme ce phénomène la « banalité du mal » : la catastrophe morale n’exige pas une intention mauvaise – elle exige seulement l’érosion systématique de la capacité à penser par soi-même. Elle identifie une séquence précise : avant l’effondrement politique vient l’effondrement cognitif. Les régimes totalitaires conquièrent d’abord les esprits, en rendant la pensée indépendante structurellement superflue. Soixante ans plus tard, nous construisons quelque chose dont l’architecture philosophique lui aurait été immédiatement familière.

Déléguer le jugement à l’échelle d’une société

L’intelligence artificielle agentique désigne des systèmes capables de percevoir, planifier, décider et agir de manière autonome. Selon le cabinet de conseil Gartner, d’ici 2028, 33 % des logiciels d’entreprise intégreront des agents IA et 15 % des décisions quotidiennes de travail seront prises de façon autonome. Un autre cabinet de conseil, McKinsey souligne que ces architectures introduisent des risques que les cadres de gouvernance existants n’ont jamais été conçus pour gérer, précisément parce qu’elles adaptent leur comportement au contexte plutôt que d’obéir à une logique prédéterminée.

Ce n’est pas de l’automatisation classique : l’IA agentique reconfigure le jugement lui-même. Mais, il s’agit moins d’une disparition du jugement humain que d’un déplacement continu de son objet – sans que l’humain ne puisse toujours en percevoir l’existence. La question n’est donc pas celle de la délégation en soi, mais bien celle de la qualité et de l’irréversibilité de la reconfiguration en cours.

Quand la démocratie délègue ses propres décisions

Les exemples les plus révélateurs sont politiques, et ils sont déjà parmi nous. En effet, l’approche d’Arendt distingue l’action (la capacité à initier quelque chose de véritablement nouveau par l’engagement avec d’autres dans la sphère publique) du simple comportement, prévisible et manipulable. La démocratie n’est pas un mécanisme de traitement des préférences : c’est un espace d’apparition où des individus distincts, capables de pensée indépendante, se réunissent pour créer du sens collectivement. Chaque décision absorbée dans un processus agentique automatisé, chaque moment de délibération remplacé par un résultat algorithmique, représente alors une érosion cumulative de cet espace.

En 2016, des algorithmes de ciblage comportemental – déployés lors des campagnes du Brexit et de l’élection Trump – ont sélectionné et amplifié des contenus émotionnels auprès d’électeurs ciblés. Ce n’était pas de la propagande classique : c’était la technique que décrivait Arendt – non pas persuader, mais submerger, créer une condition dans laquelle la distinction entre fait et fabrication s’effondre sous le volume des stimuli contradictoires. Des systèmes de notation algorithmique ont ensuite évalué la fiabilité citoyenne, prédit la récidive judiciaire (comme COMPAS aux États-Unis, dont les biais raciaux ont été documentés par le média indépendant ProPublica) ou orienté les attributions de logements sociaux aux Pays-Bas et au Royaume-Uni. Dans chacun de ces cas, une décision à forte charge éthique est absorbée dans un processus opaque, soustrait au débat public.

Au-delà de ces exemples spécifiques, ce qui se joue peut être considéré comme systémique : il ne s’agit plus d’orienter un contenu dans un espace de délibération préexistant, mais de transformer progressivement les conditions mêmes dans lesquelles le jugement s’exerce. Lorsque trois ou quatre grands modèles de langage médiatisent une part croissante des interactions informationnelles de milliards d’individus, le risque principal n’est pas qu’ils orientent des réponses – c’est qu’ils harmonisent silencieusement ce qui peut être formulé, reconnu comme question légitime, traité comme argument recevable. Interrogés sur des politiques de redistribution, les modèles dominants tendent à cadrer la réponse dans les termes de l’efficacité économique – non par censure, mais parce que leurs corpus surreprésentent massivement certaines traditions intellectuelles. D’autres registres (justice, dignité, solidarité intergénérationnelle) deviennent moins fluides, progressivement marginalisés sans que personne n’en ait décidé. Quand les mêmes modèles médiatisent des citoyens issus de traditions distinctes, une convergence cognitive s’installe, sans délibération démocratique. Or, c’est exactement ce que les régimes totalitaires visaient (et visent) en priorité, non les opinions, mais l’espace dans lequel des points de vue différents peuvent s’exprimer, se rencontrer et s’affronter.

Le déplacement axiologique : transformer ce qui compte comme valeur

Le danger le plus profond dépasse donc la substitution ponctuelle. En remplaçant de plus en plus systématiquement des décisions humaines, les systèmes IA transforment ce qu’une société reconnaît comme valeur au sens de ce qui mérite d’être considéré et/ou préservé – l’efficacité plutôt que l’équité, l’engagement plutôt que la vérité, la prédictibilité plutôt que la singularité. Ce processus – que je nomme déplacement axiologique – est silencieux, progressif, et opère aussi bien à travers les institutions qu’à travers les pratiques quotidiennes et les dynamiques de marché, y compris là où aucune institution ne l’orchestre. Lorsque des plates-formes algorithmiques déterminent quelles informations sont visibles et quels débats circulent, elles ne filtrent pas un espace public préexistant – elles le reconstituent selon leur propre logique d’optimisation. La pluralité que la démocratie présuppose est menacée par une convergence vers ce que le système détermine comme optimal.

Deux dimensions d’une même transformation

Ce déplacement est peut-être préparé en amont. Des études longitudinales publiées dans JAMA Pediatrics ont observé des corrélations entre usage intensif des réseaux sociaux à l’adolescence et modifications des circuits neuronaux – moindre activation des régions associées au jugement raisonné, hypersensibilité aux rétroactions sociales. Ces résultats appellent à la prudence : ils ne permettent pas de porter des jugements globaux sur des générations entières. Ce qui paraît plus assuré, c’est ce que le philosophe de la culture Byung-Chul Han a mis en lumière : la saturation de l’attention par les flux numériques réduit les espaces de recul critique. L’IA agentique pourrait accentuer cette dynamique en lui donnant une forme institutionnelle. Reconfiguration de l’attention et délégation du jugement ne constituent peut-être pas deux problèmes séparés, mais deux dimensions d’une même transformation dont nous manquons encore du recul pour mesurer toutes les conséquences – et que la gouvernance de l’IA ne peut pas ignorer.

Penser la gouvernance autrement

Arendt n’était pas technophobe. Son projet était constructif : préserver les conditions dans lesquelles la pluralité des points de vue, la spontanéité de l’action et la capacité de jugement singulier – notions au cœur de sa théorie politique – peuvent survivre. Cela exige des cadres de gouvernance intégrant des évaluations d’impact axiologique : analyses systématiques de la façon dont le déploiement agentique transforme non seulement l’efficacité opérationnelle, mais les fondements mêmes de la délibération démocratique. Cela exige de préserver des espaces où la décision est réellement construite par des acteurs capables de pensée indépendante – non comme consultations symboliques, mais comme éléments structurels du processus décisionnel. Cela exige enfin de repenser l’apprentissage du jugement dans un monde où l’IA est omniprésente.

La question « Une IA peut-elle faire cela ? » doit toujours être accompagnée d’une autre, arendtienne dans son exigence : Que nous arrive-t-il, politiquement, quand nous cessons de le faire nous-mêmes ? La vraie réponse n’est pas dans le refus de la délégation, mais dans la définition rigoureuse de ses frontières – quelles décisions ne sont pas délégables, ou sous quelle modalité la délégation peut rester compatible avec la vitalité démocratique.

Hannah Arendt a passé sa vie à comprendre comment des sociétés civilisées pouvaient produire les conditions de leur propre effondrement moral. Sa réponse était d’une simplicité dérangeante : non par un échec dramatique, mais par l’abdication silencieuse, cumulative, banale de la responsabilité de penser. Nous vivons peut-être les prémices d’un nouvel effondrement, mais nous pouvons nous en prémunir avant que les systèmes auxquels nous déléguons notre jugement ne finissent par façonner, à notre place, ce que nous sommes.

The Conversation

Caroline Gans Combe a reçu des financements de l'Union européenne dans le cadre des projets Deform et ProRes.

Detachment 201 : des directeurs de Meta, OpenAI et Palantir deviennent lieutenants-colonels dans la Réserve de l'Armée américaine, pour apporter des « solutions technologiques rapides et évolutives »

Detachment 201 : des directeurs de Meta, OpenAI et Palantir deviennent lieutenants-colonels dans la Réserve de l'Armée américaine,
pour apporter des « solutions technologiques rapides et évolutives » aux défis les plus pressants de l'armée

Une première dans l'histoire militaire et technologique américaine. Le 13 juin 2025, à l'occasion du 250e anniversaire de l'armée des États-Unis, quatre figures de la Silicon Valley ont été officiellement commissionnés au grade de lieutenant-colonels dans...

Donald Trump limoge brutalement la directrice du Bureau des droits d'auteur après la publication de son rapport inquiétant sur l'utilisation par l'IA de contenus protégés par le droit d'auteur

Donald Trump limoge brutalement la directrice du Bureau des droits d'auteur après la publication de son rapport inquiétant sur l'utilisation par l'IA de contenus protégés par le droit d'auteur

L'administration Trump a licencié Shira Perlmutter de son poste à la tête du Bureau américain du droit d'auteur, quelques jours seulement après avoir renvoyé la bibliothécaire du Congrès, Carla Hayden. Le bureau de Shira Perlmutter a récemment publié un rapport examinant si les entreprises d'intelligence artificielle...

L'industrie technologique a tenté de réduire les préjugés omniprésents de l'IA, mais Donald Trump veut maintenant mettre fin à ses efforts en matière d'"IA Woke"

L'industrie technologique a tenté de réduire les préjugés omniprésents de l'IA, mais Donald Trump veut maintenant mettre fin à ses efforts en matière d' "IA Woke"

Après avoir supprimé les subventions de financement de la science et de la technologie portant sur le thème de la DEI, Donald Trump veut mettre fin aux efforts en matière d'"IA woke". Pourtant, une technologie d'intelligence artificielle qui fonctionne bien pour les milliards de personnes de couleur dans le monde était...

Pour ou contre l'utilisation de la reconnaissance faciale ? La Hongrie va utiliser ladite technologie pour identifier les participants à la Marche des fiertés, dédiée à la défense des droits des homosexuels

Pour ou contre l'utilisation de la reconnaissance faciale ? La Hongrie va s'appuyer sur ladite technologie pour identifier les participants à la Marche des fiertés
Dédiée à la défense des droits des homosexuels

La Hongrie vient de devenir le premier pays de l'UE à interdire les manifestations de la Pride, dans le cadre de la dernière campagne de répression anti-LGBTQ de Viktor Orbán, en autorisant la reconnaissance faciale pour identifier et punir les participants. Des députés de l'opposition libérale...

Revue des principaux instruments juridiques et documents internationaux, régionaux et nationaux applicables à l’intelligence artificielle

10 mars 2025 à 12:15
La revue des instruments et documents réalisée ci-après ne concerne que les principaux textes internationaux, régionaux et nationaux directement attachés à l’IA. Les autres textes, applicables à l’IA mais non directement concernés (comme le RGPD) ou applicables à l’IA mais avec une portée moindre, ont été exclus de cette revue. Par instances Instances Document Année… Plus...

L'IRS achète un supercalculateur d'IA à Nvidia, accélérant le remplacement des agents par des algorithmes, ce qui soulève d'importantes questions sur l'automatisation croissante des administration publiques

L'IRS achète un supercalculateur d'IA à Nvidia, accélérant le remplacement des agents par des algorithmes,
ce qui soulève d'importantes questions sur l'automatisation croissante des administration publiques

L'achat par l'Internal Revenue Service (IRS) d'un supercalculateur d'intelligence artificielle (IA) Nvidia SuperPod soulève d'importantes questions sur l'automatisation croissante de l'administration publique et ses implications sociopolitiques. Cette acquisition s'inscrit dans un contexte...

IA dans les services publics : pour une IA « digne de confiance », les grands principes ne suffisent pas

Que ce soit pour assister dans la traque contre la fraude, ou pour aider les agents de France Services à répondre aux questions des citoyens, l’intelligence artificielle s’insère de plus en plus dans les services publics. Cette irruption fait partie du chantier plus large de la transformation numérique de l’État, qui a pour ambition de rendre les actions de l’État plus efficaces.

En regard des risques de l’IA — qu’ils soient existentiels, ou plus terre à terre et immédiats, et au vu les enjeux posés par leurs utilisations, on cherche aujourd’hui à développer des systèmes d’IA « dignes de confiance » (trustworthy).


L’utilisation de l’intelligence artificielle dans les services publics touche un très grand nombre de domaines. Pendant les Jeux olympiques de Paris 2024, l’intelligence artificielle a été déployée pour identifier des situations dangereuses à partir d’images vidéo.

L’intelligence artificielle aide également à reconnaître des images de conducteurs ne portant pas de ceinture de sécurité, ou à reconnaître le visage des voyageurs se présentant à un dispositif PARAFE pour le contrôle de passeport. Une IA générative dénommée Albert aide les agents de France Services à répondre aux questions des citoyens sur les démarches à suivre. Une IA aide les contrôleurs de la Caisse nationale des allocations familiales (CNAF) à prioriser les enquêtes pour fraude. Une autre analyse des images de satellite pour détecter des constructions non déclarées. Un algorithme d’IA est à l’œuvre dans le dispositif Parcoursup. Des outils contribuent à contrer des cyberattaques, d’autres analysent les données de connexion pour détecter des risques de terrorisme.

En 2022, le Conseil d’État a identifié huit grands champs de déploiement de l’IA par l’État, allant de la défense nationale à la personnalisation de l’accompagnement des demandeurs d’emploi.

Chacun de ces domaines demande une approche individualisée pour comprendre quels sont les risques associés à un déploiement de l’IA et comment les gérer en pratique.

Le terme « IA » recouvre une grande diversité de technologies, d’usages, et donc de risques

Les outils de détection de risque de terrorismes ainsi que l’algorithme Parcoursup s’appuient sur l’IA « à l’ancienne » fondée sur des règles logiques créées par des humains, tandis que les algorithmes utilisés pour le traitement de l’image s’appuient sur des algorithmes d’apprentissage machine supervisé. L’IA générative s’appuie sur une nouvelle technologie d’apprentissage par renforcement appelée « transformeur ».

En plus de cette diversité technologique, les usages de l’IA, et les risques y associés, sont extrêmement variés. Une erreur de prédiction concernant la vidange d’une benne à ordures n’a pas les mêmes conséquences qu’une erreur dans la prédiction d’un risque de terrorisme. L’IA générative nourrit des fantasmes sur la fin du monde. Le Défenseur des droits souligne des risques plus terre à terre sur la discrimination.

Impossible d’adopter une approche unique pour une IA « digne de confiance »

Devant une telle diversité dans les technologies et dans les cas d’usage, il est impossible d’adopter une approche unique pour une IA digne de confiance, sauf à rester à un niveau de généralité élevé.

Le règlement européen sur l’IA ne prescrit donc pas le niveau d’erreur acceptable dans un système d’IA, ni les modalités précises du contrôle humain, ni le type d’explicabilité requise. Les situations sont trop différentes. C’est pour cette raison que le règlement européen délègue ces choix aux régulateurs et acteurs de chaque secteur  : bancaire, santé, transport, justice…

Chaque cas nécessitera une analyse de risques et un programme de gouvernance autour de trois axes  : quels types d’erreurs peuvent se produire et quelles sont leurs conséquences  ? Quel niveau d’explicabilité est nécessaire pour que les humains puissent comprendre et valider les résultats algorithmiques  ? Quel type de contrôle humain est adapté à ce système  ?

L’IA digne de confiance  : des principes importants mais trop génériques pour être applicables concrètement

En octobre 2024, la Cour des Comptes a défini sept principes d’IA de confiance.

Ces principes ne sont pas nouveaux. Ils reprennent ceux élaborés depuis 2019 par l’OCDE, HLEG, et UNESCO, et recoupent en grande partie ceux déjà établis en 2022 par le Conseil d’État pour l’IA publique de confiance, en omettant cependant le principe d’autonomie stratégique qui avait été mis en avant par le Conseil d’État.

Ces principes reflètent un consensus, mais restent tellement généraux qu’ils n’apportent pas de solutions pour des situations concrètes. On veut des systèmes d’IA robustes, non discriminatoires, explicables, et centrés sur l’humain, tout comme on veut un environnement propre et une voiture sûre. Ces principes de haut niveau ne nous disent rien sur les arbitrages nécessaires pour déployer un outil dans un contexte particulier.


À lire aussi : IA : vers des principes éthiques partagés et intégrés dans les algorithmes


Il suffit de penser à l’outil utilisé par la CNAF pour calculer le risque de fraude dans les allocations familiales. Cet outil est actuellement contesté devant le Conseil d’État car il serait discriminatoire, donnant un score de risque plus élevé pour les personnes les plus vulnérables. Selon les auteurs de la plainte, le ciblage de cette population serait contraire aux principes d’équité. En même temps, la population vulnérable est celle qui bénéficie de la majorité des prestations sociales. Prioriser le contrôle de cette population serait donc logique sur le plan statistique. Cet exemple montre le dilemme auquel les déployeurs de systèmes d’IA sont confrontés.

Équité, explicabilité, performance  : des valeurs souvent en concurrence

Un système qui effectue des classements statistiques — pour un contrat d’assurance, un contrat de prêt, ou pour un risque de fraude — va nécessairement paraître inéquitable aux yeux de certains, car les différentes visions d’équité sont incompatibles entre elles. Ainsi, un système équitable par rapport à deux groupes de la population (« l’équité de groupe ») ne sera pas équitable par rapport à deux individus (« l’équité individuelle »).

D’autres dilemmes se présenteront en dehors de la question d’équité. Lorsque l’on choisira le niveau d’explicabilité d’un système d’IA, il faudra mettre en équilibre le besoin d’explicabilité et le besoin de performance, car les algorithmes les plus performants sont souvent les moins explicables. En matière de performance, la question sera de savoir s’il faut exiger un système quasi parfait dans ses prédictions, ou se satisfaire d’une performance qui est « seulement » supérieure à celle d’un humain. En matière de contrôle humain, la question sera de savoir s’il faut systématiquement mettre « l’humain dans la boucle »… même si celui-ci augmente le taux d’erreurs.

Ces dilemmes ne peuvent être résolus simplement par l’application des principes d’IA de confiance. Aucun système ne peut satisfaire pleinement tous les critères en même temps. Prioriser un critère conduit à en détériorer un autre.

Gouverner concrètement les déploiements de systèmes d’IA

Dans cet environnement de vases communicants et de compromis, la Cour des Comptes propose de se concentrer sur les processus de gouvernance dans l’analyse et l’accompagnement des projets d’IA par l’administration. L’idée est de soumettre les grands projets d’IA à une étude d’impact préalable et à un plan de gestion des risques, comme pour un projet de construction d’une éolienne.

Plus précisément, la Cour des Comptes propose une « grille de maturité » qui évalue le niveau de formation du personnel, l’existence ou non de cahiers des charges internes, l’existence de systèmes d’audits, de consultations entre différentes parties prenantes, et surtout l’existence, tout au long de la vie du système, d’un questionnement constant sur l’utilisation des données, le choix du modèle, sa frugalité, les vulnérabilités aux attaques, les risques de discriminations et autres erreurs algorithmiques.

En d’autres termes, puisqu’il est quasiment impossible de fournir une seule « bonne » réponse aux nombreux dilemmes de l’IA de confiance, autant mettre l’accent sur le processus d’analyse et de décision, pour au moins garantir que ce processus est irréprochable.

Des processus de gouvernance deviennent obligatoires pour les systèmes à « haut risque »

Depuis le règlement européen sur l’IA, ces processus de gouvernance deviennent obligatoires pour tout système à « haut risque ». Un grand nombre des systèmes d’IA mis en place par l’administration française tomberont dans cette catégorie, car ils touchent un très grand nombre de citoyens.

Le règlement européen met l’accent sur les normes techniques pour traiter les questions opérationnelles liées à ces systèmes à haut risque. Mais ces normes techniques ne pourront pas résoudre la plupart des dilemmes qui mettent en concurrence différents principes de l’IA responsable.


À lire aussi : Intelligence artificielle: normes techniques et droits fondamentaux, un mélange risqué


Au mieux, ces normes techniques établiront des méthodologies communes pour mesurer différents paramètres tels que l’explicabilité, les biais, et les niveaux de performance. Ces méthodologies permettront au moins de parler le même langage et utiliser les mêmes unités de mesure lorsque l’on examine les différents choix et compromis nécessaires pour la mise en œuvre d’un système.

La recherche scientifique sur l’IA digne de confiance permettra de réduire certains choix cornéliens

Les avancées en matière d’explicabilité permettront, par exemple, d’atteindre un haut niveau d’explicabilité tout en préservant la performance prédictive des grands modèles traditionnellement opaques.

La recherche sur l’IA frugale doit permettre de réduire la consommation énergétique des modèles tout en préservant un niveau élevé de performance.


À lire aussi : Comment faire face à la crise de l’énergie de l’IA ?


Les avancées en matière d’anonymisation de données (« differential privacy ») et d’apprentissage fédéré (« federated learning ») permettront d’entraîner des modèles tout en protégeant les données à caractère personnel.

Mais de nombreux dilemmes perdureront, car ils s’appuient sur des propriétés statistiques immuables, par exemple les définitions de l’équité, ou sur des choix de société nécessitant la mise en équilibre de droits et intérêts en concurrence.

La décision du Conseil d’État dans le contentieux CNAF nous dira comment, dans le cas précis de l’algorithme de notation du risque de fraude aux prestations sociales, cette mise en équilibre sera effectuée.

The Conversation

Winston Maxwell a reçu des financements de l'ANR.

Les modèles d'IA de Mistral au service de France Travail

5 février 2025 à 15:00
Parallèlement à l'annonce de son déploiement avec Veolia, Mistral AI vient de conclure un partenariat avec France Travail. L’agence du...

Le Texas interdit l'IA chinoise DeepSeek : "Le Texas ne permettra pas au Parti communiste chinois d'infiltrer l'infrastructure critique de notre État par le biais de l'IA et des applications de médias sociaux"

Le Texas interdit l'IA chinoise DeepSeek : "Le Texas ne permettra pas au Parti communiste chinois d'infiltrer l'infrastructure critique de notre État par le biais de l'IA et des applications de médias sociaux."

Le gouverneur du Texas, Greg Abbott, a annoncé qu'il interdisait aux fonctionnaires d'utiliser DeepSeek, Xiaohongshu (RedNote) et Lemon8 sur les appareils fournis par l'État. Les préoccupations en matière de confidentialité des données et de sécurité nationale ont déjà incité plusieurs...

Le ministère taïwanais du Numérique a déclaré que les départements gouvernementaux ne devraient pas utiliser le service d'IA de la startup chinoise DeepSeek, car il représente un risque pour la sécurité

Le ministère taïwanais du Numérique a déclaré que les départements gouvernementaux ne devraient pas utiliser le service d'IA de la startup chinoise DeepSeek, car il représente un risque pour la sécurité

Le ministère taïwanais du Numérique a déclaré que les départements gouvernementaux ne devraient pas utiliser le service d'intelligence artificielle (IA) de la startup chinoise DeepSeek, estimant que le produit, provenant de Chine, représente un problème de sécurité.

Ce récent développement intervient...

Pour étudier les dirigeants mondiaux, la CIA discute avec leurs clones IA, en utilisant les renseignements recueillis par les espions pour créer des profils IA pouvant prédire les comportements des dirigeants

Pour étudier les dirigeants mondiaux, la CIA discute avec leurs clones IA, en utilisant les renseignements recueillis par les espions pour créer des profils IA pouvant prédire les comportements des dirigeants

Au cours des deux dernières années, la CIA a développé un chatbot IA pour aider les analystes à créer des profils détaillés de dirigeants étrangers, renforçant ainsi les capacités technologiques de l'agence.

La Central Intelligence Agency (CIA) est un service civil de renseignement extérieur...

Quand l'IA menace l'intégrité de la justice : les policiers américains utilisent l'IA pour rédiger des rapports de police et l'ACLU n'est pas contente, elle soulève des risques en matière de transparence

13 décembre 2024 à 20:35
Quand l'IA menace l'intégrité de la justice : les policiers américains utilisent l'IA pour rédiger des rapports de police, et l'ACLU n'est pas contente
elle soulève des risques en matière de transparence

La popularité croissante des outils d'IA auprès de la police soulève de profondes préoccupations chez les groupes de défense des droits de l'homme. En dépit des problèmes liés aux logiciels de reconnaissance faciale basée sur l'IA déjà utilisés pour identifier les suspects, la technologie est désormais...

Une entreprise d'IA trolle San Francisco avec des panneaux pubs disant «arrêtez d'embaucher des humains», se vantant d'avoir des «travailleurs IA» ne se plaignant jamais de l'équilibre entre vie privée et pro

12 décembre 2024 à 01:15
Une entreprise d'IA trolle San Francisco avec des panneaux publicitaires disant « arrêtez d'embaucher des humains »,
elle se vante d'avoir des « travailleurs d'IA » qui ne se plaignent jamais de l'équilibre entre vie professionnelle et vie privée

San Francisco a récemment été le théâtre d'une campagne publicitaire qui a suscité la controverse. Une société spécialisée dans l'intelligence artificielle (IA) a inondé la ville de panneaux affichant le message provocateur : « Arrêtez d'embaucher des...

Semi-conducteurs: les Etats-Unis renforcent leurs restrictions d'exportation vers la Chine

2 décembre 2024 à 10:00
Les Etats-Unis ne relâchent pas la pression sur la Chine. Quelques semaines avant de quitter le pouvoir, l’administration Biden va mettre en...
  • ✇La Quadrature du Net
  • C’EST PAS DE L’IA
    Quand on entend parler d’intelligence artificielle, c’est l’histoire d’un mythe moderne qui nous est racontée. Celui d’une IA miraculeuse qui doit sauver le monde, ou d’une l’IA douée de volonté qui voudrait le détruire. Pourtant derrière cette « IA » fantasmée se trouve une réalité matérielle avec de vraies conséquences. Cette thématique sera centrale dans notre travail en 2025, voilà pourquoi nous commençons par déconstruire ces fantasmes : non, ce n’est pas de l’IA, c’est l’exploitation de la

C’EST PAS DE L’IA

Par : marne
28 novembre 2024 à 18:27

Quand on entend parler d’intelligence artificielle, c’est l’histoire d’un mythe moderne qui nous est racontée. Celui d’une IA miraculeuse qui doit sauver le monde, ou d’une l’IA douée de volonté qui voudrait le détruire. Pourtant derrière cette « IA » fantasmée se trouve une réalité matérielle avec de vraies conséquences. Cette thématique sera centrale dans notre travail en 2025, voilà pourquoi nous commençons par déconstruire ces fantasmes : non, ce n’est pas de l’IA, c’est l’exploitation de la nature, l’exploitation des humains, et c’est l’ordonnancement de nos vies à des fins autoritaires ciblant toujours les personnes les plus vulnérables.

Pour faire vivre notre combat contre le numérique autoritaire, capitaliste et écocide, et poursuivre notre travail de proposition positive pour un numérique libre, émancipateur et fédérateur, nous avons besoin de votre soutien !

C’est pas de l’IA, c’est de l’exploitation dernier cri

L’IA est le prolongement direct des logiques d’exploitation capitalistes. Si cette technologie a pu émerger, c’est du fait de l’accaparement de nombreuses ressources par le secteur de la tech : d’abord nos données personnelles, puis d’immenses capitaux financiers et enfin les ressources naturelles, extraites en reposant sur le colonialisme ainsi que sur le travail humain nécessaires à l’entraînement des modèles d’IA. Une fois déployée dans le monde professionnel et le secteur public, l’IA aggrave la précarisation et la déqualification des personnes au nom d’une course effrénée à la productivité.

Faire un don

C’est pas de l’IA, c’est une immense infrastructure écocide

L’essor de l’IA repose sur l’extraction de minerais rares afin de fabriquer les puces électroniques indispensables à ses calculs. Elle conduit aussi à la multiplication des data centers par les multinationales de la tech, des équipements gigantesques et coûteux en énergie qu’il faut en permanence refroidir. Partout sur la planète, des communautés humaines se voient ainsi spoliées de leur eau, tandis qu’on rallume des centrales à charbons pour produire l’électricité nécessaire à leur fonctionnement. Derrière les discours de greenwashing des entreprises, les infrastructures matérielles de l’IA génèrent une augmentation effrayante de leurs émissions de gaz à effet de serre.

C’est pas de l’IA, c’est l’automatisation de l’État policier

Que ce soit au travers de la police prédictive ou de la vidéosurveillance algorithmique, l’IA amplifie la brutalité policière et renforce les discriminations structurelles. Derrière un vernis prétendument scientifique, ces technologies arment la répression des classes populaires et des militant·es politiques. Elles rendent possible une surveillance systématique de l’espace public urbain et, ce faisant, participent à l’avènement d’un monde où le moindre écart à la norme peut être détecté puis puni par l’État.

C’est pas de l’IA, c’est la chasse aux pauvres informatisée

Sous couvert de « rationalisation », l’IA envahit les administrations sociales à travers le développement d’algorithmes auto-apprenants visant à détecter de potentiels fraudeurs. Allocations Familiales, Assurance Maladie, Assurance Vieillesse, Mutualité Sociale Agricole : ces systèmes sont aujourd’hui déployés dans les principales administrations de l’« État providence ». Associant un « score de suspicion » à chacune d’entre nous pour sélectionner les personnes à contrôler, nos recherches montrent qu’ils ciblent délibérément les personnes les plus précaires .

C’est pas de l’IA, c’est la mise aux enchères de notre temps de cerveau disponible

L’accaparement de nos données personnelles permet de nourrir les IA de profilage publicitaire, qui associent en temps réel des publicités à nos « profils » vendus aux plus offrants. Cette marchandisation de notre attention a aussi pour effet de façonner les réseaux sociaux centralisés, régulés par des IA de recommandation de contenus qui les transforment en lieux de radicalisation binaire des camps politiques. Enfin, pour développer des produits comme ChatGPT, les entreprises du secteur doivent amasser d’immenses corpus de textes, de sons et d’images, s’appropriant pour ce faire le bien commun qu’est le Web.

Faire un don

Pourquoi nous faire un don cette année ?

Pour boucler le budget de l’année qui vient, nous souhaitons récolter 260 000 € de dons, en comptant les dons mensuels déjà existants, et tous les nouveaux dons mensuels ou ponctuels.

À quoi servent concrètement vos dons ?

L’association a une fantastique équipe de membres bénévoles, mais elle a aussi besoin d’une équipe salariée.
Les dons recueillis servent principalement à payer les salaires des permanentes de l’association (75 % des dépenses). Les autres frais à couvrir sont le loyer et l’entretien du local, les déplacements en France et à l’étranger (en train uniquement), les frais liés aux campagnes et aux évènements ainsi que les divers frais matériels propres à toute activité militante (affiches, stickers, papier, imprimante, t-shirts, etc.).

Pour vous donner une idée, quand on ventile nos dépenses de 2024 (salaires inclus) sur nos campagnes, en fonction du temps passé par chacun·e sur les sujets de nos luttes, ça ressemble à ça :
Algos : 13 %, Technopolice : 10 %, VSA : 11 %, Chiffrement : 3,45 %, GAFAM : 3 %, IA : 5 %, Surveillance & fichage : 4 %, Surveillance des militants : 4 %, Numérique & écologie : 6 %, Plateformes : 4 %, Communauté : 20% (relations avec d’autres associations, rencontres publiques, week-ends de travail avec des bénévoles, participation à des festivals et au chos communication Camp (CCC)), Vie de l’association : 17,44 % (réunions internes, AG, temps de réflexion stratégique, coordination de l’association, campagne de dons, achat et envoi des contreparties)

Quelles sont nos sources de financement ?

L’association ne touche aucun argent public, mais reçoit des soutiens, à hauteur de 40 % de son budget, de la part de diverses fondations philanthropiques : la Fondation pour le progrès de l’Homme, la fondation Un monde par tous, Open Society Foundations, la Limelight Foundation et le Digital Freedom Fund.
Le reste de notre budget provient de vos dons. Alors si vous le pouvez, aidez-nous !
Attention, comme nous l’expliquons dans la FAQ de notre site, les dons qui sont faits à La Quadrature ne sont pas déductibles des impôts, les services fiscaux nous ayant refusé cette possibilité à deux reprises.

Comment donner ?

Vous pouvez faire un don par CB, par chèque, ou par virement bancaire.
Et si vous pouvez faire un don mensuel — même un tout petit ! — n’hésitez pas, ce sont nos préférés : en nous assurant des rentrées d’argent tout au long de l’année, ils nous permettent de travailler avec plus de confiance dans la pérennité de nos actions.
En plus, le cumul de vos dons vous donne droit à des contreparties (sac, t-shirt, sweat). Attention, l’envoi n’est pas automatique, il faut vous connecter et faire la demande sur votre page personnelle de donateur/donatrice. Et si les contreparties tardent un peu à arriver, ce qui n’est pas rare, c’est parce qu’on est débordé·es, ou qu’on attend le réassort dans certaines tailles, et aussi parce qu’on fait tout ça nous-mêmes avec nos petites mains. Mais elles finissent toujours par arriver !

Merci encore pour votre générosité, et merci beaucoup pour votre patience <3 Faire un don

Le gouvernement français a fait une offre de 1,125 milliard d'euros pour les activités de calcul haute performance (HPC), d'IA et quantique de l'entreprise en difficulté Atos

Le gouvernement français a fait une offre de 1,125 milliard d'euros pour les activités de calcul haute performance (HPC), d'IA et quantique de l'entreprise en difficulté Atos

Le gouvernement français a fait une nouvelle offre de rachat des activités d'Atos dans le domaine des supercalculateurs et des systèmes quantiques pour 1,125 milliard d'euros. L'exclusivité de l'offre non contraignante a été accordée jusqu'au 31 mai 2025. Cela montre l'importance de la société informatique française Atos pour...

Un tribunal affirme qu'un établissement n'a commis aucune faute en sanctionnant un élève pour utilisation de l'IA, cette décision pourrait faire office de jurisprudence face aux plaintes des parents

Un tribunal affirme qu'un établissement n'a commis aucune faute en sanctionnant un élève pour utilisation de l'IA,
cette décision pourrait faire office de jurisprudence face aux plaintes des parents

La récente décision d'un tribunal affirmant que l'école n'a commis aucune faute en sanctionnant un élève pour l'utilisation d'une intelligence artificielle (IA) soulève des questions cruciales sur l'éducation et l'évolution des technologies. Cet arrêt, qui fait désormais office de jurisprudence,...

Un scandale provoqué par des deepfakes sexuellement explicites générés par l'IA entraîne la fermeture d'une école en Pennsylvanie, les défis liés à la technologie deepfake exacerbés par l'IA générative

Un scandale provoqué par des deepfakes sexuellement explicites générés par l'IA entraîne la fermeture d'une école en Pennsylvanie
les défis liés à la technologie deepfake exacerbés par l'IA générative

Un élève de la Lancaster Country Day School, en Pennsylvanie, a utilisé l'IA pour créer des images sexuellement explicites d'environ 50 camarades de classe. La diffusion des photos et l'inaction présumée des responsables de l'école ont suscité un tollé dans la communauté et rendu les parents furieux....

  • ✇Dans les algorithmes
  • Où est passée la grande désinformation de l’IA ?
    L’effondrement de l’information a-t-il eu lieu ? En tout cas, la submersion des contenus par l’IA générative qu’annonçaient de nombreux médias au début de la campagne électorale américaine n’a semble-t-il pas eu lieu, ou pas comme on l’a escompté, explique Matteo Wong pour The Atlantic. C’est ce qu’explique un trio de chercheurs de l’université de Purdue, Christina Walker, Daniel Schiff et Kaylyn Jackson Schiff, qui ont collecté les images et vidéos politiques générées par l’IA depuis juin 2023.

Où est passée la grande désinformation de l’IA ?

20 novembre 2024 à 07:30

L’effondrement de l’information a-t-il eu lieu ? En tout cas, la submersion des contenus par l’IA générative qu’annonçaient de nombreux médias au début de la campagne électorale américaine n’a semble-t-il pas eu lieu, ou pas comme on l’a escompté, explique Matteo Wong pour The Atlantic. C’est ce qu’explique un trio de chercheurs de l’université de Purdue, Christina Walker, Daniel Schiff et Kaylyn Jackson Schiff, qui ont collecté les images et vidéos politiques générées par l’IA depuis juin 2023. Les contenus générés par l’IA durant la campagne électorale ont été nombreux, mais ils ont surtout été utilisés sous forme de satire ou de divertissement que comme outils de désinformation. Leur usage a été bien plus transparent qu’attendue. Les images étaient fausses mais ne faisaient pas semblant d’être vraies.

Reste qu’on mesure mal l’impact de ces partages, modèrent les chercheurs. « Ces images et vidéos générées par l’IA sont instantanément lisibles et ciblent explicitement le partage d’émotions plutôt que les informations (…). » Ces images ont peut-être finalement très bien accompagné la disparition des faits, du consensus et de la rationalité. Elles ont d’abord permis de faire primer l’émotion sur la rationalité dans un moment où la vérité était particulièrement malmenée… mais d’abord par les discours politiques eux-mêmes.

MAJ du 21/11/2024 : « L’IA semble avoir moins contribué à façonner la façon dont les gens ont voté et bien plus à éroder leur foi dans la réalité », rapporte le Washington Post. Elle a été plus utilisée pour consolider les croyances partisanes que pour influencer les mentalités, brouillant la réalité. Des chercheurs de l’Institute for Strategic Dialogue ont constaté que les utilisateurs croyaient plus souvent que le contenu authentique était généré par l’IA que l’inverse. Nous sommes bien plus dans une crise de la réalité que dans une crise de désinformation.

Un nouvel outil de contrôle de l'UE révèle les principales lacunes de conformité des grands modèles d'IA, y compris ceux d'OpenAI et Meta, qui ne respectent pas les normes de l'Union européenne

L'UE s'apprête à établir des règles en matière d'IA qui interdisent la surveillance et le classement du comportement social,
Les amendes pouvant atteindre 4 % du chiffre d'affaires

La surveillance de masse par les systèmes d'intelligence artificielle et le scoring continuent de faire l'objet de débat à travers le monde entier. Ce qui était l'objet d'une fiction dans l'épisode Nosedive de la série Black Mirror est en train de devenir une réalité dans certaines parties du monde, tandis que certains...

La Russie aurait payé un ancien policier de Floride pour diffuser des « deepfakes » anti-Harris et de la désinformation, John Mark Dougan aurait créé des sites de fake news grâce au financement de l'armée russe

L'équipe de campagne de Donald Trump déclare que ses systèmes informatiques ont fait l'objet de piratage par des acteurs étrangers, d'après des rapports
Qui pointent l'Iran comme responsable

Des documents internes à la campagne du candidat à l'élection présidentielle américaine, Donald Trump, ont fait l'objet de divulgation publique. À demi-mot, son équipe désigne l'Iran comme l'instigateur de ce piratage.


L'équipe de campagne de Donald Trump a déclaré que des pirates informatiques étrangers...

Au-delà du battage médiatique : Mes réflexions honnêtes sur l'IA générative, par Mensur Durakovic

Au-delà du battage médiatique : Mes réflexions honnêtes sur l'IA générative, par Mensur Durakovic


Il s'est écoulé plus d'un an depuis le battage fou de l'IA et maintenant que la poussière est retombée, nous voyons des signes clairs où se trouve l'IA.

Nous avons vu des plateformes de chat intelligentes comme ChatGPT et Claude, des services de génération d'images et de vidéos comme DALL-E et Midjourney, GitHub Copilot, des assistants d'écriture et d'autres applications.

Je n'ai pas voulu écrire sur...

Pour ou contre de telles mesures ? Michel Barnier envisage de généraliser la vidéosurveillance algorithmique en France et y matérialiser la fiction Big Brother de 1984 comme c'est le cas en Chine

Pour ou contre de telles mesures ? Michel Barnier envisage de généraliser la vidéosurveillance algorithmique en France
Et y matérialiser la fiction Big Brother de 1984 comme c'est le cas en Chine

C'est au terme du premier trimestre de l'année précédente que l'assemblée nationale française a approuvé l'utilisation de caméras de vidéosurveillance assistées par l'intelligence artificielle. L'objectif : assurer la sécurité des derniers Jeux olympiques de Paris. Les groupes de défense des droits de l'Homme...

« Un vaste système de surveillance piloté par l'IA peut amener les citoyens à un meilleur comportement », d'après Larry Ellison qui suggère d'adopter le modèle chinois de surveillance de ses citoyens

16 septembre 2024 à 23:04
« Un vaste système de surveillance piloté par l'IA peut amener les citoyens à un meilleur comportement », d'après Larry Ellison
Qui suggère d'adopter le modèle chinois de surveillance de ses citoyens

La Chine est le pays qui, à date, incarne le mieux le personnage de fiction Big Brother du roman Nineteen Eighty-Four (1984) de l'écrivain anglais Georges Orwell. Dans la société décrite par ce dernier, chaque citoyen est sous la surveillance constante de l'autorité (Big Brother), principalement par...

Les conversations avec un chatbot d'IA réduisent considérablement les croyances conspirationnistes, l'IA formé au débat est capable de faire changer d'avis les théoriciens du complot, selon une étude

14 septembre 2024 à 06:22
Les conversations avec un chatbot d'IA réduisent considérablement les croyances conspirationnistes, lIA formé au débat est capable de faire changer d'avis les théoriciens du complot, selon une étude.

Les conversations avec un chatbot d'IA réduisent considérablement les croyances conspirationnistes, selon une étude. Les chatbots d'IA formés au débat sont capables de faire changer d'avis les théoriciens du complot en présentant des preuves convaincantes. Selon les auteurs, ces résultats montrent comment...

Quand l'IA prend parti dans le débat politique : une « erreur » a conduit Alexa d'Amazon à promouvoir la candidature de Kamala Harris, tandis que l'assistant a refusé de parler de Donald Trump

Quand l'IA prend parti dans le débat politique : une « erreur » a conduit Alexa d'Amazon à promouvoir la candidature de Kamala Harris,
tout en refusant de parler de Donald Trump

L'intelligence artificielle (IA) est omniprésente dans notre quotidien, des assistants vocaux aux recommandations personnalisées. Cependant, que se passe-t-il lorsque ces technologies, censées être neutres, prennent parti dans des débats politiques ? C'est ce qui s'est produit récemment avec Alexa, l'assistant vocal d'Amazon.

Il...

La NFL annonce l'installation d'un dispositif de reconnaissance faciale sur tous ses 32 stades, après des cas d'utilisation montrant des violations des droits de l'Homme par cette technologie

La NFL annonce l'installation d'un dispositif de reconnaissance faciale sur tous ses 32 stades
Après des cas d'utilisation montrant des violations des droits de l'Homme par cette technologie

La Ligue nationale de football américain annonce l'installation d'un dispositif de reconnaissance faciale sur ses 32 stades. L'utilisation de cette technologie se fera dès cette saison. L'objectif : renforcer la sécurité des événements à partir de scanners faciaux qui serviront à vérifier l'identité des personnes...

Une vidéo manipulée partagée par Elon Musk imite la voix de la vice-présidente des États-Unis Kamala Harris, ce qui soulève des inquiétudes quant à l'utilisation de l'IA en politique

Une vidéo manipulée partagée par Elon Musk imite la voix de la vice-présidente des États-Unis Kamala Harris, ce qui soulève des inquiétudes quant à l'utilisation de l'IA en politique.

Une vidéo manipulée partagée par Elon Musk imite la voix de la vice-présidente des États-Unis Kamala Harris. Des experts ont confirmé qu'une grande partie de la voix a été générée par l'IA. Cela soulève des questions sur une utilisation appropriée de l'IA dans la politique, en particulier, car Elon Musk n'a mis aucune...

Des "pièges à droits d'auteur" pourraient indiquer aux écrivains si une IA a récupéré leur travail, leur travail aurait été intégré dans des modèles d'IA sans leur consentement

Des "pièges à droits d'auteur" pourraient indiquer aux écrivains si une IA a récupéré leur travail, car leurs travails auraient été intégré dans des modèles d'IA sans leur consentement.

Selon une nouvelle étude, les "pièges à droits d'auteur" pourraient indiquer aux écrivains si une IA a piraté leur travail. La technique a été utilisée tout au long de l'histoire, mais elle pourrait désormais constituer un outil dans l'un des plus grands combats de l'intelligence artificielle.

L'intelligence...

Des lanceurs d'alerte affirment qu'OpenAI a illégalement interdit à son personnel de divulguer les risques de sécurité liés à son IA en s'appuyant sur des accords contraignants et des menaces de représailles

Des lanceurs d'alerte affirment qu'OpenAI a illégalement interdit à son personnel de divulguer les risques de sécurité liés à son IA
en s'appuyant sur des accords contraignants et des menaces de représailles

OpenAI a mis en place des accords contraignants visant à faire taire les lanceurs d'alerte qui seraient tentés d'évoquer publiquement les risques relatives à sa technologie d'IA. C'est du moins ce qui ressort d'une plainte déposée auprès de la Securities and Exchange Commission (SEC) des États-Unis...

❌
❌