Le chercheur italien Antonio Aloisi (qu’on a déjà évoqué plusieurs fois dans nos pages, notamment ici et là) a lancé une passionnante newsletter personnelle, Workable Futures. 

Dans sa dernière édition, il enterre l’économie des plateformes de travail. L’adoption d’une directive européenne « timidement audacieuse » sur les travailleurs des plateformes a fini par ramener un peu de réalité dans un monde de mythes surmédiatisés, explique-t-il. En fait, on dit souvent que le droit est en retard par rapport au rythme des évolutions technologiques, mais il semble bien que nous devrions reconsidérer la question et constater que le droit est en avance. Après plus de 10 ans de poudre aux yeux, aucune plateforme de l’économie collaborative en Europe ne peut se targuer d’une rentabilité solide, malgré le lobbying intense en leur faveur et les financements sans fin du capital risque qui sont venus subventionner le mode de vie des plus aisés que ce soit en proposant des livraisons ou des courses en voiture de luxe à prix cassé. Le grand cimetière de l’innovation est désormais rempli de startups qui proposaient d’ubériser tout et n’importe quoi. « Ce qui pu passer pour une voie vers la rentabilité s’est révélée guère plus qu’une redistribution des pertes, reportée sur les travailleurs et les fournisseurs. Même dans sa version la plus « optimisée » (celle qui repose sur le travail forcé), le modèle peine à générer un profit durable.» 

« Depuis des années, des armées d’avocats se disputent sur le dilemme épineux de savoir si les travailleurs indépendants doivent être considérés comme des salariés ou des travailleurs à leur compte ». « Les traditions juridiques nationales peuvent diverger, mais le constat est clair : le pouvoir d’exercer un contrôle absolu sur les travailleurs (qualifiés, à juste titre, de « subordonnés ») s’accompagne du devoir de garantir stabilité et protection. Le risque commercial doit être supporté par les fondateurs, et non transféré aux employés. Plus important encore, dans la plupart des pays occidentaux, ce modèle sous-tend un système de protection sociale solide, où les travailleurs financent leur propre sécurité sociale par le biais de cotisations salariales. Depuis l’avènement du capitalisme, c’est ainsi que les entreprises fonctionnent, avec un certain succès, à moins qu’elles ne choisissent de se réfugier dans un monde numérique d’exception. »

Des armées d’avocats, de politiciens, d’universitaires, d’entrepreneurs et d’éditorialistes  ont tenté de nous convaincre  que « la notion traditionnelle de subordination ne saurait s’appliquer à des structures organisationnelles aussi flexibles, voire imprévisibles ». « La directive européenne sur le travail sur plateforme affirme en substance qu’un modèle économique basé sur une plateforme n’est pas fondamentalement incompatible avec une relation de travail. Ce principe, bien que non révolutionnaire, a été salué à juste titre comme une avancée majeure. La plupart des observateurs ont également averti que l’introduction d’une présomption de travail n’est qu’un point de départ. » 

Ce dispositif procédural n’a aucun pouvoir miraculeux. Intégrer les travailleurs précaires dans le champ d’application du droit du travail ne résout pas, en soi, les problèmes de fond auxquels ils sont confrontés. La prochaine étape devrait consister à examiner la pertinence des dispositions relatives au travail dans des contextes et pour des travailleurs qui ne correspondent pas pleinement à l’idéal dominant. Le constat est sans appel, estime le chercheur. « Nous avons déployé une énergie intellectuelle considérable pour finalement ne pas légitimer un phénomène qui n’a jamais été conçu pour être légitime, et encore moins conforme à la loi ». « La réalité s’est avérée dure pour les plateformes », ironise le chercheur. « Le problème n’a jamais été que le droit était en retard sur l’innovation, mais que les modèles économiques étaient déconnectés de la réalité ». Nous avons été abusés par un « entreprenariat factice ». Ce sont les projets d’ubérisation qui sont bidons, pas le droit qu’il faut changer. 

« Cependant, les pratiques testées dans ce contexte sont depuis devenues un modèle pour des entreprises moins scrupuleuses. La surveillance intégrée aux applications de livraison de repas est désormais une fonctionnalité du tableau de bord collaboratif de votre employeur ; ce qui a été testé dans les centres d’appels est maintenant le modèle pour les annotateurs de données (ces travailleurs qui nettoient les ensembles de données extraits par ChatGPT). Le modèle de rémunération à la tâche s’est infiltré dans l’enseignement supérieur, la santé et le secteur culturel, dans un cycle sans fin de reproduction de la même logique. Les données que nous partagions autrefois avec légèreté en échange d’un bon de réduction sont devenues la base d’une nouvelle infrastructure prédatrice. »

« Les tribunaux du monde entier sont toujours englués dans des litiges concernant le statut d’emploi des travailleurs des plateformes, le temps de travail non rémunéré et la discrimination algorithmique. Pendant ce temps, sans grande finesse, l’entreprise orchestre discrètement l’obsolescence programmée de ses chauffeurs (et la sienne), façonnant les attentes quant à la suite des événements, marquée par une dégradation progressive des conditions de travail et la promesse d’une automatisation complète. »

« Le caractère pernicieux de cette stratégie explique son attrait. Les travailleurs sont considérés comme un simple obstacle à éliminer. Or, c’est faux : même lorsqu’ils sont relégués au second plan dans les champs des Pouilles à la récolte des légumes, sur le marché mondial en ligne de l’étiquetage des données, contraints de laver les sols de supermarchés prétendument entièrement automatisés ou embauchés pour surveiller des machines défaillantes (comme les superviseurs de véhicules autonomes forcés de se déguiser en sièges auto pour donner l’illusion de voitures fonctionnant sans intervention humaine). Ce système repose sur une main-d’œuvre massive et sous-payée, une armée de maîtres numériques maniant des algorithmes impitoyables, et la crédulité, la complaisance et la superficialité du reste d’entre nous. L’économie des petits boulots est morte. Il était temps ». Aloisi sait pourtant que la directive des plateformes ne suffira pas. L’économie des petits boulots est morte « et pourtant elle persiste ». « Un modèle économique qui n’a jamais été viable a néanmoins réussi à remodeler la perception du travail chez certains, une supercherie après l’autre. » Le risque est fort que cette perception continue d’infuser en continuant à niveler les salaires et les statuts par le bas. Avant que nous enterrions définitivement son cadavre, il est probable qu’elle aura fait encore beaucoup de mal à bien des travailleurs de bien des secteurs. 

La dérégulation est pour les perdants 

Dans la première édition de sa newsletter, Antonio Aloisi expliquait déjà que « la dérégulation est pour les perdants », en revenant sur la mauvaise idée européenne, suite au rapport Draghi, de porter une forme de dérégulation avec le projet de digital omnibus. Or, rappelle le chercheur, « l’affirmation selon laquelle la croissance de l’UE serait bloquée à cause de l’ensemble des règles juridiques que nous nous sommes imposées est, pour être honnête, sans fondement. Sans vouloir détourner le regard, les causes profondes se trouvent ailleurs : une intégration insuffisante, des marchés financiers fragiles, une culture de l’aversion au risque, des politiques migratoires inadaptées et des règles d’attraction des talents inefficaces » (autant de pistes, on s’en souvient, mises en avant par Anu Bradford). On le voit dans les discussions sans fin autour du Digital Omnibus européen qui réécrivent les textes européens sous prétexte de dérégulation, reportant ses échéances d’une correction l’autre. Ceux qui critiquent l’approche légaliste de l’UE ne seront jamais satisfaits : ils continuent de réclamer toujours plus de simplification créant une Union toujours plus « économiquement dépendante, technologiquement subordonnée et stratégiquement faible ». De l’autre côté, les entreprises sérieuses qui avaient déjà mis en place des protocoles pour se conformer aux dispositions législatives seront assez légitimement mécontentes. « Elles se percevront comme les naïfs du village dans un monde où règne une culture managériale déconnectée de la réalité. Refuser de se conformer et préférer se plaindre, d’une certaine manière, s’avère payant. Ce sentiment peut être extrêmement dangereux, comme dans le cas classique de l’évasion fiscale : pourquoi payer si tout le monde contourne allègrement les règles ? » La perspective d’une impunité totale au prétexte de l’innovation ne nous conduit nulle part. 

Pour Aloisi, le risque est fort que l’innovation ne devienne un concept vide de sens. Y’a-t-il vraiment un chef d’entreprise pour affirmer que sa startup a échoué « à cause d’une politique de cookies trop stricte ou des exigences du RGPD ? », ironise-t-il. 

La réalité n’est pas celle-ci, rappelle Aloisi. En Europe, des entreprises développent des produits et services de pointe dans des secteurs essentiels, de l’aéronautique à l’industrie pharmaceutique, de l’énergie aux microprocesseurs. Ces exemples illustrent une philosophie radicalement différente, qui s’attaque aux défis sociétaux majeurs plutôt que de fabriquer des chatbots pour des rencontres amoureuses ou des images pédopornographiques. Une « innovation patiente qui fait progresser la civilisation ». « Si une entreprise « disruptive » ne peut survivre parce qu’elle doit se conformer à des règles que la plupart d’entre nous suivons, c’est peut-être l’occasion de réévaluer la viabilité de son modèle économique. C’est un service que nous pouvons rendre à la véritable notion d’innovation, celle qui ne se contente pas de détruire, mais qui contribue à bâtir un monde meilleur. » « Les appels à démanteler la réglementation européenne en matière de développement durable et de numérique peuvent facilement se retourner contre ses auteurs. Il est facile de comprendre qu’un repli de l’UE engendrerait une fragmentation, une instabilité et une concurrence accrues entre les États membres pour occuper un espace ou combler un manque. C’est là que réside l’erreur de la déréglementation : ce processus ne profite ni aux PME européennes, ni à la souveraineté ou à la compétitivité de l’UE, ni à la position des consommateurs, des travailleurs ou des citoyens. C’est un fléau déguisé en bénédiction. Une option perdant-perdant qui ne ferait qu’éroder davantage la confiance dans les institutions, les règles et les dirigeants. » Nous devrions être plus sages et changer de cap, conclut-il. La dérégulation ne nous conduit nulle part. 

Hubert Guillaud

PS : Dans La Croix, Mimoun El Alami, de la Coopérative d’activité et d’emploi Stairling et Yannick Puisset, dirigeant de la coopérative d’activité et d’emploi Coop & Bât, signaient une tribune pour pointer que le statut de micro-entrepreneur, en France, est une bombe à retardement, dénonçant un statut concernant désormais 3,186 millions de personnes en France, sans droits suffisants. « Ce à quoi nous assistons ressemble à une réémergence du prolétariat. Pas un retour aux usines du XIXe siècle, mais à l’atomisation de millions de travailleurs, cols blancs comme cols bleus, seuls face à leurs clients, payés à la tâche, sans filet de sécurité. Le XXe siècle avait construit patiemment des structures de protection collective. Le statut de microentrepreneur, choisi par défaut, les contourne. » Des organisations comme le Syndicat des indépendants et des TPE ou la Fédération nationale des autoentrepreneurs portent des revendications précises : meilleure couverture maladie, accès à la formation, droits à la retraite. « Leur audience croissante dit quelque chose du vide institutionnel que ressentent des millions de travailleurs. » Avec le portage salarial et les Coopératives d’activité et d’emploi, ces modèles de protection sociale ne demandent qu’à grandir. Pour l’instant, les pouvoirs publics ne les aident pas suffisamment.

Pour le blog du LPE Project, Vincent Joralemon, directeur du Centre de droit et de politique des sciences de la vie de Berkeley, revient sur les récentes condamnation de Meta et Youtube pour négligence de conception de leurs systèmes pour avoir trompé les utilisateurs sur la sécurité de ses plateformes (voir notre article). « Ce qui m’a frappé en lisant l’histoire de Kaley, c’est la banalité apparente de son expérience ».

L’une des plaignantes, Kaley, 20 ans, a grandi dans un quartier très populaire de la Californie. Ses parents ont divorcé quand elle avait 3 ans. Son père était violent. Kaley a commencé à utilisé Youtube à 6 ans et Instagram à 9 ans. Elle passait jusqu’à 16 heures par jour sur Instagram. Mais le net n’était pas pour elle qu’un refuge. « La plupart d’entre nous avons déjà ressenti l’attrait irrésistible du défilement dans les moments les plus difficiles, cherchant notre fil d’actualité précisément au moment où nous sommes le moins capables de nous en détacher. Mais pour ceux qui traversent les épreuves les plus durement éprouvées – instabilité familiale, traumatisme, pauvreté – le défilement n’est pas un réconfort passager. C’est le seul refuge disponible, ce qui rend ces utilisateurs particulièrement vulnérables à la dépendance. » Or, estime Joralemon, le procès a mis en lumière un aspect largement négligé par les analyses juridiques : « les préjudices liés à la conception addictive des plateformes sont structurés par classe sociale ».

Le procès a permis de dévoiler que les recherches internes de Meta montraient que le contrôle parental et les règles familiales n’avaient aucun effet sur l’utilisation compulsive des plateformes par les adolescents… et que les enfants ayant vécu des événements traumatisants étaient les plus susceptibles de développer une dépendance. Tout le long du procès, les avocats de Meta ont passé des semaines à blâmer la famille de Kaley, arguant que sa dépression et son anxiété étaient dues à une enfance difficile et non à la conception de la plateforme. Certes, mais la défense de celle-ci a montré que même en installant tous les logiciels de blocages possibles, la mère de Kaley ne pouvait rien contre la dépendance de sa fille. Et le jury a estimé que Meta comme Youtube avaient trompé volontairement les utilisateurs. 

Derrière le préjudice reconnu, pointe Joralemon, il reste un critère qui lui l’est moins : « les effets néfastes de la conception addictive des plateformes pèsent plus lourdement sur les enfants déjà les plus vulnérables – que ce soit en raison de l’instabilité familiale, de traumatismes, de difficultés économiques, ou (comme c’est souvent le cas) des trois. » C’est-à-dire que ces systèmes ont des impacts sociaux plus forts sur certains publics que sur d’autres.

« Les enquêtes de Common Sense Media montrent que les préadolescents issus de familles à faibles revenus passent environ trois heures de plus par jour devant les écrans de divertissement que leurs pairs issus de familles plus aisées. Chez les enfants de moins de huit ans, le temps passé devant les écrans par les enfants issus de familles à faibles revenus est plus du double de celui de leurs pairs plus aisés. Lorsque les familles à faibles revenus se connectent à Internet, environ 28 % d’entre elles sont dépendantes de leur smartphone (contre 4 % des adultes les plus aisés). Il existe donc une raison valable pour laquelle les parents à faibles revenus sont 50 % plus susceptibles d’être « extrêmement ou très inquiets » pour la santé mentale de leurs enfants que les parents à revenus élevés. Plus inquiétant encore, le Rapport mondial sur le bonheur 2026, basé sur un sondage auprès de 330 000 adolescents dans 43 pays, confirme que les adolescents issus de milieux socio-économiques défavorisés sont les plus touchés par les comportements numériques compulsifs. »

« Ce qui semble être un problème d’éducation parentale est en réalité un problème d’économie politique », explique Joralemon. « L’écart en matière de temps passé devant les écrans est lié à la réduction des financements alloués aux activités périscolaires, aux horaires de travail atypiques des parents à faibles revenus. Selon une étude de l’hôpital pour enfants Lurie, un parent sur quatre utilise les écrans faute de moyens pour faire garder ses enfants. Un document interne de YouTube, présenté lors du procès, décrivait la plateforme comme une « nounou numérique à court terme ». » Et le cadre politique mis en place pour remédier à ces problèmes, fondé presque entièrement sur la responsabilité parentale, est intrinsèquement régressif, appuie le chercheur.

Mais si « la dépendance numérique est un problème de santé publique, quelle est la solution ? », interrogeait Joralemon dans un article pour la revue Health Affairs. Il y rappelle que la compulsion où l’addiction numérique doit être appréhendée comme un problème de santé publique, non pas dû à une défaillance individuelle, mais à des produits conçus à des fins commerciales. Que la réglementation en la matière devrait donc s’inspirer de la réglementation du tabac qui en restreint l’accès et dénormalise son usage ; de la réglementation des opioïdes qui contrôle leur disponibilité par le biais d’une prescription supervisée ; et de la réglementation des jeux d’argent qui impose des mesures de protection dès la conception afin d’atténuer le potentiel addictif. Bref, s’appuyer sur des normes de conception des produits, des obligations d’avertissement et de divulgation, des restrictions publicitaires, des contrôles d’accès basés sur l’âge, des obligations de surveillance et des mécanismes de financement pour le traitement et la prévention. Or « les plateformes numériques fonctionnent sans contrôle comparable. Il n’existe aucune obligation générale de surveiller les signes de dépendance, aucune obligation d’interrompre les comportements à risque, ni aucune obligation de repenser les fonctionnalités connues pour favoriser une utilisation compulsive ».

Si les premiers litiges liés à la compulsion à arriver devant les tribunaux américains se concentrent sur les mineurs, les préjudices sous-jacents ne se limitent pas aux adolescents, mais touchent notamment les personnes âgées, ainsi que les individus souffrant de dépression, d’anxiété ou de solitude. Dans le cas des opioïdes comme du tabac, les actions en justice privées se sont révélées être le principal catalyseur, imposant la divulgation de documents et la surveillance des comportements, comme c’est le cas dans les régulations des jeux d’argent. « Le statu quo – qui consiste à considérer les technologies addictives algorithmiques comme fondamentalement différentes des autres produits conçus pour exploiter les vulnérabilités humaines – devient scientifiquement et éthiquement intenable. » 

Pour Joralemon, il faut aller plus loin encore, conclut-il sur le blog du LPE Project. « Une réponse adéquate doit associer les obligations des plateformes à des investissements dans les biens communs : des services de garde d’enfants abordables, des activités périscolaires, des horaires de travail stables et des espaces publics sûrs. Réglementer le produit est nécessaire. Mais construire un monde où les enfants n’auraient pas besoin de ces produits l’est tout autant ! »

Pour sa newsletter, la data scientist Lauren Leek s’est intéressée aux recommandations de restaurants que produit Google Maps à Londres. « Google Maps n’est pas un annuaire, c’est un créateur de marché algorithmique où la survie des établissements est de plus en plus déterminée par le code ». 

« L’image publique de Google Maps est celle d’un reflet passif des préférences des utilisateurs : plus d’étoiles, plus d’avis, une meilleure cuisine. Mais cette vision occulte le fonctionnement réel de la plateforme. Google Maps ne se contente pas d’indexer la demande ; il l’organise activement grâce à un système de classement basé sur un petit nombre de critères clés que Google a lui-même publiquement reconnus : la pertinence, la distance et la notoriété. La « pertinence » est déduite de la correspondance textuelle entre votre requête de recherche et les métadonnées de l’établissement. La « distance » est purement spatiale. Mais c’est la « notoriété » qui marque le début de l’économie politique. Google définit la notoriété à l’aide de critères tels que le volume et la fréquence des avis, la note moyenne, la notoriété de la marque et la visibilité web globale. Autrement dit, il ne s’agit pas seulement de l’opinion des gens sur un lieu, mais aussi de la fréquence à laquelle ils interagissent avec lui, en parlent et le connaissent déjà. La visibilité dans ces classements détermine la fréquentation. La fréquentation détermine la vitesse d’accumulation des avis. L’accumulation d’avis contribue ensuite directement au signal de notoriété. Le système s’auto-entretient ». C’est en quelque sorte l’effet Matthieu décrit par le sociologue Robert Merton appliqué aux kebabs : « à chacun selon ce qu’il a, il sera donné ».

« Ce système avantage de manière disproportionnée les chaînes et les établissements déjà bien situés. Les chaînes bénéficient d’une notoriété de marque partagée entre leurs différents points de vente. Les zones à forte fréquentation génèrent des avis plus rapidement, ce qui signifie que les établissements situés dans ces zones grimpent plus vite dans le classement de notoriété, même à qualité égale. À l’inverse, les nouveaux indépendants sont confrontés à un problème classique de démarrage à froid : sans avis, ils sont difficiles à trouver, et sans être trouvés, ils peinent à accumuler des avis. » Cette dynamique s’apparente à la logique d’un détendeur de marché : « un intermédiaire qui ne se contente pas de refléter l’offre et la demande sous-jacentes, mais qui influence activement la liquidité, la mise en relation et la formation des prix ». Mais plus que les prix, Google Maps contrôle la visibilité : « les algorithmes de classement agissent comme des répartiteurs d’attention, orientant la demande vers certaines entreprises et la détournant d’autres ».

Lauren Leek a construit un contre modèle, afin de prédire la note Google d’un restaurant, en se basant uniquement sur ses caractéristiques structurelles. « Google Maps est étonnamment mauvais pour catégoriser les cuisines. Une grande partie des restaurants sont étiquetés de manière vague (« restaurant », « café », « plats à emporter »), incohérentes, ou tout simplement incorrectes. J’ai donc fini par créer un modèle de classification des cuisines distinct qui prédit la cuisine à partir des noms des restaurants, de la langue du menu et du texte des avis, lorsqu’ils sont disponibles ». Le but : faire que les filtres ne soient pas simplement les étiquettes de Google, mais qu’ils soient issus de l’apprentissage automatique. Cela permet de générer une note contrefactuelle attendue pour chaque restaurant : celle que la plateforme attribuerait généralement dans ces conditions. La différence entre la note réelle d’un restaurant sur Google Maps et cette note prédite est un résidu de note. « Un résidu positif signifie que le restaurant obtient des résultats nettement supérieurs à ce que la plateforme suggérerait. Un résidu négatif signifie qu’il obtient des résultats inférieurs à ce que l’algorithme valorise habituellement. Ce n’est pas une mesure parfaite de la qualité des plats, mais c’est un indicateur pertinent des erreurs de tarification algorithmiques : les situations où la valeur sociale ou culinaire diverge de ce que la plateforme met en avant ». Bien sûr, comme certains restaurants paient pour être visibles (sans que ce ne soit transparent) ces résidus peuvent en partie refléter des dépenses publicitaires inobservables.

Lauren Leek a ainsi créé un prototype de tableau de bord gastronomique londonien. Plus les bulles sont grosses et foncées, plus les établissements sont sous-évalués par le modèle de Lauren Leek. 

« Les restaurants ne font pas faillite seuls : ils échouent au sein d’écosystèmes », explique la data scientist qui a ajouté une deuxième couche de modélisation selon les quartiers en prenant en compte, la densité de restaurants, la note moyenne, le résidu moyen, le nombre total d’avis, la part de marché des chaînes, et le niveau de prix… pour classer les zones en quatre types structurels : hubs d’élite, hubs forts, hubs ordinaires et hubs faibles. Ce qui lui permet d’identifier les cinq pôles de restauration les plus puissants de Londres. Ce sont des lieux où densité, visibilité algorithmique, autonomie et pouvoir d’achat des consommateurs convergent. « La diversité culinaire londonienne n’est pas répartie uniformément au sein de son économie numérique. Les cuisines issues de l’immigration se concentrent fortement dans les quartiers où la visibilité algorithmique est structurellement plus faible. Cuisine italienne, indienne, turque, chinoise, thaïlandaise, britannique, japonaise, française, américaine et fish and chips : toutes ces cuisines ont des histoires d’implantation, des réseaux de main-d’œuvre, des formats de vente et des rapports au capital et aux loyers distincts. Certaines cuisines forment de longs corridors continus. D’autres apparaissent sous forme de regroupements ponctuels, liés à des rues commerçantes spécifiques ou à des tranches de revenus particulières. »

« Le résultat le plus important n’est pas le classement des quartiers, mais la prise de conscience que les plateformes structurent désormais, discrètement, la survie des restaurants sur les marchés urbains du quotidien. La scène gastronomique londonienne n’est plus uniquement régie par le goût. Elle est structurée par une visibilité croissante, des loyers qui augmentent avec la notoriété, et des algorithmes qui captent l’attention bien avant l’arrivée des consommateurs. Ce qui apparaît comme un « choix » est de plus en plus la conséquence des systèmes de classement. »

« Pour les politiques publiques, cela change la donne. Si la découverte détermine aujourd’hui la survie des petites entreprises, alors la concurrence, l’équité et la revitalisation urbaine ne peuvent plus ignorer les systèmes de classement des plateformes. Les municipalités peuvent rénover les rues et libéraliser les licences autant qu’elles le souhaitent, mais l’invisibilité algorithmique peut laisser des territoires économiquement isolés. La transparence et l’auditabilité des plateformes ne sont plus des débats techniques de niche ; elles deviennent discrètement des outils de politique économique locale. À tout le moins, les algorithmes de classement ayant un tel impact économique devraient être auditables. On audite les marchés financiers. On devrait aussi auditer les marchés de l’attention. »

Airbnb : réguler l’espace plus que le temps

Dans un autre billet, Lauren Leek s’est intéressée à l’ogre Airbnb à Londres. Et là aussi, elle revisite les idées reçues. Les annonces Airbnb sur Londres sont très concentrées dans des zones très spécifiques. Plus qu’une submersion, les offres se concentrent dans des zones où la pénurie de logements, la pression salariale et les lacunes en matière d’urbanisme faisaient déjà de la location de courte durée la solution rationnelle. Elle a à nouveau créé une carte pour montrer où se concentrent les locations de courtes durées. 

Londres – comme la plupart des grandes villes – réglemente les locations de courte durée. Depuis 2015, les Londoniens peuvent louer leur logement entier jusqu’à 90 nuits par an, afin de permettre aux propriétaires de rentabiliser leur appartement, alléger la pression sur les prêts immobiliers et dynamiser le marché du tourisme. Au-delà de 90 nuits, il ne s’agit plus d’une location de logement, mais d’un « hébergement temporaire », nécessitant une autorisation expresse de la mairie. Dans les zones à forte demande, des arrondissements comme Camden, Westminster et Hackney refusent systématiquement ces demandes, avec des taux de rejet de 60 à 80 %.

« Reste, que le système est très perméable : il enregistre les réservations, et non l’occupation réelle. Le système ne permet pas de repérer les hôtes qui publient des annonces sur plusieurs plateformes (Airbnb + Booking.com + Vrbo = soit 270 nuits, ce qui est techniquement légal), qui créent des comptes dupliqués ou qui font de fausses déclarations concernant les autorisations. Et si Westminster dispose d’agents chargés de faire respecter la réglementation, ce n’est pas le cas de la plupart des arrondissements. Les règles sont respectées individuellement, mais les transformations de quartiers en hôtels, eux, continuent. Le critère réglementé (le temps) ne correspond pas au lieu où se situe le problème (l’espace et la densité). » La loi régule le temps, alors que le problème est spatial. 

La carte de Lauren Leek pondère les annonces par rapport au nombre réel de logements, ce qui permet de comparer la pression. Elle montre que Airbnb n’est pas en train d’envahir Londres. « Si la règle des 90 jours influençait réellement les comportements, la densité serait la plus faible là où les contrôles sont les plus stricts : Camden, Westminster, Hackney – des arrondissements qui appliquent des restrictions explicites et le font savoir. La carte y montre pourtant des regroupements. Elle montre également des regroupements là où l’application de la réglementation est fragmentée et où les règles sont surtout théoriques. Qu’elle soit stricte ou laxiste, le résultat est le même. La réglementation n’est pas absente. Elle est simplement mal ciblée. »

« Dans un arrondissement où le salaire médian couvre le loyer médian, louer son  appartement est généralement un choix de vie. Là où ce n’est pas le cas, il s’agit plutôt d’une stratégie de survie : quelqu’un qui transforme son seul actif évolutif en liquidités. Cela ne rend pas la plateforme inoffensive pour autant, mais cela la rend endogène : l’interdire, c’est déplacer la pression vers un autre exutoire, peut-être pire. Cette pression n’est pas apparue avec Airbnb. Airbnb est la forme qu’elle a prise. Les plateformes n’ont pas de morale. Elles sont conçues pour l’optimisation. » Pour la datascientist, le véritable problème n’est pas la transgression des règles, mais le fait que ces règles décrivent un Londres qui n’existe plus.

La stagnation des salaires a fait du logement le seul actif dont la plupart des ménages disposent pour faire évoluer leurs revenus. Une planification défaillante et une faible construction de logements ont engendré une pénurie. Dans ce schéma, Airbnb se comporte alors comme toute plateforme bien conçue : elle oriente la demande par le chemin le plus facile. Si l’on souhaite une réponse plus radicale que « interdire Airbnb », les politiques publiques doivent être en adéquation avec le fonctionnement réel du système, explique Leek. « Si les interdictions procurent une satisfaction émotionnelle, elles ne constituent pas une solution durable au changement ». 

Pour Leek, il faudrait plutôt instaurer des plafonds au niveau de la rue ou du pâté de maisons : au-delà d’un certain pourcentage de logements dans une zone donnée, aucune nouvelle location de courte durée ne serait autorisée. De plus, les autorisations devraient être liées au taux de saturation local : un arrondissement avec 0,2 % de logements Airbnb n’est pas comparable à un arrondissement à 3 %.

Si les collectivités locales sont dépassées, c’est aussi parce qu’elles n’ont pas vraiment accès à ces informations. Il faudrait que les plateformes déclarent leurs activités de location de courtes durées dans un registre central et que les données soient accessibles à la recherche pour en évaluer les effets. Elle propose d’affecter une partie des recettes fiscales et des redevances issues des locations de courte durée aux fonds de logement locaux du même arrondissement et suggère de baisser la taxe d’habitation là où la pression est forte. De proposer des procédures d’urbanisme accélérées ou des allégements fiscaux aux propriétaires qui transforment des logements de courte durée en locations de longue durée dans les zones à forte tension sur le marché. 

Pour elle, il faut s’attaquer aux causes profondes du problème du logement ET des salaires. « Rien de tout cela n’est radical. Ce qui est radical, c’est de continuer à réguler un problème spatial avec un outil temporel. Je ne suis pas assez naïve pour croire qu’une publication sur Substack puisse modifier la politique d’urbanisme. Mais je suis assez obstinée pour penser que rendre le problème visible est un premier pas, et bien moins coûteux qu’une nouvelle consultation. »

Airbnb a proposé une interface à un problème qui lui préexistait, estime-t-elle.

Leek a rapidement observé ce qu’il en était ailleurs. A Florence, on compte 10 500 annonces Airbnb pour 360 000 habitants. A Amsterdam, la location de courte durée est de 30 nuits maximum avec permis obligatoire et interdictions dans certains quartiers de la ville depuis 2019. « Le centre et le quartier De Pijp pourraient être limités à 15 nuits à partir d’avril 2026. Malgré ces restrictions, les loyers à long terme ont augmenté de 37 % depuis leur mise en place. » La pression reste trop forte. Amsterdam ne parvient pas à résoudre le problème. « C’est le système sous-jacent – ​​celui qui a rendu les revenus des plateformes parfaitement rationnels – qu’il faut repenser. » Cartographier la réalité permet de mieux circonscrire le problème, explique-t-elle. L’enjeu n’est pas de se demander comment arrêter Airbnb, mais « que ne fait plus la ville par elle-même, et qu’est-ce que les plateformes ont pris en charge ? »

A New York, où l’ogre Airbnb a été chassé, « la réglementation n’a pas permis de faire baisser les loyers, ni d’améliorer le taux de vacance comme annoncé », expliquait déjà Le Monde. « Au contraire, elle a pénalisé les New-Yorkais, en particulier les résidents de quartiers défavorisés, qui bénéficient de la location de courte durée pour faire face à la crise du logement. »

Les chercheurs Antonio Aloisi et Valerio De Stefano sont les auteurs de Your Boss Is an Algorithm (Bloomsbury, 2022, non traduit). Dans un article de recherche pour un ouvrage collectif à paraître (Artificial Intelligence and Labour Law, M. Biasi ed.), ils posent une question pertinente sur l’usage de l’IA au travail : « que font ces nouveaux patrons algorithmiques au travail ? » 

L’IA remodèle les rapports de force au travail, répondent-ils. « Loin d’être de simples outils d’optimisation, les systèmes algorithmiques amplifient de plus en plus les prérogatives managériales, en les intégrant à des processus automatisés difficiles à examiner ou à contester. Ces évolutions donnent lieu à un paradoxe : managers et employés sont simultanément augmentés et dépossédés de leur pouvoir, pris au piège de systèmes qui intensifient le contrôle tout en érodant l’autonomie ». 

De la vulnérabilité des employés soumis aux machines

Pour les deux chercheurs, les garanties existantes, allant des droits à la protection des données aux droits à l’information et à la consultation, sont mal adaptées pour faire face à cette transformation. Ils critiquent « l’illusion de la conformité procédurale » et appellent à une refonte structurelle de la gouvernance des technologies au travail. Plutôt que de renforcer les hiérarchies verticales, l’IA pourrait être mise à profit pour démocratiser le monde du travail, accroître l’autonomie et permettre de nouveaux modèles de participation, estiment-ils. Mais pour y parvenir, il faut remettre en question les présupposés socio-juridiques qui sous-tendent les formes actuelles de contrôle numérique et d’imaginer d’autres avenirs où la technologie est au service des travailleurs, et non seulement de leurs dirigeants.

« L’une des dimensions les plus préoccupantes de l’intelligence artificielle dans les environnements de travail contemporains est le degré d’influence quasi illimitée que ces systèmes peuvent exercer, souvent au détriment des contrepoids traditionnels conçus pour limiter l’autorité managériale ». « Au lieu de repenser le travail de manière à transcender, voire à réinventer, les paradigmes obsolètes de commandement et de contrôle, l’IA est trop souvent déployée pour reproduire, et dans certains cas, exacerber, les rigidités et les hiérarchies mêmes qu’elle était censée démanteler ». 

Pour les deux chercheurs, les systèmes d’IA sont de plus en plus déployés pour soutenir, amplifier et parfois même remplacer les rôles traditionnellement confiés aux décideurs humains : les chefs ou, mieux encore, les employeurs. Un phénomène que les chercheurs désignent comme « l’augmentation des prérogatives managériales classiques ». Si les motivations de cette évolution peuvent varier, elles se regroupent généralement autour d’une triade de justifications bien connue : une efficacité accrue (souvent assimilée à une réduction des coûts), une précision améliorée et une cohérence opérationnelle. Il est donc essentiel de se demander non seulement si ces résultats promis sont atteints, mais aussi à quel prix, notamment en termes d’atteinte aux droits des travailleurs et d’impact plus large sur la qualité des conditions de travail. 

De la vulnérabilité des entreprises qui intègrent des outils d’IA

Compte tenu de la concentration du marché des fournisseurs d’IA et de la structure dominée par les PME dans la plupart des économies, les entreprises intégrant ces outils deviennent elles-mêmes progressivement plus vulnérables. Faute de capacité à concevoir ces systèmes en interne, elles sont contraintes de louer ou d’acheter des technologies prêtes à l’emploi. Au final, elles sont confrontées aux mêmes risques systémiques que leurs employés, notamment parce que les systèmes d’IA en question sont majoritairement développés par des entreprises américaines, dont les logiques de conception et les cadres de conformité sont ancrés dans une culture socio-juridique sensiblement différente de celle des pays européens et de l’Union européenne. À cet égard, le problème est double. D’une part, ces technologies risquent d’éroder le savoir-faire organisationnel et nuire à la compétitivité. D’autre part, elles donnent lieu à ce que les chercheurs appellent « la dépossession des entreprises », un phénomène par lequel les entreprises et leurs dirigeants – sans parler de leurs employés – sont partiellement dépassés, surpassés, voire manœuvrés par des systèmes qu’ils ne maîtrisent ni ne comprennent pleinement. Pourtant, ces mêmes acteurs demeurent légalement et éthiquement responsables des actions et des résultats des systèmes qu’ils ont adoptés. 

Les grands modèles de langage et les systèmes de prise de décision automatisée, bien que techniquement distincts, reposent néanmoins sur une « infrastructure » commune, qui combine plateformes, données personnelles et processus d’apprentissage automatique. En substance, l’IA n’est pas un monolithe, mais un phénomène multicouche. Il est donc essentiel de déplacer l’attention des technologies les plus spectaculaires vers les contextes et les usages spécifiques dans lesquels elles sont déployées. Des travailleurs occupant un large éventail de postes administratifs et cognitifs ont commencé à intégrer des outils d’IA générative dans leurs tâches quotidiennes. Les premiers résultats suggèrent que cette « adoption discrète », libère du temps et ouvre de nouvelles perspectives d’autonomie, dans un environnement de travail plus satisfaisant. 

Cependant, cette émancipation est loin d’être acquise, explique Sarah O’Connor dans le Financial Times qui rappelle que selon une grande enquête britannique la « latitude décisionnelle » des salariés est en chute libre depuis les années 90. « En 1992, 62 % des travailleurs interrogés déclaraient disposer d’une grande latitude décisionnelle. En 2024, ils n’étaient plus que 34 % à l’affirmer. Avant 2017, ce déclin était surtout visible chez les personnes occupant des emplois peu rémunérés. Mais entre 2017 et 2024, la latitude décisionnelle a également diminué chez les cadres et les travailleurs hautement qualifiés. » Pour le chercheur Alan Felstead, le facteur le plus probable de cette chute est « l’utilisation accrue des technologies numériques » au travail. Les logiciels ont rendu le travail plus structuré et prescriptif, tout en améliorant la standardisation et la productivité.

​​Dans de nombreux cas, les gains de productivité ne sont pas réorientés vers l’amélioration de l’autonomie ou l’amélioration de la qualité du travail, au contraire, concluent Antonio Aloisi et Valerio De Stefano. Il faut faire plus avec moins, au risque d’un managérialisme en roue libre.

Pour les deux chercheurs, les outils d’IA ne sont ni des outils neutres ni des outils efficaces, mais des moyens de prédiction et de production qui doivent être interrogés à travers le prisme du pouvoir. Le risque est que le monde du travail se retrouve contronté à un « trou noir » de pouvoir algorithmique incontrôlé.

Vers une asymétrie de pouvoir sans contrepoids

Dans la plupart des systèmes juridiques, le contrat de travail confère à l’une des parties, (l’employeur), le pouvoir unilatéral de commander à l’autre. Cette asymétrie est justifiée au nom de l’ efficacité organisationnelle, permettant aux entreprises de coordonner l’activité productive avec un minimum de frictions. Le travailleur est censé accepter les changements unilatéraux apportés à sa discipline de travail, avec peu ou pas de possibilité de consentement ou d’objection, même si le droit a souligné que ce pouvoir n’était pas inconditionnel via des mécanismes de contrôle et d’équilibre destinés à limiter ses excès. Dans toutes les juridictions, ces contraintes juridiques remplissent une double fonction : elles sont censées aligner l’autorité managériale sur les valeurs des sociétés démocratiques et garantir que les processus décisionnels sont prévisibles, transparents et susceptibles de contestation. En bref, elles visent à rendre le pouvoir responsable et légitime aux yeux des personnes qui le subissent, comme c’est le cas des lois qui encadrent la surveillance des employés, qui limitent le temps de travail ou qui exigent un motif valable pour un licenciement ainsi que les droits d’information, de consultation, de négociation et d’action collectives. 

Toute la question désormais est de savoir si ces « contrepoids » peuvent résister aux turbulences causées par l’IA et les systèmes de prise de décision automatisée. Autrement dit de savoir si ces limites ont été soigneusement élaborées pour trouver un équilibre délicat, quoique imparfait, entre des intérêts concurrents. 

Mais que se passe-t-il quand l’employeur est augmenté d’une forme de pouvoir bien plus puissante, comme c’est le cas des systèmes algorithmiques et d’IA ? 

Le travail atypique dans l’économie des plateformes a servi de laboratoire à ces outils et pratiques qui, depuis, ont commencé à se répandre sur l’ensemble du marché du travail. C’est également pourquoi les interventions sectorielles, comme la directive sur le travail sur plateforme de la Commission européenne, bien que louables dans leur ambition, risquent de ne pas apporter de réponse crédible à la tendance structurelle plus large. Pourtant, la  gestion pilotée par l’IA est souvent présentée comme « inoffensive ». Elle ne serait qu’une « baguette magique » capable de résoudre nombre de problèmes du travail… Une vision qui vient d’abord alimenter un discours puissant qui « favorise une culture de complaisance et d’acceptation non critique ». 

En vérité, les logiciels basés sur les données sont de plus en plus impliqués dans tout le spectre des pouvoirs de l’employeur, de l’embauche au licenciement. Mais, « les nouvelles formes de gestion numérisée ne remplacent pas les structures d’autorité traditionnelles ; elles interagissent plutôt avec elles et les renforcent souvent. En pratique, les gestionnaires ont tendance à déployer ces technologies pour routiniser, étendre et consolider leur contrôle, amplifiant ainsi les sources et la portée de leur autorité. De ce fait, les prérogatives managériales se sont partiellement éloignées de ce qui était autrefois un régime d’autorité patronale plus discret et prévisible, donnant naissance à une forme de supervision et de gouvernance plus diffuse, persistante et technocratique », au risque de produire une « surveillance des travailleurs sans limites», comme le dénonçaient Kate Crawford, Ifeoma Ajunwa et Jason Schultz (voir également notre dossier). « Les systèmes de gestion automatisée peuvent intensifier les prérogatives managériales, amplifiant et intégrant les biais structurels et de conception au cœur même de l’architecture de la gouvernance du lieu de travail »… permettant d’étendre le contrôle et la surveillance au suivi cognitif, aux espaces privés et au-delà des horaires de travail. « Pire encore, la nature mécaniste de ces systèmes, combinée à leur capacité à extrapoler des schémas qui ne font que reproduire le statu quo, affaiblit les mécanismes de responsabilisation en créant un voile d’impénétrabilité et d’incompréhension ». Au niveau individuel, la plupart des travailleurs ignorent qu’ils sont « surveillés, évalués ou organisés » par des algorithmes, et sont tenus à distance du fonctionnement de ces systèmes et des critères qu’ils appliquent, ce qui érode la confiance. Au niveau collectif, le pouvoir de l’IA exerce un effet dissuasif sur l’exercice des droits collectifs, puisque la dégradation algorithmique peut être liée à l’engagement syndical, au risque de rendre la représentation collective impossible. 

Mais ces effets néfastes ont aussi des répercussions au niveau des entreprises elles-mêmes. Nombre d’entreprises utilisent des logiciels non européens, qu’elles ne maîtrisent pas et l’IA Act européen réserve aux déployeurs de systèmes beaucoup plus de contraintes qu’aux fournisseurs de systèmes d’IA. « La course actuelle à la « transformation par l’IA » des entreprises pourrait bien se révéler une pilule amère enrobée d’innovation ». Derrière la dépossession des entreprises, comme le pointait un éditorial du Financial Times : les gestionnaires commencent à déléguer la réflexion critique au système lui-même, cédant progressivement leur jugement et leur flexibilité à des machines qui sont, au mieux, sélectivement compétentes et, au pire, capricieuses et défaillantes. Leurs responsabilités pourraient se retourner contre elles. « En matière de réglementation sociale, les employeurs qui utilisent des systèmes algorithmiques sont tenus de démontrer et de documenter leur conformité à un large éventail d’obligations. Autrement dit, certaines réglementations numériques, comme la loi sur l’IA, ne s’appliquent pas en vase clos. D’où l’importance d’adopter une conception multidimensionnelle de la conformité, qui prenne en compte non seulement les normes techniques, mais aussi les droits des travailleurs, les principes de protection des données et les effets structurels de l’automatisation sur la gouvernance du travail ». Le dilemme est donc de savoir comment concilier les règles qui offrent une sécurité juridique aux employeurs avec les garanties qui protègent réellement les droits des travailleurs.

Dans ce contexte, la question juridique centrale est l’adéquation des mécanismes de contrôle existants. Par exemple, lorsque le pouvoir est fragmenté entre plusieurs entités, l’efficacité des recours existants est diluée. La responsabilité devient diffuse, et les mécanismes conçus pour contrôler les risques de sur-pouvoir managériaux deviennent inopérants. D’un point de vue individuel, engager la responsabilité des responsables du traitement des données ou des déployeurs d’IA devant les tribunaux peut s’avérer extrêmement difficile. D’un point de vue collectif, le défi est encore plus grand : contraindre un développeur, souvent basé dans des juridictions éloignées, à s’asseoir à la table des négociations et à « négocier l’algorithme » demeure un objectif largement idéal. Cette dynamique compromet l’application des garanties juridiques.

La protection des données risque d’être de plus en plus insuffisante

Les chercheurs donnent un autre exemple : le droit de la protection des données est souvent cité comme un outil prometteur pour insuffler de la transparence et permettre un examen attentif des décisions prises par l’IA. Par exemple les droits de notification et d’accès, de contestation et de rectification des décisions, l’obligation de réaliser des analyses d’impact relatives à la protection des données, et des limitations à la collecte de données et aux utilisations secondaires qui s’écartent de la finalité initiale de la collecte.. permettent souvent de rendre concret l’application de la protection des données. Mais ces droits ne sont pas suffisants. 

Premièrement, le cadre actuel, uniforme et standardisé, repose sur une logique individualiste et axée sur le consommateur (et attend toujours d’être complété par des instruments sectoriels adaptés au monde du travail). De plus, le contexte réglementaire évolue : la perspective d’une déréglementation, à peine déguisée en simplification, plane désormais sur le RGPD. 

« Deuxièmement, et c’est plus grave encore, une focalisation excessive sur les données personnelles risque de renforcer un raisonnement erroné : elle oriente l’attention vers le vecteur – la technologie elle-même – plutôt que vers les effets qu’elle produit, en particulier lorsque ces effets façonnent concrètement la vie, les opportunités et les droits des individus au travail ».

Les droits à l’information et à la consultation relatifs aux systèmes automatisés sont tout aussi insuffisants, Ils peuvent créer une illusion de transparence et d’activation des droits collectifs. On pourrait au contraire affirmer que « les systèmes d’IA se substituent de fait au cœur de la négociation collective, en permettant au système, et par extension à l’employeur, de fixer unilatéralement des conditions de travail essentielles, telles que la répartition des tâches, le temps de travail, les critères d’évaluation et même la modulation des salaires ». « Dans ce contexte, se contenter de droits à l’information et à la consultation n’est pas un compromis pragmatique: cela revient à vider de sa substance même la négociation collective ». Les employeurs ne doivent rendre des comptes que sur les procédures. Dans la loi sur la protection des données personnelles et l’intelligence artificielle – et l’on pourrait dire la même chose de la nouvelle initiative du Parlement européen sur la gestion des actifs numériques au travail – la logique est inversée. Ici, l’information et la consultation ne servent pas de contraintes, mais potentiellement de légitimations procédurales d’un système qui a déjà déplacé le pouvoir en amont, loin de la table des négociations et dans les rouages ​​internes d’une « autorité codée ». « En effet, lorsque la technologie joue le rôle de l’employeur sans les devoirs, l’obligation de rendre des comptes nie la visibilité qui incombe aux véritables employeurs : la consultation devient une formalité a posteriori. Ce qui relevait traditionnellement du champ de la négociation collective est rendu intouchable car préstructuré par une conception technique ».

« Il est donc impératif de modifier notre approche théorique et notre stratégie réglementaire lorsqu’il s’agit d’aborder les systèmes d’IA dans le monde du travail. Ce serait une erreur d’aborder ces technologies uniquement sous l’angle de la législation sur la protection des données et la sécurité, ou par une approche fragmentaire, fonction par fonction, qui associe les droits à la vie privée à, par exemple, les dispositions relatives à la non-discrimination ou à la santé et la sécurité au travail. Jusqu’à récemment, les technologies sur le lieu de travail ciblaient principalement les actifs de l’entreprise (par exemple, les machines), produisant des effets indirects sur le travail. Ces changements relevaient des prérogatives managériales et étaient généralement protégés par la liberté d’entreprendre. Lorsque les systèmes d’IA régissent les personnes plutôt que les outils, y compris sur le lieu de travail, l’accent réglementaire devrait passer des libertés économiques à la protection des droits fondamentaux. Dans ce contexte, le droit de la protection des données à lui seul est insuffisant pour faire face aux risques posés par l’IA.» 

Bien que la protection des données soit importante, elle est loin de couvrir l’ensemble des préoccupations qui surgissent dans les relations de travail. « De nombreux préjudices associés aux systèmes algorithmiques comme l’opacité, le renforcement du contrôle ou les résultats discriminatoires ne découlent pas nécessairement d’atteintes à la vie privée et ne se limitent pas à la violation du droit au respect de la vie privée des travailleurs. Pour bien appréhender les risques liés à la gestion automatisée des données, la protection de la vie privée doit être replacée dans le contexte plus large des lieux de travail, où l’autorité managériale imprègne toute la personne du travailleur. Le pouvoir de l’employeur ne s’exerce pas de manière cloisonnée – affectant la rémunération un jour, le temps de travail un autre, et la vie privée ou la discrimination à d’autres occasions. Au contraire, chaque expression de la prérogative managériale engage le travailleur de manière multidimensionnelle. Elle cible la personne dans son ensemble, avec des implications potentielles simultanées dans de multiples domaines juridiques et personnels. C’est pourquoi les réponses aux abus de pouvoir de l’employeur doivent aller au-delà de la protection des données et s’appuyer sur les outils traditionnels du droit du travail – notamment les droits collectifs des travailleurs, mais aussi les protections individuelles qui imposent à l’employeur des obligations de justification et de proportionnalité ». On peut penser par exemple au fait que les plateformes débranchent leurs employés au prétexte d’une mauvaise note du client ou d’une rapidité d’exécution insuffisante, sans possibilité de recours, ou au fait que sur les plateformes de travail, il soit très difficile aux employés de contacter l’employeur… 

« Les systèmes algorithmiques et d’IA au travail incarnent en réalité une forme de pouvoir radicalement nouvelle, capable d’étendre excessivement les pouvoirs managériaux et de supplanter les mécanismes de contrôle et d’équilibre établis ». « Ils ne fragmentent pas le pouvoir de l’employeur : ils l’étendent et l’intensifient ». C’est précisément pourquoi ils doivent être traités comme une catégorie réglementaire et conceptuelle distincte au sein de la notion d’autorité patronale. Il serait erroné de les considérer comme des intrusions techniques isolées plutôt que comme des expressions d’une autorité managériale unifiée et étendue.

« Les technologies ne doivent pas être considérées comme de simples actifs de l’entreprise, fondés sur des droits de propriété. Compte tenu de leur impact considérable et de leur influence sur le comportement, les conditions et les perspectives des travailleurs, des garanties renforcées, notamment des formes de codétermination, devraient être mises en place. L’ensemble des principes du droit du travail doit être déployé : justification des décisions, droits à la codétermination, dialogue social, transparence et, le cas échéant, interdictions pures et simples». « Le pouvoir doit être à la fois autorisé et encadré pour rester légitime ». 

Ce que font les patrons algorithmiques au travail, estiment les chercheurs : c’est une transformation structurelle du pouvoir et non une simple évolution. L’IA et les systèmes de gestion automatisée intensifient, consolident et obscurcissent les prérogatives managériales, intégrant le pouvoir de l’employeur dans des systèmes techniques difficiles à examiner ou à contester. Il en résulte un paradoxe : l’autorité managériale est à la fois renforcée et supplantée. Les décideurs peuvent se fier à des résultats qu’ils ne comprennent pas pleinement, tandis que les travailleurs sont confrontés à des structures de contrôle opaques et axées sur les données qui résistent à toute responsabilisation. Par conséquent, les cadres juridiques existants, tels que la loi sur la protection des données et les droits à l’information et à la consultation en vertu de la loi sur l’IA ou de la loi sur la protection des données personnelles sont insuffisants. Ils fonctionnent souvent selon une logique fragmentée et individualisée, mal adaptée pour appréhender les mutations systémiques du pouvoir. 

Une nouvelle approche est donc nécessaire. Plutôt que de traiter l’IA comme un actif neutre pour l’entreprise, l’IA doit être appréhendée comme une forme d’autorité distincte qui nécessite des garanties renforcées, faisant appel à des outils juridiques spécifiques et à l’ensemble des droits du travail et des mécanismes de contrôle habituellement utilisés pour « dompter » les prérogatives managériales, et notamment les droits à la négociation collective et à la codécision. 

Si l’IA est un instrument de pouvoir, elle recèle également le potentiel de démocratiser ce pouvoir, estiment pourtant Antonio Aloisi et Valerio De Stefano. Correctement conçue et déployée de manière responsable, l’IA pourrait être mise à profit pour créer des environnements de travail plus sûrs, plus inclusifs et plus participatifs. Une vérité souvent négligée est que l’IA peut servir de catalyseur pour repenser les structures de travail, la dynamique d’équipe et l’organisation de l’entreprise, par exemple en permettant de s’extraire de l’occupation permanente que les entreprises survalorisent, ce « théâtre de la productivité ». Les transformations technologiques pourraient permettre d’accorder aux travailleurs des niveaux croissants de pouvoir et d’autonomie, leur permettant d’organiser leurs tâches, de structurer leurs horaires et de consacrer du temps à des efforts créatifs et innovants. La littérature montre que les environnements qui soutiennent l’autonomie personnelle tendent à renforcer le sens des responsabilités des travailleurs, à stimuler la motivation intrinsèque et à promouvoir le développement des compétences.

« Pourtant, les travailleurs sont fréquemment exclus de la définition des aspects fondamentaux de leur travail, tels que la définition des objectifs, le choix des méthodes, la détermination des échéanciers et la participation à la conception des systèmes de mesure du rendement ». Et il est probable que la généralisation des outils d’IA et de contrôle algorithmique les en éloigne toujours plus. 

Plus qu’un outil d’émancipation, « l’IA est utilisée pour aggraver les asymétries en intégrant le contrôle à l’architecture même des processus de travail ». 

Les débats sur l’essor de l’IA agentive, conçue non seulement pour répondre à des sollicitations, mais aussi pour agir de manière autonome, prendre des décisions et exécuter des séquences de tâches complexes promettent une intervention humaine toujours plus minimale. La question du pouvoir d’agir des travailleurs – leur capacité à agir, et à influencer leurs propres conditions de travail – reste  étonnamment absente de ce débat. Ce pouvoir d’agir peut s’épanouir dans des environnements anti-hiérarchiques, caractérisés par des structures démocratiques et des dispositions progressistes et souhaitables, mais trop souvent relégués au second plan. Or, les hiérarchies existantes au travail ne sont pas innées. Bien que souvent justifiées par l’efficacité, elles restent, en particulier dans leurs formes les plus rigides et stéréotypées, sujettes à contestation. Une approche de conception technologique centrée sur le travailleur pourrait être l’occasion de réexaminer ces hypothèses. Elle pourrait permettre de remettre en question les idées reçues sur la verticalité des structures organisationnelles pour privilégier des modèles plus responsabilisants, inclusifs et à l’écoute des personnes traditionnellement exclues de la prise de décision. Jusqu’à présent, ces théories sont restées largement confinées aux cercles universitaires ou à des modèles organisationnels marginaux, tels que les coopératives de travailleurs. La recherche a cependant démontré que la consultation entre travailleurs, gestionnaires et représentants du comité d’entreprise peut produire des résultats gagnant-gagnant, améliorant à la fois la performance organisationnelle et le bien-être des employés. De même, les résultats tendent à être plus positifs lorsque les travailleurs ou leurs représentants sont consultés lors de l’introduction et de l’utilisation des technologies d’IA sur le lieu de travail. Ils sont mieux placés pour sélectionner des technologies fonctionnelles, définir des limites claires, identifier les indicateurs clés et éviter les erreurs, en adoptant une attitude pragmatique. L’IA pourrait-elle ouvrir une nouvelle voie, permettant de repenser les lieux de travail selon des modalités plus participatives ? ​​

Pas sûr que nous en prenions la voie. Mais cette histoire là reste encore à écrire.

En Europe, des milliers d’agents d’entretien travaillent via des applications de nettoyage comme CleanWhale ou Helpling. La dernière enquête sur l’économie des travailleurs de plateformes estimait qu’en 2021, 28 millions d’Européens effectuaient au moins une fois par mois un travail via une application. Parmi eux, 3 millions étaient chauffeurs et 1 million occupaient des emplois « peu qualifiés, sur site » et les autres travaillent en ligne…, mais aucune ventilation plus précise par secteur n’est disponible. 

« Le secteur du nettoyage a pourtant déjà été largement « ubérisé » bien avant Uber », rappelle le journaliste Nicolas Kayser-Bril dans la newsletter d’Algorithm Watch. L’activité a toujours été largement informelle, et l’emploi à temps plein est l’exception. La tendance à l’externalisation depuis les années 90 a fait disparaître la stabilité de l’emploi et les rémunérations décentes. 

Si les chercheurs ont beaucoup étudié les chauffeurs et les coursiers, c’est moins le cas des travailleurs du ménage. Mais de nombreuses études nationales sont venues éclairer le secteur, notamment via le projet de recherche Origami (hOme caRe dIGital plAtforM and Industrial relations, Plateforme numérique de soins à domicile et relations industrielles) qui estime que les services à la personne et le travail domestique proposés par les plateformes représentent environ 22 % de l’ensemble du travail sur les plateformes.

« Pour les agents de nettoyage utilisant des applications, un aspect du travail est entièrement automatisé : l’estimation du temps nécessaire pour une intervention. La plupart des services en ligne fixent ce temps en fonction de la superficie des locaux (une information saisie par le client). Ce calcul très approximatif – sans parler de la tentation pour les clients de mentir et de sous-estimer la durée – est souvent source de conflits. Une fois sur place, les agents doivent expliquer qu’ils ne peuvent pas terminer la prestation ou qu’ils doivent rester plus longtemps et être rémunérés en conséquence. Or, en pratique, les agents de nettoyage ont très peu de marge de manœuvre sur ces espaces en ligne. Une mauvaise note des clients pouvant les empêcher de trouver d’autres missions, et la charge de la preuve leur incombant en cas de litige, beaucoup considèrent que travailler gratuitement est la solution la moins mauvaise. Au Danemark, une femme de ménage a expliqué qu’elle vérifiait la superficie du logement sur le cadastre avant d’accepter une mission, afin de s’assurer que les informations fournies par le client correspondaient à la réalité ». 

« Les femmes de ménage, majoritairement immigrées, sont également victimes de harcèlement sexuel. À cet égard, les applications fonctionnant grâce à des algorithmes ne changent pas grand-chose. Ces applications présentent souvent les femmes de ménage avec de grandes photos, les incitant à paraître plus attirantes et les clients à les objectifier ». Ce qui n’est pas vraiment une solution pour s’attaquer au problème !

Comme le pointent les conclusions du projet Origami (voir également les productions), le manque de transparence est problématique, car les travailleuses et les travailleurs ne peuvent souvent pas contester les évaluations injustes ni les licenciements arbitraires (suspension ou désactivation, temporaire ou permanente). Et les problèmes de sécurité sont souvent ignorés par la plateforme (notamment, le harcèlement). En fait, dans les applications de ménage comme sur nombre de services numériques, il n’y a pas de voie de recours. 

Si les modèles basés sur les plateformes améliorent la flexibilité, l’accessibilité et la visibilité du travail domestique et des services à la personne. Ils reproduisent et intensifient les vulnérabilités sectorielles de longue date, telles que la précarité du temps de travail, l’instabilité des revenus et la fatigue physique et psychosociale. « La planification algorithmique entraîne des horaires imprévisibles, des horaires très courts ou très longs, des périodes d’attente non rémunérées, contribuant à l’instabilité des revenus et à la pauvreté au travail, affectant de manière disproportionnée les femmes. La précarité de l’emploi est encore aggravée par le fait que la majorité des plateformes instaurent un modèle de travail indépendant, privant ainsi les travailleurs de leurs droits légaux, tels que le salaire minimum, le temps de travail, les congés payés, l’assurance maladie et les régimes de retraite ». 

La faible représentation des travailleurs, atomisés par l’indépendance et la plateformisation et la faible couverture des conventions collectives sont toujours plus marquées chez les travailleurs des plateformes que dans tout autre secteur. 

Améliorer la directive sur les travailleurs des plateformes

Dans une note de synthèse du projet Origami, signée par Ilda Durri, Diana Dovgan, Slavina Spasova et Danai Konstantinidou, les chercheurs examinent comment la législation européenne pourrait garantir de meilleures conditions de travail et une protection sociale adaptée aux travailleurs des plateformes. Ils observent comment les principes inscrits dans la directive sur le travail des plateformes (comme la présomption d’emploi, la transparence algorithmique et la participation des travailleurs) pourraient s’appliquer au secteur du travail de soins de plus en plus plateformisé. 

Fin 2024, les institutions européennes ont adopté la directive sur le travail sur plateforme, qui devrait entrer en vigueur fin 2026 et faciliter l’obtention du statut de salarié pour les travailleurs indépendants. Or, soulignent les chercheurs, « la très grande diversité des statuts d’emploi dans le secteur, sa grande fragmentation, la faible représentation collective, les relations de travail ambiguës et la surveillance réglementaire limitée entravent les efforts à produire des normes réglementaires cohérentes ». « Dans tous les contextes, la numérisation est apparue à la fois comme un une source de nouvelle précarité » tout en échappant au contrôle réglementaire. Les problèmes existants dans le secteur des soins à domicile – tels que la précarité du temps de travail, l’instabilité des revenus et la fatigue physique et psychosociale – sont souvent amplifiés par les plateformes numériques. La planification algorithmique des horaires entraîne des horaires imprévisibles, très courts ou très longs et du temps d’attente non rémunéré. Des dynamiques qui contribuent à l’instabilité des revenus et à la pauvreté au travail, dans un secteur où les travailleurs sont déjà systématiquement sous-payés. 

La gestion algorithmique et la dépendance aux évaluations des clients sabotent davantage l’organisation collective. Les plateformes s’opposent fréquemment aux conventions collectives, arguant qu’elles ne sont pas des employeurs, ce qui aggrave la précarité des travailleurs. Les performances des travailleurs sont suivies, classées et sanctionnées par des systèmes de notation opaques qui déterminent l’accès aux emplois futurs. Cette forme indirecte de contrôle accroît la pression sur la performance et peut entraîner une désactivation en cas de performance jugée insuffisante ou d’insatisfaction du client. Le flou des responsabilités entre les plateformes et les clients rend plus difficile l’établissement des responsabilités concernant les conditions de travail et les violations des droits. « Sans intervention réglementaire efficace aux niveaux national et européen, les plateformes numériques risquent d’aggraver la précarité des soins à domicile plutôt que d’en améliorer la qualité ou la pérennité », préviennent les chercheurs. 

Ceux-ci rappellent qu’il y a plusieurs modèles de plateformes qui déploient des processus de mise en relation différents : 

• La place de marché – la plateforme ne gère ni le processus de mise en relation ni la relation de travail ; 
• L’agence numérique – la plateforme gère à la fois la mise en relation et la régularisation (soit en tant qu’employeur, soit en formalisant le contrat de travail entre les parties) ; 
• La relation à la demande – la plateforme gère le processus de mise en relation mais pas la relation de travail ; 
• Et la place de marché réglementée – la plateforme ne gère pas directement la mise en relation mais assure la régularisation de la relation de travail, directement ou indirectement.

Selon le modèle adopté, il y a différents degrés de contrôle sur les travailleurs qui sont cruciaux pour la responsabilité juridique des plateformes et le statut professionnel des travailleurs.

Un pilier central de la directive sur le travail des plateformes est la présomption légale réfutable de relation de travail (article 5), conçue pour lutter contre la requalification abusive généralisée des travailleurs en indépendants. La présomption pourrait conduire à la requalification des travailleurs des plateformes à domicile, passant de travailleurs indépendants à salariés, leur donnant ainsi accès aux droits fondamentaux du travail et à la protection sociale. La plupart des personnes prodiguant des soins étant des femmes, il est essentiel qu’elles bénéficient de droits tels que le congé de maternité et le congé parental. 

L’exemple de la convention collective adaptée par la plateforme de nettoyage danoise Hilfr et le syndicat 3F (qui, en 2018, a permis aux travailleuses, après 100 heures de travail pour la plateforme, de devenir salariées, comme l’explique l’article dédié de L’Humanité et du Digital Platform Observatory) souligne pourtant que les modèles fondés sur l’emploi constituent une option viable, même dans le secteur des services à domicile et du nettoyage. D’autres modèles semblent vertueux, expliquent encore les chercheurs, comme modèle français du mandataire, où le client a le statut légal d’employeur, tandis que la plateforme exerce des fonctions essentielles liées à l’emploi, telles que le paiement, la gestion des congés et les licenciements, conformément à la convention collective nationale. La relation est régie par un contrat de délégation précisant les responsabilités respectives de chaque partie. De manière générale, la typologie de la plateforme – allant de la place de marché à l’agence numérique – joue un rôle déterminant pour établir si la présomption de travail s’applique.

Une disposition importante pour la protection des aides à domicile et des travailleurs domestiques contre les pratiques algorithmiques discriminatoires est l’obligation faite aux fournisseurs de services de traitement des données de réaliser des analyses d’impact évaluant comment le traitement des données personnelles au moyen de systèmes automatisés affecte la protection des données personnelles des travailleurs. Ceci garantit que les plateformes identifient et atténuent les biais algorithmiques et la discrimination, notamment sur des critères tels que le sexe, l’origine ethnique ou l’âge. Ceci est particulièrement pertinent dans le travail domestique et les services à domicile, où les femmes, les migrants et les travailleurs âgés sont surreprésentés. De plus, compte tenu de l’impact potentiellement néfaste des systèmes automatisés, en particulier en matière de discrimination, les plateformes sont tenues de mettre en place des ressources humaines pour les surveiller et les évaluer. Malgré ces avancées, des risques de conformité superficielle persistent. Les plateformes peuvent ne fournir que des informations algorithmiques génériques ou invoquer le secret commercial pour éviter une transparence réelle. Sans application rigoureuse et des normes de divulgation claires, la capacité des travailleurs à exercer leurs nouveaux droits pourrait être compromise.

La directive promeut le droit à la négociation collective et impose aux plateformes de travail l’obligation de faciliter les canaux de communication entre les travailleurs et leurs représentants. Ces canaux sont d’autant plus nécessaires en raison de l’absence de lieu de travail partagé. Cependant, leur mise en œuvre concrète demeure incertaine pour diverses raisons, notamment la sécurité de ces canaux vis-à-vis des plateformes qui en sont en dernier ressort responsables. Là encore, l’accord Hilfr illustre concrètement comment la négociation collective peut être applicable dans l’économie des plateformes. Il permet au syndicat d’intégrer à la plateforme un lien portant son logo, qui redirige les travailleurs vers un espace numérique dédié – un « club syndical numérique » – exclusivement accessible aux travailleurs et non à l’entreprise.

Enfin, la directive sur le travail des plateformes exige des plateformes qu’elles prennent des mesures préventives et établissent des mécanismes de signalement pour protéger la sécurité et la santé des travailleurs, notamment contre la violence et le harcèlement. Ces dispositions sont particulièrement importantes pour les aides à domicile et les travailleurs domestiques, qui travaillent souvent seuls dans des foyers privés. La directive oblige également les plateformes à évaluer et à atténuer ces risques, y compris les risques psychosociaux. 

Une autre option devrait enfin être encouragée, expliquent les chercheurs : le développement de coopératives de plateformes. Alors que la directive sur le travail sur plateforme est une intervention réglementaire descendante, des initiatives émergentes telles que les coopératives de plateformes démontrent comment la numérisation peut s’aligner sur la justice sociale et le travail décent. Les coopératives de plateformes, basées sur le modèle coopératif, sont apparues partout comme une réponse efficace aux défis posés par l’économie des plateformes. Bien qu’encore en développement, leur potentiel pour transformer le travail de soins organisé par les plateformes numériques est immense. Les coopératives restent la forme d’organisation où, plutôt que d’utiliser des algorithmes pour contrôler ou surveiller les travailleurs, ceux-ci sont déployés pour les autonomiser. Mais surtout, les travailleurs possèdent et contrôlent les données générées par la plateforme, garantissant ainsi qu’elles servent leurs intérêts, et non ceux d’éventuels actionnaires externes. Reste qu’il y a une concurrence très inégale entre les plateformes et les coopératives que le législateur devrait adresser. Les plateformes coopératives, qui privilégient les pratiques éthiques, des normes de travail et sociales plus élevées, peinent à être compétitives. L’absence de législation spécifique aggrave ce problème, permettant aux plateformes capitalistes d’opérer en toute impunité et de saper les efforts des acteurs de bonne foi, tels que les coopératives de plateformes. 

Les juristes Antonio Aloisi et Nastazja Potocka-Sionek estiment dans un article très structurant que la directive sur les travailleurs des plateformes pourrait avoir du mal à s’appliquer aux femmes de ménages. Les intermédiaires que sont les plateformes pourraient ne pas être considérés comme des employeurs, à la fois parce que le client fixe souvent le tarif et les conditions (même si le personnel d’assistance des applications exerce souvent des pressions, incitant les femmes de ménage à attendre leurs clients ou réprimandant ou invisibilisant celles qui fixent des tarifs trop élevées ou qui refusent des missions). Les intermédiaires numériques perpétuent et exacerbent des problèmes structurels de longue date, notamment la précarité temporelle, l’instabilité des revenus et les asymétries de pouvoir. Pour eux, la directive sur les travailleurs des plateformes ne permet pas de prendre pleinement en compte la complexité du travail domestique et ses défis spécifiques.

Eux aussi soulignent que la plateformisation revêt de nombreuses formes. Reste que l’intermédiation de la relation et l’organisation du travail par le biais de plateformes dédiées introduisent toutes des pratiques organisationnelles en s’appuyant sur des outils technologiques de contrôle et des systèmes de prise de décision automatisés qui ont des impacts profonds sur le quotidien des travailleurs domestiques. Les modèles économiques des plateformes restent très variées (entre places de marché, plateformes à la demande et agences de placement…). « Certaines s’apparentent à un moteur de recherche où travailleurs et clients sont mis en relation avec un minimum de supervision. D’autres fonctionnent comme des plateformes numériques de type « Uber », offrant une intermédiation plus structurée et un contrôle accru sur le processus de travail. Enfin, certaines adoptent un modèle plus proche d’une agence de travail temporaire « traditionnelle », gérant directement les placements et les relations entre travailleurs et clients ». Les modalités de travail liées aux plateformes s’avèrent difficiles à classifier, notamment lorsque le contrôle des travailleurs domestiques est partagé entre les clients et la plateforme (et la directive n’a pas pour objectif d’uniformiser les modèles économiques des plateformes). Un nombre important de travaux de recherche soutient que l’émergence de nouveaux acteurs a intensifié, remodelé et perpétué des problèmes structurels profondément enracinés. Cette perspective illustre les « continuités historiques » entre les plateformes numériques et leurs homologues pré-numériques, montrant comment nombre des problèmes observés aujourd’hui font écho à ceux associés aux intermédiaires traditionnels du secteur. Les arrangements triangulaires, voire multipartites plus complexes, ont longtemps été la norme plutôt que l’exception dans ce domaine, tout comme le travail non déclaré. 

Sur ces plateformes, les algorithmes jouent un rôle central non seulement lors du recrutement et de l’intégration, mais aussi dans la mise en relation des intervenants et des clients. Sur certaines plateformes, la surveillance électronique permet de raccourcir la durée des visites en raison de la pression liée à l’enchaînement des visites. Nombre d’outils incitent les travailleurs à étendre leur disponibilité sur de longues plages horaires ou à des horaires atypiques. La disponibilité est souvent un critère fort de l’évaluation par le client comme par la plateforme. La tarification dynamique algorithmique influe considérablement sur la détermination des taux horaires. En bref, résument les deux juristes, « le surplus de données collectées et générées par les plateformes est principalement exploité au profit des clients finaux, plutôt que pour résoudre des problèmes tels que l’imprévisibilité, les risques pour la santé et la sécurité, ou améliorer les rémunérations ». Bien que conçus en apparence pour améliorer la productivité, les systèmes de gestion des activités servent principalement à suivre les heures de travail et à exercer un contrôle sur la répartition des tâches au profit des intermédiaires. 

Les asymétries d’information se reflètent également dans la conception de l’application, où les clients peuvent recevoir des informations détaillées sur les travailleurs, tandis que, d’autre part, les travailleurs ne reçoivent que peu d’informations sur les clients. 

Il est indéniable que les modèles de travail axés sur les tâches, les horaires irréguliers entraînant une instabilité des revenus, des heures fragmentées, des durées de travail excessivement longues ou, à l’inverse, l’absence de garanties d’emploi stables, contribuent tous à la précarité des conditions de travail des travailleurs domestiques. Mais l’adoption des systèmes de gestion active aggrave ces problèmes en imposant des horaires dictés par les demandes fluctuantes des clients et des plateformes, laissant souvent aux travailleurs peu de contrôle sur l’organisation de leur temps. Le secteur du travail domestique est parmi ceux où les horaires de travail non conventionnels sont depuis longtemps la norme. « Dans un cercle vicieux, l’instabilité des revenus est étroitement liée à l’intensification du travail ».

La directive sur les travailleurs des plateformes poursuit trois objectifs principaux contribuant à l’objectif général d’amélioration des conditions de travail des travailleurs sur plateforme :  faciliter l’établissement d’un statut d’emploi correct ; protéger les données personnelles des travailleurs sur plateforme ; et améliorer la transparence concernant le travail sur les plateformes. La directive réaffirme le principe de la primauté des faits, selon lequel c’est l’exécution effective du travail, et non la description contractuelle de la relation entre les parties, qui est déterminante pour la qualification de l’emploi. Deuxièmement, elle prévoit que si une relation de travail est établie, « la ou les parties assumant les obligations de l’employeur » doivent être clairement identifiées. Troisièmement, et surtout, les travailleurs qui fournissent leurs services par le biais de plateformes numériques bénéficient de la présomption d’une relation de travail avec ces plateformes. 

L’entrée en vigueur de la directive pourrait entraîner une augmentation des litiges qui, jusqu’à présent, sont restés marginaux dans le domaine du travail domestique. Reste que la qualification des travailleurs domestiques comme employés de plateformes pourrait s’avérer complexe, concluent les juristes. L’exercice du « contrôle et de la direction » par les plateformes de travail domestique est généralement plus ténu que dans d’autres secteurs, tant et si bien que certains parlent de « gestion algorithmique mineure ». Par exemple, cela se manifeste dans le domaine du temps de travail, où l’horaire précis est fixé par le client et le travailleur, mais la plateforme peut sanctionner les travailleurs en cas de non-respect de cet horaire ou de modification à préavis trop court. Mais la directive sur le travail des plateformes ne contient aucune disposition relative au temps de travail ou au cadencement… Alors que c’est bien ce que les plateformes organisent.

Avec la vérification d’âge : la modération des plateformes au profit des géants

Pour Molly Buckley de l’Electronic Frontier Foundation (EFF), principale organisation non gouvernementale américaine de défense des libertés numériques, la vérification d’âge est une aubaine pour les géants du numérique. Aux Etats-Unis, bluesky a mis en place des mesures de vérifications d’âge dans le Wyoming, dans le Dakota du Sud et a fermé ses accès dans le Mississippi suite à la promulgation, là encore, de lois sur la vérification d’âge. Pour l’EFF, les difficultés de Bluesky montrent que ces lois vont écraser les petites plateformes qui ne peuvent pas absorber les coûts des mesures de vérification et renforcer le pouvoir des plus grandes plateformes. « Les obligations de vérification de l’âge concentrent et consolident le pouvoir entre les mains des plus grandes entreprises, seules entités disposant des ressources nécessaires pour mettre en place des systèmes de conformité coûteux et assumer des amendes potentiellement colossales ». C’est le même constat que fait l’EFF au Royaume-Uni : les plus grandes plateformes « ont mis en place des mesures de vérification de l’âge étendues (et extrêmement maladroites), tandis que des sites plus petits, notamment des forums sur la parentalité, l’écologie et les jeux vidéo sous Linux, ont été contraints de fermer ». L’EFF donne l’exemple du “Forum du Hamster”– un forum britannique pour discuter de tout ce qui touche au petit rongeur domestique, qui a fermé ses forums, pour renvoyer ses utilisateurs vers un simple compte Instagram, et donc vers les géants des réseaux sociaux ! Pour Molly Buckler, l’OSA (Online Safety Act) est en train de flécher le trafic vers les seuls géants du net, qui seront les mieux à même de censurer les utilisateurs. C’est une loi pour consolider le pouvoir des géants au plus grand cauchemar des utilisateurs dont les ressources communautaires vont s’atrophier.

Dans un autre article pour l’Electronic Frontier Foundation, Molly Buckley rappelle que la loi sur la vérification d’âge au Royaume-Uni ne concerne pas que les contenus à caractère sexuel, mais englobe une large catégorie de contenus « préjudiciables ». Préventivement, plusieurs forums sur la parentalité, les jeux vidéo ou l’écologie ont préféré fermer leurs portes pour éviter le risque d’amendes et les complexités de la conformité à la loi. La plateforme Reddit au Royaume-Uni a été contrainte de s’enfermer derrière des barrières de vérification d’âge. Et cela n’a pas concerné que les canaux dédiés aux contenus explicites, mais également à nombre de sous-groupes dédiés à l’identité, au soutien LGBTQ+, au journalisme, aux forums liés à la santé publique comme ceux dédiés au menstruations ou aux violences sexuelles. « L’OSA définit le terme « préjudiciable » de multiples façons, bien au-delà de la pornographie. Les obstacles rencontrés par les utilisateurs britanniques correspondent donc exactement à ce que la loi prévoyait. L’OSA entrave bien plus que l’accès des enfants à des sites clairement réservés aux adultes. En cas d’amendes, les plateformes auront toujours recours à la surcensure. »

L’EFF est surtout étonné que l’OSA ait contraint Reddit à la censure, notamment explique  Buckley parce que Reddit a été une plateforme qui a œuvré à la défense de la liberté d’expression. Même si on peut lui reprocher des excès en la matière, Reddit s’est attelé à résoudre ses problèmes. Elle a été la seule plateforme à obtenir la meilleure note de l’analyse de la modération des plateformes par l’EFF en 2019, notamment parce qu’elle a mis en place une modération souvent qualifiée de remarquable (mais pas parfaite). Pour l’EFF, les mesures de vérifications d’âge ne protégeront pas les adolescents, car ceux-ci trouveront toujours des moyens pour les contourner et se rendre sur des sites toujours plus douteux, où la modération est moindre, les risques plus importants. 

Pour l’EFF, l’exclusion des publics d’importantes communautés sociales, politiques et créatives est problématique. « Les mandats de vérification de l’âge sont des régimes de censure » et la régulation de la pornographie n’est bien souvent que la partie émergée d’une censure qui va bien au-delà et qui permet très rapidement de censurer des contenus parfaitement légaux, notamment ceux relatifs à l’éducation sexuelle ou à l’actualité. « Les questions de modérations ne sont pas simples : on glisse vite d’une condamnation morale à une condamnation politique », observait déjà le chercheur Tarleton Gillespie dans son livre sur la modération. Et l’EFF de prévenir les Américains du risque qu’ils courent à leur tour. 

Du flou des contenus à modérer… à la régulation individuelle

Dans un autre billet datant de janvier, Paige Collings and Rindala Alajaji de l’EFF rappelaient que le problème des lois pour la protection des jeunes exigeant la vérification de l’âge des internautes, c’est qu’elles ne concernent pas seulement a pornographie en ligne, comme elles aiment à se présenter. Derrière la lutte contre les contenus « dangereux », les gouvernements s’arrogent de plus en plus le pouvoir de décider des sujets jugés « sûrs ». Pas étonnant donc, que les contestations à l’encontre de ces lois se multiplient. En fait, la question du « contenu sexuel » par exemple est définie de manière vague et peut concerner des films et vidéos interdits aux moins de 18 ans, comme des contenus d’éducation sexuelle ou des contenus LGBTQ+. D’autres énumèrent des préjudices causés par les contenus, mais là encore, vaguement définis, comme les violences qui doivent être limitées, alors que les représentations de la violence servent aussi de moyens pour les dénoncer. Sans compter que les plateformes ont déjà des politiques de modération qui qualifient nombre de contenus qui ne tombent pas sous le coup de la loi comme préjudiciables, comme l’expliquait Tarleton Gillespie dans Custodians of the Internet (Yale University Press, 2018). Bref, bien souvent la censure de contenus non pornographiques n’apparaît aux gens qu’une fois que ces lois sont mises en œuvre. En Oklahoma, le projet de loi sur la vérification de l’âge entré en vigueur le 1er novembre 2024 défini comme contenu préjudiciable aux mineurs toute description ou exposition de nudité et de « conduite sexuelle », ce qui implique que des associations sur la sexualité et la santé comme Glaad ou Planet Parenthood doivent mettre en place des systèmes de vérification d’âge des visiteurs. Pour éviter d’éventuelles poursuites judiciaires, ces associations risquent de mettre en place une surcensure.

Toutes ces lois rendent les autorités administratives et les plateformes arbitres de ce que les jeunes peuvent voir en ligne, explique encore l’EFF. C’est le cas du Kids Online Safety Act (Kosa), américain, validé par le Sénat mais pas par la Chambre des représentants, défendue ardemment par la sénatrice américaine Marsha Blackburn qui l’a promue pour « protéger les mineurs des transgenres ». Si la censure des contenus LGBTQ+ par le biais des lois de vérification de l’âge peut être présentée comme une « conséquence involontaire » dans certains cas, interdire l’accès aux contenus LGBTQ+ fait partie intégrante de la conception des plateformes. L’un des exemples les plus répandus est la suppression par Meta de contenus LGBTQ+ sur ses plateformes sous prétexte de protéger les jeunes utilisateurs des « contenus à connotation sexuelle ». Selon un rapport récent, Meta a caché des publications faisant référence au hashtag LGBTQ+, le filtre contenu sensible étant appliqué par défaut aux mineurs, faisant disparaître les hastags #lesbienne, #bisexuel, #gay, #trans et #queer. Si Meta a visiblement fait machine arrière depuis, on constate qu’une forme de censure automatisée vague et subjective s’étend sur nombre de contenus et notamment sur l’information sur la santé sexuelle. Pour les jeunes, notamment LGBTQ+, plus exposés au harcèlement et au rejet, l’accès aux communautés et aux ressources numériques est essentiel pour eux, et en restreindre l’accès présente des dangers particuliers, rappelle un rapport du Gay, Lesbian & Straight Education Network (Glsen). Mais il n’y a pas que ces publics que la censure des contenus d’information sexuel met en danger… A terme, ce sont tous les adolescents qui se voient refuser une information claire sur les risques et la santé sexuelle. Or rappellent des chercheurs espagnols pour The Conversation, l’exposition à la pornographie façonne les expériences affectives et normalisent l’idée que le pouvoir, la soumission et la violence font partie du désir. Mais, rappellent-ils, c’est bien « l’absence d’une éducation sexuelle adéquate qui est l’un des facteurs qui contribuent le plus à la consommation précoce de pornographie ».

Pour l’EFF enfin, il est crucial de reconnaître les implications plus larges des lois de vérification d’âge sur la vie privée, la liberté d’expression et l’accès à l’information. Notamment pour ceux qui tentent de préserver leur anonymat. « Ces politiques menacent les libertés mêmes qu’elles prétendent protéger, étouffant les discussions sur l’identité, la santé et la justice sociale, et créent un climat de peur et de répression ». 

« La lutte contre ces lois ne se limite pas à défendre les espaces en ligne ; il s’agit de protéger les droits fondamentaux de chacun à s’exprimer et à accéder à des informations vitales.» Dans un autre article encore, Paige Collings, rappelle que « les jeunes devraient pouvoir accéder à l’information, communiquer entre eux et avec le monde, jouer et s’exprimer en ligne sans que les gouvernements ne décident des propos qu’ils sont autorisés à tenir ». 

En fait, la proposition d’interdire les contenus aux plus jeunes permet assurément de simplifier la modération : aux plus jeunes, tout est interdit… Mais pour le public majeur, conscient des risques, tout est autorisé. C’est à chacun de réguler ses usages, pas à la société. 

La même injonction à une régulation qui ne serait plus qu’individuelle traverse la société. C’est à chacun de trier ses poubelles et ceux qui ne le font pas seront condamnés pour ne pas l’avoir fait, comme c’est à chacun d’être conscient des risques de ses usages numériques, et d’en subir sinon les conséquences.

Vers la criminalisation des comportements des mineurs

En France, la commission d’enquête parlementaire sur les effets psychologiques de TikTok sur les mineurs a rendu son rapport. Ses conclusions sont « accablantes », comme le dit le Monde. Mais l’épais rapport (plus de 1000 pages) est tout de même bien problématique, comme l’analyse très pertinemment le journaliste Nicolas Kayser-Bril dans l’édition du 2 octobre de la newsletter d’Algorithm Watch. Alors que nombre d’universitaires interrogés soulignent que l’utilisation élevée de TikTok est corrélée à l’anxiété et la dépression, le rapport glisse souvent à la simple accusation. Comme si TikTok était seul porteur des maux de la jeunesse. « Les députés ont-ils succombé à la faible capacité d’attention et à l’émotionnalisation qu’ils dénoncent ? Nous ne le saurons jamais, car le Parlement français n’a pas commandé, et ne commandera probablement pas, de rapport sur les effets de Facebook sur les baby-boomers, ni sur l’algorithme de X sur les responsables politiques ». Si le rapport est accablant, il l’est surtout parce qu’il montre le déficit de mise en œuvre du DSA, malgré les obligations, comme l’expliquent Garance Denner et Suzanne Vergnolle de la Chaire de modération des contenus du Cnam. 

Face à ce déluge d’accusations à l’encontre de TikTok, les 53 recommandations du rapport deviennent rapidement plus surprenantes, puisqu’on n’y trouve pas de proposition d’interdiction de TikTok. On ne trouve pas non plus beaucoup de mesures qui imposent quelque chose à la plateforme, hormis celles qui renforcent ou précisent le cadre du RGPD et du DSA européen (recommandation 8 à destination du suivi des modérateurs de la plateforme), celle invitant à étudier la modification du statut des fournisseurs de réseaux sociaux comme éditeur, les rendant responsables des contenus accessibles (recommandation 10), celle réclamant davantage de ressources pour les signaleurs de confiance (c’est-à-dire les organismes en contact direct avec les plateformes pour signaler les contenus inappropriés), ainsi que celles obligeant les plateformes à fournir des paramètres de personnalisation et de diversification ou pluralisme algorithmique (recommandations 11 et 12, qui consisterait à produire « une norme ouverte pour les algorithmes de recommandation afin que des tiers puissent concevoir des flux “Pour vous” spécifiques. Les utilisateurs pourraient ensuite parcourir “TikTok, sélectionné par ARTE”, par exemple », explique Nicolas Kayser-Bril… Ce qui ne semble pas l’objectif d’un pluralisme algorithmique permettant à chacun de produire des règles de recommandation selon ses choix). En fait, presque toutes les recommandations proposées dans ce rapport sont à l’égard d’autres acteurs. Des plus jeunes d’abord : en imposant la fermeture d’accès à TikTok au moins de 15 ans, en proposant un couvre-feu pour les 15-18 ans et en envisageant d’étendre l’interdiction dès 2028 aux moins de 18 ans. 

Mais l’essentiel des recommandations portent sur le développement de messages de prévention à l’école et dans les services de prévention comme auprès des parents et des services de l’enfance. Des services déjà bien souvent surchargés par les injonctions. Aucune recommandation n’exige de TikTok de renforcer l’accès à des données pour la recherche ou de corriger ses algorithmes pour moins prendre en compte le temps passé par exemple ! 

Si le rapport ne fait pas (encore) de propositions pour condamner les jeunes qui accéderaient aux réseaux sociaux malgré l’interdiction, elle propose de créer dès 2028 un nouveau délit de « négligence numérique » (recommandation 43) à l’égard des parents qui laisseraient leurs enfants accéder aux réseaux sociaux. Un peu comme si dans les années 50 on avait supprimé les aides sociales aux parents qui laissaient écouter du rock à leurs enfants sous prétexte de « négligence musicale ». Ce que suggère cette recommandation qui doit être étudiée par des experts d’ici l’échéance, c’est que la vérification de l’âge va conduire à la criminalisation des comportements des plus jeunes. 

Pour l’instant, on n’en entend parler nulle part. Toutes les déclarations sur le développement de la vérification d’âge et du contrôle parental, n’évoquent que la protection des plus jeunes, jamais les peines qui pourraient advenir… plus tard. Mais du moment où elles seront en place, on voit déjà s’esquisser la perspective de criminaliser les adolescents et leurs parents qui ne respecteraient pas ces règles. L’implicite ici, consiste d’abord à interdire, puis demain, à condamner. Après la mise en place de la barrière d’accès, viendra la condamnation de ceux qui chercheront à la contourner. Va-t-on vers une société qui s’apprête à condamner des gamins de 14 ans pour être allé chercher des contenus pornos en ligne ? Vers des médias qui seront condamnés pour avoir laissé des enfants accéder à des images de répression violentes de manifestations ? Vers des parents qui seront condamnés pour avoir laissé leurs enfants accéder à internet ? Les 16-18 ans seront-ils condamnés pour être allé cherché de l’information sur la prévention sexuelle ou parce qu’ils se sont connectés sur TikTok au-delà de 23 heures ? Où parce qu’ils auront échangé une vidéo de Squeezie ?

La vérification d’âge nous conduit tout droit à une « nouvelle pudibonderie », disait pertinemment le journaliste David-Julien Rahmil pour l’ADN. Renforçant celle déjà l’œuvre sur les grandes plateformes sociales qu’observait en 2012 Evgeny Morozov ou le chercheur Tarleton Gillespie dans son livre, dont les systèmes automatisés surcontrôlent déjà la nudité plutôt que la pornographie. 

L’autre risque, à terme, c’est l’élargissement sans fin de la vérification d’âge à tous types de contenus, notamment au secteur marchand comme l’a montré la polémique des contenus explicites découverts sur des sites de commerces en ligne. Pour la haut-commissaire à l’enfance, Sarah El Haïry, « la protection des enfants en ligne ne peut souffrir d’aucune faille », soulignant par là le risque maximaliste des règles à venir (et ce alors que la protection sociale à l’enfance par exemple n’est que failles). Au risque que ces règles deviennent des couteaux suisses, faisant glisser la surveillance des contenus pornographiques à la surveillance de l’internet, comme le disait avec pertinence le journaliste Damien Leloup dans une analyse pourLe Monde, au prétexte que le « risque » pornographique est partout. 

Qu’on s’entende bien. Loin de moi de défendre TikTok (pas plus que Meta ou X). Mais la criminalisation des comportements des enfants et des parents sans imposer de mesures de régulation claires aux entreprises et d’abord à elles, me semble une voie sans issue. La vérification d’âge accuse la société des dégâts sociaux provoqués par les décisions des plateformes sans leur demander ni de données, ni de correctifs. En criminalisant les mineurs, elle ne propose qu’une nouvelle ère de contrôle moral, sans nuance, comme s’en émouvait pour The Conversation, le spécialiste en gestion de l’information, Alex Beattie.

Hubert Guillaud

Le 25 juillet 2025, dans le cadre de la loi sur la sécurité en ligne (Online Safety Act, OSA) adoptée en 2023, les nouvelles règles de vérification de l’âge sont entrées en vigueur au Royaume-Uni, pour les sites proposant du contenu qualifié de « dangereux », notamment pornographique (mais pas seulement). La loi britannique définit des catégories pour les services en ligne auxquels elle s’applique, en fonction de leurs fonctionnalités et de leur nombre d’utilisateurs actifs par mois. En regard, sont définies différentes catégories de contenus, allant de contenus dits illégaux à des contenus dits nuisibles aux enfants. La loi ne se contente pas de faire la chasse à la pornographie en ligne, c’est-à-dire à des contenus à caractères sexuels explicites, mais déborde très largement de ce seul cadre qui ouvre, en regard des sanctions lourdes, et impose une modération des contenus qui peut aller jusqu’aux images violentes de l’actualité (et pas seulement sanglantes) voire à tous propos sur la sexualité, comme ceux abordant les questions de santé.  

Un renforcement sans précédent de la surveillance et de la censure préventive : la conformité n’est pas contournable

Comme le pointe l’une des plus synthétiques et lumineuses analyses en français sur le loi que j’ai pu lire, celle de Nicolas Morin sur son blog, la loi demande aux plateformes un « devoir de diligence » proactif et fondé sur les risques, mais également impose un comportement « préventif », rendant les plateformes, sites et services en ligne, directement responsables de la sécurité de leurs utilisateurs et du contenu qu’ils rencontrent. « Enfin ! », pourrait-on s’enthousiasmer en pensant qu’on exige un peu plus de contrôle de la part des Gafams. Sauf que le champ d’application de la loi est très large et dépasse les seules plateformes de médias sociaux et les plus grands services en ligne. Elle s’applique jusqu’aux forums, commentaires de blogs et sites de partage de fichiers, même si les obligations les plus strictes s’appliquent aux plateformes les plus importantes. 

Les services en ligne doivent garantir que les enfants aient un « accès adapté à leur âge », ce qui implique une approche faisant appel à des systèmes de filtrage et de modération de contenu adaptés aux différents groupes d’âge qui s’imposent partout. « Les sanctions prévues sont sévères, potentiellement existentielles, en cas de manquement. Les amendes peuvent atteindre 18 millions de livres sterling ou 10 % du chiffre d’affaires annuel mondial d’une entreprise, et les cadres supérieurs peuvent être tenus personnellement responsables pénalement en cas de non-coopération avec le régulateur. » Du fait de la lourdeur des sanctions, avec l’OSA, la conformité réglementaire n’est pas contournable.

Mais surtout, explique Morin, « à un niveau fondamental, l’OSA illustre la bascule d’une logique procédurale à une logique de valeurs ». Jusqu’à présent, la modération de contenu suivait une approche procédurale, se concentrant sur le « comment » plutôt que sur le « quoi ». Cette logique ne disait pas aux plateformes quel contenu spécifique (en dehors de ce qui est déjà manifestement illégal) était bon ou mauvais. Elle imposait plutôt des obligations de moyens et de transparence (souvent très légères, comme des conditions de modération claires, des mécanismes de signalement simples, des processus d’appels, des rapports sur les contenus modérés…). Avec l’OSA et son approche sur les valeurs, les plateformes doivent porter un jugement même sur les contenus et leur impose une obligation de résultat. « Ce faisant, la loi délègue aux entreprises privées et à l’organe de régulation britannique (l’Ofcom) le soin de définir ce qui constitue un discours acceptable dans la société, une mission qui relève normalement du débat démocratique et de la loi pénale ». Le problème est que les contenus qui peuvent être qualifiés de préjudiciables est large et introduit un flou juridique supplémentaire, qui, à l’aune de la sévérité des sanctions, conduit déjà chacun à une sur-modération. « Pour les utilisateurs, l’application des règles devient arbitraire. Un même contenu pourra être supprimé un jour et toléré le lendemain, en fonction du modérateur ou de l’algorithme qui l’examine. Il n’y a plus de prévisibilité, un principe fondamental de l’État de droit ». 

« En utilisant des termes vagues, le Parlement britannique a, de fait, délégué son pouvoir normatif. Ce ne sont plus les législateurs élus qui définissent précisément les limites de la liberté d’expression, mais l’Ofcom, un régulateur non élu, qui publiera des codes de pratique pour “interpréter” ce que la loi entend par “préjudiciable”, et les plateformes elles-mêmes, qui créeront leurs propres règles internes pour se conformer aux interprétations de l’Ofcom.

Le débat sur ce que notre société tolère comme discours est ainsi retiré de la sphère publique et démocratique pour être confié à des comités de conformité et des régulateurs techniques.

En passant d’une logique procédurale à une logique de valeurs incarnée par des termes vagues, l’Online Safety Act crée un système où la censure devient préventive, privatisée et arbitraire. La quête légitime de sécurité en ligne, sous l’étendard ici de la sécurité des enfants et de la lutte contre le terrorisme, se fait au détriment de la liberté d’expression, de la sécurité juridique et des principes démocratiques fondamentaux. »

« L’obligation pour les plateformes de gérer le contenu « préjudiciable » mais légal les amène, par prudence, à classifier et restreindre l’accès à un large éventail de contenus, y compris les reportages d’actualité, la couverture de la guerre et des conflits, le journalisme d’investigation et les images de manifestations politiques, qui pourraient tous être considérés comme « préjudiciables » ou « dépeignant une violence grave » selon les définitions larges de la loi. Ce système délègue de fait aux entreprises technologiques privées le rôle d’arbitres de l’État en matière de discours acceptable. Alors que les partisans pourraient y voir une application de la responsabilité, les critiques y voient un « cadeau massif à la grande technologie ». Cela renforce leur pouvoir en leur donnant une autorité mandatée par l’État pour décider de ce que les utilisateurs peuvent et ne peuvent pas voir, une fonction quasi-judiciaire pour laquelle les entreprises privées sont institutionnellement mal adaptées et démocratiquement irresponsables. »

Le premier problème de l’OSA est bien le large spectre de ce que son champ réglementaire couvre. Ce n’est pas une loi qui cherche à réguler uniquement les vidéos et les images pornographiques. 

Vers une modération fonctionnelle

La loi s’applique aux sites web, aux services de réseaux sociaux, aux sites de stockage et de partage de fichiers, aux forums en ligne, aux applications de rencontre et aux services de messagerie instantanée. Tous sont désormais tenus de vérifier l’âge des visiteurs si leurs plateformes contiennent du contenu préjudiciable ou inapproprié, rappelle le New York Times. Au-delà des sites pornographiques, les applications qui ont introduit la vérification de l’âge incluent Grindr, le service de rencontres gay ; Discord, l’application de chat social ; et Reddit… Même l’encyclopédie Wikipédia reste menacée de devoir intégrer une vérification d’âge (notamment parce qu’elle entre dans la catégorie des grands services en ligne).  

La majorité des Britanniques – près de 80 % – se sont déclarés favorables aux nouvelles règles, selon un sondage YouGov auprès d’environ 4 400 adultes, peut-être sans toujours comprendre que ces règles ne concernaient pas que les contenus sexuellement explicites, puisqu’après la mise en place des premières mesures effectives, ils n’étaient plus que 69% à soutenir les règles. Mais, selon l’enquête, seule une personne sur quatre environ estime que ces restrictions empêcheront réellement les enfants d’accéder à la pornographie en ligne. Au Royaume-Uni, une vague de résistance s’est également manifestée. Plus de 500 000 personnes ont signé une pétition demandant l’abrogation de la loi sur la sécurité en ligne, critiquée par les défenseurs du droit à la vie privée et de la liberté d’expression. Ces derniers affirment que ces règles constituent un exemple d’abus de pouvoir du gouvernement et les jugent dangereuses pour les personnes souhaitant préserver leur anonymat en ligne. 

Les critiques affirment également que la portée des règles va trop loin, en incluant les forums de loisirs en ligne et divers autres sites. Ils affirment que les petits sites qui ne disposent pas des ressources nécessaires pour se conformer à la loi devront fermer, notamment parce qu’ils s’exposent à des poursuites juridiques inédites. 

Les contenus sont définis en trois catégories : des contenus primaires prioritaires préjudiciable aux enfants (les contenus pornographiques et de promotion du suicide notamment), les contenus prioritaires préjudiciables aux enfants (contenus incitant à la haine, à l’intimidation ou à la violence notamment) et des contenus non désigné comme dangereux pour les enfants mais qui peuvent leur porter préjudice, c’est-à-dire les perturber, comme des images de violences ou de manifestation. Le problème consiste bien sûr dans les flous de ces définitions : un article qui parle d’un suicide en fait-il la promotion ? Parler des violences d’une guerre ou de manifestations est-il préjudiciable ? Même la définition de la pornographie peut-être plus ou moins lâche : un texte érotique est-il de même nature qu’une vidéo explicite ?  

Face à ces risques, les sites accessibles doivent mettre en œuvre un certain nombre de mesures et notamment la « vérification vigoureuse de l’âge », en développant des algorithmes plus sûrs pour les jeunes publics et en renforçant la modération des contenus. 

Depuis l’entrée en vigueur de ces mesures fin juillet, les plateformes de réseaux sociaux Reddit, Bluesky, Discord et X ont toutes mis en place des contrôles d’âge pour empêcher les enfants de consulter des contenus préjudiciables sur leurs sites. Des sites pornographiques comme Pornhub et YouPorn ont mis en place des contrôles d’âge, demandant désormais aux utilisateurs de fournir une pièce d’identité officielle, une adresse e-mail pour que la technologie analyse les autres services en ligne où elle a été utilisée, ou de soumettre leurs informations à un fournisseur tiers pour vérification de l’âge. Des sites comme Spotify exigent également que les utilisateurs soumettent un scan facial à Yoti, une société tierce de gestion d’identité numérique, pour accéder aux contenus étiquetés 18+. L’Ofcom, qui supervise la mise en œuvre de l’OSA, est allé plus loin en envoyant des lettres pour tenter de faire appliquer la législation britannique aux entreprises basées aux États-Unis. 

La généralisation de la vérification d’âge et du contrôle parental

La contrainte de la vérification d’âge n’est pas que britannique. Elle concerne également  l’Union européenne, les Etats-Unis (une vingtaine d’Etats ayant déjà légiféré en ce sens) et l’Australie. « En France, deux lois successives ont entériné depuis 2020 la vérification d’âge », rappelait Le Monde cet été. En juin, menacé de sanctions par l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) s’il ne mettait pas en place une procédure de vérification d’âge, Pornhub a fermé ses accès en France. Si l’Europe a lancé une enquête à l’encontre des principales plateformes de contenus pornographiques, pour qu’elles mettent en place des outils de vérification d’âge plus approprié qu’un simple déclaratif, au motif du DSA et de la taille de leur audience, la Commission estime que fixer une majorité numérique ne relève pas de ses compétences, même si elle travaille à proposer une solution harmonisée de vérification d’âge des internautes. En novembre, les députés macronistes ont déposé une proposition de loi pour interdire les réseaux sociaux aux moins de 15 ans, imposer un couvre-feu numérique pour les 15-18 ans de 22 heures à 8 heures, ainsi que l’interdiction des smartphones dans les lycées. Des perspectives défendues par le président lui-même. Des propositions d’interdiction des réseaux sociaux aux moins de 15 ans sont également à l’ordre du jour au Danemark, en Norvège, et au Royaume-Uni (via un autre projet de loi, le Protection of Children Bill).

En Australie, une loi nationale a d’ores et déjà été adoptée. Elle interdit l’accès aux réseaux sociaux aux moins de 16 ans. En revanche, les applications de messagerie ou celles dévolues à l’éducation et à la santé sont exclues de cette réglementation, tout comme YouTube – sans qu’on comprenne très bien les motivations de cette exclusion. 

« Parallèlement, tous les grands réseaux sociaux ont mis en place, au fil du temps, des outils de contrôle parental et de protection des adolescents, qui permettent notamment de limiter le temps d’utilisation de l’application par les plus jeunes. Certaines plateformes, comme Instagram ou TikTok, limitent ainsi les fonctionnalités des comptes créés par les mineurs, qui sont notamment paramétrés par défaut comme « privés », c’est-à-dire dont le contenu n’est accessible qu’aux personnes acceptées par l’utilisateur.

Les grandes plateformes assurent également utiliser toute une série d’outils automatisés pour détecter les internautes qui mentent sur leur âge lors de leur inscription. En avril, Meta – maison mère d’Instagram – a ainsi annoncé son intention de tester aux Etats-Unis l’utilisation de l’intelligence artificielle pour repérer les profils des jeunes s’étant fait passer pour des adultes afin de les basculer automatiquement en « comptes adolescents ».

La plupart des réseaux sociaux arguent toutefois que la responsabilité du contrôle ne devrait pas leur échoir, mais être confiée aux opérateurs téléphoniques ainsi qu’à Apple et à Google. Ce sont ces deux entreprises qui gèrent les magasins d’applications et sont plus à même, selon les grandes plateformes, de contrôler facilement l’âge des utilisateurs. »

Certains États américains ont également commencé à introduire des législations pour restreindre l’accès à certains sites, notamment pornographiques, aux mineurs, rappelait Le Monde. Les lois de l’Utah et du Texas sont particulièrement contraignante, rappelle la chercheuse Meg Leta Jones pour Tech Policy Press : elles demandent de vérifier l’âge de tous les utilisateurs et les classent en quatre catégories : enfant (moins de 13 ans), jeune adolescent (13-15 ans), adolescent plus âgé (16-17 ans) et adulte (18 ans et plus). « Les deux lois exigent des plateformes d’applications : (1) qu’elles vérifient l’âge des utilisateurs lors de leur inscription par des « méthodes commercialement raisonnables » (par exemple, pièce d’identité, carte de crédit, lecture biométrique), (2) qu’elles relient les comptes des enfants à ceux de leurs parents, (3) qu’elles obtiennent l’autorisation des parents avant que les enfants puissent télécharger des applications ou effectuer des achats, (4) qu’elles indiquent aux développeurs d’applications l’âge de chaque utilisateur et si les parents ont donné leur autorisation, (5) qu’elles informent les parents des modifications importantes apportées aux applications (comme une nouvelle collecte de données) et qu’elles obtiennent à nouveau leur autorisation, et (6) qu’elles transmettent les informations relatives à l’âge aux développeurs de manière sécurisée et chiffrée ». Des mesures qui devraient permettre à l’Etat de poursuivre ceux qui ne les mettraient pas en œuvre au motif de pratiques commerciales trompeuses en vertu de la loi sur la protection des consommateurs et aux parents de porter plainte directement contre les applications et les boutiques d’applications. 

La loi Californienne, elle, privilégie l’auto-déclaration de l’âge (sans vérification d’exactitude). « La Californie exige : (1) un écran simple lors de la configuration de l’appareil demandant aux utilisateurs de saisir leur âge ou leur date de naissance ; (2) que le système d’exploitation partage automatiquement cette information d’âge avec les applications lors de leur téléchargement ; et (3) que les boutiques d’applications obtiennent l’autorisation parentale avant que les enfants de moins de 16 ans puissent télécharger des applications ». Ces différences permettent de comprendre pourquoi Google a soutenu le projet Californien et s’oppose aux projets du Texas et de l’Utah, explique la chercheuse Meg Leta Jones. Au Texas, les géants du web s’opposent à une loi imposant la vérification d’âge sur les magasins d’application d’Apple et Google, au prétexte de la liberté. Facebook soutient pourtant l’obligation faite aux magasins d’applications de procéder aux vérifications d’âge, afin de ne pas avoir à le faire lui-même. Pornhub également. La loi sur la responsabilité des App Stores (App Store Accountability Act) en discussion au Congrès vise pourtant à étendre l’approche de l’Utah et du Texas, mais en plaçant son respect sous la responsabilité de la Commission fédérale du commerce afin d’éliminer les recours privés de parents contre des applications qui ne se conformeraient pas à la législation. Le projet de loi fédéral permettrait d’harmoniser les modalités de contrôle d’âge aux Etats-Unis, explique The Verge. 

Pour l’instant, la vérification d’âge avance donc en ordre dispersé et tente de faire peser des obligations à certains acteurs plus qu’à d’autres. Plutôt que d’être organisée dès l’achat d’appareil ou la création de comptes, elle a tendance à se propager partout, pour mieux exercer son carcan et éliminer ses failles – quand on pourrait peut-être chercher plutôt à faire progresser globalement les limites d’accès, plutôt que de les imposer partout et penser qu’elles doivent être sans failles. Enfin, la vérification d’âge ne vient pas seule, notamment aux Etats-Unis, où elle se raffine d’un droit de regard renforcé des parents sur les téléphones de leurs enfants, notamment avec le développement du contrôle parental.. 

Vers un nouvel internet : le contrôle identitaire et moral généralisé 

Pour Wired, nous franchissons une nouvelle étape dans l’ère d’un internet de plus en plus contrôlé, qui pourrait mettre fin à l’anonymat en ligne, comme l’explique Riana Pfefferkorn, chercheuse en politiques publiques à l’Université de Stanford. « Si les gens choisissent de ne pas se connecter [aux moteurs de recherche] pour éviter les contrôles d’âge, cela pourrait avoir un impact considérable sur les méthodes de recherche d’informations en ligne, rationalisées et intégrées », explique Lisa Given, professeure de sciences de l’information à l’Université RMIT en Australie. Pour Riana Pfefferkorn de Stanford : « En fin de compte, la technologie de vérification de l’âge présente un risque pour les enfants qu’elle est censée protéger. Elle entrave leur accès à l’information et peut les exposer à des risques de violation de la vie privée, d’usurpation d’identité et d’autres problèmes de sécurité. » Pour Emanuel Maiberg et Samantha Cole de 404media, les techniques de vérification d’âge s’apprêtent à « refondre en profondeur de l’infrastructure d’Internet ». Pornhub est pourtant, scandale après scandale, bien plus modéré qu’il n’a jamais été. Le risque que fait introduire la vérification d’âge est celui d’un développement de « sites qui ne tiennent aucun compte de la loi et où certains des contenus les plus nocifs disponibles en ligne leur sont activement proposés ». Au Texas, où Pornhub est désormais bloqué, c’est Xvideos qui s’impose désormais et d’autres sites hébergés dans des pays bien moins regardant, avec des contenus plus problématiques encore. Ce que proposent les lois de vérification d’âge, c’est de « ré-embrayer sur le piratage », estiment les journalistes de 404media, c’est-à-dire que le renforcement des règles risque surtout d’assombrir les pratiques faisant naître des galaxies de sites qu’il sera plus difficile de réguler, comme la lutte contre le piratage a contribué à l’exacerber. 

Dans le nouvel internet qu’introduit la vérification d’âge, l’enjeu n’est pas seulement qu’il va être pénible de devoir s’identifier partout en activant la vérification d’âge localement, mais bien plus qu’il n’y aura plus d’internet sans identification. Le mouvement, déjà largement amorcé partout par l’authentification généralisée ne va faire que se renforcer en tentant de réduire toujours plus les espaces de liberté. Au final, la vérification d’âge va surtout renforcer les grands acteurs, ceux seuls à même de développer ces technologies de contrôle. 

Reste à savoir si la vérification d’âge nous promet un internet plus sécurisé et plus sûr ? Cela risque d’être le cas pour les mineurs effectivement, qui partout autour du monde risquent d’avoir de moins en moins accès à internet et moins accès à l’information quelles que soient ses qualités. Mais, la vérification d’âge ne promet pas une amélioration de la protection pour tous, au contraire. Elle va surtout permettre d’ouvrir les vannes des machines pour tous les majeurs. Elle risque surtout de renforcer la modération pour les plus jeunes et de l’arrêter pour tous les autres. C’est ainsi qu’il faut lire les annonces d’OpenAI à permettre à ses chatbots de produire des contenus érotiques. C’est le sens qu’il faut d’ailleurs donner à un autre projet de loi américain, dénoncé par l’EFF, la loi GUARD, qui oblige à un contrôle d’âge qui s’imposerait à tous les chatbots d’IA destinés au public.Si l’accès aux chatbots va se fermer pour les mineurs, la crise des chatbots compagnons, elle, risque surtout de se résoudre par son accélération. 

Ce que promet la vérification d’âge, finalement, c’est un internet fermé aux enfants et aux adolescents et un internet beaucoup moins sûr pour tous les autres. Un peu comme si on concentrait la régulation sur le seul principe de l’âge et de la responsabilité individuelle. En fait, il est probable que ces lois renforcent encore le peu de prise qu’ont les utilisateurs sur les politiques de modération « unilatérales décidées par les plateformes », comme l’expliquait  le chercheur Tarleton Gillespie dans son livre, Custodians of the internet (Les gardiens de l’internet, 2018, Yale University Press, non traduit – voir notre recension). 

Comme si tous les autres types d’intervention n’avaient pas d’importance. danah boyd ne disait pas autre chose : les projets de lois visant à exclure les plus jeunes des réseaux sociaux ne proposent de mettre en place aucune ceinture de sécurité, mais seulement de ne pas les accueillir dans les véhicules au risque qu’ils ne puissent plus se déplacer. « Les enfants regardent leurs parents plongés toute la journée sur leur téléphones et on est en train de leur dire qu’ils ne pourront y avoir accès avant 18 ans ! En fait, on fait tout pour ne pas interroger les processus de socialisation et leurs limites ». Nous mettons en place un solutionnisme techno-légal. « Le cadre réglementaire n’énonce pas d’exigences de conception spécifiques que les plateformes devraient éviter et n’observent que les résultats qu’elles doivent atteindre ». Le risque enfin, c’est qu’au prétexte du contrôle, nous enterrions toutes les autres modalités politiques, allant de l’éducation à la conception des plateformes. Avec la vérification d’âge, on propose finalement aux géants de concentrer leur modération sur l’exclusion des mineurs, au détriment de toute autre politique. 

Hubert Guillaud

« Dans un avenir proche, nous souhaitons que chaque entreprise puisse nous indiquer son objectif, comme vendre quelque chose ou acquérir un nouveau client, le montant qu’elle est prête à payer pour chaque résultat, et connecter son compte bancaire ; nous nous occuperons du reste », déclarait Zuckerberg lors de l’assemblée générale annuelle des actionnaires de l’entreprise (voir notre article, « L’IA, un nouvel internet… sans condition »). Nous y sommes, explique Jason Koebler pour 404media en montrant l’usage de l’IA générative par Ticketmaster pour personnaliser ses campagnes publicitaires, où l’IA est utilisée à la fois pour le ciblage et la génération des publicités. « Moins d’argent investi dans la création signifie plus de budget publicitaire et donc une plus grande variété de publicités », rappelle Koebler. « Les entreprises peuvent ainsi inonder les réseaux sociaux de millions de variantes de publicités IA faciles à créer, investir leur budget publicitaire dans les versions les plus performantes et laisser les algorithmes de ciblage faire le reste. Dans ce cas précis, l’IA est une stratégie de mise à l’échelle. Inutile de consacrer des sommes considérables en temps, en argent et en ressources humaines à peaufiner les textes publicitaires et à concevoir des publicités pertinentes, astucieuses, drôles, charmantes ou accrocheuses. Il suffit de publier des tonnes de versions bâclées, et la plupart des gens ne verront que celles qui fonctionnent bien ».

Un rapport de Reuters, vient de révéler que « 10 % du chiffre d’affaires brut de Meta provient de publicités pour des produits frauduleux et des arnaques ». « 15 milliards de publicités frauduleuses sont diffusées chaque jour, générant 7 milliards de dollars de revenus par an ». Mais, plutôt que refuser ces publicités frauduleuses, Meta ne ferme pas les comptes qui les proposent et leur inflige des frais supplémentaires, les rendant plus rentables encore qu’elles ne sont. Un tiers des arnaques aux États-Unis transiteraient par Facebook (au Royaume-Uni, ce chiffre atteindrait 54 % des pertes liées aux arnaques aux paiements). Si Meta a mis en place des mesures pour réduire la fraude sur sa plateforme, l’entreprise estime que le montant maximal des amendes qu’elle devra finalement payer dans le monde s’élèvera à 1 milliard de dollars, alors qu’elle en encaisse 7… On comprend que Meta ne soit pas incité à la diligence, comme l’explique très clairement une note interne citée par Reuters, ironise Cory Doctorow. Mais surtout, on y apprend que l’équipe antifraude est tributaire d’un quota interne : « elle n’est autorisée à prendre que des mesures susceptibles de réduire les revenus publicitaires de 0,15 % (soit 135 millions de dollars) ». Les services de modération ou de lutte contre la fraude ressemblent désormais aux services clients qu’on évoquait récemment : une ligne budgétaire avec des objectifs et des contraintes !

Pire, explique encore Doctorow dans sa lecture de Reuters : alors que les équipes de sécurité recevaient environ 10 000 signalements de fraudes valides par semaine, celles-ci, en ignoraient ou en rejetaient à tort 96 %. Le problème, c’est que lorsque Meta classe un signalement sans suite ou refuse de corriger des signalements de fraudes valides, non seulement les utilisateurs perdent beaucoup, mais l’usurpation d’identité permet également de faire les poches des relations des victimes en leur extorquant de l’argent, voire beaucoup d’argent.

Meta qualifie ce type d’escroquerie, où les escrocs usurpent l’identité d’utilisateurs, d’« organique », la distinguant ainsi des publicités frauduleuses, où les escrocs paient pour atteindre leurs victimes potentielles. Meta estime héberger 22 milliards de messages frauduleux « organiques » par jour. Ces escroqueries organiques sont en réalité souvent autorisées par les conditions d’utilisation de Meta : lorsque la police de Singapour a porté plainte auprès de Meta concernant 146 publications frauduleuses, l’entreprise a conclu que seulement 23 % d’entre elles violaient ses conditions d’utilisation. Les autres étaient toutes autorisées. Ces fraudes tolérées incluaient des offres alléchantes promettant des réductions de 80 % sur de grandes marques de mode, des offres de faux billets de concert et de fausses offres d’emploi – le tout autorisé par les propres politiques de Meta. Des notes internes consultées par Reuters révèlent que les équipes antifraude de Meta étaient de plus en plus exaspérées de constater que ces escroqueries n’étaient pas interdites sur la plateforme. Un employé de Meta l’a même écrit a sa direction en dénonçant des escroqueries visibles : « Les politiques actuelles ne permettraient pas de signaler ce compte ! » Mais même si un fraudeur enfreint les conditions d’utilisation de Meta, l’entreprise reste inactive. Selon les propres politiques de Meta, un « Compte à forte valeur ajoutée » (un compte dépensant des sommes importantes en publicités frauduleuses) doit accumuler plus de 500 « avertissements » (c’est-à-dire des violations avérées des politiques de Meta) avant d’être suspendu. Reuters a constaté que 40 % des escrocs les plus notoires étaient toujours actifs sur la plateforme six mois après avoir été signalés comme les fraudeurs les plus prolifiques de l’entreprise. 

Ce mépris flagrant pour les utilisateurs de Meta n’est pas dû à une nouvelle tendance sadique de la part de la direction. Comme le démontre en détail le livre de Sarah Wynn-Williams, Careless People (Flatiron Books, 2025 ; Des gens peu recommandables, Buchet-Chastel, 2025), l’entreprise a toujours été dirigée par des individus sans scrupules. Ce qui a changé en quelques années, assène Doctorow, c’est qu’ils ont assimilé qu’ils pouvaient gagner de l’argent en vous escroquant. 

Oui, réduire la fraude a un coût ! « Tant que nous aurons un environnement législatif si complaisant qui ne leur inflige qu’un milliard de dollars d’amende alors qu’ils en ont engrangé 7 sur nos malheurs », nous n’irons pas très loin.

Comment répondre à la gestion algorithmique du travail ? Tel est l’ambition du rapport « Negotiating the Algorithm » publié par la Confédération européenne des syndicats sous la direction du journaliste indépendant Ben Wray, responsable du Gig Economy Project de Brave New Europe. Le rapport décrit la prédominance des logiciels managériaux au travail (qui seraient utilisés par plus de 79% des entreprises de l’Union européenne) et les abus qui en découlent et décrit les moyens de riposte mobilisables par les travailleurs en lien notamment avec la nouvelle législation européenne des travailleurs des plateformes. La gestion algorithmique confère aux employeurs des avantages informationnels considérables sur les travailleurs, leur permet de contourner les conventions collectives et de modifier les conditions de travail et les salaires de chaque travailleur voire de chaque poste. Elle leur permet d’espionner les travailleurs même en dehors de leurs heures de travail et leur offre de nombreuses possibilités de représailles. 

En regard, les travailleurs piégés par la gestion algorithmique sont privés de leur pouvoir d’action et de leurs possibilités de résolution de problèmes, et bien souvent de leurs droits de recours, tant la gestion algorithmique se déploie avec de nombreuses autres mesures autoritaires, comme le fait de ne pouvoir joindre le service RH. 

Il est donc crucial que les syndicats élaborent une stratégie pour lutter contre la gestion algorithmique. C’est là qu’intervient la directive sur le travail de plateforme qui prévoit des dispositions assez riches, mais qui ne sont pas auto-exécutoires… C’est-à-dire que les travailleurs doivent revendiquer les droits que la directive propose, au travail comme devant les tribunaux. Or, elle permet aux travailleurs et à leurs représentants d’exiger des employeurs des données exhaustives sur les décisions algorithmiques, du licenciement au calcul du salaire. 

Bien souvent ces données ne sont pas rendues dans des formats faciles à exploiter, constate Wray : le rapport encourage donc les syndicats à constituer leurs propres groupes d’analyses de données. Le rapport plaide également pour que les syndicats développent des applications capables de surveiller les applications patronales, comme l’application UberCheats, qui permettait de comparer le kilométrage payé par Uber à ses livreurs par rapport aux distances réellement parcourues (l’application a été retirée en 2021 au prétexte de son nom à la demande de la firme Uber). En investissant dans la technologie, les syndicats peuvent combler le déficit d’information des travailleurs sur les employeurs. Wray décrit comment les travailleurs indépendants ont créé des « applications de contre-mesure » ​​qui ont documenté les vols de salaires et de pourboires (voir notre article “Réguler la surveillance au travail”), permis le refus massif d’offres au rabais et aidé les travailleurs à faire valoir leurs droits devant les tribunaux. Cette capacité technologique peut également aider les organisateurs syndicaux, en fournissant une plateforme numérique unifiée pour les campagnes syndicales dans tous les types d’établissements. Wray propose que les syndicats unissent leurs forces pour créer « un atelier technologique commun » aux travailleurs, qui développerait et soutiendrait des outils pour tous les types de syndicats à travers l’Europe. 

Le RGPD confère aux travailleurs de larges pouvoirs pour lutter contre les abus liés aux logiciels de gestion, estime encore le rapport. Il leur permet d’exiger le système de notation utilisé pour évaluer leur travail et d’exiger la correction de leurs notes, et interdit les « évaluations internes cachées ». Il leur donne également le droit d’exiger une intervention humaine dans les prises de décision automatisées. Lorsque les travailleurs sont « désactivés » (éjectés de l’application), le RGPD leur permet de déposer une « demande d’accès aux données » obligeant l’entreprise à divulguer « toutes les informations personnelles relatives à cette décision », les travailleurs ayant le droit d’exiger la correction des « informations inexactes ou incomplètes ». Malgré l’étendue de ces pouvoirs, ils ont rarement été utilisés, en grande partie en raison de failles importantes du RGPD. Par exemple, les employeurs peuvent invoquer l’excuse selon laquelle la divulgation d’informations révélerait leurs secrets commerciaux et exposerait leur propriété intellectuelle. Le RGPD limite la portée de ces excuses, mais les employeurs les ignorent systématiquement. Il en va de même pour l’excuse générique selon laquelle la gestion algorithmique est assurée par un outil tiers. Cette excuse est illégale au regard du RGPD, mais les employeurs l’utilisent régulièrement (et s’en tirent impunément). 

La directive sur le travail de plateforme corrige de nombreuses failles du RGPD. Elle interdit le traitement des « données personnelles d’un travailleur relatives à : son état émotionnel ou psychologique ; l’utilisation de ses échanges privés ; la captation de données lorsqu’il n’utilise pas l’application ; concernant l’exercice de ses droits fondamentaux, y compris la syndicalisation ; les données personnelles du travailleur, y compris son orientation sexuelle et son statut migratoire ; et ses données biométriques lorsqu’elles sont utilisées pour établir son identité. » Elle étend le droit d’examiner le fonctionnement et les résultats des « systèmes décisionnels automatisés » et d’exiger que ces résultats soient exportés vers un format pouvant être envoyé au travailleur, et interdit les transferts à des tiers. Les travailleurs peuvent exiger que leurs données soient utilisées, par exemple, pour obtenir un autre emploi, et leurs employeurs doivent prendre en charge les frais associés. La directive sur le travail de plateforme exige une surveillance humaine stricte des systèmes automatisés, notamment pour des opérations telles que les désactivations. 

Le fonctionnement de leurs systèmes d’information est également soumis à l’obligation pour les employeurs d’informer les travailleurs et de les consulter sur les « modifications apportées aux systèmes automatisés de surveillance ou de prise de décision ». La directive exige également que les employeurs rémunèrent des experts (choisis par les travailleurs) pour évaluer ces changements. Ces nouvelles règles sont prometteuses, mais elles n’entreront en vigueur que si quelqu’un s’y oppose lorsqu’elles sont enfreintes. C’est là que les syndicats entrent en jeu. Si des employeurs sont pris en flagrant délit de fraude, la directive les oblige à rembourser les experts engagés par les syndicats pour lutter contre les escroqueries. 

Wray propose une série de recommandations détaillées aux syndicats concernant les éléments qu’ils devraient exiger dans leurs contrats afin de maximiser leurs chances de tirer parti des opportunités offertes par la directive sur le travail de plateforme, comme la création d’un « organe de gouvernance » au sein de l’entreprise « pour gérer la formation, le stockage, le traitement et la sécurité des données. Cet organe devrait inclure des délégués syndicaux et tous ses membres devraient recevoir une formation sur les données. » 

Il présente également des tactiques technologiques que les syndicats peuvent financer et exploiter pour optimiser l’utilisation de la directive, comme le piratage d’applications permettant aux travailleurs indépendants d’augmenter leurs revenus. Il décrit avec enthousiasme la « méthode des marionnettes à chaussettes », où de nombreux comptes tests sont utilisés pour placer et réserver du travail via des plateformes afin de surveiller leurs systèmes de tarification et de détecter les collusions et les manipulations de prix. Cette méthode a été utilisée avec succès en Espagne pour jeter les bases d’une action en justice en cours pour collusion sur les prix. 

Le nouveau monde de la gestion algorithmique et la nouvelle directive sur le travail de plateforme offrent de nombreuses opportunités aux syndicats. Cependant, il existe toujours un risque qu’un employeur refuse tout simplement de respecter la loi, comme Uber, reconnu coupable de violation des règles de divulgation de données et condamné à une amende de 6 000 € par jour jusqu’à sa mise en conformité. Uber a maintenant payé 500 000 € d’amende et n’a pas divulgué les données exigées par la loi et les tribunaux. 

Grâce à la gestion algorithmique, les patrons ont trouvé de nouveaux moyens de contourner la loi et de voler les travailleurs. La directive sur le travail de plateforme offre aux travailleurs et aux syndicats toute une série de nouveaux outils pour contraindre les patrons à jouer franc jeu. « Ce ne sera pas facile, mais les capacités technologiques développées par les travailleurs et les syndicats ici peuvent être réutilisées pour mener une guerre de classes numérique totale », s’enthousiasme Cory Doctorow.

C’est une formidable histoire que raconte le Code du numérique. Un livre édité par les Habitant.es des images ASBL et la Cellule pour la réduction des inégalités sociales et de la lutte contre la pauvreté de Bruxelles. Ce livre est le résultat de trois années d’action nées des difficultés qu’ont éprouvé les plus démunis à accéder à leurs droits durant la pandémie. En réaction à la fermeture des guichets d’aide sociale pendant la crise Covid, des militants du secteur social belge ont lancé un groupe de travail pour visibiliser le vécu collectif des souffrances individuelles des plus précaires face au déploiement du numérique, donnant naissance au Comité humain du numérique. “La digitalisation de la société n’a pas entraîné une amélioration généralisée des compétences numériques”, rappelle le Comité en s’appuyant sur le baromètre de l’inclusion numérique belge. 

Le Comité humain du numérique s’installe alors dans les quartiers et, avec les habitants, décide d’écrire un Code de loi : “Puisque l’Etat ne nous protège pas, écrivons les lois à sa place”. Rejoints par d’autres collectifs, le Comité humain se met à écrire la loi avec les habitants, depuis les témoignages de ceux qui n’arrivent pas à accomplir les démarches qu’on leur demande. Manifestations, séances d’écriture publique, délibérations publiques, parlement de rues… Le Comité implique les habitants, notamment contre l’ordonnance Bruxelles numérique qui veut rendre obligatoire les services publics digitalisés, sans garantir le maintien des guichets humains et rejoint la mobilisation coordonnée par le collectif Lire et écrire et plus de 200 associations. Devant le Parlement belge, le Comité humain organise des parlements humains de rue pour réclamer des guichets ! Suite à leur action, l’ordonnance Bruxelles numérique est amendée d’un nouvel article qui détermine des obligations pour les administrations à prévoir un accès par guichet, téléphone et voie postale – mais prévoit néanmoins la possibilité de s’en passer si les charges sont disproportionnées. Le collectif œuvre désormais à attaquer l’ordonnance devant la cour constitutionnelle belge et continue sa lutte pour refuser l’obligation au numérique.

Mais l’essentiel n’est pas que dans la victoire à venir, mais bien dans la force de la mobilisation et des propositions réalisées. Le Code du numérique ce sont d’abord 8 articles de lois amendés et discutés par des centaines d’habitants. L’article 1er rappelle que tous les services publics doivent proposer un accompagnement humain. Il rappelle que “si un robot ne nous comprend pas, ce n’est pas nous le problème”. Que cet accès doit être sans condition, c’est-à-dire gratuit, avec des temps d’attente limités, “sans rendez-vous”, sans obligation de maîtrise de la langue ou de l’écriture. Que l’accompagnement humain est un droit. Que ce coût ne doit pas reposer sur d’autres, que ce soit les proches, les enfants, les aidants ou les travailleurs sociaux. Que l’Etat doit veiller à cette accessibilité humaine et qu’il doit proposer aux citoyen.nes des procédures gratuites pour faire valoir leurs droits. L’article 2 rappelle que c’est à l’Etat d’évaluer l’utilité et l’efficacité des nouveaux outils numériques qu’il met en place : qu’ils doivent aider les citoyens et pas seulement les contrôler. Que cette évaluation doit associer les utilisateurs, que leurs impacts doivent être contrôlés, limités et non centralisés. L’article 3 rappelle que l’Etat doit créer ses propres outils et que les démarches administratives ne peuvent pas impliquer le recours à un service privé. L’article 4 suggère de bâtir des alternatives aux solutions numériques qu’on nous impose. L’article 5 suggère que leur utilisation doit être contrainte et restreinte, notamment selon les lieux ou les âges et souligne que l’apprentissage comme l’interaction entre parents et écoles ne peut être conditionnée par des outils numériques. L’article 6 en appelle à la création d’un label rendant visible le niveau de dangerosité physique ou mentale des outils, avec des possibilités de signalement simples. L’article 7 milite pour un droit à pouvoir se déconnecter sans se justifier. Enfin, l’article 8 plaide pour une protection des compétences humaines et de la rencontre physique, notamment dans le cadre de l’accès aux soins. “Tout employé.e/étudiant.e/patient.e/client.e a le droit d’exiger de rencontrer en face à face un responsable sur un lieu physique”. L’introduction de nouveaux outils numériques doit être développée et validée par ceux qui devront l’utiliser.

Derrière ces propositions de lois, simples, essentielles… la vraie richesse du travail du Comité humain du numérique est de proposer, de donner à lire un recueil de paroles qu’on n’entend nulle part. Les propos des habitants, des individus confrontés à la transformation numérique du monde, permettent de faire entendre des voix qui ne parviennent plus aux oreilles des concepteurs du monde. Des paroles simples et fortes. Georges : “Ce que je demanderai aux politiciens ? C’est de nous protéger de tout ça.” Anthony : “Internet devait être une plateforme et pas une vie secondaire”. Nora : “En tant qu’assistante sociale, le numérique me surresponsabilise et rend le public surdépendant de moi. Je suis le dernier maillon de la chaîne, l’échec social passe par moi. Je le matérialise”. Amina : “Je ne sais pas lire, je ne sais pas écrire. Mais je sais parler. Le numérique ne me laisse pas parler”. Aïssatou : “Maintenant tout est trop difficile. S’entraider c’est la vie. Avec le numérique il n’y a plus personne pour aider”. Khalid : “Qu’est-ce qui se passe pour les personnes qui n’ont pas d’enfant pour les aider ?” Elise : “Comment s’assurer qu’il n’y a pas de discrimination ?” Roger : “Le numérique est utilisé pour décourager les démarches”, puisque bien souvent on ne peut même pas répondre à un courriel. AnaÎs : “Il y a plein d’infos qui ne sont pas numérisées, car elles n’entrent pas dans les cases. La passation d’information est devenue très difficile”… Le Code du numérique nous “redonne à entendre les discours provenant des classes populaires”, comme nous y invitait le chercheur David Gaborieau dans le rapport “IA : la voie citoyenne”.

Le Code du numérique nous rappelle que désormais, les institutions s’invitent chez nous, dans nos salons, dans nos lits. Il rappelle que l’accompagnement humain sera toujours nécessaire pour presque la moitié de la population. Que “l’aide au remplissage” des documents administratifs ne peut pas s’arrêter derrière un téléphone qui sonne dans le vide. Que “la digitalisation des services publics et privés donne encore plus de pouvoir aux institutions face aux individus”. Que beaucoup de situations n’entreront jamais dans les “cases” prédéfinies.Le Code du numérique n’est pas qu’une expérience spécifique et située, rappellent ses porteurs. “Il est là pour que vous vous en empariez”. Les lois proposées sont faites pour être débattues, modifiées, amendées, adaptées. Les auteurs ont créé un jeu de cartes pour permettre à d’autres d’organiser un Parlement humain du numérique. Il détaille également comment créer son propre Comité humain, invite à écrire ses propres lois depuis le recueil de témoignages des usagers, en ouvrant le débat, en écrivant soi-même son Code, ses lois, à organiser son parlement et documente nombre de méthodes et d’outils pour interpeller, mobiliser, intégrer les contributions. Bref, il invite à ce que bien d’autres Code du numérique essaiment, en Belgique et bien au-delà ! A chacun de s’en emparer.

Cet article a été publié originellement pour la lettre d’information du Conseil national du numérique du 23 mai 2025.

Les chercheurs Arvind Narayanan et Sayash Kapoor – dont nous avions chroniqué le livre, AI Snake Oil – signent pour le Knight un long article pour démonter les risques existentiels de l’IA générale. Pour eux, l’IA est une « technologie normale ». Cela ne signifie pas que son impact ne sera pas profond, comme l’électricité ou internet, mais cela signifie qu’ils considèrent « l’IA comme un outil dont nous pouvons et devons garder le contrôle, et nous soutenons que cet objectif ne nécessite ni interventions politiques drastiques ni avancées technologiques ». L’IA n’est pas appelée à déterminer elle-même son avenir, expliquent-ils. Les deux chercheurs estiment que « les impacts économiques et sociétaux transformateurs seront lents (de l’ordre de plusieurs décennies) ».

Selon eux, dans les années à venir « une part croissante du travail des individus va consister à contrôler l’IA ». Mais surtout, considérer l’IA comme une technologie courante conduit à des conclusions fondamentalement différentes sur les mesures d’atténuation que nous devons y apporter, et nous invite, notamment, à minimiser le danger d’une superintelligence autonome qui viendrait dévorer l’humanité.

La vitesse du progrès est plus linéaire qu’on le pense 

« Comme pour d’autres technologies à usage général, l’impact de l’IA se matérialise non pas lorsque les méthodes et les capacités s’améliorent, mais lorsque ces améliorations se traduisent en applications et se diffusent dans les secteurs productifs de l’économie« , rappellent les chercheurs, à la suite des travaux de Jeffrey Ding dans son livre, Technology and the Rise of Great Powers: How Diffusion Shapes Economic Competition (Princeton University Press, 2024, non traduit). Ding y rappelle que la diffusion d’une innovation compte plus que son invention, c’est-à-dire que l’élargissement des applications à d’innombrables secteurs est souvent lent mais décisif. Pour Foreign Affairs, Ding pointait d’ailleurs que l’enjeu des politiques publiques en matière d’IA ne devraient pas être de s’assurer de sa domination sur le cycle d’innovation, mais du rythme d’intégration de l’IA dans un large éventail de processus productifs. L’enjeu tient bien plus à élargir les champs d’application des innovations qu’à maîtriser la course à la puissance, telle qu’elle s’observe actuellement.

En fait, rappellent Narayanan et Kapoor, les déploiements de l’IA seront, comme dans toutes les autres technologies avant elle, progressifs, permettant aux individus comme aux institutions de s’adapter. Par exemple, constatent-ils, la diffusion de l’IA dans les domaines critiques pour la sécurité est lente. Même dans le domaine de « l’optimisation prédictive », c’est-à-dire la prédiction des risques pour prendre des décisions sur les individus, qui se sont multipliées ces dernières années, l’IA n’est pas très présente, comme l’avaient pointé les chercheurs dans une étude. Ce secteur mobilise surtout des techniques statistiques classiques, rappellent-ils. En fait, la complexité et l’opacité de l’IA font qu’elle est peu adaptée pour ces enjeux. Les risques de sécurité et de défaillance font que son usage y produit souvent de piètres résultats. Sans compter que la réglementation impose déjà des procédures qui ralentissent les déploiements, que ce soit la supervision des dispositifs médicaux ou l’IA Act européen. D’ailleurs, “lorsque de nouveaux domaines où l’IA peut être utilisée de manière significative apparaissent, nous pouvons et devons les réglementer ».

Même en dehors des domaines critiques pour la sécurité, l’adoption de l’IA est plus lente que ce que l’on pourrait croire. Pourtant, de nombreuses études estiment que l’usage de l’IA générative est déjà très fort. Une étude très commentée constatait qu’en août 2024, 40 % des adultes américains utilisaient déjà l’IA générative. Mais cette percée d’utilisation ne signifie pas pour autant une utilisation intensive, rappellent Narayanan et Kapoor – sur son blog, Gregory Chatonksy ne disait pas autre chose, distinguant une approche consumériste d’une approche productive, la seconde était bien moins maîtrisée que la première. L’adoption est une question d’utilisation du logiciel, et non de disponibilité, rappellent les chercheurs. Si les outils sont désormais accessibles immédiatement, leur intégration à des flux de travail ou à des habitudes, elle, prend du temps. Entre utiliser et intégrer, il y a une différence que le nombre d’utilisateurs d’une application ne suffit pas à distinguer. L’analyse de l’électrification par exemple montre que les gains de productivité ont mis des décennies à se matérialiser pleinement, comme l’expliquait Tim Harford. Ce qui a finalement permis de réaliser des gains de productivité, c’est surtout la refonte complète de l’agencement des usines autour de la logique des chaînes de production électrifiées. 

Les deux chercheurs estiment enfin que nous sommes confrontés à des limites à la vitesse d’innovation avec l’IA. Les voitures autonomes par exemple ont mis deux décennies à se développer, du fait des contraintes de sécurité nécessaires, qui, fort heureusement, les entravent encore. Certes, les choses peuvent aller plus vite dans des domaines non critiques, comme le jeu. Mais très souvent, “l’écart entre la capacité et la fiabilité” reste fort. La perspective d’agents IA pour la réservation de voyages ou le service clients est moins à risque que la conduite autonome, mais cet apprentissage n’est pas simple à réaliser pour autant. Rien n’assure qu’il devienne rapidement suffisamment fiable pour être déployé. Même dans le domaine de la recommandation sur les réseaux sociaux, le fait qu’elle s’appuie sur des modèles d’apprentissage automatique n’a pas supprimé la nécessité de coder les algorithmes de recommandation. Et dans nombre de domaines, la vitesse d’acquisition des connaissances pour déployer de l’IA est fortement limitée en raison des coûts sociaux de l’expérimentation. Enfin, les chercheurs soulignent que si l’IA sait coder ou répondre à des examens, comme à ceux du barreau, mieux que des humains, cela ne recouvre pas tous les enjeux des pratiques professionnelles réelles. En fait, trop souvent, les indicateurs permettent de mesurer les progrès des méthodes d’IA, mais peinent à mesurer leurs impacts ou l’adoption, c’est-à-dire l’intensité de son utilisation. Kapoor et Narayanan insistent : les impacts économiques de l’IA seront progressifs plus que exponentiels. Si le taux de publication d’articles sur l’IA affiche un doublement en moins de deux ans, on ne sait pas comment cette augmentation de volume se traduit en progrès. En fait, il est probable que cette surproduction même limite l’innovation. Une étude a ainsi montré que dans les domaines de recherche où le volume d’articles scientifiques est plus élevé, il est plus difficile aux nouvelles idées de percer. 

L’IA va rester sous contrôle 

Le recours aux concepts flous d’« intelligence » ou de « superintelligence » ont obscurci notre capacité à raisonner clairement sur un monde doté d’une IA avancée. Assez souvent, l’intelligence elle-même est assez mal définie, selon un spectre qui irait de la souris à l’IA, en passant par le singe et l’humain. Mais surtout, “l’intelligence n’est pas la propriété en jeu pour analyser les impacts de l’IA. C’est plutôt le pouvoir – la capacité à modifier son environnement – ​​qui est en jeu”. Nous ne sommes pas devenus puissants du fait de notre intelligence, mais du fait de la technologie que nous avons utilisé pour accroître nos capacités. La différence entre l’IA et les capacités humaines reposent surtout dans la vitesse. Les machines nous dépassent surtout en terme de vitesse, d’où le fait que nous les ayons développé surtout dans les domaines où la vitesse est en jeu.  

“Nous prévoyons que l’IA ne sera pas en mesure de surpasser significativement les humains entraînés (en particulier les équipes humaines, et surtout si elle est complétée par des outils automatisés simples) dans la prévision d’événements géopolitiques (par exemple, les élections). Nous faisons la même prédiction pour les tâches consistant à persuader les gens d’agir contre leur propre intérêt”. En fait, les systèmes d’IA ne seront pas significativement plus performants que les humains agissant avec l’aide de l’IA, prédisent les deux chercheurs.

Mais surtout, insistent-ils, rien ne permet d’affirmer que nous perdions demain la main sur l’IA. D’abord parce que le contrôle reste fort, des audits à la surveillance des systèmes en passant par la sécurité intégrée. “En cybersécurité, le principe du « moindre privilège » garantit que les acteurs n’ont accès qu’aux ressources minimales nécessaires à leurs tâches. Les contrôles d’accès empêchent les personnes travaillant avec des données et des systèmes sensibles d’accéder à des informations et outils confidentiels non nécessaires à leur travail. Nous pouvons concevoir des protections similaires pour les systèmes d’IA dans des contextes conséquents. Les méthodes de vérification formelle garantissent que les codes critiques pour la sécurité fonctionnent conformément à leurs spécifications ; elles sont désormais utilisées pour vérifier l’exactitude du code généré par l’IA.” Nous pouvons également emprunter des idées comme la conception de systèmes rendant les actions de changement d’état réversibles, permettant ainsi aux humains de conserver un contrôle significatif, même dans des systèmes hautement automatisés. On peut également imaginer de nouvelles idées pour assurer la sécurité, comme le développement de systèmes qui apprennent à transmettre les décisions aux opérateurs humains en fonction de l’incertitude ou du niveau de risque, ou encore la conception de systèmes agents dont l’activité est visible et lisible par les humains, ou encore la création de structures de contrôle hiérarchiques dans lesquelles des systèmes d’IA plus simples et plus fiables supervisent des systèmes plus performants, mais potentiellement peu fiables. Pour les deux chercheurs, “avec le développement et l’adoption de l’IA avancée, l’innovation se multipliera pour trouver de nouveaux modèles de contrôle humain”.

Pour eux d’ailleurs, à l’avenir, un nombre croissant d’emplois et de tâches humaines seront affectés au contrôle de l’IA. Lors des phases d’automatisation précédentes, d’innombrables méthodes de contrôle et de surveillance des machines ont été inventées. Et aujourd’hui, les chauffeurs routiers par exemple, ne cessent de contrôler et surveiller les machines qui les surveillent, comme l’expliquait Karen Levy. Pour les chercheurs, le risque de perdre de la lisibilité et du contrôle en favorisant l’efficacité et l’automatisation doit toujours être contrebalancée. Les IA mal contrôlées risquent surtout d’introduire trop d’erreurs pour rester rentables. Dans les faits, on constate plutôt que les systèmes trop autonomes et insuffisamment supervisés sont vite débranchés. Nul n’a avantage à se passer du contrôle humain. C’est ce que montre d’ailleurs la question de la gestion des risques, expliquent les deux chercheurs en listant plusieurs types de risques. 

La course aux armements par exemple, consistant à déployer une IA de plus en plus puissante sans supervision ni contrôle adéquats sous prétexte de concurrence, et que les acteurs les plus sûrs soient supplantés par des acteurs prenant plus de risques, est souvent vite remisée par la régulation. “De nombreuses stratégies réglementaires sont mobilisables, que ce soient celles axées sur les processus (normes, audits et inspections), les résultats (responsabilité) ou la correction de l’asymétrie d’information (étiquetage et certification).” En fait, rappellent les chercheurs, le succès commercial est plutôt lié à la sécurité qu’autre chose. Dans le domaine des voitures autonomes comme dans celui de l’aéronautique, “l’intégration de l’IA a été limitée aux normes de sécurité existantes, au lieu qu’elles soient abaissées pour encourager son adoption, principalement en raison de la capacité des régulateurs à sanctionner les entreprises qui ne respectent pas les normes de sécurité”. Dans le secteur automobile, pourtant, pendant longtemps, la sécurité n’était pas considérée comme relevant de la responsabilité des constructeurs. mais petit à petit, les normes et les attentes en matière de sécurité se sont renforcées. Dans le domaine des recommandations algorithmiques des médias sociaux par contre, les préjudices sont plus difficiles à mesurer, ce qui explique qu’il soit plus difficile d’imputer les défaillances aux systèmes de recommandation. “L’arbitrage entre innovation et réglementation est un dilemme récurrent pour l’État régulateur”. En fait, la plupart des secteurs à haut risque sont fortement réglementés, rappellent les deux chercheurs. Et contrairement à l’idée répandue, il n’y a pas que l’Europe qui régule, les Etats-Unis et la Chine aussi ! Quant à la course aux armements, elle se concentre surtout sur l’invention des modèles, pas sur l’adoption ou la diffusion qui demeurent bien plus déterminantes pourtant. 

Répondre aux abus. Jusqu’à présent, les principales défenses contre les abus se situent post-formation, alors qu’elles devraient surtout se situer en aval des modèles, estiment les chercheurs. Le problème fondamental est que la nocivité d’un modèle dépend du contexte, contexte souvent absent du modèle, comme ils l’expliquaient en montrant que la sécurité n’est pas une propriété du modèle. Le modèle chargé de rédiger un e-mail persuasif pour le phishing par exemple n’a aucun moyen de savoir s’il est utilisé à des fins marketing ou d’hameçonnage ; les interventions au niveau du modèle seraient donc inefficaces. Ainsi, les défenses les plus efficaces contre le phishing ne sont pas les restrictions sur la composition des e-mails (qui compromettraient les utilisations légitimes), mais plutôt les systèmes d’analyse et de filtrage des e-mails qui détectent les schémas suspects, et les protections au niveau du navigateur. Se défendre contre les cybermenaces liées à l’IA nécessite de renforcer les programmes de détection des vulnérabilités existants plutôt que de tenter de restreindre les capacités de l’IA à la source. Mais surtout, “plutôt que de considérer les capacités de l’IA uniquement comme une source de risque, il convient de reconnaître leur potentiel défensif. En cybersécurité, l’IA renforce déjà les capacités défensives grâce à la détection automatisée des vulnérabilités, à l’analyse des menaces et à la surveillance des surfaces d’attaque”. “Donner aux défenseurs l’accès à des outils d’IA puissants améliore souvent l’équilibre attaque-défense en leur faveur”. En modération de contenu, par exemple, on pourrait mieux mobiliser l’IA peut aider à identifier les opérations d’influence coordonnées. Nous devons investir dans des applications défensives plutôt que de tenter de restreindre la technologie elle-même, suggèrent les chercheurs. 

Le désalignement. Une IA mal alignée agit contre l’intention de son développeur ou de son utilisateur. Mais là encore, la principale défense contre le désalignement se situe en aval plutôt qu’en amont, dans les applications plutôt que dans les modèles. Le désalignement catastrophique est le plus spéculatif des risques, rappellent les chercheurs. “La crainte que les systèmes d’IA puissent interpréter les commandes de manière catastrophique repose souvent sur des hypothèses douteuses quant au déploiement de la technologie dans le monde réel”. Dans le monde réel, la surveillance et le contrôle sont très présents et l’IA est très utile pour renforcer cette surveillance et ce contrôle. Les craintes liées au désalignement de l’IA supposent que ces systèmes déjouent la surveillance, alors que nous avons développés de très nombreuses formes de contrôle, qui sont souvent d’autant plus fortes et redondantes que les décisions sont importantes. 

Les risques systémiques. Si les risques existentiels sont peu probables, les risques systémiques, eux, sont très courants. Parmi ceux-ci figurent “l’enracinement des préjugés et de la discrimination, les pertes d’emplois massives dans certaines professions, la dégradation des conditions de travail, l’accroissement des inégalités, la concentration du pouvoir, l’érosion de la confiance sociale, la pollution de l’écosystème de l’information, le déclin de la liberté de la presse, le recul démocratique, la surveillance de masse et l’autoritarisme”. “Si l’IA est une technologie normale, ces risques deviennent bien plus importants que les risques catastrophiques évoqués précédemment”. Car ces risques découlent de l’utilisation de l’IA par des personnes et des organisations pour promouvoir leurs propres intérêts, l’IA ne faisant qu’amplifier les instabilités existantes dans notre société. Nous devrions bien plus nous soucier des risques cumulatifs que des risques décisifs.

Politiques de l’IA

Narayanan et Kapoor concluent leur article en invitant à réorienter la régulation de l’IA, notamment en favorisant la résilience. Pour l’instant, l’élaboration des politiques publiques et des réglementations de l’IA est caractérisée par de profondes divergences et de fortes incertitudes, notamment sur la nature des risques que fait peser l’IA sur la société. Si les probabilités de risque existentiel de l’IA sont trop peu fiables pour éclairer les politiques, il n’empêche que nombre d’acteurs poussent à une régulation adaptée à ces risques existentiels. Alors que d’autres interventions, comme l’amélioration de la transparence, sont inconditionnellement utiles pour atténuer les risques, quels qu’ils soient. Se défendre contre la superintelligence exige que l’humanité s’unisse contre un ennemi commun, pour ainsi dire, concentrant le pouvoir et exerçant un contrôle centralisé sur l’IA, qui risque d’être un remède pire que le mal. Or, nous devrions bien plus nous préoccuper des risques cumulatifs et des pratiques capitalistes extractives que l’IA amplifie et qui amplifient les inégalités. Pour nous défendre contre ces risques-ci, pour empêcher la concentration du pouvoir et des ressources, il nous faut rendre l’IA puissante plus largement accessible, défendent les deux chercheurs. 

Ils recommandent d’ailleurs plusieurs politiques. D’abord, améliorer le financement stratégique sur les risques. Nous devons obtenir de meilleures connaissances sur la façon dont les acteurs malveillants utilisent l’IA et améliorer nos connaissances sur les risques et leur atténuation. Ils proposent également d’améliorer la surveillance des usages, des risques et des échecs, passant par les déclarations de transparences, les registres et inventaires, les enregistrements de produits, les registres d’incidents (comme la base de données d’incidents de l’IA) ou la protection des lanceurs d’alerte… Enfin, il proposent que les “données probantes” soient un objectif prioritaire, c’est-à-dire d’améliorer l’accès de la recherche.

Dans le domaine de l’IA, la difficulté consiste à évaluer les risques avant le déploiement. Pour améliorer la résilience, il est important d’améliorer la responsabilité et la résilience, plus que l’analyse de risque, c’est-à-dire des démarches de contrôle qui ont lieu après les déploiements. “La résilience exige à la fois de minimiser la gravité des dommages lorsqu’ils surviennent et la probabilité qu’ils surviennent.” Pour atténuer les effets de l’IA nous devons donc nous doter de politiques qui vont renforcer la démocratie, la liberté de la presse ou l’équité dans le monde du travail. C’est-à-dire d’améliorer la résilience sociétale au sens large. 

Pour élaborer des politiques technologiques efficaces, il faut ensuite renforcer les capacités techniques et institutionnelles de la recherche, des autorités et administrations. Sans personnels compétents et informés, la régulation de l’IA sera toujours difficile. Les chercheurs invitent même à “diversifier l’ensemble des régulateurs et, idéalement, à introduire la concurrence entre eux plutôt que de confier la responsabilité de l’ensemble à un seul régulateur”.

Par contre, Kapoor et Narayanan se défient fortement des politiques visant à promouvoir une non-prolifération de l’IA, c’est-à-dire à limiter le nombre d’acteurs pouvant développer des IA performantes. Les contrôles à l’exportation de matériel ou de logiciels visant à limiter la capacité des pays à construire, acquérir ou exploiter une IA performante, l’exigence de licences pour construire ou distribuer une IA performante, et l’interdiction des modèles d’IA à pondération ouverte… sont des politiques qui favorisent la concentration plus qu’elles ne réduisent les risques. “Lorsque de nombreuses applications en aval s’appuient sur le même modèle, les vulnérabilités de ce modèle peuvent être exploitées dans toutes les applications”, rappellent-ils.

Pour les deux chercheurs, nous devons “réaliser les avantages de l’IA”, c’est-à-dire accélérer l’adoption des bénéfices de l’IA et atténuer ses inconvénients. Pour cela, estiment-ils, nous devons être plus souples sur nos modalités d’intervention. Par exemple, ils estiment que pour l’instant catégoriser certains domaines de déploiement de l’IA comme à haut risque est problématique, au prétexte que dans ces secteurs (assurance, prestation sociale ou recrutement…), les technologies peuvent aller de la reconnaissance optique de caractères, relativement inoffensives, à la prise de décision automatisées dont les conséquences sont importantes. Pour eux, il faudrait seulement considérer la prise de décision automatisée dans ces secteurs comme à haut risque. 

Un autre enjeu repose sur l’essor des modèles fondamentaux qui a conduit à une distinction beaucoup plus nette entre les développeurs de modèles, les développeurs en aval et les déployeurs (parmi de nombreuses autres catégories). Une réglementation insensible à ces distinctions risque de conférer aux développeurs de modèles des responsabilités en matière d’atténuation des risques liés à des contextes de déploiement particuliers, ce qui leur serait impossible en raison de la nature polyvalente des modèles fondamentaux et de l’imprévisibilité de tous les contextes de déploiement possibles.

Enfin, lorsque la réglementation établit une distinction binaire entre les décisions entièrement automatisées et celles qui ne le sont pas, et ne reconnaît pas les degrés de surveillance, elle décourage l’adoption de nouveaux modèles de contrôle de l’IA. Or de nombreux nouveaux modèles sont proposés pour garantir une supervision humaine efficace sans impliquer un humain dans chaque décision. Il serait imprudent de définir la prise de décision automatisée de telle sorte que ces approches engendrent les mêmes contraintes de conformité qu’un système sans supervision. Pour les deux chercheurs, “opposer réglementation et diffusion est un faux compromis, tout comme opposer réglementation et innovation”, comme le disait Anu Bradford. Pour autant, soulignent les chercheurs, l’enjeu n’est pas de ne pas réguler, mais bien de garantir de la souplesse. La législation garantissant la validité juridique des signatures et enregistrement électroniques promulguée en 2000 aux Etats-Unis a joué un rôle déterminant dans la promotion du commerce électronique et sa diffusion. La législation sur les petits drones mise en place par la Federal Aviation Administration en 2016 a permis le développement du secteur par la création de pilotes certifiés. Nous devons trouver pour l’IA également des réglementations qui favorisent sa diffusion, estiment-ils. Par exemple, en facilitant “la redistribution des bénéfices de l’IA afin de les rendre plus équitables et d’indemniser les personnes qui risquent de subir les conséquences de l’automatisation. Le renforcement des filets de sécurité sociale contribuera à atténuer l’inquiétude actuelle du public face à l’IA dans de nombreux pays”. Et les chercheurs de suggérer par exemple de taxer les entreprises d’IA pour soutenir les industries culturelles et le journalisme, mis à mal par l’IA. En ce qui concerne l’adoption par les services publics de l’IA, les gouvernements doivent trouver le juste équilibre entre une adoption trop précipitée qui génère des défaillances et de la méfiance, et une adoption trop lente qui risque de produire de l’externalisation par le secteur privé.

Il reste difficile de suivre ce qui se déroule de l’autre côté de l’Atlantique depuis l’arrivée de Trump au pouvoir, ce démantèlement de l’Amérique, comme nous l’appelions. Nous avons tenté également de faire le point de ce qu’était le Doge, de quelle efficacité il était le nom, à savoir un piratage, un remplacement démocratique, une porte ouverte pour la corruption et l’escroquerie… Depuis, les articles s’accumulent encore. Un son de cloche complémentaire le présente souvent comme une privatisation inédite des services publics. Explorons cette piste. 

Une privatisation inédite : les délégataires aux commandes

Le Doge tient d’une privatisation inédite des services publics, assène Brett Heinz pour The American Prospect, rappelant que si Musk a dépensé 290 millions de dollars pour l’élection de Trump, ses entreprises ont reçu plus de 38 milliards de dollars d’aides gouvernementales au cours des deux dernières décennies. 

En fait, le Doge ne vise pas à accroître l’efficacité gouvernementale, mais bien à démanteler la fonction publique en ciblant les dépenses que Musk et Trump désapprouvent, tout en centralisant le pouvoir décisionnel à la Maison Blanche. Mais surtout, le Doge entérine une nouvelle stratégie : « l’accession de sous-traitants gouvernementaux comme Musk au rang de décideurs politiques ». Ce sont ceux qu’on appellerait en France les délégataires des services publics qui prennent les commandes. 

« La seule classe parasitaire qui profite de l’inefficacité du gouvernement est constituée de sous-traitants gouvernementaux à but lucratif comme Musk, qui s’enrichissent sur l’argent des contribuables en fournissant des services hors de prix pour compenser le manque de capacités de l’État, tout en utilisant leurs milliards pour manipuler le système à leur avantage. Permettre à des sous-traitants comme lui de décider de la façon dont le gouvernement dépense l’argent est à la fois un affront à la démocratie et une invitation ouverte à davantage de corruption », explique Heinz.

« La plupart des Américains ignorent à quel point leur gouvernement a déjà été privatisé. On estimait en 2017 que plus de 40 % des personnes travaillant pour le gouvernement ne sont pas réellement des fonctionnaires. Ce sont des sous-traitants d’entreprises privées, embauchés pour prendre en charge une tâche particulière du secteur public. Dans certains secteurs gouvernementaux, comme l’armée, le recours aux sous-traitants est monnaie courante : en 2019, on comptait 1,5 sous-traitant pour chaque soldat américain en Irak et en Afghanistan. »

Pour le dire autrement, le gouvernement fédéral ne souffre pas d’un effectif pléthorique, au contraire : il y a moins d’employés fédéraux en 2015 qu’en 1984. Par contre, la sous-traitance privée, elle, a explosé. « Entre 2013 et 2023, les dépenses totales consacrées à l’attribution de contrats fédéraux ont augmenté de près de 65 % ». 

La croyance dans l’efficacité de la sous-traitance privée n’a jamais été corroborée par des preuves solides, rappelle Heinz. Reste que, désormais, ces contractants ne veulent pas seulement résoudre pour plus cher les problèmes du secteur public, ils veulent aussi pouvoir décider, pour le gouvernement, de la nature du problème. « Les entrepreneurs ne veulent pas simplement obéir aux ordres du gouvernement, mais fonctionner comme un para-État capable d’influencer les ordres que le gouvernement leur donne. À l’instar du rêve de Musk de construire des voitures autonomes, l’industrie rêve d’un entrepreneur auto-contractant. Et Musk lui-même teste ce concept. » Brett Heinz rappelle que les rafles de données du Doge ont d’abord ciblé des agences fédérales où Musk avait des conflits d’intérêts. « En le qualifiant d’ailleurs d’« employé spécial du gouvernement », la Maison Blanche lui impose des normes éthiques moins strictes que la plupart des fonctionnaires qu’il licencie. » Et Musk n’est pas le seul sous-traitant du gouvernement à y étendre son pouvoir. « On entend souvent dire que le gouvernement devrait être géré « davantage comme une entreprise ». Le cas du Doge nous montre pourtant le contraire. Si nous voulions réellement un gouvernement plus efficace, il faudrait réduire le nombre de sous-traitants et embaucher davantage de fonctionnaires, souvent plus rentables et toujours plus responsables et transparents. Musk fait le contraire, offrant à ses entreprises et alliés davantage d’opportunités d’intervenir et de proposer des travaux surévalués et de qualité douteuse. »

L’effondrement des services publics

Le Washington Post raconte l’effondrement de la Sécurité sociale américaine. L’agence fédérale, qui verse 1 500 milliards de dollars par an en prestations sociales à 73 millions de retraités, à leurs survivants et aux Américains pauvres et handicapés a vu ses effectifs fondre. Son site web est souvent en panne depuis que le Doge a pris les commandes, empêchant de nombreux bénéficiaires de mettre à jour leurs demandes ou d’obtenir des informations sur des aides qui ne viennent plus. 12% des 57 000 employés ont été licenciés. Des milliers d’Américains s’inquiètent auprès de leurs députés ou de l’agence des versements à venir. « La sécurité sociale est la principale source de revenus d’environ 40 % des Américains âgés ». En sous-effectif et en manque de budgets de fonctionnement depuis longtemps, la purge est en train de laminer ce qu’il restait du service. Mais, face aux retraités inquiets, les employés ont peu de réponses à apporter, et ce alors que les escroqueries en ligne se multiplient, profitant de l’aubaine que l’inquiétude génère auprès d’eux. Certains bureaux estiment que les gens pourraient être privés de prestations pendant des mois. 

Wired rapporte que le Doge a décidé de réécrire le code du système de la Sécurité sociale américaine, afin de se débarrasser du langage Cobol avec lequel il a été écrit depuis l’origine et que peu de développeurs maîtrisent. Réécrire ce code en toute sécurité prendrait des années : le Doge souhaite que cela se fasse en quelques mois. Qu’importe si cela bloque les versements d’allocation de millions d’Américains. 

En 2020, pour Logic Mag, Mar Hicks avait exploré les enjeux du langage Cobol depuis lequel nombre d’applications des services publics sont construites (et pas seulement aux Etats-Unis, notamment parce que ces systèmes sont souvent anciens, héritages de formes de calcul précédant l’arrivée d’internet). Mar Hicks rappelait déjà que ce vieux langage de programmation avait été, durant la pandémie, un bouc-émissaire idéal pour expliquer la défaillance de nombre de services publics à répondre à l’accroissement des demandes d’aides des administrés. Pourtant depuis 6 décennies, les programmes écrits en Cobol se sont révélés extrêmement robustes, très transparents et très accessibles. C’est sa grande accessibilité et sa grande lisibilité qui a conduit les informaticiens à le dénigrer d’ailleurs, lui préférant des langages plus complexes, valorisant leurs expertises d’informaticiens. Le problème c’est que ces systèmes nécessitent surtout une maintenance constante. Or, c’est celle-ci qui a fait souvent défaut, notamment du fait des logiques d’austérité qui ont réduit le personnel en charge de la maintenance des programmes. “C’est ce manque d’investissement dans le personnel, dû à l’austérité, plutôt que la fiction répandue selon laquelle les programmeurs aux compétences obsolètes partaient à la retraite, qui a éliminé les programmeurs Cobol des années avant cette récente crise.“ Hicks souligne que nous ne manquons pas de programmeurs Cobol. En fait, explique-t-elle : “la technologie actuelle pourrait bénéficier davantage de la résilience et de l’accessibilité que Cobol a apportées à l’informatique, en particulier pour les systèmes à fort impact”. 

“Les systèmes anciens ont de la valeur, et construire constamment de nouveaux systèmes technologiques pour des profits à court terme au détriment des infrastructures existantes n’est pas un progrès. En réalité, c’est l’une des voies les plus régressives qu’une société puisse emprunter ». “Le bonheur et le malheur d’une bonne infrastructure, c’est que lorsqu’elle fonctionne, elle est invisible : ce qui signifie que trop souvent, nous n’y accordons pas beaucoup d’attention. Jusqu’à ce qu’elle s’effondre”.

En 2019, dans une tribune pour le New Yorker, Miriam Posner explique le rôle du logiciel dans les chaînes d’approvisionnement, pour mieux nous en pointer les limites. Si les chaînes logistiques ne sont pas éthiques, c’est parce que l’éthique n’est pas une donnée que traite leurs logiciels. Explication.

Professeure à l’université de Californie et spécialiste des questions technologiques, Miriam Posner signe dans le New Yorker une très intéressante tribune sur la transformation logicielle de la chaîne logistique.

En consultant un rapport (« cauchemardesque ») du China Labor Watch (l’Observatoire du travail en Chine, une association qui informe et dénonce les conditions de travail sur les chaînes de fabrication des usines chinoises) sur les conditions de fabrication de jouets en Chine, Miriam Posner s’interrogeait : comment se fait-il que nous ne sachions pas mieux tracer l’origine des produits que nous consommons ?

De l’abstraction des chaînes d’approvisionnements

Quand elle a demandé à ses étudiants de travailler sur la question de la chaîne d’approvisionnement de matériel électronique, elle s’est rendu compte que, quand bien même certaines entreprises se vantent de connaître et maîtriser leur chaîne logistique de bout en bout, aucune ne sait exactement d’où proviennent les composants qu’elles utilisent. « Cette ignorance est inhérente au mode de fonctionnement des chaînes d’approvisionnement ». La coque de plastique d’une télévision par exemple peut-être construite dans une petite usine n’employant que quelques personnes qui n’interagit qu’avec des fournisseurs et acheteurs adjacents (un fournisseur de plastique et une entreprise de montage par exemple). Cette intrication favorise la modularité : si une entreprise cesse son activité, ses partenaires immédiats peuvent la remplacer rapidement, sans nécessairement avoir à consulter qui que ce soit, ce qui rend la chaîne très souple et adaptable… Mais rend également très difficile l’identification des multiples maillons de la chaîne logistique.

Nous avons une vision souvent abstraite des chaînes d’approvisionnements que nous n’imaginons que comme des chaînes physiques. Or leur gestion est devenue complètement virtuelle, logicielle. Les personnes qui conçoivent et coordonnent ces chaînes logicielles elles non plus ne voient ni les usines, ni les entrepôts, ni les travailleurs. Elles regardent des écrans et des tableurs : leur vision de la chaîne d’approvisionnement est tout aussi abstraite que la nôtre, explique la chercheuse.

Le leader logiciel de la chaîne d’approvisionnement est l’allemand SAP. SAP est une suite logicielle que vous ne pouvez pas télécharger sur l’App Store. C’est un logiciel industriel spécialisé qui se déploie à l’échelle d’entreprises pour piloter la chaîne d’approvisionnement (et qui comprend de nombreux modules additionnels de comptabilité ou de ressources humaines). Pour comprendre son fonctionnement, Miriam Posner a suivi une formation en ligne dédiée.

Le logiciel est complexe. Il se présente comme un ensemble de dossiers de fichiers qu’on peut agencer pour former la chaîne d’approvisionnement (commande, fabrication, emballage, expéditions…). La conception d’une chaîne est un processus qui implique plusieurs opérateurs et entreprises, sous forme de « composants ». Un spécialiste de la demande par exemple entre des informations sur les ventes passées (variations saisonnières, promotions planifiées, etc.) et le logiciel calcule combien de produits doivent être fabriqués. Un autre spécialiste utilise des informations sur les délais d’expéditions, les coûts de stockage, les capacités d’usine pour créer un « plan de réseau logistique » qui détermine le moment où chaque engrenage du processus de fabrication doit tourner. Ce plan est ensuite transmis à un autre spécialiste pour planifier la production et calculer le calendrier détaillé qui vont déterminer la manière dont le processus se déroulera sur le terrain le plus précisément possible. Tout cela prend la forme de séries de feuilles de calcul, de cases à cocher, de fenêtres contextuelles… qui n’est pas sans rappeler l’analyse que faisait Paul Dourish sur la matérialité de l’information qui s’incarne aujourd’hui dans le tableur. C’est « pourtant là que les prévisions de marchés sont traduites en ordre de marche des travailleurs », explique Posner. La planification de la production et le calendrier détaillé reposent sur des « heuristiques », des algorithmes intégrés qui répartissent la production et donc la main d’oeuvre pour que les installations fonctionnent à leur capacité maximale. D’ailleurs, souligne Miriam Posner, l’exécution d’une heuristique implique de cliquer sur un bouton de l’interface qui ressemble à une petite baguette magique, comme s’il suffisait d’une action simple pour activer la chaîne.

L’utilisation de SAP est difficile reconnaît la chercheuse. Chaque tâche est compliquée à configurer, avec d’innombrables paramètres à valider. Le plus souvent, ce travail est divisé et nécessite de multiples interventions différentes. En fait, « aucun individu ne possède une image détaillée de l’ensemble de la chaîne d’approvisionnement. Au lieu de cela, chaque spécialiste sait seulement ce dont ses voisins ont besoin. »

« Dans un tel système, un sentiment d’inévitabilité s’installe. Les données dictent un ensemble de conditions qui doivent être remplies, mais rien n’explique comment ces données ont été obtenues. Pendant ce temps, le logiciel joue un rôle actif, en peaufinant le plan pour répondre aux conditions le plus efficacement possible. Les optimiseurs intégrés de SAP déterminent comment répondre aux besoins de la production avec le moins de « latence » et au moindre coût possible (le logiciel suggère même comment optimiser un conteneur pour économiser sur les frais d’expédition). Cela implique que des composants particuliers deviennent disponibles à des moments particuliers. Les conséquences de cette optimisation incessante sont bien documentées. Les sociétés qui commandent des produits transmettent leurs demandes déterminées par calcul à leurs sous-traitants, qui exercent ensuite une pression extraordinaire sur leurs employés. Ainsi, China Labour Watch a constaté que les travailleurs de la ville de Heyuan en Chine chargés de fabriquer une poupée Disney que Miriam a achetée à ses enfants (vendue au prix 26,40 $) travaillent vingt-six jours par mois, assemblent entre 1800 et 2500 poupées par jour et gagnent un centime pour chaque poupée qu’ils complètent. »

De la distance spatiale, temporelle et informationnelle

Pour la chercheuse, le défi majeur dans la gestion de la chaîne d’approvisionnement est la grande distance – « spatiale, temporelle et informationnelle » – qui sépare le processus du monde réel de la fabrication et de la consommation. Ces distances introduisent de nombreux problèmes, comme l’effet « coup de fouet », qui consiste à ce que chaque niveau produise plus que prévu pour mieux répondre à la demande ou ajuster ses bénéfices avec ses coûts. Le battement d’ailes d’un consommateur peut-être amplifié de manière démesurée par la chaîne. En fait, la demande temps réel du pilotage que produit le logiciel ne correspond pas vraiment à la réalité effective des multiples chaînes de production, où chaque acteur fait ses ajustements (qui prennent en compte d’autres commandes, des délais, la disponibilité de fournitures ou la surproduction pour réduire les coûts…). Pourtant, le logiciel procède d’une vision qui maximise le temps réel et donne l’illusion d’être au coeur de la tour de contrôle de la production.

L’autre effet coup de fouet, bien sûr, s’applique directement aux travailleurs des différentes usines prestataires de la chaîne. Quand les exigences des commandes parviennent jusqu’aux travailleurs, elles se révèlent plus exigeantes et plus punitives.

Dans le numéro 4 de l’excellent magazine Logic, Miriam Posner avait déjà livré une réflexion sur le sujet. Elle y rappelait déjà que si les questions de l’architecture physique de la chaîne d’approvisionnement mondialisée était souvent étudiée (notamment dans The Box de Marc Levinson qui s’intéressait au rôle du conteneur ou encore dans The Deadly life of logistics de Deborah Cowen), ce n’était pas beaucoup le cas de son aspect logiciel comme des échanges de données et d’informations qui la sous-tendent. L’industrie logicielle de la gestion de la chaîne d’approvisionnement est pourtant l’un des domaines d’activité qui connaît la plus forte croissance, mais qui opère de manière assez discrète, car les informations qu’elle traite sont très concurrentielles. Amazon, par exemple, n’est pas tant un commerçant qu’une chaîne d’approvisionnement incarnée et peu de personnes connaissent le logiciel qui l’optimise. Pour Leonardo Bonanni, PDG de Sourcemap, une entreprise qui aide les entreprises à construire leurs chaînes d’approvisionnement, l’incapacité des entreprises à visualiser cette chaîne est une fonction même de l’architecture logicielle. Pour Miriam Posner, le terme de chaîne d’approvisionnement est finalement trompeur : cette chaîne « ressemble beaucoup plus à un réseau de voies navigables, avec des milliers de minuscules affluents composés de sous-traitants qui s’écoulent dans de plus grandes rivières d’assemblage, de production et de distribution. »

Pour Bonanni, nous ne voyons qu’une parcelle des abus sur les lieux de travail qui sont portés à notre connaissance : c’est surtout le cas de quelques chaînes prestigieuses, comme dans l’électronique grand public. Mais les conditions de travail sont souvent plus opaques et les abus plus répandus dans d’autres industries, comme l’habillement ou l’agriculture, des lieux où la chaîne se recompose à chaque approvisionnement, à chaque saison, avec un nombre de noeuds et de sous-traitants, qui sont loin d’être tous intégrés à la chaîne logicielle. Les usines géantes de Foxcon masquent d’innombrables petits ateliers et usines beaucoup moins présentables qui permettent à la chaîne d’être extrêmement résiliente et robuste. En fait, « il n’y a pas de tour de contrôle supervisant les réseaux d’approvisionnement », les noeuds ne parlent qu’à leurs voisins immédiats.

Du rôle de l’échelle pour gérer l’information et de la modularité pour gérer la complexité

« Ces infrastructures physiques distribuées ressemblent finalement beaucoup au réseau invisible qui les rend possibles : internet ». À chaque étape de la transformation, le produit est transformé en marchandise. Et l’information qui l’accompagnait transformée à son tour. Du plastique devient une coque qui devient une télévision… En fait, la transformation et l’échelle d’action impliquent une perte d’information. Pour récupérer une tonne d’or, vous devez en acheter à plein d’endroits différents que la fonte va transformer en une marchandise unique : la tonne d’or que vous vendez.

Un fonctionnement assez proche de la programmation modulaire, remarque Miriam Posner. La programmation modulaire est une méthode familière à tout programmeur et architecte de systèmes. Elle consiste à gérer la complexité par des unités fonctionnelles distinctes. Chaque programmeur travaille ainsi sur un module qui s’interface aux autres en spécifiant les entrées et sorties où les modalités qu’il prend en charge. Les systèmes modulaires permettent notamment de gérer la complexité et d’améliorer un module sans avoir à toucher les autres : chacun étant une sorte de « boite noire » vis-à-vis des autres.

Comme l’explique Andrew Russell, historien de l’informatique, la modularité, née dans l’architecture, a été un moyen de structurer les organisations comme l’économie. « C’est une sorte de caractéristique de la modernité ». Et les chaînes d’approvisionnement sont hautement modulaires, à l’image du conteneur, standardisé et interchangeable, qui peut contenir n’importe quoi pour se rendre n’importe où, ce qui permet aux marchandises transportées de passer à l’échelle globale.

« Les informations sur la provenance, les conditions de travail et l’impact sur l’environnement sont difficiles à gérer lorsque l’objectif de votre système est simplement de fournir et d’assembler des produits rapidement. « Vous pouvez imaginer une manière différente de faire les choses, de sorte que vous sachiez tout cela », explique Russell, « afin que votre regard soit plus immersif et continu. Mais ce que cela fait, c’est inhiber l’échelle ». Et l’échelle, bien sûr, est la clé d’une économie mondialisée. »

Pour Miriam Posner, le passage à l’échelle – la fameuse scalabilité – explique pourquoi les branches d’un réseau d’approvisionnement disparaissent. Cela aide également à expliquer pourquoi la syndicalisation transnationale a été si difficile : pour répondre aux demandes du marché, les ateliers ont appris à se rendre interchangeables. Un peu comme si « nous avions assimilé les leçons de la modularité d’une manière psychologique ».

La traçabilité de bout en bout ! Mais pour quelle transparence ?

Reste à savoir si la technologie peut remédier au problème qu’elle a créé. Miriam Posner constate que l’internet des objets et la blockchain sont deux technologies qui ont reçu beaucoup d’engouements chez les praticiens des systèmes de gestion de la chaîne d’approvisionnement.

La première permet de localiser et tracer les composants alors que la seconde permet d’y attacher un numéro d’identification et un journal qui enregistre chaque fois qu’une fourniture change de main. Leurs partisans affirment que ces technologies pourraient apporter une transparence radicale aux chaînes d’approvisionnement mondiales. Le problème est que l’une comme l’autre peuvent vite être vidées de leurs sens si elles ne sont qu’une chaîne d’enregistrement de prestataires, sans informations sur leurs pratiques. Et ni l’une ni l’autre ne résolvent les problèmes liés à la transformation de produits. Pour Bonanni, elles ne résolvent pas non plus le manque de visibilité : quand tout le monde est incité à agir toujours plus rapidement et efficacement, il est difficile d’imaginer qui sera chargé de fournir plus d’informations que nécessaire. Si ces technologies pourraient certes fournir des informations détaillées sur les conditions de travail et le respect des normes de sécurité, il reste difficile de croire que l’internet des objets et la blockchain, qui sont surtout des objets techniques visant à accroître l’efficacité, le contrôle, la rapidité et la sécurité des informations puissent devenir demain des moyens pour s’assurer de chaînes d’approvisionnement socialement responsables.

Dans le domaine de la gestion des chaînes d’approvisionnement, l’autre technologie source d’innovation, c’est bien sûr l’apprentissage automatique, via des algorithmes capables de faire de meilleures prévisions et de prendre des décisions. Appliqué à la chaîne logistique, le machine learning pourrait aider à déterminer les fournisseurs et les itinéraires qui livreront les marchandises de la manière la plus rapide et la plus fiable. Les algorithmes pourraient prédire les performances des fournisseurs et des transporteurs, en leur attribuant des scores de risques selon l’historique de leurs résultats. Et demain, les réseaux d’approvisionnement pourraient se reconfigurer automatiquement, de manière dynamique, selon cette évaluation de risques… Pas sûr que cette piste améliore la cécité collective des outils, pointe Posner. Pas sûr non plus qu’elle soit si accessible quand déjà les données utilisées ne savent pas grand-chose de la qualité des fournisseurs.

En fait, ces technologies nous montrent que les spécialistes de la gestion de la chaîne logistique ne parlent pas de la même transparence ou de la même visibilité que le consommateur final. La transparence de la chaîne logistique ne vise pas à aider à comprendre d’où vient un produit, mais vise à améliorer son efficacité : diminuer le coût tout en maximisant la rapidité.

Quel levier pour transformer l’approvisionnement ?

Les défis politiques pour transformer ces constats sont immenses, conclut Miriam Posner. En l’absence de véritables efforts pour créer un contrôle démocratique des chaînes d’approvisionnement, nous en sommes venus à les considérer comme fonctionnant de manière autonome – davantage comme des forces naturelles que des forces que nous avons créées nous-mêmes.

En 2014, le Guardian a signalé que des migrants birmans travaillaient dans des conditions qui tenaient de l’esclavagisme à bord de crevettiers au large des côtes thaïlandaises. Pour un importateur de crevettes, l’esclavagisme semblait un symptôme plus qu’une cause des modalités d’approvisionnement elles-mêmes. Et effectivement, il est possible d’avoir une chaîne d’approvisionnement parfaitement efficace, mais également parfaitement ignorante des conditions de travail qu’elle implique.

Reste que nous avons construit les réseaux décentralisés tels qu’ils opèrent, rappelle la chercheuse. L’anthropologue Anna Tsing dans ses travaux sur la chaîne d’approvisionnement souligne que Walmart par exemple exige un contrôle parfait sur certains aspects de sa chaîne d’approvisionnement : notamment sur les prix et les délais de livraison, et ce au détriment d’autres aspects comme les pratiques de travail. L’absence d’information sur certains aspects de la chaîne d’approvisionnement est profondément liée à un système conçu pour s’adapter à la variété de produits que nous produisons et à la rapidité avec lesquelles nous les produisons. Et cette absence d’information est intégrée dans les logiciels mêmes qui produisent la mondialisation. Exiger une chaîne logistique plus transparente et plus juste nécessite d’intégrer des informations que peu d’entreprises souhaitent utiliser, notamment parce que par nature, elles remettent en question les paradigmes de l’efficacité et de la scalabilité qui les font fonctionner.

Hubert Guillaud

Cet article a été publié originellement sur InternetActu.net, le 17 mars 2019.

En 2022, Ben Tarnoff fait paraître Internet for the people, the fight for the future, un livre essentiel pour comprendre les conséquences de la privatisation d’internet. Retour de lecture.

Ben Tarnoff est un chercheur et un penseur important des réseaux. Éditeur de l’excellent Logic Mag, il est également l’un des membres de la Collective action in tech, un réseau pour documenter et faire avancer les mobilisations des travailleurs de la tech. 

Il a publié notamment un manifeste, The Making of tech worker movement – dont avait rendu compte Irénée Régnauld dans Mais où va le web ? -, ainsi que Voices from the Valley, un recueil de témoignages des travailleurs de la tech. Critique engagé, ces dernières années, Tarnoff a notamment proposé, dans une remarquable tribune pour Jacobin, d’abolir les outils numériques pour le contrôle social (« Certains services numériques ne doivent pas être rendus moins commodes ou plus démocratiques, mais tout simplement abolis »), ou encore, pour The Guardian, de dé-informatiser pour décarboner le monde (en invitant à réfléchir aux activités numériques que nous devrions suspendre, arrêter, supprimer). Il publie ce jour son premier essai, Internet for the people, the fight of your digital future (Verso, 2022, non traduit). 

Internet for the People n’est pas une contre-histoire de l’internet, ni une histoire populaire du réseau (qui donnerait la voix à ceux qui ne font pas l’histoire, comme l’avait fait l’historien Howard Zinn), c’est avant tout l’histoire de notre déprise, de comment nous avons été dépossédé d’internet, et comment nous pourrions peut-être reconquérir le réseau des réseaux. C’est un livre souvent amer, mais assurément politique, qui tente de trouver les voies à des alternatives pour nous extraire de l’industrialisation du net. Sa force, assurément, est de très bien décrire comment l’industrialisation s’est structurée à toutes les couches du réseau. Car si nous avons été dépossédés, c’est bien parce qu’internet a été privatisé par devers nous, si ce n’est contre nous. 

« Les réseaux ont toujours été essentiels à l’expansion capitaliste et à la globalisation. Ils participent à la création des marchés, à l’extraction des ressources, à la division et à la distribution du travail. » Pensez au rôle du télégraphe dans l’expansion coloniale par exemple, comme aux câbles sous-marins qui empruntent les routes maritimes des colons comme des esclaves – tout comme les données et processus de reporting standardisés ont été utilisés pour asseoir le commerce triangulaire et pour distancier dans et par les chiffres la réalité des violences commises par l’esclavage, comme l’explique l’historienne Caitlin Rosenthal dans son livre Accounting for Slavery : Masters & Management.

« La connectivité n’est jamais neutre. La croissance des réseaux a toujours été guidée par le désir de puissance et de profit. Ils n’ont pas été conduits pour seulement convoyer de l’information, mais comme des mécanismes pour forger des relations de contrôle. » La défiance envers le monde numérique et ses effets n’a cessé de monter ces dernières années, dénonçant la censure, la désinformation, la surveillance, les discriminations comme les inégalités qu’il génère. Nous sommes en train de passer du techlash aux technoluttes, d’une forme d’animosité à l’égard du numérique à des luttes dont l’objet est d’abattre la technologie… c’est-à-dire de dresser le constat qu’internet est brisé et que nous devons le réparer. Pour Tarnoff, la racine du problème est pourtant simple : « l’internet est brisé parce que l’internet est un business ». Même « un internet appartenant à des entreprises plus petites, plus entrepreneuriales, plus régulées, restera un internet qui marche sur le profit », c’est-à-dire « un internet où les gens ne peuvent participer aux décisions qui les affectent ». L’internet pour les gens sans les gens est depuis trop longtemps le mode de fonctionnement de l’industrie du numérique, sans que rien d’autre qu’une contestation encore trop timorée ne vienne le remettre en cause. 

Privatisation partout, justice nulle part

L’internet n’a pas toujours eu la forme qu’on lui connaît, rappelle Tarnoff. Né d’une manière expérimentale dans les années 70, c’est à partir des années 90 que le processus de privatisation s’enclenche. Cette privatisation « n’est pas seulement un transfert de propriété du public au privé, mais un mouvement plus complexe où les entreprises ont programmé le moteur du profit à chaque niveau du réseau », que ce soit au niveau matériel, logiciel, législatif ou entrepreneurial… « Certaines choses sont trop petites pour être observées sans un microscope, d’autres trop grosses pour être observées sans métaphores ». Pour Tarnoff, nous devons regarder l’internet comme un empilement (stack, qui est aussi le titre du livre de Benjamin Bratton qui décompose et cartographie les différents régimes de souveraineté d’internet, qui se superposent et s’imbriquent les uns dans les autres), un agencement de tuyaux et de couches technologiques qui le compose, qui va des câbles sous-marins aux sites et applications d’où nous faisons l’expérience d’internet. Avec le déploiement d’internet, la privatisation est remontée des profondeurs de la pile jusqu’à sa surface. « La motivation au profit n’a pas seulement organisé la plomberie profonde du réseau, mais également chaque aspect de nos vies en ligne ».

En cela, Internet for the people se veut un manifeste, dans le sens où il rend cette histoire de la privatisation manifeste. Ainsi, le techlash ne signifie rien si on ne le relie pas à l’héritage de cette dépossession. Les inégalités d’accès comme la propagande d’extrême droite qui fleurit sur les médias sociaux sont également les conséquences de ces privatisations. « Pour construire un meilleur internet (ou le réparer), nous devons changer la façon dont il est détenu et organisé. Pas par un regard consistant à améliorer les marchés, mais en cherchant à les rendre moins dominants. Non pas pour créer des marchés ou des versions de la privatisation plus compétitifs ou réglementés, mais pour les renverser ». 

« La “déprivatisation” vise à créer un internet où les gens comptent plus que les profits ». Nous devons prendre le contrôle collectif des espaces en ligne, où nos vies prennent désormais place. Pour y parvenir, nous devons développer et encourager de nouveaux modèles de propriété qui favorisent la gouvernance collective et la participation, nous devons créer des structures qui favorisent ce type d’expérimentations. Or, « les contours précis d’un internet démocratique ne peuvent être découverts que par des processus démocratiques, via des gens qui s’assemblent pour construire le monde qu’ils souhaitent ». C’est à en créer les conditions que nous devons œuvrer, conclut Tarnoff dans son introduction. 

Coincés dans les tuyaux

Dans la première partie de son livre, Tarnoff s’intéresse d’abord aux tuyaux en nous ramenant aux débuts du réseau. L’internet n’est alors qu’un langage, qu’un ensemble de règles permettant aux ordinateurs de communiquer. À la fin des années 70, il est alors isolé des forces du marché par les autorités qui financent un travail scientifique de long terme. Il implique des centaines d’individus qui collaborent entre eux à bâtir ces méthodes de communication. C’est l’époque d’Arpanet où le réseau bénéficie de l’argent de la Darpa (l’agence de la Défense américaine chargée du développement des nouvelles technologies) et également d’une éthique open source qui va encourager la collaboration et l’expérimentation, tout comme la créativité scientifique. « C’est l’absence de motivation par le profit et la présence d’une gestion publique qui rend l’invention d’internet possible ». 

C’est seulement dans les années 90 que les choses changent. Le gouvernement américain va alors céder les tuyaux à des entreprises, sans rien exiger en retour. Le temps de l’internet des chercheurs est fini. Or, explique Tarnoff, la privatisation n’est pas venue de nulle part, elle a été planifiée. En cause, le succès de l’internet de la recherche. NSFNet, le réseau de la Fondation nationale pour la science qui a succédé à Arpanet en 1985, en excluant les activités commerciales, a fait naître en parallèle les premiers réseaux privés. Avec l’invention du web, qui rend l’internet plus convivial (le premier site web date de 1990, le navigateur Mosaic de 1993), les entreprises parviennent à proposer les premiers accès commerciaux à NSFNet en 1991. En fait, le réseau national des fondations scientifiques n’a pas tant ouvert l’internet à la compétition : il a surtout transféré l’accès à des opérateurs privés, sans leur imposer de conditions et ce, très rapidement. 

En 1995, la privatisation des tuyaux est achevée. Pour tout le monde, à l’époque, c’était la bonne chose à faire, si ce n’est la seule. Il faut dire que les années 90 étaient les années d’un marché libre triomphant. La mainmise sur l’internet n’est finalement qu’une mise en application de ces idées, dans un moment où la contestation n’était pas très vive, notamment parce que les utilisateurs n’étaient encore pas très nombreux pour défendre un autre internet. D’autres solutions auraient pu être possibles, estime Tarnoff. Mais plutôt que de les explorer, nous avons laissé l’industrie dicter unilatéralement ses conditions. Pour elle, la privatisation était la condition à la popularisation d’internet. C’était un faux choix, mais le seul qui nous a été présenté, estime Tarnoff. L’industrie a récupéré une technologie patiemment développée par la recherche publique. La dérégulation des télécoms concomitante n’a fait qu’accélérer les choses. Pour Tarnoff, nous avons raté les alternatives. Les profits les ont en tout cas fermé. Et le «pillage » a continué. L’épine dorsale d’internet est toujours la propriété de quelques entreprises qui pour beaucoup sont alors aussi devenues fournisseurs d’accès. La concentration de pouvoir prévaut à tous les niveaux, à l’image des principales entreprises qui organisent et possèdent l’information qui passent dans les réseaux. Google, Netflix, Facebook, Microsoft, Apple et Amazon comptent pour la moitié du trafic internet. La privatisation nous a promis un meilleur service, un accès plus large, un meilleur internet. Pourtant, le constat est inverse. Les Américains payent un accès internet parmi les plus chers du monde et le moins bon. Quant à ceux qui sont trop pauvres ou trop éloignés du réseau, ils continuent à en être exclus. En 2018, la moitié des Américains n’avaient pas accès à un internet à haut débit. Et cette déconnexion est encore plus forte si en plus d’habiter loin des villes vous avez peu de revenus. Aux États-Unis, l’accès au réseau demeure un luxe. 

Mais l’internet privé n’est pas seulement inéquitable, il est surtout non-démocratique. Les utilisateurs n’ont pas participé et ne participent toujours pas aux choix de déploiements techniques que font les entreprises pour eux, comme nous l’ont montré, très récemment, les faux débats sur la 5G. « Les marchés ne vous donnent pas ce dont vous avez besoin, ils vous donnent ce que vous pouvez vous offrir ». « Le profit reste le principe qui détermine comment la connectivité est distribuée ». 

Pourtant, insiste Tarnoff, des alternatives existent aux monopoles des fournisseurs d’accès. En 1935, à Chattanooga, dans le Tennessee, la ville a décidé d’être propriétaire de son système de distribution d’électricité, l’Electric Power Board. En 2010, elle a lancé une offre d’accès à haut débit, The Gig, qui est la plus rapide et la moins chère des États-Unis, et qui propose un accès même à ceux qui n’en ont pas les moyens. C’est le réseau haut débit municipal le plus célèbre des États-Unis. Ce n’est pas le seul. Quelque 900 coopératives à travers les États-Unis proposent des accès au réseau. Non seulement elles proposent de meilleurs services à petits prix, mais surtout, elles sont participatives, contrôlées par leurs membres qui en sont aussi les utilisateurs. Toutes privilégient le bien social plutôt que le profit. Elles n’ont pas pour but d’enrichir les opérateurs. À Detroit, ville particulièrement pauvre et majoritairement noire, la connexion a longtemps été désastreuse. Depuis 2016, le Detroit Community Technology Project (DCTP) a lancé un réseau sans fil pour bénéficier aux plus démunis. Non seulement la communauté possède l’infrastructure, mais elle participe également à sa maintenance et à son évolution. DCTP investit des habitants en « digital stewards » chargés de maintenir le réseau, d’éduquer à son usage, mais également de favoriser la connectivité des gens entre eux, assumant par là une fonction politique à la manière de Community organizers. 

Pour Tarnoff, brancher plus d’utilisateurs dans un internet privatisé ne propose rien pour changer l’internet, ni pour changer sa propriété, ni son organisation, ni la manière dont on en fait l’expérience. Or, ces expériences de réseaux locaux municipaux défient la fable de la privatisation. Elles nous montrent qu’un autre internet est possible, mais surtout que l’expérience même d’internet n’a pas à être nécessairement privée. La privatisation ne décrit pas seulement un processus économique ou politique, mais également un processus social qui nécessite des consommateurs passifs et isolés les uns des autres. À Detroit comme à Chattanooga, les utilisateurs sont aussi des participants actifs à la croissance, à la maintenance, à la gouvernance de l’infrastructure. Tarnoff rappelle néanmoins que ces réseaux municipaux ont été particulièrement combattus par les industries du numériques et les fournisseurs d’accès. Mais contrairement à ce que nous racontent les grands opérateurs de réseaux, il y a des alternatives. Le problème est qu’elles ne sont pas suffisamment défendues, étendues, approfondies… Pour autant, ces alternatives ne sont pas magiques. « La décentralisation ne signifie pas automatiquement démocratisation : elle peut servir aussi à concentrer le pouvoir plus qu’à le distribuer ». Internet reste un réseau de réseau et les nœuds d’interconnections sont les points difficiles d’une telle topographie. Pour assurer l’interconnexion, il est nécessaire également de « déprivatiser » l’épine dorsale des interconnexions de réseaux, qui devrait être gérée par une agence fédérale ou une fédération de coopératives. Cela peut sembler encore utopique, mais si l’internet n’est déprivatisé qu’à un endroit, cela ne suffira pas, car cela risque de créer des zones isolées, marginales et surtout qui peuvent être facilement renversées – ce qui n’est pas sans rappeler le délitement des initiatives de réseau internet sans fil communautaire, comme Paris sans fil, mangés par la concurrence privée et la commodité de service qu’elle proposent que nous évoquions à la fin de cet article. 

Dans les années 90, quand la privatisation s’est installée, nous avons manqué de propositions, d’un mouvement en défense d’un internet démocratique, estime Tarnoff. Nous aurions pu avoir, « une voie publique sur les autoroutes de l’information ». Cela n’a pas été le cas. 

Désormais, pour déprivatiser les tuyaux (si je ne me trompe pas, Tarnoff n’utilise jamais le terme de nationalisation, un concept peut-être trop loin pour le contexte américain), il faut résoudre plusieurs problèmes. L’argent, toujours. Les cartels du haut débit reçoivent de fortes injections d’argent public notamment pour étendre l’accès, mais sans rien vraiment produire pour y remédier. Nous donnons donc de l’argent à des entreprises qui sont responsables de la crise de la connectivité pour la résoudre ! Pour Tarnoff, nous devrions surtout rediriger les aides publiques vers des réseaux alternatifs, améliorer les standards d’accès, de vitesse, de fiabilité. Nous devrions également nous assurer que les réseaux publics locaux fassent du respect de la vie privée une priorité, comme l’a fait à son époque la poste, en refusant d’ouvrir les courriers ! Mais, si les lois et les régulations sont utiles, « le meilleur moyen de garantir que les institutions publiques servent les gens, est de favoriser la présence de ces gens à l’intérieur de ces institutions ». Nous devons aller vers des structures de gouvernances inclusives et expansives, comme le défendent Andrew Cumbers et Thomas Hanna dans « Constructing the Democratic Public Entreprise »(.pdf) (à prolonger par le rapport Democratic Digital Infrastructure qu’a publié Democracy Collaborative, le laboratoire de recherche et développement sur la démocratisation de l’économie).

Coincés dans les plateformes

Les années 90 sont les années du web. En 1995, l’internet ne ressemble plus tout à fait à un réseau de recherche. Avec 45 millions d’utilisateurs et 23 500 sites web, l’internet commence à se transformer. Chez Microsoft, Bill Gates annonce qu’internet sera leur priorité numéro un. Jeff Bezos lance Amazon. Pierre Omidyar AuctionWeb, qui deviendra eBay. C’est le début des grandes entreprises de l’internet, de celles qui deviendront des « plateformes », un terme qui mystifie plus qu’il n’éclaircit, qui permet de projeter sur la souveraineté qu’elles conquièrent une aura d’ouverture et de neutralité, quand elles ne font qu’ordonner et régir nos espaces digitaux. Si la privatisation d’internet a commencé par les fondements, les tuyaux, au mitan des années 90, cette phase est terminée. « La prochaine étape consistera à maximiser les profits dans les étages supérieurs, dans la couche applicative, là où les utilisateurs utilisent l’internet ». C’est le début de la bulle internet jusqu’à son implosion. 

eBay a survécu au crash des années 2000 parce qu’elle était l’une des rares exceptions aux startups d’alors. eBay avait un business model et est devenu très rapidement profitable. eBay a aussi ouvert un modèle : l’entreprise n’a pas seulement offert un espace à l’activité de ses utilisateurs, son espace a été constitué par eux, en les impliquant dans son développement, selon les principes de ce qu’on appellera ensuite le web 2.0. La valeur technique de l’internet a toujours été ailleurs. Sociale plus que technique, estime Tarnoff (pour ma part, je pense que ce n’est pas si clair, l’industrialisation inédite qui s’est construite avec le numérique, n’est pas uniquement sociale, elle me semble surtout économique et politique). 

En 1971, quand Ray Tomlinson invente le mail, celui-ci devient très rapidement très populaire et représente très vite l’essentiel du trafic du premier réseau. L’e-mail a humanisé le réseau. Les échanges avec les autres sont rapidement devenu l’attraction principale. Avec eBay, Omidyar va réussir à refondre sa communauté en marché. Le succès des plateformes du web 2.0 va consister à «fusionner les relations sociales aux relations de marché », par trois leviers : la position d’intermédiaire (entre acheteurs et vendeurs), la souveraineté (la plateforme façonne les interactions, écrits les règles, fonctionne comme un législateur et un architecte) et bien sûr les effets réseaux (plus les gens utilisent, plus l’espace prend de la valeur). La couche applicative de l’internet va ainsi se transformer en vastes centres commerciaux : des environnements clos, qui vont tirer leurs revenus à la fois de la rente que procurent ces espaces pour ceux qui veulent en bénéficier et de la revente de données le plus souvent sous forme publicitaire (mais pas seulement). La collecte et l’analyse de données vont d’ailleurs très vite devenir la fonction primaire de ces « centres commerciaux en ligne ». « La donnée a propulsé la réorganisation de l’internet », à l’image de Google qui l’a utilisé pour améliorer son moteur, puis pour vendre de la publicité, lui permettant de devenir, dès 2002, profitable. C’est la logique même du Capitalisme de surveillance de Shoshana Zuboff. Une logique qui préexistait aux entreprises de l’internet, comme le raconte le pionnier des études sur la surveillance, Oscar H. Gandy, dans ses études sur les médias de masse, les banques ou les compagnies d’assurances, mais qui va, avec la circulation des données, élargir la surface de sa surveillance. 

Malgré toutes ses faiblesses (vous atteignez surtout les catégories produites par les systèmes que la réalité des gens, c’est-à-dire la manière dont le système caractérise les usagers, même si ces caractères se révèlent souvent faux parce que calculés), la surveillance des utilisateurs pour leur livrer de la publicité ciblée va construire les principaux empires des Gafams que nous connaissons encore aujourd’hui. Si la publicité joue un rôle essentiel dans la privatisation, les  «Empires élastiques » des Gafams, comme les appels Tarnoff, ne vont pas seulement utiliser l’analyse de données pour vendre des biens et de la publicité, ils vont aussi l’utiliser pour créer des places de marché pour les moyens de production, c’est-à-dire produire du logiciel pour l’internet commercial. 

« Quand le capitalisme transforme quelque chose, il tend à ajouter plus de machinerie », rappelle Tarnoff avec les accents de Pièces et Main d’œuvre. Avec les applications, les pages internet sont devenues plus dynamiques et complexes, « conçues pour saisir l’attention des utilisateurs, stimuler leur engagement, liées pour élaborer des systèmes souterrains de collecte et d’analyse des données ». « Les centres commerciaux en ligne sont devenus les lieux d’un calcul intensif. Comme le capitalisme a transformé l’atelier en usine, la transformation capitaliste d’internet a produit ses propres usines », qu’on désigne sous le terme de cloud, pour mieux obscurcir leur caractère profondément industriel. Ces ordinateurs utilisés par d’autres ordinateurs, rappellent l’enjeu des origines du réseau : étendre le calcul et les capacités de calcul. Tarnoff raconte ainsi la naissance, dès 2004, de l’Elastic Compute Cloud (EC2) d’Amazon par Chris Pinkham et Christopher Brown, partis en Afrique du Sud pour rationaliser les entrailles numériques de la machine Amazon qui commençait à souffrir des limites de l’accumulation de ses couches logicielles. EC2 lancé en 2006 (devenu depuis Amazon Web Services, AWS, l’offre d’informatique en nuage), va permettre de vendre des capacités informatiques et d’analyse mesurées et adaptables. Le cloud d’Amazon va permettre d’apporter un ensemble d’outils à l’industrialisation numérique, de pousser plus loin encore la privatisation. Le Big Data puis les avancées de l’apprentissage automatisé (l’intelligence artificielle) dans les années 2010 vont continuer ces accélérations industrielles. La collecte et le traitement des données vont devenir partout un impératif. 

Dans le même temps, les utilisateurs ont conquis un internet devenu mobile. L’ordinateur devenant smartphone n’est plus seulement la machine à tout faire, c’est la machine qui est désormais partout, s’intégrant non seulement en ligne, mais jusqu’à nos espaces physiques, déployant un contrôle logiciel jusque dans nos vies réelles, à l’image d’Uber et de son management algorithmique. L’industrialisation numérique s’est ainsi étendue jusqu’à la coordination des forces de travail, dont la profitabilité a été accrue par la libéralisation du marché du travail. La contractualisation des travailleurs n’a été qu’une brèche supplémentaire dans la gestion algorithmique introduite par le déploiement sans fin de l’industrie numérique, permettant désormais de gérer les tensions sur les marchés du travail, localement comme globalement. La force de travail est elle-même gérée en nuage, à la demande. Nous voilà dans le Human Cloud que décrit Gavin Mueller dans Breaking things at Work ou David Weil dans The Fissured Workplace. 

Coincés dans les profits !

Les biens réelles abstractions de ces empires élastiques ont enfin été rendues possibles par la financiarisation sans précédent de cette nouvelle industrie. Tout l’enjeu de la privatisation d’internet, à tous les niveaux de la pile, demeure le profit, répète Tarnoff. La financiarisation de l’économie depuis les années 70 a elle aussi profité de cette industrialisation numérique… Reste que la maximisation des profits des empires élastiques semble ne plus suffire. Désormais, les entreprises de la tech sont devenues des véhicules pour la pure spéculation. La tech est l’un des rares centres de profit qui demeure dans des économies largement en berne. La tech est désormais le dernier archipel de super-profit dans un océan de stagnation. Pire, la privatisation jusqu’aux couches les plus hautes d’internet, a programmé la motivation du profit dans tous les recoins du réseau. De Comcast (fournisseur d’accès), à Facebook jusqu’à Uber, l’objectif est resté de faire de l’argent, même si cela se fait de manière très différente, ce qui implique des conséquences sociales très différentes également. Les fournisseurs d’accès vendent des accès à l’internet, au bénéfice des investisseurs et au détriment des infrastructures et de l’égalité d’accès. Dans les centres commerciaux en ligne comme Facebook, on vend la monétisation de l’activité des utilisateurs ainsi que l’appareillage techno-politique qui va avec… Dans Uber ou les plateformes du digital labor, on vend le travail lui-même au moins disant découpé en microtranches et micro-tâches… Mais tous ces éléments n’auraient pas été possibles hors d’internet. C’est la promesse d’innovation technologique qui persuade les autorités de permettre à ces entreprises à déroger aux règles communes, qui persuade les investisseurs qu’ils vont réaliser une martingale mirifique. Mais dans le fond, toutes restent des machines non démocratiques et des machines à produire des inégalités. Toutes redistribuent les risques de la même façon : « ils les poussent vers le bas, vers les plus faibles » (les utilisateurs comme les travailleurs) « et les répandent autour d’eux. Ils tirent les récompenses vers le haut et les concentrent en de moins en moins de mains ». 

Pourtant, rappelle Tarnoff, l’action collective a été le meilleur moyen pour réduire les risques, à l’image des régulations qu’ont obtenues dans le passé les chauffeurs de taxis… jusqu’à ce qu’Uber paupérise tout le monde. L’existence des chauffeurs est devenue plus précaire à mesure que la valorisation de l’entreprise s’est envolée. Le risque à terme est que la machine néolibérale programmée jusqu’au cœur même des systèmes, ubérise tout ce qui reste à ubériser, de l’agriculture à la santé, des services public à l’école jusqu’au développement logiciel lui-même. 

Pourtant, les centres commerciaux en ligne sont très gourmands en travail. Tous ont recours à une vaste force de travail invisible pour développer leurs logiciels, les maintenir, opérer les centres de données, labéliser les données… La sociologue Tressie McMillan Cottom parle d’« inclusion prédatrice » pour qualifier la dynamique de l’économie politique d’internet. C’est une logique, une organisation et une technique qui consiste à inclure les marginalisés selon des logiques extractives. C’est ce que montrait Safiya Umoja Noble dans Algorithms of oppression : les « filles noires » que l’on trouve dans une requête sur Google sont celles des sites pornos, les propositions publicitaires qui vous sont faites ne sont pas les mêmes selon votre niveau de revenu ou votre couleur de peau. Les plus exclus sont inclus, mais à la condition qu’ils absorbent les risques et renoncent aux moindres récompenses. L’oppression et les discriminations des espaces en ligne sont désormais le fait d’une boucle de rétroaction algorithmique qui ressasse nos stéréotypes pour ne plus s’en extraire, enfermant chacun dans les catégories que spécifie la machine. Nous sommes désormais pris dans une intrication, un enchevêtrement d’effets, d’amplification, de polarisation, dont nous ne savons plus comment sortir. 

Les inégalités restent cependant inséparables de la poursuite du profit pour le profit. La tech est devenue l’équivalent de l’industrie du Téflon. Pour l’instant, les critiques sont mises en quarantaine, limitées au monde de la recherche, à quelques activistes, à quelques médias indépendants. Le techlash a bien entrouvert combien la tech n’avait pas beaucoup de morale, ça n’empêche pas les scandales des brèches de données de succéder aux scandales des traitements iniques. Réformer l’internet pour l’instant consiste d’un côté à écrire de nouvelles réglementations pour limiter le pouvoir de ces monopoles. C’est le propos des New Brandeisians (faisant référence à l’avocat américain Louis Brandeis, grand réformateur américain) qui veulent rendre les marchés plus compétitifs en réduisant les monopoles des Gafams. Ces faiseurs de lois ont raison : les centres commerciaux en ligne ne sont pas assez régulés ! Reste qu’ils souhaitent toujours un internet régi par le marché, plus compétitif que concentré. Pourtant, comme le souligne Nick Srnicek, l’auteur de Capitalisme de plateforme, c’est la compétition, plus que la taille, qui nécessite toujours plus de données, de traitements, de profits… 

Pour Tarnoff, il y a une autre stratégie : la déprivatisation. « Que les marchés soient plus régulés ou plus compétitifs ne touchera pas le problème le plus profond qui est le marché lui-même. Les centres commerciaux en ligne sont conçus pour faire du profit et faire du profit est ce qui construit des machines à inégalités ».« L’exploitation des travailleurs à la tâche, le renforcement des oppressions sexistes ou racistes en ligne, l’amplification de la propagande d’extrême-droite… aucun de ces dommages sociaux n’existeraient s’ils n’étaient pas avant tout profitables. » Certes, on peut chercher à atténuer ces effets… Mais le risque est que nous soyons en train de faire comme nous l’avons fait avec l’industrie fossile, où les producteurs de charbon se mettent à la capture du CO2 plutôt que d’arrêter d’en brûler ! Pour Tarnoff, seule la déprivatisation ouvre la porte à un autre internet, tout comme les mouvements abolitionnistes et pour les droits civiques ont changé la donne en adressant finalement le coeur du problème et pas seulement ses effets (comme aujourd’hui, les mouvements pour l’abolition de la police ou de la prison).

Mais cette déprivatisation, pour l’instant, nous ne savons même pas à quoi elle ressemble. Nous commençons à savoir ce qu’il advient après la fermeture des centres commerciaux (les Etats-Unis en ont fermé beaucoup) : ils sont envahis par les oiseaux et les mauvaises herbes ! Sur l’internet, bien souvent, les noms de domaines abandonnés sont valorisés par des usines à spam ! Si nous savons que les réseaux communautaires peuvent supplanter les réseaux privés en bas de couche technologique, nous avons peu d’expérience des alternatives qui peuvent se construire en haut des couches réseaux. 

Nous avons besoin d’expérimenter l’alternet !

Nous avons besoin d’expérimenter. L’enjeu, n’est pas de remplacer chaque centre commercial en ligne par son équivalent déprivatisé, comme de remplacer FB ou Twitter par leur clone placé sous contrôle public ou coopératif et attendre des résultats différents. Cela nécessite aussi des architectures différentes. Cela nécessite d’assembler des constellations de stratégies et d’institutions alternatives, comme le dit Angela Davis quand elle s’oppose à la prison et à la police. Pour Tarnoff, nous avons besoin de construire une constellation d’alternatives. Nous devons arrêter de croire que la technologie doit être apportée aux gens, plutôt que quelque chose que nous devons faire ensemble.

Comme le dit Ethan Zuckerman dans sa vibrante défense d’infrastructures publiques numériques, ces alternatives doivent être plurielles dans leurs formes comme dans leurs buts, comme nous avons des salles de sports, des bibliothèques ou des églises pour construire l’espace public dans sa diversité. Nous avons besoin d’une décentralisation, non seulement pour combattre la concentration, mais aussi pour élargir la diversité et plus encore pour rendre possible d’innombrables niveaux de participation et donc d’innombrables degrés de démocratie. Comme Zuckerman ou Michael Kwet qui milite pour un « socialisme numérique »  avant lui, Tarnoff évoque les logiciels libres, open source, les instances distribuées, l’interopérabilité…, comme autant de leviers à cet alternumérisme. Il évoque aussi une programmation publique, un cloud public comme nous avons finalement des médias publics ou des bibliothèques. On pourrait même imaginer, à défaut de construire des capacités souveraines, d’exiger d’Amazon de donner une portion de ses capacités de traitements, à défaut de les nationaliser. Nous avons besoin d’un secteur déprivatisé plus gros, plus fort, plus puissant. 

C’est oublier pourtant que ces idées (nationaliser l’internet ou Google hier, AWS demain…) ont déjà été émises et oubliées. Déconsidérées en tout cas. Tarnoff oublie un peu de se demander pourquoi elles n’ont pas été mises en œuvre, pourquoi elles n’ont pas accroché. Qu’est-ce qui manque au changement pour qu’il ait lieu ?, semble la question rarement posée. Pour ma part, pourtant, il me semble que ce qui a fait la différence entre l’essor phénoménal de l’internet marchand et la marginalité des alternatives, c’est assurément l’argent. Même si on peut se réjouir de la naissance de quelques coopératives, à l’image de Up&Go, CoopCycle ou nombre de plateformes coopératives, les niveaux d’investissements des uns ne sont pas les niveaux d’investissements des autres. Le recul des politiques publiques à investir dans des infrastructures publiques, on le voit, tient bien plus d’une déprise que d’une renaissance. Bien sûr, on peut, avec lui, espérer que les données soient gérées collectivement, par ceux qui les produisent. Qu’elles demeurent au plus près des usagers et de ceux qui les coproduisent avec eux, comme le prônent les principes du féminisme de données et que défendent nombre de collectifs politisés (à l’image d’InterHop), s’opposant à une fluidification des données sans limites où l’ouverture sert bien trop ceux qui ont les moyens d’en tirer parti, et plus encore, profite à ceux qui veulent les exploiter pour y puiser de nouveaux gains d’efficacité dans des systèmes produits pour aller à l’encontre des gens. Pour démocratiser la conception et le développement des technologies, il faut créer des processus participatifs puissants, embarqués et embarquants. « Rien pour nous sans nous », disent les associations de handicapés, reprises par le mouvement du Design Justice.

« Écrire un nouveau logiciel est relativement simple. Créer des alternatives soutenables et capables de passer à l’échelle est bien plus difficile », conclut Tarnoff. L’histoire nous apprend que les Télécoms ont mené d’intenses campagnes pour limiter le pouvoir des réseaux communautaires, comme le pointait à son tour Cory Doctorow, en soulignant que, du recul de la neutralité du net à l’interdiction des réseaux haut débit municipaux aux US (oui, tous les Etats ne les autorisent pas, du fait de l’intense lobbying des fournisseurs d’accès privés !), les oppositions comme les régulateurs trop faibles se font dévorer par les marchés ! Et il y a fort à parier que les grands acteurs de l’internet mènent le même type de campagne à l’encontre de tout ce qui pourra les déstabiliser demain. Mais ne nous y trompons pas, souligne Tarnoff, l’offensive à venir n’est pas technique, elle est politique !

« Pour reconstruire l’internet, nous allons devoir reconstruire tout le reste ». Et de rappeler que les Luddites n’ont pas tant chercher à mener un combat d’arrière garde que d’utiliser leurs valeurs pour construire une modernité différente. Le fait qu’ils n’y soient pas parvenus doit nous inquiéter. La déprivatisation à venir doit être tout aussi inventive que l’a été la privatisation à laquelle nous avons assisté. Nous avons besoin d’un monde où les marchés comptent moins, sont moins présents qu’ils ne sont… Et ils sont certainement encore plus pesants et plus puissants avec le net que sans !

***

Tarnoff nous invite à nous défaire de la privatisation comme d’une solution alors qu’elle tient du principal problème auquel nous sommes confrontés. Derrière toute privatisation, il y a bien une priva(tisa)tion, quelque chose qui nous est enlevé, dont l’accès et l’enjeu nous est soufflé, retranché, dénié. Derrière l’industrialisation numérique, il y a une privatisation massive rappelions-nous il y a peu. Dans le numérique public même, aux mains des cabinets de conseils, l’État est plus minimal que jamais ! Même aux États-Unis, où l’État est encore plus croupion, les grandes agences vendent l’internet public à des services privés qui renforcent l’automatisation des inégalités. 

Malgré la qualité de la synthèse que livre Ben Tarnoff dans son essai, nous semblons au final tourner en rond. Sans investissements massifs et orientés vers le bien public plutôt que le profit, sans projets radicaux et leurs constellations d’alternatives, nous ne construirons ni l’internet de demain, ni un monde, et encore moins un monde capable d’affronter les ravages climatiques et les dissolutions sociales à venir. L’enjeu désormais semble bien plus de parvenir à récupérer les milliards accaparés par quelques-uns qu’autre chose ! Si nous avons certes besoin de constellations d’alternatives, il nous faut aussi saisir que ces constellations d’alternatives en sont rarement, en tout cas, que beaucoup ne sont que des projets politiques libéraux et qu’elles obscurcissent la nécessité d’alternatives qui le soient. Le secteur marchand produit nombre d’alternatives mais qui demeurent pour l’essentiel des formes de marchandisation, sans s’en extraire, à l’image de son instrumentation de la tech for good, qui conduit finalement à paupériser et vider de son sens la solidarité elle-même. Comme il le dit dans une interview pour The Verge, nous avons besoin de politiques et de mobilisations sur les enjeux numériques, pas seulement d’alternatives, au risque qu’elles n’en soient pas vraiment ! La constellation d’alternatives peut vite tourner au techwashing.  

Il manque à l’essai de Ben Tarnoff quelques lignes sur comment réaliser une nécessaire désindustrialisation du numérique (est-elle possible et comment ?), sur la nécessité d’une définanciarisation, d’une démarchandisation, d’une déséconomisation, voire d’un définancement de la tech, et donc pointer la nécessité d’autres modèles, comme l’investissement démocratique qu’explorait récemment Michael McCarthy dans Noema Mag. Et même ce changement d’orientation de nos investissements risque d’être difficile, les moyens d’influence et de lobbying des uns n’étant pas au niveau de ceux des autres, comme s’en désolent les associations de défense des droits américaines. C’est-à-dire, comme nous y invitait dans la conclusion de son dernier livre le sociologue Denis Colombi, Pourquoi sommes-nous capitalistes (malgré nous) ?, à comment rebrancher nos choix d’investissements non pas sur la base des profits financiers qu’ils génèrent, mais sur ce qu’ils produisent pour la collectivité. C’est un sujet que les spécialistes de la tech ne maîtrisent pas, certes. Mais tant qu’on demandera à la tech de produire les meilleurs rendements du marché pour les actionnaires (15% à minima !), elle restera le bras armé du capital. Pour reconstruire l’internet, il faut commencer par reconstruire tout le reste ! 

Hubert Guillaud

A propos du livre de Ben Tarnoff, Internet for the people, the fight for our digital future, Verso, 2022. Cet article est paru originellement en deux partie en juin 2022 sur le site Le vent se lève.

Les technologies des propriétaires sont en plein essor aux Etats-Unis, rapporte Tech Policy Press. Mais elles ne se limitent pas aux logiciels de tarification algorithmique de gestion immobilière, comme RealPage, dont nous vous avions déjà parlé (et que le ministère de la Justice continue de poursuivre au prétexte qu’il permettrait une entente anticoncurrentielle). Alors que la crise de l’accès au logement devient de plus en plus difficile pour nombre d’Américains, le risque est que la transformation numérique de l’immobilier devienne un piège numérique pour tous ceux à la recherche d’un logement. Le prix des loyers y devient de plus en plus inabordable. YieldStar de RealPage, influence désormais le prix de 70 % des appartements disponibles aux États-Unis et serait responsable de l’augmentation de 14% du prix de l’immobilier d’une année sur l’autre. Le développement de ces systèmes de fixation des prix coordonnés sapent l’idée que la concurrence sur le marché du logement pourrait seule protéger les locataires.

Des technologies pour harmoniser les tarifs, discriminer les locataires et accélérer les expulsions

Mais la numérisation du marché ne s’applique pas seulement au tarif des locations, elle se développe aussi pour la sélection des locataires. Alors qu’aux Etats-Unis, les propriétaires étaient souvent peu exigeants sur les antécédents des locataires, désormais, les conditions pour passer les filtres des systèmes de sélection deviennent bien plus difficiles, reposant sur une inflation de justificatifs et des techniques d’évaluation des candidats à la location particulièrement opaques, à l’image de SingleKey, l’un des leader du secteur. 9 propriétaires sur 10 passent désormais par ce type de logiciels, en contradiction avec la loi américaine sur le logement équitable, notamment du fait qu’ils produisent un taux de refus de logement plus élevé sur certaines catégories de la population. Ces systèmes reproduisent et renforcent les discriminations, et surtout, rendent la relation propriétaire-locataire plus invasive. Mais, rappelaient déjà The Markup et le New York Times en 2020, ils s’appuient sur des systèmes de vérification d’antécédents automatisés et défectueux, qui par exemple agglomèrent des données d’homonymes et démultiplient les erreurs (et les homonymies ne sont pas distribuées de façon homogène : plus de 12 millions de Latinos à travers les Etats-Unis partageraient seulement 26 noms de famille !). Les casiers judiciaires des uns y sont confondus avec ceux des autres, dans des systèmes qui font des évaluations massives pour produire des scores, dont nul n’a intérêt à vérifier la pertinence, c’est-à-dire le taux de faux-positifs (comme nous le pointions relativement aux problèmes bancaires). Soumis à aucune normes, ces systèmes produisent de la discrimination dans l’indifférence générale. L’accès aux registres judiciaires et aux registres de crédits a permis aux entreprises de « vérification d’antécédents » de se démultiplier, sans que les « vérifications » qu’elles produisent ne soient vraiment vérifiées. Contrairement aux agences de crédit bancaires, dans le domaine de la location, les agences immobilières qui les utilisent ne sont pas contraintes de partager ces rapports d’information avec les candidats rejetés. Les locataires ne savent donc pas les raisons pour lesquelles leurs candidature sont rejetées.

Mais, rapporte encore Tech Policy Press, une troisième vague technologique est désormais à l’œuvre : les technologies d’expulsion, qui aident les propriétaires à rassembler les raisons d’expulser les locataires et à en gérer les aspects administratifs. C’est le cas par exemple de Teman GateGuard, un interphone « intelligent » qui permet de surveiller le comportement des locataires et enregistrer toute violation possible d’un bail, aussi anodine soit-elle, pour aider à documenter les infractions des locataires et remettre leurs biens sur le marché. SueYa est un service pour aider les propriétaires à résilier un bail de manière anticipée. Resident Interface propose quant à lui d’expulser les locataires rapidement et facilement… Des solutions qui n’enfreignent aucune loi, rappelle pertinemment Tech Policy Press, mais qui accélèrent les expulsions. Les propriétaires américains ont procédé à 1 115 000 expulsions en 2023, soit 100 000 de plus qu’en 2022 et 600 000 de plus qu’en 2021. Sans compter que ces expulsions peuvent être inscrites au casier judiciaire et rendre plus difficile la recherche d’un autre logement, et ce alors que les logements sociaux, les refuges et les services aux sans-abri sont notoirement sous-financés et insuffisants, alors même que de plus en plus d’Etat pénalisent les personnes SDF.

Pour l’instant, les tentatives de régulation des PropTechs sont plus juridiques que techniques, notamment en renforçant le droit au logement équitable. Des villes ou Etats prennent des mesures pour limiter les vérifications des antécédents des locataires ou interdire le recours à des logiciels de fixation de prix. Des actions de groupes contre RealPage ou Yardi ou contre des plateformes de contrôle des locataires, comme SafeRent ou CoreLogic, ont également lieu. Mais, « les régulateurs et les agences ne sont pas conçus pour être les seuls à faire respecter les protections et les conditions du marché ; ils sont conçus pour créer les conditions dans lesquelles les gens peuvent faire valoir leurs propres droits ».  Les gouvernements locaux devraient soutenir publiquement la représentation juridique des locataires comme moyen d’atténuer les impacts de la crise du logement, et  créer une meilleure responsabilité pour la technologie pour rétablir l’équité dans la relation propriétaire-locataire. À l’échelle nationale, 83 % des propriétaires ont une représentation juridique, contre seulement 4 % des locataires. La ville de Cleveland par exemple a piloté une représentation publique pour les locataires, ce qui a permis à 81 % des personnes représentées d’éviter une expulsion ou un déménagement involontaire, à 88 % de celles qui cherchaient un délai supplémentaire pour déménager d’obtenir ce délai et à 94 % de celles qui cherchaient à atténuer les dommages d’y parvenir. En fait, assurer cette représentation permet d’assurer aux gens qu’ils puissent exercer leurs droits.

Les PropTechs exacerbent la crise du logement. A défaut de substituts à des logements abordables, l’enjeu est que le droit puisse continuer à protéger ceux qui en ont le plus besoin. Mais sans documenter les discriminations que cette conjonction de systèmes produit, le droit aura surement bien des difficultés à menacer les technologies.

MAJ du 16/03/2025 : Signalons que The American Prospect consacre son dernier numéro à la crise du logement américaine : l’inflation immobilière est la principale responsable de l’inflation aux Etats-Unis.

Sans mandat ni attribution claire, Musk a pris les commandes des systèmes informatiques de l’Etat fédéral (Musk n’est que conseiller du Département de l’efficacité, dirigé – on ne le sait que depuis quelques jours – par Amy Gleason). Le démantèlement en cours de l’autre côté de l’Atlantique est à l’image de ce nouveau bureau dont le cadre d’exercice est tout aussi confus que le périmètre de ses missions. Cela n’empêche pas que, depuis le 20 janvier 2025, les Doge Kids prennent partout les commandes des bases de données d’innombrables agences et ministères, alors que le Doge licencie les fonctionnaires à tour de bras et coupe les budgets. S’il est difficile de tirer la situation au clair, tant les actions sont nombreuses et polémiques (certaines décisions sont prises, réfutées, reprises, avec des décisions de justice contradictoires qui viennent les réfuter sans qu’elles ne le soient nécessairement dans les faits), à défaut d’éclaircir la confusion, essayons néanmoins de regrouper les analyses.  

Ce qu’il se passe avec le Doge depuis janvier est difficile à suivre, rappelle Brian Barrett pour Wired. Notamment parce que, contrairement à ce que Musk avait promis, le Doge ne fonctionne absolument pas d’une manière transparente, bien au contraire. Mais le peu que la presse en voit, qu’elle arrive à documenter, montre dans ses interstices, que ce qu’il se passe est pire que ce qu’elle parvient à en montrer. « La Food and Drug Administration (FDA) a annulé une réunion qui aurait dû donner des orientations sur la composition du vaccin contre la grippe de cette année. Pour l’instant, la réunion n’a pas été reprogrammée ». L’administration de la sécurité sociale va réduire son personnel de moitié. Le ministère du Logement et du Développement urbain va être réduit de 84 %. Et c’est pareil dans nombre d’administrations… « Ne pensez pas que vous recevrez vos chèques d’aide sociale à temps, que vous allez pouvoir garder vos lumières allumées »…. « Ne présumez pas que tout ce qui fonctionne aujourd’hui fonctionnera encore demain. » Surtout que si beaucoup de personnel ont été licenciés, la purge massive annoncée n’a pas encore eu lieu !

Le Doge a annoncé des correctifs sur certaines de leurs premières annonces, comme l’annulation d’un programme de l’USAID conçu pour empêcher la propagation d’Ebola. « Nous avons rétabli la prévention d’Ebola immédiatement » a-t-il été répondu face à l’alarme. Ce n’est pas le cas, rapporte le Washington Post. Un exemple qui montre qu’on ne peut même pas s’appuyer sur les déclarations.

Bref, « le Doge pour l’instant n’a fait que jeter un rocher au milieu d’un étang. Si vous pensez que c’est mauvais, attendez les répercussions ».

Le Doge : un piratage de l’intérieur ! 

« Il s’agit de la plus grande violation de données et de la plus grande violation de sécurité informatique de l’histoire de notre pays », explique un expert en sécurité informatique interrogé par The Atlantic. Comme si on assistait à un piratage informatique de l’intérieur. Partout, les fonctionnaires sont déboussolés de constater ce qu’il se passe. « Musk et son équipe pourraient agir délibérément pour extraire des données sensibles, modifier des aspects fondamentaux du fonctionnement de ces systèmes ou fournir un accès supplémentaire à des acteurs non contrôlés. Ou ils peuvent agir avec négligence ou incompétence, détruisant complètement les systèmes. Étant donné l’ampleur de ce que font ces systèmes, des services gouvernementaux clés pourraient cesser de fonctionner correctement, des citoyens pourraient être lésés et les dommages pourraient être difficiles ou impossibles à réparer ». D’innombrables données personnelles sont siphonnées sans que nulle ne sache où elles seront disséminées ni à quoi elles pourront servir. Pire, les données peuvent également être modifiées tout comme le fonctionnement de logiciels critiques. Pire encore, le Doge peut désormais cacher les preuves des modifications que ses équipes accomplissent. « Ils pourraient modifier ou manipuler les données du Trésor directement dans la base de données sans que plus personne ne puisse vérifier les modifications ». L’information sur les niveaux d’accès spécifiques dont Musk et son équipe disposent restent flous et varient probablement selon les agences et les systèmes. « Auparavant, les protocoles de sécurité étaient si stricts qu’un entrepreneur branchant un ordinateur non fourni par le gouvernement sur un port Ethernet d’un bureau d’une agence gouvernementale était considéré comme une violation majeure de la sécurité ». Nous n’en sommes absolument plus là. « Plus ces intrusions durent, plus le risque d’une compromission potentiellement fatale augmente ». Même une petite modification d’une partie du système qui a trait à la distribution des fonds pourrait faire des ravages, empêchant ces fonds d’être distribués ou les distribuant de manière incorrecte, par exemple. Les opposants de Musk et Trump devraient s’inquiéter. Demain, le fisc pourrait produire des déclarations qu’ils n’ont pas faites ou faire disparaître celles qu’ils ont faites. La corruption des bases de données de l’Etat fédéral risque de saper ce qu’il reste de confiance dans l’Etat. 

Dans les administrations, la terreur et la paranoïa règnent, explique la journaliste Karen Hao. La paralysie qui saisit les administrations américaines n’est pas que liée aux licenciements massifs, mais plus encore à la peur de dénonciation. Tous les fonctionnaires ont l’impression d’être désormais traqués par leur propre gouvernement. Nombre de fonctionnaires suspectent désormais leurs ordinateurs de les espionner pour le compte du Doge, rapporte Wired, et nombreux sont ceux qui se mettent à prendre des précautions… D’ailleurs, le nombre de messages échangés a considérablement chuté, pas seulement du fait des licenciements.

Mais la surveillance des fonctionnaires a commencé bien avant Trump, rappellent les journalistes de Wired, notamment pour ceux qui manipulent des informations classifiées. Mais pas seulement, beaucoup d’agences sensibles sont depuis longtemps sous surveillance. 9 des 15 ministères américains avaient déjà souscrit des programmes de surveillance d’une partie de leurs employés, à l’image du logiciel Intercept de Dtex, utilisé par plusieurs agences fédérales, qui génère des scores de risque individuels en analysant des métadonnées anonymisées, telles que les URL que les travailleurs visitent et les fichiers qu’ils ouvrent et impriment sur leurs appareils de travail.  « Lorsque vous créez une culture de peur et d’intimidation et que vous parvenez à dissuader les gens de dénoncer les actes répréhensibles, vous vous assurez que la corruption passe inaperçue et n’est pas traitée« , s’alarme Karen Hao.

Thomas Shedd, un ancien ingénieur de Tesla récemment nommé directeur des services de transformation technologique du Doge, a demandé un accès privilégié à 19 systèmes informatiques différents. « S’ils voulaient changer le montant du salaire d’une personne ou de ses impôts, ils pourraient le modifier », explique encore un article de The Atlantic. Non seulement ils peuvent lire les e-mails des employés, mais vu le niveau d’autorisation d’accès, ils pourraient même les modifier. Les risques de préjudice, d’abus, de corruption ou de vengeance sont complètement libérés. « La NASA détient des spécifications techniques et des données de recherche pour les concurrents de SpaceX, et les initiés craignent que ces informations soient bientôt également compromises. Ils craignent également que la R&D classifiée de la NASA dans des domaines tels que la physique quantique, la biotechnologie et l’astrobiologie puisse être volée à des fins privées. »

« Le premier mois de Musk et du Doge a été si chaotique, leurs incursions si aléatoires, qu’il est difficile d’évaluer ce qui s’est passé. Doge prétend améliorer le gouvernement, mais les employés de l’agence avec lesquels nous avons parlé ont le sentiment d’avoir été piratés. »

Pour les éditeurs de The Atlantic : « Aucune bonne raison ou argument ne peut être avancé pour qu’une personne ou une entité ait un tel accès à autant d’agences gouvernementales contenant autant d’informations sensibles. Même dans un seul bureau gouvernemental, l’accès administratif complet à tous les systèmes est un privilège qui n’existe pas. Dans l’ensemble, à l’échelle de l’ensemble du gouvernement, ce serait incompréhensible ».

Le Data Coup du Doge est « la plus grande appropriation de données publiques par un particulier dans l’histoire d’un État moderne », estiment les sociologues Nick Couldry et Ulises Meijas dans une tribune pour Tech Policy Press (auteurs d’un récent livre sur le pillage des données et le colonialisme de la Tech, dont on avait rendu compte). Pour eux, ce qu’il se passe ne relève pas du capitalisme de surveillance de Zuboff qui dénonçait le fait que les géants de la tech aient été mis au service de l’Etat. Ici, il s’agit de mettre toutes les données de l’Etat fédéral au mains d’entreprises : « Dans le néolibéralisme, les citoyens deviennent des consommateurs ; dans le colonialisme des données, les citoyens deviennent des sujets ». Une fois que nous examinons les événements récents aux États-Unis à travers une lentille coloniale, le mépris de la légalité n’est pas non plus surprenant. Jusqu’à récemment, il était possible que l’État américain soutienne des réglementations pour restreindre l’extractivisme des Big Tech, sous une forme ou une autre. Aujourd’hui, c’est devenu une perspective lointaine.

« Le Doge a compris quelque chose que l’establishment politique n’a pas compris : la technologie est la colonne vertébrale de tout gouvernement ! » C’est ce qu’affirme dans une tribune pour Tech Policy Press, Emily Tavoulareas qui a fondé le US Digital Service, qui, depuis le 20 janvier est devenu le Doge. L’organisation dédiée à l’amélioration des services gouvernementaux a été réaffectée en vecteur de destruction de ces services, constate, désolée, la chercheuse et ex-directrice technique à la Maison Blanche. Là aussi, la plupart des employés ont été licenciés. Le Doge a pris le contrôle de nombres de systèmes critiques du gouvernement fédéral. « L’administration Trump semble comprendre quelque chose que peu d’autres comprennent : l’infrastructure technique est l’infrastructure de tout. Elle peut accélérer ou entraver les objectifs politiques ». C’est ce qu’a tenté d’expliquer Tavoulareas à nombre de responsables politiques ces dernières années. Pour le US Digital Service, les applications et sites de l’administration problématiques étaient souvent un levier pour organiser des transformations plus profondes dans les services. Mais pour les politiciens, bien souvent, la technologie et l’implémentation des politiques dans des services numériques, tenaient de la simple logistique, souvent confiée à des acteurs privés. Mais, c’est là croire que la technologie est subordonnée au travail politique, quand elle lui est inextricablement liée. « Séparer la politique de la technologie dont elle dépend a été une cause profonde de beaucoup de dysfonctionnements ». 

« La technologie n’est pas une chose supplémentaire que vous ajoutez aux programmes et services gouvernementaux — elle EST le service. Ce n’est pas une chose supplémentaire que vous ajoutez à l’institution — elle est la colonne vertébrale de l’institution. » Le Doge a parfaitement compris cela. Les équipes de Musk savent parfaitement que l’infrastructure technique n’est pas seulement une infrastructure pour faire des applications et des sites web, mais qu’elle est l’infrastructure qui contrôle tout. 

La mission du US Digital Service était de fournir de meilleurs services gouvernementaux au peuple américain à travers la technologie et le design. Pour le service numérique du gouvernement américain, la technologie n’était qu’un véhicule pour améliorer les services au bénéfice des personnes. Ce n’est pas l’objectif du Doge, qui se concentre tout entier sur l’efficacité et la réduction des coûts. Le Doge n’a pas vocation à se mettre au service des gens, ce qui signifie qu’elle est au service de quelqu’un d’autre ! Certes, concède Emily Tavoulareas, le Digital service n’a pas toujours été efficace. Oui, le gouvernement américain a gaspillé parfois des milliards de dollars à construire des logiciels qui ne fonctionnent pas, notamment parce que nombre de services se préoccupent assez peu des utilisateurs. Mais le Digital service montrait qu’on pouvait et devait faire mieux, que les employés du gouvernement devaient privilégier les résultats sur les procédures, les personnes par rapport aux processus, les solutions par rapport aux règles. Le service a tenté de faire en sorte que la technologie bénéficie aux utilisateurs. Avec le Doge, il est sûr que ce n’est pas aux utilisateurs qu’elle va désormais bénéficier ! 

Le Doge, institution de l’IA impériale

Il est temps de s’inquiéter des projets d’intelligence artificielle du Doge, s’alarment les spécialistes de la sécurité informatique Bruce Schneier et Nathan Sanders dans The Atlantic (ils feront paraître en octobre, Rewiring Democracy). Alors que nombre de fonctions critiques de l’Etat ont été interrompues, que des dizaines de milliers de fonctionnaires fédéraux sont encouragés à démissionner, le département de l’efficacité gouvernementale s’attaque déjà à l’étape suivante : utiliser l’IA pour réduire les coûts. Selon le Washington Post, le groupe de Musk a commencé à traiter des données sensibles des systèmes gouvernementaux via des programmes d’IA pour analyser les dépenses et déterminer ce qui pourrait être élagué et bien sûr remplacer les fonctionnaires par des machines. En fait, analysent Schneier et Sanders, remplacer les fonctionnaires par des machines a surtout pour objectif de rendre le changement à l’oeuvre sans recours, en éliminant la résistance des corps institués au changement. L’autre danger de recourir à l’IA pour gérer des programmes fédéraux, c’est de renforcer la concentration du pouvoir. Les programmes de protection sociale comme les organismes de contrôle des entreprises peuvent alors très facilement être orientés pour bénéficier à certains plus qu’à d’autres. « Le pouvoir absolu de commander des agents d’IA pourrait faciliter la subversion de l’intention législative« .

Bien sûr, la faculté de discernement ne disparaît pas, mais dans les systèmes machiniques, celle-ci est concentrée dans les mains de ceux qui opèrent et déploient les systèmes. Dans les systèmes humains, ce discernement est largement réparti entre de nombreux individus, fonctionnaires et agents. « L’IA ne remplace pas ces anciennes institutions, mais elle change leur fonctionnement ». Le développement de l’IA elle-même pourrait se faire au sein d’institutions publiques transparentes, responsables et démocratiques, avec une supervision publique de leur conception et de leur mise en œuvre et la mise en place de garde-fous adaptés, plaident les deux chercheurs. Ce n’est bien sûr pas cette orientation qui est prise. Et le risque, c’est que cette orientation autoritaire inspire toute les autres à venir.

Le Washington Post explique que c’est le ministère de l’Education qui semble le premier à faire les frais de l’épluchage de ses dépenses par l’IA. L’utilisation de l’IA par le Doge au sein du ministère de l’Éducation constitue un écart important par rapport à la politique préconisée sur la technologie, à savoir n’utiliser les programmes qu’après avoir fait les tests nécessaires pour s’assurer que son utilisation ne compromette pas la confidentialité et la cybersécurité.

Mais, l’IA peut-elle vraiment aider le Doge à réduire les budgets et éviter le gaspillage ?, s’interroge la Technology Review. Comme le répète Arvind Narayanan, le calcul fonctionne mieux quand ce qu’il doit calculer est clair. La fraude est une notion un peu moins subjective que le gaspillage. Or, les paiements fédéraux frauduleux dans le domaine de la santé ne sont pas tant du fait des utilisateurs que des sociétés pharmaceutiques, rappelle l’économiste Jetson Leder-Luis, spécialiste de la fraude sociale. Celui-ci rappelle qu’il est possible de chercher des schémas de fraudes pour mettre fin aux remboursements frauduleux avant qu’ils ne se produisent. Dans une étude de 2024, l’économiste montrait qu’il était possible d’utiliser l’IA pour détecter des fraudes institutionnelles potentielles, selon une approche préventive. Mais ces distinctions n’ont pas l’air d’être la priorité du Doge, bien au contraire. Le but semble bien plus de réduire des dépenses pour des raisons politiques que de réduire les fraudes et abus depuis des preuves. 

Le Doge travaille à un système pour automatiser le licenciement des fonctionnaires, explique encore Wired, sur la base d’un logiciel créé il y a 20 ans par le ministère de la Défense, permettant d’accélérer la réduction d’effectifs. Jusqu’à présent, les licenciements ont été manuels et ont visé surtout les employés en période d’essai. Mais visiblement, le but semble d’accélérer encore la cadence. Pour Brian Merchant, ces annonces d’automatisation des licenciements sont consécutives au fait que le Doge ait demandé à deux millions d’employés du gouvernement de répondre à un mail leur demandant ce qu’ils ont fait de leur semaine. L’analyse qu’il va en être fait risque surtout de ne pas produire grand-chose car aucun système n’est capable de déterminer depuis ces mails, si le travail de ceux qui y répondent est nécessaire ou non. Nous sommes dans un “Grok Gouvernement” ironise Merchant, en comparant ce qu’il se passe à l’IA de Musk, surtout connue pour son sens de l’humour particulièrement problématique. 

Mais aussi stupide soit la fiction, la mascarade est puissante. Car ces annonces rhétoriques impressionnent. L’essentiel n’est pas ce que ces outils vont ou peuvent produire, mais en réalité, l’important, c’est la fiction qu’ils déroulent. Ce sont des “générateurs de faux-semblants”. L’efficacité supposée des outils permet surtout de déresponsabiliser les décisions. “L’idée est d’utiliser la notion même d’IA et d’automatisation comme instruments de perturbation et de consolidation du contrôle”. 

Pour Kate Crawford, citée par Merchant, l’IA se révèle plus impérialiste que jamais. Les Etats-Unis comme les Big Techs de l’IA ne parlent plus d’innovation, constate-t-elle. JD Vance, le vice-président américain, à Paris comme à Munich, ne disait pas autre chose. Il parle d’expansion pure, de consolidation du pouvoir par l’IA. Le décalage avec le camp qui défend l’intérêt public n’a jamais été aussi béant. Le désalignement est total. “L’approche américaine de l’IA consiste à construire un empire”, sans garde-fous. “Au moment même où Vance prononçait ces mots, aux États-Unis, le Doge infiltrait et saisissait, souvent en violation de la loi, l’infrastructure d’information du gouvernement américain”. Le Doge a effacé des données, censuré des mots et réécrit l’histoire. Pour le gouvernement américain, désormais, l’enjeu n’est plus de s’inquiéter des risques, de la sécurité ou de la protection des populations, mais de construire des systèmes rentables. Les empires ont toujours concentré le pouvoir technologique, rappelle Crawford qui a tenté de le montrer dans son projet Calculating Empire. 

Ce qui semble certain, c’est que ce déploiement de l’IA comme nouvelle méthode de gouvernement ne se fera pas sans retour de bâton… A mesure que ces systèmes feront n’importe quoi – et ils feront n’importe quoi –, c’est tout le champ technologique qui est menacé de corruption et d’effondrement. 

Nous sommes confrontés à un coup d’Etat des thuriféraires de l’IA, estime Eryk Salvaggio dans Tech Policy Press. L’IA est une technologie qui permet de « fabriquer des excuses ». Il suffit de dire que l’IA peut remplacer l’administration, pour qu’on discute de savoir comment plutôt que de comprendre pourquoi ce serait nécessaire. Nous sommes au milieu d’un coup d’État politique qui risque de changer à jamais la nature du gouvernement américain. Il ne se déroule pas dans la rue, il se déroule sans loi martiale, sans même avoir recours à la force ou à l’armée : il se déroule dans l’automatisation banale de la bureaucratie. La justification repose sur un mythe de productivité selon lequel le but de la bureaucratie est simplement ce qu’elle produit (services, informations, gouvernance) et peut être isolé du processus qui y conduit. L’IA nous est imposée comme un outil pour remplacer la politique. Mais son but n’est pas de s’en prendre à la paperasse ou au gaspillage, comme on nous le répète : l’IA est utilisée pour « contourner la surveillance du budget par le Congrès, qui est, constitutionnellement, l’attribution de ressources aux programmes gouvernementaux par le biais de la politique représentative ». Le Doge vise à déplacer la prise de décision collective au cœur de la politique représentative. Dans le chaos qui règne à Washington, les entreprises de la Silicon Valley font valoir qu’elles sont la solution. Elle consiste, peu ou prou, en un chatbot omnipotent, une sorte d’IA gouvernementale dédiée. « Il suffit que cette IA soit considérée comme un concurrent plausible de la prise de décision humaine suffisamment longtemps pour déloger les décideurs humains existants dans la fonction publique, des travailleurs qui incarnent les valeurs et la mission de l’institution. Une fois remplacées, les connaissances humaines qui produisent l’institution seront perdues ». Ce projet, même flou, ne propose rien de moins que l’avènement d’un régime technocratique, où le pouvoir se concentre entre les mains de ceux qui comprennent et contrôlent la maintenance, l’entretien et les mises à niveau de ce système. Pour Salvaggio, l’enjeu consiste à créer une forme de « crise informatique nationale que seule les géants de l’IA peuvent résoudre ». Nous sommes en train de passer de « la gouvernance démocratique à l’automatisme technocratique ». Ce scénario catastrophe suppose bien sûr un public passif, une bureaucratie complaisante et un Congrès qui ne fait rien, précise Salvaggio. Cela suppose qu’opérer dans une zone grise juridique est un moyen d’échapper à la surveillance judiciaire – et c’est ce que permet le Doge. La rapidité d’action permet de déplacer le débat vers la technique ce qui est une façon d’exclure les décideurs politiques et le public des décisions et de transférer ce pouvoir au code qu’ils écrivent. La participation démocratique ne sera jamais un gaspillage, rappelle Salvaggio. « Aucun système informatisé ne devrait remplacer la voix des électeurs. Ne demandez pas si la machine est digne de confiance. Demandez-vous qui la contrôle« .

Transformer l’infrastructure de l’Etat en arme

« Ce n’est pas tant un coup d’Etat qu’une OPA », expliquent Henry Farrell et Abraham Newman, qui ont publié récemment L’empire souterrain (Odile Jacob, 2024) un livre où ils expliquent comment l’Amérique a pris le contrôle des systèmes techniques de l’économie mondiale et les ont utilisés pour exercer leur domination sur leurs alliés comme sur leurs ennemis. « Aujourd’hui, Musk semble faire au gouvernement américain ce que le gouvernement américain a fait autrefois au reste du monde : transformer la plomberie du gouvernement fédéral en arme politique contre ses adversaires« . Snowden nous a montré comment les États-Unis avaient transformé Internet en un gigantesque système de surveillance mondiale. L’accès à Swift, l’infrastructure institutionnelle de base qui garantit que l’argent, les informations et les biens arrivent là où ils doivent était l’autre pierre angulaire que l’Amérique a subvertit. « Les États-Unis ont identifié des points d’étranglement clés qui leur ont permis d’utiliser les infrastructures de paiement, d’information et physiques du monde entier comme une arme pour parvenir à leurs fins. Le Doge de Musk utilise les infrastructures de paiement, d’information et physiques du gouvernement américain de manière très similaire, en contournant les structures politiques censées restreindre l’action exécutive unilatérale. Tout comme lorsque les États-Unis ont utilisé l’économie mondiale comme une arme il y a plus de deux décennies, il est difficile pour ceux qui en sont les victimes de comprendre exactement ce qui leur arrive« . 

« Comme Swift et la compensation en dollars, le système de paiement fédéral était autrefois traité comme un système entièrement technique, à l’abri des interférences politiques. Ce n’est plus le cas. Comme l’explique Nathan Tankus pour Rolling Stones, le Bureau du service fiscal, la partie du département du Trésor qui gère les paiements pour le gouvernement fédéral, est censé être technocratique et se concentrer uniquement sur la garantie que l’argent va là où il est censé aller. Néanmoins, parce qu’il agit comme un intermédiaire entre le gouvernement et le reste du gouvernement, il constitue un point d’étranglement crucial. Il offre un point de visibilité unique sur les opérations du gouvernement, avec des informations stratégiques détaillées sur l’argent qui circule et où, et un point de contrôle unique. »

« Ce qu’ils doivent comprendre – et rapidement – ​​c’est que Musk, et par extension Trump, semblent essayer de transformer ces systèmes techniques en leviers de contrôle. Si les deux réussissent, ce qui est incertain, ils auront un avantage politique sans précédent dans les mois et les années à venir. Même s’ils échouent, leurs erreurs peuvent avoir des conséquences catastrophiques.« 

« Tout comme le contrôle de Swift a fourni aux États-Unis des informations stratégiques vitales sur les flux financiers mondiaux, Doge pourrait également utiliser l’accès au système fédéral de paiements pour obtenir un aperçu des opérations gouvernementales. Dans notre recherche sur les paiements mondiaux, nous avons décrit comment les États-Unis ont transformé la finance mondiale en un « panoptique » qui leur a fourni des informations extrêmement détaillées sur qui envoyait de l’argent à qui, qu’ils pouvaient ensuite utiliser comme arme contre leurs adversaires. Peu à peu, les États-Unis ont utilisé le système du dollar comme un point d’étranglement pour bloquer les paiements et pour transformer les banques étrangères en agents du pouvoir américain ».

« Le système fédéral de paiements est un panoptique depuis des décennies, attendant que quelqu’un avec des ambitions politiques brise le pare-feu bureaucratique ». C’est ce qui est en train de se passer, estiment les chercheurs. « Tout entrepreneur ou tiers qui dépend de l’argent du gouvernement américain se retrouvera dépendant de leur patronage et de leurs caprices politiques. Cela sera techniquement difficile à réaliser, mais cela générerait des opportunités étonnantes de corruption secrète et ouverte et d’imposition de préférences politiques et idéologiques à des tiers ». Pourtant, les risques les plus probables à court terme ne sont pas une coercition efficace mais une calamité accidentelle, du fait que les Doge Kids maîtrisent mal les couches techniques de ces systèmes.

« Tout comme il a fallu des décennies aux États-Unis pour vraiment transformer les systèmes techniques de l’économie mondiale en fonction de leurs objectifs, il faudra du temps et des bidouillages pour que le Doge commence vraiment à réaliser ses ambitions. La mauvaise nouvelle est que les fonctionnaires fédéraux et l’ensemble de la population américaine seront les cobayes involontaires de cette vaste expérience. La moins mauvaise nouvelle est que ce qui ressemble à une prise de pouvoir gouvernementale accomplie en un week-end n’est pas encore une machine de pouvoir, et il faudra un travail acharné et ininterrompu pour y parvenir. Les législateurs, les avocats et les citoyens ordinaires qui ne veulent pas que cette prise de pouvoir hostile réussisse devraient saisir toutes les occasions de jeter du sable dans le mécanisme par la politique et la protestation, tant qu’il est encore temps de préserver les institutions qui, bien qu’imparfaites, sont nécessaires au fonctionnement de la société et de la démocratie américaines ».

Même constat pour l’historien de l’économie Quinn Slobodian (auteur du Capitalisme de l’apocalypse, Le Seuil, 2025) dans une brillante analyse politique pour la New York Review, où il explique que le Doge est la synthèse de trois courants politiques : celui des marchés et des startups qui souhaitent un retour sur investissement, celui des think-tanks consevateurs anti-New Deal qui souhaite un Etat incapable de promouvoir la justice sociale ; et le monde extrêmement connecté de l’anarchocapitalisme et de l’accélérationnisme de droite, qui souhaite un État brisé qui cède l’autorité gouvernementale à des projets concurrents de gouvernance privée décentralisée. Les mercenaires de Musk sont des « consultants en gestion radicalisés » qui appliquent les règles qu’il a appliqué à Twitter au gouvernement fédéral. L’objectif n’est pas moins que la mort de l’Etat fédéral, pareil à un écran noir qui ne répond plus. 

Doge : une porte ouverte pour la corruption et l’escroquerie

En attendant, les équipes de Musk agissent vite. Dès qu’ils accèdent aux données, ils épurent les bénéficiaires. The Atlantic rapporte par exemple l’arrivée des équipes du Doge au Bureau de protection des consommateurs en matière financière (CFPB). En quelques heures, les bureaux sont fermés, les employés licenciés, les activités suspendues, selon des principes partout similaires : coupes budgétaires brutales, changements de direction, et campagnes de diffamation en ligne. Toutes les dépenses sont annulées, avec le triple objectif d’une purge politique de l’administration, du renforcement sans précédent du pouvoir présidentiel et bien sûr d’économies.

Pourtant, depuis sa création, en 2011, le CFPB a protégé nombre d’Américains des fraudes et escroqueries financières. Selon son ancien directeur, elle aurait restitué 20,7 milliards de dollars aux consommateurs depuis sa création. Sa fermeture annonce surtout la retour des arnaques financières que l’organisme n’a eu de cesse de traquer : « les entreprises de fintech douteuses auront moins de soucis à se faire, les normes de prêt pourront se détériorer, les consommateurs victimes de fraude n’auront pas de moyen de demander de l’aide »… 

Comme le dit l’économiste américain Paul Krugman dans sa newsletter, c’est le retour du printemps pour les escrocs. « Nous avons désormais un gouvernement de, par et pour les prédateurs financiers », s’insurge Krugman. Via un système de signalement et de dépôt de plaintes, l’agence a aidé des centaines de milliers de personnes à résoudre leurs problèmes avec des entreprises privées. Selon Bloomberg, le Doge s’est vu « accorder l’accès à tous les systèmes de données du CFPB », alors qu’elle dispose d’une quantité importante d’informations confidentielles sur les plaignants comme sur les entreprises visées par ces plaintes, sans compter les conflits d’intérêts même de Musk (qu’il est censé gérer seul, du haut de sa grande vertu morale !), le CFPB ayant reçu des plaintes à l’encontre de Tesla, et X – qui a annoncé un accord avec Visa pour développer des services de paiement – aurait dû entrer dans le scope de surveillance financière du CFPB. « Démanteler l’organisme de surveillance au motif qu’il représente un coût excessif pour le peuple américain, comme l’a affirmé Elon Musk dans un message est tout simplement incorrect. Si vous regardez les dollars dépensés par rapport aux dollars récupérés », a déclaré son ancien responsable. « L’agence a récupéré bien plus pour les consommateurs qu’elle n’en a jamais dépensé dans son intégralité pour ses opérations. Musk dit que le Doge devrait permettre aux contribuables d’économiser de l’argent, mais le CFPB le fait depuis le début. »

L’accès aux systèmes de paiement fédéraux par le personnel du Doge a été qualifié de « plus grande menace interne à laquelle le bureau du service fiscal n’ait jamais été confronté ». 

En tout cas, les conflits d’intérêts semblent innombrables. Scott Langmack, directeur de l’exploitation de Kukun une société de technologie immobilière s’est récemment présenté comme conseiller principal du Doge en demandant aux employés du Département du logement et du développement urbain de lister tous les contrats du bureau et de noter s’ils étaient ou non essentiels pour l’agence, rapporte Wired. Tom Krause, par exemple, exerce les fonctions de secrétaire adjoint aux finances au Trésor tout en occupant le rôle de PDG d’une entreprise de logiciels qui a des millions de dollars de contrats avec le Trésor. Outre les conflits d’intérêts problématiques, la granularité des données auxquels le Doge a désormais accès est tout autant problématique. Et l’ensemble est d’autant plus problématique que nul ne sait ce qui est fait des données. Elles peuvent être copiées, modifiées, corrompues. Il est probable que cette corruption des données soit en train de produire de super-oligarques de la tech… Les techbros surpuissants d’aujourd’hui, pourraient bien être des nains par rapport à la puissance qu’ils sont en train d’acquérir.   

Même le vénérable Financial Times commence à s’inquiéter. Les entreprises ont conclu un pacte faustien avec Donald Trump et Elon Musk, séduites par les promesses de la déréglementation et des baisses d’impôts. « En réalité, les chefs d’entreprise ont laissé entrer dans le poulailler des renards extrêmement rapaces, ce qu’ils pourraient regretter ». La journaliste économique Rana Foroohar est pourtant conciliante, puisqu’elle propose de laisser de côté les effets économiques négatifs des guerres commerciales qui s’annoncent, des rafles d’immigrants, ou des conflits géopolitiques qui pointent. L’accès illimité du Doge aux données d’innombrables administrations est une menace existentielle pour nombre d’entreprises. « Il y a plusieurs choses qui m’inquiéteraient si j’étais un chef d’entreprise. La première est l’avantage concurrentiel sans précédent que Musk pourrait obtenir en ayant accès à des éléments tels que les données de sécurité du ministère des Transports, les informations sur les essais de la Food and Drug Administration, les recherches exclusives du ministère de l’Agriculture ou les informations préalables à la publication des demandes de brevet. Si j’étais à la tête d’une entreprise automobile comme General Motors ou d’une société de covoiturage comme Uber, je me demanderai si Elon Musk a aspiré des informations sur les tests de voitures autonomes des concurrents de Tesla. Si j’étais un investisseur en capital-risque, je me demanderai s’il est désormais capable de voir quelles nouvelles technologies sont les plus proches d’être commercialisées et comment, afin de mieux devancer ses concurrents potentiels. Ce ne sont là que quelques-unes des implications les plus évidentes d’avoir un adversaire qui pourrait potentiellement accéder à des informations que les entreprises pensaient ne donner qu’au gouvernement« . Ensuite, il y a les avantages concurrentiels à long terme que Musk pourrait obtenir en intégrant des ensembles de données de différents départements dans ses propres systèmes d’intelligence artificielle (La Maison Blanche affirme qu’il ne le fait pas, mais il n’y a aucune preuve dans un sens ou dans l’autre). « On ne sait pas exactement ce que Doge exploite et comment les données sont utilisées ».

Mais les conséquences négatives potentielles pour les entreprises ne se limitent pas à un accès injuste à l’information. La suppression de diverses agences et la fin des subventions vont avoir de nombreux effets dissuasifs dans des secteurs tels que l’énergie, le transport, l’industrie, le logement… Des entreprises renoncent déjà à des projets. Les processus de demande d’autorisation qui étaient déjà compliqués, vont l’être plus encore à mesure que les effectifs des agences sont réduits. L’incertitude réglementaire ne facilite pas beaucoup les affaires. Pour l’instant, peu de monde souhaite se heurter à Musk ou Trump. Beaucoup de chefs d’entreprises semblent vouloir donner une chance à l’approche de réduction des coûts… Beaucoup attendent en faisant profil bas. Mais la crainte d’une récession se profile. Le silence politique des entreprises pourrait ne pas durer. Reste à savoir qui s’opposera au démantèlement en cours ?

Pour l’instant, rapporte pertinemment Mediapart, les représentants Républicains commencent seulement à être confrontés à la colère de leurs administrés. Les plus fidèles à Trump dénoncent une instrumentalisation des débats par les démocrates. Pas sûr que cette ligne de défense tienne longtemps si la grogne s’étend.

Le Doge ne s’intéresse pas à l’efficacité

La journaliste et historienne Anne Applebaum rappelle que le département de l’efficacité, pour l’instant, ne s’intéresse pas à l’efficacité. Nous n’assistons qu’à l’éradication de la fonction publique fédérale. Les Américains sont confrontés à un changement de régime. « Trump, Musk et Russell Vought, le nouveau directeur du Bureau de la gestion et du budget et architecte du Projet 2025 de l’Heritage Foundation – le plan initial de changement de régime – utilisent désormais des opérations informatiques, la confiscation des systèmes de paiement, des ingénieurs à leur solde, une avalanche de décrets exécutifs et une propagande virale pour parvenir à leurs fins ». « Bien que Trump et Musk affirment lutter contre la fraude, ils n’ont pas encore fourni de preuves à l’appui de leurs affirmations. Bien qu’ils exigent la transparence, Musk dissimule ses propres conflits d’intérêts. Bien qu’ils affirment vouloir l’efficacité, Musk n’a produit aucun audit des raisons à la suppression des programmes entrepris ». 

« La seule chose que ces politiques auront certainement pour effet, et sont clairement conçues pour cela, est de modifier le comportement et les valeurs de la fonction publique« . Toutes les personnes qui travaillent pour le gouvernement fédéral américain font la même expérience, celle d’avoir l’impression de vivre sous occupation étrangère.

Pourtant, estime Applebaum, la destruction de l’éthique de la fonction publique prendra du temps. Jusqu’à présent, les fonctionnaires fédéraux avaient pour instruction de respecter l’État de droit, de vénérer la Constitution, de maintenir la neutralité politique et de soutenir les changements de politique légaux, qu’ils émanent d’administrations républicaines ou démocrates. Ils étaient censés mesurer la réalité objective – les preuves de pollution, par exemple – et réagir en conséquence. Tous n’étaient pas parfaits, mais leurs actions étaient contraintes par des audits, des règles de transparence et une éthique. Le Doge a déjà attaqué au moins 11 agences fédérales qui étaient impliquées dans des conflits réglementaires avec les entreprises de Musk ou qui enquêtaient sur elles pour d’éventuelles violations des lois sur la sécurité au travail, les droits des travailleurs et la protection des consommateurs. Le nouveau système qui se met en place, quelle que soit son idéologie, représente en pratique un retour au clientélisme. Désormais, les candidats aux nouveaux postes doivent s’engager à parler du Golfe d’Amérique au lieu du Golfe du Mexique ou dire que Trump a gagné l’élection de 2020. « Ces tests de loyauté trumpiens, visent à rompre avec l’éthique de la fonction publique, qui exigeait que les gens prennent des décisions basées sur des réalités objectives, et non sur des mythes ou des fictions. »

« Certains employés fédéraux seront certainement tentés d’en abuser. Vous n’aimez pas votre ancien patron ? Dénoncez-le ! Dénoncez aussi vos collègues qui promeuvent l’inclusion et la lutte contre les discriminations ». Cela peut sembler improbable, mais, rappelle Applebaum, au  niveau des États, les lois encourageant les Américains à dénoncer d’autres Américains se sont multipliées. Au Texas, une loi permet aux citoyens de poursuive toute personne qui aurait aidé ou encouragé un avortement. Au Mississippi, une loi propose des primes aux personnes qui identifient des immigrés illégaux en vue de leur expulsion. Certains mots tels que « défense des droits », « handicap », « traumatisme » socio-économique et, oui, « femmes », déclenchent déjà des coupures de subventions fédérales et la censure, rapporte le Washington Post. 

Le plus grand tour à l’œuvre consiste à nous faire croire que le Doge a pour objectif l’efficacité, explique Tom Nichols pour The Atlantic. “Le Doge n’est pas vraiment un département ; ce n’est pas une agence ; il n’a aucune autorité statutaire ; et il n’a pas grand-chose à voir avec les économies d’argent, la rationalisation de la bureaucratie ou l’élimination du gaspillage”. C’est une attaque contre l’expertise qui vise à y mettre fin, explique Nichols qui a publié un livre sur la contestation de l’expertise (The Death of Expertise : The Campaign Against Established Knowledge and Why it Matters, Oxford University Press, 2017). Pour lui, l’assaut de Musk à l’encontre de l’expertise s’abreuve à la même source que celle qui alimente en grande partie l’hostilité du public envers les experts. La mort de l’expertise est liée à la montée de deux mots sociaux : le narcissisme et le ressentiment. 

L’égocentrisme est au cœur du succès des “techno-ploutocrates” comme Musk, qui pensent que leur richesse est la preuve de leur compétence. Trump et Musk semblent constamment en colère parce que leur richesse et leur pouvoir peuvent leur apporter tout sauf du respect. Or, l’expertise est bien souvent un puissant moyen de défense contre l’incompétence et les manigances politiques. S’opposer aux experts nécessite des connaissances. L’égocentrisme ne réclame pas aux autres de la compétence, mais de l’obéissance et de la servitude. D’où le fait qu’ils cherchent à saper l’expertise et la connaissance qui peut s’opposer à eux. 

L’autre moteur est le ressentiment, celui d’une élite contre une autre. Nous sommes en train d’assister à l’affrontement d’élites entre elles, estime Nichols, entre les jeunes ingénieurs et entrepreneurs du Doge et les fonctionnaires et experts de carrière. L’objectif du Doge n’est pas de produire un meilleur gouvernement, mais de le détruire : de le remplacer par un autre. A se demander si la destruction de l’Etat fédéral ne serait pas seulement un moyen pour générer des débouchés économiques à l’illusion de l’IA ?

Pour Ethan Zuckerman également, Musk ne disrupte par le gouvernement, il le détruit. En prenant la main sur les systèmes, ce qu’il brise, ce sont les processus démocratiques qui les ont créés. « Dans Doge, nous voyons l’intersection de deux idéologies : la croyance conservatrice selon laquelle le gouvernement ne peut rien faire de bien et devrait en faire le moins possible, et le credo du perturbateur selon lequel tout système inefficace mérite d’être détruit. Leur fusion est une prophétie auto-réalisatrice : les systèmes détruits fonctionnent mal et ne peuvent être améliorés qu’en les éliminant complètement ».

Comme le disait le professeur d’économie comportementale Raymond Fishman, dans une tribune pour le New York Times, avant l’arrivée de Trump au pouvoir. Bien sûr que l’efficacité gouvernementale peut être améliorée. Mais si les entreprises fonctionnent plus efficacement qu’un gouvernement, c’est parce qu’elles n’ont pas les mêmes objectifs, les mêmes missions ni la même complexité. Ce que font les entreprises est bien souvent plus simple que ce que font les gouvernements. Une entreprise ne gère pas la misère ni la pauvreté. Ce n’est pas parce qu’il n’y a pas d’attaque terroriste qu’il faut réduire le budget du FBI. « Créons une commission consacrée à rendre le gouvernement plus efficace. Mais ce n’est pas la même chose que de réduire la taille du gouvernement, et ce n’est certainement pas la même chose que de le gérer comme une entreprise ».

Le ministère de l’incompétence

Pour Derek Thompson, le bureau de l’efficacité risque vite de nous montrer tout le contraire. Cette agence hors de contrôle, semble surtout le règne de l’incompétence. Une incompétence qui risque de coûter très chère aux Etats-Unis, bien plus que les coupes de dépenses qu’elle promet. Pour l’instant, le Doge licencie à tour de bras, sans même savoir qui. Elon Musk a laissé entendre, face à des critiques croissantes, que le Doge annulerait simplement toute mesure qui irait trop loin. Certes, dans la pratique reste à savoir lesquelles réinstaller en fonction de quelles critiques, et si cela s’avère possible une fois les choses démantelées. Tout annuler et voir ce qu’il se passe ne semble pas une méthodologie très fonctionnelle. L’incompétence du Doge est une fonctionnalité, pas un bug, estime Brian Barrett pour Wired. Doge.gov est un simple fil Twitter, comme si une politique se résumait à une succession d’annonces. « L’incompétence née de la confiance en soi est un état d’esprit familier de la Silicon Valley, la raison pour laquelle les startups réinventent sans cesse un bus, une épicerie ou le courrier. C’est la certitude implacable que si vous êtes intelligent dans un domaine, vous devez être intelligent dans tous les domaines ».  

Les États-Unis ne sont pas une start-up. Le gouvernement fédéral existe pour faire toutes les choses qui ne sont pas rentables par définition, qui servent le bien public plutôt que de protéger les profits des investisseurs. La grande majorité des start-up échouent, ce que les États-Unis ne peuvent pas se permettre de faire, rappelle Barrett. « Les erreurs coûteuses et embarrassantes du Doge sont le sous-produit d’un nihilisme téméraire ; si l’intelligence artificielle peut vous vendre une pizza, elle peut bien sûr assurer l’avenir de l’administration centrale ». En fait, Musk se contrefout du gouvernement comme de l’efficacité. Il n’est là que pour siphonner des données qui lui assureront une puissance sans limite. 

Ce qu’il se passe est une course de vitesse, estime Brian Barrett dans un autre article pour Wired. « La vitesse est bien sûr une stratégie. Elle consiste à inonder la zone de merde (comme disait Steve Bannon) afin que ni les médias ni les tribunaux ne puissent suivre le rythme« . Les poursuites judiciaires et les ordonnances judiciaires évoluent selon une échelle de temps différente de cette approche de purge des effectifs, de forçage des accès et de pillage des données. Et à ce rythme, DOGE aura exploité tous les serveurs gouvernementaux bien avant que la Cour suprême n’ait même eu la chance de se prononcer, ironise Barrett. Mais c’est aussi une question de réflexe. La première chose à faire lors d’une reprise d’entreprise est de réduire les coûts le plus rapidement possible.

« C’est ainsi que vous obtenez un décret exécutif déclarant que « chaque agence ne doit pas embaucher plus d’un employé pour quatre employés qui partent », un ratio arbitraire qui ne tient pas compte des besoins réels en personnel. C’est ainsi que vous mettez aux enchères des centaines de bâtiments du gouvernement fédéral, quel que soit leur taux d’occupation. C’est à la fois extrême et inconsidéré, une course pour vider le seul puits de la ville ».

« Et ensuite… quoi ? C’est la question à laquelle Elon Musk et Doge n’ont pas réussi à répondre, car il n’y a pas de réponse. Le gouvernement américain doit-il devenir un moteur de profits ? Doit-il restituer de la valeur aux citoyens-actionnaires ? Medicaid doit-il démontrer une adéquation produit-marché à temps pour le prochain tour de financement ? » 

« C’est la logique d’un consultant. Il s’agit d’un sprint d’ingénierie dont la ligne d’arrivée inévitable est la rupture du contrat social« . 

« La démocratie ne meurt pas dans l’obscurité : elle meurt dans les logiciels de ticketing déposés par les anciens de Palantir » (Les logiciels de ticketing sont des logiciels pour traiter les demandes de clients à la suite les unes des autres et selon leur importance. Ici Barrett évoque le fait que les accès aux systèmes fédéraux s’ouvrent selon les demandes fantasques de conseillers qui masquent souvent leurs conflits d’intérêts derrière ces accès). « Il n’est pas nécessaire d’avoir un MBA de Stanford pour savoir que la réduction des dépenses n’aide que la moitié de votre compte de résultat. Toute tentative sérieuse de traiter les États-Unis comme une entreprise impliquerait une augmentation des revenus. Alors, où sont les impôts ? Et pourquoi démolir le CFPB, qui a rendu plus de 20 milliards de dollars aux citoyens américains ? »

« Dans les semaines et les mois à venir, alors que cette farce continue de se dérouler, rappelez-vous que l’objectif de la plupart des acquisitions n’est pas de bénéficier aux Américains. Il s’agit soit de subsumer, soit de s’en débarrasser, selon ce qui génère le meilleur rendement. » « L’influence sans précédent d’Elon Musk sur le pouvoir exécutif profitera en fin de compte à Elon Musk. Les employés aux commandes sont ses employés. Les données collectées par Doge, les contrats d’approvisionnement qu’ils supervisent, tout cela lui revient. Et tout cela s’écoule trop vite pour que l’Etat puisse suivre, et encore moins pour pouvoir l’arrêter. »

Dans un autre billet, Barrett rappelle que le gouvernement n’est pas une startup. Pourtant, c’est bien la même méthode que celle qu’il a appliquée lors de sa reprise de Twitter, que Musk déroule. « Il se débarrasse des employés. Il installe des loyalistes. Il abat les garde-fous. Ils ont récupéré les accès avant de les couper. Ils ont récupéré les données comme un avantage concurrentiel. Et des économies. Ils veulent des économies. Plus précisément, ils veulent soumettre le gouvernement fédéral à un budget à base zéro », une méthode de planification financière populaire dans la Silicon Valley dans laquelle chaque dépense doit être justifiée à partir de zéro. « Le problème avec la plupart des startups de logiciels, c’est qu’elles échouent. Elles prennent de gros risques et ne sont pas rentables, et elles laissent la carcasse de cet échec derrière elles et commencent à produire un nouveau pitch. C’est le processus que Doge impose aux États-Unis. »  Pas sûr que le gouvernement puisse proposer un nouveau pitch ! 

« Personne ne contesterait que la bureaucratie fédérale est parfaite, ou particulièrement efficace. Bien sûr, elle peut être améliorée. Bien sûr, elle devrait l’être. Mais il y a une raison pour laquelle le changement se fait lentement, méthodiquement, par le biais de processus qui impliquent des élus et des fonctionnaires, ainsi que de l’attention et de la considération. Les enjeux sont trop élevés et le coût de l’échec est total et irrévocable« .

« Musk va réinventer le gouvernement américain de la même manière que l’hyperloop a réinventé les trains, que la société Boring a réinventé le métro, que Juicero a réinventé le presse-agrume. Autrement dit, il ne réinventera rien du tout, ne réglera aucun problème, n’offrira aucune solution au-delà de celles qui consolident encore davantage son propre pouvoir et sa richesse. Il réduira la démocratie à sa plus simple expression et la reconstruira à l’image conflictuelle de ses propres entreprises. Il ira vite. Il cassera tout. » Mêmes constats dans le New York Times, notamment en soutenant ses élucubrations sans preuves depuis ses tweets incendiaires.

L’Amérique, livrée à elle-même : la re-ségrégation

Ce n’est pas une réforme, c’est un sabotage, explique David Wallace-Wells pour le New York Times. C’est « une guerre éclair contre les fonctions essentielles de l’État”, opérant en dehors du droit constitutionnel. Pour le politologue Seth Masket, « Elon Musk est un simple citoyen qui prend le contrôle du gouvernement. C’est un coup d’Etat ». 

“Tout d’un coup, vous ne pouvez plus consulter les données du CDC sur le VIH ni les directives pour d’autres maladies sexuellement transmissibles. Vous ne pouvez pas non plus trouver de données de surveillance sur l’hépatite ou la tuberculose, ni l’enquête sur les comportements à risque des jeunes, ni aucune des données de l’agence sur la violence domestique. Si vous étiez un médecin espérant consulter les directives fédérales sur le contrôle des naissances post-partum, cette page a également été fermée.” Derrière les fermetures et le recul de l’information, le nouveau message semble être clair : les citoyens sont désormais livrés à eux-mêmes. 

Désormais, la santé publique se résume à la responsabilité personnelle. Mais, c’est également vrai de toutes les politiques publiques qui ont été “effacées” : le climat, l’aide sociale, la lutte contre les discriminations. C’est la grande “re-ségrégation”, explique Adam Serwer, c’est-à-dire le début d’un mouvement qui va revenir sur les droits civiques obtenus de haute lutte. Le retour de la Grande Amérique (Make America Great Again), consiste d’abord et avant tout à restaurer les hiérarchies traditionnelles de race et de genre de l’Amérique. Les lois tentant de renforcer l’égalité des chances ont été annulées, les recherches sur les inégalités également, comme si cela suffisait à faire disparaître les inégalités elles-mêmes. Le but est clair : « abroger les acquis de l’ère des droits civiques« . 

“Ils ne souhaitent pas le retour à la ségrégation explicite – cela briserait l’illusion selon laquelle leurs propres réalisations sont basées sur une méritocratie aveugle à la couleur de peau. Ils veulent un arrangement qui perpétue indéfiniment l’inégalité raciale tout en conservant une certaine possibilité de déni plausible, un système truqué qui maintient un mirage d’égalité des chances tout en maintenant une hiérarchie raciale officieuse. Comme les élections dans les pays autoritaires où l’autocrate est toujours réélu par une écrasante majorité, ils veulent un système dans lequel ils ne risquent jamais de perdre mais peuvent toujours prétendre avoir gagné équitablement.”

Du grand effacement au grand ralentissement scientifique

Nous assistons à l’effacement de la science américaine, déplore Katherine J. Wu pour The Atlantic. La cohabitation pacifique et productive de la science avec les autorités est terminée. Les autorités ont toujours agi sur les priorités scientifiques avec leurs financements (le gouvernement fédéral est le premier bailleur de fond de la recherche fondamentale), mais ces changements d’orientation sont souvent modestes et ciblées, rappelle le spécialiste du financement de la science, Alexander Furnas. La nouvelle administration n’a d’ailleurs pas annoncé de coupes uniformes : la recherche sur l’IA, le spatial ou les maladies chroniques ne sont pas concernées. Pour passer le couperet de la censure automatisée sur certains mots clefs, nombre de chercheurs modifient les termes de leurs demandes de subventions. Le risque, c’est que s’impose l’idée que la méthodologie scientifique soit transgressive. En faisant disparaître des données, en courant le risque qu’elles soient falsifiées, le gouvernement fédéral s’attaque à la science. “À long terme, la science américaine pourrait ne plus paraître fiable aux yeux des scientifiques étrangers”. “Trump et son administration sont en train de décider de la profondeur de la brèche à créer dans le firmament scientifique américain. Le temps qu’il faudra pour réparer les dégâts, ou la possibilité de le faire, dépend de l’ampleur des dégâts qu’ils infligent actuellement.”

Karen Hao pour la Technology Review estime que se sont les fondations mêmes de la prospérité américaine qui sont en train d’être démantelées. Les effets des coupes budgétaires pourraient se faire sentir pendant des années, notamment le démantèlement des programmes de recherche « qui soutiennent la vie américaine pourrait entraîner des dommages durables, peut-être irréparables, à tous les niveaux, de la qualité des soins de santé à l’accès du public aux technologies grand public de nouvelle génération ». Les États-Unis ont mis près d’un siècle à façonner leur riche écosystème scientifique et son démantèlement brutal pourrait avoir des conséquences à long terme. « Le gouvernement restait de loin le plus grand soutien du progrès scientifique. En dehors de ses propres laboratoires et installations, il finançait plus de 50 % de la recherche et du développement dans l’enseignement supérieur, selon les données de la National Science Foundation. En 2023, cela représentait près de 60 milliards de dollars sur les 109 milliards de dollars que les universités ont dépensés pour la science fondamentale et l’ingénierie ». Comme le clame la vénérable revue Nature : « une attaque contre la science, où qu’elle se produise, est une attaque contre la science partout dans le monde ». « Pendant la majeure partie de leurs 155 ans d’histoire, les États-Unis ont été le leader mondial de la recherche, notamment en matière de financement de l’éducation et de la formation scientifiques, pour leur plus grand bénéfice et celui du reste du monde ». C’est cela qui prend fin avec le nouveau gouvernement Trump et ses effets auront un retentissement mondial. 

La politique du Doge va ralentir le gouvernement, pas le rendre plus efficace, explique Donald Moynihan, auteur de la newsletter, “Can we still govern ?”. En fait, explique le spécialiste, le gouvernement fédéral est loin d’être pléthorique. Les fonctionnaires représentent 1,5% de la population américaine et 7% des dépenses du gouvernement. Sa masse salariale n’a cessé de diminuer ces dernières décennies, la main d’œuvre vieillit et le secteur a du mal à recruter. Cette politique va avoir des répercussions à long terme sur les capacités d’agir des autorités. Et risque bien plus de les restreindre que les développer. 

Le grand remplacement démocratique

« L’ironie suprême est que la même personne qui nous met en garde contre les risques existentiels de l’IA semble désormais croire que la solution consiste à centraliser un pouvoir sans précédent entre ses mains », ironise Mike Brock. Pour lui aussi, la mise en place du Doge n’est pas une question d’efficacité, mais d’effacement. La démocratie est supprimée et remplacée par une technologie propriétaire : l’intelligence artificielle ! 

L’idée que la gouvernance démocratique traditionnelle était inefficace ou obsolète a trouvé un écho chez ceux qui se considéraient comme des perturbateurs et des innovateurs. Avec la crise financière de 2008, dans la Silicon Valley, une nouvelle croyance s’est imposée : la démocratie n’était pas seulement inefficace, elle était obsolète. L’accent mis par le mouvement sur la liberté individuelle et le scepticisme à l’égard de l’autorité centralisée développée par le Tea Party a fait écho au sentiment anti-gouvernemental croissant dans les cercles technologiques. En conséquence, des concepts comme la crypto-monnaie et la gouvernance décentralisée, autrefois considérés comme marginaux, ont commencé à trouver un public plus large parmi ceux qui étaient désillusionnés par les systèmes politiques et financiers traditionnels, explique Brock. La convergence de la colère populiste et du techno-utopisme a ouvert la voie à des idées antidémocratiques plus radicales qui allaient émerger dans les années suivantes. La crise financière n’a pas seulement donné naissance à des mouvements politiques comme le Tea Party, elle a également donné naissance à des plateformes médiatiques entièrement nouvelles qui ont contribué à diffuser ces idées antidémocratiques bien au-delà de leurs cercles d’origine, explique Brock. Pour la Silicon Valley : si les marchés étaient plus efficaces que les gouvernements pour allouer les ressources, pourquoi ne pas les laisser également allouer le pouvoir politique ?

Les sites de désinformation d’extrême droite américains comme ZeroHedge et InfoWars, ont produit deux stratégies complémentaires pour saper la démocratie. ZeroHedge a montré comment l’expertise technique pouvait être utilisée pour délégitimer les institutions démocratiques de l’intérieur, tandis qu’InfoWars a démontré comment le chaos brut pouvait rendre la délibération démocratique impossible. Mais c’est la Silicon Valley qui a combiné ces idées pour en faire quelque chose d’encore plus dangereux, estime Brock : l’argument selon lequel le remplacement de la démocratie par des systèmes techniques n’était pas seulement souhaitable, mais inévitable. « Ce chaos épistémique n’était pas un accident, c’était une tactique cruciale pour saper la démocratie elle-même. Selon Curtis Yarvin (l’un des piliers de l’extrême droite américaine) et ses alliés néoréactionnaires, la légitimité politique dépend de l’existence d’une réalité partagée. Briser ce consensus, c’est rendre la démocratie impossible. Steve Bannon a dit que cela consistait à « inonder la zone de merde ». Et lorsque Trump est arrivé au pouvoir, la stratégie était déjà en marche : déstabiliser la confiance du public, remplacer les analyses des experts par des contre-discours sans fin et s’assurer que les seules personnes qui puissent exercer le pouvoir soient celles qui contrôlent le flux d’informations lui-même. »

C’est précisément là que le libertarisme se transforme en néoréaction, explique Brock. « Au lieu de prôner une république constitutionnelle avec un gouvernement minimal, cette nouvelle tendance de pensée prône un ordre privé, post-démocratique, où ceux qui ont le plus de ressources et de contrôle technologique dictent les règles. Dans cette vision, le pouvoir n’appartient pas au peuple, il appartient aux « cadres » les plus compétents qui dirigent la société comme un PDG dirigerait une entreprise ».

Des personnalités comme Peter Thiel et Balaji Srinivasan ont poussé cette logique un peu plus loin, en affirmant que plutôt que de résister au déclin des institutions démocratiques, les élites devraient accélérer la transition vers un nouvel ordre, un ordre dans lequel la gouvernance est volontaire, privatisée et largement détachée de la responsabilité publique. « Si vous pensez que la technologie rend inévitablement les anciens systèmes obsolètes, alors pourquoi la démocratie devrait-elle être différente ? »

« Pour les nouveaux oligarques, plus que jamais, les seuls bons citoyens sont ceux qui sont entraînés à croire aux vertus des prédations qu’ils subissent« , explique Jean-François Nadeau dans le Devoir. « Ce que Musk et le Doge poursuivent, c’est-à-dire la destruction des cadres de régulation sociaux, n’est pas foncièrement nouveau. Cela ne tient pas à l’intelligence artificielle, mise au service du national-capitalisme. Les classes dominantes, tout au long de l’histoire, ont toujours voulu et considéré comme un dû le fait d’obtenir plus de pouvoir, plus de contrôle, plus de richesse. Si leurs moyens ont changé, l’objectif demeure le même« .

Hubert Guillaud

« Beaucoup d’entre nous sont consternés par le démantèlement sans précédent de l’État administratif américain. Licenciements massifs. Suppression de sites Web. Suppression des organismes de surveillance. Accès incontrôlé au Trésor public. Tout autour de moi, les gens essaient de relier ce qui se passe à des événements historiques. Est-ce du fascisme ? Une prise de contrôle hostile d’une entreprise ? Un coup d’État ? Les gens veulent un cadre pour comprendre ce qui se passe et pour affronter ce qui va arriver. La plupart des gens que je connais ont également du mal à déterminer où ils peuvent agir », confie danah boyd sur son blog.

La politique est un jeu de Jenga, explique-t-elle. Les conservateurs retirent des pièces de la tour de bois de l’Etat providence, tandis que les libéraux ajoutent de nouvelles pièces au sommet. Mais dans les deux cas, les pressions s’accentuent. Et les fonctionnaires, eux, tentent de faire tenir l’édifice avec du scotch pour éviter qu’il ne s’écroule. Cette configuration est depuis longtemps inquiétante, mais elle nous fait croire que la démolition n’est pas si simple. Lorsque MySpace s’est effondré, rappelle la chercheuse, l’effondrement a été lent jusqu’à devenir explosif. Mais surtout, il est probable que les démocrates ne fassent pas grand-chose pour protéger les fonctionnaires, car ils détestent tout autant l’Etat administratif que les Républicains. Reste que le fait que l’administration Trump ait désormais accès aux systèmes centraux de l’État administratif est très inquiétant. La destruction est désormais un jeu ouvert à ceux qui veulent jouer, et la source de leur pouvoir. « La guerre, la politique et les marchés financiers sont souvent considérés comme des jeux qui attirent toutes sortes de comportements problématiques. L’idée même d’une société est de créer des règles et des garde-fous, des freins et des contrepoids. Mais la logique du jeu a toujours consisté à repousser ces limites, à exploiter les failles et à trouver les passages secrets. Pendant des décennies, nous avons lutté pour contenir les fauteurs de guerre, les politiciens corrompus et les escrocs fraudeurs, même si nous avons eu un succès mitigé. Mais cette équipe de joueurs joue un jeu différent. Nous allons donc avoir besoin d’une toute nouvelle stratégie pour contenir leurs tendances destructrices ». Même constat, accablé, pour Henry Farrell : « Nous assistons à la mise en œuvre du rêve de puissance de la Silicon Valley dans la vie réelle ». Même chez Twitter, rappelle-t-il, Musk a généré beaucoup de destruction et bien peu de création. 

L’accès aux systèmes est désormais la clef du pouvoir

La question de savoir si l’accès aux systèmes informatiques relève d’un coup d’Etat, n’est pas qu’une question théorique. Comme en 2016, nombre de sites ont été débranchés, de données ont été supprimées, rapporte Next, notamment des données relatives à la santé, à l’environnement et à la recherche. Le Département de l’efficacité gouvernementale (Doge) a également mis la main sur le système de paiement fédéral et la base de données des agents, ainsi que sur l’agence chargé de la maintenance de l’infrastructure informatique du gouvernement américain, explique encore Martin Clavey dans un autre article de Next. Pour Charlie Warzel de The Atlantic, le démantèlement est très rapide au risque de supprimer des maillons clés de la chaîne bureaucratique qui font fonctionner l’Etat. Cela risque surtout de déclencher beaucoup de contestations judiciaires et de désordres politiques. Mais il n’est pas sûr que ces données là soient dans les indicateurs de réussite du Doge !

Pour Mike Masnick de TechDirt, « un simple citoyen sans aucune autorité constitutionnelle prend effectivement le contrôle de fonctions gouvernementales essentielles ». Et ce alors que la Constitution américaine exige explicitement la confirmation du Sénat pour toute personne exerçant un pouvoir fédéral important – « une exigence que Musk a tout simplement ignorée en installant ses fidèles dans tout le gouvernement tout en exigeant l’accès à pratiquement tous les leviers du pouvoir et en repoussant quiconque se met en travers de son chemin ». Comme l’explique l’article très détaillé de Wired sur la prise de pouvoir des hommes de main de Musk, alors que, normalement, l’accès aux systèmes des agences nécessite que les personnes soient employés par ces agences. Or, en accédant aux systèmes de l’administration générale, c’est l’accès à toutes les données qui est désormais ouvert au plus grand mépris des règlements, procédures et des lois. « Les systèmes de paiement du Trésor, gérés par le Bureau des services fiscaux, contrôlent le flux de plus de 6 000 milliards de dollars par an vers les ménages, les entreprises et plus encore à l’échelle nationale. Des dizaines, voire des centaines de millions de personnes à travers le pays dépendent de ces systèmes, qui sont responsables de la distribution des prestations de sécurité sociale et d’assurance-maladie, des salaires du personnel fédéral, des paiements aux entrepreneurs et aux bénéficiaires de subventions du gouvernement et des remboursements d’impôts, entre des dizaines de milliers d’autres fonctions ». « Nous n’avons aucune visibilité sur ce qu’ils font avec les systèmes informatiques et de données », a déclaré un responsable à Reuters. Un juge a du empêcher l’administration Musk/Trump de mettre à exécution sa tentative d’arrêter de dépenser l’argent alloué par le Congrès, rappelant que la loi fédérale précise comment l’exécutif doit agir s’il estime que les crédits budgétaires ne sont pas conformes aux priorités du président : « il doit demander au Congrès de l’approuver, et non agir unilatéralement ». Musk n’est pas le propriétaire du gouvernement américain. Il n’a pas été élu. Pas même nommé officiellement. « Nous allons vite nous retrouver à regretter l’époque où Musk ne faisait que détruire des réseaux sociaux au lieu des mécanismes de base de la démocratie ».

Pour le financier libéral Mike Brock, ce qui est en train de se passer aux Etats-Unis tient du coup d’Etat, explique-t-il dans plusieurs billets de sa newsletter.  Elon Musk a pris le contrôle des systèmes de paiement du Trésor tandis que les responsables de la sécurité qui suivaient les protocoles étaient mis à la porte. Derrière le moto de « l’efficacité gouvernementale » se cache une prise de contrôle inédite, explique-t-il. Elon Musk a fermé l’USAID, l’agence pour le développement international, et la suspension des programmes a déjà des conséquences très immédiates, alors que cette agence a été créée par une loi adoptée par le Congrès qui n’a pas été abrogée. C’est une attaque contre le principe même de la loi, rappelle-t-il. « Si nous acceptons que le président puisse unilatéralement fermer des agences établies par le Congrès, alors le pouvoir du Congrès de créer des agences perd tout son sens. Si l’autorité exécutive peut outrepasser des mandats statutaires clairs, alors tout notre système de freins et contrepoids s’effondre. » Le risque, c’est le « démantèlement de l’ordre constitutionnel lui-même ». Même chose quand le DOGE obtient l’accès aux systèmes de paiement sans autorisation.  Le message n’est pas subtil et terriblement confus : « respecter la loi est désormais considéré comme un acte de résistance ». « Lorsque Trump menace le Panama au sujet du canal, lorsqu’il impose des tarifs douaniers illégaux au Canada et au Mexique, il ne viole pas seulement les accords internationaux : il nous demande d’accepter que la parole de l’Amérique ne signifie rien. »

« Cet assaut systématique contre la réalité sert un objectif clair : lorsque les gens ne peuvent plus faire confiance à leur propre compréhension du droit et de la vérité, la résistance devient presque impossible. Si nous acceptons que l’USAID puisse être fermée malgré une autorité statutaire claire, que des fonctionnaires puissent être licenciés pour avoir respecté la loi, que des citoyens privés puissent prendre le contrôle des systèmes gouvernementaux, nous avons déjà abandonné le cadre conceptuel qui rend possible la gouvernance constitutionnelle. »

« L’effet le plus insidieux de la distorsion de la réalité est la paralysie de la réponse démocratique. »

« Une résistance efficace à l’effondrement démocratique nécessite trois éléments clés », conclut Brock : « la clarté sur ce qui se passe, le courage de le nommer et une action coordonnée pour l’arrêter ». « Lorsque nous voyons des responsables de la sécurité renvoyés pour avoir protégé des informations classifiées à l’USAID, nous devons appeler cela par son nom : une punition pour avoir respecter la loi. Lorsque nous voyons Musk prendre le contrôle des systèmes du Trésor sans autorisation, nous devons le dire clairement : c’est une saisie illégale de fonctions gouvernementales. Lorsque Trump déclare qu’il n’appliquera pas les lois qu’il n’aime pas, nous devons l’identifier précisément : c’est une violation de son devoir constitutionnel d’exécuter fidèlement les lois. » Et Brock d’inviter les Américains à faire pression sur le Congrès et notamment sur les élus républicains pour le respect de l’Etat de droit. Ce sont les représentants du peuple qui en sont responsables. 

En attendant, d’autres décisions judiciaires sont attendues sur ces transformations profondes du fonctionnement de feu, la démocratie américaine. Mais il n’est pas sûr que la justice, seule, suffise à rétablir le droit.

En tout cas, ce qu’il se passe de l’autre côté de l’Atlantique devrait nous inviter à réfléchir sur la protection constitutionnelle des accès aux systèmes. Car au XXIe siècle, le démantèlement de l’Etat de droit consiste désormais à prendre le contrôle des autorisations d’un serveur.

Hubert Guillaud

MAJ du 6/02/2025 : Comme le dit très bien Brian Marchant, les premières décisions du Doge, nous permettent de voir « la logique de l’automatisation » à venir : le contrôle. « Nous voyons ainsi moins d’informations disponibles pour le monde, moins d’options disponibles pour les humains qui travaillent à les fournir, moins d’humains, point final, pour contester ceux qui sont au pouvoir, car ce pouvoir se concentre entre leurs mains ». Tel est le but de l’automatisation du gouvernement fédéral. Doge va droit au but : « il ne s’agit pas d’améliorer la vie professionnelle de qui que ce soit ».

Dans un passionnant article pour la revue Traduire, la traductrice indépendante Laura Hurot explique comment le secteur de la traduction a changé ces dernières années, sous la forme d’une ubérisation silencieuse.

Nombre d’agences de traduction imposent de travailler sur des plateformes dotées d’un système de chronométrage intégré qui évalue la productivité des traductrices et traducteurs. Mais cette accélération n’affecte pas seulement la phase traductionnelle : des agences recourent également à des systèmes de révision et de contrôle qualité en partie automatisés reposant sur des outils de catégorisation des erreurs. Ces changements conduisent à une accélération de la productivité et à une perte d’autonomie, des savoir-faire et du bien-être des traducteurs indépendants plateformisés. D’ailleurs, on ne parle plus de traduction, mais de post-édition, pour désigner une correction de traduction automatique, dont la conséquence première est de lisser les tarifs de traduction vers le bas.

Dans un article plus récent de la même revue, le collectif en chair et en os, qui défend une traduction humaine contre la généralisation des machines, souligne que dans l’édition, la traduction automatique touche d’abord certains genres littéraires dont la langue n’est pas plus facile à prendre en charge par la machine, mais des genres qui sont périphériques dans la hiérarchie culturelle et où la précarité est depuis longtemps plus forte (les secteurs de la romance, des livres pratiques, des livres pour les jeunes ou des sciences humaines sociales sont également des secteurs où les rémunérations sont moindres et les statuts plus précaires… et ils se sont précarisés avec la forte féminisation du secteur depuis les années 80). Et les auteurs de rappeler qu’“un outil développé puis déployé à des fins d’économie n’est pas qu’un outil : il est l’élément d’un système”. Et de rappeler que la traduction automatique n’a pas été conçue à des fins professionnelles mais pour produire une traduction moins chère et suffisante. Pour les acteurs de la tech, traduire un texte consiste en effet à le transposer en miroir, dans une vision purement mathématique, en remplaçant simplement un mot par un autre mot, même si désormais ces agencements sont largement statistiques. Ce n’est pourtant pas si simple, surtout quand les textes sont complexes et les langues rares, comme le pointent les limites à l’utilisation croissante d’outils de traduction automatiques pour accomplir des tâches trop complexes pour eux, comme pour remplir des formulaires de demandes d’asiles sans maîtrise de la langue, conduisant à des erreurs multiples et aux rejets massives des demandes.

Il n’y a pas que la traduction depuis des langues rares qui se révèle complexe, dans leur numéro de décembre, les Cahiers du Cinéma revenaient, à la suite d’une tribune de l’Association des traducteurs et adaptateurs de l’audiovisuel (Ataa), sur la perte de qualité des sous-titres des films, trop souvent réalisés automatiquement. Le problème n’est pas seulement économique et lié au fait que le sous-titrage ou le doublage viennent en bout de chaîne de la production, qui échappe souvent à la production, que de savoir à qui elle incombe : producteur, distributeur, diffuseur… Un conflit de responsabilité qui permet de justifier la perte de qualité. Le plus fascinant pourtant est de constater combien la traduction automatique échoue sur des phrases assez simples, même depuis l’anglais. Ainsi cet « How’s my room? » traduit par « Comment va ma chambre? » au lieu de « Où en est ma chambre?« , nous montrant toutes les limites de l’approche de la traduction statistique, qui se révèle bien moins performante qu’on ne le pense souvent.

L’observatoire de la traduction automatique rappelait récemment que sa tribune de 2023 demandant la transparence réelle des données d’entraînements de l’IA générative, la possibilité de refuser que le travail de traduction serve à l’entraînement des machines qui détruisent le métier, que les aides publiques soient exclusivement réservées aux créations humaines ou que les produits culturels créés avec de l’IA soient obligatoirement signalés… n’avait toujours reçu aucune réponse des autorités.

Signalons enfin que le 10e numéro de la revue Contrepoint, la revue du Conseil européen des associations de traducteurs littéraires, est entièrement consacré à la question de la traduction sous IA. Pour Damien Hansen, qui rappelle que la traduction automatique reste incapable de comprendre le texte, “le problème n’est pas tant l’outil en soi que le fait qu’on l’impose aux professionnels et qu’on l’emploie pour des raisons purement économiques”. Plutôt que de venir aider et soutenir le traducteur, la traduction automatique est produite pour le contraindre voire le faire disparaître. L’utilisation de l’IA comme outil de contrôle montre à nouveau que leur orientation vers des outils de contrainte plutôt que d’assistance, contrairement à ce qui nous est asséné, risque de devenir une limite forte à son développement.

Dans son article, Laura Hurot, rappelle, à la suite du livre du spécialiste de la cognition, Olivier Houdé, L’intelligence humaine n’est pas un algorithme (Odile Jacob, 2019), que la clé de l’intelligence réside certainement bien plus dans le ralentissement de la pensée plutôt que dans son accélération. A l’heure où la vitesse est une idole indétrônable, il faudrait pouvoir mieux mesurer ce qu’elle nous fait perdre.

Comme nous le disions dans la précédente partie de notre dossier sur la surveillance au travail, les technologies numériques ont permis une expansion sans précédent du volume et du type de données collectées sur les travailleurs. La capacité à les analyser permet aux employeurs de tirer d’innombrables conclusions sur la productivité de leurs salariés… 

Pourtant, concrètement, ces analyses sont bien souvent problématiques quand ce n’est pas défaillantes. En rendant fonctionnelles les statistiques, les indicateurs rétroagissent sur les comportements. La granularité et l’individualisation des métriques permettent de multiplier et d’accroître les pressions au travail, tous les dysfonctionnements étant renvoyés aux pratiques individuelles, « faisant peser toutes les contraintes sur le plus petit et le plus faible maillon de la chaîne », comme l’explique la sociologue Karen Levy dans son livre. Enfin, parce que dans le contexte du travail, les connaissances acquises par les données réorganisent et renforcent d’abord des déséquilibres de pouvoirs majeurs. La régulation de la surveillance n’arrive pas à limiter la recherche de l’amélioration de la production que la surveillance vise à faire advenir. Nous sommes confrontés à une surveillance qui se démultiplie sans parvenir à renforcer les protections légales des travailleurs, seules à même de les protéger d’une exploitation renforcée. 

La lutte contre la surveillance devrait nous mobiliser

« Des caméras alimentées par l’IA qui suivent l’attention des camionneurs aux scanners portables qui surveillent la vitesse d’emballage et de tri des colis des employés des entrepôts d’Amazon, en passant par les logiciels de vidéoconférence qui surveillent les conversations des employés pendant les réunions, dans de nombreux secteurs les entreprises utilisent de plus en plus d’outils automatisés pour collecter des données sur les travailleurs, puis utilisent ces données pour prendre des décisions automatisées sur les tâches et les horaires des travailleurs, les salaires, les promotions, la discipline et même les licenciements », explique le politologue Alexander Hertel-Fernandez sur le blog du LPE Project. Hertel-Fernandez est l’auteur d’une étude sur le management automatisé et la surveillance des travailleurs qui montre que les 2/3 des travailleurs Américains sont sous surveillance sur leur lieu de travail. Cette surveillance est désormais aussi commune pour les cols bleus que pour les cols blancs. Bien qu’elle soit souvent invisible, masquée sous les outils numériques que tous utilisent au quotidien, elle n’est pas sans conséquences : elle a un impact sur la santé et la sécurité des travailleurs.

Pour le chercheur, la montée de la surveillance nécessite d’établir des protections adaptées qui devraient recevoir du soutien de tous les travailleurs, tant celle-ci transcende les classes sociales, les professions et les secteurs. Les organisations du travail ont largement documenté comment cette surveillance érode les droits à l’action collective, intensifie les rythmes de travail, discrimine les femmes, les travailleurs âgés ou les travailleurs handicapés. Le problème pourtant, c’est que le régulateur manque de données sur cette surveillance, d’où l’importance de son enquête. Celle-ci montre d’ailleurs, que le facteur prédictif principal de l’adoption de la surveillance électronique est la taille de l’entreprise : plus l’entreprise est grande, plus la surveillance est intense et variée. L’étude montre également que plus les travailleurs sont soumis à une surveillance intensive, plus l’anxiété grimpe, notamment parce que l’intensité de la surveillance signifie d’abord une intensification des cadences. Ce couplage intensification/anxiété se retrouve dans tous les secteurs, et pas seulement les plus documentés, comme la logistique ou l’industrie. Enfin, les effets négatifs sur la santé et le bien être sont plus forts là où la surveillance est mobilisée pour renforcer la discipline et limiter l’expression. Pour le chercheur, ces résultats suggèrent que ce n’est pas nécessairement la surveillance qui est problématique, mais la manière dont elle est utilisée par le management. Parmi les mesures à prendre pour rétablir l’équilibre, le politologue suggère d’améliorer la transparence de la surveillance, des indicateurs de productivité et des quotas. Mais si le problème est l’intensité de la surveillance, la documenter ne suffira pas à la faire refluer. 

L’impossible transparence de la surveillance

Pourtant, c’est à l’exact inverse que l’on assiste. La surveillance et ses indicateurs relèvent partout d’une opacité qui ne cesse de se renforcer, comme pour toujours mieux s’invisibiliser, à l’image des calculs d’Uber qui ne cessent d’évoluer pour échapper à la documentation comme à la régulation. En 2020, les livreurs de la plateforme Shipt, qui appartient à la chaîne de grande distribution américaine Target, ont vu leurs salaires s’effondrer. Ils ont alors créé un outil pour comprendre l’évolution de l’algorithme, expliquait la chercheuse Dana Calacci pour IEEE Spectrum, qui rappelle que l’asymétrie d’information est un moyen de contrôle (et ce d’autant que ces travailleurs indépendants, par contrat, n’ont pas de droits sur les données). Les livreurs ont utilisé les résultats de l’Observatoire des algorithmes des travailleurs, qui corroboraient l’effondrement de rémunération constaté, pour appuyer leurs revendications pour un salaire minimum garanti. Dans un rapport, le Worker Info Exchange estime que les applications de covoiturage et de livraisons devraient être contraintes de publier des données sur la charge de travail des chauffeurs et les rémunérations, d’autant que le déficit de données actuel pourrait même dissimuler d’importants vols de salaires (et pas seulement des pourboires). Des exemples qui rappellent qu’il n’y a pas d’alternative à la transparence des données, ce qui n’empêche pas celle-ci de continuer à échapper à tous. Accéder aux données reste le premier levier pour observer la surveillance et la limiter.

L’année dernière, le LPE Project avait publié plusieurs articles pour questionner les limites de la surveillance. La chercheuse Karen Levy y montrait que non seulement la surveillance s’opacifie, mais que les autorités en favorisent l’extension, plutôt que de chercher à la contraindre et à la limiter. La sociologue parle d’ailleurs « d’interopérabilité de la surveillance » pour pointer la compatibilité des différentes formes de surveillance, que ce soit celle des autorités de contrôle, comme celle des employeurs ou celle des tiers auxquels les employeurs accordent des accès. 

L’extension, l’intensification et l’élargissement de la surveillance se fait au détriment des employés, pris en tenaille par de nouvelles injonctions liées aux objectifs multiples et contradictoires de tous ceux qui ont accès aux données produites par ces surveillances. Les surveillances “gouvernementales, patronales et commerciales” se superposent pour créer de nouvelles rigidités au travail. Le problème est que cette conjonction d’objectifs complémentaires laisse peu d’espace aux travailleurs pour résister à ces pressions concomitantes, pour résister à “un régime de surveillance supérieur à la somme de ses parties”. La surveillance est d’autant plus opaque qu’elle sert les intérêts de trop d’acteurs pour devenir transparente. Cette surveillance alimente en données des acteurs avec lesquels les entreprises ont des partenariats commerciaux, comme leurs clients. Mais pas seulement. Outre la police et les services sociaux, de plus en plus d’intermédiaires de données tentent d’en tirer profit, à l’image de services de crédits qui proposent des avances sur salaires aux employés. 

La surveillance produit les cadences, modifie les conditions d’emploi

La spécialiste de l’économie des plateformes, Sarrah Kassem , auteure de Work and Alienation in the Platform Economy: Amazon and the Power of Organization, expliquait quant à elle que les travailleurs des entrepôts d’Amazon sont dépendants d’un « régime de productivité algorithmique », qui les pousse à respecter des taux « d’unités par heure », c’est-à-dire rien d’autre que des cadences, imposées par les tâches, les volumes, et les moyennes productives des autres employés auxquelles chacun est comparé. Si les solidarités collectives et les résistances sont possibles, elles sont rendues très difficiles, du fait des innombrables types de contrats qui se rencontrent dans les entrepôts (fixes, intérimaires, sous-traitants, indépendants… avec des horaires fluctuants…) et des manœuvres anti-syndicales d’Amazon. 

Dans les chaînes de production numériques hyper-taylorisées du Mechanical Turk d’Amazon par contre, la surveillance, elle, est totale. La grande précarité du travail et l’absence de relation avec les autres travailleurs rend l’organisation collective encore plus compliquée, même si, à l’initiative des travailleurs, des espaces alternatifs de solidarité et de lutte ont parfois réussi à émerger. Pour le chercheur Reed Shaw, qui s’est lui aussi intéressé aux entrepôts d’Amazon, la surveillance modifie les conditions d’emploi. Si le taux de blessure y est deux fois supérieur à la moyenne nationale, c’est que l’unité de mesure du travail d’Amazon, focalise sur le temps pendant lequel les travailleurs sont inactifs entre deux colis scannés. Le nombre d’unités traitées par heure favorise l’intensification du travail qui génère en réponse une augmentation du risque de blessure et d’accident. Pour Shaw, c’est l’intensification que le taylorisme numérique produit le coupable : c’est donc sur la régulation des cadences qu’il faut pouvoir agir. D’autant que les systèmes de mesures ne s’adaptent pas à certains types d’employés, comme les femmes enceintes ou les travailleurs handicapés, qui sont encore plus sévèrement punis par les systèmes qui évaluent les cadences sans aménagements. Pour Shaw, “la surveillance généralisée des employés devrait être considérée comme modifiant le contexte de l’emploi d’une manière qui menace un large éventail de lois et de protections du droit du travail”. 

Vers une surveillance sans échappatoire

Pour le professeur de droit Matthew Bodie, co-auteur de Reconstructing the Corporation: From Shareholder Primacy to Shared Governance, la surveillance des employés procède d’une nouvelle collecte de données et propose une nouvelle création de valeur permettant aux employeurs de tirer une nouvelle valeur de la relation de travail, explique-t-il, sans qu’il n’y ait de recours ni de droits pour les travailleurs fournisseurs de données, ni de modalités pour exercer leur pouvoir collectifs sur ces données. Pour Bodie, la frontière traditionnelle entre les informations de travail et les informations personnelles, est en train de devenir totalement floue. Toutes sortes d’informations personnelles peuvent désormais être convoquées comme “pertinentes” pour évaluer la performance individuelle au travail : notre santé, nos relations avec nos collègues, nos opinions politiques, notre consommation de caféine, notre disposition au conflit… (sans que cette “pertinence” ne soit jamais évaluée, comme le soulignaient les chercheurs Mona Sloane, Rumman Chowdhury et Emmanuel Moss dans un excellent article qui dénonçait la prétention à la connaissance des systèmes). La réponse instinctive à ce problème consisterait à renforcer la protection de la vie privée sur les lieux de travail, mais cette réponse ne convainc pas Bodie, notamment parce qu’il suffit d’un pseudo consentement imposé dans une relation de travail par nature déséquilibrée pour vider ce renforcement de sa substance. 

“La relation aux données ne cesse de devenir de plus en plus déséquilibrée”, constate le chercheur. C’est par les données sur les chauffeurs et leurs clients que les entreprises de covoiturage fixent les prix et affectent les chauffeurs, sans que les conducteurs puissent avoir la main sur ce qui leur est soustrait. Bodie est pessimiste : désormais, “la relation de travail nécessite un flux de données trop important pour espérer ne jamais l’arrêter”. Selon lui, les travailleurs ont besoin de plus de droits sur leurs données et leur utilisation, à l’image de ceux que déploient le RGDP en Europe (comme le droit de limitation des finalités ou les droits d’opposition à certains types de prise de décision automatisée). Reste pourtant à trouver les modalités d’action collectives. Ici, Bodie dresse un comparatif avec l’hypersurveillance des athlètes de haut niveau, qui, malgré la démultiplication d’information sur leurs performances, gardent des droits sur leurs données voire des voix collectives pour négocier la portée de la collecte de données par les équipes. Les organisations syndicales devraient avoir la capacité de négocier avec les employeurs par l’accès aux données et leur partage – mais seulement 6% des employés du secteur privé sont syndiqués aux États-Unis. Les travailleurs sans représentation collective n’ont donc aucune perspective de pouvoir collectif sur la collecte. D’autres structures organisationnelles pourraient également faire levier, allant de l’actionnariat salarié aux coopératives de plateformes, en passant par la codétermination…  et invite à imaginer des “conseils de données” habilitées à examiner toute collecte ou utilisation de données des employés. “Nous devons donner aux travailleurs la possibilité d’avoir leur mot à dire dans la gestion des données et les droits sur les données qu’ils fournissent.” Oui ! Mais là encore la contribution ne trouve pas le levier de cette activation. 

On pourrait croire à lire ces billets, que le RGPD est l’alpha et l’omega de la solution. C’est oublier pourtant, comme le rappelle son intitulé complet, que celui-ci n’est pas qu’une protection vis-à-vis du traitement des données à caractère personnelles, mais qu’il organise également leur libre circulation, sous conditions.

Les calculs sont surtout opaques pour invisibiliser leurs incohérences et  renforcer leur opacité

Ce que ces billets disent assez imparfaitement, c’est ce que change cette surveillance, ses impacts et les modalités de cet impact. Ce qui se joue dans le renforcement de la surveillance au travail est pourtant très fort au niveau RH et plus encore au niveau de la question salariale. Les données sont de plus en plus utilisées pour produire des indicateurs de performances souvent problématiques sur de plus en plus d’employés, comme s’en émouvait un article du Washington Post prédisant l’arrivée du licenciement algorithmique. La surveillance a un impact direct sur l’employabilité, le recrutement et sur la rémunération. C’est ce qu’expliquait dans un autre billet du LPE Project la professeure de droit Veena Dubal. Dans le monde des plateformes de livraison ou de transport, la rémunération n’est pas fixe. Elle est à la fois “imprévisible, variable et personnalisée”. En cas de forte demande par exemple, les prix des courses vont augmenter et les revenus des coursiers également. Mais il n’y a pas que cette tension entre l’offre et la demande qui explique les variations, et même quand c’est cette explication qui domine, les variations demeurent incohérentes. En fait, la rémunération algorithmique n’est pas du tout une forme applicative et parfaite du marché, comme elle voudrait nous le faire croire. Au contraire.

Les incohérences sont nombreuses, explique Dubal. Parfois vous pouvez obtenir une prime si vous acceptez un trajet supplémentaire, mais bien souvent cette prime n’est pas proposée à un collègue qui a le même historique de circulation. La modularité des incitations de ce type varie sans arrêt, sans que les travailleurs ne parviennent à comprendre leur logique. A l’inverse, vous pouvez attendre ce trajet et cette prime liée à un certain nombre de courses à accomplir, sans que l’algorithme ne vous donne de course, alors que d’autres conducteurs en obtiennent. Le problème, c’est que tout cela n’est pas une question de marché, de malchance ou de hasard, mais bien le résultat d’un calcul. La manipulation des données des conducteurs permet de leur faire croire que les variations de leurs rémunérations tiennent d’un Casino, expliquait dans Fortune Stephanie Vigil, conductrice pour DoorDash, qui rappelle par exemple que les pourboires que les clients donnent ne sont pas attribués directement à leurs livreurs, mais obscurcies par les plateformes pour que les chauffeurs ne privilégient pas les courses avec pourboire. Pour elle, les conducteurs doivent récupérer l’accès à leurs données, comme le défend l’association DriverRights. Les bas salaires et les pourboires sont devenus la règle chez les plateformes de livraison de nourriture, rappelait Inayat Sabhikhi de One Faire Wage dans Points, l’année dernière, rappelant qu’elles ont toutes pratiqué le vol de pourboires et que toutes les organisations réclament désormais la transparence sur ceux-ci… sans l’obtenir. 

La surveillance pour produire des discriminations

De plus en plus de travailleurs du transport et de la logistique sont confrontés à un salaire constamment fluctuant lié à la gestion algorithmique du travail, explique encore Dubal. “Dans le cadre de ces nouveaux régimes de rémunération, les travailleurs perçoivent des salaires différents – calculés à l’aide de formules opaques et en constante évolution reflétant l’emplacement, le comportement, la demande, l’offre et d’autres facteurs de chaque conducteur – pour un travail globalement similaire.” Le problème de ces situations, n’est pas seulement celui d’une rémunération variable basée sur la performance, mais la conjonction de cette variabilité avec une autre : celle de la répartition du travail basée non seulement sur le comportement des travailleurs, mais également sur d’autres critères liés eux à la profitabilité que le calcul opère pour l’entreprise entre tous les critères. Elle produit une “discrimination salariale algorithmique” (voir également son papier de recherche) qui permet aux entreprises de personnaliser et différencier les salaires d’une manière inconnue à ceux que ce calcul impacte, en les payant pour qu’ils se comportent de la manière dont l’entreprise le souhaite, à la limite de ce qu’ils sont disposés à accepter. L’asymétrie d’information laisse à l’entreprise toute latitude d’ajustement. Enfin, “la discrimination salariale algorithmique crée un marché du travail dans lequel des personnes qui effectuent le même travail, avec les mêmes compétences, pour la même entreprise, en même temps, peuvent percevoir une rémunération horaire différente”, le tout via un système obscur qui ne permet ni de prédire ni de comprendre sa rémunération. 

Pourtant, rappelle la chercheuse, les lois internationales du travail rappellent qu’à travail égal salaire égal, et que les entreprises ne peuvent pas introduire de règles nouvelles ou opaques pour obscurcir le calcul du salaire. “Si un mineur devait être payé en fonction de la quantité de charbon qu’il extrayait, la société minière ne pouvait pas peser le charbon après l’avoir fait passer à travers un tamis”. Pourtant, c’est ce que font les calculs algorithmiques. Ils ruinent les logiques d’équité, notamment parce que le salarié ne peut pas connaître les critères que l’entreprise a déterminé pour évaluer son travail ou le planifier, et que le calcul rend le salaire de chaque personne différent, même si le travail est le même au même moment, comme c’est le cas entre les conductrice et les conducteurs d’Uber : les femmes gagnant 7% de moins que les hommes. 

En plus de saper l’équité salariale, la rémunération algorithmique est sans cesse changeante, ce qui fait que des pratiques rémunératrices peuvent ne plus le devenir d’une manière qui semble aléatoire au travailleur, alors qu’elles sont calculées. Les conducteurs parlent d’une “mécanique de casino”. Pour la chercheuse, le fait de reconnaître les coursiers comme des salariés ou de fixer des prix planchers pourraient améliorer les choses bien sûr. Mais la rémunération variable automatisée nécessite, elle, une réglementation supplémentaire. La contre-collecte de données (organisés par les travailleurs indépendants pour documenter les algorithmes auxquels ils n’ont pas accès, à l’image de ce que le Worker Info Exchange a mis en place pour et avec les chauffeurs d’Uber) ou les appels à une plus grande transparence des calculs oeuvrent dans le bon sens, mais sont également insuffisants. La chercheuse invite à aller plus loin via une “abolition de l’extraction de données au travail”. L’extraction de données au travail n’est pas nécessaire à la gestion du travail, rappelle-t-elle en invitant à en finir avec le calcul algorithmique au travail. Radical ! 

Réguler le croisement de données

Sans être aussi radical qu’elle, il me semble que le problème, ici, tient du fait que nous sommes en train d’autoriser des croisements de données qui ne devraient pas l’être. A l’ère de l’Intelligence artificielle, les entreprises ont intégré l’idée que pour améliorer leurs calculs, elles devaient disposer de toujours plus de données et que de leurs croisements sortiront des indicateurs de performance toujours plus optimaux. Mais on ne s’est jamais posé la question de savoir si certains croisements n’étaient pas souhaitables, voire contraires à l’esprit du droit du travail. Que se passe-t-il quand le calcul du salaire est corrélé au planning afin d’optimiser les deux, voire l’un plus que l’autre, comme le montrait le scandale Orion à la SNCF, où dans les entrepôts du hub logistique néerlandais, où les informations de planning sont corrélées avec le calcul de primes, pour les limiter. C’est typiquement ce que montre Veena Dubal quand elle souligne que la prime devient inaccessible à un chauffeur parce que son obtention vient en conflit avec l’objectif de réduction des coûts que programme également le système d’Uber. Pour ma part, il me semble qu’à l’heure où l’on promet de pouvoir croiser toutes les données les unes avec les autres, il est temps de se demander quelles données RH ne doivent pas être croisées entre elles. Pour poser la question des limites à la surveillance, il est nécessaire de regarder ce que produit l’interconnexion de ces données et de montrer qu’il y a des croisements de données, des calculs qui ne devraient pas être possibles. A l’heure où les entreprises partent du principe que toutes les données sont associables pour produire de meilleurs calculs et de meilleurs indicateurs, la piste qui n’est jamais évoquée dans cette libération des calculs, c’est la régulation de leurs croisements. Peut-être que certains croisements ne devraient pas être rendus possibles, parce qu’ils transforment profondément l’esprit de la loi qui régit le code du travail. En tout cas, à l’heure où tous les croisements de données sont autorisés, nous interroger sur ce qui ne devrait pas être corrélé est assurément un exercice qui pêche par son absence.

Pas de transparence sans lutte sociale

En fait, les appels à la transparence se démultiplient sans être suivis d’effets, d’abord parce que le régulateur n’incite pas à la transparence, mais surtout, parce qu’à elle-seule, la transparence ne suffit pas à produire le progrès social.  

En septembre, la Stanford Social Innovation Review publiait un dossier sur les questions de technologies au travail. Parmi les contributions, celle de Christina Colclough et Kate Lappin revenait sur la nécessité de se mobiliser pour que le développement technique au travail soit plus maîtrisé qu’il n’est (on avait déjà rencontré les stimulantes réflexions de Christina Colclough en défense de l’algogouvernance). « Les systèmes numériques au travail sont souvent présentés comme augmentant l’efficacité et la productivité et rendant les décisions plus neutres, en supprimant la subjectivité humaine. Mais trop souvent, les algorithmes reproduisent et intensifient les inégalités et les préjugés, conduisent à une demande croissante de productivité des travailleurs et utilisent les données des employés de manière à la fois opaque et abusive. Aujourd’hui, les travailleurs n’ont aucune idée des données qui sont collectées par devers eux ni de la manière dont elles sont utilisées pour évaluer leurs performances, alors que des jugements sont souvent effectués par des systèmes automatisés tiers, dont les fonctionnements ne sont jamais explicités ». Alors que les cas problématiques documentés sont nombreux, la même cause produit les mêmes effets : « lorsque les travailleurs n’ont pas accès aux algorithmes utilisés par les employeurs, il est presque impossible de prouver qu’il y a eu discrimination ». La transparence en matière de salaires et de conditions de travail est censée être la règle, mais les systèmes numériques propriétaires sapent ce principe. 

Pour l’améliorer, plusieurs initiatives sont mobilisables, comme la formation en négociation sur la numérisation dispensée par le syndicat Public Service International ou encore le guide de la gouvernance des systèmes algorithmiques au travail du Why Not Lab, le cabinet de conseil de Colclough, qui permet aux syndicats d’adresser des questions aux directions sur les systèmes utilisés ou encore la clause du droit d’entrée numérique que les syndicats proposent d’introduire dans les conventions collectives, afin que les technologies utilisées par les employeurs soient mieux documentées. Les deux autrices défendent une gouvernance inclusive des systèmes avec ceux qui sont affectés par eux. Le Community and Public Sector Union australien qui représente les travailleurs qui gèrent le système de protection sociale a négocié avec succès un ensemble de clauses dans sa nouvelle convention collective pour permettre aux travailleurs sociaux de dénoncer des utilisations d’algorithmes contraire à l’éthique, afin qu’à l’avenir un scandale comme celui du robot-dette (un programme gouvernemental qui a envoyé des demandes de remboursement de dettes à plus de 400 000 bénéficiaires de prestations sociales) ne puisse plus être possible. Reste, rappellent les deux chercheuses et militantes, qu’aucun des progrès obtenus par des travailleurs n’a été obtenu facilement : tous sont le résultat d’une lutte soutenue, et celle-ci doit désormais se faire jusqu’aux outils numériques !

Un autre article sur la surveillance des lieux de travail, explique que celle-ci n’a plus du tout comme enjeu le déploiement de caméras de surveillance. La surveillance des cadences et des comportements est désormais l’objet d’innombrables dispositifs embarqués… La pandémie a favorisé l’essor de systèmes de surveillance, comme le montrait un rapport de Data & Society sur « le patron perpétuel ». Le rapport de Coworker sur le déploiement des « petites technologies de surveillance », mais omniprésentes (qu’on évoquait dans cet article) rappelait déjà que c’est un essaim de solutions qui se déversent désormais sur les employés. A l’image des outils de surveillance des postures comme StrongArm ou Modjul qui commencent à coloniser les entrepôts de Walmart et d’Amazon et qui transforment la question de la sécurité au travail en score que les employés doivent respecter. 

Les conséquences sont diverses : augmentation de la discrimination, de la surveillance, atteintes à la vie privée et aux droits d’organisation collective, marchandisation des données, impossibilité de se déconnecter… « La surveillance n’est pas simplement une pratique commerciale invasive, mais un principe opérationnel visant à contrôler les travailleurs et à optimiser les profits ». 

Le Bossware : « une pratique commerciale déloyale »

Avec sa verve à nulle autre pareille, Cory Doctorow explique que les logiciels du patronat sont aussi défaillants que l’a été la gestion scientifique du travail inventée par « l’escroc » Frederic Taylor. Taylor a fait croire aux riches industriels qu’il pouvait augmenter la productivité des ouvriers en « transformant leur travail en une sorte de kabuki de l’obéissance ». Les employés n’étaient pas plus efficaces, mais avaient l’air plus obéissants, ironise-t-il, à la plus grande satisfaction de leurs patrons. Les employeurs ont pourtant bien remarqué que leurs revenus ne s’amélioraient pas avec le taylorisme, mais Taylor leur a fait croire que c’était parce que cette gestion scientifique n’était pas encore assez aboutie. « Plus ses conseils étaient mauvais, plus il y avait de raisons de le payer pour plus de conseils ». « Le taylorisme est une arnaque parfaite pour les riches et les puissants. Il alimente leurs préjugés et leur méfiance envers leurs employés, et leur confiance mal placée en leur propre capacité à comprendre le travail de leurs employés mieux que leurs employés. » 

Ce management scientifique du travail est désormais disponible sous formes d’innombrables applications, explique Doctorow. C’est ce qu’on appelle le « bossware », le matériel du patron. « Les travailleurs indépendants sont au cœur du bossware ». Alors que le travailleur indépendant rêve de devenir son propre patron, il est en fait totalement dépendant d’un téléphone qui le surveille et le discipline en continue. Et l’IA vient renouveler cette bulle du bossware, qui continue à venir convaincre les patrons que l’IA va pouvoir faire votre travail à votre place, comme il a été convaincu que la gestion scientifique du travail allait améliorer la productivité. 

Pour Alvaro Bedoya, commissaire à la Commission fédérale du travail américaine (FTC) qui s’intéresse à la protection des travailleurs, cette gestion algorithmique du travail devrait être considérée comme illégale, explique-t-il dans une stimulante défense. En moyenne, rappelle ce dernier, un employé d’un centre d’appels est soumis à au moins 5 formes de surveillance qui pèsent sur lui, le dénigrent et ne tolèrent aucune discussion. A savoir, une surveillance vidéo sous IA, une surveillance vocale sous IA qui prétend mesurer leur empathie, une IA qui chronomètre leurs appels, une autre qui analyse les sentiments durant l’appel et une dernière qui évalue la réussite des employés à atteindre des objectifs arbitraires. Bedoya estime que ces surveillances pourraient être qualifiées de pratiques commerciales déloyales… Prouver une pratique commerciale déloyale nécessite de démontrer qu’elle cause un « préjudice substantiel », qu’elle ne peut pas être « raisonnablement évitée » et qu’elle n’est pas corrigée par un « avantage compensatoire ». Dans son discours, Bedoya fait valoir que la gestion algorithmique du travail satisfait à ces trois critères… et que la FTC qui est chargée de réguler les pratiques commerciales déloyales devrait être capable d’agir. Par exemple, il est clair que l’augmentation des cadences que produit le bossware conduit à des préjudices sur la santé des employés. Que l’autoritarisme des applications de surveillance des chauffeurs-livreurs ne peut pas être évité. Enfin, elles ne proposent aucun avantage compensatoire, au contraire. La gestion algorithmique du travail produit surtout des sanctions arbitraires, comme quand les opérateurs de centres d’appels qui ont un accent, du Sud des Etats-Unis ou des Philippines, sont évalués négativement par les IA qui sont chargés de détecter leur émotion. « Les travailleurs devraient avoir le droit de savoir quelles données les concernant sont collectées, par qui elles sont partagées et comment elles sont utilisées. Nous devrions tous avoir ce droit. »

« Les gens riches peuvent rester irrationnels plus longtemps que vous ne pouvez rester solvables. Les marchés ne résoudront pas ce problème, mais le pouvoir des travailleurs le peut », conclut Doctorow.

Reste que démontrer l’arbitraire et pire encore l’absurdité des calculs reste extrêmement difficile. 

Dans un autre billet, l’infatigable Doctorow revient sur le travail d’un groupe de chercheurs et de hackers européens, Reversing Works (une division spécialisée du collectif AI Forensics, ex-Tracking Exposed), qui ont contribué à un travail d’ingénierie inversée sur l’application de livraison italienne Glovo/Foodinho, multicondamnée par les autorités italiennes pour atteinte à la vie privée. Dans un rapport publié par l’Institut syndical européen en novembre 2023, on apprenait que l’application démultipliait l’utilisation de données problématiques, surveillait les travailleurs au-delà de leurs heures de travail, utilisait un score de notation des travailleurs et envoyait d’innombrables informations confidentielles à des tiers. Pour Doctorow, ce mode d’enquête et de révélation présente un réel potentiel pour les organisations syndicales qui cherchent à protéger les travailleurs et promet également de développer des outils d’action directe qui permettent aux travailleurs de retrouver du pouvoir. « Ce n’est qu’en s’emparant des moyens de calcul que les travailleurs et les syndicats peuvent renverser la situation face au système de domination, à la fois en modifiant directement les conditions de leur emploi et en produisant les preuves nécessaires à ces démonstrations. Autant d’outils que les régulateurs pourraient également utiliser pour forcer les employeurs à rendre ces changements permanents. » Comme l’expliquait le collectif dans un communiqué, le RGPD est insuffisamment utilisé par les syndicats, notamment parce que « la vie privée est un droit individuel qui n’est pas considéré comme un outil de lutte des travailleurs », alors qu’il permet de contester nombre de pratiques déloyales. 

Reste que la production de « contre-données » – comme l’ont fait Reversing Works avec Glovo, le Worker Info Exchange ou le Stop-Club au Brésil ou encore Driver’s seat, une coopérative de chauffeurs qui aide les conducteurs à utiliser leurs données pour optimiser leurs revenus – n’est pas si simple. Le problème, bien sûr, c’est que ces collectes sont compliquées et fragiles à mettre en place et leurs résultats pas toujours assurés. En 2021 par exemple, des livreurs de Doordash avaient mis au point un outil pour observer les pourboires qu’ils recevaient sur l’application pour veiller à ce que l’entreprise ne les accapare pas… jusqu’à ce que l’entreprise ferme l’accès aux données. Sans compter que bien souvent, le législateur ne permet pas aux employés de produire des données en parallèle de celles de l’employeur. 

Pas plus qu’il n’oblige les entreprises au partage de données à leurs employés et à leurs représentants… Le problème, c’est que le RGPD en consacrant exclusivement un droit aux données personnelles a oublié d’armer le droit aux données collectives. C’est bien souvent au prétexte que les données mobilisées par les entreprises sont personnelles que les collectifs de travail et les syndicats ne peuvent y avoir accès, alors que leur traitement collectif, lui, est possible pour les entreprises. 

Limiter les cadences comme on lutte contre le morcellement des horaires

Autre piste d’action pour limiter la surveillance au travail : mettre des seuils aux cadences que la convergence des systèmes de surveillance numérique tentent d’optimiser ! La réponse consiste alors pour le régulateur à poser des limites aux cadences (à l’image d’une récente loi californienne et de la décision de la Cnil contre Amazon Logistic) tout comme il intervient parfois pour définir des limites aux morcellement horaires du travail en définissant par exemple des durées minimales de travail journalier. 

Reste que légiférer pour faire que les outils de contrôle du travail rendent des comptes est difficile, comme le montre l’échec de la loi new-yorkaise à imposer des audits aux outils d’embauches automatisés qui continuent à proposer peu de recours et de garantie aux chercheurs d’emplois (voir notre article sur la question, qui pointait les limites de la régulation des outils de recrutement automatisés). 

Autre risque : le caractère discrétionnaire et opaque des promotions et avantages, à l’image du titre de « Master » qu’Amazon attribue à certains travailleurs du Mechanical Turk selon un score de confiance confidentiel : une forme de plafond de verre algorithmique que dénonçait la chercheuse Lilly Irani. Même chose quand Amazon finalement note les travailleurs de ses entrepôts selon leur rapidité d’exécution ou leur taux d’erreur, sans prendre en compte les particularités de ses employés, indifférent aux situations, au genre, au handicap… ou au taux d’accident provoqué. Ajoutez à cela le fait que les données permettent de fixer des objectifs dynamiques, des performances changeantes et opaques… et vous avez un cocktail de paramètres opaques qui vient directement impacter et fragiliser le droit du travail. 

Il n’y aura pas de limites à la surveillance sans consacrer un droit d’accès aux données pour les travailleurs

Qui décide de la signification que les traitements produisent depuis les données ? Telles sont les questions que pose un intéressant travail sur la dataification du travailleur réalisé par la chercheuse Alexandra Mateescu pour Data & Society. La chercheuse y rappelle simplement que le management algorithmique ne peut pas remplacer les règles qui garantissent des droits équitables, comme le pointait déjà l’AI Now Institute. Quant à l’information des salariés sur la collecte et le traitement des données les concernant, elle est bien souvent insuffisante pour remédier aux problèmes. Le management algorithmique ne peut pas remplacer les droits des travailleurs, bien au contraire, il les sape. 

Pour dépasser ces problèmes, nombre de travailleurs tentent de s’organiser pour reprendre la main sur leurs données, explique Alexandra Mateescu. Mais ces tentatives nécessitent de leur part une organisation, une expertise et des moyens dont ils ne disposent pas toujours. 

Les syndicats sont néanmoins de plus en plus conscients de l’impact des données et tentent de plus en plus souvent d’inclure des dispositions relatives à celles-ci dans leurs négociations, comme le montrait la chercheuse Lisa Kresge dans un rapport pour le Labor Center de Berkeley. Une coalition de syndicats de services publics européens a mis en place un espace de ressource (en français) pour faciliter les négociations sur les enjeux numériques. Reste que la question des données et de leur accès demeure trop souvent secondaire dans les négociations syndicales. On le comprend. Mais il n’y aura pas de limites à la surveillance sans consacrer un droit d’accès et de traitement pour les travailleurs et leurs représentants. 

Hubert Guillaud

Comme à son habitude, danah boyd pose une question très pertinente en nous invitant à distinguer le risque du préjudice. 

Savoir si l’usage des réseaux sociaux par les adolescents relève d’un risque ou cause un préjudice est une distinction importante. Le préjudice induit une nature causale. En droit, les avocats cherchent des préjudices pour les imputer aux acteurs qui les causent ou les réglementer. Quand une personne cause un préjudice à une autre, nous souhaitons que cette personne soit tenue pour responsable. La difficulté consiste à prouver le lien entre le préjudice subi et l’intentionnalité du concepteur. 

Le risque, lui, nécessite qu’on les identifie et qu’on les gère. « Certains environnements introduisent davantage de risques potentiels et certaines actions les réduisent ». Si la réglementation peut être utilisée pour les réduire, elle ne peut pas les éliminer. Ce qui fait que la réduction du risque se retourne parfois contre les utilisateurs, les tenants responsables de ce qu’ils partagent alors que les effets d’amplification ne sont pas nécessairement de leurs faits. 

Concevoir, éduquer, socialiser et prendre soin : piliers de la réduction des risques

Le ski par exemple est une pratique risquée, explique danah boyd, qui nécessite beaucoup d’éducation, de messages de prévention, et des mesures pour limiter les risques que les gens prennent. Tous les environnements sociaux sont risqués. Traverser la rue l’est également. L’un des éléments clés de la socialisation de l’enfance à l’âge adulte est d’apprendre à évaluer et à réagir aux risques inhérents à l’existence. Nous savons apprendre aux plus jeunes à traverser la rue. Et nous savons également aménager la rue pour diminuer les risques. Pour limiter les risques nous avons donc 3 leviers : agir sur l’environnement, éduquer et socialiser. 

Les médias sociaux peuvent être dangereux pour les plus jeunes. Nous pouvons améliorer leur conception pour qu’ils le soient moins, bien sûr. Le problème, c’est que nous ne savons pas toujours comment améliorer leur conception pour qu’ils soient moins dangereux et ces interventions peuvent se révéler pires qu’on le pense. Cela ne signifie pas qu’on doive renoncer à les améliorer, bien au contraire, mais qu’on ne peut peut-être pas cimenter leur conception dans la loi pas plus que nous ne sommes capables de gérer les risques uniquement en améliorant la conception. Ainsi, nous focaliser sur une meilleure conception de la ville est inutile si nous ne faisons aucun travail pour socialiser et éduquer ceux qui partagent l’espace public… et si nous n’avons aucun dispositif pour venir en aide aux personnes en difficultés. 

Alors oui, des personnes subissent des préjudices sur les médias sociaux, notamment du fait d’autres utilisateurs de ces médias sociaux qui doivent en être tenus responsables (et parfois du fait de la conception même des plateformes). Mais l’on ne peut pas concevoir un système qui permette aux gens d’interagir sans subir jamais de préjudices. Le problème cependant consiste à faire la part entre la responsabilité des utilisateurs et celle des concepteurs de médias sociaux. Il consiste à savoir si certaines formes de conception rendent les préjudices et les risques plus probables. 

Les chercheurs ont largement mis en évidence que le harcèlement scolaire est plus fréquent à l’école que sur les réseaux sociaux, même s’il est plus visible sur ces derniers. Nombre d’écoles agissent en déployant des interventions pour éduquer et socialiser les élèves à ces problèmes. Ces programmes font souvent bien plus pour résoudre le harcèlement que l’amélioration de la conception des bâtiments, ironise la chercheuse – tout en suggérant de taxer les réseaux sociaux pour financer ces interventions dans le domaine scolaire. Bien sûr, les préjudices que subissent les gens sur les réseaux sociaux pourraient être atténués en améliorant le respect de la vie privée des utilisateurs, et pas seulement des plus jeunes d’ailleurs. « Mais même si vous pensez que les enfants sont particulièrement vulnérables, j’aimerais souligner que même si les enfants peuvent avoir besoin d’un siège d’appoint pour que la ceinture de sécurité fonctionne, tout le monde serait mieux loti si nous mettions en place des ceintures de sécurité pour la vie privée plutôt que de dire simplement que les enfants n’ont pas leur place dans les voitures. » Or, les projets de lois visant à exclure les plus jeunes des réseaux sociaux ne proposent de mettre en place aucune ceinture de sécurité, mais seulement de ne pas les accueillir dans les véhicules au risque qu’ils ne puissent plus se déplacer. 

Pourtant, rappelle la chercheuse, il est difficile d’imputer à la technologie la responsabilité des préjudices sociétaux, même si celle-ci amplifie très fortement nos plus mauvais penchants, comme l’intimidation, le harcèlement, le racisme, le sexisme, l’homophobie… Et il est naïf de croire que ces préjudices puissent être réparés par la seule technologie. Nous ne pouvons pas protéger nos enfants des maux de la société, tout comme les parents noirs ne peuvent empêcher leurs enfants d’être victimes du racisme. D’où l’importance d’éduquer les enfants blancs pour voir et résister au racisme. Nous devons aider nos enfants à voir la laideur du monde pour qu’ils deviennent les agents du changement. Les réseaux sociaux rendent nos travers sociaux plus visibles… servons-nous en. Mais éviter les réseaux sociaux ne les fera pas disparaître. Et boyd de noter que souvent, ceux là même qui propagent la haine souhaitent empêcher leurs enfants d’accéder à la technologie, certainement bien plus par peur que les exposer à la différence ne les rende plus tolérants. 

Il ne fait aucun doute que les médias et notamment les réseaux sociaux nous exposent à un monde plus vaste, plus diversifié et plus complexe. « Au début des réseaux sociaux, rappelle la chercheuse, je pensais que le simple fait d’exposer les gens aux autres augmenterait fondamentalement notre tolérance collective. J’ai appris depuis que ce n’était pas si simple et que l’exposition seule ne suffit pas. Mais isoler les gens ou interdire aux plus jeunes d’accéder aux réseaux sociaux, ne nous aidera pas non plus et n’aidera pas nos enfants à acquérir les compétences nécessaires pour vivre ensemble », conclut-elle, faisant écho à l’enjeu que nous avons, collectivement, à prendre soin de la construction du tissu social, comme elle nous y invitait déjà, il y a quelques années, dans un remarquable article. 

Vérification d’âge : quels murs construisons-nous ?

Cette tribune s’inscrit dans un débat plus large autour du Kids online Safety Act (Kosa), un projet de loi américain très controversé pour protéger les mineurs sur les médias sociaux. Une bonne synthèse des enjeux est résumé dans un rapport dirigé par la chercheuse Alice Marwick (qui est également la directrice de la recherche de Data & Society, le groupe de recherche de Microsoft fondé par danah boyd il y a 10 ans) qui montre les limites de la proposition de loi et notamment le fait que celle-ci puisse permette d’augmenter la censure des contenus en donnant plus de pouvoir aux plateformes sans aider les jeunes qui sont en difficulté sur les médias sociaux. Le cœur du renforcement de la protection repose sur un dispositif de vérification d’âge, compliqué à mettre en œuvre. De nombreux pays l’envisagent, mais aucun n’a pour l’instant trouvé une méthode convaincante. En France où une vérification d’âge doit être mise en place pour l’accès aux sites pornographiques, la Cnil défend le recours à un vérificateur tiers indépendant et le double anonymat… Une solution qui n’a pour l’instant pas d’opérationnalité technique à l’efficacité démontrée. 

Lors d’un débat sur les implications de l’introduction de systèmes de vérification d’âge prévu notamment par ce projet de loi, danah boyd rappelait déjà que nous devrions aider les jeunes plutôt que de construire des murs autour d’eux. Sarah Forland co-auteure d’un rapport sur le sujet pour l’Open Technology Institute du think tank New America estime que la vérification d’âge doit toujours proposer des alternatives, que ces outils doivent maximiser la confidentialité et permettre aux utilisateurs de rester maître des modalités, alors qu’ils introduisent un risque de censure plus fort que jamais. Une réglementation de l’accès à internet selon l’âge semble à beaucoup une mauvaise réglementation mais elle est malgré tout préférable à l’absence de réglementation actuelle. Forland rappelle que si la vérification d’âge est une technologie controversée c’est parce qu’elle est difficile à mettre en œuvre. 

Dans le monde réel, d’ailleurs, contrairement à ce qu’on en dit souvent, elle marche très mal, rappelle boyd. Aux Etats-Unis, la consommation d’alcool est interdite aux moins de 21 ans, mais le pays a l’un des taux le plus élevé de consommation excessive d’alcool des plus jeunes. Si les plus jeunes ont un problème de consommation excessive, c’est parce que l’interdiction a transformé l’alcool en preuve que vous étiez adulte ce qui a généré une socialisation particulièrement malsaine. Voulons-nous faire la même chose ? Les enfants regardent leurs parents plongés toute la journée sur leur téléphones et on est en train de leur dire qu’ils ne pourront y avoir accès avant 18 ans ! En fait, on fait tout pour ne pas interroger les processus de socialisation et leurs limites. 

Les barrières d’âge n’aident en rien, disait déjà la chercheuse en 2011 ! Pour boyd, il y a d’un côté une crise de fragilité mentale des plus jeunes que nous devons aborder avec des programmes et des centres d’aides où le numérique n’a pas de rôle à jouer. De l’autre, il nous faut réglementer l’industrie technologique, hors de contrôle, ce qui est un tout autre problème qui nécessite de renforcer la confidentialité de tous, pour mieux protéger tout le monde et pas seulement les plus jeunes. boyd rappelle que lorsqu’elle étudiait la Coppa, la loi sur la protection de la vie privée des enfants en ligne, qui a introduit des protections pour les moins de 13 ans, plus de la moitié des parents mentaient sur l’âge de leurs enfants pour leur permettre d’accéder aux services web auxquels ils n’avaient plus droits. 

Pour la sociologue, on cherche à nouveau à répondre à un problème social par une solution technique qui ne le résoudra pas. Pour elle, nous avons bien plus besoin de structures de soins et d’accompagnement pour les plus jeunes que de dispositifs techniques. Nous avons besoin d’être capables d’apporter de l’aide à ceux qui en ont besoin avec des structures ouvertes et discrètes. « Nous devons être capables de prêter attention aux jeunes qui crient à l’aide plutôt que d’essayer de trouver des moyens de les rendre plus invisibles aux yeux des gens qui les entourent. » Pour l’avocat du Digital Trust & Safety Partenership, David Sullivan, c’est comme le filtrage de contenus dans les écoles qui, sous prétexte de protéger les enfants, semble faire bien plus de dégats qu’autre chose, en les empêchant d’accéder à des contenus essentiels. Pour danah boyd : lorsque nous nous concentrons sur la vérification d’âge, nous nous concentrons sur une réponse technique à un problème social, donc sur la technologie plutôt que sur les jeunes. Plutôt que de chercher à refabriquer de la socialisation, nous sommes en plein « solutionnisme techno-légal ». 

Le risque : croire que le code peut se substituer à la loi

Dans leur article de recherche, où elles développent ce concept, danah boyd et Maria Angel rappellent que le devoir de diligence que Kosa impose aux plateformes est ambiguë. Il tient les entreprises responsables de ne pas avoir pris de mesures raisonnables pour prévenir ou atténuer des risques complexes, comme l’intimidation, l’anxiété ou la dépression, pour lesquels les experts n’ont pas vraiment de solutions. Si la façon dont sont conçus les médias sociaux peuvent parfois donner lieu à des expériences sociales malsaines, déterminer les conséquences des effets de conception n’est pas toujours simple. Or, la diligence dans la modération qu’on demande aux plateformes est profondément ancrée dans une vision déterministe de la technique que les chercheuses appellent « solutionnisme techno-juridique ». C’est la façon même dont le législatif tente de pousser les plateformes à être diligentes qui pose problème. Le cadre réglementaire n’énonce pas d’exigences de conception spécifiques que les plateformes devraient éviter et n’observent que les résultats qu’elles doivent atteindre. « Cela équivaudrait à exiger des constructeurs automobiles qu’ils s’assurent que les conducteurs ne soient jamais distraits par des tiers et que tous les accidents soient évités plutôt que de les obliger à mettre en place des ceintures de sécurité. »

Pour le grand public, l’allégation consistant à penser que les médias sociaux sont nocifs pour les plus jeunes est très répandue. Les décideurs politiques ne se contentent pas d’affirmer que les plateformes de médias sociaux sont le lieu du problème : ils considèrent également la technologie comme le lieu de la solution. « Si les caractéristiques de conception sont le problème, exiger une bonne conception peut faire disparaître les préjudices », estiment ces règlements.  Le risque est de fournir une solution technique à une panique morale. « Lorsque Lessig a soutenu pour la première fois que « le code est la loi », il entendait signaler comment la conception du logiciel joue un rôle régulateur en rendant certains résultats plus ou moins probables. L’une des erreurs commises par les décideurs politiques est de réinterpréter ses propos pour adopter une vision techno-déterministe selon laquelle le code peut agir comme un substitut à la loi pour dicter l’avenir. » « Le problème, c’est que les entreprises technologiques seront obligées par la loi de concevoir leurs systèmes pour des résultats sociaux qu’elles ne peuvent pas contrôler. » Et rien ne prouve qu’une appréciation par les objectifs aidera réellement les jeunes en situation de vulnérabilité ni n’accomplira une meilleure conception. Au contraire. Il est probable qu’une telle politique encourage les entreprises à atteindre leurs objectifs en matière de sécurité en renforçant les logiques solutionnistes, tout en nous détournant d’autres approches fondées sur des preuves. 

Tout le monde répète que les médias sociaux seraient la cause de tous les maux… Mais « quel est l’impact de l’utilisation des médias sociaux sur la santé mentale des jeunes ? », questionnent les deux chercheuses. Les réponses des chercheurs à cette question ne sont pas tranchées. Ceux-ci ont plutôt montré que les problèmes sociaux et psychologiques en ligne ont des racines dans la dynamique sociale hors ligne, comme le harcèlement. Comme le montrait danah boyd dans son livre, C’est compliqué, la technologie est rarement la cause des problèmes des adolescents, mais est souvent l’endroit vers lequel ils se tournent lorsqu’ils sont en difficulté. Pour elle, les médias sociaux permettent de rendre visible les problèmes des jeunes plus qu’ils n’en sont la cause. En fait nous sommes là, face à une question très polarisée, comme l’a montré le journaliste du New York Times, Ezra Klein, en interviewant Jean Twenge qui pense que les médias sociaux ont des effets négatifs sur la santé mentale des jeunes et Lisa Damour qui montre qu’il n’y en est rien. Le lien entre les médias sociaux et la santé mentale des jeunes demeure complexe.

Les entreprises de la tech sont en mesure de concevoir leurs plateformes afin que les jeunes ne soient pas exposés à certains contenus ni ne participent à certaines activités. Mais les entreprises ne pourront jamais contrôler précisément la manière dont les comportements « autorisés » sur leurs plateformes affectent l’expérience et le bien être. Pour le dire plus simplement : les plateformes peuvent certes être mieux conçues, mais elles ne peuvent pas faire que les enfants ne soient pas rejetés par leurs pairs, ou que l’actualité ne provoque pas d’anxiété. En obligeant les plateformes à concevoir des « résultats positifs », les autorités semblent ignorer le caractère émergent du social. Si les entreprises peuvent ne pas montrer certaines publicités, exiger qu’elles produisent des résultats sociétaux positifs suppose qu’elles pourraient avoir un contrôle total sur les comportements sociaux. Le risque est que la réglementation crée des attentes irréalistes sur ce que le design peut faire pour les enfants. 

Or, dans un contexte où des livres ou même la justice raciale sont interdits dans nombre d’écoles américaines, la question de savoir ce qui a un impact négatif sur les jeunes est devenue une question éminemment politique. Les risques d’abus du projet de loi Kosa ont déclenché l’inquiétude de la communauté LGBTQ d’autant que les conservateurs ont plusieurs fois affirmé que le projet de loi avait pour but de protéger les mineurs de l’endoctrinement politique. La politisation des contenus est pourtant bien ce qui se déroule. Après les élections de 2016, les entreprises de médias sociaux ont un temps pris la question de la désinformation au sérieux. Le problème, c’est que la désinformation n’est pas la même pour tous, chacun souhaitant la définir en fonction de ses objectifs politiques. Mais surtout, en demandant aux entreprises technologiques d’améliorer leurs conceptions pour éviter les résultats négatifs, les décideurs politiques renforcent la rhétorique déterministe et solutionniste qui rend l’industrie technologique toxique en premier lieu. Pourtant, ce que les gens font avec une technologie donnée n’est pas déterminé par la conception seule, mais par les choix que les gens font en exploitant ces outils. Comme le disait Morozov lui-même, « en promettant des résultats presque immédiats et beaucoup moins chers, les solutions rapides peuvent facilement saper le soutien à des projets de réforme plus ambitieux, plus stimulants intellectuellement, mais aussi plus exigeants ». Le risque, c’est que le solutionnisme efface les problèmes sociaux d’abus, de pauvreté, d’inégalité… qui sont bien souvent à l’origine des problèmes que les législateurs voudraient atténuer. On ne fera pas disparaître les causes en nettoyant les symptômes !, rappellent les chercheuses. L’accès à des soins pour la santé mentale, la mise en œuvre de programmes d’éducation ont plus de chance de faire bouger les choses que de masquer des contenus sur les réseaux sociaux. 

Les législateurs ont raison d’exiger que les entreprises de médias sociaux cessent d’utiliser une conception manipulatrice pour exploiter les vulnérabilités décisionnelles du public. Tout comme ils l’ont fait avec d’autres formes de médias, les décideurs politiques peuvent et doivent se pencher sur les types de publicité et de fonctionnalités qui devraient être autorisés. Les décideurs politiques devraient réfléchir à ce qui pourrait constituer une « ceinture de sécurité numérique » et l’imposer. Cependant, si les décideurs politiques veulent réellement aider les jeunes à faire face aux difficultés sociales auxquelles ils sont confrontés, ils doivent adopter une approche écologique face à un problème qui a de multiples paramètres. Il n’existe pas de solution miracle. Tenir les entreprises technologiques responsables du bien-être des jeunes est politiquement attrayant, mais cela n’aidera pas les jeunes en situation de vulnérabilité. 

L’aporie de la gouvernance par les risques

Le risque, c’est de croire qu’on peut gouverner les risques depuis les calculs… et que toute régulation ne repose que sur la régulation par le risque, comme l’expliquait Irénée Régnauld, qui dénonce également cette approche paternaliste par le risque et explique que la gestion des risques ne peut pas constituer à elle seule un mode de gouvernement, au risque de verser dans un éternel monitoring ex post de systèmes n’ayant jamais fait l’objet d’aucune débats démocratiques. 

boyd semble bien confiante tout de même. Les entreprises pilotent et orientent à leur gré l’architecture de leurs plateformes, laissant bien peu d’espace à l’éducation et à la socialisation puisqu’on ne peut apprendre des comportements à tenir dans des usines où les convoyeurs changent sans arrêt, comme c’est le cas de leurs algorithmes d’amplification sociale. Les modalités de conception ont bien des effets, que les entreprises savent mesurer et orienter au bénéfice de leurs modèles d’affaires plus que du bien-être des utilisateurs ou de la valeur de leur recommandation pour la société, comme le montrait le chercheur Arvind Narayanan, Pour le dire dans le langage de boyd, les modalités de socialisation changent sans arrêt ce qui limite également nos capacités d’éducation, puisqu’il est bien difficile de comprendre les modulations algorithmiques. Les entreprises ne sont pas vertueuses et peu de choses les poussent à l’être. Bien sûr, les autorités ont des exigences toujours plus fortes de modération renforçant les biais de modération des plateformes, au risque de rendre certains sujets impossibles, et non des moindres. En renforçant le droit à la modération des réseaux sociaux, le risque est que les médias sociaux décident de quelles violences la société peut discuter, expliquait très pertinemment Alizée Vincent pour Arrêt sur Images, en montrant que la censure automatisée conduisait à confondre les violences policières ou sexuelles, avec leur dénonciation. 

TikTok comme Meta par exemple connaissent très bien les effets qu’ont leurs architectures de recommandation sur les gens et notamment sur les plus jeunes. Mark Zuckerberg lui-même convenait d’ailleurs que les utilisateurs ne contrôlent plus leurs flux de médias sociaux. La maîtrise totale de nos flux par les grandes plateformes pourrait avoir pour conséquence de les tenir plus responsables que jamais des risques qu’ils sont censés limiter, explique la journaliste Julia Angwin pour le New York Times. Quand ce à quoi nous accédions était la conséquence des décisions des utilisateurs, il était plus facile pour les entreprises de ne pas être tenues responsables des conséquences. Mais c’est devenu de moins en moins vrai. « Si les plateformes technologiques façonnent activement nos expériences, après tout, peut-être devraient-elles être tenues responsables de la création d’expériences qui nuisent à nos corps, à nos enfants, à nos communautés et à notre démocratie ». Aux Etats-Unis, plusieurs décisions de justice viennent de reconnaître que les plateformes ne pouvaient pas s’abriter derrière le fait qu’elles n’étaient pas responsables des contenus quand leurs algorithmes les orientent d’une manière aussi déterminante. Si le tribunal tient les plateformes responsables de leurs amplifications algorithmiques, cela pourrait les inciter à limiter la distribution de contenus nocifs mais également les conduire à renforcer la censure. 

Qu’en sera-t-il ? L’élection de Trump vient de rebattre profondément les cartes de ce débat.  A terme, il semble certain que ce ne sont pas les utilisateurs qui vont avoir la main. 
David Rotschild, chercheur au Penn Media Accountability Project et co-auteur d’une étude pour Nature qui dénonce l’instrumentation de la désinformation en ligne, explique sur Undark que dire que « les réseaux sociaux sont le problème » propose une solution très simple et facile à appliquer, qui consiste à corriger les algorithmes. Et cela évite la question la plus difficile – celle que nous ne voulons généralement pas aborder – sur la nature humaine. Or la violence ou le racisme… n’ont pas été inventés par les réseaux sociaux. Quand bien même les réseaux sociaux les instrumentisent plus que jamais. Nous ne gouvernerons pas nos disputes sociales seulement en régulant les réseaux sociaux. 

La régulation se présente comme un nouvel art de gouverner, rappelle le politiste Antoine Vauchez dans l’introduction au livre collectif qu’il a dirigé, Le moment régulateur, naissance d’une contre-culture de gouvernement, parue dans l’excellente collection « Gouvernances », des presses de SciencesPo (également disponible sur Cairn). Désormais, on régule plus qu’on ne réglemente, c’est-à-dire qu’on oriente, on met en conformité, on corrige… Le droit s’équilibre de normes, d’outils, d’indicateurs qui s’écrivent à plusieurs, avec des autorités dédiées et plus encore avec les entreprises régulées elles-mêmes. Avec ses sanctions et surtout ses amendes, les bureaucraties gouvernantes semblent avoir trouvé là de nouvelles manières de faire de la politique, de nouvelles formes de puissances.

Le numérique a participé activement à la montée des instruments de régulations. Des regtechs aux outils de la compliance, en passant par la transparence et l’open government, la régulation semble s’armer d’une double modernité, technique et politique. 

Mais l’Etat régulateur se construit également en opposition à l’État interventionniste et redistributeur. Il incarne la transformation d’un État providence en État libéral, qui doit désormais composer avec le secteur privé. La régulation semble un art de gouverner néolibéral, qui valorise l’auto-contrôle et qui s’appuie sur un ensemble d’autorités nées de la libéralisation des anciens secteurs des monopoles d’État, qui vont initier des rapports plus collaboratifs avec les régulés, au risque d’endormir bien souvent la régulation elle-même. La régulation va pourtant produire de nouveaux savoirs techniques : amendes, outils déontologiques pour organiser les rapports entre régulateur et régulé, indicateurs de conformité, bac à sable réglementaires et expérimentations permettant de déroger aux règles de droit pour stimuler l’innovation et trouver de nouvelles modalités de réglementations directement avec ceux qu’elles concernent. Pourtant, souligne le directeur de l’entreprise éditoriale, les structures publiques de la régulation restent d’abord des institutions faibles et fragiles, qui tentent de se présenter plus en arbitre qu’en gendarme, sans toujours réussir à être l’un comme l’autre. 

L’ouvrage revient par exemple sur l’histoire de nombreux acteurs qui composent ce champ de la régulation qui vont naître avec la fin des entreprises monopolistiques d’État pour permettre à celui-ci de continuer ses contrôles, via de nouvelles contraintes pour régir la corruption, la concurrence, les données, les questions environnementales… L’État semble ouvrir une parenthèse faite de dialogue, de souplesse, de clémence (les amendes records annoncées, très visibles, sont cependant rarement payées et très souvent reportées via des appels en justice souvent suspensifs et des procès qui s’éternisent et qui vident bien souvent les décisions de leurs effets, comme l’explique très bien Yann-Antony Noghès dans son excellent documentaire sur la fabrication du DMA et du DSA européen). C’est le cas par exemple de la CNIL dont Anne Bellon et Pierre France montrent la transformation d’institution militante à une agence d’enregistrement de la conformité qui peine à exercer son pouvoir de contrôle et surtout de sanction. 

L’ouvrage s’intéresse beaucoup aux personnes de la régulation, à la sociologie des régulateurs, pour montrer la grande porosité des acteurs. Dans un article sur Google, Charles Thibout, montre comment Google va investir le champ de la régulation pour tenter de mieux l’orienter et le subvertir à son profit, lui permettant de transformer et contourner le droit pour le transformer en « norme processuelle fonctionnelle ». L’ouvrage s’intéresse également aux modalités que la régulation met en place et notamment au développement et au déploiement des outils de la régulation avec les régulés. Les chercheurs soulignent que dans cet univers, le niveau de technicité est très élevé, au risque de produire une régulation professionnalisée, très éloignée des citoyens censés en bénéficier. Là encore, le numérique est un moteur fort de la régulation, non seulement parce qu’il en est l’un des principaux objets, mais aussi parce qu’il permet de développer des outils nouveaux et dédiés. 

On regrettera pourtant que l’ouvrage regarde peu la réalité du travail accompli par ces agences et ces acteurs. Le livre observe finalement assez peu ce que la régulation produit et notamment ses impasses. A force d’insister sur le fait que la régulation est un changement de gouvernance, une vision moderne de celle-ci, l’ouvrage oublie de montrer qu’elle est peut-être bien plus dévitalisée qu’on ne le pense. Isabelle Boucobza évoque pourtant le brouillage qu’elle produit, en opposant finalement la protection des droits et libertés fondamentaux qu’elle mobilise, et la régulation de l’économie de marché sur laquelle elle agit. La régulation produit au final d’abord de l’efficacité économique au détriment de la protection des droits et libertés, subordonnant ces derniers à la première. La conformité, en structurant l’auto-régulation, permet surtout aux entreprises d’éviter les condamnations. A se demander en fait, si la régulation ne propose pas d’abord un contournement du droit, une clémence, qui vide la réglementation même de ses effets, à l’image de la difficulté de la CNIL à passer des plaintes, aux contrôles ou aux sanctions. En surinvestissant par exemple le reporting, c’est-à-dire le fait d’exiger des rapports, des chiffres, des données… la régulation semble bien souvent s’y noyer sans toujours lui permettre d’agir. Comme le montrent Antoine Vauchez et Caroline Vincensini dans leur article sur la compliance, la régulation démultiplie ses exigences (dans le domaine de la prévention de la corruption, elle exige codes de conduite, dispositifs d’alertes, cartographie des risques, évaluations des clients, contrôles comptables, de la formation, des sanctions internes, et un dispositif d’évaluation des mesures mises en place). Mais la démultiplication des pratiques pour montrer qu’on est en conformité ne s’accompagne d’aucun durcissement du contrôle ni des sanctions. La régulation produit surtout une « standardisation technique », une technicisation du régulateur.

Plus qu’une contre-culture de gouvernement qui proposerait de nouvelles méthodes qui seraient enfin agiles et puissantes, on peut se demander si au final, la régulation ne produit pas l’exact inverse. Comme le pointe Antoine Vauchez en conclusion, la régulation s’est développée en collant aux intérêts du secteur privé, « au risque de n’accorder aux intérêts diffus des causes citoyennes qu’une attention seconde ». Dans notre article sur l’AI Act (newsletter #8), on concluait sur les risques d’une réglementation qui ne protège ni les citoyens, ni les entreprises, c’est-à-dire une régulation qui produit des amendes, mais finalement peu de transformations des pratiques. 

Dans le procès antitrust qui oppose depuis quatre ans Google au ministère de la Justice américain, le juge, Amit Mehta, a pris une décision (elle fait 300 pages), confirmant ce que nous avons tous sous les yeux depuis plusieurs années : Google est en situation d’abus de position dominante dans la recherche en ligne et la publicité, lui permettant de forcer l’usage de son moteur de recherche comme d’obliger à des tarifs sans concurrence dans les résultats de recherche sponsorisés. Le jugement montre comment Google a réussi à imposer partout son moteur de recherche, en payant des sommes conséquentes à Samsung, Apple ou Mozilla pour devenir le moteur de recherche par défaut. Pour le juge Mehta, Google a violé le Sherman Act, la loi antitrust vieille d’un siècle qui a notamment conduit à la dissolution de Standard Oil en 1910, ainsi qu’à la dissolution d’AT&T en 1982. 

Même si Google a fait appel, l’entreprise risque de se voir imposer d’importants changements, explique très pédagogiquement Jérôme Marin dans CaféTech. Plusieurs scénarios sont possibles à ce stade. Les accords commerciaux pour imposer son moteur comme choix par défaut pourraient être interdits, ce qui risque, contre-intuitivement, de fragiliser certains acteurs parmi les plus fragiles, notamment Mozilla car l’accord financier passé avec Google pour qu’il soit le moteur par défaut de Firefox représente l’essentiel des revenus de la fondation. 

Comme le souligne Ed Zitron, Il s’agit d’un moment important dans l’histoire de la Silicon Valley. Mais est-ce une réelle menace pour Google ? Certes, plus de la moitié des revenus annuels de Google proviennent de Google Search, soit plus de 175 milliards de dollars. Ce monopole explique en grande partie pourquoi l’expérience de recherche de Google est devenue aussi désastreuse – Zitron avait montré dans un précédent billet que le recul de l’efficacité des résultats de Google depuis 2019 étaient concomitants avec la nomination d’un gestionnaire à la tête du moteur venu développer les revenus au détriment de la qualité, corroborant l’entrée dans l’âge du cynisme des calculs que nous avions nous-mêmes pointés. 

Marchés clos

Zitron évoque les nombreux combats actuels des régulateurs américains contre le développement de monopoles qui ont tendance à être considérablement renforcés par le numérique. La spécificité du numérique, rappelle-t-il, c’est que les entreprises possèdent à la fois les clients et ceux qui ont quelque chose à leur vendre. Le monopole de Meta sur les publicités d’Instagram ou de Facebook, comme sur ses algorithmes, lui permet de rendre ses produits moins performants pour vous montrer des publicités et d’augmenter leurs prix comme elle le souhaite. Et c’est la même chose sur toutes les plateformes. Meta l’a fait pour vendre la publicité vidéo aux annonceurs, assurant qu’elle fonctionnait bien mieux qu’elle ne le faisait, et est d’ailleurs poursuivi dans le cadre d’une class action par des publicitaires pour avoir falsifié leurs chiffres d’audience. « Sans concurrence, les plateformes ne sont pas incitées à agir honnêtement », rappelle Zitron. Même chose pour Apple qui a le monopole des applications autorisées sur son Apple Store (et le monopole des publicités). Au prétexte de « contrôler » l’expérience utilisateur, toutes les plateformes l’organisent et la ferment pour exercer leur domination sur tous : utilisateurs, développeurs, publicitaires… Les entreprises du numérique échafaudent toutes des monopoles et l’IA est une tentative pour en imposer de nouveaux (après ceux du Cloud), notamment en dominant les grands modèles que les autres services vont utiliser. 

Les plateformes contrôlent toute la publicité sur leurs réseaux. « Google et Meta possèdent à la fois les produits et les services publicitaires disponibles sur ces produits, et définissent ainsi les conditions de chaque partie de la transaction, car il n’existe aucun autre moyen de faire de la publicité sur Google, Facebook ou Instagram. Il y a des entités qui se font concurrence pour le placement, mais cette concurrence se fait selon des conditions fixées par les plateformes elles-mêmes, qui à leur tour contrôlent comment et quand les publicités sont diffusées et combien elles vous seront facturées. » Et elles contrôlent également les données impliquées, c’est-à-dire à qui et comment elles les adressent sans permettre à leurs clients de savoir vraiment où elles ont été diffusées ni auprès de qui, comme l’explique parfaitement Tim Hwang dans Le grand krach de l’attention. « Elles sont à la fois l’entreprise qui vous vend l’espace publicitaire et l’entreprise qui l’audite », rappelle Zitron. 

Un numérique sans monopole est-il possible ?

Le problème, estime Zitron, c’est qu’il est fort probable que Google comme Meta ne puissent pas fonctionner sans leurs monopoles – rien n’est moins sûr, si elles n’étaient pas en situation de monopole sur la publicité, leurs revenus seraient certainement moins élevés, mais cela ne signifie pas que le modèle ne soit pas soutenable. Ces plateformes génèrent des milliards de revenus publicitaires (les revenus publicitaires représentent 98% des revenus de Meta et 50% pour Google) dans des conditions de plus en plus délabrées, rendant les deux structures particulièrement fragiles (comparées à Microsoft ou Apple). Les grandes entreprises de la tech n’ont plus de marché en hypercroissance de disponibles, estime Zitron dans un autre billet, elles ne peuvent que faire de l’amélioration de produit, pour autant qu’elles ne les mettent pas à mal. Le risque donc, c’est qu’elles n’aient pas les moyens de continuer à croître à mesure que leurs marges de croissances se réduisent – pour Meta et Google, cela signifie que leurs entreprises pourraient avoir du mal à passer la prochaine décennie, prophétise un peu rapidement Zitron en oubliant leur très haut niveau de fortune. Chez Meta, le trafic est en berne. Et le monopole de Google sur la recherche pourrait être redistribué avec l’avènement de l’IA générative. 

Mais la bonne question à se poser est certainement de savoir comment ces entreprises, si elles devaient ouvrir leur régie publicitaire, pourraient-elles donner accès à un réseau publicitaire alternatif, dont elles ne maîtriseraient plus les tenants et les aboutissants ? Pour l’instant, le jugement qu’a reçu Google est sans sanction (elles viendront peut-être après quelques appels et longues discussions visant à trouver des modalités de sanctions adaptées). Et il est probable que les juristes de Google parviennent à les édulcorer voire à faire annuler la décision… Google a les moyens d’une bataille sans fin, et il est probable que, comme Microsoft avant elle, elle parvienne a éviter le démantèlement. A la fin des années 80, Microsoft détenait 80% du marché des systèmes d’exploitation. Un succès qui ne s’est pas construit uniquement sur le fait que Microsoft avait de meilleurs logiciels ou de meilleures ressources. L’histoire a montré que Microsoft s’était entendu avec des fabricants de matériels pour qu’ils vendent des ordinateurs avec Windows. En 2000, la justice américaine avait demandé la scission de l’entreprise, l’une pour le système d’exploitation et l’autre pour les applications. Microsoft a fait appel. La condamnation a été suspendue pour vice de forme et l’entreprise a conclu un accord avec le ministère de la justice lui permettant d’échapper au démantèlement. C’était les premières d’une longue série de poursuites pour entrave à la concurrence de Microsoft. Des poursuites qui ont plutôt montré la grande fragilité des actions de régulation qu’autre chose. 

Dans la perspective de Google, la séparation de Google Search et de sa plateforme publicitaire serait l’équivalent de la séparation de l’Eglise et de l’Etat, mais il probable que cette perspective ne se réalise jamais. Quand la commission européenne a forcé Apple à ouvrir la distribution d’applications à d’autres entreprises, Apple a répondu par un ensemble de règles qui contraignent les fournisseurs d’alternatives à céder un si fort pourcentage de leurs revenus, qu’elle les empêche de rivaliser en termes de prix comme de bénéfices. Il est probable que Google ne soit pas démantelé et que l’entreprise imagine une solution pour continuer son monopole sans finalement rien changer. Comme nous l’avions déjà constaté dans les batailles de la FTC pour réguler le marketing numérique, Zitron entérine le scénario d’une régulation qui n’arrive finalement pas à s’imposer. 

Une régulation désabusée

Doctorow estime lui aussi que contraindre Google sera difficile. Il est probable que la justice impose des mesures correctives, mais ces mesures ont souvent peu d’effets, d’autant qu’elles obligent le régulateur à déployer une intense et coûteuse surveillance pour s’assurer de leur application. Il est probable également que la justice propose tout simplement à Google d’arrêter de payer d’autres entreprises pour imposer le monopole de son moteur voire de vendre son activité publicitaire. Mais le plus probable estime Doctorow, c’est que Google fasse comme IBM ou Microsoft, c’est-à-dire fasse traîner les choses par des recours jusqu’à ce que l’administration abandonne l’affaire suite à un changement politique. Doctorow regrette néanmoins que le juge estime, comme trop de gens d’ailleurs, que l’espionnage des utilisateurs pour faire de la publicité est justifiée tant que celle-ci est pertinente. Le risque finalement de ce jugement, c’est qu’il conduise à une démocratisation de la surveillance, bien au-delà de Google, s’inquiète Doctorow. Pour lui, briser Google ne devrait pas permettre à d’autres entreprises de se partager le marché de la surveillance publicitaire, mais y mettre fin. 

Google a récemment annoncé, après avoir longtemps affirmé le contraire, qu’il ne supprimerait pas les cookies tiers, ces outils de surveillance commerciale qu’il voulait remplacer la privacy sandbox de Chrome qui aurait permis à Google d’être le maître de l’espionnage commercial au détriment de tous les autres. Cette suppression des cookies tiers au profit de sa seule technologie aurait été certainement jugée comme anticoncurrentielle. Mais garder les cookies tiers permet que les entreprises technologiques continuent de nous espionner, alors que nous devrions d’abord les en empêcher, estime Doctorow. Certains défenseurs de la publicité imaginent même qu’on attribue un identifiant publicitaire à chaque internaute pour mieux les pister et que grandes comme petites entreprises puissent mieux cibler leurs produits ! « Le fait que les commerçants souhaitent pouvoir scruter chaque recoin de notre vie pour déterminer la performance de leurs publicités ne justifie pas qu’ils le fassent – ​​et encore moins qu’ils interviennent sur le marché pour faciliter encore plus l’accès des espions commerciaux sur nos activités ! » « Nous ne résolverons pas le monopole de Google en créant une concurrence dans la surveillance ». Se débarrasser du monopole de Google devrait surtout être l’occasion de nous débarrasser de la surveillance, estime-t-il. Nous n’en sommes pas du tout là. 

Pour Ian Bogost, quelle que soit la décision du tribunal, il est probable que rien ne change pour les consommateurs comme pour Google. Google a déjà gagné. Lui aussi semble désabusé en rappelant que les condamnations à l’encontre de Microsoft n’ont rien changé. Windows est toujours le système d’exploitation dominant et Microsoft est plus dominant que jamais. Certes, il est probable que les pots-de-vin de Google pour soutenir la domination de son moteur cessent… Mais cela ne signifie pas qu’une concurrence pourra surgir demain. Les Gafams sont devenus trop puissants pour être concurrencés. On peut regretter que l’acquisition de la régie publicitaire DoubleClick par Google en 2007 n’ait pas été interdite, elle aurait pu empêcher ou retarder la mainmise de Google sur la publicité en ligne… Mais aujourd’hui, concurrencer Google est devenu bien difficile. Oui Google est en situation de monopole, mais il est probable que ce constat produise bien plus d’articles de presse que de changement dans la pratique réelle de la recherche en ligne. 

Mêmes constats pour Paris Marx : plus de compétition ne suffira pas à démanteler le pouvoir de la Silicon Valley. Pour lui aussi, il est probable que les règles et contrôles se renforcent. Mais y’a-t-il pour autant une vraie volonté de remodeler l’industrie technologique ? Pas vraiment. « Les politiciens veulent un paysage technologique légèrement plus compétitif », mais ne souhaitent pas vraiment remettre en cause sa puissance. 

Se conformer aux règles européennes est ennuyeux et coûteux, mais n’est pas menaçant pour les entreprises, explique clairement Christina Caffarra pour Tech Policy Press. Non seulement les règles européennes ne changent pas vraiment la donne technologique des grandes entreprises américaines, mais elles n’améliorent pas non plus la position, la productivité ou l’innovation des entreprises européennes. Les Gafams ont « réduit internet à une collection de points d’accès propriétaires que nous, Européens, ne possédons ni ne contrôlons, et dont nous sommes profondément dépendants. » Que se passera-t-il lorsque (et non si) l’infrastructure sur laquelle nous comptons, mais que nous ne possédons pas actuellement, devient hostile ? Des services sont déjà refusés aux consommateurs européens au motif que l’environnement réglementaire est trop incertain (comme quand Meta et Apple annoncent qu’ils ne lanceront pas certains services d’IA en Europe). Et cela va probablement empirer, comme le soutiennent les politistes Henry Farrell et Abraham Newman dans Underground Empire: How America Weaponized the World Economy ou la parlementaire européenne Marietje Schaake dansThe Tech Coup: How to Save Democracy from Silicon Valley. Comment croire que nous puissions développer la croissance et l’innovation depuis des entreprises dont la capacité à fonctionner est totalement à la merci des grands acteurs de la Silicon Valley ? Pourtant, pour l’instant, c’est en Europe que Google a connu le plus de difficultés. L’entreprise s’est vue infligée plus de 8 milliards d’amendes dans 3 affaires (liée à son système d’exploitation mobile Android, son service d’achat en ligne et son activité publicitaire). Mais Google a fait appel dans chacune… 

Un démantèlement politique ?

Pour la journaliste du New York Times, Julia Angwin, « démanteler Google n’est pas suffisant »…. Car démanteler Google n’aurait que peu d’impact sur la distribution des résultats de recherche. Cela ne permettrait pas de favoriser la création de moteurs concurrents que Google a empêché par ses pratiques. Pour la journaliste, nous devrions également briser le monopole de Google sur les données de requêtes de recherche. Même Bing, le seul rival, ne peut pas concurrencer la force de Google. Il faut 17 ans à Bing pour collecter une quantité de données équivalente à celle que Google collecte en 13 mois. 

Pour obtenir de meilleurs résultats, nous devons favoriser l’innovation dans la recherche, estime Angwin. Et l’un des moyens d’y parvenir est de donner aux concurrents l’accès aux données de requêtes de recherche de Google (avec la difficulté que les utilisateurs pourraient ne pas être tout à fait d’accord avec l’idée de partager leurs données avec de nombreux autres moteurs… sans compter que cette solution ne résout pas celle du coût pour développer des moteurs à impacts mondiaux dans un univers où la prédominance de Google continuerait). Certes, Google dispose déjà d’une API qui permet aux développeurs d’accéder aux données de recherche, mais les règles d’utilisation sont trop contraignantes pour le moment. Ces accès permettraient aux concurrents de proposer des moteurs de recherche capables de proposer des options différentes, valorisant la confidentialité, le commerce ou l’actualité…

Angwin évoque par exemple Kagi, un moteur de recherche sur abonnement (10 $ par mois), sans publicité, qui permet de personnaliser les résultats ou de les trier par exemple en fonction des changements des pages web. Elle rappelle que si le spam est si omniprésent, c’est d’abord parce que tout le monde tente de subvertir les résultats de Google qui optimise le monde pour ses résultats de recherche plus que pour ses lecteurs. Dans une étude récente sur la qualité des résultats de Google, les chercheurs soulignaient qu’il était de plus en plus difficile d’évaluer la qualité des résultats car « la frontière entre le contenu bénin et le spam devient de plus en plus floue ». Si la diversité des moteurs était plus forte, s’ils proposaient des fonctionnalités plus variées, peut-être pourrions-nous avoir un web plus optimisé pour les lecteurs que pour le spam, imagine Angwin, un web plus décentralisé, comme il l’était à l’origine !

Le plus étonnant finalement, c’est que désormais, ce n’est plus tant la gauche démocrate qui pousse l’idée d’un démantèlement que l’extrême droite républicaine. Comme le raconte le journaliste François Saltiel dans sa chronique sur France Culture, c’est le colistier de Trump, J.D. Vance, qui est l’un des plus ardents promoteurs du démantèlement de Google ou de Meta. Derrière sa motivation à favoriser l’innovation, « ce désir de démantèlement initié par le camp trumpiste a également des airs de règlement de compte ». Pour les trumpistes, Google comme Facebook seraient trop démocrates et sont régulièrement accusés de censurer les propos de l’alt-right. Pour eux, l’enjeu n’est pas tant de limiter les monopoles et ses dangers, mais de punir ceux qu’ils considèrent comme n’étant pas du même avis politique qu’eux. Comme l’explique Ben Tarnoff, la perspective d’un démantèlement s’aligne aux intérêts du patriciat technologique du capital-risque qui semble plus trumpiste que les entrepreneurs de startups, notamment parce que le démantèlement des Gafams permettrait de relancer une course aux investissements technologiques en berne. 

Régler le curseur de la régulation

Alors que d’un côté, beaucoup semblent regretter par avance que le démantèlement de Google n’aille pas assez loin, de l’autre, beaucoup estiment que le blackout de X au Brésil, lui, va trop loin. En avril, le juge à la Cour suprême du Brésil, Alexandre de Moraes, a demandé à X de supprimer des comptes de militants pro-Bolsonaro qui remettaient en question les résultats du vote ou en appelaient à l’insurrection. Alors que normalement l’entreprise répond régulièrement aux demandes de gouvernements en ce sens (d’ailleurs, contrairement aux déclarations d’Elon Musk à l’encontre de la censure, l’entreprise se conforme à ces décisions bien plus qu’avant, comme le montrait une enquête de Forbes), pour une fois pourtant, X s’y est opposé et Musk en a même appelé à la destitution du juge, rappelle Paris Marx. Bien évidemment, les choses se sont envenimées, jusqu’à ce que le juge décide fin août de débrancher X au Brésil, suite aux refus de l’entreprise de se conformer aux décisions de la justice brésilienne. 

La question reste de savoir si la justice est allée trop loin, questionne le New York Times. L’équilibre n’est pas si simple. « En faire trop peu c’est permettre aux discussions en ligne de saper la démocratie ; en faire trop, c’est restreindre la liberté d’expression légitime des citoyens ». Pour Jameel Jaffer, directeur exécutif du Knight First Amendment Institute de l’Université de Columbia, ce blackout est « absurde et dangereux ». Couper l’accès à un réseau social utilisé par 22 millions de Brésiliens pour quelques comptes problématiques semble disproportionné, d’autant plus que les gouvernements non démocratiques pourront désormais prendre l’exemple de gouvernements démocratiques pour justifier des actions de coupure de réseaux sociaux. Mais qu’était-il possible de faire alors que X n’a cessé de bafouer plusieurs ordonnances judiciaires ? Le juge brésilien a lui-même éprouvé la difficulté à imposer le blackout de X. En coupant X, il a demandé à Apple et Google d’empêcher le téléchargement d’applications VPN permettant de contourner le blackout brésilien et a menacé de lourdes amendes les brésiliens qui contourneraient l’interdiction, alors que la fermeture du réseau a suffi à le rendre en grande partie inopérant. La cour suprême du Brésil vient de confirmer le jugement de blocage de X, rapporte le New York Times, mais peine à définir jusqu’où ce blocage doit s’exercer. Dans le monde numérique, le fait que les contournements soient toujours possibles, rendent l’effectivité des actions légales difficiles. Le blackout est certainement suffisamment démonstratif pour qu’il n’y ait rien à ajouter. L’interdiction totale de X pour une poignée de comptes qui n’ont pas été fermés semble disproportionnée, mais cette disproportion est bien plus le reflet de l’intransigeance à géométrie variable d’Elon Musk qu’autre chose. Si Musk veut se comporter de façon irresponsable, c’est à lui d’en assumer les conséquences. 

Reste que l’exemple montre bien les difficultés dans lesquelles s’englue la régulation à l’heure du numérique. Ce n’est pas qu’une question de souveraineté, où les entreprises américaines sont capables de coloniser et d’imposer au monde leur conception de la liberté d’expression, mais il semble que ces stress tests interrogent profondément la capacité à réguler des acteurs numériques surpuissants. Paris Marx a raison : les plateformes vont être soumises à une réglementation plus forte qu’elles ne l’ont été jusqu’à présent. Le problème, c’est que cette régulation va devoir aussi trouver des modalités d’applications adaptées pour parvenir à changer le numérique… qui seront d’autant plus difficiles à imposer dans un contexte de plus en plus politisé et radicalisé. Reste qu’il va être difficile pour les régulateurs de se confronter à des entreprises qui ne souhaitent pas se conformer à la loi, remarque Bloomberg, que ce soit au Brésil ou aux Etats-Unis aujourd’hui, ou en Europe demain. Que ce soit par l’affrontement direct, comme l’impose Musk, ou par le contournement de l’épuisement des recours légaux qu’envisage Google. 

C’est apparemment une première qui servira certainement de modèle à de nombreuses collectivités. Le département d’Ile-et-Vilaine publie une liste de 91 traitements algorithmes qu’elle utilise ! Visiblement, le département est le premier à se conformer à la loi Pour une République numérique et à publier un registre dédié. 

Pour chaque traitement, la liste indique la finalité, le degré d’automatisation (de 1 à 3, c’est-à-dire de faible à fort), une indication de la maîtrise que la collectivité a du système, l’impact sur le public, le niveau d’explicabilité, le public concerné, les données concernées, le nombre de décision annuelles prises avec l’algorithme… Ce qui est très intéressant également, c’est de constater le large champ couvert par ces systèmes, allant de l’attribution d’ordinateurs aux personnels, à la voirie, au social, en passant par le logement social, la maintenance… On constatera que beaucoup de systèmes prennent très peu de décision par an.

Reste que pour l’instant les algorithmes eux-mêmes ne sont pas accessibles… ce qui ne permet pas leur inspection par les usagers, afin d’être sûr qu’ils font bien ce qu’on attend d’eux ! 

On espère que la publication de ce registre mette fin à la panne de l’ouverture des traitements que nous constations en début d’année.