La technologie et le capitalisme sont des structures qui désormais s’entretiennent l’une l’autre et se renforcent mutuellement. Des « structures », au sens que, l’une comme l’autre, forcent la vie sociale à s’y adapter et par lesquelles nous sommes complètement ensevelis, explique le politologue australien Jathan Sadowski dans son nouveau livre, The Mechanic and the Luddite : a ruthless criticism of technology and capitalism (Le mécanicien et le luddite : une critique impitoyable de la technologie et du capitalisme, University of California Press, 2025, non traduit). 

Comment la technologie accélère le capitalisme

Si le capitalisme produit de l’argent, la technologie, elle, produit des outils pour accélérer la production d’argent, explique simplement le chercheur. Et ces outils sont devenus désormais le plus important vecteur de pouvoir, notamment parce qu’ils servent comme nulle autre à produire de l’argent. 

Déterministe, prévisible, linéaire, la technologie se présente comme le moyen pour donner forme au monde que le capital finance pour en tirer avantage. Le capital y encode ses intérêts, comme il encode ses intérêts dans la législation. La loi et la techno sont créées par une classe économique qui profite de leur déploiement pour asseoir sa domination sur le monde. « Si la technologie assure du pouvoir, le capitalisme assure lui du profit ». D’ailleurs, rappelle-t-il à propos, les plus grandes transformations du capitalisme sont basées sur la création de nouvelles technologies qui ont augmenté et étendu la puissance du capital. La techno permet de rendre le capitalisme plus dur, plus rapide, plus fort. Les plus grandes machines du capital sont basées sur des instruments financiers et des plateformes numériques qui transforment le profit en pure spéculation, sans que l’on comprenne très bien comment le profit s’y accomplit, à l’image des transactions à haute fréquence. 

Par essence, le capitalisme construit des hiérarchies de pouvoir pour générer des formes de contrôles et d’inégalités. Il crée des distinctions entre les gens pour mieux les exploiter. La division en classe est essentielle au fonctionnement du capitalisme, rappelle Sadowski. La classe est une relation aux moyens de production et au capital. En 2022, 10% des habitants de la planète se partagent 76% des ressources, 50% des plus pauvres, seulement 2%. Le capitalisme consiste à accomplir ce transfert de richesses, de la grande majorité à quelques-uns, du travail vers le capital. Pour Sadowski, ce que la technologie transforme, c’est la vitesse de ce transfert et le taux d’exploitation. Et les détenteurs du capital orientent profondément le développement de la technologie et de ce transfert à leur profit, notamment par l’investissement dans les technologies.

Dans son livre précédent, Too Smart (MIT Press, 2020, non traduit) qui s’inquiétait de l’inéluctable montée des technologies de surveillance, Jadowski décryptait déjà la logique du solutionnisme technologique. La technologie permet de justifier son emprise en se construisant : elle propose une forme de « terraformation de la société », une subsomption, c’est-à-dire une subordination des individus aux impératifs du capitalisme. Comme l’exprimait l’auteur de science-fiction Ted Chiang, notre grande crainte désormais est que le capitalisme utilise la technologie contre nous … Et c’est bien ce qui est en train de se passer, constate Sadowski. La technologie est devenue le lieu d’une concentration du pouvoir capitaliste sans précédent, et le numérique est devenu « l’infrastructure pour faire tout le reste ». Les développements logiciels et matériels impactent désormais toutes les autres pratiques : les voitures sont désormais rien d’autre que des ordinateurs qui roulent. 

Nous pensons souvent que le progrès technique implique d’autres formes de progrès : le progrès social, économique, politique ou moral, permettant de faire progresser la liberté, la justice, l’égalité ou l’équité… Mais ce ruissellement du progrès technique vers tous les autres semble être de moins en moins vrai. L’industrialisation en elle-même n’a apporté aucun progrès social, c’est bien la lutte sociale qui a permis de conquérir les congés payés, le droit à l’éducation, la retraite… Pas étonnant alors que le progrès technique devenu le majordome du capitalisme rencontre un scepticisme plus marqué. Les discriminations, les biais (un mot bien neutre pour désigner l’oppression systémique encodée dans les données), le racisme ou le sexisme que le numérique amplifie nous invitent à reconnecter ces problèmes au capitalisme technologique. Mais « la critique technologique ne peut pas être seulement l’ambulance qui arrive toujours après l’accident », nous devons mieux comprendre les enjeux du capitalisme technologique pour le démanteler. 

Réconcilier le mécanicien et le luddite

Le problème, c’est que les systèmes recouvrent ce qu’ils font réellement d’un épais voile d’obfuscation. Comprendre ce que les systèmes font est devenu compliqué. Les boîtes noires de l’IA opacifient les traitements comme les clauses de non divulgation opacifient les accords commerciaux. Pour y voir clair, nous devrions chercher à réconcilier les approches critiques, estime Jadowski, à savoir celle du mécanicien, qui connait la machine, et celle du luddite, qui sait pourquoi la machine a été construite et au profit de qui. Le savoir du mécanicien a été supplanté par le savoir de l’ingénieur à mesure que les machines sont devenues plus complexes, comme l’expliquait un article de Brooklyn Rail. Là où le mécanicien restait un artisan, maître des machines, l’ingénieur, lui, est au service de la technologie et du capital : il rationalise et optimise chaque étape de la production. Lieutenant du capital, il est devenu une profession de prestige, quand le mécanicien, lui, a été rétrogradé. Mais le savoir du mécanicien reste celui qui permet de comprendre le fonctionnement et d’y apporter une connaissance critique, fonctionnelle. 

Le luddite, lui, s’intéresse aux enjeux de la technologie. Les luddites ne se sont pas tant battus contre la technologie que contre les conditions nouvelles de leur déploiement, c’est-à-dire contre les propriétaires des métiers à tisser qui apportaient avec les machines des conditions économiques transformatives et qui leur étaient peu favorables. Ils n’étaient pas contre l’innovation, rappelle Sadowski, mais bien contre le nouveau modèle économique associé aux machines à lainer qui étaient pourtant utilisées depuis très longtemps dans l’industrie textile comme le pointait l’historien Andrian Randall. Si la destruction des machines est ce que nous avons retenu du mouvement Luddite, cette destruction n’a été que la conséquence de l’impossibilité d’ouvrir la gouvernance démocratique des systèmes, verrouillée par ceux qui avaient le pouvoir et la fortune. “Le droit de refuser est un droit qui paraît toujours radical”, rappelle avec pertinence Sadowski. Or, aujourd’hui encore, nous ne proposons aux gens confrontés aux problèmes technologiques, qu’une « éthique de l’acceptation », c’est-à-dire un ensemble de principes et de promesses qui proposent de créer des politiques pour une innovation responsable, basées sur l’auto-régulation, la réduction des biais et l’amélioration de la précision. « L’éthique est mise au service de la technologie sans menacer le moindre intérêt ». Il y a une absence totale du mot « non » dans les discussions sur l’éthique des données, explique Anna Lauren Hoffmann. On ne cesse de promettre des améliorations, une considération… mais sans que la possibilité de refuser ne soit proposée. Vous ne pouvez que consentir, qu’importe si c’est contre votre gré.

Pour Sadowski, nous devons produire une critique « impitoyable », c’est-à-dire plus coriace qu’elle n’est. Qu’il s’agisse d’IA ou d’instruments financiers, les mécanismes internes de ces systèmes qui exercent un pouvoir démesuré sur la société sont dissimulés par des couches d’opacité. S’ils sont complexes, ils sont bien plus encore « mystifiés by design », c’est-à-dire obscurcit par la technologie, son vocabulaire et sa grammaire dépolitisés. Seule une petite élite comprend et maîtrise leurs fonctionnement et encore moins savent comment ils fonctionnent. Nous sommes privés de notre droit à les contester ou à demander à ce qu’ils fonctionnent autrement. Pourtant, leurs fonctionnements devraient nous êtres clairs. « Le but d’un système est ce qu’il fait », disait avec discernement Stafford Beer. A nous d’observer alors, avec l’art du mécanicien et la compréhension du luddite. 

La sainte innovation

Dans le technocapitalisme, l’objet le plus vénéré est sans conteste l’innovation, certainement parce que le capitalisme est le plus efficace des systèmes pour produire de l’innovation capitaliste, ironise Sadowski. Le capitalisme sait parfaitement sélectionner les innovations qui vont lui permettre d’accélérer et d’étendre son emprise, à l’image d’Uber, de Palantir ou de Clearview. Et la Silicon Valley n’est rien d’autre qu’une industrie dédiée à l’accélération de cette emprise. Mais l’innovation n’est pas tant une force de progrès qu’un instrument pour produire du changement social, une arme au service d’une « élite oligarchique qui contrôle les décisions financières et le développement technique » et s’en sert pour produire du changement législatif et social. Les innovateurs n’ont jamais l’intérêt commun en vue : seulement leurs profits. 

Ceux qui financent l’innovation financent avant tout des technologies et des développements qui priorisent leurs intérêts et les valeurs sociales qu’ils défendent. Le capital-risque est le mode opératoire qui soutient le modèle d’investissement de la Silicon Valley pour transformer ses idées en profit, comme l’expliquait Tom Nicholas dans son Histoire du capital risque (Harvard University Press, 2019). C’est ce modèle d’investissement qui a rendu possible l’informatique mainframe des années 70, puis l’informatique personnelle, les applications logicielles, l’internet et l’e-commerce des années 90, l’industrie mobile et du web social des années 2000, l’économie collaborative et les plateformes servicielles des années 2010, celle des crypto et de l’IA générative des années 2020 (sans oublier les biotechs depuis les années 80). Sous la pression de ce type de financement, l’investissement s’est transformé : en s’orientant vers des investissements de plus courts termes et à moindre risque, avec des retours sur investissement toujours plus élevés. 

Les investisseurs du capital-risque sont les nouveaux gardiens du capital. « Ils s’assurent que l’économie numérique suit leur logique et servent leurs besoins ». « Le capital risque n’est pas qu’une question de maximisation du profit. L’hypercroissance est fondée sur la sélection de plateformes, de technologies, de modèles d’affaires qui peuvent passer à l’échelle d’une manière exponentielle sur une très courte période et qui ont le potentiel de dominer leur marché ». Ils mobilisent dans leur sillon des investisseurs institutionnels, comme les fonds de pension et les fonds universitaires, qui cherchent à faire des profits rapides. Dès les années 70, ils se mobilisent en créant un lobby dédié (la National venture capital association) pour produire des changements législatifs au profit du secteur, permettant de réduire les charges de ce type d’investissement, pour produire des bénéfices plus élevés et moins risqués. Le paysage du financement de l’innovation a considérablement changé avec la montée du capital-risque qui est venu se substituer aux dépenses de R&D ou à la planification. En 2021, le capital risque américain a investi quelque 330 milliards de dollars. « Mais où sont les progrès sociaux ? A-t-on l’impression que le monde s’est amélioré de 330 milliards ou cet argent a-t-il servi à le rendre pire qu’il n’était ? », questionne pertinemment le chercheur.

Mark Fisher parle de Réalisme capitaliste (Entremondes, 2018) pour désigner le fait que le capitalisme nous semble à tous être devenu inévitable, sans alternative. Sadowski, lui, parle du « réalisme de l’innovation ». Le capital-risque est devenu un lobbying politique qui contrôle de surcroît une formidable machine à battage médiatique au profit de ses produits phares. On l’a vu avec le cycle des cryptomonnaies ou du metavers, ou les investissements ont été capables de produire ces pures créations, quand bien même personne n’en voulait. L’investissement technologique ressemble de plus en plus à un casino. « Le cycle des tendances technologiques et des bulles d’investissement semble s’accélérer ». Qu’importent si les innovations, comme le Metavers, ne survivent pas. Le modèle, lui, continue de prospérer : « non pas parce qu’il est le meilleur, mais parce qu’il permet de conserver le capital en mouvement ». 

Les investissements s’accompagnent toujours d’un intense lobbying politique pour assouplir les réglementations, comme on l’a vu dans le cas des cryptomonnaies (le nombre de lobbyistes du secteur a triplé depuis 2021, les dépenses également, passant de 2 millions en 2018 à 9 millions de dollars en 2021). Une débauche d’action vise à établir de la légitimité pour des technologies qui opèrent à la limite de la légalité. « Produire de la hype sur une techno est crucial à la croissance de sa valeur – réelle, perçue comme spéculative ». Reste que ces investissements n’ont rien à voir avec la qualité de l’innovation. Au contraire. Si l’investissement se concentre tant sur l’industrie logicielle, rappelle Jathan Sadowski, ce « n’est pas parce que c’est la meilleure innovation ». « C’est d’abord parce que le logiciel n’est pas cher à construire, rapide et facile à faire passer à l’échelle, capable de servir de petits comme de grands marchés, et à moindre risque comparativement à bien d’autres technologies ». Si l’investissement se concentre sur le logiciel, c’est parce que ses qualités promettent de meilleurs retours sur investissement que d’autres formes d’industries.

Pour David Harvey, auteur notamment des Limites du capital (éditions Amsterdam, 2020), le capital fictif désigne de l’argent mis en circulation comme capital sans aucune base matérielle. C’est de l’argent dérivé des droits de propriété, de l’ingénierie financière et de la valorisation spéculative : « c’est de l’argent représenté par des nombres dans un tableur »… Et le capital-risque valorise comme nul autre de l’argent dans des tableurs, puisque le montant réel des investissements réalisés est bien inférieur à la valorisation calculée des startups. Sans compter, rappelle Sadowski, que les technologies numériques ont permis comme nulles autres la financiarisation, comme le shadow banking (wikipédia). Plus qu’un capital fictif, c’est un capital fictionnel qui domine de plus en plus les conditions du réel. L’ingénierie financière permet le développement d’une finance hors sol, du trading haute fréquence aux subprimes responsables de la crise financière de 2008. Le capital-risque est de plus en plus la modalité pour créer et faire circuler cette fiction du capital. Sur les marchés, la valorisation des startups est totalement fictive, toujours fortement surestimée. Les licornes, ces entreprises valorisées à plus d’un milliard de dollars, ne sont assurément pas des créatures magiques, puisqu’elles ne sont rien d’autres que des créations artificielles ingéniées par des capitaux-risqueurs pour faire circuler le capital et l’accroitre. 

Les données sont le nouveau capital du technocapitalisme

Le moteur de l’investissement repose quant à lui sur les données. Elles sont des commodités qui peuvent être achetées et vendues sur des marchés. Elles sont une forme de capital que l’on peut miner, c’est-à-dire raffiner et exploiter. Elles sont les ressources du capitalisme technologique, qui doivent continuer à grossir, à se développer pour faire fonctionner la machine. Kroger, l’une des grandes chaînes de supermarché américain, dispose des données de 2 milliards de transactions annuelles de 60 millions de foyers américains. Et ces données sont devenues une nouvelle source de revenus pour l’entreprise qui génère grâce à elles de nouveaux profits, comme l’avait raconté The Markup. Mais les citoyens ne voient rien de ces échanges. Les marchés où s’échangent les données sont cachés, notamment pour maintenir les journalistes, les chercheurs et les régulateurs à distance. Pour Jathan Sadowski, « les données sont une nouvelle forme de capital, au même titre que l’argent et les machines. Et les données sont désormais essentielles à la production, à l’extraction et à la circulation de valeur dans les systèmes numériques ». La surveillance, qui permet de capter et collecter les données, sert à extraire ce capital. « Ce capital de données consiste bien souvent en de discrets bits d’information, en des enregistrements numériques, lisibles par des machines, facilement agrégeables, totalement abstraits, hautement mobiles et socialement précieuses. » En fait, rappelle Sadowski, la circulation des données est devenue une fin en soi… C’est cette circulation même qui produit de la valeur. Le but de cette circulation est de produire un mouvement continu de production de profit. C’est la confidence que faisait Andrew Ng quand il comparait l’IA à l’électricité : dans de grandes entreprises, parfois, on lance des produits non pas pour générer des revenus, mais pour générer des données. 

Bien sûr, les acteurs de la régulation tentent de minimiser la collecte voire la circulation des données, quand les acteurs du secteur, eux, plaident pour une maximisation des échanges et de la collecte pour alimenter le pipeline de la surveillance. La datafication consiste à transformer chacun d’entre nous en données. De meilleures capacités de surveillance produisent de meilleurs flux de profit et de pouvoir. « Un monde composé de données est un monde sans sujets » où tout devient objet. Toutes les données sont agrégées pour renforcer profit et pouvoir, à l’image de Palantir ou de la police des frontières américaine. 

Les modèles de machine learning sont incompréhensibles, intrinsèquement opaques. « Nous sommes confrontés à des piles de boîtes noires à l’intérieur de boîtes noires », expliquait déjà Frank Pasquale dans Black Box Society (FYP éditions, 2015). Les techno d’IA créent des problèmes systémiques, des fragilités et des échecs que nous ne comprenons pas et que nous ne sommes pas équipés pour nommer. Cette extraction, cette capture et ces traitements de données permet d’assurer et de maintenir un « triforce » : data, calcul et géopolitique, se renforcent les uns les autres, comme le pointaient Amba Kak et Sarah Myers West dans le rapport de l’AI Now Institute de 2023, Face à la puissance technologique. Le business model de l’IA repose sur la force brute, rappelle Sadowski, tant technologiquement qu’économiquement, comme le montre l’intégration de l’IA générative partout, sans que nous n’y ayons consenti. A terme, explique-t-il encore, l’IA promet la fusion du techno-capitalisme et du technonationalisme. 

Raj Patel et Jason Moore dans leur livre Comment notre monde est devenu cheap (Flammarion, 2018) expliquaient que la réduction des coûts (c’est-à-dire l’optimisation) est au cœur du capitalisme. La cheapisation dont ils parlent ne consiste pas seulement à rendre les choses peu chères : c’est un ensemble de stratégies pour contrôler les relations entre le capitalisme et le vivant, c’est un ensemble de « processus mobilisés pour transmuter la vie non monnayable en circuits de production et de consommation, dans lesquels ces relations ont le prix le plus bas possible ». Le capitalisme gouverne par le profit et pour l’imposer, il a fallu l’étendre le plus possible et donc étendre le caractère monnayable du monde. Afin de maximiser ses profits, tout l’enjeu a été de ne cesser de diminuer le prix du monde. « Les choses cheap ne sont donc nullement des choses, mais plutôt des stratégies au moyen desquelles le capitalisme gère et surmonte ses crises », progresse, s’étend. « La valeur sociale des objets est supplantée par leur valeur économique lorsqu’ils sont jetés dans le marché, transformés en actifs, soumis aux dynamiques d’échange et broyés par la machine à profit ». L’innovation capitaliste incarnée par le modèle de la Silicon Valley est certainement plus que tout autre un modèle d’innovation à taux zéro, où tout est développé pour être le moins coûteux possible. C’est le cas également des actifs que l’innovation raffine : les données. L’enjeu n’est pas de produire de bonnes données ou des données de qualité (car produire des données de qualité est un processus coûteux), mais d’obtenir des données suffisamment bonnes pour être exploitées. Dès l’origine, cela a été le cas d’ImageNet, qui s’est révélée rapidement techniquement et socialement problématique. Avec le passage au Big Data et à l’IA, la précision, la neutralité et la causalité sont devenues des modalités sans importance, puisque les traitements pouvaient tout prendre en compte. « Plus grandes sont les données, moins vous avez à vous en faire », plus besoin de s’inquiéter de ses origines ou des contenus. Le Too big to fails’applique également aux traitements, pas seulement aux modèles économiques. 

Mais, si construire des modèles est excitant, nettoyer les données est ennuyeux. Autant d’éléments qui expliquent que les données aient été rendues bon marché. Et l’IA est une formidable opportunité pour rendre les données encore moins chères, comme le montrait l’analyse des principaux sites digérés par les moteurs les grands modèles de langage sans bourse déliée, ou le passage aux données synthétiques… au risque d’une dégradation sans fin des résultats, avec des modèles de plus en plus autophages. Dans le capitalisme, le cheap l’emporte tout le temps. Qu’importe les biais, les erreurs, les hallucinations… Les données peu chères l’ont emporté. 

A l’avenir, les données vont continuer d’être volées. Quant aux données nettoyées, de qualité, malgré leurs vertus, comme le soulignait Kate Crawford, il est probable qu’elles ne reviendront pas, estime Sadowski.  

La machine à profit perpétuel : la rente plus que le travail

Comme le turc mécanique en son temps, les systèmes d’IA sont des « illusions techniques conçues pour tromper le public », où le travail humain est invisibilisé pour nous faire croire que les machines fonctionnent d’elles-mêmes. Jathan Sadowski parle d’IA Potemkine pour faire référence aux villages Potemkine (le ministre de Catherine II de Russie faisait bâtir de faux villages pour impressionner l’impératrice lors de ses déplacements) : des outils de façade, qui cachent les humains appelés à agir comme des robots, comme l’on masque les humains dans la surveillance des véhicules autonomes. Partout, dans le domaine de l’IA, on utilise des humains sous couvert d’automatisation. En 2019, un rapport de MMC Ventures cité par le Financial Times avait souligné que sur 2800 startups qui affirmaient utiliser de l’IA dans leurs produits, 60% n’en utilisaient pas. Bien souvent, ironise Sadowski, l’IA annoncée n’est rien d’autre qu’un tableur. A son lancement, Mistral a reçu 105 millions d’euros sans avoir le moindre produit à montrer. 

Non seulement les ouvriers de l’IA sont invisibilisés, comme nous le rappelle le Mechanical Turk d’Amazon, mais la technologie elle-même est souvent décrite comme une boîte noire, où ses fonctionnements mêmes sont masqués sous une complexité technique, ambiguë, trompeuse voire mensongère. Le philosophe Byung Chul Han parle lui de Psychopolitique (Circé, 2016) plutôt que d’IA Potemkine, pour décrire une politique qui promeut son propre bénéfice. « Le mode opératoire n’est pas seulement de rendre les gens conformes aux commandements, mais plus encore de les rendre dépendants des systèmes ». Le pouvoir qui opère d’une manière séductrice plutôt que répressive est difficile à reconnaître comme un pouvoir, rappelle Sadowski. 

L’IA promet de résoudre les problèmes du capital par une croissance sans limites en développant des outils à son service, en promettant d’éliminer les coûts du travail. Avec l’IA, le capital cherche à construire une « machine à profit perpétuel », explique le géographe David Harvey dans Seventeen Contradictions and the End of Capitalism (Profile Books, 2015), qui cherche à capturer la valeur sans le travail. Mais plus que de faire disparaître le travail, l’enjeu est de le réorganiser pour en comprimer le moindre coût, par exemple en l’externalisant à l’autre bout du monde. 

En vérité, pourtant le travail humain est plus central et plus concentré que jamais. Dans un de ses articles, le sociologue Martin Krzywdzinski montre ainsi que Toyota, l’entreprise la plus efficace du monde, enlève des robots de ses chaînes d’assemblages pour améliorer la flexibilité et la réactivité des travailleurs humains : moins de 10% de la chaîne d’assemblage de Toyota est automatisée. La machine à profit perpétuel vise bien à plus à accélérer, optimiser et concentrer la productivité humaine sous le contrôle des machines qu’à nous remplacer par la technologie.

Le modèle économique des plateformes et services en ligne demeure un modèle d’extraction de rentes, rappelle Sadowski. Tous visent à rendre des secteurs entiers dépendants des services technologiques qu’ils fournissent, en transformant leurs clients en locataires. Les interactions sociales comme les transactions économiques sont transformées partout en services, en actifs. L’objectif est de tout transformer en ressources pour générer des revenus sans jamais concéder de propriété. Le but des plateformes de rente consiste à devenir des monopoles pour contrôler toutes les conditions de création de valeur (comme quand Zoom ou Adobe, parmi d’autres, tentent de changer leurs conditions d’utilisation à leur profit). Pour cela, les entreprises du numériques utilisent les Conditions générales d’utilisation, ces contrats unidirectionnels et non négociables, pour s’arroger l’essentiel des droits. CGU que nous devons les accepter « non pas tant pour que ces entreprises obtiennent notre consentement actif, mais bien plus pour sécuriser notre conformité passive ». 

Mais ce ne sont pas seulement les plateformes qui produisent des rentes, c’est « le système technique numérique tout entier désormais qui est devenu la nouvelle source de rentes. L’internet est l’infrastructure de relations de rentes, le nouveau mécanisme de l’extraction et de la capture », comme l’expliquait Sadowski lui-même. L’utilisateur ne possède plus rien, pas plus sa brosse à dent connectée que son interphone vidéo, pas plus les données que les programmes. Les propriétaires s’arrogent tous les pouvoirs, comme la mise à disposition des données à des tiers ou le changement des conditions unilatéralement. 

La rente est devenue le modèle que toutes les industries copient. Les plateformes permettent de maximiser les profits tout en minimisant les droits des utilisateurs. Sous couvert d’innovation, ce à quoi on assiste, c’est d’abord à une expropriation de tous puisque nous ne pouvons plus être propriétaires de rien. 

De la mécanique stochastique : la gestion du risque est devenue la modalité politique du monde moderne 

La partie la plus stimulante du livre de Jathan Sadowski est assurément sa réflexion sur l’avènement de la probabilité, en passe de devenir la modalité unique d’organisation et de domination du technocapitalisme. Les secteurs qui ont pris les rênes du technocapitalisme comme la finance, l’assurance, ou les technologies pour les propriétaires sont les secteurs experts de la gestion du risque. Des systèmes acturiaux aux scores de risques en passant par les algorithmes prédictifs, partout, l’évaluation du risque est devenue LA métrique. Ces « mécaniques stochastiques », c’est-à-dire statistiques, probabilistes, ont pris le contrôle. Pas étonnant que l’IA, qui n’est elle-même que le chef d’œuvre d’un traitement statistique à très grande échelle, soit le parangon moderne de cet accomplissement.

Scientifiquement, le risque consiste à comprendre la probabilité d’un événement dans les distributions aléatoires. A l’échelle individuelle, le risque d’avoir un accident de voiture est parfaitement aléatoire. Mais à l’échelle de populations, on peut découvrir des schémas et des fréquences. « Quand le risque est opérationnalisé dans des systèmes (marchés financiers, modèles actuariels, sécurité nationale, politiques de régulation…) l’aléatoire est recadré en problème à résoudre plutôt que traité comme des limites au pouvoir ». Ces techniques ont conduit à produire des méthodes de gestion adaptées : c’est-à-dire des formes de gouvernance du risque. Les risques sont devenus ce qu’il faut gérer, maîtriser. Ils sont à la fois la raison d’être des systèmes de gouvernance et leur justification, c’est-à-dire la raison pour laquelle on les construit, on les renforce. « Le risque est devenu à la fois le moyen et la fin de la gouvernance ». 

Foucault le disait déjà. La puissance et la connaissance ne sont pas des choses séparées, mais ont des relations symbiotiques entre elles. Connaître le monde consiste à exercer du pouvoir sur lui, et exercer du pouvoir sur lui, c’est le connaître. La gouvernance est un concept hybride, une fusion des pratiques politiques et d’affaires, explique la professeure de sciences politiques Wendy Brown dans Défaire le dèmos (Amsterdam, 2018). Pour Brown, la gouvernance consiste à remplacer les questions politiques par des logiques financières. Et cela a été accompli en important les modèles, les métriques, les valeurs, les concepts et les tactiques des secteurs de la gestion du risque à l’intérieur de toutes les sphères sociopolitiques. « Le risque est un concept puissant pour la gouvernance car il vient habillé de toute la neutralité, l’autorité et la mystique de l’expertise technocratique, tout en étant suffisamment flexible pour être adapté et s’appliquer largement ». 

« Nous évaluons d’abord le risque à l’aide de systèmes d’analyse, d’évaluation et de modélisation. Ensuite, nous le gérons grâce à des systèmes de surveillance, de réglementation et d’atténuation. Enfin, nous l’inventons grâce à des systèmes de prévision, de contrôle et d’intervention. À chaque étape, l’accent est mis sur le processus technique d’analyse, de surveillance ou de contrôle du risque plutôt que sur le contenu politique de sa définition et de son identification, ou sur les raisons pour lesquelles le risque constitue la meilleure, voire la seule option, pour encadrer les choses. Cette myopie est une caractéristique essentielle de la gouvernance des risques en tant que forme d’anti-politique. Le risque offre une façon de faire de la politique en éliminant et en refusant tout ce qui est politique de ce qui est analysé. (…) Les stratégies de dépolitisation que produisent l’analyse par les risques permettent d’intégrer de la rationalité économique dans tous les domaines de la société et de la vie. En définitive, les détails les plus fondamentaux de la gouvernance du risque – l’identification du risque, la motivation de la gouvernance, la justification du pouvoir, la priorisation des valeurs, la répartition des résultats – ne sont plus sujets à débat. Les enjeux sont tous laissés aux experts. »

La gestion du risque est mise en pratique notamment dans deux enjeux majeurs de nos sociétés : le changement climatique et l’intelligence artificielle, remarque très pertinemment Jathan Sadowski. La question climatique est souvent traitée comme un enjeu de « dérisquisation de l’Etat », c’est-à-dire un enjeu à minimiser le risque du secteur privé – ce que l’économiste Daniela Gabor désigne sous le terme de consensus de Wall Street. Ici, le rôle des autorités consiste à réduire les risques économiques des investissements privés en créant des garanties aux profits des investisseurs en les protégeant des risques politiques. Le but du derisking, c’est-à-dire de la minimisation des risques, est d’établir des conditions favorables (c’est-à-dire profitables) pour le capital privé tout en créant des projets d’investissements pour attirer les investissements. De même, réguler le risque des innovations émergentes est essentiel. L’approche principale pour réguler les technologies comme l’IA aux Etats-Unis ou en Europe s’applique à identifier, trier et atténuer les risques de l’IA non pas tant pour les utilisateurs que pour les entreprises qui les déploient. 

Mais qui établit les protocoles d’identification des risques ? Comment sont définis les niveaux de risques définis ? Quelles formes d’atténuation sont établies et dans quels buts ? Quelles alternatives sont laissées de côté ? « En considérant la régulation des systèmes d’IA comme une régulation des risques, les décideurs politiques adoptent, consciemment ou non, une position normative sur l’IA », observe la juriste Margot Kaminski. Cette position est également un choix qui privilégie et intègre des cadres, des valeurs et des résultats spécifiques à la technologie, et renonce à des formes de régulation qui privilégieraient les droits individuels, les avantages sociaux ou le principe de précaution.

« Si certains aspects de la réglementation des risques peuvent être efficaces pour atténuer certains préjudices, écrit Kaminski, cette approche de la réglementation met toujours l’accent sur des types spécifiques de préjudices en raison de la nature du risque. Ces préjudices doivent être quantifiables pour pouvoir être intégrés aux analyses statistiques et aux modèles financiers, ce qui conduit à négliger les préjudices qui ne sont pas facilement chiffrables sur une feuille de calcul. Ces préjudices sont souvent axés sur l’avenir, de sorte qu’ils peuvent être calculés en termes de probabilités qu’un événement se produise, ce qui écarte des préjudices déjà normalisés dans la société. Ces préjudices sont fondés sur les dangers posés aux personnes et aux populations qui correspondent au profil d’une personne moyenne – généralement un homme adulte blanc – ce qui minimise ou ignore ceux qui s’écartent de ce repère normatif. Ces préjudices sont également pris en compte au niveau agrégé, ce qui signifie que des impacts significatifs sur les individus peuvent être totalement masqués dans les données, largement sous-estimés par des choix coûts-avantages et inégalement répartis au sein de la société.

De plus, la réglementation des risques suppose généralement qu’une technologie sera adoptée malgré ses préjudices. Les causes de ces risques et préjudices – comme les entreprises qui construisent et déploient rapidement des systèmes d’IA pour diverses applications, sans véritable supervision, responsabilité ni précaution – sont traitées comme des conditions statistiques qui ont déjà eu lieu, qui ne peuvent être modifiées et qui doivent servir de point de départ à toute réponse. Autrement dit, la gouvernance des risques transforme le public en concierges chargés de nettoyer les dégâts causés par les entreprises, les armées, les forces de police et autres acteurs qui préfèrent tirer d’abord et ne jamais poser de questions ensuite. Le principe par défaut est de permettre au capital d’innover sans avoir à demander la permission – ou du moins d’avancer avec le moins de garde-fous possible. Le mieux que nous puissions faire – tout comme dans l’exemple du changement climatique – est de réduire les risques liés à ces innovations en encourageant une culture de responsabilité au sein des entreprises et en établissant des systèmes sociaux qui internalisent les coûts des investissements privés. »

« Le risque est un concept moderne qui a coévolué avec le secteur de l’assurance et ses modèles actuariels d’analyse, de projection et de tarification des résultats probables d’événements futurs en fonction des expériences passées et des conditions présentes. Cela confère aux régimes de gouvernance des risques une aura de rigueur technique. Ils sont dépolitisés par conception. Ces caractéristiques en font des outils évidents pour faire face à la complexité et à l’incertitude des technologies émergentes. Pourtant, ces approches ne vident pas la gouvernance des risques de son contenu politique. Elles se contentent d’enterrer le politique, rendant invisibles ces choix chargés de valeurs, brouillant les liens de causalité entre décisions, actions et effets, présentant leurs conséquences comme des compromis inévitables et produisant les conditions sociales qui soutiennent des formes spécifiques de savoir et de pouvoir. »

« L’analyse des risques offre la promesse de prédire l’avenir. C’est pourquoi le risque est devenu un outil si puissant et précieux pour le capitalisme technologique. »

« Dans de nombreux systèmes où l’analyse des risques se transforme en pouvoir matériel, l’incertitude stochastique est balayée. L’analyse scientifique des probabilités, avec ses larges marges d’erreur et de doute, se transforme en application technique de modèles prédictifs visant la précision. » Comme le dit la géographe Louise Amoore dans Cloud Ethics (Duke Press, 2020) : « Les processus et les arrangements de pondérations, de valeurs, de biais et de seuils dans les réseaux neuronaux ne relèvent pas, je crois, de notre champ politique statutaire. Pourtant, je suggère qu’ils doivent être présentés comme des questions et des revendications politiques dans le monde. »

« Au lieu de cela, toute cette immense complexité – technologique, politique, réelle – est remplacée par le score de risque. Arme ultime de la gouvernance du risque, le score prouve que le nombre est un véritable pouvoir. Surtout lorsque ces chiffres sont décontextualisés, revêtus du sceau de l’autorité technocratique et déployés comme des solutions simples à des problèmes complexes. Les scores de risque sont désormais des technologies de gouvernance omniprésentes, en grande partie parce qu’ils constituent des données facilement manipulables comme une massue par les individus et les institutions qui sont en première ligne de l’exercice du pouvoir dans la société. »

« Les scores de risques ont ainsi acquis réellement un impact sur nos vies et façonnent les structures sociales de manière significative. Les révéler est devenue une tâche impossible tant ils sont omniprésents, mais aussi parce que l’existence et le fonctionnement d’un grand nombre d’entre eux sont cachés par leurs créateurs et utilisateurs. Cette opacité endémique montre qu’ils relèvent d’un processus extrêmement politique. Si ces scores étaient objectifs et purement scientifiques, nul ne se donnerait la peine de les obscurcir. »

« Nombre des décisions les plus importantes prises par la police, les services frontaliers ou l’armée sont prises à l’aide – voire en grande partie sous-traitées – d’un arsenal diversifié de scores de risque, dont beaucoup sont créés par des entreprises privées puis vendus comme services exclusifs aux agences gouvernementales. L’objectif de la quantification de l’évaluation des risques est de transformer des jugements jusqu’alors subjectifs et discrétionnaires en calculs qui semblent plus objectifs et standardisés. Si certains outils peuvent être simples à comprendre, de nombreuses méthodes de production de scores s’appuient sur des algorithmes qui absorbent des quantités massives de données sur des sujets très divers, des statistiques de criminalité aux phases lunaires, et les synthétisent en un chiffre unique destiné à identifier les personnes considérées comme une menace pour la sécurité et à déterminer le comportement des agents face à une situation donnée. »

Par exemple, les services de police américains ont mis en place un logiciel appelé Beware pour générer des scores de menace personnalisés concernant une personne, une adresse ou une zone. Ce logiciel prétend fonctionner en traitant des milliards de données, notamment des rapports d’arrestation, des registres fonciers, des bases de données commerciales, des recherches sur le web profond et les publications de la personne sur les réseaux sociaux, rapporte le Washington Post. « Les scores sont codés par couleur afin que les agents puissent connaître d’un coup d’œil le niveau de menace d’une cible : vert, jaune ou rouge. La différence fondamentale entre un score vert et un score rouge est un mystère pour l’agent, mais elle peut faire toute la différence entre un agent qui lance un contrôle routier avec un sourire amical ou qui, le doigt sur la gâchette, est prêt à engager le combat. »

Mais surtout, rappelle Sadowski : « les gens ne doivent pas savoir pourquoi ils sont signalés par des systèmes d’analyse de risque automatisés ». La sociologue Barbara Kiviat dans son étude sur le score de crédit dans la fixation des prix des assurances rappelle : « la prédiction algorithmique est imprégnée de points de vue normatifs, qui répondent aux objectifs des entreprises. L’utilisation de systèmes de notation basés sur les données pour la classification des risques s’inscrit dans la longue histoire du secteur, qui a créé toutes sortes de méthodes scientifiques pour justifier moralement ses propres intérêts et actions », comme le montraient les ouvrages des historiens Dan Bouk, How Our Days Became Numbered: Risk and the Rise of the Statistical Individual (University of Chicago Press, 2015) et Caley Horan, Insurance Era: Risk, Governance, and the Privatization of Security in Postwar America (University of Chicago Press, 2021).

« Nombre des décisions les plus importantes prises par les services sociaux, les organismes d’aide sociale et les programmes d’assistance publique sont prises à l’aide – voire en grande partie sous-traitées – d’un arsenal diversifié d’indices de risque. Ces derniers comptent parmi les outils les plus insidieux de la gouvernance néolibérale actuelle et reconfigurent le fonctionnement des services sociaux pour l’adapter à des logiques financières. Plutôt que d’identifier ceux qui ont le plus besoin d’aide, ces institutions utilisent les indices de risque pour identifier ceux qui représentent les menaces les plus dangereuses pour le système : les fraudeurs potentiels. » 

« Ces technologies sont conçues pour éviter (ou générer) les faux négatifs : mieux vaut refuser l’aide à mille personnes dans le besoin que de laisser passer un seul escroc indigne de l’aide sociale. À cette fin, les services sociaux publics du monde entier ont mis en œuvre des formes de gouvernance des risques parmi les plus rigoureuses, qui traitent les populations déjà défavorisées comme des menaces qu’il faut identifier, suivre, gérer, enquêter et neutraliser. » C’est ce que montraient les nombreuses enquêtes sur les services sociaux, notamment l’exemple néerlandais analysé par Lightouse Reports : le but de ces systèmes n’est pas de trouver qui a besoin d’aide, mais de discriminer ceux qui tentent de recevoir de l’aide. Malgré qu’ils soient extrêmement complexes et qu’ils étendent des formes de discrimination, ces systèmes sont aussi terriblement simplistes et arbitraires dans leurs décisions. Ils ne font pas bien mieux que l’aléatoire, disait Lightouse Reports en produisant des discriminations flagrantes (et illégales) depuis des facteurs simples comme l’origine ethnique, le genre et le handicap. Dans ces systèmes de risques, être pauvre et demander de l’aide est un comportement à haut risque qui déclenche enquêtes sociales, enquêtes de police et interventions administratives. Julia Dressel et Hany Farid ont montré que Compas, n’est pas plus précis ou équitable qu’une prédiction de bistrot. Et « l’augmentation de la complexité n’améliore pas la précision de ces systèmes, mais amplifie leur autorité sociale en racontant comment il vous donnera accès à des informations précises, neutres et quasi divines sur le monde. Plus de données ne signifie pas plus de connaissances, mais cela peut signifier plus de pouvoir si vous convainquez les gens que les scores de risque sont des vérités prédictives prêtes à être utilisées pour une action immédiate ».

Dans trop de cas, avance Sadowski, comme le proposait également Arvind Narayanan, il semble que l’échantillonnage aléatoire constituerait en réalité une amélioration significative par rapport aux scores de risque, dont il a été prouvé qu’ils sont systématiquement inexacts et socialement biaisés, et qu’ils conduisent à toutes sortes de discriminations injustes. « Ces technologies excellent dans la reconnaissance de formes, mais elles sont aussi des machines à renforcer les formes. Elles extraient des données du passé et les transforment en décisions pour l’avenir. Les dés technologiques ont été truqués depuis longtemps pour favoriser certains intérêts sociaux, écrit le philosophe Langdon Winner. Je préfère être jugé par un tirage au sort plutôt que par des dés pipés. »

« Il est difficile de résister à l’attrait d’une technologie qui offre le vernis d’une autorité objective et l’utilité de réduire des événements complexes à un seul chiffre, voire à une seule couleur. »

Sadowki rappelle l’histoire de l’assurance en convoquant l’historien Dan Bouk qui expliquait les limites de sa promesse de calculer un risque toujours plus individualisé en ségrégant le risque en d’innombrables catégories. L’idée ou le but a toujours été d’appliquer des risques statistiques sur chaque individu, afin d’affiner, d’augmenter, de renforcer les principes de fixation des prix. Mais ce que cela produit, c’est des méthodes avancées pour la ségrégation sociale, les discriminations tarifaires et l’hyperpersonnalisation, disait déjà Greta Krippener. L’intensification de ces pratiques a fini par être transformatif.  Pour Colm Holmes, président d’Aviva et d’Allianz, le risque est de créer des gens qui n’ont pas besoin d’assurance et des gens qui ne sont pas assurables. Oubliant que l’assurance ne fonctionne que du fait de l’incertitude. 

« Les scores produisent un réductionnisme technocratique en pratique ». Pour les assureurs et les financiers, le seul but est de mettre un prix au risque et de le faire de manière profitable ce qui suppose de transformer les qualités en quantités, en chiffres. Sadowski, rappelle qu’il est difficile de combattre toutes les pratiques d’optimisation (des prix, comme des réclamations… ). Et assène : « l’optimisation est un euphémisme industriel pour désigner la discrimination ». Le problème, c’est qu’elle a des effets régressifs : les personnes les plus vulnérables et déjà défavorisées – par exemple, les plus pauvres, les plus âgées, les moins instruites ou les personnes de couleur – se retrouvent également dans une situation où elles n’ont d’autre choix que d’accepter des prix plus élevés et des indemnisations plus faibles. « L’intégration de l’apprentissage automatique dans l’assurance rend ces tactiques discriminatoires plus puissantes, plus répandues et plus difficiles à démasquer. Désormais, ces pratiques – et les données sensibles sur lesquelles elles reposent – ​​peuvent être blanchies grâce à l’opacité de l’apprentissage automatique, offrant ainsi aux actuaires humains un démenti plausible lorsque la discrimination et la tromperie sont découvertes. »

Pour Jathan Sadowski, « le risque n’est pas une mesure objective des phénomènes naturels et des schémas mathématiques ». Il ne repose même pas toujours ni entièrement sur l’analyse scientifique des processus stochastiques et des propriétés émergentes. « Il est créé par les régimes mêmes qui le calculent et le gouvernent. Il est le produit de systèmes technopolitiques et d’intérêts socio-économiques, et il est instrumentalisé pour les servir. Il est créé, encadré, conçu, tarifé, déplacé et déployé de manières spécifiques pour agir sur le monde. Le risque fait partie intégrante des opérations de pouvoir, de données et de valeur dans le capitalisme ». 

Dans son livre How Our Days Became Counted, l’historien Dan Bouk détaille comment le secteur de l’assurance a non seulement créé des méthodes d’analyse statistique, mais a également contribué à créer une culture où il était logique de concevoir les individus et les sociétés comme des nombres à suivre, analyser, prédire et gérer afin de se prémunir contre des risques (in)certains. C’est un processus que Bouk appelle « créer le risque » : « avec la généralisation de l’assurance, le risque a acquis une définition plus précise : il est devenu une sorte de marchandise ».

Les modes de production, d’achat et de vente du risque ont évolué à maintes reprises au cours des cent dernières années, à mesure que de nouveaux moyens de production et d’échange se développaient pour garantir que le risque demeure une source fiable de profit et de pouvoir pour le capital et les États. À l’apogée du capitalisme industriel américain, le risque était perçu comme une affaire intrinsèquement collective, calculable uniquement comme une propriété de groupes, comme l’explique la sociologue Greta Krippner. Cette conception est la base des traditions de bien-être mutuel qui traitent le risque comme un fardeau et la sécurité comme un avantage qui devrait être partagé équitablement entre l’ensemble du groupe. « Mais la collectivisation du risque a également été directement codifiée dans les institutions juridiques, sociales et culturelles par le capital de manières très spécifiques. Alors que le nombre d’accidents du travail, de blessures et de décès de travailleurs montait en flèche au début des années 1900, les capitalistes ont soutenu des notions de risque qui dépersonnalisaient ces incidents et socialisaient toute responsabilité pour leurs conditions, leurs causes et leurs conséquences. De nouvelles méthodes de collecte de données statistiques ont montré qu’il y avait une régularité écrasante des accidents du travail sur les lieux de travail. La conclusion tirée par les entreprises et le gouvernement était que ces dangers étaient inévitables et naturels, une triste réalité de la société industrielle et le prix du progrès ; il fallait la « gérer », mais elle ne pouvait jamais être changée ». Comme l’explique Krippner : « Le calcul du risque ne cherchait plus à appréhender des expériences particulières de blessures et de décès, mais s’efforçait plutôt de décrire la fréquence des accidents du travail dans la population globale. L’attention se concentrait non pas sur les circonstances particulières qui déterminaient la manière dont une personne était blessée, mais sur le nombre total de travailleurs blessés sur une période donnée, quelles que soient les circonstances. L’objectif de ces nouvelles technologies de gestion du risque n’était pas d’enquêter sur des accidents déjà survenus afin d’en attribuer la responsabilité, mais plutôt de prédire (et éventuellement de prévenir) les accidents futurs afin de pouvoir en répartir et en gérer les coûts. Cette notion de risque était abstraite, sa méthode actuarielle et sa signification démoralisée ». 

Cette vision du risque persiste encore largement aujourd’hui. Cependant, elle a également été remodelée par les avancées du capitalisme, estime Jadowski. Les caractéristiques du risque comme inévitabilité collective, qui se sont imposées dans le capitalisme industriel, coexistent désormais avec les approches du risque nées avec le capitalisme financier. Et le capitalisme technologique produit des innovations dans le domaine, comme l’assurance comportementale qui consiste à capturer des données sur le comportement des consommateurs (ou les activités, les choix et les modes de vie des assurés). Via des capteurs, comme ceux qui surveillent votre condition physique ou votre style de conduite, l’assurance comportementale vise à analyser et à évaluer avec précision le comportement des consommateurs. Elle intègre ensuite ces données dans des aspects clés de l’entreprise, comme le développement de produits, les campagnes marketing, la tarification des primes et le traitement des sinistres, tout en espérant « atteindre le Saint Graal de la gestion des risques : modifier activement le comportement des consommateurs pour s’assurer qu’ils mènent une vie moins risquée ». À la base de cette approche se trouve une théorie qui établit des liens de causalité directs entre les comportements individuels, les facteurs de risque et les résultats spécifiques. Au-delà de la simple affirmation que « les comportements sont des variables clés à prendre en compte ou à traiter », cette théorie du risque pousse à la conclusion plus extrême que seuls les choix personnels comptent ; les conditions externes et les structures sociales n’en ont pas. La responsabilité ultime du risque et de ses conséquences incombe aux individus et à leurs choix contrôlables. D’où l’orientation toujours plus forte sur les usages personnels, les petits gestes, le renvoi des utilisateurs à leur responsabilité.

Si les conceptions du risque ont évolué, le test ultime que tout système de gouvernance du risque doit réussir est pragmatique : « est-il efficace pour générer du profit et du pouvoir ? »

Le secteur de la prédiction du risque est animé par la grande ambition d’être le gardien de l’avenir supervisant chacun de nos mouvements et nous protégeant des aléas stochastiques de la vie. L’industrie justifie sa position parmi les institutions les plus omniprésentes et les plus puissantes de la société en se présentant comme un agent de progrès social qui utilise son expertise technocratique en analyse des risques pour intervenir et gouverner pour le mieux. Mais cet impératif moral ne va pas plus loin que les limites financières le permettent. Le capital est contraint de classer, hiérarchiser et exclure les individus de manière de plus en plus granulaire. Si notre profil de risque s’écarte trop de la norme de rentabilité, nous sommes alors abandonnés aux aléas du hasard. « Certains prennent des risques ; d’autres doivent les assumer. » Mais au final, certains assument toujours les risques que d’autres prennent parce qu’ils les prennent contre les premiers. 

Hubert Guillaud

« Le mythe de l’intelligence artificielle générale ressemble beaucoup à une théorie du complot et c’est peut-être la plus importante de notre époque ». Obsédées par cette technologie hypothétique, les entreprises d’IA nous la vendent avec acharnement, explique le journaliste Will Douglas Heaven dans la Technology Review.  

Pour élaborer une théorie du complot, il faut plusieurs ingrédients, rappelle-t-il : un schéma suffisamment flexible pour entretenir la croyance même lorsque les choses ne se déroulent pas comme prévu ; la promesse d’un avenir meilleur qui ne peut se réaliser que si les croyants découvrent des vérités cachées ; et l’espoir d’être sauvé des horreurs de ce monde. L’intelligence artificielle générale (IAG) remplit quasiment tous ces critères. Et plus on examine cette idée de près, plus elle ressemble à un complot. Ce n’en est pas totalement un, bien sûr, pas exactement, concède Heaven. « Mais en nous penchant sur les points communs entre l’IAG et les véritables théories du complot, je pense que nous pouvons mieux cerner ce concept et le révéler pour ce qu’il est : un délire techno-utopique (ou techno-dystopique, à vous de choisir) qui s’est ancré dans des croyances profondément enracinées et difficiles à déraciner ». 

Une histoire de l’IAG

Dans son article, Heaven retrace l’histoire du terme d’intelligence artificielle générale, initié par Ben Goertzel et Shane Legg. Quand ils discutent de cette idée, l’idée d’une IA capable d’imiter voire dépasser les capacités humaines était alors une plaisanterie. Mais Goertzel en tira un un livre sous ce titre (Springer, 2006) qui se présentait sous les atours les plus sérieux, puis organisa en 2008 une conférence dédiée au sujet (une conférence devenue annuelle et qui continue encore). En rejoignant DeepMind en tant que cofondateur, Shane Legg y importe le terme, légitimant le concept. Proche de Peter Thiel et de Eliezer Yudkowsky, Goertzel a beaucoup discuté avec eux du concept. Mais si l’iconoclaste Ben Goertzel était enthousiaste, le sombre Yudkowsky, lui, était beaucoup plus pessimiste, voyant l’arrivée de l’AGI comme une catastrophe. Malgré tous ces efforts, le concept n’a alors rencontré que peu d’échos et semblait surtout tenir de la pure science-fiction. 

C’est la publication de Superintelligence par le philosophe Nick Bostrom en 2014, qui  va changer les choses. Bostrom rend acceptable les concepts spécieux de Yudkowsky. Aujourd’hui, l’IAG est évoquée partout, que ce soit pour annoncer l’arrivée de temps immémoriaux ou pour prédire l’extermination de l’humanité. 

Dans son récent livre, apocalyptique, If Anyone Builds It, Everyone Dies : why Superhuman AI Would Kill Us All (Si quelqu’un le construit, tout le monde meurt, Little Brown, 2025, non traduit), coécrit avec Nate Soares, Yudkowsky accumule les déclarations extravagantes pour une interdiction totale de l’IAG. Un ouvrage « décousu et superficiel », comme l’explique le journaliste Adam Becker – auteur lui-même de More Everything Forever : AI Overlords, Space Empires, and Silicon Valley’s Crusade to Control the Fate of Humanity (Hachette, 2025, non traduit) – dans sa recension critique pour The Atlantic, qui « tente de nous faire croire que l’intelligence est un concept discret et mesurable, et que son accroissement est une question de ressources et de puissance de calcul ». L’IA superintelligente hypothétique des Cassandre « fait ce dont rêvent toutes les start-ups technologiques : croître de façon exponentielle et éliminer ses concurrents jusqu’à atteindre un monopole absolu », expliquait déjà l’écrivain de science-fiction Ted Chiang. La superintelligence évoque bien plus un capitalisme débridé porté par des individus parfaitement néoréactionnaires qu’autre chose, comme l’analysait Elisabeth Sandifer dans son livre sur l’extrême-droite technologique américaine, ou encore les livres de Thibault Prévost ou Nastasia Hadjadji et Olivier Tesquet que nous avons déjà chroniqué. « En réalité, l’apocalypse de l’IA qui inquiète tant Yudkowsky et Soares n’est autre que notre propre monde, vu à travers le prisme déformant d’un miroir de science-fiction », une « vision simpliste du salut technologique », conclut Becker.

Malgré sa vacuité, l’ouvrage de Soares et Yudkowsky est un des bestsellers du New York Times. Pour Heaven, comme toutes les théories du complot les plus puissantes, l’intelligence artificielle générale s’est infiltrée dans le débat public et a pris racine.

Le mythe d’une machine plus intelligente que l’humain, capable de tout faire, se retrouve pourtant dès l’origine de l’IA, chez Alan Turing comme chez John McCarthy. « Mais l’IAG n’est pas une technologie, c’est un rêve », affirme Becker. Comme nombre de théories du complot, il est impossible de réfuter une idée aussi protéiforme que l’IAG. Discuter d’IAG consiste en un affrontement de visions du monde, et non en un échange de raisonnements fondés sur des preuves, puisqu’il ne peut y en avoir autour d’un objet hypothétique pour lequel il n’existe pas de définition précise et partagée. Les prédictions sur l’avènement de l’IAG sont formulées avec la précision de numérologues annonçant la fin des temps. Sans véritable enjeu, les échéances sont repoussées sans conviction. « L’IAG, c’est toujours ce qui arrivera, la prochaine fois, mais son arrivée imminente est la vérité que partagent ses adeptes ». 

Du conspirationnisme

Pour l’anthropologue des religions Jeremy Cohen, qui étudie les théories du complot dans les milieux technologiques, la vérité cachée « est un élément fondamental de la pensée conspirationniste ». Pour Ben Goertzel et les thuriféraires de l’IAG, les raisons du scepticisme envers l’IAG tiennent du scepticisme global. « Avant chaque grande avancée technique, du vol humain à l’énergie électrique, des hordes de prétendus experts vous expliquaient pourquoi cela n’arriverait jamais. En réalité, la plupart des gens ne croient qu’à ce qu’ils voient. » Si vous n’êtes pas convaincus par l’IAG, c’est que vous êtes un idiot naïf disent ses partisans, inversant la charge de la preuve, alors qu’ils sont bien plus que d’autres les idiots utiles de ce qu’ils dénoncent et vénèrent à la fois.

« L’idée de donner naissance à des dieux-machines est évidemment très flatteuse pour l’ego », affirme la philosophe Shannon Vallor de l’Edinburgh Futures Institute (voir notre article sur son livre, « L’IA n’est qu’un miroir »). « C’est incroyablement séduisant de penser que l’on pose soi-même les fondements de cette transcendance ». C’est un autre point commun avec les théories du complot. Une partie de l’attrait réside dans le désir de trouver un sens à un monde chaotique et parfois dénué de sens et dans l’aspiration à être une personne consciente du danger. Pour David Krueger, chercheur à l’Université de Montréal et ancien directeur de recherche à l’Institut de sécurité de l’IA du Royaume-Uni, nombre de personnes travaillant sur l’IA considèrent cette technologie comme notre successeur naturel. « Ils voient cela comme une forme de maternité » dont ils ont la charge, explique-t-il. Jeremy Cohen, lui, dresse des parallèles entre de nombreuses théories du complot moderne et le mouvement New Age, qui connut son apogée dans les années 1970 et 1980. Ses adeptes croyaient que l’humanité était sur le point d’accéder à une ère de bien-être spirituel et d’éveil de la conscience, instaurant un monde plus paisible et prospère. L’idée était qu’en s’adonnant à un ensemble de pratiques pseudo-religieuses, les humains transcenderaient leurs limites et accéderaient à une sorte d’utopie hippie. Pour Cohen, nous sommes confrontés aux mêmes attentes à l’égard de l’IAG : que ce soit par la destruction ou la sublimation de l’humanité, elle seule permettra de surmonter les problèmes auxquels l’humanité est confrontée. Pour Yudkowsky et Soares, les enjeux de l’IAG sont plus importants que le risque nucléaire ou le risque climatique. 

Pour beaucoup de ceux qui optent pour cette croyance, l’IAG arrivera d’un seul coup, sous la forme d’une singularité technologique introduite par l’auteur de science-fiction Vernor Vinge dans les années 80. Un moment transcendant où l’humanité, telle que nous la connaissons, changera à jamais. Pour Shannon Vallor, ce système de croyance est remarquable par la façon dont la foi en la technologie a remplacé la foi en l’humanité. Malgré son côté ésotérique, la pensée New Age était au moins motivée par l’idée que les gens avaient le potentiel de changer le monde par eux-mêmes, pourvu qu’ils puissent y accéder. Avec la quête de l’IA générale, nous avons abandonné cette confiance en nous et adhéré à l’idée que seule la technologie peut nous sauver, explique-t-elle. C’est une pensée séduisante, voire réconfortante, pour beaucoup. « Nous vivons à une époque où les autres voies d’amélioration matérielle de la vie humaine et de nos sociétés semblent épuisées », affirme Vallor. La technologie promettait autrefois un avenir meilleur : le progrès était une échelle que nous devions gravir vers l’épanouissement humain et social. « Nous avons dépassé ce stade », déclare Vallor. « Je pense que ce qui redonne espoir à beaucoup et leur permet de retrouver cet optimisme quant à l’avenir, c’est l’IA générale. » Poussons cette idée à son terme et, une fois encore, l’IA générale devient une sorte de divinité, capable de soulager les souffrances terrestres, affirme Vallor. Kelly Joyce, sociologue à l’Université de Caroline du Nord, qui étudie comment les croyances culturelles, politiques et économiques façonnent notre rapport à la technologie, considère toutes ces prédictions extravagantes concernant l’IA générale comme quelque chose de plus banal : un exemple parmi d’autres de la tendance actuelle du secteur technologique à faire des promesses excessives. « Ce qui m’intrigue, c’est que nous nous laissions prendre au piège. »

« À chaque fois », dit-elle. « Il existe une conviction profonde que la technologie est supérieure aux êtres humains. » Joyce pense que c’est pourquoi, lorsque l’engouement s’installe, les gens sont prédisposés à y croire. « C’est une religion », dit-elle. « Nous croyons en la technologie. La technologie est divine. Il est très difficile de s’y opposer. Les gens ne veulent pas l’entendre. » 

Le fantasme d’ordinateurs capables de faire presque tout ce qu’un humain peut faire est séduisant. Mais comme beaucoup de théories du complot répandues, elle a des conséquences bien réelles. Elle fausse notre perception des enjeux, déstabilise l’industrie pour l’éloigner d’applications immédiates… Et surtout, elle nous invite à la paresse. A quoi bon s’acharner à résoudre les problèmes du monde réel, quand les machines s’en chargeront demain ? Le projet pharaonique de l’IA engloutit désormais des centaines de milliards de dollars et détourne nombre d’investissements de technologies plus immédiates, capables de changer dès à présent la vie des gens. 

Tina Law, spécialiste des politiques technologiques à l’Université de Californie à Davis, s’inquiète du fait que les décideurs politiques soient davantage influencés par le discours selon lequel l’IA finira par nous anéantir que par les préoccupations réelles concernant l’impact concret et immédiat de l’IA sur la vie des gens dès aujourd’hui. La question des inégalités est occultée par la notion de risque existentiel. « Le battage médiatique est une stratégie lucrative pour les entreprises technologiques », affirme Law. Ce battage médiatique repose en grande partie sur l’idée que ce qui se passe est inévitable : si nous ne le construisons pas, quelqu’un d’autre le fera. « Quand quelque chose est présenté comme inévitable », rappelle Law, « les gens doutent non seulement de leur capacité à résister, mais aussi de leur droit à le faire. » Tout le monde se retrouve piégé. 

Selon Milton Mueller, du Georgia Institute of Technology, spécialiste des politiques et de la réglementation technologiques, le champ de distorsion lié à l’IAG ne se limite pas aux politiques technologiques. La course à l’IA générale est comparée à la course à la bombe atomique, explique-t-il. « Celui qui y parviendra en premier aura un pouvoir absolu sur tous les autres. C’est une idée folle et dangereuse qui faussera profondément notre approche de la politique étrangère. » Les entreprises (et les gouvernements) ont tout intérêt à promouvoir le mythe de l’IA générale, explique encore Mueller, car elles peuvent ainsi prétendre être les premières à y parvenir. Mais comme il s’agit d’une course sans consensus sur la ligne d’arrivée, le mythe peut être entretenu tant qu’il est utile. Ou tant que les investisseurs sont prêts à y croire. Il est facile d’imaginer comment cela se déroule. Ce n’est ni l’utopie ni l’enfer : c’est OpenAI et ses pairs qui s’enrichissent considérablement. 

Voilà. Le grand complot de l’IAG est enfin résolu, ironise Heaven. « Et peut-être cela nous ramène-t-il à la question du complot, et à un rebondissement inattendu dans cette histoire. Jusqu’ici, nous avons ignoré un aspect courant de la pensée conspirationniste : l’existence d’un groupe de personnalités influentes tirant les ficelles en coulisses et la conviction que, par la recherche de la vérité, les croyants peuvent démasquer cette cabale ». L’IAG n’accuse publiquement aucune force occulte d’entraver son développement ou d’en dissimuler les secrets. Aucun complot n’est ourdi par les Illuminati ou le Forum économique mondial… ici, ceux-là même qui dénoncent les dangers fomentent la cabale. Ceux qui propagent la théorie du complot de l’IAG sont ses principaux instigateurs. Les géants de la Silicon Valley investissent toutes leurs ressources dans la création d’une IAG à des fins lucratives. Le mythe de l’IAG sert leurs intérêts plus que ceux de quiconque. Comme le souligne Vallor : « Si OpenAI affirme construire une machine qui rendra les entreprises encore plus puissantes qu’elles ne le sont aujourd’hui, elle n’obtiendra pas l’adhésion du public nécessaire. » « N’oubliez pas : vous créez un dieu et vous finissez par lui ressembler », ironise Heaven. « Beaucoup pensent que s’ils y parviennent en premier, ils pourront dominer le monde ». 

À bien des égards, conclut Heaven, je pense que l’idée même d’IAG repose sur une vision déformée de ce que l’on attend de la technologie, et même de ce qu’est l’intelligence. En résumé, l’argument en faveur de l’IA générale repose sur le postulat qu’une technologie, l’IA, a progressé très rapidement et continuera de progresser. Mais abstraction faite des objections techniques – que se passera-t-il si les progrès cessent ? –, il ne reste plus que l’idée que l’intelligence est une ressource dont on peut augmenter la quantité grâce aux données, à la puissance de calcul ou aux réseaux neuronaux adéquats. Or, ce n’est pas le cas. L’intelligence n’est pas une quantité que l’on peut accroître indéfiniment. Des personnes intelligentes peuvent exceller dans un domaine et être moins douées dans d’autres. Tout comme les babioles dopées à l’IA peuvent exceller dans une tâche et être nulles dans bien d’autres, surtout toutes celles, innombrables, qui échappent à leurs données et continueront de leur échapper. 

De l’IAG au fantasme des trombones

Ce fantasme d’automatisation totale que produirait l’IAG est aussi la symbolique du jeu du maximiseur de trombone. Le jeu met en scène, très concrètement, une idée développée par le chantre du transhumanisme d’extrême droite, Nick Bostrom, dès 2002, à savoir celle du « risque existentiel » que ferait peser sur nous cette intelligence artificielle superintelligente, capable de créer des situations pouvant détruire toute vie sur terre. Pour Bostrom, l’usine à trombone est un démonstrateur, où une IA qui aurait pour seul objectif de produire des trombones, pourrait exploiter toutes les ressources pour se faire jusqu’à leur plus total épuisement, en optimisant son objectif sans limites. 

Cette démonstration, pourtant extrêmement simpliste, a marqué les esprits. Son aporie même, qui fait d’un objectif absurde le démonstrateur ultime de l’intelligence des machines, demeure particulièrement problématique. Puisqu’il n’y a ici aucune intelligence des machines, mais bien au contraire, la démonstration de leur pure aberration. Or, la crainte que les systèmes d’IA puissent interpréter les commandes de manière catastrophique « repose sur des hypothèses douteuses quant au déploiement de la technologie dans le monde réel », comme le disaient les chercheurs Arvind Narayanan et Sayash Kapoor. Le jeu est bien plus un simulateur de marché qu’un jeu sur l’IA. Universal Paperclips incite les joueurs à l’empathie avec ses buts, notamment en proposant de nouvelles fonctionnalités pour les assouvir, et c’est bien notre empathie avec le jeu qui conduit l’IA à détruire l’humanité pour accomplir son but absurde de productivité sans limite. Son créateur, Frank Lantz, raconte d’ailleurs que ce n’est pas l’augmentation des chiffres, mais la manière dont ils augmentent qui incite les joueurs à cliquer et à faire cœur avec les objectifs du jeu. « Les jeux incrémentaux sont très bruts. Ils s’attachent à un processus pour faire que les joueurs deviennent obsédés par sa croissance». L’interface épurée hypnotise par la répétition. « Le joueur détruit l’univers avec le même sentiment d’éloignement que lorsqu’on commande un pull en ligne ». Cette fiction est censée nous prévenir que l’IA pourrait avoir des motivations très différentes de l’homme.

Pourtant le jeu, très scripté, ne montre en rien que l’IA pourrait raisonner, planifier ou comprendre le monde physique ou le dominer. Il masque surtout que des fonctionnalités déclenchent des possibilités et que celles-ci sont prévues par l’interface et le concepteur du jeu. La fable du maximiseur de trombone ne démontre en rien que l’IA pourrait prendre le contrôle du monde, mais que ses objectifs et fonctions, eux, sont le produit de celui qui les a programmés. Le maximiseur de trombone n’accomplit aucune démonstration qu’une intelligence artificielle générale conduirait à l’extermination du genre humain. Comme l’ont dit Kate Crawford ou Melanie Mitchell, les voix les plus fortes qui débattent des dangers potentiels de la superintelligence sont celles d’hommes blancs aisés et racistes, et, pour eux, la plus grande menace est peut-être l’émergence d’un prédateur au sommet de l’intelligence artificielle, mais qui est certainement personne d’autre qu’eux-mêmes. Le capitalisme est un bien plus grand maximiseur que l’IA. Les entreprises maximisent le cours de leurs actions sans se soucier des coûts, qu’ils soient humains, environnementaux ou autres. Ce processus d’optimisation est bien plus incontrôlable et pourrait bien rendre notre planète inhabitable bien avant que nous sachions comment créer une IA optimisant les trombones. 

Hubert Guillaud

En 2022, Ben Tarnoff fait paraître Internet for the people, the fight for the future, un livre essentiel pour comprendre les conséquences de la privatisation d’internet. Retour de lecture.

Ben Tarnoff est un chercheur et un penseur important des réseaux. Éditeur de l’excellent Logic Mag, il est également l’un des membres de la Collective action in tech, un réseau pour documenter et faire avancer les mobilisations des travailleurs de la tech. 

Il a publié notamment un manifeste, The Making of tech worker movement – dont avait rendu compte Irénée Régnauld dans Mais où va le web ? -, ainsi que Voices from the Valley, un recueil de témoignages des travailleurs de la tech. Critique engagé, ces dernières années, Tarnoff a notamment proposé, dans une remarquable tribune pour Jacobin, d’abolir les outils numériques pour le contrôle social (« Certains services numériques ne doivent pas être rendus moins commodes ou plus démocratiques, mais tout simplement abolis »), ou encore, pour The Guardian, de dé-informatiser pour décarboner le monde (en invitant à réfléchir aux activités numériques que nous devrions suspendre, arrêter, supprimer). Il publie ce jour son premier essai, Internet for the people, the fight of your digital future (Verso, 2022, non traduit). 

Internet for the People n’est pas une contre-histoire de l’internet, ni une histoire populaire du réseau (qui donnerait la voix à ceux qui ne font pas l’histoire, comme l’avait fait l’historien Howard Zinn), c’est avant tout l’histoire de notre déprise, de comment nous avons été dépossédé d’internet, et comment nous pourrions peut-être reconquérir le réseau des réseaux. C’est un livre souvent amer, mais assurément politique, qui tente de trouver les voies à des alternatives pour nous extraire de l’industrialisation du net. Sa force, assurément, est de très bien décrire comment l’industrialisation s’est structurée à toutes les couches du réseau. Car si nous avons été dépossédés, c’est bien parce qu’internet a été privatisé par devers nous, si ce n’est contre nous. 

« Les réseaux ont toujours été essentiels à l’expansion capitaliste et à la globalisation. Ils participent à la création des marchés, à l’extraction des ressources, à la division et à la distribution du travail. » Pensez au rôle du télégraphe dans l’expansion coloniale par exemple, comme aux câbles sous-marins qui empruntent les routes maritimes des colons comme des esclaves – tout comme les données et processus de reporting standardisés ont été utilisés pour asseoir le commerce triangulaire et pour distancier dans et par les chiffres la réalité des violences commises par l’esclavage, comme l’explique l’historienne Caitlin Rosenthal dans son livre Accounting for Slavery : Masters & Management.

« La connectivité n’est jamais neutre. La croissance des réseaux a toujours été guidée par le désir de puissance et de profit. Ils n’ont pas été conduits pour seulement convoyer de l’information, mais comme des mécanismes pour forger des relations de contrôle. » La défiance envers le monde numérique et ses effets n’a cessé de monter ces dernières années, dénonçant la censure, la désinformation, la surveillance, les discriminations comme les inégalités qu’il génère. Nous sommes en train de passer du techlash aux technoluttes, d’une forme d’animosité à l’égard du numérique à des luttes dont l’objet est d’abattre la technologie… c’est-à-dire de dresser le constat qu’internet est brisé et que nous devons le réparer. Pour Tarnoff, la racine du problème est pourtant simple : « l’internet est brisé parce que l’internet est un business ». Même « un internet appartenant à des entreprises plus petites, plus entrepreneuriales, plus régulées, restera un internet qui marche sur le profit », c’est-à-dire « un internet où les gens ne peuvent participer aux décisions qui les affectent ». L’internet pour les gens sans les gens est depuis trop longtemps le mode de fonctionnement de l’industrie du numérique, sans que rien d’autre qu’une contestation encore trop timorée ne vienne le remettre en cause. 

Privatisation partout, justice nulle part

L’internet n’a pas toujours eu la forme qu’on lui connaît, rappelle Tarnoff. Né d’une manière expérimentale dans les années 70, c’est à partir des années 90 que le processus de privatisation s’enclenche. Cette privatisation « n’est pas seulement un transfert de propriété du public au privé, mais un mouvement plus complexe où les entreprises ont programmé le moteur du profit à chaque niveau du réseau », que ce soit au niveau matériel, logiciel, législatif ou entrepreneurial… « Certaines choses sont trop petites pour être observées sans un microscope, d’autres trop grosses pour être observées sans métaphores ». Pour Tarnoff, nous devons regarder l’internet comme un empilement (stack, qui est aussi le titre du livre de Benjamin Bratton qui décompose et cartographie les différents régimes de souveraineté d’internet, qui se superposent et s’imbriquent les uns dans les autres), un agencement de tuyaux et de couches technologiques qui le compose, qui va des câbles sous-marins aux sites et applications d’où nous faisons l’expérience d’internet. Avec le déploiement d’internet, la privatisation est remontée des profondeurs de la pile jusqu’à sa surface. « La motivation au profit n’a pas seulement organisé la plomberie profonde du réseau, mais également chaque aspect de nos vies en ligne ».

En cela, Internet for the people se veut un manifeste, dans le sens où il rend cette histoire de la privatisation manifeste. Ainsi, le techlash ne signifie rien si on ne le relie pas à l’héritage de cette dépossession. Les inégalités d’accès comme la propagande d’extrême droite qui fleurit sur les médias sociaux sont également les conséquences de ces privatisations. « Pour construire un meilleur internet (ou le réparer), nous devons changer la façon dont il est détenu et organisé. Pas par un regard consistant à améliorer les marchés, mais en cherchant à les rendre moins dominants. Non pas pour créer des marchés ou des versions de la privatisation plus compétitifs ou réglementés, mais pour les renverser ». 

« La “déprivatisation” vise à créer un internet où les gens comptent plus que les profits ». Nous devons prendre le contrôle collectif des espaces en ligne, où nos vies prennent désormais place. Pour y parvenir, nous devons développer et encourager de nouveaux modèles de propriété qui favorisent la gouvernance collective et la participation, nous devons créer des structures qui favorisent ce type d’expérimentations. Or, « les contours précis d’un internet démocratique ne peuvent être découverts que par des processus démocratiques, via des gens qui s’assemblent pour construire le monde qu’ils souhaitent ». C’est à en créer les conditions que nous devons œuvrer, conclut Tarnoff dans son introduction. 

Coincés dans les tuyaux

Dans la première partie de son livre, Tarnoff s’intéresse d’abord aux tuyaux en nous ramenant aux débuts du réseau. L’internet n’est alors qu’un langage, qu’un ensemble de règles permettant aux ordinateurs de communiquer. À la fin des années 70, il est alors isolé des forces du marché par les autorités qui financent un travail scientifique de long terme. Il implique des centaines d’individus qui collaborent entre eux à bâtir ces méthodes de communication. C’est l’époque d’Arpanet où le réseau bénéficie de l’argent de la Darpa (l’agence de la Défense américaine chargée du développement des nouvelles technologies) et également d’une éthique open source qui va encourager la collaboration et l’expérimentation, tout comme la créativité scientifique. « C’est l’absence de motivation par le profit et la présence d’une gestion publique qui rend l’invention d’internet possible ». 

C’est seulement dans les années 90 que les choses changent. Le gouvernement américain va alors céder les tuyaux à des entreprises, sans rien exiger en retour. Le temps de l’internet des chercheurs est fini. Or, explique Tarnoff, la privatisation n’est pas venue de nulle part, elle a été planifiée. En cause, le succès de l’internet de la recherche. NSFNet, le réseau de la Fondation nationale pour la science qui a succédé à Arpanet en 1985, en excluant les activités commerciales, a fait naître en parallèle les premiers réseaux privés. Avec l’invention du web, qui rend l’internet plus convivial (le premier site web date de 1990, le navigateur Mosaic de 1993), les entreprises parviennent à proposer les premiers accès commerciaux à NSFNet en 1991. En fait, le réseau national des fondations scientifiques n’a pas tant ouvert l’internet à la compétition : il a surtout transféré l’accès à des opérateurs privés, sans leur imposer de conditions et ce, très rapidement. 

En 1995, la privatisation des tuyaux est achevée. Pour tout le monde, à l’époque, c’était la bonne chose à faire, si ce n’est la seule. Il faut dire que les années 90 étaient les années d’un marché libre triomphant. La mainmise sur l’internet n’est finalement qu’une mise en application de ces idées, dans un moment où la contestation n’était pas très vive, notamment parce que les utilisateurs n’étaient encore pas très nombreux pour défendre un autre internet. D’autres solutions auraient pu être possibles, estime Tarnoff. Mais plutôt que de les explorer, nous avons laissé l’industrie dicter unilatéralement ses conditions. Pour elle, la privatisation était la condition à la popularisation d’internet. C’était un faux choix, mais le seul qui nous a été présenté, estime Tarnoff. L’industrie a récupéré une technologie patiemment développée par la recherche publique. La dérégulation des télécoms concomitante n’a fait qu’accélérer les choses. Pour Tarnoff, nous avons raté les alternatives. Les profits les ont en tout cas fermé. Et le «pillage » a continué. L’épine dorsale d’internet est toujours la propriété de quelques entreprises qui pour beaucoup sont alors aussi devenues fournisseurs d’accès. La concentration de pouvoir prévaut à tous les niveaux, à l’image des principales entreprises qui organisent et possèdent l’information qui passent dans les réseaux. Google, Netflix, Facebook, Microsoft, Apple et Amazon comptent pour la moitié du trafic internet. La privatisation nous a promis un meilleur service, un accès plus large, un meilleur internet. Pourtant, le constat est inverse. Les Américains payent un accès internet parmi les plus chers du monde et le moins bon. Quant à ceux qui sont trop pauvres ou trop éloignés du réseau, ils continuent à en être exclus. En 2018, la moitié des Américains n’avaient pas accès à un internet à haut débit. Et cette déconnexion est encore plus forte si en plus d’habiter loin des villes vous avez peu de revenus. Aux États-Unis, l’accès au réseau demeure un luxe. 

Mais l’internet privé n’est pas seulement inéquitable, il est surtout non-démocratique. Les utilisateurs n’ont pas participé et ne participent toujours pas aux choix de déploiements techniques que font les entreprises pour eux, comme nous l’ont montré, très récemment, les faux débats sur la 5G. « Les marchés ne vous donnent pas ce dont vous avez besoin, ils vous donnent ce que vous pouvez vous offrir ». « Le profit reste le principe qui détermine comment la connectivité est distribuée ». 

Pourtant, insiste Tarnoff, des alternatives existent aux monopoles des fournisseurs d’accès. En 1935, à Chattanooga, dans le Tennessee, la ville a décidé d’être propriétaire de son système de distribution d’électricité, l’Electric Power Board. En 2010, elle a lancé une offre d’accès à haut débit, The Gig, qui est la plus rapide et la moins chère des États-Unis, et qui propose un accès même à ceux qui n’en ont pas les moyens. C’est le réseau haut débit municipal le plus célèbre des États-Unis. Ce n’est pas le seul. Quelque 900 coopératives à travers les États-Unis proposent des accès au réseau. Non seulement elles proposent de meilleurs services à petits prix, mais surtout, elles sont participatives, contrôlées par leurs membres qui en sont aussi les utilisateurs. Toutes privilégient le bien social plutôt que le profit. Elles n’ont pas pour but d’enrichir les opérateurs. À Detroit, ville particulièrement pauvre et majoritairement noire, la connexion a longtemps été désastreuse. Depuis 2016, le Detroit Community Technology Project (DCTP) a lancé un réseau sans fil pour bénéficier aux plus démunis. Non seulement la communauté possède l’infrastructure, mais elle participe également à sa maintenance et à son évolution. DCTP investit des habitants en « digital stewards » chargés de maintenir le réseau, d’éduquer à son usage, mais également de favoriser la connectivité des gens entre eux, assumant par là une fonction politique à la manière de Community organizers. 

Pour Tarnoff, brancher plus d’utilisateurs dans un internet privatisé ne propose rien pour changer l’internet, ni pour changer sa propriété, ni son organisation, ni la manière dont on en fait l’expérience. Or, ces expériences de réseaux locaux municipaux défient la fable de la privatisation. Elles nous montrent qu’un autre internet est possible, mais surtout que l’expérience même d’internet n’a pas à être nécessairement privée. La privatisation ne décrit pas seulement un processus économique ou politique, mais également un processus social qui nécessite des consommateurs passifs et isolés les uns des autres. À Detroit comme à Chattanooga, les utilisateurs sont aussi des participants actifs à la croissance, à la maintenance, à la gouvernance de l’infrastructure. Tarnoff rappelle néanmoins que ces réseaux municipaux ont été particulièrement combattus par les industries du numériques et les fournisseurs d’accès. Mais contrairement à ce que nous racontent les grands opérateurs de réseaux, il y a des alternatives. Le problème est qu’elles ne sont pas suffisamment défendues, étendues, approfondies… Pour autant, ces alternatives ne sont pas magiques. « La décentralisation ne signifie pas automatiquement démocratisation : elle peut servir aussi à concentrer le pouvoir plus qu’à le distribuer ». Internet reste un réseau de réseau et les nœuds d’interconnections sont les points difficiles d’une telle topographie. Pour assurer l’interconnexion, il est nécessaire également de « déprivatiser » l’épine dorsale des interconnexions de réseaux, qui devrait être gérée par une agence fédérale ou une fédération de coopératives. Cela peut sembler encore utopique, mais si l’internet n’est déprivatisé qu’à un endroit, cela ne suffira pas, car cela risque de créer des zones isolées, marginales et surtout qui peuvent être facilement renversées – ce qui n’est pas sans rappeler le délitement des initiatives de réseau internet sans fil communautaire, comme Paris sans fil, mangés par la concurrence privée et la commodité de service qu’elle proposent que nous évoquions à la fin de cet article. 

Dans les années 90, quand la privatisation s’est installée, nous avons manqué de propositions, d’un mouvement en défense d’un internet démocratique, estime Tarnoff. Nous aurions pu avoir, « une voie publique sur les autoroutes de l’information ». Cela n’a pas été le cas. 

Désormais, pour déprivatiser les tuyaux (si je ne me trompe pas, Tarnoff n’utilise jamais le terme de nationalisation, un concept peut-être trop loin pour le contexte américain), il faut résoudre plusieurs problèmes. L’argent, toujours. Les cartels du haut débit reçoivent de fortes injections d’argent public notamment pour étendre l’accès, mais sans rien vraiment produire pour y remédier. Nous donnons donc de l’argent à des entreprises qui sont responsables de la crise de la connectivité pour la résoudre ! Pour Tarnoff, nous devrions surtout rediriger les aides publiques vers des réseaux alternatifs, améliorer les standards d’accès, de vitesse, de fiabilité. Nous devrions également nous assurer que les réseaux publics locaux fassent du respect de la vie privée une priorité, comme l’a fait à son époque la poste, en refusant d’ouvrir les courriers ! Mais, si les lois et les régulations sont utiles, « le meilleur moyen de garantir que les institutions publiques servent les gens, est de favoriser la présence de ces gens à l’intérieur de ces institutions ». Nous devons aller vers des structures de gouvernances inclusives et expansives, comme le défendent Andrew Cumbers et Thomas Hanna dans « Constructing the Democratic Public Entreprise »(.pdf) (à prolonger par le rapport Democratic Digital Infrastructure qu’a publié Democracy Collaborative, le laboratoire de recherche et développement sur la démocratisation de l’économie).

Coincés dans les plateformes

Les années 90 sont les années du web. En 1995, l’internet ne ressemble plus tout à fait à un réseau de recherche. Avec 45 millions d’utilisateurs et 23 500 sites web, l’internet commence à se transformer. Chez Microsoft, Bill Gates annonce qu’internet sera leur priorité numéro un. Jeff Bezos lance Amazon. Pierre Omidyar AuctionWeb, qui deviendra eBay. C’est le début des grandes entreprises de l’internet, de celles qui deviendront des « plateformes », un terme qui mystifie plus qu’il n’éclaircit, qui permet de projeter sur la souveraineté qu’elles conquièrent une aura d’ouverture et de neutralité, quand elles ne font qu’ordonner et régir nos espaces digitaux. Si la privatisation d’internet a commencé par les fondements, les tuyaux, au mitan des années 90, cette phase est terminée. « La prochaine étape consistera à maximiser les profits dans les étages supérieurs, dans la couche applicative, là où les utilisateurs utilisent l’internet ». C’est le début de la bulle internet jusqu’à son implosion. 

eBay a survécu au crash des années 2000 parce qu’elle était l’une des rares exceptions aux startups d’alors. eBay avait un business model et est devenu très rapidement profitable. eBay a aussi ouvert un modèle : l’entreprise n’a pas seulement offert un espace à l’activité de ses utilisateurs, son espace a été constitué par eux, en les impliquant dans son développement, selon les principes de ce qu’on appellera ensuite le web 2.0. La valeur technique de l’internet a toujours été ailleurs. Sociale plus que technique, estime Tarnoff (pour ma part, je pense que ce n’est pas si clair, l’industrialisation inédite qui s’est construite avec le numérique, n’est pas uniquement sociale, elle me semble surtout économique et politique). 

En 1971, quand Ray Tomlinson invente le mail, celui-ci devient très rapidement très populaire et représente très vite l’essentiel du trafic du premier réseau. L’e-mail a humanisé le réseau. Les échanges avec les autres sont rapidement devenu l’attraction principale. Avec eBay, Omidyar va réussir à refondre sa communauté en marché. Le succès des plateformes du web 2.0 va consister à «fusionner les relations sociales aux relations de marché », par trois leviers : la position d’intermédiaire (entre acheteurs et vendeurs), la souveraineté (la plateforme façonne les interactions, écrits les règles, fonctionne comme un législateur et un architecte) et bien sûr les effets réseaux (plus les gens utilisent, plus l’espace prend de la valeur). La couche applicative de l’internet va ainsi se transformer en vastes centres commerciaux : des environnements clos, qui vont tirer leurs revenus à la fois de la rente que procurent ces espaces pour ceux qui veulent en bénéficier et de la revente de données le plus souvent sous forme publicitaire (mais pas seulement). La collecte et l’analyse de données vont d’ailleurs très vite devenir la fonction primaire de ces « centres commerciaux en ligne ». « La donnée a propulsé la réorganisation de l’internet », à l’image de Google qui l’a utilisé pour améliorer son moteur, puis pour vendre de la publicité, lui permettant de devenir, dès 2002, profitable. C’est la logique même du Capitalisme de surveillance de Shoshana Zuboff. Une logique qui préexistait aux entreprises de l’internet, comme le raconte le pionnier des études sur la surveillance, Oscar H. Gandy, dans ses études sur les médias de masse, les banques ou les compagnies d’assurances, mais qui va, avec la circulation des données, élargir la surface de sa surveillance. 

Malgré toutes ses faiblesses (vous atteignez surtout les catégories produites par les systèmes que la réalité des gens, c’est-à-dire la manière dont le système caractérise les usagers, même si ces caractères se révèlent souvent faux parce que calculés), la surveillance des utilisateurs pour leur livrer de la publicité ciblée va construire les principaux empires des Gafams que nous connaissons encore aujourd’hui. Si la publicité joue un rôle essentiel dans la privatisation, les  «Empires élastiques » des Gafams, comme les appels Tarnoff, ne vont pas seulement utiliser l’analyse de données pour vendre des biens et de la publicité, ils vont aussi l’utiliser pour créer des places de marché pour les moyens de production, c’est-à-dire produire du logiciel pour l’internet commercial. 

« Quand le capitalisme transforme quelque chose, il tend à ajouter plus de machinerie », rappelle Tarnoff avec les accents de Pièces et Main d’œuvre. Avec les applications, les pages internet sont devenues plus dynamiques et complexes, « conçues pour saisir l’attention des utilisateurs, stimuler leur engagement, liées pour élaborer des systèmes souterrains de collecte et d’analyse des données ». « Les centres commerciaux en ligne sont devenus les lieux d’un calcul intensif. Comme le capitalisme a transformé l’atelier en usine, la transformation capitaliste d’internet a produit ses propres usines », qu’on désigne sous le terme de cloud, pour mieux obscurcir leur caractère profondément industriel. Ces ordinateurs utilisés par d’autres ordinateurs, rappellent l’enjeu des origines du réseau : étendre le calcul et les capacités de calcul. Tarnoff raconte ainsi la naissance, dès 2004, de l’Elastic Compute Cloud (EC2) d’Amazon par Chris Pinkham et Christopher Brown, partis en Afrique du Sud pour rationaliser les entrailles numériques de la machine Amazon qui commençait à souffrir des limites de l’accumulation de ses couches logicielles. EC2 lancé en 2006 (devenu depuis Amazon Web Services, AWS, l’offre d’informatique en nuage), va permettre de vendre des capacités informatiques et d’analyse mesurées et adaptables. Le cloud d’Amazon va permettre d’apporter un ensemble d’outils à l’industrialisation numérique, de pousser plus loin encore la privatisation. Le Big Data puis les avancées de l’apprentissage automatisé (l’intelligence artificielle) dans les années 2010 vont continuer ces accélérations industrielles. La collecte et le traitement des données vont devenir partout un impératif. 

Dans le même temps, les utilisateurs ont conquis un internet devenu mobile. L’ordinateur devenant smartphone n’est plus seulement la machine à tout faire, c’est la machine qui est désormais partout, s’intégrant non seulement en ligne, mais jusqu’à nos espaces physiques, déployant un contrôle logiciel jusque dans nos vies réelles, à l’image d’Uber et de son management algorithmique. L’industrialisation numérique s’est ainsi étendue jusqu’à la coordination des forces de travail, dont la profitabilité a été accrue par la libéralisation du marché du travail. La contractualisation des travailleurs n’a été qu’une brèche supplémentaire dans la gestion algorithmique introduite par le déploiement sans fin de l’industrie numérique, permettant désormais de gérer les tensions sur les marchés du travail, localement comme globalement. La force de travail est elle-même gérée en nuage, à la demande. Nous voilà dans le Human Cloud que décrit Gavin Mueller dans Breaking things at Work ou David Weil dans The Fissured Workplace. 

Coincés dans les profits !

Les biens réelles abstractions de ces empires élastiques ont enfin été rendues possibles par la financiarisation sans précédent de cette nouvelle industrie. Tout l’enjeu de la privatisation d’internet, à tous les niveaux de la pile, demeure le profit, répète Tarnoff. La financiarisation de l’économie depuis les années 70 a elle aussi profité de cette industrialisation numérique… Reste que la maximisation des profits des empires élastiques semble ne plus suffire. Désormais, les entreprises de la tech sont devenues des véhicules pour la pure spéculation. La tech est l’un des rares centres de profit qui demeure dans des économies largement en berne. La tech est désormais le dernier archipel de super-profit dans un océan de stagnation. Pire, la privatisation jusqu’aux couches les plus hautes d’internet, a programmé la motivation du profit dans tous les recoins du réseau. De Comcast (fournisseur d’accès), à Facebook jusqu’à Uber, l’objectif est resté de faire de l’argent, même si cela se fait de manière très différente, ce qui implique des conséquences sociales très différentes également. Les fournisseurs d’accès vendent des accès à l’internet, au bénéfice des investisseurs et au détriment des infrastructures et de l’égalité d’accès. Dans les centres commerciaux en ligne comme Facebook, on vend la monétisation de l’activité des utilisateurs ainsi que l’appareillage techno-politique qui va avec… Dans Uber ou les plateformes du digital labor, on vend le travail lui-même au moins disant découpé en microtranches et micro-tâches… Mais tous ces éléments n’auraient pas été possibles hors d’internet. C’est la promesse d’innovation technologique qui persuade les autorités de permettre à ces entreprises à déroger aux règles communes, qui persuade les investisseurs qu’ils vont réaliser une martingale mirifique. Mais dans le fond, toutes restent des machines non démocratiques et des machines à produire des inégalités. Toutes redistribuent les risques de la même façon : « ils les poussent vers le bas, vers les plus faibles » (les utilisateurs comme les travailleurs) « et les répandent autour d’eux. Ils tirent les récompenses vers le haut et les concentrent en de moins en moins de mains ». 

Pourtant, rappelle Tarnoff, l’action collective a été le meilleur moyen pour réduire les risques, à l’image des régulations qu’ont obtenues dans le passé les chauffeurs de taxis… jusqu’à ce qu’Uber paupérise tout le monde. L’existence des chauffeurs est devenue plus précaire à mesure que la valorisation de l’entreprise s’est envolée. Le risque à terme est que la machine néolibérale programmée jusqu’au cœur même des systèmes, ubérise tout ce qui reste à ubériser, de l’agriculture à la santé, des services public à l’école jusqu’au développement logiciel lui-même. 

Pourtant, les centres commerciaux en ligne sont très gourmands en travail. Tous ont recours à une vaste force de travail invisible pour développer leurs logiciels, les maintenir, opérer les centres de données, labéliser les données… La sociologue Tressie McMillan Cottom parle d’« inclusion prédatrice » pour qualifier la dynamique de l’économie politique d’internet. C’est une logique, une organisation et une technique qui consiste à inclure les marginalisés selon des logiques extractives. C’est ce que montrait Safiya Umoja Noble dans Algorithms of oppression : les « filles noires » que l’on trouve dans une requête sur Google sont celles des sites pornos, les propositions publicitaires qui vous sont faites ne sont pas les mêmes selon votre niveau de revenu ou votre couleur de peau. Les plus exclus sont inclus, mais à la condition qu’ils absorbent les risques et renoncent aux moindres récompenses. L’oppression et les discriminations des espaces en ligne sont désormais le fait d’une boucle de rétroaction algorithmique qui ressasse nos stéréotypes pour ne plus s’en extraire, enfermant chacun dans les catégories que spécifie la machine. Nous sommes désormais pris dans une intrication, un enchevêtrement d’effets, d’amplification, de polarisation, dont nous ne savons plus comment sortir. 

Les inégalités restent cependant inséparables de la poursuite du profit pour le profit. La tech est devenue l’équivalent de l’industrie du Téflon. Pour l’instant, les critiques sont mises en quarantaine, limitées au monde de la recherche, à quelques activistes, à quelques médias indépendants. Le techlash a bien entrouvert combien la tech n’avait pas beaucoup de morale, ça n’empêche pas les scandales des brèches de données de succéder aux scandales des traitements iniques. Réformer l’internet pour l’instant consiste d’un côté à écrire de nouvelles réglementations pour limiter le pouvoir de ces monopoles. C’est le propos des New Brandeisians (faisant référence à l’avocat américain Louis Brandeis, grand réformateur américain) qui veulent rendre les marchés plus compétitifs en réduisant les monopoles des Gafams. Ces faiseurs de lois ont raison : les centres commerciaux en ligne ne sont pas assez régulés ! Reste qu’ils souhaitent toujours un internet régi par le marché, plus compétitif que concentré. Pourtant, comme le souligne Nick Srnicek, l’auteur de Capitalisme de plateforme, c’est la compétition, plus que la taille, qui nécessite toujours plus de données, de traitements, de profits… 

Pour Tarnoff, il y a une autre stratégie : la déprivatisation. « Que les marchés soient plus régulés ou plus compétitifs ne touchera pas le problème le plus profond qui est le marché lui-même. Les centres commerciaux en ligne sont conçus pour faire du profit et faire du profit est ce qui construit des machines à inégalités ».« L’exploitation des travailleurs à la tâche, le renforcement des oppressions sexistes ou racistes en ligne, l’amplification de la propagande d’extrême-droite… aucun de ces dommages sociaux n’existeraient s’ils n’étaient pas avant tout profitables. » Certes, on peut chercher à atténuer ces effets… Mais le risque est que nous soyons en train de faire comme nous l’avons fait avec l’industrie fossile, où les producteurs de charbon se mettent à la capture du CO2 plutôt que d’arrêter d’en brûler ! Pour Tarnoff, seule la déprivatisation ouvre la porte à un autre internet, tout comme les mouvements abolitionnistes et pour les droits civiques ont changé la donne en adressant finalement le coeur du problème et pas seulement ses effets (comme aujourd’hui, les mouvements pour l’abolition de la police ou de la prison).

Mais cette déprivatisation, pour l’instant, nous ne savons même pas à quoi elle ressemble. Nous commençons à savoir ce qu’il advient après la fermeture des centres commerciaux (les Etats-Unis en ont fermé beaucoup) : ils sont envahis par les oiseaux et les mauvaises herbes ! Sur l’internet, bien souvent, les noms de domaines abandonnés sont valorisés par des usines à spam ! Si nous savons que les réseaux communautaires peuvent supplanter les réseaux privés en bas de couche technologique, nous avons peu d’expérience des alternatives qui peuvent se construire en haut des couches réseaux. 

Nous avons besoin d’expérimenter l’alternet !

Nous avons besoin d’expérimenter. L’enjeu, n’est pas de remplacer chaque centre commercial en ligne par son équivalent déprivatisé, comme de remplacer FB ou Twitter par leur clone placé sous contrôle public ou coopératif et attendre des résultats différents. Cela nécessite aussi des architectures différentes. Cela nécessite d’assembler des constellations de stratégies et d’institutions alternatives, comme le dit Angela Davis quand elle s’oppose à la prison et à la police. Pour Tarnoff, nous avons besoin de construire une constellation d’alternatives. Nous devons arrêter de croire que la technologie doit être apportée aux gens, plutôt que quelque chose que nous devons faire ensemble.

Comme le dit Ethan Zuckerman dans sa vibrante défense d’infrastructures publiques numériques, ces alternatives doivent être plurielles dans leurs formes comme dans leurs buts, comme nous avons des salles de sports, des bibliothèques ou des églises pour construire l’espace public dans sa diversité. Nous avons besoin d’une décentralisation, non seulement pour combattre la concentration, mais aussi pour élargir la diversité et plus encore pour rendre possible d’innombrables niveaux de participation et donc d’innombrables degrés de démocratie. Comme Zuckerman ou Michael Kwet qui milite pour un « socialisme numérique »  avant lui, Tarnoff évoque les logiciels libres, open source, les instances distribuées, l’interopérabilité…, comme autant de leviers à cet alternumérisme. Il évoque aussi une programmation publique, un cloud public comme nous avons finalement des médias publics ou des bibliothèques. On pourrait même imaginer, à défaut de construire des capacités souveraines, d’exiger d’Amazon de donner une portion de ses capacités de traitements, à défaut de les nationaliser. Nous avons besoin d’un secteur déprivatisé plus gros, plus fort, plus puissant. 

C’est oublier pourtant que ces idées (nationaliser l’internet ou Google hier, AWS demain…) ont déjà été émises et oubliées. Déconsidérées en tout cas. Tarnoff oublie un peu de se demander pourquoi elles n’ont pas été mises en œuvre, pourquoi elles n’ont pas accroché. Qu’est-ce qui manque au changement pour qu’il ait lieu ?, semble la question rarement posée. Pour ma part, pourtant, il me semble que ce qui a fait la différence entre l’essor phénoménal de l’internet marchand et la marginalité des alternatives, c’est assurément l’argent. Même si on peut se réjouir de la naissance de quelques coopératives, à l’image de Up&Go, CoopCycle ou nombre de plateformes coopératives, les niveaux d’investissements des uns ne sont pas les niveaux d’investissements des autres. Le recul des politiques publiques à investir dans des infrastructures publiques, on le voit, tient bien plus d’une déprise que d’une renaissance. Bien sûr, on peut, avec lui, espérer que les données soient gérées collectivement, par ceux qui les produisent. Qu’elles demeurent au plus près des usagers et de ceux qui les coproduisent avec eux, comme le prônent les principes du féminisme de données et que défendent nombre de collectifs politisés (à l’image d’InterHop), s’opposant à une fluidification des données sans limites où l’ouverture sert bien trop ceux qui ont les moyens d’en tirer parti, et plus encore, profite à ceux qui veulent les exploiter pour y puiser de nouveaux gains d’efficacité dans des systèmes produits pour aller à l’encontre des gens. Pour démocratiser la conception et le développement des technologies, il faut créer des processus participatifs puissants, embarqués et embarquants. « Rien pour nous sans nous », disent les associations de handicapés, reprises par le mouvement du Design Justice.

« Écrire un nouveau logiciel est relativement simple. Créer des alternatives soutenables et capables de passer à l’échelle est bien plus difficile », conclut Tarnoff. L’histoire nous apprend que les Télécoms ont mené d’intenses campagnes pour limiter le pouvoir des réseaux communautaires, comme le pointait à son tour Cory Doctorow, en soulignant que, du recul de la neutralité du net à l’interdiction des réseaux haut débit municipaux aux US (oui, tous les Etats ne les autorisent pas, du fait de l’intense lobbying des fournisseurs d’accès privés !), les oppositions comme les régulateurs trop faibles se font dévorer par les marchés ! Et il y a fort à parier que les grands acteurs de l’internet mènent le même type de campagne à l’encontre de tout ce qui pourra les déstabiliser demain. Mais ne nous y trompons pas, souligne Tarnoff, l’offensive à venir n’est pas technique, elle est politique !

« Pour reconstruire l’internet, nous allons devoir reconstruire tout le reste ». Et de rappeler que les Luddites n’ont pas tant chercher à mener un combat d’arrière garde que d’utiliser leurs valeurs pour construire une modernité différente. Le fait qu’ils n’y soient pas parvenus doit nous inquiéter. La déprivatisation à venir doit être tout aussi inventive que l’a été la privatisation à laquelle nous avons assisté. Nous avons besoin d’un monde où les marchés comptent moins, sont moins présents qu’ils ne sont… Et ils sont certainement encore plus pesants et plus puissants avec le net que sans !

***

Tarnoff nous invite à nous défaire de la privatisation comme d’une solution alors qu’elle tient du principal problème auquel nous sommes confrontés. Derrière toute privatisation, il y a bien une priva(tisa)tion, quelque chose qui nous est enlevé, dont l’accès et l’enjeu nous est soufflé, retranché, dénié. Derrière l’industrialisation numérique, il y a une privatisation massive rappelions-nous il y a peu. Dans le numérique public même, aux mains des cabinets de conseils, l’État est plus minimal que jamais ! Même aux États-Unis, où l’État est encore plus croupion, les grandes agences vendent l’internet public à des services privés qui renforcent l’automatisation des inégalités. 

Malgré la qualité de la synthèse que livre Ben Tarnoff dans son essai, nous semblons au final tourner en rond. Sans investissements massifs et orientés vers le bien public plutôt que le profit, sans projets radicaux et leurs constellations d’alternatives, nous ne construirons ni l’internet de demain, ni un monde, et encore moins un monde capable d’affronter les ravages climatiques et les dissolutions sociales à venir. L’enjeu désormais semble bien plus de parvenir à récupérer les milliards accaparés par quelques-uns qu’autre chose ! Si nous avons certes besoin de constellations d’alternatives, il nous faut aussi saisir que ces constellations d’alternatives en sont rarement, en tout cas, que beaucoup ne sont que des projets politiques libéraux et qu’elles obscurcissent la nécessité d’alternatives qui le soient. Le secteur marchand produit nombre d’alternatives mais qui demeurent pour l’essentiel des formes de marchandisation, sans s’en extraire, à l’image de son instrumentation de la tech for good, qui conduit finalement à paupériser et vider de son sens la solidarité elle-même. Comme il le dit dans une interview pour The Verge, nous avons besoin de politiques et de mobilisations sur les enjeux numériques, pas seulement d’alternatives, au risque qu’elles n’en soient pas vraiment ! La constellation d’alternatives peut vite tourner au techwashing.  

Il manque à l’essai de Ben Tarnoff quelques lignes sur comment réaliser une nécessaire désindustrialisation du numérique (est-elle possible et comment ?), sur la nécessité d’une définanciarisation, d’une démarchandisation, d’une déséconomisation, voire d’un définancement de la tech, et donc pointer la nécessité d’autres modèles, comme l’investissement démocratique qu’explorait récemment Michael McCarthy dans Noema Mag. Et même ce changement d’orientation de nos investissements risque d’être difficile, les moyens d’influence et de lobbying des uns n’étant pas au niveau de ceux des autres, comme s’en désolent les associations de défense des droits américaines. C’est-à-dire, comme nous y invitait dans la conclusion de son dernier livre le sociologue Denis Colombi, Pourquoi sommes-nous capitalistes (malgré nous) ?, à comment rebrancher nos choix d’investissements non pas sur la base des profits financiers qu’ils génèrent, mais sur ce qu’ils produisent pour la collectivité. C’est un sujet que les spécialistes de la tech ne maîtrisent pas, certes. Mais tant qu’on demandera à la tech de produire les meilleurs rendements du marché pour les actionnaires (15% à minima !), elle restera le bras armé du capital. Pour reconstruire l’internet, il faut commencer par reconstruire tout le reste ! 

Hubert Guillaud

A propos du livre de Ben Tarnoff, Internet for the people, the fight for our digital future, Verso, 2022. Cet article est paru originellement en deux partie en juin 2022 sur le site Le vent se lève.

De prime abord, à en croire son titre – Persistance du merveilleux : le petit peuple de nos machines (Premier Parallèle, 2024) – le nouveau livre du sociologue et anthropologue Nicolas Nova promet une exploration enchantée de nos machines. On s’attend à lire des récits curieux de nos rapports à nos machines, une balade savante à la manière des encyclopédies de l’elficologue Pierre Dubois, pour nous présenter on ne sait quelle magie qui peuplerait nos machines, pour nous proposer une improbable typologie, comme il le faisait dans Smartphones (2020), capable de jouer du décalage entre nos activités numériques ordinaires et les symboles dont nos rapports médiatisés sont chargés. On s’attendrait à une forme de complément ou de de contre-point au sombre Bestiaire de l’anthropocène que le prolifique chercheur a publié l’année dernière (avec le collectif Disnovation – et qui vient d’ailleurs de paraître en français) cet atlas de créatures étranges, hybrides, allant des chiens-robots au gazon artificiel, qui interrogeait le monde post-naturel dans lequel nous vivons. Il n’en est rien. Persistance du merveilleux est un titre trompeur ou un chemin de traverse. Il n’y a aucune bonne fée, aucun lutin gentil dans nos machines, bien peu d’enchantement finalement. Aucune féérie. Nicolas Nova s’intéresse surtout aux monstruosités qui naissent de nos machines et des rapports que nous avons avec elles. Persistance du merveilleux tient bien plus d’une tératologie machinique que d’une légende dorée. 

Ménagerie numérique

La ménagerie numérique que le chercheur convoque tient beaucoup de la rencontre entre deux fonctionnements différents : celui des machines et celui des utilisateurs. Comme si l’étrangeté du comportement de nos machines produisait nécessairement de la friction. Comme si l’utilisateur était toujours renvoyé à une relation conflictuelle avec des systèmes qu’il ne maîtrise pas, qui ne se comportent pas dans une langue ou une grammaire qu’il peut vraiment comprendre. 

Dans la typologie de notre rapport compliqué aux machines qu’il tente de dresser, l’anthropologue distingue d’abord, les « démons », ces petits programmes qui effectuent les tâches nécessaires au bon fonctionnement de nos outils et qui se rendent visibles dès qu’ils dysfonctionnent. Ces programmes qui roulent en tâche de fond, qui assurent des mises à jour, qui détectent ce qui doit l’être… Des programmes souvent rudimentaires, dont nous n’avons pas conscience, qui agissent sans qu’on ait besoin de les lancer, comme autant de concierges qui feraient très bien leur métier… jusqu’à ce que ce ne soit plus le cas. Car la ménagerie numérique, à l’image du bug, se révèle surtout quand elle ne fonctionne pas telle qu’elle le devrait, quand elle n’agit plus de manière coordonnée, telle qu’elle a été programmée. Comme si ce bestiaire de monstres naissait de notre interprétation lacunaire des défaillances de la programmation. C’est pourtant quand les programmes défaillent que les monstres se libèrent, qu’ils se révèlent pour ce qu’ils sont : des programmes simplistes, intrusifs et infantilisants, des programmes qui relèvent leurs comportements excessifs, à l’image de l’infernal Clippy de Microsoft. C’est la manière même dont ces programmes sont programmés qui nous tourmente. C’est parce qu’ils ont un comportement très différent du nôtre qu’ils nous harcèlent, nous obsèdent, nous persécutent. 

D’autres créatures nous tourmentent encore. Nova distingue par exemple les fantômes, des choses qui s’enregistrent et qui subsistent, qui réapparaissent à l’occasion, comme des « traces agissantes », à l’image d’appels en provenance d’individus décédés, d’enregistrements de joueurs dans un jeu, de personnages non joueurs aux comportements erratiques, de fichiers qui réapparaissent alors qu’on les a effacés… Nova rappelle le caractère spectrale des premières machines à communiquer comme la radio ou le téléphone. Grésillements, écrans qui se figent, comportements irréguliers… Ici, c’est aussi nous, utilisateurs, qui faisons apparaître ces fantômes, qui créons des légendes qui se propagent comme pour donner une épaisseur qui les dépasse à nos technologies, comme pour révéler le mystère qui les entoure, le personnifier, l’incarner, donner de l’épaisseur à notre relation aux machines. Là encore, ces traces que nous ne maîtrisons pas soulignent le « caractère envahissant lié à la complexité de nos artefacts », qu’il nous faut interpréter, auquel nous sommes sommés de donner sens.

Une autre catégorie du bestiaire est celle des virus, malware et autres trolls, à savoir les créatures numériques qui ne naissent pas tant des machines ou de notre rapport avec elles que des comportements des autres utilisateurs, eux-mêmes parfois malfaisants, et dont la malfaisance passe désormais par les machines pour nous toucher. Alors que ces attaques sont souvent volontaires, c’est la fatalité qui est ici souvent convoquée. Le virus comme le troll nous replacent dans une relation subie avec nos machines, face auxquelles nous ne pourrions nous immuniser. Nous sommes confrontés à des attaques inévitables, face auxquelles nous ne pouvons être que désarmés, à l’image du troll, celui qui vient perturber les discussions, mais dont on ne peut endiguer la présence. Ou encore bien sûr, le bug, le pur dysfonctionnement. 

Enfin, l’anthropologue distingue encore toute une série d’espèces compagnes, avec lesquelles nous apprenons à interagir ou faire semblant, comme les Personnages non joueurs des jeux vidéo ou les agents conversationnels avec qui nous devons interagir, malgré leurs limites à s’exprimer. Là encore, nous tissons des relations avec des programmes, avec des êtres qui produisent « des effets de personnes », avec lesquelles nous devons créer des sociabilités nouvelles, mi-machiniques mi-humaines. Machines parlantes. Machines qui semblent avoir des comportements humains ou plutôt qui nous le font croire. Simulateurs de relations. L’anthropologue parle assez justement d’une « avatarisation généralisée » (l’expression est d’Etienne Amato et Etienne Perény) où tout semble anthropomorphisé pour mieux nous subvertir, pour mieux jouer de notre propre état mental et émotionnel. C’est parfois nous-mêmes qui nous incarnons à l’écran, entre substitution et sublimation, comme disait Antonio Casilli. Cernés par des « compagnons programmés » qui déploient un pouvoir de suggestion et d’immersion, souvent imparfaits, mais qui nous submergent parce qu’ils parviennent, malgré leur caractère frustre, à singer nos modes relationnels et à susciter en nous des émotions. Les PNJ avec lesquels nous interagissons facilitent notre investissement affectif. C’est nous qui sommes joués de ces outils souvent simplistes. C’est nous qui sommes hallucinés, c’est nous qui croyons en leurs effets, qui sommes bluffés affectivement, manipulés. Comme si les PNJ finalement étaient le grand-père des IA génératives avec lesquelles nous discutons, ancêtres de relations sociales sans société, simulées. Des relations avatarisées et scriptées, appauvries oui, car créées pour nous duper. Avec le risque que ces modalités « appauvrissent les situations relationnelles ou les rendent plus homogènes », qu’elles produisent une forme commerciale des relations affectives : des monstres relationnels. C’est avec cette dernière catégorie des montres de l’IA que se clôt le bestiaire moderne de Nicolas Nova. Des IA conversationnelles (les perroquets) au maximiseur de trombones, nous sommes confrontés à des êtres difficiles à appréhender. Nous avons du mal à comprendre leur puissance comme leurs limites. C’est nous mêmes qui semblons perdus, désarçonnés par ces entités « gargantuesques » que peuvent être ChatGPT et ses clones. Les IA incarnent de nouveaux monstres, encore plus étranges que tous ceux qui peuplent déjà cette vallée de l’étrange, encore plus étranges que leurs productions mêmes, que ce soit ces images si brillantes et si moyennes que ces textes, si écrits et si vides. 

Persistance du monstrueux

Comme toujours avec les textes de Nicolas Nova, il faut se préparer à être décalé, à devoir prendre la tangente. L’anthropologue s’amuse autant des mèmes qui renforcent son bestiaire, que des petites histoires des utilisateurs qu’il mêle à une archéologie étymologique qui montre que les noms des créatures magiques, eux aussi, tiennent bien moins d’une longue lignée du merveilleux que de réinventions. Nova souligne très bien la dimension narrative forte de ce bestiaire, de ses effets, de leurs enjeux, construisant des imaginaires fonctionnels, qui nécessitent de prendre des mesures adaptées comme de s’en protéger. Tout ce bestiaire révèle surtout la plaie que représente encore l’informatique pour l’utilisateur. Ces monstres finalement sont autant de marqueurs du fait que l’utilisateur ne maîtrise pas le processus qu’il utilise, que celui-ci le dépasse, que la machine le dépasse. Finalement, l’intentionnalité qu’on prête aux machines est surtout le reflet de notre dépossession. Nova ne décrit pas tant un monde merveilleux, qu’une inquiétude sourde, un monde avec lequel nous sommes peu ou prou en conflit, comme si la complexité nous submergeait toujours. « Sans diminuer l’importance de toutes ces menaces, il semble néanmoins important de constater que la difficulté à comprendre et expliquer le mode opératoire de toute cette ménagerie ainsi que le degré de sophistication technique générale dans lequel elles opèrent contribuent à les nimber d’une aura légendaire ». 

Pour Nova, ces récits fonctionnent comme des avertissements sur nos limites à comprendre les machines comme sur ce qu’elles font vraiment. Leurs manifestations signalent d’abord le désordre, nous montrent que ce monde ne marche pas si bien. Dans son petit livre, Nicolas Nova dresse bien surtout une tératologie des machines qu’il nous faut affronter pour être humains. Prouver que l’on est humain, n’est pas qu’une case à cocher sur un captcha, c’est désormais apprendre à interagir avec ces entités, apprendre à vivre avec ce folklore que nous avons participé à bâtir. Très justement, il conclut en pointant que ce bestiaire n’est pas tant une survivance d’un folklore que sa réappropriation pour nous aider comprendre des modes de relations nouveaux avec des entités qui ne sont pas humaines. Comme si nous avions à construire une diplomatie nouvelle avec nos machines, comme dirait le philosophe Baptiste Morizot. Sauf qu’ici, nous ne sommes pas beaucoup maîtres des règles relationnelles, mais nous devons apprendre à construire cette géopolitique des relations. Nous sommes plongés dans un milieu où ne se déploient pas que des êtres imaginaires d’ailleurs, mais avec eux, des relations, des comportements, des politiques, des logiques idéologiques qu’ils incarnent et orientent. Nova le dit. Ces métaphores monstrueuses ne sont pas que la marque d’une méconnaissance ou d’une persistance d’un imaginaire (le cheval de Troie n’a pas grand chose à voir avec l’histoire d’Homère), mais bien le reflet d’une « relation asymétrique entre concepteurs et utilisateurs ». Le bestiaire auquel nous sommes confrontés tient bien plus d’un portrait de Dorian Gray que du petit peuple des bois. Il est l’envers de la magie dont se pare trop souvent la technologie. Nos métaphores « structurent ce que nous percevons ». Elles embarquent avec elles « un point de vue sur le monde ». Cette ménagerie de monstres ne révèle rien d’autre finalement que l’assujettissement où nous tiennent ceux qui produisent les machines. Nos monstres sont les leurs que nous tentons de dompter et d’apprivoiser.