Pour Aeon, les sociologues Marion Fourcade et Kieran Healy, identifient un intéressant paradoxe, celui de l’authenticité. Dans leur livre, The Ordinal Society (Harvard University Press, 2024, voir notre critique), ils identifiaient déjà plusieurs paradoxes de la numérisation de nos sociétés, comme celui de la standardisation ou de l’individualisation. 

Dans la société ordinale (une société du score, comme le disaient déjà Daniele Citron et Frank Pasquale), rappellent-ils, tout est ordonné, classé, trié pour être apparié. « C’est grâce à leur capacité à observer, juger et gérer les individus dans différents contextes sociaux que les ordinateurs exercent leur influence la plus significative sur la société. Partout, la logique bureaucratique des organisations fusionne avec la logique calculatoire des machines. Partout les ordinateurs produisent des scores qui créent des différences, définissent des priorités, organisent les files d’attente et constituent une base d’action extrêmement utile et puissante. Ils instaurent l’ordre en catégorisant les personnes, les choses et les idées, puis en les associant entre elles, à des positions sociales, à des biens, des services et des prix. »

« Les schémas qui en résultent constituent ce que nous appelons structure sociale – une sorte de société ordinale où les données générées par ordinateur servent de repères pour nos choix. Dans le domaine économique, par exemple, ces méthodes contribuent à fixer les salaires et les horaires de travail. Elles calculent les loyers, le prix des assurances et déterminent l’admissibilité aux services sociaux. Elles facilitent de nouvelles formes de recherche de rente et accélèrent le développement de nouvelles classes d’actifs négociables sur les marchés financiers. Elles ont également modifié la relation entre les individus et les groupes qu’ils forment et auxquels ils appartiennent. Elles organisent la circulation de l’information, la distribution de l’influence sociale et les moyens de mobilisation politique. Notre capacité à tisser des liens sociaux significatifs et à agir collectivement s’en est trouvée profondément altérée. » L’ordonnancement algorithmique a une conséquence expliquent-ils : il transforme en retour notre perception de nous-même. Ce nouveau rapport semble libérer les personnes des affiliations sociales et les juger selon leurs qualités. « Il promet l’intégration aux exclus, la reconnaissance aux créatifs et une juste récompense aux entrepreneurs.» 

« Pourtant, cette promesse d’émancipation s’accomplit par des systèmes qui classent, trient et, surtout, hiérarchisent les individus avec une précision toujours plus grande et à une échelle auparavant inimaginable. L’ordre social qui en résulte est une sorte de paradoxe, caractérisé par des tensions constantes entre liberté individuelle et contrôle social, entre l’élan subjectif de l’authenticité intérieure et les forces objectives de la validation externe. Il donne naissance à une certaine manière d’être, à un nouveau type de soi, dont les expériences sont définies par la quête d’autonomie personnelle et l’attrait de la dépendance aux plateformes. » Derrière l’individualisation, la personnalisation du calcul, se cache en fait une catégorisation toujours plus élastique, granulaire. Comme nous le disions déjà il y a près de 10 ans, la personnalisation n’a rien de personnel : « les algorithmes ne cherchent pas à nous distinguer, mais à nous catégoriser. » Mais les effets de ces catégorisations, produites à la volée, inférées, recomposées ou profondes, sont bien réelles, tant d’un point de vue personnel que collectif. C’est ce que montrait par exemple la pertinente note de Melkom Boghossian pour la fondation Jean Jaurès quand il expliquait comment les algorithmes accentuent les clivages de genre. Mais, pour Marion Fourcade et Kieran Healy, les conséquences sont plus profondes encore, car ces catégorisations « exacerbent l’individualisme et la compétition interpersonnelle  à un point tel que notre capacité à tisser des liens sociaux significatifs et à agir collectivement s’en trouve profondément altérée ». Les sociologues parlent d’individualisme exacerbé. 

Polarisations identitaires

« Aux débuts d’Internet, être en ligne offrait certaines libertés. Non seulement l’anonymat ou le pseudonymat en ligne étaient courants, mais ils étaient célébrés comme une forme de libération. » Nous pouvions alors avoir plusieurs versions de nous-mêmes, plusieurs identités et naviguer dans leurs interstices, entre des profils qui ne communiquaient pas entre eux. « Vous bénéficiez d’une forme de confidentialité qui repose moins sur des protections juridiques explicites que sur les limitations techniques de systèmes connectés en théorie, mais non intégrés en pratique », votre profil de joueur ne communiquait pas avec votre profil sur tel ou tel forum. Un peu comme la séparation administrative, qui permettait aux Etats-Unis, aux immigrants sans papiers de payer leurs impôts en toute sécurité. « Cette séparation administrative délibérée permettait aux entreprises et aux gouvernements américains de tirer profit de la main-d’œuvre immigrée tout en créant un véritable sanctuaire où des millions de personnes pouvaient s’acquitter de leurs obligations fiscales (grâce à leur numéro d’identification fiscale individuel) sans craindre d’être expulsées. » 

Mais pour les sociologues, c’est là ce qui est en train de changer. Le Département de l’efficacité gouvernementale (Doge) a changé la donne et les informations fiscales sont désormais utilisées pour retrouver les sans-papiers. En fait, les espaces d’expression se réduisent quand d’innombrables agences utilisent les données des courtiers en données, ou quand les agences gouvernementales acquièrent le droit d’examiner les profils sur les réseaux sociaux. A mesure que les croisements de données sont rendues possibles entre institutions étatiques et privées, la surveillance devient non seulement omniprésente, mais surtout bien plus puissante. 

Mais plus encore que la possibilité d’identifiabilité, l’exploitation des profilages renvoie à chacun des questions sur son identité même. Qui sommes-nous vraiment ? Ne sommes-nous pas de plus en plus celle ou celui que nous renvoient l’exploitation de nos profils ? En exploitant notre soif de sociabilité et nos idéaux d’épanouissement personnel, les réseaux sociaux nous incitent à afficher nos convictions et à rallier des alliées pour les valider, dans une quête d’authenticité qui se retourne souvent contre ses auteurs. Dans un livre à paraître à l’automne sur les influenceurs (Gurus, Hucksters, Entertainers, Chicago university press, 2026), la sociologue Angèle Christin montre par exemple comment la nécessité de se distinguer peut conduire à la polarisation. « La dynamique des plateformes pousse les artistes du divertissement et les gourous à produire des contenus extrêmes et incendiaires pour maintenir l’engagement de l’audience, tandis que les marques et les spécialistes du marketing incitent les vendeurs à des prestations commerciales répétitives et convenues. Les inquiétudes concernant la manipulation algorithmique et les conflits entre créateurs engendrent par ailleurs des scandales nuisibles à la réputation, souvent marqués par le harcèlement. Angèle Christin révèle comment le travail sur ces plateformes favorise, de manière répétée et structurelle, la précarité et les inégalités, ainsi que les clashs destructeurs et la diffusion de contenus incendiaires en ligne. » 

Pour Fourcade et Healy, le piège de l’authenticité génère d’autres chausses-trappes encore. Ce que l’on y affiche devient la preuve de son identité. « Dans son ouvrage Ballad of the Bullet (Princeton university press, 2020), l’ethnographe Forrest Stuart a montré le décalage important entre les performances que les musiciens hip-hop de Chicago mettent en scène sur les réseaux sociaux et la réalité plus banale de leur vie. Les jeunes qui se donnent des airs de durs pour vendre leur musique sur YouTube risquent d’apprendre à leurs dépens que les forces de l’ordre et les juges ont tendance à interpréter ces signes au pied de la lettre, sans y voir les jeux de pouvoir et les affirmations identitaires dont ils surjouent. De même, le recours par l’administration Trump aux tatouages ​​comme preuve facilement mesurable et accessible d’appartenance à un gang transforme un marqueur souvent superficiel en un simple critère d’évaluation pour les expulsions. Dans un pays où le gouvernement s’arroge le droit d’instrumentaliser les opinions déclarées des citoyens dans les procédures d’immigration, l’effet est glaçant ». 

L’expressivité en ligne, renforcée par les contraintes algorithmiques, qui produisait des liens sociaux, s’apprête bien plus à générer des obstacles pour chacun d’entre nous.  

De l’authenticité à l’authentification

Les contenus génératifs viennent renforcer encore le phénomène en déstabilisant encore un peu plus l’authenticité, en floutant la distinction entre le vrai et le faux. « Tout cela a pour effet de déplacer l’accent de l’authenticité vers l’authentification, de la démonstration de la véracité de son identité vers la preuve de la véracité de son témoignage. La question n’est plus de savoir si les marqueurs d’identité sont authentiques (« Est-ce que ces données sont vraiment vous ? ») ni même sincère (« Qui êtes-vous vraiment ? »), mais si chaque élément de votre présence numérique est exempt de toute médiation artificielle (« Est-ce vraiment vous ? »). Ce nouveau régime d’authentification transforme les interactions, d’une série de performances à juger, en une succession d’actions à vérifier par des machines à chaque étape. Être légitime exige désormais d’être publiquement identifiable, authentique et, de plus en plus, pleinement authentifié. » 

« Ce qui a commencé comme une célébration de l’unicité individuelle, encourageant la production de preuves numériques, évolue vers un système de vérification complexe qui considère toute trace comme potentiellement suspecte. » Avec la circulation de fausses versions de nous-mêmes, nous risquons de nous retrouver pris dans un cycle sans fin de démonstration et de défense de notre existence, nous soumettant toujours davantage à un mécanisme de scepticisme institutionnalisé, venant renforcer (s’il en était besoin) la conviction administrative que chacun est coupable, fraudeur, bonimenteur… L’image que l’on donne de soi est à la fois perçue comme la réalité et comme un mensonge, nécessitant d’être toujours interrogée pour être utilisée à son encontre.  

De l’individualisation du savoir à la construction de croyances

« Ces crises politiques et techniques de l’authentification dépassent largement le cadre de l’individu. Avec l’avènement d’internet, le savoir s’est considérablement étendu et diversifié. Mais il est aussi devenu plus personnalisé et plus étriqué, car les internautes interagissent avec le web en s’appuyant sur leurs convictions personnelles et leurs conceptions de la réalité, et en les développant. L’arrivée de l’IA générative aggrave peut-être ce défi épistémique : quand tout doit être authentifié, mais que les contrefaçons sont de plus en plus sophistiquées, comment être sûr de quoi que ce soit ? » 

Nous vivons à l’ère de la désintermédiation du savoir. En un clic, nous pouvons consulter des documents juridiques originaux, télécharger de vastes ensembles de données, bénéficier de l’aide d’un assistant IA pour écrire le code nécessaire à leur analyse et rédiger rapidement les résultats. « Il ne faut pas sous-estimer à quel point cette transformation a été stupéfiante et incroyablement enrichissante à bien des égards. Malgré ses problèmes, si l’on demandait à un chercheur s’il reviendrait à un monde entièrement pré-numérique et pré-réseau pour le partage des connaissances, la communication académique et l’accès aux données, la réponse serait massivement « non ». Mais cette transformation du quotidien professionnel s’accompagne d’autre chose. La propension à la recherche est devenue, sans qu’on s’en rende compte, une seconde nature. » Aujourd’hui, « faire ses propres recherches » est plus qu’une simple habitude chez les universitaires. C’est un impératif moral, un devoir civique et, un peu comme être un bon conducteur, une compétence que chacun s’imagine posséder. Les individus capables d’explorer le réseau et d’interroger les bases de données de modèles de langage à grande échelle (LLM), et qui ont la confiance en eux et les moyens de diffuser leurs découvertes, tendent à devenir une source d’opinion faisant autorité. Du moins, c’est ainsi qu’ils le perçoivent. On comprend dès lors pourquoi les connaissances ainsi produites sont souvent si chargées d’émotion. Plus on s’investit dans la recherche et le développement de sa propre compréhension, plus cette quête de savoir prend de l’ampleur. »

« Le savoir se transforme en une forme de révélation personnelle, où chacun est à la fois celui qui cherche et celui qui interprète sa propre vérité ». « Ce qui a commencé comme un exercice de raisonnement autonome devient une question de croyance – une croyance défendue avec d’autant plus de ferveur qu’elle semble avoir été découverte par soi-même plutôt qu’imposée de l’extérieur. » Le problème est que cette quête individualisée de sens renforce la polarisation. « L’idée même de parvenir à un consensus largement partagé sur les faits semble de plus en plus hors de portée ». « En conséquence, les hiérarchies traditionnelles du savoir et les sources d’expertise sont contournées au profit de recherches algorithmiques autoguidées, qui génèrent une réponse précisément pertinente à une requête ou à une consigne, qu’il s’agisse d’une liste de liens ou d’un paragraphe de synthèse. Dans le meilleur des cas, cette pratique tend vers une forme d’idéal démocratique cher à John Dewey : elle semble revitaliser la production de savoir en tant qu’entreprise participative, animée par un esprit démocratique d’enquête ouverte et de recherche collective de la vérité. »… Tout en demeurant très individualisée et individualisante. C’est ce qu’espéraient beaucoup d’observateurs aux débuts du World Wide Web, y compris lors des premières vagues des réseaux sociaux, des blogs jusqu’à Twitter. Toutefois, dans le pire des cas, la diffusion du savoir finit par transiter par des plateformes qui personnalisent les résultats à grande échelle et favorisent l’engagement envers des contenus extrêmes ou trompeurs, car le sensationnalisme et la complaisance sont les moteurs des revenus publicitaires. 

Lorsque, en 2023, le gouvernement canadien a exigé des entreprises du numérique qu’elles rémunèrent les médias pour les liens renvoyant vers des actualités publiées sur leurs plateformes, Meta a tout simplement bloqué ces liens sur Facebook et Instagram. Le vide informationnel qui en a résulté a été rapidement comblé par des contenus non vérifiés et orientés à droite, ce qui a contribué à soutenir le candidat local de mouvance trumpiste. « Nous sommes désormais submergés d’exemples de plateformes technologiques usant de leur puissance de marché pour modeler les écosystèmes de l’information selon leurs impératifs commerciaux, au mépris des conséquences sociétales ». Google a révolutionné la recherche en traitant, de fait, les pages web comme un vaste réseau de réputation. L’autorité relative des sites était déterminée par une multitude de décisions indépendantes : celle de créer ou non un lien vers eux. Cependant, la volonté d’adapter les résultats aux préférences individuelles a été de plus en plus dictée par l’efficacité des titres accrocheurs (clickbait) ou du placement publicitaire. Il en a résulté une fragmentation des connaissances accessibles au public, désormais produites pour faciliter la manipulation du marché en confortant des croyances préexistantes. Si la perception de la recherche en ligne comme une forme de pensée critique et active a perduré, il peut s’avérer difficile, pour certains, de trouver des informations fiables. Cette situation rend d’autant plus ardue la construction d’une réalité partagée. Et l’idée même de parvenir à un consensus largement partagé sur les faits – quelle que soit leur teneur – semble s’éloigner toujours davantage. 

L’illusion de l’individu souverain : une identité centrée sur le soi

« C’est dans ces gouffres de la connaissance que se façonne le sentiment d’une identité centrée sur le « soi » nourri par la conviction que l’individu est l’unique source véritable de sa propre illumination ». La conjonction d’un égocentrisme épistémologique et de l’hyperconnectivité rend les individus perméables à des formes diffuses de construction de « super-sens » (pour reprendre une expression de Hannah Arendt). « En quête d’une vérité porteuse de sens, ils traquent des indices significatifs disséminés sur Internet, s’appuyant sur des algorithmes commerciaux et des systèmes de recommandation pour assembler des bribes d’information disparates en une vision du monde cohérente. Ce qui commence souvent comme une quête existentielle ludique peut aisément se cristalliser en croyances déformant la réalité » ; celles-ci prospèrent en favorisant l’émergence de nouveaux types sociaux et de regroupements politiquement influents. À son apogée, le mouvement QAnon a illustré l’interaction entre cette disposition à la quête de sens, les médiations numériques et le ciblage à but lucratif. Ses membres se percevaient comme des esprits critiques, seuls capables de mettre au jour des vérités cachées et de décrypter des indices complexes. Ils rejetaient avec véhémence l’idée d’appartenir à une secte, arguant – comme l’a expliqué l’un d’eux au chercheur Peter Forberg – qu’« aucune secte ne vous incite à penser par vous-même ». 

Le risque est fort que les grands modèles de langages (LLM) ne puissent résoudre le problème de la fiabilité des connaissances au sein d’une sphère publique fragmentée. « Tout comme les impératifs commerciaux ont engendré des contenus fallacieux et des bulles de filtres, les LLM seront probablement soumis aux mêmes pressions dans un contexte de rendement décroissant ». Les entreprises qui les entraînent ayant un besoin impérieux de rentabilité, les logiques commerciales classiques – telles que la personnalisation et la segmentation des services – risquent fort de s’imposer à nouveau, donnant lieu à des univers épistémiques sur mesure, générés par des modèles adaptés aux goûts et aux capacités financières de publics distincts. 

« En tant qu’individu, notre plus grande crainte culturelle est d’être englouti par la société de masse, tout comme votre plus grande crainte politique est celle d’une surveillance exercée par un État autoritaire ». Ces peurs sont toujours bien présentes. Toutefois, dans un monde saturé de catégories et d’identités, de nouveaux dilemmes surgissent, estiment les chercheurs.« Sur le plan individuel, tout – comportements publics, déclarations, mesures chiffrées – peut potentiellement devenir un facteur de différenciation et, par conséquent, une source d’identité. Du côté des organisations, les données générées par les utilisateurs conduisent à les regrouper ou à les segmenter selon des modalités de plus en plus spécifiques, éphémères et souvent incompréhensibles. Plus les classifications sociales (ou pseudo-sociales) se font précises, plus les occasions de distinctions et de jugements moraux se multiplient. La principale victime de cette évolution est la possibilité de nouer des alliances politiques stables et de grande envergure. Plus les citoyens sont traités individuellement comme des cibles d’interventions commerciales, plus la vie politique se fragmente. »

« Les méthodes traditionnelles de ciblage électoral partaient d’un message politique pour rechercher les individus susceptibles d’y adhérer. L’essor du big data inverse cette logique : on part des dispositions culturelles de l’électorat pour élaborer, en partant de la base, des messages qui résonnent avec ces attentes. »

Fourcade et Healy rappellent d’ailleurs que bien avant Cambridge Analytica, le Mouvement 5 étoiles (M5S) italien a sans doute été le pionnier de cette approche politique fondée sur les données, comme le raconte Giuliano da Empoli dans Les ingénieurs du chaos (2019). Tout a commencé en 2005, lorsque Gianroberto Casaleggio, spécialiste du marketing numérique féru de démocratie directe, a recruté l’humoriste et satiriste populaire Beppe Grillo pour lancer un blog éponyme, destiné à partager avec le public sa désillusion et son indignation politiques. Ce blog encourageait la participation citoyenne, permettant ainsi à Casaleggio – auquel a succédé son fils Davide après son décès en 2016 – de repérer les griefs et les propositions suscitant le plus d’écho grâce aux « j’aime », aux commentaires et aux retours des utilisateurs, tout en testant, adaptant et affinant le discours politique de Grillo. Il en a résulté la naissance du premier « parti algorithmique », dont l’idéologie chaotique a été façonnée à partir des enseignements tirés des données. Très vite, le peuple du blog a été invité à descendre dans la rue, soutenu par l’infrastructure des réseaux sociaux d’un autre outil numérique : l’application Meetup. En 2018, le M5S est devenu le premier parti d’Italie, contribuant à former un gouvernement de coalition de courte durée. Un petit groupe d’hommes ultra-riches a repris le contrôle de l’État en s’adressant directement aux masses. 

Les campagnes politiques modernes ont fait évoluer cette approche vers une forme plus sophistiquée et, sans doute, plus manipulatrice encore, soulignent les chercheurs. Les données issues des réseaux sociaux – concernant les pratiques culturelles, les émotions et les dispositions d’esprit sur une vaste gamme de sujets – permettent d’élaborer de nouveaux récits et de nouvelles esthétiques, de remodeler l’environnement informationnel et les liens sociaux des individus, et de susciter leur vote à des moments stratégiques. « L’objectif politique visé est généralement atteint grâce à une « architecture de persuasion » élaborée, reposant sur des messages personnalisés et une exposition répétée. Par exemple, les algorithmes publicitaires identifient des schémas d’actions efficaces (dons, « j’aime », achats, partages) et ciblent des utilisateurs similaires susceptibles de reproduire ces comportements ». Chaque itération exploite des données de réponse en temps réel pour dresser une cartographie toujours plus fine des cibles manipulables. « La mobilisation politique est, de fait, régie de manière cybernétique par des algorithmes. Sa logique opérationnelle émerge de constellations de variables difficiles à appréhender dans leur ensemble, conférant aux formations politiques qui en résultent un caractère émergent et ad hoc, relativement indépendant des instances de médiation traditionnelles telles que les partis politiques et les mouvements sociaux. L’affaiblissement de ces structures conventionnelles et la possibilité de personnaliser les messages politiques engendrent également des formes de domination sociale hautement individualisées. Les dirigeants populistes prospèrent grâce à l’idée qu’ils entretiennent un lien direct avec le public – bien que ce lien soit souvent entretenu par tout un écosystème, une « boucle de rétroaction de propagande » soigneusement élaborée. Les propriétaires de réseaux sociaux peuvent même imposer ce lien aux utilisateurs par le biais de manipulations algorithmiques servant leurs propres intérêts, comme l’auraient fait Elon Musk et Donald Trump sur leurs plateformes respectives. Grisés par l’idéal de l’« individu souverain », affranchi des frontières nationales, des normes sociales ou de la loi, quelques hommes ultra-riches ont réussi à reconquérir le pouvoir sur l’État et les élites traditionnelles en faisant appel directement aux masses et à la liberté du marché. » 

Trump lui-même semble s’être transformé en simple token, offrant son propre statut et sa réputation comme une opportunité d’investissement à ses abonnés enthousiastes… ironisent les chercheurs. Mais en réalité, pour la plupart d’entre nous, l’économie numérique exige de nous de travailler plus dur, même pour en tirer une célébrité rapide et en tirer profit. Les règles du jeu sont biaisées puisque nul ne maîtrise les catégories qui le propulsent ou l’invisibilisent, et l’argent, le temps et le capital social jouent un rôle majeur pour propulser certains individus au-dessus des autres. L’économie numérique repose de plus en plus sur la capacité à accéder et à payer des « accélérateurs algorithmiques » (publicité, comptes certifiés, cercle relationnel de personnes déjà visibles, affaiblissement des contenus pour booster leur viralité, usage des bots). L’essor du « personal branding » (la mise en scène de soi) témoigne en partie d’un désespoir, d’un écran de fumée idéologique masquant une réalité sociale bien plus sombre sur le terrain. 

« Alors que le déploiement des technologies numériques continue de générer des concentrations de richesse toujours plus stratosphériques, les masses s’enfoncent davantage dans le vide laissé par le démantèlement de la solidarité sociale et la montée de l’automatisation. Ce que l’on oublie souvent au sujet des « individus souverains », c’est que tout le monde ne peut pas en devenir un. »

C’est danah boyd qui l’explique. « Lorsque les professionnels utilisaient le terme « médias sociaux » pour décrire les outils internet apparus au milieu des années 2000, ils désignaient les plateformes et les protocoles permettant d’interagir avec ses amis et des communautés d’intérêt grâce aux technologies numériques. Vingt ans plus tard, les utilisateurs des médias sociaux passent bien plus de temps à faire défiler les publications qu’à en publier, et le contenu qu’ils consomment est souvent produit de manière stratégique et sélectionné par des algorithmes. Dans cet essai, je soutiens que l’essence même des médias sociaux a changé. Pour mieux comprendre ce à quoi nous assistons, il nous faut cesser de considérer ces outils comme des « médias sociaux » et commencer à les qualifier de « médias parasociaux ». »

Dans son court essai, danah boyd liste les innombrables noms avec lesquels nous avons longtemps valorisé les espaces de partages numériques, de l’informatique sociale au web 2.0 en passant par le contenu généré par les utilisateurs ou la culture participative et les communautés en ligne…  « Nous n’utilisions pas seulement les médias pour socialiser ; nous socialisions sur les médias, par les médias et en utilisant les médias. » Avant que ne s’imposent les termes de réseaux sociaux puis de médias sociaux…« Nombreux étaient ceux qui croyaient alors sincèrement que ces outils permettraient aux gens d’échanger de manière significative. »

« Il n’était pas inévitable que quelques entreprises créent un petit nombre de « plateformes » qui domineraient les diverses pratiques que l’on imaginait couvertes par l’expression « médias sociaux », mais c’est pourtant ce qui s’est produit. Lentement mais sûrement, la plupart des plateformes de médias sociaux ont périclité, tandis qu’une poignée d’entreprises/plateformes prenaient le dessus et utilisaient la technologie et les politiques publiques pour fidéliser leurs utilisateurs. Il n’était pas inévitable que les entreprises exploitent la notion de communauté et de sociabilité, mais elles l’ont fait. De même, il n’était pas inévitable que ces entreprises transforment ces plateformes en nouveaux canaux de consommation passive où seul un petit nombre d’utilisateurs contribue au contenu, mais c’est pourtant ce qui s’est produit », constate avec dépit la chercheuse. 

Pourtant, explique-t-elle, les pratiques qui définissent les médias sociaux en 2026 sont radicalement différentes de celles que nous tentions de documenter 20 ans plus tôt. « Le terme « social » dans « médias sociaux » est peu à peu devenu un abus de langage. En 2006, la plupart des personnes qui se connectaient aux grandes plateformes publiaient du contenu car elles co-construisaient des espaces sociaux pour profiter de la compagnie des autres. En 2026, la publication a diminué, le partage a disparu; la plupart des utilisateurs des médias sociaux privilégient le défilement de contenu « amateur » plutôt que de publier leurs propres mises à jour spontanées pour leurs amis. La qualité des contenus sur les médias sociaux est devenue plus stratégique, plus intentionnelle et plus professionnelle. Les utilisateurs ont désormais du mal à distinguer les contenus personnels publiés par leurs amis parmi les contenus créés par les annonceurs et l’industrie des influenceurs qui dominent les fils d’actualité. » Les sites sociaux sont devenus des plateformes publicitaires qui éloigne toujours plus la dimension sociale. Elles sont devenues des actifs, comme l’explique Cory Doctorow en parlant d’emmerdification, qui exploitent autant les utilisateurs que les annonceurs. 

« Aujourd’hui, les plateformes de médias sociaux ne sont plus axées sur les activités sociales. Au contraire, la plupart nous offrent un média de diffusion et nous incitent à apprendre à manipuler les algorithmes afin de créer, nous aussi, des actifs pour les grandes entreprises. Puisque la taille est valorisée dans cette économie de plateforme, nous sommes encouragés à nous mettre en scène pour rechercher la célébrité et l’attention. En théorie, nous pouvons toujours créer du contenu pour nos 15 amis, mais rien ne garantit qu’ils verront nos publications. Pour être vus, il faut faire des efforts. » Qu’importe si nous ne savons plus lesquels. 

Pour danah boyd, « nous vivons désormais dans un monde de médias parasociaux ». 

« Les relations parasociales sont des connexions unilatérales où l’on suit la vie et les activités de personnes – comme des célébrités – qui ne nous connaissent pas et pour lesquelles on ne ressent aucune obligation de réciprocité. Dans un monde parasocial, on consacre son attention et ses émotions au suivi des péripéties d’individus qui évoluent à distance. Les relations parasociales peuvent être intenses émotionnellement, mais elles ne créent pas le tissu social qui nous soutient dans les moments difficiles. »

Les plateformes sont devenues des espaces « hyper-contrôlées récompensant ceux qui parviennent à générer de larges audiences ou à créer des contenus à fort impact », contrôlés par les métriques d’engagements. « Les entreprises de médias sociaux modifient constamment leurs algorithmes pour inciter (et pénaliser) les créateurs à leur guise, cherchant toujours à encourager les utilisateurs à faire défiler davantage leur contenu, même s’ils publient moins. » Elles ont constaté que maintenir les utilisateurs en haleine est plus rentable que de les faire participer.

Ce passage des médias sociaux aux médias parasociaux est lourd de conséquences. Les médias sociaux ont fait naître de grands espoirs quant au potentiel des médias sociaux pour construire la solidarité, soutenir les mouvements politiques et connecter le monde. Mais ces pratiques ne sont plus dominantes, et de ce fait, leur signification même a changé. 

« Les relations parasociales sont trompeuses. S’adonner à ces connexions peut être agréable pour les utilisateurs, mais cela ne renforce pas le tissu social collectif. On peut se sentir seul malgré des heures passées à s’impliquer émotionnellement dans les drames d’autrui si ces interactions ne sont pas réciproques. Même ceux qui créent du contenu pour le monde parasocial peinent à s’y retrouver dans les formes d’intimité complexes qui y abondent. L’amitié exige réciprocité et compassion. Les médias parasociaux créent les conditions permettant aux individus de s’objectiver mutuellement à distance, comme des objets médiatisés, contribuant ainsi à mettre en lumière les différentes formes de toxicité que les chercheurs spécialisés dans les médias sociaux documentent. Ainsi, lorsque les gens choisissent de consacrer leur énergie à suivre la dernière star de TikTok ou à faire défiler du contenu au lieu de cultiver des relations interpersonnelles, ils s’épuisent en réalité à force de distraction. »

En 2006, nous imaginions un écosystème de médias sociaux qui privilégierait le renforcement des liens par le biais des médias plutôt que de remplacer ces liens par les médias. Chercheurs, décideurs politiques et experts continuent d’être préoccupés de trouver des solutions pour endiguer les comportements toxiques et antisociaux qui se manifestaient dans les espaces publics en ligne, oubliant que les médias sociaux ne servent plus à créer des liens sociaux. Pour cela, les gens utilisent plutôt des messageries qu’on n’appelle pas des médias sociaux, mais cela ne consiste pas à créer des espaces pour la sociabilité numérique. 

« Il est facile, avec le recul, de dire que nous étions naïfs, mais je ne pense pas que ce soit juste. Il n’était pas inévitable que les plateformes de médias sociaux deviennent le désastre qu’elles sont devenues. En revanche, je pense que nous avons commis une erreur en acceptant collectivement de qualifier ce phénomène de « médias sociaux ». Ce cadre linguistique a biaisé notre interprétation normative des pratiques sur ces plateformes. J’ai fini par accepter que les outils actuels ne correspondent pas à ce que beaucoup d’entre nous espéraient, mais je continue de m’interroger sur les termes que nous utilisons pour désigner ces plateformes. Je pense qu’il est temps d’abandonner l’appellation « médias sociaux » et de reconnaître que nous entrons dans l’ère des « médias parasociaux ». Je ne cherche pas à déplorer la disparition des interactions sociales en ligne (même si je ressens une certaine nostalgie). Je souhaite plutôt que la communauté scientifique s’interroge sur la manière dont nos discussions autour de la gouvernance, des inégalités et de la sociabilité doivent évoluer pour prendre en compte la transformation des médias sociaux en une catégorie entièrement nouvelle. En clair, ce type de médias sociaux est différent de celui qui a donné naissance à cette appellation. Nos outils d’analyse doivent donc évoluer en conséquence.»

La directrice de la recherche de Data & Society, Alice Marwick, dresse le même constat dans un article lui aussi emprunt de nostalgie et de recul critique. Même constat pour le chercheur Edward Ongweso Jr (notamment auteur de la lettre d’info The Tech Bubble) dans un article pour le magazine The Drift. « Les plateformes de médias sociaux ne produisent pas un public commun ; elles produisent des sous-publics concurrents, chacun avec sa propre conception du savoir collectif », écrit-il. Les entreprises ont utilisé le prestige démocratique pour légitimer la privatisation de nos communications. « Il serait trop facile – et faux – de conclure que les plateformes ne constituent pas un espace public. Les institutions restent tributaires de ce qui circule en ligne. Mais ce processus est structuré par des entreprises de publicité et de données qui surveillent les populations et les segmentent pour optimiser leur engagement. Selon le modèle de propagande que proposaient Edward Herman et Noam Chomsky dans La fabrique du consentement, la publicité fonctionnait comme un filtre disciplinaire, jouant un rôle clé dans les contraintes imposées à la délibération démocratique au sein de l’espace public. Mais avec la transition numérique, ce vieux filtre publicitaire s’est métamorphosé en quelque chose que Chomsky et Herman n’avaient pas anticipé. Là où la concentration des pouvoirs limitait autrefois la diversité des opinions acceptables à quelques dizaines de grands médias, le classement algorithmique et l’optimisation de l’engagement remplissent désormais la même fonction pour des milliards de flux individuels, ajustant le contenu vu par chaque utilisateur afin de maximiser le temps passé sur la plateforme plutôt que la citoyenneté éclairée. »

L’espace public, tel qu’il est, fonctionne pour ceux qui le contrôlent. L’IA menace d’engloutir ce qui reste de nos maigres communs épistémiques. « Les agents d’IA deviennent de nouveaux régulateurs, stimulant la consommation, surveillant les comportements, déterminant ce qui est diffusé et ce qui est résumé. La condition de John Dewey pour la formation du public – une infrastructure de communication permettant aux personnes concernées de se trouver – s’éloigne d’année en année. Il est tentant de suivre l’exemple de Dewey et de chercher des solutions : protocoles fédérés, alternatives décentralisées susceptibles de permettre l’émergence d’un espace public. Mais les configurations techniques ne sauraient se substituer à la politique. On ne peut construire un espace public si l’économie politique est conçue pour l’empêcher. » 

Le problème, constate le chercheur, c’est que nous y sommes coincés. On peut certes supprimer une application de médias sociaux, mais le marché du travail, le marché du logement, l’environnement informationnel, les institutions qui régissent notre vie sont tous façonnés par ces systèmes, que l’on les utilise directement ou non. « La vérité est plus dérangeante : c’est encore à ces niveaux que se déroule le discours. Les gens y restent car les alternatives n’existent pas à grande échelle – et l’échelle, même si l’on déteste ce mot et la manière dont il est employé par nos maîtres technologiques, est ce qui confère à un espace public son caractère public. Les oligarques qui contrôlent notre appareil numérique savent parfaitement à quoi il sert. Nous autres, nous nous complaisons dans une illusion qui compromet notre capacité à comprendre le présent et à tracer la voie à suivre. La foi de Dewey dans le potentiel des institutions qui considèrent le savoir démocratique non comme un problème à gérer, mais comme une capacité à cultiver, est plus difficile à défendre aujourd’hui. »

Contrôler plutôt qu’éduquer

Le gouvernement Français travaille à un projet de loi pour interdire les réseaux sociaux aux moins de 15 ans pour la rentrée 2026 [qui vient d’être considérablement mis à jour par le Conseil d’Etat puisque celui-ci propose que l’interdiction ne soit pas obligatoire et suggère d’enlever les sanctions pour les plateformes. La députée et rapporteuse du projet de loi a annoncé renoncer à son projet de couvre-feu numérique de 22 heures à 8 heures pour les 15-18 ans et à son délit de négligence numérique imputable aux parents, du fait des réserves du Conseil d’Etat. Une grande incertitude plane désormais sur le projet de loi, estime Le Monde]. La première mouture de ce projet de loi proposait d’abord le renforcement des mesures de vérification d’âge, et avec lui le contrôle plutôt que l’éducation, la coercition plutôt que la pédagogie, la répression plutôt que la responsabilisation. C’est ce que répète avec constance la professeure en sciences de l’information et de la communication Anne Cordier, co-autrice notamment de Faut-il interdire les réseaux sociaux aux jeunes ? (Usbek et Rica et Robert Laffont, 2025). « Les jeunes deviennent une population à contrôler plutôt qu’à éduquer ». « Interdire rassure, donne l’illusion que l’on agit ». « Enfants et écrans : refusons que la peur devienne le seul moteur de l’action publique ». Anne Cordier semble être la dernière boussole dans un monde en flamme, où tout le monde propose gaiement de criminaliser les comportements des plus jeunes en ligne. 

Même constat pour le juriste Eric Goldman qui qualifie les restrictions d’âge de mesures  « de ségrégation et de répression » : une politique qui punit la jeunesse plutôt que de responsabiliser les plateformes. On n’interdit pas aux enfants d’aller dans les aires de jeux, mais on attend de ces espaces qu’ils soient sûrs. La popularité croissante des interdictions des réseaux sociaux, des écrans, des téléphones… traduit un retour en force de valeurs conservatrices dans nos vies numériques. Internet est devenu un champ de bataille moral. Et il est probable que cela ne nous mène nulle part. 

Le téléphone ruine-t-il vraiment la vie des adolescents ?

Pour le New Yorker, la journaliste Molly Fisher s’interroge : le téléphone ruine-t-il vraiment la vie des adolescents ? C’est en tout cas le raccourci que partagent beaucoup de parents et d’adultes. « Un smartphone, équipé de TikTok et d’Instagram, contient dans un seul et même boîtier élégant un assortiment de forces qui pourraient rendre un adolescent malheureux : une dynamique sociale toxique, une image corporelle irréaliste, une incitation à une conscience de soi paralysante, voire une raison d’éviter des éléments fondamentaux du bien-être comme une bonne nuit de sommeil ». C’est oublier que l’emprise des téléphones n’est pas non plus génératrice de bien être pour les adultes, mais le consensus explicatif sur celui-ci est bipartisan, « il fait appel aussi bien au moralisme de droite qu’au sentiment anti-entreprise de gauche ». Si tout le monde déplore être dépendant au téléphone, cerner les détails du problème s’avère plus délicat. « Quels médias numériques sont mauvais, dans quelles circonstances et pour qui ? »

Pour répondre à la question, Fisher convoque un autre journaliste du New York Times, Matt Richtel, auteur de How we grow up : understanding adolescence (Comment nous grandissons : comprendre l’adolescence, Mariner, 2025, non traduit). Son livre s’inscrit dans une série de livres sur le rapport des jeunes aux écrans. Par exemple avec les travaux de Jean Twenge, professeure en psychologie à l’Université d’État de San Diego, auteure de Generation Me (2006) puis de iGen (2017, Génération Internet: Comment les écrans rendent nos ados immatures et déprimés, Mardaga, 2018). Ou plus récemment, le bestseller de Jonathan Haidt, Génération anxieuse (Les arènes, 2025). 

Haidt soutient qu’entre 2010 et 2015, un « recâblage » générationnel s’est opéré, sous l’effet de deux forces. La première était l’importance excessive accordée par les parents à la sécurité des enfants. La seconde était l’avènement des téléphones. Cette combinaison de « surprotection dans le monde réel et de sous-protection dans le monde virtuel » a entraîné un glissement d’une enfance « axée sur le jeu » vers une enfance « axée sur le téléphone », écrit-il, au détriment de la santé mentale des jeunes. 

Le succès de Haidt s’explique par sa prescription stricte et confiante, explique Fisher : « pas de smartphone avant le lycée, pas de réseaux sociaux avant seize ans, pas de téléphone à l’école, et davantage de jeux indépendants pendant l’enfance ». Ses conseils s’inspirent des travaux d’une ancienne journaliste, Lenore Skenazy qui a connu la notoriété en 2008 avec une chronique pour le New York Sun où elle expliquait laisser son enfant de 9 ans prendre seul le métro. Militante contre la parentalité hélicoptère, Haidt s’est associée à elle pour fonder Let Grow, une association qui milite pour une plus grande indépendance des enfants. 

Le livre de Haidt a suscité des critiques bien sûr, notamment quand il avance que les téléphones seraient la seule explication raisonnable du déclin marqué de la santé mentale des adolescents. Or, ce déclin n’est pas homogène, le taux de dépression des adolescents Sud-Coréens a lui diminué et aux Etats-Unis, les taux de suicides ont augmenté dans toutes les tranches d’âges et pas seulement pour les adolescents. Même la hausse des taux de dépression des adolescentes américaines qu’il constate ne s’explique pas uniquement par l’arrivée du smartphone. Le journaliste scientifique David Wallace-Wells a souligné que l’augmentation soudaine de la dépression chez les adolescentes coïncide aussi avec une évolution des pratiques de dépistage suite à l’Affordable Care Act, avec l’augmentation des dépistages annuels et une prise en charge par les assurances santé ainsi qu’une diminution du nombre d’adolescents sans assurance maladie. Autant de facteurs ayant contribué à l’augmentation des chiffres… sans pour autant modifier nécessairement la prévalence. 

Santé mentale : il est plus facile d’accuser le téléphone que la société

Pour le Times Educational Supplement, TES magazine, le journaliste Jon Severs fait le point sur les arguments de Haidt. Figure de proue des campagnes mondiales pour interdire l’accès aux téléphones des moins de 16 ans (en Australie, c’est visiblement la femme du premier ministre australien qui a lu le livre de Haidt et qui a conduit au déclenchement des hostilité. En France, Macron l’a visiblement rencontré, rappelait Mediapart dans son émission Accès libre), Haidt vend de la peur, estime Andrew Przybylski. Les effets des médias sociaux sur le bien-être des adolescents diffèrent beaucoup d’un adolescent à un autre. S’il y a bien une dégradation de la santé mentale des adolescents, nous ne sommes pas confrontés à un tsunami, même si nous sommes peut-être plus attentifs aux troubles de l’adolescence qu’on ne l’était dans le passé. Tamsin Ford, psychiatre de l’enfance et de l’adolescence britannique, estime que la corrélation qu’évoque Haidt entre les troubles mentaux et le fait que les adolescents aillent moins bien pourraient refléter l’impact sur un très petit groupe d’adolescents déjà vulnérables aux contenus extrêmes faisant l’apologie de l’automutilation ou de l’anorexie. Mais « ce sont généralement des jeunes déjà confrontés à de multiples difficultés. Dès lors, la question de la part de responsabilité des téléphones dans leurs difficultés se pose. » D’autres facteurs entrent en compte, explique encore Ford en observant les données britanniques, notamment la fermeture des centres de jeunesse et autres lieux sûrs pour les jeunes, la complexification et l’augmentation du coût de la vie, ainsi que l’évolution des mentalités et l’affaiblissement des liens communautaires. « L’un des facteurs les plus fortement et systématiquement associés à une mauvaise santé mentale est la pauvreté. Or, de plus en plus d’enfants vivent dans la pauvreté, et l’accès aux services sociaux a considérablement diminué… ce qui conduit à la diminution des interventions précoces permettant de limiter les troubles anxieux », explique-t-elle. « Imputer ce problème aux téléphones portables est non seulement totalement erroné, mais aussi dangereux, car cela ne tient pas compte d’autres facteurs essentiels. » Candice Odgers, professeure de psychologie et d’information dresse le même constat aux Etats-Unis. Anne Cordier également quand elle évoque les « vulnérabilités associées » : autrement dit, les usages problématiques des écrans et des réseaux sociaux tendent à amplifier des risques déjà présents, eux-mêmes liés aux fragilités personnelles des individus et au contexte social. 

Addiction ou distraction ? 

Dans son livre, Haidt estime que l’autre dommage que cause les téléphones, est l’altération de la capacité de concentration. Pour Haidt, selon les études qui quantifient l’usage problématique des réseaux sociaux, des jeux vidéo et des technologies, le nombre d’accros se situerait entre 5 et 15%. 

Pour David Ellis, professeur de science comportemental à l’université de Bath, la logique de l’addiction au smartphone est très fragile, ironise-t-il. En reprenant les chiffres qui évaluent l’addiction au téléphone « nous avons réussi à créer une échelle d’addiction à l’amitié qui a démontré que 80 % de notre échantillon étaient dépendants de leurs amis, ce qui est évidemment absurde. » La psychiatre, Nora Volkow, directrice de l’Institut national américain sur l’abus de drogues, rappelle qu’il n’y a pas de définition précise de la dépendance au téléphone. Pour elle, l’estimation des 5 ou 15% d’adolescents dépendants au téléphone n’est confirmée nulle part. Nous concluons bien trop vite à la dépendance, explique-t-elle. « Pour la plupart d’entre nous, nous ne sommes pas dépendants de nos téléphones, nous sommes simplement distraits par eux… La dépendance survient lorsque la perte de contrôle est telle qu’elle entraîne des conséquences pathologiques pour l’individu ». Pour elle, le problème n’est pas tant l’information numérique présentée par les réseaux sociaux, que l’information tout court, par exemple la façon dont les chaînes d’information présentent l’information de manière plus courte et plus divertissante. « La façon dont nous fournissons l’information est de plus en plus éphémère et très percutante pour capter notre système dopaminergique », explique Volkow. « On s’attend donc à ce que le stimulus suivant soit similaire, et lorsqu’il n’est pas accompagné de tous les artifices qui accompagnent certaines de ces informations, on est forcément beaucoup moins attentif. » Elle ajoute que l’avantage des informations plus courtes est que nous pouvons désormais traiter une quantité considérable de données, mais que ce traitement sera « moins approfondi »et le risque de désinformation plus élevé.

Concernant l’affirmation de Haidt selon laquelle les réseaux sociaux auraient causé des dommages « incalculables » à l’attention de la « majorité des personnes » nées après 1995 dans le monde occidental, Gaia Scerif, professeure de neurosciences cognitives du développement à l’Université d’Oxford et spécialiste du contrôle attentionnel, explique que la perception du pouvoir de distraction des réseaux sociaux et des smartphones est bien plus complexe que la simple question de l’âge. Le cortex préfrontal ne s’active pas « soudainement à 25 ans » et le contrôle attentionnel varie considérablement en fonction de facteurs génétiques et sociaux. « Pour certains, le coût d’un téléphone en termes de distraction sera énorme ; pour d’autres, il sera minime ; et pour d’autres encore, nul ». Ce qui est sûr, c’est que la technologie ne recâble pas le cerveau. Si pour Scerif et Volkow nos smartphones sont distrayants, ils ne sont qu’une distraction parmi bien d’autres, et d’abord les autres personnes : les gens qu’on admire comme nos proches. Notre attention est toujours sollicitée par d’innombrables stimulis. 

Concernant l’argument qu’avance Haidt selon lequel les dirigeants de la tech tiendraient leurs propres enfants éloignés des écrans, Margaret O’Mara, professeure d’histoire à l’Université de Washington et auteure de The Code : Silicon Valley and the Remaking of America (Penguin, 2020), affirme qu’il n’existe aucune preuve que la plupart des dirigeants des entreprises technologiques interdisent les écrans à leurs enfants (comme l’avait montré également Damien Leloup pour Le Monde). Quant à la baisse du niveau des élèves depuis 2012, elle est effective. Mais là encore, l’introduction des téléphones n’expliquent pas tout. Pour le spécialiste de l’éducation et de l’économie de l’éducation, Matthew Kraft, il faut aussi prendre en compte les réformes de l’école. Selon Pisa, les données montrent une stabilité des scores en mathématiques dans les pays participants entre 2003 et 2018. Si les trajectoires sont légèrement à la baisse en lecture et en sciences, les données globales ne montrent aucun effondrement… Et là encore, les causes sont polyfactorielles. 

La simplification de l’interdiction

Les solutions proposées par Haidt ont également été très critiquées, rappelle Jon Severs dans son article. Haidt souhaite que « les gouvernements imposent une vérification obligatoire de l’âge et relèvent l’âge de la majorité numérique de 13 à 16 ans. Cela contribuerait à instaurer de nouvelles « normes » : pas de smartphones avant 14 ans, pas de réseaux sociaux avant 16 ans, des écoles sans téléphone et une enfance davantage axée sur le jeu ».

Pour Volkow, c’est oublier que « les téléphones portables offrent de nombreux avantages aux jeunes. Il est donc important de réglementer les algorithmes utilisés, car ce sont eux qui ciblent les comportements compulsifs de certaines personnes. En les réglementant, on protège les utilisateurs.» Avoir un usage plus encadré des téléphones est pour beaucoup un bon levier, mais cela suppose d’avoir des programmes dédiés, pour les plus jeunes et ceux qui les accompagnent, notamment les parents. Pour Ford, les interdictions ne reposent sur « aucune preuve » et pourraient même être néfastes. Beaucoup de jeunes se soutiennent mutuellement pendant des moments très difficiles, grâce à leurs téléphones. 

C’est ce qu’expliquait le poignant témoignage d’Ezra Sholl, un jeune tétraplégique australien qui expliquait combien l’interdiction des réseaux sociaux allait l’isoler et combien ceux-ci lui ont permis de rester connecté aux jeunes de son âge. Sholl soulignait d’ailleursle contraste entre cette interdiction stricte et le fait que les signalements pour incitation à la haine ou harcèlement, restent, eux, sans effet. « Ce n’est pas mon comportement en ligne qui pose problème, et pourtant, ce sont des jeunes comme moi qui sont punis ». Même constat pour les jeunes transgenres ou à la sexualité non hétéronormée… 

« Haidt est assez incohérent sur ce point : il affirme que nous surprotégeons les enfants par ailleurs, que nous les empêchons de découvrir le monde et d’apprendre, mais concernant les réseaux sociaux et les téléphones, il propose de les interdire purement et simplement », déclare Tasmin Ford. 

Mais, le narratif de l’interdiction développé par Haidt a l’avantage d’être simple et de parler aux gens. Il a aussi l’avantage de proposer des solutions accessibles, même si radicales. Pour le dire autrement, il y aurait plein de raisons pour interdire TikTok ou nombre de réseaux sociaux problématiques comme X. L’interdiction a l’avantage de porter un coup d’arrêt. De dire que cela suffit. Mais ici, ce n’est pas aux entreprises que ces discours s’adressent. La vérification d’âge n’interdit pas TikTok ou X, n’exige pas de leur part de meilleures pratiques, mais interdit seulement l’accès à l’information aux plus jeunes. Il permet finalement d’abaisser les pratiques de surveillance et de modération des réseaux sociaux, et de rendre internet de moins en moins sûr pour tous les autres. L’interdiction aux mineurs fait reposer la responsabilité des plateformes sur le maillon le plus faible de la chaîne : les mineurs. Et ce sont eux dont on va criminaliser les comportements d’information s’ils contreviennent aux interdictions, pas les entreprises qui permettent à tous de consulter des contenus qui ne sont pas adaptés. Dans le principe de la vérification d’âge, celui sur lequel s’abat l’interdiction est celui qui en subit tous les coûts. 

Accepter le téléphone, c’est accepter de rompre le lien parent-enfant

Revenons à l’article du New Yorker. Dans ce débat, Richtel se positionne entre Haidt et les sceptiques. Plutôt que de remettre en question l’existence d’une crise de santé mentale chez les adolescents, Richtel cherche à la contextualiser. Selon lui, les téléphones ne constituent pas une explication unique, même s’ils constituent une préoccupation légitime. « Je ne pense pas qu’il soit nécessaire d’être biologiste évolutionniste ou anthropologue pour en saisir la logique fondamentale », écrit-il. « Passer dix heures par jour le visage figé devant un écran n’est pas bon pour le développement du cerveau. » 

Comme Twenge et Haidt avant lui, Richtel propose un nom pour les adolescents d’aujourd’hui : « Génération rumination ». Mais il situe leur tourment dans une réflexion sur l’adolescence comme une étape culturelle, sociologique et psychologique apparue au cours des derniers siècles. La détresse ressentie par les adolescents est, selon lui, une réponse raisonnable. Un monde dont les défis sont de plus en plus abstraits et intellectuels plutôt que physiques. « La génération rumination grandit dans le domaine de l’esprit et de la psyché », écrit-il. « Se demander pourquoi certains sont en difficulté, c’est comme se demander pourquoi certains adolescents d’autrefois se sont écorchés les genoux et se sont cassés les os en gravissant une montagne pour explorer de nouveaux territoires. » Parallèlement, l’adolescence elle-même a évolué avec le recul de la puberté. Depuis les années 1980, de plus en plus de recherches montrent que les filles, en particulier, commencent leur puberté beaucoup plus tôt que ce qui était autrefois considéré comme la norme, dès six ou sept ans parfois. Richtel soutient que cela signifie que les jeunes sont désormais bloqués plus longtemps que jamais dans un état de vulnérabilité accrue ; il décrit des études indiquant que le cerveau des adolescents est particulièrement attiré par la nouveauté et les informations sociales (en plus de la prise de risque et du manque de jugement pour lesquels ils sont traditionnellement connus), ce qui les expose particulièrement aux tentations du téléphone. « Changement d’environnement + changement de puberté = inadéquation neurologique », écrit-il. Richtel mêle ses recherches aux témoignages de plusieurs adolescents, qui illustrent les grandes lignes de sa théorie. « Je ne veux pas blâmer Internet, mais je veux le blâmer », confie à Richtel un jeune souffrant d’anxiété et de dépression. « J’ai l’impression que si j’étais né 2000 avant J.-C. dans les Alpes, je serais toujours dépressif, mais je pense que le climat actuel aggrave considérablement ce phénomène. »

Pour Richtel, le rapport des adolescents au téléphone est plus un drame culturel qu’autre chose. Derrière le discours de panique morale sur le rapport des adolescents aux téléphones, il faut lire la crainte que la technologie puisse rompre le lien parent-enfant. Mais n’est-ce pas justement ce que produit l’adolescence, qui transforme un enfant de 9 ans joyeux en un enfant obsédé par les écrans à 15 ans ? « À l’instar du débat actuel sur les enfants et le genre, le discours sur les adolescents et les téléphones exploite la crainte que votre enfant ne découvre de nouvelles idées, très probablement en ligne, et ne soit transformé de manière irréversible. » C’est pourtant bien ce que produit l’adolescence plus que le téléphone. Et c’est peut-être ce que refuse la vérification d’âge : que nos enfants grandissent et nous échappent en imposant l’autorité parentale alors même que, fort heureusement, elle se délite.  

Pour Fisher, les longues heures passées en ligne par les baby-boomers devraient faire écho aux pratiques des adolescents. Mais ce que font les plus âgés ne suscite pas la même fascination ou la même inquiétude que les adolescents, alors que leurs usages peuvent-être tout aussi problématiques (voir ce que nous en disions dans l’article « Le pic des médias sociaux est derrière nous… sauf pour les plus âgés » pour la lettre Café IA). 

Sortir de la répression ?

« Faute de pouvoir véritablement réguler les médias sociaux, les États semblent donc se rabattre sur une obstruction de ces derniers », expliquait le journaliste David-Julien Rahmil pour l’ADN. Alex Beattie, maître de conférences en médias et communication à l’université Victoria de Wellington, évoque un tournant culturel et moral qu’il compare à l’ère victorienne. Dans un article publié sur The Conversation, il explique qu’on profite de la panique morale liée au Web pour brosser un portrait caricatural des adolescents connectés. Spectateurs passifs, incapables de critiquer les contenus qu’ils ingurgitent, ou bien totalement accros au défilement des vidéos, les adolescents finiraient forcément avec des troubles mentaux liés à Internet.

En phase avec une société qui ne voit le monde que par la répression, la vérification d’âge ne propose, à terme, qu’une règle autoritaire et absurde. Comme le disait Anne Cordier : « Ce que je trouve frappant, c’est l’usage de termes profondément autoritaires et militarisés comme « couvre-feu numérique ». C’est clairement une mesure de contrôle de population utilisée en temps de guerre ou de crise. En transposant ce terme dans le champ éducatif ou familial, on installe un imaginaire de coercition et de peur.

Au fond, cela traduit une vision très infantilisante, très défiante même. On a l’impression que le numérique est un adversaire à neutraliser et que les jeunes doivent avant tout être contenus plutôt que compris. Je trouve inquiétante cette confusion entre régulation éducative et discipline répressive reposant sur la contrainte.»

« Ce n’est pas avec deux ou trois heures d’ateliers de sensibilisation aux fake news qu’on va régler le problème. Ce qu’il faut, ce sont de véritables démarches d’éducation aux médias, à l’information, à la culture numérique, dès le plus jeune âge, avec des professionnels dévolus au sujet et des vrais moyens.» Mais ce sont là des mesures coûteuses à mettre en œuvre. L’interdiction, elle, ne coûte rien en politiques publiques. La répression est bien moins chère. Qu’importe si elle nous conduit à faire de mauvaises politiques, comme disait Joseph Stieglitz.

Eric Goldman ne dit pas autre chose. « Il n’existe pas de solution miracle pour protéger les mineurs en ligne, et aucune mesure politique unique ne garantira miraculeusement la sécurité des enfants en ligne ». Comme le dit l’expression, il faut tout un village pour élever un enfant : pour aider les mineurs à rester en sécurité en ligne et s’y épanouir, la coopération et la coordination de nombreux acteurs est nécessaire, quand les lois de ségrégation des jeunes en ligne tentent de contraindre les éditeurs de contenus à résoudre un problème qui touche toute la société et pour laquelle aucune solution unique ne convient à tous, comme l’expliquait un rapport du Center for Democracy & Technology ou celui de l’OCDE. Les politiques de répression ont pour premier effet de laisser les mineurs mal préparés à leur avenir, estime pertinemment Goldman, qui propose plutôt d’accélérer sur la formation des enfants et des parents et de solutions bénéfiques à tous. Il invite également à améliorer l’élaboration des politiques publiques, notamment en invitant les enfants à y participer et à respecter le droit des mineurs à la parole.  

Interdire l’accès des adolescents aux espaces en ligne ne les rend pas plus en sécurité ; cela les maintient simplement dans l’ignorance et les préparant bien mal à la vie adulte, explique l’EFF. L’interdiction compromet la sécurité et l’autonomie en remplaçant l’encadrement parental par des obligations gouvernementales et en mettant en place une infrastructure de surveillance de masse au lieu de mécanismes de protection de la vie privée. Tout l’inverse de ce dont nous avons besoin. 

En Australie, les plus jeunes se sont déjà tournés vers d’autres applications que les 10 applications sociales interdites (à savoir Facebook, Instagram, Kick, Reddit, Snapchat, Threads, TikTok, Twitch, X et YouTube), rapporte The Guardian. Et le gouvernement australien a menacé certaines d’entre elles de les faire entrer dans la liste des applications interdites aux moins de 16 ans. Une chasse à la souris peut durer longtemps. « Il est fort probable que si les jeunes se tournent vers des plateformes moins réglementées, ils deviennent plus discrets sur leur utilisation des réseaux sociaux, car ils ne sont pas censés y être. Par conséquent, s’ils tombent sur des contenus préoccupants ou vivent des expériences néfastes en ligne, ils n’en parleront pas à leurs parents. » En fait, comme le montrent les premiers témoignages de parents, les jeunes n’ont pas quitté leur téléphone. Ils continuent à y passer leur soirées. Certes, pas toujours sur les réseaux sociaux, mais directement avec leurs amis. Un sondage d’ABC révélait que trois enfants sur quatre interrogés comptaient continuer à les utiliser, rapportait le New York Times. Mais à les écouter, les jeunes australiens ont l’air bien plus matures que leurs politiciens. Pour la plupart, ils ne pensent pas que la nouvelle loi australienne changera grand-chose à leur vie.

Hubert Guillaud

Notre dossier sur la vérification d’âge :

– Première partie : vers un internet de moins en moins sûr

– Deuxième partie : de l’impunité des géants à la criminalisation des usagers

– Troisième partie : la panique morale en roue libre

MAJ du 15/01/2026 : L’agence nationale de sécurité sanitaire de l’alimentation, de l’environnement et du travail (Anses) vient de publier une vaste étude sur les effets des réseaux sociaux et de l’IA sur les adolescents. Comme l’expliquent les coordinateurs de ce rapport en interview pour The Conversation : « l’Anses ne recommande pas d’interdire les réseaux sociaux, mais de revoir en profondeur leur conception de manière à ce qu’ils ne nuisent pas à la santé des adolescents et des adolescentes ».

MAJ du 16/01/2026 :  Des chercheurs de l’université de Manchester ont suivi 25 000 jeunes de 11 à 14 ans pendant trois années scolaires, analysant leurs habitudes déclarées sur les réseaux sociaux, leur fréquence de jeu et leurs difficultés émotionnelles afin de déterminer si l’utilisation des technologies permettait réellement de prédire des problèmes de santé mentale ultérieurs. L’étude n’a mis en évidence aucun lien, chez les garçons comme chez les filles, entre une utilisation plus intensive des réseaux sociaux ou une pratique plus fréquente des jeux vidéo et une augmentation des symptômes d’anxiété ou de dépression chez les adolescents au cours de l’année suivante. The Guardian.

MAJ du 20/01/2026 : Sur son blog, Jean-Lou Fourquet défend avec conviction la position australienne. « Ce que l’Australie a fait est plus ciblé (bien qu’imparfait) et beaucoup plus intelligent — et donc beaucoup plus dérangeant pour les plateformes : interdire aux mineurs d’avoir un compte, et donc empêcher leur profilage algorithmique. » « On ne supprime pas la liberté des mineurs d’aller sur Youtube, on supprime la capacité de YouTube de les connaître intimement à 13 ans. » Il aligne des arguments plutôt pertinents, même si ma synthèse est plus inquiète sur la dérive sécuritaire à l’égard des mineurs, notamment à la vue des recommandations de la commission TikTok, dont je parlais dans le 2e épisode.

Sur la plupart des réseaux sociaux vous avez déjà du tomber sur ces contenus génératifs, pas nécessairement des choses très évoluées, mais des contenus étranges, qui n’ont rien à dire, qui hésitent entre développement personnel creux, blague ratée ou contenu sexy. Des vidéos qui ânonnent des textes qui ne veulent rien dire. Les spécialistes parlent de slop, de contenus de remplissages, de résidus qui peu à peu envahissent les plateformes dans l’espoir de générer des revenus. A l’image des contenus philosophiques générés par l’IA que décortique en vidéo Monsieur Phi. 

IA slop : de la publicité générative à l’internet zombie

Pour l’instant, ces contenus semblent anecdotiques, peu vus et peu visibles, hormis quand l’un d’entre eux perce quelque part, et en entraîne d’autres dans son flux de recommandation, selon la logique autophagique des systèmes de recommandation. Pour l’analyste Ben Thompson, l’IA générative est un parfait moteur pour produire de la publicité – et ces slops sont-ils autre chose que des contenus à la recherche de revenus ? Comme le dit le philosophe Rob Horning : « le rêve de longue date d’une quantité infinie de publicités inondant le monde n’a jamais semblé aussi proche ». Pour Jason Koebler de 404 Media, qui a enquêté toute l’année sur l’origine de ce spam IA, celui-ci est profondément relié au modèle économique des réseaux sociaux qui rémunèrent selon l’audience que les créateurs réalisent, ce qui motive d’innombrables utilisateurs à chercher à en tirer profit. Koebler parle d’ailleurs d’internet zombie pour qualifier autant cette génération de contenu automatisée que les engagements tout aussi automatisés qu’elle génère. Désormais, ce ne sont d’ailleurs plus les contenus qui sont colonisés par ce spam, que les influenceurs eux-mêmes, notamment par le biais de mannequins en maillots de bains générés par l’IA. A terme, s’inquiète Koebler, les médias sociaux pourraient ne plus rien avoir de sociaux et devenir des espaces « où le contenu généré par l’IA éclipse celui des humains », d’autant que la visibilité de ces comptes se fait au détriment de ceux pilotés par des humains. Des sortes de régies publicitaires sous stéroïdes. Comme l’explique une créatrice de contenus adultes dont l’audience a chuté depuis l’explosion des mannequins artificiels : « je suis en concurrence avec quelque chose qui n’est pas naturel ».

Ces contenus qui sont en train de coloniser les réseaux sociaux n’ont pas l’air d’inquiéter les barons de la tech, pointait très récemment Koebler en rapportant les propose de Mark Zuckerberg. D’autant que ces contenus génératifs semblent produire ce qu’on attend d’eux. Meta a annoncé une augmentation de 8 % du temps passé sur Facebook et de 6 % du temps passé sur Instagram grâce aux contenus génératifs. 15 millions de publicités par mois sur les plateformes Meta utilisent déjà l’IA générative. Et Meta prévoit des outils pour démultiplier les utilisateurs synthétiques. Le slop a également envahi la plateforme de blogs Medium, explique Wired, mais ces contenus pour l’instant demeurent assez invisibles, notamment parce que la plateforme parvient à limiter leur portée. Un endiguement qui pourrait ne pas résister au temps. A terme, les contenus produits par les humains pourraient devenir de plus en plus difficile à trouver sur des plateformes submergées par l’IA.

On voudrait croire que les réseaux sociaux puissent finir par s’effondrer du désintérêt que ces contenus démultiplient. Il semble que ce soit l’inverse, l’internet zombie est en plein boom. Tant et si bien qu’on peut se demander, un an après le constat de l’effondrement de l’information, si nous ne sommes pas en train de voir apparaître l’effondrement de tout le reste ?

Les enjeux du remplissage par le vide

Dans sa newsletter personnelle, le chercheur et artiste Eryk Salvaggio revient à son tour sur le remplissage par l’IA, dans trois longs billets en tout point passionnants. Il souligne d’abord que ce remplissage sait parfaitement s’adapter aux algorithmes des médias sociaux. Sur Linked-in, les contenus rédigés par des LLM seraient déjà majoritaires. Même le moteur de recherche de Google valorise déjà les images et les textes générés par IA. Pour Salvaggio, avec l’IA générative toute information devient du bruit. Mais surtout, en se jouant parfaitement des filtres algorithmiques, celle-ci se révèle parfaitement efficace pour nous submerger.

Salvaggio propose d’abandonner l’idée de définir l’IA comme une technologie. Elle est devenue un projet idéologique, c’est-à-dire que « c’est une façon d’imaginer le monde qui devient un raccourci pour expliquer le monde ». Et elle est d’autant plus idéologique selon les endroits où elle se déploie, notamment quand c’est pour gérer des questions sociales ou culturelles. « L’optimisation de la capacité d’un système à affirmer son autorité est une promesse utopique brillante des technologies d’automatisation ». « L’un des aspects de l’IA en tant qu’idéologie est donc la stérilisation scientifique de la variété et de l’imprévisibilité au nom de comportements fiables et prévisibles. L’IA, pour cette raison, offre peu et nuit beaucoup au dynamisme des systèmes socioculturels ». Les gens participent à l’idéologie de l’IA en évangélisant ses produits, en diffusant ses résultats et en soutenant ses avancées pour s’identifier au groupe dominant qui l’a produit.

La production par l’IA de contenus de remplissage nécessite de se demander à qui profite ce remplissage abscons ? Pour Salvaggio, le remplissage est un symptôme qui émerge de l’infrastructure même de l’IA qui est elle-même le résultat de l’idéologie de l’IA. Pourquoi les médias algorithmiques récompensent-ils la circulation de ces contenus ? Des productions sensibles, virales, qui jouent de l’émotion sans égard pour la vérité. Les productions de remplissage permettent de produire un monde tel qu’il est imaginé. Elles permettent de contourner tout désir de comprendre le monde car elle nous offre la satisfaction immédiate d’avoir un « sentiment sur le monde ». « L’AI Slop est un signal vide et consommé passivement, un symptôme de « l’ère du bruit », dans lequel il y a tellement de « vérité » provenant de tant de positions que l’évaluation de la réalité semble sans espoir. »

Notre désorientation par le vide

Eryk Salvaggio se demande même si le but de l’IA n’est pas justement de produire ce remplissage. Un remplissage « équipé », « armé », qui permet d’essaimer quelque chose qui le dépasse, comme quand l’IA est utilisée pour inonder les réseaux de contenus sexuels pour mieux essaimer le regard masculin. Les productions de l’IA permettent de produire une perspective, un « regard en essaim » qui permet de manipuler les symboles, de les détourner. « Les images générées par l’IA offrent le pouvoir de façonner le sens dans un monde où les gens craignent l’impuissance et l’absence de sens en les invitant à rendre les autres aussi impuissants et dénués de sens qu’eux ». Ces images « diminuent la valeur de la réalité », suggère brillamment Salvaggio. Elles créent « une esthétisation », c’est-à-dire rend la représentation conforme à un idéal. La fonction politique de ce remplissage va bien au-delà des seules représentations et des symboles, suggère-t-il encore. L’IA appliquée aux services gouvernementaux, comme les services sociaux, les transforme à leur tour « en exercice esthétique ». Notre éligibilité à une assurance maladie ou à une couverture sociale n’est pas différente de l’IA Slop. C’est cette même infrastructure vide de sens qui est pointée du doigt par ceux qui s’opposent à l’algorithmisation de l’Etat que ceux qui fuient les boucles de rétroactions délétères des médias sociaux.

Le projet DOGE d’Elon Musk, ce département de l’efficacité gouvernementale qui devrait proposer un tableau de bord permettant aux internautes de voter pour éliminer les dépenses publiques les plus inutiles, semble lui-même une forme de fusion de médias sociaux, d’idéologie de l’IA et de pouvoir pour exploiter le regard en essaim de la population et le diriger pour harceler les fonctionnaires, réduire l’État providence autour d’une acception de l’efficacité ultra-réductrice. Au final, cela produit une forme de politique qui traite le gouvernement comme une interface de médias sociaux, conçue pour amplifier l’indignation, intimider ceux qui ne sont pas d’accord et rendre tout dialogue constructif impossible. Bienvenue à la « momusocratie« , le gouvernement des trolls, de la raillerie, explique Salvaggio, cette Tyrannie des bouffons chère à l’essayiste Christian Salmon.

Mais encore, défend Salvaggio, le déversement de contenus produit par l’IA générative promet un épuisement du public par une pollution informationnelle sans précédent, permettant de perturber les canaux d’organisation, de réflexion et de connexion. « Contrôlez le filtre permet de l’orienter dans le sens que vous voulez ». Mais plus que lui donner un sens, la pollution de l’information permet de la saturer pour mieux désorienter tout le monde. Cette saturation est un excellent moyen de garantir « qu’aucun consensus, aucun compromis, ou simplement aucune compréhension mutuelle ne se produise ». Cette saturation ne vise rien d’autre que de promouvoir « la division par l’épuisement ». « Le remplissage est un pouvoir ».

« L’idéologie de l’IA fonctionne comme une croyance apolitique trompeuse selon laquelle les algorithmes sont une solution à la politique » qui suppose que les calculs peuvent prendre les décisions au profit de tous alors que leurs décisions ne sont qu’au profit de certains, en filtrant les données, les idées, les gens qui contredisent les résultats attendus. Alors que l’élection de Trump éloigne les enjeux de transparence et de régulation, l’IA va surtout permettre de renforcer l’opacité qui lui assure sa domination. 

Vers un monde sans intérêt en boucle sur lui-même

Dans la dernière partie de sa réflexion, Salvaggio estime que le remplissage est un symptôme, mais qui va produire des effets très concrets, des « expériences désintéressées », c’est-à-dire des « expériences sans intérêt et incapables de s’intéresser à quoi que ce soit ». C’est le rêve de machines rationnelles et impartiales, omniscientes, désintéressées et qui justement ne sont capables de s’intéresser à rien. Un monde où l’on confie les enfants à des tuteurs virtuels par soucis d’efficacité, sans être capable de comprendre tout ce que cette absence d’humanité charrie de délétère.

L’IA s’est construite sur l’excès d’information… dans le but d’en produire encore davantage. Les médias sociaux ayant été une grande source de données pour l’IA, on comprend que les contenus de remplissage de l’IA soient optimisés pour ceux-ci. « Entraînée sur du contenu viral, l’IA produit du contenu qui coche toutes les cases pour l’amplification. Le slop de l’IA est donc le reflet de ce que voient nos filtres de médias sociaux. Et lorsque les algorithmes des médias sociaux en reçoivent les résultats, il les reconnaît comme plus susceptibles de stimuler l’engagement et les renforce vers vers les flux (générant plus d’engagement encore). »  Dans le tonneaux des Danaïdes de l’amplification, l’IA slop est le fluidifiant ultime, le contenu absurde qui fait tourner la machine sans fin.

Combattre ce remplissage par l’IA n’est une priorité ni pour les entreprises d’IA qui y trouvent des débouchés, ni pour les entreprises de médias sociaux, puisqu’il ne leur porte aucun préjudice. « Les contenus de remplissage de l’IA sont en fait la manifestation esthétique de la culture à médiation algorithmique » : « ils sont stylisés à travers plus d’une décennie d’algorithmes d’optimisation qui apprennent ce qui pousse les gens à s’engager ».

Face à ces contenus « optimisés pour performer », les artistes comme les individus qui ont tenté de partager leur travail sur les plateformes sociales ces dernières années ne peuvent pas entrer en concurrence. Ceux qui ont essayé s’y sont vite épuisés, puisqu’il faut tenir d’abord le rythme de publication infernal et infatigable que ces systèmes sont capables de produire.

Dépouiller les symboles de leur relation à la réalité

« Les images générées par l’IA peuvent être interprétées comme de l’art populaire pour servir le populisme de l’IA ». Elles visent à « dépouiller les symboles de leur relation à la réalité » pour les réorganiser librement. Les gens ne connaissent pas les films mais ont vu les mèmes. Le résultat de ces images est souvent critiqué comme étant sans âme. Et en effet, le texte et les images générés par l’IA souffrent de l’absence du poids du réel, dû à l’absence de logique qui préside à leur production.

« L’ère de l’information est arrivée à son terme, et avec elle vient la fin de toute définition « objective » et « neutre » possible de la « vérité ». » L’esthétique du remplissage par l’IA n’est pas aléatoire, mais stochastique, c’est-à-dire qu’elle repose sur une variété infinie limitée par un ensemble de règles étroites et cohérentes. Cela limite notre capacité à découvrir ou à inventer de nouvelles formes de culture, puisque celle-ci est d’abord invitée à se reproduire sans cesse, à se moyenniser, à s’imiter elle-même. Les images comme les textes de l’IA reflètent le pouvoir de systèmes que nous avons encore du mal à percevoir. Ils produisent des formes de vérités universalisées, moyennisées qui nous y enferment. Comme dans une forme d’exploitation sans fin de nos représentations, alors qu’on voudrait pouvoir en sortir, comme l’expliquait dans une note pour la fondation Jean Jaurès, Melkom Boghossian, en cherchant à comprendre en quoi les algorithmes accentuent les clivages de genre. Comme s’il devenait impossible de se libérer des contraintes de genres à mesure que nos outils les exploitent et les renforcent. Cet internet de contenus absurde n’est pas vide, il est plein de sens qui nous échappent et nous y engluent. Il est plein d’un monde saturé de lui-même.

A mesure que l’IA étend son emprise sur la toile, on se demande s’il restera encore des endroits où nous en serons préservés, où nous pourrons être mis en relation avec d’autres humains, sans que tout ce qui encode les systèmes ne nous déforment.

Du remplissage à la fin de la connaissance

Dans une tribune pour PubliBooks, la sociologue Janet Vertesi estime que les recherches en ligne sont devenues tellement chaotiques et irrationnelles, qu’elle a désormais recours aux dictionnaires et encyclopédies papier. « Google qui a fait fortune en nous aidant à nous frayer un chemin sur Internet se noie désormais dans ses propres absurdités générées par elle-même ». Nous voici confrontés à un problème d’épistémologie, c’est-à-dire de connaissance, pour savoir ce qui est réel et ce qui ne l’est pas. Au XXe siècle, les philosophes ont définis la connaissance comme une croyance vraie justifiée. La méthode scientifique était le moyen pour distinguer la bonne science de la mauvaise, la vérité du mensonge. Mais cette approche suppose souvent qu’il n’y aurait qu’une seule bonne réponse que nous pourrions connaître si nous adoptons les bonnes méthodes et les bons outils. C’est oublier pourtant que la connaissance ne sont pas toujours indépendantes de l’expérience. Ludwig Wittgenstein a utilisé la figure du canard-lapin pour montrer comment des personnes rationnelles pouvaient en venir à avoir des points de vue irréconciliablement différents sur une même réalité. Les épistémologues se sont appuyés sur cette idée pour montrer que les personnes, selon leurs positions sociales, ont des expériences différentes de la réalité et que la connaissance objective ne pouvait naître que de la cartographie de ces multiples positions. Les sociologues de la connaissance, eux, examinent comment différents groupes sociaux en viennent à légitimer différentes manières de comprendre, souvent à l’exclusion des autres. Cela permet de comprendre comment différents faits sociaux circulent, s’affrontent ou se font concurrence, et pourquoi, dans les luttes pour la vérité, ceux qui détiennent le pouvoir l’emportent si souvent… Imposant leur vérités sur les autres.

Mais ces questions ne faisaient pas partie des préoccupations de ceux qui ont construit internet, ni des systèmes d’IA générative qui s’en nourrissent. Depuis l’origine, internet traite toutes les informations de manière égale. Le réseau ne consiste qu’à acheminer des paquets d’informations parfaitement égaux entre eux, rappelle la sociologue. A cette neutralité de l’information s’est ajoutée une autre métaphore : celle du marché des idées, où chaque idée se dispute à égalité notre attention. Comme dans le mythe du libre marché, on a pu penser naïvement que les meilleures idées l’emporteraient. Mais ce régime épistémique a surtout été le reflet des croyances de l’Amérique contemporaine : un système de connaissance gouverné par une main invisible du marché et entretenue par des conservateurs pour leur permettre de générer une marge bénéficiaire.

« Pourtant, la connaissance n’est pas une marchandise. La « croyance vraie justifiée » ne résulte pas non plus d’une fonction d’optimisation. La connaissance peut être affinée par le questionnement ou la falsification, mais elle ne s’améliore pas en entrant en compétition avec la non-connaissance intentionnelle. Au contraire, face à la non-connaissance, la connaissance perd. »  L’interrogation du monde par des mécanismes organisés, méthodiques et significatifs – comme la méthode scientifique – peut également tomber dans le piège des modes de connaissance fantômes et des impostures méthodologiques. « Lorsque toute information est plate – technologiquement et épistémologiquement – il n’y a aucun moyen d’interroger sa profondeur, ses contours ou leur absence ». En fait, « au lieu d’être organisé autour de l’information, l’Internet contemporain est organisé autour du contenu : des paquets échangeables, non pondérés par la véracité de leur substance. Contrairement à la connaissance, tout contenu est plat. Aucun n’est plus ou moins justifié pour déterminer la vraie croyance. Rien de tout cela, au fond, n’est de l’information. »

« En conséquence, nos vies sont consumées par la consommation de contenu, mais nous ne reconnaissons plus la vérité lorsque nous la voyons. Et lorsque nous ne savons pas comment peser différentes vérités, ou coordonner différentes expériences du monde réel pour regarder derrière le voile, il y a soit une cacophonie, soit un seul vainqueur : la voix la plus forte qui l’emporte. »

Contrairement à Wikipédia, encore relativement organisé, le reste du Web est devenu la proie de l’optimisation des moteurs de recherche, des technologies de classement et de l’amplification algorithmique, qui n’ont fait que promouvoir le plus promouvable, le plus rentable, le plus scandaleux. « Mais aucun de ces superlatifs n’est synonyme de connaissance ». Les systèmes qui nous fournissent nos informations ne peuvent ni mesurer ni optimiser ce qui est vrai. Ils ne s’intéressent qu’à ce sur quoi nous cliquons. Et le clou dans le cercueil est enfoncé par l’intelligence artificielle qui « inonde Internet de contenu automatisé plus rapidement que l’on ne peut licencier une rédaction ». Dans ce paysage sous stéroïdes, aucun système n’est capable de distinguer la désinformation de l’information. Les deux sont réduits à des paquets de même poids cherchant leur optimisation sur le marché libre des idées. Et les deux sont ingérés par une grande machinerie statistique qui ne pèse que notre incapacité à les distinguer.

Aucun système fondé sur ces hypothèses ne peut espérer distinguer la « désinformation » de « l’information » : les deux sont réduites à des paquets de contenu de même valeur, cherchant simplement une fonction d’optimisation dans un marché libre des idées. Et les deux sont également ingérées dans une grande machinerie statistique, qui ne pèse que notre incapacité à les discerner. Le résultat ne promet rien d’autre qu’un torrent indistinct et sans fin, « où la connaissance n’a jamais été un facteur et d’où la connaissance ne peut donc jamais émerger légitimement ». « Sans topologie de l’information, nous sommes à la dérive dans le contenu, essayant en vain de naviguer dans une cascade d’absurdités sans boussole ».

« Il est grand temps de revenir à ces méthodes et à ces questions, aux milliers d’années de gestion de l’information et d’échange de connaissances qui ont transmis non seulement des faits ou du contenu, mais aussi une appréciation de ce qu’il faut pour faire émerger des vérités », plaide Vertesi. « Il n’est pas nécessaire que ce soit un projet colonial ou réductionniste. Les connaissances d’aujourd’hui sont plurielles, distribuées, issues de nombreux lieux et peuples, chacun avec des méthodes et des forces d’ancrage uniques. Cela ne signifie pas non plus que tout est permis. Le défi consiste à s’écouter les uns les autres et à intégrer des perspectives conflictuelles avec grâce et attention, et non à crier plus fort que les autres ». 

« Alors que nos vies sont de plus en plus infectées par des systèmes d’IA maladroits et pilleurs et leurs flux hallucinatoires, nous devons apprendre à évaluer plutôt qu’à accepter, à synthétiser plutôt qu’à résumer, à apprécier plutôt qu’à accepter, à considérer plutôt qu’à consommer ». 

« Notre paysage technologique contemporain exige de toute urgence que nous revenions à une autre des plus anciennes questions de toutes : « Qu’est-ce qui est vraiment réel ? » »

Comme à son habitude, danah boyd pose une question très pertinente en nous invitant à distinguer le risque du préjudice. 

Savoir si l’usage des réseaux sociaux par les adolescents relève d’un risque ou cause un préjudice est une distinction importante. Le préjudice induit une nature causale. En droit, les avocats cherchent des préjudices pour les imputer aux acteurs qui les causent ou les réglementer. Quand une personne cause un préjudice à une autre, nous souhaitons que cette personne soit tenue pour responsable. La difficulté consiste à prouver le lien entre le préjudice subi et l’intentionnalité du concepteur. 

Le risque, lui, nécessite qu’on les identifie et qu’on les gère. « Certains environnements introduisent davantage de risques potentiels et certaines actions les réduisent ». Si la réglementation peut être utilisée pour les réduire, elle ne peut pas les éliminer. Ce qui fait que la réduction du risque se retourne parfois contre les utilisateurs, les tenants responsables de ce qu’ils partagent alors que les effets d’amplification ne sont pas nécessairement de leurs faits. 

Concevoir, éduquer, socialiser et prendre soin : piliers de la réduction des risques

Le ski par exemple est une pratique risquée, explique danah boyd, qui nécessite beaucoup d’éducation, de messages de prévention, et des mesures pour limiter les risques que les gens prennent. Tous les environnements sociaux sont risqués. Traverser la rue l’est également. L’un des éléments clés de la socialisation de l’enfance à l’âge adulte est d’apprendre à évaluer et à réagir aux risques inhérents à l’existence. Nous savons apprendre aux plus jeunes à traverser la rue. Et nous savons également aménager la rue pour diminuer les risques. Pour limiter les risques nous avons donc 3 leviers : agir sur l’environnement, éduquer et socialiser. 

Les médias sociaux peuvent être dangereux pour les plus jeunes. Nous pouvons améliorer leur conception pour qu’ils le soient moins, bien sûr. Le problème, c’est que nous ne savons pas toujours comment améliorer leur conception pour qu’ils soient moins dangereux et ces interventions peuvent se révéler pires qu’on le pense. Cela ne signifie pas qu’on doive renoncer à les améliorer, bien au contraire, mais qu’on ne peut peut-être pas cimenter leur conception dans la loi pas plus que nous ne sommes capables de gérer les risques uniquement en améliorant la conception. Ainsi, nous focaliser sur une meilleure conception de la ville est inutile si nous ne faisons aucun travail pour socialiser et éduquer ceux qui partagent l’espace public… et si nous n’avons aucun dispositif pour venir en aide aux personnes en difficultés. 

Alors oui, des personnes subissent des préjudices sur les médias sociaux, notamment du fait d’autres utilisateurs de ces médias sociaux qui doivent en être tenus responsables (et parfois du fait de la conception même des plateformes). Mais l’on ne peut pas concevoir un système qui permette aux gens d’interagir sans subir jamais de préjudices. Le problème cependant consiste à faire la part entre la responsabilité des utilisateurs et celle des concepteurs de médias sociaux. Il consiste à savoir si certaines formes de conception rendent les préjudices et les risques plus probables. 

Les chercheurs ont largement mis en évidence que le harcèlement scolaire est plus fréquent à l’école que sur les réseaux sociaux, même s’il est plus visible sur ces derniers. Nombre d’écoles agissent en déployant des interventions pour éduquer et socialiser les élèves à ces problèmes. Ces programmes font souvent bien plus pour résoudre le harcèlement que l’amélioration de la conception des bâtiments, ironise la chercheuse – tout en suggérant de taxer les réseaux sociaux pour financer ces interventions dans le domaine scolaire. Bien sûr, les préjudices que subissent les gens sur les réseaux sociaux pourraient être atténués en améliorant le respect de la vie privée des utilisateurs, et pas seulement des plus jeunes d’ailleurs. « Mais même si vous pensez que les enfants sont particulièrement vulnérables, j’aimerais souligner que même si les enfants peuvent avoir besoin d’un siège d’appoint pour que la ceinture de sécurité fonctionne, tout le monde serait mieux loti si nous mettions en place des ceintures de sécurité pour la vie privée plutôt que de dire simplement que les enfants n’ont pas leur place dans les voitures. » Or, les projets de lois visant à exclure les plus jeunes des réseaux sociaux ne proposent de mettre en place aucune ceinture de sécurité, mais seulement de ne pas les accueillir dans les véhicules au risque qu’ils ne puissent plus se déplacer. 

Pourtant, rappelle la chercheuse, il est difficile d’imputer à la technologie la responsabilité des préjudices sociétaux, même si celle-ci amplifie très fortement nos plus mauvais penchants, comme l’intimidation, le harcèlement, le racisme, le sexisme, l’homophobie… Et il est naïf de croire que ces préjudices puissent être réparés par la seule technologie. Nous ne pouvons pas protéger nos enfants des maux de la société, tout comme les parents noirs ne peuvent empêcher leurs enfants d’être victimes du racisme. D’où l’importance d’éduquer les enfants blancs pour voir et résister au racisme. Nous devons aider nos enfants à voir la laideur du monde pour qu’ils deviennent les agents du changement. Les réseaux sociaux rendent nos travers sociaux plus visibles… servons-nous en. Mais éviter les réseaux sociaux ne les fera pas disparaître. Et boyd de noter que souvent, ceux là même qui propagent la haine souhaitent empêcher leurs enfants d’accéder à la technologie, certainement bien plus par peur que les exposer à la différence ne les rende plus tolérants. 

Il ne fait aucun doute que les médias et notamment les réseaux sociaux nous exposent à un monde plus vaste, plus diversifié et plus complexe. « Au début des réseaux sociaux, rappelle la chercheuse, je pensais que le simple fait d’exposer les gens aux autres augmenterait fondamentalement notre tolérance collective. J’ai appris depuis que ce n’était pas si simple et que l’exposition seule ne suffit pas. Mais isoler les gens ou interdire aux plus jeunes d’accéder aux réseaux sociaux, ne nous aidera pas non plus et n’aidera pas nos enfants à acquérir les compétences nécessaires pour vivre ensemble », conclut-elle, faisant écho à l’enjeu que nous avons, collectivement, à prendre soin de la construction du tissu social, comme elle nous y invitait déjà, il y a quelques années, dans un remarquable article. 

Vérification d’âge : quels murs construisons-nous ?

Cette tribune s’inscrit dans un débat plus large autour du Kids online Safety Act (Kosa), un projet de loi américain très controversé pour protéger les mineurs sur les médias sociaux. Une bonne synthèse des enjeux est résumé dans un rapport dirigé par la chercheuse Alice Marwick (qui est également la directrice de la recherche de Data & Society, le groupe de recherche de Microsoft fondé par danah boyd il y a 10 ans) qui montre les limites de la proposition de loi et notamment le fait que celle-ci puisse permette d’augmenter la censure des contenus en donnant plus de pouvoir aux plateformes sans aider les jeunes qui sont en difficulté sur les médias sociaux. Le cœur du renforcement de la protection repose sur un dispositif de vérification d’âge, compliqué à mettre en œuvre. De nombreux pays l’envisagent, mais aucun n’a pour l’instant trouvé une méthode convaincante. En France où une vérification d’âge doit être mise en place pour l’accès aux sites pornographiques, la Cnil défend le recours à un vérificateur tiers indépendant et le double anonymat… Une solution qui n’a pour l’instant pas d’opérationnalité technique à l’efficacité démontrée. 

Lors d’un débat sur les implications de l’introduction de systèmes de vérification d’âge prévu notamment par ce projet de loi, danah boyd rappelait déjà que nous devrions aider les jeunes plutôt que de construire des murs autour d’eux. Sarah Forland co-auteure d’un rapport sur le sujet pour l’Open Technology Institute du think tank New America estime que la vérification d’âge doit toujours proposer des alternatives, que ces outils doivent maximiser la confidentialité et permettre aux utilisateurs de rester maître des modalités, alors qu’ils introduisent un risque de censure plus fort que jamais. Une réglementation de l’accès à internet selon l’âge semble à beaucoup une mauvaise réglementation mais elle est malgré tout préférable à l’absence de réglementation actuelle. Forland rappelle que si la vérification d’âge est une technologie controversée c’est parce qu’elle est difficile à mettre en œuvre. 

Dans le monde réel, d’ailleurs, contrairement à ce qu’on en dit souvent, elle marche très mal, rappelle boyd. Aux Etats-Unis, la consommation d’alcool est interdite aux moins de 21 ans, mais le pays a l’un des taux le plus élevé de consommation excessive d’alcool des plus jeunes. Si les plus jeunes ont un problème de consommation excessive, c’est parce que l’interdiction a transformé l’alcool en preuve que vous étiez adulte ce qui a généré une socialisation particulièrement malsaine. Voulons-nous faire la même chose ? Les enfants regardent leurs parents plongés toute la journée sur leur téléphones et on est en train de leur dire qu’ils ne pourront y avoir accès avant 18 ans ! En fait, on fait tout pour ne pas interroger les processus de socialisation et leurs limites. 

Les barrières d’âge n’aident en rien, disait déjà la chercheuse en 2011 ! Pour boyd, il y a d’un côté une crise de fragilité mentale des plus jeunes que nous devons aborder avec des programmes et des centres d’aides où le numérique n’a pas de rôle à jouer. De l’autre, il nous faut réglementer l’industrie technologique, hors de contrôle, ce qui est un tout autre problème qui nécessite de renforcer la confidentialité de tous, pour mieux protéger tout le monde et pas seulement les plus jeunes. boyd rappelle que lorsqu’elle étudiait la Coppa, la loi sur la protection de la vie privée des enfants en ligne, qui a introduit des protections pour les moins de 13 ans, plus de la moitié des parents mentaient sur l’âge de leurs enfants pour leur permettre d’accéder aux services web auxquels ils n’avaient plus droits. 

Pour la sociologue, on cherche à nouveau à répondre à un problème social par une solution technique qui ne le résoudra pas. Pour elle, nous avons bien plus besoin de structures de soins et d’accompagnement pour les plus jeunes que de dispositifs techniques. Nous avons besoin d’être capables d’apporter de l’aide à ceux qui en ont besoin avec des structures ouvertes et discrètes. « Nous devons être capables de prêter attention aux jeunes qui crient à l’aide plutôt que d’essayer de trouver des moyens de les rendre plus invisibles aux yeux des gens qui les entourent. » Pour l’avocat du Digital Trust & Safety Partenership, David Sullivan, c’est comme le filtrage de contenus dans les écoles qui, sous prétexte de protéger les enfants, semble faire bien plus de dégats qu’autre chose, en les empêchant d’accéder à des contenus essentiels. Pour danah boyd : lorsque nous nous concentrons sur la vérification d’âge, nous nous concentrons sur une réponse technique à un problème social, donc sur la technologie plutôt que sur les jeunes. Plutôt que de chercher à refabriquer de la socialisation, nous sommes en plein « solutionnisme techno-légal ». 

Le risque : croire que le code peut se substituer à la loi

Dans leur article de recherche, où elles développent ce concept, danah boyd et Maria Angel rappellent que le devoir de diligence que Kosa impose aux plateformes est ambiguë. Il tient les entreprises responsables de ne pas avoir pris de mesures raisonnables pour prévenir ou atténuer des risques complexes, comme l’intimidation, l’anxiété ou la dépression, pour lesquels les experts n’ont pas vraiment de solutions. Si la façon dont sont conçus les médias sociaux peuvent parfois donner lieu à des expériences sociales malsaines, déterminer les conséquences des effets de conception n’est pas toujours simple. Or, la diligence dans la modération qu’on demande aux plateformes est profondément ancrée dans une vision déterministe de la technique que les chercheuses appellent « solutionnisme techno-juridique ». C’est la façon même dont le législatif tente de pousser les plateformes à être diligentes qui pose problème. Le cadre réglementaire n’énonce pas d’exigences de conception spécifiques que les plateformes devraient éviter et n’observent que les résultats qu’elles doivent atteindre. « Cela équivaudrait à exiger des constructeurs automobiles qu’ils s’assurent que les conducteurs ne soient jamais distraits par des tiers et que tous les accidents soient évités plutôt que de les obliger à mettre en place des ceintures de sécurité. »

Pour le grand public, l’allégation consistant à penser que les médias sociaux sont nocifs pour les plus jeunes est très répandue. Les décideurs politiques ne se contentent pas d’affirmer que les plateformes de médias sociaux sont le lieu du problème : ils considèrent également la technologie comme le lieu de la solution. « Si les caractéristiques de conception sont le problème, exiger une bonne conception peut faire disparaître les préjudices », estiment ces règlements.  Le risque est de fournir une solution technique à une panique morale. « Lorsque Lessig a soutenu pour la première fois que « le code est la loi », il entendait signaler comment la conception du logiciel joue un rôle régulateur en rendant certains résultats plus ou moins probables. L’une des erreurs commises par les décideurs politiques est de réinterpréter ses propos pour adopter une vision techno-déterministe selon laquelle le code peut agir comme un substitut à la loi pour dicter l’avenir. » « Le problème, c’est que les entreprises technologiques seront obligées par la loi de concevoir leurs systèmes pour des résultats sociaux qu’elles ne peuvent pas contrôler. » Et rien ne prouve qu’une appréciation par les objectifs aidera réellement les jeunes en situation de vulnérabilité ni n’accomplira une meilleure conception. Au contraire. Il est probable qu’une telle politique encourage les entreprises à atteindre leurs objectifs en matière de sécurité en renforçant les logiques solutionnistes, tout en nous détournant d’autres approches fondées sur des preuves. 

Tout le monde répète que les médias sociaux seraient la cause de tous les maux… Mais « quel est l’impact de l’utilisation des médias sociaux sur la santé mentale des jeunes ? », questionnent les deux chercheuses. Les réponses des chercheurs à cette question ne sont pas tranchées. Ceux-ci ont plutôt montré que les problèmes sociaux et psychologiques en ligne ont des racines dans la dynamique sociale hors ligne, comme le harcèlement. Comme le montrait danah boyd dans son livre, C’est compliqué, la technologie est rarement la cause des problèmes des adolescents, mais est souvent l’endroit vers lequel ils se tournent lorsqu’ils sont en difficulté. Pour elle, les médias sociaux permettent de rendre visible les problèmes des jeunes plus qu’ils n’en sont la cause. En fait nous sommes là, face à une question très polarisée, comme l’a montré le journaliste du New York Times, Ezra Klein, en interviewant Jean Twenge qui pense que les médias sociaux ont des effets négatifs sur la santé mentale des jeunes et Lisa Damour qui montre qu’il n’y en est rien. Le lien entre les médias sociaux et la santé mentale des jeunes demeure complexe.

Les entreprises de la tech sont en mesure de concevoir leurs plateformes afin que les jeunes ne soient pas exposés à certains contenus ni ne participent à certaines activités. Mais les entreprises ne pourront jamais contrôler précisément la manière dont les comportements « autorisés » sur leurs plateformes affectent l’expérience et le bien être. Pour le dire plus simplement : les plateformes peuvent certes être mieux conçues, mais elles ne peuvent pas faire que les enfants ne soient pas rejetés par leurs pairs, ou que l’actualité ne provoque pas d’anxiété. En obligeant les plateformes à concevoir des « résultats positifs », les autorités semblent ignorer le caractère émergent du social. Si les entreprises peuvent ne pas montrer certaines publicités, exiger qu’elles produisent des résultats sociétaux positifs suppose qu’elles pourraient avoir un contrôle total sur les comportements sociaux. Le risque est que la réglementation crée des attentes irréalistes sur ce que le design peut faire pour les enfants. 

Or, dans un contexte où des livres ou même la justice raciale sont interdits dans nombre d’écoles américaines, la question de savoir ce qui a un impact négatif sur les jeunes est devenue une question éminemment politique. Les risques d’abus du projet de loi Kosa ont déclenché l’inquiétude de la communauté LGBTQ d’autant que les conservateurs ont plusieurs fois affirmé que le projet de loi avait pour but de protéger les mineurs de l’endoctrinement politique. La politisation des contenus est pourtant bien ce qui se déroule. Après les élections de 2016, les entreprises de médias sociaux ont un temps pris la question de la désinformation au sérieux. Le problème, c’est que la désinformation n’est pas la même pour tous, chacun souhaitant la définir en fonction de ses objectifs politiques. Mais surtout, en demandant aux entreprises technologiques d’améliorer leurs conceptions pour éviter les résultats négatifs, les décideurs politiques renforcent la rhétorique déterministe et solutionniste qui rend l’industrie technologique toxique en premier lieu. Pourtant, ce que les gens font avec une technologie donnée n’est pas déterminé par la conception seule, mais par les choix que les gens font en exploitant ces outils. Comme le disait Morozov lui-même, « en promettant des résultats presque immédiats et beaucoup moins chers, les solutions rapides peuvent facilement saper le soutien à des projets de réforme plus ambitieux, plus stimulants intellectuellement, mais aussi plus exigeants ». Le risque, c’est que le solutionnisme efface les problèmes sociaux d’abus, de pauvreté, d’inégalité… qui sont bien souvent à l’origine des problèmes que les législateurs voudraient atténuer. On ne fera pas disparaître les causes en nettoyant les symptômes !, rappellent les chercheuses. L’accès à des soins pour la santé mentale, la mise en œuvre de programmes d’éducation ont plus de chance de faire bouger les choses que de masquer des contenus sur les réseaux sociaux. 

Les législateurs ont raison d’exiger que les entreprises de médias sociaux cessent d’utiliser une conception manipulatrice pour exploiter les vulnérabilités décisionnelles du public. Tout comme ils l’ont fait avec d’autres formes de médias, les décideurs politiques peuvent et doivent se pencher sur les types de publicité et de fonctionnalités qui devraient être autorisés. Les décideurs politiques devraient réfléchir à ce qui pourrait constituer une « ceinture de sécurité numérique » et l’imposer. Cependant, si les décideurs politiques veulent réellement aider les jeunes à faire face aux difficultés sociales auxquelles ils sont confrontés, ils doivent adopter une approche écologique face à un problème qui a de multiples paramètres. Il n’existe pas de solution miracle. Tenir les entreprises technologiques responsables du bien-être des jeunes est politiquement attrayant, mais cela n’aidera pas les jeunes en situation de vulnérabilité. 

L’aporie de la gouvernance par les risques

Le risque, c’est de croire qu’on peut gouverner les risques depuis les calculs… et que toute régulation ne repose que sur la régulation par le risque, comme l’expliquait Irénée Régnauld, qui dénonce également cette approche paternaliste par le risque et explique que la gestion des risques ne peut pas constituer à elle seule un mode de gouvernement, au risque de verser dans un éternel monitoring ex post de systèmes n’ayant jamais fait l’objet d’aucune débats démocratiques. 

boyd semble bien confiante tout de même. Les entreprises pilotent et orientent à leur gré l’architecture de leurs plateformes, laissant bien peu d’espace à l’éducation et à la socialisation puisqu’on ne peut apprendre des comportements à tenir dans des usines où les convoyeurs changent sans arrêt, comme c’est le cas de leurs algorithmes d’amplification sociale. Les modalités de conception ont bien des effets, que les entreprises savent mesurer et orienter au bénéfice de leurs modèles d’affaires plus que du bien-être des utilisateurs ou de la valeur de leur recommandation pour la société, comme le montrait le chercheur Arvind Narayanan, Pour le dire dans le langage de boyd, les modalités de socialisation changent sans arrêt ce qui limite également nos capacités d’éducation, puisqu’il est bien difficile de comprendre les modulations algorithmiques. Les entreprises ne sont pas vertueuses et peu de choses les poussent à l’être. Bien sûr, les autorités ont des exigences toujours plus fortes de modération renforçant les biais de modération des plateformes, au risque de rendre certains sujets impossibles, et non des moindres. En renforçant le droit à la modération des réseaux sociaux, le risque est que les médias sociaux décident de quelles violences la société peut discuter, expliquait très pertinemment Alizée Vincent pour Arrêt sur Images, en montrant que la censure automatisée conduisait à confondre les violences policières ou sexuelles, avec leur dénonciation. 

TikTok comme Meta par exemple connaissent très bien les effets qu’ont leurs architectures de recommandation sur les gens et notamment sur les plus jeunes. Mark Zuckerberg lui-même convenait d’ailleurs que les utilisateurs ne contrôlent plus leurs flux de médias sociaux. La maîtrise totale de nos flux par les grandes plateformes pourrait avoir pour conséquence de les tenir plus responsables que jamais des risques qu’ils sont censés limiter, explique la journaliste Julia Angwin pour le New York Times. Quand ce à quoi nous accédions était la conséquence des décisions des utilisateurs, il était plus facile pour les entreprises de ne pas être tenues responsables des conséquences. Mais c’est devenu de moins en moins vrai. « Si les plateformes technologiques façonnent activement nos expériences, après tout, peut-être devraient-elles être tenues responsables de la création d’expériences qui nuisent à nos corps, à nos enfants, à nos communautés et à notre démocratie ». Aux Etats-Unis, plusieurs décisions de justice viennent de reconnaître que les plateformes ne pouvaient pas s’abriter derrière le fait qu’elles n’étaient pas responsables des contenus quand leurs algorithmes les orientent d’une manière aussi déterminante. Si le tribunal tient les plateformes responsables de leurs amplifications algorithmiques, cela pourrait les inciter à limiter la distribution de contenus nocifs mais également les conduire à renforcer la censure. 

Qu’en sera-t-il ? L’élection de Trump vient de rebattre profondément les cartes de ce débat.  A terme, il semble certain que ce ne sont pas les utilisateurs qui vont avoir la main. 
David Rotschild, chercheur au Penn Media Accountability Project et co-auteur d’une étude pour Nature qui dénonce l’instrumentation de la désinformation en ligne, explique sur Undark que dire que « les réseaux sociaux sont le problème » propose une solution très simple et facile à appliquer, qui consiste à corriger les algorithmes. Et cela évite la question la plus difficile – celle que nous ne voulons généralement pas aborder – sur la nature humaine. Or la violence ou le racisme… n’ont pas été inventés par les réseaux sociaux. Quand bien même les réseaux sociaux les instrumentisent plus que jamais. Nous ne gouvernerons pas nos disputes sociales seulement en régulant les réseaux sociaux.