❌

Vue lecture

Il y a de nouveaux articles disponibles, cliquez pour rafraîchir la page.

Pourquoi la science ne peut-elle pas régler nos différends politiques ?

Couverture du livre The Divide« La science est un puissant outil politique ». Pourtant, si nous avons appris quelque chose de ces deux années de pandémie, c’est certainement combien elle n’est pas neutre. Combien elle n’est pas à même de régler les désaccords publics… explique le spécialiste de la gestion de risque à la New Mexico Tech Taylor Dotson (@dots_t) dans un lumineux extrait de son livre The Divide : how fanatical certitude is destroying democracy (Le clivage : comment la certitude fanatique détruit la démocratie, MIT Press, 2021, non traduit).

La science est souvent présentée comme pure, exempte de valeurs. De prime abord, la méthode scientifique semble à l’opposé la méthode politique. « La première présente les faits pour se demander quelle conclusion en tirer, quand la seconde présente ses conclusions pour chercher les faits capables de la soutenir ». Dans le rapport entre les deux, le problème à résoudre semble relativement simple : il y a souvent trop de politique et pas assez de science ! Mais c’est encore croire que la science serait quelque chose d’intrinsèquement pur, uniquement corrompue par des forces qui lui sont extérieures. Pour le spécialiste des rapports science-société, Daniel Sarewitz, la science a toujours été façonnée par la société. Archimède, ce scientifique modèle, a surtout fabriqué des machines de guerre, tout comme aujourd’hui la science est largement orientée par les entreprises. Reconnaître ces influences ne signifie pas que tout financement corrompt, mais que de puissants groupes d’intérêts économiques et politiques orientent effectivement la recherche. La science est orientée d’intérêts. La recherche est traditionnellement masculine et bien plus à destination des populations aisées, blanches et âgées qu’autre chose. On dépense bien plus pour les dysfonctionnements érectiles que pour les maladies tropicales. « Les valeurs façonnent la science à presque tous les stades, qu’il s’agisse de décider des phénomènes à étudier ou de choisir comment les étudier et en parler ».

« Qualifier un produit chimique de « perturbateur endocrinien » plutôt que d' »agent hormonal actif » met en évidence son potentiel de nuisance. Les scientifiques font chaque jour des choix chargés de valeurs en ce qui concerne leur terminologie, leurs questions de recherche, leurs hypothèses et leurs méthodes expérimentales, qui peuvent souvent avoir des conséquences politiques. Partout où les spécialistes des sciences sociales ont regardé de près, ils ont trouvé des éléments de politique dans la conduite de la science. Tant et si bien qu’il n’est pas simple de discerner précisément et exactement où finit la science et où commence la politique.

Certaines recherches deviennent problématiques quand d’autres ne sont toujours pas remises en question (comme les partis-pris en faveur de de l’industrie de l’armement que dénonçait brillamment le journaliste Romaric Godin de Mediapart en soulignant combien ce secteur particulièrement aidé ne produisait que très peu d’effets d’entraînement industriel ou de ruissellement d’innovation…). Le fait de considérer la science comme pure jusqu’à ce qu’elle soit politisée de l’extérieur empêche donc un débat plus large sur la question suivante : « Quels types d’influences politiques sur la science sont appropriés et quand ? »

« Améliorer la capacité des femmes et des minorités à devenir des scientifiques ou orienter la science vers des objectifs plus pacifiques ou plus satisfaisants pour la vie est politique dans un sens différent de celui qui consiste à occulter intentionnellement les effets nocifs du tabagisme », explique Taylor Dotson. Reste que pour faire ces distinctions, il serait nécessaire d’arrêter de croire au mythe d’une science apolitique – et en la croyance que la politique pourrait être basée sur LA science. Là encore, l’un des problèmes c’est certainement de croire qu’il n’y en a qu’une ! La pandémie nous a pourtant pleinement montré que la vérité de l’épidémiologie n’était pas là même selon les spécialités médicales d’où on la regardait. Pour beaucoup, il suffirait pourtant de placer des experts à la tête des décisions politiques pour éclaircir les influences que la science subit et mieux révéler une vérité qui serait, elle, impartiale. Mais, explique Taylor Dotson, « la scientisation de la politique repose sur la même hypothèse que les attaques contre la politisation explicite de la science ». Bien souvent, elle vise à dépolitiser les questions publiques qui posent problème.

Pourtant, rappelle-t-il, nous croulons sous les études scientifiques mal menées, mal conçues, aux résultats peu reproductibles ou peu fiables… Une politique guidée par la preuve scientifique ne nous garantit pas vraiment qu’elle soit guidée par la réalité. En fait, on peut largement douter que la science puisse fournir une base solide et indiscutable à l’élaboration des politiques. Reste, souligne Dotson, même si les valeurs et la politique jouent un rôle dans la recherche, la science doit rester un moyen dominant de régler les questions publiques. « Il ne fait aucun doute qu’il est préférable d’avoir recours à certaines recherches scientifiques pour décider d’une question complexe plutôt que de ne pas en avoir du tout. De plus, même si les résultats scientifiques sont parfois biaisés ou même complètement faux, les institutions scientifiques valorisent au moins le fait d’essayer d’améliorer la qualité des connaissances. »

La science s’établit progressivement, par l’accumulation de preuves et de démonstrations qui vont dans le même sens. Mais l’expertise doit toujours pouvoir être balancée et contre-balancée. Et dans ce domaine, rappelle très justement Dotson, la scientisation des controverses publiques empêche souvent de reconnaître que les personnes qui ne sont pas scientifiques ont d’importantes contributions à apporter. À Flint, dans le Michigan, les scientifiques n’ont pas porté beaucoup d’attention aux plaintes des habitants qui signalaient d’importants problèmes de santé jusqu’à ce que les études soulignent qu’ils avaient raison.

Dans la science, les controverses sont nombreuses. Bien souvent, elles sont politiques. Les écologistes sont plus critiques à l’égard des cultures génétiquement modifiées que ceux qui travaillent dans le secteur de la transformation des organismes. Aucun groupe d’experts ne peut donner une analyse complète et juste d’un problème, soutient Dotson. Dans Uncertain Hazards (Cornell University Press, 2001, non traduit), Silvia Noble Tesh explique qu’il est souvent très difficile, voire impossible, de prouver qu’une substance a des effets néfastes sur le corps humain. Les tests sont réalisés sur des animaux pour des raisons éthiques et leurs réactions sont très différentes de celles des humains. La thalidomide par exemple, qui même en quantités infimes produit des malformations congénitales chez l’homme, n’affecte les chiens qu’à fortes doses. De même, il est difficile d’obtenir une mesure précise d’une quantité de toxine à laquelle des gens peuvent être exposés et trop de facteurs favorisent des confusions (tabagisme, autres substances toxiques…) d’autant que les populations exposées tiennent de petits groupes… L’examen approfondi de cas litigieux révèle souvent des perspectives contradictoires plus que des convergences d’opinions. Daniel Sarewitz estime que dans de nombreux cas la science aggrave les controverses plus qu’elle ne les résout, notamment parce que la politique attend des certitudes, quand la science produit surtout de nouvelles questions. La science avance souvent en produisant de nouvelles incertitudes et de nouvelles complexités. On pourrait ajouter aussi qu’elle produit souvent des tendances, plus que nécessairement des certitudes.

En fait, l’un des problèmes de la science est d’introduire ses propres biais. Dans Seeds, Science and Struggle (MIT Press, 2012, non traduit), « la sociologue des sciences Abby Kinchy (@abbykinchy) a constaté que le fait de privilégier les évaluations fondées sur des faits tend à écarter les préoccupations non scientifiques. La controverse sur les cultures génétiquement modifiées est souvent réduite à la seule probabilité d’un dommage évident pour l’environnement ou le corps humain. Pour de nombreux opposants, cependant, les conséquences les plus inquiétantes des cultures OGM sont d’ordre économique, culturel et éthique », et notamment sur les cultures non transgéniques. Pour que le débat reste ancré dans la science, il exclut très souvent ce qui n’en relève pas. Ainsi dans notre réponse scientifique à la pandémie, les considérations médicales se sont faites au détriment de toutes autres considérations, notamment celles liées aux libertés publiques. De même, les débats sur le génie génétique oublient les préoccupations socio-économiques qui vont à l’encontre d’une vision industrielle de l’agriculture. De même, dans le débat sur les voitures sans conducteur, on oublie d’observer si l’avenir de nos déplacements ne bénéficierait pas bien mieux d’un monde de transports en commun…

« La politique scientifique privilégie les dimensions de la vie qui sont facilement quantifiables et rend moins visibles celles qui ne le sont pas ». Les débats scientifiques sont également biaisés quant à la charge de la preuve. Les lobbies d’entreprises exigent que les réglementations les affectant soient prouvées par une science solide, mais cela signifie qu’aucune réglementation stricte ne peut être élaborée tant qu’un préjudice n’est pas démontré de manière concluante – et ce sans compter que les camps n’ont pas toujours le même rapport de force pour élaborer ces preuves. Enfin, les scientifiques peinent souvent à fournir des réponses fermes, notamment face à des phénomènes complexes, comme c’est le cas en médecine ou dans les sciences de l’environnement. Les appels à une science solide finissent par être une tactique dilatoire qui donne un avantage aux produits industriels, et ce malgré leurs risques… Ainsi, « les scientifiques ont appris dans les années 1930 que le bisphénol A, un composant de nombreux plastiques, imitait les œstrogènes dans les cellules des mammifères, mais ce n’est qu’en 1988 que l’Agence américaine de protection de l’environnement a commencé à réglementer l’utilisation du bisphénol A et ce n’est qu’en 2016 que les fabricants ont finalement été contraints de le retirer de leurs produits. » Dans ce cas, pendant des années, les partisans du bisphénol ont fait passer leurs adversaires plus prudents pour des antiscientifiques au prétexte que les faits (c’est-à-dire l’absence de preuve concluante) n’étaient pas établis. Trop souvent finalement « l’absence de preuve est considérée comme une preuve de l’absence ».

Pourtant, chacun semble de plus en plus agir comme si la science pouvait être apolitique, alors qu’actions et discours qui résultent de cette croyance relèvent bien plus du fanatisme que du scientisme. « Dans une culture dominée par le scientisme politique, les citoyens et les responsables politiques oublient comment écouter, débattre et explorer les possibilités de compromis ou de concession les uns avec les autres. Au lieu de cela, nous en venons à croire que nos opposants n’ont qu’à être informés des faits ou vérités « corrects », sévèrement sanctionnés ou simplement ignorés. Il existe sans doute des cas où le fanatisme peut être justifié, mais le scientisme politique risque de transformer tout débat comportant un élément factuel en un débat fanatique. »

Les risques d’une politique factuelle

Dans un long article pour disponible sur The New Atlantis, Taylor Dotson rappelle que pour le philosophe Karl Popper déjà, dans La société ouverte et ses ennemis, la menace à laquelle sont confrontés nos sociétés démocratiques et ouvertes, n’est pas la désinformation ou l’ignorance, mais la certitude. Pour Popper, la connaissance scientifique est par nature provisoire. L’objectivité scientifique ne découle pas tant des qualités cognitives ou de la neutralité des chercheurs, mais de leur engagement critique vis-à-vis de leurs travaux respectifs, dans une forme de dissidence productive. Les ennemis de ce système sont ceux qui insistent d’abord et avant tout sur une certitude parfaite. « La conviction que la désinformation est aujourd’hui la principale menace pour la démocratie nous rend aveugles aux effets pernicieux de la certitude ». Popper promouvait une défense épistémologique de la démocratie, c’est-à-dire l’idée que la démocratie comprend en elle même un ensemble de stratégies pour aider les sociétés à faire face à l’incertitude. Elle met l’accent sur le caractère provisoire des vérités politiques. La politique est le résultat d’un processus de négociation dans lequel les individus se défient les uns les autres, et pas la décision liée à une compréhension supérieure d’une classe d’experts. Popper n’avait pas imaginé que la certitude fanatique descendrait jusqu’aux individus.

Le danger d'une politique par les faits sur The New Atlantis

Internet permet de choisir son propre chemin de découverte. L’expérience que l’individu y fait lui semble libre, même si les messages, informations et recherches peuvent être sélectionnés par des algorithmes ou présentés de manière partiale. Les médias sociaux promettent une forme de liberté intellectuelle, suggérant que nous pouvons nous débrouiller seuls dans le dédale de l’information. Le scientisme est une théorie simple de l’expertise qui consiste à déléguer les questions spécifiques et techniques aux experts. Le problème, c’est que le scientisme refuse aux non-experts tout rôle dans les réponses spécifiques. Les non-experts se doivent d’écouter la science, comme si les compromis politiques qu’elle produisait n’étaient pas de leur ressort ni problématiques. Depuis que l’expression post-vérité est entrée dans notre vocabulaire, les inquiétudes liées au conspirationnisme ont explosé. Reste que la désinformation et la mésinformation ne s’y réduisent pas. D’abord parce que les conspirations existent et surtout parce que nous sommes en droit d’interroger et critiquer. Bien sûr, le conspirationnisme réduit toutes les questions politiques à des machinations, dans une forme de théorie cynique de l’expertise, où les experts ne servent que les nantis et les puissants.

Conspirationnisme comme scientisme sont tous deux préoccupés par la certitude, estime Taylor Dotson, qui les renvoie dos à dos. Les deux séduisent nos sociétés ouvertes et incertaines en promettant un monde plus simplement ordonné. D’un côté en rejetant les expertises, de l’autre en les adoubant. Pour Dotson, nous devons résister à la tentation de les mettre sur le compte de la personnalité des gens, de leur état mental ou même des médias sociaux. Car les deux tirent leur pouvoir de séduction de la préoccupation de notre culture pour les faits et les données. L’un comme l’autre produit une « politique factuelle », où les citoyens ne débattent plus, ne délibèrent plus, mais consacrent leur énergie à aligner les preuves pour étayer leurs croyances et intérêts. Ils construisent des formes d’intolérance excessives qui sont pour l’un comme l’autre camp, indiscutablement rationnelles et objectives. « Cette politique est pathologiquement pathologisante – c’est-à-dire qu’elle vise à disqualifier les opposants en les diagnostiquant comme pathologiques » Le risque est de transformer tout désaccord en maladie psychique et à en immuniser celui qui fournit le diagnostic. Pire, cela suggère que la seule raison de participer à la politique est d’avoir des opinions fondées sur des preuves. Certes, les preuves et les faits ont une grande importance, mais les valeurs en ont tout autant. Le risque, en masquant nos oppositions sur les valeurs, est de miner nos capacités à délibérer, et finalement à dépolitiser nos désaccords, à leur enlever leur complexité morale et pratique. « Dès lors que nous considérons que la politique est définie uniquement par « les faits », la politique n’existe plus », rappelle Dotson. « La démocratie fonctionne traditionnellement par le biais de la fracturation et de la reformation constantes de coalitions, d’alliances composées de groupes disparates cherchant chacun à transformer leurs propres aspirations en lois. Elle dépend des ennemis précédents qui s’associent et négocient pour conclure des accords, pour atteindre des objectifs communs ». Mais si l’opposition politique n’est considérée que comme le produit de la désinformation ou de l’analphabétisme scientifique, tout compromis devient impossible, irrationnel, puisqu’il consiste à sacrifier la vérité. « Nous nous sommes profondément trompés en croyant que l’ère de la post-vérité pouvait être combattue en redoublant d’efforts en faveur de la science », estime Dotson. Au contraire, le scientisme rend plus difficile l’enjeu à réconcilier des positions antagonistes et qui deviennent méfiantes l’une envers l’autre. La politique factuelle attise le conspirationnisme. « En se retranchant à tout bout de champ derrière le principe « suivre la science », nos dirigeants ont réduit les gens à des vecteurs de propagation de la maladie, à des points de données à contrôler, tout en affichant une attitude indifférente à l’égard de leurs réalités vécues ». Ce « leadership » rend assurément les personnes sceptiques, explique Dotson en se référant à une étude qui s’intéresse à l’impact du leadership sur les croyances conspirationnistes de leurs employés. Les leaderships despotiques – « où les employés se sentent dominés, contrôlés et marginalisés » – nourrissent les craintes. Là où les leaders sont despotiques, les employés sont plus susceptibles de croire que leurs managers sont ligués contre eux. En minimisant le caractère faillible des avis d’experts et la nature provisoire des connaissances, en minimisant le doute, le scientisme alimente le conspirationnisme. Lorsque les erreurs et changements d’avis des experts ne sont pas ouvertement discutés, l’intention malveillante devient souvent la seule explication. La politique factuelle oublie de tenir compte de l’essence même de la politique : à savoir des visions morales différentes, l’évaluation et la recherche de compromis constants. Le scientisme comme le complotisme promettent un monde où la politique serait pure. Tous deux produisent une société fermée aux désaccords politiques.

Pour Dotson, la politique devrait se préoccuper bien plus de connexion que de savoir. Pour l’historienne Sofia Rosenfeld, « ce dont les individus ont besoin, c’est du retour à un type de vie publique qui les oblige à peser et à considérer constamment les choses du point de vue des autres » – or, à tout voir par les données, le risque est de n’embrasser aucun point de vue, comme nous le disaient Lauren Klein et Catherine D’Ignazio. Pour le politiste Benjamin Barber, le discours démocratique fort incorpore « l’écoute aussi bien que la parole, le sentiment aussi bien que la pensée, et l’action aussi bien que la réflexion » Le désaccord est inéluctable. La politique est un processus d’apprentissage qui doit accepter ses incertitudes. « Les experts de la santé n’auraient pas dû décourager aussi vigoureusement le port de masques au début de la pandémie, surtout pas en affirmant avec une confiance aussi mal placée qu’il n’y avait aucune preuve que les masques fonctionnaient. Au lieu de cela, ils auraient dû faire part de leurs préoccupations concernant la pénurie de masques et de leur incertitude quant à l’utilité exacte des masques en dehors d’un hôpital ». Pour Dotson, le déploiement du vaccin restera entravé tant que les experts et les responsables nieront leurs incertitudes les concernant. Les accidents nucléaires du milieu du XXe siècle sont en partie imputables aux faits que les centrales aient été déployées plus rapidement que la reconnaissance de leurs dangers potentiels. Boeing a poussé ses ingénieurs à travailler deux fois plus vite qu’à l’accoutumée pour mettre au point la conception du 737 Max compromettant sa stabilité. L’adoption généralisée de techniques agricoles intensives a généré des problèmes environnementaux imprévus. « La nouveauté, le rythme et l’échelle se combinent pour mettre à l’épreuve la capacité des organisations, même les meilleures, à reconnaître et à corriger les erreurs. »

Dans Dealing with an Angry Public (Free Press, 1996, non traduit), Lawrence Susskind et Patrick Field soulignaient que les colères des publics sont alimentées lorsqu’elles sont minimisées ou sous-estimées. Lorsque les erreurs se produisent – et elles se produisent -, la confiance est bien souvent irrévocablement perdue. « Tant que les experts et les politiques tenteront de forcer le consensus en faisant appel à la science, les préoccupations des citoyens ne feront que croître ». Et Dotson de rappeler, à la suite du livre de l’historienne Nadja Durbach Bodily Matters (2004) que le mouvement de résistance nourri contre la vaccination antivariolique en Angleterre au XIXe et début du XXe siècle a été apaisé en introduisant l’objection de conscience. Pour Dotson, nous devrions apprendre des désaccords et leur laisser de l’espace. Être d’accord est plus la fin de la politique plus que son début, et même ainsi, être d’accord est souvent partiel, provisoire et contingent. Pour lui, en abandonnant l’idée que le consensus doit précéder la politique, nous pouvons promouvoir une gouvernance plus réactive, qui aspire à gagner la confiance progressivement en testant de nouvelles politiques.

Partir de l’expérience des gens pour les amener à considérer les points de vue différents et à créer des liens, fonctionne mieux qu’une approche basée sur les faits ou l’information. Enfin, il souligne qu’il est plus que nécessaire de s’intéresser sérieusement aux expériences de ceux qui hésitent à se faire vacciner. Les Afro-Américains par exemple, sont plus sceptiques à l’égard des vaccins alors qu’ils ont été plus touchés par le virus. Mais leur hésitation est le fruit d’une longue méfiance à l’égard du système médical, lié aux injustices raciales historiques et aux disparités de traitement actuelles, bien plus qu’à leur analphabétisme scientifique ! Le scepticisme vaccinal des personnels de santé s’explique bien plus par le fait qu’ils aient travaillé pendant des mois sans protection efficace et que le système, finalement, ne fait pas de leur bien-être une priorité. « Si notre politique avait été ancrée dans l’appréciation de l’expérience plutôt que dans l’idolâtrie de l’expertise, nous aurions depuis longtemps reconnu que l’hésitation à se faire vacciner n’est pas seulement une question d’ignorance. Nous aurions remarqué les dysfonctionnements plus profonds de notre système médical. »

Enfin, estime Dotson, nous devons ouvrir nos débats à une diversité de considérations morales plutôt que de ne regarder que les modèles épidémiologiques.

Dotson ne semble pas confiant. Remettre l’incertitude, l’expérience et le désaccord moral en politique nécessite un long chemin. Nos dirigeants préfèrent maintenir le cap d’une politique factuelle. Pour résoudre ces difficultés, Helene Landmore propose de transférer davantage de gouvernance à des conseils délibératifs… comme l’a été, en France, la convention citoyenne pour le climat. Encore faut-il entendre ce que ces conventions disent ! Pour Dotson, nous devons trouver la voie d’une démocratie qui cherche moins à avoir raison et qui recherche un peu plus la délibération et l’interconnexion.

Pas sûr que nous en prenions le chemin. Dans un monde où la donnée devient centrale, celle-ci risque de produire beaucoup d’illusion du consensus que d’antagonismes et de diversité.

Hubert Guillaud

Dé-monopoliser l’internet par l’interopérabilité

Et si nous réparions l’internet plutôt que les géants de la tech, explique le toujours pertinent Cory Doctorow (@doctorow) dans un édito pour la revue Communications de l’ACM (@cacmmag).

Plutôt que de chercher à réparer FB en le forçant à lutter contre la désinformation ou Google en l’obligeant à filtrer les contenus qui contreviennent au droit d’auteur – sans qu’il soit certain que ces approches portent leurs fruits, puisqu’il reste difficile de faire la distinction entre la parodie, le commentaire et leurs formes problématiques ou illicites – peut-être est-il temps d’opter pour une autre approche ? Et Doctorow de proposer de déporter notre regard pour mieux embrasser le problème. Pour lui, nous avons plutôt un problème de concurrence qu’autre chose. Les monopoles du « cartel des Big Tech », comme il les appelle, ne se résoudront pas en les contraignant à réparer leurs effets toxiques (au risque de leur donner toujours plus de pouvoir), mais en regardant ce qui cause et permet leur puissance. Pour Doctorow, c’est l’internet qu’il faut donc réparer. Pour combattre la concentration et la monopolisation des géants, c’est leurs silos qu’il faut abattre. Et pour cela, le régulateur dispose d’une arme assez simple et efficace et qui a déjà fait ses preuves : l’interopérabilité !

L’interopérabilité, rappelle Doctorow, c’est la capacité des produits et services à travailler ensembles depuis des normes, standards et pratiques communes. L’interopérabilité permet à de nouveaux entrants sur un marché de profiter des avantages de « l’effet réseau » déjà établi pour l’utiliser à leur propre avantage. Doctorow rappelle d’ailleurs l’histoire d’AT&T. Jusque dans les années 70, l’opérateur historique américain détenait un impressionnant monopole sur les télécommunications américaines. Outre son monopole sur le réseau, ses abonnées devaient non seulement payer l’abonnement et la connexion, mais également la location de téléphones AT&T : l’entreprise leur interdisant l’achat ou l’utilisation de téléphones d’autres marques ! Non seulement l’entreprise finira par être scindée en différentes entités, mais surtout, elle sera poussée par le régulateur à l’interopérabilité. Ses concurrents ont pu accéder à ses réseaux et ses clients ont été libérés de la contrainte de la location monopolitistique que l’entreprise imposait.

Pour Doctorow, dans la bataille actuelle à l’encontre du cartel des Big Tech, le régulateur oublie trop souvent la valeur de l’interopérabilité.

Il en propose d’ailleurs une intéressante taxonomie.

La forme la plus courante de l’interopérabilité est une interopérabilité indifférente, c’est-à-dire quand un système ne prend aucune mesure pour faciliter ou bloquer l’interopérabilité. Une entreprise fait un produit. Une autre fait un produit qui fonctionne avec le précédent, sans lui en parler et la première laisse faire. C’est le cas par exemple de l’allume-cigare des voitures, né dans les années 20, que les constructeurs d’automobiles ont fini par monter en série pour répondre à son succès. La normalisation de ce port électrique s’est faite sans entrave, tant et si bien que cette prise permet désormais de brancher tout et n’importe quoi. C’est le cas également de la prise Jack par exemple que l’on trouve sur nombre d’appareils et qui permet d’y brancher n’importe quel casque ou écouteurs.

La seconde forme est l’interopérabilité coopérative, qui repose principalement sur la normalisation et la standardisation. Ainsi un fournisseur de téléphone mobile ou un constructeur automobile qui installe une puce Bluetooth permet à n’importe quel appareil de s’y connecter. Ici, l’enjeu est de permettre l’ajout de fonctionnalités normées ou standardisées accessibles à tous… à l’image d’API ouvertes qui permettent de récupérer des données ou des fonctionnalités pour les réutiliser. C’est là le fonctionnement assez traditionnel de l’industrie qui consiste à bâtir des normes communes afin qu’elles profitent à tous.

La limite ici, c’est qu’avec le numérique, on peut ajouter des programmes informatiques ou des conditions pour discriminer accessoires ou services normalisés. Ces programmes informatiques peuvent être avantageux pour l’utilisateur : ils peuvent par exemple vous avertir quand vous connectez un appareil Bluetooth qui a des défauts de sécurité ou qui figure sur une liste noire d’appareils malveillants qui siphonnent vos données. Mais ils peuvent également être riches d’inconvénients pour les utilisateurs : ces programmes peuvent être ajustés pour empêcher de connecter des écouteurs ou le clavier d’une marque concurrente par exemple. Les appareils et services connectés peuvent ajuster le degré d’interopérabilité de leurs interfaces numériques d’un moment à l’autre, sans préavis ni appel, ce qui signifie que le plug-in d’un navigateur peut d’un coup cesser de fonctionner du jour au lendemain parce qu’un accès a été coupé. Cette forme d’interopérabilité est donc limitée à la volonté changeante des entreprises, à leurs politiques… Normes, standards et API peuvent donc rendre le dialogue entre les systèmes plus simples… comme plus compliqués.

La troisième forme qu’évoque Doctorow est l’interopérabilité adversariale (on parle aussi d’interopérabilité contradictoire, antagoniste ou de « comptabilité compétitive »). Ici, Doctorow évoque des produits qui se connectent à un objet ou service en lui étant « hostile ». C’est le cas par exemple d’applications pour téléphones non autorisées ou plus encore de cartouches d’encre ou de capsules à café compatibles avec celles qu’imposent les marques et formats propriétaires. Bien évidemment, là encore, le numérique permet d’introduire des contre-mesures de contrôle pour tenter de pallier ces formes d’interopérabilité forcée !

Ces trois formes d’interopérabilité, explique Doctorow, reposent sur des moyens permettant d’étendre ou limiter les fonctionnalités. Ce qui les différencie, bien sûr, c’est la façon dont ils prennent en compte les priorités des utilisateurs. Fort heureusement, rappelle Doctorow, l’interopérabilité l’emporte souvent, notamment parce que c’est « l’état par défaut du monde ». « Le fabricant de chaussettes n’a pas le droit de spécifier les chaussures que vous devez porter avec elles, pas plus que la laiterie ne peut dicter sur quelles céréales vous pouvez verser son lait ».

Pour que des marchés réellement concurrentiels, innovants et dynamiques se mettent en place, l’interopérabilité ne suffit pas. Il est nécessaire de pouvoir mettre en place une interopérabilité contradictoire, c’est-à-dire une interopérabilité qui se « branche » sur des services ou produits existants « sans autorisation » des entreprises qui les fabriquent. À l’heure où l’interopérabilité s’est considérablement refermée avec le développement des brevets logiciels ou des outils de gestion des droits numériques, il faut souvent montrer patte blanche pour interconnecter ses systèmes à d’autres. Favoriser l’interopérabilité contradictoire est une partie de la solution à la concentration, estime Doctorow. Le problème est que le numérique rend l’interopérabilité contradictoire toujours plus difficile, notamment parce que l’une de ses caractéristiques est justement de pouvoir créer et démultiplier des fonctions et modalités de contrôle aux accès. Les règles se démultiplient et si vous ne les respectez pas, vos accès sont fermés. L’interopérabilité est d’autant plus mise à mal que l’incompatibilité s’étend. La fermeture favorise la domination de quelques-uns sur tous les autres.

L’interopérabilité reste pourtant un levier simple et fort pour renforcer la concurrence. Le problème est que comme elle est de plus en plus rendue compliquée, elle devient une finalité. Pour Doctorow, permettre aux utilisateurs de transférer leurs données, d’un service à l’autre, d’une entreprise à une autre devrait être un point de départ, pas une finalité. Le risque, estime-t-il, est que « l’interopérabilité soit le plafond de l’innovation plus que son plancher ».

Pour Doctorow, l’interopérabilité n’est pas le seul levier. L’Electronic Frontier Foundation (@eff), l’association de protection des libertés numérique – dont Doctorow est l’un des piliers – défend ainsi un Access Act, un projet de loi antitrust en plusieurs mesures qui vise à promulguer des lois pour : interdire l’autoréférencement (et faire passer ses produits avant ceux de ses rivaux) ; bloquer les acquisitions anticoncurrentielles ; bloquer les « jardins clos » ; à imposer l’interopérabilité en forçant les grandes entreprises à proposer des API pour permettre aux utilisateurs d’aller sur un service concurrent tout en continuant à pouvoir discuter avec ceux qui ne font pas le même choix ; et à mieux financer l’organisme régulateur américain pour s’assurer d’un meilleur contrôle. Comme l’explique l’article, il manque encore un « droit d’action privé », permettant au public de poursuivre une entreprise qui ne respecte pas ces mesures (équivalent à l’article 82.1 du RGPD, qui permet aux utilisateurs qui subissent un dommage matériel ou moral d’obtenir réparation). Le cartel des Big Tech doit avoir plus de limites légales sur l’utilisation et le traitement des données des utilisateurs, et ce en renforçant la protection de la vie privée et les droits des utilisateurs.

Mettre fin aux monopoles plutôt que les améliorer

« Bien mieux que d’essayer de transformer les monopoles massifs et peu fiables en « bons monopoles », il faut mettre fin aux monopoles et créer un monde en ligne fédéré où les utilisateurs peuvent choisir les normes d’expression qui leur conviennent et se connecter aux utilisateurs d’autres services », explique Doctorow. Plutôt que pousser les entreprises monopolistiques au filtrage et à la surveillance des contenus des utilisateurs, il serait plus efficace de les pousser à l’interopérabilité et à la portabilité.

Le problème est que nous prenons le problème à l’envers, estime Doctorow. « Au lieu de faire de Google, Facebook, Amazon, Apple et Microsoft les maîtres permanents de l’internet et de s’efforcer de les rendre aussi inoffensifs que possible, nous pouvons réparer l’internet en faisant en sorte que les grandes entreprises technologiques jouent un rôle moins central dans son avenir. ». En imposant le filtrage et la surveillance des contenus plutôt que l’interopérabilité, nous promouvons un internet hostile aux nouveaux entrants (qui ne peuvent se mettre en conformité avec les règles édictées, tant la marche technique et financière est haute) et nous minons l’autodétermination technologique des utilisateurs en faisant que les violations des conditions de services ou que la neutralisation des mesures techniques de protection (MTP ou DRM) soient transformées en infractions civiles ou pénales. Certes, reconnait Doctorow, il est probable que les gens fassent des choses mal avisées en connectant des outils à leurs comptes FB, Google ou Apple, comme cela peut arriver quand ils branchent n’importe quoi à leur prise d’allume-cigare. Mais nous les empêchons aussi de prendre soin d’eux ! C’est par exemple ce que raconte le développeur Louis Barclay @louisbarclay, blog), le fondateur de Nudge.io dans un article pour Slate. Non seulement Facebook s’en prend aux chercheurs en coupant leurs accès (comme cela a été le cas cet été à l’encontre de chercheurs de la New York University), mais il s’en prend également aux outils qui tentent de donner aux utilisateurs un plus grand contrôle sur leurs données et leur expérience. Barclay y raconte comment FB l’a menacé d’une action en justice et a désactivé définitivement tous ses comptes. Sa faute, avoir créé un outil pour rendre FB moins addictif. Cet outil était une extension pour navigateur permettant aux utilisateurs de supprimer leur fil d’actualité quand ils se rendent sur FB. À la place, ils accédaient à une page vide. Pour Barclay, c’était là un moyen de lutter contre la toxicité attentionnelle de la plateforme. Pour obtenir de l’information depuis ce plug-in, il faut se rendre sur les pages ou profils de ses amis directement, permettant d’acquérir un contrôle inédit sur les contenus disponibles (et surtout de mieux maîtriser le temps qu’on y passe). On peut supprimer manuellement les contenus de son fil en allant dans les paramètres, rappelle Barclay, mais c’est long et fastidieux. Il a juste proposé un outil pour automatiser le processus via un plug-in disponible sur le Chrome Store. Face aux menaces, Barclay a cédé : il n’a pas les moyens d’affronter le géant ! Il n’est pas le seul à subir les foudres du géant. L’été dernier FB s’en est pris à Friendly, un outil permettant aux utilisateurs de basculer entre plusieurs comptes de médias sociaux… Pour Barclay, « le comportement de FB n’est pas seulement anti-concurrentiel, il est aussi anti-consommateur ». « On nous enferme dans des plateformes (…) puis on nous empêche de faire des choix légitimes sur la façon dont nous pouvons les utiliser ».

Le fil d'information de FB avant et après installation du plug-in de Louis Barclay

L’essor des plateformes monopolistiques a concentré leurs pouvoirs. Leurs trésoreries illimitées leur permettent de mener un intense lobbying pour miner toute compatibilité et interopérabilité, alors que nous avons là un outil assez simple et disponible. Pour l’instant, les autorités et les États tentent de se servir des pouvoirs des plateformes pour assurer leurs propres missions. Pas sûr que cela fonctionne longtemps. Doctow rappelle qu’AT&T avait failli être démantelée dès 1956, mais que le Pentagone s’y était opposé en utilisant AT&T pour qu’elle rende des services à l’État plutôt que d’utiliser le pouvoir de l’État pour l’affaiblir. Les restrictions imposées à l’entreprise n’avaient cessé d’être bafouées… Et au final, l’État américain, 26 ans plus tard, avait été contraint de jeter l’éponge et de démanteler l’ogre du fait des protestations des entreprises et des utilisateurs. Un rappel historique qui devrait faire réfléchir en tout cas, conclut Doctorow en soulignant que les entreprises ne sont pas des gouvernements et qu’elles n’ont pas à nous gouverner !

Pour Doctorow, finalement, la tentation aujourd’hui est forte de punir les grandes entreprises en leur accordant une position encore plus dominante et permanente qu’elle n’est ! À l’heure où les problèmes qu’elles génèrent se multiplient, la tendance est forte de leur demander d’être plus répressives encore et donc d’accélérer leurs incompatibilités entre elles ! Pire : de refermer des marchés. Le filtre de YouTube, Content ID, dont le coût de développement est estimé à 100 millions de dollars est inaccessible à tout nouvel acteur qui voudrait se lancer dans la vidéo en ligne et qui serait contraint d’avoir des outils de modération équivalents. Pour Doctorow, ce filtrage coûteux devrait être une responsabilité d’État, mais comme il est le fait d’entreprises privées, il rend bien plus difficile l’émergence d’une quelconque concurrence.

Alors qu’ils doivent tous leur existence à l’interopérabilité, ironise Doctorow, le cartel des Big Tech est désormais déterminé à empêcher tous nouveaux venus de leur faire ce qu’ils ont eux-mêmes fait aux autres ! Le problème, c’est qu’elles ont truqué le système pour qu’il soit douloureux pour vous d’aller ailleurs. Alors que l’interopérabilité réduit le coût à changer, l’absence d’interopérabilité tient durablement l’usager en otage ! Pour Doctorow, l’interopérabilité est assurément l’outil dont nous avons besoin. Mais nous ne devons pas seulement ouvrir aux utilisateurs leurs possibilités, il faut aussi permettre aux plateformes de se connecter entre elles au profit des utilisateurs et pas seulement au profit de leurs seuls modèles d’affaires.

Hubert Guillaud

Rationalité et irrationalité pandémiques

« Apprendre à vivre avec le virus » est un message peu rassurant qui nous demande d’apprendre à vivre avec l’incertitude, explique Lauren Collee (@lacollee) dans l’indispensable Real Life (@_reallifemag). « Ce message est aussi effrayant pour les organismes que pour le grand public, car l’incertitude est fondamentalement en contradiction avec le type de rationalisme empirique qui génère des récits rassurants sur la fermeture », c’est-à-dire sur la fin possible de la pandémie. Or, après 2 années de pandémie, le soulagement d’une fin de pandémie ne semble toujours pas à l’horizon.

En psychanalyse, Arie Kruglanski, dans les années 90 a imaginé le concept de « besoin de closure cognitive », c’est-à-dire le besoin de mettre fin à quelque chose pour en évacuer l’incertitude, l’inconfort ou l’ambiguïté. Pour la sociologue Nancy Berns (@nancy_berns), qui a étudié La fin du deuil et ce qu’il nous coûte (Temple University Press, 2011, non traduit), la fermeture est souvent considérée comme essentielle à la guérison ou à l’acceptation. Nous n’avons cessé de nous accrocher à un espoir que le moment Covid s’arrête, que le monde revienne à la normale, comme le fait une tempête. Mais, ni le Covid à court ou moyen terme, ni le réchauffement climatique à long terme n’annoncent de retour à la normale.

Pour la spécialiste de bioéthique, Catherine Belling (@CateBelling), auteure de La condition du doute : le sens de l’hypocondrie (Oxford University Press, 2012, non traduit), nous devrions plutôt prendre mieux en compte l’hypocondrie, c’est-à-dire, derrière notre inquiétude obsessionnelle à la santé, revoir le schéma trop simple qui nous mène d’un symptôme à une guérison. Pour elle, l’hypocondrie n’est pas tant un trouble psychique, que quelque chose d’inhérent à la médecine contemporaine où la connaissance est nécessairement confrontée à son propre doute. Elle n’est pas qu’une façon de se croire malade, mais un terrain d’anxiétés sociétales partagées lié à un système médical qui se pense plus omniscient qu’il n’est ! L’hypocondriaque est le reflet sombre de la biomédecine, explique-t-elle. Il pose la question de ce que l’on sait et de ce que l’on ne sait pas. Nous avons tous eu l’impression depuis le début de l’épidémie d’avoir plusieurs fois eu les symptômes du Covid. Nous sommes nombreux à être inquiets dès que quelqu’un tousse ou expectore à nos côtés ! Pourtant, l’hypocondriaque est bien le contraire du malade chronique : il ne cesse de chercher obsessionnellement une fin à ses symptômes, quand le malade chronique sait lui combien le mot guérison est un piège. Et pourtant, l’hypocondriaque ne parvient pas à fermer la page, à clore son rapport à ses angoisses médicales. Pour Belling, l’hypocondrie est finalement la condition d’un être humain rationnel dans une société médicalisée aux connaissances par nature instables. Pour l’hypocondriaque, le diagnostic du médecin est lu en relation avec nombre d’autres informations. La fermeture du diagnostic semble alors plus difficile à accepter. Comme si plus d’informations ne conduisaient jamais à plus de certitudes. Ici, l’internet n’a pas changé la donne, au contraire, comme nous le pointions nous-mêmes. Même si nous percevons l’information comme un narrateur omniscient, nous sommes surpris de constater qu’il ne peut pas toujours répondre à nos questions, comme le pointait très bien Linda Besner dans un précédent article de Real Life sur ce que nous ne pouvons pas googliser et les réponses que ne nous apportent pas l’information. Pour Belling, les récits de santé publique s’appuient souvent sur des conventions narratives assez linéaires. À l’heure où les vaccins montrent qu’ils ne sont pas la solution miracle attendue et que rien ne nous garantit d’une « fin » du Covid, on comprend que les récits simplistes et solutionnistes des autorités politiques ou scientifiques soient brouillés par des actualités qui montrent justement que cette lecture est trop simpliste et que l’avenir est plus complexe et incertain. Pour Belling la stratégie des autorités à utiliser la peur comme outil de communication finit souvent par produire une anxiété moins cohérente, qui résiste à toute réassurance. Pour Belling, le doute et l’incertitude font partie intégrante de la médecine qui ne doit pas chercher à la nier. L’hypocondrie ne vise pas tant à saper l’expertise médicale finalement, mais l’invite à adopter des modes plus auto-réflexifs et finalement plus complexes. L’idée d’avoir à vivre avec le virus nous renvoie à une cohabitation qui va continuer à façonner nos vies et nos décisions d’une manière plus incertaine que nous ne le voudrions. Accepter ces incertitudes devrait être essentiel pour construire des systèmes médicaux plus humains, plus justes, plus durables… et finalement moins coercitifs et injonctifs. Pour autant, l’espoir de fermeture demeure fort. Il explique peut-être pourquoi nous nous accrochons à des solutions imparfaites en termes de mesures de santé publique, comme ont pu l’être les confinements ou comme peut l’être le passe sanitaire.

Aimee Walleston (@AimeeWalleston) propose un constat assez proche dans un autre article pour Real Life. Le refus vaccinal doit lui aussi s’entendre dans le contexte d’une médicalisation toujours plus étendue de la société. La promesse vaccinale qui se dessinait dès l’hiver 2020 a apporté l’espoir d’un retour à la normale. Mais les variants et la difficulté à atteindre une efficacité vaccinale optimale ont rapidement douché les espoirs. Les vaccins se sont avérés protecteurs notamment contre les formes graves de la maladie. Mais tout comme les masques ou les tests, les vaccins sont également devenus un point de division de la société. Pourquoi ce vaccin a-t-il été considéré par tant de personnes comme suspicieux (contrairement aux autres obligations vaccinales, dont le rejet est finalement très marginal) ou comme une atteinte à la liberté individuelle ? À l’inverse, pourquoi ce vaccin a-t-il été promu comme LE moyen de mettre fin à la pandémie ? Ces deux réactions sont opposées, mais s’inscrivent l’une comme l’autre dans la même histoire de médicalisation de la société et la croyance que nombre de nos problèmes de santé peuvent être résolus par une intervention médicale individuelle.

La distanciation sociale, le port du masque, la fiabilité des tests, comme la vaccination… ont tous reçu le même accueil. D’un côté, ils étaient la nouvelle liturgie des uns, de l’autre ils étaient la nouvelle profanation des libertés fondamentales des autres. Les uns considérant les autres comme paranoïaques, égoïstes, soumis à un lavage de cerveau et totalement déconnectés de la réalité… et inversement. Le scepticisme comme la foi en l’autorité de l’expertise médicale étaient pour les uns comme pour les autres considérés comme de l’ignorance ou de l’aveuglement.

Les informations sont toujours restées confuses, comme elles l’ont longtemps été sur le port du masque ou comme elles le demeurent encore un peu sur ses modalités concrètes d’utilisation. Les désaccords scientifiques ont été nombreux (par exemple sur le mode de transmission). Les incohérences nourries. Les critiques à l’encontre de la médicalisation de nos sociétés et du régime de vérité imposé par la santé remontent aux années 60, armées par des sociologues, des philosophes et des psychiatres comme Irving Zola, Ivan Illich, Peter Conrad ou Thomas Szasz. Ces critiques ne disent pas que la médecine a souvent tort, mais pointent surtout combien la santé personnelle a cherché à imposer des formes de conformité sociale, comme l’explique Tiago Correia (@correia_tiag) dans un article « Revisiter la médicalisation : une critique des postulats de ce qui compte dans la connaissance médicale ». La médicalisation évoque d’abord l’influence et le rôle de la réglementation médicale dans la vie quotidienne qui a remplacé les institutions de contrôle social précédentes, notamment l’Église et l’État, notamment dans la gestion de la déviance. La maladie a pris la suite du péché et du crime dans la condamnation des comportements non conformes. Ces changements de perspectives n’ont pas eu que des effets délétères, bien sûr. La médicalisation a certainement largement participé à l’amélioration des conditions de vie sur terre. Elle a élargi ses impacts : certains comportements ne relevaient plus d’une défaillance morale personnelle ou d’un crime, mais d’une maladie, comme l’a montré la montée de la prise en compte des addictions. Mais la médicalisation a également étendu son regard sur des états qui ne relevaient ni du crime ni de la morale, recouvrant un éventail toujours plus large d’expériences. C’est un peu comme si tous nos comportements étaient désormais devenus médicaux, comme si les frontières entre les questions médicales et les autres questions s’étaient estompées. La société semble avoir pathologisé les problèmes quotidiens. C’est ce que dénonçait notamment Illich dans son livre, Némésis médicale : l’expropriation de la santé (Le Seuil, 1975), expliquant que la règle médicale s’imposait partout. « La maladie est présumée jusqu’à ce que la santé soit prouvée, tout le système juridique prétend présumer l’innocence », explique Walleston. Pour Illich, le médecin est efficace quand il diagnostique, mais, s’il ne présume pas que le patient est atteint d’une maladie, c’est néanmoins ce qu’il recherche. Il diagnostique donc la maladie plutôt que la santé. Pour Illich, nous sommes désormais dans une société qui transforme les gens en patients où les professionnels de santé exercent une autorité qui va au-delà de la salle de soins, comme l’a montré plus que jamais la pandémie. Pour Illich, nous sommes entrés dans un « impérialisme du diagnostic » qui permet aux « bureaucrates médicaux » de « subdiviser les gens entre ceux qui peuvent conduire une voiture, ceux qui peuvent s’absenter du travail, ceux qui doivent être enfermés, ceux qui peuvent devenir soldats, ceux qui peuvent franchir les frontières, cuisiner, pratiquer la prostitution… ceux qui ne peuvent pas se présenter aux élections (…) ».

Même si cela ne suffit pas pour rejeter les mesures de santé publique, l’idée permet de considérer le refus de la souveraineté médicale non pas tant comme un acte d’ignorance volontaire, mais comme une forme de lutte politique contre ce qui est perçu comme un excès de bureaucratie ou de décision du système médical comme des autorités. Si la médecine a tout pouvoir, la seule façon de s’y soustraire est de la refuser. Dans La médecine comme institution du contrôle social (1972), le sociologue Irving Zola affirme que le discours médical « écarte, voire incorpore, les institutions plus traditionnelles que sont la religion ou l’État. Il devient le nouveau dépositaire de la vérité, le lieu où les jugements absolus et souvent définitifs sont portés par des experts supposés moralement neutres et objectifs », contrairement au clergé ou aux représentants de la loi. Les jugements portés au nom de la santé semblent toujours incontestables (qui voudrait être en mauvaise santé ?), pourtant elle reste un concept politique comme un autre. La santé est ouverte au débat, complexe, multidimensionnel et évolutif, selon par exemple l’importance accordée aux objectifs individuels ou collectifs ou ce qu’on mesure comme relevant de la santé ou n’en relevant pas. « Tout comme il existe de nombreuses façons d’être désavantagés dans la société américaine, il existe de nombreuses façons de définir ce que le terme d’incapacité (ou de maladie ou de handicape) recouvre ». La crise des opioïdes est l’exemple classique de ce qu’Illich qualifiait d’iatrogenèse, par lequel l’intervention médicale accroit la maladie et ses maux sociaux.

Le Covid est bien une crise de santé publique, estime Walleston qu’on peut atténuer par les gestes barrières ou les vaccins. Reste que le scepticisme n’est pas qu’une question de désinformation, il est aussi l’expression de ce que la médicalisation de la société et l’individualisme produisent. Comme l’ont rappelé Caroline Buckee, Abdisalan Noor et Lisa Sattenspiel dans un article pour Nature, les forces centrales qui façonnent les variations locales et mondiales de la charge et de la dynamique de la maladie sont sociales, plus que biologiques. Si d’importantes questions biologiques restent sans réponses, les multiples vagues d’infections qui ont eu lieu ont aussi été favorisées par des politiques de contrôle changeantes et hétérogènes et notamment sur l’impact disproportionné que la maladie a eu sur les communautés les plus pauvres et éloignées des soins. « La perspective d’une réponse médicalisée a négligé de tenir compte de la manière dont les normes communautaires ont un impact sur la santé globale de la société – et ce d’autant plus que dans son cadre limité de diagnostics individuels, elle ne donne pas la priorité à la santé « sociale ». » La médecine est elle aussi sous l’emprise des impératifs du capitalisme et des exigences du consumérisme, comme l’a montré la crise des opioïdes et la réponse à la pandémie ne s’est pas extraite de ce contexte-ci.

Ces dernières années, l’expansion du médical dans nos vies a produit une contre-réaction importante, faite de discours alternatifs entre médecine alternative et promotion du bien-être. Le soin personnel (self-care ou auto-soin) est un concept qui a été proposé par la théoricienne des soins infirmiers Dorothea Orem pour décrire la responsabilité d’un individu dans la gestion et le maintien de sa propre santé. Pour elle, un patient ne doit pas être trop dépendant de l’assistance médicale. C’est à lui d’abord de prendre soin de lui, la médecine prenant le relais quand cela ne suffit plus. Le capitalisme a depuis avalé le concept en faisant à la fois de la santé un produit à consommer et du soin personnel une alternative à la médecine.

Enfin, explique Walleston, la question de la santé et notamment de l’assurance maladie, aux États-Unis, est largement liée à l’emploi. La santé est liée à la viabilité économique d’une personne, « comme si le maintien du bien-être était une question de maintien de la productivité du travailleur ». La santé, la sécurité ou le bonheur sont de plus en plus souvent présentés comme quelque chose qui peut être consommé de manière individuelle. Et c’est là un héritage du cadre médicalisé dans lequel nous vivons et qui a façonné la logique des réponses à la pandémie, tant de l’État, que du système de soin, que des individus. Le vaccin est devenu un combat entre factions en guerre : « un groupe veut une sécurité parfaite grâce au médical, l’autre veut une liberté parfaite grâce au refus. Mais prendre ou ne pas prendre le vaccin ne peut apporter ni l’un ni l’autre. »

Bien sûr, souligne Walleston, ces constats n’apportent aucun argument au refus vaccinal. Choisir d’être vacciné pour répondre à une crise de santé publique est la meilleure approche et la plus universellement bénéfique que nous ayons en ce moment. Reste que les controverses sur l’obligation vaccinale ne devraient pas nous servir à haïr les autres, mais à nous poser la question de la santé que nous voulons. Et celle-ci ne peut assurément pas reposer uniquement sur les ordres qu’on nous donne. Surtout quand ceux-ci finalement ne perçoivent de leurs objectifs que la seule santé au détriment de tous les autres droits. C’est un peu comme cette rengaine que la sécurité serait la première des libertés. Nos droits sont un équilibre. Les ordres de la médecine ne suffisent pas à faire société, au contraire, à mesure qu’ils se démultiplient, ils en interrogent plus que jamais le sens !

Hubert Guillaud

Application de suivi de contact : quel bilan ?

Cet été, Algorithm Watch (@algorithmwatch) a publié une analyse sur les applications de suivi de contact. Pour l’ONG, les résultats sont assez contradictoires, notamment parce que les applications et les situations sont peu comparables les unes les autres. Selon le Covid Tracing Tracker de la Technology Review, on en répertorie plus d’une cinquantaine dans le monde. Pour l’ONG cependant, nous ne disposons même pas d’une définition partagée de ce que signifie l’efficacité de ces applications : faut-il compter le nombre de contacts identifiés ou la réduction épidémique que produit ce traçage automatisé ? Pendant plusieurs mois, on a entendu que l’efficacité était liée au volume d’adoption de ces applications (notamment via le fameux seuil des 60 % de téléchargement et d’utilisation !), alors qu’elles peuvent avoir des effets protecteurs à des niveaux bien plus bas. En fait, le haut niveau de téléchargement de certaines d’entre elles ne s’est pas nécessairement traduit par des réponses efficaces en matière de recherche de contact, comme le soulignent les exemples irlandais et finlandais. Pour certains chercheurs, le déploiement de ces applications sans preuve réelle de leur efficacité demeure problématique. Reste qu’il n’aurait pas été possible d’obtenir la preuve de leur inefficacité sans les déployer. Pour autant, la conclusion reste cinglante : l’efficacité des applications de suivi de contact dans leur contribution à la lutte contre le Covid-19 n’est pas concluante !

Covid Vaccine Tracker

Le suivi « manuel » des contacts, via des spécialistes humains, s’est révélé toujours plus efficace. Une autre analyse, elle aussi, conclut que les applications ne sont ni une panacée ni une solution miracle, et encore moins dans les pays les moins développés. En France, une étude de perception a montré que les personnes les plus précaires, qui sont aussi les plus exposées au virus, sont également les plus réticentes à utiliser une application. Pour le dire autrement, il ne peut y avoir d’adoption optimale sans réduction des inégalités qui agissent sur les déterminants structurels, notamment ceux qui président à la connectivité ou à l’alphabétisation numérique. Une étude parue dans The Lancet a même montré que les outils de recherche de contacts automatisés déployés entre 2000 et 2020 pour d’autres virus, n’ont, là encore, montré aucune preuve d’efficacité, tant en terme de contacts identifiés que pour réduire les transmissions. Là encore, seule la recherche « manuelle », humaine, se révèle essentielle. Les applications décentralisées de notification d’exposition (celles qui adoptent le protocole GAEN, Google/Apple Exposure Notification, développé par Apple et Google), elles, semblent avoir montré un peu plus d’efficacité que celles déployées par nombres d’États ! En Angleterre, la recherche numérique de contacts estime une étude pour Nature a permis d’atteindre plus de contacts que la recherche manuelle (4,4 contre 1,8), notamment pour identifier les contacts en dehors du foyer. Les auteurs estiment qu’entre 4 et 8000 décès ont été évités grâce à ces outils (pour 32 000 décès durant la période étudiée), ce qui n’est pas un petit effet. Ils ont estimé également qu’une augmentation de 1 % de l’utilisation de l’application se traduit par une réduction de 0,8 à 2,3 % des infections, c’est-à-dire que chaque personne positive au Covid qui a consenti à notifier ses contacts par l’application a évité en moyenne un nouveau cas. Pour Florian Gallwitz cependant, l’étude ne répond pas à une question de fond : quel pourcentage de personnes averties par l’application ont été réellement infectées ? Pour le spécialiste, il n’y a pas de preuve crédible que les avertissements automatisés soient liés à des événements d’infection réels… En Suisse, où les débats ont été vifs, notamment du fait de la présence de chercheurs qui ont poussé à l’adoption d’applications décentralisées et très protectrices de la vie privée, une étude a pointé le fait que les contacts notifiés par l’application SwissCovid entraient en moyenne en quarantaine un jour plus tôt que ceux qui n’étaient pas notifiés par l’application, mais cela tient peut-être plus du fait d’alertes pairs à pairs ou du fait que ceux qui utilisent l’application sont moins susceptibles de subir un préjudice lié à leur quarantaine, comme l’explique, critique, le chercheur Paul-Olivier Dehaye, qui parle d’un biais d’utilisation, car l’usage de ces applications n’est pas distribué uniformément dans la population. Leur utilisation privilégie des personnes en moyenne plus riches, qui ont tendance à faire confiance aux autorités, plus conscientes et engagées dans la pandémie.

Pour Lucie White et Philippe van Basshuysen, la promesse des applications de recherche de contact semble aujourd’hui largement abandonnée. Pour nombre de gouvernements, leur rôle est vu désormais comme limité. Pour les deux chercheurs, cet échec est lié à la généralisation de solutions décentralisées où les données de proximités sont calculées par les téléphones de chacun plutôt que d’être collectés et analysés dans une base de données centrale gérée par les autorités sanitaires qui aurait permis de mieux signaler le risque de contamination avant que les tests ne confirment ou non la contamination. Une étude préliminaire sur l’efficacité de l’application centralisée norvégienne souligne que l’application a permis de découvrir 11 % de contacts que la recherche manuelle de contacts n’avait pas identifiés. L’application norvégienne a cependant été suspendue en juin 2020 du fait des problèmes de confidentialité qu’elle portait. Amnesty International l’a qualifiée de profondément intrusive, tout autant que celles du Bahreïn et du Koweït, en permettant un suivi quasi direct des déplacements des utilisateurs. Reste que selon l’étude préliminaire sur l’application norvégienne, malgré ses résultats, rien ne prouve que les applications centralisées fonctionnent mieux que les applications décentralisées, au contraire.

La littérature fournit une image très mitigée en termes d’efficacité des applications. L’application israélienne HaMagen, elle, a été considérée comme un échec colossal. Le Japon a vu son programme d’application s’effondrer sous le poids des problèmes techniques. Même constat de défaillance pour l’application italienne Immuni. Aux États-Unis seuls 13 États ont atteint le seuil d’adoption de 15 % que les études de modélisation considèrent comme le premier palier de protection. Mais là encore, difficile de répondre à la question centrale : combien d’infections ont été évitées grâce aux notifications d’exposition ? Pour la journaliste de la Technology Review Betsy Ladyzhets : notre incapacité à répondre à cette question est due à la nature fracturée du système et au fait que mesurer l’efficacité de ces technologies n’était finalement pas une priorité. Pour de nombreux décideurs – en tout cas comme beaucoup s’en justifiaient à l’origine de ces déploiements applicatifs -, ne trouver ne serait-ce qu’un cas supplémentaire grâce à une application est utile – même si cette affirmation un peu rapide évacue la prise en compte du rapport coût/efficacité qui est pourtant mobilisé partout ailleurs, comme si finalement la technologie bénéficiait toujours d’un régime d’exception par rapport aux contraintes qui s’imposent partout ailleurs.

Bref, la question de l’efficacité demeure non tranchée, estime un peu facilement, Algorithm Watch. Au mieux, de nombreux déploiements indiquent un impact modéré sur la dynamique de l’infection. Les résultats obtenus restent peu comparables les uns les autres parce que les politiques de santé publique sont restées hautement contextuelles. Le problème qui demeure, pointe l’ONG, est que, dans l’urgence, ces systèmes ont été déployés sans justification, en tout cas sans apporter de preuves et de justifications d’efficacité… et souvent au déni des discussions démocratiques (notamment quand des données de santé ont pu finir dans les mains de la police). Pour Algorithm Watch, nous devons mieux comprendre quand et pourquoi la recherche de contact numérique a un sens et donc quand elle n’en a pas, c’est-à-dire « comment, quand et pourquoi elle doit cesser ». Il n’est pas certain que le déploiement de ces applications nous y ait aidés !

La confidentialité est toujours critique

Couverture du livre People CountUn avis qui sera certainement partagé par la mathématicienne et spécialiste en sécurité informatique de l’université de Tufts, Susan Landau, qui a publié avant l’été un petit livre People Count : contact-tracing apps and public health (MIT Press, 2021, non traduit). La spécialiste y rappelle qu’il n’y a ni santé publique ni suivi épidémiologique sans un profond et réel respect de la vie privée, ni sans s’assurer de l’équité des mesures mises en place par les politiques de santé publique, car les épidémies touchent d’une manière très différenciée les gens, selon leur niveau social, leurs professions, leurs origines, leurs statuts. L’histoire du suivi de contact que dresse en quelques pages la spécialiste souligne que « la confidentialité est toujours critique ». Or, explique-t-elle, la technologie peine à assurer de la confidentialité qu’elle déploie. Pour elle, la technologie apporte plus de biais que d’avantages, notamment parce qu’elle permet de multiplier les objectifs, provenant de multiples parties, sans les rendre nécessairement ou facilement compatibles entre eux. L’intérêt des épidémiologistes n’est pas nécessairement compatible avec celui de la médecine ou des politiques publiques. C’est l’autre aspect du problème. Enfin, sur l’efficacité globale des dispositifs, la spécialiste reste, elle aussi, circonspecte.

Dans son livre, la spécialiste fait l’histoire du suivi de contact, montrant que son efficacité fluctue selon les maladies, leurs modalités de transmission et leur contagiosité. Le caractère asymptomatique de certains malades rend le « tester, tracer, isoler » plus difficile, rappelle la chercheuse. Le travail de suivi de contact est un travail de travailleur social particulièrement intensif et très invasif en terme de vie privée. Quand il fonctionne, c’est un outil très efficace. Imaginée dès 1934 par Thomas Parran, ministre de la santé américain qui a étudié le contrôle de la syphilis, la pratique est devenue un outil essentiel pour lutter contre les maladies infectieuses ou les maladies sexuellement transmissibles. Reste que dans le cas de la syphilis, dès l’origine donc, la question de la confidentialité et de la confiance ont été primordiales. Les responsables du suivi de contact étaient chargés à la fois d’éduquer les patients sur la maladie et d’établir un lien de confiance pour qu’ils leur confient des informations on ne peut plus personnelles, puisque liées à leur sexualité. Cela nécessitait beaucoup de tact, d’écoute et d’empathie. Mais également d’établir une confiance infaillible, d’abord et avant tout en garantissant une confidentialité totale. Comme elle l’explique, « la confidentialité a toujours été critique », et notamment pour lutter contre les maladies où les questions posées par les traceurs nécessitaient d’être les plus invasives possible. Dans la lutte contre le Sida, le fait de savoir que quelqu’un était infecté pouvait avoir des conséquences dramatiques. Si la personne chargée du suivi de contact est responsable de la santé publique, son premier devoir est de respecter la confidentialité et l’autonomie des patients. Face au virus Ebola par exemple, les responsables du suivi de contact se sont heurtés à la rigueur des interdictions mises en place face du fait de la forte létalité et contagiosité du virus rendant leur travail auprès des populations touchées très difficile à réaliser.

Chaque maladie nécessite des enquêtes différentes selon ses caractéristiques infectieuses propres. Effectivement, aux questions où étiez-vous les jours précédents votre positivité et qui était avec vous, il est probable que votre téléphone le sache mieux que vous, en tout cas, c’est une information qu’il peut collecter de multiples manières. Mais pas si simplement qu’automatiquement. Détecter la proximité des personnes par Bluetooth, GPS ou via les antennes de téléphonie mobile près desquelles ils se connectent est « peut-être utile pour tracer les communications de voleurs ou de terroristes, mais est certainement bien moins efficace pour tracer des infections respiratoires ». Ces modalités sont insuffisamment précises, ne voient pas les parois de verre qui peuvent séparer deux personnes à proximité ou peuvent décider d’une proximité qui n’est pas exacte. Tracer une maladie consiste aussi à la définir même avec des approximations, comme le fait de borner la période infectieuse de la maladie ou la distance de contamination. Reste que même face à ces décisions, les technologies ne sont pas suffisamment précises. Dans son livre, Landau détaille les limites de fonctionnement de plusieurs applications, notamment celles déployées par Singapour ou l’application du gouvernement indien Aarogya Setu.

Inégalités et dérives fonctionnelles

L’une des difficultés que pointe Landau, c’est que le coût de leur utilisation n’est pas le même pour tous. Le fait d’être cas contact et contraint à l’isolement n’a pas les mêmes conséquences pour chacun. Mais surtout, constate la chercheuse, l’un des grands problèmes de ces outils numériques est leur « dérive fonctionnelle », c’est-à-dire l’élargissement de leur utilisation à d’autres modalités explique-t-elle, en prenant l’exemple des écoutes téléphoniques qui à l’origine, aux États-Unis, étaient limitées à 25 types de crimes graves, alors qu’aujourd’hui, la liste des cas qui permet leur utilisation s’est élargie à plus de 100 types d’infractions. Pour Susan Landau, nombre de ces applications, par leur très grande intrusivité, adresse de sérieuses menaces aux libertés civiles, menaces que leurs promoteurs devraient prendre plus au sérieux, et ce d’autant que la confidentialité est justement critique en santé publique. Or, les données collectées, tout anonymisées qu’elles puissent être, collectent des informations sur les déplacements et les contacts qui peuvent divulguer bien d’autres informations, comme des déplacements indus en temps de couvre-feu, ou des craintes légitimes sur l’activité de ceux qui sont dans des situations irrégulières. Répondre à ces défis nécessite de mettre la protection de la vie privée en premier, estime Carmela Troncoso (@carmelatroncoso), spécialiste de la sécurité à l’École polytechnique fédérale de Lausanne, très investi dans le développement d’applications de suivi de contact décentralisées et respectueuses de la vie privée. Nombre de chercheurs ont exploré ces idées, pour imaginer des applications qui signalent l’exposition au virus, mais pas les contacts, c’est-à-dire non pas des systèmes de suivis de contact, mais bien des systèmes de notification d’exposition, comme GAEN. Des modèles plus respectueux de la vie privée, mais qui désavantagent les autorités de santé qui cherchent, dans les logiques qui sont les leurs, à démultiplier leurs connaissances sur le suivi épidémiologique. Dans les modèles les plus respectueux, les épidémiologistes ne peuvent même pas savoir où la contamination a lieu, excluant finalement le suivi médical tel qu’ils le pratiquent.

Dans la grande galerie des applications, d’innombrables ajustements et spécificités ont pris place, chacune se démarquant des autres par les orientations locales choisies. Le respect de la vie privée a été la force de certaines applications… Mais pour la protéger, il est essentiel de savoir « Qui veut savoir des choses sur moi ? Que veulent-ils savoir ? Que veulent-ils faire de ces informations ? »… Quand les questions de santé publique impactent la société, comme dans le cas d’une pandémie, plusieurs types d’autorité souhaitent accéder aux informations de santé. La santé publique et la recherche bien sûr, mais également, trop souvent, les autorités chargées de l’application des lois, notamment pour veiller à l’application des mesures de police, comme l’isolement ou le couvre-feu. Bien sûr, il faut aussi veiller à la sécurité des dispositifs, explique longuement la spécialiste, ce qui n’est pas toujours si simple. Au final, « les applications de recherche de contacts reposent sur l’idée que la technologie peut contribuer à résoudre un problème insoluble », notamment parce que ce problème est trop souvent multiple et qu’on pense que la technologie peut tous les adresser dans une seule solution.

Dans son livre, Susan Landau pose elle aussi, la question de l’efficacité, et comme le soulignait Algorithm Watch, explique que cette efficacité est difficile à établir. La promesse des applications de suivi de contact est de notifier les gens potentiellement infectés plus vite que ne saurait le faire le traçage manuel et ainsi de diminuer la propagation de l’infection. Les applications déterminent des distances et des durées d’exposition, sans parvenir à les déterminer correctement à 100 %. La force des signaux, la fréquence de connectivité varient d’un modèle de téléphone à l’autre et sont sensibles à de multiples éléments, comme la présence de murs, la position du téléphone (selon la poche où vous le tenez par exemple), la forme des pièces, les matériaux de construction, etc. Ainsi, deux personnes détectées à proximité peuvent être dans deux appartements différents. Les applications ne savent pas détecter si les gens portent des masques ou pas, si l’une chante ou si elles sont silencieuses, ne connaissent pas les conditions de ventilation des lieux… Les applications au final, peuvent faire remonter des cas que les humains qui s’occupent de suivi de contact n’auraient pas considérés, ce qui peut-être un bénéfice comme un désavantage. Elles produisent à la fois des faux positifs et des faux négatifs. L’application britannique, lors de sa phase de test, a produit 45 % de faux positifs et 31 % de faux négatifs. Ces inexactitudes sont des défis en soi, non seulement pour la santé publique, mais peut-être plus encore pour les individus, notamment du fait des inégalités des conditions leur permettant de s’isoler facilement ou pas. En fait, souligne Landau, l’efficacité des applications reste conditionnée aux réalités et inégalités socio-économiques de la société… « 23 % des habitants de Chicago sont noirs, mais en avril 2020, 58 % des habitants de la ville décédés du Covid étaient Noirs ». Or, explique-t-elle, fort à propos : « ces applications n’ont pas été construites pour adresser les besoins spécifiques des communautés marginalisées. Elles apparaissent comme basées sur un modèle d’utilisateur de la classe moyenne ou supérieure, doté d’un travail qui peut être effectué à la maison. Elles n’ont pas été conçues pour tenir compte des craintes ou de la défiance de communautés qui sont trop souvent sur-surveillées et qui ne peuvent pas tirer parti des recommandations à rester chez soi ». Où comment les préconceptions que les concepteurs ont sur les usagers inscrivent des limites aux objets eux-mêmes, oubliant que les archétypes, que le modèle moyen de l’usager comme le citoyen modèle n’existent pas. Comme elle le dit très bien : « une application qui échoue à fonctionner pour une communauté donnée est une application qui échoue pour nous tous ».

Bien souvent, rappelle-t-elle, le suivi de contact manuel, humain, lui, doit s’adapter aux conditions, explique-t-elle en pointant le succès de celui-ci dans les réserves indiennes de l’Arizona. Là-bas, beaucoup de gens ont été infectés, mais peu en sont décédés, notamment parce que les équipes médicales locales ont adapté leur pratique aux modalités d’existences locales. Dans les communautés indigènes, les grandes distances limitent en théorie la diffusion de la maladie, mais la plupart des familles vivent dans des foyers multigénérationnels. Les enquêteurs ont concentré leurs efforts sur les aînés en demandant à ceux qui avaient des symptômes, qui sont vos grands-parents et en faisant vérifier très vite leur taux d’oxygénation du sang. Au final, les réserves ont eu un taux de mortalité moindre que le reste de l’Arizona. Comment une application générique aurait-elle pu fonctionner aussi bien que l’adaptabilité dont ont su faire preuve les personnes chargées du suivi de contact sur les réserves indiennes d’Arizona ?, questionne Landau.

Tracer les contacts n’est pas facile. Les résultats ont d’ailleurs été différents d’un pays à l’autre, d’une communauté à l’autre. À Taïwan, une personne contaminée fournit en moyenne 15 noms, en Espagne c’est seulement 3, à Philadelphie, un tiers des personnes contactées ont affirmé n’avoir été en contact avec personne. Même la réponse à cette question est éminemment sociale et culturelle. Il n’y a pas que la recherche de contact qui est difficile, l’isolement l’est tout autant. Entre mars et août 2020, en Angleterre, seuls 18 % de ceux qui ont eu des symptômes se sont pleinement isolés, pointait une enquête. L’absence de services sociaux dédiés explique largement ces lacunes : aller chercher à manger, travailler et gagner de l’argent, avoir un endroit où s’isoler, s’occuper de proches isolés sont restés des facteurs pesants sur l’inégalité des possibilités d’isolement. L’efficacité d’une application devrait surtout être testée sur différentes communautés avec différents besoins. Pour Susan Landau, assurément, les solutions qui restent sous le contrôle de l’utilisateur sont toujours celles à privilégier.

Couverture de la revue des Annales des Mines sur les enjeux numériques de la crise pandémiqueL’une des alternatives aux applications pour la population a consisté à construire de meilleurs outils pour assurer le suivi de contact « manuel », humain – même si, dans son livre, Susan Landau reste hélas, complètement silencieuse sur les déficiences des outils qui ont armé les enquêteurs : des scripts d’enquêtes robotiques et peu adaptés, en passant par des systèmes d’alerte produits pour passer à l’échelle plus que pour être précis ou pratiques, la difficulté du suivi de contact « manuel » ne semble pas toujours avoir été mieux loti que sa version applicative. Évaluer la portée des formes d’automatisation qui ont été produites spécifiquement pour les systèmes de santé et pour accompagner les efforts de suivis dans le cadre de la pandémie est encore à faire. Maurice Ronai (@mauriceronai) – qui a d’ailleurs produit une veille spécifique sur le sujet sur un blog dédié – tente d’en dresser pour la France dans un très intéressant numéro de la revue Enjeux numériques consacré aux réponses numériques à la crise sanitaire. Il souligne notamment dans un article consacré à « La construction accélérée d’un système d’information épidémiologique » (.pdf) combien le suivi de contact a nécessité d’organiser et de déployer des outils dédiés pour identifier les clusters. Mais, comme il le souligne dans un second article sur « La numérisation à marche forcée du système de santé face à la Covid-19 » (.pdf), en reprenant les constats accablants de la commission d’enquête du Sénat, « le constat global du traçage reste celui d’un échec ». Traçage lacunaire, défaut d’interconnexion des outils, défaut d’implication, éviction des médecins… L’enjeu de construction d’un millefeuille de surveillance épidémiologique pour armer le suivi et la décision médicale s’est fait dans l’urgence, négligeant l’interopérabilité, favorisant une forme d’industrialisation des réponses pour passer à l’échelle des besoins au détriment de leur qualité. Comme le pointaient les chercheurs en sociologie des organisations dans Covid-19 : une crise organisationnelle (Presses de SciencesPo, 2020), la coopération et la coordination sont restés le maillon faible, et les dispositifs techniques mis en place n’ont pas créé l’organisation nécessaire – pour autant qu’ils puissent suffire à le faire (voir notre article, « Dégouverner »).

Dans l’urgence, nous n’avons pas eu de discussion publique quant à savoir si le déploiement d’applications était une mesure de politique publique appropriée, regrette la chercheuse. Les autorités de santé utilisent les termes « surveiller et confiner » pour décrire les plus puissants outils qu’ils mobilisent à l’encontre des maladies. Avec la pandémie, les modalités de surveillance et de confinement ont été multiples et souvent sévères. Google et Apple ont été les premiers à proposer des solutions techniques dès avril 2020. En juin, SwissCovid a été la première application disponible. Durant l’été, nombre d’autres applications ont été lancées en Europe. Google et Apple, qui ne sont ni l’un ni l’autre des autorités de santé bien sûr, ont posé les bases des briques techniques et imposé à tous, par leurs spécifications, de nombreuses limites aux autres outils. S’ils ont promu des garanties comme la protection des données des utilisateurs, ils ont minimisé d’autres éléments, comme la protection des utilisateurs par exemple en optant pour une solution qui favorise de hauts niveaux de faux positifs et de faux négatifs. Pour Landau, si les applications sont des outils de santé publique, alors il faut pouvoir savoir si leur usage améliore l’équité de santé ou la dégrade.

Les applications de suivi de contact ont été une expérimentation sociale dans le monde réel. Le problème, estime Landau, c’est le risque de dérapage, de glissement qu’introduisent ces outils… Ils introduisent l’idée que la collecte de données de ce type peut devenir finalement une nouvelle normalité. Même si nous pensons aux outils les plus respectueux de la vie privée parmi ceux déployés, ils restent conçus pour révéler par qui, quand et où, notre exposition à eu lieu. Cette idée seule finalement pourrait être utilisée à d’autres objectifs, comme pour nous mettre à l’abri de la criminalité. La police utilise déjà les données de proximité des antennes de téléphones mobiles pour retrouver des criminels. Des autorités plus répressives pourraient vouloir user d’informations de ce type pour analyser les relations politiques d’opposants, de migrants, d’activistes… ou de lanceurs d’alertes ! L’usage de ces outils nous conditionne à accepter qu’il soit normal que nos outils tracent nos contacts, comme le font déjà nombre d’applications commerciales et sociales que nous utilisons tous les jours, même si nous vendre de la publicité n’a pas les mêmes conséquences que nous dénoncer aux autorités.

Les épidémies sont à la fois un phénomène médical et social. La technologie ne suffit pas à nous protéger. Sans infrastructures de santé, sans lois qui empêchent les autorités chargées du maintien de l’ordre ou de l’immigration d’accéder à ces informations, sans infrastructures de santé pour soutenir financièrement les gens en difficulté quand on les isole, la technologie seule a une valeur limitée. Oui, les épidémies tuent des gens. Reste que décider comment prioriser les interventions sociales et médicales nécessaires pour mener une lutte la plus efficace possible n’est pas immanent. Nos efforts techniques n’ont pas été des plus probants dans la lutte contre l’épidémie, comme s’en désolaient de nombreux acteurs il y a quelques mois. Comme souvent, semble-t-il, plus il y a d’impacts sociaux, moins la technologie est une bonne réponse au problème.

Enfin, toutes ces difficultés évoluent également dans le temps et c’est également un problème. Les autorités de Singapour par exemple ont d’abord affirmé que l’application de suivi de contact ne servirait qu’au suivi de contact, avant de l’utiliser pour faire surveiller l’application de la loi par les autorités chargées du maintien de l’ordre. De volontaire, l’application est devenue obligatoire pour accéder aux bureaux et locaux, passant d’une application de suivi de contact à une prémisse de passe sanitaire… Nombre d’applications ont ainsi changé d’objectifs et de fonctions au fil du temps, sans qu’on sache toujours très bien l’étendue de leurs fonctions d’ailleurs. Mais il n’y a pas que les applications qui ont évolué, le contexte sanitaire et le rapport des gens à la maladie a évolué également. Un récent article du Monde rapportait par exemple que le traçage des cas contacts avait ralenti avec l’extension de la vaccination. Alors que les agents chargés du suivi de contacts recueillaient environ 2,3 noms de personnes exposées en mars 2021, elle ne serait plus que de 1,4 contact désormais. Comme le rappellent les spécialistes du traçage, le nombre moyen de contacts déclaré a tendance à baisser lorsque la circulation du virus est forte. En fait, trop souvent, les outils se vident de leur sens à mesure qu’on les utilise, comme si, finalement, les données qu’ils produisent n’avaient une utilité que le temps qu’elles produisent la confirmation qu’on en attend. Comme s’il fallait toujours que la solution technique déroule ses impasses pour se rendre compte qu’elle ne les résout pas. La publication d’information sur les foyers de contagion a été arrêtée en novembre 2020 en France au prétexte qu’elles restaient fortement sous-estimées et qu’ils ne représentaient qu’une très faible part de l’ensemble des personnes positives. Au final, c’est comme si chaque outil, derrière ses promesses, ne faisait que révéler surtout et partout ses limites.

La pandémie interroge le sens même et la portée des infrastructures de surveillance que nous sommes capables de produire pour nous protéger. Nous n’avons pas attendu la pandémie pour construire des réseaux de vidéosurveillance disproportionnés à leurs efficacités. C’est un peu finalement comme si la pandémie avait favorisé nos pires travers, comme si la sécurité pouvait être notre seule liberté, alors qu’elle n’en est qu’une composante parmi d’autres, qui semble d’ailleurs bien plus dépendre de l’égalité et de la fraternité que de la seule surveillance.

Hubert Guillaud

Une politique numérique de gauche est-elle possible ?

Dans une longue interview pour le magazine belge Agir par la culture (@agirparculture), je tente de poser des pistes pour repolitiser la question numérique…

À l’heure où les réponses légales sont trop mouvantes, où les réponses techniques sont contournables, où les réponses économiques ne concernent pas du tout les déploiements techniques, où les réponses éthiques sont limitées, comment contenir ce que le numérique optimise trop bien ? Comment limiter et contraindre le délire calculatoire qui vient ?

« L’enjeu à venir à nouveau consiste à faire des choix de société sur ce que nous devons numériser, ce que nous devons dénumériser et comment. Mais la réponse à ces questions n’est pas numérique, mais bien politique : comment étendre les protections sociales et environnementales ? Que devons-nous définancer ? Que devons-nous refuser de moderniser ? Où devons-nous désinnover ? Si on regarde le monde numérique à l’aune de sa durabilité, ce monde n’est pas soutenable. Si on le regarde à l’aune de ses enjeux démocratiques ou sociaux, le numérique ne produit pas un monde en commun. Il va donc falloir refermer des possibles que le numérique a ouverts. La surveillance, la fausse efficacité qu’elle promet ne propose que du contrôle, de la répression, des discriminations, de la sécurité au détriment de la liberté, de l’équité, de l’égalité. On ne fait pas société seulement en calculant son efficacité maximale ! »

En espérant que cette contribution livre quelques pistes d’action !

Hubert Guillaud

A lire sur Agir par la culture

Modération automatisée : le double enjeu du contrôle démocratique et de la transparence

En septembre 2019, dans une tribune pour le toujours sémillant The Atlantic (@TheAtlantic), Daphne Keller (@daphnehk), directrice du programme de régulation des plateformes au Centre de cyber politique de Stanford (@stanfordcyber), expliquait que les entreprises internet n’avaient pas d’état d’âme à restreindre la liberté d’expression. Elle réagissait alors au lancement de la « Cour suprême » de Facebook – devenue depuis « Conseil de surveillance » (sur FB, @oversightboard). Pour Keller, il est normal que ces places publiques modernes se dotent de règles de fonctionnement, d’autant qu’elles ont pris une importance primordiale pour les utilisateurs. « Les personnes dont les messages sont retirés des principales plateformes disent qu’elles sont exclues des canaux de communication les plus importants de notre époque ». D’où l’importance à nous préoccuper des règles que ces entreprises appliquent à nos discours et nos comportements… que ce soit de savoir si PayPal peut virer les dons à Wikileaks, si Cloudflare doit protéger les sites néonazis ou si Facebook doit retirer la célèbre photo de Nick Ut d’une jeune fille nue brûlée au Napalm sur une route du Viêt Nam.

Les médias sociaux ne sont pas des gouvernements

« Mais les plateformes privées ne sont pas vraiment la place publique, et les sociétés Internet ne sont pas des gouvernements. C’est exactement pour cela qu’elles sont libres de faire ce que tant de gens semblent vouloir : mettre de côté les règles de libre expression du premier amendement [de la Constitution des États-Unis] en faveur de nouvelles règles plus restrictives ». L’existence de cours suprêmes « privées » et de conventions spécifiques permet d’imaginer que cette refonte sera régie par les mêmes contraintes que celles qu’ont connues les gouvernements du monde réel : des règles « constitutionnelles » pour protéger les droits individuels et établir des processus démocratiques pour établir les lois sous lesquelles nous vivons… Mais les plateformes n’ont fait écrire à leurs usagers aucune Constitution et ne sont soumises à aucun processus démocratique ni même à aucun devoir de séparation des pouvoirs ni à une quelconque représentativité de leurs usagers ! Leurs règles ne sont donc « constitutionnelles » que de nom !

Les principes de Santa Clara établissent des règles pour établir des niveaux minimums de responsabilité et de transparence des plateformes de modération

Des groupes de défense des utilisateurs ont demandé des droits similaires à ceux d’une « procédure régulière », comme un droit d’appel pour les personnes accusées d’avoir violées les règles des plateformes, comme on le trouve exprimé dans les principes de Santa Clara. D’autres demandent une transparence similaire à celle qu’on attendrait de législateurs, notamment pour mettre en lumière leurs interactions avec des lobbys ou leurs clients. Ces demandes sont positives et nécessaires, bien sûr, mais « il ne faut pas croire qu’imiter les systèmes gouvernementaux fera des plateformes des substituts aux gouvernements, soumis à des lois et des contraintes de pouvoir fondées sur des droits réels », prévient Daphne Keller. De fait, les plateformes sont plus à même de restreindre les libertés notamment parce qu’elles sont bien moins responsables de leurs choix que des représentants élus. Pour Keller, il nous faut mieux comprendre ces différences avant de demander aux plateformes de jouer un rôle plus important en tant qu’arbitres de la parole et de l’information, notamment parce qu’elles peuvent restreindre les discours avec plus d’efficacité que les gouvernements. Certes, elles n’emprisonnent pas les dissidents, mais elles peuvent les réduire au silence. Et notamment supprimer des publications licites, mais haineuses, harcelantes, trompeuses ou offensantes… bien plus rapidement que ne le ferait un procès. « L’absence de responsabilité démocratique ou constitutionnelle qui rend les plateformes si efficaces en tant que régulateurs de contenu les rend très difficiles à contraindre d’une autre manière ». Enfin, leurs « procédures » de contestation sont de très pâles reflets des originaux dont elles devraient s’inspirer.

Les membres de ce qu’on appelait encore la Cour suprême de Facebook ne sont pas chargés de faire respecter les droits des utilisateurs en vertu d’une Constitution ou des Droits de l’homme ou de tout autre instrument juridique, rappelle Keller. Leur travail ne consiste qu’à interpréter les règlements existants – et changeants – des plateformes. Le problème est que chaque fois que l’opinion s’indigne, les plateformes sont incitées à assumer davantage de pouvoir, que ce soit en accroissant la surveillance des utilisateurs ou l’interdiction de contenus licites… « Plus les plateformes s’arrogent ces pouvoirs, plus nous devons nous inquiéter du fait que nous ne contrôlerons pas réellement la manière dont elles les utiliseront ».

Dans ce contexte, les gouvernements ont du pouvoir : ce n’est pas un hasard si les grandes plateformes appliquent les normes européennes en matière de discours de haine dans le monde entier. Les annonceurs également ont du pouvoir : toutes les plateformes ont remanié des politiques en fonction de leurs indignations ou préconisations. Dans ce contexte, les utilisateurs sont bien souvent ceux qui ont le moins de pouvoir. « Si les plateformes n’ont pas de comptes à nous rendre, pourquoi les encourageons-nous à assumer un tel contrôle pratique sur notre discours ? »

À cause de la fuite en avant ! répond Daphne Keller. Le raisonnement est toujours le même : les plateformes ont déjà des règles et donc elles peuvent en avoir de meilleures. Le problème, c’est que ce raisonnement est à sens unique, explique la juriste. Il justifie le fait de demander aux plateformes d’en faire toujours plus, plutôt que de leur demander de revenir sur les changements qu’elles ont déjà effectués ! À l’image de la démultiplication des outils de détection automatique des contenus… lancés à l’origine pour lutter contre la pédopornographie (notamment PhotoDNA, que nous évoquions depuis notre lecture du livre de Tarleton Gillespie). Depuis, la prévalence de ces outils n’a cessé de s’étendre : pour identifier les « terroristes » (selon les propres définitions des plateformes) et pourraient demain s’étendre aux insultes à l’égard d’hommes politiques… L’expansion du rôle des filtres risque d’être sans fin et surtout sans point d’arrêt !

Les forces du marché sont censées contenir le pouvoir commercial privé. Lorsqu’elles ne suffisent pas, les démocraties usent plutôt du droit de la concurrence plutôt que de chercher à établir des règles gouvernementales pour les entreprises. Quand elles nuisent trop, les autorités les taxent pour financer des mesures correctives, comme elles le font à l’égard des entreprises qui polluent ou des fabricants de cigarettes. Les tribunaux peuvent également les obliger à prendre des mesures… Mais à l’égard des plateformes, nous ne suivons pas ce schéma où le gouvernement fixe les règles et les entreprises les suivent. Pire, souligne-t-elle : les plateformes peuvent bloquer des discours que les autorités n’ont pas le pouvoir de restreindre, ce qui peut plaire à nombre d’entre elles. Finalement, pour contourner les limites du droit, le risque est de donner plus de pouvoir aux plateformes, ce qui menace de renoncer à une réelle contribution démocratique qu’on pourrait leur demander : comme de mieux surveiller et publier les pressions qu’elles reçoivent des gouvernements.

Les entreprises privées remodèlent les normes d’expressions par à-coups, souvent brutalement, et non pas d’une manière progressive et prudente comme le ferait un tribunal ou un législateur. Le risque est que nous renoncions à des protections réellement constitutionnelles, elles, et à des aspects majeurs d’une ouverture démocratique de leur gouvernance.

Connaissez-vous le GIFCT, acteur majeur de la modération mondiale ?

Dans un article pour Slate, Chloe Hadavas (@hadavas) donne un exemple assez concret des lacunes démocratiques auxquelles ces plateformes nous confrontent. En 2017, Facebook, Microsoft, Twitter et YouTube ont créé une association – et une base de données -, le Global Internet Forum to Counter Terrorism (GIFCT, @GIFCT_official, Forum mondial de l’Internet pour la lutte contre le terrorisme) qui a pris en quelques années une importance majeure en matière de modération. Cette base de données pour coordonner la suppression de contenus relatifs à l’imagerie et la propagande terroriste violente produit une liste noire de contenus partagés entre les plateformes.

Page d'accueil du GIFCT

Le problème, c’est la grande opacité de son fonctionnement !, explique Hadavas. Aucune des décisions relatives au contenu n’est transparente et les chercheurs n’ont pas accès à cette base. Les règles que le consortium prend sont privées : il définit ce qui est et n’est pas un contenu terroriste, sans avoir à rendre des comptes, au risque de bloquer des reportages sur le terrorisme ou sur les violations des droits de l’homme. Le GIFCT ne force pas les plateformes à retirer les contenus qu’elle signale, mais c’est en réalité le cas, notamment parce qu’elles n’ont pas toujours les ressources suffisantes pour réévaluer les contenus que le GIFCT leur signale. Sous la pression de l’Appel de Christchurch, ce sommet politique entre gouvernements et entreprises pour lutter contre les contenus terroristes en ligne après la fusillade en Nouvelle-Zélande, le GIFCT a annoncé en 2019 qu’il allait remanier sa structure interne, notamment son comité consultatif indépendant en intégrant des représentants de plusieurs gouvernements (à savoir le Canada, la France, le Japon, le Kenya, la Nouvelle-Zélande, le Royaume-Uni et les États-Unis) pour le rendre plus responsable.

Le 30 juillet 2020 pourtant, le Center for Democracy and Technology (@CenDemTech) et 14 autres organisations de défense des droits de l’homme ont adressé une lettre à Nick Rasmussen, le directeur exécutif du GIFCT, s’inquiétant de son manque de transparence et de la participation déséquilibrée de certains gouvernements au Comité consultatif du GIFCT – au détriment d’autres ! Rappelant que les programmes de lutte contre le terrorisme et la surveillance ont violé les droits de certains pays et religions voire ont été utilisé par des gouvernements pour faire taire la société civile, les associations ont demandé à ce que « les limites entre la modération du contenu et le contre-terrorisme soient éclaircies ». Le risque est bien sûr que les plateformes décident demain de supprimer des données sous la pression de gouvernements pour imposer une censure qui ne serait pas légale autrement.

L’enjeu est de savoir comment tenir les décisions prises par le GIFCT comme responsables. Pour beaucoup, le consensus veut que le GIFCT serait plus digne de confiance s’il était plus transparent qu’il n’est. En juillet 2019 (puis en 2020), il a publié ses rapports de transparence en détaillant le fonctionnement d’un outil qui permet aux plateformes d’indiquer quand une image/vidéo/URL ne devrait pas figurer dans sa base de données. Mais c’est bien insuffisant, estime Daphne Keller, qui souhaite que des chercheurs puissent avoir accès à des copies du contenu réel bloqué par le GIFCT, pour mieux évaluer leurs biais et erreurs, ou offrir des possibilités de recours des utilisateurs lorsque leurs contenus sont bloqués par ce système. Enfin, d’autres réclament que le rôle du comité soit plus clair, notamment qu’il reste vraiment consultatif. Pour Keller, le GIFCT illustre combien la question de la responsabilité des plateformes s’avère glissante dans la pratique. Une poignée de plateformes ont créé des systèmes opaques et puissants qui appliquent des règles qui ne sont pas la loi pour contrôler les discours en ligne ! Le risque est bien que nous multiplions demain ce type de procédures et d’institutions spécifiques qui n’ont de compte à rendre à personne ! Et que ce qui n’est pas la loi devienne une norme…

Page d'accueil de l'Appel de Christchurch

Le conseil de surveillance de Facebook en ses limites

C’est en grande partie le risque que fait peser également le fameux conseil de surveillance de Facebook mis sous les projecteurs récemment pour sa décision très attendue sur l’éviction de Donald Trump. Le conseil de surveillance a donc décidé, début mai, de maintenir la « déplateformisation » de l’ancien Président, expliquait TechPolicy.press (@techpolicypress), mais en renvoyant l’entreprise à motiver et mieux délimiter la sanction. Le conseil de surveillance de Facebook a cependant approuvé les décisions prises par l’entreprise – même s’il a demandé des explications sur celles-ci. Le conseil a recommandé d’améliorer le recrutement de son personnel de modération notamment ceux spécialisés dans le traitement des utilisateurs influents, de clarifier la politique qui permet à certains utilisateurs d’échapper aux contraintes qui pèsent sur tous en raison de leurs statuts.

Pour Jordan Guiao (@jordanguiao), chercheur au Centre australien pour la technologie responsable (@CnrtResponsTech), dans une tribune pour TechPolicy, cette décision montre surtout les limites de l’exercice d’autorégulation. Pour lui, si Facebook est si incapable de traiter ces questions, c’est bien parce que sa plateforme n’a pas été conçue pour ça et que Facebook reste dominé par ses intérêts commerciaux. En Australie, le récent conflit entre Facebook et la presse a laissé des traces explique le chercheur, qui, comme Ethan Zuckerman ou Eli Pariser (que nous évoquions il y a peu), milite pour des réseaux sociaux de services publics. Plutôt que de perdre notre temps à réguler Facebook, nous devrions surtout prendre le temps de construire des solutions nouvelles et différentes. Comme le pointait le professeur de littérature Dennis Tenen (@dennistenen) sur The Reboot (@ProjectReboot) –repris et traduit par ,Mais où va le web ? -, la modération n’est pas universelle et nécessiterait d’être bien plus maîtrisée par la communauté et le contexte, selon les fins qu’elles poursuivent, plutôt que d’être conçue d’une manière totale et industrielle, qui impose un régime de modération sans nuance, sans discussion, sous forme d’un régime universel qui n’est ni transparent ni démocratique.

Page d'accueil du conseil de surveillance de Facebook

En février, le New Yorker est revenu en détail sur la construction du conseil de surveillance de Facebook dans un article qui en éclaire justement les limites. Son auteure, Kate Klonick (@klonick) a suivi son déploiement (avec l’autorisation de Facebook).

Au début, rappelle-t-elle, FB n’avait aucune idée sur la manière dont ce conseil devait fonctionner. Pour trouver des idées, elle a organisé des ateliers avec des experts du monde entier sous la supervision de Zoe Darme, à l’époque responsable de l’équipe gouvernance de FB, en donnant aux participants des cas concrets à modérer. Pour Klonick, ces exemples, dans leur ambivalence même, soulignaient combien l’incertitude et la difficulté à produire des règles claires était difficile, d’autant que les « intuitions » sur la liberté d’expression varient considérablement selon les clivages politiques et culturels. Au final, les opinions des experts se sont révélées assez contradictoires : dans un atelier à New York, 60 % des participants ont voté pour le rétablissement d’une image d’une femme souriante accompagnée d’une bulle où était inscrit « Tuez tous les hommes », en y voyant surtout de l’humour, alors qu’à Nairobi, seulement 40 % ont voté pour son rétablissement. Pour Zoe Darme, la raison tient peut-être plus à des questions de respect de l’État de droit : là où il est moins respecté, la liberté d’expression l’est moins également… Pas sûr que ce soit la seule explication…

« L’idée que FB, à l’instar d’une république naissante, ait besoin d’instituer des réformes démocratiques, aurait pu paraître saugrenue il y a 10 ans », explique Klonick. En 2009, FB avait lancé un référendum portant sur la modification de ses conditions d’utilisation où seul 0,32 % des utilisateurs avaient voté. L’entreprise promettait alors de donner plus de pouvoir à ses utilisateurs… Elle en est largement revenue. Alors que de plus en plus d’utilisateurs rejoignaient les plateformes de réseaux sociaux, les entreprises ont instauré de plus en plus de règles pour assainir le contenu et maintenir l’expérience qu’elles proposaient la plus agréable possible. Mais cela s’est complexifié à mesure que le nombre d’utilisateurs a progressé.

L'article de Kate Klonick pour le New Yorker

L’idée du conseil de surveillance est venue d’un professeur de droit de Harvard, Noah Feldman. Pour lui, les médias sociaux devaient créer des systèmes quasi juridiques, une sorte de « tribunal d’entreprise », afin de traiter les questions difficiles liées à la liberté d’expression. Zuckerberg a soutenu l’idée devant son conseil d’administration dubitatif et partagé, en expliquant qu’un conseil d’experts serait le mieux placé pour prendre les décisions difficiles auxquelles l’entreprise était de plus en plus confrontées. Il a lancé le projet. La charte du conseil de surveillance et ses règles de procédures, rédigées par des experts et employés de FB, ont, de réunion en réunion, été nettoyées de leur emphase juridique pour devenir plus accessibles. Les rouages de l’instance ont été mis en place : composée d’une vingtaine de membres, très bien payés, pour une quinzaine d’heures de présence par semaine. Une commission choisit les cas les plus représentatifs des 200 000 publications qui posent problème chaque jour et les soumet à une partie des membres réunis anonymement pour qu’ils statuent.

L’utilisateur incriminé doit déposer un mémoire écrit pour sa défense. Un représentant de l’entreprise dépose un argument pour expliciter la décision de l’entreprise. Le panel décide et FB exécute la décision prise. Actuellement, les utilisateurs peuvent faire appel en cas de suppression de leur publication (take-downs), mais pas quand elles sont laissées en place (keep-ups) – or un grand nombre de problèmes signalés sont bien souvent maintenus en ligne. Les utilisateurs ne peuvent pas non plus faire appel sur des questions comme la publicité politique, les algorithmes ou la déplateformisation de pages de groupes (mais FB a annoncé qu’il devrait permettre d’élargir l’appel des décisions par les utilisateurs)… Quant au conseil, il ne peut prendre des décisions que sur les affaires que lui renvoie FB, pas de sa propre initiative. Autre limite : les décisions du conseil ne deviennent pas une politique ! C’est-à-dire que si le conseil supprime ou rétabli un contenu, cela n’oblige pas FB a retirer ou maintenir les publications similaires (cela reste à la discrétion de l’entreprise). Enfin, les recommandations politiques du conseil ne sont que consultatives, ce qui en limite la portée, mais, malgré tout, entrouvre une fenêtre inédite de pression publique sur la politique de l’entreprise.

Klonick s’amuse également des discussions qui ont eu lieu pour choisir les membres de ce conseil de surveillance et notamment des innombrables pressions reçues. Dès les premières annonces, les controverses ont fleuri. En mai 2020, sa composition a été annoncée, déclenchant l’ire de certains, notamment du président Trump, sans que FB ne cède à ses pressions. Les détracteurs restent néanmoins nombreux. Pour la professeure de droit Julie Cohen (@julie17usc), ce panel de stars somptueusement rémunérées n’a aucun intérêt et ne peut se prononcer sur les problèmes les plus fondamentaux de FB. Pour Zuckerberg, FB va avoir besoin d’institutions et de surveillance supplémentaire. Créer des produits pour communiquer n’est pas le même travail que gouverner une communauté, expliquait-il directement à Klonick pour justifier de la création du conseil.

En avril 2020, les membres du conseil se sont réunis pour la première fois (sur Zoom !) et ont suivi une formation pour se connaître les uns les autres et sur les normes en matière de modération de FB. En octobre, FB a (entre)ouvert la possibilité d’appels (à 5 % des utilisateurs choisis aléatoirement). En novembre, le conseil a reçu ses premiers cas.

Un des cas traités était une photo d’église détruite en Azerbaïdjan par un utilisateur se plaignant de l’agression du pays à l’encontre des Arméniens. FB avait supprimé le post sous prétexte qu’invitait à la haine. Certains membres du conseil ont trouvé étrange d’appliquer cette règle dans le cas d’une publication se plaignant d’un groupe dominant en conflit avec un autre. Mais le conseil a finalement voté pour la suppression du message.

Dans un autre cas – une vidéo et un texte provenant de France se plaignant que le gouvernement avait refusé d’autoriser l’hydroxychloroquine contre le Covid-19 -, que FB avait supprimé pour ne pas promouvoir l’automédicamentation, les discussions ont été nourries. D’un côté des membres soulignaient que FB devait combattre la désinformation, de l’autre, des membres ont souligné que la publication prônait un changement de politique et donc relevait d’un risque de censure de discussions politiques. Le médicament n’étant pas en vente libre en France et ne pouvant donc pas promouvoir l’automédication, le conseil a finalement décidé de ne pas le censurer et de restaurer la publication.

Quelques semaines plus tard, alors que les protestations Black Lives Matter se répandaient dans le pays, Trump a publié sur FB et Twitter un message menaçant d’envoyer l’armée pour les maîtriser, précisant « quand les pillages commencent, les tirs commencent », une phrase dont la charge raciste est sans équivoque. Twitter a alors signalé à ses lecteurs que le tweet violait ses règles, mais pas FB. Zuckerberg a publié lui-même une déclaration expliquant qu’il ne partageait pas ces propos, mais que c’était aux gens de s’en rendre compte en soulignant dans une interview à Fox News que son entreprise ne pouvait pas être « l’arbitre de la vérité ». Des employés en colère ont organisé un débrayage virtuel face à cette inaction. Quelques jours plus tard, l’un des membres du conseil a suggéré une réunion du conseil au complet qui a débattu du sujet.

Plusieurs membres étaient choqués et souhaitaient publier une déclaration condamnant la décision de FB. D’autres étaient contre le fait de prendre une décision partisane. Après 2 heures de discussion, les membres ont décidé pourtant de ne pas s’exprimer sur cette question.

Face à Trump, comment Facebook s’est pris les pieds dans son opacité

Et puis il y a eu la contestation des résultats de l’élection et la prise d’assaut du Capitole. FB a supprimé deux publications de Trump le jour même. Et le lendemain des événements, Zuckerberg, sur son propre fil FB, a annoncé la suspension indéfinie du compte de Trump. Le lendemain, Twitter l’a banni à son tour. Cette « déplateformisation » comme on l’a appelé a bien sûr fait couler beaucoup d’encre. Certains s’en sont félicités, d’autres ont exprimé leur inquiétude du fait que FB avait fait taire un dirigeant démocratiquement élu. Pour le professeur de droit Eugene Volokh (blog), la cinquième entreprise des États-Unis, en situation de quasi-monopole sur son créneau, a restreint la liberté d’expression d’une personnalité politique auprès des trente millions de personnes qui le suivaient. C’est peut-être très bien… Mais ça reste un pouvoir immense, confiait-il à Klonick. Angela Merkel a qualifié cette suppression de problématique et Navalny, l’un des opposants de Poutine, a dénoncé une censure inacceptable.

En interne, seul FB avait le pouvoir de renvoyer la suspension de Trump devant le conseil de surveillance. Le conseil d’administration a plaidé pour que le conseil de surveillance examine le cas, afin de ne pas porter atteinte à sa jeune légitimité. Le lendemain de l’investiture de Joe Biden, FB a envoyé le dossier au conseil de surveillance. L’article de Klonick se terminait sur les attentes que représentait cette décision. Elles ont été douchées depuis.

Comme le raconte Klonick dans le Washington Post, le réseau social espérait s’en remettre à son instance d’appel, mais ce n’a pas été le cas. Si le conseil a confirmé la décision de bannir Trump, il a demandé que l’entreprise assume davantage la responsabilité de ses décisions. FB a dépensé 130 millions de dollars pour mettre en place ce conseil (pour assurer son fonctionnement pour une durée de 6 ans), rappelle Klonick.

Pendant des années, rappelle-t-elle, FB a maintenu des conditions exceptionnelles pour laisser Trump s’exprimer, alors qu’en regard de sa politique, il aurait dû être censuré depuis longtemps. « Lorsque vous accordez des exceptions aux personnes les plus puissantes du monde, elles abusent de leur pouvoir », alors qu’appliquer la même justice pour tous reste une des plus puissantes boussoles collectives qui soient. Le 6 janvier, ces petits accommodements ont finalement explosé au visage de l’entreprise.

Dans sa décision, le conseil rappelle finalement que FB n’a pas utilisé de règles claires, notamment parce que l’entreprise n’a cessé de les modifier à la volée, ce qui n’est pas conforme ni aux règles ni à l’équité. Il a expliqué que si FB voulait exclure Trump de façon permanente, c’était à l’entreprise de créer les règles pour cela. Le conseil rappelle que le manque de transparence de FB sur ses propres règles lui est préjudiciable et a demandé à l’entreprise de répondre sur la façon dont les décisions concernant les utilisateurs influents sont prises… Elle a aussi demandé à ce que FB éclaircisse comment ses algorithmes avaient amplifié les messages de Trump – mais pour l’instant, FB a refusé de répondre à cette question. Cette remarque est certainement la plus importante de l’avis, explique Klonick. « Si FB veut que le conseil de surveillance soit respecté comme tribunal indépendant, refuser de répondre à ses questions n’aidera pas ». Et souligne que l’enjeu principal à toute transparence demeure la question du calcul de la mise en visibilité et invisibilité des contenus.

Dans une longue interview pour The Verge, Klonick précise encore que le conseil rend des décisions anonymes à la majorité, mais éclaire dans ses notes le fait qu’il y ait des opinions divergentes. Elle rappelle à nouveau qu’une des limites du conseil c’est de rendre des décisions très étroites sur la suppression ou non d’un contenu qui ne s’élargissent pas à des contenus similaires, ce qui limite beaucoup sa portée. Le conseil a pourtant le droit de faire des recommandations de politique auxquels FB doit répondre dans les 30 jours pour préciser les raisons qui la conduise à les mettre en place ou pas. Pour le professeur de droit de Harvard, Mark Tushnet, cela reste une forme de contrôle de « forme faible », une pression de réputation surtout. Le conseil ne fait pas le droit. Il ressemble bien plus à un tribunal de première instance qu’à une Cour d’appel ou une Cour suprême !

L'interview de Klonick pour The Verge

Ce que souligne la décision malgré tout, c’est qu’une suspension permanente est de facto disproportionnée. Pour Klonick, FB semble effectivement avoir des « règles » différentes pour certaines personnes, mais nous n’avons « ni accès à la liste des personnes concernées, ni ne savons comment elle est gérée, ni bien sûr les exceptions aux règles dont elles bénéficient » – pour autant qu’il y ait vraiment des règles, il est probable, ajouterai-je qu’ils bénéficient surtout de modérateurs/appréciateurs de contenus dédiés par rapport au traitement massifié de tous les autres utilisateurs. En demandant à FB de s’expliquer, le conseil de surveillance a pleinement rempli son rôle.

Depuis, Facebook a fait de nouvelles annonces et enfin répondu au conseil de surveillance. Notamment en annonçant ramener le bannissement de Trump à 2 ans et en annonçant de nouvelles règles (avec des sanctions plus strictes, hiérarchisées et croissantes) pour les « personnalités publiques », explique FastCompany. Reste que la réponse de FB demeure floue : « Nous autorisons certains contenus dignes d’intérêt ou importants pour l’intérêt public à rester sur notre plateforme, même s’ils sont susceptibles de violer nos normes communautaires » et n’explique toujours pas qui sont les utilisateurs influents qu’il distingue du commun des mortels et qui vont continuer à recevoir un traitement particulier et accéléré pour mieux saisir leurs intentions et la réception de leurs propos. Comme le constate le chercheur Olivier Ertzscheid (@affordanceinfo2) dans une tribune pour Libération, c’est un revirement pour FB puisque désormais tout propos pourra être modéré… mais ce revirement date surtout des conséquences des décisions du 7 janvier, plus que de la réponse de FB. Pour autant, les personnalités publiques ne sont pas encore ramenées au rang de simples utilisateurs, et encore une fois, si tout propos peut-être modéré, il n’en sera pas de même si vous êtes riches et puissants que pauvre et malade !

En 2019, Klonick avait publié un article pour comprendre depuis quels critères FB pouvait définir un statut spécifique de personnalités publiques « dignes d’intérêt ». Mais « dignes d’intérêt pour qui ? » interrogeait-elle avec perspicacité. Ici, le conseil de surveillance rappelle soit que FB devrait supprimer ces exceptions soit être clair à leur sujet.

Pour Klonick, la suite des débats sera intéressante. Il est probable que le conseil s’oppose de plus en plus à FB, s’isole et finisse par s’éteindre à son terme. Mais, malgré ses innombrables limites et son pouvoir circonscrit, le conseil de surveillance de FB pourrait aussi montrer aux autorités qu’on pourrait exiger de toutes plateformes une instance de ce type – le Canada d’ailleurs envisagerait de rendre obligatoire la création de conseils de surveillance pour les plateformes de médias sociaux, avance-t-elle un peu rapidement dans l’interview, mais le projet de loi C-10 pour modifier la loi sur la radiodiffusion dont il semble être question n’avance pas ce type de propositions. Reste à savoir, suggère encore Klonick si le conseil de surveillance (de FB, mais qui ne le porte pas dans son nom officiel), va rester le conseil de surveillance de FB ou si finalement, comme l’induit son nom, il ne pourrait pas devenir une autorité pour toutes les plateformes… Twitter, qui ne s’est pas doté d’autorité de ce type, pourrait demain déverser également une somme équivalente dans la société indépendante créée par FB pour former son propre conseil… Pour Klonick, la diversité des politiques de modération des plateformes, leurs positionnements, leurs rôles et leurs différences algorithmiques sont certainement essentiels. Dans un scénario de fusion des conseils de surveillance, le risque est aussi que les normes soient partout les mêmes… Pire : l’idée qu’une entité unique contrôle demain la libre expression des États-Unis et du monde est certainement une perspective plus problématique qu’autre chose.

Et Klonick de rappeler que seulement 7 % des utilisateurs de FB sont américains ! FB impose des normes au monde entier alors que celles-ci sont décidées par une population qui n’y est même pas majoritaire ! Que FB décide de la nature de ses politiques, soit. Mais ce qui importe, c’est qu’elles soient justes, cohérentes, proportionnées, équitables. Or, les résultats injustes semblent plus la norme que l’exception, avance Klonick, qui explique que le taux d’erreur sur les décisions de modération de contenu serait de 80 % [en fait, ce chiffre semble issu d’un article d’analyse de la décision du conseil de surveillance par le Center for Democracy & Technology qui souligne que 25 contenus postés sur le compte de Trump ont été marqués comme contraires aux standards de FB, mais que suite à leur examen, seulement 5 d’entre eux ont été retenus comme contraires aux standards, ce qui révèle un taux d’erreur dans l’application des standards de 80% ! Et les auteurs de généraliser ce taux d’erreur aux décisions de retraits qui impactent tous les utilisateurs… – qui ne bénéficient pas du même traitement de vérification que les utilisateurs « dignes d’intérêt » – en rappelant d’ailleurs que FB, dans ses rapports de transparence, n’est pas très clair sur son taux d’erreur, ni sur le taux de contenus rétablis, NDT]. Dans son avis, souligne encore Klonick, le conseil de surveillance pointe le rôle du comité discret qui écrit, modifie et réécrit les règles de modération de FB à assumer son rôle politique. Pas sûr que ce soit pourtant la piste que poursuivra l’entreprise ! Jusqu’à présent, ces instances internes qui précisent et peaufinent les règles de modération, quand elles existent, ont toujours été éminemment discrètes et particulièrement protégées.

« Une plus grande modération des contenus ne signifie pas une meilleure modération »

Très concrètement, l’IA est toujours aussi nulle pour modérer les discours de haine, soulignait la Technology Review, depuis une étude (.pdf) qui a testé 4 systèmes distincts de modération en montrant que tous avaient du mal à distinguer les phrases toxiques des phrases inoffensives. Pour accomplir leur étude, les chercheurs ont mis au point 29 tests différents, afin de mieux déterminer où chaque système échoue, et ont distingué 18 types différents de discours de haine et 11 scénarios qui n’en relèvent pas et qui piègent souvent les systèmes automatisés (comme l’usage de jurons, la récupération d’insultes en contre-discours…), ainsi que des modèles spécifiques pour les groupes protégés par les lois contre la discrimination américaines. Pour chaque catégorie, ils ont créé des exemples modèles et une base de données, HateCheck. Ils ont ensuite testé des services commerciaux, comme Perspective de Google Jigsaw (utilisés par Reddit, le New York Times et le Wall Street Journal) ou SiftNinja de Two Hat. Leurs résultats soulignent la difficulté du curseur : « Modérez trop peu et vous ne parvenez pas à résoudre le problème ; modérez trop et vous pourriez censurer le type de langage que les groupes marginalisés utilisent pour s’autonomiser et se défendre ». Les catégories d’exemples produites devraient permettre d’améliorer les modèles, estiment cependant les producteurs d’outils testés.

Mais peut-être que la solution est à chercher non pas dans l’amélioration de la modération automatisée, mais dans l’amélioration des interfaces elles-mêmes ? C’est ce que montrent des chercheurs de l’université de Washington (voir l’étude) qui ont travaillé à trouver des idées de conception pour rendre les conflits sur Facebook plus « constructifs ». « Même si les espaces en ligne sont souvent décrits comme toxiques et polarisants, les gens souhaitent avoir des conversations difficiles en ligne », explique Amanda Baughan (@amanda_Baughan). Aujourd’hui, les désaccords produisent surtout des engueulades et se terminent bien souvent par des blocages ou suppressions mutuelles. Parmi les story-boards de propositions, les interfaces pourraient proposer de passer en conversation privée quand les propos s’enveniment – ce qui se passe assez souvent – ou encore de faire remonter les commentaires les plus constructifs (ce que les likes et les modalités d’affichages par importance, permettent souvent de faire déjà), ou encore d’ouvrir un écran d’alerte quand les réponses qu’on s’apprête à poster détectent des mots violents ou encore des modalités qui mettent les réponses en attente pour permettre à leurs auteurs d’y réfléchir, comme pour ralentir les conversations.

Pas sûr que ces solutions suffisent pourtant…

Dans Wired, la juriste Evelyn Douek (@evelyndouek) dresse un constat similaire : à mesure qu’elle s’étend, la modération à un coût. La modération de contenu est en train de dévorer les plateformes prévient-elle – peut-être un peu rapidement, vu les profits qu’elles engrangent. Les règlements et politiques à destination des utilisateurs explosent et se complexifient alors que les demandes de régulation par les pouvoirs publics se précisent et s’intensifient aussi. L’élection américaine et les urgences de santé publique ont poussé les mesures à une intensification inédite. Pour la chercheuse, l’époque où Facebook et Twitter se lavaient les mains des problèmes qu’ils généraient, en pensant que les internautes se gouverneraient eux-mêmes, est certainement loin derrière eux. Mais penser que l’on va résoudre tous les problèmes en effaçant chaque jour un peu plus de contenus des réseaux sociaux tient d’une réponse simpliste et inefficace à une question complexe. « Une plus grande modération des contenus ne signifie pas une meilleure modération ». Chaque étape nécessite des compromis et ce n’est pas parce qu’on les ignore qu’ils n’existent pas.

Illustration de l'article de Evelyn Douek pour Wired

Les plateformes ont agi assez rapidement pour répondre à la désinformation autour de la pandémie et plutôt efficacement estime la juriste, tant et si bien que beaucoup se demandent maintenant pourquoi elles ne sont pas plus efficaces pour combattre d’autres types de fausses informations. Mais pour elles, la désinformation sur le virus était différente, se justifient-elles, notamment parce qu’elles pouvaient se référer à des autorités claires, comme l’Organisation mondiale de la santé (OMS). Cette ligne claire n’a pas tenu longtemps pourtant et elles n’ont cessé d’étendre les garde-fous. Elles ont collé des étiquettes d’information un peu partout, sans qu’on puisse dire qu’elles aient été efficaces. Suite à la crise du Capitole, elles ont même censuré plus que jamais négationnistes et conspirationnistes… jusqu’au président des États-Unis lui-même.

Pourtant, pour beaucoup de commentateurs, les efforts des plateformes restent insuffisants. Les appels à la modération demeurent forts et réguliers et les législateurs n’ont pas cessé leurs menaces. À l’heure actuelle, il n’y a pratiquement pas un seul pays dans le monde qui ne prenne de mesure pour réglementer les médias sociaux d’une manière ou d’une autre. Et les plateformes ne cessent de préciser leurs règles, d’en produire de nouvelles et surtout de développer un empilement de boîtes de modération – et de spécifications pour leurs éboueurs du web – les unes sur les autres (pédocriminalité, terrorisme, nudité…). Reste que depuis que Trump a été réduit au silence et que nombre de complotistes ont été chassés ou sont partis ailleurs, l’angoisse s’est un peu calmée – à croire qu’une grande partie de l’angoisse tenait peut-être plus de la politique que des plateformes elles-mêmes, souligne Douek. Mais l’impressionnante démonstration de pouvoir qu’elles ont montré a laissé des traces. L’idée qu’il existerait une catégorie claire de « fausses informations » a également pris du plomb dans l’aile.

Distinguer le vrai du faux n'est pas si simple comme le montre ce photomontage de titres de presse à quelques mois d'intervallesLa semaine dernière par exemple, Facebook est revenu sur une de ses décisions et a déclaré qu’il ne supprimerait plus les publications affirmant que le Covid-19 est d’origine humaine ou fabriqué. Pourtant, il n’y pas si longtemps, le New York Times lui-même et toute la presse avec lui, citait cette théorie « sans fondement » comme une preuve que les médias sociaux avaient contribué à une « crise de la réalité ». Au début de la pandémie jusqu’en juin 2020, FB a interdit les publicités pour les masques, jusqu’à ce que l’OMS les recommande. Les médias sociaux semblent s’être surtout beaucoup adaptés à la fois à une science qui s’est faite en marchant et aux erreurs commises par les autorités, sans parvenir à délimiter les limites raisonnables du débat public.

Comme le rappelle la maxime, « la science n’est pas la vérité, mais sa recherche. Quand elle change d’opinion, elle ne nous ment pas. Elle nous dit qu’elle a appris davantage » (voir notamment nos articles : « Naviguer dans les ruines de la réalité consensuelle » et « Une pandémie de données ne soigne pas de la vérité »).

Enfin, les appels à toujours plus de mesures de répression ont également montré qu’elles pouvaient avoir des coûts géopolitiques forts, rappelle Douek. Les gouvernements autoritaires et répressifs ont pu faire référence à la rhétorique des démocraties libérales pour justifier leur propre censure, à l’image du gouvernement indien tentant de faire pression pour que les plateformes limitent les critiques sur sa gestion de la crise Covid au détriment de la liberté d’expression. Pour l’instant, les gouvernements occidentaux ont refusé de regarder ce problème, laissant les plateformes se débrouiller seules face à la montée de l’autoritarisme numérique des gouvernements illibéraux. Le problème, c’est que les plateformes sont en train de perdre ce combat, estime Douek, à l’image de la suspension de Twitter par les autorités nigérianes suite à la censure d’un tweet de leur président. On le voit, la régulation des plateformes ne peut pas conduire à « augmenter la censure ici et la réduire plus loin ».

Enfin, souligne Douek, il reste encore d’autres compromis à faire. « Comme la modération du contenu à très grande échelle ne sera jamais parfaite, la question est toujours de savoir de quel côté de la ligne il faut se tromper lorsqu’on applique des règles ». Le risque est bien sûr de multiplier les règles strictes et la sévérité de leur application notamment avec une modération de plus en plus automatisée. « Ces outils sont brutaux et stupides » : ils ne peuvent pas évaluer le contexte ou faire la différence entre un contenu glorifiant la violence ou enregistrant des preuves de violations des droits de l’homme, par exemple. Les conséquences de ce type d’approche ont été mises en évidence lors de la récente crise du conflit israélo-palestinien de ces dernières semaines, Facebook ayant supprimé à plusieurs reprises des contenus importants provenant de Palestiniens ou les concernant (voir notamment, l’analyse de Mathew Ingram pour la Columbia Journalism Review ou celle du Washington Post qui expliquent que les activistes palestiniens reçoivent le même traitement que les activistes Noirs américains : ils sont bloqués !). Ces cas ne sont pas isolés. Et ces différences de traitements ont toujours tendance à toucher de manière disproportionnée les communautés déjà marginalisées et vulnérables (comme le pointait le travail de la sociologue Jen Schradie).

Pour Douek, le retrait de contenu ne résout pas les problèmes sociaux et politiques sous-jacents, pas plus que la disparition des comptes de Trump n’a fait s’évaporer son emprise sur le parti républicain – même si le monde en ligne parle beaucoup moins de lui (selon une récente étude relayée par le New York Times cependant, depuis son éviction, certains de ses messages sont parvenus à recevoir beaucoup d’attention notamment parce que ses plus fervents partisans continuent de les diffuser, estime le Global Disinformation Index. Malgré ces relais, leur diffusion est tout de même moindre, soulignant en creux l’énorme pouvoir des sociétés de médias sociaux. Le bannissement de Trump ne résout pas la désinformation, mais perturbe ses réseaux et atténue l’influence des individus les plus nuisibles qui se sont réfugiés ailleurs. En tout cas, les réseaux ont retrouvé un certain calme et Trump ne façonne plus seul l’agenda politique de son pays et du monde.

Image d'illustration de l'article de The Atlantic sur le retour au calme des réseaux depuis le bannissement de Trump

À l’heure où beaucoup d’argent se déverse dans la création de plateformes alternatives, notamment extrêmistes ou complotistes, bien plus permissives, la censure automatisée des contenus des plateformes grands publics risque de s’avérer encore moins efficaces qu’elles ne l’ont été, surtout que ces « petits » réseaux risquent d’être beaucoup plus laxistes dans leur modération.

« Supprimer les contenus ne supprime pas la cause qui les a fait naître », conclut Douek. Il est tentant de penser que nous pouvons modérer la société, mais il va être bien plus difficile de résoudre les problèmes sociaux et politiques dont ils sont l’expression. Les plateformes ne seront jamais en mesure de compenser les défaillances de nos sociétés. Cela ne veut pas dire que les plateformes ne doivent pas continuer à réfléchir à la manière d’atténuer leurs effets néfastes, bien sûr. Toute expérimentation qui n’est pas binaire (laisser ou supprimer) notamment est bonne à prendre, par exemple le fait que Twitter incite ses utilisateurs à lire un article avant de le tweeter, ou le fait de limiter le nombre de fois où l’on peut transférer un contenu depuis une même plateforme (comme le propose WhatsApp). D’innombrables ajustements peuvent être tentés sans que les plateformes ne décident de la vérité à notre place.

Quelles transparences ? Quelles gouvernances ?

On l’a vu avec ces exemples, notamment celui du conseil de surveillance et des politiques de modération de FB comme dans le cas du GIFCT, les questions de transparence et de contrôle démocratique demeurent au cœur des enjeux de régulation de la modération. Reste à savoir comment organiser, très concrètement, le contrôle démocratique d’instances qui risquent de se démultiplier à l’avenir. Reste à savoir aussi de quelle transparence nous avons besoin.

C’est la question que posait Daphne Keller sur son blog. Alors qu’elle écrit depuis des années sur le sujet, elle reconnaissait, avec humilité qu’elle ne savait pas très bien quelle transparence elle appelait de ses vœux. Beaucoup de gens estiment que plus de transparence est un mieux, mais personne n’a une liste claire de ce qui devrait être transparent. « Quelles informations sont essentielles ? Lesquelles faut-il vraiment rendre transparentes ? Quels sont les compromis à faire ? » Cette imprécision est en passe de devenir un problème, alors que nombre d’autorités s’apprêtent à produire des exigences de transparence auprès des plateformes. Or, « ce que la loi n’exigera pas ne sera peut-être jamais plus rendu accessible », reconnait la juriste. Exiger une transparence totale n’est peut-être pas pleinement judicieux d’autant plus que cela a un coût, explique la juriste à la suite d’Evelyn Douek. « Des obligations de transparence très prescriptives pourraient également entraîner une normalisation et une homogénéité de facto des règles des plateformes, des pratiques de modération et des fonctionnalités. » Ce ne sont bien sûr pas des raisons d’y renoncer, mais de pointer que nous devons être plus précis sur ce que la transparence signifie vraiment et concrètement.

Keller a dressé une petite liste « préliminaire et très provisoire » des problèmes que posent les rapports de transparence existants. Pour la chercheuse, par exemple, il est essentiel de savoir avec une grande précision le nombre de demandes d’accès à des données qu’une plateforme reçoit des autorités, comment elle y répond, quel contrôle judiciaire elles produisent. Elle rappelle également que les chiffres ne sont pas tout. Pour comprendre les erreurs ou les préjugés des plateformes sur leurs propres données, il est nécessaire que les chercheurs indépendants puissent voir le contenu impliqué dans les décisions de retrait par exemple.

En 2009, nous nous interrogions avec Lawrence Lessig sur les limites de la transparence. Il nous disait déjà que la transparence nue n’était pas un remède magique. Pour ma part, il me semble que la transparence se rapproche des mêmes problématiques que celles que nous évoquions à propos de l’explicabilité. Plus qu’une liste d’éléments qui doivent être rendus transparents ou d’exigences précises, la transparence relève d’échelles, d’impacts et de multimodalités de niveaux de transparence. Devrons-nous demain définir des transparences « contrastables et actionnables », « sélectives, mais loyales », « techniques et/ou sociales »…, « jouables », selon des échelles allant de « fortes, faibles à inexistantes » ? La transparence nécessite d’être évaluée et appréciée dans toutes ses dimensions, comme une matrice qui permet de mesurer son étendue, sa profondeur et bien sûr ses effets. Ce qui est sûr, c’est que pas plus que les explications, la transparence n’est en rien réductible à une technique, à des listes, mais relève profondément d’un dialogue entre un système et la société. Plus que d’obligations, de droits et de devoirs (de checks-lists ou de systèmes d’évaluation d’impact), c’est bien ce dialogue qu’il va falloir nourrir pour parvenir à dépasser une vision bien trop binaire de la modération…

Dans un article de recherche, Evelyn Douek montrait d’ailleurs très bien que les plateformes ont une politique plus complexe que le mode binaire entre supprimer et laisser faire. Les plateformes ont mis en place nombre de mesures intermédiaires, allant de l’étiquetage à la vérification des faits en passant par les écrans d’avertissements… Des mesures qu’il faut certainement continuer à diversifier, mais dont il est nécessaire aussi d’évaluer les effets.

Pour cela, il est plus que jamais nécessaire qu’elles s’ouvrent aux contrôles indépendants et qu’on évalue leur transparence dans leur complexité, d’une manière dynamique. Pour le dire autrement, la transparence et la gouvernance, comme l’explicabilité, tiennent de pratiques qui doivent évoluer. Ce sont des objectifs vers lesquels les systèmes doivent tendre. Pour cela, il y a certes des modalités dynamiques (publications ouvertes, accès ouvert à la recherche, modalités de contribution des utilisateurs, ouverture de la gouvernance…) qui dépendent chacune d’échelles. Pour évaluer ces paramètres, nous aurions besoin d’une forme de « nutriscore » qui puisse informer de la qualité des explications, de la transparence, de la gouvernance… et qui permettrait de pointer un idéal auquel tendre !

Hubert Guillaud

PS : signalons les très intéressantes études de cas de modération du groupe de réflexion The Copia Institute (@copiainstitute) – découvertes au détour de nos lectures -, qui soulignent très bien par des exemples concrets la difficulté de la modération et montrent les compromis inhérents à toute décision.

Pour apaiser nos réseaux, il est temps de prendre soin de la construction du tissu social

Il n’y a pas si longtemps, la sociologue Zeynep Tufekci (@zeynep) dans un remarquable article pour The Atlantic distinguait les fonctions latentes de nos environnements sociaux de leurs environnements manifestes. Appliquées aux campus américains, les fonctions manifestes consistent à étudier, mais les fonctions latentes, elles, relèvent essentiellement de la sociabilité et de la socialisation. « Ces fonctions qui peuvent sembler secondaires sont en fait essentielles, elles apportent le sens nécessaire à la réalisation des activités manifestes », expliquions-nous à la suite de la chercheuse. Le problème, c’est que ces fonctions latentes ne sont pas au programme, elles ne sont pas explicites, elles font partie de l’environnement, de l’organisation des lieux et structures que nous fréquentons… mais elles sont souvent implicites, alors que les formes de socialisations qui y sont organisées sont éminemment fonctionnelles.

À l’occasion d’une intervention donnée en mai lors de la conférence annuelle d’Educause, l’une des grandes associations américaines qui s’intéresse aux liens entre l’éducation supérieure et la technologie, la chercheuse américaine, danah boyd (@zephoria), fondatrice et présidente de l’excellent Institut de recherche Data&Society (@datasociety), a délivré un discours particulièrement pénétrant sur la question de la polarisation via les réseaux sociaux, en faisant, comme à son habitude, un imposant pas de côté pour nous aider à mieux trouver des leviers d’action. Une intervention qu’elle a retranscrit sur sa newsletter personnelle (on renverra les lecteurs notamment à la plus récente intervention de danah boyd – parmi de nombreuses autres interventions auxquelles nous avons si souvent fait écho, dont la présente intervention semble la suite logique : « De quelle éducation aux médias avons-nous besoin ? »).

Tisser un tissu social sain par danah boyd

Une société fracturée

En préambule, boyd rappelle que pour nombre d’entre nous, la polarisation et la haine sont pleinement liées à l’écosystème de l’information dans lequel nous vivons, notamment aux médias de masse et aux réseaux sociaux. Cela produit nombre de conversations (passionnantes) sur la désinformation, le pouvoir des plateformes et la politique. Pour elle, cependant, la polarisation et la haine sont d’abord les conséquences sociales d’une société fracturée, de personnes qui ne sont pas connectées les unes aux autres de manière significative ou profonde. Les divisions sont d’abord sociales avant d’être technologiques. Les technologies n’en sont que le reflet ou l’accélérateur. Il est nécessaire de nous intéresser au graphe social, explique-t-elle, mais pas à la carte produite par nos connexions technologiques (voir par exemple de vieilles explications sur ce sujet), mais bien avant tout à la réalité de nos interconnexions sociales, à ceux auxquels nous sommes reliés et donc à ceux auxquels nous ne le sommes pas. Ce graphe social de la société est une infrastructure civique essentielle, explique-t-elle, mais trop peu de gens comprennent vraiment comment l’alimenter et l’entretenir.

danah boyd rappelle que le concept de réseau social remonte aux années 50, bien avant l’internet donc. À l’époque, les chercheurs qui étudiaient les structures de relations parlaient d’ailleurs de « sociogramme ». Ils cherchaient à comprendre les structures des tissus sociaux de la société en observant à la fois les réseaux sociaux au niveau micro, les relations que les individus entretiennent, et à la fois au niveau macro, en observant comment ces relations s’entrecroisent. De nouveaux concepts comme la « force des liens » ont alors fait leur apparition en sociologie pour décrire la valeur des relations entre les personnes. Mark Granovetter a montré que les gens usaient de différentes stratégies pour développer, maintenir et renforcer leurs réseaux sociaux, notamment en distinguant les liens forts (famille, amis proches) et les liens faibles (relations) et en soulignant combien ces derniers sont essentiels pour accéder à des opportunités professionnelles par exemple. Ainsi, bien souvent, les liens sociaux établis dès l’école s’avèrent être un fondement essentiel pour l’accès des jeunes à de futurs emplois.

L’intégration ne se fait pas toute seule

« Bien sûr, les gens ont compris que les relations étaient importantes bien avant que les sociologues ne commencent à effectuer des analyses de réseaux sociaux et à étiqueter les dynamiques sociales », rappelle la sociologue en constatant qu’on apporte peu d’attention aux endroits où la planification stratégique autour des réseaux sociaux a fini par profiter à la société de manière inattendue. La fin de la guerre civile américaine, en 1877, n’a pas clos la méfiance entre le Nord et le Sud des États-Unis et encore moins la réalité de la discrimination raciale, des Blancs envers les Noirs. Jusqu’à la Première Guerre mondiale, la haine et l’animosité se sont même développées, notamment via les lois Jim Crow, pour entraver les droits constitutionnels des Afro-Américains. Mais avec la guerre, les hommes blancs de tout le pays ont été rassemblés dans des unités militaires. Les Noirs également, dans des unités distinctes et de seconde zone bien souvent. Durant la Seconde Guerre, ils ont plus souvent combattu côte à côte. « Après les deux guerres, les soldats sont rentrés chez eux. Mais ils rentraient chez eux en connaissant quelqu’un d’autre dans le pays, ayant construit des liens sociaux qui leur permettaient d’apprécier et d’humaniser des personnes différentes d’eux. » « En fait, nombre de ces liens seront activés par d’anciens soldats dans les années 1950, lorsque le mouvement des droits civiques commencera à émerger. Il s’avère que l’intensité du service aux côtés d’autres gens pendant une guerre crée des amitiés et un respect qui peuvent souder le pays de manière profonde », par-delà les classes sociales ou les différences de couleur de peau.

De nombreuses institutions participent à tisser des réseaux de personnes, intentionnellement ou non. Des communautés se forment autour d’activités religieuses, à la fois localement et par le biais de services qui relient les gens au-delà des frontières géographiques. Des liens professionnels se créent au sein des entreprises et entre elles. « Et puis, bien sûr, il y a l’école. Et c’est de cela que nous sommes venus parler aujourd’hui, l’école. Parce que l’école est un lieu essentiel de création de liens sociaux. Et mon intervention d’aujourd’hui a pour but de vous aider à réfléchir au rôle que vous jouez dans la construction du tissu social de l’avenir. Je vous demande de prendre ce rôle au sérieux, de le reconnaître et d’être stratégique à cet égard. Car vous jouez ce rôle, que vous en soyez conscient ou non », adresse-t-elle aux éducateurs venus l’écouter.

« Nous traitons souvent les relations entre camarades de classe comme un merveilleux sous-produit de l’éducation, quelque chose qui se produit, mais que nous ne considérons pas comme un élément central du mandat éducatif. Bien sûr, nous créons des équipes de projet dans la classe et nous aidons à former des groupes d’étudiants ou des équipes sportives avec plus ou moins de considération pour ces groupes, mais nous ne formons pas ces équipes. Notre décision d’ignorer la façon dont les groupes de pairs sont formés est particulièrement étrange étant donné que nous nous disons que la raison d’être de l’éducation publique est de socialiser les jeunes à la vie publique afin que nous puissions avoir une démocratie fonctionnelle. De nombreuses communautés éducatives sont profondément engagées dans la lutte contre les inégalités et considèrent la diversité des écoles comme un élément clé de cette mission. Mais si elles ne comprennent pas comment construire un tissu social, les écoles peuvent contribuer à la montée de la haine sans même essayer. En ignorant le travail de construction de réseaux sains, en prétendant qu’un rôle neutre est même possible, nous mettons notre tissu social en danger. »

« Au cours des premières années de mes études sur les jeunes et les médias sociaux, j’ai réalisé un mini-projet que je n’ai jamais publié. Je passais mes journées dans une poignée d’écoles racialement diversifiées de Los Angeles. J’ai remarqué que, lorsque la cloche sonnait, ces classes diversifiées se transformaient en groupes ségrégés sur le plan racial dans les couloirs, la cantine et les cours de récréation. J’ai décidé d’examiner les réseaux sociaux que ces élèves mettaient en place par le biais des médias sociaux, en démontant les réseaux complets des écoles tels qu’ils étaient articulés par les liens d’amitié. Ces écoles n’avaient pas de groupe racial dominant. Mais sur les médias sociaux, j’ai constaté une forte polarisation raciale parmi les groupes de pairs. En bref, les élèves pouvaient être assis à côté de personnes de couleurs différentes dans leurs classes, mais les personnes avec lesquelles ils parlaient dans la cour et en ligne étaient ségrégées. »

« Nous avons toujours su que l’intégration ne se fait pas toute seule ». Le travail d’intégration scolaire ne s’est pas terminé avec l’affaire Brown contre Board, c’est-à-dire avec les arrêts qui ont rendu la ségrégation raciale dans les écoles publiques américaines inconstitutionnelle. « Ce n’est pas parce que des élèves ayant des expériences de vie différentes se retrouvent dans la même école physique que les écoles font le travail nécessaire pour aider à créer des liens entre des personnes ayant des expériences de vie différentes ».

« Les gens s’auto-séparent pour des raisons saines et problématiques ». Pensez à vos propres amitiés à l’école. « Vous avez probablement rencontré des personnes différentes de vous, mais si vous êtes comme la plupart des gens, vos relations les plus proches sont probablement de la même origine raciale, socio-économique ou religieuse que vous. Les gens s’auto-ségrègent en fonction de leurs expériences, de leurs antécédents et de leurs intérêts. Par exemple, si vous êtes passionné de basket-ball, vous avez peut-être développé des amitiés avec d’autres personnes qui partagent cet intérêt. Si vous étiez dans l’équipe de basket et que vous passiez tout votre temps libre à jouer au basket, il est presque certain que vos amis sont majoritairement des membres de l’équipe de basket. »

Nous recherchons des personnes qui nous ressemblent parce que c’est plus facile et confortable. Les sociologues appellent cela « l’homophilie » (et c’est déjà danah boyd qui avait attiré notre attention sur cet aspect, renforcé par les réseaux sociaux électroniques). Dans nombre de contextes de nos existences, comme l’école, nous faisons et subissons des choix qui augmentent ou diminuent la diversité des réseaux sociaux auxquels nous sommes confrontés.

Former des groupes est aussi important que la pédagogie

« Prenons l’exemple des équipes de projet de groupe assignées avec des notes de groupe. Si vous faites travailler ensemble des personnes qui se ressemblent, elles auront plus de chances de se lier. Cela augmentera l’homophilie, mais aussi la perception que ces ressemblances sont « bonnes ». Mais si vous faites travailler ensemble des personnes qui ne se ressemblent pas afin d’accroître la diversité, les liens ne sont pas acquis. De plus, si elles ne sont pas bien gérées, ces situations peuvent devenir compliquées. » Travailler avec des personnes différentes est plus difficile. Cela demande du travail. C’est épuisant. « Lorsque nous ne parvenons pas à trouver un terrain d’entente et des objectifs communs, nous en venons à éprouver du ressentiment à l’égard des autres personnes avec lesquelles nous pensons être « coincés ». Pensez à ce sentiment que vous avez eu à propos d’un projet de groupe où quelqu’un n’a pas fait sa part. Le problème est que lorsque nous en voulons à une personne différente de nous pour une injustice perçue comme le fait de ne pas faire sa part, nous commençons à en vouloir à la catégorie de personnes que cette personne représente pour nous. En d’autres termes, nous pouvons accroître l’intolérance par des efforts mal accompagnés pour constituer des équipes diversifiées. »

« La conception de groupe est importante. Tout autant que la pédagogie. »

Si notre objectif est de diversifier le graphe social, d’aider les gens à surmonter les différences, la structure des activités doit être stratégiquement alignée sur cet objectif. Si tout le monde partage le même objectif, ils peuvent se lier sans beaucoup plus que la co-présence. C’est la beauté d’un club scolaire ou d’une équipe sportive. Il est également utile d’avoir un ennemi commun, comme c’est le cas dans les sports où l' »ennemi » est l’autre équipe. Mais l’objectif d’un groupe de projet scolaire est formulé par l’enseignant, pas par les élèves. Les élèves ont des objectifs différents lorsqu’ils participent. Au mieux, les liens au sein d’une équipe de groupe se feront par le biais d’un ressentiment partagé envers l’enseignant.

Les liens se créent lorsqu’il y a un alignement intrinsèque sur les objectifs ou un ennemi extrinsèque. Mais il y a une troisième composante… Lorsque les gens sont vulnérables les uns envers les autres, ces liens deviennent plus importants. C’est vrai dans l’armée, où vous devez être prêt à donner votre vie pour quelqu’un. Mais c’est également vrai dans les dortoirs des lycées et collèges d’élite américains.

De nos ingénieries sociales invisibles

Les personnes qui sortent de l’enseignement d’élite américain ont souvent une réussite extraordinaire, même par rapport à celles qui ont été éduquées dans des établissements d’élite dans d’autres pays, explique la chercheuse. Mais les étudiants américains ne sont pas intrinsèquement meilleurs que les autres, pas plus que leurs enseignants, rappelle l’enseignante en soulignant que la plupart ne sont pas formés à enseigner et que beaucoup ne sont pas très bons dans cette fonction. Et ce d’autant que les enseignants viennent dans ces institutions pour faire de la recherche plutôt que pour devenir de meilleurs enseignants. Certes, il existe des professeurs exceptionnels, mais la plupart d’entre eux ne sont pas dans les écoles les plus prestigieuses. « Ce qui fait l’élite des écoles d’élite est ancré dans la façon dont les réseaux sociaux se forment à travers les universités. » Et les établissements d’élite américains ont quelque chose que peu d’autres universités dans le monde proposent : la résidence universitaire obligatoire pendant plusieurs années où l’attribution des chambres (souvent pour deux personnes) est confiée à un administrateur et pour beaucoup au hasard. Bien souvent, les étudiants se retrouvent à partager leur espace de vie avec quelqu’un qu’ils ne connaissent pas. « Que vous soyez allé dans une école qui a conçu ces paires de colocataires de manière sociale ou dans une école qui les a générées de manière aléatoire, vous avez été forcé de participer à une expérience sociale. Vous deviez trouver un moyen de vivre avec un étranger, ce qui exigeait de négocier l’intimité et la vulnérabilité de manière approfondie. Personne ne vous a dit que ce mode de vie était essentiel à la construction du tissu social de la société américaine, mais il l’était. Même si vous sortez de l’université sans jamais reparler à votre colocataire de première année, vous avez appris quelque chose sur les gens et les relations en négociant cette relation. C’est ainsi que se créent les réseaux d’élite. » Et c’est cet apprentissage qui est la véritable valeur d’une éducation d’élite. Apprendre à vivre avec quelqu’un qui n’est pas comme vous.

Bien sûr, reconnaît la chercheuse, même sur les campus universitaires, cela a changé. « Lorsque Facebook a commencé à apparaître sur les campus, j’ai remarqué quelque chose d’étrange chez les étudiants. Ils utilisaient Facebook pour s’auto-ségréger avant même le début de leur première année. Ils suppliaient les administrateurs de changer leur colocation ; ils ne se liaient pas autant avec leurs camarades de chambrée quand c’était difficile. Puis, lorsque les téléphones portables sont devenus un appendice pour les adolescents, les étudiants à l’université ont choisi de maintenir les liens avec leurs amis du secondaire plutôt que de se lancer dans le travail inconfortable de la construction de nouvelles amitiés à l’université. Cette année, pendant la pandémie, les étudiants de première année au collège se sont à peine liés les uns aux autres. J’ai réalisé avec horreur que ces technologies sapaient un projet d’ingénierie sociale dont les étudiants et les universités ne connaissaient même pas l’existence. Que les écoles ne reconnaissaient pas comme précieux. Et dont nous commençons maintenant à payer le prix. »

Avec la pandémie, le manque de sensibilisation à l’importance du développement du lien social est devenu encore plus profond. D’innombrables outils sont venus aider les élèves et les enseignants à transférer leurs méthodes pédagogiques sur l’internet, en produisant des contenus vidéos interactifs et en utilisant des outils de sondages pour interagir avec les élèves à distance. Mais la relation sur laquelle tous ces outils se sont focalisés était la dynamique entre l’enseignant et l’élève. Combien d’outils ont été déployés cette année pour renforcer les liens entre étudiants ? Pour les aider à se connecter aux autres de manière saine ? « La plupart des outils que j’ai vus visaient à accroître la compétition et la culpabilité ». Des outils qui maximisent les capacités des plus performants. Des outils ancrés dans la comptabilité et la responsabilité individuelle. « Pourquoi n’a-t-on pas vu naître d’outils qui aident les élèves à tisser des liens par-delà leurs différences ? »

Briser et façonner les réseaux sociaux : un outil phare du contrôle social

Les situations traumatisantes comme une pandémie créent souvent des ruptures qui réorganisent les relations sociales. Mais agir sur les réseaux sociaux est depuis longtemps un moyen pour provoquer des traumatismes et du contrôle social. Des plantations d’esclaves au contrôle de la population juive par les nazis, le contrôle des familles et des réseaux sociaux, leur démantèlement, leur reconfiguration a toujours été mis en œuvre à pour renforcer le contrôle social. « Dans ces deux contextes d’ailleurs, l’une des formes les plus radicales et les plus importantes de résistance de la part des personnes asservies et maltraitées a été de construire et de maintenir des réseaux dans l’ombre. Ces réseaux ont rendu possible la fuite des personnes, des idées et des connaissances et ont produit des formes de solidarité qui ont permis de lutter pour la dignité ».

Le monde de l’élite de la finance et du conseil en gestion offre un autre type d’exemple, explique encore la chercheuse. Ici, c’est un contrôle par l’endoctrinement plutôt que par la force physique qui opère. Lorsque les nouveaux diplômés se lancent dans ces univers, ils sont confrontés à un bizutage contrôlé par le secteur, qui n’est pas sans rappeler l’entraînement militaire. Ils doivent travailler de longues heures, et on attend d’eux qu’ils soient d’astreinte, qu’ils voyagent, qu’ils soient à l’écoute de leurs patrons. Ce traitement contribue à démanteler leurs réseaux sociaux, à les reconfigurer. Le but, comme à l’armée, est de parvenir à une forme de contrôle idéologique total et ce contrôle idéologique passe également par la transformation des réseaux relationnels.

Pour danah boyd, ces exemples montrent combien le contrôle des réseaux de sociabilité joue un rôle essentiel. L’école obligatoire a également été adoptée pour briser les réseaux de sociabilité, mais elle ne s’est réellement imposée qu’avec la grande dépression, à une époque où trop d’adolescents occupaient trop d’emplois d’adultes alors qu’il y avait moins d’emplois pour tous. La solution a donc consisté à les enfermer à l’école. Autre exemple encore. Jusqu’à la création de l’école obligatoire, les associations sportives étaient mixtes en âge, comprenant autant des adolescents que des adultes. « Grâce au sport, les adolescents apprenaient à connaître des adultes qui les aidaient à accéder au travail ». En créant le sport à l’école, la ségrégation par âge a été promulguée, mais elle a eu des coûts importants. « Lorsque les jeunes n’interagissent pas avec des personnes d’âges différents, les dynamiques de statut et de pouvoir se replient sur elles-mêmes. » La ségrégation par âge a certainement construit nombre de maux sociaux inédits… suggère danah boyd.

Ces exemples soulignent combien l’organisation et la structuration des réseaux de sociabilité compte. Les travailleurs sociaux qui tentent d’aider des jeunes à échapper à la toxicomanie, aux gangs, à la prostitution… savent très bien la nécessité de couper leurs connexions sociales pour en créer de nouvelles. Mais pour que cela fonctionne, il faut bien sûr que les personnes soient consentantes. « Forcer une personne à rompre ses liens sociaux simplement parce que vous pensez que c’est bon pour elle a tendance à avoir l’effet inverse » Refaire des réseaux de sociabilité est un projet qui se déploie sans cesse. « La rupture des relations sociales change la vie. » Elle peut aider les gens à sortir d’un traumatisme, mais elle peut aussi être traumatisante. Le sociologue Paul Willis dans son livre Learning to labor (1977, L’école des ouvriers, Agone, 2011) a montré par exemple que les jeunes de la classe ouvrière qui bénéficiaient d’interventions éducatives considérables, refusaient bien souvent les nouvelles opportunités qui s’offraient à eux en préférant occuper des emplois ouvriers. De fait, ils ne souhaitent pas laisser derrière eux leur famille et leurs amis. Ils ne veulent pas que leurs réseaux sociaux soient brisés. Ceux qui partent sont souvent ceux qui sont en difficultés dans ces communautés, comme les jeunes LGBTQ qui cherchent à échapper à l’homophobie.

« Les jeunes qui disposent de réseaux sociaux de soutien limités à l’école se tournent régulièrement vers l’internet pour en trouver ». Mais ce n’était déjà autant le cas quand la chercheuse a commencé ses recherches sur le rapport des jeunes à l’internet, notamment parce que la rhétorique du danger des années 90 avait modifié la perception de l’internet par les parents, comme l’explique son excellent livre, C’est compliqué (2016, C&F éditions). Trop souvent encore, parents et éducateurs pensent qu’il faut éloigner les jeunes de l’internet et des réseaux sociaux, prolongeant la ségrégation par âge que nous connaissons depuis trop longtemps. Or, on ne peut pas apprendre à faire confiance à une population si on ne la fréquente pas. Nous avons construit des générations ségrégées qui discutent peu avec les autres. Mais ce n’est pas « naturel » rappelle la chercheuse. « C’est socialement construit », et cela rend les générations vulnérables les unes aux autres.

Les campagnes de désinformation sont fondamentalement des projets de restructuration des réseaux sociaux

Depuis plusieurs années, explique danah boyd, j’essaie de comprendre pourquoi certains jeunes adhèrent aux motifs conspirationnistes ou se livrent à la haine en ligne. « À chaque fois, je constate que les jeunes sont à la recherche d’une communauté ». Tout comme les jeunes gays pensent trouver une communauté en faisant leur coming out (et en récoltant surtout du harcèlement), nombre d’autres pensent trouver une communauté en partageant des horreurs.

Ces tensions semblent plus polarisées qu’elles ne l’étaient avant. L’alimentation de la haine en ligne semble construite délibérément en opposition à l’éducation. Bien sûr, l’éducation publique a toujours été controversée, notamment dans des débats sans fin sur ce que les enfants devaient apprendre. La question de l’enseignement de l’évolution, aux États-Unis, est certainement l’exemple le plus vif des innombrables guerres juridiques et culturelles qui ont façonné la politique scolaire. Mais ce débat est longtemps resté de l’ordre de désaccords entre adultes. Ce qui a changé ces dernières années, c’est que les élèves eux-mêmes sont désormais enrôlés dans ces luttes culturelles, au risque de déstabiliser l’enseignement et remettre en question le projet d’éducation.

danah boyd prend l’exemple de PragerU, un site web de vidéos présenté comme un répertoire de contenus éducatifs à destination des jeunes. À première vue, ces vidéos sont clairement conservatrices sur une grande variété de questions. Mais leur devise est claire, elle annonce vouloir défaire l’endoctrinement idéologique du système éducatif américain. Les détracteurs de PragerU qualifient ces contenus de désinformation, mais ces vidéos sont surtout conçues pour déstabiliser. Par exemple, ils proposent une série de vidéos sur « Ce qui ne va pas avec le féminisme » qui vise clairement à recadrer l’histoire et semer le doute, en affirmant par exemple que les droits à porter une arme sont un droit des femmes ou qu’il n’y pas d’écart salarial entre hommes et femmes… et soutiennent ouvertement qu’il y a une guerre à l’encontre des hommes et tiennent un propos très conservateur sur les rôles sexués. Ces vidéos s’inscrivent dans un écosystème en réseau visant à alimenter une certaine culture, et là encore, briser les liens sociaux existants pour les orienter vers d’autres réseaux de relations. « Les campagnes de désinformation sont fondamentalement des projets de restructuration des réseaux sociaux ». Ces vidéos visent à mettre en doute les savoirs en suggérant que les professeurs et leurs enseignements sont orientés. Ce cadre de déstabilisation se prolonge d’autres déstabilisations.

« Si vous vous engagez sur la voie d’un savoir déstabilisé qui rejette la faute sur les féministes, vous serez introduit dans d’autres cadres qui vous diront que le « vrai problème », ce sont les immigrants, les Noirs, les Juifs et les musulmans ». Ceux qui dégringolent dans ces contenus sont invités à s’y investir, alors que toujours plus de contenus déformés leur sont proposés. « En raison de la manière dont l’information est organisée et mise à disposition sur internet, il est beaucoup plus facile d’accéder à une vidéo conspirationniste toxique sur YouTube, diffusée par quelqu’un qui se dit expert, que d’accéder à des connaissances scientifiques ou à des contenus d’actualité, qui sont souvent verrouillés derrière un mur payant. »

« Les élèves qui ont du mal à nouer des liens à l’école se tournent vers l’internet pour trouver une communauté. Les élèves dont les parents leur apprennent à ne pas faire confiance aux enseignants cherchent des cadres alternatifs. Les élèves qui ont des difficultés en classe cherchent d’autres mécanismes de validation. Tous ces élèves sont vulnérables aux cadres qui disent que le problème ne vient pas d’eux, mais d’autre chose. Et lorsqu’ils se tournent vers l’internet pour donner un sens au monde, ils ne sont pas seulement exposés à des contenus toxiques. Leurs réseaux sociaux changent également. L’épistémologie – ou notre capacité à produire des connaissances – est devenue une arme permettant de remodeler les réseaux sociaux. La polarisation politique n’est pas seulement idéologique ; elle est également inscrite dans le graphe social lui-même. »

« Ce n’est pas seulement ce que vous enseignez qui est menaçant : c’est la façon dont les écoles construisent les relations sociales entre pairs qui est menaçante »

Dans les années 1990, des universitaires ont commencé à se préoccuper de la façon dont les connaissances scientifiques étaient attaquées, notamment autour de la montée du climatoscepticisme. À la suite de l’historien Robert Proctor, ils ont proposé un terme pour évoquer l’étude de l’ignorance : l’agnotologie. L’ignorance selon ces chercheurs était à la fois le fait de ne pas savoir, mais également caractérisait les connaissances perdues et les connaissances déstabilisées ou polluées. Reste que la fabrication de l’ignorance n’est pas possible sans s’attaquer aux réseaux relationnels.

« Pour modifier radicalement la façon dont les gens voient le monde, il faut modifier leurs liens avec ceux qui pourraient remettre en question ces nouveaux cadres », à l’image des pratiques sectaires dont le principal effort vise à vous faire douter et à vous couper de réseaux de relations. Parce qu’elle invite les jeunes à examiner la connaissance de manière critique, il n’est pas étonnant que l’école soit particulièrement attaquée. « Ce n’est pas seulement ce que vous enseignez qui est menaçant : c’est la façon dont les écoles construisent les relations sociales entre pairs qui est menaçante », explique la chercheuse aux professeurs venus l’écouter. « Que vous en soyez conscients ou non, vous tous – en tant qu’éducateurs, travailleurs sociaux, bibliothécaires et constructeurs d’outils – configurez la vie publique d’une manière qui menace toute une série d’objectifs financiers, idéologiques et politiques. Et cela, rien qu’en essayant d’enseigner aux étudiants. Juste en créant les conditions dans lesquelles les étudiants se rencontrent. Même si vous ne tentez pas de retisser le tissu social ».

À un certain niveau, cela ne devrait pas être surprenant, rappelle la chercheuse. Une grande part des promoteurs de l’école à la maison est née de la crainte que l’éducation laïque n’incite les jeunes à remettre Dieu en question. Mais l’enseignement ne menace plus seulement l’Église. Les luttes du secteur éducatif étaient centrées sur le financement pour lutter contre la logique d’austérité. Demain, les nouveaux combats seront centrés sur le réarrangement des réseaux sociaux des élèves, sur la reconfiguration de leur vision du monde, et les conflits à venir auront lieu dans la salle de classe elle-même, prévient la sociologue.

La création et la refonte de réseaux à des fins idéologiques, économiques et politiques sont omniprésentes. Nombre d’éducateurs aimeraient ne pas s’engager dans ces questions. « Nous voulons être neutres », mais nous sommes également les témoins des coûts sociaux que cette neutralité implique. Nombre de professeurs n’observent pas comment les pratiques façonnent les réseaux relationnels et la plupart des élèves ne sont pas conscients de la façon dont leurs réseaux relationnels les déterminent et façonnent leur monde.

Façonner le graphe social

« Je crois fermement qu’il est grand temps de reconnaître que l’éducation façonne le graphe social et qu’il est temps de faire un effort concerté pour s’attaquer à ce problème dans nos salles de classe et dans la construction de nos outils. En termes simples, nous ne pouvons pas avoir de démocratie si nous ne réfléchissons pas à notre tissu social », au risque d’une guerre civile. « Nous ne pouvons pas lutter contre les inégalités ou accroître la diversité sans nous occuper consciencieusement du graphe social. Bon nombre des défis auxquels nous sommes confrontés aujourd’hui – polarisation, haine, violence et anomie (c’est-à-dire l’absence d’organisation ou de loi, la disparition des valeurs communes à un groupe, NDLR) – peuvent être relevés en alimentant activement, intentionnellement et stratégiquement le graphe social de notre société », explique la chercheuse qui invite les professeurs à trouver des modalités d’interventions nouvelles. Pour cela, elle expose quelques exemples possibles d’interventions.

Nos sociétés surinvestissent la rhétorique du danger et de l’étranger. Mais, « lorsque les jeunes appellent à l’aide sur l’internet, qui doivent-ils trouver ? » Alors que dans les salles de classe, nous apprenons aux jeunes à être réactifs face aux méchancetés qui ont lieu à l’école, trop souvent nous ignorons les appels à l’aide que nous croisons sur les réseaux sociaux. La peur de l’étranger et de l’inconnu perpétue l’inaction. Pourtant, c’est bien souvent d’inconnus que nous parviennent les meilleures aides. danah boyd rappelle qu’elle est membre du conseil d’administration de Crisis Text Line, un service d’aide et de prévention du suicide par SMS notamment (que nous avions déjà évoqué). Ce service gère chaque année des millions de conversations, notamment avec des jeunes, par des conseillers formés à ces questions, plutôt qu’à des inconnus mal intentionnés. C’est un exemple qui montre qu’on peut stratégiquement orienter les jeunes vers des inconnus qui les aideront. Plus nous insistons sur le danger que représentent les inconnus, plus nous risquons de générer des interactions négatives ou impossibles avec eux, alors que nombre de professionnels inconnus sont la meilleure réponse que nous ayons à proposer pour aider les jeunes dans leurs difficultés.

De nombreux bénévoles viennent en aide aux sans-abris ou aux toxicomanes qui errent dans nos rues. Mais nous n’avons pas de « travailleurs de rue » pour venir en aide à ceux qui trainent dans les rues d’internet (une idée que la chercheuse défendait déjà en 2008). « Nous n’avons pas de programmes pour aider les personnes en souffrance en ligne », rappelle la chercheuse en invitant à apprendre aux élèves à réagir d’une manière empathique aux souffrances qu’ils y rencontrent.

Les programmes de correspondants ont longtemps été populaires dans les écoles. Ils étaient des leviers pour apprendre de la différence, voire combler les fossés sociaux et culturels. Il existait également des programmes pour mettre en relation des étudiants et des prisonniers ou avec des personnes âgées. La technologie et la peur de l’étranger les ont fait en grande partie disparaître. En s’informant sur ces programmes, la chercheuse souligne que peu de personnes en comprenaient encore la valeur.

Pourtant, nous pourrions tout à fait utiliser la technologie pour mettre au goût du jour ce type de programmes. Avec la pandémie, nombre d’écoles ont utilisé des plateformes en ligne, mais bien peu pour aider les élèves à se soutenir entre eux.

Les programmes de correspondance se concentrent sur les connexions individuelles, mais l’enjeu exposé ici vise à aller au-delà, et à construire stratégiquement un graphe social de relation. Et la technologie peut nous y aider. Qui a déjà cartographié les relations des élèves entre eux dans leur classe, leur école ? Les écoles disposent d’outils pour suivre les performances scolaires de chaque élève, mais qui surveille la santé de leurs relations sociales ? Placer cette question au centre de son travail pourrait modifier nombre des pratiques des éducateurs. Pour les administrateurs, cela signifie agencer les classes selon d’autres stratégies. Pour les enseignants, cela signifie veiller à la manière dont sont construits les groupes, dont sont placés les élèves en classe… Nombre d’enseignants font cela au feeling, mais qu’en serait-il si vous aviez une carte qui vous permettrait d’attribuer des objectifs ? « Plutôt que d’avoir pour objectif la réussite du projet de groupe, imaginez un objectif qui vise à renforcer ou élargir le graphe social des élèves », propose la chercheuse.

La création de nouvelles relations dépend beaucoup des changements de contextes. Les nouvelles amitiés se forment souvent au début de l’année scolaire, quand les élèves sont exposés à de nouveaux élèves et à de nouveaux rituels. Mais il y a également des moyens stratégiques pour cela, comme les voyages scolaires ou les projets extérieurs, qui permettent justement de créer des conditions stratégiques pour réunir certains élèves entre eux.

Les étrangers familiers : le coup de pouce au social !

« Stanley Milgram était un psychologue surtout connu pour ses expériences d' »obéissance à l’autorité », mais il a également mené une série d’études sur les « étrangers familiers ». Considérez quelqu’un que vous voyez rituellement, mais avec qui vous ne parlez jamais vraiment. Le banlieusard qui prend votre train tous les jours, par exemple. Si vous rencontrez cette personne dans un contexte différent, vous devenez plus susceptible de lui dire bonjour et d’entamer une conversation. Si vous êtes vraiment loin de votre zone de confort, il est presque certain que vous créerez des liens, au moins pendant un moment. De nombreux étudiants sont des étrangers familiers les uns pour les autres. Si vous les sortez de leur contexte et les placez dans un contexte totalement différent, ils sont plus susceptibles de se lier. Ils sont encore plus susceptibles de se lier lorsque les rencontres se répètent. »

danah boyd évoque à ce propos une anecdote particulièrement éclairante. Pour mieux fidéliser les Deadhead, les fans du groupe de rock Grateful Dead, la pratique voulait que les organisateurs gardent traces des gens auprès desquels vous étiez placé lors de l’achat d’une place de concert. Ainsi, quand vous en achetiez une autre, la pratique était de vous placer près de quelqu’un qui était près de vous au précédent concert pour faciliter les relations sociales. Ainsi peut-on inciter les gens à entrer en contact en créant les conditions nécessaires pour qu’ils se rencontrent régulièrement. Pour boyd, c’est là un exemple qui montre comment prendre les réseaux au sérieux, à prendre soin, intentionnellement, du tissu social. « Vous pouvez être aussi intentionnel dans le tricotage du graphe social que dans votre pédagogie. Et les deux sont essentiels à l’autonomisation de vos étudiants. » danah boyd conclut son intervention en esquissant d’autres pistes encore, comme d’inviter les jeunes à évaluer réellement leur réseau et à réfléchir à la manière d’être plus réfléchi justement quant aux relations qu’ils entretiennent. Bref, à leur apprendre à être parfois plus stratégiques ou au moins plus ouverts à la question de leurs sociabilités.

danah boyd livre une idée simple et stimulante, un contrepoint à la manière dont nous observons les questions de désinformation… Reste qu’elle les livre sans beaucoup de garde-fous. Réunir des jeunes qui n’ont pas d’intérêts communs ou peinent à être ensemble génère bien souvent des difficultés, qu’il faut savoir traiter et accompagner. Ce qu’avance danah boyd est plus facile à dire qu’à faire. Cela demande certainement bien plus d’investissement de la part des accompagnateurs, comme d’être plus proches des groupes, de leur fournir des méthodes ou de les aider dans les difficultés qu’ils ne manqueront pas d’affronter du fait de leurs différences, d’arbitrer des choses qui ne s’arbitrent pas si facilement. Enfin, cela demande également de savoir quand et comment agir… Nombre de ces coups de pouce au social ne fonctionnent pas si bien. Et ce « nudging social », ce type de coup de pouce comportemental, peut aussi créer des difficultés plus que les résoudre. Reste que là où on la rejoindra certainement, c’est sur le constat que nous avons certainement des progrès à faire pour améliorer la complexité et la richesse du social, dans un temps où l’individualisation semble ne cesser de le faire reculer.

La pandémie nous a montré combien nos sociabilités nous ont manquées. Elle nous a montré que quelque chose n’était pas réductible à nos outils techniques. Que quelque chose qui tenait à la forme de création du social y résistait profondément. Ce à quoi nous invite danah boyd c’est assurément à mieux observer – comme nous le disions en conclusion de notre dossier sur Zoom -, ce que nos socialités et sociabilités produisent, ce à quoi elles ne peuvent être réduites, mais comment, au contraire, elles peuvent être amplifiées, augmentées, structurées… En nous invitant à améliorer la construction sociale du social, elle nous montre qu’il y a encore des pans de nous-mêmes qui nous échappent.

Couverture du livre Quiproquos de Malcolm GladwellCela m’évoque d’une certaine manière le dernier livre de l’essayiste américain Malcom Gladwell (Wikipédia, @gladwell), Quiproquos (Kero, 2020), qui explique combien nous sommes nuls à interpréter les autres et notamment les inconnus. La plupart du temps, nous nous trompons à leur égard. Comme Chamberlain quand il rencontre Hitler, la plupart des juges pensent pouvoir confondre la vérité d’un accusé juste en perçant leur cœur de leur regard. Hélas, ça ne fonctionne pas si bien. Nous sommes, contrairement à ce que l’on croit, de mauvaises machines à lire les autres.

Pire, nos erreurs sont renforcées par nos jugements trop rapides sur les autres qui nous font prendre du bruit pour des signaux, l’apparence pour de l’information… Nous sommes incapables de détecter le mensonge. « Nous commençons par croire. Et nous arrêtons de croire seulement lorsque nos doutes atteignent un seuil où nous ne pouvons plus trouver d’explication convaincante. » Nous optons toujours pour la vérité par défaut et pour la confiance, afin de faciliter nos échanges sociaux. Nous pensons aussi que les gens sont transparents, que nous parvenons parfaitement à lire leurs expressions et émotions, mais là encore, nous surestimons l’expressivité des autres, comme de la nôtre. La transparence des émotions est un mythe, rappelle Gladwell. Nous jugeons des gens nerveux sans saisir leur contexte, culturel ou spécifique, tant il est souvent éloigné du nôtre. Nous sommes définitivement myopes. Gladwell finalement souligne combien nous sommes de piètres machines à décrypter le social.

Tout cela sonne certes comme autant d’évidences qui devraient nous inviter à beaucoup d’humilité, mais nous montre également que la question de l’évolution du social demeure un plafond de verre que nous peinons à adresser et à faire évoluer, c’est-à-dire à faire progresser lui aussi… Le chemin pour apprendre à vivre avec ceux qui ne nous ressemblent pas ne sera pas si simple, mais il serait intéressant de commencer à le regarder plus concrètement que nous ne le faisons actuellement, pour tenter de préciser comment avancer et comment sortir d’une forme de crise du social que l’individualisation n’aide pas du tout à dépasser.

Hubert Guillaud

❌