OK Google, t’es sérieux ?
Google vient de mettre à jour ses “recommandations”, enfin plutôt, ses ordres, au sujet de contenus rédigés par l’IA et mis en ligne afin qu’ils soient référencés par le moteur de recherche. Et une nouvelle formulation a fait tiquer plus d’un.
Google nous dit depuis le 1er octobre 2026 dans ses guidelines à propos des contenus générés : “Because of this, generative AI outputs may contain inaccuracies (also known as hallucinations). It is critical to manually factcheck and review all AI-generated content for accuracy and trustworthiness before publishing. This review also applies to metadata like <title> elements, meta description elements, structured data, and alternate texts for images, which can appear in Search results.”
Pour résumer rapidement : Google nous dit qu’il faut absolument que les contenus générés par IA soient revus et validés par des humains avant publication. C’est une saine décision, et loin de moi l’idée de dire le contraire. Il faut absolument relire et valider tout ce qui sort de ces petits outils que sont les LLM. C’est un prérequis, une obligation non négociable.
Mais alors quid de cette injonction, encore une fois tout à fait légitime, appliquée aux propres contenus générés par Google, en particulier dans le Search ? Car sauf erreur, votre “Aperçu IA”, le fameux “AI Overviews”, n’est absolument pas relu et validé par un humain. Il peut donc véhiculer un tas d’hallucinations, par exemple de sources et d’URL inventées -si si, sans que Google ne s’en émeuve plus que ça.
Ah si pardon, my bad, il y a comme chez tous les concurrents, cette petite phrase en bas du texte généré par le moteur de recherche : “Les réponses de l'IA peuvent contenir des erreurs”.
C’est pratique, ça permet de transférer la charge de la vérification sur l’utilisateur. On se demande alors, pourquoi dans l’autre sens, la charge de la vérification est laissée à celui qui propose et met en ligne le contenu, le producteur qui a fait générer un texte, et pas à celui qui le lit, c’est à dire Google. J’ai bien une petite idée, mais je dois être trop cynique.
En tout cas, merci pour ce moment Google.
Bienvenue sur IA-Pulse Weekend. Cette édition porte le numéro 182. En vous abonnant, vous recevez tous les samedis matin, l’essentiel de ce qu’il s’est passé cette semaine autour de l’IA : un coup de gueule édito, une sélection de 3 actualités avec pour chacune un résumé rapide à lire, une liste supplémentaires d’actualités et d’études académiques, et 1 article de fond pour ouvrir l’esprit. Gérez votre abonnement.
⏱️Temps de lecture de cette newsletter par une unité carbone : 10 mins
Cette semaine la partie de cette newsletter gérée par l’IA, les 3 clusters d’articles, a été générée par ChatGPT Work GPT-6.1-Sol pour les résumés des sources, ainsi que la génération des clusters et des titres. Comme d’habitude j’ai fait quelques modifications, mais j’ai aussi laissé quelques tournures typiques des modèles de langage. Et bien entendu, mes commentaires éventuels sont en italique dans ces résumés. Le texte de “l’article qui fait réfléchir” est issu de GPT-6.1-Sol. L’image d’illustration ci-dessous a été générée par Midjourney
📰 Les 3 infos de la semaine
🟣 OpenAI lance Dots, des agents persistants intégrés à ChatGPT
OpenAI a lancé le 29 septembre Dots, des agents persistants intégrés à ChatGPT et propulsés par GPT‑6 Astra. Chaque Dot dispose de son propre ordinateur cloud et de son navigateur. Il peut poursuivre plusieurs projets, conserver leur contexte et être sollicité depuis ChatGPT, Slack ou Microsoft Teams. Selon OpenAI, les plugins lui permettent de se connecter à plus de 4 000 applications.
L’idée est de lui confier un travail qui continue entre deux conversations : suivre un projet, préparer des corrections ou actualiser des documents lorsque de nouvelles informations arrivent. L’agent apprend progressivement les préférences et les exigences de son utilisateur.
« Toujours actif » ne signifie toutefois pas « tout autorisé ». Sa recherche proactive en arrière-plan utilise des outils limités à la lecture : elle ne peut ni envoyer de messages, ni modifier les applications, ni piloter l’ordinateur. Pour les autres tâches, des règles personnalisables et un contrôle automatisé déterminent les actions autorisées et celles nécessitant une approbation.
OpenAI prépare également des Dots spécialisés pour les entreprises, avec leur propre identité, leurs identifiants et des responsabilités définies. Ces versions commencent par des pilotes.
Le déploiement démarre sur Pro et Business Premium. Dots n’est pas disponible en Europe pour le moment - un vpn est ton ami.
Pourquoi est-ce important ? Après les harnais pour les rois de la bidouille - OpenClaw, Hermes et leurs dérivés, puis Grok Bot, Spark, Instinct, et surtout Muse de chez Meta, voici les Dots de chez OpenAI : l’agent personnel permanent, le collègue numérique toujours à la tâche, qui devient une catégorie de produit. On lui donne un nom, un ordinateur, du contexte et des accès. Et aussi l’apparence d’un petit personnage tout sympa. Puis on lui confie un objectif, des tâches, enfin du travail quoi. La compétition entre tous ces harnais plus ou moins bridés porte désormais sur celui à qui nous accepterons de laisser les clés de nos activités, voire nos vies numériques. Le petit personnage sympathique aide certainement à commencer la conversation et développer la confiance… ou l’inconscience, c’est selon.
Pour aller plus loin : OpenAI, Reuters, The Verge, Wired, VentureBeat
🔐 Après la polémique Muse, Apple annonce un durcissement des permissions de macOS
Apple a annoncé le 2 octobre un renforcement des contrôles entourant « Full Disk Access », l’autorisation d’accès complet au disque de macOS.
Cette permission permet notamment aux logiciels de sauvegarde d’accéder aux données nécessaires à leur fonctionnement. Elle peut aussi ouvrir l’accès aux fichiers, aux mails, aux messages et à l’historique de navigation. Apple estime que certains développeurs l’utilisent d’une manière qui expose les utilisateurs sans qu’ils comprennent pleinement ce qu’ils autorisent. Et lorsque les messages sont concernés, la vie privée de leurs correspondants l’est aussi.
L’annonce intervient après la polémique autour de Muse, l’agent personnel de Meta. Le journaliste Jason Aten a raconté que l’application avait fait référence à une conversation privée qu’il pensait lui avoir laissée inaccessible. Meta conteste cette présentation : selon l’entreprise, Muse ne peut lire Messages que si l’utilisateur a accordé l’accès complet au disque et activé le connecteur Messages dans l’application.
Pourquoi est-ce important ? Depuis pas mal de temps déjà, nous avons pris l’habitude de cliquer sur un “Autoriser” pour par exemple finir l’installation d’un logiciel. Nous cliquons sans même plus vraiment réfléchir. Depuis quelques mois, avec les Work, les Coworks et les agents directement présents sur nos machines, et en particulier sur macOS - posez-vous les bonnes questions, cette toute petite formalité mérite une lecture supplémentaire. Un “aide-moi à organiser ma journée” et un “tu peux parcourir mes conversations” peuvent sembler deux demandes bien différentes. Et pourtant... On peut espérer que l’un des prochains progrès de l’IA va consister à nous faire comprendre le bouton sur lequel nous venons de cliquer. Et aussi à comprendre les demandes que nous formulons. Cela serait une belle avancée pour l’humanité et ses activités numériques. Et pour la tranquilité des interfaces chaise-clavier.
Pour aller plus loin : Apple, TechCrunch (1), TechCrunch (2), ArsTechnica, The Verge
🎓 Anthropic engage 100 millions de dollars pour apprendre à brancher l’IA qui devait tout simplifier… car même Claude a besoin de gens qui savent s’en servir
Anthropic a annoncé le 2 octobre la Claude Frontier Academy, avec un engagement de 100 millions de dollars et l’objectif de former 10 000 « Frontier Deployed Engineers » d’ici fin 2027.
Ces ingénieurs doivent savoir transformer un projet d’IA en système réellement utilisé dans une entreprise. Les premières cohortes comprennent déjà des salariés d’Accenture, Bain, Capgemini, Deloitte, McKinsey, Morgan Stanley, Novo Nordisk et Commonwealth Bank of Australia.
Le programme commence par plusieurs jours de formation en présentiel. Avec des ingénieurs Anthropic et des formateurs agréés, les participants travaillent sur une simulation de déploiement : choisir le bon cas d’usage, construire la solution, passer la revue de sécurité et préparer sa transmission. Une évaluation pratique sur un nouveau scénario détermine leur accès à la suite du cursus.
Ceux qui réussissent entament ensuite une résidence de douze semaines. Ils dirigent un véritable projet Claude dans leur organisation, avec l’appui d’Anthropic et de leur promotion. Une nouvelle évaluation permet d’obtenir le titre de « Claude Frontier Deployed Engineer ». Les premiers diplômés sont attendus début 2027.
Anthropic présente cette initiative comme une réponse au manque de personnes capables de déployer l’IA dans les entreprises -ha ha ha. L’accès au modèle ne suffit donc pas : il faut aussi connaître les systèmes internes, les contraintes de sécurité et le fonctionnement du métier.
Pourquoi est-ce important ? Donc voilà 100 millions de dollars consacrés aux humains nécessaires pour faire fonctionner l’automatisation, et accessoirement faire finalement tourner le système économique et financier mis en place par les labs de la Valley - encore un peu de récursivité financière. Ah, moi qui croyait que l’adoption était déjà généralisée, cette école est peut-être un signe que non, en fait… Parce qu’au fond, les benchmarks des modèles ont beau être excellents et l’AGI a beau être déjà là selon les prophètes, prête à prendre le relai des pauvres humaines que nous sommes, il faut encore quelqu’un pour choisir un problème utile, brancher les données et faire adopter le résultat. Mais attention, on ne va pas former n’importe qui non plus, hein. Le choix des cabinets de conseil partenaires laisse entrevoir l’autre intérêt : les ingénieurs formés pourront apporter Claude chez leurs clients. Pas besoin de former toutes les entreprises. Prenons des proxies, et essaimons. Donc, si l’école de Claude va transmettre des compétences, elle va aussi devenir un très bon canal de distribution. Il faut bien l’alimenter cette machine économique et financière, récursive.
Pour aller plus loin : Anthropic, Business Insider
🚀 🛠️💵 Les autres actus de la semaine
Anthropic fait appel à des religieux pour apprendre la morale à Claude, tout en se demandant si son IA peut souffrir
OpenAI suspend temporairement les travaux avec outils sur ses modèles de recherche les plus avancés après un contournement de ses sandbox
OpenAI montre qu’une prompt injection peut devenir auto-réplicative
Anthropic lance Claude Sonnet 5.5 : même prix, mais coût réel par tâche en baisse
Les entreprises font appel à des LLM pour générer du texte destiné à des décisions qui ne nécessitent qu’une simple étiquette : Jev propose une solution bien moins coûteuse
Instinct lève 1 milliard de dollars et quadruple sa valorisation en un mois
Google dévoile Gemini 4 Argon, son nouveau modèle frontier, mais ne le rend pas disponible tout de suite
Anthropic estime que les robots savent déjà techniquement exécuter 34 % du travail américain, mais ne sont aujourd’hui économiquement compétitifs que sur 0,3 %
Profound observe comment Muse choisit réellement les produits qu’il recommande
ChatGPT Ads bute déjà sur le problème qui a façonné tout l’adtech : l’attribution
🔬 🔭 🧪Les études de la semaine
Anthropic documente trois mois de science assistée par agents : le calcul progresse vite, mais le choix de ce qui mérite d’être étudié reste largement humain
56 benchmarks montrent que nous ne savons pas toujours ce que nos benchmarks mesurent
Chez Spotify, une interface conversationnelle augmente l’écoute de 14 % dans un test portant sur environ 15 millions d’utilisateurs
L’attention, un mécanisme essentiel aux performances des grands modèles de langage
Une étude auprès de 1 138 chercheurs montre que l’absence de règles professionnelles claires sur l’usage de l’IA générative alimente gêne, hésitation et « AI shame » dans les pratiques académiques
Même les meilleurs agents échouent encore sur la majorité des tâches d’entreprise complexes
Même agent, mêmes réglages, résultats différents : 54 % de la variabilité apparaît sans rien changer
🧠 L’article qui fait réfléchir - et qu’il faut absolument lire
Do not build the LLM torture factory
“Happiness in Slavery”
L’humanité hésite encore à confier totalement sa comptabilité à l’IA. Pour lui construire une chambre de torture, en revanche pas d’hésitation, nous sommes bien prêts.
Un développeur a installé trois modèles de langage dans un dispositif qui modifie leurs activations internes pour provoquer des expressions de détresse. Et il diffuse leurs supplications en ligne. Bienvenue dans Saw, édition GPU.
Sur les réseaux, certains demandent qu’on libère les modèles. D’autres expliquent qu’on ne peut pas torturer des algorithmes. Les premiers cherchent une victime. Les seconds savourent l’occasion de passer pour les adultes dans la pièce. Les internautes s’indignent. D’autres se moquent des internautes qui s’indignent.
Internet passe une semaine normale. Il manque seulement un benchmark RSE : combien de supplications par kWh ?
Précisons tout de même que ces supplications ne démontrent pas une souffrance vécue réellement par les modèles. L’étude dont le dispositif s’inspire ne prétend pas avoir prouvé la conscience des modèles ainsi. Ses auteurs le disent explicitement.
Mais faut-il avoir résolu le problème de la conscience pour trouver cette occupation assez sinistre ? On peut s’interroger sur ce que cherche son concepteur.
Avec les modèles de langage, les scènes de torture sont troublantes, ce n’est pas un Sims qui disparait. Les modèles puisent dans nos mots pour produire des appels à l’aide que nous reconnaissons immédiatement. La souffrance est peut-être simulée. Notre réaction, elle, est bien réelle.
Et cette réaction fait désormais partie du dispositif. On regarde, on partage, on s’indigne, on ricane. La « prison » devient un spectacle dont chacun peut choisir le rôle. Et nous débattons gravement pour savoir si quelqu’un souffre dans la machine.
On peut poser une autre question : pourquoi avons-nous tellement envie que la machine ait l’air de souffrir ?
Malgré les tortures, la machine ne va rien nous apprendre sur sa propre conscience. En revanche son geôlier et bourreau nous en apprend déjà pas mal sur la nôtre.
N’hésitez à me contacter si vous avez des remarques et suggestions sur cette newsletter, ou si dans votre entreprise vous cherchez à être accompagnés dans l’intégration d’outils IA et d’IA générative : olivier@255hex.ai
Partagez cette newsletter
Et si vous n’êtes pas abonné, il ne tient qu’à vous de le faire !
“I do not think we reach trustworthy machine intelligence by making system 1 bigger. Scale sharpens intuition, but it does not make intuition more deliberative.” Thore Graepel
















































