Alors que j'ai sollicité Gemini pour une simple relecture d'un de mes articles sur OpenAI, l'IA de Google a franchi la ligne rouge : elle a proposé d'inventer, de toutes pièces, une interview fictive.
En novembre 2023, l’ONG Reporters sans frontières (RSF) et l’Alliance de la presse d’information générale (Apig) annonçaient collaborer dans le cadre du projet “Spinoza” dans l’objectif de développer une IA générative open source dédiée aux journalistes. Ce 10 février, alors que le Sommet pour l’Action sur l’IA IA ouvre ses portes au Grand Palais, les 2 partenaires publient le rapport “SpinozIA, vers un journalisme augmenté et éthique”, présentant les observations et conclusions de l’expérimentation du projet.
Le projet Spinoza avait pour but de “développer un outil d’intelligence artificielle, par et pour les journalistes, qui garantit la propriété intellectuelle des médias sur leurs publications” tout en étant “au service d’une information fiable et d’un journalisme de confiance”.
Initié par RSF, il a été lancé en octobre 2023 avec 120 médias volontaires membres de l’Alliance issus de 12 entreprises de presse : Actu.fr, EBRA, L’Équipe, La Nouvelle République, La Provence, Le Télégramme, Libération, l’Union, Nice-Matin, PMSO, Sogemedia et Sud Ouest.
L’idée n’était pas de démontrer que la GenAI peut remplacer le métier de journaliste, mais qu’elle peut l’enrichir avec des données fiables. Le prototype réalisé avec Ekimetrics, une société experte en IA et data science, vise à améliorer la recherche documentaire et la reformulation des données pour le traitement médiatique du changement climatique et de la transition écologique.
Exploitant le modèle de langage GPT 3.5 d’OpenAI et un algorithme d’embedding (un moteur de recherche qui explore les textes à la recherche de termes au sens proche de la question posée), en mars 2024, il était alimenté par 12 000 articles de presse, par des rapports scientifiques du Groupe d’experts intergouvernemental sur l’évolution du climat (GIEC), des textes de lois français, des rapports de l’Agence de l’Environnement et de la Maîtrise de l’Énergie (ADEME) ainsi que des documents tirés de la stratégie nationale bas-carbone du gouvernement français.
Grâce notamment aux données issues de l’Agence France-Presse (AFP), qui a rejoint le projet en juillet 2024, le jeu de données journalistiques, qui a également été enrichi avec des données régionales, contient aujourd’hui 28 450 articles publiés par la presse française depuis 2022. Il permet de combler les lacunes des autres sources, comme les rapports scientifiques souvent limités à des régions spécifiques ou inversement décrivant des phénomènes à une échelle très large.
Ce travail collaboratif a démontré la complémentarité et la richesse des contenus journalistiques avec les autres sources de données et leur intérêt pour les outils d’IA générative.
Toutes les informations transmises par l’outil sont sourcées, afin que le journaliste puisse les tracer et les vérifier.
Le rapport, outre la méthode suivie par l’équipe du projet Spinoza, présente une étude sur la perception de l’IA générative par les journalistes.
Le questionnaire, conçu avec l’agence Econovia pour qualifier le rapport des journalistes à l’IA générative, a interrogé un panel de 281 journalistes exerçant en France. Il a permis de constater que malgré les craintes liées à l’utilisation de la GenAI telles que la perte de contrôle sur le traitement éditorial, la désinformation ou l’impact potentiel de l’IA sur les conditions de travail, les journalistes associent l’IA générative avec un gain de productivité.
D’ailleurs, 45 % des journalistes français interrogés l’utilisent déjà dans leur pratique professionnelle et 93 % envisagent de l’utiliser notamment pour :
• traduire des documents ;
• générer une retranscription d’entretien ;
• synthétiser des informations ;
• reformuler du texte ;
• générer des résumés d’article.
L’étude souligne également que les journalistes prennent conscience qu’ils ont un rôle à jouer dans le développement de l’IA : 86 % considèrent qu’ils sont les mieux placés pour garantir un usage encadré et responsable de ces outils dans la sphère de l’information journalistique.
L’ONG adresse, dans ce rapport, dix recommandations aux médias pour poser le cadre éthique et technique nécessaire pour garantir l’intégrité de l’information dans les systèmes d’IA utilisés en journalisme :
La publication du rapport est l’une des premières étapes de l’ouverture du projet : son code sera prochainement publié en open source sur la plateforme Hugging Face afin de permettre aux journalistes et développeurs de personnaliser et d’adapter l’outil selon leurs besoins.
Thibaut Bruttin, Directeur général de RSF, conclut :
“RSF a à cœur d’ouvrir une voie éthique et responsable, où l’innovation n’implique pas la marginalisation du journalisme. Le projet Spinoza permet cela, en réaffirmant le rôle central des rédactions dans la sélection, la hiérarchisation et la production de contenus de qualité, et l’indiscutable valeur ajoutée des contenus journalistiques dans les systèmes d’intelligence artificielle. Les journalistes et les éditeurs ont le pouvoir de réinventer le journalisme, à condition de lui redonner une souveraineté technologique. Saluons ici l’engagement de l’Alliance, de sa direction et de ses membres, qui ont témoigné de l’intérêt pour ce projet.”
Les acteurs de la GenAI se sont vus reprocher de puiser sans autorisation dans le contenu des médias pour alimenter leurs modèles. Plutôt que de se retrouver face à des plaintes, ils préfèrent aujourd’hui nouer des collaborations avec ces derniers. Après Open AI pour SearchGPT, c’est une autre start-up californienne basée elle aussi basée à San Francisco, Perplexity AI, qui a conclu des accords avec divers médias afin d’utiliser leurs contenus pour ce qu’elle appelle “son moteur de réponse conversationnel”.
Créé en août 2022 par Aravind Srinivas, anciennement chercheur chez OpenAI et DeepMind, Denis Yarats, Johnny Ho et Andy Konwinski, Perplexity AI, voulait, avec “Ask” lancé le mois de décembre suivant, proposer une alternative au moteur de recherche de Google. La start-up affirme avoir atteint 10 millions d’utilisateurs actifs mensuels et répondu à plus d’un demi-milliard de requêtes en 2023. Plus d’un million de personnes ont installé ses applications mobiles, à la fois sur iOS et Android.
L’interface de recherche, un chatbot similaire à ChatGPT ou Bing Copilot, utilisait dans un premier temps GPT 3.5 d’OpenAI et Microsoft Bing pour fournir ses réponses. Perplexity a ensuite développé son propre index de recherche et construit ses propres LLM. En novembre dernier, la start-up a introduit les LLM PPLX “on line” disponibles sur l’API qui exploitent Internet pour fournir des réponses en temps réel et s’appuient sur les modèles open source Llama 2 70B et mistral-7b.
Les réponses formulées sous forme de résumé citent leurs sources, permettant ainsi de vérifier leur véracité. La start-up annonce sur son blog :
“Pour soutenir davantage le travail vital des organisations médiatiques et des créateurs en ligne, nous devons nous assurer que les éditeurs peuvent prospérer à mesure que Perplexity se développe. C’est pourquoi nous sommes ravis d’annoncer le programme Perplexity Publishers et notre premier groupe de partenaires : TIME, Der Spiegel, Fortune, Entrepreneur, The Texas Tribune et WordPress.com”.
Selon la start-up, le programme Perplexity Publishers vise à promouvoir le succès collectif des éditeurs et à équiper ces derniers de nouvelles technologies pour engager leurs publics. Une des principales composantes de ce programme est le partage des revenus. Dans les mois à venir, Perplexity introduira la publicité par le biais de la fonctionnalité “Questions associées”. Les marques paieront pour que des questions spécifiques, liées à leurs produits ou services, soient intégrées dans l’interface du moteur de réponses et sur les Pages de Perplexity. Ces questions apparaîtront comme des suggestions de suivi pour les utilisateurs, les incitant à en savoir plus sur les sujets en lien avec les marques.
Lorsque Perplexity tirera des revenus d’une interaction utilisant le contenu d’un éditeur, ce dernier recevra une part des revenus générés. Les détails exacts du partage des revenus n’ont pas été dévoilés, mais cette initiative vise à créer un modèle financier durable pour soutenir le journalisme de qualité.
Cette annonce intervient après que plusieurs médias, dont Condé Nast et le magazine Forbes, ont accusé Perplexity de plagiat et d’utiliser sans autorisation leurs contenus pour alimenter son moteur de réponse. Le PDG de Perplexity, Aravind Srinivas, a affirmé que ces nouveaux partenariats permettraient de soutenir financièrement le journalisme de qualité tout en garantissant la transparence de l’IA, mais la société réfute le fait que ces partenariats aient été établis à cause de ces allégations.
Les partenaires bénéficieront également d’un accès gratuit aux API de Perplexity, permettant à chaque éditeur de créer son propre moteur de réponse personnalisé sur son site web. De plus, les employés des partenaires éditeurs auront accès gratuitement à l’offre Enterprise Pro de Perplexity pendant un an, offrant des fonctionnalités améliorées de confidentialité et de sécurité des données.
Perplexity a également établi une collaboration avec ScalePost.ai, une plateforme facilitant les collaborations entre les éditeurs de contenu et les entreprises d’IA. Elle permettra aux partenaires d’obtenir des analyses plus approfondies sur la manière dont Perplexity cite leur contenu, renforçant ainsi la transparence et l’efficacité des partenariats.
Perplexity entend continuer à développer ce programme, d’autres médias auraient d’ailleurs déjà manifesté leur intérêt, et explorer d’autres types de collaborations avec des éditeurs, comme des abonnements groupés où les utilisateurs pourraient payer un forfait pour Perplexity Pro et les abonnements aux éditeurs participants.
Le programme d’édition Perplexity marque une étape cruciale vers l’alignement des intérêts des acteurs de la GenAI et du journalisme de qualité.
Aravind Srinivas conclut :
“Nous avons structuré ce programme pour nous assurer que nous disposons d’un moyen évolutif et durable d’aligner les incitations pour toutes les parties. Nous avons toujours cru que nous pouvions construire un système où tout l’Internet gagne, et ce n’est que la première étape”.
250 millions d'euros. Tel est le montant qu'inflige l'Autorité de la concurrence à Google dans le dossier des droits voisins, qui porte sur la rémunération des médias. Déjà en 2021, l'entreprise américaine avait reçu une amende de 500 millions d'euros.
En 2018, Google lançait la Google News Initiative (GNI) dans le but de collaborer avec les éditeurs de presse et les journalistes afin de soutenir et de promouvoir un journalisme de qualité. Selon le magazine hebdomadaire américain Adweek, c’est dans le cadre de cette initiative, qu’il a lancé le mois dernier un programme privé pour quelques éditeurs indépendants, leur donnant un accès bêta à une plateforme d’IA inédite en échange de réception d’analyses et de commentaires.
En juillet dernier, le New York Times révélait avoir été approché par Google, tout comme le Washington Post et le groupe News Corp, détenteur entre autres du Wall Street Journal, qui désirait leur présenter une IA générative dédiée aux journalistes, baptisée Genesis. Suite à cette révélation, Google tweetait :
“En partenariat avec les éditeurs de presse, en particulier les plus petits, nous en sommes aux premières étapes de l’exploration d’idées visant à fournir éventuellement des outils activés par l’IA pour aider les journalistes dans leur travail. Par exemple, les outils activés par l’IA pourraient aider les journalistes à choisir des titres ou différents styles d’écriture. Notre objectif est de donner aux journalistes la possibilité d’utiliser ces technologies émergentes de manière à améliorer leur travail et leur productivité, tout comme nous rendons des outils d’assistance disponibles pour les utilisateurs de Gmail et de Google Docs. Ces outils ne sont tout simplement pas destinés à remplacer le rôle essentiel des journalistes dans la rédaction, la création et la vérification des faits de leurs articles”.
Google présentait son IA générative comme un assistant permettant aux journalistes d’automatiser des tâches récurrentes et d’obtenir rapidement des informations factuelles et récentes sur un sujet, capable d’adapter le ton des articles générés à leur style.
Selon Adweek, en octobre dernier, Google aurait invité les organismes de presse désirant tester ses outils d’IA générative à se manifester afin d’en sélectionner quelques uns.
Dans le cadre de ce programme privé, ceux-ci doivent utiliser ces outils bêta pour produire un volume spécifié de contenu sur une période de 12 mois, 3 articles quotidiens, une newsletter chaque semaine et une campagne marketing par mois, selon l’hebdomadaire. En contrepartie, ils sont rémunérés pour leurs analyses et commentaires tout en ayant un accès gratuit à la plateforme pour créer du contenu pertinent pour leur audience.
Dans ce but, ils dressent d’abord une liste de sites Web externes qui produisent régulièrement des actualités et des rapports pertinents pour leur lectorat. Lorsque l’un de ces sites Web indexés produit un nouvel article, celui-ci apparaît sur le tableau de bord de la plateforme. L’éditeur peut ensuite appliquer l’outil bêta pour résumer l’article, en modifiant le langage et le style du rapport, afin de le publier sous forme d’article après avoir vérifié l’exactitude des faits énoncés.
Un point essentiel, CNET a fait notamment l’expérience des hallucinations de l’IA générative : le média avait publié plusieurs articles entièrement rédigés par une IA, d’ailleurs sans en informer ses lecteurs, avant de se rendre compte qu’ils contenaient de grossières erreurs.
Il semble qu’aucune approbation du site web n’est requise et que les éditeurs n’ont pas l’obligation de spécifier que le contenu a été généré par une IA.
Google se défend dans un communiqué :
“Cette spéculation selon laquelle cet outil serait utilisé pour republier le travail d’autres médias est inexacte. L’outil expérimental est conçu de manière responsable pour aider les petits éditeurs locaux à produire un journalisme de haute qualité en utilisant du contenu factuel provenant de sources de données publiques, comme le bureau d’information publique d’un gouvernement local ou l’autorité sanitaire”.
Rappelant:
“Ces outils ne sont pas destinés à remplacer, et ne peuvent pas, remplacer le rôle essentiel des journalistes dans la couverture, la création et la vérification des faits de leurs articles”.
Malgré ces déclarations, Google qui vise à travers l’initiative GNI lutter contre la désinformation et promouvoir des sources fiables semble se contredire, comment vérifier la source réelle des articles générés dans le cadre de ce programme ? Peut-on parler alors d’un journalisme de qualité ?
Connexion