Alors que la musique générée par IA s’infiltre partout, Deezer lance un outil gratuit pour scanner vos playlists et y débusquer les morceaux synthétiques... même chez ses concurrents directs comme Spotify ou Apple Music.
Spotify a annoncé, le 7 mai 2026, l'arrivée de la fonctionnalité « DJ » en France pour les utilisateurs Premium. Un mode disponible en bêta depuis 2023 sur d'autres marchés, qui permet de bénéficier de recommandations personnalisées, commentées par un DJ virtuel.
Apple et OpenAI pourraient bientôt annoncer l'intégration d'Apple Music à ChatGPT. Le deal semble avoir été officialisé accidentellement par un responsable d'OpenAI.
En signe de protestation contre l'investissement du PDG de Spotify dans une entreprise de défense militaire spécialisée dans l'IA, les membres du groupe de rock australien King Gizzard & the Lizard Wizard ont décidé de retirer leur catalogue de la plateforme. Quelques mois après cette décision, un clone IA de leur musique enregistrait des dizaines de milliers d'écoutes.
Le célèbre rappeur marseillais Jul a publié le 1er août 2025 un tout nouveau morceau, intitulé Toi et moi. Éloignée de ses productions habituelles, la chanson a rapidement été taxée sur les réseaux sociaux d'avoir été générée par intelligence artificielle. Avec parfois des arguments forts à l'appui.
Au-delà des débats qu’il a pu susciter, les performances du modèle DeepSeek R1, doté de capacités de raisonnement avancées, ont surpris les experts. Alors qu’il a été présenté fin janvier, l’industrie automobile chinoise s’en est très vite emparée. Du fournisseur de technologies de mobilité ECARX aux constructeurs eux-mêmes à l’image de Geely ou BYD, il a été intégré pour des applications variées allant de l’assistance à la conduite à l’amélioration des interactions entre conducteurs et véhicule.
Geely, acteur majeur de l’automobile chinoise avec des marques comme Smart, Volvo ou Zeerk, a été le premier à annoncer intégrer DeepSeek-R1 pour perfectionner Xingrui, le LLM au coeur de son système “Full-Domain AI for Smart Vehicles” présenté en janvier dernier au CES 2025.
Cette intégration permet d’améliorer la reconnaissance vocale, l’analyse des images et la gestion des données en temps réel. L’objectif est de fluidifier l’interaction entre les conducteurs et leurs véhicules, tout en optimisant la prise de décisions en temps réel, notamment pour les systèmes d’aide à la conduite.
BYD(Build Your Dreams), l’un des leaders de l’automobile électrique, a intégré DeepSeek dans son système de conduite autonome de niveau 2 DiPilot (baptisé God’s Eye). Ce système repose sur une IA avancée qui permet une assistance au stationnement et une navigation autonome plus précises. L’objectif est d’améliorer la sécurité et de rendre les véhicules plus intelligents et autonomes, tout en réduisant la dépendance aux infrastructures cloud.
Great Wall Motors exploite DeepSeek pour entraîner son IA interne avec des données collectées, afin de développer des fonctionnalités proactives pour ses assistants embarqués. Cette approche, qui améliore l’interaction entre les conducteurs et leur véhicule, vise à rendre la conduite plus intuitive et à renforcer l’ergonomie des systèmes d’assistance.
SAIC a misé sur DeepSeek pour améliorer l’expérience utilisateur de ses véhicules connectés. Son intégration de permet de répondre de manière plus précise et personnalisée aux besoins des conducteurs. Les assistants virtuels de SAIC sont désormais capables d’adapter leurs réponses et recommandations en fonction des habitudes de conduite et des préférences des utilisateurs.
Dongfeng a également adopté DeepSeek pour optimiser ses systèmes d’infodivertissement. Cette intégration permet d’offrir une expérience plus immersive et intuitive, avec une interaction vocale améliorée et des recommandations adaptées aux habitudes des conducteurs. L’objectif est de faciliter l’utilisation des fonctionnalités du véhicule et d’améliorer le confort de conduite.
ECARX, fournisseur de technologies de mobilité, a choisi DeepSeek-R1 pour développer son application d’IA embarquée, ECARX AutoGPT. Cette solution permet d’exécuter des tâches complexes en local, sans dépendance aux ressources cloud. Parmi les bénéfices attendus, on retrouve une meilleure protection des données, une réduction de la latence et une diminution des coûts de transmission et de stockage.
D’autres constructeurs automobiles chinois ont l’intention eux aussi de mettre à jour leur assistant d’IA embarquée avec DeepSeek R1. Le modèle a par ailleurs été rapidement adopté dans d’autres secteurs, notamment par trois des principaux opérateurs de télécommunications : China Mobile, China Telecom et China Unicom.
La chanteuse Mariah Carey a été suspectée d'utiliser une vidéo d'intelligence artificielle générative pour remercier ses fans qui l'ont beaucoup écoutée cette année. Cette vidéo a été diffusée via le Spotify Wrapped de 2024. La chanteuse a depuis fermement démenti.
L’IA peut-elle améliorer la précision des diagnostics médicaux ? Des chercheurs d’UVA Health, un réseau de soins de santé affilié à l’Université de Virginie, ont tenté de répondre à cette question. Le résultat de leur étude est surprenant : si l’IA peut effectivement surpasser les performances des médecins dans certaines tâches de diagnostic, son intégration dans leur flux de travail n’a pas significativement amélioré leurs performances globales.
Les grands modèles de langage (LLM) ont montré des résultats prometteurs dans la réussite aux examens de raisonnement médical, qu’il s’agisse de questions à choix multiples ou de questions ouvertes. Cependant, leur impact sur l’amélioration du raisonnement diagnostique des médecins en situation réelle reste à déterminer.
Andrew S. Parsons, qui supervise l’enseignement des compétences cliniques aux étudiants en médecine de la faculté de médecine de l’Université de Virginie et codirige le Clinical Reasoning Research Collaborative, et ses collègues de l’UVA Health ont voulu mettre ChatGPT Plus (GPT-4) à l’épreuve. Leur étude, a été publiée dans la revue scientifique JAMA Network Open et acceptée ce mois-ci par le symposium 2024 de l’American Medical Informatics Association.
Les chercheurs ont recruté 50 médecins exerçant en médecine familiale, en médecine interne et en médecine d’urgence pour lancer un essai clinique randomisé et contrôlé dans trois hôpitaux de pointe : UVA Health, Stanford et le Beth Israel Deaconess Medical Center de Harvard. La moitié d’entre eux ont été assignés aléatoirement à l’utilisation de ChatGPT en plus de méthodes conventionnelles telles que Google ou des sites de référence médicaux comme UpToDate, tandis que l’autre moitié s’est appuyée uniquement sur ces méthodes conventionnelles.
Les participants ont eu 60 minutes pour examiner jusqu’à 6 vignettes cliniques, des outils pédagogiques utilisés dans le domaine médical pour évaluer et améliorer les compétences cliniques des professionnels de santé. Ces vignettes, basées sur des cas réels, comprenaient des détails sur les antécédents des patients, des examens physiques et des résultats d’analyses de laboratoire.
L’étude a révélé que les médecins utilisant ChatGPT Plus obtenaient une précision diagnostique médiane de 76,3 %, légèrement supérieure aux 73,7 % des médecins s’appuyant uniquement sur des outils traditionnels. Si l’écart reste modeste, en revanche, Chat GPT Plus, utilisé indépendamment, a atteint une précision impressionnante de 92 %.
Si les participants à l’essai utilisant ChatGPT Plus ont atteint un diagnostic un peu plus rapidement dans l’ensemble (519 secondes contre 565 secondes par cas), paradoxalement, ils ont réduit la précision diagnostique de l’IA.
Pour les chercheurs, cette baisse de la précision pourrait être due aux invites utilisées. Ils soulignent la nécessité de former les cliniciens à l’utilisation optimale de l’IA, notamment en exploitant les prompts de manière plus efficace. Sinon, les organisations de soins de santé pourraient acheter des invites prédéfinies à mettre en œuvre dans le flux de travail et la documentation clinique.
Selon eux, ChatGPT Plus se comporterait probablement moins bien dans la vie réelle, où de nombreux autres aspects du raisonnement clinique entrent en jeu, en particulier pour déterminer les effets en aval des diagnostics et des décisions de traitement. Ils demandent des études supplémentaires pour évaluer les capacités des grands modèles de langage dans ces domaines et mènent une étude similaire sur la prise de décision de gestion.
Les résultats révèlent une nuance essentielle : bien que les LLM soient capables de performances autonomes impressionnantes, leur utilisation en complément des méthodes traditionnelles n’a pas significativement amélioré la précision diagnostique des médecins.
Les chercheurs avertissent que “les résultats de cette étude ne doivent pas être interprétés comme indiquant que les LLM devraient être utilisés pour le diagnostic de manière autonome sans la surveillance d’un médecin” ajoutant que “des développements supplémentaires dans les interactions homme-machine sont nécessaires pour réaliser le potentiel de l’IA dans les systèmes d’aide à la décision clinique”.
Ils ont d’ailleurs lancé un réseau bicôtier d’évaluation de l’IA appelé ARiSE (AI Research and Science Evaluation) afin d’évaluer davantage les résultats de la GenAI dans les soins de santé.
Références de l’article
“Influence d’un grand modèle de langage sur le raisonnement diagnostique. Un essai clinique randomisé” doi :10.1001/jamanetworkopen.2024.40969
Equipe de recherche : Ethan Goh, Robert Gallo, Jason Hom, Eric Strong, Yingjie Weng, Hannah Kerman, Joséphine A. Cool, Zahir Kanjee, Andrew S. Parsons, Neera Ahuja, Eric Horvitz, Daniel Yang, Arnold Milstein, Andrew P.J. Olson, Adam Rodman et Jonathan H. Chen.
Un Américain est accusé d'avoir arnaqué le secteur du streaming musical avec des musiques farfelues inventées par l'IA générative. Il a empoché des millions de dollars grâce à des bots pour générer de fausses écoutes.
LLocalSearch est un moteur de recherche qui fonctionne entièrement en local sur votre machine, qui utilise des agents IA pour effectuer des recherches directement sur votre ordinateur.
Le concept est simple mais diablement efficace. Lorsque vous lui posez une question, le système va enchaîner plusieurs modèles de langage pour trouver la réponse la plus pertinente. Tout le processus est transparent, vous pouvez suivre en temps réel la progression des agents et voir comment ils arrivent à la réponse finale, tout ça sans qu’aucune donnée ne soit envoyée sur des serveurs distants.
Mais il ne se contente pas d’être un simple moteur de recherche en local. Il propose également des fonctionnalités avancées comme la possibilité de poser des questions de suivi pour affiner votre requête initiale. Vous pouvez ainsi avoir un véritable dialogue avec le système pour obtenir exactement l’information dont vous avez besoin.
Un autre atout de LLocalSearch est sa capacité à fonctionner sur du matériel abordable. Pas besoin d’une machine de guerre avec des dizaines de gigaoctets de RAM et une carte graphique dernier cri. Le système est optimisé pour tourner sur des configurations modestes, comme le montre la vidéo de démo qui utilise un modèle de seulement 7 milliards de paramètres.
Côté interface, LLocalSearch mise sur la simplicité et l’efficacité. Que vous utilisiez le système sur ordinateur ou sur mobile, vous bénéficiez d’une interface épurée avec un champ de recherche central et un affichage clair des résultats, le tout avec un joli design soigné qui propose un mode clair et un mode sombre pour s’adapter à vos préférences.
De plus, il est très simple à déployer grâce à Docker. Quelques lignes de commande suffisent pour lancer le système et commencer à l’utiliser.
Connexiongit clone https://github.com/nilsherzig/LLocalSearch.git
cd ./LLocalSearch
# 🔴 vérifier les variables d'environnement dans le fichier compose (et le fichier `env-example`) et les changer si nécessaire
docker-compose up Bien sûr, comme tout projet en phase de démarrage, LLocalSearch n’est pas exempt de bugs et de limitations. Toutes les fonctionnalités prévues ne sont pas encore implémentées et il faudra sans doute un peu de temps avant d’arriver à un système aussi complet et robuste que les moteurs de recherche en ligne que nous connaissons. Mais le potentiel est là et il ne fait aucun doute que ça va rapidement progresser grâce à une communauté open source motivée et passionnée.
En attendant, n’hésitez pas à tester cet outil et à vous faire votre propre idée.
Plus de 10% de la population française est âgée de 75 ans ou plus, de quoi mettre une pression de taille sur le secteur de la santé. Si de nouveaux défis émergent en continu, ceux-ci exigent également toujours plus de prestataires de soins, de personnel médical et de partenaires pour l’ensemble de leur écosystème. En parallèle, avec un système de soins bien différent de celui des Etats-Unis, le marché français peine encore à aller vers l’optimisation du parcours, pourtant aujourd’hui nécessaire au-delà des enjeux de sécurité.
Pour rendre cette tâche déjà délicate encore plus difficile, les soins aux patients sont entravés par des architectures informatiques héritées qui fragilisent tous les aspects des opérations – sans parler des cyberattaques particulièrement intenses depuis la crise du COVID. Mais cela pourrait bel et bien changer fondamentalement en intégrant des dispositifs intelligents à ces infrastructures.
Au-delà de l’IoT, nous voyons aujourd’hui émerger les technologies de l’Internet des objets médicaux (IoMT) qui peuvent être utilisées pour la surveillance, le dépistage ou le traitement à distance. Du point de vue de la gestion, l’utilisation de ces appareils peut être optimisée, notamment pour en réduire les coûts d’exploitation.
Les services de localisation en intérieur peuvent également être utilisés pour permettre à un établissement tel qu’un hôpital de fonctionner plus efficacement. Prenons l’exemple d’une personne ayant besoin d’un fauteuil roulant dès son entrée dans le bâtiment. Avec un système numérique interactif comme un tag, celui-ci pourrait être localisé voire livré sans avoir besoin de l’intervention du personnel. Cette même technologie peut être utilisée pour améliorer la sécurité, par exemple en empêchant les patients à risque de quitter une certaine zone ou en alertant le personnel si une situation dangereuse ou potentiellement mortelle devait survenir. Déployés sur l’ensemble d’une infrastructure, ces dispositifs ont la capacité d’améliorer fondamentalement les pratiques, de soutenir le personnel et potentiellement même de sauver des vies.
Du point de vue du patient, ces innovations permettront de mieux contrôler leurs parcours médicaux grâce à des applications et à d’autres technologies conviviales. Les systèmes de soins de santé en ligne seront plus interactifs, similaires à la façon dont certaines banques fonctionnent actuellement.
Fournir aux patients un accès simplifié à leurs dossiers médicaux réduit le besoin de rendez-vous inutiles, ce qui permet à chacun d’économiser du temps et de l’argent. Cela permettra aussi aux patients de devenir de véritables acteurs de leur propre santé en proposant par exemple des actions préventives avant que toute maladie ne se déclare. Les indicateurs de risque précoces peuvent être signalés à l’aide de capteurs tels que des pilules intelligentes ou des dispositifs portables. Cela donnera alors au professionnel de santé un suivi optimal de l’état de santé d’un patient sans même qu’il ait à consulter. Ce type de capteurs peut être utilisé pour des examens non invasifs et la surveillance de divers cas. Dans certains cas, par exemple lors de crises cardiaques, les signes avant-coureurs d’irrégularité du rythme cardiaque peuvent amener les patients à consulter immédiatement, ce qui peut sauver des vies. Les dispositifs portables et les pilules intelligentes sont également plus rassurants pour les patients qui évitent alors de consulter un médecin, et de s’exposer à des tests sanguins, souvent craints.
Dans un cadre médical, la continuité de services de la technologie peut sauver des vies. En effet, la disponibilité continue de systèmes et des applications vitaux est cruciale pour les personnes qui peuvent être sous assistance respiratoire par exemple. Alors que de nombreux appareils doivent rester connectés en permanence, un réseau alimenté par l’IA s’avère particulièrement utile pour assurer une analyse solide des données et des opérations continues dans tout l’établissement.
Les soins de santé numériques sont la prochaine étape évidente vers des services médicaux à l’épreuve du temps. Ils permettront aux établissements de fonctionner plus efficacement, d’économiser du temps, de l’argent, de la frustration et, surtout, de simplifier voire de sauver la vie des patients. Bien qu’il y ait un investissement initial nécessaire pour remplacer l’existant, ces technologies ont le potentiel de transformer fondamentalement la façon dont les soins de santé sont fournis. Elles peuvent en effet améliorer les conditions de travail du personnel, ce qui, encore une fois, renforce fondamentalement le service offert. Les décideurs doivent donc faire preuve d’audace dans leurs choix et ne pas hésiter à investir dans le bien-être de leur salarié et de leur patientèle.
Lancée en test chez 5 % des abonnés Deezer, la fonctionnalité « Playlist avec IA » permet de générer une liste à partir d'une phrase ou de mots-clés. Une idée originale qui pourrait s'imposer comme une nouvelle manière d'écouter de la musique.
Si l’émergence des technologies d’IA générative a révolutionné de nombreux aspects de notre vie quotidienne de manière positive, leur utilisation à mauvais escient pose de sérieux problèmes. La création de voix synthétiques réalistes suscite ainsi des inquiétudes croissantes concernant le consentement et les droits d’auteur. Deux récents cas, impliquant les acteurs vocaux Paul Lehrman et Linnea Sage, ainsi que l’actrice Scarlett Johansson, mettent en lumière des utilisations de clonage vocal sans accord préalable.
Ce premier cas a été rapporté par le New York Times qui a lui-même intenté un procès contre OpenAI et Microsoft, les accusant de violer le droit d’auteur en entraînant les modèles tels que GPT-4 sur ses publications sans autorisation.
Il concerne Paul Lehrman et Linnea Sage, un couple d’acteurs vocaux, prêtant leurs voix depuis 2019 pour des publicités, des annonces radio, des vidéos en ligne, des jeux vidéo et d’autres médias, qui ont découvert que leurs voix avaient été clonées par la start-up californienne Lovo sans leur consentement.
Les deux acteurs avaient été préalablement contactés par Lovo et payés pour des enregistrements qui, selon la start-up devaient être utilisés qu’à des fins non publiques, et seraient des scripts de test pour des publicités radiophoniques.
L’affaire a réellement débuté lorsque Paul Lehrman a entendu la voix d’un agent conversationnel nommé Poe ressemblant étrangement à la sienne dans un podcast sur l’essor de l’IA générative et ses dangers pour l’industrie du divertissement, l’été dernier. S’il avait découvert une vidéo YouTube sur la guerre en Ukraine dont la voix du narrateur ressemblait elle-aussi à la sienne en 2022, le propriétaire de la chaîne n’avait pu être retrouvé. Le podcast lui a permis d’identifier la source du clone vocal : Lovo, qui en a fait de même pour Linnea Sage.
Les deux acteurs ont intenté une action en justice contre Lovo, affirmant que l’entreprise avait violé la loi fédérale sur les marques et plusieurs lois étatiques sur la vie privée. Lovo a répliqué en affirmant que tous les enregistrements avaient été obtenus avec le consentement des acteurs. Toutefois, Lehrman et Sage ont présenté des preuves de correspondance avec des employés anonymes de Lovo, qui avaient assuré que les enregistrements ne seraient utilisés qu’à des fins de test et de recherche interne.
Paul Lehrman a commenté :
“Nous avons été choqués de découvrir que nos voix avaient été utilisées sans notre autorisation. C’est une violation flagrante de nos droits et de notre vie privée.”
Il invite, avec sa compagne, les acteurs concernés par les clonages vocaux abusifs de Lovo à se joindre à eux.
Le second exemple concerne l’actrice Scarlett Johansson, qui a récemment accusé OpenAI d’avoir utilisé sa voix sans son consentement. Elle affirme que Sam Altman, PDG d’OpenAI, l’avait contactée en septembre 2023 pour lui proposer d’incarner la voix de Sky, l’une des cinq voix du mode vocal de ChatGPT, mais avoir refusé l’offre pour des raisons personnelles. Ce qu’elle a réitéré deux jours avant le lancement de GPT-4o, après que son agent ait été à nouveau contacté par OpenAI.
Cependant, selon elle, la voix de l’assistant conversationnel ressemble étrangement à la sienne. Elle déclare dans un communiqué :
“Quand j’ai entendu la démo publiée, j’ai été choquée, en colère et incrédule que M. Altman ait mis au point une voix qui ressemblait si étrangement à la mienne que mes amis les plus proches et les médias ne pouvaient pas faire la différence.”
Elle a donc exigé des réponses et des détails sur le processus de création de cette voix synthétique, ce à quoi Sam Altman a ‘répondu :
“La voix de Sky n’est pas celle de Scarlett Johansson, et elle n’a jamais été destinée à ressembler à la sienne. Nous avons choisi l’acteur de doublage derrière la voix de Sky avant de contacter Mme Johansson. Par respect pour Mme Johansson, nous avons cessé d’utiliser la voix de Sky dans nos produits. Nous sommes désolés pour Mme Johansson de ne pas avoir mieux communiqué.”
Ces deux affaires soulignent la nécessité urgente de protéger les droits des artistes face à l’utilisation non autorisée de leurs voix par des technologies d’IA. Jeffrey Bennett, avocat général de la Screen Actors Guild-American Federation of Television and Radio Artists, a déclaré que le procès intenté par Paul Lehrman et Linnea Sage pourrait établir un précédent important pour la protection des voix des acteurs :
“Ce procès montrera aux entreprises technologiques qu’il existe des droits sur votre voix, et qu’il y a tout un groupe de personnes qui gagnent leur vie en utilisant leur voix.”
Il pourrait ainsi accélérer la mise en place de réglementations plus strictes concernant le consentement des artistes et la transparence des entreprises technologiques.
Ces cas soulignent que, malgré les avancées technologiques, le respect des droits individuels et de la propriété intellectuelle reste essentiel. Pour les artistes comme Johansson, Lehrman et Sage, la lutte pour protéger leur voix contre l’utilisation non autorisée par des IA n’est pas seulement une question d’argent, mais aussi de respect de leur identité et de leur travail.
Spotify dévoile un service pour créer des playlists grâce à l'intelligence artificielle. On entre une consigne écrite et l'IA propose une liste de lecture personnalisée.
Le Healthcare Data Institute, think tank dédié à la transformation du système de santé par la valorisation scientifique et économique des données de santé, annonce la publication d’un nouveau rapport. Intitulé “Jusqu’où les données peuvent-elles accompagner la transformation de la santé par l’IA ?“, il explore les cas d’usage, examine les freins et les accélérateurs du développement et de l’adoption de l’IA dans le domaine de la santé et propose 10 recommandations pour une intégration réussie.
L’IA a un potentiel immense dans le domaine de la santé et a ouvert la voie à des avancées significatives dans le diagnostic, le traitement et la gestion des maladies. Grâce à des algorithmes sophistiqués, elle permet une analyse rapide et précise de vastes ensembles de données médicales, améliorant ainsi les capacités de diagnostic des professionnels de la santé et permettant un dépistage précoce des maladies. De plus, en exploitant des données individuelles telles que les antécédents médicaux et les caractéristiques génétiques, l’IA offre la possibilité de personnaliser les traitements pour chaque patient, conduisant à des soins de santé plus efficaces et à de meilleurs résultats.
Par ailleurs, l’IA peut optimiser les opérations hospitalières, réduire les coûts et améliorer la gestion des maladies chroniques grâce à un suivi continu des patients à domicile. Enfin, en accélérant la recherche médicale et en facilitant la découverte de nouveaux traitements, l’IA ouvre de nouvelles perspectives pour l’innovation dans le domaine de la santé.
Le rapport du Healthdata Care Institute dresse un état des lieux de l’utilisation de l’IA dans le parcours de soins et le système de santé. Parmi les cas d’usage examinés à partir d’exemples français et internationaux pour en évaluer le niveau de maturité, on trouve :
Il met en lumière un manque de solutions matures exploitables industriellement et que, malgré un potentiel disruptif, l’adoption de l’IA en santé est freinée par une fragmentation européenne en termes de normes, de réglementations, d’usages et de marché. Il souligne également l’importance cruciale de surmonter ces obstacles et pour y parvenir propose 10 recommandations qui mettent l’accent sur :
Pour le Healthdata Care Institute, l’intégration réussie de l’IA en santé requiert une approche collaborative, centrée sur l’humain, qui embrasse à la fois les innovations technologiques et les impératifs éthiques et réglementaires. Les actions raisonnées, guidées par une vision stratégique et pragmatique proposées dans son rapport visent à permettre aux acteurs clés du secteur (décideurs, professionnels de santé, institutions et patients) de “faire de l’IA une réalité bénéfique pour tous en santé“.
Christian DELEUZE, Président du Healthcare Data Institute, conclut :
“Nous sommes à l’aube d’une transformation majeure en santé, guidée par des actions concrètes plus que par des promesses. Ce rapport est un appel à l’engagement pour faire de l’IA un levier d’une médecine plus précise et personnalisée. Ensemble, convertissons ces visions en réalités, pour que l’IA devienne un moteur de l’amélioration des soins et de l’accompagnement des patients. La voie est tracée, les solutions à notre portée. Il appartient désormais aux acteurs du secteur de la santé de répondre présent à cet appel, pour que demain, l’IA en santé soit synonyme de progrès pour chacun “.
Retrouver le rapport et ses 10 recommandations ici
Afin de rendre l’IA accessible à tous, y compris gratuitement puisque la plupart des modèles fonctionnent sur un système open source, une équipe de développeurs talentueux a créé Jan un outil pour les développeurs et les utilisateurs souhaitant profite d’une alternative à ChatGPT, totalement indépendante, fonctionnant hors ligne, open source et libre.
Il faut donc voir Jan comme un client de chat qui permet de télécharger des modèles comme Trinity, Mistral, Llama, OpenChat…etc. et de les faire tourner 100% hors ligne. Comme ça, pas de fuite de conversations privées ni de réutilisation de vos données pour entrainer de nouvelles IA. Et si comme moi, vous êtes accro à l’IA d’OpenAI, vous pourrez toujours y ajouter votre clé API et discuter avec ChatGPT (au tarif fixé par OpenAI évidemment).
Jan fonctionne sous Linux (Appimage et .deb dispo), sous Windows et macOS (Intel / Silicon) et propose une prise en charge des modèles open source tels que GGUF via llama.cpp, TensorRT via TensorRT-LLM ou des API externes. Jan utilise également le moteur d’inférence Nitro, des mêmes développeurs, qui se veut être rapide et léger.
Je teste ici le modèle Trinity 1.2 7B Q4 :
Et ici un modèle spécialisé en code Python nommé Wizard Coder Python 13B Q5.
Un truc cool avec Jan c’est que toutes les conversations sont conservées sur votre disque au format JSON, donc si le coeur vous en dit, vous pourrez ensuite les exploiter comme bon vous semble dans vos outils.
Jan propose également un serveur REST qui permet d’interroger via une API compatible OpenAI n’importe quel modèle que vous y feriez tourner. Ça permet de brancher vos outils ou vos scripts directement sur le LLM ouvert de votre choix.
Dans la lignée de Ollama ou LM Studio, Jan rempli ses promesses et vous permettra de vous éclater avec l’IA (abus de langage, je sais…) sans mettre en péril vos données personnelles.
Pour en savoir plus, rendez-vous sur le site de Jan ou sur leur page Github pour les sources et la doc.
Merci à Lorenper
Allez, aujourd’hui, on va faire un peu d’IA. J’sais pas si vous vous souvenez, mais il y a quelque temps, je vous avais fait une jolie démo de Ollama permettant de faire tourner des LLM (modèles de langage comme ChatGPT) en local avec des modèles ouvert comme Mistral ou Vigogne.
Sauf que voilà, c’est pas forcément pratique à utiliser ailleurs que dans vos propres scripts. Mais c’était sans compter sur Lumos, une extension Chrome propulsée par Ollama qui permet d’avoir sous la main, votre LLM durant vos séances de surf. Ainsi, vous pourrez lui demander des résumés de longs posts de forums, de vous expliquer le dernier rapport de bug d’un projet Github, de résumer les articles trop longs à lire de korben.info ^^ ou encore lui poser des questions par rapport à de la documentation technique ou des fiches produits que vous consulteriez en ligne.
Bref, c’est génial ! Vous devrez bien évidemment avoir un Ollama fonctionnel sur votre machine… Voici d’ailleurs ma vidéo à ce sujet :
Installez ensuite l’extension sous Chrome.
Puis lancez le serveur à l’aide de cette commande :
OLLAMA_ORIGINS=chrome-extension://* ollama serveOu comme ceci si vous utilisez Docker:
docker run -e OLLAMA_ORIGINS="chrome-extension://*" -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollamaEt vous pourrez ensuite profiter de la puissance du LLM de votre choix directement dans votre navigateur au travers d’une fenêtre de chat.
Si vous voulez plus d’infos, c’est par ici que ça se passe.
Avec tout ce qui se passe côté OpenAI en ce moment, je suis en train de chercher des alternatives libres pour re-brancher sur mes scripts existants qui ne demandent pas trop de réécriture. C’est simplement un principe de précaution pour ne pas être pris au dépourvu si la qualité de service baisse côté ChatGPT.
Et pour ça, j’ai besoin d’un modèle de langage et d’un outil qui permette de transformer ce modèle en API que je peux appeler dans mon code.
Pour l’instant, tout ceci est en phase de R&D mais je me suis dit qu’un petit retour, ça vous ferait plaisir. Je suis donc parti sur un modèle OpenChat censé être aussi performant qu’un ChatGPT 3.5. Jusque là rien de compliqué.
J’ai donc fait tourner ce modèle dans llamacpp sans souci en mode discussion. Puis je suis parti en quête d’un bridge pour avoir des API. Je suis donc tombé sur Llama-cpp-python avec son option Server qui malheureusement n’a jamais voulu correctement fonctionner chez moi pour de sombres incompatibilités x64 / ARM64 même dans pyenv. Bref…
N’ayant pas le temps d’y passer des semaines, on m’a ensuite gentiment rappelé durant mon live Twitch, que je pouvais faire ça avec Ollama, ce que j’avais complètement zappé alors que j’ai fait une vidéo pour les Patreons à ce sujet (arf).
Puis Thoxy et LePopeye, lecteurs de Korben.info, m’ont recommandé un outil baptisé LM Studio dont je vais vous parler dans cet article.
LM Studio est un outil fonctionnant sous macOS, Windows et Linux qui permet très simplement de télécharger des LLMs (Large Language Models) et de les faire tourner en local. Ainsi vous pouvez discuter avec ces modèles via un chat comme vous le feriez avec ChatGPT.
Mais ce n’est pas tout puisque l’outil offre des tas de possibilités de réglages (y compris du support pour les Mac Silicon) pour optimiser le modèle. Et bien sûr, la fonctionnalité qui m’a le plus intéressé, c’est la possibilité de faire tourner un serveur local qui sert une API identique à celle de ChatGPT.
Cela permet, sans énormément de modifs dans votre code, de basculer des services d’OpenAI à une IA locale de manière transparente ou presque pour peut que vous utilisiez la lib OpenAI 0.28.1
pip install openai==0.28.1Voici un code d’exemple qui montre comment l’appeler en Python :
import os
import openai
openai.api_base = "http://localhost:1234/v1"
openai.api_key = ""
completion = openai.ChatCompletion.create(
model="local-model",
messages=[
{"role": "system", "content": "Always answer in rhymes."},
{"role": "user", "content": "Introduce yourself."}
]
)
print(completion.choices[0].message)Pas besoin de clé API donc. Et pas besoin de casser tout votre code. Suffit de migrer vers LM Studio. Puis c’est gratuit 🙂
Bref, j’ai fait mes tests comme ça et malheureusement pour le moment, c’est pas super concluant. L’outil répond correctement en version « chat » mais son paramétrage un peu différent en version serveur. Donc faut encore que je gratte un peu pour trouver le dressage optimale de mon IA. Mais j’y suis presque.
Si ça vous branche de tester LM Studio, c’est par ici que ça se passe.
