Face à des factures imprévisibles, une nouvelle génération d’outils s’impose pour reprendre le contrôle, tandis que l’open source et les modèles low cost rebattent déjà les cartes du marché de l'IA.

Le 9 juin, Anthropic a dévoilé Claude Fable 5, son premier modèle grand public de classe Mythos, assorti d'un système de restrictions renforcé présenté comme une nécessité de sécurité. Mais au-delà de cette annonce, c'est le mode de distribution choisi qui soulève des interrogations dépassant largement le cadre du risque cyber.

La Linux Foundation a annoncé son intention de lancer la Tokenomics Foundation, une nouvelle fondation dédiée à l'établissement de normes ouvertes pour l'économie de l'infrastructure IA.

Un ingénieur de Netflix a créé un outil open source qui compresse les tokens envoyés aux LLM avant qu'ils n'atteignent le modèle, sans perte d'information. Résultat : 700 000 dollars économisés en quelques mois, et un questionnement profond sur la façon dont on alimente les IA.

Anthropic ajoute un nouveau levier de contrôle directement dans Claude pour arbitrer entre qualité des réponses et consommation de tokens. Une manière de rendre enfin visibles, ou du moins plus maîtrisables, les limites d’usage souvent subies.

Dans la Silicon Valley, l’usage de l’intelligence artificielle est devenu un marqueur de performance. Sous l’effet du phénomène de « tokenmaxxing », certains salariés des géants de la tech multiplient les dépenses en tokens pour grimper dans des classements internes, alimentant à la fois le débat sur la productivité et la croissance des fournisseurs d’IA.

Anthropic tâtonne sous la pression : ses quotas de tokens, devenus imprévisibles, mettent une partie de ses utilisateurs en rogne. L'entreprise américaine paie en partie le succès de Claude et se retrouve depuis plusieurs semaines à manœuvrer entre ajustements à chaud et infrastructure qui peine à suivre.

Vous aussi, vous êtes très poli avec ChatGPT ? C'est très bien, mais cela coûte des dizaines de millions de dollars à l'entreprise, selon son patron, Sam Altman. Une dépense importante, qu'il faut toutefois nuancer. Et qui n'est pas vaine.

Avec l'IA générative, incarnée par des chatbots comme ChatGPT d'OpenAI et Le Chat de Mistral, on parle parfois de « token ». Savez-vous ce que ça signifie ? On vous explique tout ce qu'il faut savoir sur ces mystérieux jetons.