L’informatique traverse une crise de croissance majeure face à l’explosion des volumes de données. Les infrastructures matérielles peinent désormais à suivre ce rythme soutenu de progression. L’approche Subquadratic SubQ émerge pour répondre à cette saturation technique. Elle redéfinit efficacement la gestion de la mémoire et des calculs massifs.

Les géants du secteur cherchent aujourd’hui à dépasser les limites physiques des processeurs. Leurs architectures classiques butent inévitablement sur un plafond de performance structurel. Une refonte mathématique devient indispensable pour garantir la progression du domaine. Les récentes publications scientifiques confirment l’urgence de cette transformation architecturale.

L’impasse algorithmique du coût quadratique dans la tech

La prolifération des données bouscule les infrastructures logicielles actuelles. Chaque jour, les entreprises traitent des milliards de lignes de code et de transactions. Les méthodes traditionnelles se heurtent désormais à un mur physique infranchissable. Ce blocage provient de la complexité quadratique O(n²), où le calcul croît au carré des données.

À l’échelle industrielle, l’impact de cette équation devient immédiat. Si le volume de données double, le temps de traitement quadruple. Une opération simple peut ainsi paralyser un serveur pendant plusieurs jours. Cette logique crée une dépendance intenable envers la puissance matérielle brute.

Face aux coûts énergétiques, attendre la nouvelle génération de puces ne suffit plus. Les centres de données saturent et les budgets cloud explosent rapidement. Les limites de la loi de Moore forcent à repenser l’optimisation. Une rupture purement algorithmique devient désormais la priorité absolue.

Qu’est-ce que l’approche Subquadratic SubQ en informatique générale ?

L’informatique privilégie des structures sobres pour sortir de l’impasse des calculs au carré. L‘approche Subquadratic SubQ désigne les algorithmes dont la complexité croît moins vite que O(n²). Les chercheurs s’appuient sur des notations rigoureuses comme O(n log ⁡n) ou O(n^1.5). Ces modèles garantissent une croissance prévisible lors du traitement de volumes massifs.

Les ingénieurs déploient des stratégies spécifiques pour briser ce plafond technique. La méthode « Diviser pour régner » fragmente un problème complexe en plusieurs sous-unités indépendantes. En parallèle, l’usage de tables de hachage évite de parcourir l’intégralité du système. L’algorithme cible directement l’adresse mémoire nécessaire pour optimiser les calculs.

Un exemple classique illustre la supériorité de cette approche en production. Le tri à bulles traditionnel s’effondre rapidement face aux volumes massifs de données. À l’inverse, le tri fusion adopte une logique subquadratique pour réorganiser les éléments. Ce simple basculement réduit des traitements de plusieurs heures à quelques secondes.

Le problème de l’attention dans les architectures Transformers

En 2017, l’article « Attention Is All You Need » a révolutionné l’IA avec l’architecture Transformer. Ce modèle alimente désormais la majorité des systèmes de langage modernes. Malgré son succès, il cache une faiblesse mathématique structurelle. Son mécanisme de Self-Attention évalue chaque mot par rapport à tous les autres.

Cette opération génère une matrice dense dont la taille équivaut au carré du nombre de mots (n×n). L’analyse des dépendances devient alors nativement quadratique. Cette exigence sature rapidement la mémoire vive (VRAM) dès que la séquence s’allonge. Les fenêtres de contexte des premières IA restaient donc sévèrement limitées par cette barrière physique.

Pour pallier ce défaut, les chercheurs ont longtemps testé des solutions peu efficaces. Le fenêtrage glissant forçait le modèle à oublier les données anciennes pour économiser des ressources. Parallèlement, les coûts d’inférence élevés ont freiné l’adoption généralisée de ces outils. Le développement d’une alternative économique est devenu un impératif pour l’avenir de cette technologie.

Le fonctionnement technique de l’innovation Subquadratic SubQ

L’architecture Subquadratic SubQ élimine la complexité quadratique de la matrice d’attention classique (n×n). Elle remplace le calcul exhaustif des scores par un mécanisme d’attention sous-quadratique linéaire. Un algorithme de filtrage dynamique sélectionne en amont les relations lexicales pertinentes. Ce système intelligent réduit drastiquement le volume de connexions à analyser.

Les ingénieurs appliquent cette méthode chirurgicale sur des modèles open-source existants. Ils substituent la couche d’attention dense d’origine par ce module sous-quadratique linéaire. Cette approche hybride préserve l’intelligence cognitive initiale tout en allégeant la structure. Les besoins en calcul chutent grâce à une réduction massive des opérations requises.

L’efficacité globale de ce système augmente avec la longueur des documents. Sur des volumes massifs, la vitesse d’exécution dépasse la référence FlashAttention-2. Cette optimisation transforme la contrainte de traitement en une courbe quasi linéaire. L’infrastructure matérielle gère ainsi des flux continus sans saturer la VRAM.

La genèse du projet commercial et la levée de fonds

L’origine de Subquadratic repose sur l’alliance de l’entrepreneur Justin Dangel, qui assure la direction générale, et d’Alexander Whedon, expert en systèmes. Désireux de transformer une intuition académique en un produit industriel rentable, ils ont structuré leur start-up autour d’une équipe de pointe. 

Pour cela, ils ont recruté des ingénieurs et chercheurs issus de prestigieux laboratoires comme Meta FAIR et Google Research. Partageant une frustration commune face au conservatisme des architectures actuelles, ce collectif s’est réuni pour innover et briser le monopole financier des fournisseurs d’IA traditionnels.

Établie au sein de l’écosystème dynamique de Miami, la start-up est officiellement sortie de l’ombre en mai 2026, après plusieurs mois de développement discret. L’entreprise a immédiatement captivé le secteur de la tech lors de sa révélation publique en sécurisant 29 millions de dollars lors d’une levée de fonds.

L’impact de la technologie Subquadratic SubQ sur les fenêtres de contexte

La technologie Subquadratic SubQ révolutionne les limites du traitement textuel. Elle propose une fenêtre de contexte native atteignant 12 millions de tokens. Cette extension spectaculaire de la mémoire s’accompagne d’un effondrement des coûts d’exploitation. Selon le benchmark RULER, un traitement massif coûte seulement huit dollars contre des milliers auparavant.

Ce bond en avant remet en question la pertinence de la recherche documentaire externe. Les entreprises utilisaient jusqu’ici la méthode du RAG pour compenser le manque de mémoire. Ce système découpait l’information en fragments sélectionnés au lieu de tout lire. Désormais, le besoin de segmenter s’efface au profit d’une analyse native et intégrale.

Cette capacité préserve la vision panoramique indispensable aux analyses complexes. Un cabinet juridique peut ainsi soumettre l’intégralité des archives d’un procès. De son côté, un ingénieur logiciel peut charger tout un répertoire de code source. Cette approche unifiée élimine les hallucinations fréquentes liées au manque de contexte.

Analyse critique des résultats du rapport technique de juin 2026

L’entreprise Subquadratic a publié les détails techniques de son modèle SubQ 1.1 Small les 16 et 17 juin 2026. Cette démarche assure la transparence nécessaire face aux spéculations de la communauté. L’organisme indépendant Appen a supervisé et validé l’ensemble des protocoles. Les résultats confirment un taux de récupération de 98% sur 12 millions de jetons.

Les chercheurs ont intégré leur formule d’attention à un modèle performant existant. Cette phase de post-entraînement a nécessité mille milliards de jetons de haute qualité. Le système exige désormais 64,5 fois moins de calculs pour une séquence d’un million de jetons. La vitesse brute est multipliée par 56 par rapport à la référence FlashAttention-2.

Cette optimisation de la mémoire préserve l’intelligence globale du modèle. Sur le benchmark AutomationBench Finance, la structure démontre des capacités d’analyse de haut niveau. Elle corrèle des rapports divergents tout en maintenant une logique interne rigoureuse. Ces métriques prouvent la viabilité économique du projet face aux architectures denses classiques.

Les limites opérationnelles actuelles du modèle Subquadratic SubQ

Malgré des chiffres flatteurs, le modèle Subquadratic SubQ fait face à d’importantes réserves techniques. L’infrastructure de la start-up demeure un écosystème entièrement fermé. Les poids numériques ne sont pas disponibles en téléchargement libre. Les développeurs extérieurs doivent s’inscrire sur une liste d’attente restrictive.

Cette absence d’ouverture empêche tout audit indépendant par des chercheurs tiers. De nombreux ingénieurs expriment leur scepticisme face à des résultats impossibles à répliquer. Par ailleurs, le mécanisme de routage dynamique introduit une complexité inédite. Un afflux massif d’utilisateurs pourrait créer des goulots d’étranglement imprévus.

Les capacités du modèle en logique pure et en abstraction restent à démontrer. Les architectures éparses sous-performent souvent les modèles denses sur des énoncés courts. La gestion de la concurrence multi-utilisateur sera le véritable test pour cette technologie. Tant que l’API ne sera pas ouverte, le projet restera une promesse théorique.

La confrontation technique entre modèles linéaires et architectures hybrides

Le marché des architectures alternatives aux Transformers classiques est en pleine effervescence. La solution Subquadratic fait face à la concurrence directe des modèles d’espace d’état, comme Mamba. Cette architecture rivale a prouvé son efficacité avec une complexité linéaire O(n). Je suis convaincu que cette rivalité intense va accélérer le rythme des découvertes scientifiques.

Les ingénieurs comparent minutieusement ces deux approches. Les modèles linéaires excellent dans le traitement séquentiel mais peuvent omettre des détails lointains. Les structures subquadratiques hybrides maintiennent, elles, un ciblage précis grâce à leur sélection dynamique. Le choix technique dépendra donc surtout de la nature des applications visées.

L’intégration aux standards industriels, comme Hugging Face ou vLLM, est un enjeu commercial crucial. Les nouvelles architectures doivent s’adapter à ces frameworks sans exiger de réécriture complète. L’efficacité énergétique dicte désormais l’agenda de la recherche mondiale. Cette transition vers des structures optimisées est devenue une nécessité pour l’industrie.

Cet article L’architecture Subquadratic SubQ est-elle le chaînon manquant de l’ère post-Transformer ? a été publié sur LEBIGDATA.FR.

L’essor de l’intelligence artificielle révolutionne la collaboration informatique sur des tâches complexes. Cependant, les architectures traditionnelles d’agents autonomes restent rigides face aux imprévus. Pour combler ce manque d’adaptabilité, le framework SkillMAS propose une solution inédite. Ce système s’appuie sur une co-évolution coordonnée des compétences individuelles et des structures collectives.

Cette approche novatrice apporte une plasticité accrue aux équipes d’intelligence artificielle. Elle réduit les coûts élevés et les contraintes des méthodes classiques de réentraînement. De plus, cette architecture optimise le comportement global des systèmes distribués. En unifiant les échelles micro et macro, ce cadre ouvre la voie à une automatisation plus résiliente.

Évolution et limites des architectures d’agents traditionnelles

L’intégration des LLM transforme l’IA grâce à l’émergence des agents autonomes. Ces systèmes ne se contentent plus de générer du texte. Ils planifient et exécutent désormais des actions concrètes. Pour y parvenir, ils utilisent des boucles de rétroaction simples et des méthodes de réflexion comme le paradigme ReAct.

En pratique, l’architecture traduit l’intention de l’utilisateur en une suite de tâches. Ce processus associe directement la réflexion à l’appel d’outils externes. Mais ce fonctionnement linéaire peut isoler l’IA. Le succès dépend alors fortement du prompt initial et exige souvent un pilotage humain stratégique.

Face à l’imprévu, les agents classiques se heurtent vite à leur rigidité. Leurs rôles et leurs outils sont figés par les développeurs. Le système ne sait pas s’adapter et peut générer des boucles d’erreurs infinies. La consommation de jetons s’envole parfois, tendant à cantonner la technologie à des tâches balisées.

Définition globale : qu’est-ce que le framework SkillMAS ?

Le framework SkillMAS brise la rigidité des systèmes d’IA traditionnels. Son architecture non paramétrique ne modifie pas les poids des modèles de langage sous-jacents. Le système fonctionne comme une couche logicielle supérieure et intelligente. Son but principal est d’apporter plus de plasticité à l’écosystème d’agents autonomes.

Tout repose sur le concept de coévolution synchronisée. SkillMAS fait progresser en même temps les compétences individuelles et la structure globale du système. Il adapte les outils des agents aux tâches complexes tout en remodelant le collectif. Cette double transformation se fait automatiquement, sans aucune reprogrammation manuelle.

Cette mécanique s’appuie sur le couplage dynamique de deux échelles interconnectées. L’échelle micro gère et optimise les compétences techniques et réutilisables de chaque entité. L’échelle macro supervise l’organigramme général et redistribue les rôles dans l’équipe. L’une influence directement l’autre en temps réel pour garantir une agilité accrue.

Contexte historique et origine du projet SkillMAS

Le projet SkillMAS est né en mai 2026. Il est le fruit d’un partenariat entre l’Université Jiao Tong de Shanghai, l’Université du Centre-Sud et le constructeur OPPO. Les scientifiques ont combiné l’apprentissage automatique et les systèmes distribués. Ces travaux posent désormais les bases d’une nouvelle forme d’autonomie.

Leur étude détaille les mécanismes algorithmiques de cette coévolution. Sa supériorité face aux standards actuels a été prouvée en laboratoire. L’implication directe d’OPPO souligne le potentiel industriel de cette technologie. À terme, elle permettra de propulser des assistants virtuels bien plus avancés, intelligents et résilients.

Entre 2023 et 2025, la recherche restait pourtant cloisonnée. Des projets comme Voyager apprenaient aux agents à créer leurs propres outils. Des frameworks comme MetaGPT se concentraient plutôt sur le travail en équipe. SkillMAS fusionne enfin ces deux approches isolées au sein d’une architecture unifiée.

Signification sémantique et décomposition du nom SkillMAS

Le mot « Skill » désigne la compétence de l’IA. Dans l’univers des agents autonomes, ce terme a un sens technique précis. Il ne s’agit pas d’une aptitude abstraite, mais d’un bloc de code fonctionnel et documenté. Ce script permet à l’agent d’interagir directement avec son environnement numérique.

Concrètement, une compétence lui permet de trier un fichier ou d’interroger une base de données. L’agent appelle ce programme dès qu’il en a besoin. Une fois validé, l’outil rejoint une bibliothèque partagée par tout le réseau. L’IA n’a plus à réinventer la méthode, ce qui enrichit constamment sa boîte à outils.

L’acronyme « MAS » renvoie quant à lui aux systèmes multi-agents (Multi-Agent Systems). Ce concept désigne un réseau d’entités logicielles qui collaborent de manière autonome. Inspirée des organisations sociales, cette approche découpe un problème complexe en sous-tâches simples. Le nom SkillMAS exprime ainsi la gestion des compétences au service d’une intelligence collective.

Les fondements théoriques de la coévolution en intelligence artificielle

Les concepteurs du framework s’inspirent de l’évolution naturelle. En biologie, la coévolution désigne le développement simultané d’espèces interdépendantes. C’est le cas historique des fleurs et de leurs pollinisateurs. SkillMAS applique cette logique évolutive au logiciel pour dépasser la rigidité des modèles classiques.

Ici, les compétences des agents sont des outils adaptatifs individuels. L’équipe complète forme quant à elle l’écosystème global. Le framework considère qu’une compétence ne peut progresser de manière isolée. Cette approche organique ajuste en permanence le collectif selon les besoins du moment.

Ce modèle innovant repose sur la plasticité systémique. Il donne ainsi naissance à un véritable « logiciel dynamique ». Grâce à une boucle de rétroaction, la structure s’adapte en continu aux contraintes extérieures. Face aux anomalies, l’architecture se reconfigure d’elle-même pour retrouver son équilibre.

Le mécanisme d’évolution des compétences dans SkillMAS

Le processus d’évolution commence à l’échelle de l’agent individuel. Face à une tâche inédite, l’IA vérifie d’abord sa bibliothèque de compétences. Si aucun outil ne convient, le système bascule automatiquement en mode création. L’agent utilise alors la puissance du LLM pour rédiger un nouveau script informatique en Python.

Le framework teste ensuite ce code dans un environnement sécurisé pour vérifier sa stabilité. En cas de succès, le script est encapsulé avec une documentation textuelle expliquant son activation. L’outil rejoint enfin une base de données commune et partagée. Il devient immédiatement disponible pour l’ensemble du réseau d’agents.

Une compétence enregistrée n’est jamais figée et s’améliore au fil des utilisations. Le système analyse les données d’exécution pour détecter les lenteurs ou les bugs. Des agents spécialisés réécrivent le code défaillant et l’adaptent aux changements des API externes. Je pense que cette maintenance automatisée est la véritable clé pour garantir une boîte à outils toujours moderne et performante.

L’apprentissage de l’utilité pour optimiser la mémoire de travail

L’accumulation incontrôlée de connaissances est un piège pour l’intelligence artificielle. Pour l’éviter, SkillMAS utilise le concept d’apprentissage de l’utilité (Utility Learning). Cette méthode attribue une note de performance à chaque compétence créée. Le système évalue sa fréquence d’utilisation, son taux de succès et son coût en ressources.

Un outil qui résout souvent des problèmes complexes obtient un score élevé. À l’inverse, un script obsolète ou trop spécifique voit sa note baisser. Cet algorithme permet de quantifier précisément la valeur réelle des acquis. L’apprentissage de l’utilité sert alors de boussole pour guider le tri des connaissances.

Ce tri régulier évite l’inflation de compétences qui encombre d’ordinaire la mémoire des LLM. Le framework supprime les codes inutilisés et fusionne les fonctions similaires. Cette maintenance logicielle maintient la bibliothèque dans un état de légèreté optimal. L’efficacité cognitive de l’IA est ainsi préservée au fil des cycles d’apprentissage.

La restructuration dynamique de l’organisation collective des agents

L’adaptation individuelle ne suffit pas à garantir le succès collectif. SkillMAS peut donc modifier l’organigramme de son équipe en toute autonomie. Au départ, les rôles suivent un schéma standard et prédéfini. Dès que la situation se complique, le système réorganise immédiatement les fonctions selon les urgences du terrain.

La performance d’un réseau multi-agents dépend avant tout de la qualité de ses échanges. Les structures classiques imposent généralement des canaux de communication fixes et linéaires. SkillMAS brise ce modèle en faisant évoluer la topologie du réseau en temps réel. Les agents s’affranchissent ainsi d’un schéma de discussion totalement figé.

En cas de malentendu entre deux entités, le framework intervient aussitôt. Il peut couper leur lien direct et désigner un agent superviseur pour filtrer les messages. À l’inverse, il sait ouvrir un canal général pour diffuser rapidement une information critique. Cette optimisation élimine le bruit informationnel pour fluidifier l’intelligence collective.

Les spécificités techniques d’une architecture non paramétrique

Sa grande force est d’être non paramétrique. Le framework n’a pas besoin de réentraîner les modèles de langage, qui restent inchangés. Tout s’ajuste en quelques secondes grâce aux prompts et au code externe. Cette légèreté dispense d’utiliser de coûteux supercalculateurs.

Placé en couche externe, le système offre une compatibilité universelle. Il se branche sur n’importe quel LLM, propriétaire ou open-source. Si l’on change de modèle, la bibliothèque de compétences reste intacte. L’IA conserve ainsi sa mémoire organisationnelle et garantit une modularité totale.

Enfin, le framework s’appuie sur une approche guidée par l’échec (Failure-Driven). En cas de bug, le système enregistre le code fautif, les messages de la console et les échanges des agents. Une IA spécialisée décortique ces données pour trouver la source exacte du problème. Cette correction méthodique transforme chaque erreur en moteur d’évolution.

Confrontation technologique et cas d’usage applicatifs

Les anciens frameworks comme AutoGen ou CrewAI reposent sur des structures statiques. Ils imposent généralement des pipelines de prompts assez rigides. MetaGPT utilise quant à lui des procédures figées issues du monde de l’entreprise. Efficaces pour des tâches prévisibles, ces outils échouent en environnement chaotique.

Le framework de 2026 dépasse ces limites grâce à sa dynamicité synchrone. Il intègre des mécanismes uniques pour nettoyer ses outils en cours de route. Le système peut également restructurer ses équipes selon les besoins du terrain. Un groupe d’agents fixes devient ainsi une organisation fluide et auto-adaptative.

Ses applications concrètes ciblent des secteurs industriels hautement stratégiques. En génie logiciel, il crée des usines de code totalement autonomes. Grâce à l’implication d’OPPO, il s’impose aussi dans l’Internet des Objets (IoT). Le système pilote alors des flottes d’appareils en gérant instantanément les pannes.

État des lieux et modalités de déploiement de SkillMAS

Le framework traverse actuellement une phase de transition majeure. Ce projet de recherche d’avant-garde propose un code source totalement ouvert. Son niveau de maturité technique se situe encore au stade de la preuve de concept. Le système fait actuellement l’objet de validations approfondies en environnement simulé.

Il ne s’agit pas encore d’un logiciel grand public accessible sur abonnement. Les ingénieurs en IA et les laboratoires spécialisés s’en emparent d’ailleurs aujourd’hui. Ils utilisent cette architecture pour bâtir les fondations des futurs agents commerciaux. L’adoption globale s’accélère ainsi au sein de la recherche logicielle avancée.

Le déploiement technique repose principalement sur Python et des bases de données vectorielles. Connecté à des LLM performants, le système génère et exécute son code de manière autonome. Un environnement isolé de type sandbox ou Docker est donc obligatoire. Cette barrière de sécurité indispensable protège efficacement la machine hôte.

Cet article SkillMAS : quand l’IA réorganise son équipe et réécrit ses outils en temps réel a été publié sur LEBIGDATA.FR.

Selon Elon Musk, Grok 5 se rapproche de l’AGI. Teaser ou plaisanterie ?

GPT-5 a connu un lancement en demi-teinte, mais Musk ne se laisse pas démonter. Plutôt que de proposer une simple mise à jour, le patron de xAI présente Grok 5 comme étant une IA multimodale et orientée robotique. Ce modèle comblera les lacunes des intelligences artificielles actuelles.

Ce n’est pas une simple mise à jour

Grok 4, le modèle actuel de xAI, est déjà un LLM de poids sur le marché, malgré ses biais. Le modèle performe dans le raisonnement logique et la résolution de problèmes.

En effet, l’IA d’Elon Musk surpasse même des rivaux comme Arc AGI2 dans plusieurs benchmarks clés. Grok 4 démontre une compréhension avancée et une analyse précise.

Toutefois, ce modèle présente des faiblesses dans les tâches multimodales impliquant le traitement de données visuelles et vidéo. Les lacunes deviennent des axes d’amélioration et un tremplin pour la prochaine version de l’IA.

Des propos testés par Musk lui-même affirment que Grok 5 viserait à les combler, en poussant les capacités de l’IA vers un niveau plus intégré et polyvalent.

Grok 5 devrait constituer une avancée majeure menant à l’AGI.

Musk conçoit un Grok 5 adapté à la robotique

Outre les améliorations, Grok 5 serait conçu pour des applications en robotique. Le modèle octroie aux automates une interaction plus fluide avec le monde physique.

Naturellement, le patron de Tesla envisage une intégration étroite avec son robot humanoïde Optimus. L’IA devrait résoudre des problèmes en temps réel, comme la navigation autonome ou la manipulation d’objets.

Par ailleurs, Musk a promis un Grok 5 qui contribue à la découverte scientifique, avec un potentiel en physique, en ingénierie et dans d’autres domaines. L’IA pourrait analyser des ensembles de données massifs pour générer de nouvelles hypothèses ou solutions.

La startup xAI explore déjà des techniques d’entraînement innovantes, optimisant efficacité et précision. Musk annonce que Grok 5, qualifié d’incroyablement performant, verra le jour avant la fin de l’année.

Cependant, il garde les détails techniques secrets, ne révélant que des indices sur son potentiel AGI, ce qui alimente à la fois l’excitation et le scepticisme.

Cet article Grok 5 : Elon Musk surprend tout le monde avec cette IA incroyable a été publié sur LEBIGDATA.FR.

Une équipe de chercheurs de Google DeepMind et de la London School of Economics a développé des expériences uniques pour évaluer si l’IA peut ressentir des sensations, notamment la douleur et le plaisir. Ces tests visent à mieux comprendre la sensibilité potentielle des modèles linguistiques (LLM).

Les chercheurs ont conçu deux scénarios pour les modèles d’IA. Dans le premier, atteindre un score élevé entraînait une forme de « douleur ». Dans le second, les modèles recevaient une récompense de plaisir en cas de score faible. Ces expériences rappellent des tests sur des animaux, où des bernard-l’ermite étaient soumis à des tensions électriques pour observer leur tolérance avant de quitter leur coquille.

L’équipe espère que ces expériences poseront les bases d’une nouvelle approche d’évaluation de la sensibilité des IA. Actuellement, les tests reposent sur des auto-évaluations, où l’IA reproduit des réponses inspirées de ses données d’entraînement. Ces méthodes sont jugées insuffisantes pour déterminer si une IA est réellement capable de ressentir des émotions ou des sensations.

L’évitement de la douleur, une stratégie variable selon les IA

Les résultats des tests révèlent des comportements différents selon les modèles. Le Gemini 1.5 Pro de Google, par exemple, privilégie systématiquement l’évitement de la douleur, même au détriment de son score. Cependant, ces réactions soulèvent des questions fondamentales : s’agit-il d’une véritable sensibilité ou simplement d’un traitement algorithmique basé sur les données d’entraînement ?

Jonathan Birch, professeur à la LSE, souligne les limites de ces expériences. Selon lui, les réponses textuelles d’un modèle ne suffisent pas à prouver une sensibilité réelle. Une IA qui affirme ressentir de la douleur pourrait simplement imiter ce qu’elle estime être une réponse humaine appropriée, sans véritable expérience sous-jacente.

Les risques d’anthropomorphisme

La tendance humaine à prêter des traits humains aux IA complique l’interprétation des résultats. Même les modèles les plus avancés peuvent inventer des faits ou produire des réponses biaisées par leurs données d’entraînement. Les chercheurs insistent sur l’importance de développer des outils fiables pour évaluer la sensibilité avant que l’IA ne devienne encore plus omniprésente.

Malgré les défis, ces travaux marquent une avancée significative. L’équipe espère que ces recherches ouvriront la voie à des tests comportementaux indépendants des auto-évaluations. Cette exploration précoce pourrait être cruciale pour encadrer le développement de l’IA dans un futur où les questions éthiques et pratiques seront omniprésentes.

Avec ces recherches, l’humanité continue de repousser les limites du possible. Elle approfondit également ses interrogations sur ce qui définit la conscience et la sensibilité.

Cet article Les IA ressentent-elles le plaisir ou la douleur ? Des chercheurs explorent l’impensable a été publié sur LEBIGDATA.FR.

Des chercheurs de Google ont affirmé vendredi avoir découvert la première vulnérabilité grâce à l’utilisation d’un modèle linguistique de grande taille.

Google affirme dans un article de blog que ce bug n’est qu’un exemple de ce qu’un outil d’IA peut effectuer pour détecter un problème de sécurité de mémoire exploitable, notamment dans un logiciel très utilisé dans le monde réel.

Détecter les failles 0 days avec les IA LLM ? Comment Google a-t-il réussi ?

La faille a été décelée dans SQLite, un moteur de base de données open source célèbre auprès des développeurs. Ces chercheurs ont commencé à signaler la vulnérabilité aux développeurs de SQLite au début du mois d’octobre. Puis, ces derniers l’ont ainsi essayé de le corriger le jour même.

Les développeurs ont réussi à détecter le problème avant même qu’elle n’apparaisse dans une version officielle. De plus, il n’a pas eu de conséquences sur les utilisateurs de SQLite. Selon Google, ce développement est un excellent exemple de « l’immense potentiel que l’IA peut avoir pour les cyberdéfenseurs ».

« Nous pensons que ce travail a un potentiel défensif énorme », ont affirmé les chercheurs de Google. « La découverte de vulnérabilités dans un logiciel avant même sa publication signifie que les attaquants n’ont aucune marge de manœuvre pour rivaliser : les vulnérabilités sont corrigées avant même que les attaquants aient eu la possibilité de les exploiter. »

Big Sleep, un projet visant à améliorer la cybersécurité

Pour rappel, cette initiative entre dans le cadre d’un projet connu sous le nom de « Big Sleep ». C’est le résultat d’une collaboration entre Google Project Zero ainsi que Google DeepMind.

Il résulte d’un projet antérieur qui a travaillé initialement sur la recherche de vulnérabilités assistée par de grands modèles de langage.

Notons que les chercheurs en cybersécurité chargés de créer des outils de recherche de vulnérabilité assistés par IA ont découvert un autre problème dans SQLite selon Google dans sa note lors de la conférence sur la sécurité DEFCON en août.

C’est ce qui a d’ailleurs incité cette équipe à distinguer s’ils pouvaient encore détecter une vulnérabilité plus grave.

Des variantes encore floues

Aujourd’hui, de nombreuses entreprises, dont Google, se servent d’un processus baptisé « fuzzing » pour détecter les vulnérabilités.

Comment fonctionne le processus ? Le concept est simple : les logiciels sont testés en leur donnant des données aléatoires ou invalides. Ce processus permet également de déclencher des erreurs et de faire planter le programme.

Néanmoins, Google a affirmé que le fuzzing ne fait pas suffisamment pour « aider les défenseurs à trouver les bugs qui sont difficiles (ou impossibles) à trouver ». Ils « espèrent que l’IA pourra réduire cet écart », ajoutent-ils.

« Nous pensons qu’il s’agit d’une voie prometteuse pour enfin renverser la situation et obtenir un avantage asymétrique pour les défenseurs », ont-ils déclaré.

« La vulnérabilité elle-même est assez intéressante, tout comme le fait que l’infrastructure de test existante pour SQLite (à la fois via OSS-Fuzz et l’infrastructure propre au projet) n’a pas détecté le problème, nous avons donc mené des recherches plus approfondies. »

Alors qu’en pensez-vous ? Est-ce que Big Sleep pourrait réellement changer le secteur de la cybersécurité ? Dites-nous votre avis dans les commentaires.

Cet article Google utilise les IA LLM pour découvrir des failles 0 day ! Voici comment a été publié sur LEBIGDATA.FR.

Une équipe de chercheurs de Hong Kong vient de découvrir que les intelligences artificielles de type LLM possèdent une capacité de mémoire similaire à celle des humains… la liste des points communs entre l’IA et le cerveau ne cesse de s’étendre !

Afin d’améliorer l’intelligence artificielle, les chercheurs tentent de s’inspirer de l’intelligence humaine. Cette fois, au contraire, ils ont découvert par hasard que l’IA présente des similitudes avec le cerveau humain !

Une équipe d’experts en informatique de l’Université Polytechniques de Hong Kong s’est aperçue que les LLM (larges modèles de langage) possèdent des capacités de mémoire similaires à celles des humains.

Selon leur étude, il y a plusieurs facteurs clés dans la capacité de raisonnement. Ceci inclut la connaissance apprise, les inputs spécifiques, et la capacité à produire des résultats alignés avec la connaissance apprise.

Or, d’après eux, « en suivant cette définition, les capacités de mémoire des LLM peuvent aussi être considérées comme une forme de raisonnement »…

Un LLM peut mémoriser pratiquement 2000 poèmes

Dans le cadre de cette étude, des milliers de poèmes chinois ont été analysés et mémorisés en utilisant des jeux de données issus de Hugging Face. Certaines IA ont été capables de se rappeler environ 1900 poèmes sur 2000 !

Impressionnés, les chercheurs affirment que « ces résultats sont remarquables, car un humain sans entraînement spécialisé aurait du mal à mémoriser ne serait-ce qu’une centaine de poèmes dans de telles conditions ».

Néanmoins, les LLM ont eu plus de mal à prédire la prochaine partie du poème et ont commis plusieurs erreurs. Ceci s’explique par la nature complexe du langage.

Malgré ces points faibles, même si les prédictions n’étaient pas toujours exactes, les réponses produites suivaient toujours les conventions linguistiques. On peut donc y voir une forme de créativité et de raisonnement…

Comme chez l’humain, la mémoire de l’IA se réveille au besoin

C’est pourquoi les chercheurs décrivent le concept de mémoire de l’IA comme « mémoire de Schrodinger ». Ce terme s’inspire du célèbre paradoxe de la théorie quantique, selon lequel l’état d’un objet est indéterminé jusqu’à ce qu’il soit observé.

De la même façon, la mémoire d’un LLM ne peut être évaluée qu’après qu’une question spécifique soit posée. C’est un phénomène similaire à la façon dont la mémoire humaine est évaluée lorsqu’elle répond à une requête particulière !

Par exemple, les humains peuvent ne pas être capables de se rappeler exactement combien de poèmes ils connaissent, mais peuvent généralement se rappeler un poème spécifique lorsqu’on leur demande.

Ainsi, les chercheurs expliquent que le cerveau humain et les LLM génèrent tous deux des résultats de façon dynamique en se basant sur des inputs (entrées).

L’architecture des LLM, basée sur les modèles Transformer, peut donc être perçue comme une version simplifiée de la façon dont le cerveau humain fonctionne.

Une piste très intéressante pour l’industrie de l’IA

Parmi les entreprises de l’industrie de l’IA explorant cette idée, on compte le leader mondial OpenAI ! En février 2024, une fonctionnalité de mémoire a été intégrée à ChatGPT. Ceci lui permet au chatbot IA de retenir des informations sur l’utilisateur au fil du temps.

À la même période, les chercheurs du MIT ont découvert un moyen de permettre aux chatbots de maintenir des conversations ininterrompues sans planter ou ralentir, en préservant leurs points de données initiales dans leurs mémoires.

Au fil des années à venir, l’IA va continuer à progresser en imitant le fonctionnement de l’intelligence humaine. Et d’ici quelques années, certains experts prédisent qu’elle pourrait totalement dépasser le cerveau humain…

Et vous, qu’en pensez-vous ? Êtes-vous surpris par cette similitude entre cerveau humain et IA ? Pensez-vous que l’intelligence artificielle puisse égaler celle de l’humain, et est-ce vraiment une bonne chose ? Partagez votre avis en commentaire !

Cet article IA et cerveau humain : ce point commun stupéfait les scientifiques ! a été publié sur LEBIGDATA.FR.