❌

Vue lecture

Il y a de nouveaux articles disponibles, cliquez pour rafraîchir la page.

L'IA impose ses exigences

Gartner
Les traditionnelles prédictions stratégiques annuelles de Gartner sont, pour 2027 et au-delà, exclusivement consacrées à l'intelligence artificielle. Cependant, ce qui me surprend le plus est le prisme retenu : il n'est pratiquement question que des défis et des contraintes qu'elle imposera aux entreprises et non des opportunités qu'elle leur offre.

Dans ce dernier registre, les analystes ne retiennent que deux propositions. L'une, élémentaire, concerne l'irruption de l'IA « physique » aux côtés des employés, que ce soit sous forme de robots à proprement parler ou de véhicules autonomes, de drones et autres appareils interagissant avec leur environnement. En la matière, une recommandation notable porte sur les impératifs de sécurité, qui devraient être placés en tête des préoccupations. La seconde est indirecte puisqu'elle esquisse l'émergence d'une activité de distribution d'énergie dans les grands groupes qui déploient leurs propres capacités de production face aux besoins engendrés par leurs usages.

Une idée intéressante, qui changerait radicalement le fonctionnement des directions informatiques, touche aux nouvelles méthodes de développement logiciel. Il ne s'agit pas ici uniquement de considérer les impacts sur la programmation, dont l'assistance constitue un des premiers cas de mise en œuvre de l'intelligence artificielle, mais aussi du changement de perspective sur le patrimoine applicatif que son efficacité induit : d'ici 2029, 80% des applications générées seraient jetables, par conception, en réponse à des demandes ponctuelles ou pour une adaptation rapide à un contexte mouvant.

Dans la catégorie des challenges, ensuite, Gartner voit apparaître une classe d'acteurs opérant nativement via l'IA, ce qui leur procure la faculté de mettre sur le marché des produits personnalisés à grande échelle qui déstabiliseront les organisations restées à la traîne de la tendance, notamment par leurs conséquences sur la fidélité de leurs clients… et de leurs collaborateurs. Ce genre de prophéties est classique de l'exercice, mais elle a le mérite d'insister sur l'importance, indiscutable, de l'innovation et, en arrière-plan, de la nécessité de définir un cadre qui la stimule continuellement.

Gartner – Prédictions Stratégiques 2027

Mais les aspects financiers sont ce qui inquiète le plus le cabinet. Si la problématique des coûts directs du recours à des modèles intelligents est désormais relativement bien intégrée, divers risques périphériques sont également à envisager, tels que les attaques par épuisement de tokens – quand des personnes malintentionnées abusent de services exposés au grand public afin de provoquer une consommation excessive de ressources – et le débordement de capacité – quand les utilisateurs légitimes exploitent de plus en plus massivement des agents pour exécuter leurs tâches automatiquement.

La défense passera par la mise en œuvre d'une gouvernance spécifique. À un niveau tactique, il faudra installer des solutions de suivi et de contrôle en temps réel, fournissant un socle de pilotage aux décideurs. À un stade plus stratégique, ces outils devront être aptes à un rapprochement avec une mesure du retour sur investissement, et donner ainsi de la visibilité sur la valeur réelle dégagée par les initiatives, afin, le cas échéant, d'engager les arbitrages nécessaires. Dans ce but, 6 entreprises sur 10 disposeraient en 2029 d'une fonction dédiée à cette surveillance de l'équilibre coûts-bénéfices de l'IA.

Enfin, il restera à traiter le (vaste) sujet de la responsabilité qui, dans certains secteurs, dont le secteur financier, relève aussi d'un enjeu réglementaire. Pour Gartner, le directeur informatique ou, si le poste existe, le directeur de l'intelligence artificielle devra assumer cette charge supplémentaire de définition des règles applicables et se porter garant de leur implémentation effective. Dernière note, toujours dans ce domaine, ce sont les assureurs et non les régulateurs qui en établiront les normes, à travers les contraintes qu'ils édicteront pour offrir une couverture abordable à leurs clients.

En conclusion, les firmes qui aujourd'hui se concentrent sur des expérimentations avec l'IA, en essayant de déterminer comment elle peuvent tirer parti de ses opportunités, ont tout intérêt à se pencher au plus tôt sur le cadre général dans lequel elles devront se projeter quand elle sera devenue une composante stratégique de leurs infrastructures.

Une IA pour remplacer les actuaires

Huscarl
Huscarl, qui vient d'opérer une première levée de fonds au début du mois, s'attaque à une forteresse historique de l'analyse de données : l'actuariat. Elle développe en effet, à l'intention des entreprises auto-assurées, des outils d'intelligence artificielle capables de calculer des projections de pertes et de primes sur des scénarios personnalisés.

Bien sûr, il n'est pas question – en tous cas pour l'instant (?) – de remplacer les experts qui, dans les compagnies, affinent presque quotidiennement les évaluations de risques sur les produits courants de l'industrie avec des modèles mis au point et étalonnés sur de longues années. En revanche, la jeune pousse (française) défend ses atouts pour s'implanter dans des domaines plus spécialisés, tels que ceux que prennent en charge les entités captives, correspondant fréquemment à des besoins atypiques.

Huscarl propose ainsi de réaliser des études de faisabilité ad hoc ou bien de construire un véritable plan d'affaires pour une couverture donnée. À partir d'informations plus ou moins riches et d'une description des attentes, ses algorithmes vont élaborer un dossier d'étude sur cinq ans, illustrant l'équation économique d'un projet, y compris en conditions extrêmes, ou bien estimer le coût à prévoir, ligne par ligne, prenant même en compte les évolutions structurelles, par exemple autour des aléas liés au changement climatique.

Dans une large mesure, la startup cherche plus à combler les niches dans lesquelles les professionnels ne peuvent s'engager qu'à remplacer le travail des actuaires, ce qui explique son positionnement. Elle promet notamment, de manière explicite, de fournir des résultats exploitables sur des risques que les acteurs traditionnels ne veulent pas considérer ou, du moins, pas avec le niveau de personnalisation souhaité, que ce soit par manque de données de référence ou en raison de leur mauvaise qualité.

Accueil Muscarl

Aujourd'hui, vus de l'extérieur, les actuaires représentent une élite intouchable dans l'univers de l'assurance. Pourtant, ils ne seront pas épargnés par la révolution de l'intelligence artificielle, bien au contraire. Leurs compétences en matières de statistiques sont évidemment parmi les plus exposées à l'automatisation… et, conscients du progrès, ils ont su s'approprier les générations précédentes de science de données en vue de décupler leur efficacité. Désormais, c'est le second pan de leur savoir-faire qui est menacé : la compréhension des sous-jacents d'un risque et d'une couverture. Certes les IA n'en ont pas une réelle perception mais elles sont néanmoins en mesure de les capturer dans des documents ou autre sources d'information et cette capacité peut probablement suffire à reproduire une expertise convaincante.

Des IA pour les conseillers financiers

Claude
Coup sur coup, OpenAI puis Anthropic ont présenté leurs solutions d'intelligence artificielle générative à l'intention des conseillers financiers. Au milieu de la frénésie pour les agents IA, leurs prétentions, largement circonscrites à la documentation, paraissent timides : l'extrême prudence qui règne dans le secteur impose ses conditions.

Pour être précis, les annonces des deux firmes ne concernent pas exactement les mêmes populations : la déclinaison de ChatGPT s'adresse plutôt aux équipes de banque d'investissement tandis que celle de Claude est véritablement dédiée aux professionnels de l'accompagnement des particuliers. J'estime néanmoins intéressant de constater à quel point les approches s'avèrent similaires et, finalement, portent sur un périmètre contraint qui, en pratique, en limite la valeur en tant qu'offre tierce.

Les solutions visent ainsi un même objectif de simplifier les phases documentaires et préparatoires au travail des spécialistes. Dans cette perspective, l'accent est mis sur les connecteurs pré-intégrés, qui permettent à l'IA d'accéder directement et de manière aussi transparente que possible (donc sans requérir des configurations techniques parfois complexes) aux sources d'information habituelles de ses utilisateurs. À partir de cette matière, elle réalise les tâches administratives classiques de son audience cible.

Pour ChatGPT, qui rattrape ici son grand concurrent sur un produit datant de plus d'un an, il s'agit de produire des documents d'analyse financière – sous divers formats, y compris graphiques, adaptés aux chartes de chaque client, le cas échéant – en combinant des sources multiples et en opérant sur des dimensions variables (statique, temporelle…). Naturellement, OpenAI insiste sur les garanties de sécurité et de confidentialité qu'elle engage vis-à-vis des données ingérées par son modèle.

L'IA pour les Conseillers Financiers

Du côté de Claude, c'est une batterie de fonctions unitaires qui est mise à la disposition des conseillers, également dans l'optique de faciliter leur quotidien : études préalables à un entretien, portant, selon les cas, sur les investissements alternatifs, sur les aspects réglementaires, sur la fiscalité, la revue des équilibres du portefeuille… Les protections sont partiellement automatisées, par exemple le contrôle des exigences de la SEC sur les communications aux clients, ou déléguées à l'humain, dont la validation est requise pour les livrables potentiellement sensibles (notamment s'ils sont partagés).

En synthèse, les géants de l'IA proposent à l'industrie de la finance des outils qui se contentent d'implémenter les « basiques » de l'intelligence artificielle générative dans ses métiers, à savoir, en simplifiant le concept, l'acquisition d'information, son traitement, et la restitution de contenus dérivés plus ou moins originaux. Cette démarche évite certes les inquiétudes suscitées par des modèles qui élaboreraient des stratégies d'investissement ou émettraient des recommandations. Mais ne correspond-elle pas à ce que les institutions construisent déjà en interne depuis quelques temps ?

Démocratiser la gestion de patrimoine avec l'IA

Vanguard
Rêve ancien mais, hélas, jamais concrétisé, la gestion de patrimoine pour tous semble aujourd'hui réveiller les appétits, à l'aune des promesses de l'intelligence artificielle. Le géant américain Vanguard annonce ainsi l'acquisition d'Altruist, en espérant que sa plate-forme aide les conseillers spécialisés à démultiplier leur force de frappe.

Avec les générations successives de « robots-conseillers », la première vague de démocratisation du secteur vise, depuis une quinzaine d'années, à proposer une alternative aux personnes ne disposant pas des moyens de bénéficier des services d'un professionnel. L'absence d'une dimension d'accompagnement de proximité dans ces outils les a malheureusement relégués à un rôle de plate-forme d'investissement certes accessible, mais avec laquelle le client est largement laissé seul devant ses choix.

La vision cible a maintenant changé, y compris chez les trublions d'autrefois, qui, pour les plus évolués, ont mis en place des modèles de conseil humain pour les utilisateurs « haut de gamme ». L'objectif privilégié consiste désormais à rendre ces approches plus efficaces, de manière à en abaisser les coûts et parvenir de la sorte à les ouvrir à une population plus large… qui ne pourra cependant englober l'immense majorité des ménages, modestes, voués, pour l'instant (à jamais ?), à rester à l'écart de la tendance.

Altruist se positionne clairement sur ce créneau, avec une solution propulsée à l'IA pour l'optimisation des processus administratifs qui consomment tellement de temps et d'énergie chez les conseillers, qu'ils préfèreraient consacrer à aider plus d'individus dans le pilotage de leur argent : ouvertures de compte (et les contraintes, notamment réglementaires, associées), suivi des portefeuilles et rapports contextualisés (incluant aussi un portail dédié pour les clients), pilotage des opérations, facturation…

Vanguard x Altruist

Le domaine de la gestion de patrimoine est historiquement en retard dans sa transformation « digitale » et cette situation crée une opportunité pour des jeunes pousses qui voient dans l'intelligence artificielle un moyen de combler le déficit (en France, Patrimind, dont je parlais récemment en fournit un autre exemple). En revanche, leurs offres adressent en priorité des enjeux de productivité dans les métiers existants plutôt que d'envisager une modernisation pourtant nécessaire de l'expérience client.

Je reste toutefois optimiste pour l'avenir, même si celui ci semble encore lointain, car, comme je le remarquais dans un article précédent, je pense que les acteurs qui commencent à convaincre la profession de recourir à l'IA dans leur quotidien – et l'irruption de Vanguard dans la bataille devrait accélérer le mouvement – prendront certainement conscience, avec leurs clients, des possibilités d'étendre progressivement leur périmètre d'intervention, en particulier en permettant à leurs outils d'offrir les niveaux de conseil primaires qui font aussi partie du train-train des spécialistes et peuvent couvrir une part importante des besoins des moins fortunés.

Un assistant IA pour la gestion de patrimoine

Intellectuality
Conçue et développée par un conseiller en gestion de patrimoine en activité et un spécialiste de l'intelligence artificielle, Patrimind est une solution qui vise d'abord à soulager les professionnels du domaine de leurs tâches administratives, mais qui peut également les aider à mieux accompagner leurs clients, notamment les plus modestes.

Dans son rôle primaire d'assistante technique, le premier volet de l'expertise de cette IA sectorielle porte sur l'acquisition et la restitution d'information. Pour ce faire, la plate-forme ingurgite différents types de sources (documents d'identité, justificatifs fiscaux, échanges informels…), sous de multiples formats (fichiers PDF, feuilles de calcul, courriels…),  et en extrait les données importantes pour, par exemple, l'analyse initiale du dossier d'un prospect ou la préparation d'une proposition de plan d'investissement.

Outre un tableau de bord récapitulatif du client, l'utilisateur a la possibilité d'interroger, par tchat, le corpus ainsi constitué, de manière à retrouver en un tournemain une information utile sans avoir à explorer les pièces accumulées. Et, parce que le métier de la gestion de patrimoine ne souffre aucune approximation et que règne, à juste titre, une certaine méfiance vis-à-vis des hallucinations de l'IA, les réponses apportées à chaque question sont assorties d'une référence précise et vérifiable à leur origine.

Selon sa complétude, la connaissance engrangée de la sorte est ensuite disponible pour diverses analyses – bilans, audits, études de conformité… – qui pourront aussi déboucher sur des suggestions opérationnelles, spontanées ou stimulées (par une demande explicite). Comme tout ce que produit l'outil, les éléments de raisonnement mis en œuvre dans ce contexte sont toujours fournis avec leur provenance officielle, entre autres les textes juridiques pertinents, afin d'asseoir la légitimité des recommandations.

Patrimind

À partir des propositions retenues, émanant de l'IA ou élaborées à l'instigation du professionnel, la solution est alors en mesure de dérouler des scénarios de bout en bout, basés sur les données réelles, afin d'en évaluer la valeur et/ou de constituer un argumentaire à partager avec le client. Enfin, lors du passage à l'action, elle va extraire de ses registres et transmettre automatiquement les données nécessaires à la souscription de produits (pour les procédures de KYC et anti-fraude, en particulier).

Clairement et sans ambiguïté possible, l'objectif de Patrimind consiste bien à libérer du temps pour le conseiller, qu'il va pouvoir consacrer à son véritable savoir-faire, au service de ses clients. Cependant, les préconisations que commence à inclure son outil laissent également entrevoir une autre opportunité, de démocratisation de la gestion de fortune. En effet, l'intelligence artificielle pourrait assumer une part autonome plus ou moins importante et plus ou moins standardisée de l'accompagnement – sous contrôle d'un expert humain, par sécurité – selon le niveau de patrimoine de l'intéressé.

Pas de résilience sans recensement des logiciels

CISA
Parce qu'ils sont aujourd'hui au cœur de toutes les activités, les logiciels sont devenus une des principales sources de menace pour la résilience des économies et des états. Pourtant, l'évolution des pratiques au fil des ans rend leur maîtrise de plus en plus difficile. Les agences de cybersécurité du monde entier, CISA américaine en tête, souhaitent donc imposer des contraintes de transparence radicales.

Elle est bien loin l'époque où chaque organisation – utilisatrice finale ou éditrice – concevait et bâtissait ses propres applications de A à Z, maîtrisant de fait sa chaîne de développement de bout en bout. De nos jours, et la prolifération des assistants de codage à base d'intelligence artificielle ne va faire que renforcer la tendance, les logiciels sont constitués d'un assemblage d'une myriade de composants externes – souvent sous licence libre – complétés d'une couche spécifique, plus ou moins élaborée.

En parallèle, une nouvelle forme de criminalité s'est développée qui consiste à introduire discrètement des opérations malveillantes au cœur des éléments les plus fréquemment mis à contribution par ces entreprises, ce qui expose alors quasi automatiquement leurs produits à des attaques redoutables. Par ailleurs et plus banalement, ces mêmes modules sont également sujets à des erreurs et anomalies qui, elles aussi, engendrent des risques de dysfonctionnement et autres failles de sécurité.

Ces méthodes de combinaison de logiciels (ou de parties de logiciels) sont désormais tellement répandues, avec des degrés d'imbrication inextricables, que, en l'absence d'une information claire et exhaustive, un responsable se trouve dans l'impossibilité de savoir ce que les applications qu'il déploie embarquent réellement, ni les menaces qu'elles provoquent. Voilà pourquoi les autorités compétentes demandent dorénavant aux fournisseurs d'inventorier en détails la composition de ce qu'ils distribuent.

La démarche semble parfaitement naturelle… mais elle risque de se heurter à un sérieux problème : selon certains experts, de nombreux acteurs spécialisés, surtout parmi les plus importants, seront incapables de respecter les exigences, notamment en raison des limitations de leur outillage en la matière. Que feront-ils lorsque leurs clients – et les institutions financières, particulièrement sensibles, devraient en être pionnières – leur transmettront la dite liste à remplir lors de leurs appels d'offres ?

Dans tous les cas, selon toute probabilité, les réglementations en matière de résilience, à l'instar de DORA pour le secteur financier européen, incluront à court ou moyen terme des obligations de cet ordre et leurs partenaires technologiques devront y répondre. Cependant, une fois la transparence établie et la connaissance du patrimoine informatique ainsi approfondie, il faudra ensuite la mettre à profit, en priorité afin de corriger au plus tôt les vulnérabilités identifiées. Dans ce domaine également, les outils de support sont pour l'instant immatures et devront progresser rapidement.

Puzzle

L'IA de l'ombre devient impossible à stopper

AI
Alors que Google déploie depuis peu en France l'« Aperçu IA » au sein de son moteur de recherche, un article d'ITRmanager me procure une occasion de prendre un peu de recul sur les stratégies de protection mises en place dans les entreprises afin d'éviter les fuites de données et autres risques de sécurité engendrés par l'intelligence artificielle.

Après le lancement de ChatGPT puis des autres plates-formes d'intelligence artificielle générative destinées au grand public, les responsables informatiques des grands groupes, notamment du secteur financier, particulièrement sensibles, ont rapidement commencé à instaurer des blocages en vue d'interdire leur accès aux collaborateurs, par crainte (souvent justifiée) de divulgation de données confidentielles lors de leur utilisation ou de confiance excessive accordée aux résultats qu'elles produisent.

Naturellement, il n'était rien de plus simple jusqu'à présent que de créer des règles de filtrage sur les réseaux internes verrouillant toute tentative de consultation des sites bien connus, comme il en existe depuis très longtemps pour d'autres catégories de services en ligne (par exemple de divertissement). Hélas, l'initiative de Google vient rappeler aux gardiens du temple que l'IA n'existe déjà plus seulement sous la forme d'outils indépendants, faciles à identifier, mais que, de plus en plus, elle va s'infiltrer partout.

Avec la dernière version en date de son moteur de recherche, ce que redoutait les spécialistes de la sécurité fait désormais partie intégrante d'une des fonctions les plus utilisées d'internet. Tout en continuant à pouvoir l'exploiter comme ils l'ont toujours fait, avec une requête à base de mots-clés, ils ont maintenant aussi la possibilité d'exécuter des demandes complexes, partager le contexte de leur navigation, copier-coller des informations de leur poste de travail… pour obtenir des réponses élaborées.

Sauf à mettre entièrement Google (et ses pairs suivant la même évolution) sur liste noire, il est difficile d'empêcher les employés de profiter de cet ajout pour contourner les contraintes qui leur ont été imposées auparavant. Outre le renforcement nécessaire des messages pédagogiques sur les dangers de l'IA et les précautions plus ou moins élémentaires à prendre dans sa prise en main, l'auteur de l'article en référence propose sa propre solution, fournissant essentiellement un audit des requêtes effectuées.

Mais ce ne peut être qu'une réponse temporaire car, bientôt, l'intelligence artificielle sera intégrée dans tous les recoins du web et les risques associés seront alors omniprésents, à des degrés variables. Plus que jamais, l'éducation du personnel aux « bons » usages (y compris dans le registre éthique, incidemment), la sensibilisation récurrente aux principes de sécurité…, et le recours à des solutions de surveillance intelligentes à portée très large deviennent primordiales dans les organisations.

Shadow AI

L'IA commence à remplacer les débutants

Gartner
Dans les entreprises du secteur tertiaire, l'intelligence artificielle s'avère bien adaptée à l'exécution des tâches historiquement réservées aux employés inexpérimentés et l'impact sur les recrutements commence à s'en ressentir. Alors Gartner s'interroge sur les moyens d'adapter les pipelines traditionnels de formation des débutants ainsi menacés.

Alors que l'adoption massive de l'IA ne produit encore que rarement des résultats probants – seulement un cinquième des 95% organisations concernées déclarent en avoir tiré une valeur significative –, 22% des responsables de ressources humaines interrogés au cours du dernier trimestre de 2025 confirment que, dans au moins un département, les embauches de personnel pour les positions juniors ont déjà été totalement interrompues en raison des initiatives d'automatisation engagées.

Le raisonnement est trivial. Les parcours d'apprentissage des nouveaux arrivants, notamment dans les métiers intellectuels, passent par la réalisation des opérations simples et répétitives préparatoires à la mise en œuvre de l'expertise de leurs aînés. Or leur nature rend ces tâches propices à leur prise en charge par l'intelligence artificielle. Hélas, comme je l'ai souligné par le passé, comment les experts de demain apprendront-ils s'ils n'ont plus de place dans l'entreprise au début de leur carrière ?

Au mieux, et dans un premier temps, les firmes devront faire appel à des compétences externes, plus onéreuses et plus volatiles, afin de compenser la disparition de leur vivier de talents cultivé en interne. Au pire, et, à défaut de changement de méthode, de manière inévitable, elles ne trouveront plus les individus correctement formés dont elles ont besoin… et rien ne garantit (heureusement ?) que, à ce moment de rupture, l'IA aura atteint une maturité suffisante pour assumer les rôles correspondants.

Gartner HR

Concrètement, les directions de ressources humaines n'ont donc guère d'autre choix que d'entamer une transformation profonde des pratiques en vigueur vis-à-vis des débutants. Les analystes de Gartner leur proposent trois approches possibles, qu'il faudra certainement combiner pour un maximum d'efficacité (et un minimum de perturbations dans la vie de l'entreprise), en prenant en compte simultanément l'évolution à long terme des compétences requises à l'ère de l'intelligence artificielle.

La priorité portera d'abord sur l'identification des fonctions que les jeunes recrues sont à même d'assumer une fois que celles qui leur étaient dévolues jusqu'à présent sont assignées à l'IA. Il s'agira fréquemment d'interagir avec cette dernière au service de capacités critiques. Le déficit de formation, qui ne sera pas comblé de la sorte, imposera ensuite de développer des méthodes d'apprentissage dédiées. Enfin, l'ensemble devra être entouré d'un filet de sécurité, constitué d'outils, d'accompagnement et de réseautage, de manière à limiter les risques d'erreur durant ces phases initiales.

Nombre d'organisations s'emparent des promesses de l'intelligence artificielle sans prendre le moindre recul et, outre qu'elles oublient de définir les critères objectifs et mesurables de succès, ne considèrent pas toujours les conséquences de leurs choix à des échéances lointaines. Les impacts considérables de la technologie, sur toutes les dimensions de leur fonctionnement, dont la gestion des effectifs et des talents, rendent pourtant absolument indispensable de l'intégrer dans une perspective stratégique.

Petit rappel aux amateurs d'IA agentique

Forrester
Les institutions financières se sont à peine emparées de l'intelligence artificielle générative, voilà qu'elles se mettent toutes à rêver d'agents capables d'assister leurs clients ou, plus souvent, leurs collaborateurs dans leurs tâches. Hélas, elles n'ont pas toujours pleinement conscience de leurs pré-requis sensiblement différents. David Mooter, pour Forrester, juge donc utile de rappeler quelques évidences.

Dans la plupart des organisations, l'évolution s'est déroulée progressivement, de l'analyse de données historique à la science des données (et ses méthodes d'apprentissage automatiques) puis à l'IA générative, avant, enfin, de commencer à tâter de la toute dernière mode « agentique ». Au fur et à mesure de ces sauts générationnels, les mêmes équipes spécialisées, opérant de manière autonome, ont enrichi leur palette de compétences en vue d'appréhender chaque nouvelle opportunité.

Or un changement critique d'approche intervient aujourd'hui : alors que les premières phases se « contentaient » d'extraire et restituer de l'information, en plaçant tous les efforts sur la définition des modèles autorisant la meilleure performance possible, les agents, eux, arrivent avec des modèles prédéfinis et le véritable enjeu consiste dorénavant à piloter des actions et orchestrer des processus, en s'appuyant sur des services et des API qui interagissent directement avec les systèmes existants.

La principale difficulté rencontrée pour tout projet impliquant le traitement des données est d'identifier et accéder à celle-ci. Face à cet obstacle, les responsables ont souvent eu recours à la création d'un « data lake », hébergeant une copie de tout ce qui pouvait leur être utile afin de se libérer des contraintes engendrées par les silos fonctionnels des grandes structures. De toute évidence, ce dépôt généraliste n'est d'aucune utilité pour les agents IA, qui ont plutôt besoin de se connecter aux applications elles-mêmes.

Forrester – Agentic AI

En conséquence, l'expertise la plus appropriée pour ce genre de démarche n'est plus la gestion de l'information mais l'intégration. Ce sont les professionnels des échanges et des API qui sauront mettre en œuvre les bonnes pratiques permettant d'éviter les multiples écueils de l'IA agentique – problématiques d'architecture, standards mouvants, compromis de sécurité, accumulation de dette technique, composants hétérogènes et isolés… – qu'ils connaissent et au travers desquels il naviguent depuis longtemps.

Pour David Mooter, l'inclusion de l'intelligence artificielle dans la stratégie d'intégration constitue la seule option viable. En considérant l'IA agentique comme une forme supplémentaire d'intégration (ce que les éditeurs prennent désormais en compte), les équipes capitaliseront sur des capacités disponibles en matière de pilotage de la fiabilité, de la sécurité, du cycle de vie… Encore faut-il, bien sûr, que l'entreprise possède une maturité suffisante dans ce domaine. À défaut, elle devra tout construire…

Un régulateur teste l'IA contre la fraude

MAS
Consciente que la lutte contre la criminalité financière est incontestablement plus efficace quand elle porte sur un périmètre élargi, la banque centrale singapourienne lance une expérimentation de détection de malversations grâce à des techniques d'analyse de données évoluées appliquées à un historique de transactions réelles.

Le principe du recours à des modèles d'apprentissage automatique, voire d'intelligence artificielle, en vue d'améliorer la performance des protections contre la fraude n'est évidemment pas nouvelle… elle représente même un des cas d'usage de ces outils parmi les plus répandus dans l'industrie. En revanche, sa déclinaison à l'échelle d'un régulateur national est plus originale et répond à un vrai enjeu de réactivité, l'identification des risques étant plus rapide à partir d'une vue de l'ensemble des échanges dans un pays plutôt qu'au seul niveau d'un établissement.

La mise en œuvre n'est toutefois pas triviale, comme le démontrent les conditions dans lesquelles la MAS organise ce qui devrait être un simple test. Certes, il n'y a aucune prouesse technique à demander à cinq banques locales de partager les informations qu'elles détiennent sur les opérations réalisées pendant une période spécifique (non précisée) puis à entraîner des solutions d'IA plus ou moins sophistiquées sur cette matière première pour l'identification automatique des tentatives d'escroquerie.

La réelle difficulté consiste à réaliser un tel projet avec toute la sécurité requise, alors que les données dont il est question sont extrêmement sensibles. Les responsables se veulent rassurants, en évoquant la mise en place d'un mécanisme de « hash » sur les références de compte (ce qui ne vaut pas anonymisation totale), un stockage chiffré (heureusement !) et des règles strictes d'accès. Mais dans le climat actuel où les fuites sont légion, est-ce suffisant ? Et il ne s'agit que d'une phase d'évaluation préliminaire : comment une éventuelle généralisation pourra-t-elle éliminer tout danger ?

La démarche engagée par la MAS est importante afin d'espérer réduire les pertes subies par les particuliers et les entreprises dans un contexte de croissance de la criminalité, désormais assistée elle-même par l'intelligence artificielle. Elle ne peut cependant, sans être taxée d'incohérence, ignorer les défis de sécurité qu'implique automatiquement son approche. Dans ce sens, elle devrait probablement se pencher au préalable ou, à tout le moins, en parallèle, sur les technologies émergentes de traitement de données préservant la confidentialité (PET)… comme l'avait fait l'ACPR française il y a quelques années (mais dont je ne connais hélas pas les résultats officiels).

MAS

Le contrôle d'âge devient une priorité

Google
Rien de tel que la pression réglementaire pour encourager des acteurs réticents à prendre des mesures sur un sujet aussi sensible que le contrôle de l'âge pour l'accès à certains produits et services. Et même si beaucoup ont encore tendance à reporter la responsabilité sur leur voisin, Google propose désormais une solution opérationnelle… tout en soulignant discrètement une incohérence du législateur européen.

Alors que, ici, les sanctions menacent désormais les sites pour adultes qui ne se conforment pas aux exigences de vérification de majorité pour tous leurs utilisateurs et que sont évoquées des interdictions d'accès aux réseaux sociaux au moins de 15 ans, la première réaction des entreprises concernées consiste à brandir l'argument de la non faisabilité… qui ne trompe personne : elles sont surtout inquiètes de perdre des revenus sur une population facile à conquérir, même quand elles prétendent l'écarter, ou, au mieux, elles ne veulent pas investir dans le déploiement des outils requis.

Cependant, comme la position adoptée dans l'Union Européenne, pionnière en la matière, semble inébranlable, les récriminations évoluent maintenant vers le renvoi de l'obligation de contrôle vers une autre entité, généralement désignée de manière assez floue. Quelques-uns suggèrent d'instaurer un mécanisme de protection dans le système d'exploitation des machines, d'autres, dont Meta (qui est particulièrement visée par Google), demandent qu'il soit placé dans les boutiques d'applications mobiles. Autant d'idées qui ne couvrent absolument pas l'ensemble des scénarios à considérer.

Google – Age Assurance Tool

Tous les géants du web s'inquiètent de leur exposition aux foudres (et aux lourdes amendes) des régulateurs, s'ils devaient endosser la responsabilité d'éventuelles infractions, qu'elles soient directement de leur fait ou non. Alors Google, comme quelques autres, prend les devants et offre donc aux développeurs d'applications pour son système Android un service prêt à l'emploi – sous la forme, classique dans ce domaine, d'une API – leur permettant d'invoquer les contrôles que leur impose la loi.

Estimant toutefois que son rôle n'inclut pas la vérification d'identité des porteurs de téléphone, l'interface se contente de transférer les requêtes vers les dispositifs existants, sa valeur résidant uniquement dans sa capacité à fournir un mécanisme universel et international à l'écosystème des éditeurs de logiciels. Initialement, la firme capitalise ainsi sur la publication par l'UE des spécifications d'interactions avec son futur portefeuille d'identité « digitale » (que j'ai précédemment couvert dans ces colonnes).

Le modèle se veut à l'état de l'art, notamment en termes de protection des données personnelles. Grâce à son approche « Zero-Knowledge Proof » (ZKP), le demandeur n'est autorisé à interroger que les informations sont il a strictement besoin. Par exemple, une app réservée aux individus majeurs se contentera de la réponse à la question « cet utilisateur a-t-il plus de 18 ans ? », sans obtenir sa date de naissance ni même son âge (ce qui est le cas, incidemment, avec la consultation d'une carte d'identité).

Petit problème… l'identité « digitale » européenne est encore à l'état embryonnaire, le projet accumulant des retards désastreux (comme je le craignais dès son annonce, au vu de son planning totalement irréaliste). Google n'insiste pas sur ce « détail » mais aura beau jeu de retourner la balle à la Commission Européenne si d'aventure celle-ci voulait lui chercher noise. Pour sa défense, il faut bien admettre que, en l'occurrence, les autorités paraissent prendre leurs décisions sans trop se préoccuper de cohérence…

❌