❌

Vue lecture

Il y a de nouveaux articles disponibles, cliquez pour rafraîchir la page.

Pas de résilience sans recensement des logiciels

CISA
Parce qu'ils sont aujourd'hui au cœur de toutes les activités, les logiciels sont devenus une des principales sources de menace pour la résilience des économies et des états. Pourtant, l'évolution des pratiques au fil des ans rend leur maîtrise de plus en plus difficile. Les agences de cybersécurité du monde entier, CISA américaine en tête, souhaitent donc imposer des contraintes de transparence radicales.

Elle est bien loin l'époque où chaque organisation – utilisatrice finale ou éditrice – concevait et bâtissait ses propres applications de A à Z, maîtrisant de fait sa chaîne de développement de bout en bout. De nos jours, et la prolifération des assistants de codage à base d'intelligence artificielle ne va faire que renforcer la tendance, les logiciels sont constitués d'un assemblage d'une myriade de composants externes – souvent sous licence libre – complétés d'une couche spécifique, plus ou moins élaborée.

En parallèle, une nouvelle forme de criminalité s'est développée qui consiste à introduire discrètement des opérations malveillantes au cœur des éléments les plus fréquemment mis à contribution par ces entreprises, ce qui expose alors quasi automatiquement leurs produits à des attaques redoutables. Par ailleurs et plus banalement, ces mêmes modules sont également sujets à des erreurs et anomalies qui, elles aussi, engendrent des risques de dysfonctionnement et autres failles de sécurité.

Ces méthodes de combinaison de logiciels (ou de parties de logiciels) sont désormais tellement répandues, avec des degrés d'imbrication inextricables, que, en l'absence d'une information claire et exhaustive, un responsable se trouve dans l'impossibilité de savoir ce que les applications qu'il déploie embarquent réellement, ni les menaces qu'elles provoquent. Voilà pourquoi les autorités compétentes demandent dorénavant aux fournisseurs d'inventorier en détails la composition de ce qu'ils distribuent.

La démarche semble parfaitement naturelle… mais elle risque de se heurter à un sérieux problème : selon certains experts, de nombreux acteurs spécialisés, surtout parmi les plus importants, seront incapables de respecter les exigences, notamment en raison des limitations de leur outillage en la matière. Que feront-ils lorsque leurs clients – et les institutions financières, particulièrement sensibles, devraient en être pionnières – leur transmettront la dite liste à remplir lors de leurs appels d'offres ?

Dans tous les cas, selon toute probabilité, les réglementations en matière de résilience, à l'instar de DORA pour le secteur financier européen, incluront à court ou moyen terme des obligations de cet ordre et leurs partenaires technologiques devront y répondre. Cependant, une fois la transparence établie et la connaissance du patrimoine informatique ainsi approfondie, il faudra ensuite la mettre à profit, en priorité afin de corriger au plus tôt les vulnérabilités identifiées. Dans ce domaine également, les outils de support sont pour l'instant immatures et devront progresser rapidement.

Puzzle

L'IA de l'ombre devient impossible à stopper

AI
Alors que Google déploie depuis peu en France l'« Aperçu IA » au sein de son moteur de recherche, un article d'ITRmanager me procure une occasion de prendre un peu de recul sur les stratégies de protection mises en place dans les entreprises afin d'éviter les fuites de données et autres risques de sécurité engendrés par l'intelligence artificielle.

Après le lancement de ChatGPT puis des autres plates-formes d'intelligence artificielle générative destinées au grand public, les responsables informatiques des grands groupes, notamment du secteur financier, particulièrement sensibles, ont rapidement commencé à instaurer des blocages en vue d'interdire leur accès aux collaborateurs, par crainte (souvent justifiée) de divulgation de données confidentielles lors de leur utilisation ou de confiance excessive accordée aux résultats qu'elles produisent.

Naturellement, il n'était rien de plus simple jusqu'à présent que de créer des règles de filtrage sur les réseaux internes verrouillant toute tentative de consultation des sites bien connus, comme il en existe depuis très longtemps pour d'autres catégories de services en ligne (par exemple de divertissement). Hélas, l'initiative de Google vient rappeler aux gardiens du temple que l'IA n'existe déjà plus seulement sous la forme d'outils indépendants, faciles à identifier, mais que, de plus en plus, elle va s'infiltrer partout.

Avec la dernière version en date de son moteur de recherche, ce que redoutait les spécialistes de la sécurité fait désormais partie intégrante d'une des fonctions les plus utilisées d'internet. Tout en continuant à pouvoir l'exploiter comme ils l'ont toujours fait, avec une requête à base de mots-clés, ils ont maintenant aussi la possibilité d'exécuter des demandes complexes, partager le contexte de leur navigation, copier-coller des informations de leur poste de travail… pour obtenir des réponses élaborées.

Sauf à mettre entièrement Google (et ses pairs suivant la même évolution) sur liste noire, il est difficile d'empêcher les employés de profiter de cet ajout pour contourner les contraintes qui leur ont été imposées auparavant. Outre le renforcement nécessaire des messages pédagogiques sur les dangers de l'IA et les précautions plus ou moins élémentaires à prendre dans sa prise en main, l'auteur de l'article en référence propose sa propre solution, fournissant essentiellement un audit des requêtes effectuées.

Mais ce ne peut être qu'une réponse temporaire car, bientôt, l'intelligence artificielle sera intégrée dans tous les recoins du web et les risques associés seront alors omniprésents, à des degrés variables. Plus que jamais, l'éducation du personnel aux « bons » usages (y compris dans le registre éthique, incidemment), la sensibilisation récurrente aux principes de sécurité…, et le recours à des solutions de surveillance intelligentes à portée très large deviennent primordiales dans les organisations.

Shadow AI

Petit rappel aux amateurs d'IA agentique

Forrester
Les institutions financières se sont à peine emparées de l'intelligence artificielle générative, voilà qu'elles se mettent toutes à rêver d'agents capables d'assister leurs clients ou, plus souvent, leurs collaborateurs dans leurs tâches. Hélas, elles n'ont pas toujours pleinement conscience de leurs pré-requis sensiblement différents. David Mooter, pour Forrester, juge donc utile de rappeler quelques évidences.

Dans la plupart des organisations, l'évolution s'est déroulée progressivement, de l'analyse de données historique à la science des données (et ses méthodes d'apprentissage automatiques) puis à l'IA générative, avant, enfin, de commencer à tâter de la toute dernière mode « agentique ». Au fur et à mesure de ces sauts générationnels, les mêmes équipes spécialisées, opérant de manière autonome, ont enrichi leur palette de compétences en vue d'appréhender chaque nouvelle opportunité.

Or un changement critique d'approche intervient aujourd'hui : alors que les premières phases se « contentaient » d'extraire et restituer de l'information, en plaçant tous les efforts sur la définition des modèles autorisant la meilleure performance possible, les agents, eux, arrivent avec des modèles prédéfinis et le véritable enjeu consiste dorénavant à piloter des actions et orchestrer des processus, en s'appuyant sur des services et des API qui interagissent directement avec les systèmes existants.

La principale difficulté rencontrée pour tout projet impliquant le traitement des données est d'identifier et accéder à celle-ci. Face à cet obstacle, les responsables ont souvent eu recours à la création d'un « data lake », hébergeant une copie de tout ce qui pouvait leur être utile afin de se libérer des contraintes engendrées par les silos fonctionnels des grandes structures. De toute évidence, ce dépôt généraliste n'est d'aucune utilité pour les agents IA, qui ont plutôt besoin de se connecter aux applications elles-mêmes.

Forrester – Agentic AI

En conséquence, l'expertise la plus appropriée pour ce genre de démarche n'est plus la gestion de l'information mais l'intégration. Ce sont les professionnels des échanges et des API qui sauront mettre en œuvre les bonnes pratiques permettant d'éviter les multiples écueils de l'IA agentique – problématiques d'architecture, standards mouvants, compromis de sécurité, accumulation de dette technique, composants hétérogènes et isolés… – qu'ils connaissent et au travers desquels il naviguent depuis longtemps.

Pour David Mooter, l'inclusion de l'intelligence artificielle dans la stratégie d'intégration constitue la seule option viable. En considérant l'IA agentique comme une forme supplémentaire d'intégration (ce que les éditeurs prennent désormais en compte), les équipes capitaliseront sur des capacités disponibles en matière de pilotage de la fiabilité, de la sécurité, du cycle de vie… Encore faut-il, bien sûr, que l'entreprise possède une maturité suffisante dans ce domaine. À défaut, elle devra tout construire…

Un régulateur teste l'IA contre la fraude

MAS
Consciente que la lutte contre la criminalité financière est incontestablement plus efficace quand elle porte sur un périmètre élargi, la banque centrale singapourienne lance une expérimentation de détection de malversations grâce à des techniques d'analyse de données évoluées appliquées à un historique de transactions réelles.

Le principe du recours à des modèles d'apprentissage automatique, voire d'intelligence artificielle, en vue d'améliorer la performance des protections contre la fraude n'est évidemment pas nouvelle… elle représente même un des cas d'usage de ces outils parmi les plus répandus dans l'industrie. En revanche, sa déclinaison à l'échelle d'un régulateur national est plus originale et répond à un vrai enjeu de réactivité, l'identification des risques étant plus rapide à partir d'une vue de l'ensemble des échanges dans un pays plutôt qu'au seul niveau d'un établissement.

La mise en œuvre n'est toutefois pas triviale, comme le démontrent les conditions dans lesquelles la MAS organise ce qui devrait être un simple test. Certes, il n'y a aucune prouesse technique à demander à cinq banques locales de partager les informations qu'elles détiennent sur les opérations réalisées pendant une période spécifique (non précisée) puis à entraîner des solutions d'IA plus ou moins sophistiquées sur cette matière première pour l'identification automatique des tentatives d'escroquerie.

La réelle difficulté consiste à réaliser un tel projet avec toute la sécurité requise, alors que les données dont il est question sont extrêmement sensibles. Les responsables se veulent rassurants, en évoquant la mise en place d'un mécanisme de « hash » sur les références de compte (ce qui ne vaut pas anonymisation totale), un stockage chiffré (heureusement !) et des règles strictes d'accès. Mais dans le climat actuel où les fuites sont légion, est-ce suffisant ? Et il ne s'agit que d'une phase d'évaluation préliminaire : comment une éventuelle généralisation pourra-t-elle éliminer tout danger ?

La démarche engagée par la MAS est importante afin d'espérer réduire les pertes subies par les particuliers et les entreprises dans un contexte de croissance de la criminalité, désormais assistée elle-même par l'intelligence artificielle. Elle ne peut cependant, sans être taxée d'incohérence, ignorer les défis de sécurité qu'implique automatiquement son approche. Dans ce sens, elle devrait probablement se pencher au préalable ou, à tout le moins, en parallèle, sur les technologies émergentes de traitement de données préservant la confidentialité (PET)… comme l'avait fait l'ACPR française il y a quelques années (mais dont je ne connais hélas pas les résultats officiels).

MAS

Le contrôle d'âge devient une priorité

Google
Rien de tel que la pression réglementaire pour encourager des acteurs réticents à prendre des mesures sur un sujet aussi sensible que le contrôle de l'âge pour l'accès à certains produits et services. Et même si beaucoup ont encore tendance à reporter la responsabilité sur leur voisin, Google propose désormais une solution opérationnelle… tout en soulignant discrètement une incohérence du législateur européen.

Alors que, ici, les sanctions menacent désormais les sites pour adultes qui ne se conforment pas aux exigences de vérification de majorité pour tous leurs utilisateurs et que sont évoquées des interdictions d'accès aux réseaux sociaux au moins de 15 ans, la première réaction des entreprises concernées consiste à brandir l'argument de la non faisabilité… qui ne trompe personne : elles sont surtout inquiètes de perdre des revenus sur une population facile à conquérir, même quand elles prétendent l'écarter, ou, au mieux, elles ne veulent pas investir dans le déploiement des outils requis.

Cependant, comme la position adoptée dans l'Union Européenne, pionnière en la matière, semble inébranlable, les récriminations évoluent maintenant vers le renvoi de l'obligation de contrôle vers une autre entité, généralement désignée de manière assez floue. Quelques-uns suggèrent d'instaurer un mécanisme de protection dans le système d'exploitation des machines, d'autres, dont Meta (qui est particulièrement visée par Google), demandent qu'il soit placé dans les boutiques d'applications mobiles. Autant d'idées qui ne couvrent absolument pas l'ensemble des scénarios à considérer.

Google – Age Assurance Tool

Tous les géants du web s'inquiètent de leur exposition aux foudres (et aux lourdes amendes) des régulateurs, s'ils devaient endosser la responsabilité d'éventuelles infractions, qu'elles soient directement de leur fait ou non. Alors Google, comme quelques autres, prend les devants et offre donc aux développeurs d'applications pour son système Android un service prêt à l'emploi – sous la forme, classique dans ce domaine, d'une API – leur permettant d'invoquer les contrôles que leur impose la loi.

Estimant toutefois que son rôle n'inclut pas la vérification d'identité des porteurs de téléphone, l'interface se contente de transférer les requêtes vers les dispositifs existants, sa valeur résidant uniquement dans sa capacité à fournir un mécanisme universel et international à l'écosystème des éditeurs de logiciels. Initialement, la firme capitalise ainsi sur la publication par l'UE des spécifications d'interactions avec son futur portefeuille d'identité « digitale » (que j'ai précédemment couvert dans ces colonnes).

Le modèle se veut à l'état de l'art, notamment en termes de protection des données personnelles. Grâce à son approche « Zero-Knowledge Proof » (ZKP), le demandeur n'est autorisé à interroger que les informations sont il a strictement besoin. Par exemple, une app réservée aux individus majeurs se contentera de la réponse à la question « cet utilisateur a-t-il plus de 18 ans ? », sans obtenir sa date de naissance ni même son âge (ce qui est le cas, incidemment, avec la consultation d'une carte d'identité).

Petit problème… l'identité « digitale » européenne est encore à l'état embryonnaire, le projet accumulant des retards désastreux (comme je le craignais dès son annonce, au vu de son planning totalement irréaliste). Google n'insiste pas sur ce « détail » mais aura beau jeu de retourner la balle à la Commission Européenne si d'aventure celle-ci voulait lui chercher noise. Pour sa défense, il faut bien admettre que, en l'occurrence, les autorités paraissent prendre leurs décisions sans trop se préoccuper de cohérence…

❌