Deux mois et demi après sa création, Safe Superintelligence Inc (SSI), la start-up cofondée par Ilya Sutskever, Daniel Gross et Daniel Levy, a finalisé un tour de table d’1 milliard de dollars. Rapportée par Reuters, cette levée de fonds, menée par des investisseurs de premier plan tels qu’Andreessen Horowitz, Sequoia Capital, DST Global et SV Angel, reflète la confiance accordée à SSI. La start-up a pris le parti de ne pas commercialiser de produit avant d’avoir la certitude que ses systèmes d’IA ne présentent aucun risque pour l’humanité.

Les trois cofondateurs ont déclaré en juin dernier lors du lancement de SSI :

“La superintelligence est à portée de main. La construction d’une superintelligence sûre (SSI) est le problème technique le plus important de notre époque. Nous avons lancé le premier laboratoire SSI au monde, avec un seul objectif et un seul produit : une superintelligence sûre. Il s’appelle Safe Superintelligence Inc. SSI est notre mission, notre nom et l’ensemble de notre feuille de route produit, car c’est notre seul objectif. Notre équipe, nos investisseurs et notre modèle commercial sont tous alignés pour réaliser SSI”.

Ilya Sutskever avait démissionné le mois précédant le lancement de SSI de son poste de scientifique en chef chez OpenAI, dont il était l’un des cofondateurs, et où il codirigeait avec Jan Leike, l’équipe de superalignement mise en place par la start-up en juillet 2023 pour minimiser les risques potentiels d’une IA qui surpasserait l’intelligence humaine.

L’un comme l’autre considèrent que développer une IA qui serait capable de s’adapter et d’exceller dans un large éventail de domaines, de manière similaire, voire supérieure, à l’intelligence humaine, autrement dit une superintelligence ou IAG, est envisageable avant la fin de cette décennie mais, pour eux, des mesures de sécurité sont nécessaires pour garantir que les systèmes d’IA restent sûrs et alignés avec les valeurs humaines.

Ils alertaient :

“La superintelligence sera la technologie la plus percutante que l’humanité ait jamais inventée et pourrait nous aider à résoudre bon nombre des problèmes les plus importants du monde. Mais le vaste pouvoir de la superintelligence pourrait aussi être très dangereux et pourrait conduire à la perte de pouvoir de l’humanité ou même à l’extinction humaine”.

Donner la priorité à la sécurité

SSI, qui compte aujourd’hui une dizaine d’employés, concentre tous ses efforts sur le développement d’une IAG sécurisée, “et rien d’autre”. Les fonds levés seront utilisés pour acquérir de la puissance de calcul, recruter les meilleurs talents, des ingénieurs et chercheurs qui seront basés à Palo Alto et Tel Aviv, “où nous avons des racines profondes et la capacité de recruter les meilleurs talents techniques”, précisait l’équipe fondatrice lors du lancement de SSI.

La start-up, serait aujourd’hui valorisée à 5 milliards de dollars selon les sources de Reuters. Daniel Gross, interviewé par ce dernier, a précisé :

“Il est important pour nous d’être entourés d’investisseurs qui comprennent, respectent et soutiennent notre mission, qui est de viser directement une superintelligence sûre et en particulier de passer quelques années à faire de la R&D sur notre produit avant de le commercialiser”. 

Huit projets labellisés par Minalogic ont été retenus dans le cadre des programmes R&D Booster Auvergne-Rhône-Alpes et i-Démo régionalisé France 2030 Auvergne-Rhône-Alpes. Ces projets regroupent 28 entreprises et laboratoires de recherche, répartis sur 9 départements, avec un budget total de R&D de 12,7 millions d’euros, dont 7,1 millions sont soutenus par la Région et l’État. Quatre d’entre eux se concentrent sur l’IA, deux sur la microélectronique, et les deux derniers concernent la photonique.

Cybelia est un programme de R&D de l’IRT SystemX visant à renforcer la cybersécurité des industries françaises. Co-construit avec une douzaine d’acteurs industriels, il a pour objectif de lever les principaux verrous de cybersécurité auxquels sont confrontés les industriels et de développer des méthodes et solutions innovantes qui s’intégreront dans les systèmes industriels, en tenant compte de leurs contraintes opérationnelles et métier (robustesse, embarquabilité, évolutivité, performance, etc.).

Créé en 2012 dans le cadre du Programme d’investissements d’avenir (PIA), désormais intégré à France 2030, SystemX, l’Institut de Recherche Technologique (IRT) dédié à l’ingénierie numérique des systèmes, vise à créer des ponts et favoriser la collaboration entre académiques, industriels et institutionnels. Pour ce nouveau programme de R&D qui s’inscrit dans le cadre de France 2030 et de la stratégie nationale d’accélération pour la cybersécurité lancée en 2021, il s’est associé à l’ANSSI (Agence nationale de la sécurité des systèmes d’information), au Campus Cyber, initié en 2019 mais lancé officiellement en février 2022, et au Comité́ Stratégique de Filière des Industries de la Sécurité.

Initié en février dernier pour une durée de quatre ans, visant un budget de 20 millions d’euros, Cybelia complète d’autres initiatives de recherche fondamentale et de transfert de compétences et de technologies de France 2030 telles que le PEPR (Programme et Équipements Prioritaires de Recherche) et le PTCC (Programme de transfert au Campus Cyber) dirigé par l’Inria, lancé officiellement en mars 2023.

Cybelia se distingue par son caractère multifilières et sa co-construction avec une douzaine d’acteurs industriels issus de divers secteurs tels que l’aéronautique, la défense, le transport et l’énergie. Son objectif est non seulement de développer des solutions augmentées pour l’industrie mais également de constituer un patrimoine cyber ouvert à l’écosystème national, renforçant ainsi la souveraineté et l’innovation françaises en matière de cybersécurité.

Gilles Desoblin, coordinateur du programme Cybelia, affirme :

“Cybelia est un programme emblématique et structurant pour l’industrie car il répond à des enjeux communs exprimés par de nombreux acteurs français issus de filières variées. Il cherche à tirer le meilleur parti de l’IA pour proposer des solutions cyber augmentées. Reposant sur une méthode agile et incrémentale, il ambitionne, à terme, de doter les industriels de moyens efficaces pour gérer les crises cyber de demain et accroître leur résilience”.

Un programme structuré autour de trois cas d’usage

Cybelia s’articule autour de trois cas d’usage principaux, chacun adressant des besoins spécifiques exprimés par les industriels :

• Opérateurs cyber augmentés

Ce premier cas d’usage réunit trois partenaires : Airbus Protect, RTE, OverSOC.

Objectifs : Augmenter les capacités des opérateurs de Security Operations Center (SOC) grâce à l’intelligence artificielle pour la détection d’anomalies et l’émission de recommandations, améliorer la gestion des incidents par les opérateurs métier, et faciliter la collaboration entre opérateurs cyber et métier.

Les deux cas d’usage suivants devraient quant à eux débuter l’an prochain, les consortiums de partenaires qui les porteront sont en cours de constitution.

• Autonomisation des systèmes embarqués autonomes

Objectif : Doter les systèmes embarqués (drones, voitures, trains, systèmes de défense) de capacités de cyberdéfense autonomes et de confiance, conformes aux contraintes de frugalité, pour gérer les incidents de cybersécurité en l’absence ou en cas d’intermittence de connectivité.

• Collaborations sécurisées en environnements non maîtrisés

Objectif : Développer un système sécurisé de partage d’informations entre industriels et leurs partenaires (fournisseurs, sous-traitants, filiales), afin de minimiser les risques de cybersécurité tout en assurant une gestion fine des accès.

Les méthodes et solutions développées seront évaluées et validées sur la plateforme d’évaluation des infrastructures cyber-physiques complexes CHESS mise au point par SystemX, puis, une fois la preuve de concept validée, seront intégrées dans les systèmes des partenaires industriels du programme.

Feuille de route de Cybelia

Pour atteindre ses objectifs, Cybelia propose une feuille de route ambitieuse centrée sur :

• L’intégration de briques d’IA de confiance pour la veille, l’analyse, la détection et la réponse aux menaces émergentes ;
• L’évaluation et la maturation des technologies cyber émergentes pour sécuriser les collaborations inter-organisations ;
• L’accompagnement de la conduite du changement et l’accélération de la montée en compétences des opérationnels ;
• Le développement d’outils adaptés pour évaluer et intégrer les solutions de cybersécurité dans les environnements industriels.

Appel à la participation de l’écosystème Cyber

SystemX lance un appel aux industriels, aux fournisseurs de technologies et aux académiques pour rejoindre le programme Cybelia et contribuer à lever les verrous scientifiques et technologiques. Le programme invite également les PME et les start-ups proposant des technologies innovantes à rejoindre l’initiative à travers plusieurs appels à manifestation d’intérêt (AMI) dès 2025.

Le Commissariat à l’énergie atomique et aux énergies alternatives (CEA) et Dawex, entreprise française leader dans le domaine de l’échange de données, ont récemment signé un accord de partenariat pour la création d’un laboratoire commun de Recherche et Développement. Conjuguant leurs expertises, le CEA et Dawex stimuleront la recherche de pointe sur l’ingénierie des données et l’IA pour apporter des réponses technologiques aux enjeux économiques et environnementaux.

Dawex, fondée en 2015 par Fabrice Tocco et Laurent Lafaye, est reconnue pour son expertise en matière d’échange de données sécurisé, de gouvernance des données et d’interopérabilité. L’entreprise développe des solutions de Data Exchange avancées et participe activement aux travaux sur les réglementations, normes et standards.

Elle est membre de GAIA-X, une initiative franco-allemande lancée en 2019, visant à proposer aux acteurs européens le plus grand nombre de services, plateformes, outils et infrastructures souverains permettant d’exploiter et d’échanges des données dans un cadre éthique et sécurisé, avec un accent sur la portabilité et à l’interopérabilité des solutions. Reconnue Technology Pioneer par le Forum Économique Mondial, Dawex est également à l’initiative du programme international de standardisation Trusted Data Transaction.

De son côté, le CEA joue un rôle essentiel dans la transformation de l’industrie, notamment à travers ses programmes dédiés à l’industrie du futur, au jumeau numérique, à l’IA et à la confiance numérique. Le CEA apporte à cette collaboration une vaste expérience en matière de recherche appliquée et de développement technologique, visant à construire un puissant écosystème d’innovation basé sur des valeurs de responsabilité sociale et environnementale.

Le laboratoire commun de R&D s’appuiera sur l’expertise des deux partenaires pour créer des écosystèmes de données sécurisés, interopérables et de confiance, favorisant ainsi l’adoption de technologies avancées comme l’IA générative. En stimulant l’innovation technologique, le CEA et Dawex aspirent à contribuer significativement à la création d’un avenir plus durable et résilient.

Fabrice Tocco, co-PDG de Dawex, commente :

“L’innovation et la recherche font partie de l’ADN de Dawex depuis le premier jour. Dawex œuvre continuellement pour faire progresser les questions relatives au Data Exchange et anticiper les futurs enjeux liés aux données, en fournissant la technologie d’échange de données la plus avancée. Nous sommes ravis de collaborer avec le CEA et de co-innover pour apporter les innovations “nouvelle génération” qui transformeront l’échange de données”.

Alexandre Bounouh, directeur du CEA-List, ajoute :

“L’échange de données joue un rôle majeur dans la transformation de l’industrie à laquelle la France et l’Europe sont confrontées aujourd’hui. Pour accompagner cette transformation, le CEA a fait le choix de s’associer à Dawex, entreprise leader dans le domaine de l’échange de données et des écosystèmes de données. La création d’un laboratoire de R&D commun nous permettra d’apporter à l’industrie des solutions numériques avancées et de confiance, avec un objectif en tête : accélérer les transitions, et parmi elles, celles de l’énergie et du climat. Nous sommes ravis de poursuivre cette ambition avec Dawex”.