L’AI Safety Summit, co-organisé par le Royaume-Uni et la Corée du Sud, se tient actuellement à Séoul. À cette occasion, 16 entreprises majeures—parmi lesquelles Amazon, Google, Microsoft, Meta, Mistral AI et OpenAI— se sont engagées à adopter des mesures de sécurité pour l’IA, connues sous le nom de “Frontier AI Safety Commitments”.

Des engagements se voulant concrets pour la sécurité de l’IA

Chaque entreprise signataire s’est engagée à développer et déployer ses modèles d’IA de pointe de manière sécurisée. Les sociétés ont également convenu de publier des cadres de sécurité détaillant les méthodes pour mesurer les risques associés à leurs technologies. Ces cadres comprendront des seuils clairs définissant les niveaux de risques jugés “intolérables” et les mesures que les entreprises devront prendre pour s’assurer de ne pas dépasser ces seuils.

Chaque signataire s’est également engagé à assumer la responsabilité de ne pas développer ou déployer un modèle ou un système d’IA si les risques associés ne peuvent être maintenus en dessous des seuils prédéfinis.

Les 16 entreprises signataires

Les entreprises ayant signé les “Frontier AI Safety Commitments” sont :

• Amazon
• Anthropic
• Cohere
• Google / Google DeepMind
• G42
• IBM
• Inflection AI
• Meta
• Microsoft
• Mistral AI
• Naver
• OpenAI
• Samsung Electronics
• Technology Innovation Institute
• xAI
• Zhipu.ai

Beaucoup voient le fait que tant d’entreprises de premier plan dans le domaine de l’IA acceptent les mêmes engagements de sécurité comme une première mondiale. Cette initiative pourrait garantir une responsabilité et une transparence cohérentes dans le développement futur des modèles et systèmes d’IA. Elle constitue dans tous les cas un précédent important pour l’industrie, signalant une volonté collective de prévenir les risques potentiels liés à l’IA.

Ces engagements sont cruciaux non seulement pour les entreprises elles-mêmes, mais aussi pour les utilisateurs, les régulateurs et la société dans son ensemble. Ils pourraient offrir une assurance que les innovations en matière d’IA seront poursuivies avec une vigilance accrue pour minimiser les risques et maximiser les bénéfices pour tous.

C’est finalement à Séoul, en Corée du Sud, que va se dérouler, ces 21 et 22 mai, la seconde édition du “AI Safety Summit“, co-organisée par Séoul et le Royaume-Uni. Ce sommet mondial sur l’IA, organisé pour la 1re fois en novembre dernier à Londres pour trouver des réponses aux risques induits par les modèles de fondation comme ChatGPT, se déroulera en virtuel ce mardi et en présentiel le lendemain.

L'”AI Safety Summit” est un événement crucial pour aborder les enjeux liés à l’IA, et garantir son développement sûr et éthique. À l’occasion de sa 1re édition, 28 pays et l’Europe ont co-signé La déclaration de Bletchley, un engagement de principe peu contraignant, pour une IA développée, déployée et utilisée de manière sûre, centrée sur l’humain, digne de confiance et responsable.

Ce second sommet s’appuiera sur les avancées de la 1ère édition, mais également sur le rapport que le gouvernement britannique avait demandé alors à Yoshua Bengio de superviser. Cet éminent expert en IA a été l’un des signataires de la lettre demandant une pause dans le développement des grands modèles de fondation et a fait partie des militants pour un encadrement strict de l’IA en Europe, en amont de l’AI Act.

Si la première version, provisoire, de ce rapport présentée pour le sommet, souligne les dangers des modèles d’IA de pointe en matière de désinformation, notamment via les deepfakes, de fraudes, de cyberattaques, les dangers de leurs biais, elle met également en lumière de profondes divergences entre les experts et entre les pays.

Le Sommet de Séoul

Outre la poursuite de l’élaboration d’une feuille de route pour assurer la sécurité de l’IA,  la promotion de l’innovation et le partage équitable des opportunités et des avantages de l’IA seront également à l’ordre du jour.

Ce 21 mai, la session virtuelle coprésidée par le Premier ministre Rishi Sunak et le président de la République de Corée Yoon Suk Yeol, réunira des dirigeants de pays, dont Emmanuel Macron. Des leaders mondiaux de l’industrie seront également invités à faire le point sur la manière dont ils respectent les engagements pris à Bletchley Park pour assurer la sécurité de leurs modèles. Parmi eux, Anthropic, Google DeepMind, OpenAI, Microsoft et côté français, Mistral AI.

La réunion en présentiel des ministres du numérique, le lendemain, sera co-organisée par la secrétaire britannique à la technologie, Michelle Donelan, et le ministre coréen des Sciences et des TIC, Lee Jong-Ho.

À l’Elysée, plusieurs tables rondes seront organisées à la suite de la session virtuelle avec des acteurs de l’IA comme Eric Schmidt, ancien PDG de Google, ou encore Yann LeCun, vice-président de Meta.

La France a quant à elle repoussé le Sommet de Paris prévu en novembre prochain au mois de février 2025. Plusieurs groupes de travail devraient d’ailleurs être annoncés par Emmanuel Macron pour préparer son ordre du jour. Si, tout comme le Royaume-Uni,  la France a l’ambition de se positionner en tant que l’un des leaders mondiaux de l’IA, elle ne veut pas limiter le débat sur l’IA aux “risques existentiels de cette technologie” selon un communiqué de presse de la présidence, ajoutant “Il y a d’autres enjeux plus urgents et concrets sur le déploiement de l’IA et son utilisation pour le bien commun”.