OpenAI, Anthropic et Mistral parmi les dix entreprises signataires de l’appel de Paris pour la sécurité de l’IA
Dix entreprises d’intelligence artificielle, dont OpenAI, Anthropic et le français Mistral AI, ont signé un texte élaboré par l’Élysée sur les risques de sécurité des modèles d’IA les plus avancés, une première selon la présidence. L’appel de Paris pour la sécurité de l’intelligence artificielle a été signé le lundi 9 novembre, après une réunion convoquée par Emmanuel Macron avec des chefs d’État et de gouvernement, des dirigeants d’entreprises d’IA, dont Sam Altman, Dario Amodei et Arthur Mensch, et des chercheurs comme Yoshua Bengio. Bahreïn, le Canada, la Finlande, la France, la Norvège et les Pays-Bas l’ont signé, tout comme Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Sakana AI et Synthesia.
Selon le communiqué de l’Élysée, les échanges ont fait émerger trois points de consensus : la nécessité de se doter d’évaluateurs indépendants, celle de s’aligner sur des standards d’évaluation des modèles et de signalement des incidents majeurs, et celle de clarifier la responsabilité de chaque acteur. Les signataires s’engagent à établir un cadre commun d’évaluation et de gestion des risques des modèles de pointe, en s’appuyant sur les cadres existants et sur le Réseau international pour la mesure, l’évaluation et la science de l’IA avancée (NAAIMES), avec une attention particulière aux usages malveillants dans les domaines cyber et NRBC ainsi qu’aux risques de perte de contrôle. Les résultats non sensibles des évaluations seront publiés dans un format standardisé, dans un répertoire partagé accessible au public.
Ce que cela change concrètement
Les développeurs s’engagent à rendre publics les capacités, les limites et les risques connus de leurs modèles, à soutenir leur évaluation par des évaluateurs indépendants qualifiés, à mettre en place des mécanismes permettant d’interrompre le fonctionnement d’un modèle et à renforcer leur gouvernance interne. Les États promettent de clarifier les responsabilités en cas de dommages à grande échelle, y compris transfrontaliers, et d’offrir aux lanceurs d’alerte des canaux sécurisés et confidentiels. Henry Papadatos, directeur exécutif de l’association française SaferAI, a salué auprès de franceinfo un moment important pour la sécurité de l’IA et pour le leadership français, en appelant une coalition de pays à traduire ces priorités en mesures concrètes d’ici quelques mois.
Cet appel prolonge des travaux menés en France, comme le programme d’évaluation et de sécurité de l’IA d’Inria doté de 13,5 millions d’euros, et a précédé d’un jour la remise à Emmanuel Macron des 18 recommandations d’une commission d’experts sur l’IA générative. Le texte ne précise pas comment les engagements seraient appliqués. À suivre : l’arrivée éventuelle de nouveaux États et entreprises signataires, la déclaration restant ouverte, la mise en place du répertoire partagé des résultats d’évaluation et l’éventuelle création d’un mécanisme de coopération dédié aux alertes sur les incidents.