AI Security Institute

L'AI Security Institute (AISI), anciennement AI Safety Institute, est un organisme de recherche anglais, qui, sous l'égide du Ministère des sciences, de l'innovation et de la technologie du Royaume-Uni, a pour mission de « doter les gouvernements d'une compréhension scientifique des risques posés par l'IA avancée »^[1]. Il mène des recherches sur les risques posés par les modèles frontière, et développe et teste des mesures d'atténuation des risques, et notamment de leurs tendances au désalignement.

L'AISI est créé par le Gouvernement du Royaume-Uni le 2 novembre 2023^[2], à la suite du premier grand sommet mondial sur la sécurité de l'IA de novembre 2023 à Bletchley Park^[3].

Il est créé sous le nom d'Institut de sécurité de l'IA (AI Safety Institute)^[4], en transformant la Frontier AI Taskforce qui avait été fondée cinq mois plus tôt (en avril 2023) pour comprendre et suivre les risques émergents induits par l'arrivée des modèles frontières.

Avant cela, quelques initiatives universitaires indépendantes existaient sur le sujet, dont le « Center for the Governance of AI » (GovAI) de l'université d'Oxford, qui mène des travaux de référence sur les risques systémiques et la gouvernance des modèles frontière, le Stanford Center for AI Safety, qui développe des protocoles d'évaluation technique et des cadres de sûreté pour les systèmes avancés, et le « MIT AI Policy Forum », qui étudie les risques sociétaux et propose des normes de sécurité pour les grands modèles ; et de manière moins centrée sur l'IA : le Center for Security and Emerging Technology de la Walsh School of Foreign Service, de l'université de Georgetown à Washington^[5], et le Center for Strategic and International Studies.

Au moment de la création de l'AISI à Londres en novembre 2023, plusieurs pays se sont dotés d'entités équivalentes^[6] :

• États-Unis : US AI Safety Institute (novembre 2023), renommé Center for AI Standards and Innovation (CAISI) en juin 2025
• Japon : Japan AI Safety Institute (février 2024)
• Singapour : Singapore AI Safety Institute (début 2024)
• Union européenne : EU AI Office (début 2024)
• Corée du Sud : South Korea AI Safety Institute (2024)
• Canada : Canada AI Safety Institute (2024)
• France : Institut national pour l'évaluation et la sécurité de l'IA (février 2025)
• Inde : India AI Safety Institute (30 janvier 2025)
• Chine : China AI Safety and Development Association (CnAISDA, février 2025)

Dans le contexte de la course à l'IA générale et à la superintelligence, plusieurs experts, dont Yoshua Bengio, Geoffrey Hinton et Max Tegmark, ont explicitement proposé la création d'un mécanisme multilatéral de sécurité encadrant l'IA (et en particulier les modèles frontières), avec un organisme onusien dédié à l'IA, construit sur le modèle du CERN autour d'un centre international de recherche et de sécurité, sous l'égide de l'ONU. Ce projet a notamment été défendu par le Future of Life Institute et l'UNESCO et le Centre for the Governance of AI (GovAI) (cf. rapport ITU‑UNESCO 2023). Mais les organisateurs du Sommet sur l'intelligence artificielle de 2023 ont privilégié une approche de partenariat public-privé où les États partenaires seront surtout financeurs et coordinateurs, laissant aux entreprises l'essentiel de la responsabilité opérationnelle des évaluations ; dans les faits, les progrès rapides d'Anthropic — en particulier avec son modèle Claude Mythos — ont surpassé le rythme des travaux de l'UK AI Safety Institute et de ses équivalents dans d'autres pays^[7].

L'AISI est doté en 2026 d'un budget initial d'environ 100 millions de livres, et d'un financement annuel d'environ 66 millions de livres (selon les données consolidées en 2026). Son objectif est de « développer une compréhension avancée des risques et des solutions liés à l'IA de pointe, afin d'informer les gouvernements et de leur permettre de garantir la sécurité publique ». L'équipe dirigeante de l'institut, déjà constituée lors du Sommet mondial, devait aussi bénéficier « d'un accès à la puissance de calcul nécessaire à ses travaux. Elle pourra notamment utiliser le nouveau réseau de recherche en IA, un projet en pleine expansion de 300 millions de livres sterling qui comprendra certains des plus grands supercalculateurs d'Europe, multipliant ainsi par trente la capacité de calcul du Royaume-Uni en matière d'IA »^[2]. Le gouvernement a annoncé au sommet investir dans « Isambard-AI » à Bristol et dans un nouveau supercalculateur (« Dawn », à Cambridge, où l'institut aura un accès prioritaire)^[2].

En prévision de la sortie en 2024 « de nouveaux modèles puissants dont les capacités pourraient ne pas être pleinement comprises (...) y compris les modèles open source »^{[réf. souhaitée]}, l'institut doit évaluer les risques des modèles d'IA avancés — avant leur déploiement — en développant des tests spécialisés, en analysant les comportements dangereux potentiels et en partageant ses résultats avec les partenaires internationaux. Il doit notamment explorer « tous les risques, des préjudices sociaux tels que les biais et la désinformation, au risque le plus improbable mais extrême, celui d'une perte totale de contrôle de l'IA par l'humanité. Dans le cadre de ces recherches, l'Institut de sécurité de l'IA collaborera étroitement avec l'Institut Alan Turing » (aussi nommé Institut national pour la science des données et l'IA, créé en 2015, basé à la British Library à Londres, et chargé de conduire des recherches de pointe en data science et IA pour soutenir l'innovation scientifique, économique et sociétale)^[2].

L'AI Safety Institute a développé une plateforme open source appelée Inspect, qui permet aux entreprises, aux gouvernements et aux universitaires d'exécuter des tests de sécurité standardisés pour l'utilisation de l'IA^[3].

Cet institut est conçu comme une start-up au sein du gouvernement, devant « combiner l'autorité du gouvernement avec l'expertise et l'agilité du secteur privé » pour, avec les chercheurs, les entreprises et les régulateurs, garantir que la sécurité des systèmes d'IA les plus puissants soit évaluée de manière fiable avant leur mise sur le marché^[8].

Lors du « Sommet sur l'intelligence artificielle de 2023 à Bletchley Park », le Royaume-Uni a conclu deux partenariats afin de collaborer sur les tests de sécurité de l'IA : l'un avec le gouvernement de Singapour, et l'autre avec l'Institut américain de sécurité de l'IA (AI Safety Institute US), une organisation créée en 2024 par le Département du Commerce des États-Unis pour évaluer les risques des modèles d'IA avancés avant leur déploiement^[2].

L'AISI a conclu des accords d'accès avec Anthropic, Google et OpenAI pour tester leurs modèles avant leur publication^[3].

Parmi les travaux réalisés par l'AISI figure la détection signalée de plusieurs vulnérabilités graves qui pourraient permettre le développement d'armes biologiques. Les vulnérabilités ont été corrigées avant le lancement du modèle^[3].

L'institut promeut et mène des recherches dans divers domaines d'application de l'IA. Par exemple, dans une étude de l'AISI, les grands modèles de langage entraînés en persuasion politique sont devenus jusqu'à 51 % plus persuasifs sur les questions politiques, mais ont également produit davantage d'informations inexactes ou trompeuses^[9].

L'AISI a également travaillé sur l'utilisation de l'IA pour répondre aux besoins émotionnels, concluant que près de 10 % des citoyens britanniques utilisaient chaque semaine des systèmes comme les chatbots à des fins émotionnelles^[10], sachant que par ailleurs un rapport de décembre 2025 confirme que « les systèmes d'IA surpassent désormais les chercheurs de niveau doctorat sur les tests de connaissances scientifiques, et aident les non-experts à réussir des travaux de laboratoire qui auraient été auparavant hors de leur portée ».

Ian Hogarth (entrepreneur et investisseur britannique, co‑fondateur de Songkick) est nommé président de l'institut^{[2][Quand ?]}.

Adam Beaumont, ancien responsable de l'IA au GCHQ, est le directeur par intérim de l'institut.

Jade Leung y est directrice de la technologie^[8]. Cette chercheuse spécialisée dans la gouvernance de l'IA est l'ancienne responsable de la stratégie de sécurité d'OpenAI. Elle avait rejoint en 2024 l'AI Safety Institute du Royaume-Uni en tant que Head of Strategy and Operations, où elle supervisait la définition des priorités scientifiques, les relations internationales et la mise en place des protocoles d'évaluation des modèles avancés ; elle est aussi conseillère du Premier ministre britannique Rishi Sunak en matière d'IA.

• (en) Singer, S., Elmgren, K., et Guest, O. (2025). How Some of China's Top AI Thinkers Built Their Own AI Safety Institute. Carnegie Endowment for International Peace.

• (en) Site officiel

• Portail de l’informatique
• Portail des années 2020
• Portail de l’intelligence artificielle
• Portail de la sécurité des systèmes d'information
• Portail des risques majeurs