Un institut fédérant les expertises publiques
La feuille de route 2026-2027 de l’INESIA traduit l’ambition de structurer une capacité publique d’évaluation des IA avancées, qui soit à la fois rigoureuse, indépendante et interopérable avec les initiatives européennes et internationales. Pour y parvenir, l’Institut rassemble quatre acteurs de référence : l’Agence nationale de la sécurité des systèmes d’information (ANSSI), l’Institut national de recherche en sciences et technologies du numérique (Inria), le Laboratoire national de métrologie et d’essais (LNE) et le Pôle d’expertise de la régulation numérique (PEReN). Cette fédération d’expertises répond au constat partagé que les systèmes d’IA les plus avancés atteignent des niveaux de complexité inédits. Leurs capacités de raisonnement multimodal et d’interaction avec des environnements numériques et physiques appellent des méthodes d’évaluation renouvelées.
Trois pôles stratégiques pour structurer l’action
Le premier pôle, consacré à l’appui à la régulation, vise à mettre des outils d’évaluation à disposition des autorités françaises de surveillance du marché, dans le cadre de la mise en œuvre du règlement européen sur l’intelligence artificielle (RIA). Ce pôle inclut également le suivi des travaux normatifs en cours au sein des instances de normalisation (ISO/IEC, CEN-CENELEC), le renforcement des capacités de détection de contenus synthétiques générés par IA, et le développement de méthodes de certification adaptées à la cybersécurité des systèmes d’IA à travers le projet SEPIA (Sécurité des produits intégrant de l’IA), piloté par l’ANSSI.
Le deuxième pôle porte sur les risques systémiques. L’INESIA se donne pour mission de conduire des travaux de recherche visant à mieux comprendre et caractériser les risques liés à l’utilisation de l’IA à grande échelle, notamment dans les domaines de la manipulation de l’information, de la cybersécurité offensive et de la prolifération NRBC (nucléaire, radiologique, biologique et chimique). Ce pôle intègre également l’évaluation des systèmes agentiques, c’est-à-dire les architectures d’agents IA capables de décomposer des tâches, de mobiliser des outils externes et d’interagir avec des environnements complexes. L’INESIA entend par ailleurs poursuivre sa participation aux travaux du réseau international des AI Safety Institutes, confirmant l’engagement de la France dans les efforts mondiaux en faveur de la sécurité de l’IA.
Le troisième pôle, dédié à la performance et à la fiabilité, repose sur l’organisation de challenges techniques ouverts à l’international. Ces campagnes d’évaluation, conçues dans un esprit de « coopétition », ont vocation à stimuler l’émulation entre les acteurs de l’écosystème et à faire progresser l’état de l’art en matière d’évaluation.
Un axe transverse pour mutualiser les ressources
En complément de ces trois pôles, un axe transverse prévoit la mise en cohérence des activités de veille académique et méthodologique, le déploiement d’une infrastructure technique commune pour l’évaluation des modèles d’IA, et l’organisation de journées scientifiques annuelles destinées à fédérer la communauté nationale et internationale autour de ces thématiques.
Les trois points clés à retenir
- Une capacité souveraine d’évaluation : l’INESIA fédère l’ANSSI, Inria, le LNE et le PEReN pour structurer une expertise publique indépendante en matière d’évaluation et de sécurité des systèmes d’IA avancés.
- Trois axes prioritaires : appui à la régulation dans le cadre du RIA, maîtrise des risques systémiques liés aux IA les plus avancées, et stimulation de la performance et de la fiabilité.
- Un ancrage international : l’INESIA assure la représentation de la France au sein du réseau des AI Safety Institutes et contribue à l’élaboration d’un cadre mondial d’évaluation de l’IA.