Le débat sur la sécurité de l’intelligence artificielle se concentre souvent sur la puissance des modèles ou leur classement en termes de performance. Cependant, un nouveau rapport de l’Institut Future of Life change totalement la donne. Son AI Safety Index de l’été 2026 évalue la gestion des risques par les principales entreprises du secteur, avec des résultats surprenants : aucune ne décroche la mention « assez bien » et la meilleure note n’atteint tout juste un C+.

Les essentiels de l’AI Safety Index en 30 secondes

• L’Institut Future of Life a évalué neuf développeurs d’IA selon 37 indicateurs répartis en six catégories.
• Anthropic obtient la meilleure note (C+), suivi d’OpenAI et de Google DeepMind, toutes deux avec un C.
• xAI, DeepSeek et Mistral échouent à l’évaluation globale en sécurité.
• Le rapport met en garde contre un recul dans certains engagements publics en matière de sécurité et souligne l’intérêt croissant de plusieurs entreprises pour des contrats de défense.
• La catégorie la moins bien notée est celle de la « sécurité existentielle », où aucune entreprise ne dépasse un C-.

Ce indice a été élaboré par un panel indépendant composé de sept chercheurs spécialisés en sécurité, gouvernance et alignement de l’intelligence artificielle. L’évaluation couvre six grands axes : évaluation des risques, dommages actuels, cadres de sécurité, sécurité existentielle, gouvernance et responsabilité, ainsi que partage d’informations. Pour cela, 37 indicateurs ont été collectés à partir de documents publics et de réponses fournies par plusieurs sociétés participantes.

Le classement ne donne que peu d’espoirs

Anthropic conserve la première place grâce à une meilleure transparence, des recherches en sécurité et une gouvernance plus structurée, même si le panel souligne qu’il reste encore d’importantes lacunes. OpenAI et Google DeepMind suivent de près avec une note de C.

Meta améliore sa position par rapport à la précédente édition pour atteindre la quatrième place avec un D+, tandis que Z.ai et Alibaba Cloud reçoivent un D-. En bas du classement, xAI, DeepSeek et Mistral obtiennent tous une note d’échec globale.

Un des points les plus marquants du rapport est que l’échec ne se concentre pas sur une région précise. Selon le panel, au moins une entreprise échoue en États-Unis, en Chine et en Europe, ce qui suggère que le manque de mesures de sécurité adéquates est un problème mondial, et non uniquement réglementaire.

La réglementation européenne n’assure pas de meilleurs résultats

Le cas de Mistral est particulièrement représentatif dans les conclusions du rapport.

Les auteurs soulignent la contradiction apparente entre le leadership réglementaire de l’Union européenne en matière d’intelligence artificielle et la position de son principal développeur de modèles fondamentaux, qui obtient la pire note de l’étude.

Il ne s’agit pas d’évaluer la qualité technologique de ses modèles mais plutôt des aspects tels que la présence de cadres publics de sécurité, la gouvernance, la transparence ou la gestion des risques.

Le rapport recommande à Mistral de publier un cadre de sécurité plus robuste, de renforcer leur stratégie d’alignement et d’améliorer ses résultats dans les évaluations en matière de sécurité des modèles.

La sécurité militaire devient une nouvelle préoccupation

Une des évolutions qui inquiètent le plus le panel se manifeste par des modifications dans les politiques concernant l’utilisation militaire des modèles.

Le rapport indique qu’entre 2024 et 2026, plusieurs entreprises ont assoupli leurs engagements en matière d’usage militaire de leurs IA. Des sociétés comme Anthropic, OpenAI, Google DeepMind et Meta, qui limitaient auparavant ces applications, auraient relâché leurs positions tout en manifestant un intérêt accru pour la collaboration avec le secteur de la défense.

Pour Anthropic, le panel cite explicitement des « engagements militaires douteux » parmi les aspects nécessitant des améliorations, même si l’entreprise conserve la tête du classement général.

Les évaluateurs soulignent également que certaines sociétés ont atténué leurs engagements antérieurs concernant la possibilité de stopper le développement ou le déploiement de modèles en cas de dépassement de certains seuils de risque, ce qui constitue un recul par rapport aux positions adoptées les années précédentes.

La sécurité existentielle reste une priorité non atteinte

Si une catégorie suscite un consensus particulièrement critique parmi les membres du panel, c’est celle de la « sécurité existentielle ».

Aucune des neuf sociétés ne dépasse un C-, et la majorité obtient des notes D ou F. Selon le rapport, bien que des initiatives existent — comme des classificateurs de sécurité, la recherche en interprétabilité ou des propositions de gouvernance — les mesures actuellement en place sont encore insuffisantes face aux risques croissants liés à des systèmes d’IA de plus en plus avancés.

Les auteurs remettent également en question le fait que de nombreuses stratégies actuelles se concentrent principalement sur la détection des comportements dangereux plutôt que sur leur prévention en amont dès la conception du système.

Plus de transparence, mais encore peu de garanties

Un autre message clé de l’AI Safety Index est que presque toutes les grandes entreprises publient aujourd’hui plus de documentation sur la sécurité qu’il y a deux ans.

Cependant, le panel estime que de nombreux cadres restent problématiques : seuils peu mesurables, absence d’audits indépendants, manque de clarté sur qui peut arrêter un déploiement, et divergences entre les engagements publics et les décisions commerciales ultérieures.

Dans un contexte où les modèles d’IA continuent à augmenter en capacité et à être intégrés dans des secteurs critiques, le rapport conclut que les progrès en matière de sécurité ne suivent pas le rythme des avancées technologiques.

Questions fréquentes

Qu’est-ce que l’AI Safety Index ?

Il s’agit d’un rapport réalisé par l’Institut Future of Life qui évalue les pratiques de sécurité des principales entreprises d’intelligence artificielle à l’aide de 37 indicateurs répartis en six catégories.

Quelle entreprise obtient la meilleure note ?

Anthropic domine le classement avec un C+, suivi d’OpenAI et de Google DeepMind, toutes deux avec un C.

Quelles sociétés sont en échec ?

Le rapport décerne la mention d’échec global à xAI, DeepSeek et Mistral.

Quelle est la principale conclusion de l’étude ?

Selon le panel d’experts, aucune des grandes entreprises ne parvient encore à un niveau de sécurité pleinement satisfaisant, et les progrès en gouvernance et gestion des risques restent insuffisants face au développement rapide de l’IA.

source : AI Safety Index — Summer 2026 | Future of Life Institute