Fortinet a présenté Secure AI Data Center, un cadre de sécurité « end-to-end » conçu pour protéger l’infrastructure, les données, les applications et les modèles (LLM) dans les centres de données d’intelligence artificielle. Cette solution combine une segmentation Zero Trust, une inspection du trafic chiffré et des protections spécifiques pour les LLM, associées à une nouvelle pièce de matériel : le FortiGate 3800G, un pare-feu pour centres de données doté d’une connectivité 400 GbE, d’une accélération via ASIC NP7 et SP5 et de caractéristiques adaptées aux clusters GPU à haute densité. Selon l’entreprise, cette approche vise à offrir une latence ultra-faible et une efficacité énergétique, avec une réduction moyenne de 69 % de la consommation par Gbps par rapport aux solutions classiques, sans compromettre les performances.

Annonces principales

• Framework Secure AI Data Center: harmonise politiques et contrôles depuis le réseau (segmentation, inspection TLS) jusqu’à la couche applicative et des modèles (barrières de sécurité d’entrée/sortie, prévention des fuites de données, atténuation de l’injection de prompt).
• FortiGate 3800G: nouveau pare-feu pour centres de données avec 400 GbE, accélération grâce à ASIC (NP7/SP5) et capacité à protéger en temps réel des clusters GPU avec haut volume de sessions et de throughput.
• Security Fabric: plateforme de gestion unifiée intégrant firewalling, sécurité applicative et protections en temps réel pour simplifier la conformité et l’audit.
• “Quantum-safe”: intégration de la PQC (cryptographie post-quantique) et du QKD (distribution quantique de clés) comme protections pour la confidentialité des données sur le long terme.

Pourquoi cela est-il crucial pour les centres de données IA

Les clusters GPU exigent un bande passante massive, des latences minimales et une consommation maîtrisée. Dans ce contexte, tout contrôle de sécurité ajoutant des millisecondes ou créant des goulots d’étranglement impacte à la fois l’entraînement et l’inférence. Le 3800G est conçu pour déléguer des fonctions aux ASIC, maintenir des connexions 400 GbE et appliquer des politiques de segmentation sans compromettre les SLA de calcul. Par ailleurs, la sécurité « au niveau du modèle » vise à combler le fossé entre « servir un LLM » et l’utiliser en toute sécurité : nettoyage des entrées/sorties, politiques contextuelles et protections contre la fuite de données ou exploitation abusive des APIs IA.

Principaux aspects techniques du FortiGate 3800G (selon le fabricant)

• Pare-feu : 800 Gbps
• VPN IPsec : 210 Gbps
• Protection contre les menaces (FW + IPS + Contrôle applicatif + Malware + logging) : 200 Gbps
• Sessions simultanées : 200 millions

Ces chiffres sont accompagnés d’un tableau comparatif avec la moyenne des concurrents et des modèles spécifiques du marché, en précisant que les méthodologies de test peuvent varier d’un fabricant à l’autre.

Protection LLM et données : au-delà du périmètre

Le cadre Secure AI Data Center met en place des contrôles précis sur le parcours du modèle :

• Barrières de sécurité prompt pour limiter les injections, les jailbreaks et les sorties indésirables.
• Prévention des fuites et classification des données dans le trafic des applications utilisant des LLM, qu’elles soient sur site, hybrides ou dans le cloud public.
• Politiques d’utilisation par locataire/projet pour délimiter les contextes, les origines de données et les objectifs acceptés.

Performance et efficacité : une sécurité sans double coût

La mise en œuvre d’ASIC NP7/SP5 vise à réduire la pénalisation énergétique par Gbps et à libérer la CPU pour des charges de travail à haute valeur ajoutée. Dans le domaine de l’IA, cela permet de :

• Segmenter à grande échelle sans sacrifier la perte de paquets ou le jitter sur des connexions 400 GbE.
• Inspecter en chiffré avec une latence contenue, en comparaison avec des solutions purement software.
• Consolider les fonctionnalités sous l’égide du Security Fabric, pour réduire la complexité opérationnelle et améliorer la rapidité des audits.

Intégration dans des architectures GPU à grande échelle

• Frontières de clusters et spines : le 3800G peut jouer le rôle de gardien périmétrique du domaine IA, appliquant Zero Trust entre pods et espaces de noms.
• Segmentation de pods et de queues : politiques L4–L7 indépendantes des topologies sous-jacentes (VXLAN/EVPN), pour limiter les mouvements latéraux.
• Protection des APIs d’inférence : rate-limiting, validation des schémas, nettoyage des payloads et collecte de télémétrie pour la détection des abus.

Nuances et questions en suspens

C’est une solution destinée à la production, avec des promesses attrayantes en termes de performance et consommation pour AI-DC. Reste à connaître les tarifs, les options de châssis, les cartes 400 GbE disponibles, ainsi que les tests indépendants effectués dans des environnements réels (mélange entraînement/inférence), et enfin comment cela s’intègre aux pipelines MLOps existants et aux déploiements multicloud.

Questions fréquentes

En quoi le FortiGate 3800G se démarque-t-il des appliances précédentes pour centres de données ?
Il offre une transition vers une connexion 400 GbE avec une accélération ASIC (NP7/SP5), jusqu’à 800 Gbps de pare-feu, 200 Gbps de protection contre les menaces et 200 millions de sessions. Spécifiquement adapté aux clusters GPU avec une latence ultra-faible et une consommation par Gbps inférieure.

Comment contribue-t-il à la protection des modèles et données IA au-delà du périmètre ?
Il étend les protections avec guardrails pour LLM (filtres d’entrée/sortie), prévention des fuites et sécurité des APIs, qui inspectent et sanitisent le trafic avant d’atteindre le modèle, avec des politiques par environnement (local, hybride ou cloud).

Le Zero Trust peut-il être appliqué sans dégrader le rendement sur une infrastructure 400 GbE ?
La philosophie repose sur le déplacement de segmentation et d’inspection vers l’ASIC afin de respecter les SLA de performance. La réalité dépendra de la topologie, du profil du trafic et des règles actives chez chaque client.

Que signifie « quantum-safe » ?
Cela implique l’utilisation de PQC (cryptographie post-quantique) et de QKD (distribution quantique des clés) pour protéger les clés et les canaux de communication contre les menaces quantiques émergentes, en ciblant les charges à longue durée de vie de données sensibles.

Note éditoriale

Les spécifications, ratios d’efficacité et comparaisons avec d’autres modèles proviennent des matériaux officiels du constructeur et peuvent varier en fonction des méthodologies de test, du profil de trafic et des environnements de déploiement. Pour des projets sensibles, il est conseillé de réaliser des tests en preuve de concept (PoC) avec une charge représentative et des exigences précises en termes de latence et de consommation.

source : fortinet