Alors que les technologies d’intelligence artificielle évoluent à grande vitesse, une menace silencieuse se fait jour dans les entreprises : la Shadow AI. Ce phénomène désigne l’utilisation non autorisée ou non supervisée de modèles linguistiques publics, tels que ChatGPT ou Claude, par des employés cherchant à augmenter leur productivité sans l’approbation des services informatiques. Si les intentions sont souvent bonnes, les risques en termes de sécurité, de confidentialité et de conformité réglementaire sont considérables.

Pour faire face à ce défi, plusieurs startups innovantes, issues du programme Intel® Liftoff, développent des solutions avancées pour assurer la sécurité et la gouvernance de l’IA, du cloud jusqu’aux dispositifs périphériques. Elles démontrent qu’il est possible de bâtir une IA fiable, évolutive et sécurisée, même dans un environnement où les bonnes pratiques font parfois défaut.

Les modèles de langage de grande ampleur (LLM) possèdent un potentiel transformateur, mais présentent également des imprécisions. Ils peuvent générer de fausses réponses, être manipulés via des “prompt injections” ou stocker de manière non sécurisée des données sensibles.

Pour contrer ces problématiques, Prediction Guard, membre du programme Intel Liftoff Catalyst Track, a créé une plateforme qui filtre les entrées malveillantes et les sorties risquées dans un environnement privé, utilisant l’infrastructure Intel® Tiber AI Cloud et les accélérateurs Intel® Gaudi® 2. Cela permet d’assurer une IA sécurisée pour des secteurs sensibles comme la santé ou la finance.

De son côté, Raidu propose une plateforme de gouvernance complète intégrant le masquage des données, la gestion des risques, le contrôle d’accès et la traçabilité, en conformité avec des standards tels que SOC 2, GDPR ou HIPAA. Co-mind offre quant à elle une alternative privée aux environnements où les employés uploadent des documents confidentiels vers des LLM publics, en proposant des capacités génératives au sein d’une infrastructure contrôlée par l’entreprise.

La computation confidentielle se présente comme une composante clé pour une IA sécurisée. Elle consiste à traiter les données au sein de “enclaves” inviolables, même pour le fournisseur cloud. Roseman Labs, notamment, permet des analyses de données entre organisations via un système de calcul multipartite crypté utilisant des processeurs Intel® Xeon® de sixième génération, multipliant par cinq la performance des opérations complexes.

Tinfoil propose une plateforme d’IA vérifiable, avec enclaves sécurisées et chiffrement direct, utilisant la technologie Intel® Trust Domain Extensions (TDX), pour garantir l’intégrité du code et l’isolement des données même dans des environnements partagés.

Sur le plan de la vérification d’identité, des solutions novatrices ont été développées. Erasys a créé Trustmark, une solution biométrique comportementale – comme des modèles d’écriture ou de profil de dispositif – qui remplace les CAPTCHA traditionnels, offrant une expérience utilisateur fluide tout en renforçant la lutte contre les bots. Neural Defend, quant à elle, combat en temps réel les deepfakes grâce à une IA multimodale, protégeant ainsi les gouvernements et les banques contre la fraude synthétique.

Par ailleurs, Findora mêle confidentialité et fiabilité dans un moteur de recherche qui classe les résultats selon leur crédibilité et détecte les contenus manipulés, en respectant la réglementation canadienne PIPEDA.

L’IA sur le “border” (au bord de l’équipement) devient également une priorité. Falcons.AI a développé des modèles légers de reconnaissance d’images, d’à peine 4 Mo, entraînés avec des GPU Intel Data Center, capables de fonctionner pendant des mois avec une seule batterie. En milieu professionnel, MindFront propose SynthGrid, une plateforme permettant aux agents IA d’interagir en toute sécurité avec des systèmes comme Microsoft Graph, CRM ou ERP, sans marges de manœuvre pour les risques, grâce à l’intégration native de l’authentification, du VPN et de la gestion des permissions.

L’émergence de la Shadow AI a accéléré l’adoption de solutions proactives pour sécuriser l’intelligence artificielle. Du filtrage des prompts à l’encryption avancée, en passant par la détection de deepfakes ou l’IA en périphérie, l’écosystème Intel® Liftoff démontre qu’il est possible de construire une IA robuste, éthique et alignée sur les objectifs des entreprises. Comme le rappelle Eugenie Wirz, co-auteure du rapport initial : « L’intelligence artificielle ne peut transformer les affaires que si ses bases de sécurité sont solides. » Initiant aujourd’hui cette fondation, ces innovations technologiques anticipent déjà les risques, même ceux qui se cachent dans l’ombre.