Lors d’un événement qui marque une étape clé dans la convergence de l’intelligence artificielle et de la cybersécuritéLes solutions de cybersécurité sont essentielles dans l’ère numérique…, le Centre d’Ingénierie de Sécurité de Google à Malaga (GSEC Malaga) a été la scène du ‘GSEC Cybersecurity Summit: Cyberdéfense à l’ère de l’IA’. Cette rencontre, organisée avant le Forum des Commandants Cyber de l’OTAN, a rassemblé des experts de l’industrie et du gouvernement pour explorer des solutions innovantes dans le domaine de la cyberdéfense et débattre de la manière dont la cybersécurité peut être transformée dans cette nouvelle ère dominée par l’intelligence artificielle.
VirusTotal révolutionne l’analyse des malwares avec l’IA
Un des points forts de l’événement a été la présentation d’une recherche réalisée par VirusTotal, une plateforme d’analyse de malware détenue par Google. Cette étude révèle comment les modèles de langage de grande envergure (LLM) transforment l’analyse de malware, offrant des avancées prometteuses dans ce champ crucial de la cybersécurité.
Les LLM ont prouvé leur capacité à accélérer l’analyse de grands volumes de code binaire de malware, réduisant significativement le besoin de travail manuel. Bien que des défis subsistent, en particulier à cause des techniques d’obfuscation utilisées par les développeurs de malwares, ces modèles simplifient le processus initial d’analyse, permettant aux analystes humains de travailler de manière plus efficace.
Facteurs clés de l’efficacité des LLM
La recherche a identifié plusieurs facteurs qui influencent l’efficacité des LLM dans l’analyse de malware:
- Indications précises: Il est crucial de développer des prompts qui guident les LLM pour obtenir des analyses précises et exhaustives. La qualité des indications détermine en grande partie l’utilité des résultats obtenus.
- Contexte supplémentaire: La précision s’améliore lorsque des informations complémentaires sont fournies, comme des fragments de code, des résultats d’exécution dans des environnements sandbox et des renseignements sur les menaces. Ce contexte enrichit l’analyse et permet aux LLM d’offrir des insights plus profonds et pertinents.
- Techniques d’obfuscation: Le code fortement obfusqué peut présenter des difficultés pour les LLM. Les développeurs de malware utilisent ces techniques pour compliquer l’analyse, ce qui représente un défi continu pour les systèmes d’IA.
- Type de code: Les LLM offrent de meilleurs résultats avec du code décompilé, bien que le code désassemblé puisse apporter des informations précieuses dans les cas d’obfuscation avancée. Cette distinction est cruciale pour optimiser le processus d’analyse et obtenir le maximum d’informations possible.
L’Université de Malaga pionnière dans la formation en cybersécurité
Dans une annonce qui renforce l’engagement de Google envers l’éducation en cybersécurité, l’Université de Malaga est devenue la première institution sélectionnée pour participer au programme de Séminaires de Cybersécurité. Cette initiative, soutenue par Google.org et l’Incubateur Européen de Recherches sur les Cyberconflits (ECCRI), vise à adresser le manque de professionnels dans le domaine de la cybersécurité en Europe.
Détails du programme
- L’Université de Malaga recevra un financement d’un million de dollars.
- Des contenus de cours en espagnol et une formation intensive seront fournis par l’ECCRI.
- L’objectif est de former au moins 200 étudiants.
- Un soutien sera apporté à environ 250 organisations locales.
Ce programme fait partie d’une initiative plus large lancée l’année dernière par Google.org en collaboration avec l’ECCRI, avec un financement total de 15 millions de dollars. Le but est d’améliorer le développement et l’apprentissage de compétences avancées en cybersécurité, y compris le rôle de l’IA dans le paysage des menaces, ainsi que de soutenir les organisations locales communautaires pour qu’elles mettent en œuvre leurs propres protections en ligne.
Initiatives globales en cybersécurité et IA
L’événement a également servi de plateforme pour souligner d’autres initiatives pertinentes dans le domaine de la cybersécurité et de l’IA:
Secure AI Framework (SAIF)
Lancé en juin 2023, ce cadre vise à établir des principes pour le déploiement sécurisé de l’IA dans les organisations de toutes tailles. SAIF s’inspire des meilleures pratiques de sécurité que Google a mises en œuvre dans le développement de logiciels, tout en intégrant sa compréhension des méga-tendances de la sécurité et des risques spécifiques aux systèmes d’IA.
Coalition for Secure AI (CoSAI)
Cofondée par Google en juillet 2024, cette coalition réunit des géants technologiques pour aborder les risques uniques associés à l’IA. Parmi les membres fondateurs se trouvent Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, Paypal, and Wiz. La coalition est hébergée chez OASIS Open, le consortium international de normes et de code ouvert.
Initiative de cyberdéfense avec IA de Google
Annoncée au début de cette année, cette initiative établit un plan d’investissement dans la collaboration, la recherche et l’innovation dans le domaine de la cybersécurité renforcée par l’IA. Google a présenté un rapport intitulé « Secure, Empower, Advance: How AI Can Reverse the Defender’s Dilemma » qui offre un agenda politique et de recherche avec trois recommandations clés:
- Protéger l’IA dès le départ, en donnant la priorité aux pratiques de conception sécurisée.
- Renforcer les défenseurs plus que les attaquants, en promouvant une approche réglementaire équilibrée.
- Encourager la coopération en recherche pour générer des avancées scientifiques en sécurité et en développement de logiciels.
L’avantage du défenseur
Le 18 septembre 2024, Mandiant (partie de Google Cloud) a publié la deuxième édition de l’ebook « The Defender’s Advantage ». Cette étude détaille comment le renseignement sur les menaces stimule les fonctions critiques de la cyberdéfense: Détecter, Répondre, Valider, Chasser et Contrôler la Mission. De plus, un supplément sur l’IA a été publié, décrivant les manières dont l’IA générative peut être utilisée pour améliorer la cyberdéfense, en augmentant l’efficacité, en réduisant le travail manuel et en améliorant les capacités des équipes de sécurité.
L’événement ‘GSEC Cybersecurity Summit’ a démontré le rôle crucial que Malaga joue dans l’avancement de la cybersécurité mondiale, se consolidant comme un centre d’innovation et de formation dans ce domaine critique pour l’avenir numérique. La collaboration entre l’académie, l’industrie et le gouvernement promet d’accélérer le développement de solutions de sécurité basées sur l’IA, préparant le terrain pour un internet plus sûr et résilient face aux menaces cybernétiques en constante évolution.
via: Andalucía Informa