Arm a annoncé une avancée majeure dans la démocratisation de l’intelligence artificielle sur appareils mobiles avec le lancement de la nouvelle extension Scalable Matrix Extension 2 (SME2), intégrée à son architecture Armv9. En complément, la couche logicielle KleidiAI permet aux développeurs Android d’incorporer directement des fonctionnalités avancées telles que la vision par ordinateur, le traitement du langage naturel ou la synthèse vocale, sans connexion au cloud ni modification des applications existantes.

L’objectif est d’offrir des performances en temps réel tout en respectant la consommation d’énergie, évitant la surchauffe et simplifiant le développement. SME2 accélère notamment le traitement de charges matricielles essentielles pour les modèles génératifs et la vision artificielle, en répartissant intelligemment les tâches entre différents composants du processeur mobile.

Grâce à KleidiAI, les développeurs n’ont pas besoin de modifier leur code pour tirer parti de cette nouvelle technologie, celle-ci étant automatiquement intégrée dans des bibliothèques populaires telles que Google XNNPACK, MediaPipe, ONNX Runtime, Alibaba MNN, LiteRT ou encore llama.cpp. Lorsqu’elle est activée, la plateforme dirige automatiquement les opérations gourmandes en calcul vers SME2.

Selon Iliyan Malchev, ingénieur logiciel chez Android (Google), SME2 permet d’exécuter des modèles IA avancés comme Gemma 3 directement sur une large gamme de dispositifs, offrant ainsi des expériences à faible latence accessibles à tous les utilisateurs de smartphones. Des tests réalisés avec cette technologie ont montré que le modèle Gemma 3 pouvait répondre jusqu’à six fois plus rapidement, facilitant des interactions plus fluides. Par exemple, un résumé de texte de 800 mots peut désormais être généré en moins d’une seconde.

Une société de logiciels indépendante prévoit de migrer la majorité de ses opérations de génération de tokens de la cloud vers l’appareil, tirant parti de ces améliorations de performance et d’efficacité.

Bien que SME2 soit d’abord déployée prochainement sur les nouveaux appareils Android, elle est également compatible avec les derniers modèles iOS. Avec plus de 22 millions de développeurs et 9 millions d’applications actives utilisant la plateforme, cette avancée promet une meilleure portabilité et une consommation d’énergie optimisée, indispensable dans un contexte de ressources limitées.

Arm conseille aux développeurs mobiles de préparer dès maintenant leurs applications pour qu’elles soient compatibles avec KleidiAI, afin de profiter automatiquement des futures innovations comme SME2. La société a aussi lancé un Developer Launchpad, un espace dédié aux ressources et exemples pour accélérer l’adoption de ces nouvelles fonctionnalités IA de pointe.

En synthèse, SME2 et KleidiAI incarnent l’avenir de l’intelligence artificielle intégrée, offrant des performances extrêmes sans modifier la logique des applications, dans un écosystème qui valorise puissance, efficacité et simplicité d’intégration.