Alors que les applications d'IA embarquées gagnent en popularité, les exigences en matière de photographie, de traitement de la voix et de l'image, ainsi que d'interaction avec les assistants IA, deviennent de plus en plus complexes. Arm a annoncé la sortie de son jeu d'instructions Scalable Matrix Extension 2 (SME2), améliorant les capacités de calcul IA de sa plateforme sur appareils mobiles. Les développeurs peuvent ainsi améliorer les performances des applications d'IA sans modifier le code source, tout en bénéficiant d'une expérience applicative basse consommation et performante.
SME2 est une mise à niveau du jeu d'instructions CPU hautes performances au sein de l'architecture Armv9. Conçu spécifiquement pour accélérer le traitement des charges de travail d'IA telles que la vision par ordinateur, la reconnaissance vocale et le traitement du langage naturel, il peut s'exécuter directement sur les processeurs des appareils mobiles, éliminant ainsi le besoin de ressources cloud supplémentaires et atténuant les goulots d'étranglement liés à la latence et à la consommation d'énergie dans les applications d'IA embarquées.
Plus important encore, grâce à la couche d'accélération logicielle KleidiAI d'Arm, les développeurs peuvent bénéficier automatiquement des performances d'exécution améliorées de SME2 sans modifier leurs modèles ni leurs applications. SME2 est déjà intégré à plusieurs frameworks et bibliothèques d'IA grand public, notamment XNNPACK, LiteRT et MediaPipe de Google, MNN d'Alibaba, Microsoft ONNX Runtime et même llama.cpp. SME2 est ainsi pleinement intégré à la pile logicielle d'IA Android existante, garantissant ainsi aux développeurs un accès immédiat à ses fonctionnalités au sein de leurs architectures existantes.
Iliyan Malchev, ingénieur senior Android chez Google, a déclaré que la technologie SME2 permet aux modèles linguistiques avancés comme Gemma 3 de fonctionner parfaitement sur les appareils locaux, éliminant ainsi le recours au cloud computing. Comparé à des matériels comparables, le modèle Gemma 2 équipé de SME3 est six fois plus rapide dans les tâches de résumé de texte, générant même du contenu jusqu'à 6 mots avec un seul cœur de processeur, soulignant ainsi l'amélioration substantielle apportée par SME1 aux performances de l'IA mobile.
Les appareils Android équipés de SME2 sont sur le point d'être commercialisés, et les appareils iOS prennent déjà en charge l'architecture du jeu d'instructions SME2. Grâce aux opérations matricielles automatiques de KleidiAI, les développeurs peuvent facilement passer à la nouvelle génération d'applications d'IA en s'appuyant simplement sur les plateformes prises en charge, offrant ainsi aux utilisateurs une expérience interactive plus immédiate, à faible latence et performante.
Selon les statistiques d'Arm, plus de 900 millions d'applications et de services fonctionnent actuellement sur des plateformes informatiques basées sur Arm, et plus de 2200 millions de développeurs les développent activement. Avec la généralisation de la technologie SME2, de plus en plus d'applications seront capables d'effectuer des calculs d'IA complexes sur les appareils mobiles, révolutionnant ainsi l'expérience utilisateur et les attentes en matière de performances.
