Arm présente Cortex-M55 et Ethos-U55 : nouveaux cœurs IP pour TinyML sur endpoints basse consommation

Arm a lancé aujourd'hui deux cœurs IP de pointe qui apportent une capacité d'apprentissage automatique avancée aux endpoints à ressources contraintes, incluant l'IoT et les appareils basse consommation. Le microcontrôleur Cortex-M55 est le premier à intégrer le moteur de traitement vectoriel Helium d'Arm, tandis que l'Ethos-U55 est une version compacte des NPU phares Ethos d'Arm. Bien conçus pour un déploiement conjoint, chaque cœur peut fonctionner indépendamment.

Le déploiement de l'IA sur microcontrôleurs — communément appelé TinyML — est devenu de plus en plus critique alors que les réseaux 5G stimulent l'intelligence en edge. Les experts prévoient que le marché TinyML s'étendra pour englober des milliards de systèmes grand public et industriels, fournissant des insights en temps réel sans dépendance au cloud.

« Quand nous regardons en arrière dans cinq ans, nous pourrons tous convenir que cette période a marqué un véritable changement de paradigme dans l'informatique », a déclaré Thomas Ensergueix, directeur senior pour l'IoT et l'embarqué chez Arm. « Nous avons vu en quelques années comment l'IA a révolutionné l'analytique de données dans le cloud, la plupart d'entre nous ont un smartphone augmenté d'IA dans la poche, et voici l'étape suivante, se préparer pour l'IA partout. »

Les appareils domestiques intelligents tels que les enceintes pourront de plus en plus effectuer l'inférence d'apprentissage automatique eux-mêmes (Image : Sebastian Scholz/Unsplash)

La reconnaissance vocale, la vision par ordinateur et autres charges de travail ML passent du cloud au microcontrôleur lui-même. Les nouveaux cœurs d'Arm ciblent un écosystème croissant de solutions microcontrôleurs qui privilégient l'inférence sur appareil.

« Nous savons que toutes ces données au niveau endpoint ne peuvent pas retourner vers le cloud », a déclaré Ensergueix. « Les caméras vidéo à domicile ou en ville intelligente créent littéralement des gigaoctets par jour de données et l'infrastructure n'est pas conçue pour ce flux de données montant. Nous sommes convaincus que pour atteindre des milliards ou billions d'endpoints IoT, nous aurons besoin de capacité d'inférence IA directement dans l'endpoint IoT. Et cela doit être sécurisé. »

Cortex-M55

Le Cortex-M55 s'appuie sur la famille de confiance Cortex-M, offrant la plus haute performance IA à ce jour. Tirant parti de l'architecture Armv8.1-M, il prend en charge les instructions personnalisées permettant aux développeurs d'adapter le cœur pour des charges de travail spécifiques, maximisant l'efficacité.

La technologie de traitement vectoriel Helium offre une performance DSP 5× plus rapide et ML 15× plus rapide que les générations précédentes de Cortex-M.

Les instructions personnalisées pour les opérations INT8, y compris le produit scalaire, accélèrent l'inférence de réseaux de neurones.

« Une application AIoT réussie dépend non seulement d'une bonne performance de calcul, mais aussi de pouvoir obtenir les bonnes données, les bons coefficients et les bons poids d'apprentissage automatique au bon moment, donc l'interface mémoire du processeur a été optimisée pour pouvoir gérer toutes les données entrantes et sortantes. Elle est bien plus performante que tout autre cœur Cortex-M sur cet aspect », a déclaré Ensergueix.

La combinaison Cortex-M55 et Ethos-U55 a assez de puissance pour des applications comme la reconnaissance gestuelle, biométrique et vocale (Image : Arm)

Ethos-U55

L'Ethos-U55 est le premier « micro-NPU » d'Arm, délivrant jusqu'à 0,5 TOPS d'accélération à 1 GHz. Configurable de 32 à 256 MAC, il dispose d'un décodeur de poids embarqué et DMA pour la décompression de poids en temps réel, réduisant l'empreinte mémoire.

Comparé à ses aînés plus grands — Ethos-N77 (4 TOPS), N57 (2 TOPS) et N37 (1 TOPS) — l'U55 offre une solution dense et basse consommation qui peut être mise à l'échelle en empilant plusieurs cœurs.

Le Cortex-M55 et l'Ethos-U55 sont conçus pour être utilisés ensemble, mais peuvent l'être séparément aussi (Image : Arm)

Les deux nouveaux cœurs, M55 et U55, sont conçus pour fonctionner en tandem, offrant jusqu'à 480× d'accélération par rapport à tout dispositif Cortex-M précédent seul. Pour les charges de travail typiques d'assistant vocal, Arm rapporte une accélération de 50× et une amélioration de 25× en efficacité énergétique comparé à un Cortex-M7.

« Le Cortex-M exécute le code système de l'application et puis, quand une charge de travail de réseau de neurones est requise, le flux de commandes est placé en SRAM, une interruption est envoyée à l'U55, et il prend le relais. L'U55 s'exécute jusqu'à completion, retourne les résultats en SRAM, et le Cortex-M reprend le contrôle. Dans les scénarios de streaming, l'U55 peut traiter des données audio ou vidéo continues », a expliqué Steve Roddy, vice-président du groupe apprentissage automatique chez Arm.

Le silicium basé sur ces nouveaux cœurs devrait atteindre le marché début 2021.