Cordes de bras conçus pour les appareils TinyML

Arm a dévoilé deux nouveaux cœurs IP conçus pour alimenter l'apprentissage automatique dans les terminaux, les appareils IoT et d'autres applications à faible consommation d'énergie et sensibles aux coûts. Le cœur du microcontrôleur Cortex-M55 est le premier à utiliser la technologie de traitement vectoriel à l'hélium d'Arm, tandis que l'accélérateur d'apprentissage automatique Ethos-U55 est une micro-version de la famille Ethos NPU (unité de traitement neuronal) existante de l'entreprise. Les deux noyaux sont conçus pour être utilisés ensemble, bien qu'ils puissent également être utilisés séparément.

L'activation d'applications d'IA et d'apprentissage automatique sur des microcontrôleurs et d'autres appareils sensibles aux coûts et à faible consommation de ressources est connue sous le nom de secteur tinyML. Avec l'essor de la 5G qui initie une tendance à plus d'intelligence dans les terminaux, tinyML devrait se développer de façon exponentielle sur un marché qui englobe des milliards de systèmes grand public et industriels.

"Quand nous regardons en arrière dans cinq ans, nous pouvons tous convenir que cette fois a marqué un véritable changement de paradigme dans l'informatique", a déclaré Thomas Ensergueix, directeur principal pour l'IoT et l'embarqué, Arm. "Nous avons vu en quelques années comment l'IA a révolutionné la façon dont l'analyse des données s'exécute dans le cloud, la plupart d'entre nous ont un smartphone amélioré par l'IA dans nos poches, et voici maintenant la prochaine étape, se préparer à l'IA partout."

Les appareils domestiques intelligents tels que les haut-parleurs intelligents seront de plus en plus capables d'effectuer eux-mêmes des inférences d'apprentissage automatique (Image :Sebastian Scholz/Unsplash)

L'apprentissage automatique, y compris les applications de reconnaissance vocale et de vision par ordinateur, aura de plus en plus lieu dans le microcontrôleur. Une gamme d'alternatives aux microcontrôleurs voit le jour, basée sur les cœurs Arm et d'autres, qu'Arm cible avec ces deux nouveaux cœurs.

« Nous savons que toutes ces données au niveau des terminaux ne peuvent pas retourner dans le cloud », a déclaré Ensergueix. « Les caméras vidéo à la maison ou dans la ville intelligente créent littéralement des gigaoctets de données par jour et l'infrastructure n'est pas conçue pour ce flux de données en amont. Nous sommes convaincus que ce dont nous avons besoin pour évoluer vers des milliards ou des milliards de points de terminaison IoT, nous aurons besoin d'une capacité d'inférence d'IA directement dans le point de terminaison IoT. Et il doit être sécurisé. »

Cortex-M55

Dernier ajout à la célèbre série Cortex-M d'Arm pour les microcontrôleurs, le Cortex M-55 est conçu pour être le cœur Cortex-M le plus capable d'IA d'Arm.

Le M55 est le premier à utiliser la nouvelle technologie de traitement vectoriel à l'hélium d'Arm, qui promet des performances DSP 5 fois plus rapides et des performances ML 15 fois plus rapides, par rapport aux générations Cortex-M précédentes. Sur la base de l'architecture Armv8.1-M, ​​des instructions personnalisées peuvent être créées pour optimiser le processeur pour des charges de travail spécifiques, peut-être pour réduire la dernière goutte de puissance.

La combinaison du M55 et du U55 tire parti de la puissance DSP accrue du M55, qui peut être utilisée pour le prétraitement du signal. Cependant, le M55 peut exécuter lui-même des charges de travail de réseau neuronal. Il comporte des instructions dédiées pour les nombres INT8, y compris le produit scalaire, qui est couramment utilisé dans les applications d'apprentissage automatique.

Une application AIoT réussie « dépend non seulement de bonnes performances de calcul, mais également de la capacité à obtenir les bonnes données, les bons coefficients et les bons poids d'apprentissage automatique au bon moment, de sorte que l'interface mémoire du processeur a été optimisée pour pouvoir gérer toutes les données entrantes et sortantes. Il est bien plus performant que tout autre noyau Cortex-M sur cet aspect », a déclaré Ensergueix.

La combinaison de Cortex-M55 et Ethos-U55 a une puissance de traitement suffisante pour des applications telles que la reconnaissance de gestes, la biométrie et la reconnaissance vocale (Image :Arm)

Ethos-U55

L'Ethos-U55 est présenté comme le premier "micro-NPU" d'Arm, offrant jusqu'à 0,5 TOPS d'accélération (basé sur des géométries plus petites telles que 16 ou 7 nm, fonctionnant à 1 GHz). Arm n'a pas encore publié de chiffres d'efficacité énergétique (TOPS/W). Il est configurable — 32 à 256 unités d'accumulation multiple (MAC) peuvent être utilisées — et il dispose d'un décodeur de poids et d'un accès direct à la mémoire pour la décompression de poids à la volée.

L'Ethos-U55 rejoint les Ethos N77, N57 et N37 qui, par comparaison, proposent respectivement 4, 2 et 1 TOPS. Les performances peuvent être améliorées en utilisant plusieurs cœurs Ethos.

Le Cortex-M55 et l'Ethos-U55 sont conçus pour être utilisés ensemble, mais peuvent également être utilisés séparément (Image :Arm)

Les deux nouveaux cœurs, M55 et U55, sont conçus pour être utilisés ensemble, où ils peuvent traiter les tâches ML 480 fois plus rapidement que n'importe quel appareil Cortex-M de génération précédente seul. Arm dit que les chiffres typiques pour une application d'assistant vocal de bout en bout utilisant ML sont une accélération de 50 fois par rapport à l'utilisation d'un Cortex-M7 seul et une augmentation de 25 fois de l'efficacité énergétique.

« Le Cortex-M exécuterait le code du système d'application, puis lorsque le traitement d'une charge de travail de réseau neuronal est requis, le flux de commandes correspondant est placé dans la SRAM, une interruption est donnée à l'U55, et il est dit, ici, allez travailler sur cela flux de commandes », a expliqué Steve Roddy, vice-président du groupe d'apprentissage automatique chez Arm. « Cela pourrait être une inférence unique d'un seul modèle. L'U55 fonctionne jusqu'à la fin, remet les résultats dans la SRAM et laisse ensuite le Cortex-M prendre le relais. Ou cela pourrait être le type de situation où vous exécutez en continu pendant que vous effectuez une sorte de traitement de données en streaming, peut-être audio ou vidéo. »

Le silicium basé sur ces nouveaux cœurs devrait arriver sur le marché début 2021.