Les microcontrôleurs évoluent pour alimenter l'AIoT

Combiner l'IA avec l'IoT donne l'AIoT — un domaine en expansion où les microcontrôleurs hébergent maintenant un apprentissage automatique sophistiqué, grâce aux percées dans la compression et l'optimisation des réseaux de neurones. Les processeurs d'application de smartphones modernes exécutent routinièrement l'inférence IA pour des tâches telles que l'analyse d'image et les moteurs de recommandation, démontrant que le ML haute performance n'est plus confiné aux supercalculateurs.

Un écosystème de milliards d'appareils IoT obtiendra des capacités d'apprentissage automatique dans les prochaines années (Image : NXP)

Déployer une telle intelligence sur des microcontrôleurs basse consommation débloque des cas d'usage transformateurs : aides auditives pilotées par IA qui suppriment le bruit ambiant, appareils intelligents qui identifient les utilisateurs et appliquent des profils personnalisés, ou nœuds capteurs qui fonctionnent pendant des années sur des budgets de micro-joules. L'inférence en edge réduit la latence, améliore la sécurité des données et préserve la vie privée des utilisateurs.

Pourtant, embarquer le ML sur microcontrôleurs reste un défi. La SRAM et flash limitées restreignent la taille des modèles neuraux, et le débit computationnel est modeste. Les avancées rapides en quantification et élagage de modèles, couplées à des outils spécifiques aux fournisseurs, comblent progressivement cet écart.

TinyML gagne en momentum

L'expansion rapide de l'industrie se reflète dans le TinyML Summit, un événement de Silicon Valley qui a attiré 27 sponsors cette année contre 11 l'année précédente, les créneaux d'inscription se remplissant des mois à l'avance. Les organisateurs ont aussi rapporté une hausse des adhésions pour leurs meetups mensuels mondiaux axés design.

« Nous envisageons des trillions d'appareils intelligents alimentés par TinyML, chacun sentant, analysant et agissant de manière autonome pour créer des environnements plus sains et durables », a déclaré Evgeni Gousev de Qualcomm, co-président du comité TinyML, lors du discours d'ouverture.

Il a crédité ce momentum à du matériel plus économe en énergie, des algorithmes raffinés, et des piles logicielles matures, notant une hausse de l'investissement corporate et venture-capital, ainsi qu'une activité accrue de startups et M&A.

Le comité TinyML considère maintenant la technologie validée, prédisant que les premiers produits microcontrôleurs IA-enabled entreront le marché dans 2-3 ans, tandis que des applications véritablement transformatrices pourraient apparaître en 3-5 ans.

Une étape clé est arrivée au printemps dernier quand Google a dévoilé TensorFlow Lite pour Microcontrôleurs — un moteur d'inférence léger taillé pour appareils avec seulement des kilooctets de RAM. Le runtime core occupe seulement 16 ko sur un ARM Cortex-M3, et un modèle complet de détection de mots-clés vocaux tient en 22 ko. La bibliothèque supporte l'inférence seulement, pas l'entraînement.

Les leaders de l'industrie surveillent TinyML

Les grands fournisseurs de microcontrôleurs suivent de près les progrès de TinyML, car la réduction des modèles neuraux étend leurs opportunités produits. La plupart offrent déjà un support ML. Par exemple, STMicroelectronics fournit STM32Cube.AI, un pack d'extension qui mappe et exécute des réseaux de neurones sur sa famille STM32 ARM Cortex-M. Renesas fournit l'environnement de développement e-AI, traduisant les modèles en code C/C++ compatible via son e² Studio. NXP rapporte des clients déployant l'apprentissage automatique sur ses MCU Kinetis et LPC bas de gamme, intégrant l'IA à la fois par matériel et logiciel, surtout dans ses processeurs crossover reliant processeurs d'application et microcontrôleurs.

Architecture centrée Arm

Arm domine le marché des microcontrôleurs avec sa série Cortex-M. La firme a récemment introduit le cœur Cortex-M55, conçu pour charges de travail ML et associé à l'accélérateur IA Ethos-U55, tous deux ciblant des environnements ultra-basse consommation et ressources contraintes. Ensemble, ils délivrent assez de calcul pour la reconnaissance gestuelle, biométrique et vocale.

Utilisés en tandem, le Cortex-M55 et l'Ethos-U55 d'Arm ont assez de puissance pour des applications comme la reconnaissance gestuelle, biométrique et vocale (Image : Arm)

Comment les petites firmes peuvent-elles se différencier face à l'écosystème ancré d'Arm ?

Le PDG de XMOS Mark Lippett a plaisanté : « Vous ne pouvez pas battre Arm en construisant un autre SoC basé sur Arm — ils excellent là. La seule façon est d'introduire des avantages architecturaux — à la fois performance et flexibilité. » Le Xcore.ai de XMOS, un processeur crossover pour interfaces vocales, illustre cette philosophie, bien qu'il ne concurrence pas directement les microcontrôleurs.

Scaling tension et fréquence dans puces ultra-basse consommation

Lors du TinyML Summit, Eta Compute a dévoilé l'ECM3532 — un dispositif ultra-basse consommation capable de traitement d'image always-on et fusion de capteurs avec un budget de 100 µW. Il incorpore un cœur ARM Cortex-M3 et un cœur DSP NXP CoolFlux ; l'un ou l'autre ou les deux peuvent gérer les charges de travail ML. L'innovation clé de la puce est le scaling continu de la fréquence d'horloge et de la tension pour les deux cœurs, éliminant le besoin d'une boucle à verrouillage de phase et réduisant dramatiquement la consommation d'énergie.

L'ECM3532 d'Eta Compute utilise un cœur Arm Cortex-M3 plus un cœur DSP NXP CoolFlux. La charge de travail ML peut être gérée par l'un, ou les deux (Image : Eta Compute)

Avec des concurrents émergents comme RISC-V, pourquoi Eta Compute a-t-il choisi un cœur Arm pour son accélération ML ?

Tewksbury a expliqué à EETimes : « L'écosystème d'Arm est simplement plus mature. Il est plus facile d'amener un produit sur le marché avec Arm qu'avec RISC-V actuellement, bien que cela puisse évoluer. RISC-V excelle sur le marché chinois, mais nous ciblons des clients domestiques et européens où l'écosystème Arm est le plus fort. »

Tewksbury a souligné que l'AIoT couvre un marché large et fragmenté avec de nombreuses applications de niche générant des volumes modestes. Collectivement, cependant, le secteur pourrait englober des milliards d'appareils. Il a insisté que les développeurs doivent éviter le coût d'adapter des solutions pour chaque cas d'usage ; la flexibilité et la facilité d'utilisation sont donc critiques, ce que l'écosystème Arm fournit.

L'octobre dernier, Arm a annoncé qu'il permettrait aux clients de créer des instructions personnalisées pour charges de travail spécialisées comme le ML. Cette capacité, une fois appliquée aux futurs cœurs, pourrait réduire encore la consommation d'énergie.

Bien que le cœur M3 actuel ne puisse pas bénéficier de cette fonctionnalité, Tewksbury est optimiste : « Absolument, nous prévoyons d'exploiter l'ensemble d'instructions personnalisées d'Arm dans les produits de prochaine génération pour pousser l'efficacité énergétique encore plus loin. »

Options ISA émergentes : RISC-V

L'ISA open-source RISC-V supprime les frais de licence et permet aux concepteurs d'ajouter des extensions propriétaires. Les compagnies peuvent adapter les cœurs à des charges de travail spécifiques, protégeant l'IP si nécessaire. GreenWaves, une startup française, utilise des cœurs RISC-V dans ses puces GAP8 et GAP9 — clusters 8-cœurs et 9-cœurs respectivement. L'architecture GAP9 incorpore maintenant 10 cœurs RISC-V.

L'architecture de la puce IA ultra-basse consommation GAP9 de GreenWaves utilise maintenant 10 cœurs RISC-V (Image : GreenWaves)

Le VP de GreenWaves Martin Croome a dit à EETimes que la configurabilité de RISC-V au niveau instruction est un avantage décisif. Les extensions personnalisées permettent des réductions de puissance significatives pour les tâches ML et traitement de signal. Pour une nouvelle compagnie, créer de tels cœurs personnalisés serait autrement prohibitif sur d'autres architectures, où les coûts de licence ou IP gonfleraient.

Les extensions personnalisées seules donnent une amélioration de 3,6× en efficacité énergétique versus cœurs RISC-V non modifiés. Croome a aussi loué l'ISA moderne et propre de RISC-V, qui réduit la complexité d'implémentation et, par conséquent, la consommation d'énergie. Le contrôle précis sur l'exécution de chaque cœur est essentiel pour maximiser l'efficacité énergétique — ce que RISC-V facilite.

Croome a reconnu que si Arm pouvait fournir le même niveau de personnalisation, ce serait le choix naturel. Cependant, la chaîne d'outils logicielle mature d'Arm surpasse actuellement RISC-V, bien que l'écosystème de ce dernier mûrisse rapidement.

En résumé, alors que certains voient la domination d'Arm s'éroder, la compagnie contre-attaque en activant les extensions personnalisées et en développant des cœurs orientés ML dès le départ. Les solutions Arm et non-Arm sont maintenant disponibles pour l'IA ultra-basse consommation, et alors que les communautés TinyML continuent de réduire les tailles de modèles et raffiner les frameworks, le marché est prêt à s'épanouir.