Insertion de modèles d'IA dans des microcontrôleurs

Qu'obtenez-vous lorsque vous croisez l'IA avec l'IoT ? L'intelligence artificielle des objets (AIoT) est la réponse simple, mais vous obtenez également un énorme nouveau domaine d'application pour les microcontrôleurs, rendu possible par les avancées des techniques de réseau neuronal qui signifient que l'apprentissage automatique ne se limite plus au monde des superordinateurs. De nos jours, les processeurs d'applications pour smartphones peuvent (et font) effectuer des inférences d'IA pour le traitement d'images, les moteurs de recommandation et d'autres fonctionnalités complexes.

Apporter ce type de capacité à l'humble microcontrôleur représente une énorme opportunité. Imaginez une aide auditive qui peut utiliser l'IA pour filtrer le bruit de fond des conversations, des appareils ménagers intelligents qui peuvent reconnaître le visage de l'utilisateur et basculer vers leurs paramètres personnalisés, et des nœuds de capteurs compatibles avec l'IA qui peuvent fonctionner pendant des années avec la plus petite des batteries. Le traitement des données au point de terminaison offre des avantages de latence, de sécurité et de confidentialité qui ne peuvent être ignorés.

Utilisés en tandem, Arm's Cortex-M55 et Ethos-U55 ont une puissance de traitement suffisante pour des applications telles que la reconnaissance de gestes, la biométrie et la reconnaissance vocale ( Image : bras)

Cependant, réaliser un apprentissage automatique significatif avec des appareils de niveau microcontrôleur n'est pas une tâche facile. La mémoire, critère clé pour les calculs de l'IA, est souvent sévèrement limitée, par exemple. Mais la science des données progresse rapidement pour réduire la taille des modèles, et les fournisseurs d'appareils et d'adresses IP réagissent en développant des outils et en incorporant des fonctionnalités adaptées aux exigences de l'apprentissage automatique moderne.

TinyML décolle

Signe de la croissance rapide de ce secteur, le TinyML Summit, un nouvel événement de l'industrie qui s'est tenu en février dans la Silicon Valley, ne cesse de se renforcer. Le premier sommet, qui s'est tenu l'an dernier, comptait 11 entreprises commanditaires; l'événement de cette année en comptait 27, et les créneaux se sont vendus beaucoup plus tôt, selon les organisateurs. La participation aux réunions mensuelles mondiales de TinyML pour les designers a considérablement augmenté, ont déclaré les organisateurs.

"Nous voyons un nouveau monde avec des milliards d'appareils intelligents activés par les technologies TinyML qui détectent, analysent et agissent de manière autonome pour créer un environnement plus sain et plus durable pour tous", a déclaré Evgeni Gousev, directeur principal de Qualcomm, coprésident du comité TinyML. , dans ses remarques liminaires lors d'une récente conférence.

Gousev a attribué cette croissance au développement de matériel et d'algorithmes plus économes en énergie, combinés à des outils logiciels plus matures. L'investissement des entreprises et du capital-risque augmente, tout comme les activités de démarrage et de fusion et acquisition, a-t-il noté.

L'ECM3532 d'Eta Compute utilise un noyau Arm Cortex-M3 plus un noyau NXP CoolFlux DSP. La charge de travail d'apprentissage automatique peut être gérée par l'un ou par les deux (Image :Eta Compute)

Aujourd'hui, le comité TinyML estime que la technologie a été validée et que les premiers produits utilisant l'apprentissage automatique dans les microcontrôleurs devraient arriver sur le marché dans deux à trois ans. On pense que les "applications tueuses" seront dans trois à cinq ans.

Une grande partie de la validation technique a eu lieu au printemps dernier lorsque Google a présenté pour la première fois une version de son framework TensorFlow pour microcontrôleurs. TensorFlow Lite pour microcontrôleurs est conçu pour fonctionner sur des appareils ne disposant que de quelques kilo-octets de mémoire (le temps d'exécution principal tient dans 16 Ko sur un Arm Cortex-M3 ; avec suffisamment d'opérateurs pour exécuter un modèle de détection de mots-clés vocaux, il occupe un total de 22 Ko ). Il prend en charge l'inférence mais pas l'entraînement.

Grands joueurs

Les grands fabricants de microcontrôleurs, bien sûr, observent avec intérêt les développements de la communauté TinyML. À mesure que la recherche permet aux modèles de réseaux de neurones de devenir plus petits, les opportunités s'agrandissent. La plupart ont une sorte de support pour les applications d'apprentissage automatique. Par exemple, STMicroelectronics dispose d'un pack d'extension, STM32Cube.AI, qui permet de cartographier et d'exécuter des réseaux de neurones sur sa famille STM32 de microcontrôleurs basés sur Arm Cortex-M.

L'environnement de développement e-AI de Renesas Electronics permet d'implémenter l'inférence de l'IA sur des microcontrôleurs. Il traduit efficacement le modèle sous une forme utilisable dans le studio e2 de l'entreprise, compatible avec les projets C/C++.

NXP Semiconductors a déclaré avoir des clients utilisant ses microcontrôleurs Kinetis et LPC bas de gamme pour des applications d'apprentissage automatique. La société adopte l'IA avec des solutions matérielles et logicielles, bien qu'elles soient principalement axées sur ses plus gros processeurs d'application et ses processeurs croisés (entre les processeurs d'application et les microcontrôleurs).

Armes fortes

La plupart des entreprises établies dans l'espace des microcontrôleurs ont une chose en commun :Arm. Le géant des processeurs embarqués domine le marché des microcontrôleurs avec sa série Cortex-M. La société a récemment annoncé le tout nouveau cœur Cortex-M55, conçu spécifiquement pour les applications d'apprentissage automatique, en particulier lorsqu'il est utilisé en combinaison avec l'accélérateur IA Ethos-U55 d'Arm. Les deux sont conçus pour les environnements aux ressources limitées. Mais comment les startups et les petites entreprises peuvent-elles chercher à rivaliser avec les grands acteurs de ce marché ?

"Pas en construisant des SoC basés sur Arm, parce que [les acteurs dominants] le font très bien", a déclaré en riant Mark Lippett, PDG de XMOS. « La seule façon de rivaliser avec ces gars-là est d'avoir un avantage architectural… [cela signifie] les capacités intrinsèques du Xcore en termes de performances, mais aussi de flexibilité. »

Le Xcore.ai de XMOS, son nouveau processeur croisé pour les interfaces vocales, ne concurrencera pas directement les microcontrôleurs, mais le sentiment reste vrai. Toute entreprise fabriquant un SoC basé sur Arm pour rivaliser avec les grands a intérêt à avoir quelque chose d'assez spécial dans sa sauce secrète.

>> Continuez à lire la page deux de ce article publié à l'origine sur notre site partenaire, EE Times Europe.