Déployer l'AIoT sur microcontrôleurs : guide pratique

Dans un article récent, j'ai exploré comment l'intelligence artificielle s'intègre de plus en plus dans les appareils Internet des objets (IoT), donnant naissance à des solutions AIoT intelligentes qui apprennent des données et prennent des décisions autonomes. Ces systèmes présentent des interactions de type humain avec leur environnement, améliorant la fonctionnalité des produits et l'expérience utilisateur.

L'IA et l'IoT ont ensemble ouvert de nouveaux marchés pour les microcontrôleurs (MCU). En associant des MCU simples à une accélération IA, les développeurs peuvent intégrer de l'intelligence dans des appareils qui reposaient auparavant uniquement sur des capteurs basiques. Les MCU modernes compatibles IA combinent le traitement du signal numérique (DSP) pour le calcul avec l'inférence d'apprentissage automatique (ML), permettant des applications telles que la détection de mots-clés, la fusion de capteurs, l'analyse de vibrations et la reconnaissance vocale. Les MCU à plus haute performance prennent désormais en charge les tâches de vision et d'imagerie — reconnaissance faciale, analyse d'empreintes digitales, robots autonomes — apportant ce qui était autrefois l'apanage des MPU et GPU à la périphérie.

Technologies d'IA dans les appareils de périphérie

Apprentissage automatique (ML) : Les algorithmes ML construisent des modèles à partir de données représentatives, permettant aux appareils de détecter automatiquement des motifs. Les fournisseurs fournissent des algorithmes, des API et des outils d'entraînement qui permettent aux systèmes embarqués d'exécuter des modèles pré-entraînés pour l'inférence. Cas d'usage courants : hubs de capteurs, détection de mots-clés, maintenance prédictive et classification.

Apprentissage profond (Deep Learning) : Sous-ensemble du ML qui entraîne des réseaux de neurones multicouches pour extraire des caractéristiques de haut niveau à partir d'entrées complexes. L'apprentissage profond excelle avec des ensembles de données volumineux et diversifiés, s'améliorant continuellement à chaque itération. Applications : traitement d'images, chatbots, reconnaissance faciale.

Traitement du langage naturel (NLP) : Le NLP permet aux systèmes de comprendre et de répondre au langage humain — texte ou parole — et de prendre des décisions basées sur cette entrée. Il alimente la reconnaissance vocale, la traduction automatique et la saisie prédictive.

Vision par ordinateur : Ce domaine entraîne les machines à capturer, interpréter et agir sur les données d'image. En tirant parti de l'apprentissage profond, les systèmes peuvent identifier et classer des objets en temps réel. Cas d'usage : détection de défauts de fabrication, diagnostics médicaux, reconnaissance faciale dans le commerce de détail, tests de véhicules autonomes.

AIoT sur MCU

Historiquement, l'IA résidait dans les MPU et GPU, où une grande mémoire et des cœurs puissants pouvaient gérer des charges de travail lourdes. Le passage vers l'intelligence en périphérie place désormais l'IA sur les MCU, motivé par le besoin de latence plus faible, de bande passante réduite et de budgets d'énergie plus serrés. Les MCU récents disposent désormais de suffisamment de calcul et de mémoire pour héberger des frameworks de réseaux de neurones (NN) légers adaptés aux appareils contraints, rendant l'inférence en temps réel faisable en périphérie.

Un réseau de neurones se compose de couches de nœuds qui traitent des entrées pondérées pour produire des sorties. Pendant l'entraînement — généralement effectué dans le cloud — les données traversent le réseau, et la rétropropagation ajuste les poids pour minimiser l'erreur de prédiction. Une fois entraîné, les poids fixes sont stockés en mémoire flash, permettant au MCU d'effectuer l'inférence avec une RAM minimale.

L'inférence nécessite beaucoup moins de calcul que l'entraînement, faisant des MCU des hôtes idéaux pour des modèles pré-entraînés. Les poids restent statiques, et le MCU peut fournir des décisions instantanées basées sur de nouvelles données de capteurs.

Implémentation de l'IA sur MCU

Le flux de travail typique comprend quatre étapes :

1. Capture de données : Collecter de vastes ensembles de données depuis l'appareil ou l'application cible.
2. Entraînement du modèle : Utiliser des outils cloud des fournisseurs d'IA (ex. TensorFlow Lite, Caffe) pour entraîner un réseau de neurones répondant aux exigences de l'application.
3. Conversion du modèle : Convertir le modèle entraîné en format flat-buffer avec le convertisseur du fournisseur, en appliquant éventuellement la quantification pour réduire la taille. Le flat buffer est ensuite traduit en code C et intégré au firmware du MCU.
4. Déploiement et mises à jour : Flasher le firmware sur le MCU. Lorsque de nouvelles classes de données apparaissent, le modèle peut être réentraîné dans le cloud et mis à jour sur l'appareil via des mises à jour firmware over-the-air (OTA).

Il existe deux chemins architecturaux courants pour les solutions IA basées sur MCU, en supposant un cœur Arm Cortex-M :

1. Exécution logicielle uniquement : Le modèle flat-buffer s'exécute sur le CPU Cortex-M, accéléré par les bibliothèques CMSIS-NN. Cette configuration légère convient aux tâches comme la détection de mots-clés et l'analyse de vibrations.
2. Exécution à accélération matérielle : Incorporer une unité de traitement neuronal microscopique (u-NPU) ou un accélérateur NN. Le u-NPU gère la plupart des charges de travail courantes de classification audio, vocale, d'image et de détection d'objets, revenant au CPU pour les opérations non prises en charge. Cette approche offre un débit plus élevé et une consommation d'énergie inférieure.

À mesure que les MCU évoluent vers l'enveloppe de performance des MPU, nous anticipons l'émergence de l'apprentissage sur l'appareil — des algorithmes d'entraînement légers s'exécutant directement sur le MCU. Cela ouvrira de nouveaux marchés et stimulera des investissements significatifs de la part des fabricants de MCU.

L'IA en périphérie est l'avenir

L'IA en périphérie sur MCU à ressources contraintes va croître exponentiellement, débloquant de nouvelles applications alors que les frontières de performance s'estompent entre MCU et MPU. La prolifération de modèles NN minces conçus pour les contextes embarqués favorisera l'adoption à travers les industries.