Augmenter l'accessibilité de l'apprentissage automatique à la périphérie

« Edge intelligence » devient de plus en plus accessible, même pour les concepteurs sans formation formelle en science des données, à mesure que du nouveau matériel devient disponible.

Ces dernières années, les objets connectés et l'Internet des objets (IoT) sont devenus omniprésents dans notre vie quotidienne, que ce soit dans nos maisons et nos voitures ou sur notre lieu de travail. Bon nombre de ces petits appareils sont connectés à un service cloud :presque tout le monde possédant un smartphone ou un ordinateur portable utilise aujourd'hui des services basés sur le cloud, que ce soit activement ou via un service de sauvegarde automatisé, par exemple.

Cependant, un nouveau paradigme connu sous le nom d'« intelligence de pointe » gagne rapidement du terrain dans le paysage en évolution rapide de la technologie. Cet article présente l'intelligence basée sur le cloud, l'intelligence périphérique et les cas d'utilisation possibles pour les utilisateurs professionnels afin de rendre l'apprentissage automatique accessible à tous.

Figure 1. Le passage du cloud computing à l'edge computing ouvre la possibilité de créer des milliards d'appareils qui exécutent des logiciels compatibles ML. Image reproduite avec l'aimable autorisation de NXP.

Termes clés de l'apprentissage automatique

Cloud computing

Le cloud computing, en termes simples, est la disponibilité de ressources de calcul à distance chaque fois qu'un client en a besoin.

Pour les services de cloud public, le fournisseur de services de cloud est chargé de gérer le matériel et de s'assurer que la disponibilité du service est conforme à une certaine norme et aux attentes des clients. Les clients des services cloud paient pour ce qu'ils utilisent, et l'emploi de ces services n'est généralement viable que pour les opérations à grande échelle.

Edge Computing

D'autre part, l'edge computing se produit quelque part entre le cloud et le réseau du client.

Bien que la définition de l'emplacement exact des nœuds périphériques puisse varier d'une application à l'autre, ils sont généralement proches du réseau local. Ces nœuds de calcul fournissent des services tels que le filtrage et la mise en mémoire tampon des données, et ils contribuent à augmenter la confidentialité, à fournir une fiabilité accrue et à réduire les coûts et la latence des services cloud.

Récemment, il est devenu plus courant que l'IA et l'apprentissage automatique complètent les nœuds d'informatique de pointe et aident à décider quelles données sont pertinentes et doivent être téléchargées dans le cloud pour une analyse plus approfondie.

Apprentissage automatique (ML)

L'apprentissage automatique (ML) est un vaste domaine scientifique, mais ces derniers temps, les réseaux de neurones (souvent abrégés en NN) ont attiré le plus d'attention lors des discussions sur les algorithmes d'apprentissage automatique.

Les applications de ML multiclasses ou complexes telles que le suivi et la surveillance d'objets, la reconnaissance automatique de la parole et la détection de plusieurs visages nécessitent généralement des NN. De nombreux scientifiques ont travaillé dur pour améliorer et optimiser les algorithmes NN au cours de la dernière décennie afin de leur permettre de fonctionner sur des appareils dotés de ressources de calcul limitées, ce qui a contribué à accélérer la popularité et la praticabilité du paradigme de l'informatique de pointe.

L'un de ces algorithmes est MobileNet, qui est un algorithme de classification d'images développé par Google. Ce projet démontre que les réseaux de neurones très précis peuvent en effet fonctionner sur des appareils dotés d'une puissance de calcul considérablement restreinte.

L'apprentissage automatique pour plus que de simples experts

Jusqu'à récemment, l'apprentissage automatique était principalement destiné aux experts en science des données ayant une compréhension approfondie du ML et des applications d'apprentissage en profondeur. En règle générale, les outils de développement et les suites logicielles étaient immatures et difficiles à utiliser.

L'apprentissage automatique et l'informatique de pointe se développent rapidement et l'intérêt pour ces domaines ne cesse de croître chaque année. Selon les recherches actuelles, 98 % des appareils de périphérie utiliseront l'apprentissage automatique d'ici 2025. Ce pourcentage se traduit par environ 18 à 25 milliards d'appareils qui, selon les chercheurs, auront des capacités d'apprentissage automatique.

En général, l'apprentissage automatique à la périphérie ouvre des portes à un large éventail d'applications allant de la vision par ordinateur, l'analyse de la parole et le traitement vidéo à l'analyse de séquences.

Quelques exemples concrets d'applications possibles sont les serrures de porte intelligentes combinées à une caméra. Ces appareils pourraient détecter automatiquement une personne souhaitant accéder à une pièce et permettre à la personne d'entrer le cas échéant.

Les solutions matérielles modernes permettent le traitement ML à la périphérie

En raison des optimisations et des améliorations de performances précédemment évoquées des algorithmes de réseau neuronal, de nombreuses applications ML peuvent désormais s'exécuter sur des appareils embarqués alimentés par des microcontrôleurs croisés tels que l'i.MX RT1170. Avec ses deux cœurs de traitement (un cœur Arm Cortex M7 à 1 GHz et un cœur Arm Cortex-M4 à 400 MHz), les développeurs peuvent choisir d'exécuter des implémentations NN compatibles en tenant compte des contraintes en temps réel.

Grâce à sa conception double cœur, l'i.MX RT1170 permet également l'exécution de plusieurs modèles ML en parallèle. Les moteurs de chiffrement intégrés supplémentaires, les fonctions de sécurité avancées et les capacités graphiques et multimédias rendent l'i.MX RT1170 adapté à un large éventail d'applications. Certains exemples incluent la détection de distraction du conducteur, les interrupteurs d'éclairage intelligents, les serrures intelligentes, la gestion de flotte et bien d'autres.

Figure 2. Un schéma fonctionnel de la famille de microcontrôleurs croisés i.MX RT1170. Image reproduite avec l'aimable autorisation de NXP. Cliquez pour agrandir.

L'i.MX 8M Plus est une famille de processeurs d'applications qui se concentre sur le ML, la vision par ordinateur, les applications multimédia avancées et l'automatisation industrielle avec une fiabilité élevée. Ces appareils ont été conçus en tenant compte des besoins des appareils intelligents et des applications de l'Industrie 4.0 et sont équipés d'un NPU (unité de traitement neuronal) dédié fonctionnant jusqu'à 2,3 TOPS et jusqu'à quatre cœurs de processeur Arm Cortex A53.

Figure 3. Le schéma fonctionnel de l'i.MX 8M Plus. Image reproduite avec l'aimable autorisation de NXP. Cliquez pour agrandir.

Les processeurs de signal d'image intégrés permettent aux développeurs d'utiliser soit deux capteurs de caméra HD, soit une seule caméra 4K. Ces fonctionnalités rendent la famille d'appareils i.MX 8M Plus viable pour des applications telles que la reconnaissance faciale, la détection d'objets et d'autres tâches de ML. En plus de cela, les appareils de la famille i.MX 8M Plus sont dotés de capacités avancées d'accélération graphique 2D et 3D, de fonctionnalités multimédias telles que la prise en charge de l'encodage et du décodage vidéo, y compris H.265), et de 8 entrées microphone PDM.

Un noyau Arm Cortex M7 800 MHz à faible consommation complète l'ensemble. Ce cœur dédié sert des applications industrielles en temps réel qui nécessitent des fonctionnalités réseau robustes telles que la prise en charge CAN FD et la communication Gigabit Ethernet avec des capacités TSN.

L'environnement des outils eIQ

Avec les nouveaux appareils, il est nécessaire d'avoir un écosystème de développement facile à utiliser, efficace et capable qui permet aux développeurs de créer des systèmes de ML modernes. L'environnement complet de développement logiciel eIQ ML de NXP est conçu pour aider les développeurs à créer des applications basées sur le ML.

L'environnement des outils eIQ comprend des moteurs d'inférence, des compilateurs de réseaux neuronaux et des bibliothèques optimisées pour permettre de travailler avec des algorithmes ML sur des microcontrôleurs NXP, des MCU croisés i.MX RT et la famille de SoC i.MX. Les technologies ML nécessaires sont accessibles aux développeurs via les SDK de NXP pour l'IDE MCUXpresso et le Yocto BSP.

La prochaine boîte à outils eIQ ajoute une interface graphique accessible ; Portail et workflow eIQ, permettant aux développeurs de tous niveaux d'expérience de créer des applications ML.

Figure 4. Boîte à outils eIQ et portail eIQ avec workflows BYOD et BYOM et choix de moteurs d'inférence eIQ. La boîte à outils eIQ aide les développeurs de tous niveaux d'expérience à déployer des applications ML sur des appareils NXP. Image reproduite avec l'aimable autorisation de NXP.

Les développeurs peuvent choisir de suivre un processus appelé BYOM (apportez votre propre modèle), où les développeurs créent leurs modèles formés à l'aide d'outils basés sur le cloud, puis les importent dans l'environnement logiciel eIQ Toolkit. Ensuite, il ne reste plus qu'à sélectionner le moteur d'inférence approprié dans eIQ. Ou le développeur peut utiliser les outils basés sur l'interface graphique du portail eIQ ou l'interface de ligne de commande pour importer et gérer des ensembles de données et utiliser le flux de travail BYOD (apportez vos propres données) pour former leur modèle dans la boîte à outils eIQ.

L'apprentissage automatique à la périphérie pour tous

La plupart des consommateurs modernes connaissent le cloud computing. Cependant, ces dernières années, un nouveau paradigme connu sous le nom d'informatique de pointe a suscité un intérêt croissant.

Avec ce paradigme, toutes les données ne sont pas téléchargées dans le cloud. Au lieu de cela, les nœuds périphériques, situés quelque part entre l'utilisateur final et le cloud, fournissent une puissance de traitement supplémentaire. Ce paradigme présente de nombreux avantages, tels qu'une sécurité et une confidentialité accrues, un transfert de données réduit vers le cloud et une latence plus faible.

Plus récemment, les développeurs améliorent souvent ces nœuds périphériques avec des capacités d'apprentissage automatique. Cela permet de catégoriser les données collectées et de filtrer les résultats indésirables et les informations non pertinentes. L'ajout de ML à la périphérie permet de nombreuses applications telles que la détection de distraction du conducteur, les commutateurs d'éclairage intelligents, les serrures intelligentes, la gestion de flotte, la surveillance et la catégorisation, et bien d'autres.

Les applications de ML ont traditionnellement été exclusivement conçues par des experts en science des données ayant une compréhension approfondie des applications de ML et d'apprentissage en profondeur. NXP propose une gamme d'appareils peu coûteux mais puissants, tels que l'i.MX RT1170 et l'i.MX 8M Plus, ainsi que l'environnement de développement logiciel eIQ ML pour aider à ouvrir le ML à n'importe quel concepteur. Ce matériel et ces logiciels visent à permettre aux développeurs de créer des applications de ML évolutives à n'importe quel niveau d'expérience, quelle que soit la taille du projet.

Les articles sur l'industrie sont une forme de contenu qui permet aux partenaires de l'industrie de partager des actualités, des messages et des technologies utiles avec les lecteurs d'All About Circuits d'une manière qui ne convient pas au contenu éditorial. Tous les articles de l'industrie sont soumis à des directives éditoriales strictes dans le but d'offrir aux lecteurs des nouvelles utiles, une expertise technique ou des histoires. Les points de vue et opinions exprimés dans les articles de l'industrie sont ceux du partenaire et pas nécessairement ceux d'All About Circuits ou de ses rédacteurs.