Ajout d'un FAI et d'une accélération de l'apprentissage automatique à la famille i.MX 8M

Découvrez comment le processeur d'applications i.MX 8M Plus permet l'informatique de pointe, accélérant l'apprentissage automatique pour une variété d'applications, y compris les tâches industrielles.

Le cloud computing, l'edge computing et les systèmes basés sur la vision ont pris le relais de plus en plus de systèmes industriels et grand public. De nombreux systèmes modernes utilisent en outre l'apprentissage automatique et l'intelligence artificielle pour améliorer l'expérience utilisateur. Cette approche nécessite souvent que les concepteurs de systèmes embarqués utilisent une variété de SoC différents et de processeurs spécialisés pour effectuer toutes ces tâches.

NXP, cependant, a décidé d'adopter une approche différente, et ils ont combiné un processeur de signal d'image (ISP), une unité de traitement neuronal (NPU) pour l'accélération de l'apprentissage automatique et un MPU tout en un :l'i.MX 8M Plus avancé processeur d'applications.

Figure 1. Processeur d'applications i.MX 8M Plus.

Cloud computing vs Edge Computing

Un certain contexte est nécessaire pour comprendre pourquoi le processeur d'applications i.MX 8M Plus offre des solutions puissantes pour l'informatique de pointe.

Le cloud computing fait référence à la disponibilité à la demande des ressources du système informatique en dehors des limites du réseau de l'utilisateur. Ces ressources peuvent être de toute nature. Cependant, ils sont généralement utilisés pour effectuer des tâches exigeantes et pour le stockage de données.

Souvent, les centres de données basés sur le cloud ne sont pas exclusifs à un seul utilisateur ou à une seule organisation. Au lieu de cela, les ressources sont partagées entre tous les utilisateurs. Habituellement, les services de cloud public utilisent un modèle de paiement à l'utilisation, ce qui signifie que le coût peut augmenter rapidement si des données inutiles ou bruyantes sont téléchargées pour traitement dans le cloud.

C'est là que l'informatique de pointe peut s'avérer utile. L'informatique de périphérie place certaines ressources entre les utilisateurs et le cloud dans les limites de leur réseau. Cependant, généralement, tous les calculs ne sont pas effectués à la périphérie. Au lieu de cela, les ressources à la périphérie sont utilisées pour filtrer les données et éliminer les éléments indésirables avant qu'ils ne soient téléchargés dans le cloud et génèrent des coûts inutiles. Souvent, l'apprentissage automatique et l'IA sont utilisés pour catégoriser automatiquement les résultats et ne télécharger que les informations pertinentes dans le cloud.

Cependant, il est également possible d'omettre entièrement le cloud et d'exécuter toutes les inférences d'apprentissage automatique localement sur un processeur de périphérie, par exemple le processeur d'applications i.MX 8M Plus, qui présente quelques avantages.

Avantages potentiels de l'utilisation de l'Edge Computing par rapport au Cloud Computing

L'Edge computing (comme celui fourni par l'i.MX 8M Plus) offre une multitude d'avantages possibles par rapport au cloud computing qui méritent d'être examinés de plus près.

Outre le facteur de coût, la réduction des données téléchargées sur le cloud réduira également le trafic réseau global, ce qui peut accélérer d'autres applications qui dépendent du réseau. Cela augmente non seulement l'efficacité des tâches auxquelles le processeur est spécifiquement dédié, mais cela libère également des ressources critiques pour d'autres activités et priorités auxiliaires.

Ensuite, exécuter l'inférence localement signifie que l'application peut continuer à fonctionner même lorsque le service cloud est hors ligne ou lorsque la connexion réseau est interrompue. Cela peut être un facteur important, en particulier pour les cas d'utilisation critiques pour la sécurité, mais aussi pour d'autres applications connectées, comme les appareils de sécurité à domicile.

De plus, cette solution offre une meilleure latence et des temps de réponse plus courts par rapport à l'utilisation d'un service cloud. Une faible latence est importante, par exemple, lors de l'inspection visuelle de l'usine et d'autres applications à temps critique.

Enfin, la confidentialité des utilisateurs est un autre facteur à prendre en compte. Chaque service externe représente un risque potentiel pour la sécurité lorsqu'il s'agit de données confidentielles. Par conséquent, le fait de conserver des informations importantes dans les limites du réseau de l'utilisateur peut augmenter la sécurité de l'ensemble de l'application. Ceci n'est pas seulement important pour les utilisateurs industriels, mais est également essentiel pour les utilisateurs privés et les clients, par exemple, lorsque vous utilisez un assistant vocal ou lorsque vous travaillez avec des fichiers vidéo et image personnels.

Combien de performances d'apprentissage automatique sont nécessaires ?

Avec le cloud computing, les performances de l'apprentissage automatique ne sont généralement pas un problème ou un facteur limitant. Cependant, lors de l'exécution de ces opérations à la périphérie, la question devient de savoir quelle puissance est nécessaire. Un moyen populaire de mesurer les performances d'apprentissage automatique est TOPS, qui est un acronyme pour mille milliards (téra) d'opérations par seconde, et, comme son nom l'indique, fait référence au nombre (généralement de multiplication ou d'accumulation d'entiers de 8 bits) d'opérations par seconde . Cependant, les performances globales du système dépendront de nombreux autres facteurs. TOPS est néanmoins encore souvent utilisé pour comparer rapidement les performances des systèmes d'apprentissage automatique.

La reconnaissance vocale complète (pas seulement la détection de mots clés) à la périphérie s'avère nécessiter une performance système d'environ un à deux TOPS. Le besoin réel dépend fortement de l'algorithme utilisé et du fait qu'il soit vital de comprendre ce que dit l'utilisateur. La détection d'objets à 60 images par seconde, comme autre exemple, prend environ deux à trois TOPS lors de l'utilisation d'un algorithme tel que Yolov3.

Parce que le traitement et l'apprentissage automatique à la périphérie deviennent de plus en plus pertinents, NXP a ajouté un accélérateur d'apprentissage automatique avec une performance d'environ 2,3 TOPS au processeur d'applications i.MX 8M Plus, ce qui le rend bien équipé pour diverses tâches industrielles et bien d'autres. applications sans avoir besoin d'utiliser des services externes basés sur le cloud.

Figure 2. Le processeur d'applications i.MX 8M Plus est bien équipé pour diverses tâches industrielles qui utilisent des services externes basés sur le cloud.

L'i.MX 8M Plus est prêt pour les systèmes intégrés basés sur la vision

Jusqu'à présent, cet article mentionnait divers exemples d'applications nécessitant un appareil photo pour fonctionner. L'un d'eux était un système basé sur la vision qui élimine les pièces défectueuses à la fin d'une ligne de production après une inspection optique automatisée. Tous ces systèmes nécessitent une entrée visuelle, par exemple, des images d'une caméra. La fonctionnalité ISP existe dans chaque système basé sur une caméra. Souvent, le processeur de signal d'image est présent dans un périphérique externe, comme la caméra elle-même, et caché à l'utilisateur. Ces FAI s'occupent généralement de quelques tâches différentes d'optimisation et de filtrage d'images.

Dans de nombreux cas, on peut s'en sortir sans passer par un FAI dédié, par exemple, en utilisant une simple webcam USB. Ensuite, le FAI est généralement déjà intégré à la caméra, qui effectuera toutes les conversions nécessaires sans que l'utilisateur ne s'en aperçoive.

De tels FAI, cependant, ont leurs limites, et ils fonctionnent généralement bien pour des résolutions allant jusqu'à deux mégapixels. De plus, le contrôle manquant sur le FAI, la complexité supplémentaire et la consommation d'énergie supplémentaire peuvent être problématiques dans certains cas.

Lorsqu'une résolution d'image supérieure à 2MP (1080p) est requise, le concepteur de systèmes embarqués peut utiliser un FAI externe, ce qui, à son tour, augmenterait la complexité globale et la consommation d'énergie du système. Alternativement, le concepteur peut utiliser un processeur d'applications avec un FAI intégré, tel que le i.MX 8M Plus. Cette approche offre une solution d'imagerie optimisée, en particulier à 2 mégapixels et des résolutions supérieures, sans augmenter la complexité du système.

Résumé

L'informatique de périphérie présente quelques avantages intéressants par rapport à l'informatique en nuage, et elle a le potentiel de changer notre façon de travailler, de vivre et de passer notre temps libre à l'avenir. Certains des avantages incluent une fiabilité, une évolutivité et une sécurité accrues, ainsi qu'une latence réduite.

Avec le processeur d'applications i.MX 8M Plus, NXP a combiné deux facteurs qui permettent des applications modernes à la périphérie. Ce nouveau MPU encouragera le développement de nombreux dispositifs industriels innovants et produits grand public. Il comprend un FAI pour créer des systèmes modernes basés sur la vision qui nécessitent des données d'entrée haute résolution.

Les informations d'image du FAI peuvent être directement introduites dans la NPU intégrée pour permettre des applications à grande vitesse qui reposent sur des données d'image tout en gardant le CPU libre pour d'autres tâches. De plus, le processeur d'applications i.MX 8M Plus offre quelques autres fonctionnalités qui valent le détour, par exemple, un contrôleur Ethernet avec mise en réseau sensible au temps, un contrôleur DRAM qui prend en charge ECC et une variété de cœurs différents pour une gamme de candidatures.

Avec le processeur d'applications i.MX 8M Plus, les possibilités d'applications à haute puissance basées sur la vision à la périphérie sont presque infinies, que ce soit pour un hub domestique intelligent, des commandes de bâtiment intelligentes ou des applications industrielles.

Les articles sur l'industrie sont une forme de contenu qui permet aux partenaires de l'industrie de partager des actualités, des messages et des technologies utiles avec les lecteurs d'All About Circuits d'une manière qui ne convient pas au contenu éditorial. Tous les articles de l'industrie sont soumis à des directives éditoriales strictes dans le but d'offrir aux lecteurs des nouvelles utiles, une expertise technique ou des histoires. Les points de vue et opinions exprimés dans les articles de l'industrie sont ceux du partenaire et pas nécessairement ceux d'All About Circuits ou de ses rédacteurs.