Accélération de l'IA en périphérie : Les processeurs spécialisés leaders pour 2024

Les charges de travail d'IA et d'apprentissage automatique migrent de plus en plus vers la périphérie (edge), et une gamme croissante de processeurs émerge pour répondre aux demandes diverses de ces applications. Des géants établis aux startups agiles, chaque solution cible des verticales spécifiques, des enveloppes de puissance et des points de prix précis. Voici un aperçu concis des leaders actuels du marché.

Processeurs d'application

Intel Movidius Myriad X

Initialement développé par la startup irlandaise Movidius et acquis par Intel en 2016, le Myriad X est une unité de traitement de vision de troisième génération qui a introduit un moteur de calcul de réseau neuronal dédié. Il délivre 1 TOPS de calcul pour réseaux de neurones profonds (DNN), prend en charge les précisions FP16 et INT8, et est étroitement couplé à une structure mémoire intelligente pour éliminer les goulets d'étranglement de transfert de données. La puce héberge 16 cœurs SHAVE propriétaires et une suite améliorée d'accélérateurs de vision. Elle est disponible dans le Neural Compute Stick 2 d'Intel, une plateforme d'évaluation USB plug‑and‑play permettant un déploiement rapide de charges de travail IA et de vision par ordinateur sur n'importe quelle station de travail.

NXP Semiconductors i.MX 8M Plus

L'i.MX 8M Plus est un processeur d'application hétérogène doté d'un accélérateur de réseau neuronal dédié de VeriSilicon (Vivante VIP8000). Il offre 2,3 TOPS pour l'inférence, prenant en charge des tâches telles que l'identification multi‑objets, la reconnaissance vocale de 40 000 mots, ou MobileNet v1 à 500 images/seconde. Complétant l'accélérateur, la puce intègre un sous‑système quad‑core Arm Cortex‑A53 à 2 GHz et un sous‑système temps réel Cortex‑M7. La prise en charge vision inclut deux processeurs de signal d'image haute définition pour caméras stéréo ou simple 12 MP, tandis qu'un DSP HiFi4 à 800 MHz gère le pré‑ et post‑traitement vocal.

L'i.MX 8M Plus de NXP est le premier processeur d'application de la société avec un accélérateur de réseau neuronal dédié, conçu pour les scénarios IoT. (Image : NXP Semiconductors)

XMOS xcore.ai

Le xcore.ai allie performance de processeur d'application et efficacité temps réel de microcontrôleur, ciblant les dispositifs AIoT à commande vocale. Basé sur l'architecture propriétaire Xcore de XMOS, la puce comprend 16 cœurs logiques qui peuvent être alloués aux E/S, DSP, contrôle ou fonctions IA — créant efficacement un SoC défini par logiciel. Il prend en charge les réseaux de neurones 32 bits, 16 bits, 8 bits et 1 bit (binarisés), délivrant 3 200 MIPS, 51,2 GMACCs et 1 600 MFLOPS. Avec 1 Mo de SRAM embarquée et une interface DDR basse consommation, il est bien adapté aux charges de travail de traitement vocal compactes et à faible latence.

Le xcore.ai de XMOS est une plateforme propriétaire polyvalente conçue pour les charges de travail IA centrées sur la voix. (Image : XMOS)

SoC automobile

Texas Instruments Inc. TDA4VM

Faisant partie de la série Jacinto 7, le TDA4VM est le premier SoC de TI intégrant un accélérateur d'apprentissage profond. L'accélérateur s'appuie sur le cœur DSP C7x et un accélérateur de multiplication matricielle personnalisé (MMA), atteignant jusqu'à 8 TOPS. Conçu pour l'ADAS, il peut traiter un flux caméra frontale 8 MP ou plusieurs caméras 3 MP plus radar, LiDAR et entrées ultrasonores — permettant la fusion de capteurs pour le stationnement autonome et d'autres fonctions avancées d'aide à la conduite. Ciblant des budgets de puissance de 5 à 20 W, le TDA4VM est disponible en kit de développement pré‑production.

Le TDA4VM de TI alimente des systèmes ADAS automobiles complexes, offrant perception et fusion de capteurs sur une seule puce. (Image : Texas Instruments Inc.)

GPU

Nvidia Corp. Jetson Nano

Le Jetson Nano de Nvidia apporte un GPU Maxwell 128 cœurs et un CPU quad‑core Arm Cortex‑A57 aux dispositifs de périphérie. Capable de 0,5 TFLOPS, le module peut exécuter plusieurs réseaux de neurones sur des flux d'images haute résolution ne consommant que 5 W. Il intègre CUDA X, la suite de bibliothèques d'accélération de réseaux de neurones de Nvidia, et est disponible en kits de développement à coût efficace.

Le Jetson Nano de Nvidia offre un GPU puissant pour l'IA en périphérie, dans un format compact et basse consommation. (Image : Nvidia Corp.)

Co‑processeurs grand public

Kneron Inc. KL520

Le KL520 est un processeur de réseau neuronal dédié au traitement d'image et à la reconnaissance faciale pour maisons intelligentes, systèmes de sécurité et appareils mobiles. Optimisé pour les réseaux de neurones convolutionnels, il délivre 0,3 TOPS à 0,5 W (≈0,6 TOPS/W) avec plus de 90 % d'efficacité MAC. Son architecture reconfigurable et un compilateur appliquant la compression permettent d'adapter des modèles plus larges dans les ressources de la puce, réduisant consommation et coût. Le KL520 est disponible dans la carte d'accélération AAEON M2AI‑2280‑520.

Le KL520 de Kneron combine un design reconfigurable avec des techniques de compression pour un traitement d'image mobile efficace. (Image : Kneron Inc.)

Gyrfalcon Lightspeeur 5801

Ciblant l'électronique grand public, le Lightspeeur 5801 atteint 2,8 TOPS à 224 mW (≈12,6 TOPS/W) avec 4 ms de latence, grâce à une architecture processeur‑en‑mémoire offrant une excellente efficacité énergétique. Sa mémoire embarquée de 10 Mo accueille des modèles complets, et la fréquence d'horloge peut être ajustée entre 50 MHz et 200 MHz pour arbitrer puissance et performance. Le 5801 alimente le smartphone milieu de gamme LG Q70, gérant l'inférence pour les effets caméra, et est disponible comme kit de développement clé USB.

Ultra‑basse consommation

Eta Compute ECM3532

L'ECM3532 est conçu pour les dispositifs IoT alimentés par batterie ou récupération d'énergie nécessitant une inférence always‑on. Il associe un microcontrôleur Arm Cortex‑M3 à un DSP NXP CoolFlux, et utilise une technique propriétaire de mise à l'échelle tension/fréquence qui optimise la puissance cycle par cycle. Les charges de travail d'apprentissage automatique — particulièrement les tâches vocales — peuvent s'exécuter sur l'un ou l'autre cœur. Des échantillons sont disponibles maintenant, avec une production de masse prévue pour le T2 2020.

Syntiant Corp. NDP100

Le NDP100 est un silicium processeur‑en‑mémoire conçu pour l'inférence de commandes vocales sous budgets de puissance stricts. Consommant moins de 140 µW en puissance active, il prend en charge la détection de mots‑clés, la détection de mot de réveil, l'identification du locuteur et la classification d'événements. Il est destiné aux dispositifs grand public mains‑libres tels que écouteurs, aides auditives, montres connectées et télécommandes, avec kits de développement disponibles.

Le NDP100 de Syntiant offre un traitement vocal ultra‑basse consommation pour l'IoT grand public. (Image : Syntiant Corp.)

GreenWaves Technologies GAP9

Le GAP9 est un processeur d'application ultra‑basse consommation doté de neuf cœurs RISC‑V avec un jeu d'instructions personnalisé optimisé pour l'efficacité énergétique. Il inclut des interfaces audio bidirectionnelles multi‑canaux et 1,6 Mo de RAM interne. Le GAP9 peut exécuter MobileNet V1 sur des images 160 × 160 en 12 ms ne consommant que 806 µW par image, le rendant idéal pour les applications de détection d'image, audio et vibration alimentées par batterie.