La puce AI prend en charge l'inférence dans les appareils à très faible consommation

LONDRES – La prochaine génération de l'accélérateur d'IA à très faible consommation de GreenWaves, GAP9, utilisera cinq fois moins d'énergie que son prédécesseur, GAP8, tout en gérant des algorithmes 10 fois plus gros. Le nouvel appareil offrira jusqu'à 50 GOPS pour une consommation électrique globale de 50 mW. Ceci est dû à une combinaison d'améliorations architecturales et d'une nouvelle technologie de traitement de pointe FD-SOI (silicium entièrement appauvri sur isolant).

Comme l'appareil de la génération précédente, GAP9 est destiné à l'inférence IA dans les systèmes à la périphérie du réseau, tels que les petits nœuds de capteurs IoT alimentés par batterie. À titre d'exemple, les chiffres de GreenWaves ont GAP9 exécutant MobileNet V1 sur 160 x 160 images avec une mise à l'échelle du canal de 0,25 en seulement 12 ms avec une consommation électrique de 806 μW/image/seconde.

GreenWaves, basée à Grenoble, en France, a choisi le processus FDX FD-SOI 22 nm de GlobalFoundries pour minimiser la consommation d'énergie de ce qui était déjà une architecture ultra basse consommation.

"Pour GAP9, nous avons ajusté l'architecture GAP8 en utilisant les commentaires des clients sur GAP8, mais en même temps nous sommes passés à un processus de semi-conducteur leader sur le marché", a déclaré Martin Croome, vice-président du marketing chez GreenWaves. « Nous utilisons la capacité de polarisation du corps dans FD-SOI pour nous permettre d'obtenir une consommation d'énergie encore plus faible. »

Améliorations architecturales

GreenWaves a réalisé plusieurs avancées architecturales pour GAP9.

Un autre cœur RISC-V a été ajouté, portant le total à 10. Un cœur est utilisé comme contrôleur de matrice ainsi que pour le calcul à faible intensité dans certains modes. Les neuf autres constituent un cluster de calcul avec une zone de données L1 partagée. Un cœur de ce cluster (le nouveau) est utilisé comme maître de groupe de tâches, calculant les mouvements de mémoire et gérant les tâches sur les huit autres cœurs.

La RAM interne a été triplée à 1,6 Mo et la bande passante mémoire a été augmentée à 41,6 Go/s pour L1 et 7,2 Go/s pour L2.

"Cette [bande passante mémoire] est maintenant très importante pour un appareil de classe MCU", a déclaré Croome.

L'architecture de la puce IA ultra basse consommation GAP9 de GreenWaves utilise désormais 10 cœurs RISC-V (Image :GreenWaves)

Les modifications apportées à l'architecture GAP9 incluent également une fréquence supérieure beaucoup plus élevée ; GAP8 cadencé à 175 MHz, GAP9 fonctionnera à ou près de 400 MHz. De nouveaux états d'alimentation ont également été ajoutés, notamment un état « somnolent » lorsque les données peuvent être acquises mais que la consommation d'énergie est toujours inférieure à 1 mW. Dans cet état, le processeur peut fonctionner sur un régulateur à faible chute de tension (LDO) qui peut démarrer rapidement. Cela ramène le temps de GAP9 à la première instruction à quelques microsecondes seulement (GAP8 a pris environ 700 µs en attendant que le convertisseur DC-DC se stabilise, a déclaré Croome). Cette capacité de démarrage rapide est utile lors de la capture de signaux temporels tels que la parole.

Les dix cœurs sont désormais capables de gérer les nombres à virgule flottante de « transprécision » :format IEEE 16 et 32 bits à virgule flottante plus des formats supplémentaires de 8 et 16 bits avec prise en charge de la vectorisation. Cette capacité peut être utilisée pour réduire les besoins énergétiques des algorithmes qui nécessitent une virgule flottante. GAP9 prend également en charge les opérations vectorisées 4 bits et 2 bits pour les applications exploitant des niveaux de quantification élevés.

Les autres nouvelles fonctionnalités incluent des interfaces audio multicanaux bidirectionnelles.

GAP9 devrait atteindre la production de masse en 2021 avec des échantillons à venir au cours du premier semestre 2020. Croome a déclaré que le prix devrait être supérieur de 50 % par rapport à GAP8. Compte tenu du calendrier, des chiffres de puissance et du prix différents, la société s'attend à ce que les deux produits trouvent des marchés à l'avenir.