L'architecture de la puce IA cible le traitement des graphes

TOKYO — Le concepteur de processeurs d'IA Blaize, anciennement connu sous le nom de ThinCI (prononcé « Think-Eye »), a révélé que son processeur de streaming graphique (GSP) entièrement programmable entrera en production en volume au deuxième trimestre de 2020.

Alors que la startup de six ans est muette sur les spécifications de ses produits – telles que le niveau de puissance et les résultats d'analyse comparative – sa puce de test, enregistrée à la mi-2018 et logée dans une boîte basée sur Linux, a été engagée dans 16 programmes pilotes dans le monde. pendant un an, a déclaré le co-fondateur et PDG de Blaize, Dinakar Munagala.

Blaize décrit son GSP comme capable d'effectuer « un traitement de graphe direct, une gestion et une exécution de graphe de tâches sur puce et un parallélisme de tâches ». En bref, Blaize a conçu le GSP pour répondre aux besoins de traitement de l'IA qui n'avaient pas été satisfaits auparavant par le GPU, le CPU ou le DSP.

Pour de nombreux analystes de l'industrie couvrant les processeurs d'IA, c'est un argument qu'ils ont déjà entendu.

Kevin Krewell, analyste principal chez Tirias Research, a déclaré : « Je connais un peu ThinCI, mais je n'ai jamais compris le pitch de l'architecture. Je suis content qu'ils aient changé le nom. »

Le manque de détails techniques sur l'architecture GSP dans sa présentation de diapositives alimente la frustration et le scepticisme de la communauté des analystes techniques. Munagala promet cependant une publication d'informations au premier trimestre 2020.

Schéma fonctionnel de haut niveau de l'architecture GSP

L'architecture GSP se compose d'un ensemble de processeurs de flux de graphes, de processeurs mathématiques dédiés, d'un contrôle matériel et de divers types de cache de données. La société affirme que le GSP peut offrir :« Un véritable parallélisme au niveau des tâches, une utilisation minimale de la mémoire hors puce, une planification graphique matérielle en profondeur, une architecture entièrement programmable. » Cliquez ici pour agrandir l'image (Source :Blaize)

S'inscrire sur une liste de fournisseurs qualifiés

La bonne nouvelle pour Blaize dans l'esprit de Munagala est une foule de premiers clients utilisant déjà son GSP. Depuis un an, Blaize expédie une unité de bureau avec GSP. Il peut être simplement branché sur une prise de courant et connecté à Ethernet. Les scientifiques des données, les développeurs de logiciels et de matériel évaluent déjà les fonctions au niveau du système activées par GSP, a déclaré Munagala.

Blaize, avec un financement de 87 millions de dollars, est soutenu par les premiers investisseurs et partenaires, dont Denso, le premier groupe japonais, Daimler et Magna. "Nous tirons également des revenus du segment automobile depuis quelques années", a déclaré Munagala.

Avec une puce scotchée en main, de nombreuses startups sont confrontées à un « Que faisons-nous maintenant ? » dilemme. Richard Terrill, vice-président et développement stratégique des affaires chez Blaize, a déclaré à EE Times :« Nous avons déjà franchi cette étape il y a un an. »

Blaize s'est concentré sur la construction de son infrastructure en renforçant une équipe d'ingénieurs (maintenant 325 personnes) qui s'étend en Californie, en Inde et au Royaume-Uni. . « Nous maintenons notre élan », a déclaré Munagala.

Pour Blaize, son activité GSP ne consiste plus à rivaliser avec des startups concurrentes sur les spécifications des présentations power point. Il s'agit de déterminer comment les clients utiliseront son GSP pour quelles applications et quelle quantité d'énergie il consomme "au niveau du système" dans des utilisations spécifiques.

Blaize s'est employé à mettre au point sa logistique, à faire qualifier ses produits pour l'automobile et à s'assurer que le processus interne et la documentation sont certifiés. « Nous avons déjà suivi un processus d'audit et nous figurons sur une liste de fournisseurs approuvés et qualifiés » d'un client automobile, a déclaré Munagala. Il s'agissait d'un processus indispensable appliqué par les constructeurs automobiles et les constructeurs automobiles, qui préfèrent éviter les startups qui pourraient ne pas durer assez longtemps pour livrer des produits.

Blaize a embauché une trentaine d'ingénieurs au Royaume-Uni (à Kings Langley et Leeds), affectés au développement de produits automobiles. Il s'agit d'une équipe d'ingénieurs soudée qui s'est détachée lorsque Imagination a cédé MIPS. "Ce sont un groupe de personnes hautement qualifiées qui ont travaillé ensemble au MIPS pour obtenir des ASIC basés sur MIPS qualifiés pour l'automobile pour Mobileye", a expliqué Munagala.

Informatique graphique

Bien que l'IA soit disponible dans de nombreux types de réseaux de neurones, "tous les réseaux de neurones sont basés sur des graphiques", a expliqué Munagala. En théorie, cela permet aux développeurs de tirer parti de la structure graphique native pour créer plusieurs réseaux de neurones et des flux de travail complets sur une seule architecture. Par conséquent, le nouveau discours marketing de l'entreprise pour son GSP est « 100 % graphique natif ».

Cependant, Blaize n'est pas exactement une licorne dans l'univers de l'informatique graphique. Graphcore, Mythic et, désormais, Wave Computing, défaillant, ont tous parlé d'« optimisation et compilation de graphiques de flux de données » dans le traitement de l'IA.

Terrill a déclaré : « Bien sûr, l'informatique graphique a plus de 60 ans d'histoire. »

Blaize GSP revendique une distinction par rapport aux autres processeurs de flux de données basés sur des graphes dans trois domaines, a déclaré Munagala. Premièrement, "Notre GSP est entièrement programmable", capable d'effectuer "un large éventail de tâches", a-t-il déclaré.

Deuxièmement, il est « reprogrammable dynamiquement… sur un seul cycle d'horloge ».

Troisièmement, « Nous proposons l'intégration du streaming », ce qui permet de minimiser la latence. L'énorme multiplicateur d'efficacité est fourni via "un mécanisme de streaming de données", où les mouvements de données non informatiques sont minimisés ou éliminés, a-t-il expliqué.

Traitement d'exécution séquentiel

Cliquez ici pour agrandir l'image (Source :Blaize)

La nature graphique native de l'architecture GSP peut minimiser les mouvements de données dans les deux sens vers la DRAM externe. Seules la première entrée et la sortie finale sont nécessaires en externe, tandis que tout le reste au milieu n'est que des données intermédiaires temporaires. Cela se traduit par une réduction massive de la bande passante mémoire et de la consommation d'énergie.

Traitement d'exécution de flux de graphes

Cliquez ici pour agrandir l'image (Source :Blaize)

Les objectifs déclarés des systèmes Blaize sont « la latence la plus faible possible, la réduction des besoins en mémoire et la demande d'énergie au niveau de la puce, de la carte et du système ».

Lorsqu'on lui a demandé si la conception d'informatique graphique de Blaize serait défendable par un brevet, Mungala a déclaré :« Nous sommes confiants quant à notre portefeuille de brevets. Nous avons plusieurs brevets, certains déjà accordés et d'autres déposés, mais nous le faisons depuis plusieurs années. »