Blaize dévoile son processeur Graph Streaming Processor (GSP) pour charges de travail IA

TOKYO — La société d'accélération IA Blaize, anciennement ThinCI, a annoncé que son processeur Graph Streaming Processor (GSP) entièrement programmable entrera en production de volume au T2 2020.

La startup de six ans n'a pas divulgué de spécifications détaillées, notamment la consommation d'énergie et les données de benchmark. Cependant, sa puce de test — finalisée mi-2018 et exécutée dans un boîtier Linux — a été déployée dans 16 projets pilotes à travers le monde l'an dernier, a déclaré le CEO et cofondateur Dinakar Munagala.

Blaize caractérise le GSP comme exécutant un traitement de graphe direct, gérant et exécutant des graphes de tâches sur puce, et permettant le parallélisme au niveau des tâches. En substance, le GSP adresse les charges de travail IA que les GPU, CPU et DSP ont eu du mal à servir efficacement.

Les analystes de l'industrie ont noté que cette proposition fait écho à des affirmations familières d'autres fournisseurs de processeurs IA.

Kevin Krewell, analyste principal chez Tirias Research, a déclaré : « Je connais un peu ThinCI, mais n'ai jamais eu la présentation d'architecture. Je suis content qu'ils aient changé de nom. »

L'absence de détails techniques sur l'architecture du GSP dans sa présentation a alimenté frustration et scepticisme chez les analystes. Munagala a cependant promis une divulgation complète d'informations au T1 2020.

Diagramme de blocs haut niveau de l'architecture GSP

L'architecture GSP se compose d'un réseau de processeurs de flux de graphes, de processeurs mathématiques dédiés, de contrôle matériel et de divers types de cache de données. La société affirme que le GSP peut offrir : « Véritable parallélisme au niveau des tâches, utilisation minimale de la mémoire hors puce, planification de graphe en profondeur par le matériel, architecture entièrement programmable. » Cliquez ici pour une image plus grande (Source : Blaize)

Sur la liste des fournisseurs qualifiés

La bonne nouvelle pour Blaize, selon Munagala, est qu'une liste croissante d'adopteurs précoces utilise déjà son GSP. Depuis un an, Blaize a expédié une unité de bureau équipée du GSP. L'unité peut être branchée sur une prise secteur et connectée via Ethernet. Data scientists, développeurs logiciels et matériels évaluent déjà les fonctions système activées par le GSP.

Blaize, avec 87 millions de dollars de financement, est soutenu par des investisseurs et partenaires précoces dont Denso, Daimler et Magna. « Nous générons également des revenus du segment automobile depuis quelques années », a déclaré Munagala.

Avec une puce finalisée en main, de nombreuses startups font face au dilemme « Que faisons-nous maintenant ? ». Richard Terrill, vice-président et développement commercial stratégique chez Blaize, a déclaré à EE Times : « Nous avons déjà dépassé ce stade il y a un an. »

Blaize s'est concentré sur l'expansion de son infrastructure en renforçant une équipe d'ingénierie totalisant désormais 325 membres en Californie, en Inde et au Royaume-Uni. Elle déménage dans de nouveaux locaux et recrute des ingénieurs d'application terrain au Japon et en EMEA. « Nous maintenons notre élan », a déclaré Munagala.

Pour Blaize, l'activité GSP n'est plus une question de compétition sur les fiches techniques. Il s'agit de comprendre comment les clients utiliseront le GSP dans de vraies applications et de mesurer la consommation d'énergie au niveau système dans ces contextes.

Blaize a été occupé à finaliser la logistique, obtenir la qualification automobile, et s'assurer que les processus internes et la documentation répondent aux normes de certification. « Nous avons déjà terminé un processus d'audit et sommes sur une liste de fournisseurs approuvés et qualifiés d'un client automobile », a déclaré Munagala. Cette étape est critique pour les constructeurs et fournisseurs de rang 1 qui préfèrent des partenaires avec une longévité prouvée.

Blaize a embauché 30 ingénieurs au Royaume-Uni (à Kings Langley et Leeds) pour se concentrer sur le développement de produits automobiles. L'équipe, composée d'individus hautement qualifiés ayant précédemment travaillé chez MIPS sur des ASICs basés MIPS pour Mobileye, apporte une expertise sectorielle approfondie.

Calcul par graphes

Si l'IA couvre de nombreux types de réseaux de neurones, « tous les réseaux de neurones sont basés sur des graphes », a expliqué Munagala. En théorie, cela permet aux développeurs de construire plusieurs réseaux de neurones et flux de travail entiers sur une seule architecture. D'où le slogan marketing du GSP : « 100 % graph-native. »

Blaize n'est pas seul dans l'espace du calcul par graphes. Des concurrents comme Graphcore, Mythic et le récemment fermé Wave Computing ont également discuté de l'optimisation et de la compilation de graphes de flux de données pour le traitement IA.

Terrill a noté : « Le calcul par graphes a une histoire de plus de 60 ans. »

Le GSP de Blaize se distingue des autres processeurs de flux de données basés sur les graphes de trois manières, selon Munagala. Premièrement, le GSP est entièrement programmable, capable de gérer une large gamme de tâches. Deuxièmement, il est dynamiquement reprogrammable « sur un seul cycle d'horloge ». Troisièmement, il intègre le streaming pour minimiser la latence. Le mécanisme de streaming de données réduit ou élimine le déplacement de données non computationnel, offrant un multiplicateur d'efficacité significatif.

Traitement par exécution séquentielle

Cliquez ici pour une image plus grande (Source : Blaize)

La conception graph-native de l'architecture GSP minimise le déplacement de données vers la DRAM externe. Seules l'entrée initiale et la sortie finale nécessitent de la mémoire externe ; les données intermédiaires restent sur puce, réduisant considérablement la bande passante mémoire et la consommation d'énergie.

Traitement par exécution en flux de graphes

Cliquez ici pour une image plus grande (Source : Blaize)

Les objectifs énoncés pour les systèmes Blaize sont « la latence la plus faible possible, réduction des besoins en mémoire et demande d'énergie aux niveaux puce, carte et système. »

Interrogé sur la défendabilité brevetée du design de calcul par graphes de Blaize, Munagala a répondu : « Nous sommes confiants dans notre portefeuille de brevets. Nous détenons plusieurs brevets accordés et avons des demandes supplémentaires en instance, reflétant des années de recherche ciblée. »