Les plates-formes Edge AI surpassent GPU/CPU en termes de performances et d'efficacité

Offrant ce qu'il appelle une percée dans le matériel informatique et les logiciels d'intelligence artificielle (IA) pour les applications d'IA de pointe et surmontant les limitations GPU/CPU héritées, Blaize a annoncé de nouvelles plates-formes embarquées et accélératrices, Pathfinder et Xplorer, qui permettent un développement d'IA de pointe « sans code » .

Les plates-formes sont construites sur l'architecture du processeur de streaming graphique (GSP) de Blaize. Selon la société, avec 16 cœurs GSP et 16TOPS de performances d'inférence AI dans une enveloppe de puissance de 7 W, GSP peut offrir une efficacité au niveau du système jusqu'à 60 fois supérieure à celle des GPU/CPU pour les applications AI de pointe. Il permet également 50 fois moins de bande passante mémoire et une latence 10 fois inférieure. Le Blaize GSP est un processeur 100% programmable et dispose de fonctionnalités avancées telles que le multithreading et le streaming.

Blaize a déclaré que ses clients à accès anticipé pour Pathfinder et Xplorer envisagent des déploiements de production de cas d'utilisation de vision intelligente en temps réel en temps réel, auparavant infaisables, dans les applications industrielles, de mobilité automobile, de vente au détail intelligentes, de métro et d'usine. Le co-fondateur et PDG de l'entreprise, Dinakar Munagala, a déclaré :« Les solutions de périphérie d'aujourd'hui sont soit trop petites pour calculer la charge, soit trop coûteuses et trop difficiles à produire. Les produits Blaize AI edge computing surmontent ces limitations de puissance, de complexité et de coût pour déclencher l'adoption de l'IA à la périphérie, facilitant la migration de l'IA du datacenter vers la périphérie. Les marchés Edge AI devraient croître rapidement, car la fonctionnalité de l'IA devient une exigence pour de nombreux nouveaux produits. Les projets d'Omdia Research dépassent les revenus des chipsets d'IA pour atteindre 51 milliards de dollars en 2025.

Les deux nouveaux produits de Blaize sont le Pathfinder P1600, un système embarqué sur module (SOM) et la plate-forme d'accélérateur Xplorer. Blaize a déclaré que le P1600 apporte les avantages de programmabilité et d'efficacité du GSP aux applications d'IA embarquées déployées à la périphérie du capteur ou à la périphérie du réseau. Aucun processeur hôte n'est nécessaire pour le P1600, il suffit donc de « le brancher et c'est parti ».

Les plates-formes Xplorer accélèrent les applications d'IA à la périphérie de l'entreprise via un plug-in sur l'emplacement PCIe d'un serveur hôte ou d'une appliance. Le X1600E est une plate-forme d'accélérateur à petit facteur de forme pour les environnements de petite taille et à faible consommation d'énergie tels que les magasins de proximité ou les sites industriels. Il peut être facilement ajouté pour accélérer les applications d'IA dans les PC industriels ou en tant que rack de cartes dans un petit serveur 1U. Ou, il y a le X1600P, qui est un accélérateur standard basé sur PCIe dans un facteur de forme mi-hauteur, mi-largeur. Le X1600P peut remplacer un GPU de bureau gourmand en énergie dans les serveurs de périphérie et fournir de 16 à 64 TOPS de performances d'inférence d'IA dans une enveloppe de très faible puissance.

La suite logicielle Blaize AI est construite sur des normes ouvertes avec une facilité d'accessibilité, ce qui signifie que les développeurs de produits ne sont pas limités à des environnements de développement propriétaires. Composée du kit de développement logiciel (SDK) Picasso et d'AI Studio, une interface visuelle entièrement sans code, la suite logicielle propose des outils à la fois pour les développeurs traditionnels et les experts du domaine non codeurs. De plus, les deux ensembles d'outils utilisent Blaize Netdeploy, un système Blaize avec des algorithmes sensibles à la périphérie pour obtenir la meilleure précision et les meilleures performances pour les déploiements de périphérie.

Proof of concept clients

Blaize a déclaré avoir un certain nombre de clients de preuve de concept (POC) utilisant son système pour activer l'IA à la périphérie. Les candidatures sont en :

• Industriel : exécution de cinq réseaux de neurones indépendants à 50 ips avec une latence globale inférieure à 100 ms, surveillant la détection et la position des poses humaines et robotiques, l'ID et le nombre de produits, ainsi que la qualité des produits.
• Ville intelligente :trois réseaux de neurones indépendants fonctionnant à 50 ips surveillant la détection humaine, la pose, la position, la détection automatique et la sécurité et la sûreté des intersections.
• Fusion de capteurs :vidéo FHD haute résolution et fusion de capteurs lidar/radar s'exécutant en tant qu'application graphique native complète sur Blaize GSP.
• Livraison du dernier kilomètre :fusion de capteurs de caméras HD à 30 ips et lidar/radar avec une latence inférieure à 100 ms et une puissance inférieure à 15 W.
• Vente au détail :quatre réseaux de neurones indépendants fonctionnant à 50 ips surveillant la détection, la position, le masque et le vol humains pour la sécurité du magasin et la détection des produits.

Des échantillons clients des deux gammes de produits sont disponibles dès maintenant et la pleine production est prévue à partir de cette année. Le Blaize Xplorer X1600E est disponible pour 299 $ en volume, le Pathfinder P1600 SOM est disponible en qualité industrielle pour 399 $ en volume et le Xplorer X1600P est disponible pour 999 $ en volume.