Qualcomm dévoile Cloud AI 100 : accélérateur IA edge écoénergétique pour la 5G et au-delà

Près de 18 mois après sa première présentation en avril 2019, Qualcomm a confirmé que le silicium Cloud AI 100 est en production et sera livré au premier semestre 2021. L'entreprise a également divulgué les formats de carte et les benchmarks de performance soulignant sa prêts pour les charges de travail IA en périphérie.

Si Qualcomm domine depuis longtemps le marché des smartphones avec sa gamme Snapdragon, sa ligne serveur Centriq a été abandonnée en 2018. Le Cloud AI 100 marque l'entrée stratégique de Qualcomm sur le marché des serveurs near-edge, offrant une inférence IA à haut débit avec une efficacité énergétique exceptionnelle.

Le Cloud AI 100 de Qualcomm est conçu pour les charges de travail IA near-edge telles que l'infrastructure 5G et les centres de données d'entreprise.

Formats et performances

Qualcomm proposera initialement le Cloud AI 100 en trois formats de carte :

• Dual M.2 Edge (DM.2e) — plus de 50 TOPS à 15 W
• Dual M.2 (DM.2) — 200 TOPS à 25 W
• PCIe — jusqu'à 400 TOPS à 75 W

Ces chiffres représentent les TOPS théoriques « bruts » et ne tiennent pas compte de la surcharge applicative réelle. Néanmoins, les courbes de performance de Qualcomm montrent la version PCIe surpassant de nombreuses solutions de pointe ne consommant qu'une fraction de l'énergie.

Débit d'inférence ResNet-50 versus consommation d'énergie. Les cartes de Qualcomm mènent en efficacité énergétique, avec une taille de lot de 8 (sauf Nvidia A100).

John Kehrli, directeur senior de la gestion de produit chez Qualcomm, a noté : « Nous apportons plus d'une décennie de R&D IA de nos plateformes mobiles à ce nouveau cœur. Bien que l'architecture diffère de Snapdragon, l'expertise et la performance par watt sont évidentes. »

Architecture de la puce

Le Cloud AI 100 est un accélérateur d'inférence gravé en 7 nm FinFET. Il intègre jusqu'à 16 cœurs IA supportant précisions INT8, INT16, FP16 et FP32. Le die contient 144 Mo de SRAM sur puce (128 Mo partagés, 1 Mo par cœur) et interface jusqu'à 32 Go de DRAM LPDDR4x (4×64 LPDDR4x à 2,1 GHz), offrant une large bande passante mémoire essentielle pour l'IA.

Applications cibles

L'accélérateur vise une large gamme de cas d'usage edge : vision par ordinateur, reconnaissance vocale, conduite autonome, traduction linguistique, moteurs de recommandation. Qualcomm positionne le Cloud AI 100 sur quatre marchés principaux :

• Centres de données en périphérie du cloud
• Systèmes avancés d'aide à la conduite (ADAS)
• Boîtiers 5G edge (dispositifs autonomes sur site pour ville intelligente et entreprise)
• Infrastructure 5G (formation de faisceaux IA et optimisation stations de base)

Dans la conduite autonome, un dérivé du Cloud AI 100 alimente la plateforme Snapdragon Ride de Qualcomm, tirant parti de la même architecture et pile logicielle.

Design de référence et kit de développement

Qualcomm a présenté un nouveau kit de développement avec un design de référence pour une boîte 5G edge alimentée par le Cloud AI 100. Le kit associe l'accélérateur à un processeur hôte Snapdragon 865, offrant des pipelines vidéo complets supportant jusqu'à 24 flux de décodage vidéo full-HD. Il inclut également un modem 5G Snapdragon X55 pré-certifié.

Kehrli a souligné : « Ce kit permet aux clients de lancer des applications de démo immédiatement. Il est précompilé avec ResNet-50, offrant un démarrage rapide pour les solutions IA edge. »

Calendrier de déploiement

Qualcomm s'attend à ce que les premiers déploiements commerciaux se concentrent sur les scénarios edge — villes intelligentes, analytique retail, fabrication — en raison de cycles de certification plus courts. L'échantillonnage du Cloud AI 100 est déjà en cours chez certains clients, et le kit de développement sera échantillonné le mois prochain pour un public limité.

Note : Cet article a été publié à l'origine sur EE Times.