NVIDIA et VMware s'allient pour accélérer l'efficacité coûts de l'IA via la virtualisation GPU

En augmentant les taux d'utilisation des GPU, le coût de construction et déploiement d'applications IA diminuera substantiellement.

Virtualisation GPU sur machines virtuelles VMware

À la conférence VMworld 2019, NVIDIA et VMware ont annoncé qu'ils rendraient possible le déploiement de machines virtuelles VMware sur unités de traitement graphique (GPU).

Dans cette initiative, NVIDIA a annoncé que son logiciel vGPU (virtual GPU) peut désormais être déployé sur machines virtuelles sur serveurs, en plus du support existant pour systèmes clients. Le logiciel NVIDIA Virtual Compute Server (vComputeServer) pour GPU est aussi étendu pour ajouter le support des plateformes VMware vSphere. NVIDIA s'est aussi engagé à rendre son hub d'accès aux outils de construction d'applications IA disponibles sur les plateformes VMware.

Voir aussi : Quels sont les 3 composants clés de la préparation à l'IA ?

En utilisant ces technologies NVIDIA, VMware s'est engagé à rendre disponible un service cloud consistant en instances Amazon EC2 bare metal accélérées par des GPU NVIDIA T4 exécutant le logiciel vComputeServer sur VMware Cloud on AWS.

Collectivement, ces avancées n'ont pas seulement des implications significatives pour améliorer l'utilisation des GPU, elles permettent aussi aux data scientists d'agréger plusieurs charges de travail sur des GPU tournant sur serveurs VMware résidant sur site ou dans le cloud, explique John Fanelli, vice-président produit pour NVIDIA Grid.

Si l'intérêt pour employer des GPU pour construire des applications d'intelligence artificielle (IA) a été massif, le coût de construction de ces applications a souvent été prohibitif. En l'absence de machine virtuelle, chaque GPU était dédié à une seule charge de travail à la fois. En augmentant les taux d'utilisation des GPU, le coût de construction et déploiement d'applications IA diminuera substantiellement, dit Fanelli.

C'est critique car ces coûts ont inhibé les organisations d'investir plus dans des applications IA qui ont le potentiel de transformer presque tous les aspects de l'existence humaine.

« L'IA est la technologie la plus puissante de notre temps, » dit Fanelli.

La performance de ces charges de travail IA sur machines virtuelles variera selon leurs attributs individuels, dit Fanelli. Beaucoup de développeurs pourront compenser d'éventuels problèmes de performance en profitant d'un toolkit NVIDIA CUDA pour exécuter les charges de travail IA en parallèle, note Fanelli.

Comme il devient plus abordable de construire et déployer efficacement des applications IA, le nombre de projets IA lancés dans les mois à venir devrait augmenter. Pour accélérer ce processus, VMware a aussi dit que les clients pourront migrer des charges de travail vers des instances GPU tournant dans des centres de données locaux vers le cloud en utilisant les outils VMware HCX qui automatisent le mouvement de machines virtuelles et accélèrent le transfert de données entre plateformes.

Les GPU accessibles principalement dans le cloud sont devenus la plateforme préférée pour l'entraînement de modèles IA en raison de l'efficacité avec laquelle les GPU gèrent la mémoire et la surcharge I/O. NVIDIA a cependant fait valoir, avec un succès mitigé, de aussi compter sur les GPU pour faire tourner les moteurs d'inférence nécessaires à l'exécution de ces modèles IA à la place de serveurs x86. En ajoutant le support pour machines virtuelles serveurs à son logiciel, il devrait devenir bien plus faisable de faire tourner plusieurs moteurs d'inférence sur la même plateforme GPU, de la même façon que les moteurs d'inférence sont déployés sur plateformes x86.

Bien sûr, avoir accès à des ressources d'infrastructure supplémentaires ne garantit pas nécessairement le succès de l'IA. Ces ressources iront cependant très loin pour réduire le coût d'avoir tort pendant le processus de développement IA.