Les tendances continuent de pousser le traitement vers la périphérie pour l'IA

Les principaux points à retenir de cet article sont les suivants :

• La prolifération des appareils et les volumes de données favorisent désormais les modèles informatiques distribués pour des raisons de vitesse, de performances et de sécurité des données
• Les récentes évolutions des fournisseurs par NVIDIA et VMware prennent en charge le traitement à forte intensité de données, comme l'IA et l'apprentissage automatique, à la périphérie.
• De nombreux processus et secteurs bénéficieront de la poussée du traitement vers la périphérie, y compris l'IoT industriel et l'IoT grand public.

À mesure que les appareils connectés se multiplient, de nouvelles méthodes de traitement sont apparues pour s'adapter à l'explosion des appareils et des données.

Pendant des années, les organisations ont évolué vers une architecture de traitement centralisée hors site dans le cloud et loin des centres de données sur site. Le cloud computing a permis aux startups d'innover et de développer leurs activités sans nécessiter d'énormes dépenses en capital sur l'infrastructure du centre de données ou des coûts permanents pour la gestion informatique. Il a permis aux grandes organisations d'évoluer rapidement et de rester agiles en utilisant des ressources à la demande.

Mais à mesure que les entreprises évoluent vers des modèles plus distants, des communications vidéo intensives et d'autres processus, elles ont besoin d'une architecture informatique de pointe pour gérer les tâches de monopolisation des données.

Ces processus gourmands en données doivent se dérouler en quelques fractions de seconde :pensez aux voitures autonomes, au streaming vidéo ou au suivi des camions d'expédition en temps réel sur leur itinéraire. L'envoi de données aller-retour vers le cloud et leur retour vers l'appareil prend trop de temps. Il peut également augmenter les coûts et compromettre les données en transit.

"Les clients réalisent qu'ils ne veulent pas transférer beaucoup de traitement vers le cloud, ils pensent donc que la périphérie est la véritable cible", selon Markus Levy, responsable des technologies d'IA chez NXP Semiconductors, dans un article sur le montée en puissance de l'IA embarquée.

Ces dernières années, l'architecture informatique de pointe est passée au premier plan, pour s'adapter à la prolifération des données et des appareils ainsi qu'à la vitesse à laquelle ces données se déplacent.

Le marché de l'informatique de pointe devrait passer de 3,6 milliards de dollars en 2020 à 15,7 milliards de dollars d'ici 2025, selon les données de MarketsandMarkets.

Les évolutions du marché continuent de pousser le traitement vers la périphérie :NVIDIA

Les récentes initiatives de NVIDIA, un géant du marché des unités de traitement graphique (GPU), et de VMware, le fournisseur de virtualisation, prennent en charge ces nouvelles architectures de traitement distribué et ouvrent clairement la voie à un traitement ultra-rapide à la périphérie.

Premièrement, en septembre, par exemple, NVIDIA a annoncé son intention de payer 40 milliards de dollars pour Arm, en partie pour continuer à pousser l'IA plus près du bord. Alors que NVIDIA a dominé dans le centre de données avec ses GPU, Arm a une place forte sur le marché mobile, fournissant des puces à Apple, Qualcomm et d'autres.

"Si vous pensez que l'avenir est l'IA, et que vous pensez qu'elle est alimentée par des GPU et des CPU, alors la capacité de NVIDIA à créer ces systèmes de bout en bout vient d'augmenter", a déclaré Zeus Kerravala, dans une interview vidéo sur le NVIDIA -Accord d'armement et perspectives pour l'IA à la pointe. « Surtout sur le marché de l'informatique de pointe, [NVIDIA] sera là-dessus. »

L'accord NVIDIA-Arm suscite des inquiétudes réglementaires, notamment s'il pourrait mettre en péril le succès des activités de licence d'Arm. Arm possède des centaines de licences avec ses partenaires — qui, en plus des concurrents AMD et Intel — comprennent des géants comme Apple, Qualcomm et Broadcom. Il existe également de sérieuses préoccupations antitrust concernant le nouveau contrôle de NVIDIA sur le marché des processeurs mobiles.

SmartNIC :déplacer le traitement vers la périphérie

Deuxièmement, lors de la conférence virtuelle VMworld 2020 fin septembre, VMware a annoncé le projet Monterey visant à améliorer les performances de l'IA avec la technologie SmartNIC (ou carte d'interface réseau intelligente) et les unités de traitement de données (DPU) de NVIDIA. Le projet Monterey implique un partenariat avec plusieurs sociétés, dont NVIDIA, pour renforcer l'infrastructure afin de prendre en charge les applications d'IA à la périphérie.

Monterey décharge les tâches d'hyperviseur, de mise en réseau, de sécurité et de stockage d'un processeur hôte vers le DPU BlueField de NVIDIA. Déplacer ce traitement vers les DPU et SmartNics peut transférer l'IA, l'apprentissage automatique et d'autres applications centrées sur les données.

Un SmartNIC exécute des tâches non applicatives à partir d'un processeur de serveur, afin que le serveur puisse exécuter plus d'applications plus rapidement.

"Il y a eu une vague générale d'intérêt pour rapprocher le calcul des données", a déclaré Alexander Harrowell, analyste principal chez Omdia.

"Cela déplace l'abstraction de l'hyperviseur de l'hôte vers le réseau … et décharge une partie du travail que l'hyperviseur lui-même effectue sur cette carte", a déclaré Harrowell. « Cela rend disponible une plus grande partie de la puissance de traitement pour laquelle vous avez payé. Il y a donc ici l'histoire d'un passage du modèle Intel x86 classique au soi-disant modèle informatique de Harvard. »

Cette tendance vers l'informatique distribuée, a noté Harrowell, se poursuivra à un rythme soutenu et permettra un traitement plus complexe, tel que le traitement de l'IA.

« En déchargeant une grande partie de ce travail d'E/S sur le cœur Arm et en tirant parti des déchargements matériels dans ces SmartNIC », a déclaré Greg Lavender, vice-président senior et directeur de la technologie chez VMware, « vous pouvez décharger ce traitement et libérer même jusqu'à 30 % du processeur… et le redonne à l'application afin qu'elle bénéficie de ces ressources de calcul et de mémoire supplémentaires.

Pour le marché des objets connectés, déplacer le traitement vers le bas de la pile et dans ces architectures de périphérie distribuées sera une aubaine majeure pour les processus gourmands en données qui nécessitent des temps de réponse rapides.

"Maintenant que vous pouvez faire de l'IA à la périphérie, vous pouvez transformer l'IoT en quelque chose avec de réelles capacités", a déclaré Levy de NXP.

>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>

Pour plus d'informations sur l'IoT industriel, participez à Industrial IoT World en décembre.