L'IA à la périphérie reste principalement grand public, pas entreprise, marché

Les expériences basées sur les données sont riches, immersives et immédiat. Mais ce sont aussi des voraces de données intolérants aux retards.

Pensez à la livraison de pizzas par drone, aux caméras vidéo qui peuvent enregistrer les accidents de la circulation à une intersection, aux camions de fret qui peuvent identifier une défaillance potentielle du système.

Ces types d'activités à action rapide nécessitent beaucoup de données, rapidement. Ils ne peuvent donc pas supporter la latence lorsque les données transitent vers et depuis le cloud. Ce va-et-vient prend trop de temps. Au lieu de cela, bon nombre de ces processus gourmands en données doivent rester localisés et traités à la périphérie et sur ou à proximité d'un périphérique matériel.

« Un véhicule autonome ne peut pas attendre même un dixième de seconde pour activer le freinage d'urgence lorsque l'algorithme d'IA [intelligence artificielle] prédit une collision imminente », a écrit Mohanbir Sawhney, professeur à l'Université Northwestern, dans « Pourquoi Apple et Microsoft se déplacent vers le bord ». "Dans ces situations, l'IA doit être située à la périphérie, où les décisions peuvent être prises plus rapidement sans dépendre de la connectivité réseau et sans déplacer d'énormes quantités de données dans les deux sens sur un réseau."

"Les processeurs AI Edge vous permettent d'effectuer le traitement sur [l'appareil] lui-même ou d'alimenter un serveur dans l'arrière-boutique plutôt que d'avoir le traitement effectué dans le cloud", a déclaré Aditya Kaul, directeur de recherche chez Omdia, une société de recherche. .

AI at the Edge :entreprise contre adoption par les consommateurs

La capacité des puces d'IA à effectuer des tâches telles que l'inférence de l'apprentissage automatique s'est considérablement développée ces dernières années. Considérez l'unité de traitement graphique (GPU), qui offre plus de 10 téraflops de performances, soit l'équivalent de 10 000 milliards de calculs en virgule flottante par seconde. Les smartphones modernes ont des GPU capables de gérer des milliards d'opérations en virgule flottante par seconde. Il y a encore quelques années, ce type de traitement sur l'appareil n'était pas disponible. Mais aujourd'hui, les appareils à la périphérie (smartphones, appareils photo, drones) peuvent gérer les charges de travail de l'IA.

Ce n'est qu'avec l'émergence des chipsets d'apprentissage en profondeur - ou du silicium activé par l'intelligence artificielle, y compris les GPU parmi d'autres puces - que cela a été possible. Et le marché des chipsets d'IA a décollé comme une fusée.

« De pratiquement zéro il y a quelques années, [edge AI chips] générera plus de 2,5 milliards de dollars de « nouveaux » revenus en 2020, avec un taux de croissance de 20 % pour les prochaines années», écrit le rapport Deloitte « Bringing AI to le dispositif." [Voir la figure « The Edge AI Industry Is Poised for Growth » du rapport Deloitte susmentionné.]

Selon le rapport Tractica "Deep Learning Chipsets", le marché des chipsets d'IA devrait atteindre 72,6 milliards de dollars d'ici 2025.

Selon les experts, le marché de la consommation a ouvert la voie. Aujourd'hui, en 2020, le marché des appareils grand public représente probablement 90 % du marché des puces d'intelligence artificielle de pointe, en termes de nombre de ventes et de valeur en dollars.

"Le marché des smartphones est à la pointe de la technologie", a déclaré Aditya Kaul, directeur principal de Tractica, un cabinet d'analystes, qui a récemment publié le rapport "Deep Learning Chipsets". Les smartphones représentent encore environ 40 à 50 % du marché des chipsets d'IA.

Mais, a déclaré Kaul, le traitement basé sur l'IA à la périphérie arrive dans l'entreprise, dans des domaines tels que l'IoT industriel et la vente au détail, ainsi que la santé et la fabrication. « Vous pouvez appeler cela « l'avantage de l'IA de niveau entreprise », a déclaré Kaul.

L'impulsion pour l'adoption par les entreprises de l'IA à la périphérie, a déclaré Kaul, est "la clarté sur les cas d'utilisation". La vision industrielle, par exemple, qui automatise l'inspection des produits et le contrôle des processus, peut améliorer la qualité et l'efficacité des processus autrefois manuels dans des domaines tels qu'un atelier industriel.

« Les gens commencent à utiliser le deep learning [in industrial settings] pour identifier les défauts dans l'industrie automobile, par exemple :ils peuvent repérer des défauts dans les portes, les poignées ou le verre lors de l'assemblage. Dans les industries alimentaires et des boissons, ils identifient les tomates rassies, ou une usine de biscuits peut identifier les biscuits qui ne sont pas de la bonne forme », a déclaré Kaul.

En plus du contrôle de la qualité, cependant, les industries utilisent la vision industrielle pour promouvoir de nouvelles expériences. « Le commerce de détail est un secteur énorme où nous voyons une partie de cela se produire, a déclaré Kaul. C'est un avantage de niveau entreprise et l'utilisation de caméras dans les supermarchés pour l'analyse des acheteurs. Où tournent-ils au ralenti et regardent-ils certains produits ?

L'IA à la périphérie fonctionne avec le cloud computing

L'IA à la périphérie a ravivé l'intérêt pour le matériel, après plusieurs années où le logiciel était roi.

Mais l'IA à la périphérie consiste à apporter une faible latence et le matériel distribué peut permettre le traitement sans l'aide du cloud.

« Avec la croissance de l'IA, le matériel est à nouveau à la mode, après des années au cours desquelles les logiciels ont suscité le plus d'intérêt des entreprises et des investisseurs », a indiqué le rapport McKinsey « Intelligence artificielle :il est temps d'agir ».

Le matériel a également remis à la mode l'architecture informatique décentralisée, où les architectures centralisées impliquent des problèmes de latence et de sécurité des données.

« Vous voulez que les décisions soient prises sur-le-champ au lieu de vous fier à la latence du cloud », a déclaré Kaul. "Et aussi, vous ne voulez pas de données dans un cloud tiers. Du point de vue de la sécurité, les données doivent rester sur site."

En fin de compte, les experts suggèrent que l'IA à la périphérie sera une architecture complémentaire à l'architecture de cloud computing existante.

« L'IA dans le cloud peut fonctionner en synergie avec l'IA à la périphérie », a écrit Sawhney. « Considérez un véhicule alimenté par l'IA comme Tesla. L'IA à la périphérie alimente d'innombrables décisions en temps réel, telles que le freinage, la direction et les changements de voie. La nuit, lorsque la voiture est garée et connectée à un réseau Wi-Fi, les données sont téléchargées dans le cloud pour perfectionner l'algorithme. »

Attentes de croissance continue de l'IA à la périphérie

Une grande partie de la croissance du marché des puces AI Edge est attribuable à l'augmentation des capacités du matériel lui-même. Mais cela implique également des changements opérationnels dans la façon dont les industries abordent l'IA.

En effet, alors que les industries traditionnelles telles que la fabrication industrielle étaient auparavant réticentes à intégrer l'intelligence artificielle dans les processus, elles considèrent désormais l'IA à la périphérie comme bénéfique - en fait, une clé du retour sur investissement. En conséquence, ils introduisent l'analyse des mégadonnées dans leurs processus, entraînent des algorithmes pour améliorer la précision de ces processus et constatent les résultats du contrôle qualité.

"La seule façon dont ces modèles peuvent être précis est de les former avec les bonnes données", a déclaré Kaul. « Il y a deux ans, vous n'auriez pas trouvé beaucoup de gens dans ces secteurs où si vous leur posiez des questions sur les données de formation, ils pourraient vous regarder d'une manière étrange. Mais maintenant, plus de gens comprennent comment fonctionne l'IA », a-t-il déclaré.

Tractica prédit que cette croissance se poursuivra et qu'il y aura un "point d'inflexion en 2021-2022", a déclaré Kaul, avec une "évolution rapide vers les accélérateurs d'IA, les puces ASIC".

Attendez-vous cependant à ce que la croissance soit mesurée, a souligné Kaul.

"Beaucoup de ces fournisseurs et marchés - en termes d'innovation - ont stagné", a déclaré Kaul. « Il n’y a pas eu beaucoup d’innovation au cours des 20 ou 30 dernières années. Ils sont donc généralement lents à se déplacer. Mais dans certains domaines, les choses s'accélèrent - dans la vision industrielle, la vision médicale et la vente au détail. C'est encore tot. Mais les choses commencent à s'améliorer », a-t-il déclaré.