Pourquoi edge AI est une évidence

En 2020, Deloitte prévoit que plus de 750 millions de puces d'intelligence artificielle de pointe - des puces complètes ou des parties de puces qui exécutent ou accélèrent des tâches d'apprentissage automatique sur l'appareil, plutôt que dans un centre de données distant - seront vendues, ce qui représente 2,6 milliards de dollars de revenus. De plus, le marché des puces IA de pointe connaîtra une croissance beaucoup plus rapide que le marché global des puces. D'ici 2024, nous prévoyons que les ventes unitaires de puces IA de pointe dépasseront 1,5 milliard, peut-être beaucoup. Cela représente une croissance annuelle composée des ventes unitaires d'au moins 20 %, soit plus du double des prévisions à long terme de 9 % du TCAC pour l'ensemble de l'industrie des semi-conducteurs.

Figure 1 : emplacements dans lesquels l'intelligence peut être intégrée (Image :Deloitte Insights)

Ces puces d'intelligence artificielle de pointe se retrouveront probablement dans un nombre croissant d'appareils grand public, tels que les smartphones haut de gamme, les tablettes, les haut-parleurs intelligents et les appareils portables. Ils seront également utilisés sur plusieurs marchés d'entreprise :robots, caméras, capteurs et autres appareils pour l'Internet des objets. Le marché grand public des puces IA de périphérie est beaucoup plus important que le marché des entreprises, mais il devrait croître plus lentement, avec un TCAC de 18% attendu entre 2020 et 2024. Le marché des puces IA de périphérie d'entreprise croît beaucoup plus rapidement, avec un TCAC de 50 % sur la même période.

Figure 2 :Le marché des puces IA de pointe (Image :Deloitte Insights)

Néanmoins, cette année, le marché des appareils grand public représentera probablement plus de 90 % du marché des puces IA de pointe, à la fois en termes de nombre de ventes et de valeur en dollars. La grande majorité de ces puces d'IA de pointe seront intégrées aux smartphones haut de gamme, qui représentent plus de 70 % de toutes les puces d'IA de pointe des consommateurs actuellement utilisées. En effet, pas seulement en 2020 mais pour les prochaines années, la croissance des puces IA sera principalement tirée par les smartphones. Nous pensons que plus d'un tiers du marché des smartphones de 1,56 milliard d'unités cette année peut contenir des puces d'IA de pointe.

En raison des exigences extrêmement gourmandes en processeurs, les calculs d'IA ont presque tous été effectués à distance dans des centres de données, sur des appliances de base d'entreprise ou sur des processeurs de périphérie de télécommunications, et non localement sur des appareils. Les puces Edge AI changent tout cela. Ils sont physiquement plus petits, relativement peu coûteux, consomment beaucoup moins d'énergie et génèrent beaucoup moins de chaleur, ce qui permet de les intégrer dans des appareils portables ainsi que dans des appareils non grand public tels que des robots. En permettant à ces appareils d'effectuer localement des calculs d'IA gourmands en processeurs, les puces d'IA de périphérie réduisent ou éliminent le besoin d'envoyer de grandes quantités de données vers un emplacement distant, offrant ainsi des avantages en termes de convivialité, de vitesse, de sécurité et de confidentialité des données.

Garder le traitement sur l'appareil est meilleur en termes de confidentialité et de sécurité ; les informations personnelles qui ne quittent jamais un téléphone ne peuvent pas être interceptées ou utilisées à mauvais escient. Et lorsque la puce Edge AI est sur le téléphone, elle peut faire toutes ces choses même lorsqu'elle n'est pas connectée à un réseau.

Bien sûr, tous les calculs d'IA ne doivent pas avoir lieu localement. Pour certaines applications - par exemple, lorsqu'il y a tout simplement trop de données à gérer pour la puce AI de bord d'un appareil - l'envoi de données à traiter par une matrice AI distante peut être adéquat ou même préférable. En fait, la plupart du temps, l'IA se fera de manière hybride :une partie sur l'appareil et une autre dans le cloud. Le mélange préféré dans une situation donnée variera en fonction du type de traitement d'IA à effectuer.

L'économie de l'intelligence artificielle de pointe dans les smartphones

Les smartphones ne sont pas les seuls appareils à utiliser des puces Edge AI ; d'autres catégories d'appareils - tablettes, appareils portables, haut-parleurs intelligents - les contiennent également. À court terme, ces appareils autres que les smartphones auront probablement beaucoup moins d'impact sur les ventes de puces IA de pointe que les smartphones, soit parce que le marché ne se développe pas (comme pour les tablettes), soit parce qu'il est trop petit pour faire une différence matérielle ( par exemple, les haut-parleurs intelligents et les appareils portables combinés ne devraient vendre que 125 millions d'unités en 2020). Cependant, de nombreux appareils portables et haut-parleurs intelligents dépendent des puces IA de pointe, la pénétration est donc déjà élevée.

Actuellement, seuls les smartphones les plus chers - ceux du tiers supérieur de la distribution des prix - sont susceptibles d'utiliser des puces IA de pointe. Mais mettre une puce d'IA dans un smartphone n'a pas besoin d'être prohibitif pour le consommateur.

Il est possible d'arriver à une estimation assez solide du contenu de la puce AI de bord d'un smartphone. À ce jour, les images des processeurs de téléphone de Samsung, Apple et Huawei montrent la matrice de silicium nue avec toutes ses caractéristiques visibles, permettant d'identifier quelles parties des puces sont utilisées pour quelles fonctions. Un cliché de la puce pour l'Exynos 9820 de Samsung montre qu'environ 5% de la surface totale de la puce est dédiée aux processeurs d'IA. Le coût de Samsung pour l'ensemble du processeur d'application SoC est estimé à 70,50 $ US, ce qui est le deuxième composant le plus cher du téléphone (après l'écran), représentant environ 17% de la nomenclature totale de l'appareil. En supposant que la partie IA coûte le même prix que le reste des composants sur une base de zone de matrice, l'unité de traitement
neurale neurale (NPU) de l'IA de bord d'Exynos représente environ 5 % du coût total de la puce. Cela se traduit par environ 3,50 USD chacun.

Figure 3 :Un cliché de la puce de l'Exynos 9820 de Samsung montre qu'environ 5 % de la surface totale de la puce est dédiée aux processeurs d'IA. (Image :ChipRebel ; Annotation :AnandTech)

De même, la puce A12 Bionic d'Apple consacre environ 7 % de la surface de la matrice à l'apprentissage automatique. À environ 72 USD pour l'ensemble du processeur, ce pourcentage suggère un coût de 5,10 USD pour la partie Edge AI. La puce Huawei Kirin 970, estimée à 52,50 $ US, consacre 2,1 % de la matrice au NPU, suggérant un coût de 1,10 $ US. (Cependant, la zone de matrice n'est pas le seul moyen de mesurer le pourcentage du coût total d'une puce qui est consacré à l'IA. Selon Huawei, le NPU du Kirin 970 compte 150 millions de transistors, ce qui représente 2,7% du total de 5,5 milliards de transistors de la puce. Ce serait suggèrent un coût NPU légèrement plus élevé de 1,42 $ US.

Figure 4 :La puce A12 Bionic d'Apple consacre environ 7 % de la surface de la matrice à l'apprentissage automatique. (Image : TechInsights/AnandTech)

Bien que la fourchette de coûts citée soit large, il est raisonnable de supposer que les NPU coûtent en moyenne 3,50 USD par puce. Multiplié par un demi-milliard de smartphones (sans parler des tablettes, des haut-parleurs et des appareils portables), cela constitue un marché important, malgré le faible prix par puce. À un coût moyen de 3,50 $ US pour le fabricant, et un minimum probable de 1 $ US, l'ajout d'une NPU AI de pointe dédiée aux puces de traitement des smartphones commence à ressembler à une évidence. En supposant une majoration normale, l'ajout de 1 USD au coût de fabrication se traduit par seulement 2 USD de plus pour le client final. Cela signifie que les NPU et les avantages qui en découlent (un meilleur appareil photo, une assistance vocale hors ligne, etc.) peuvent être intégrés même dans un smartphone de 250 USD pour une augmentation de prix inférieure à 1 %.

Approvisionnement en puces d'IA :interne ou tiers ?

Les entreprises qui fabriquent des smartphones et d'autres appareils varient dans leurs approches pour obtenir des puces d'IA de pointe, la décision étant motivée par des facteurs tels que le modèle de téléphone et, dans certains cas, la géographie. Certains achètent des puces de processeur/modem d'application à des fournisseurs tiers, tels que Qualcomm et MediaTek, qui ont capturé ensemble environ 60 % du marché des SoC pour smartphones en 2018.

Qualcomm et MediaTek proposent tous deux une gamme de SoC à différents prix; Bien que tous n'incluent pas une puce IA de pointe, les offres haut de gamme (y compris les Snapdragon 845 et 855 de Qualcomm et Helio P60 de MediaTek) le font généralement. À l'autre extrémité de l'échelle, Apple n'utilise pas du tout de puces AP externes :elle conçoit et utilise ses propres processeurs SoC, tels que les puces A11, A12 et A13 Bionic, qui ont toutes une IA de pointe.

D'autres fabricants d'appareils, tels que Samsung et Huawei, utilisent une stratégie hybride, achetant des SoC auprès de fournisseurs de silicium du marché marchand et utilisant leurs propres puces (telles que l'Exynos 9820 de Samsung et le Kirin 970/980 de Huawei) pour le reste.

>> Continuez à lire la page deux de ce article publié à l'origine sur notre site partenaire, EE Times Europe.