IA en edge : accélérer l'intelligence sur appareil et transformer les marchés grand public et entreprise

En 2020, les analystes prévoyaient la vente de plus de 750 millions de puces IA edge — dispositifs qui exécutent ou accélèrent l'apprentissage automatique directement sur le matériel — générant environ 2,6 milliards $ de revenus. Le segment edge-IA devrait dépasser l'industrie des semi-conducteurs au sens large, avec des ventes unitaires projetées à plus de 1,5 milliard d'ici 2024, impliquant un taux de croissance annuel d'au moins 20 % versus 9 % TCAC pour le marché global.

Ces puces se trouvent de plus en plus dans les smartphones haut de gamme, tablettes, enceintes intelligentes, wearables, et une gamme croissante d'équipements entreprise, incluant robots, caméras, capteurs, et dispositifs IoT généraux.

Bien que le segment grand public reste plus large, il devrait croître à un TCAC de 18 % de 2020 à 2024, alors que le segment entreprise devrait accélérer à 50 % sur la même période.

En 2020, les appareils grand public représentaient plus de 90 % du marché des puces IA edge en volume et valeur. Les smartphones haut de gamme comptaient pour plus de 70 % des unités grand public en usage, et plus d'un tiers des 1,56 milliard d'expéditions de smartphones cette année-là incluaient probablement une puce IA edge.

Historiquement, les charges de travail IA étaient gérées dans les data centers en raison de leur intensité computationnelle. Les puces IA edge, cependant, sont plus petites, moins chères, consomment bien moins d'énergie, et produisent une chaleur minimale — permettant leur intégration dans appareils portables et robots. En traitant les données localement, elles réduisent la latence, améliorent l'utilisabilité, et renforcent la vie privée et la sécurité en gardant les informations personnelles sur l'appareil.

Quand les ressources de l'appareil sont insuffisantes, une approche hybride — combinant traitement sur appareil et cloud — peut être employée. Le mix optimal dépend de la charge de travail IA spécifique.

Figure 1 : Emplacements où l'intelligence peut être embarquée (Image : Deloitte Insights)

L'économie de l'IA edge dans les smartphones

Bien que les smartphones dominent le marché, d'autres catégories — tablettes, wearables, enceintes intelligentes — incorporent aussi des puces IA edge. En 2020, les tablettes étaient largement stagnantes, tandis que enceintes intelligentes et wearables ensemble devaient expédier seulement 125 millions d'unités, limitant leur impact sur les ventes globales. Néanmoins, les taux de pénétration pour ces appareils sont déjà élevés.

Figure 2 : Le marché des puces IA edge (Image : Deloitte Insights)

Actuellement, seuls les smartphones les plus chers — ceux dans le tiers supérieur du spectre de prix — tendent à inclure des puces IA edge, pourtant le coût incrémental est minime.

En examinant les photos de die de Samsung, Apple et Huawei, on peut approximer la part d'un SoC dédiée à l'IA. L'Exynos 9820 de Samsung, par exemple, dédie environ 5 % de sa surface de die à un NPU. Avec un coût total de SoC d'environ 70,50 $, la portion IA représente environ 5 % de ce coût, soit environ 3,50 $ par puce.

Figure 3 : Photo de die du Samsung Exynos 9820 montrant ~5 % zone IA (Image : ChipRebel, Annotation : AnandTech)

L'A12 Bionic d'Apple alloue environ 7 % de son die à l'apprentissage automatique, se traduisant par un coût estimé de 5,10 $. Le Kirin 970 de Huawei dédie 2,1 % de sa surface au NPU, suggérant un coût entre 1,10 $ et 1,42 $, selon que la surface ou le nombre de transistors est utilisé comme métrique.

Figure 4 : L'A12 Bionic d'Apple dédie ~7 % de son die à l'apprentissage automatique (Image : TechInsights / AnandTech)

Même avec une large gamme de coûts, une moyenne de 3,50 $ par NPU est une estimation raisonnable. Multipliée sur half a milliard de smartphones — plus tablettes, enceintes, wearables — le volume de marché est substantiel. Important, ajouter 1 $ de coût de fabrication se traduit typiquement par une hausse de 2 $ pour les consommateurs, permettant aux NPU IA edge d'apparaître dans des téléphones à 250 $ sans impact significatif sur la marge.

Approvisionnement en puces IA : interne ou tiers ?

Les fabricants d'appareils choisissent des stratégies d'approvisionnement basées sur le tier de produit et la géographie. Des compagnies comme Qualcomm et MediaTek fournissent des SoC à de nombreux fabricants, capturant environ 60 % du marché des SoC smartphone en 2018. Leurs lignes haut de gamme — Snapdragon 845, 855, et Helio P60 de MediaTek — incorporent habituellement des capacités IA edge.

Apple, par contraste, conçoit ses propres SoC (A11–A13 Bionic) et y embarque l'IA tout au long. Samsung et Huawei adoptent un modèle hybride, achetant certains SoC de tiers tout en déployant leurs propres puces Exynos et Kirin pour les appareils haut de gamme.

Plus de 50 compagnies d'accélérateurs IA en lice pour l'IA edge en entreprise et industrie

Alors que les puces de grade smartphone performent bien pour l'usage grand public, de nombreuses applications entreprise et industrielles requièrent des solutions plus ciblées et économes en énergie. Un NPU qui n'occupe que la portion IA d'un SoC utilise 95 % moins d'énergie et est significativement moins cher que le SoC complet.

Aujourd'hui, plus de 50 firmes développent des accélérateurs IA edge autonomes. En 2019, les développeurs pouvaient acheter des puces uniques pour environ 80 $ chacune. En volume, les fabricants peuvent les acquérir pour aussi peu que 1 $ à quelques dollars. En utilisant le NPU smartphone comme proxy, nous assumons un coût moyen de 3,50 $.

Les puces autonomes sont non seulement bon marché mais aussi petites et basse consommation, tirant entre 1 et 10 W. En contraste, un cluster data-center 16-GPU coûte 400 k$, pèse 350 lb, et consomme 10 kW.

L'IA edge permet aux entreprises de traiter les données localement, réduisant le besoin de transférer de vastes datasets vers le cloud, coupant les coûts, simplifiant l'architecture, et atténuant les risques de sécurité.

Sécurité et vie privée des données

Le traitement local minimise l'exposition aux cybermenaces et au scrutin réglementaire. Par exemple, les caméras intelligentes peuvent analyser les images sur appareil, envoyant seulement les segments pertinents au cloud, tandis que les enceintes intelligentes peuvent affiner la détection de mot de réveil pour réduire la capture audio inutile.

Faible connectivité

Les appareils opérant dans des environnements réseau-pauvres — comme les drones autonomes — bénéficient de l'IA sur appareil, permettant la prise de décision temps réel sans dépendre de la connectivité.

Volumes massifs de données

Les déploiements IoT peuvent générer des téraoctets de données quotidiennement. L'IA edge peut filtrer et prétraiter ces données, transmettant seulement les insights actionnables, réduisant ainsi les coûts de stockage et bande passante.

Contraintes de puissance

Les accélérateurs basse consommation permettent les petits appareils à batterie, comme les inhalateurs qui analysent les patterns d'usage localement et envoient des métriques concises à un smartphone. Des efforts comme TensorFlow Lite de Google pour microcontrôleurs poussent l'apprentissage profond dans les microcontrôleurs, permettant le « tiny machine learning ».

Exigences de faible latence

L'inférence sur appareil élimine la latence aller-retour vers les data centers, ce qui peut être critique pour véhicules autonomes, robotique, et autres applications critiques pour la sécurité.

L'essentiel : l'IA edge sera vitale pour applications lourdes en données

Les consommateurs bénéficieront de fonctionnalités comme le déverrouillage sécurisé d'appareil, assistants vocaux hors-ligne, et photographie haute qualité sans connectivité constante. Pour les entreprises, l'IA edge peut débloquer de nouveaux modèles d'affaires, améliorer l'efficacité opérationnelle, et transformer des industries comme la fabrication, logistique, agriculture, et énergie en permettant l'analytique temps réel sur appareil.

Duncan Stewart et Jeff Loucks sont avec le Centre pour la Technologie, Médias et Télécommunications de Deloitte. Cet article est basé sur un article originalement publié par Deloitte pour son rapport TMT Predictions 2020.