Élever l'Edge AI : Débloquer Performance et Efficacité Énergétique Sans Précédent

L'évolution technologique est une histoire familière, et l'intelligence artificielle n'y fait pas exception. Chaque nouvelle génération de puces IA ajoute plus de MACs, une quantification plus profonde et des fonctionnalités supplémentaires — tout en quête de TOPS/Watt plus élevés. Pourtant, à mesure que l'expertise des utilisateurs grandit, la demande passe de la simple utilisabilité à une flexibilité algorithmique inégalée, un débit maximal et une consommation minimale.

Via la plateforme CEVA NeuPro, nous avons introduit avec succès des solutions edge-AI sur divers marchés. Les utilisateurs d'aujourd'hui veulent plus que des mises à jour incrémentales ; ils exigent des améliorations révolutionnaires leur permettant de surpasser l'état de l'art d'un ordre de grandeur.

Mesurer l'Impact Réel

Bien que TOPS/Watt soit un benchmark commode, il manque de pertinence dans les applications réelles. Pour l'inférence visuelle, les images par seconde par watt (FPS/W) est bien plus significatif. Dans la sécurité automobile, par exemple, un moteur de perception doit traiter au moins 100 FPS avec la consommation d'énergie la plus faible possible, car les retards peuvent signifier la différence entre un arrêt sûr et un accident. Atteindre une telle performance demande un FPS/W bien supérieur aux métriques conventionnelles.

L'opportunité de marché est claire. L'automobile et les télécoms sont prêts à conduire la plus grande part de la croissance de l'edge-AI, l'imagerie intelligente dominant déjà l'automobile et la tendance « many-camera » remodelant les téléphones mobiles. Les caméras smartphone modernes remplacent les algorithmes hérités par des réseaux neuronaux pour le débruitage, la stabilisation et la super-résolution, le tout à 60 fps dans des enveloppes énergétiques serrées.

Ce qu'Exige une Avancée Majeure

Bien que l'IA analogique et les réseaux de neurones à spikes offrent des possibilités intrigantes, les fabricants de produits ont encore besoin de solutions scalables pouvant atteindre les volumes aujourd'hui. Cela laisse un vaste potentiel algorithmique : options de quantification étendues, support Winograd, optimisations de sparsité, gestion de types de données divers sur tailles de bits variées, traitement vectoriel parallèle, compression de données, décomposition matricielle, et support pour architectures next-gen comme transformers et convolutions 3D. Ces capacités peuvent délivrer jusqu'à 50:1 d'accélération sur réseaux de référence.

Appel à l'Action

Les développeurs IA expérimentés savent maintenant précisément ce dont ils ont besoin pour construire. Ce qu'ils requièrent est une plateforme fournissant tous les composants et optimisations de réseaux neuronaux en lesquels ils ont confiance, leur permettant de concevoir la solution optimale pour leur produit.

C'est plus qu'une wish list ; c'est une feuille de route pour la performance révolutionnaire, le débit et la basse consommation que l'edge AI avancé exige. Les fabricants ne peuvent plus se contenter de gains incrémentaux — ils attendent des plateformes qui correspondent à leur compréhension profonde des possibilités de l'IA.

Pour en savoir plus sur le travail de CEVA en edge AI, cliquez ici.

Roni Sadeh a plus de 20 ans d'expérience en conception de processeurs et accélérateurs, se concentrant sur les solutions logicielles et matérielles IA pour audio, parole et vision par ordinateur. Il développe la prochaine génération d'accélérateurs IA scalables à des centaines de TOPs.

Roni détient un B.Sc. en Génie Aéronautique de l'Université Technion.