Exploiter les DSP pour l'IA audio temps réel en périphérie

Exploiter les DSP pour l'IA audio temps réel en périphérie

Longtemps confinée aux serveurs cloud aux ressources quasi illimitées, l'apprentissage automatique migre désormais vers les appareils en périphérie. Faible latence, coût réduit, efficacité énergétique et confidentialité renforcée motivent ce mouvement. Par exemple, une voiture autonome ne peut se permettre le délai d'envoi de données au cloud pour la reconnaissance de piétons, et les coûts de bande passante peuvent rendre la reconnaissance vocale cloud prohibitive.

Pourquoi le traitement en périphérie est important

Les compromis énergétiques entre transmission de données et inférence locale sont critiques. Des charges de travail ML complexes peuvent vider la batterie d'un appareil si elles ne sont pas exécutées efficacement. L'inférence en périphérie garde aussi les données sensibles — comme les e-mails dictés vocalement — sur l'appareil, protégeant la vie privée des utilisateurs.

Réveil vocal toujours actif à basse consommation

La détection de mots-clés (ex. « Hey Siri » ou « OK Google ») est l'un des premiers cas d'usage ML en périphérie. Exécuter cette détection sur un processeur applicatif générique peut consommer plus de 100 mW, vidant rapidement la batterie d'un smartphone. Les premiers téléphones ont déplacé l'algorithme vers un petit DSP fonctionnant à <5 mW, et les microphones intelligents modernes effectuent la même tâche sur un DSP audio-ML spécialisé à <0,5 mW.

Au-delà de la voix : étendre les capacités en périphérie

Une fois qu'un appareil prend en charge le ML audio toujours actif, il peut reconnaître des indices contextuels : restaurants bondés, rues animées, musique ambiante, signatures ultrasoniques de pièces, cris ou rires à proximité. Ces fonctions permettent des cas d'usage sophistiqués bénéfiques pour l'appareil et l'utilisateur.

Construire un DSP pour l'IA en périphérie

La performance maximale et l'efficacité énergétique pour l'inférence en périphérie nécessitent du matériel sur mesure. Les techniques les plus impactantes sont résumées dans le tableau ci-dessous.

L'inférence de réseaux de neurones repose fortement sur les multiplications matrice-vecteur (MVM). Une opération multiply-accumulate (MAC) fusionnée est la pierre angulaire d'une exécution MVM efficace. L'arithmétique de basse précision — souvent 8 bits — suffit pour l'inférence, réduisant drastiquement la complexité computationnelle. Intel et Texas Instruments proposent par exemple des processeurs avec des unités MAC dédiées à basse précision : le TI TMS320C6745 exécute 8 MACs d'opérandes 8 bits par cycle, tandis que le DSP audio de Knowles en effectue 16 par cycle.

L'entraînement et l'inférence exigent tous deux une bande passante mémoire significative. Les larges chemins de données soulagent la pression : l'AVX-512 d'Intel supporte des transferts de 512 bits par cycle vers un réseau de 64 multiplicateurs ; le TI 6745 utilise un bus 64 bits ; les processeurs de Knowles adoptent un bus 128 bits, équilibrant surface de puce et bande passante. Les architectures récurrentes (RNN, LSTM) requièrent des boucles de rétroaction, imposant des contraintes architecturales supplémentaires qui peuvent bloquer des designs fortement pipeline.

Les pipelines audio-ML commencent typiquement par l'analyse spectrale et l'extraction de caractéristiques. Accélérer les opérations DSP classiques — FFT, filtres, fonctions trigonométriques et logarithmiques — est essentiel pour l'efficacité énergétique. Les opérations vectorielles non-linéaires (sigmoid, ReLU, etc.) bénéficient aussi d'instructions monocycle, réduisant davantage le nombre de cycles et la consommation.

En résumé, les processeurs fusionnant l'accélération du machine learning et du traitement de signal audio permettent l'inférence temps réel, toujours active, à faible coût tout en préservant la confidentialité. Les choix architecturaux — jeux d'instructions multi-opérations, bus larges, unités spécialisées basse précision — maintiennent haute performance sans forte consommation. À mesure que le calcul spécialisé en périphérie évolue, le spectre des cas d'usage ML réalisables s'élargira.

Jim Steele, Vice-président de la stratégie technologique, Knowles Corp.

© Cet article a été publié à l'origine sur EE Times : « Machine Learning on DSPs: Enabling Audio AI at the Edge. »