TinyML : les ingénieurs s'unissent pour standardiser l'IA sur systèmes ultra-basse consommation

SUNNYVALE, Californie – Près de 200 ingénieurs et chercheurs se sont réunis pour lancer une communauté dédiée à l'avancement du TinyML, le domaine émergent qui apporte l'apprentissage profond aux systèmes ultra-basse consommation.

« Il n'y a pas pénurie d'idées innovantes », a déclaré Ian Bratt, fellow en machine learning chez Arm, en ouverture de la session.

Il y a quatre ans, les progrès avaient stagné. L'arrivée de nouveaux formats à virgule flottante et techniques de compression a ravivé l'enthousiasme, mais un écart significatif persiste entre la recherche de pointe et les solutions commercialement viables, a expliqué Bratt.

L'écosystème logiciel ressemble au Far West — fragmenté et dominé par des géants comme Amazon, Google et Facebook, chacun poussant ses propres frameworks. Le défi pour les ingénieurs matériels est de livrer des produits largement utilisables, a-t-il ajouté.

Un ingénieur de STMicroelectronics a fait écho à ce sentiment. « Je viens de réaliser qu'il y a au moins quatre compilateurs IA, et les puces de prochaine génération sortiront de la boîte à outils traditionnelle du concepteur embarqué. Stabiliser les interfaces logicielles et investir dans l'interopérabilité — via un comité de normalisation — sont essentiels », a-t-il dit.

Pete Warden, co-président du groupe TinyML et responsable technique de TensorFlow Lite, a mis en garde que les standards logiciels pourraient encore être prématurés. « Les chercheurs révisent constamment opérations, architectures, poids, compression, formats, quantification. La sémantique est en flux, et nous devons suivre le rythme », a-t-il dit.

Warden a ajouté que dans les prochaines années, les accélérateurs incapables d'exécuter des calculs génériques pour supporter de nouvelles opérations ou fonctions d'activation deviendront obsolètes. Dans deux ans, de nouvelles opérations émergeront probablement, a-t-il prévenu.

Un chercheur IA de Microsoft a acquiescé. « Nous sommes encore loin de où nous devrions être, et nous n'y arriverons pas en un ou deux ans. C'est pourquoi Microsoft a investi dans les FPGA pour accélérer ses services cloud Azure », a-t-il dit. « Construire les bonnes couches d'abstraction est crucial pour l'innovation matérielle. Un accélérateur matériel open-source pourrait accélérer les progrès », a-t-il ajouté.

Bratt a proposé qu'un standard de conformité pourrait être la première étape, assurant aux chercheurs une expérience edge-cloud cohérente, a-t-il suggéré.

Le professeur de Princeton Naveen Verma, dont les travaux portent sur les processeurs IA en mémoire, a souligné le besoin de spécifications fonctionnelles robustes à chaque niveau. « Si nous pouvons définir des specs claires à des niveaux suffisants, cela ouvrira des voies vers d'autres couches, et cette communauté est unique pour les définir », a-t-il dit.