Présentation des arguments en faveur des puces neuromorphiques pour l'IA informatique

Quand le PDG d'Apple Tim Cook a présenté l'iPhone X, il a affirmé qu'il « ouvrirait la voie à la technologie pour la prochaine décennie ». Bien qu'il soit trop tôt pour le dire, le moteur neuronal utilisé pour la reconnaissance faciale était le premier du genre. Aujourd'hui, les réseaux de neurones profonds sont une réalité, et le neuromorphisme semble être la seule voie pratique pour faire des progrès continus dans l'IA.

Face aux contraintes de bande passante des données et aux exigences de calcul sans cesse croissantes, la détection et l'informatique doivent se réinventer en imitant les architectures neurobiologiques, affirme un rapport récemment publié par Yole Développement (Lyon, France).

Dans une interview avec EE Times , Pierre Cambou, analyste principal pour l'imagerie chez Yole, a expliqué que la détection et l'informatique neuromorphiques pourraient résoudre la plupart des problèmes actuels de l'IA tout en ouvrant de nouvelles perspectives d'application dans les prochaines décennies. « L'ingénierie neuromorphique est la prochaine étape vers le biomimétisme et fait progresser l'IA. »

Pourquoi maintenant ?

Soixante-dix ans se sont écoulés depuis que le mathématicien Alan Turing a posé la question « Les machines peuvent-elles penser ? », et trente ans depuis que Carver Mead, ingénieur électricien au California Institute of Technology, a introduit le concept d'ingénierie neuromorphique. Au cours de la décennie suivante, cependant, les chercheurs ont connu peu de succès pratique dans la construction de machines dotées d'une capacité cérébrale à apprendre et à s'adapter. L'espoir a refait surface lorsque Georgia Tech a présenté son réseau de neurones programmables sur le terrain en 2006 et que les chercheurs du MIT ont dévoilé une puce informatique qui imite la façon dont les neurones du cerveau s'adaptent en réponse à de nouvelles informations en 2011.

Le tournant a été la publication de l'article « ImageNet Classification with Deep Convolutional Neural Networks » par un groupe de scientifiques de l'Université de Toronto. L'architecture AlexNet, composée d'un réseau de neurones convolutifs à 8 couches, a permis de classer les 1,2 million d'images haute résolution du concours ImageNet dans l'une des 1 000 catégories (par exemple, chats, chiens). "Ce n'est qu'avec le développement d'AlexNet que l'approche d'apprentissage en profondeur s'est avérée plus puissante et a commencé à prendre de l'ampleur dans l'espace de l'IA."

Pierre Cambou

La plupart des techniques de mise en œuvre de l'apprentissage en profondeur actuelles reposent sur la loi de Moore, et « ça marche bien ». Mais, à mesure que l'apprentissage en profondeur évolue, il y aura de plus en plus de demande pour des puces capables d'effectuer des tâches de calcul élevées. La loi de Moore a ralenti ces derniers temps et a conduit de nombreux acteurs de l'industrie, y compris Yole Développement, à croire qu'elle ne serait pas en mesure de soutenir les progrès de l'apprentissage en profondeur. Cambou fait partie de ceux qui pensent que l'apprentissage en profondeur « échouera » s'il continue d'être mis en œuvre comme il l'est aujourd'hui.

Pour expliquer son point de vue, Cambou a cité trois obstacles principaux. Le premier est l'économie de la loi de Moore. «Très peu de joueurs pourront jouer, et nous nous retrouverons avec une ou deux fabs dans le monde dépassant les 7 nm. Nous pensons qu'il est préjudiciable à l'innovation lorsque seul Google est capable de faire quelque chose."

Deuxièmement, la charge de données augmente plus rapidement que la loi de Moore, et le débordement de données fait des technologies de mémoire actuelles un facteur limitant. Et troisièmement, l'augmentation exponentielle des besoins en puissance de calcul a créé un mur thermique pour chaque application. « Avec des puces de 7 nm, nous avons à peu près un rendement d'un téraflop par watt. Pour alimenter un Waymo, nous avons probablement besoin d'un kilowatt, ce qui signifie que nous avons besoin de mille téraflops », a déclaré Cambou. Le paradigme technologique actuel est incapable de tenir ses promesses, et la solution pourrait être d'appliquer un apprentissage en profondeur sur du matériel neuromorphique et de tirer parti d'une bien meilleure efficacité énergétique.

En jetant un regard plus large sur la situation actuelle, Cambou a déclaré qu'il était temps d'adopter une approche perturbatrice qui utilise les avantages dérivés des technologies de mémoire émergentes et améliore la bande passante des données et l'efficacité énergétique. C'est l'approche neuromorphique. "L'histoire de l'IA continuera d'avancer, et nous pensons que la prochaine étape est dans la direction neuromorphique."

Ces dernières années, de nombreux efforts ont été déployés pour construire du matériel neuromorphique qui transmet des capacités cognitives en implémentant des neurones dans le silicium. Pour Cambou, c'est la voie à suivre car « l'approche neuromorphique coche toutes les bonnes cases » et permet des gains d'efficacité bien plus importants. « Le matériel a permis les réseaux de neurones et l'apprentissage en profondeur, et nous pensons qu'il permettra la prochaine étape de l'IA neuromorphique. Ensuite, nous pourrons à nouveau rêver d'IA et rêver d'applications basées sur l'IA. »

Crédit :Yole

Neurones et synapses

Le matériel neuromorphique sort du laboratoire de recherche avec une convergence d'intérêts et d'objectifs dans les domaines de la détection, de l'informatique et de la mémoire. Des coentreprises sont formées, des alliances stratégiques sont signées et des initiatives de recherche de dix ans telles que le Human Brain Project de l'Union européenne sont lancées.

Bien qu'aucune activité significative ne soit attendue avant 2024, l'ampleur de l'opportunité pourrait être importante pendant des décennies après cela. Selon Yole, si toutes les questions techniques sont résolues au cours des prochaines années, le marché de l'informatique neuromorphique pourrait passer de 69 millions de dollars en 2024 à 5 milliards de dollars en 2029 et 21,3 milliards de dollars en 2034. L'écosystème est vaste et diversifié avec des acteurs de premier plan comme Samsung, Intel et SK Hynix, ainsi que des startups telles que Brainchip, Nepes, Vicarious et General Vision.

Les puces neuromorphiques ne sont plus une théorie, mais un fait. En 2017, Intel a présenté Loihi, sa première puce de recherche neuromorphique composée de 130 000 neurones. En juillet, le groupe de Santa Clara a franchi une nouvelle étape avec son système neuromorphique de 8 millions de neurones, nom de code Pohoiki Beach, comprenant 64 puces de recherche Loihi. De même, la puce informatique TrueNorth d'IBM, inspirée du cerveau, possède 1 million de neurones et 256 millions de synapses, et le système sur puce neuromorphique Akida de Brainchip possède 1,2 million de neurones et 10 milliards de synapses.

« Il y a une course pour fournir du matériel qui élèverait la barre en termes de neurones et de synapses. Les synapses sont probablement plus importantes que les neurones », a déclaré Cambou. « Chez Yole, nous voyons deux longueurs d'avance sur nous. Premièrement, les applications qui seront construites sur l'approche actuelle, en partie asynchrones et en partie de Von Neumann. » De bons exemples sont Akida de Brainchip et Loihi d'Intel. « Ensuite, probablement dans les 10 à 15 prochaines années, nous aurons de la RRAM [mémoire résistive à accès aléatoire] par-dessus. Cela permettra de créer plus de synapses. »

Les efforts de calcul neuromorphique proviennent d'acteurs de la mémoire comme Micron, Western Digital et SK Hynix, mais beaucoup recherchent plus de revenus à court terme et pourraient finalement ne pas devenir des acteurs importants dans la recherche neuromorphique. "Nous devrions nous tourner vers les petits acteurs qui ont choisi la neuromorphie comme technologie de base", a déclaré Cambou.

Les startups de mémoire perturbatrice telles que Weebit, Robosensing, Knowm, Memry et Symetrix combinent la technologie de mémoire non volatile avec des conceptions de puces informatiques neuromorphiques. Ils ont émergé aux côtés de startups de mémoire pure telles que Crossbar et Adesto, mais leur approche memristor (résistance de mémoire) est souvent perçue comme plus à long terme que les efforts des sociétés informatiques pures. « De nombreux lecteurs de mémoire travaillent sur des mémoires RRAM et à changement de phase pour imiter la synapse », a déclaré Cambou. De plus, « la MRAM [mémoire à accès aléatoire magnétorésistive] fait partie des mémoires émergentes qui aideront l'approche neuromorphique à réussir. »

Crédit :Yole

Outre l'informatique, un écosystème de détection neuromorphique a émergé, avec ses racines provenant de l'invention d'un neurone de silicium par Misha Mahowald à l'Institut de neuroinformatique et à l'ETH Zurich en 1991. La concurrence actuelle est faible, avec moins plus de dix joueurs dans le monde. Parmi eux, Prophesee, Samsung, Insightness, Inivation et Celepixel proposent des produits prêts à l'emploi tels que des capteurs d'images événementiels et des caméras. L'approche basée sur l'image, telle qu'elle est utilisée dans la cinématographie, est incapable de capturer le mouvement.

« Le cinéma trompe notre cerveau, mais nous ne pouvons pas tromper un ordinateur », a déclaré Cambou. « La seule bonne façon de le faire est de donner les mêmes informations que les yeux donnent. Les caméras basées sur les événements sont très puissantes pour tout type de compréhension de mouvement et de compréhension de modèle en temps réel. » Plus largement, les capteurs auditifs, d'imagerie et comportementaux ont « un impact à tous les niveaux de ce que nous appelons l'intelligence générale ».

Au niveau des semi-conducteurs emballés, Yole a déclaré qu'il s'attend à ce que la détection neuromorphique passe de 43 millions de dollars en 2024 à 2 milliards de dollars en 2029 et 4,7 milliards de dollars en 2034.

L'automobile, mais pas que

L'automobile est probablement le marché le plus évident, a déclaré Cambou. Les marchés initiaux sont cependant industriels et mobiles, principalement pour la robotique et la perception en temps réel.

À court terme, la détection et l'informatique neuromorphiques seront utilisées pour la surveillance permanente des machines industrielles. Il jouera également un rôle majeur dans la logistique, l'automatisation alimentaire et l'agriculture. "Alors que le deep learning nécessite d'énormes ensembles de données, le neuromorphic apprend extrêmement rapidement à partir de quelques images ou de quelques mots seulement et comprend le temps", a déclaré Cambou.

Au cours de la prochaine décennie, la disponibilité de puces informatiques hybrides en mémoire devrait débloquer le marché automobile, attendant désespérément une technologie de conduite autonome de masse. "Nous vivons dans un monde d'interactions, et le neuromorphisme sera très fort pour donner aux ordinateurs la compréhension des environnements non structurés."