L'informatique neuromorphique magnétique propulse l'efficacité de l'IA à des niveaux humains

Les aimants peuvent aider l'intelligence artificielle à atteindre une efficacité humaine dans la reconnaissance d'objets. Des chercheurs ont développé de nouveaux réseaux qui utilisent moins d'énergie et de mémoire pour effectuer des tâches similaires aux calculs cérébraux.

Dynamique électrique et commutation magnétique

La dynamique électrique des neurones est remarquablement similaire à la dynamique de commutation d'un nanomatériau magnétique. Le comportement de commutation présenté par les jonctions tunnel magnétiques est de nature stochastique. Puisque ce comportement représente le comportement de commutation sigmoïde d'un neurone, la jonction magnétique peut être utilisée pour stocker les poids synaptiques.

En exploitant cette propriété exceptionnelle des aimants, des chercheurs de l'université Purdue ont développé une méthode qui pourrait aider les robots alimentés par l'IA à atteindre une efficacité humaine dans la reconnaissance d'objets.

La méthode consiste à fusionner le magnétisme avec des réseaux de type cérébral pour enseigner aux machines — drones, voitures autonomes et robots — à mieux généraliser sur plusieurs objets.

Un nouvel algorithme

Les réseaux de neurones à impulsions (SNN) offrent une alternative prometteuse pour réaliser des systèmes neuromorphiques intelligents, qui nécessitent moins de ressources computationnelles que les réseaux de neurones conventionnels. Ces réseaux encodent et transmettent les données sous forme d'événements d'impulsion épars.

Dans cette étude, les chercheurs ont utilisé la plasticité dépendante du timing des impulsions (STDP) pour développer un nouvel algorithme d'entraînement stochastique appelé Stochastic-STDP. Il s'agit d'un SNN convolutionnel résiduel profond, nommé ReStoCNet, composé de noyaux binaires pour un calcul neuromorphique économe en mémoire.

Référence : Frontiers | doi:10.3389/fnins.2019.00189 | Université Purdue

En utilisant le comportement stochastique intrinsèque des aimants, les chercheurs ont commuté la phase d'aimantation de manière stochastique basée sur le nouvel algorithme. Ils ont ensuite utilisé les poids synaptiques entraînés pendant l'inférence, qui étaient encodés de manière déterministe dans la phase d'aimantation du nanomatériau.

La règle d'apprentissage probabiliste basée sur STDP intègre les approches d'apprentissage hebbien et anti-hebbien, pour entraîner les noyaux binaires composant ReStoCNet de manière non supervisée couche par couche pour l'extraction hiérarchique de caractéristiques d'entrée.

Crédit : Université Purdue

L'équipe a utilisé des aimants à haute barrière d'énergie pour permettre des primitives stochastiques compactes et rendre possible l'utilisation du même dispositif comme élément de mémoire stable.

Ils ont validé l'efficacité de ReStoCNet sur deux jeux de données publics différents, et ont montré que les connexions résiduelles permettent aux couches convolutionnelles profondes d'apprendre des caractéristiques d'entrée de haut niveau précieuses et de minimiser la perte subie par les SNN sans connexions résiduelles.

Applications pratiques

Le nouveau réseau est capable de représenter à la fois les neurones et les synapses tout en réduisant la quantité d'énergie et de mémoire nécessaire pour effectuer des tâches similaires aux calculs cérébraux.

Ces réseaux de type cérébral peuvent résoudre des problèmes d'optimisation difficiles, tels que la coloration de graphes et le problème du voyageur de commerce. Les dispositifs stochastiques présentés dans ce travail peuvent fonctionner comme un « recuit naturel » et aider les algorithmes à sortir des minima locaux.

Plus spécifiquement, ReStoCNet avec son apprentissage probabiliste économe en mémoire et son calcul piloté par événements est bien adapté pour implémenter du matériel neuromorphique basé sur la CMOS et les technologies de dispositifs stochastiques émergents tels que la mémoire à changement de phase (PCM) et la mémoire à accès aléatoire résistive (ReRAM), qui améliorent l'efficacité mémoire dans les appareils alimentés par batterie.