Dispositif synaptique de piégeage de charge ReS2 pour application de reconnaissance faciale

Contexte

Depuis l'avènement des ordinateurs modernes, la structure de von Neumann, dans laquelle l'unité arithmétique est séparée de la mémoire, a été largement utilisée. Ce type de structure fait que la transmission de données entre l'unité arithmétique et la mémoire devient un goulot d'étranglement, limitant considérablement l'amélioration des performances de l'ordinateur [1, 2]. Pendant ce temps, l'unité arithmétique et la mémoire principale sont toutes deux des dispositifs volatiles à forte consommation d'énergie, et les informations disparaîtront immédiatement si l'alimentation est coupée [3]. En revanche, le cerveau humain est un système de stockage d'informations et de calcul efficace avec une tolérance aux pannes élevée et une faible consommation d'énergie (environ 20 W), et il est basé sur un réseau complexe hautement interconnecté, massivement parallèle et structurellement variable composé d'environ 10 ¹¹ neurones et 10 ¹⁵ synapses [4, 5]. Ces neurones sont considérés comme les moteurs de calcul du cerveau, recevant des signaux d'entrée de milliers de synapses en parallèle. La plasticité synaptique est un processus biologique qui modifie le poids synaptique par le biais d'activités synaptiques, et elle est considérée comme une source d'apprentissage et de mémoire [6].

Les matériaux bidimensionnels (2D) de petite taille et d'excellentes propriétés électroniques, tels que le graphène, les dichalcogénures de métaux de transition (TMDC) et le phosphore noir, ont attiré une attention considérable et ont été mis en œuvre avec succès dans des dispositifs synaptiques [7, 8]. Les TMDC avec le réseau symétrique, tels que MoS₂ et WSe₂ , ont été largement étudiées [9, 10]. D'autre part, le disulfure de rhénium (ReS₂ ) avec une structure cristalline octaédrique (1T) déformée a été rarement explorée dans le domaine neuromorphique. La plupart des TMD ont une bande interdite directe dans la monocouche et une bande interdite indirecte dans la multicouche, de sorte qu'un matériau monocouche difficile à obtenir est nécessaire pour de bonnes performances de l'appareil. Cependant, ReS₂ dans les dix couches sont toutes considérées comme ayant une bande interdite directe [11], ce qui signifie ReS₂ dans les dix couches peuvent tous bien fonctionner. En outre, la structure en treillis asymétrique conduit à une énergie de couplage intercouche plus faible, ce qui profite au travail d'exfoliation, et rend ainsi le dispositif synaptique beaucoup plus facile à fabriquer [12,13,14,15]. Dans cette étude, ReS₂ le film est utilisé comme matériau de canal. La structure cristalline de la monocouche ReS₂ est montré dans la Fig. 1a, où les directions a et b désignent respectivement le deuxième axe le plus court et l'axe le plus court dans le plan basal. Basé sur les recherches scientifiques précédentes et de nombreuses images optiques de notre ReS₂ exfolié film [13], réalisation b désigne l'orientation cristallographique avec la mobilité électronique la plus élevée. Pour illustrer les caractéristiques électriques de notre ReS₂ dispositif synaptique mieux, direction b est considérée comme une direction du courant de canal, comme indiqué sur la Fig. 1b.

Les dispositifs synaptiques basés sur ReS₂ Matériel 2D. un Structure cristalline de la monocouche ReS₂ . b Image optique d'un ReS₂ à cinq couches flocon. Encart : électrodes de source et de drain modelées sur le ReS₂ flocon; direction b est pris comme la direction du courant de canal. c L'image AFM et le profil de hauteur du ReS₂ flocon. d Schéma de principe d'un matériau 2D ReS₂ dispositif synaptique. L'épaisseur de l'Al₂ O₃ , ZrO₂ , et Al₂ O₃ la pile (à partir du bas) est de 12 nm, 4 nm et 4 nm, respectivement

De nombreux dispositifs dotés de structures différentes ont réussi à simuler la dynamique synaptique, telles que la plasticité à court terme (STP), la potentialisation à long terme (LTP) et la dépression à long terme (LTD) [16,17,18]. Un MoS₂ La synapse à hétérojonction hybride /PTCDA a été démontrée avec une double modulation photoélectrique efficace [10]. Une synapse de nanotubes de carbone [19] et du MoS₂ à base de silicium synapse [20] a montré une logique dynamique. Cependant, les études mentionnées se sont concentrées uniquement sur le niveau synaptique. Dans certaines études, différents états de conductance ont été réalisés pour prouver que leurs appareils pouvaient être utilisés pour construire des réseaux de neurones artificiels (ANN), mais ils n'ont pas mis les états de conduction dans les ANN pour le calcul [21, 22]. Dans ce travail, 120 états de conductance continus sont modulés et les valeurs de conductance correspondantes sont utilisées dans le réseau de reconnaissance faciale entraîné pour le calcul ; un excellent taux de reconnaissance de 100 % est atteint.

Méthodes

La structure schématique de notre dispositif synaptique est représentée sur la figure 1d, où l'on peut voir qu'un film d'ITO (oxyde d'indium et d'étain) de 70 nm a été déposé sur le SiO₂ Substrat /Si comme électrode de grille arrière. Le substrat était une plaquette de Si avec 200 nm de SiO₂ en haut. Il a d'abord été nettoyé avec de l'acétone, de l'alcool isopropylique et de l'eau déminéralisée, puis séché avec du N₂ gaz avant le dépôt de l'ITO. La couche d'ITO a d'abord été déposée par pulvérisation cathodique puis recuite à 400 °C dans le N₂ atmosphère pendant 10 min par traitement thermique rapide (RTP). Des électrodes ITO transparentes sont utilisées afin de fabriquer avec précision des électrodes de source et de drain en utilisant la lithographie par faisceau d'électrons. L'Al₂ O₃ /ZrO₂ /Al₂ O₃ des structures en sandwich d'une épaisseur de 12 nm, 4 nm et 4 nm ont été développées sur l'ITO par dépôt de couche atomique (ALD) en tant que couche barrière, couche de capture d'électrons et couche tunnel respectivement. Ensuite, le ReS₂ exfolié mécaniquement des flocons d'une épaisseur d'environ 3,6  nm ont été déposés sous forme de canal sous les électrodes à motifs Ti/Au. Les électrodes Ti/Au avec une épaisseur de 10 nm et 70 nm ont été modelées en utilisant la lithographie par faisceau d'électrons suivie de l'évaporation du faisceau d'électrons comme source et drain, respectivement. La figure 1c montre l'image au microscope à force atomique de notre ReS₂ d'épaisseur 3,6 nm film (environ cinq couches); la longueur du canal a été conçue pour être de 1,5 m (voir l'encadré de la Fig. 1b). Dans ce travail, la porte arrière ITO a agi comme un neurone de présynapse et les électrodes Ti/Au ont agi comme un neurone de postsynapse. Une tension faible et constante a été appliquée entre les électrodes de source et de drain, tandis que l'électrode de porte arrière ITO a été appliquée avec des impulsions pour moduler les performances du dispositif synaptique.

Résultats et discussion

La figure 2a montre les caractéristiques de transfert de notre dispositif synaptique à une tension de grille arrière de 2 V (V _bg =2 V) sous une tension drain-source fixe (V _ds ) passant de 100 à 700 mV avec le pas de 100 mV. Un rapport de courant On/Off supérieur à 10 ⁶ pourrait être observé. La courbe affichait le courant drain-source (I _ds ), qui a d'abord augmenté rapidement puis s'est saturée; les excellentes caractéristiques de saturation correspondaient à la forte régulation du canal par l'électrode de grille arrière ITO. Contrairement aux transistors traditionnels, qui utilisent du silicium comme électrode de grille inférieure et du SiO₂ en tant que diélectrique à la tension de fonctionnement généralement supérieure à 20  V [23], la tension de fonctionnement de notre dispositif synaptique avec seulement une distance de 20 nm entre le ReS₂ l'électrode de porte arrière du canal et de l'ITO était inférieure à 5 V, améliorant considérablement l'efficacité du dispositif synaptique. L'encart de la figure 2a montre la relation superlinéaire sous le faible V _ds régimes, ce qui démontre un bon contact Schottky entre le ReS₂ électrodes de canal et de source et de drain. Comme le montre la figure 2b, I _ds –V _bg courbe d'hystérésis peut être observée lorsque V _bg changé de − 5 à 5 V puis inversé à un biais constant de 0,1 V (V _ds =0,1 µV). Dans les mesures, une petite tension constante de 0,1 µV a été appliquée entre les électrodes de source et de drain pour « lire » le courant postsynaptique. La fenêtre de mémoire, qui a fourni la base des performances synaptiques, était d'environ 3,5  V ; une si grande fenêtre de mémoire a fait de notre ReS₂ dispositif très prometteur pour les applications synaptiques [24]. Depuis le haut de la bande de valence de ZrO₂ était supérieur à celui d'Al₂ O₃ , et le bas de la bande de conduction était inférieur à celui de Al₂ O₃ (voir l'encart sur la Fig. 2c), ZrO₂ utilisé comme couche intermédiaire prise en sandwich entre l'alumine pourrait capturer la charge efficacement. Les diagrammes de bande d'énergie sous une tension de grille arrière positive et négative sont représentés respectivement sur les figures 2c et d. Lorsqu'une tension positive a été appliquée, les électrons dans le ReS₂ canal serait d'abord un tunnel à travers l'Al₂ O₃ couche tunnel, puis être capturé par le ZrO₂ couche de piégeage. Au contraire, lorsque l'ITO était appliqué avec une tension négative, les électrons se sont rassemblés dans le ZrO₂ couche serait envoyée au ReS₂ canaliser; les bandes d'énergie se sont pliées dans la direction du canal.

Propriétés électriques du ReS₂ dispositifs synaptiques. un Caractéristique de transfert (I _ds –V _bg ) du ReS₂ dispositifs synaptiques à un V fixe _ds passant de 100 à 700 mV avec le pas de 100 mV. b Caractéristique de sortie (I _ds –V _ds ) du ReS₂ dispositifs synaptiques à un V fixe _bg passer de − 2 à 2 V avec le pas de 1 V. c Boucle d'hystérésis à V _bg des plages de balayage ± 5 V. V _ds a été maintenu à 100 mV. d Diagramme de bande d'énergie du ReS₂ dispositifs synaptiques avec une tension de porte arrière positive. Encart :niveaux d'énergie d'Al₂ O₃ et ZrO₂ . e Diagramme de bande d'énergie du ReS₂ dispositifs synaptiques avec tension de porte arrière négative

Sur la figure 3a, un courant postsynaptique excitateur (EPSC) typique a été détecté après application d'une impulsion d'entrée négative (avec une amplitude de − 1 V et une durée de 10 ms) à la porte arrière de l'ITO. De plus, un post-synaptique inhibiteur a répondu à une impulsion de tension positive (avec une amplitude de 1 µV et une durée de 10 µms) a été observé sur la figure 3b, qui est similaire à une synapse biologique [25]. Le signal d'impulsion du neurone présynaptique a été transmis au neurone postsynaptique à travers la synapse et converti en courant postsynaptique (PSC) [26]. La valeur PSC a été déterminée par l'amplitude et la durée de l'impulsion. Lorsque l'impulsion était négative, les électrons des défauts de ZrO₂ gagné assez d'énergie pour creuser un tunnel à travers la partie supérieure de l'Al₂ O₃ couche diélectrique dans le ReS₂ canaliser. La valeur constante du courant était légèrement supérieure à la valeur précédente (∆PSC =0,04 nA) et pouvait se maintenir longtemps. Ce phénomène correspond à la potentialisation à long terme (LTP) dans la synapse biologique. Cependant, lorsque l'impulsion était positive, les électrons du ReS₂ canal tunnelisé à travers l'Al₂ O₃ couche sous l'attraction du champ électrique et ont été capturés par les défauts de ZrO₂ . Ainsi, la valeur constante du courant était légèrement inférieure à la valeur d'origine et pouvait rester la même pendant longtemps (∆PSC =0,06 nA). Ce processus correspondait à la dépression à long terme (LTD) dans la synapse biologique. Le LTP et le LTD ont fourni un substrat physiologique pour l'apprentissage et la mémoire dans les dispositifs synaptiques. Lorsque les impulsions négatives d'une amplitude de − 2 V et d'une durée de 10 ms ont été appliquées en continu, avec un intervalle de 1 s entre les impulsions, le courant croissant dans les deux étapes a été observé, comme le montre la figure 3c. Les valeurs de courant montantes étaient respectivement de 1,6 nA et 1,4 nA. Par conséquent, un courant continu et uniformément croissant pourrait être obtenu sous les impulsions de tension de grille périodiques, et le courant constant après la stimulation pourrait durer longtemps, comme le montre la figure 3d. Cette découverte a fourni une base pour obtenir les multiples états conducteurs stables.

Performance synaptique du ReS₂ dispositifs synaptiques. un Le courant postsynaptique excitateur (EPSC) déclenché par l'impulsion d'entrée (− 1 V, 10 ms). b Le courant postsynaptique inhibiteur (IPSC) déclenché par un pic présynaptique (1 V, 10 ms). c Paire de pointes de sortie d'EPSC déclenchées par deux impulsions d'entrée consécutives (− 2 V, 10 ms, et avec un intervalle de 1 s entre les impulsions). d Caractéristiques de rétention du ReS₂ dispositifs synaptiques après un pic présynaptique de − 3 V et 10 ms

La figure 4a montre 120 valeurs de courant après application de 120 impulsions négatives avec une amplitude de - 2 V et une durée de 10 ms et avec un intervalle de 1 s entre les impulsions. Apparemment, la courbe de courant a montré une excellente linéarité, 120 états de conductance efficaces à haute stabilité ont été obtenus dans chaque état. Différents états de conductance correspondaient à différentes valeurs de poids ANN [27].

Réseau de neurones artificiels pour la reconnaissance faciale. un 120 états de conductance après application de 120 impulsions négatives (− 2 V, 10 ms, et avec un intervalle de 1 s entre les impulsions). b L'ANN à trois couches avec 1024 neurones d'entrée, 256 neurones cachés et 15 neurones de sortie. c Organigramme du cycle formation-reconnaissance

Dans ce travail, un réseau de neurones artificiels à trois couches pour la tâche de reconnaissance faciale est proposé, et sa structure est présentée sur la figure 4b, où l'on peut voir que la couche d'entrée se compose de 1024 neurones qui correspondent à 1024 pixels d'une image, la couche intermédiaire (cachée) se compose de 256 neurones et la couche de sortie se compose de 15 neurones qui correspondent à 15 classes de visages.

Le développement de l'ANN proposé est le suivant. Un total de 165 images, dont 15 types d'images de la base de données Yale Face [28] sont utilisées pour la formation et les tests ANN. Huit images de chaque type sont utilisées pour la formation ANN, et les trois images restantes de chaque type sont utilisées pour les tests ANN. Étant donné que les modules sont des fonctions lisses par rapport à leurs entrées et à leurs poids internes, les architectures multicouches peuvent être entraînées par simple descente de gradient stochastique, et les gradients sont généralement calculés par la procédure de rétropropagation [29]. Par conséquent, nous utilisons l'algorithme de propagation vers l'arrière (BP) classique pour construire notre réseau et montrer comment l'algorithme BP fonctionne pour notre ANN.

Dans cet ouvrage, X _m représente un neurone d'entrée, donc la valeur d'entrée d'un neurone caché peut être exprimée comme :

où V _mn représente la valeur de poids entre un neurone d'entrée X _m et un neurone caché Y _dans , et tous les V _mn former la matrice V ayant un total de 1024 × 256 valeurs de poids ; la valeur initiale de cette matrice est attribuée aléatoirement. La fonction d'activation de la couche cachée est la fonction sigmoïde, donc la valeur de sortie d'un neurone caché est donnée par :

Ainsi, la valeur d'entrée d'un neurone de sortie peut être exprimée sous la forme :

où W _nk représente la valeur de poids entre un neurone caché Y _sur et un neurone de sortie Z _ik , et tous les W _nk former la matrice W avec un total de 256 × 15 valeurs de poids ; la valeur initiale de W _nk est également attribué au hasard. De plus, nous utilisons la fonction sigmoïde comme fonction d'activation de la couche de sortie, de sorte que la valeur de sortie d'un neurone de sortie est donnée par :

En comparant la sortie calculée ci-dessus avec la sortie correcte, l'erreur de sortie totale peut être obtenue, et elle est exprimée comme :

où O _k est la valeur de sortie correcte. Jusqu'à présent, le processus de propagation vers l'avant du réseau a été complètement décrit. Pour améliorer le taux de reconnaissance, le processus de rétropropagation est nécessaire pour calculer les erreurs des poids, et ils sont utilisés pour mettre à jour les poids du réseau à l'itération suivante.

Dans les expressions mathématiques ci-dessus, ∆V _mn et ∆W _nk représentent respectivement les erreurs de V _mn et W _nk ; après avoir ajouté les erreurs au poids d'origine, nous obtenons le poids mis à jour V _mn ^′ et W _nk ^′ ; μ est le taux d'apprentissage, et μ = 0,06. Après la mise à jour des poids, une nouvelle image est transmise à l'ANN et le processus de mise à jour des poids est répété jusqu'à ce que les 120 images aient été utilisées pour l'entraînement. Ensuite, nous utilisons le réseau formé pour identifier les 45 images restantes et calculer le taux de reconnaissance. Le processus de test ANN ne nécessite que le processus de propagation vers l'avant. Chaque image utilisée pour le test obtient 15 valeurs de sortie après une propagation vers l'avant. La valeur de sortie reflète la probabilité que l'image d'entrée soit d'un certain type. La sortie avec la valeur de probabilité maximale est sélectionnée, et le type correspondant est le type de l'image d'entrée identifiée par le réseau. Les résultats de la reconnaissance sont comparés à la sortie standard ; toutes les images correctement identifiées sont comptées et leur nombre total est n . A chaque cycle de formation-reconnaissance, le taux de reconnaissance r est donné par :

Généralement, le taux de reconnaissance de la première reconnaissance est très faible, et dans notre ANN avec 256 neurones cachés, le taux de première reconnaissance n'est que de 17,78%. Le processus d'apprentissage-reconnaissance ci-dessus est répété jusqu'à ce que le taux de reconnaissance maximum soit obtenu. L'ensemble du cycle de formation-reconnaissance est illustré à la Fig. 4c.

Comme le montre la figure 5a, au cours du processus de développement de l'ANN, le taux de reconnaissance maximal et la vitesse croissante du taux de reconnaissance (vitesse d'entraînement) étaient différents pour un nombre différent de neurones cachés. Un plus grand nombre de neurones cachés a conduit à un taux de reconnaissance maximal plus élevé et à une vitesse d'augmentation plus rapide, mais également à une consommation d'énergie accrue, il convient donc de faire un certain compromis. Dans le cas de 256 neurones cachés, le taux de reconnaissance a atteint 100 % après 600 itérations d'entraînement, comme le montre la figure 5b. Comme il s'agissait certainement du taux de reconnaissance maximal qui pouvait être atteint, dans notre ANN, nous avons fixé le nombre de neurones cachés à 256. La distribution des valeurs de poids après différents cycles de test d'entraînement est présentée sur la figure 5c, et elle indique que le les poids sont devenus plus dispersés après plus de cycles, c'est-à-dire que pour atteindre un taux de reconnaissance plus élevé, les poids dans l'ANN ont dû être ajustés. Une fois le taux de reconnaissance maximal atteint, les matrices V et W ayant la valeur de poids optimale ont été obtenus. Pour mieux démontrer que notre ReS₂ l'appareil est adapté pour être appliqué aux ANN, toutes les valeurs de poids dans les matrices de poids V et W ont été remplacés par les valeurs de conductance de l'appareil. Nous avons utilisé I _j (j = 1, 2, 3⋯120) pour représenter 120 valeurs de conductance obtenues après 120 cycles, et nous avons effectué une transformation linéaire des valeurs de conductance d'origine afin que la plage de conductance soit cohérente avec la plage de poids, qui a été donnée par :

Réalisation de la reconnaissance faciale. un Courbe de taux de reconnaissance à différents nombres de neurones cachés (32, 64, 128 et 256). b Courbe de taux de reconnaissance à 256 neurones cachés ; le taux de reconnaissance atteint 100 % après près de 600 époques de test d'entraînement. c La distribution des valeurs de poids après 10 à 90 (par étapes de 20) périodes d'entraînement. d La distribution des valeurs de poids après 100 à 600 (par pas de 100) périodes d'entraînement. e Taux de reconnaissance après le remplacement ; les valeurs de poids ont été remplacées après 100~500 époques d'entraînement (par étapes de 100)

où C _j représente la valeur pondérale après la transformation linéaire. Dans le cas de 600 cycles, les coefficients de transformation linéaire étaient A = 1,3769 × 10 ¹⁰ et B =  − 65.784. Ensuite, nous avons soustrait chaque C _j de chaque valeur de poids et a remplacé la valeur de poids par C _j qui avait la plus petite valeur absolue après soustraction ; à savoir, nous avons calculé min|V _mn − C _j |, min|W _nk − C _j | et remplacé chaque valeur de poids par le C correspondant _j . De cette façon, nous avons obtenu de nouveaux V et W matrices de poids dans lesquelles toutes les valeurs de poids ont été remplacées par C _n . Ensuite, nous avons utilisé nos nouvelles matrices de poids dans les tests ANN, et le taux de reconnaissance de l'ANN de 100 % a été atteint, ce qui a prouvé que nos 120 états de conductance pouvaient parfaitement être utilisés comme valeurs de poids dans l'ANN. Aux fins d'une analyse plus approfondie, nous avons remplacé les valeurs de poids après 100 à 500 cycles d'entraînement (par étapes de 100), et les résultats d'identification obtenus après le remplacement sont tout à fait cohérents avec l'original, comme le montre la figure 5d. Cela prouve que ces 120 valeurs actuelles pourraient parfaitement remplacer plus de 10 ⁵ valeurs de poids pour le calcul. En augmentant encore le nombre d'impulsions de grille, plus d'états de conductance pourraient être obtenus, ce qui a prouvé que notre ReS₂ l'appareil pourrait être utilisé dans un système de réseau neuronal à grande échelle.

Conclusions

Dans ce travail, nous introduisons un empilement diélectrique high-k basé sur 2D ReS₂ dispositif synaptique et démontrent certains comportements synaptiques fondamentaux tels que la potentialisation à long terme et la dépression à long terme. Les résultats montrent que notre ReS₂ l'appareil peut bien simuler les performances synaptiques. En outre, un ANN est construit pour prouver l'application du dispositif proposé dans les réseaux de neurones artificiels. En appliquant 120 impulsions de tension de grille périodiques, 120 états de conductance efficaces et clairement distingués sont obtenus, et ils sont utilisés pour remplacer plus de 10 ⁵ poids dans l'ANN pour la reconnaissance faciale. Le taux de reconnaissance de 100 % est atteint après remplacement. Cet excellent résultat démontre que notre ReS₂ synapse peut être utilisé pour construire un réseau de neurones artificiels.

Disponibilité des données et des matériaux

Les auteurs déclarent que les matériaux, les données et les protocoles associés sont à la disposition des lecteurs, et toutes les données utilisées pour l'analyse sont incluses dans cet article.

Abréviations

2D :

Deux dimensions

ALD :

Dépôt de couche atomique

ANN :

Réseau de neurones artificiels

LTD :

Dépression à long terme

LTP :

La potentialisation à long terme