Qu'est-ce que le Deep Learning ?

Le film d'Arnold Schwarzenegger de 1990 Total Recall dépeint une histoire en 2084, près d'un siècle dans le futur. L'avenir aura des voitures autonomes, selon le film. C'était de la science-fiction en 1990 mais une réalité aujourd'hui. Apple, Alphabet, Nissan, Uber et bien d'autres encore travaillent sur des voitures autonomes. Tesla vend des voitures autonomes fonctionnelles aux consommateurs finaux, qui semblent bien fonctionner.

Qu'est-ce qui a fait de la science-fiction une réalité en seulement trois décennies ? La réponse est l'apprentissage en profondeur.

De l'intelligence artificielle à l'apprentissage en profondeur

Héphaïstos, le dieu grec du feu et du travail des métaux, a créé des robots et des machines en or. Dès le Turc mécanique dans les années 1770, les humains ont développé des engins qui imitent l'intelligence humaine. Bien que les Turcs mécaniques aient été des tromperies, des ordinateurs plus tardifs capables de vaincre les humains ont été développés à la fin du 20ème siècle. Tous ces efforts visaient à créer des systèmes pouvant imiter le cerveau humain.

Figure 1. Une coupe transversale du Turc. Image utilisée avec l'aimable autorisation de Bibliothèque universitaire Humboldt

L'intelligence artificielle (IA) est le terme donné à tout système informatique qui tente d'imiter le cerveau humain. La machine de Turing d'Alan Turing était un système d'IA primitif qui utilisait la logique pour trouver des solutions.

L'apprentissage automatique (ML) est un sous-ensemble de l'IA qui utilise des modèles pour effectuer des tâches. Ces modèles sont entraînés avec une grande quantité de données. Deep Blue, l'ordinateur qui a battu le champion du monde d'échecs Garry Kasparov en 1997, est un exemple de ML.

L'apprentissage en profondeur est à nouveau un sous-ensemble du ML où les modèles apprennent à partir des données sans aucune supervision humaine. Les systèmes d'apprentissage profond sont donc capables d'apprendre sans supervision des données non structurées.

Apprentissage approfondi :comment ça marche ?

L'apprentissage en profondeur s'inspire de la structure du cerveau humain qui constitue les neurones qui transmettent et traitent l'information. Les structures utilisées dans l'apprentissage en profondeur sont appelées réseaux de neurones artificiels (ANN). Les ANN peuvent identifier et classer les informations sans supervision humaine et sont dits capables d'apprentissage non supervisé. Cela nécessite un volume de données beaucoup plus important que le ML conventionnel, qui utilise l'apprentissage supervisé.

Les ANN sont constitués de plusieurs couches de la couche d'entrée à la couche de sortie, à travers lesquelles les données passent. Les couches restantes autres que les couches d'entrée et de sortie sont appelées couches cachées. La première couche d'ANN, ou couche d'entrée, est constituée de neurones. Les neurones d'un ANN sont des fonctions mathématiques qui représentent étroitement un neurone humain.

Figure 2. Concept de couche d'entrée et de sortie ANN.

La transmission d'informations à travers différentes couches se fait par des canaux de connexion. Chaque nœud des couches d'ANN est connecté à chaque nœud de la couche suivante avec ces canaux. Chaque canal a une valeur qui lui est attachée, appelée son poids ; par conséquent, les canaux sont appelés canaux pondérés.

Tous les neurones des couches cachées ont un numéro unique qui leur est associé appelé biais. L'information passe d'une couche au canal suivant, en prenant les poids associés aux canaux. Lorsqu'il atteint le neurone de la couche suivante, le biais est ajouté à la somme pondérée des entrées.

Le résultat de cette opération mathématique est transmis à la fonction d'activation. La fonction d'activation décide si le neurone doit être actif ou non. Ceci est fait en appliquant la fonction d'activation non linéaire au résultat obtenu en ajoutant un biais aux sommes pondérées des canaux. Les fonctions d'activation ajoutent de la non-linéarité à la sortie d'un neurone.

Seuls les neurones actifs après l'application de la fonction d'activation peuvent envoyer des informations à la couche suivante. Cela continue jusqu'à la couche finale, la couche de sortie. Les poids des canaux et des biais des neurones dans les couches cachées sont constamment ajustés pour recevoir un modèle bien entraîné.

Certains des frameworks d'apprentissage en profondeur les plus populaires sont :

• Tensorflow par Google
• PyTorch par Facebook
• Caffe by UC Berkeley
• Ensemble d'outils cognitifs Microsoft
• OpenAI

Données pour l'apprentissage en profondeur

Les données sont la matière première du deep learning. Théoriquement, toute quantité de données améliore les modèles. Mais compte tenu de l'effort de collecte de données, du temps de formation requis et de la puissance de calcul requise pour former des modèles, la quantité de données pour l'apprentissage en profondeur ne peut pas être infinie. À l'inverse, trop peu de données ne produiront pas un modèle d'apprentissage en profondeur fiable.

Il n'y a pas de règle absolue pour la quantité de données requises pour former un modèle réussi. Cela dépend principalement du résultat des modèles entraînés. Si les modèles ne sont pas suffisamment fiables, davantage de données sont nécessaires. Il existe quelques règles empiriques pour les données minimales requises pour former des modèles d'apprentissage en profondeur.

• Au moins 20 points de données pour les prédictions avec analyse de régression
• Au moins 1 000 images pour classification avec vision par ordinateur

Ce sont deux heuristiques pour ces applications plus courantes avec un apprentissage en profondeur. Les ingénieurs de données préconisent des règles similaires pour différentes applications. Comme pour toutes les règles empiriques, celles-ci ne sont pas parfaites et devraient être modifiées en fonction de l'application spécifique.

Applications industrielles de l'apprentissage en profondeur

Il existe de nombreuses applications industrielles pour l'apprentissage en profondeur. Passons en revue certains d'entre eux.

Véhicules autonomes

Les voitures autonomes sont désormais vendues aux consommateurs, mais elles ont également de nombreuses applications industrielles. La conduite autonome peut être intégrée aux dispositifs de transport utilisés dans les usines; par exemple, les véhicules guidés autonomes (AGV) peuvent devenir entièrement autonomes. Cela élimine le besoin de travail manuel dans de telles tâches tout en améliorant la sécurité et l'efficacité.

Figure 3. Un AGV utilisé dans un entrepôt logistique.

Vision par ordinateur

Les ordinateurs classent et reconnaissent les objets à partir d'images. Parfois, la vision par ordinateur fait partie des véhicules autonomes, mais elle a de nombreuses autres utilisations dans les applications industrielles. La vision par ordinateur peut automatiser le tri des objets. Les systèmes assistés par vision par ordinateur peuvent effectuer des inspections de qualité. Il peut également automatiser la surveillance des locaux de l'usine et des processus industriels.

Gestion de la chaîne d'approvisionnement

La chaîne d'approvisionnement d'une entreprise est un système complexe qui englobe plusieurs fournisseurs, fournisseurs, zones géographiques et réglementations. Gérer manuellement un énorme volume de trafic de marchandises est une tâche impossible. L'apprentissage en profondeur peut être utilisé pour maintenir une chaîne d'approvisionnement saine en analysant de gros volumes de données générées à l'aide d'appareils IoT (Internet des objets) dans la chaîne d'approvisionnement.

Applications médicales

L'apprentissage en profondeur a également de nombreuses applications médicales. Il peut être utilisé pour identifier les anomalies à partir des résultats de l'imagerie médicale comme les rayons X, les IRM, etc. Il peut également surveiller la santé du patient avec des dispositifs de surveillance connectés 24 heures sur 24. L'apprentissage en profondeur peut aider à la découverte de médicaments en donnant la combinaison de molécules la plus probable.

L'apprentissage en profondeur a de nombreuses autres applications industrielles dans l'aérospatiale, l'exploration spatiale, l'exploitation minière, la navigation, les systèmes de défense, la cybersécurité, et la liste est longue. L'apprentissage en profondeur est rapidement adopté dans tous les secteurs verticaux de l'industrie et sera bientôt un élément essentiel et incontournable de l'Industrie 4.0.