Google AI génère un code qui surpasse les programmeurs humains

En mai 2017, Google Brain Team a annoncé une nouvelle approche appelée AutoML. Il s’agit d’un réseau neuronal de contrôleur permettant de développer une architecture de modèle enfant, qui peut être entraîné pour effectuer une tâche particulière. En termes simples, c'est une IA capable de générer sa propre IA.

L'ensemble de données utilisé

Les chercheurs de Google ont testé AutoML sur de petits ensembles de données académiques tels que Penn Treebank et CIFAR-10. Plus tard, ils ont décidé de présenter à AutoML son défi le plus difficile à ce jour. Cette fois, ils ont testé des ensembles de données plus volumineux, tels que la détection d'objets COCO et la classification d'images ImageNet, et le résultat obtenu était étonnant.

Plusieurs architectures d'apprentissage automatique de pointe ont été développées par des humains pour travailler sur des ensembles de données plus volumineux dans le cadre de concours universitaires. Dans Learning Transferable Architectures for Scalable Image Recognition, les chercheurs de Google ont appliqué AutoML à deux des ensembles de données universitaires les plus populaires :COCO et ImageNet. Si vous appliquez AutoML de manière native à ces ensembles de données volumineux, il faudrait plusieurs mois de formation pour obtenir le résultat souhaité.

Comment ça marche ?

AutoML repose sur des algorithmes d'apprentissage par renforcement et des algorithmes évolutifs. Cependant, pour l'appliquer à ImageNet, les chercheurs l'ont modifié pour qu'il soit plus traitable aux ensembles de données à grande échelle –

1. Refonte de l'espace de recherche pour lui permettre de trouver la meilleure couche, qui peut être empilée plusieurs fois de manière flexible pour créer un réseau final
2. La recherche d'architecture est effectuée sur CIFAR-10 et la meilleure architecture apprise est transmise à la détection d'objets COCO et à l'architecture d'image ImageNet.

Après ces changements, AutoML a pu trouver les meilleures couches non seulement pour CIFAR-10, mais également pour la détection d'objets COCO et la classification ImageNet. Ces 2 couches sont fusionnées pour construire une nouvelle architecture, appelée NASNet. .

Comme le montre la figure, l'architecture NASNet (développée par AutoML) contient 2 types de couches :la couche normale et la couche de réduction.

Source :Blog de recherche Google

Résultats

NASNet a atteint 82,7 % de précision de prédiction sur la classification d'images ImageNet, ce qui est bien meilleur que les modèles de création précédents construits par l'équipe Google Brain. En outre, ses résultats sont supérieurs de 1,2 % aux résultats précédents, publiés et non publiés.

NASNet peut également être redimensionné pour générer un ensemble de modèles atteignant des taux de précision décents tout en maintenant de faibles coûts de calcul. Par exemple, une petite version de NASNet donne une précision de 74 % (tout en réduisant de moitié le coût de calcul), soit plus de 3 % de mieux que plusieurs modèles de pointe de même taille, conçus pour les plates-formes mobiles.

Comme vous pouvez le voir sur les figures, les précisions NASNet sont supérieures à celles des modèles inventés par l'homme pour de nombreuses tailles de modèle, impliquant un nombre différent (en millions) d'opérations et de paramètres, pour la classification des images ImageNet.

Ce tableau montre les performances de la recherche d'architecture et d'autres modèles développés par l'homme sur la classification ImageNet. Mult-Adds fait référence au nombre d'opérations composites de multiplication-accumulation pour une image.

Détection d'objets à l'aide de Faster-RCNN avec NASNet

Les chercheurs de Google ont transféré les fonctionnalités apprises d'ImageNet à la détection d'objets COCO. Lors des tests, l'intégration des fonctionnalités apprises d'ImageNet avec le framework Faster RCNN a éclipsé les performances prédictives précédentes sur le COCO. Le plus grand modèle a atteint 43,1 % de mAP, soit environ 4 % de mieux que les résultats antérieurs des modèles de pointe.

Référence : arxiv.org

Le code source de NASNet pour l'inférence sur la classification d'images et pour la détection d'objets est disponible sur le Github.

Quelle est la prochaine étape ?

Les fonctionnalités apprises par NASNet sur COCO et ImageNet peuvent être réutilisées pour plusieurs applications de vision. De plus, cette approche peut nous apprendre pourquoi certains types de réseaux neuronaux fonctionnent si bien.

AutoML pourrait ouvrir le domaine de l’apprentissage automatique aux non-experts et pourrait être utilisé pour développer des machines/robots sophistiqués alimentés par l’IA. Selon une étude, l'IA à ce niveau d'intelligence peut aider les personnes malvoyantes à retrouver la vue.

Évidemment, cette architecture peut être utilisée dans les voitures autonomes. Vous pouvez également imaginer le système aidant à identifier la circulation, les dangers routiers et les piétons. Il pourrait également être utilisé en réalité augmentée pour permettre aux applications de mieux interagir avec l'environnement. Mais les applications les plus intrigantes de cette IA restent peut-être encore à découvrir.

Lire :15 projets d'intelligence artificielle avancés

À l’avenir, l’équipe de recherche de Google travaillera sur l’analyse et le test de ces types d’architectures générées par ordinateur afin de les affiner et de mieux les comprendre. S'ils réussissent, ils pourraient inspirer un tout nouveau type de réseaux neuronaux, qui auraient un plus grand impact sur tout le monde.