L'IA prédit à quelle vitesse les puces informatiques exécuteront le code

• Le nouvel outil d'apprentissage automatique prédit le temps nécessaire à une puce informatique donnée pour exécuter un code spécifique.
• Il est plus précis que le modèle de prédiction d'Intel.

Déterminer le nombre de cycles d'horloge nécessaires à un processeur pour exécuter un bloc d'instructions d'assemblage en régime permanent est crucial à la fois pour les ingénieurs de performances et les concepteurs de compilateurs.

Développer un modèle analytique pour ce faire est une tâche extrêmement compliquée, en particulier dans les architectures de processeurs modernes où la tâche devient plus sujette aux erreurs et doit être effectuée à partir de zéro pour chaque génération de processeur.

Désormais, les chercheurs du MIT ont conçu un outil d'apprentissage automatique qui automatise ce processus, le rendant plus rapide, plus facile et plus précis que les outils manuscrits de pointe actuellement utilisés dans les analyseurs de code machine statiques et les backends de compilateur.

Ils ont décrit ce nouveau pipeline d'apprentissage automatique dans trois articles de conférence :

1. Ithémal :un modèle de réseau de neurones est formé sur des blocs de base de données étiquetées (blocs d'instructions de calcul). Il prédit ensuite combien de temps un microprocesseur donné met à exécuter des blocs de base non traités.

2. BHive :pour valider Ithemal, les chercheurs ont créé une suite de blocs de base de référence dans différents domaines, tels que la cryptographie, les compilateurs, l'apprentissage automatique et les graphiques. Ils ont rassemblé plus de 300 000 blocs et les ont placés dans BHive, un ensemble de données open source.

Les tests ont montré qu'Ithemal était capable de prédire à quelle vitesse les processeurs Intel exécuteraient le code avec plus de précision que le modèle de performance développé par Intel lui-même.

3. Vemal :les chercheurs ont conçu une nouvelle méthode pour créer automatiquement un algorithme nommé Vemal qui transforme un code spécifique en vecteurs afin qu'il puisse être poursuivi pour du calcul parallèle.

Vemal fonctionne mieux que les algorithmes de vectorisation fabriqués à la main utilisés dans les compilateurs industriels, y compris le compilateur LLVM.

Utiliser des données au lieu de la documentation de la puce

Intel fournit une documentation détaillée pour expliquer l'architecture de sa puce. Mais seuls certains développeurs experts créent des modèles de performances pour simuler l'exécution de code sur ces architectures. Et comme ces puces sont propriétaires, Intel omet certaines informations dans les documentations.

Ce que les chercheurs ont fait, c'est qu'ils ont cadencé le nombre moyen de cycles qu'une puce prend pour exécuter des instructions de bloc de base (telles que l'exécution d'une commande spécifique, l'arrêt et le redémarrage), à ​​l'aide d'un réseau de neurones.

Source :MIT 

Le réseau de neurones profile automatiquement des millions de blocs et apprend progressivement comment différentes architectures de processeur exécutent le code. En termes simples, les chercheurs ont utilisé un modèle d'intelligence artificielle pour analyser les données sans se concentrer sur la documentation de la puce.

Ithemal prend des blocs de base invisibles en entrée et génère un nombre unique suggérant combien de temps un processeur donné mettra pour exécuter ce code.

Dans le deuxième article, les chercheurs ont démontré qu'Ithemal fonctionne mieux que les modèles traditionnels fabriqués à la main. Alors que le taux d'erreur du modèle de prédiction d'Intel était de 20 %, le taux d'erreur d'Ithemal était de 10 % sur divers blocs de base dans différents domaines.

Le modèle peut être facilement entraîné sur de nouvelles architectures :il suffit de collecter plus de données à partir de cette puce, de les exécuter via le profileur et d'utiliser ces informations pour entraîner Ithemal. C'est ça; le modèle est maintenant prêt à estimer les performances. Il peut apprendre les vitesses de performances pour n'importe quelle architecture de processeur, y compris la nouvelle unité de traitement Tensor de Google.

À lire : Facebook crée "SapFix" :un outil d'IA qui débogue le code

Cependant, les chercheurs ne savent toujours pas comment ce modèle fait des prédictions, car une grande partie de l'apprentissage automatique est une boîte noire. Dans la prochaine étude, ils essaieront d'explorer des techniques qui pourraient interpréter ces modèles.