Un outil d'IA prédit avec précision la vitesse d'exécution des puces, surpassant le modèle d'Intel

Un nouvel outil d'apprentissage automatique prédit le temps qu'un processeur met à exécuter un code spécifique.

Il est plus précis que le propre modèle de prédiction d'Intel.

L'importance de la prédiction de performance

Déterminer le nombre de cycles d'horloge qu'un processeur prend pour exécuter un bloc d'instructions en assemblage en régime permanent est crucial pour les ingénieurs en performance et les concepteurs de compilateurs.

Développer un modèle analytique pour ce faire est une tâche extrêmement complexe, surtout dans les architectures de processeurs modernes où la tâche devient plus sujette aux erreurs et doit être reprise à zéro pour chaque nouvelle génération de processeurs.

Des chercheurs du MIT ont désormais construit un outil d'apprentissage automatique qui automatise ce processus, le rendant plus rapide, plus facile et plus précis que les outils manuscrits de pointe utilisés dans les analyseurs de code machine statiques et les backends de compilateurs.

Trois articles de conférence décrivent ce pipeline

1. Ithemal : Un modèle de réseau neuronal est entraîné sur des blocs de base étiquetés (blocs d'instructions de calcul). Il prédit ensuite le temps qu'un microprocesseur met à exécuter des blocs de base non traités.

2. BHive : Pour valider Ithemal, les chercheurs ont créé une suite de référence de blocs de base issus de divers domaines : cryptographie, compilateurs, apprentissage automatique et graphismes. Ils ont rassemblé plus de 300 000 blocs dans BHive, un jeu de données open source.

Les tests ont montré qu'Ithemal prédisait la vitesse d'exécution du code sur les processeurs Intel plus précisément que le modèle de performance développé par Intel lui-même.

3. Vemal : Les chercheurs ont construit une nouvelle méthode pour créer automatiquement un algorithme nommé Vemal qui transforme du code spécifique en vecteurs pour le calcul parallèle.

Vemal surpasse les algorithmes de vectorisation artisanaux utilisés dans les compilateurs industriels, y compris le compilateur LLVM.

Utiliser les données au lieu de la documentation de la puce

Intel fournit une documentation détaillée sur l'architecture de ses puces. Mais seuls certains développeurs experts créent des modèles de performance pour simuler l'exécution du code sur ces architectures. Et comme ces puces sont propriétaires, Intel omet certaines informations dans sa documentation.

Les chercheurs ont plutôt mesuré le nombre moyen de cycles qu'une puce met à exécuter des instructions de blocs de base (exécuter une commande spécifique, éteindre, redémarrer) en utilisant un réseau neuronal.

Source : MIT

Le réseau neuronal profile automatiquement des millions de blocs et apprend progressivement comment différentes architectures de processeurs exécutent le code. En termes simples, les chercheurs ont utilisé un modèle d'IA pour analyser des données sans se concentrer sur la documentation de la puce.

Ithemal prend des blocs de base inédits en entrée et génère un nombre unique indiquant le temps qu'un processeur donné mettra à exécuter ce code.

Dans le second article, les chercheurs ont démontré qu'Ithemal surpasse les modèles artisanaux conventionnels. Alors que le taux d'erreur du modèle de prédiction d'Intel était de 20 %, celui d'Ithemal n'était que de 10 % sur divers blocs de base à travers différents domaines.

Le modèle peut être facilement entraîné sur de nouvelles architectures : il suffit de collecter plus de données sur cette puce, de les faire passer par le profileur et d'utiliser ces informations pour entraîner Ithemal. Le modèle est alors prêt à estimer les performances. Il peut apprendre les vitesses d'exécution pour toute architecture de processeur, y compris la nouvelle Tensor Processing Unit de Google.

Cependant, les chercheurs ne savent toujours pas comment ce modèle fait ses prédictions, car une grande partie de l'apprentissage automatique reste une « boîte noire ». Dans la prochaine étude, ils exploreront des techniques pour interpréter ces modèles.