Découvrir les « angles morts » dans l'IA pour améliorer la sécurité des véhicules autonomes

• Un nouveau modèle basé sur l'apprentissage automatique rend les véhicules sans conducteur plus sûrs.
• Il détecte les cas dans lesquels l'IA peut apprendre à partir d'exemples qui pourraient entraîner des erreurs dangereuses dans le monde réel.

Les progrès récents dans le domaine de l'intelligence artificielle ont rendu les véhicules autonomes et les robots autonomes plus intelligents. Bien qu'encore à ses balbutiements, les voitures sans conducteur deviennent de plus en plus courantes et pourraient transformer radicalement notre système de transport dans les années à venir.

Récemment, des chercheurs du MIT et de Microsoft ont développé un modèle qui peut découvrir les « angles morts » des systèmes autonomes à l'aide de l'intervention humaine. Il identifie les cas où ces systèmes autonomes apprennent (à partir d'exemples de formation ou de simulations) lorsqu'ils pourraient commettre des erreurs dans des environnements réels.

L'IA alimentant les voitures autonomes, par exemple, est largement formée à la simulation pour préparer le véhicule à presque tous les scénarios possibles sur la route. Cependant, le système fait parfois des erreurs dans le monde réel :il ne modifie pas son comportement (là où il le devrait) dans certains scénarios.

Par exemple, si une voiture sans conducteur (sans formation approfondie) roule sur l'autoroute et qu'une ambulance actionne sa sirène, la voiture peut percevoir l'ambulance uniquement comme une grosse voiture blanche et ne peut pas s'arrêter ou céder le passage à l'ambulance ou à toute autre urgence Véhicules.

Les chercheurs veulent combler le fossé entre la simulation et le monde réel en intégrant la contribution humaine et aider les systèmes autonomes à mieux savoir ce qu'ils ne savent pas.

Comment le modèle prend les commentaires humains ?

Le système autonome est initialement formé sur une simulation virtuelle où il mappe chaque situation à la meilleure action. Il est ensuite déployé dans le monde réel, où les humains interrompent le système chaque fois qu'il effectue des actions incorrectes.

Les humains peuvent alimenter les données soit par des corrections, soit par des démonstrations. Pour apporter des corrections, une personne peut s'asseoir sur le siège du conducteur pendant que le véhicule roule lui-même le long d'un itinéraire planifié. Si le système prend des mesures inappropriées, l'humain peut prendre le volant et cela envoie un signal à l'IA qu'il prenait des mesures incorrectes et ce qu'il devrait faire dans cette situation particulière.

Référence : arXiv:1805.08966 | MIT

Alternativement, les humains peuvent entraîner le système en démontrant/conduisant le véhicule dans le monde réel. Le système analyse et compare chaque action humaine à ce qu'elle aurait fait dans cette condition. Chaque discordance (s'il y en a) signale une action inacceptable du système.

Gestion des angles morts

Une fois la formation manuelle terminée, le système dispose essentiellement d'une liste d'actions acceptables et inacceptables. Le but est de détecter les situations ambiguës (ou angles morts) que l'IA a du mal à différencier.

Avec l'aimable autorisation des chercheurs | MIT

Par exemple, le système autonome peut avoir croisé plusieurs fois un gros véhicule sans s'arrêter. Cependant, s'il fait la même chose avec une ambulance (qui apparaît exactement de la même manière à l'IA), il reçoit un signal de retour représentant une action inacceptable.

Pour gérer ce type de situation, l'équipe a utilisé une méthode d'apprentissage automatique connue sous le nom d'algorithme de Dawid-Skene. Il prend tous les angles morts étiquetés comme « acceptables » et inacceptables, les agrège et utilise des calculs de probabilité pour détecter des modèles dans ces étiquettes.

L'algorithme génère ensuite un seul angle mort agrégé ainsi qu'un niveau de confiance pour chaque situation. Il génère également une carte thermique qui montre une probabilité faible à élevée d'être un angle mort pour chaque situation.

Lire :Un nouvel algorithme de véhicule autonome peut changer de voie de manière agressive

Dans le monde réel, si le modèle mappe une situation comme un angle mort avec une forte probabilité, il peut demander à un humain l'action appropriée, permettant une exécution plus sûre. Ce type de modèle peut également aider les robots autonomes à prédire quand ils pourraient entreprendre des actions inappropriées dans de nouvelles conditions.