Les voitures autonomes peinent à détecter les piétons à peau foncée — Pourquoi le biais dans les données d'entraînement est important

Les modèles d'apprentissage automatique ont commencé à trouver leur place dans notre vie quotidienne. Le domaine de la conduite autonome, en particulier, est passé de « peut-être possible » à « maintenant commercialement disponible » au cours de la dernière décennie.

Taux d'erreur plus élevés pour certains groupes démographiques

L'équipe a commencé par enquêter sur la précision des modèles de détection d'objets à la pointe de la technologie qui sont principalement utilisés dans les véhicules autonomes. Ils voulaient découvrir comment exactement ces modèles détectent les personnes de différents groupes démographiques.

Ils ont analysé un ensemble de données massif contenant des photos de piétons et ont divisé les personnes en fonction de leur teint de peau. Ils ont ensuite examiné à quelle fréquence de tels modèles identifiaient précisément la présence de personnes dans le groupe à peau foncée ainsi que dans le groupe à peau claire.

Référence : arXiv:1902.11097 | Georgia Institute of Technology

Les chercheurs ont découvert que ces modèles étaient 5 % moins précis, en moyenne, pour détecter le groupe à peau foncée. Cette incohérence est restée la même même après l'ajustement de quelques paramètres cruciaux comme la vue fréquemment obstruée des piétons et l'heure de la journée sur les photos.

L'étude ne considère que les modèles utilisés à des fins de recherche, qui sont entraînés sur des ensembles de données accessibles au public. Elle n'a pas analysé de modèle utilisé réellement par des véhicules autonomes commerciaux. Cependant, cela ne signifie pas que les résultats sont sans valeur : des études comme celles-ci fournissent de forts aperçus sur les vrais défauts et risques.

Raisons derrière les algorithmes biaisés/racistes

Ce n'est pas la première fois que quelqu'un publie un rapport sur les algorithmes biaisés. L'année dernière, une étude a révélé que 3 systèmes de reconnaissance faciale développés par des géants de la technologie (Microsoft, IBM et Megvii) étaient susceptibles d'identifier incorrectement le genre des personnes à peau foncée plus souvent que les personnes à peau claire.

Crédit image : Iyad Rahwan

Puisque les modèles d'intelligence artificielle — en particulier les algorithmes d'apprentissage automatique et d'apprentissage profond — apprennent à partir des ensembles de données d'entraînement qu'on leur donne, si vous ne fournissez pas assez de variété de données, ces modèles ne fonctionneront pas avec précision lorsqu'ils seront déployés dans le monde réel.

La même chose vaut pour les voitures autonomes : les algorithmes de détection d'objets ont été principalement entraînés sur des ensembles de données contenant des images de personnes blanches. De plus, ces algorithmes n'ont pas accordé beaucoup d'importance à l'apprentissage à partir d'ensembles de données limités (personnes aux teints de peau foncés).

Les chercheurs pensent que ces modèles peuvent être améliorés en incluant des exemples racialement divers et en accordant plus d'importance aux exemples limités pendant l'entraînement.