Les véhicules autonomes ont du mal à détecter les piétons à la peau foncée

• Les voitures autonomes sont 5 % moins précises pour détecter les personnes à la peau foncée.
• Cela se produit parce que la majorité des algorithmes de détection d'objets ont été principalement entraînés sur des ensembles de données contenant des images de personnes blanches.

Les modèles d'apprentissage automatique ont commencé à trouver leur place dans notre vie de tous les jours. Le domaine de la conduite autonome, en particulier, est passé de « peut-être possible » à « maintenant disponible dans le commerce » au cours de la dernière décennie.

Cependant, ces progrès dans les systèmes automatisés ont suscité de nombreuses inquiétudes concernant les voitures autonomes ces dernières années, et il semble que la liste des préoccupations ne fait que s'allonger. En plus de se soucier de leur sécurité et de leur capacité à surmonter les obstacles sur les routes, il est également nécessaire de se demander si les véhicules autonomes peuvent nuire aux personnes de couleur.

Aujourd'hui, des chercheurs du Georgia Institute of Technology ont mené une étude dans laquelle ils ont conclu que les algorithmes utilisés dans les systèmes de conduite autonome sont 5 % moins précis pour détecter les piétons à la peau foncée.

Taux d'erreur plus élevés pour certains groupes démographiques que d'autres

L'équipe a commencé par étudier la précision des modèles de détection d'objets de pointe qui sont principalement utilisés dans les véhicules autonomes. Ils voulaient savoir comment ces modèles détectent exactement les personnes de différents groupes démographiques.

Ils ont analysé un énorme ensemble de données contenant des images de piétons et divisé les personnes en fonction de leur teint. Ils ont ensuite examiné la fréquence à laquelle ces modèles identifiaient avec précision la présence de personnes dans le groupe à peau foncée ainsi que de personnes dans le groupe à peau claire.

Référence :arXiv:1902.11097 | Institut de technologie de Géorgie

Les chercheurs ont découvert que ces modèles étaient en moyenne 5 % moins précis pour détecter les groupes à peau foncée. Cette incohérence est restée la même même après avoir ajusté quelques paramètres cruciaux comme la vue souvent obstruée des piétons et l'heure de la journée sur les images.

L'étude ne considère que les modèles utilisés à des fins de recherche, qui sont formés sur des ensembles de données accessibles au public. Il n'a analysé aucun modèle réellement utilisé par les véhicules commerciaux autonomes. Cependant, cela ne signifie pas que les résultats sont inestimables :des études comme celles-ci fournissent des informations solides sur les défauts et les risques réels.

Raisons derrière les algorithmes biaisés/racistes

Ce n'est pas la première fois que quelqu'un publie un rapport sur les algorithmes biaisés. L'année dernière, une étude a révélé que 3 systèmes de reconnaissance faciale développés par des géants de la technologie (Microsoft, IBM et Megvii) étaient susceptibles d'identifier de manière erronée le sexe des personnes à la peau foncée plus souvent que celui des personnes à la peau claire.

Crédit image :Iyad Rahwan

Étant donné que les modèles d'intelligence artificielle, en particulier les algorithmes d'apprentissage automatique et d'apprentissage en profondeur, apprennent à partir des ensembles de données d'entraînement dont ils sont alimentés, si vous ne fournissez pas suffisamment de données, ces modèles ne fonctionneront pas avec précision lorsqu'ils seront déployés dans le monde réel.

Il en va de même pour les voitures autonomes :les algorithmes de détection d'objets ont été principalement entraînés sur des ensembles de données contenant des images de personnes blanches. De plus, ces algorithmes n'ont pas accordé beaucoup d'importance à l'apprentissage à partir d'ensembles de données limités (personnes à la peau foncée).

Lire :Une nouvelle IA pour les véhicules autonomes peut prédire les mouvements des piétons

Les chercheurs pensent que ces modèles peuvent être améliorés en incluant des exemples racialement divers et en mettant davantage l'accent sur des exemples limités pendant la formation.