Qui les voitures autonomes doivent-elles sacrifier : piétons ou passagers ?

Des chercheurs conçoivent une expérience pour recueillir une perspective humaine sur les décisions morales prises par l'intelligence artificielle. Ils ont analysé des millions de réponses humaines et révélé à quel point l'éthique varie selon les cultures.

Nous entrons dans une ère où les machines sont chargées non seulement de minimiser les dommages mais aussi de distribuer les dommages qu'elles ne peuvent pas éliminer. La distribution des dommages (ainsi que le bien-être que la machine crée) crée généralement des compromis, dont la résolution relève du domaine moral.

Considérez une situation où un véhicule autonome est sur le point de s'écraser et ne peut pas évaluer un chemin qui sauverait tout le monde. Dans de tels cas, les véhicules devront décider comment répartir équitablement le risque de dommages entre différentes personnes sur la route. Ces dilemmes moraux ne peuvent pas être résolus par aucune loi de la robotique ou principes éthiques humains.

En 2014, des chercheurs du MIT ont conçu une expérience nommée Moral Machine pour recueillir une perspective humaine sur les décisions morales prises par des machines équipées d'IA, comme les voitures autonomes. Jusqu'à présent, l'expérience a reçu plus de 40 millions de réponses du monde entier. Cela offre des informations précieuses sur les priorités éthiques collectives de diverses cultures.

La Moral Machine teste 13 scénarios différents où les gens décident ce que le véhicule autonome devrait prioriser :

• Plus de vies plutôt que moins
• Hommes plutôt que femmes
• Humains plutôt que animaux de compagnie
• Jeunes plutôt que vieux
• Statut social plus élevé plutôt que plus bas
• En forme plutôt que malade
• Respectueux de la loi plutôt que contrevenant

Les chercheurs ont analysé toutes les réponses et révélé comment l'éthique humaine varie sur la base de la localisation géographique, de l'économie et de la culture.

Ils ont trouvé que différents pays ont des préférences différentes. Par exemple, les gens des cultures collectivistes comme le Japon et la Chine sont plus susceptibles d'épargner les vieux plutôt que les jeunes. Alors que les pays avec des cultures plus individualistes sont moins susceptibles d'épargner les vieux.

Référence : Nature | DOI:10.1038/s41586-018-0637-6 | Moral Machine

De même, les gens des cultures individualistes, comme les États-Unis et le Royaume-Uni, ont tendance à épargner plus de vies toutes choses égales par ailleurs. Les gens des pays en développement avec des institutions plus faibles sont plus tolérants envers les piétons qui traversent hors des passages cloutés versus ceux qui traversent légalement.

La préférence pour épargner les personnages de statut supérieur est beaucoup moins prononcée pour les pays de l'Est (Japon, Taïwan, Arabie Saoudite, Indonésie), et beaucoup plus élevée pour les pays du Sud (Amérique centrale et du Sud, France).

Les pays occidentaux et orientaux exhibent une préférence beaucoup plus élevée pour épargner les humains plutôt que les animaux de compagnie, comparés aux pays du Sud.

Limitations

Malgré la grande taille d'échantillon, l'étude a de nombreuses limitations. Par exemple, les chercheurs n'ont pas considéré l'incertitude sur le sort des personnages. Tous les personnages étaient reconnus comme enfants et adultes avec 100 % de certitude, et leurs résultats de vie et de mort étaient estimés avec 100 % de certitude.

Ils n'ont pas non plus introduit le facteur de relation hypothétique (par exemple, conjoints et parents) entre les répondants et les personnages. Bien que ces hypothèses soient assez irréalistes, elles étaient nécessaires pour garder l'expérience traitable.

Nous pourrions ne pas atteindre un accord universel mais ces résultats peuvent être utilisés par les entreprises technologiques et les fabricants de voitures pour mieux comprendre comment le public réagirait à l'éthique de différentes décisions de conception et de politique.