Un véhicule autonome devrait-il tuer le piéton ou le passager ?

• Les chercheurs conçoivent une expérience pour recueillir un point de vue humain sur les décisions morales prises par l'intelligence artificielle.
• Ils ont analysé des millions de réponses humaines et ont révélé à quel point l'éthique varie d'une culture à l'autre.

Nous entrons dans une ère où les machines sont chargées non seulement de minimiser les dommages, mais aussi de répartir les dommages qu'elles ne peuvent pas éliminer. La répartition des dommages (ainsi que le bien-être créé par la machine) crée généralement des compromis, dont la résolution relève du domaine moral.

Considérez une situation où un véhicule autonome est sur le point de s'écraser et ne peut pas évaluer un chemin qui sauverait tout le monde. Dans de tels cas, les véhicules devront décider comment répartir équitablement le risque de dommages entre les différentes personnes sur la route. Ces dilemmes moraux ne peuvent être résolus par aucune loi de la robotique ou des principes éthiques humains.

En 2014, des chercheurs du MIT ont conçu une expérience nommée Moral Machine pour recueillir un point de vue humain sur les décisions morales prises par des machines équipées d'IA, telles que les voitures autonomes. Jusqu'à présent, l'expérience a reçu plus de 40 millions de réponses du monde entier. Cela offre des informations précieuses sur les priorités éthiques collectives de diverses cultures.

La machine morale teste 13 scénarios différents dans lesquels les gens décident quel véhicule autonome doit donner la priorité :

• Plus de vies pour moins
• Les hommes plutôt que les femmes
• les humains plutôt que les animaux de compagnie
• jeune plus vieux
• un statut social supérieur à un statut inférieur
• fit over malsain
• un suiveur de loi contre un contrevenant

Les chercheurs ont analysé toutes les réponses et ont révélé comment l'éthique humaine varie en fonction de l'emplacement géographique, de l'économie et de la culture.

Ils ont constaté que différents pays ont des préférences différentes. Par exemple, les personnes issues de cultures collectivistes comme le Japon et la Chine sont plus susceptibles d'épargner les personnes âgées que les jeunes. Alors que les pays avec des cultures plus individualistes sont moins susceptibles d'épargner les anciens.

Référence :Nature | DOI :10.1038/s41586-018-0637-6 | Machine morale 

De même, les personnes issues de cultures individualistes, comme les États-Unis et le Royaume-Uni, ont tendance à épargner plus de vies étant donné tous les autres choix. Les habitants des pays en développement dotés d'institutions plus faibles sont plus tolérants envers les piétons qui marchent sur des trottoirs que les piétons qui traversent légalement.

La préférence pour les personnages de statut supérieur est beaucoup moins prononcée pour les pays de l'Est (Japon, Taïwan, Arabie saoudite, Indonésie) et beaucoup plus élevée pour les pays du Sud (Amérique centrale et du Sud, France).

Les pays de l'Ouest et de l'Est affichent une préférence beaucoup plus élevée pour épargner les humains que les animaux de compagnie, par rapport aux pays du Sud.

Restrictions

Malgré la grande taille de l'échantillon, l'étude présente de nombreuses limites. Par exemple, les chercheurs n'ont pas pris en compte l'incertitude sur le destin des personnages. Tous les personnages ont été reconnus comme des enfants et des adultes avec une certitude de 100 %, et leurs issues de vie et de mort ont été estimées avec une certitude de 100 %.

Ils n'ont pas non plus introduit le facteur de relation hypothétique (par exemple, les conjoints et les parents) entre les répondants et les personnages. Bien que ces hypothèses soient tout à fait irréalistes, elles étaient nécessaires pour que l'expérience reste réalisable.

Lisez : Les véhicules autonomes ont du mal à détecter les piétons à la peau foncée

Nous ne parvenons peut-être pas à un accord universel, mais ces résultats peuvent être utilisés par les entreprises technologiques et les constructeurs automobiles pour mieux comprendre comment le public réagirait à l'éthique de différentes décisions de conception et de politique.