Développé par le Massachusetts Institute of Technology (MIT), le jeu Moral Machine a pour but de vous mettre à la place d’une voiture sans conducteur. Cette dernière est de plus confrontée à un choix cruel : lors d’un accident, décider de qui trouvera la mort et de qui sera sauvé.
Le décor du jeu Moral Machine est posé : en l’an 2030, vous êtes confortablement installé à l’arrière de votre voiture autonome, alors que le volant et les pédales, toujours présentes, ne vous semblent plus vraiment utiles. Vous ne surveillez d’ailleurs même pas la route, puisque vous êtes complètement immergé dans le dernier jeu pour mobile à la mode.
En premier lieu, vous aviez eu un peu de mal à déléguer la conduite de votre véhicule à l’ordinateur de bord de celle-ci, surtout à grande vitesse, mais vous vous êtes finalement laissé convaincre par le confort apporté et l’argument sécuritaire, par l’absence d’incidents au fil des mois. Petit à petit, vous avez alors intégré l’idée de ne plus être un conducteur.
Un réseau neuronal calcule de nombreuses possibilités afin de prendre des décisions instantanées afin de préserver votre vie. Cependant, un malheureux jour, un enfant traverse imprudemment la route, trop tard pour que votre véhicule ne puisse l’éviter. L’ordinateur de bord l’a compris, et sait également qu’un être humain va mourir. En revanche, en 2016, nous ne savons pas encore quelle personne trouvera la mort dans un tel contexte, autrement dit, nous n’avons tout simplement aucune idée de quel humain sera sauvé (et lequel sera tué) par la simple décision de l’ordinateur de bord.
Le défi de la fonctionnalité des voitures autonomes sera bientôt relevé, mais ce dernier amène un second défi, et celui-ci est encore plus crucial puisqu’il s’agit d’une question touchant à la sécurité publique : quel genre d’éthique doit-on intégrer dans les voitures autonomes ?
Diverses publications et conférences scientifiques commencent à s’intéresser à la question, et tandis que l’IEEE Spectrum cherche du côté des conséquences judiciaires des accidents, le MIT Technology Review s’interroge sur les voitures tueuses de piétons. D’ailleurs, la réalité a déjà accusé quelques accidents de voitures autonomes. Ainsi, le MIT a élaboré le mini-jeu Moral Machine, dans lequel il vous sera tout bonnement demandé de choisir qui va vivre et qui va mourir, en vous mettant dans la peau d’une voiture autonome.
Le jeu intègre une mine d’informations et va bien au-delà de la simple dualité piéton/véhicule, puisque de nombreux scénarios sont envisagés, mis au point en tenant compte des valeurs éthiques majoritaires, du moins dans nos sociétés occidentales. Ces scénarios établissent également une hiérarchie des vies humaines, bien que la réponse à la question « Qui va vivre, qui va mourir ? » sera forcément arbitraire dans le cadre du jeu.
Ainsi, une multitude de questions se posent, par exemple : un athlète mérite-t-il plus de vivre qu’une personne obèse ? Qui choisir entre une famille de cinq passagers (dont trois enfants) et cinq piétons (quatre enfants et un chien) ? Ou encore, la vie d’un criminel est-elle moins importante que celle d’un médecin ?
Ce jeu a le mérite de questionner les actuels et futurs utilisateurs de voitures autonomes, et ce bien que les résultats actuellement observés montrent que les routes seront plus sûres avec une majorité de véhicules autonomes.
Sources : Slate – Konbini
