En plus de la réunion sur l’avenir des « Robots Tueurs » (voir ici), d’autres questions se posent également au niveau du quotidien. Le but de cet article n’est pas de dramatiser ou de s’alarmer inutilement sur l’arrivée des robots, mais de présenter différentes réflexions de chercheurs. Tout commence autour de cette phrase : « La voiture automatisée de demain pourrait être programmée pour vous tuer ».
Cette remarque a été faite par Patrick Lin, professeur de philosophie agrégé et directeur du Ethics + Emerging Sciences Group à l’Université California Polytechnic State. Il a également publié Robots Ethics (MIT Press, 2012). Pour illustrer ses propos, il propose le scénario suivant : supposons que vous êtes dans une voiture. Vous roulez tranquillement en ville quand soudain, suite à une avarie mécanique, un camion dévie de sa direction et se retrouve face à vous. Vous n’avez que trois solutions, percuter le camion à pleine vitesse, ne vous laissant aucune chance de survie, ou bien vous vous écartez en fauchant soit un motard portant un casque, soit un motard qui n’en porte pas.
Quel serait votre choix ? Et maintenant, accepteriez-vous que ce dilemme cornélien soit résolu par une intelligence artificielle ? Patrick Lin suit le raisonnement suivant : un bon algorithme devrait déterminer que le motard sans casque a statistiquement plus de chance de mourir que celui avec un casque. La voiture automatisée dévie donc sur ce dernier… Il y a alors une injustice dans ce choix. En percutant le motard, vous le pénalisez, car il porte un casque, sachant que ne pas en avoir est illégal. De plus, ce raisonnement pourrait inciter les motards à ne plus mettre de casque afin de ne pas être « pris pour cible » par les voitures…
Pour les amateurs de films de science-fiction, vous avez peut-être vu le film I Robot d’Alex Proyas. On retrouve un autre problème éthique au début, lorsque le robot doit faire un choix entre sauver le détective Del Spooner (Will Smith) ou une jeune fille de la noyade (je m’arrêterai là pour la description de la scène, je vous laisse le soin de la découvrir pour ceux que ne connaissent pas le film).
Dans le futur, si une voiture autonome ne dispose que d’un système de prévention, cela ne sera pas suffisant. À un moment, un accident sera inévitable pour une myriade de raisons telles qu’un manque de temps pour appuyer sur les freins, une erreur du logiciel pilote, le mauvais temps ou seulement la malchance. « Ces évènements rares sont exactement ce que nous essayons d’éviter lors du développement des voitures autonomes » indique Chris Gerdes de Stanford’s School of Engineering.
À titre d’information, le nombre d’accidents mortels en France diminue chaque année depuis 1972. Au cours de l’année 2013, 3 250 personnes sont décédées sur la route (pour 18 000 en 1972) pour 725 milliards kilomètres parcourus essentiellement en voiture par les français. Néanmoins cela n’évite pas d’être prudent sur la route ..
