Cybersécurité : des voitures Tesla hackées pour dépasser la vitesse limite !

tesla autopilot
Crédits : Ian Maddox / Wikipédia

La société d’antivirus McAfee a réussi à pirater deux modèles de Tesla. L’objectif ? Faire en sorte que ces véhicules dépassent la vitesse autorisée par la signalisation. Justement, il s’agit d’une attaque ciblant l’algorithme permettant de détecter et de classifier les panneaux de signalisation présents sur la route.

Des véhicules Tesla en excès de vitesse

Deux modèles de Tesla (Model X et S) ont affiché une vitesse de 85 mph (136 km/h) alors que la signalisation limitait la vitesse à seulement 35 mph (environ 56 km/h). Ceci est le fruit du travail de recherche sur 18 mois mené par le laboratoire Advanced Threat Research (ATR) de la société étasunienne McAfee, selon un communiqué publié le 19 février 2020.

Selon les experts, il s’agit d’une attaque ciblée au niveau du MobilEye EyeQ3. Ce système doté de capteurs et d’une intelligence artificielle (IA) équipe pas moins de 40 millions de véhicules dans le monde, dont les Tesla commercialisées avant 2017, c’est-à-dire intégrant le Hardware Pack 1.

Une simple modification pour tromper l’IA

En ciblant le MobilEye EyeQ3, les chercheurs se sont focalisés sur un algorithme en particulier. Or, ce dernier permet de détecter et de classifier les panneaux de signalisation présents sur la route. Les experts ont cherché à comprendre s’il était possible de perturber cet algorithme traitant les informations des caméras à l’avant du véhicule. Il est ici question de « model hacking », autrement dit un empoisonnement des données.

Les meneurs de l’étude ont simplement modifié un panneau de limitation de vitesse à 35 mph. Il s’agit d’un allongement de 5 cm au niveau de la barre du milieu du « 3 », une modification quasiment imperceptible à l’œil humain. Toutefois, l’algorithme est tombé dans le piège et a cru à une limitation de 85 mph !

panneau signalisation
Crédits : McAfee

Tromper un algorithme n’est pas nouveau. En 2019, des chercheurs belges ont induit une IA en erreur à l’aide de simples pancartes. Toutefois, McAfee désirait trouver des failles dans les limitations de vitesse des véhicules autonomes. Selon McAfee, il s’agit d’aider les entreprises à corriger ce genre de faille. Ainsi, les résultats de l’expérience ont été transmis à la société Mobileye fabriquant le EyeQ3. Ces recherches sont plutôt bienvenues à l’heure où de plus en plus d’accidents impliquent des véhicules Tesla en mode Autopilot.

Source

Articles liés :

Selon Toyota, personne n’est prêt à lancer une voiture autonome de niveau 5

Des masques 3D parviennent à piéger des caméras de reconnaissance faciale

MIT : ils veulent créer des mini-réseaux neuronaux plus faciles à entraîner pour l’IA !