Le groupe de chercheurs chinois Keen Security Lab, financé par Tencent, continue ses expérimentations sur les voitures Tesla. Dans une nouvelle étude publiée le 29 mars 2019, ils sont parvenus à réaliser trois choses : activer les essuie-glaces en faisant croire qu’il pleuvait, tromper l’Autopilote lors d’un changement de voie et contrôler le volant à distance avec une manette.
Premier point à savoir, la Model S utilisée par Keen Security Lab disposait d’un firmware qui commence à dater (le 2018.6.1, déployé l’année dernière). Autrement dit, peut-être que les failles décelées ont été corrigées depuis.
Le réseau neuronal trompé par des objets physiques
Concernant les essuie-glaces, Keen Security Lab rappelle qu’il s’active non par un capteur d’humidité, mais par l’algorithme capable de détecter la pluie grâce aux caméras de l’Autopilote. Keen Security Lab est parvenu à tromper la technologie en diffusant une image sur un téléviseur. Bien évidemment, il ne s’agit pas d’un risque de sécurité, simplement d’une limite du réseau neuronal amené à évoluer dans le temps. « Ce n’est pas une situation de la vie de tous les jours », explique Tesla, qui rappelle que les essuie-glaces automatiques fonctionnent toujours en bêta.
Pour tromper le changement de voie opéré par l’Autopilote, Keen Security Lab a simplement collé des autocollants sur la route. « L’Autopilote de Tesla reconnaît les voies et assiste la conduite en identifiant les marquages au sol. Grâce à nos recherches, nous pouvons prouver que placer des autocollants interférents sur la route amène l’Autopilote à enregistrer ces informations et à la juger anormalement, ce qui fait prendre une mauvaise voie à la voiture », explique l’institut. Un résultat qui rappelle certains accidents survenus quand l’Autopilote était actif et que le marquage au sol n’était pas net. Il fait dire à Tesla que le conducteur a toujours la possibilité de (et même, doit) reprendre le contrôle pour corriger les erreurs de jugement de l’intelligence artificielle.
Enfin, grâce à un hack du système animant l’Autopilote, Keen Security Lab a réussi à prendre le contrôle du volant via une manette connectée à un appareil mobile. En fonction du mode de conduite, le contrôle peut être limité au-delà d’une certaine vitesse. Sur cette vulnérabilité, Tesla explique que des correctifs ont été appliqués en 2017 et en 2018.
Nouveauté : Découvrez
La meilleure expérience de Numerama, sans publicité,
+ riche,
+ zen,
+ exclusive.
Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !