Comment un morceau de bande a trompé une Tesla en lisant un signe 35MPH comme 85MPH

véhicules autonomes Voitures autonomes Tesla Tesla modèle S Tesla modèle X

Les chercheurs ont identifié un problème potentiel avec les capteurs utilisés dans certains modèles plus anciens de Tesla qui ont mal interprété les panneaux de vitesse pour lire la limite de vitesse comme étant supérieure de 50 miles par heure au panneau indiqué lorsqu'un morceau de ruban électrique masquait légèrement l'un des chiffres.

Le problème a été identifié dans le cadre de 18 mois de recherche par les chercheurs de McAfee Shivangee Trivedi et Mark Bereza, qui ont cherché à examiner les façons dont l'apprentissage automatique pourrait potentiellement être exploité, en particulier dans le cas des véhicules autonomes. De nombreux fournisseurs de véhicules autonomes utilisent des caméras produites par MobilEye pour enregistrer les limites sur les panneaux de vitesse, et les chercheurs de McAfee ont constaté que l'utilisation d'autocollants pour modifier légèrement l'apparence du panneau pouvait interférer avec la lecture de la caméra.

En testant avec deux Teslas 2016, un Model S et un Model X, les chercheurs ont pu tromper les caméras en leur faisant croire qu'un panneau de 35 MPH lisait 85 MPH - d'abord en ajoutant plusieurs autocollants qui masquaient partiellement le «3» en 35, puis les réduisant pour identifier le point auquel ils n'avaient pas lu correctement le signe. Ils ont constaté que l'ajout même d'un morceau horizontal de ruban électrique noir de 2 pouces à la barre médiane du «3 » en 35 entraînait une erreur de classification de 85 MPH.

"Même à un œil averti, cela n'a pas l'air suspect ou malveillant, et beaucoup de ceux qui l'ont vu n'ont pas réalisé que le signe avait été modifié du tout", ont écrit les chercheurs . «Ce petit morceau d'autocollant était tout ce qu'il fallait pour faire la meilleure prédiction de la caméra MobilEye pour que le signe soit de 85 mph.»

Ils ont finalement déterminé qu'avec l' activation des fonctions d' assistance de vitesse de Tesla et de régulateur de vitesse automatique Tesla , les modifications apportées aux panneaux pourraient entraîner une accélération de la voiture et un dépassement de la limite de vitesse par elle-même. Il convient de noter que Tesla a cessé d'utiliser la technologie MobilEye dans ses véhicules après 2016 et, comme l'ont noté les chercheurs, les derniers modèles de Tesla «ne semblent pas du tout prendre en charge la reconnaissance des panneaux de signalisation». Les chercheurs ont également noté qu'ils avaient effectué des tests «très limités» sur un véhicule 2020 équipé de la dernière caméra MobilEye et avaient constaté qu'il n'était pas sensible à la même attaque.

Atteint pour commenter, un porte-parole de MobilEye a déclaré à Gizmodo par courrier électronique que les autocollants sur les panneaux de signalisation «peuvent confondre l'œil humain et que nous ne considérons donc pas cela comme une attaque antagoniste». Bien que cela puisse être vrai pour les autocollants qui masquaient le numéro, ce n'est pas nécessairement vrai pour le ruban électrique, qui, selon les chercheurs, n'indiquait pas nécessairement à un humain que le signe avait été modifié . Cependant, le porte-parole a ajouté que le système n'était pas destiné à prendre en charge la conduite entièrement autonome.

«Les polices des panneaux de signalisation sont déterminées par les régulateurs, et les systèmes avancés d'assistance à la conduite (ADAS) sont donc principalement axés sur d'autres cas d'utilisation plus difficiles, et ce système en particulier a été conçu pour prendre en charge les conducteurs humains - pas la conduite autonome», a déclaré le porte-parole. «La technologie des véhicules autonomes ne reposera pas uniquement sur la détection, mais sera également prise en charge par diverses autres technologies et données, telles que la cartographie participative, pour garantir la fiabilité des informations reçues du capteur de la caméra et offrir des redondances et une sécurité plus robustes.»

Tesla n'a pas immédiatement renvoyé une demande de commentaire. Les chercheurs de McAfee ont révélé qu'ils avaient contacté MobilEye et Tesla avant de publier leur rapport, et tous deux «avaient manifesté leur intérêt et étaient reconnaissants pour la recherche, mais n'ont pas exprimé de plans actuels pour résoudre le problème sur la plate-forme existante.»

Les chercheurs ont félicité MobilEye pour les changements apparents apportés à ses caméras et pour avoir cherché à effectuer des recherches pour informer les performances de leurs produits. Ils ont cependant noté que la caméra qui a mal classé la limite de vitesse est toujours présente dans un pourcentage important de Teslas déployés. Et alors que les conducteurs sont censés rester vigilants au volant de tout véhicule semi-autonome, l'histoire a montré que ce n'est pas toujours le cas .