Cómo un trozo de cinta engañó a un Tesla para que leyera una señal de 35 MPH como 85 MPH

Los investigadores han identificado un problema potencial con los sensores utilizados en algunos modelos más antiguos de Tesla que malinterpretaron las señales de velocidad para leer el límite de velocidad como 50 millas por hora más que la señal indicada cuando un trozo de cinta aislante oscurecía ligeramente uno de los números.

El problema fue identificado como parte de 18 meses de investigación por parte de los investigadores de McAfee, Shivangee Trivedi y Mark Bereza, quienes buscaron examinar las formas en que el aprendizaje automático podría potencialmente ser explotado, específicamente en el caso de los vehículos autónomos. Muchos proveedores de vehículos autónomos utilizan cámaras producidas por MobilEye para registrar los límites de las señales de velocidad, y los investigadores de McAfee descubrieron que el uso de pegatinas para alterar ligeramente la apariencia de la señal tenía el potencial de interferir con la lectura de la cámara.

Al probar con dos Teslas 2016, un Model S y un Model X, los investigadores pudieron engañar a las cámaras haciéndoles creer que un letrero de 35 MPH decía 85 MPH, primero agregando varias pegatinas que ocultaban parcialmente el "3" en 35, y luego reduciéndolos para identificar el punto en el que no pudieron leer correctamente el letrero. Descubrieron que agregar incluso un trozo horizontal de 2 pulgadas de cinta aislante negra a la barra del medio del "3 " en 35 llevó a una clasificación errónea de 85 MPH.

“Incluso para un ojo entrenado, esto apenas parece sospechoso o malicioso, y muchos de los que lo vieron no se dieron cuenta de que el signo había sido alterado en absoluto”, escribieron los investigadores . "Este pequeño trozo de pegatina fue todo lo que se necesitó para hacer la predicción máxima de la cámara MobilEye para que la señal sea de 85 mph".

Finalmente, determinaron que con las funciones Speed ​​Assist y Tesla Automatic Cruise Control habilitadas, las modificaciones a los letreros podrían hacer que el automóvil acelere y exceda el límite de velocidad por sí solo. Vale la pena señalar que Tesla dejó de usar la tecnología MobilEye en sus vehículos después de 2016 y, como señalaron los investigadores, los modelos más nuevos de Tesla "actualmente no parecen admitir el reconocimiento de señales de tráfico". Los investigadores también notaron que realizaron pruebas "muy limitadas" en un vehículo 2020 con la cámara MobilEye más nueva y descubrieron que no era susceptible al mismo ataque.

La señal de velocidad de 35 MPH con una pieza de tipo eléctrico de 2 pulgadas aplicada al "3" que resultó en una clasificación errónea por parte de un Tesla Model S.

Al ser contactado para hacer comentarios, un portavoz de MobilEye le dijo a Gizmodo por correo electrónico que las pegatinas en las señales de tráfico "pueden confundir al ojo humano y, por lo tanto, no consideramos que esto sea un ataque adverso". Si bien esto puede ser cierto para las pegatinas que oscurecen el número, eso no es necesariamente cierto para la cinta aislante, que los investigadores señalaron no necesariamente indicaba a un humano que el signo había sido alterado . Sin embargo, el portavoz agregó que el sistema no estaba destinado a admitir la conducción totalmente autónoma.

"Las fuentes de las señales de tráfico las determinan los reguladores, por lo que los sistemas avanzados de asistencia al conductor (ADAS) se centran principalmente en otros casos de uso más desafiantes, y este sistema en particular fue diseñado para apoyar a los conductores humanos, no a la conducción autónoma", dijo el portavoz. "La tecnología de vehículos autónomos no dependerá únicamente de la detección, sino que también contará con el respaldo de otras tecnologías y datos, como el mapeo de fuentes colaborativas, para garantizar la confiabilidad de la información recibida del sensor de la cámara y ofrecer redundancias y seguridad más sólidas".

Tesla no respondió de inmediato una solicitud de comentarios. Los investigadores de McAfee revelaron que se comunicaron con MobilEye y Tesla antes de publicar su informe, y ambos "manifestaron interés y agradecieron la investigación, pero no han expresado ningún plan actual para abordar el problema en la plataforma existente".

Los investigadores elogiaron a MobilEye por los aparentes cambios en sus cámaras y por buscar investigaciones para informar el rendimiento de sus productos. Sin embargo, notaron que la cámara que clasificó erróneamente el límite de velocidad todavía está presente en un porcentaje significativo de Teslas desplegados. Y aunque se espera que los conductores sigan alerta al volante de cualquier vehículo semiautónomo, la historia ha demostrado que no siempre es así .

Suggested posts

Facebook dice que un 'cambio de configuración' es la razón por la que muchos usuarios se desconectaron el viernes

Facebook dice que un 'cambio de configuración' es la razón por la que muchos usuarios se desconectaron el viernes

Facebook dijo que el incidente que desconectó a muchos de sus usuarios en masa se debió a un "cambio de configuración". Los usuarios de Facebook utilizaron Twitter y otras plataformas de redes sociales el viernes para informar que, sin ningún motivo explícito, habían cerrado la sesión de la gran aplicación azul.

Los astrónomos han descubierto un 'Júpiter' raro con un año de cuatro días

Los astrónomos han descubierto un 'Júpiter' raro con un año de cuatro días

Un nuevo estudio describe un exoplaneta similar a Júpiter sin nubes. A casi 600 años luz de la Tierra, el exoplaneta conocido como WASP-62b gira alrededor de su estrella anfitriona a un ritmo vertiginoso.

Related posts

Angry Reddit 'Mob' y Shortsellers chocan por el ridículo salto bursátil de Gamestop

Angry Reddit 'Mob' y Shortsellers chocan por el ridículo salto bursátil de Gamestop

El minorista de videojuegos GameStop, esa tienda con la que te tropiezas en el centro comercial mientras intentas averiguar por qué estás en un centro comercial, está teniendo un gran momento en Wall Street. La compañía inició una carrera de mercado alegre el viernes, subiendo casi un 70 por ciento antes de que las operaciones se detuvieran brevemente debido al drama en línea que involucraba sus acciones.

CenturyLink y Frontier no cumplieron con la fecha límite de la FCC para el despliegue de banda ancha rural

CenturyLink y Frontier no cumplieron con la fecha límite de la FCC para el despliegue de banda ancha rural

Como parte de las subvenciones de la Fase II del Fondo Connect America en 2015, la FCC otorgó a CenturyLink y Frontier un total combinado de $ 789.1 millones en fondos federales para expandir los servicios de banda ancha a los estadounidenses rurales.

La FTC multas a los corredores de multas por $ 3.7 millones en un acuerdo de scalping

La FTC multas a los corredores de multas por $ 3.7 millones en un acuerdo de scalping

Las autoridades federales han presentado su primer caso bajo una ley anti-bot de 2016 para tomar medidas enérgicas contra los revendedores de boletos. Se ordenó a tres corredores de boletos con sede en Nueva York que pagaran $ 3.

Microsoft obtuvo una patente para convertirlo en un chatbot

Microsoft obtuvo una patente para convertirlo en un chatbot

¿Qué pasa si la medida más significativa de las labores de su vida no tiene nada que ver con sus experiencias vividas sino simplemente con la generación involuntaria de un clon digital realista de usted mismo, un espécimen de hombre antiguo para la diversión de la gente del año 4500 mucho después de su partida? esta espiral mortal? Esta es la pregunta menos espantosa planteada por una patente de Microsoft otorgada recientemente para un chatbot individual. La Oficina de Patentes y Marcas Registradas de los Estados Unidos, que se dio cuenta por primera vez a Gizmodo, confirmó a Gizmodo por correo electrónico que Microsoft aún no tiene permitido hacer, usar, o vender la tecnología, solo para evitar que otros lo hagan.

Language