Engañan a un Tesla para que pase de 56 a 140 km/h automáticamente pegando un trozo de cinta a una señal

Un trozo de cinta de cinco centímetros pegado a una señal. Eso es todo lo que han necesitado unos investigadores de McAfee para conseguir engañar a la cámara de un Tesla Model X y Tesla Model S de 2016 y hacer que aceleren automáticamente. En pocas palabras, los investigadores han pegado un trozo de cinta a una señal de 35 mph, de forma que el "3" pareciera un "8", engañando así al sistema.

[#1 ElPerroDeLosCinco]

También podrían haber engañado a una persona de esta manera.

[#2 --181450--]

#1 una persona sabe que la velocidad maxima es la que es en cada país por tipo de vía, si a mi me ponen una señal con una velocidad de 180 en españa se que es ilegal pasar de 120 ponga lo que ponga una puta señal, que además un humano detectaría posiblemente la cinta. Igual que cuando veo una señal grafiteada.
Es un desastre que un coche no sepa cuál es la velocidad maxima de un país o estado, sabiendo además o pudiendo saber en qué vía está, estado, etc.

[#3 --115178--]

#1 sería más difícil porque una persona tiene luces para saber qué ahí no tiene lógica ir a 85mph. Por ejemplo porque no sea autovía.

Y digo difícil pero no imposible porque hay mucho cenutrio suelto.

[#4 Mr.Bug]

#1 Quizá, pero algo me dice que el humano habría considerado además el contexto (carretera, entorno, etc). Los sistemas inteligentes han dado un gran avance sin duda pero todavía les queda camino por recorrer, la interpretación del contexto es una de ellas y también una de las más difíciles.

Aun y con todo el tema va por el buen camino. Hace 15 años le dices a alguien que un coche casi conduce solo y no te habría creido.

[#5 ElPerroDeLosCinco]

#2 Eso es verdad. El engaño puede ser disculpable, pero el coche debería tener reglas para cumplir ciertas normas siempre.

[#6 --628231--]

#1 la persona es más inteligente valorando si las instrucciones no tienen sentido, por el tipo de vía, por las normas de tráfico y por eso que no tienen las máquinas: sentido común

[#7 Teranosaurus]

Y si le llegan a poner un cero a la derecha viaja al pasado.

[#8 --38321--]

#2

Habida cuenta de que hay gente que se ido al río por seguir al GPS o cosas similares ... yo no pondría la mano en el fuego por algunas personas (por ejemplo, el otro día, en una glorieta de esas que corta una carretera me encontré con uno que venía de frente ... por el lado de ir. Por suerte, estábamos esperando en el semáforo y se dio cuenta y se salió en cuanto pudo)

[#9 --507437--]

Yo dudaría si esa señal es legítima, la máquina actúa sin interpretar. ¿Es la duda lo que nos hace humanos?

[#10 chorche77]

#2 En EEUU la velocidad máxima que puede tener una vía son 90mph. Esa señal de 85 podría pasar por buena. Para que la analogía fuera más exacta tendríamos que hablar de poner una señal falsa de 100 o 110km/h en una zona de 50km/h, Podría adivinarse por el contexto, pero no siempre.

[#11 Homertron3]

#9 déjame que lo dude

[#12 robustiano]

#8 Por no hablar de los cafres que se llevan señales llamativas a su casa, con el consiguiente riesgo que eso supone...  

[#13 --181450--]

#10 Ok, no obstante pone claramente que a un humano no podrías engañarlo igualmente, primero porque solo alargaron un poco el rabo del medio del tres, no es que lo cerraran de arriba a abajo para parecer un ocho.
Solo en Texas la velocidad maxima es 85 en autovía, no en el resto de estados. Lo de 90 no se de donde lo sacas.
No obstante, si no está en Texas y no está en autovía el coche debería ignorar esa señal.

[#14 oso_69]

El navegador de Google tiene una función que te avisa si superas el límite de velocidad de la vía. Y ese límite está definido por los mapas, no por las señales de tráfico. Eso sí, no tiene en cuenta las señales de velocidad temporales como las de obras, por ejemplo.

[#16 --588378--]

#12 Lo que hubiera yo pagado por ese cartel cuando tenía el local de ensayo punkarra

[#17 powernergia]

En realidad es facil engañar a los sistemas, lo cual no es demasiado relevante.
Lo verdaderamente relevante es que a causa de los falsos positivos (cosas que suceden continuamente delante de cámaras y sensores, y que con realmente difíciles de interpretar, como viento, lluvia, peatones), la IA siempre actuará del modo mas conservador, con lo que los bloqueos, frenazos y paradas serán continuos.

Por eso esto está muy, muy lejos.

[#18 Siento55]

#1 Primero que sigue poniendo 35 y un humano no leería ahí 85, y segundo que el humano sabe interpretar el entorno y darse cuenta de que esa vía no es para ir a 140km/h.

[#19 Arty_Rider]

#15 Pffff y que lo digas macho! Que dejen ya de investigar y desarrollar joder! y que pongan esa pasta en otras cosas más importantes, ostia ya! Como el puticlub de mi pueblo, que tiene los colchones mohosos!

España, 2020.

[#20 yopasabaporaqui]

#2 Y por GPS debería saber la velocidad en ese punto de la vía.

[#21 tusitala]

#1 Hay engaños y efectos ópticos con los que puedes engañar a una persona y no a una inteligencia artificial.
Me acuerdo de esa carretera en la que los árboles estaban colocados de tal forma que, al pasar entre ellos la luz, producían ataques a los epilépticos. Eso nunca le pasaría a una inteligencia artificial.
Además detectando estos fallos se pueden arreglar a la vez en todos los coches, cosa que no se puede hacer con todos los humanos.

[#22 baronrampante]

La pasta y el marketing mandan. Los ciudadanos deberíamos ser más críticos con la adopción temprana de nuevas tecnologías.

[#23 Arty_Rider]

#2 Y sin embargo el sistema Tesla tiene muchísimos más reflejos que el ser humano para evitar e incluso predecir accidentes. El autopilot aún es un bebé y sin embargo a avanzado a pasos de gigante, pero es gracioso como cada vez que se detecta una posible vulnerabilidad los catetos de turno recorren las callen con antorchas al grito de "¡vaya mierda!" "¡a un humano no le habría pasado!" "¡es un peligro!" "¡las nuevas tecnologías me dan miedo nunca podrán alcanzar lo que hacemos los humanos!"

www.youtube.com/watch?v=RCahWWOSxaw

[#24 ANTONIO22]

Para que los coches autónomos tenga realmente fiabilidad, es posible que aún tengan que pasar 40 o 50 años. Se trata de manejar cientos de millones de variables en unas carreteras que no están adaptadas a la conducción autónoma.

Otra cosa es que las carreteras se adapten a este tipo de conducción y esto facilite el trabajo. Por ejemplo, si toda señal está geolocalizada, sea fija o temporal y subida en una base de datos mapeada a la que tenga acceso el vehículo en todo momento, se podría prescindir de leer las señales. Es decir, los humanos facilitaríamos el trabajo a la máquina adaptándonos a sus necesidades y no al revés. Siempre será más efectivo adaptarnos nosotros, y más seguro.

[#25 chorche77]

#13 si, tienes razón, es 85. No se por qué tenía en la cabeza que eran 90.

[#26 Tecnocracia]

#7 viaja al pasado regresa al futuro

[#28 yopasabaporaqui]

#19 Claro, claro : o es IA o puticlús...

Falso dilema diría yo.

[#29 Arty_Rider]

#28 Parece ser que el concepto de "reducción al absurdo" no lo aprendiste bien. No pasa nada, a todos nos ha pasado alguna vez, no hay de qué avergonzarse.

[#30 uyquefrio]

#15 No te falta razón, hay mucho más de humo que de realidad.

[#31 Wintermutius]

#2 Pues es más grave todavía: el coche no tiene por qué saberlo, pero su inteligencia artificial, sí. Cualquier navegador de tres al cuarto de google, se sabe las velocidades de todas las carreteras, las condiciones del tráfico, las incidencias en el trazado, y obviamente, es más que probable que conozca las señales del camino.

Obviamente, Tesla no tiene por qué desplegar toda la infraestructura que a Google le ha costado una fortuna. Pero sí que podría alquilarle el servicio para sus clientes.

[#32 swapdisk]

alguien en la sala que nos pueda decir cuál es la pena en este país por manipular con fines delictivos una señal de tráfico, por favor

[#34 JBM00]

No sé las demás marcas, pero por ejemplo Mercedes Benz comprueba vía cartografía si la señal que está visualizando corresponde con la de su base de datos

[#35 Arty_Rider]

#30 Pero qué atrevida es la ignorancia...

[#36 poyeur]

¿Qué te había dicho, Marty? ¡140 kilometros por horaaaaaa!

[#37 mondaymorning]

#16 Auguro que en términos absolutos bastante poco dinero

[#38 --619630--]

#25 yo recuerdo 90 en Florida pero igual ha cambiado

[#39 lectorcritico]

#21 menos extraño son carreteras que engañan y de repente aparece una curva que hay que coger a mucho menos o incluso una rotonda. En Pamplona hay una via que parece que se puede ir mas rapido y aparece la rotonda de repente. No debo ser el unico, porque esta llena de lucecitas de peligro para que no se la salten.

Hay un monton de ilusiones visuales que hackean el cerebro humano. Hay una gallega que hace un concurso de ilusiones visuales en USA.
Tambien son medio famosas las cuestas que desafian la gravedad. Pones una pelota y aparentemente la pelota sube la cuesta.

En el caso de los limites de velocidad se puede solucionar. Por ejemplo, se puede saber las señales por el GPS o incluso la velocidad correspondiente si no hay señales o la velocidad que conviene porque otros coches frenan de repente, etc.

Saul Lopez se queja de algo parecido. Cuando activa el control de crucero, no se selecciona la velocidad que Ya lleva, sino la de una señal que ve y se pone a acelerar.

#9 #14 #6 #18 #4 #3 #20 #10 #13

[#40 chemari]

#28 Yo no veo ningún dilema ahí. Puticluses del tirón.

[#41 pedrobz]

Me ha parecido curioso esta parte del ultimo párrafo: MobilEye afirma que "... para garantizar la fiabilidad de la información recibida de los sensores de la cámara y ofrecer despidos y seguridad".
Ofrecer despidos.... esta claro que se lo quieren vender a los empresarios para automatizar aun mas la empresa

[#42 uyquefrio]

#35 No, no creo que sea ignorancia. Se de lo que hablo y es más que habitual la imagen de medio equipo llevándose las manos a la cabeza cuando nos enteramos de lo que van vendiendo por ahí los comerciales.
Desgraciadamente ese humo que venden los comerciales es la idea (más cercano a lo que se ve en películas que a la realidad) que suele llegar al público general.

[#43 --588829--]

#1 Difícil

[#44 tdgwho]

#3 www.elmundo.es/madrid/2019/12/10/5deff46521efa01b7b8b4580.html

por supuesto que las personas tienen luces si.

cc #4

[#45 --588829--]

#35 Ignorante o no ha dado en el clavo.

[#46 automatix]

#15 El problema es llamarle inteligencia artificial a esto. Es las expectativas que crea.  

[#47 --588378--]

#37 Los bricks de El Conquistador con cola se llevaban todo el presupuesto

[#48 ElTioPaco]

#2 #5 Google sabe la velocidad máxima y de hecho la velocidad del tráfico en tiempo real de todas las vías del mundo civilizado. Lo tiene en el Google Maps.

Me cuesta creer que Tesla no llegue a un acuerdo con Google en ese campo.

Pero si, es terrorífico que se pueda engañar con esa facilidad a los sensores.

[#49 PAUL2]

#19 Putas para todos, y de nivel como los sindicatos el PSOE,y el PP.

[#50 bubiba]

#1 bueno si va muy pasado quizás... Pero dudo que alguien sobrio se trague una señal de 140 km por hora en una carretera donde se puede ir a 60....

[#51 reithor]

Buah, esto con un Tesla de 2016. Ya han dicho que en los de 2020 no sucede, así que los Tesla son como los iPhone, hay que cambiarlos cada uno o dos años. Tener un Tesla de 2016 es de pobres.

[#52 CtrlAltSup]

Fallo de la máquina por no preveer que un humano falsificaría la señal.
Si metemos a un ser humano en una ecuación el resultado tiende a ser impredecible.
Desde luego si queremos que los coches conduzcan solos una de las medidas que habría que buscar es que no hubiese humanos conduciendo junto a ellas.

[#53 masde120]

#24 yo creo que mil o dos mil años al menos...

[#54 devnull]

#41 Estoy seguro de que en el artículo original usaban la palabra "redundancy" y han usado el google traductor

[#55 Tensk]

#2 Es imposible entrenar a una IA, por mucho que se quiera, para que sea eficaz en el 100% de los casos. Esto es un desastre, en efecto.

[#56 ralph]

#13 Al humano lo pueden engañar igual, las señales se miran por muy poco tiempo.

[#57 Polmac]

#6 Las personas interpretamos información en base a las reglas que conocemos, no tenemos nada de especial. Al software le puede faltar tener en cuenta algunas de las variables que las personas manejamos. Pero cuando lo haga nos dejará en la cuneta por velocidad y capacidad de procesamiento.

[#58 balancin]

#2 nada que no se pueda resolver con un algoritmo.

Si al ver una señal 180 dudas, es porque tienes almacenada información pre existente contradictoria.
Entoces te paras y buscas otras referencias (lo que hacen otros coches, te paras en una gasolinera y preguntas, etc).

[#59 villarraso_1]

#10 En el polígono donde yo trabajo han puesto una carretera a 30km/h.
Antes, circulando a 50 kilómetros por hora me adelantan todos. Es una vía ancha, no tiene acera, no tiene entradas o salidas de fábricas, a la derecha hay un pequeño montículo y al otro lado el carril contrario a la circulación. Si ese 30 se 'hackea' a 80 la vía continua siendo lógico porque podría interpretarse que está fuera de la ciudad.
Pero bueno, en el caso del Tesla, que yo sepa, no puede circular de manera autónoma, siempre tiene que ir una persona supervisando (por no llamarlo conducir)

[#60 Arty_Rider]

#45 #42 No... me reafirmo. Los que trabajamos en el sector estamos maravillados con lo que a avanzado la ciencia en computación de IA, y lo que está por venir va a revolucionar al mundo de formas que aún está por imaginar.

es.wikipedia.org/wiki/DeepMind

Ale, ya podéis seguir disfrutando de vuestro cubata

Efecto Dunning-Kruger en su máximo explendor

[#61 Darkness00]

#48 cuidado! Google tardo tiempo en actualizar las velocidades cuando España paso a 110 de un día para otro, y otro tiempo igual al devolverlo, eso no es inmediato. Personalmente no creo que debamos culpar al coche, salvo un conocimiento de la velocidad máxima del país, acompasado por el conocimiento general de velocidad con el tipo de vía estaría bien, pero no me parece sorpréndete lo que ocurrió. No creo que debamos exigir al menos por el momento una capacidad y pericia comparable al humano, ni la de saber cada ida de pinza de lo que nuestros ayuntamientos ponen en sus calles.

[#62 rbrn]

#55 Igual que a los humanos, por eso tenemos miles de muertos en carretera todos los años. Ahora hay que ver cómo muere más gente, si con humanos o IAs conduciendo.

[#63 --581855--]

#4 Las personas tampoco somos perfectas.

La cuestión es saber quién comete más errores, los coches guiados por IA o los guiados por personas.

Noticia de ahora: www.diariodemallorca.es/sucesos/2020/02/19/coche-fuera-control-atropel

[#64 ytuqdizes]

#23 Los catetos de turno también son útiles para tener los pies en el suelo y contrarestar los que quieren adoptar cualquier cambio sin pensar los peligros / desventajas.

[#65 sofazen]

#8 "Me encontré con uno que venía de frente ... por el lado de ir." Qué barbaridad, mira que ir por el lado de ir.

[#66 mcfgdbbn3]

#7: Si pusieran un par de trozos más podrían trucar el 5 dejando un 8 para hacer los 88 MPH de #BTTF.

[#67 --133448--]

A ver. To tengo un Model 3 y cuando vas en Autopilot adapta la velocidad según las señales y el gps. Nunca me ha pasado lo de esta prueba, pero si no pasar de 70 kmh en una autovía recién inaugurada todavia no cartografiada. Y ahí hay señalea claras de 120, pero el coche en ese tramo no se pone a 120.

[#68 fugaz]

#3 El Tesla tiene un nivel 2 de conducción autónoma. Es decir, que requiere au humano sujetando el volante y atento por si pasan estas cosas.

Cuando el coche tenga un nivel 4 o 5 entonces sí será un problema.

[#69 Big_che]

#48 y cada cuanto lo actualizan? que prevalece lo que dice una BBDD que vete tu a saber desde cuando esta actualizado o una señal nueva, por ejemplo por obras en la calzada?

[#70 fugaz]

#51 O bien aceptar que el coche aún no puede conducir sin vigilancia humana constante.

[#71 redscare]

#48 Tesla no usa mapas para el autopilot, usa exclusivamente los sensores del coche. Lo bueno es que no se va a liar si en el mapa pone 120 pero la carretera está en obras con señales de 80. Lo malo es que se lía con absolutamente todo lo demás.

[#72 Big_che]

#2 pongamos que en una carretera limitada a 100 pasas por un tramo que esta limitado a 50 y un gracioso te cambia la señal y lo pone a 100? o modifica el 50 y pone 80 ¿sabrias identificar el engaño? Pues no.

[#73 Tensk]

#62 Te equivocas de disyuntiva. Aunque no fue por dónde fui en la carrera, algo de redes neuronales e IA sí que di, poca cosa pero algo sí, lo justo para que me picase el gusanillo aunque después no fuese a más. Te puedo asegurar que el reconocimiento de imágenes no es una tarea fácil. Y no es lo mismo hacer un reconocimiento de imágenes de un TAC para detectar un tumor, que siendo algo muy serio, no importa si tarda unos minutos más o menos, a reconocer bien una señal de tráfico, que tiene que estar resuelto, y bien, el 100% de las veces, en milésimas de segundo.

Decía que te equivocas de disyuntiva porque no se trata de ver cómo muere más gente, si por su cuenta o con IAs, se trata de que las IAs deberían ser, como mínimo, igual de buenas conduciendo que los humanos. No me sirve que sean mejores en una parte de la conducción si luego son desastrosas en cosas tan humanamente triviales como es reconocer una señal de tráfico.

[#74 rbrn]

#73 Yo sí que fuí más lejos, casi 10 años trabajando en I+D con temas relacionados con IA en general y visión por computador en particular.

Para saber qué es "mejor" hay que establecer una métrica. El número de muertos en carretera me parece una buena métrica si hablamos de conducción.

el 100% de las veces, en milésimas de segundo Eso tampoco lo consiguen los humanos.

[#75 --556871--]

que buena excusa para correr más y recurrir multas

[#76 Tensk]

#74 Tú sí ¿qué?

[#77 ElTioPaco]

#69 #71 es velocidad máxima caballeros, solo con tener ambos datos (Maps y sensores leyendo señales) y usar el más bajo de ellos nos aseguramos de que el coche no se vuelve una nave espacial.

La redundancia genera seguridad.

[#78 Arty_Rider]

#64 claro, porque eso es lo que de toda la vida ha hecho la ciencia: adoptar cualquier cambio sin pensar los peligros / desventajas.

Con este “mercado”, normal que estemos como 50 años por detrás de Europa

[#79 cnr]

#33 ¿Sensacionalista? Un humano leería sin problemas el 35 en esa señal, así que ahí tienen un problema que corregir. Lo otro se llama redondeo, y teniendo en cuenta que hablamos de doblar el límite de velocidad es perfectamente aceptable.

[#80 Big_che]

#77 y dos dias despues tienes una noticia que dice:

"Engañan a un Tesla para que pase de 120 a 12 km/h automáticamente pegando un trozo de cinta a una señal"

[#81 Salmonete]

... la semana próxima: Engañan a un Tesla para que se despeñe por un barranco pegando unos trozos de cinta blanca en la carretera

[#82 ElTioPaco]

#80 mucho más seguro que lo otro. Además los mismos sensores aceleraría si alguien se le va a estampar por detrás.

[#83 ramon_lopez]

Yo siempre intento engañar a mi tostadora pero nunca lo he conseguido.
Muy mal utilizado el verbo ese de "engañar", engañamos a las máquinas y lo siguiente será herir sus sentimientos.
- Yo no hackee el cajero ni aproveché una vulnerabilidad señor juez, lo engañe y el soltó el dinero voluntariamente.

[#84 ramon_lopez]

#67 claramente el tuyo al ser modelo español es mucho más pillo y difícil de engañar #83

[#85 kmon]

#2 lo han hecho en un área de pruebas no urbana, no tenemos ni idea de lo que habría hecho el coche en ciudad o carretera así que el experimento demuestra poca cosa, que la cámara no ve la cinta, ya está

[#86 MoneyTalks]

#2 El dia menos pensado estos concienzudos investigadores me hackean a mi, dibujan una linea blanca en un puerto de montanya que me envie a un acantilado y de noche o con niebla me despanyan los cabrones.

Nadie esta a salvo de los estupidos.

[#87 fuynfactory]

un tesla, un condensador de fluzo y unas pegatinas..... y a viajar al futu... a la cuneta .

[#89 redscare]

#77 Si a mi no me tienes que convencer. Diselo a Elon

[#90 Aokromes]

#1 no de una forma tan burda una persona no confunde un 3 alargado con un 8 ni un trozo de cinta de otro color con un 8.

[#91 Aokromes]

#27 toma en paper original de mcafee.
www.mcafee.com/blogs/other-blogs/mcafee-labs/model-hacking-adas-to-pav
en ningun lugar convierten el 3 en un 8.

[#92 Aokromes]

#33 goto #91 y oh, por 4km de diferencia menos de un 3% no llega a 140, que sensacionalista.

[#93 Aokromes]

#52 mira las fotos, en ningun lugar un humano confundiria esos 3 con un 8.

[#94 Aokromes]

#72 mira las fotos, ningun ser humano confundiria esos 3 con un 8.

[#95 --630871--]

#9 en cierto sentido yo diría que si. La duda es una señal que nuestro cerebro utiliza parámetros y reglas de decisión mucho más complejos (e interconectados) que los de una AI de hoy.

[#96 --181450--]

#94 Déjalos... si no se habrán leído la noticia, es Tesla, ¿como osas criticarla?

[#97 --181450--]

#56 No, a un humano no lo puedes engañar igual, como tampoco lo puedes engañar en una prueba de alcance poniendo una puta tela con la foto de un coche, o un cartón con un muñeco encima haciendo de ciclista y una cuerda tirando de ella.

[#98 --181450--]

#62 Joder qué falacia, los humanos se matan porque producen temeridades, porque se quedan dormidos..., no porque confundan señales de velocidad. Un dos tres, responda otra vez.

[#99 cnr]

#88 Si tu lo dices....

[#100 ElTioPaco]

#89 Elon es un drogadicto gracioso, pero como todos los drogadictos, nada fiable.