La Inteligencia Artificial también tiene percepciones ilusorias

Un estudio sobre ilusiones visuales en redes neuronales artificiales, en el que participa la Universitat de València, revela que la percepción artificial no elimina las subjetividades y los sesgos propios del cerebro humano. Que las máquinas pueden equivocarse en su percepción de la realidad, como lo hacen las personas, es una de las principales conclusiones de un trabajo recientemente publicado en la revista Vision Research.

Relacionada: www.meneame.net/story/camara-controlada-inteligencia-artificial-confun

[#1 eltoloco]

Lo que se ha llamado de toda la vida falso positivo, pero asimilarlo al cerebro humano queda más cool..

[#14 neotobarra2]

#1 #4 No me he leído el artículo aún. Así que no sé si esto va de lo que decís vosotros o de lo que dice #6. Desde luego si es el segundo caso, ya le vale a #0 poner ese "relacionada" en la entradilla, porque invita a pensar que se trata de simples errores como lo que decís vosotros, y no de sesgos ni de nada equiparable a la psique humana.

Ahora bien, lo que dicen #6 y #8 también es cierto, y resulta más interesante. Ya se dio un caso de una IA a la que enseñaron a contratar…   

[#15 JanSmite]

#14 En realidad, la relacionada sí está relacionada: tomar, percibir, una cosa por otra, sea por apariencia, por forma, por tamaño, etc. Es como cuando vemos la imagen de Gandalf y Frodo sobre el carro cuando el primero llega a Hobbiton: no hay truco digital, han jugado con la perspectiva para que veamos lo que no es, ambos personajes de tamaños diferentes, cuando, en realidad, son aproximadamente del mismo tamaño.

Enlazando con lo que dice #4, es muy probable que el problema sea que le enseñamos a la IA, diseñamos sus algoritmos, para que vean y perciban como lo hacemos nosotros, para que su función se adapte lo más posible a lo que necesitamos. Es decir, seguramente el problema sea que diseñamos la IA a nuestra imagen y semejanza, y por eso su forma de percibir tenga las percepciones ilusorias que tenemos nosotros, o similares.

[#18 neotobarra2]

#15 No sé, la verdad es que ya he leído el artículo y no me queda claro si va en una dirección o en la otra... Igual no lo he entendido bien.

[#21 JanSmite]

#18 De hecho, es lo que comenta el artículo: que han hecho las CNN que se encargan de la visión a partir de los sistemas neuronales biológicos, con lo que no es extraño que tengan defectos similares, y proponen un cambio de paradigma.

[#26 daTO]

#15 ..o no. La estrategia de buscar patrones es básica para cualquier sistema complejo. Ahorra analizar imágenes"píxel por píxel" y permite atajos. Son necesarios, pero a veces se confunden, por ejemplo, las pareidolias. No estoy seguro de que sea exclusivo de humanos.

[#19 Rudolf_Rocker]

#14 Estuve en una conferencia que hablaba precisamente de eso, y ponian como ejemplo una IA de EEUU que la entrenaron para intentar identificar presuntos delincuentes por su aspecto. Terminaba identificando a todos los negros como delincuentes, porque una IA no es más que un comparador de datos a gran escala, después con tal cantidad de datos calcula la probabilidad y toma una decisión, no puede hacer mas que eso en la actualidad, entonces queda sujestionado ese comparador con los sesgos éticos y morales de los datos que le suministres.

[#27 lectorcritico]

#19 Hay un tutorial de entrenar un buscador de ropa y complementos con fotos. Sacas la foto y te busca zapatillas o lo que sea.
La entreno y le mostraba zapatillas iguales, pero tambien modelos con las misma postura y ropa del mismo estilo.
Hay que evitar que la IA aprenda cosas que no se buscan y hay trucos: Por ejemplo, duplicar las fotos de entrenamiento haciendo espejo y recortandolas y moviendolas para tener mas fotos de entrenamiento con variaciones.
Tambien hay que enseñarle los…   

[#28 doyou]

#27 o tal vez los hombres hacen mejor algunas cosas que las mujeres en general, por aquello del dimorfismo sexual. Y viceversa.

En ciencia no hay que descartar ninguna hipótesis, aunque no parezca paritaria. Las creencias de cada uno en ciertas ideologías no son ciencia.

[#23 Paparruchas]

#14 Es como lo que dice la Biblia, que "Dios creó al hombre a su imagen y semejanza"

Lo que pasa es que cuando se mira lo que hace otro (la IA) se ven más fácilmente los sesgos que cuando lo hace uno mismo.

[#16 doyou]

#14 a ver si simplemente elegía a los mejores...

[#17 neotobarra2]

#16 No, puedes revisarlo, lo he buscado:

www.bbc.com/mundo/noticias-45823470

La IA discriminaba a las mujeres simplemente por indicar el CV que pertenecía a una mujer, y lo hacía porque había aprendido que eso es "lo correcto".

[#24 doyou]

#17 lo que te digo es que los mejores igual eran hombres. En no sé qué país se hizo lo de currículums a ciegas y resulta que la selección era mayor de hombres, sin saber ni siquiera quién enviaba el currículum. Se anuló la medida porque no era paritaria

[#2 kaos_subversivo]

A priori me parecia que seria la tipica mierda de articulo sobre IA y es bastante interesante.

[#3 Spirito]

Tal vez, de ahí a la conciencia haya solo unos pocos pasos.

[#4 Ainur]

Llamar "Percepciones ilusorias" desde luego queda mejor que "El algoritmo no es perfecto y a veces se equivoca" ademas de como que le da similitud con la psique humana, que siempre mola, aunque sea mentira.

[#6 pkreuzt]

#4 No se trata solamente del algoritmo, las IA se entrenan proporcionándoles datos reales. Si los datos de base tienen problemas, la conclusión también falla.

[#5 --609821--]

Apuntar todo con detalle para cuando tengamos que enfrentarnos a Skynet

[#7 systembd]

A ver... lo queramos o no, nuestro cerebro es básicamente una gran red neuronal natural que toma valores y los clasifica para poder tomar decisiones rápidamente y con un menor esfuerzo. Los sesgos son debidos a los datos previos que hemos adquirido (y lo que no podemos clasificar, lo consideramos malo o peligroso). No es algo mágico, es algo peor... es matemáticas basadas en química orgánica.

[#8 Jangsun]

Las IA se programan para replicar procesos de razonamiento que utilizamos los humanos, es normal que sean susceptibles de que se produzcan los mismos tipos de equivocaciones.

[#9 --606024--]

#8 Ahí lo bonito del asunto, que de forma colateral incluso se replican nuestras debilidades o carencias

[#10 froidl_and_pablob]

puede ser, percepciones ilusorias o mal entendidos. Se le desincronizan las neuronas.

[#12 froidl_and_pablob]

#10 Se puede equivocar por que a veces hay tantos inputs provenientes de tantas fuentes y tiempos distintos que cuesta eliminar el ruido de fondo y se considera por error como otro input. No lo hace con mala intención. Es que la marean.

[#11 Matt-Max]

Unos colegas míos hicieron "alucinar" a una IA dándole un prior falso de que había muchos perros: youtu.be/D9Hy50TdsRE

[#13 tiro.fijo]

¿Sueñan los androides con ovejas eléctricas?

[#20 Manuelis]

fb me acaba de banear por subir la foto de una calva con implantes en un grupo donde bromeabamos con los pelos del coño y con qué se hacian las cejas de las muñecas.
no he visto la apologia del odio al melón o la calvofobia en sus términos, malditas IAS castradoras.

[#22 --119742--]

Vas a ver tú cuando inventen el LSD para máquinas.

[#25 Rocio_Siri]

Cada dia mas cerca de ser sustituidos por maquinas.