Los deepfakes van a causar estragos en la sociedad. No estamos preparados. [EN]

El mes pasado, un grupo político en Bélgica publicó un video deepfake del primer ministro belga dando un discurso que relacionaba el brote de COVID-19 con el daño ambiental y pedía medidas drásticas sobre el cambio climático. Al menos algunos espectadores creyeron que el discurso era real.

[#101 sorrillo]

#100 Hay gente que se ha suicidado por rumores. Esos niveles de estragos ya están regulados, a quien haya creado y/o distribuido el rumor se le puede castigar por las consecuencias que ha tenido.

Es irrelevante que fuera a viva voz, por escrito, con fotografía manipulada, con vídeo manipulado, con hologramas manipulados, con robots humanoides que simulen la otra persona, con agujeros de gusano hacia universos paralelos, con ...

[#102 nitantonitancalvo]

#101 "con robots humanoides que simulen la otra persona" Si por fin inventaran eso se acabaría el derroche de invitar a copas en los garitos a según quien y al menos mi cartera lo habría agradecido

[#103 kmon]

#67 nos ha jodido, si veo una foto que sé que es falsa y un vídeo que sé que es falso, es obvio que el daño que pueden hacer los dos es el mismo, ninguno. Pero estamos hablando de fotos falsas o vídeos falsos que pueden pasar por reales. Ha habido muchas fotos manipuladas que se han tomado por reales, y va a haber muchos vídeos manipulados que se tomen por reales. Y un vídeo manipulado que se toma por real puede causar mucho más daño que una foto, el riesgo es muchísimo mayor.

[#104 sorrillo]

#103 El daño potencial es el mismo, el riesgo es el mismo.

Lo que ocurre es que ahora ya culturalmente eres más escéptico de las fotos que hace unas décadas, por que sabes que es muy fácil manipularlas y que hay muchas fotos manipuladas.

En cuanto tengas esa misma percepción para los vídeos los riesgos se igualan.

Las consecuencias se producen por lo que crees que sabes, no por si lo crees por que lo has leído, lo has visto en una foto o en un vídeo. Todo lo anterior se convierte en conocimiento que es en base a lo cual hay consecuencias. El medio de transporte, una vez dada por buena su credibilidad, es irrelevante.

Aunque te lo hayan dicho de palabra si es de alguien que te merece toda la confianza ningún vídeo podrá conseguir que te lo creas más, ya te lo crees completamente. Si no te merece toda la confianza entonces sí necesitarás añadir más elementos, como una foto o un vídeo, para que sume a la confianza y tenga el máximo efecto posible.

[#105 Nova6K0]

Esto a las turbas les viene de vicio. También al FBI para crear más pruebas falsas.

Salu2

[#106 laguerrillasilenciosa]

#21 En la Edad Media la gente se creía que el Cid era un héroe nacional porque lo decían los juglares. La tecnología sofistica, pero no creo que el problema sea nuevo, y quizá tampoco tiene mayor peso que antes del photoshop.

[#107 kmon]

#104 esto es como decirme que el riesgo de conducir a 200 km/h es el mismo que conducir a 20 km/h, porque mientras no pilles mal una curva no tendrás un accidente

[#108 sorrillo]

#107 Un símil pésimo, es un sinsentido a todas luces.

Lo que transmiten el texto, fotos, vídeos, etc. es información. Una vez transmitida y dada credibilidad a ella el origen pasa a ser básicamente irrelevante.

Quien actúa en base a esa información ni siquiera necesita recordar donde lo vio o escuchó, le basta con recordar que lo consideró verdadero.

[#109 neiviMuubs]

El tema da miedo porque se acerca la evolución definitiva de todo esto de los fakes que, parece ahora una eternidad, empezó con modificaciones desde programas como Photoshop. Se empiezan a ver deepfakes en videos bastante verosímiles, aún está la cosa en ciernes, pero nadie duda de que esto va a ir mejorando cada vez más. Sumado a lo que se ha avanzado mediante IA, en filtros de voz, para imitar el timbre y los dejes en la forma de hablar de personas reales, va a dar sin duda mucho de que hablar.

Pero lo que peor me sabe es que esto va a la par con la evolución de los smartphones, que hace mucho que son literalmente ordenadores conectados a internet al alcance de crios que a menudo no llegan ni a los 10 años. Me da que no van a pasar muchos años hasta que las unidades de delitos telemáticos, pierdan una gran cantidad de tiempo rastreando y borrando de las redes toneladas de videos hechos por chavales gamberros que hayan querido poner al compañero o a la compañera de turno como protagonista de videos porno, tras un proceso que les habrá llevado apenas un par de minutos de toqueteo en la app de turno juntando apenas un par de fotos y el video a modificar.

[#110 Ramsay_Bolton]

#74 cuéntame, a quien quieres ver tu...
Arrimadas vestida de cuero... ojito...

[#111 borteixo]

#110 a alguna no es que quiera, es que ya la he visto

[#112 sociopata]

A Miguel Lacambra no le gusta esta noticia

[#113 hombreimaginario]

#1 empecé a dominar el photoshop en el 94. Recuerdo que hice un trucaje de un compañero de clase follando y lo colgué en el corcho de la facultad con la frase “esto es lo que pasa cuando te vas sin pagar” (en aquél entonces era un graciosillo y mucho más gilipollas que ahora). Absolutamente todo el mundo dio por supuesto que la foto era verdadera y mi compañero se quedó con el mote de “el putero” para toda la carrera. Y ahora nadie se cree absolutamente nada. Con los deepfakes pasará lo mismo: mil follones ahora y en diez años nadie creerá ningún video.

[#114 mcfgdbbn3]

Al final necesitaremos cámaras con algún microchip que ponga un sello criptográfico en el vídeo de cara a poderlo analizar después y poder certificar que algo es real.

#39: En las cámaras CCTV tendría que ser eso, un sello criptográfico que determine el vídeo original, pero a ver cómo lo implementas para que no pueda llegar cualquiera y sellar imágenes falsas.