El mes pasado, un grupo político en Bélgica publicó un video deepfake del primer ministro belga dando un discurso que relacionaba el brote de COVID-19 con el daño ambiental y pedía medidas drásticas sobre el cambio climático. Al menos algunos espectadores creyeron que el discurso era real.
|
etiquetas: deepfakes , problemática
Ahora somos escépticos de cualquier fotografía que muestre algo difícil de creer o que pretenda usarse para alguna afirmación que pueda tener ciertos intereses detrás.
Los vídeos y el audio van por el mismo camino.
inventanimaginan.El sistema no incentiva que la gente sea crítica con la información que reciba.
El problema es que somos animales visuales no importa que nos digan que algo es mentira si nuestro cerebro interpreta ese photoshop o más eficazmente mediante video queda en el subconsciente tarde o temprano.
El factor determinante es que el Photoshop facilitó que cualquiera pudiera llevarlo a cabo, tecnología que estaba solo al alcance de gobiernos o grandes corporaciones pasó a estar al alcance de prácticamente cualquiera. Los deepfakes hacen eso mismo con el vídeo y el audio.
En un caso para imágenes estáticas, en otro para imágenes en movimiento y sonido.
Ambos tienen un impacto significativo en la credibilidad de esos respectivos formatos y es esperable que incrementen el escepticismo.
Efectivamente, al igual que ahora ocurre con cualquier imagen estática debido a la popularización del Photoshop y equivalentes.
Cuando ves una imagen manipulada esperas las declaraciones del implicado/a y eso te despeja de dudas, pero ahora esas declaraciones tambien pueden estar manipuladas con el deepfake, con lo cual nunca sabras cuando la informacion que te llega es cierta o no.
Los vídeos y declaraciones no eran la única forma de resolver el escepticismo, también existe la credibilidad de las fuentes. Si la CNN publica un vídeo indicando que es propio, que lo ha grabado uno de sus cámaras, ponen la credibilidad del medio en ese vídeo. En caso de ser un deepFake la población buscará responsabilidades en ese medio a menos que sea contundente con ese cámara.
Si el vídeo es publicado en twitter por un usuario con muchos seguidores y un historial impecable de credibilidad y afirma que lo ha grabado él con su móvil se juega su prestigio, sus seguidores, con esas afirmaciones.
La credibilidad de las fuentes suele ser clave cuando se duda de si una imagen ha sido manipulada y lo mismo es muy posible que ocurra con los vídeos y audios.
Si por contra te llega por una cadena de whatsaap ni caso ni a textos que dicen que es de Abraham Lincoln, ni a fotos, ni a vídeos, ni a audios, ni a ...
Si no tiene fuentes verificables, si nadie se hace responsable de la credibilidad del contenido, ni caso. Es falso hasta que alguien se esfuerce para demostrar lo contrario.
Si no reenvias este comentario a 10 de tus contactos menéame cerrará, debes hacerles saber que no quieres que lo cierren reenviandolo a 10 de tus contactos.
En mi caso ya estoy curado, porque como decía mi abuela, no te creas nada de lo que sale por la tele. No sé a quién debería sorprenderle a estas alturas algo así y el problema grave no es que existan los deepfakes, sino que haya gente que se esté dando cuenta ahora de que los videos no es una fuente de información fiable.
Y si el video que crees que es de la CNN es en realidad un deepfake haciendose pasar por la CNN?.
Ese es el problema de esta tecnologia, que nunca vas a tener la certeza de quien esta al otro lado de la informacion
Los certificados digitales aún no han sido falsificados de forma generalizada, puedes confirmar que el dominio se corresponde con el oficial.
Ese es el problema de esta tecnologia, que nunca vas a tener la certeza de quien esta al otro lado de la informacion
Puedes tener a un periodista de La Vanguardia, otro de El Pais, otro de 20 Minutos todos ellos afirmando en sus medios que han hablado directamente con sus contactos de la CNN y que el vídeo según ellos es verídico.
Siempre puedes ampliar el grado de certidumbre añadiendo más y más participantes que se jueguen su credibilidad en el proceso de informar.
La clave es si quienes sí tienen interés en obtener información fiable y están dispuestos a hacer un esfuerzo razonable para verificarla pueden seguir haciéndolo, y efectivamente hoy por hoy sigue siendo viable y no parece que a corto plazo vaya a dejar de serlo.
No hace ni 5 años que salió gracias a la hemeroteca cómo un noticiario ponía a pablo iglesias diciendo lo contrario de lo que realmente había dicho. Sin usar deepfake.
Imaginate que te llaman por skype y piensas que es tu cajero del banco porque visualmente parece el, y es un deepfake que te esta robando la cuenta bancaria.
Las implicaciones son brutales.
Como digo, el problema es que todavía haya gente que se crea lo que dicen en la tele.
Y dificilmente se me va a meter un señor con la cuenta de mi banquero en mi skype sin haber hackeado primero la cuenta del banquero, pero segundo, creo que la cara del banquero todavía no la pueden falsear.
Y de lo de dar tus datos bancarios por internet ya no hablemos, a ver si me vas a venir a decir que porque tu banquero te pida la contraseña por skype se la vas a dar.
Eso está muy lejos de una simple foto trucada con photoshop.
¿Hasta donde puedo imaginarme en ese mundo imaginario tuyo?
A menos que te refieras a un vídeo en el que al cabo de pocos segundos supone ya un ataque nuclear cruzado entre todas las potencias mundiales no veo como un vídeo falso de distribución pública significativa pueda tener un recorrido demasiado largo hasta ser puesto en entredicho por las víctimas de ese vídeo.
Al igual que una foto trucada con photoshop.
Dime cuando tengo que parar de imaginarme cosas, que si no no acabamos.
Esto nos trae a un cruce extremadamente confuso. Y qué hacemos al respecto? ¡Viva la era de la información!
Miedo me da lo que puede pasar en esas poblaciones perdidas de países en los que queman a una persona únicamente porque haya varios testigos diciendo que la han pillado robando, o haciendo tocamientos a un menor. Por ejemplo, un Pablo Escobar actual, un mafioso con muchísimo dinero, podría encargar un vídeo comprometido de un juez o de algún jefe de policía etc...
Con el tiempo podremos vivir con esto, pero los primeros momentos podrá causar estragos entre la sociedad. Ya valdría ir pensando en una regularización para el caso de que un montaje de este tipo se haga con caracter de hacer daño.
Si ya existe una manipulación increíblemente dañina con fake news escritas no me puedo imaginar lo que podrá ser con fake videos realistas....
La tecnología de deepfake simplemente lo hace más accesible. Al final es cuestión de verificar las fuentes y ser crítico, como siempre. Un vídeo que te llega al Whatsapp sin que lo hayas pedido de alguien que reenvía todo lo que le envían porque le parece un escándalo o una cuenta de Twitter anónima no son fuentes fiables. Ojo, que igual mediante twitter alguien filtra un vídeo de algo y es verdadero, pero cuando algo se filtra y no se sabe quien ni se puede comprobar es complicado certificar su veracidad o establecer un intervalo de confianza.
se cree lo que veny no le dan mas vueltas.Se creen lo que quieren creer y no le dan mas vueltas. Todo lo que encaja para confirmar su sesgo ideológico, se lo tragan con patatas. Te lo digo por experiencia que mi padre se traga todos los bulos que mandan por whatsapp. Bueno corrijo, se traga todos los bulos que ponen a parir al gobierno o a podemos, curiosamente los otros no se los cree
Un texto falso, una imagen falsa, un vídeo falso pueden producir el mismo tipo de daños, como son las difamaciones, la falta al honor, las estafas, etc. Todo lo que puedan provocar ya está regulado, con independencia de las herramientas que se utilicen para provocar ese daño.
No hay nada nuevo que se pueda conseguir con imágenes en movimiento falsas que con imágenes estáticas falsas.
Simplemente culturalmente ya estamos mejor protegidos contra las imágenes estáticas falsas por que hemos aumentado nuestro escepticismo sobre ellas por el mal uso que hemos visto que se le ha dado, si se llega al mismo nivel de escepticismo con las imágenes en movimiento tendremos el mismo nivel de protección, y no hay ninguna razón para que eso no ocurra.
Algo que ya no ocurre con las imágenes estáticas por que hemos cultivado un sano escepticismo por la facilidad con la que se pueden producir hoy en día imágenes estáticas falsas.
El que estemos cerca o se pueda ya producir con la misma facilidad vídeos en movimiento no hay motivo para que no genere el mismo grado de sano escepticismo y por lo tanto el mismo grado de protección.
En esencia es lo mismo.
y el principio de dificultad relativo siempre estará ahí
No, no siempre, de hecho este meneo trata precisamente de que está desapareciendo esa dificultad.
En cualquier caso eso no excluye investigaciones más allá del propio contenido falsificado.
Son procesos distintos, con herramientas distintas, que entrañan retos distintos.
En cualquier caso es irrelevante si quien ha hecho la falsificación ha dedicado diez minutos o varias horas, lo relevante es que cualquiera pueda hacerlo.
Hay imágenes estáticas muy influyentes, mucho más que cualquier vídeo.
El problema es que culturalmente aún le damos mayor credibilidad que a las imágenes estáticas. En cualquier caso es irrelevante para lo que estamos hablando, si se tiene un escepticismo equiparable el impacto es equiparable.
A nivel legal no encontrarás ninguna diferencia entre una imagen estática, una grabación de voz o un vídeo. Todos esos medios están sujetos a las mismas normas, a la misma posibilidad de escrutinio e impugnación por las partes interesantes.
Por lo tanto ahora nada, ahora igual que siempre.
Un vídeo falseado siempre va a tener mucho más impacto.
La credibilidad inicial que le damos a un texto escrito es distinta a una imagen estática o a un vídeo en movimiento, y esa credibilidad se va adaptando según sea el riesgo realista de que sea falso.
Eso puede cambiar. Y es a eso a lo que me refería con que no es distinto a cuando se hizo popular modificar fotos con Photoshop.
y un vídeo siempre atrae más
No es cierto, no siempre.
se difunde mejor
En absoluto, la difusión es más dificultosa que con una imagen.
genera más impacto
Depende del contenido.
una foto y un vídeo falseados no son equiparables
Si buscan el mismo objetivo y medimos si lo consiguen o no sí son equiparables, si falsificarlos está al alcance de todo el mundo también son equiparables en ese aspecto, si le damos la misma credibilidad también lo son en ese aspecto.
Un vídeo falseado siempre va a tener mucho más impacto.
Siempre es demasiado tiempo. Dependerá de la percepción cultural sobre las falsificaciones que adquiera la sociedad.
- Un vídeo siempre atrae más. Si. A día de hoy eso es incuestionable.
-Se difunde mejor. Aún de manera más llamativa y drástica que lo anterior. Y como además es mi campo de trabajo, para mi es un debate superado hace más de 20 años, laboralmente hablando... No hay tema posible.
- Genera más impacto; Una vez más... indudablemente. No hacen falta muchas más pruebas (aunque hay papers para construir una pirámide, si quieres analizarlo en cifras y estudios sociológicos y de marketing puro y duro). La prensa, las revistas, los repositorios de fotos... Todos muertos uno tras otro contra el vídeo.
Las únicas fotos que siguen teniendo impacto son las que te presentan a más de 30 fotos por segundo.
A día de hoy, es un asunto incuestionable. El impacto, éxito, rentabilidad, difusión, que genera un vídeo es incomparable con una foto. Y de eso va el artículo que precede este hilo.
No hay razón para que con las imágenes en movimiento no llegue a existir el mismo nivel de escepticismo y suponga un fuerte impacto a su credibilidad como supuso para las imágenes estáticas.
En esencia es el mismo caso, en fases distintas de desarollo.
En absoluto. Es repetir lo que dije en mi primer comentario:
No es distinto a lo que ocurrió con el Photoshop.
Ahora somos escépticos de cualquier fotografía que muestre algo difícil de creer o que pretenda usarse para alguna afirmación que pueda tener ciertos intereses detrás.
Los vídeos y el audio van por el mismo camino.
pero aún con esas, su impacto seguirá siendo mayor.
Eso es una predicción de futuro. Una que no tiene fundamento. No hay razón para que el nivel de escepticismo no llegue a ser equiparable.
Así que será más urgente, y seguramente, complejo, frenarlo a tiempo antes de que su impacto fuera crítico.
El formato del contenido no es relevante para lo que indicas, el factor determinante es con que velocidad y alcance se difunde el contenido falso, cuanta más notoriedad obtenga y con mayor rapidez también más rápido y de forma más notoria se distribuirá la información que desmienta al contenido.
No.
No es solo el acceso si no la facilidad de uso.
Llegados a este punto creo que me estoy dando contra un muro. Y voy a ir echando el freno, porque aunque tengo una vocación por la divulgación, mi tiempo es muy limitado, y generalmente, a partir de 3 comentarios, donde detecto una falta de interés por mover una posición, entiendo que puedo verme llevando a un debate donde si yo no aprendo nada, y el otro no quiere aprender, sólo voy a agotar tiempo.
Si. Cambiaste el análisis. Pasaste de hablar del presente al futuro. Aún así te equivocas en ambos. El vídeo genera mayor impacto, difusión, y las empresas lo saben y por eso no hay competencia basada en imágenes contra alguien proveedor de vídeo. La gente consume vídeo. Incluso si quieres tirar de un cartel, lo montas como secuencia de imágenes con una tipografía horrible y funcionará mejor que la imagen suelta. Un paseo por twitter para ver bulos de la extrema derecha es un ejemplo tan grave como triste y preocupante. Un vídeo siempre es más que una imagen. Siempre.
El impacto de los deepfakes de vídeo serán mayores. Lo digo yo, pero no hace falta que lo diga yo. El artículo, que a estas alturas dudo de si has leído, va de ello. Si consumes menos tiempo en seguir comentando, y te animas a entrar en schoolargoogle y simplemente dedicas un par de horas a buscar sobre el tema, leyendo los resúmenes, te harás una idea rápida de lo descomunal que se impone el tema del deepfake con los vídeos. Si no quieres verlo... es otro asunto.
El formato del contenido es mucho más determinante y relevante para lo que indico. Sin ese formato del contenido todo lo que viene después no aplica. Si mi formato del contenido es una piedra garabateada, da igual lo que aparezca en ella, aunque sea la receta contra el VIH. Pero un vídeo sobre una memez de chips 5G en las vacunas tiene un éxito arrollador. Y eso que por ahora nadie ha hecho un vídeo deepfake de Bill Gates admitiendo que eso sea así.
Lo siento pero te tengo que negar la mayor.
Y también lo siento, pero te tengo que enviar un rato a la nevera. Te emplazaría a tutorías como el resto de mis alumnos, no puedo dedicarte más tiempo a ti que ellos, y menos si no detecto curiosidad por tu parte...
Dependiendo de la credibilidad que le otorgue la sociedad.
Si. Cambiaste el análisis. Pasaste de hablar del presente al futuro.
Desde el primer comentario he utilizado el recorrido que hemos visto con el Photoshop como símil de lo que puede ocurrir con el vídeo.
El vídeo genera mayor impacto, difusión, y las empresas lo saben y por eso no hay competencia basada en imágenes contra alguien proveedor de vídeo.
La publicidad estática sigue estando muy presente en nuestra sociedad. Cada medio tiene su público y su contexto.
A su vez existe la distribución por redes sociales, es igualmente sencillo retwitear un vídeo que una imagen.
La gente consume vídeo. Incluso si quieres tirar de un cartel, lo montas como secuencia de imágenes con una tipografía horrible y funcionará mejor que la imagen suelta.
La gente consume igualmente imágenes estáticas.
Un paseo por twitter para ver bulos de la extrema derecha es un ejemplo tan grave como triste y preocupante.
Ya he explicado y repetido que están en fases distintas, culturalmente ya está asimilado que cualquier imagen puede ser falsa mientras que con los vídeos eso aún no ocurre. Por ello cualquier bulo que utilice un medio que hoy por hoy tenga mayor credibilidad es lógico que se difunda con mayor facilidad.
No hay motivo para que el vídeo no pierda el mismo nivel de credibilidad que perdieron las imágenes estáticas con el Photoshop.
El impacto de los deepfakes de vídeo serán mayores.
Mientras no exista la cultura del escepticismo que ya está instaurada en relación a las imágenes estáticas.
A ti te obsesiona el corto plazo, el efecto inmediato en esta fase inicial de los vídeos falsos y yo te remito a la fase ya más avanzada del Photoshop para que puedas tener una visibilidad del recorrido que se puede recorrer al respecto.
Si mi formato del contenido es una piedra garabateada, da igual lo que aparezca en ella, aunque sea la receta contra el VIH.
No, no da igual, si aparece en ella un grabado aparentemente rupestre que se presenta como el más antiguo jamás encontrado esa piedra garabateada aparecerá en la práctica totalidad de medios escritos y televisivos del mundo.
Lo realmente relevante es como de rápido se distribuye ese bulo para que otros pongan en entredicho su veracidad y demuestren que es falso.
Pero un vídeo sobre una memez de chips 5G en las vacunas tiene un éxito arrollador.
Y el texto escrito al respecto también, el contenido es mucho más relevante que el formato. Y su nivel de distribución es clave para que aparezcan otras fuentes desmintiendo esos bulos.
Nota: Este comentario es para responder a @ Tuatara que por lo visto me tiene en su lista negra de ignorados. Por alguna razón que se me escapa los @admin de @meneame han decidido que si alguien te pone en su lista negra ya no puedes citarle en respuesta a sus comentarios públicos, dificultando así el uso de herramientas de menéame como es el ver los comentarios en forma de hilo de discusión. Me pongo también en copia en #86 a ver si ayuda en el anidado.
Por ejemplo no hay técnica que pueda demostrar que el contenido de una frase sea falso analizando solo la frase.
Por ejemplo:
Ayer 15 de Junio de 2020 a las 12h UTC el Sol se apagó durante 17 minutos y 32 segundos, durante ese periodo no emitió radiación ni en el espectro visible ni en ningún otro rango del espectro electromagnético.
Puedes hacer el análisis de esa frase tanto como quieras que no podrás demostrar que sea un bulo, la frase no contiene nada que te permita demostrar que sea falsa. No existe ninguna técnica forense que pueda detectar incongruencias internas o que pueda demostrar que ha sido manipulada y que por lo tanto su contenido no tiene credibilidad.
Solo puedes demostrar que es falsa con elementos externos a la frase, por ejemplo habiendo estado vivo el día anterior y sabiendo que si se hubiera apagado el Sol te habrías dado cuenta.
Eso provoca que no des ninguna credibilidad a ninguna frase por el hecho de ser frase, se lo das a su contenido si es consistente con lo que conoces y si confías en quién es su autor o cualquier otro aspecto externo a la frase en sí misma. Cuya veracidad no puede verificarse por un análisis de la propia frase.
Editado: Añadida hora exacta en la frase falsa para facilitar llegar a la conclusión de la falsedad de lo relatado.