En diciembre, Motherboard revelaba que un "redditor" llamado "deepfakes" se dedicaba a intercambiar caras y cuerpos de actores pr0n por el de otros de celebridades como Gal Gadot, Maisie Williams y Taylor Swift. Para ello utilizaba algoritmos de aprendizaje automático. Desde entonces, y por medio del uso de una sencilla app., la práctica de producir "falso pr0n" se ha extendido como la pólvora con resultados cada vez más convincentes.

Pornhub acaba de unirse a Reddit y el servicio de almacenamiento de imágenes Gfycat en su lucha contra los conocidos como Deepfakes. El portal de porno ha anunciado que eliminará los vídeos en los que aparecen caras de famosas superpuestas mediante algoritmos sobre los cuerpos de actrices porno.Pornhub ha llegado a la conclusión de que generar estos falsos vídeos a partir de las facciones de otra persona es sexo no consentido. La plataforma ha comparado los deepfake con el revenge porn y eliminará cualquier vídeo de este tipo.

La capacidad de las redes generativas antagónicas de crear imágenes y vídeos falsos ultrarrealistas amenaza nuestra forma de entender la realidad.

Todavía hay un elemento, un pequeño error, de los deepfakes que permite detectarlos (aunque para ello pueda hacer falta recurrir a un software): los parpadeos. En circunstancias normales, humano adulto tiende a parpadear una vez cada 2-10 segundos, y cada uno de sus parpadeos se prolonga durante 1-4 décimas de segundo.

A new algorithm allows video editors to modify talking head videos as if they were editing text – copying, pasting, or adding and deleting words.

Hace unos días, Facebook se situó en el centro de una polémica cuando se negó a retirar unos vídeos manipulados de la política estadounidense Nancy Pelosi, en los que se daba a entender que estaba borracha. Pero unos usuarios han creado ahora un deepfake del mismo fundador de Facebook, Mark Zuckerberg y lo han subido a Instagram en lo que parece un reto a Facebook para que decida si mantiene la misma política.

vídeos manipulados usando herramientas de inteligencia artificial para mostrar algo que no es real. De eso se tratan los 'deepfakes', esa tendencia que surgió en un inicio para crear vídeos porno falsos, donde se ponía el rostro de actrices famosas en los de actrices porno, y que con el tiempo ha saltado a diversas áreas que van desde el simple entretenimiento hasta cosas más serias y preocupantes, como la manipulación política.

Ver un vídeo dramático de una persona haciendo algo horrible deja un "poso" en ti y será un recuerdo mucho más vívido que un frío y neutral análisis forense sobre la autenticidad del vídeo. O aprendemos a detectar y combatir estos vídeos con rapidez y capacidad de difusión, o corremos el riesgo de hundirnos en una época de posverdad mundial sin precedentes.

Vídeo corto de una demostración de la aplicación de los rasgos de Freddy Mercury extraídos de cientos de imágenes y vídeos sobre la cara en movimiento del actor Rami Malek, que encarnó a Mercury en la película Bohemian Rhapsody.

La conocida escena del asesinato con hacha en American Psycho, modificada mediante IA para insertar la cara de Tom Cruise en lugar de la de Christian Bale. Otros elementos de la secuencia han sido modificados, por ejemplo, el frasco de medicamento. La voz de Tom Cruise ha sido añadida por un actor.

Dos años después del nacimiento de los deepfakes, tanto la industria tecnológica como el ámbito académico se afanan en desarrollar soluciones que permitan automatizar la detección de material multimedia falsificado (vídeos, imágenes y grabaciones de voz) mediante el uso de inteligencia artificial.

Fuentes de la compañía afirman que invertirán en los próximos años un millón de dólares en investigadores que desarrollen un algoritmo para descubrir a estos videos falsos.

Las técnicas digitales para manipular vídeo y sonido han pasado de ser lo más gracioso de internet a convertirse en el arma secreta de los esbirros del fraude y las fake news. En apenas dos años, la aplicación de inteligencia artificial y machine learning al montaje de vídeos ha generado un universo de memes, pornografía, manipulaciones políticas y usurpaciones de identidad que confunde al usuario y preocupa a los expertos en ciberseguridad. "Los deepfakes más profesionales están fuera de control", admite uno de ellos.

Se podría usar para, por ejemplo, doblar películas en diferentes idiomas con un resultado más realista. Unos investigadores del International Institute of Information Technology en Hyderabad, India, han desarrollado un sistema de inteligencia artificial capaz de crear vídeos deepfakes traducidos a diferentes idiomas. No hablamos solo de "audio", es decir, de que el sujeto primero hable inglés y luego hable en español, sino que el software usa inteligencia artificial para emular el movimiento de los labios para arrojar un resultado más realista.

La idea detrás del Deepfake Detection Challenge era encontrar algoritmos capaces de detectar vídeos manipulados con inteligencia artificial. Los deepfakes a menudo consiguen engañar al usuario si son lo suficientemente realistas y el contenido no es exagerado. De ahí que las redes sociales busquen reducir su propagación. Pero claro, por cantidad es prácticamente imposible hacerlo manualmente, se requiere de algoritmos que automaticen el proceso de detección.

Facebook ha anunciado al ganador de un concurso de sistemas de inteligencia artificial para detectar vídeos ultrafalsificados de forma automática. Pero su precisión del 65 % sigue siendo insuficiente para ganar esta batalla. Puede que en el futuro ni siquiera las personas sean capaces de detectarlos. A las empresas de redes sociales les preocupa la posibilidad de que los deepfakes pronto inunden sus plataformas. Pero detectarlos automáticamente resulta difícil.

Prueba de concepto de cómo realizar un deepfake de danza

A lo largo de los últimos años hemos visto cómo la tecnología de deepfakes ha ido mejorando. Los investigadores han desarrollado modelos cada vez más capaces y con resultados más realistas, siendo esta tecnología muy prometedora en el campo de cine. Todavía queda un poco para conseguir resultados indetectables para el ojo entrenado, pero Disney Research parece haber dado un paso adelante (PDF).

Los deepfakes son vídeos manipulados digitalmente con técnicas de inteligencia artificial para hacer que una persona -generalmente famosa- diga cualquier cosa que los creadores del vídeo quieran. Su grado de realismo y su difícil detección los ha convertido en una de las herramientas más efectivas a la hora de propagar desinformación.

Si estás viendo 30 Monedas de Álex de la Iglesia, ya has visto 250 planos de deepfakes. ¿Los has notado? Alejandro Pérez Blanco explica el proceso de rejuvenecer a actores en la ficción gracias al talento, los ordenadores, el maquillaje y todo el proceso involucrado en los efectos especiales de este tipo. Había varias premisas muy claras desde el primer día: No perder ningún detalle de las interpretaciones, máximo nivel de detalle posible y que los efectos no sean pegotes. Si nadie se da cuenta, mejor. Sutileza.

Channel 4 contrató al estudio de efectos visuales Framestore para crear una reina Isabel II fake, que hablara con franqueza sobre asuntos personales, bailara para redes sociales e invitara a los espectadores a que se cuestionen 'si lo que vemos y oímos es siempre lo que parece'. ¿Te imaginas algo así con la monarquía española u otra europea? La imagen de la soberana ha sido manipulada utilizando tecnología de IA con la intención de ofrecer 'una severa advertencia sobre la tecnología avanzada... by Marc Vidal.

Eduard Fernández mira a cámara con seriedad, pero no lo hace el Eduard Fernández de hoy, sino uno de hace años, rejuvenecido. Es él, pero no es él, porque en esa escena Eduard Fernández es un deepfake de sí mismo. Uno que permite que nos metamos en su pasado