Vivimos en la era de las fake news. Ya nos estamos acostumbrando a las noticias falsas y la desinformación como si fuera algo normal. Pero puede ir a peor. Podrían irrumpir con fuerza en España los deepfakes. En este caso, las trampas se hacen manipulando el vídeo y el audio de manera que el receptor cree que está delante de la fuente original y ya no se hace preguntas.

Los deepfakes de vídeo han llegado para quedarse, con aplicaciones que van desde lo útil hasta lo no tanto, pasando por el entretenimiento. Doublicat se clasifica en esta categoría, poniendo tu cara en GIF animados o minivídeos a partir de una sola fotografía.

La idea detrás del Deepfake Detection Challenge era encontrar algoritmos capaces de detectar vídeos manipulados con inteligencia artificial. Los deepfakes a menudo consiguen engañar al usuario si son lo suficientemente realistas y el contenido no es exagerado. De ahí que las redes sociales busquen reducir su propagación. Pero claro, por cantidad es prácticamente imposible hacerlo manualmente, se requiere de algoritmos que automaticen el proceso de detección.

Escena de la película Regreso al futuro recreada con tecnología DeepFake para introducir a Robert Downey Jr. y Tom Holland en los papeles de Doc Emmet Brown Marty Mcfly respectivamente.

Facebook ha anunciado al ganador de un concurso de sistemas de inteligencia artificial para detectar vídeos ultrafalsificados de forma automática. Pero su precisión del 65 % sigue siendo insuficiente para ganar esta batalla. Puede que en el futuro ni siquiera las personas sean capaces de detectarlos. A las empresas de redes sociales les preocupa la posibilidad de que los deepfakes pronto inunden sus plataformas. Pero detectarlos automáticamente resulta difícil.

Prueba de concepto de cómo realizar un deepfake de danza

A lo largo de los últimos años hemos visto cómo la tecnología de deepfakes ha ido mejorando. Los investigadores han desarrollado modelos cada vez más capaces y con resultados más realistas, siendo esta tecnología muy prometedora en el campo de cine. Todavía queda un poco para conseguir resultados indetectables para el ojo entrenado, pero Disney Research parece haber dado un paso adelante (PDF).

Los deepfakes son vídeos manipulados digitalmente con técnicas de inteligencia artificial para hacer que una persona -generalmente famosa- diga cualquier cosa que los creadores del vídeo quieran. Su grado de realismo y su difícil detección los ha convertido en una de las herramientas más efectivas a la hora de propagar desinformación.

Una campaña publicitaria, cuya emisión se prohibió en el último momento, presenta sendos vídeos ultrafalsificados del mandatario ruso y de Kim Jong-un, en los que advierten de que el país no necesita que interfieran en sus próximas elecciones, ya que arruinará su propia democracia por su cuenta. Forman parte de una campaña del grupo no partidista RepresentUs para proteger el derecho al voto durante las próximas elecciones presidenciales de Estados Unidos.

Joaquin Oliver quiere tu voto contra las armas: este chico de 17 años murió en el tiroteo masivo de Parkland en Estados Unidos en 2018. “Las elecciones de este noviembre habrían sido las primeras en las que podría haber votado”, cuenta a cámara el espectro reanimado digitalmente, con unos ademanes que de seguro imitan el lenguaje corporal que tenía el chico, “pero nunca podré elegir el mundo en el que quiero vivir”, sentencia.

Manipular un vídeo como ocurre en un ‘deepfake’ puede usarse para bien o para mal. En el primer caso, para que veas cine y series dobladas a la perfección. Síntesis de voz, traduccion, sincronización de los movimientos labiales ... un futuro muy prometedor que parece que ya hemos llegado a esa fase en la que el idioma hablado en un vídeo no tiene por qué ser un impedimento para que cualquiera pueda entenderlo sin necesidad de subtítulos.

Trey Parker y Matt Stone tenían entre manos una película protagonizada por 'deepfakes' de Donald Trump y otros famosos, ahora reconvertida en webserie.

Meteoritos, extraterrestres y la Sierra de Huelva

Sylvester Stallone está solo en casa y los ladrones Jordy (Marv) y Yannick (Harry) irrumpieron en su casa. Un cortometraje navideño creado con Deepfakes por VFXChrisUme.

Si estás viendo 30 Monedas de Álex de la Iglesia, ya has visto 250 planos de deepfakes. ¿Los has notado? Alejandro Pérez Blanco explica el proceso de rejuvenecer a actores en la ficción gracias al talento, los ordenadores, el maquillaje y todo el proceso involucrado en los efectos especiales de este tipo. Había varias premisas muy claras desde el primer día: No perder ningún detalle de las interpretaciones, máximo nivel de detalle posible y que los efectos no sean pegotes. Si nadie se da cuenta, mejor. Sutileza.

Periodistas y tecnólogos llevan años advirtiendo sobre los peligros de las ultrafalsificaciones o deepfakes. En general, un deepfake es un tipo de "contenido sintético" que ha sido manipulado o creado por inteligencia artificial... Sin embargo los 'deepfake' no han roto la democracia en 2020; los 'cheapfake', sí

Channel 4 contrató al estudio de efectos visuales Framestore para crear una reina Isabel II fake, que hablara con franqueza sobre asuntos personales, bailara para redes sociales e invitara a los espectadores a que se cuestionen 'si lo que vemos y oímos es siempre lo que parece'. ¿Te imaginas algo así con la monarquía española u otra europea? La imagen de la soberana ha sido manipulada utilizando tecnología de IA con la intención de ofrecer 'una severa advertencia sobre la tecnología avanzada... by Marc Vidal.

Eduard Fernández mira a cámara con seriedad, pero no lo hace el Eduard Fernández de hoy, sino uno de hace años, rejuvenecido. Es él, pero no es él, porque en esa escena Eduard Fernández es un deepfake de sí mismo. Uno que permite que nos metamos en su pasado

¿Qué sucede cuando dependemos cada vez más de las plataformas de redes sociales y de internet para obtener información? ¿Qué información vemos y qué pasamos por alto? ¿Cómo sabemos si una imagen o un tweet es verdadero? ¿Y qué hacemos si no hay forma de tener la certeza?

Lola Flores vuelve a escena gracias a la tecnología deepfake con motivo de la nueva campaña de Cruzcampo, "Con mucho acento" Tal y como explican en el comunicado, para conseguir la voz, el rostro y los gestos de la artista han sido necesarias "horas y horas de material audiovisual", más de 5.000 imágenes y un "minucioso proceso de composición y postproducción". La cervecera sevillana explica que tanto Lolita como Rosario Flores, sus hijas, han asesorado y participado en la elaboración del vídeo, cuyo resultado es, sencillamente, fascinante.

La gestión del derecho de imagen se extiende a los herederos cuando este ha fallecido. Pueden ser los hijos o el cónyuge, de manera directa, o bien a quien la persona haya decidido nombrar en testamento. Cuando varios parientes han sobrevivido, cualquiera de ellos podrá ejercer las acciones previstas por la protección. "Para el deepfake, entendido como tal, la Ley Orgánica 1/82, pese a ser antigua, regula bastante bien todos estos casos de derechos de imagen", explica Carrasco, abogado experto en IA y seguridad.

Ogilvy es la agencia publicitaria que se encuentra detrás del proyecto de creación del deepfake de Lola Flores para Cruzcampo, y Metropolitana el estudio de efectos especiales y postproducción. Hemos hablado con Juan Pedro Moreno y Javi Senovilla, directores creativos de la campaña de la primera; y Ramon Arteman y Nico Roig, director y miembro del departamento de 3D respectivamente de la segunda para que nos den detalles sobre el proceso y expliquen qué dificultades han tenido que ir superando hasta llegar al resultado final.

"Que Cruzcampo haga de la identidad andaluza su principal reclamo publicitario no es ninguna novedad, sino que viene siendo su estrategia desde hace años. Lo relevante es qué contenidos se asocian a dicha identidad"