La idea detrás del Deepfake Detection Challenge era encontrar algoritmos capaces de detectar vídeos manipulados con inteligencia artificial. Los deepfakes a menudo consiguen engañar al usuario si son lo suficientemente realistas y el contenido no es exagerado. De ahí que las redes sociales busquen reducir su propagación. Pero claro, por cantidad es prácticamente imposible hacerlo manualmente, se requiere de algoritmos que automaticen el proceso de detección.

Cuando hablamos de deepfakes generalmente nos viene a la cabeza vídeos donde se colocan caras de famosos, se modifican lo que los sujetos dicen o directamente crean anuncios. Pero hay más, ahora un grupo de investigadores ha demostrado que se pueden usar también para crear mapas falsos. Tal y como detalla un equipo de investigadores de la Universidad de Washington, es posible generar imágenes satelitales deepfake utilizando la inteligencia artificial.

La compañía de ciberseguridad Proofpoint ha sacado a la luz esta semana una investigación en la que descubre el historial del grupo de ciberdelincuentes prorruso TA499, también conocido como 'Vovan y Lexus', un par de actores dedicado a la desinformación basada en la suplantación de identidad usando 'deepfake'. Además de la tecnología 'deepfake', Proofpoint indica que los hackers también pueden utilizar maquillaje para parecerse a quienes suplantan pero que aparentemente no utilizan ningún modulador de voz.

El domingo, un informe del South China Morning Post reveló una importante pérdida financiera sufrida por la oficina de Hong Kong de una multinacional, que ascendía a 200 millones de dólares de Hong Kong (25,6 millones de dólares estadounidenses), debido a una sofisticada estafa con tecnología deepfake. En la estafa aparecía una versión recreada digitalmente del director financiero de la empresa y su voz, junto con otros empleados, que aparecían en una videoconferencia dando instrucciones a un empleado para que transfiriera fondos.

Todavía hay un elemento, un pequeño error, de los deepfakes que permite detectarlos (aunque para ello pueda hacer falta recurrir a un software): los parpadeos. En circunstancias normales, humano adulto tiende a parpadear una vez cada 2-10 segundos, y cada uno de sus parpadeos se prolonga durante 1-4 décimas de segundo.

Hace unos días, Facebook se situó en el centro de una polémica cuando se negó a retirar unos vídeos manipulados de la política estadounidense Nancy Pelosi, en los que se daba a entender que estaba borracha. Pero unos usuarios han creado ahora un deepfake del mismo fundador de Facebook, Mark Zuckerberg y lo han subido a Instagram en lo que parece un reto a Facebook para que decida si mantiene la misma política.

Dos años después del nacimiento de los deepfakes, tanto la industria tecnológica como el ámbito académico se afanan en desarrollar soluciones que permitan automatizar la detección de material multimedia falsificado (vídeos, imágenes y grabaciones de voz) mediante el uso de inteligencia artificial.

Las técnicas digitales para manipular vídeo y sonido han pasado de ser lo más gracioso de internet a convertirse en el arma secreta de los esbirros del fraude y las fake news. En apenas dos años, la aplicación de inteligencia artificial y machine learning al montaje de vídeos ha generado un universo de memes, pornografía, manipulaciones políticas y usurpaciones de identidad que confunde al usuario y preocupa a los expertos en ciberseguridad. "Los deepfakes más profesionales están fuera de control", admite uno de ellos.

Se podría usar para, por ejemplo, doblar películas en diferentes idiomas con un resultado más realista. Unos investigadores del International Institute of Information Technology en Hyderabad, India, han desarrollado un sistema de inteligencia artificial capaz de crear vídeos deepfakes traducidos a diferentes idiomas. No hablamos solo de "audio", es decir, de que el sujeto primero hable inglés y luego hable en español, sino que el software usa inteligencia artificial para emular el movimiento de los labios para arrojar un resultado más realista.

Facebook ha anunciado al ganador de un concurso de sistemas de inteligencia artificial para detectar vídeos ultrafalsificados de forma automática. Pero su precisión del 65 % sigue siendo insuficiente para ganar esta batalla. Puede que en el futuro ni siquiera las personas sean capaces de detectarlos. A las empresas de redes sociales les preocupa la posibilidad de que los deepfakes pronto inunden sus plataformas. Pero detectarlos automáticamente resulta difícil.

A lo largo de los últimos años hemos visto cómo la tecnología de deepfakes ha ido mejorando. Los investigadores han desarrollado modelos cada vez más capaces y con resultados más realistas, siendo esta tecnología muy prometedora en el campo de cine. Todavía queda un poco para conseguir resultados indetectables para el ojo entrenado, pero Disney Research parece haber dado un paso adelante (PDF).

Los deepfakes son vídeos manipulados digitalmente con técnicas de inteligencia artificial para hacer que una persona -generalmente famosa- diga cualquier cosa que los creadores del vídeo quieran. Su grado de realismo y su difícil detección los ha convertido en una de las herramientas más efectivas a la hora de propagar desinformación.

Eduard Fernández mira a cámara con seriedad, pero no lo hace el Eduard Fernández de hoy, sino uno de hace años, rejuvenecido. Es él, pero no es él, porque en esa escena Eduard Fernández es un deepfake de sí mismo. Uno que permite que nos metamos en su pasado

Lola Flores vuelve a escena gracias a la tecnología deepfake con motivo de la nueva campaña de Cruzcampo, "Con mucho acento" Tal y como explican en el comunicado, para conseguir la voz, el rostro y los gestos de la artista han sido necesarias "horas y horas de material audiovisual", más de 5.000 imágenes y un "minucioso proceso de composición y postproducción". La cervecera sevillana explica que tanto Lolita como Rosario Flores, sus hijas, han asesorado y participado en la elaboración del vídeo, cuyo resultado es, sencillamente, fascinante.

Ogilvy es la agencia publicitaria que se encuentra detrás del proyecto de creación del deepfake de Lola Flores para Cruzcampo, y Metropolitana el estudio de efectos especiales y postproducción. Hemos hablado con Juan Pedro Moreno y Javi Senovilla, directores creativos de la campaña de la primera; y Ramon Arteman y Nico Roig, director y miembro del departamento de 3D respectivamente de la segunda para que nos den detalles sobre el proceso y expliquen qué dificultades han tenido que ir superando hasta llegar al resultado final.

La tecnología de los deepfakes tiene un increíble potencial para cambiar el mundo de la publicidad audiovisual, como ya pudimos comprobar con el sonado...

La contratación de empleados en remoto a través de videollamadas tiene un nuevo riesgo. El FBI ha alertado sobre un aumento de casos en los que los usuarios utilizan deepfakes para, en algunas ocasiones, suplantar la identidad de otros usuarios y aplicar a ese puesto de trabajo a distancia, que normalmente está relacionado con el sector tecnológico. Se asegura que han sido las empresas quienes han denunciado diferentes casos de personas que utilizan sistemas para cambiar el rostro a la hora de realizar las entrevistas.

Existe una interesante vulnerabilidad en los deepfakes de vídeo que, hasta la fecha, ha sido generalmente pasada por alto por la comunidad de investigadores de seguridad, quizás porque los deepfakes "en vivo", en tiempo real, en las videollamadas no han sido una causa importante de preocupación hasta hace muy poco. Desde puntos de vista más o menos frontales, la mayoría de las recreaciones de famosos son bastante eficaces, y algunas son muy convincentes incluso en ángulos bastante agudos, hasta que el ángulo facial alcanza los 90º.

“Esta es la cara del dolor”. Así arranca la creadora de contenidos QTCinderella un vídeo en el que denuncia haber sido víctima de la difusión de una secuencia pornográfica hiperrealista creada con inteligencia artificial. Las imágenes a las que se refiere son falsas, el daño causado no. La popular figura de internet, de 29 años, se suma a una larga lista de personas afectadas por este tipo de creaciones, conocidas como deepfakes. Las aplicaciones de inteligencia artificial las hacen cada vez más fáciles de producir y difíciles de identificar su

Los actores de voz están molestos por el uso de sus voces copiadas por IA en mods NSFW y explícitos de Skyrim. Un usuario de Twitter ha publicado una lista de actores de voz, cuyas voces fueron utilizadas en mods pornográficos usando deepfakes de IA. La Asociación Nacional de Actores de Voz (NAVA) reaccionó a esta publicación con una declaración propia en Twitter. Condenando el uso de voces generadas para material explícito y mods.