La UE tiene una idea para resolver uno de los grandes problemas de la IA: marcar su contenido generado

Uno de los problemas que traen consigo las IA generadoras de imágenes y de texto es que es prácticamente imposible distinguir si un contenido ha sido generado por una aplicación o por un humano. Y eso es algo que la Comisión Europea se ha propuesto abordar. Una advertencia de "Made by AI". Para que no haya confusión posible, la UE quiere establecer, de manera obligatoria, que casi todo el contenido generado por IA esté advertido por una etiqueta.

[#1 Charlich]

A mí tampoco me gusta mucho la forma de los titulares de xataka, pero lo he buscado en castellano con otras fuentes y no lo he encontrado

[#2 sorrillo]

No tiene mucho sentido ya que la IA se puede usar como asistencia con cualquier grado, desde una única frase en una entrada de blog a todo el contenido. ¿Qué porcentaje tiene que haber contribuido la IA para tener que poner esa marca?

A todo ello OpenAI está trabajando en poner una "marca de agua" a lo que sus IA generen, no tanto para que la gente sepa que ha sido generado por IA, que también serviría, sino para que cuando entrenen siguientes versiones de su IA puedan eliminar los textos generados por versiones anteriores para evitar que la IA aprenda de sí misma reforzando sus errores.

[#3 thorin]

#2 Creo recordar que Stable Diffusion produce esa marca desde hace bastante.

[#4 pitercio]

No lo han conseguido con los transgénicos y lo van a intentar con Terminator.

[#5 hazuko]

Por si a alguien le interesa, dejo aquí un vídeo del canal computerphile de hace un mes, hablando sobre el tema del watermarking: www.youtube.com/watch?v=XZJc1p6RE78

[#6 ErMijita]

Mientras la marca de agua no se cargue el resultado final, perfecto. Yo a las imágenes que estoy sacando con Stable Diffusion les quito la marca de agua, porque estropean el resultado. Luego pongo en los créditos que está generada con IA y listo.

[#7 Gry]

Que escriba en verde.

[#8 rojo_separatista]

Medida inaplicable desde el momento en que las imágenes generadas por IA superan el test de Turing.

[#9 Robus]

Sería más viable que fueran los humanos los que pusieran un “creado por un humano”… pero de todas maneras me parece una tontería, las IA no hacen nada ellas solas, así que será siempre creado por un humano usando programas informáticos ¿o acaso los ilustrator o photoshop no usan automatismos?

[#10 --715598--]

Esta debe estar en el top de ideas tontas del año.