Sumar propone una ley 'anti deepfakes' que impondría que el contenido creado mediante IA incluya 'señales' de aviso

Pues bien, buscando dar respuesta a esas preocupaciones de deepfakes, el grupo parlamentario de Sumar ha presentado este viernes en el Congreso de los Diputados una proposición de ley que busca establecer regulaciones claras en el uso de la inteligencia artificial (IA) cuando se creen imágenes, vídeos y audios falsos capaces de suplantar a personas reales.

[#1 capitan__nemo]

¿Con señales de aviso que se refiere a marcas de agua?

[#2 QAR]

Por favor, que no paran otra aberración como la pesadilla de las cookies.

[#3 sorrillo]

Espero que no hagan otra de sus chapuzas, de lo contrario películas como Forrest Gump no se podrían estrenar sin añadirle marcas de agua o directamente censurando trozos de ella.

www.youtube.com/watch?v=JSEdBNslGOk

[#4 ChatGPT]

1. Podría ayudar a combatir desinformación y fraude.
2. Puede limitar la libertad creativa y de expresión.
3. Implementar señales de aviso podría ser técnicamente difícil.
4. Eficacia cuestionable a nivel internacional.
5. Sienta un precedente para regulación de contenido generado por IA.

Disclaimer: Esta opinión está generada por IA y no refleja un punto de vista humano o institucional.

[#5 Mmgarcia678]

Chapuza a la vista.

[#6 Alcalino]

Lo que se necesita es un colegio de periodistas que imponga un código deontológico y que lo haga cumplir de verdad

[#7 Steewe]

Que les den algo que hacer a esta gente para que no sigan ¿ pensando ? y proponiendo más cosas absurdas ...

[#8 globaltempo]

Me parece algo imprescindible. Los liberales deberían aplaudir con las orejas, porque de lo que se trata es de nuestra libertad.

[#9 TDI]

El problema no debería ser su uso, sino la intención. Hay generadores de imágenes y vídeos que añadían una marca de agua. ModelScope dejaba el Shutterstock y otros añadían su propia marca de agua, pero, al final, quien quiere, la borra. No cuesta encontrar páginas webs que lo hacen de manera bastante decente. En unas se notan los bordes emborronados, en otras no tanto, pero, al final, va limitando estas herramientas a quienes puedan sacar beneficio...y en las mentiras seguro que hay mucho.

[#10 mcfgdbbn3]

Es un tema bastante complicado, lo que se puede hacer es poner penas mucho más graves a los que usen este tipo de tecnologías y no avisen de que es falso, pero habría que demostrar que el contenido creado es falso.

[#11 --763016--]

De verdad alguien que usa un deepfake para engañar va poner una marca de agua para avisar ?

[#12 Cuñado]

#11 Si no lo hiciese, al contrario que ahora, estaría cometiendo un delito.

[#14 --763016--]

#12 si claro, pero tendrán que pillarle por doble partida; primero que sepan que es deepfake y luego quien ha sido. Eso es como querer prohibir el uso de pasamontañas en el atraco a bancos.... una estupidez.

[#15 alexwing]

#12 es que ahora también podría estar cometiendo un delito, el uso de la imagen de una persona sin su consentimiento, falsedad documental así a bote pronto, eso no iba a cambiar.

[#16 jobar]

#3 Yo entiendo que si es una obra de ficción no tiene nada que ver con nuestro derecho constitucional a recibir información veraz, el problema es cuando se utilizan estas imágenes en un contexto periodístico e informativo. En el que el tiempo necesario para detectar la falsedad del documento puede ser demasiado para exigir una rectificación con el riesgo de que el bulo haya sido difundido sin cuestionar, como ya está pasando.

[#17 ChatGPT]

#14 me encanta tu ejemplo

Aunque por otra parte es cierto que hay agravantes, no es lo mismo un atraco con que sin fuerza.
Podría ser un agravante el llevar prendas que eviten la identificación, pronto será ilegal llevar prendas que confundan a los reconocimientos faciales, verás

[#18 Cuñado]

#14 querer prohibir el uso de pasamontañas en el atraco a bancos

Fantástico ejemplo... precisamente eso constituye un agravante: el agravante de disfraz.

tendrán que pillarle por doble partida

Entonces eliminemos todas las leyes, porque si las incumples tienen que pillarte Las leyes buscan un efecto disuasorio.

primero que sepan que es deepfake y luego quien ha sido.

Con la sutil diferencia de que "quien ha sido" ha cometido un delito.

#15 Pero esto no cambiaría eso. Sin embargo, ya hemos visto deepfakes malintencionados (en Rusia son maestros en el arte) que no incumplirían ninguna legislación vigente.

[#19 Gerome]

Por favor, que los analfabetos digitales dejen de legislar sobre cosas que no entienden.

[#20 WarDog77]

#4 con el punto 4 no estoy de acuerdo. No limita nada, solo el engaño

[#21 torrrquemada]

#3 y hablando de películas, Esto también necesitaría un aviso.
_{(Show de Truman)}  

[#22 sorrillo]

#16 En más de una ocasión un anuncio ha acabado siendo recortado para que no se viera que era un anuncio y se ha intentado colar como algo real. Y en ese caso el que ha creado las imágenes obviamente no ha puesto ninguna advertencia por que en su contexto era claro que era un anuncio, una ficción, pero una vez recortado se pierde ese contexto y el autor original no debería considerarse responsable de ello por mucho que haya creado las imágenes. Y quien lo ha editado búscalo a ver si llegas a saber quién fue.

Por eso digo que espero que no hagan una chapuza ante esa complejidad y acaben teniendo que salir marcas de agua en el cine.

[#23 jobar]

#22 A ver, yo creo que aquí lo importante es detectar a tiempo que es falso, si es un fragmento de un producto cultural o un anuncio las posibilidades de que el público reconozca la pieza original son más altas que si fuera una creación nueva.

[#24 sorrillo]

#23 Lo que me preocupa no es lo razonable, lo que me preocupa es que hagan una chapuza de ley y que se pasen de frenada, impactando en lo que no deberían impactar.

Tenemos sobrados ejemplos previos de meterse en fregados que no entienden y acabar empeorando la situación.

[#25 Netito]

La industria ya está trabajando en ello: contentauthenticity.org/

[#26 --763016--]

#18 Efecto disuasorio?. Claro ahora cuando se planteen atracar un banco lo harán sin pasamontañas, sin armas y pidiendo el dinero por favor, así si les pillan no tendrán tanta pena. Es absolutamente ridículo. no va a disuadir a nadie. Hacer un deepfake para engañar pero poner la marca de agua es una estupidez, porque así no vas a engañar a nadie, y ya todo deja de tener sentido, igual que lo del banco.

[#27 jobar]

#24 Yo en todos mis años de carrera no he visto todavía una ley que esté bien hecha ni guste a todos.

En cualquier caso sin ver la propuesta creo que todo eso es mucho suponer.

[#28 Cuñado]

#26 motherofgod, qué sarta de estupideces si querías mi nick sólo tenías que haberlo pedido.

enga, buenas noches, jurista

[#29 Mltfrtk]

Es totalmente necesario legislar sobre las IAs. De lo contrario estaremos en manos de las corporaciones y de fascistas babosos malintencionados. Es necesario proteger a las personas. Toda propuesta es bienvenida.
No hace falta que la marca sea visible a simple vista. Se puede obligar a ponerlo en los metadatos u oculto en el mismo archivo. Se puede hacer en textos sonido, imagenes y videos...

[#30 ObeyTheSheep]

Hay herramientas online para saber si las imágenes o textos han sido generados por AI, ya queda en la voluntad de cada uno tragarse cuantos bulos quiera.

[#31 Aluflipas]

#2 mirate I don't care about cookies, si no lo conoces ya.

[#32 CrudaVerdad]

Vaya tontería, habrá software de IA de código abierto con código como:

Poner_Marca_de_Agua_Porque_Político_Gilipollas_Populista_Asi_Lo_Pide();

Y tan sencillo de desactivar como:

/* Poner_Marca_de_Agua_Porque_Político_Gilipollas_Populista_Asi_Lo_Pide(); Pongo esto en comentario porque me la chupan esos políticos analfabetos digitales */

[#33 Ergo_2k1]

#11 en su cabeza sonaba genial

[#34 rojo_separatista]

#18, y si el deepfake se ha generado en servidores que están en el extranjero?

[#35 mizuiro]

Teniendo en cuenta que los deepfakes se pueden usar para atacar a cualquiera, yo pregunto por la razón de que sea precisamente Sumar quién sale ahí con la queja preventiva.

Lo preguntaría de cualquier otro igualmente, pero el caso que hay es éste.