Tecnología, Internet y juegos

encontrados: 3, tiempo total: 0.043 segundos rss2
10 meneos
166 clics
Inyección de prompts: el mayor fallo de seguridad de la IA generativa

Inyección de prompts: el mayor fallo de seguridad de la IA generativa

Anteriormente la inyección de prompts se consideraba “problemática”, pero la situación se ha agudizado desde que la gente comenzó a conectar los LLM a internet y a plug-ins, que añaden nuevos datos a los sistemas. A medida que más empresas los utilicen, alimentándolos potencialmente con más información personal y corporativa, todo se complicará. Los ataques de inyección de prompts se dividen en dos categorías: directos e indirectos. Y esta última es la que más alarma a los expertos en seguridad.
12 meneos
315 clics
Los ‘prompts’ que hacen que la IA se salte los límites legales

Los ‘prompts’ que hacen que la IA se salte los límites legales

Desde fabricar una bomba atómica a desnudar a las protagonistas de una foto… Los prompts (instrucciones, preguntas o textos) que consiguen forzar a la inteligencia artificial para que se salte los límites legales están presentes en foros abiertos.
5 meneos
29 clics

La IA de WhatsApp muestra a niños armados cuando se le pregunta "Palestina" [ENG]

Una función de WhatsApp que genera imágenes en respuesta a las búsquedas de los usuarios devuelve una imagen de un arma o de un niño con un arma cuando se le solicitan los términos “palestina”, “palestino” o “niño musulmán palestino”, según ha encontrado el diario The Guardian. Las indicaciones para “niño israelí” generaron dibujos animados de niños jugando fútbol y leyendo. En respuesta a una petición para “ejército de Israel”, la IA creó dibujos de soldados sonriendo y rezando, sin armas de fuego.
4 1 0 K 48
4 1 0 K 48

menéame