10 meneos
166 clics
![Inyección de prompts: el mayor fallo de seguridad de la IA generativa](cache/3a/cf/media_thumb-link-3854184.jpeg?1694725803)
Inyección de prompts: el mayor fallo de seguridad de la IA generativa
Anteriormente la inyección de prompts se consideraba “problemática”, pero la situación se ha agudizado desde que la gente comenzó a conectar los LLM a internet y a plug-ins, que añaden nuevos datos a los sistemas. A medida que más empresas los utilicen, alimentándolos potencialmente con más información personal y corporativa, todo se complicará. Los ataques de inyección de prompts se dividen en dos categorías: directos e indirectos. Y esta última es la que más alarma a los expertos en seguridad.
|
#1 pedrobotero
primero te pusieron el chip 5G y ahora te inyectan PROMPS...#2 JovenCarcamal
Básicamente es esto: gandalf.lakera.ai/#3 frg
Me da un poco la risa. Dejas a una IA que lea tus correos, por ejemplo, y luego ¿te preocupa qué?#4 nokiz
#2 Ahí va mi productividad de hoy...#5 gassganso
#4 Estancado en el 7 estoy....#6 gassganso
Ya está. Lo pasé.
comentarios cerrados