Si usas frecuentemente GIMP, puede que a veces necesites hacer cosas que son algo más complicadas con las funciones incluidas en este software, o tal vez haya algunas que no estén presentes. Pues no te preocupes, para eso están los plugins, con los que podrás agregar infinidad de funciones nuevas con las que hacer todo mucho más fácil.

Cuando Apple presentó el iPhone en 2007, planteó una revolución clara en el mundo de los dispositivos móviles. Un año más tarde llegó su App Store, que acabó siendo una revolución. ¿Qué ha pasado ahora? OpenAI anunciaba ayer el lanzamiento inicial de soporte de plugins para ChatGPT. Los plugins son capaces de extender las capacidades de este modelo de IA conversacional, y gracias a ellos desarrolladores, empresas y usuarios podrán acceder a posibilidades prácticamente ilimitadas. ¿Que qué se puede hacer con los plugins? De todo.

Demostramos las consecuencias potencialmente brutales de dar a LLMs como ChatGPT interfaces para otras aplicaciones. Proponemos vectores y técnicas de ataque recién habilitados y proporcionamos demostraciones de cada uno de ellos en este repositorio: Control remoto de LLMs de chat. Filtración de datos de usuario. Compromiso persistente a través de sesiones. Inyecciones de propagación a otros LLM. Compromiso de LLMs con pequeñas cargas útiles multietapa. Ingeniería social automatizada...