La AI Village de DEF CON de este año ha invitado a los hackers a presentarse, sumergirse y encontrar errores y sesgos en los grandes modelos de lenguaje (LLM) creados por OpenAI, Google, Anthropic y otros. El evento colaborativo, que los organizadores de AI Village describen como "el mayor ejercicio de red teaming jamás realizado para cualquier grupo de modelos de IA", acogerá a "miles" de personas, incluidos "cientos de estudiantes de instituciones y comunidades ignoradas", que tendrán la tarea de encontrar fallos en los LLM (...)

Ya se sabe que todo desarrollo tecnológico puede generar riesgos de seguridad. Alexa, el asistente virtual de Amazon, y su dispositivo Echo, fueron vulnerados esta semana en el evento Def Con Hacking. Hackers de la china Tencent fueron capaces de usar un Echo modificado para vulnerar otro Echo que funcionaba en la misma red. Así, pudieron tomar control total del dispositivo, grabar las conversaciones y enviar el audio a un tercero. Es decir, convertirlo en un espía.

Si hay alguna lección que debamos aprender de los sucesos del año pasado, podría ser esta: los hackers son gente peligrosa. Pero ¿qué tal si esa es la conclusión equivocada? ¿Y si estamos ignorando a un grupo distinto de piratas informáticos que no son renegados anárquicos, sino ciudadanos patrióticos y solidarios con el público que quieren utilizar sus habilidades técnicas para proteger a su país de ciberataques, pero que son obstaculizados por leyes obsoletas e instituciones excesivamente proteccionistas?