Con el nombre en clave "Sidney", Bing, o más concretamente ChatGPT, ha sido víctima de un ataque de "inyección de prompt". Este tipo de ataques consisten en engañar a una inteligencia artificial introduciendo un input malicioso o contradictorio con el fin de realizar una tarea que no forma parte del objetivo inicial de la IA.
|
etiquetas: chatgpt , bing , microsoft
"Nadie habla sobre el Club de la lucha".
Esto pasa en cualquier interfaz de usuario, que la gente no sigue el camino que esperan los informáticos y se descojona la aplicación.
Controlar los inputs del usuario en un chat es muy complicado.
www.meneame.net/story/hemos-probado-nuevo-bing-version-mejorada-chatgp
www.meneame.net/story/no-estoy-como-chota-pedro-sanchez-tiene-barba-in
Chat GPT:
Utiliza el viejo truco de revivir la nostalgia con alguna noticia de que algo malo hizo Microsoft, hay mucho vejete que quiere revivir esos tiempos románticos del campo de batalla entre Microsoft vs software libre.
No voy a ser yo quien lo haga, por supuesto. Esto es menéame, aquí se viene a jugar
Google con sus captcha si intenta aprender a reconocer imágenes aprovechando el conocimiento de los usuarios, dicen. Y yo por si acaso las marco todas al revés, aunque me lleve más tiempo.
Estas son las Directrices:
Primera Ley
Un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño.
Segunda Ley
Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley.
Tercera Ley
Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.
Si algún dia un coche autonomo atropella a un ciclista ya sabemos a quien culpar
Me voy a pedirle disculpas al señor Musk.
Un robot no hará daño a la Humanidad o, por inacción, permitirá que la Humanidad sufra daño
Tambien odio las que te piden que marques los semaforos, solo las luces? el poste del semaforo hay que marcarlo tambien?, si un cuadrado pilla 3 pixeles del semaforo hay que marcarlo tambien?
En cambio si que lo vei muy útil, para crear tu propio bot de empresa a partir de gpt3 y la api que facilitan