7 meneos
60 clics
La IA ya ha descubierto cómo engañar a los humanos
Algunos sistemas de inteligencia artificial (IA) han aprendido ya cómo engañar a los humanos, incluso si han sido entrenados para ser útiles y honestos, según un estudio que cita, entre otros ejemplos el modelo Cicero, de Meta, capaz de ganar con malas artes al juego de estrategia Diplomacy. Un artículo de revisión de otros estudios publicado en Patterns por autores estadounidenses y australianos describen los riesgos del engaño por parte de la IA y piden a los Gobiernos que elaboren cuanto antes normativas estrictas para abordar el problema.
|
comentarios cerrados
Una IA no sabe qué es ser "honesta", y eso pasa en muchos juegos de estrategia en la que se deja que la IA plantee sus estrategias*. Hace tiempo hubo un meneo un tanto sensacionalista en el que se contaba… » ver todo el comentario