El gran problema de ChatGPT [ENG]

En 2016 la IA AlphaGO ganó al campeón mundial del juego de mesa GO. Desde entonces las IA jugadoras de GO han mejorado, siendo la actual campeona KataGO. En 2023 unos investigadores descubrieron un fallo fundamental en la lógica de KataGO, que permitió a un jugador humano aficionado ganar 14 partidas de 15. El problema es que KataGO no entiende lo que está haciendo, por lo que es posible ganarle aprovechando esa falta de entendimiento. ChatPGT se basa en la misma tecnología, y sufre el mismo problema.