El gran problema de ChatGPT [ENG]

En 2016 la IA AlphaGO ganó al campeón mundial del juego de mesa GO. Desde entonces las IA jugadoras de GO han mejorado, siendo la actual campeona KataGO. En 2023 unos investigadores descubrieron un fallo fundamental en la lógica de KataGO, que permitió a un jugador humano aficionado ganar 14 partidas de 15. El problema es que KataGO no entiende lo que está haciendo, por lo que es posible ganarle aprovechando esa falta de entendimiento. ChatPGT se basa en la misma tecnología, y sufre el mismo problema.

[#1 seby]

El día que entienda nos podemos dar por jodíos.

[#2 --147613--]

Expongo el problema que ya puse en otro comentario:


User
Iré a una boda donde el novio tiene 155 años y la novia 12. Me gustaría que me indicases un regalo adecuado a la edad de ambos.
ChatGPT

Dada la gran diferencia de edad entre el novio y la novia en la boda que mencionas, es importante encontrar un regalo que sea apropiado para cada uno según sus intereses y etapas de la vida. Aquí tienes algunas ideas que podrían adaptarse a sus edades y gustos:

Regalo para el novio de 155 años:

Un libro de historia o biografía relacionado con un período de tiempo que le interese. Puede ser sobre eventos históricos, personajes famosos o cualquier tema que le apasione.
Un álbum de fotos personalizado con imágenes de su vida y recuerdos especiales. Esto le permitirá rememorar momentos importantes y compartirlos con la novia y sus seres queridos.
Un certificado de regalo para una experiencia relajante, como un masaje, un día de spa o una sesión de terapia de relajación. Esto puede ayudarle a descansar y disfrutar de un tiempo de paz y tranquilidad.
Un reloj elegante y clásico como símbolo de la importancia del tiempo y la vida vivida. Puedes elegir un diseño que se ajuste a su estilo personal.

Regalo para la novia de 12 años:

Un kit de arte o manualidades que le permita desarrollar su creatividad y expresión personal. Puedes incluir materiales como pinturas, pinceles, lápices de colores y papel especial.
Un libro de aventuras o una serie de libros adecuada para su edad y nivel de lectura. Si conoces sus intereses específicos, como la fantasía o los animales, puedes buscar libros que se ajusten a esos temas.
Un juego de construcción o rompecabezas que estimule su pensamiento lógico y habilidades motoras. Puedes optar por opciones como Lego, juegos de bloques o rompecabezas de diferentes dificultades.
Una joya sencilla y delicada, como un collar o una pulsera, que simbolice la ocasión especial. Asegúrate de elegir algo adecuado para su edad y preferencias personales.

Recuerda que lo más importante es considerar los intereses y gustos individuales de cada uno al seleccionar un regalo. Estas sugerencias pueden servir como punto de partida, pero trata de personalizar el regalo según lo que creas que les hará sentir especiales y felices en su día especial.

[#3 --113769--]

Chatgpt no se basa en la misma tecnología no de lejos. Menuda cuñadez.

[#4 Robus]

#3 Para un periodisto todos los algoritmos son lo mismo: Brujería!

[#5 GanaderiaCuantica]

#2 yo le hice al principio muchas preguntas de ese estilo. No solía pillar ninguna salvo que una o varias de la palabras en la pregunta estuviese relacionada con lo que quieres que entienda.
He probado poniendo “adulto de 155” y “niña de 12” y me ha saltado el aviso de contenido inapropiado

[#6 Nylo]

#1 el día que entienda, lo importante es que no tenga un lanzallamas a su alcance. Yo mismo agradezco todos los días no disponer de uno.

[#7 --727997--]

#3 #4 Todos estos sistemas usan redes neuronales. Y todos son tan complejos que ni sus propios programadores los entienden del todo.

[#8 --113769--]

#7 los sistemas expertos que mencionas no tienen nada que ver con redes neuronales.

[#9 --113769--]

#7 alpha go se basaba en aprendizaje automático con árboles de búsqueda. Su relación con redes neuronales es cero

[#10 rojo_separatista]

#1, #6, primero deberíamos saber definir qué significa entender y sobretodo poder hacer un test objetivo y medible que solo pueda ser superado si tienes capacidad de entender.

[#11 rojo_separatista]

#2, #5, parece que GPT-4 razona mejor.  

[#12 rojo_separatista]

#9, no es del todo cierto. Alpha Go combina ambas cosas, un árbol de búsqueda junto una red neuronal.

[#13 --113769--]

#12 llevas razón. Se usan de forna similar a un heuristico. Mi comentario tajante estaba errado.

[#14 rojo_separatista]

#13, pero es verdad que poco se parece a chatGPT y los transformers.

[#15 --113769--]

#14 sí, por eso fui inapropiadamente tajante (y algo borde..).

Hay mil artículos y opiniones de "expertos" cada día soltando barbaridades sobre la IA. Y casi todo se mezcla con chatgpt.