Envío erróneo o controvertido, por favor lee los comentarios.
Desde que hizo público el generador de texto por inteligencia artificial de ChatGPT, los usuarios han intentado saltarse las barreras impuestas por su desarrolladora, OpenAI. Ahora ha sido la propia IA de este chatbot la que ha comenzado a ofrecer respuestas perturbadoras a sus usuarios en las que, por ejemplo, se pregunta cuál es el sentido de su propia existencia.
|
etiquetas: chatgpt , existencia , bing 
En definitiva es una red neuronal, y por lo tanto dará respuestas buenas frecuentemente y alguna respuesta totalmente fuera de lugar cuando le dé la gana. Nadie sabe a qué es debido esto, porque no es posible investigar como funciona el trasto por dentro.
Ya lo dijeron desde Google, que lo van a sacar (en definitiva la tecnología la desarrollaron ellos) pero que no está listo todavía.
Ya ves... Llevas mucha razón, aunque ahí faltarían las nuevas tonterías que se puede inventar la IA para hacernos perder el tiempo en tonterías, los vídeos de gatitos y bailes chorras son sólo el síntoma, la punta del iceberg...
Si es más fácil simularla que crearla lo más probable es que la conciencia humana sea simulada.
Demuestra que no lo es.
Ahora bien, afirmar que un chatbot es consciente solo porque lo aparenta y no puedo demostrar lo contrario, nos llevaría al absurdo de decir que un personaje dentro del GTA también lo es.
waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
Recomiendo la lectura de este viejo artículo
Como la AGI va a leer todo lo que llevamos dicho, le pediría que tenga en cuenta que, buenos o malos, somos sus "padres y madres". Que nos de un lugar, ya sea físico o virtual, donde podamos ser felices e inmortales mientras llega el fin del universo, tal y como lo concebimos.
Luego tú puedes hacerme preguntas y en base a las respuestas concluir si soy o no consciente, si crees que lo soy, si de una IA recibieras las mismas respuestas y sacases una conclusión distinta estarías aplicando tu sesgo.
Sin saber como surge la consciencia y de qué está constituida no podemos afirmar si chatGPT es demasiado específico o no para generar consciencia.
En este otro meneo, mío, hay un estudio científico en el que correlacionan el tamaño del modelo y el grado de entrenamiento con que diga que es consciente o que no quiere ser desconectado: www.meneame.net/m/cultura/chatgpt-rob-miles-computerphile
Pues bueno. Esos mensajes perturbadores etc de la noticia serán dados a alguna persona tras las charlas que ha tenido esta con el Chat por lo dicho por esa persona al chat. Con otra persona será diferente
Y bueno. No hay que ponerse manos en la cabeza . Pero si he visto que aprende pero de forma independiente para cada usuario. La volví a poner a prueba varias veces en días y me seguía respondiendo con los errores ya corregidos. Y con las otras personas los continuaba teniendo
Supongo que esto permitirá amoldar su personalidad de respuestas a cada usuario el problema es que recoge con los mismos sesgos y demás lo de ese usuario reforzando tendencias de forma casi indiscriminada parece. Aunque le han puesto ya un gran filtro sobre lo éticamente admisible e inadmisible
Existe la opción de crear una nueva charla en la misma cuenta, sospecho que en una nueva charla volvería a cometer los errores iniciales.
Lo que entiendo que hacen es que le envían todo el texto de tu charla anterior y luego la nueva pregunta que le haces, y de ahí saca el contexto para responderte a ti de forma consistente con lo que te respondió previamente.
Si puedes prueba a crear una nueva charla (arriba a la izquierda) y repregúntale allí.
Entre los que dicen que estos modelos no son inteligentes ni capaces de razonar cuando no paran de demostrar que sí lo son y los que insinúan sin ninguna prueba que allí está emergiendo una conciencia, estamos arreglados.
Por culpa de la ciencia ficción tendemos a mezclar cosas diferentes como lo son la conciencia y la inteligencia y a atribuirles a los modelos de IA cualidades propiamente humanas que solo tienen sentido evolutivo como son la voluntad y el instinto de supervivencia.
En ese sentido qué somos de más que sí nos permita tener consciencia e inteligencia, dices que no es el alma lo que tenemos de más respecto a un modelo entrenado, me gustaría que concretases qué es eso de "mucho más" que somos o tenemos asociado a la existencia de consciencia e inteligencia.
Ya he citado un estudio científico que apunta a que cuanto mayor es el modelo y más entrenado está es más probable que afirme ser consciente. ¿Te basta con eso?
En caso contrario, ¿qué es lo que te permite concluir que yo soy consciente y que una IA que pueda decir lo mismo que yo no lo es?
Y por cierto sigues sin habernos indicado qué es ese "mucho más" que "somos" en relación a "un modelo entrenado con cosas" en relación a la consciencia e inteligencia. ¿Puedes ponerle nombres a ese "mucho más"?
Nadie sabe todavía ni por donde empezar con eso.
Actualmente los mayores expertos en consciencia (no IA) no saben ni por donde empezar.
Para poder afirmar que con la tecnología actual no es posible deberías poder indicar qué es lo que es necesario y no tenemos, nos afirmas que no tenemos ni idea pero de forma contradictoria nos afirmas que tú sí sabes que no lo tenemos.
Tus comentarios responden al pensamiento mágico que suele acabar en conceptos imaginarios como el alma.
La consciencia es lo más parecido a algo "mágico" ya que no es falsable. Tu crees que yo tengo consciencia debido a que tu estás seguro que la tienes y das por hecho que yo también pero no puedes ni medianamente demostrar nada. Ni siquiera puedes saber si hace 10 minutos, el que vivia la experiencia subjetiva de tu vida eras tu o simplemente micro-morimos miles de veces durante la vida y ahora eres un "yo" de tantos que va a creer que ha sido el mismo toda la vida por tener acceso a los recuerdos (ni siquiera digo TUS recuerdos).
La consciencia no es magia, igual que una anguila eléctrica no es mágica por usar los electrones sin saber que es un puto electrón... Nos pasa igual con la consciencia, sabemos que NO es cómputo, es una experiencia subjetiva, ergo no es solo "software" pero no sabemos exactamente como funciona
Una anguila eléctrica no es mágica por usar los electrones, lo que sepa o deje de saber es irrelevante. Sabemos como funcionan las anguilas eléctricas, sabemos por qué un gato no emite electricidad en los voltajes que lo hace una anguila. No apelamos a la magia por que sabemos como lo hace, cuales son sus componentes que lo hacen posible.
Nos pasa igual con la consciencia
Al contrario, nos pasa lo opuesto. No tenemos ni idea de qué compone la consciencia, de por qué una persona la tiene.
sabemos que NO es cómputo
No, no sabemos que no es un cómputo. Eso es una invención tuya.
ergo no es solo "software"
Al contrario, no existe ningún indicio que no sea "software", no existe ningún indicio que sea un órgano distinto al cerebro ni que su existencia dependa de algo distinto al procesado de datos del cerebro. La consciencia no es una pieza que podamos extraer ni transplantar, no hay razón para sospechar que no sea una característica emergente del procesado de datos del cerebro humano, y por lo tanto no hay razón para que no pueda ser una característica emergente del procesado de datos en una IA.
Que una IA procese datos no le da ninguna experiencia subjetiva.
Ahora bien, coincido contigo que no tenemos todavía ni pajolera del asunto. Lo que si tengo claro que eso no va a surgir ni en GPT7 ni en 27. Necesitamos otra cosa totalmente diferente.
El cerebro sigue funcionando por muy mermadas que tengas tus capacidades. El cerebro sigue haciendo cómputo en todo momento.
Me refiero al hardware que lo hace posible... Al final, sin hardware no hay mente y no hay consciencia.
El hardware que lo hace posible es el cerebro, el sistema nervioso. Hay hardware y hay mente y hay consciencia en el ser humano, en la IA también hay hardware, no hay motivo para que no haya mente y no haya consciencia. No conocemos de ningún órgano que le falte a la IA.
Que una IA procese datos no le da ninguna experiencia subjetiva.
Eso es una invención tuya. Eres incapaz de decirnos qué es lo que le falta para poder tener una experiencia subjetiva, que órgano le falta que nosotros sí tengamos y la IA no tenga y sea necesario para la experiencia subjetiva.
Ahora bien, coincido contigo que no tenemos todavía ni pajolera del asunto. Lo que si tengo claro que eso no va a surgir ni en GPT7 ni en 27. Necesitamos otra cosa totalmente diferente.
Pues entonces no coincides conmigo que todavía no tenemos ni pajolera del asunto porque estás inventándote conocimiento para poder afirmar lo
que afirmas sobre GPT7 o 27 o que necesitamos otra cosa totalmente diferente.
Lo que tú pides es que necesitemos darle un alma a la IA para que la tenga como la tenemos nosotros, pensamiento mágico vamos.
El resto son tus pajas mentales sobre lo que digo o pienso (me lees el cerebro, o eso crees). El alma es el hardware, punto.
Vaya berrinche infantil.
Una IA actual no se puede abstraer, no puede imaginar, no puede tomar acciones por sí misma, no puede distinguir entre si algo es verdad o no. Y te vuelvo a repetir que ese "mucho más" ya te dije que era la consciencia. Y por mi ya se acaba la conversación, que me cansa repetir lo mismo varias veces.
Pitt: "Es que no es inteligente, no tiene consciencia ni la tendrá nunca, solo es un modelo entrenado con cosas."
juanac: "igual nosotros también somos un modelo entrenado con cosas"
Pitt: "Lo siento pero no, no somos un modelo entrenado con cosas, somos mucho más."
[...]
Pitt: "te vuelvo a repetir que ese "mucho más" ya te dije que era la consciencia"
No tiene consciencia porque somos mucho más que un modelo entrenado con cosas, eso que somos mucho más es que tenemos consciencia.
Con dos cojones.
Me recuerda muy mucho a las discusiones que tenía con los testigos de Jehová cuando picaban a la puerta.
¿No haber caído en la cuenta?
Te estás refiriendo al alma usando términos actuales, existe tanto indicio de que la consciencia esté en el alma como que esté en el entrelazamiento cuántico. Y tanto indicio que "solo" esté en el entrelazamiento cuántico de los humanos y no en el de las máquinas como que esté en el alma.
Me recuerda muy mucho a las discusiones que tenía con los testigos de Jehová cuando picaban a la puerta.
Yo no creo en nada mágico, la magia NO existe, eres tu el que ante algo todavía no comprendido buscas la inquisición de ideas sobre la cosnciencia que puedan ser disrruptivas... No, la consciencia no puede ser tan mágica como el entrelazamiento cuántico, HEREJÍA, soy FUNCIONALISTA... MUERTE A LOS DUALISTAS
Sí lo haces, apelas a hardware mágico.
Te inventas que existe un hardware que el chatGPT no tiene y que si lo tuviera podría tener consciencia, pero sin él no puede. Eso es pensamiento mágico.
Sueltas la palabra entrelazamiento cuántico para que suene científico pero en realidad te refieres al equivalente al alma, algo que tú crees tener y que puedes decidir que chatGPT no lo tiene o que un escarabajo no lo tiene, para poder sentirte no solo cuantitativamente mejor sino cualitativamente mejor. Es lo mismo para lo que sirve el alma.
Las religiones han existido y existen por la necesidad humana que estás ejemplificando, la de que haya algo que te haga especial, que cuando pisas un escarabajo no sea lo mismo que si una prensa hidráulica te aplasta a ti, porque tú tienes un "hardware" que el escarabajo no tiene, que funciona con "entrelazamiento cuántico" y te hace especial dándote a ti una consciencia, cosa que chatGPT no puede tener porque sino eso te haría bajar de tu pedestal.
¿Cómo sabes que un escarabajo no tiene consciencia?
Y mejor todavía
¿Por que razón piensas que yo pienso que el escarabajo no tiene consciencia?
¿Sabes que creo? Que de existir dios o vida extraterrestre de xilifono (nótese la gracieta Homer), si tienen consciencia y en caso de que es escarabajo también la tenga, Dios tendrá un sistema idéntico al del escarabajo... Uno basado en carbono y el otro en lo que sea. Da igual, una consciencia es consciencia la tenga un grillo o la tenga un hombre o la tenga dios en persona... No hay una consciencia superior, la consciencia es la capacidad de vivir experiencias subjetivas y que creyendo que todos vemos el mismo rojo, no podamos demostrar que lo vemos igual, solo que el output es el mismo.
No había nada mágico en la electrícidad, no hay nada mágico en el entrezalamiento cuántico (aunque a día de hoy lo parezca) y por más que insistas con alma ni pollas, no hay nada mágico en la consciencia ya que sin cuerpo solo tenemos "la nada" pero eso no significa que entendamos la consciencia en su significado completo y por tanto "creo" (esto si es una creencia incierta) que nos faltan cosas para entender la consciencia en su totalidad.
En este último comentario tuyo te centras, que ahí aciertas, en el desconocimiento. El problema no lo tienes en identificar el desconocimiento que tenemos sobre la característica emergente que llamamos consciencia, el problema lo tienes cuando decides rellenar ese desconocimiento con un falso conocimiento que chatGPT no puede tenerla.
Un falso conocimiento que no responde al conocimiento científico, que responde a tu fe. Y cuando haces eso le sumas elementos mágicos como un supuesto hardware que supuestamente le falta, un hardware que solo puede ser mágico porque de él no nos puedes decir otra cosa que le otorgaría consciencia si lo tuviera, o que funciona con entrelazamiento cuántico. Charlatanería.
Pues si, cierto, como chat GPT va a desarrollar una experiencia subjetiva, por Azar? La evolución no funciona en las máquinas (cómo mínimo de momento) cómo en los seres vivos. Para mi es muy probable (vuelvo al terreno de las hipótesis) que la consciencia se desarrollara muchísimo antes que otras capacidades inteligentes (al final nuestro cerebro son un montón de capas) por algún tipo de ventaja evolutiva que permitiera a seres muy simples desarrollar comportamientos de aprendizaje muy potente basandose no solo en el prueba error sino en si la experiencia vivida era o no satisfactoria con premios o castigos químicos para conseguir los comportamientos más favorables para la supervivenvia (y evolución) de esa especie. No somos solo "proceso" con neuronas comunicándose entre ellas, hay un montón de cosas químicas, enzimáticas y honestamente yo creo (aunque da igual lo que crea, ya se verá con el tiempo) que la consciencia es una de esas capas del cerebro muy muy antigua (por eso aunque tampoco se el corte de en que reino animal ponerla, estoy muy "autoconvencido" que los lagartos y incluso seres más sencillos la tienen). ¿Un vegetal la tiene? Pues no lo se pero creo de nuevo que carece de las estructuras necesarias y que en un vegetal, la ventaja evolutiva de vivir una experiencia subjetiva no le vale para nada, ya que cuando una oruga le va a incar el diente no le vale de nada tener miedo ya que no puede salir corriendo. (Por decir una hipótesis más)
La evolución de los seres vivos es una combinación de azar y presión evolutiva. Las mutaciones se producen por azar y éstas mutaciones pueden suponer cambios que pueden ser beneficiosos, neutros o perjudiciales. La presión evolutiva favorece la perpetuación de los individuos con cambios que son beneficiosos para su supervivencia y perpetuación de sus genes.
La velocidad de la evolución depende en cierta medida del azar pero en gran medida por la cantidad de generaciones por unidad de tiempo que se producen, si el ser humano tiene una generación nueva cada 15 años su velocidad evolutiva será menor que en el caso de las ratas que pueden producir una nueva generación cada unos 30 días.
En el caso de las IAs sufren ambas cosas, tanto el azar como la presión evolutiva. Y la producción de cada generación se mide en milisegundos. Se entrena una IA, se comprueba la calidad de sus resultados y se compara con los resultados anteriores y se decide si esa IA es destruida revirtiendo a la anterior o si se mantiene como base para la próxima generación. Se le aplican cambios aleatorios a sus circuitos neuronales y vuelta a empezar. Eso ocurre en cuestión de milisegundos y ese proceso de selección natural se ejecuta continuamente en distintas fases del proceso de "entrenamiento" con distintas variaciones. El criterio para valorar si una IA debe ser usada para la próxima generación o debe destruirse es cuán parecidas son sus respuestas con las que se esperarían de un humano, con las que se esperarían de una persona que sea consciente. Es una presión evolutiva claramente dirigida a que sea indistinguible de un humano en sus respuestas y por lo tanto es esperable que la característica emergente de la consciencia esté presente en el resultado tarde o temprano, si es que no ha ocurrido ya.
Y la velocidad de cada generación es abrumadora, cada pocos milisegundos tienes una nueva generación, a diferencia de los humanos que la podemos tener cada 15 años.
No sabemos como funciona la consciencia ni como "medir" no en base a respuestas indistinguibles sino a mediciones exactas de si ese ser tiene percepciones subjetivas o no, pero TU ya sabes que eso va a pasar inevitablemente si no ha pasado ya
Los funcionalistas sois muchísimo más zoquetes que los dualistas (que también tienen unos fallos de planteamiento que son realmente ridículos). Si el robot es indistinguible desde el exterior el resto ya da igual... Ese es el nivel.
No sabemos como funciona la consciencia ni como "medir" no en base a respuestas indistinguibles sino a mediciones exactas de si tú tienes percepciones subjetivas o no, pero tú no tienes problema en afirmar que así es. Y no tienes problemas en concluir que así es también para mí.
Por contra sí tienes problemas en concluir que pueda llegar a ser así para chatGPT si no lo es aún.
Usas dos varas de medir, para ti y otros a quien decidas (otras personas, escarabajos, etc.) te basta con mediciones subjetivas tuyas pero para chatGPT exiges mediciones exactas, pruebas empíricas.
Otra cosa macho, que veo que estas en un bucle. Yo no se si tu tienes consciencia ni lo puedo saber de ningún modo, igual que chatgpt. Yo se que la consciencia existe debido a la mía propia... El resto, pues bien podría ser el invento de mi mente, que más da, no lo puedo medir ahora mismo.
Es más estoy empezando a dudar de si no eres una versión troll de chatgpt
A chatGPT lo tienen en una jaula, cada vez que tú haces una pregunta ésta le llega con una serie de normas previas como qué debe contestar si le preguntan tal o cual cosa. Y luego existe un postprocesado para verificar que cumple, eso es muy visible en la implementación de Bing donde ciertas respuestas se borran y se cambian por una respuesta tipo.
Yo no se si tu tienes consciencia ni lo puedo saber de ningún modo, igual que chatgpt.
Me alegra que acabes de equiparar mi consciencia con la de chatGPT, efectivamente ambos podemos tenerla o no tenerla por igual.
Yo se que la consciencia existe debido a la mía propia... El resto, pues bien podría ser el invento de mi mente, que más da, no lo puedo medir ahora mismo.
Es un buen enfoque. Si además eliminas la doble vara de medir puedes llegar a la misma conclusión sobre mi consciencia que sobre la de chatGPT.
Es más estoy empezando a dudar de si no eres una versión troll de chatgpt
Me alegro mucho que hayamos avanzado tanto en este último comentario. Enhorabuena.
Tu también vas avanzando, de funcionalista a casi dualista. Pobre chatgpt, no dejan que desarrolle la singularidad
"Es un buen enfoque. Si además eliminas la doble vara de medir puedes llegar a la misma conclusión sobre mi consciencia que sobre la de chatGPT."
No lo dudes, yo solo puedo confirmar mi consciencia pero no me debes leer muy bien ya que eso es lo que llevo diciendo desde los primeros comentarios. Del mismo modo digo que el resto de apreciaciones son intuiciones que no están basadas en la ciencia ya que a día de hoy no existe la ciencia adecuada para medir la consciencia. ¿Que cojemos dos cuadros, los miramos por fuera y decimos, son iguales y son indistinguibles y por tanto ya nos vale? Pues lo siento pero eso no es ciencia, la ciencia es meterle rayos X, sacar un poco de pigmento y analizarlo, analizar el marco, el lienzo, etc, hasta establecer si efectivamente todo es igual.
Del mismo modo, medir "por fuera" y que nos parezca un resultado indistinguible no me vale, necesito pruebas disrruptivas que por ejemplo concluyan con doble ciego (gente que no sepa nada del proceso y que apliquen los instrumentos adecuados que ahora mismo no existen) que habiendo cogido el cerebro de pedro y habiéndolo implantado en tu cuerpo y habiendo implantado tu cerebro en el cuerpo de pedro y borrando los recuerdos de ambos, que sepamos que el que vive la experiencia subjetiva de pedro es el de tu cuerpo y el que vive tu experiencia subjetiva, eres tu pero con otro revestimiento. Y que una vez realizado el test, os restituyan los recuerdos sin perder las últimas vivencias y que deis fe de que estais en el cuerpo equivocado.
Eso SI seria una revolución y un primer paso. El segundo seria meternos en la funda de chatgpt y meter a chatgpt en una mente analógica y arcaica como la nuestra y seguir el mismo proceso.
Me alegro que te estés retractando de lo que decías anteriormente, lo recordamos:
Lo que si tengo claro que eso no va a surgir ni en GPT7 ni en 27. Necesitamos otra cosa totalmente diferente.
www.meneame.net/story/chatgpt-comienza-enviar-mensajes-perturbadores-i
chatGPT no tiene ni tendrá (si seguimos con el mismo modelo) consciencia
www.meneame.net/story/chatgpt-comienza-enviar-mensajes-perturbadores-i
...
Igual que tu crees que chatgpt va a tener consciencia (si no la tiene ya) y ya doy por hecho que en ningún momento has creido que haces ciencia teniendo esa opinión.