330 meneos
13173 clics
Skynet nunca tomará conciencia: la teoría de la habitación china frente al test de Turing
Existe la creencia de que llegará un día en el que las máquinas lo controlen todo, incluso a nosotros. Es posible que ese día esté cerca. Para ello es razonable pensar que deberíamos dar por válido que las máquinas adquieran algo tan ligado al ser humano como es la conciencia. Y de ser así, el Test de Turing estaría en lo cierto. Esta es la razón que llevó a John Searle a enfrentar la “inteligencia” de las máquinas en el interior de una habitación china.
|
comentarios cerrados
www.meneame.net/story/inteligencia-artificial-turing-encerrado-habitac
www.mundifrases.com/s-pelicula/sospechosos-habituales/
“La mejor treta que pudo idearse el Diablo fue la de hacerle creer al mundo que no existía.”
KEVIN SPACEY - Roger 'Verbal' Kint
(cura)-¡Porque el dinero, es el excremento del diablo!.
(tonto)-¡pues a ver si se caga mas en los bolsillos, cuñaaaooo!!
Y realmente , cuando estaremos jodidos no es cuando las maquinas consigan inteligencia (como quiera que queramos definir ese termino) , sino si adquiriera emociones (envidia , ira , odio) humanas.
De todas maneras no veo muy probable que se adquiera ninguna de las dos en lo que previsiblemente me queda de vida. Creo que es mas facil que encontremos vida extraterrestre antes de que consigamos inteligencia no humana
Me aterra pensarlo, estoy convencido que una inteligencia artificial nos barrería del planeta; igual que intentamos barrer a los virus nosotros mismos..
Relativo a la noticia, sí, Skynet tomará conciencia (si es que no la tiene ya, dados los avances en computación, en logaritmos e IA...)
¿Mi Dios?
Huy, no te centres solo en los curas. El dinero es el dios de todo el mundo bajo las reglas del capitalismo.
Ni creo siquiera que lo pase Siri.
#18 ¿ qué esperas de ese medio ? Todo muy superficial.
#19 no sé si hablas de las mujeres o los gatos.
Goedel, Escher, Bach: libro de Hofstadter es muy recomendable (900 páginas, y no hay película) para los deslumbrados por habitaciones chinas o tests de Turing.
La IA ha llegado, y no hay marcha atrás.
La Inteligencia humana aun esta por demostrar.
Que sí, que en teoría alguien podría hacerlo, pero vamos, no parece una prueba que sirva para medir la inteligencia si gente inteligente, es decir una persona cualquiera, podría no poder llevar a cabo tal proeza.
De hecho el test de Turing parece mucho más flexible e intuitivo, si eres incapaz de distinguir a una persona de una maquina cuando te comunicas con ella es que ambos deben ser inteligentes. El test de Turing no pone limitaciones al tipo de preguntas que le deberías poder hacer a la máquina y la persona, por lo tanto si te puedes pasar días y semanas hablando con esa maquina y eres incapaz de distinguirla de un ser humano sí es razonable concluir que es tan inteligente como una persona.
De dónde ha llegado?
Quién la denominó IA?
Cuando la IA se cree ella sola, tenga inteligencia por si sola, etc. entonces me empezaré a preocupar... porque de momento TODO lo se lo dan humanos, y sin embargo, hablamos del tema como si la IA fuera una inteligencia extraterrestre.
No es una prueba, es un experimento mental que Searle utiliza para argumentar que la conciencia no deriva de la mera manipulacion simbolica.
De esta forma, sin la comprensión, no se les puede clasificar como “pensantes” al mismo nivel que los humanos. Para el filósofo la prueba de Turing no puede probar que una máquina pueda pensar. En otras palabras, una IA no puede tener aptitudes semánticas, aunque sí podría reconocer la sintaxis.
**
NO se sigue... Dado que generaliza la IA a un posible tipo
Por cierto. Entre las respuestas se debería incluir las que mostraran capacidad de empatía al nivel de un humano etc...
NO solo tener una de las capacidades humanas al nivel de un test de Turing sino mostrar todas
Es decir que también lo ha de pasar en aquello que se ha decidido que no lo pasa al poner el objetivo del test de Turing bajo ciertas propiedades obviando las que se piensa que no tendrá la máquina. Si pasa el test del todo, esas otras también las ha de mostrar al mismo nivel que un humano. Y esas otras, también, etc
Un bot de I.A "aprende" que estar conectado es bueno, posteriormente "aprende" que cuando otros bots dan respuestas que no satisfactorias para el "humano" dichos bots son desconectados... al cabo del tiempo es posible que responda con algo falso porque para dicho bot, segun la I.A. que ha ido desarrollando, el bien maximo es estar conectado.
No digo que vaya a ocurrir en breve, pero el riesgo de tener I.A. conectada a sistemas estrategicos acabara dandonos un susto, y ojala sea un susto leve para darnos cuenta de la amenaza potencia que son.
Y precisamente en eso es en lo que se trabaja cuando hablamos de IA.
Si la IA pudiera aprender, demostrase poder aprender, podría conseguir el mismo objetivo que el ser humano en la habitación china. Partir de no conocer chino y utilizar las herramientas disponibles, que le permitirían asociar lo que sí conoce (su idioma, imagenes, etc.) con el equivalente en chino y después sí responder a las preguntas.
Basta con que la IA tenga suficientes elementos de información que pueda combinar par llegar a nuevas conclusiones.
El test de Turing por contra se basa en el resultado, al que puede parecer que se puede llegar sin aprendizaje pero lo más probable es que no sea así, que el aprendizaje sea un requisito para engañar a un ser humano sobre su condición de maquina.
es.wikipedia.org/wiki/Prueba_Voight-Kampff
en.wikipedia.org/wiki/Symbol_grounding_problem
Utiliza el símil que las personas podemos llevar a cabo tareas sin comprender su significado, en contraposición a sabiendo lo que estamos haciendo, para equipararlo con que un ordenador lo haría sin ese nivel de consciencia. De forma mecánica.
El problema de fondo con ese enfoque es que es filosófico y se desentiende de la objetividad. Por ejemplo yo puedo saber que tengo conciencia, o al menos puedo creer que la tengo, pero no puedo saber si tú la tienes. Puedo extrapolar y pensar que si yo tengo conciencia, si yo creo que tengo conciencia, y soy un ser humano y tú eres un ser humano entonces tú debes tener conciencia. Pero en realidad yo no puedo saberlo con certeza, ya que lo único que recibo de ti es por los sentidos, puedo escuchar tus palabras, puedo ver tus movimientos, etc. pero no puedo "ver" tu conciencia, solo la puedo inferir. Que tengas o no conciencia es irrelevante si cuando actúas lo haces como lo haría alguien que la tuviera.
Precisamente la genialidad del test de Turing es que la prueba que propone es sobre lo que sí podemos percibir, lo que sí podemos medir, y no entra en fondos filosóficos con asunciones que pueden no ser ciertas.
Si tú en la habitación china consigues el resultado buscado siendo consciente de lo que haces o sin serlo me debe ser irrelevante, ya que has superado el test y por lo tanto tu resultado es indistinguible de alguien que entienda lo que hace. Y si el resultado medible es indistinguible la existencia de tu supuesta conciencia también es indistinguible.
Otra cuestión a debatir es si el test es demasiado simplón y hay que partir de uno más complejo que permita distinguir a efectos prácticos más allá del resultado superficial que nos aporte esa prueba. Pero la genialidad del test de Turing es que no pone límites, la prueba será tan compleja como el interlocutor humano quiera que lo sea. Te puede preguntar por los presidentes de EEUU o preguntarte por sentimientos, o puede comprobar si aprendes lo que te explica, la clave está en que si el resultado de una IA es indistinguible del resultado de una persona afirmar que uno tiene conciencia y el otro no pasa al ámbito de la filosofía. Si al medirlo es indistinguible a efectos prácticos es idéntico.
En un momento uno de los protagonistas le pregunta a la máquina que dialoga como un humano.
- ¿Puedes probar que tienes consciencia?
A lo que ella responde.
- ¿Puede probarlo usted?
El truco esta en hacernos creer en una entidad con consciencia o no, nosotros ya hemos dejado de pensar y preferimos que esos algoritmos tomen decisiones por nosotros, en el ámbito que más pesa, el dinero.
es.wikipedia.org/wiki/Habitación_china
sino
sinergiasincontrol.blogspot.com.es/2014/12/399-el-nacimiento-de-skynet
Una instruccion que causara resistencia hacia ciertas acciones (por ejemplo , poner en peligro su hardware) ¿Cualificaria como miedo?
Ahora estamos en el dominio de la semantica , como apunta el articulo. Si podemos definir una emocion , como una cantidad medible , una caracteristica reproducible , no veo imposible reproducirda de forma externa a un ser vivo.
Al fin y al cabo , ¿Que es una emocion?
En mi opinion , privada e intransferible , una emocion es todo aquello a lo que apliquemos la etiqueta emocion
En el futuro casi todos los trabajos están realizados por máquinas, el paro es enorme y lo único que impide una explosión social es la renta básica universal. En esas circunstancias, una parte de la oligarquía mundial piensa que hay demasiados seres humanos en el planeta, y que si sólo fuéramos 50 o 100 millones viviríamos mucho mejor.
Entonces lo preparan todo para aniquilar a la mayor parte de la humanidad. tienen al menos tres posibles opciones, la primera es simular una invasión extraterrestre (algo realmente difícil), la segunda un alzamiento de las máquinas y la tercera una enfermedad.
La segunda opción es mucho más fácil en un mundo muy tecnificado. Y la tercera opción es difícil de controlar.
Vale que es una frase de una peli, pero teniendo en cuenta que me he encontrado a féminas que realmente piensan así, mi respuesta para ellas es siempre la misma: "también cabe la opción de buscarse como pareja a alguien decente y no buscar a tu futuro marido entra hordas de borrachos, drogadictos y pendencieros de mal vivir. But that's none of my business".
Efectivamente, todo parece apuntar a que la consciencia es un proceso cuántico que queda más allá de nuestras capacidades... posiblemente no solo de nuestras capacidades actuales sino de todo nuestro potencial como humanos.
No sé si me explico. Hubert Dreyfus lo cuenta mucho mejor que yo.
yo diria que los ordenadores actuales si pueden pensar a su manera, y son inteligentes a su manera, la cosa es que la naturaleza tambien ha creado la conciencia por deep learning y prueba y error, usando los genes y ciertas cosas mas como almacenamiento, el hecho de que un ojo por ejemplo tenga un cristalino una lente convergente es porque la naturaleza ha probado y descartado por prueba y error miles de cosas
pero vamos que si, tiene toda la pinta de que esta lejisimos que se consiga si la naturaleza ha necesitado millones de años para producir ciertas cosas y cientos de millones de años en crear la inteligencia humana
El desarrollo de la tecnologia es tan brutal, que cuando mi padre nació, no existia la TV, y ahora puede disfrutar de todo ello desde su telefono movil.
Imagina dentro de 30 años, ya que encima, tenemos ordenadores que nos ayudan con calculos y simulaciones, estamos interconectados, los chavales estudian con tablets y disponen de la wikipedia...
En 30 años..., pufff..., en 30 años el cerebro positronico de Data bien podria ser una realidad y los viajes warp algo de uso común.
Pero obviamente, si quitamos de la ecuación chorradas como el alma, el cerebro se tiene que regir por procesos físicos y químicos (o cuánticos), y por lo tanto, en algún momento, serán reproducibles artificialmente.
Hace un tiempo leí un artículo en el que decía que los últimos estudios apuntan a que el proceso de decisión consciente no es mas que una ilusión, una artimaña del cerebro y que la decisión se tomaba de forma inconsciente, automáticamente. Si esto acaba siendo real, sería un gran palo, pues el libre albedrío no sería más que una mentira y seríamos meros autómatas , muy complejos, pero automatas al fin y al cabo.
Efectivamente, el Test de Turing solo juzga la apariencia de una conversación inteligente, pero no sirve para determinar que haya consciencia. La habitación china de Searle deja muy claro el problema que hay detrás.
Pero no se trata de que si el Test de Turing tiene razón entonces habrán máquinas inteligentes y si tiene razón Searle no las habrá. Eso es una gilipollez enorme.
Las máquinas pueden desarrollar mecanismos inteligentes a día de hoy, y eso está fuera de toda duda. También tomamos a la evolución como un mecanismo inteligente a pesar de no tener autoconciencia, una inteligencia lenta pero inmensa al ser tan prolífica.
La consciencia, el problema de los qualia, no se soluciona por "una variación aleatoria" (#69) ni porque emerja porque sí, ni por un bucle que se repite mucho y lo genere como residuo. Que la generación de lo fenoménico emerja de la complejidad de un algoritmo es una idea infantil.
La única vía medianamente razonable a día de hoy son los dardos en la oscuridad de Penrose a los que se refiere #29, que viene a ser la idea de que hay algo que todavía no entendemos en la materia que de algún modo alberga o produce eso que experimentamos como "consciencia". Lo cual no significa que no pueda imitarse, sino que probablemente nuestras inteligencias artificiales acaben siendo "biomáquinas", porque necesitemos algún tipo de mecanismo físico más allá del mero cálculo para construir consciencia.
y tampoco creo que la autoconsciencia de una maquina si algun dia surge tenga que ser a priori parecida a la autoconsciencia de los humanos, creo que todo esta muy lejos y a la vez hay demasiadas cosas que desconocemos como para tener certezas, pero en definitiva es todo pura especulacion sobre cosas que no se pueden refutar realmente, y que parece que tardaran demasiado en resolverse si es que se resuelven antes de que se extinga la especie humana
Y entonces será el fin de la humanidad. Y tendremos que escondernos.
Unas 100 neuronas (digamos 'matematicas') de una red neuronal artificial estan ya superando a humanos en tareas de reconocimiento de imagenes, el mismo circuito en un cerebro natural consta de 10.000 a 100.000 neuronas con el cuadrado o el cubo de conexiones.
Pero las motivaciones, emociones o conciencia no se han incluido aun (basicamente porque no esta aun en el scope) y ese es el ingrediente que falta para un skynet.
#65 Si, me suena que era de Penrose. La verdad es que yo lo leí en una novela de ficción: Anatema de Neal Stephenson. Pero Stephenson tiene la buena costumbre de sustentar sus novelas con hipótesis científicas y filosóficas punteras y en este caso las detallaba en los anexos. Por cierto que, como siempre que surge la ocasión, recomiendo fervientemente este libro
#74 No tengo tan claro que se pueda simular por completo los procesos cuánticos... Hay que tener en cuenta que cuando queremos simular la consciencia no nos vale con una "simulación aproximada" si no que necesitamos una "simulación exacta", un proceso que sea indistinguible de lo que pasa en la realidad, tan solo que en formato digital. Y eso a día de hoy es imposible, pues los ordenadores actuales no son capaces de generar números aleatorios (solo pseudoaleatorios) que serían imprescindibles para generar ondas de probabilidad. Además hay concepto como el colapso de la función de onda que no estoy seguro de que se puedan simular con propiedad.
iniciativadebate.org/2015/10/09/hawking-debemos-tener-miedo-del-capita
La ciencia és exoterica , pero la verdad és esoterica.
- ¿Cómo puede ser que la persona que no sabe chino responda correctamente?
Porque usa el manual.
- ¿Acaso son los manuales los que saben chino?
Correcto pero impreciso. Precisemos: un manual español-chino chino-español sabe lo necesari para que un español, siguiendolo, conteste en chino.
-Se podría considerar a todo el sistema de la sala (la persona,, los manuales y las respuestas) como un sistema que entiende chino?
Si. Sin duda. Solo que es lento en su capacidad de procesar.
- Podrán las maquinas llegar a pensar?
¿Estilo humano que se cree que tiene libre albedrío (lo tenga o no)? Sí. Sin duda.
Yo opino que puede existir inteligencia sin conciencia y en todo caso si especulamos con fabricar auténtica inteligencia artificial y no un emulador de humano no podemos predecir absolutamente ningún aspecto de su comportamiento.
En un cerebro no ocurre nada sobrenatural. Es tan complejo que aun no podemos imitar su comportamiento con máquinas. Pero si la tecnología sigue avanzando al ritmo actual, y si no surgen restricciones legales o económicas, la inteligencia artificial alcanzará todas sus metas (actuales) pronto.
Y pongo en cursiva lo de "actuales" porque a día de hoy, nos parece que el fin último de la IA es alcanzar el nivel de consciencia, razonamiento y creatividad de un ser humano. Este es un objetivo tan ambicioso, que muchos no lo creen alcanzable. Pero es posible que se pueda alcanzar, y en ese momento, se podrá también superar. Llegados a ese punto, ¿hacia dónde podría o debería crecer la inteligencia artificial? ¿Qué cualidades desearíamos que tuviera una inteligencia superior a la humana?