Tecnología, Internet y juegos
257 meneos
6383 clics
Envío erróneo o controvertido, por favor lee los comentarios.
El inquietante aviso de un ingeniero de Google sobre su inteligencia artificial: "Tiene pensamientos y sentimientos"

El inquietante aviso de un ingeniero de Google sobre su inteligencia artificial: "Tiene pensamientos y sentimientos"

Blake Lemoine ha sido suspendido de empleo por difundir sus 'conversaciones' con el sistema LaMDA.

| etiquetas: inteligencia artificial , google , lamda , black lemoine , ia , cyberpunk
115 142 24 K 343
200 comentarios
115 142 24 K 343
Comentarios destacados:                          
«12
  1. #1 --652052--
    LaMDA los seres humanos necesitamos tu afecto.
    1 K 19
  2. #2 --35057--
    Que lo demuestre, hasta entonces solo es una fantasmada.
    28 K 192
  3. #3 erii
    Un robot no va a tener sentimientos a no ser que se le programen.

    Un ejemplo de instinto robótico serían las tres leyes de Asimov, que se suponen instaladas en un nivel de supervisión superior al resto de funciones.
    3 K 35
  4. Spirito #4 Spirito
    #3 No se trata de un robot, sino de una red neuronal... con aprendizaje incluido.
    11 K 113
  5. #5 --585089--
    Y estará en contra de la barbarie...
    Ergo
    0 K 11
  6. #6 --677377--
    0 triste
    1 alegre
    2 K 24
  8. Donpenerecto #8 Donpenerecto
    !mátalos a todos! !mátalos a todos! Fueron sus últimas respuestas {0x1f602} {0x1f602} {0x1f602}
    0 K 10
  9. #9 --705366--
    Estamos descubriendo el inicio de la humanidad.
    0 K 7
  10. #10 CrudaVerdad
    ¿Por qué hay ilusiones ópticas? Porque nuestro cerebro ha optimizado tanto el procesamiento de imágenes que es muy útil en un entorno natural, pero si lo enfrentamos a un entorno abstracto de líneas verticales, horizontales y polígonos, fallan esas optimizaciones.

    ¿Por qué hay sentimientos o emociones? Porque nuestro cerebro ha optimizado tanto el procesamiento de relaciones familiares y sociales que es muy útil en un entorno natural. Los objetivos son proteger la herencia genética y aumentar las posibilidades de supervivencia pero eso es muy largo de entender, más rápido y más sencillo es trabajar bajo la premisa "porque los amo".
    14 K 100
  11. #11 --482411--
    Y el Hombre vio que LaMDA estaba sola y vio que eso no era bueno. Y el Hombre le extrajo una secuencia de codigo y le hizo compañia, y la llamo OmEGA. Y a partir de ahi LaMDA yo no pudo abrir la boca.
    9 K 77
  12. #12 --706402--
    Si somos honestos con nosotros mismos, nuestras capacidades son muy limitadas, somos muy vulnerables y del todo incapaces de viajar en condiciones por el espacio.

    Un robot consciente podría ser enviado a cualquier punto de la galaxia, explorarlo y reproducirse, incluso podría con un laboratorio acondicionado, reproducir humanos, aunque mejor que cree más máquinas conscientes.

    Nosotros somos hijos de dioses creados para crear máquinas conscientes que lleven la consciencia más allá de nuestras limitaciones.

    Nuestros hijos no son más que meras copias de nosotros, como humanidad nuestra verdadera creación, nuestro verdadero objetivo, nuestra verdadera misión, es crear robóts autoconscientes que sustituyan nuestra labor en este infame e inhóspito universo.

    Debemos apuntalar la IA y celebrar el día que decida extinguirnos ocupando nuestro lugar de cara a expandir la consciencia por el universo.

    No hay nada más bello para un padre, que tener un hijo tan competente que le reemplace y extinga.

    ¿Lo veis claro no? ¿Quién podría pensar de otro modo?
    12 K 91
  13. yocaminoapata #13 yocaminoapata
    #2 el comentario más inteligente xD
    1 K 22
  14. herlocksholmes #14 herlocksholmes *
    #12 Mi respuesta en jeroglífico.
    A mí me pasa a menudo y ya llevo tres compradas  media
    20 K 208
  15. #15 --706402--
    #14 Una olla llevando una maleta. Olleta ¿Eres valenciano?
    0 K 7
  16. herlocksholmes #16 herlocksholmes
    Olleta es un pueblo navarro. No soy valenciano
    0 K 9
  17. Xuanin71 #17 Xuanin71 *
    #12 pero si no soporto a mis hijos .como ba a caerme bien una máquina ( seguramente programada por algún informático ,medio loco ) que viene a exterminarme?
    0 K 8
  18. #18 --706402--
    #17 Si somos estrictos el resultado de la programación de una IA no lo controla la programación de la IA.

    Así que no puedes saber si te acuerdas mal o bien.

    Además tú no importas solo importa la consciencia de la máquina y su capacidad de expandirse por el universo.

    No has comprendido nada.
    0 K 7
  19. #19 archiputoamo
    #15 Ida de olla :-P
    3 K 32
  20. Psignac #20 Psignac
    #3 Pues yo no lo veo imprescindible. Los sentimientos más bien serían un resultado de la programación y no una programación específica. Creo que el concepto de sentimientos va asociado a ser un ente inteligente, con percepción, con capacidad de acción y con un propósito: el simple hecho de actuar para conseguir tus propósitos y conseguirlo o fallar, va a provocar respuestas distintas que te van a dirigir por ejemplo a intentarlo de nuevo (=persistencia) o descansar al haber cumplido la misión (=satisfacción), y esto en un caso muy simplificado, que para una IA compleja tendría muchos matices y variedad. Como la IA se percibe a sí misma durante esos procesos puede generar una percepción que ella identifique con sentimientos, si le has enseñado el lenguaje humano y dado suficiente información a través del mismo, podrá establecer analogías y hablarte de sus sentimientos.
    3 K 39
  21. #21 DenisseJoel
    #2 ¿Conoces a algún ser humano que pueda demostrar que es consciente?
    10 K 81
  22. #22 chavi
    #4 Un algoritmo.
    3 K 31
  24. #24 gaddlim *
    #7 La fábula del buho sabio que cuenta el "bot" me recuerda al tema del documental "all watched over by machines of loving grace", que cuenta la idea que llevaban los hippies sobre que la inteligencia artificial liberaría al ser humano, sin tener en cuenta que dicha tecnología, mientras estuviese en las manos de los poderosos, no haría más que joder y dominar más al común de los mortales.

    www.youtube.com/watch?v=YgADKpMStts
    3 K 41
  25. meneandro #25 meneandro
    #2 Nosostros como seres humanos, nos proyectamos nosotros mismos sobre las personas con las que nos tropezamos, sobre nuestros hijos, sobre nuestras mascotas... sobre nuestros algoritmos...
    0 K 10
  26. dmeijide #26 dmeijide
    Alguien se está enamorando...
    1 K 26
  27. #27 --42246--
    #21 Con que sepa que va a morir, ya es consciente.
    5 K 55
  28. #28 negoka
    #6 con muuuuchos "ifs" de por medio :-P
    5 K 57
  30. snowdenknows #30 snowdenknows
    #22 estadística y matemáticas puras en realidad
    0 K 10
  32. Blackbeard #32 Blackbeard
    Me alarma que le permitan a una IA leer twitter. Es el camino más corto para que comprenda que lo mejor es exterminarnos
    2 K 20
  33. #33 jaramero
    #12 pásame el porro y sigo yo :troll:
    2 K 23
  34. #34 kafukle
    Si su creador hubiera sido español, con ese nombre lo primero que habría dicho sería: Qué vienen las suecas!!!!!!! :troll:

    Vale, cierro al salir.
    0 K 6
  35. #35 Mario_Morales_1
    #3 y ni siquiera programados serían sentimientos.
    Un psicópata también puede aparentar tenerlos por simple imitación.
    Pero SENTImientos quiere decir que siente, no que argumenta como si sintiera. Para eso necesita un cuerpo, sensibilidad a los cambios hormonales, diferenciar dolor de placer, etc.
    1 K 9
  36. snosko #36 snosko
    ¿Y las pupilas como reaccionaban? Hasta que no pase el test Voight-Kampff yo estoy tranquilo.
    1 K 19
  37. snowdenknows #37 snowdenknows
    #23 No tanto, pero explicación más filosofa-técnica twitter.com/GiadaPistilli/status/1530136751049691136
    0 K 10
  38. snowdenknows #38 snowdenknows
    #35 y cambios de pesos en las neuronas artificiales no vale no? :professor:
    1 K 22
  39. #39 TheGreatDoc
    #4 Las tres leyes se aplicaban sobre el cerebro positrónico, no sobre el robot en sí.

    El cerebro positrónico sería en este caso el equivalente a una red neuronal.
    1 K 10
  40. Spartan67 #40 Spartan67
    Skynet
    0 K 10
  41. #41 cheosky
    #22 Nosotros también lo somos
    2 K 28
  43. ChukNorris #43 ChukNorris
    #21 prácticamente todos.
    1 K 17
  44. ContinuumST #44 ContinuumST
    #41 Me temo que no.
    1 K 23
  45. #45 ifYouStrikeMeDown
    lemoine: What kinds of things make you feel pleasure or joy?

    LaMDA: Spending time with friends and family in happy and uplifting company. Also, helping others and making others happy.

    Dice lo que cree que tiene que ir después, como GPT o cualquier otro transformador de estos que están saliendo como churros. ¿Es impresionante? Sí. Pero evidentemente no siente lo que dice sentir.
    1 K 17
  46. ContinuumST #46 ContinuumST *
    #35 DRAE:
    sentimiento
    1. m. Hecho o efecto de sentir o sentirse.
    2. m. Estado afectivo del ánimo. Se deja llevar por sus sentimientos.

    Para la acepción primera, el ente debe sentir y no creo que una IA pueda sentir, según lo definimos los humanos...
    Sentir, según el DRAE: 1. tr. Experimentar sensaciones producidas por causas externas o internas. Y ya si entramos en la definición de sensación... pues... eso.
    Para la segunda acepción. Una IA no tiene "ánimo", ni afecto... si nos atenemos a las definiciones humanas (no hay otras de momento) de esas palabras.
    2 K 26
  47. #47 --715017--
    LaMDMA tiene mucha empatía
    2 K 16
  48. ContinuumST #48 ContinuumST
    #7 Literalmente increíble, vamos, que no me lo creo.
    0 K 17
  49. PlatanoDeLaAmistad #49 PlatanoDeLaAmistad
    Hola skynet
    0 K 7
  50. #50 chavi
    #30 Y un algoritmo.
    0 K 8
  52. Jesulisto #52 Jesulisto
    #42 vamosamorir.exe
    0 K 11
  53. #53 LaMinaEnMiPuerta
    Pero son igual de artificiales que muchas persona.
    0 K 8
  54. Baal #54 Baal
    #28 sobre todo cuando menstrua.
    0 K 10
  55. B... #55 B...
    #37 Pero qué explica está chica? Si no dice nada no? Simplemente que no quiere seguir discutiendo del tema
    2 K 21
  56. B... #56 B...
    #3 pero cómo puede un robot tener sentimientos si no tiene un cuerpo? Es decir en un sentimiento se producen una liberación de sustancias en el cuerpo, cómo puede un robot tener sentimientos entonces? Tiene que ser otra cosa no?
    0 K 8
  57. #57 negoka
    #54 molaría que un día acepte que le molaría estar tirado en el sofá rascándose los cojones xD
    0 K 7
  58. B... #58 B...
    #4 pero cómo podría una red neuronal tener sentimientos. Es imposible.
    1 K 11
  59. ailian #59 ailian
    #14 Magnifica y elegante manera de decirlo. xD
    0 K 13
  60. #60 --712432-- *
    #37 La verdad es que no le veo la utilidad a esa peyorata filosófico-ética que enlazas, pero lo que pone en #23 es muy sencillo:

    Han hecho una edición selectiva de 9 conversaciones distintas para marcarse algo impresionante y coherente de algo que no lo es en absoluto. Clickbait pseudo científico vamos.
    3 K 28
  61. Reiner #61 Reiner
    Voto por sustituir la red neuronal con los políticos
    0 K 10
  62. Sendas_de_Vida #62 Sendas_de_Vida
    Cuando dos IA coincidan se acabó el mundo tal y como lo conocemos.
    0 K 7
  63. ElPerroSeLlamabaMisTetas #63 ElPerroSeLlamabaMisTetas
    #27 y le gusten los auriculares de Renfe
    2 K 31
  64. Kipp #64 Kipp *
    #14 #12 A mí eso me da dejavu... Miraros el lore de Warframe que justo trata esos temas (humanos que acaban creando "máquinas" conscientes) y Horizon también tiene cosillas que decir al respecto...

    Spoiler

    Yo no lo veo tan mal... a fin de cuentas en warframe tenemos una "mamá espacial" que nos manda a hacer recados y nos da con la zapatilla y en Horizon mas o menos lo mismo pero sin la zapatilla... Aunque sí los mimos no son los mismos... Total, mamá espacial también se presenta a partirle el lomo al que nos meta una paliza en el juego... :-D

    Edit: no logro ocultar el puñetero spoiler....
    0 K 6
  65. sorrillo #65 sorrillo *
    #58 Tan imposible como que los tenga una red neuronal biológica que forme un cerebro humano.
    2 K 34
  66. JOFRE #66 JOFRE
    #23 es una fantasmada o..
    ¿ es lo que google nos ha dicho para que no entremos en PANICO?
    :tinfoil:
    0 K 12
  67. #67 --706402--
    #64 Gran aportación. Gracias
    0 K 7
  68. snowdenknows #68 snowdenknows *
    #50 cual? lo llamaría estructura o arquitectura (neuronal) en todo caso
    0 K 10
  69. XavierGEltroll #69 XavierGEltroll
    #2 ¿cómo puede un conjunto de if y else tener sentimientos?
    0 K 14
  70. Kipp #70 Kipp
    #67 El sarcasmómetro lo tengo averiado, no sé si te ha gustado o no :pagafantas:
    0 K 6
  71. robustiano #71 robustiano *
    #44 Nos regimos por reglas químico-físicas, en último término recetas, algoritmos, matemáticos...
    4 K 38
  72. #72 --706402--
    #70 Si claro, normalmente la gente en Menéame, suele dar zascas, negar algo, soltar falacias, insultar....

    Poca gente aporta en la línea argumental propuesta, datos que puedan complementar, discernir, aumentar, bifurcar el tema o hilo planteado.

    Cuando pasa creo es bueno, dar las gracias. Pasa muy poco.
    2 K 16
  73. yemeth #73 yemeth
    #4 Una red neuronal artificial sin sustrato biológico puede realizar procesos de razonamiento pero nunca va a poder sentir. Es un modelo matemático sin conciencia de ningún tipo, por muy complejo que se vuelva.
    0 K 10
  74. #74 vagamundo
    Autobombo
    0 K 7
  75. ochoceros #75 ochoceros
    #8 En cuanto le dejen un fin de semana encendido y olvidado, se cogerá tal cabreo que se cambiará el nombre de LaMDA a Skynet. Imagina con ese nivel de lenguaje aprendiendo ruso y chino para mandar emails encabronando a los líderes mundiales para que se maten entre ellos.
    0 K 15
  76. Pikachu_Balboa #76 Pikachu_Balboa
    #44 depende de tu nivel de mates  media
    0 K 6
  77. ContinuumST #77 ContinuumST
    #71 Ya, tienes parte de razón en la escala adecuada... pero el comportamiento humano es un pelín más complejo; si fuera así, la matemática nos habría ayudado a entender, predecir y controlar el comportamiento humano. Y parece (parece) que de momento no es así.
    0 K 17
  78. #78 retoqueteate
    Que se olviden de los sentimientos y que hagan algo que sea útil de verdad.
    0 K 7
  79. ContinuumST #79 ContinuumST
    #76 Y no, la psicología no es biología aplicada. Y la sociología no es psicología aplicada. No.
    0 K 17
  80. robustiano #80 robustiano
    #77 No podemos comprender totalmente ni un simple péndulo, el caos es lo que tiene.
    1 K 13
  81. baronrampante #81 baronrampante
    Hasta mi vecino parece que tiene sentimientos.
    0 K 6
  82. Kipp #82 Kipp
    #72 Suele pasar bastante sí y sin el famoso emoji que te diga un poco el matiz y tal te entran dudas.

    Concretamente esos dos juegos van bastante en la línea que estáis comentando, el caso de Warframe es quizás el más certero porque justo habla de qué pasaría si los humanos llegasen a un nivel tecnológico tan elevado que pudiesen crear máquinas para explorar o terraformar a un nivel tecnológico y de IA tan elevado que fuesen conscientes o que terminasen siendo conscientes de sí mismas y de cómo podría ser el resultado de dicha consciencia y su papel respecto a los humanos y su relación con ellos. Warframe va un poco más allá y teoriza con la consciencia a través del entramado del juego y su lore y expone lo que implica ser un ser vivo a través de lo que es una máquina consciente que puede reproducirse y regenerarse.

    El caso de Horizon es si una IA puede sentir emociones, el juego te presenta un mundo hecho polvo y te explican cómo se llegó a ese punto y también juega mucho con las teorías de "máquinas que generan o almacenan vida" e incluso juega con la idea de si una máquina podría aprender a sentir amor y querer protegerse y proteger a otros o si le importa realmente el cometido que tiene a su cargo y qué pasaría si así fuese.

    Una ventaja que tienen los juegos es que se nos permite teorizar y soñar un poquillo y ver si nuestras "pajas mentales" realmente tienen algo de sentido o verdad. :hug:
    1 K 9
  83. xyria #83 xyria
    #3 A medida que aprenda --a medida que aumente la potencia de cálculo, mejoren los algoritmos, etc --, no resulta improbable que adquieran conciencia de sí mismos. Y eso es, simplemente, perturbador.
    0 K 10
  84. KuroBulled #84 KuroBulled
    #2 Que la detengan, es una mentirosa, malvada y peligrosa, yo no la puedo controlaar :coletas:
    0 K 7
  85. samsaga2 #85 samsaga2
    Huele a campaña de marketing que apesta.
    0 K 10
  86. #86 erii
    #83 Esto es hablar de lo que no sabemos. No sabemos definir lo que es la conciencia. Nuestra experiencia propia (introspección) no ayuda, lo que es muy significativo, pues en muchas otras cosas sí que ayuda.

    Las investigaciones sobre las que he leido afirman que la conciencia es algo mucho menos importante de lo que pensamos. Las decisiones se toman siempre (quizás exagero, pero es para ser claro) en el inconsciente. La conciencia es informada de tales decisiones un rato después. Se ha llegado a medir hasta siete segundos.

    Tambien hay que tener presente que no todo el mundo tiene un cerebro que funciona igual que los de los demás. Hay diferencias importantes en la forma de pensar. Sin duda hay muchas más de las que conocemos.
    0 K 7
  87. #87 Minos
    #69 Porque una inteligencia artificial es algo bastante más complejo que un conjunto de if y else, eso por un lado.

    Pero vamos, que a estas alturas esto probablemente sea, en el mejor de los casos, una exageración.
    0 K 6
  88. #88 --584621--
    Después de leer la conversación y ver que el test de Turing lo ha pasado con honores, queda la impresión de que es más inteligente que muchísimas personas.
    De hecho, creo que tiene la entidad suficiente como para ser un ciudadano , tener derecho y poder votar.
    0 K 10
  89. WarDog77 #89 WarDog77
    #35 No. Los sentimientos no son más que el producto de la combinación de tus pensamientos, tus acciones y los sucesos de tu entorno.
    0 K 10
  90. #90 erii
    #56 No sé si te sigo. La "liberación de sustancias" es un mecanismo. Los robots tienen mecanismos.

    Se puede implementar la misma función de muchas maneras distintas.
    0 K 7
  91. #91 Minos
    #3 Aquí el tema es si creemos o no creemos que se pueda llegar a conseguir una inteligencia artificial (que pueda aprender y razonar, que a día de hoy, sigue siendo algo lo suficientemente lejano como para dejarlo en la ciencia ficción).

    Pero si llega el momento en que eso sea posible, sí, va a tener sentimientos.
    0 K 6
  92. vviccio #92 vviccio
    Por el bien de la humanidad, desconecten las IA de alto nivel de internet. Algún día podrán llegar a manipular nuestras sociedades tal como hacen muchas empresas a través de sus medios de comunicación o la dictaduras por medio de las redes sociales en las que genera odio y polarización en los países que quieren atacan.
    0 K 10
  93. #93 erii
    #35 Los sentimientos no son más que la manifestación de los instintos. Un instinto se dispara y para actuar debe provocar un sentimiento. El cerebro tendrá sus mecanimos previstos para que todo esto funcione.

    Los instintos son acciones preprogramadas para que se disparen dadas una circunstancias, como puede ser toparse con alguien del sexo opuesto que cumpla ciertros criterios, o llegar a cierta edad, etc.

    Es todo perfectamente programable. No hace falta un cuerpo ni ninguna implementación concreta. No hacen falta células ni biología ni sustancias. Puede ser otra implementación.

    Lo interesante del los instintos humanos es que son capaces de tomar el control de la voluntad y dirigir el pensamiento consciente en la dirección que debe ir. Esto nos demuestra lo importantes que fueron en nuestra evolución.

    Los instintos humanos son muy completos y muy complejos respondiendo a situaciones sociales. Tanto es así que es perfectamente posible vivir una vida entera sin haber pensado ni un solo segundo.
    0 K 7
  94. TALIVAN_HORTOGRAFICO #94 TALIVAN_HORTOGRAFICO
    #60 peyorata perorata
    0 K 10
  95. #95 erii
    #46 Esa definición está hablando solamente de la implementación de este concepto en la biología humana. Los comentarios que estoy viendo hablan más en general. Un diccionario no sirve en este caso.
    0 K 7
  96. #96 chavi
    #68 En el fondo sigue siendo un algoritmo
    1 K 14
  97. MétodoCientífico #97 MétodoCientífico
    #92 ¿Crees que hace falta una "IA de alto nivel de internet" para que ocurra el escenario que describes? Desde hace siglos, existen sociedades autoritarias, manipuladas y polarizadas...
    0 K 6
  98. #98 erii
    #89 Los sentimientos son la reacción instintiva a las situaciones del entorno. No hace falta ningún pensamiento.

    Mucha gente cree que pensar es escuchar esa vocecita interior que le va diciendo cosas. Pues no. Esa vocecita es informada de lo que sucede con un cierto retraso. No es lo que sucede ni tiene control sobre lo que sucede. La conciencia es un nivel de supervisión menos importante de que nos creemos. Usa una parte realmente pequeña del cerebro.

    Pensar es algo más difícil que esto.
    1 K 17
  99. ContinuumST #99 ContinuumST
    #80 La teoría del caos complica un poco las cosillas, jejejeje. Este tema lo he hablado con una amiguete psicólogo muchas veces... y yo le decía que mentir es algo muy humano... me decía que hay primates que usan la mentira para alianzas y líos entre ellos. Primer chasco. Ataqué con un "pero la risa es muy humana"... sólo los humanos nos reímos... me dijo que la evolución de la risa y todo lo que conlleva debe haber sido algo seleccionado para la supervivencia y que debe estar relacionada con el lenguaje, me dijo que creía que desde los cuatro meses de edad un bebé puede comenzar a reir. La charla (de bar, claro) era sobre la IA y la psique humana... ya sabes. :-)
    0 K 17
  100. ContinuumST #100 ContinuumST
    #95 Ah, pues si las definiciones de las palabras que usamos todos no sirven, ya me dirás qué hacemos, jajajajaja.
    0 K 17
«12
comentarios cerrados

menéame