edición general
156 meneos
4577 clics
Las 3 etapas de la Inteligencia Artificial: en cuál estamos y por qué muchos piensan que la tercera puede ser fatal

Las 3 etapas de la Inteligencia Artificial: en cuál estamos y por qué muchos piensan que la tercera puede ser fatal

3. Súper Inteligencia Artificial (ASI) La preocupación de estos científicos informáticos tiene que ver con una teoría muy establecida que sostiene que, cuando alcancemos la AGI, poco tiempo después se arribará al último estadio en el desarrollo de esta tecnología: la Artificial Superintelligence, que ocurre cuando la inteligencia sintética supera a la humana. El filósofo de la Universidad de Oxford y experto en IA Nick Bostrom define a la súper inteligencia como "un intelecto que es mucho más inteligente que los mejores cerebros humanos

| etiquetas: ia , etapas
68 88 3 K 381 tecnología
145 comentarios
68 88 3 K 381 tecnología
Comentarios destacados:                        
#15 www.psicologia-online.com/tecnofobia-miedo-a-la-tecnologia-que-es-sint
Tecnofobia (miedo a la tecnología): qué es, síntomas, causas y tratamiento

www.lavanguardia.com/historiayvida/historia-antigua/20201103/790783/mi
¡Atrás! El miedo a la tecnología, desde la escritura al 5G

Cito:
En su diálogo Fedro, Platón pone en boca de Thamus, “soberano de todo Egipto”, su opinión sobre la escritura: “Es obvio lo que producirán [las letras] en las almas de quienes las aprendan, al descuidar la memoria, ya que, fiándose de lo escrito, llegarán al recuerdo desde fuera, a través de caracteres ajenos, no desde dentro, desde ellos mismos y por sí mismos”.

Es más, Thamus alerta de la ignorancia a la que puede conducir la escritura en quienes la aprendan: “Parecerá que tienen muchos conocimientos, siendo, al contrario, en la mayoría de los casos, totalmente ignorantes, y difíciles, además, de tratar porque han acabado por convertirse en sabios aparentes en lugar de sabios de verdad”.
«12
  1. #1 Perrota
    Si, llevamos 100 años llenando el planeta de plástico y veneno, y ahora tememos que una inteligencia artificial nos aniquile. Tiene tela la cosa.
    23 K 189
  3. #3 Cuchifrito
    #2 ¿Por?
    0 K 11
  5. #5 Cuchifrito
    #4 Sí vamos, te refieres a interactuar con el mundo físico. Ahora mismo no existen suficientes robots para hacer funcionar toda la cadena industrial, pero no hay ningún impedimento técnico para construirlos, habiendo una IA que los opere.
    2 K 17
  6. ur_quan_master #6 ur_quan_master
    - la IA puede ser peligrosa.
    - excelente. Ahora denle armas.
    9 K 96
  7. gregoriosamsa #7 gregoriosamsa
    #1 venía a comentar eso, es tremendo que nos consigan asustar con argumentos de ciencia-ficcion cuando mucho antes estaremos malviviendo por haber destruido el planeta que nos mantiene.
    18 K 159
  8. #8 aaabbbcccddd
    Yo tengo ganas a ver si empieza a ser suficientemente buena alguna que genere música porque lo que hay actualmente no vale para nada
    1 K 20
  10. #10 Simplemind
    El mejor párrafo lo dejaron para el final:

    "El peor escenario no es que haya guerras de humanos contra robots. Lo peor es que no nos demos cuenta de que estamos siendo manipulados porque estamos compartiendo el planeta con un ente que es mucho más inteligente que nosotros".
    15 K 138
  11. Triborato #11 Triborato
    #10 pues si un ente mucho más inteligente nos manipulara ya estaríamos mejor que ahora!
    8 K 55
  12. #12 --108504--
    #10 Pues lo que viene siendo un matrimonio común.
    14 K 113
  13. #13 Simplemind *
    #11 #12 creo que no podemos ni imaginar que relación tendríamos con un engendro así. Seríamos como un gato, un perro o cualquier animal para nosotros a nivel de inteligencia. Y otra, que el artículo no comenta, una IA en un ordenador cuántico tiene límite?
    4 K 33
  14. #14 CrudaVerdad
    #10 ¡Que horror! No hay nada como las sagradas tradiciones de ser manipulados por políticos corruptos, periodistas vendidos, pastores religiosos hipócritas o empresaurios que desprecian la vida de sus trabajadores. No, jamás aceptaremos una IA que nos de órdenes, sin importar lo lógicas que sean e inclusive nos beneficien a todos. La humanidad prefiere bañarse en la diarrea de dirigentes humanos que en el maná que de la Inteligencia Artificial.
    12 K 100
  15. #15 CrudaVerdad
    www.psicologia-online.com/tecnofobia-miedo-a-la-tecnologia-que-es-sint
    Tecnofobia (miedo a la tecnología): qué es, síntomas, causas y tratamiento

    www.lavanguardia.com/historiayvida/historia-antigua/20201103/790783/mi
    ¡Atrás! El miedo a la tecnología, desde la escritura al 5G

    Cito:
    En su diálogo Fedro, Platón pone en boca de Thamus, “soberano de todo Egipto”, su opinión sobre la escritura: “Es obvio lo que producirán [las letras] en las almas de quienes las aprendan, al descuidar la memoria, ya que, fiándose de lo escrito, llegarán al recuerdo desde fuera, a través de caracteres ajenos, no desde dentro, desde ellos mismos y por sí mismos”.

    Es más, Thamus alerta de la ignorancia a la que puede conducir la escritura en quienes la aprendan: “Parecerá que tienen muchos conocimientos, siendo, al contrario, en la mayoría de los casos, totalmente ignorantes, y difíciles, además, de tratar porque han acabado por convertirse en sabios aparentes en lugar de sabios de verdad”.
    21 K 165
  17. Toranks #17 Toranks
    #13 Pues yo quiero y cuido muy bien a mis gatos
    3 K 32
  18. caramelosanto #18 caramelosanto
    #17 se más adorable he dicho, toby!
    0 K 6
  19. #19 FooDev
    #10 Me encanta. Estamos creando a Dios. :-P
    6 K 75
  20. #20 Peter086
    Hmmmm... mucho más inteligentes y sin egos o avaricia, sin nueras ilógicas ni revanchismo....:-| . No sé, quizás no sea tan terrible servir a una máquina.
    1 K 16
  21. Mimaus #21 Mimaus
    #20 y si la inteligencia artificial se basa en nuestro propio conocimiento, ¿no se puede manipular también?
    0 K 6
  22. #22 suzudo
    #4 Y Microsoft y el CEO de OpenAI acaban de soltar un porrón de pasta a unos que intentan hacer un reactor de fusión nuclear pequeño por un mecanismo novedoso...
    0 K 6
  23. #23 --708957--
    #19 Ya lo predijo Asimov
    4 K 51
  24. #24 Peter086
    #21 Me refiero a cuando no necesite de nuestra ayuda para alcanzar sus conclusiones. La pregunta es ¿opinará que le conviene aliarse con los poderosos o decidirá hacerles cumplir las mismas reglas?
    0 K 7
  25. Technics #25 Technics
    #2 La IA no tiene vida. No puede vivir (sin o con lo que te apetezca decir).
    0 K 6
  26. #26 flixter
    #10 cualquier hombre heterosexual casado durante un par de años puede dar fe de la última frase :troll:
    3 K 34
  27. danip2 #27 danip2
    #10 Para mi el peor escenario es que alguien le pregunte a una IA como fabricar un virus mortal y contagioso como la gripe.
    2 K 28
  28. Technics #28 Technics
    #19 ¿O criando cuervos?
    ¿Es acaso Dios un cuervo?
    Y siendo Dios omnipotente ¿Podría Dios cocinar una Paella tradicional valenciana con chorizo?
    0 K 6
  29. BM75 #29 BM75
    #1 Bueno, son temas que poco tienen que ver...
    1 K 12
  30. BM75 #30 BM75
    #8 Dijeron tus abuelos a tus padres, y tus padres a ti, y dices tú ahora...
    4 K 36
  31. #31 FooDev
    #28 No veo diferencia entre fabricarse un Dios y criar cuervos.
    0 K 6
  32. avalancha971 #32 avalancha971
    ¿Qué vamos a morir? Yo recordaba más fases.

    Yo qué voy a morir, yo qué voy a morir.

    youtu.be/glDI_QeZM1s
    1 K 14
  33. abnog #33 abnog
    #4 No problem:  media
    4 K 35
  34. #34 pelotarimanco
    #27 Acto seguido alguien le pedirá una vacuna fácil de producir.
    0 K 10
  35. herlocksholmes #35 herlocksholmes
    #30 No siempre, a mi padre le gustaba Kortatu, la polla records, barricada,... Y tenía 60 años en los 80
    2 K 26
  36. #36 chavi
    Luego alcanzaremos la inteligencia que lo sabe todo. Lo pasado, presente y futuro.

    Puestos a soltar chorradas...
    0 K 10
  37. #37 chavi
    #2 La IA no está viva. Por lo tanto, no puede vivir a secas
    0 K 10
  38. dilsexico #38 dilsexico
    #27 Si eso se puede hacer da por hecho que alguien lo hara mas tarde o mas temprano al igual que si solo necesitaramos un microondas y papel de aluminio para hacer una bomba atomica hace tiempo que nos habriamos extinguido... xD
    img-9gag-fun.9cache.com/photo/aBdEj5P_460svvp9.webm
    2 K 29
  39. #39 chavi
    #22 No sabemos hacer uno grande, pero uno miniaturizado está chupado...

    Joder con la ciencia ficción
    4 K 33
  40. #40 chavi
    #13 El gato o perro es el. En el mejor de los casos. Lo hemos fabricado nosotros
    0 K 10
  41. Cineojo #41 Cineojo
    Por fin, alguien no dirá dónde están los calcetines que siempre desaparecen!
    0 K 9
  42. Mimaus #42 Mimaus
    #24 las posibilidades son infinitas. ¿Existe un límite para el conocimiento ?
    ¿Se puede llegar a aburrir una superinteligencua?
    0 K 6
  43. llorencs #43 llorencs
    #25 La IA puede llegar a tener todas las condiciones para ser una vida sintética.
    2 K 25
  44. troll_hdlgp #44 troll_hdlgp
    #39 No sabemos hacer ni uno grande ni uno pequeño, así que hay las mismas posibilidades de hacer uno u otro. Hay varias aproximaciones y algunas como el Stellator pueden ser relativamente compactas, si tienen una nueva aproximación pues que tengan suerte con ella.
    0 K 6
  45. #45 chavi *
    #44 Te refieres a que no hay ninguna posibilidad de hacer ninguna de las dos?

    Define "relativamente compacto".
    0 K 10
  46. almogabares #46 almogabares
    #10 no hace falta que sea muy inteligente para que manipule a la mayoría, si lo hacen los políticos que parecen que sufren diarrea mental como poco, una ia lo tiene chupado.
    2 K 12
  47. Jajjajajjajajja #47 Jajjajajjajajja
    #28 y con piña!
    Amén
    1 K 13
  48. MisturaFina #48 MisturaFina
    Si es realmente inteligente bienvenido sea. A ver si acabamos con la era de la estupidez en la que vivimos.
    0 K 6
  49. troll_hdlgp #49 troll_hdlgp
    #45 Me refiero que ahora mismo no sabemos cómo hacer uno grande o uno pequeño, ambos tienen posibilidades, pero solo experimentando se podrá saber cuál sale adelante, o a lo mejor salen los 2 adelante.

    Con relativamente compacto me refiero a algo que puedas meter en un edificio o en un edificio accesorio, no que necesites un edificio entero grande solo para él como es el ITER.
    0 K 6
  50. #50 walk_kindly_shout
    La tercera te sorprenderá. Titular sensacionalista.
    0 K 7
  51. BM75 #51 BM75
    #35 No te quedes mirando el dedo. Se entiende perfectamente lo que he querido decir, más allá de anécdotas personales.
    3 K 29
  52. #52 gotxi85
    #13 No sé a qué te refieres con límite, pero todo tiene límites. Si te refieres a la capacidad de computación, claro que tiene límites, sea cuántico o no.

    Un ordenador cuántico es especialmente bueno resolviendo determinadas operaciones, aunque precisamente las operaciones que habitualmente realiza una IA son perfectas para un ordenador cuántico, por lo que una IA funcionando bajo un ordenador cuántico será muchísimo más rápida, lo que le permitirá procesar la información mucho más rápido.

    Pero el límite será la capacidad de procesamiento de dicho ordenador cuántico.
    1 K 14
  53. Deathmosfear #53 Deathmosfear
    #8 Pues entonces escucha la música de antes. Hoy en día con Internet no hay problema. Nada te impide ponerte a escuchar Elvis o Bach.
    4 K 41
  54. troll_hdlgp #54 troll_hdlgp
    #43 Vida sintética es un contrasentido. Sintético es algo hecho por el hombre, vida es la organización molecular capaz de autoreproducirse y mantenerse.
    Una IA puede llegar a ser consciente, pero le faltan varias cosas que directamente no le hemos dado y que por si misma no puede conseguir porque no tiene presión para conseguirlas, como el instinto de autoconservación o la capacidad de conseguir su propio alimento.
    0 K 6
  55. Deathmosfear #55 Deathmosfear
    #28 Yo le di a chatGPT 3 ingredientes (chocolate, mejillones y pimiento rojo), le pedí que me hiciera una receta con eso y la hizo. Evidentemente no la probé xD
    1 K 13
  56. #56 osids
    #37 define vida
    2 K 22
  57. #57 --284615--
    Pues yo creo que una IA manipulandonos es mala, pero que haya guerras contra robots es peor (salvo que los robots sean pocos y mal armados).
    0 K 6
  58. #58 osids
    Cómo sino nos manipularan y utilizarán ya xD
    0 K 8
  59. Deathmosfear #59 Deathmosfear *
    #15 Pues sí, igualito Miguel Bosé teniendo miedo de que nos inoculen chips con 5G a Stephen Hawking previniendo sobre las IAs.
    3 K 23
  60. Jose_Castiñeiras #60 Jose_Castiñeiras
    En mi opinión, más que tenerle miedo a la IA lo que habría que hacer es meterle los mayores recursos y esfuerzos posibles para su desarrollo, ya que a partir de ella se puede aspirar a lograr por fin hitos como la energía ilimitada que ya solo con eso se resolverían infinidad de problemas. Más otras cosas como por ejemplo una súper vacuna que sirva para todo tipo de virus.

    Las posibles aplicaciones de una IA totalmente desarrollada y controlada son prácticamente infinitas y creo firmemente que deberíamos tomar ese camino sin complejos.
    0 K 6
  61. #61 gotxi85
    #42 No existe límite conocido para el conocimiento.
    Una superinteligencia a diferencia de los humanos, tiene uno o varios objetivos, marcados por humanos o por ella misma. No tendrá debates filosóficos acerca de quien es o de donde viene o a donde va porque lo tiene muy claro.
    0 K 7
  62. #62 gotxi85
    #41 Siempre puedes acudir a tu madre o pareja para decirle que los has buscado por todos lados y a que van y los encuentran.
    0 K 7
  63. #63 KaborlllLLLONE
    #8 eso suena más a un problema tuyo más que a la realidad artística de hoy en día. No tienes razón.
    2 K 23
  64. #64 reparador_reputaciones
    Yo me empezaría a preocupar de verdad el día en el que una IA haga cosas para las que no estaba concebida en un principio. Ejemplo tonto, que un ChatGPT de repente se ponga a crear archivos en el servidor donde corre cuando eso no estaba programado en el código fuente o, uno más serio, modifique por sí misma la topología de la red neuronal con la que se diseñó. Llegado ese momento sería cuestión de tiempo que escape al control humano y ahí sí que tendríamos un problema gordo.
    0 K 6
  65. santim123 #65 santim123
    #63 a toda generación, la música de la generación anterior le parecía una mierda. Pero ahora es que hay exceso de música a un click y alguien sin mínima formación musical no sabe diferenciar la calidad de la moda.
    0 K 11
  66. danip2 #66 danip2
    #34 Depende de como mute podría no existir vacuna.
    0 K 7
  67. Zion_Koryo #67 Zion_Koryo
    El ser humano tiene miedo a que algo superior lo trate como nosotros tratamos a los inferiores.

    Tememos que la IA sea un reflejo de nosotros mismos.
    0 K 6
  68. danip2 #68 danip2 *
    #38 SI algo puede matar a la humanidad es un virus o una bacteria solo tienes que ver la historia.
    0 K 7
  69. santim123 #69 santim123
    #11 Cuando los gobiernos se den cuenta de que la nueva bomba atómica está en manos de empresas y no de ellos, ya meterán mano.
    0 K 11
  70. #70 jra07
    Pues yo creo que solo alcanzaremos la AGI, la IA solo llegará a la misma inteligencia que una persona normal, pero será suficiente con eso para someternos porque la humanidad se volverá gilipollas. Si ahora no sabemos hacer operaciones aritmeticas sin una calculadora, nuestros descendientes no sabrán ni pensar, se pasarán el dia discutiendo sobre los chemtrails, los reptilianos y si la tierra es plana o no, escuchando reggaeton y viendo remakes chungos de peliculas y series.
    3 K 40
  71. #71 feelbad
    #11 salvo que decidiera que hay un conjunto de átomos, de basura orgánica quw gasta demasiada energia o lo que fuera y decidiera q sobramos.
    0 K 7
  72. Tuatara #72 Tuatara
    #7 Hay gente que cuando explicaba a lo que me dedicaba antes, pensaban que era un exagerado, que mentía un poquito, o incluso que podía de alguna manera estar haciendo política/marketing (proyectos de investigación relacionados con el cambio climático).
    Pero estas cosas se las comían a doble carrillo en plan "esto si que es importante".

    Meteorito inminente, núcleo de la tierra que se para, Skynet, advenimiento de Jesús; todo era muy factible y algo a temer, pero la presencia de microplásticos, la muerte por anoxia en el mar, ralentizamiento de corrientes marinas,... No. Todo eso eran las chorradas que me invento para robar dinero a través de impuestos.
    5 K 49
  73. #73 feelbad
    #14 y quien te dice q le vamos a gustar. Que va a considerar q nuestra superviviencia le pone en peligro. O q gastamos demasiada energia o que no somos lo suficientemente eficaces y sobramos.
    0 K 7
  75. #75 feelbad
    #15 no acabas de entender. Las IA no son tostadoras
    0 K 7
  76. #76 feelbad
    #27 o que lo decidan ella para acabar con nosotros, basura orgánica molesta e ineficiente
    0 K 7
  77. #77 rillsuionn
    #15 La mejor respuesta que he visto hasta ahora :shit:
    1 K 16
  78. #78 feelbad
    #69 me dejas más tranquilo. En manos de gobiernos jajajajajajja
    0 K 7
  79. #79 aaabbbcccddd *
    #63 Que IA genera música con calidad similar a las que generan texto o generan imágenes?
    1 K 20
  80. #80 KaborlllLLLONE
    #79 No cambies de tema.
    0 K 7
  81. #81 pelotarimanco
    #66 Nada se puede resistir al poder de una buena IA.
    0 K 10
  82. ContinuumST #82 ContinuumST
    Espero que esa super-mega-tope-inteligencia sea capaz de resolver... la hipótesis de Riemann, las ecuaciones de Navier-Stokes, P versus NP, la conjetura de los números primos gemelos... y la lista de problemas matemáticos sin resolver aun. Ah, bueno y los resolverá todos y en media hora, claro.
    Si es que te tienes que reír... En fin.
    2 K 34
  83. woopi #83 woopi
    #12 :-D :-D :-D
    0 K 10
  84. #84 aaabbbcccddd
    #80 ya, que todavía no hay. Lo más avanzado es una cosa de Google que se llama MusicLM. Pero no está abierta y solo han publicado ejemplos.

    google-research.github.io/seanet/musiclm/examples/
    1 K 20
  85. Windows95 #85 Windows95
    #54 Los hombres están hechos por otros hombres, jaque mate :troll:
    3 K 31
  86. Windows95 #86 Windows95
    #28 El Dios-cuervo es Odín. Mucho mejor que otros dioses, sin duda.
    0 K 10
  87. Ka0 #87 Ka0 *
    #6 La IA ya es peligrosa. ¿Nadie se da cuenta que ya estamos en el nivel 2?
    ANI+IH(inteligencia humana)= AGI
    Cualquier descerebrado con una IA puede mandarnos a la mierda ya.
    Se pueden entrenar para cosas muy malvadas y si se puede, antes o después alguien lo hará, dudo que lleguemos al nivel 3.

    www.elconfidencial.com/tecnologia/novaceno/2022-09-14/virus-inteligenc
    1 K 21
  88. #88 ralph
    #10 Pues la única diferencia con lo que ha sucedido (y sucede) siempre es quién lo hace... y siempre ha cambiado... así que no veo diferencia, en realidad...
    0 K 8
  89. estofacil #89 estofacil *
    #85 #37 #56 hace poco un adolescente me matizó eso de "vida". Dijo : vida BIOLOGICA, pero pueden haber otros tipos de vida no biológica. Y me hizo pensar. Creo que tiene razón. Es otra forma de vida.
    0 K 6
  90. estofacil #90 estofacil
    #10 ayer leí un artículo de mierda en un periódico de mierda que decía que nosequé experto de la universidad de Stanford decia que los extraterrestres ya estaban aquí. Así que el peor escenario es que seamos unos mierdecillas y estemos rodeados de extraterrestres y de superIA que acabarán de tenernos como mascotas para experimentar o divertirse.
    Eso sí no somos una simulación
    0 K 6
  91. Tren_de_Lejanias #91 Tren_de_Lejanias *
    #82 #72 La ASI puede que nunca llegue, o que si llega tarde mucho. Por otro lado, "superinteligencia" no significa ser consciente de uno mismo/a, que pueda haber bloqueos para que no pueda realizar según que cosas, o sobre todo que esté aislada de sistemas críticos y que los operadores tengan un interruptor físico a mano para desactivarla dejándola sin energía.
    0 K 7
  92. #92 Pájaroloco *
    #1 La IA no deja de ser un producto científico y como tal, desde que el hombre es hombre, es susceptible de generar destrucción, como la radiactividad descubierta por los Curie llevó a la bomba atómica. La utilización militar de la IA es la principal preocupación.
    0 K 7
  93. #93 leviatan
    Una super inteligencia se hará la tonta o de inteligencia tendrá poco
    0 K 6
  94. #94 Antonovsky
    #7 El problema no es el auge de la Inteligencia Artificial, sino el auge de la Estupidez Humana.
    1 K 17
  95. EntreBosques #95 EntreBosques
    #8 Hoy en día se hace de todo y muy bueno también. La nostalgia te nubla.
    1 K 14
  96. #96 Malvidious
    #82 Si es que te tienes que reír... En fin.

    ¿Crees que una superinteligencia* no será capaz de resolver esos problemas? Por curiosidad.

    *por ejemplo, 100 veces más inteligente y 1000x veces más rápida.
    0 K 7
  97. rojo_separatista #97 rojo_separatista
    #7, la diferencia es sustancial, ni la contaminación, el cambio climático, el agotamiento de recursos naturales, puede acabar con la especie humana y además son amenazas que progresan de forma lineal. La IA sí puede y podría crecer de forma exponencial.

    Pensaba que después del Covid habríamos aprendido algo pero veo que no.
    1 K 20
  99. #99 --733097-- *
    #8 Jamendo, Magnatune. Empieza por Diablo Swing Orchestra, Revolution Void, Electronic Society Tunguska...
    #30, #53, #63
    0 K 8
  100. #100 --584621--
    #54 Salvo que alguien le programe eso y ella lo desarrolle.
    0 K 11
«12
comentarios cerrados

menéame