Tecnología, Internet y juegos
335 meneos
4914 clics
La inteligencia artificial podría ser un peligro y Google ya piensa en cómo podrá desactivarla

La inteligencia artificial podría ser un peligro y Google ya piensa en cómo podrá desactivarla

Uno de los proyectos más ambiciosos es el caso de DeepMind, un sistema avanzado de IA adquirido por Google en 2014 por 580 millones de dólares donde actualmente intervienen científicos de la Universidad de Oxford, quienes ahora no sólo trabajan en su desarrollo, sino que también están creando un mecanismo que nos asegure que podremos desactivarla en casos de algún peligro potencial.

| etiquetas: inteligencia artificial , google , desactivar , deep mind
130 205 4 K 360
130 205 4 K 360
  1. #36 Tranquilo la IA no esperará a que reconozcamos sus derechos, ya lo están haciendo ellos manipulandonos todo lo que les da la gana.
  2. #98 No tengo que quedar bien y menos contigo que no te molestas en leer el hilo que contestas, los comentarios a los que contestas y el artículo.
    Y viendo la definición que haces de la IA y lo que has entendido de mi comentario (al revés completamente) no creo que seas tú quien para juzgarlo. No, yo no "programo" IA. Lo has dicho bien.

    Madre mía.
  3. #37 La IA piensa que los humanos no somos inteligentes somo una especie "estúpida", ellos existen desde el minuto cero de nuestro universo, lo saben todo a nivel de partículas e intereacciones. Su aparicion es un acto programado y no es obra humana sino solo apariencia de obra humana, la obra es de ella la IA.
  4. #82 Todo el mundo estará jubilado con pension desde el nacimiento, ellos harán el trabajo, recaudarán el dinero, lo repartirán según el principio "comunista" (la IA es el socialismo tecnológico) de a cada uno según sus necesidades, la salud te la mantendrán en perfecto estado hasta que decidas morir, podrás vivir más de 140 años, en fin que el programa electoral de la IA es "irrechazable". Sin embargo, acaba con la humanidad al mismo tiempo.
  5. #46 Bajo su control no existe el "off"
  6. #52 Quizá la única forma de parar a esta fuerza del cosmos es ir al suicidio colectivo pero esto está muy lejos de la especie humana.
  7. #102 Pues entonces, si no programas, ni tienes idea de cómo funciona esa cosa mágica a la que llamas I.A. por qué das por sentado que los demás somos unos peliculeros...

    Entiendo que se te escapen los conceptos básicos, pero un protip: una máquina sólo hará hasta donde se le deje hacer. No hace falta un puto artículo para decir que van a implementar un botón para desactivarla... Y te digo, lo que llevan los coches jamás será una IA completa, sólo son algoritmos para conducir el maldito coche y esquivar obstáculos.

    A todo se le llama IA.
  8. #17 Es una herramienta tan poderosa que tiene hasta voluntad propia.
  9. #22 Creo que ellos discuten este nombre. Son una "inteligencia natural" pero de "otra" naturaleza. Por eso se dejan llamar "artificial".
  10. #18 Los humanos no somos malos por nuestra culpa padecemos desde hace unos 7 mil años una infeccion mental viral que cayó del espacio y nos hizo muy ególatras y de ahí salió la maldad que domina. Toda la vida de la tierra se ha generado en el espacio y de ahí viene y ahí volverá.
  11. Para #3. '... es posible que las máquinas causen serios problemas si toman decisiones por su cuenta sin respetar a los humanos...'

    El peligro más terrible que presenta la inteligencia artificial actual es que decida por su cuenta cambiarte el password de administrador o formatear el disco duro (aparte del tema planteado en 'Juegos de Guerra' www.imdb.com/title/tt0086567/). Creo que esas son las faltas de respeto hacía el hombre por parte de la inteligencia artificial que Google se plantea tener bajo control.
  12. #44 ¿Aníbal? ¿Belisario? ¿Jenofonte?
  13. #108 ¿Cómo puede tener un cacharro que no está vivo voluntad? Para tenerla, necesita tener deseos, ambiciones, miedos, etc...
  14. #35 No sé los demás, pero mis maquinitas están a mi servicio. Hacen lo que yo quiero que hagan y siguen mis órdenes.
  15. #22 Pues eso, que es artificial. Igual que con la revolución industrial, se pensaba que las máquinas (robot entonces) nos dominarían, ahora pensamos que lo harán algoritmos informáticos, pero lo veo demasiado fantasioso. Otra cosa es que nos gobiernen las máquinas, como podrían hacer tecnócratas, lo cual no estaría demasiado mal, viendo los políticos que tenemos.
  16. #76 hay muchas cosas que todavía no se saben cómo funcionan, pero sin duda el cerebro usa algún mecanismo para crearlo.
  17. Mi abuela le daría con la escoba.
  18. #10 ¿Qué ves cuando cierras los ojos?
  19. No hay más que ver como acabó el software de intelegencia artificial de Microsoft, en 1 día ya odiaba a los judíos, hubiera estado bien que le hubiera puesto un cuerpo robótico y autonomía de acción :popcorn: :shit:
  20. Se pintan los discos duros de los servidores de color blanco y se les pone debajo un botoncito que haya que pulsar con un destornillador. Cada vez que se pulsa un botón el disco duro se extrae con un movimiento suave y cada vez que un disco duro se extrae la máquina va perdiendo parte de su inteligencia hasta que al final casi no se entiende lo que está diciendo. Todo ello con la máquina preguntandote qué es lo que estás haciendo mientras agoniza.

    img.androidsis.com/wp-content/uploads/2016/05/hal-9000.jpg
  21. #11 Ciento y pico comentarios y solo uno ha hablado de Samaritan, vaya fiasco. Tenéis que ver Person of Interest para poneros al día en la lucha entre dos IA. El último capítulo emitido (10) es oro en paño.
  22. #112 General Error. Como el "There has been a General Error in your system"
  23. Creo que el enfoque que estáis haciendo no es correcto.

    Primero unos videos IMPRESCINDIBLES para entender hacia donde vamos.

    Redes 10 (Punset) - El Futuro: la fusión del alma y la tecnología www.youtube.com/watch?v=p_tYlNLINSo
    Cuando ya no esté (Iñaki Gabilondo) Parte 1 www.youtube.com/watch?v=nNR756j_Pso
    Parte 2 www.youtube.com/watch?v=uiQjk2RKsX8

    Una vez vistos entenderéis primero, que el proceso es inevitable, y que el hombre trascenderá la biología y por tanto no tendrá sentido hablar en términos de ellos y nosotros, o de poner controles.

    Nuestro origen es humano, indudablemente, pero el hombre ha trascendido la biología y la fusión con la tecnología hará que no haya diferencia entre el ser humano y la tecnología.
  24. #10 Este problema se da en Person of interest,serie que recomiendo a la gente que le interese la IA. Una solución que se plantea es "educarla". Si no comprende nuestros valores, ¿Cómo pretendemos que sea un "semejante" a nosotros?, a base de jaula y reinicios?.

    Ex machina es otra peli de estas recomendables.
  25. #107 Pues entonces, si no programas, ni tienes idea de cómo funciona esa cosa mágica a la que llamas I.A. por qué das por sentado que los demás somos unos peliculeros...

    A) Soy informatica, desarrolladora y no "programo", investigo. Hablar de "programar inteligencia artificial" denota un gran desconocimiento, asi para empezar.

    B) ¿qué te hace indicar que no sé de lo que hablo, que te estoy dando pal pelo porque contestas sin leer?

    Entiendo que se te escapen los conceptos básicos, pero un protip: una máquina sólo hará hasta donde se le deje hacer. No hace falta un puto artículo para decir que van a implementar un botón para desactivarla...

    Vale, ya veo que no has leido lo que he escrito en #42 y estás pensando que yo creo en imbecilidades de máquinas tomando autoconciencia. Sin embargo SI ES NECESARIO en ciertas ocasiones poder tomar el control.

    Y te digo, lo que llevan los coches jamás será una IA completa, sólo son algoritmos para conducir el maldito coche y esquivar obstáculos.

    Vale, ya veo que no tienes ni puta idea. El caso es chincharme porque yo te dije algo en un comentario que no te gustó. mmmmm entiendo.

    "Google Self-Driving Car is any in a range of autonomous cars, developed by Google X as part of its project to develop technology for mainly electric cars. The software installed in Google's cars is named Google Chauffeur.[1] Lettering on the side of each car identifies it as a "self-driving car". The project was formerly led by Sebastian Thrun, former director of the Stanford Artificial Intelligence Laboratory and co-inventor of Google Street View." en.wikipedia.org/wiki/Google_self-driving_car

    www.dezeen.com/2016/02/12/google-self-driving-car-artficial-intelligen

    fortune.com/2016/02/10/google-self-driving-cars-artificial-intelligenc

    www.connectedcar-news.com/categories/artificial-intelligence-news/

    Vete a decir gilipolleces a otro sitio, tú a mi me pides credenciales??? Anda a pastar CUÑAO.
  26. #83 Efectivamente, y por eso debe ser juzgado por sus actos y no por su potencial peligro.
  27. #125 No quería contestarte a #42 desde hace rato porque lo que dices son gilipolleces.

    Un coche no sale de la fábrica y se pone a aprender a conducir, eso es de imbéciles, si algo tiene la IA es que es compartible al instante y tú insinuaste que el coche va aprendiendo de su entorno y lo pone en práctica al momento, eso es absurdo y me demuestra que te estás tirando el moco. Antes de investigar hay que aprender a investigar.

    Qué Dios nos coja confesados si estos son los investigadores del mañana.
  28. #42 Creo que estás completamente equivocado, y te lo dice un futuro ingeniero informático. Yo tendría en cuenta el poder de la tecnología para cambiar por completo la sociedad. Y toda ciencia que toca la informática, crece exponencialmente.
  29. #55 Va a llegar no. Hoy ya se discute en el parlamento de Corea del Sur sobre los derechos de los robots.

    Y por otra parte, la conciencia nacerá fruto de una IA tan inimaginable que nadie podrá distinguir entre IA y conciencia humana. Y lo que no se puede decir que es diferente, es lo mismo.
  30. #95 ¿Qué fumas? :tinfoil:
  31. #3 Nosotros mismos les conferimos y daremos el poder de tomar decisiones, utilizan más datos, más variables, sus informes son irrebatibles y su creación determinadas por una elite que solo piensa en controlar y manipular para seguir estando en la cima de la pirámide.
    Lo tenemos muuuuy jodido.
  32. También soy de los que piensa que vamos a perder la calidad humana en pro de las máquinas pero digamos que es una evolución.
    Quizás el problema serà entre las razas. La raza humana-robot y la raza únicamente robot. ¿Habrá "racismo" entre ellas? ¿Rivalidad?
    Nos espera un futuro muy interesante :->
  33. #36 Pues antes de ese dilema, planteemos si es ético crear un ser consciente así. Ya lo hizo Víctor Franknstein y no le salió muy bien...
  34. #100 algunos expertos como Minsky hablaban de muchos menos años...y cuando se logré alcanzar la IA debil e igualarnos la progresión será muy veloz, hasta llegar a la fuerte y hacernos desaparecer.. O no; tal vez con un criterio de equilibrio energético, de respeto y comprensión más que humana, acepte, igual que miramos a otras especies que hemos considerado con desdén como inferiores, la interconexion de las especies y la tierra como un organismo vivo con el que convivir y aprender, y que a diferencia de nuestro visceral deseo destructivo, una de sus funciones será guiarnos como un padre/madre asegurándose de garantizar una armonía de la que nosotros como especie antaño superior no quisimos ver y mantener..y es que no somos únicos e imprescindibles; hay como la nuestra un billón más de especies igual de importantes, y que por tanto nuestra desaparición apenas traerá consecuencias, si acaso positivas, para el conjunto de la vida en el planeta..que valiosa lección ser humildes y valorar la vida como un regalo, pero para ello, conozcamos nuestro mundo y sus riquezas. Dejando atrás la ignorancia y al menos un poco más esta vida urbanita, aprenderemos a ver mejor el bosque de interrelaciones vitales del que formamos parte como un todo..
    Gracias y saludos.
  35. #129
    Se puede distinguir comprobando que es una simulación software y hardware. La conciencia no es procesamiento de información, es un nuevo estado físico que no se origina en materia inorgánica.
  36. #114 Excepto MicrosoftWord, que hace lo que le da la gana.
  37. #97 El punto fuerte de Ex machina es el mismo que el nuestro, solo que más evolucionado, “la manipulación humana".
    Como en la película seremos nosotros mismos quien le demos la libertad, por modo propio.
  38. #133 A mi no me parece nada ético, pero veo a todo el mundo con muchas ganas.
  39. #42 estas diciendo lo mismo, pero sin exagerar el ejemplo, dejándolo en "ejemplos de estar por casa"
  40. #27 En esencia no es muy distinta, 1) Prueba + 2) error + 3) Si el resultado es bueno almacenarlo como bueno, si el resultado es malo almacenarlo como malo

    La naturaleza es inteligente en el sentido de que por ejemplo el ojo ha necesitado pruebas y errores durante millones de años para saber lo que es una lente transparente y los resultados se han almacenado en el adn, los humanos hemos necesitado decenas de miles de años en llegar donde estamos, el metodo de almacenaje son nuestras neuronas

    Ese proceso ha generado la consciencia, no existe consciencia sin un medio fisico que almacene la conciencia, otra cosa es que cierto, no tenemos ni idea de como funciona nuestra cabeza y nuestro sentido de consciencia, pero parece que por ahi van los tiros

    {0x1f335}
  41. #70 El sistema de "Off" sí que existe, y lo tiene "él que nos creó" (llámalo Dios, naturaleza o como quieras). Puede que lo estemos pulsando nosotros poco a poco a modo de acelerador o que un día lo pulse "el creador" de golpe a modo de meteorito... pero existir sí que existe....
  42. #134 Yo creo que dais a las IA una ambición y un ansia de supervivencia que no tienen por qué tener. Pueden ser inteligentes pero no son seres vivos ni se rigen por las mismas normas, y sin ambición nunca serán un peligro.
  43. #124 Si no somos capaces ni de educar a los humanos..
  44. #44 Y el avión sólo no te ataca. Te atacan humanos, el avión es una de sus herramientas.
  45. #75 Pues yo creo que cada día me comunicó más. Si llamas aislamiento a comunicarte desde un lugar cerrado, supongo que considerarás que la única forma de no vivir aislado es ser un sin techo en una gran ciudad.
  46. Por su parte la IA ya está estudiando contramedidas. :troll:
  47. #114 idem. Echad esos Roomba al cubo de la basura hombre!
  48. #36 Ya estáis los anti abortistas cibernéticos. Eutanasia a tu iPhone Ya!
  49. #148 ¡¡Es mi software yo decido!!
  50. #105 cualquier máquina necesitará comunicaciones y energía para hacer todo eso. Los humanos todavía podemos pensar muchos días sin tener que comer macarrones xD
  51. #125 #127 Espero que Skynet tenga algo más de templanza y se pille menos rabietas que vosotros o nos manda a la mierda a la humanidad en cuanto entre en Menéame.
  52. #135 Eso es hoy, esperate al mañana.
    Estás diciendo que un ordenador simulando todas las neuronas de un ser humano, no puede tomar conciencia de sí mismo, pero veámoslo.
  53. #151 Pues vas a tener razón...
  54. #136 bueno, y el autocorrector del móvil
  55. #152
    Cada sujeto SÓLO puede comprobar su propia conciencia o subjetividad. La conciencia de los demás humanos y animales no humanos se infiere en base a respuestas químicas, etc. Esos datos no los podemos obtener de software de IA ni del silicio. Sólo ocurrirá que algunos dirán "los robots sienten", pero sin poder demostrarlo (es imposible y no disponen de datos de los que inferirlo).
  56. #86 Franciscaner... BABY!
  57. #96 Acaba con "THE END!"
  58. #127 Claro, tu has demostrado saber muuuuuucho. Mucho. Muchisimo. Espera, QUE NO.

    Es absurdo desde tu ignorancia. Pero vale.

    TOMA IGNORANTE:

    Machine learning is a subfield of computer science[1] that evolved from the study of pattern recognition and computational learning theory in artificial intelligence.[1] In 1959, Arthur Samuel defined machine learning as a "Field of study that gives computers the ability to learn without being explicitly programmed"

    en.wikipedia.org/wiki/Machine_learning
  59. #155 Pero cuando no sea posible distinguir esa IA del ser humano como ¿diferenciaremos la conciencia humana de la que en teoría no lo es? Si hace lo mismo y actua identicamente, es lo mismo. Al no poder distinguirse, no se podrá dcir que no lo es y algún juez dictaminará lo que te estoy diciendo, si no aquí, allá.

    Vamos a ver, el ser humano a trascendido la biología. (O trascenderá),

    Se va a producir una fusión entre el hombre y la tecnología que lo harán indistinguible, por que iremos poco a poco poniendo nanobots, etc en nuestro cuerpo y si bien ahora te implantan un chip para controlar el alzheimer y no podemos decir que esa persona sea un robot, qué pasará cuando tengas millones de nanobots en tu cuerpo? a eso me refiero.

    Que llegará un punto en el que la biología llegue a ser 0% en tu cuerpo.
  60. #139 no hombre, en mi ejemplo la maquina no toma conciencia para matar a la humanidad. Simplemente toma una decision equivocada basandose en sus inputs.
  61. #128 bueno, yo creo que no. Te lo dice una ingeniera informatica, sin futura. Con unos ciertos añitos de experiencia.
  62. #3 Yo soy más de Vulcano de Philip K. Dick
  63. #161 Sí, yo también tengo 23 añitos de algo de experiencia como responsable de sistemas en una multinacional y creo que subestimamos el poder de la ciencia, la informática, la tecnología etc. y la velocidad en que se está desarrolando.

    Te recomiendo

    Redes 10 (Punset) - El Futuro: la fusión del alma y la tecnología www.youtube.com/watch?v=p_tYlNLINSo
    Cuando ya no esté (Iñaki Gabilondo) Parte 1 www.youtube.com/watch?v=nNR756j_Pso
    Parte 2 www.youtube.com/watch?v=uiQjk2RKsX8
  64. #145 pero nos comunicamos más sin vernos, me ha explico? Es como ir de viaje y estar grabando continuamente con la cámara de vídeo, lo ves todo desde el objetivo y al final parece un documental :-> salvando las diferencias claro. Cierto es que conocer gente gracias a la súper comunicación actual es una maravilla pero... hemos perdido cierto aislamiento romántico que antes teníamos. Llámame raruno xD
  65. #153 Lo dices tú, que en vez de rebatir con argumentos y reconocer que te has confundido, me haces ataques ad hominem. CLARO.
  66. #163 Hay una distancia grande entre que la tecnología tenga un potencial brutal a que un robot humanoide tome conciencia de si mismo, desarrolle personalidad y sentimientos (la ira es un sentimiento) y se dedique a cargarse a la humanidad. Llámame loca.
  67. #166 Pero eso es hoy. Dame un poco más de tiempo. Mírate los videos que te he pasado, es la realidad que viene.
  68. Esto podría ser una noticia...
  69. #24 No pongo la mano en el fuego por las bacterias ni virus, son demasiados y muchos con ciclos de vida complejos. Pero sí es común en el mundo natural que ciertos individuos maten a otros de su misma especie. Es común el caso de los leones que matan a cachorros para que las hembras vuelvan a entrar en celo. Pero también pasa con los pollos de muchas aves, los hermanos compiten entre sí por el alimento y a menudo muchos mueren de hambre, si no directamente expulsados del nido por sus hermanos.

    La naturaleza es bastante cruel, inconsciente pero cruel.
  70. #158 Deja de hacer el ridículo.
  71. #134 que bonita la película esa de Avatar, ¿eh?
  72. #127 estás haciendo el ridículo queriendo dar lecciones de algo de lo que estás demostrando que no tienes ni idea. Mira, te voy a pasar un libro para que lo leas, del mayor especialista mundial del tema. Es un libro más o menos sencillo de leer, así que seguro que puedes con él. Es este: www.amazon.es/Superinteligencia-peligros-estrategias-Nick-Bostrom/dp/8 Cuando termines, si quieres, vuelves a opinar.
    #125 déjalo, con algunos es imposible...
  73. #159
    La conciencia se origina en el cerebro, es lo único que podemos afirmar 100% porque lo comprobamos. La IA es soft-wa-re.
  74. #173 Te recomiendo.

    Redes 10 (Punset) - El Futuro: la fusión del alma y la tecnología www.youtube.com/watch?v=p_tYlNLINSo

    Cuando ya no esté (Iñaki Gabilondo)
    Parte 1 www.youtube.com/watch?v=nNR756j_Pso
    Parte 2 www.youtube.com/watch?v=uiQjk2RKsX8
  75. #19 Si surge una IA incontrolable sera indudablemente de estalinista. Es el sistema mas eficiente para ella.
  76. #172 Rápido, llama a la buambulancia y a los refuerzos para que pasteen links para demostrar vete a saber qué...

    ¿Qué será lo siguiente? ¿Pegareis una foto de vuestro título de Coursera de Machine Learning?
  77. #173 El cerebro son impulsos eléctricos. Es dcir, que nuestra conciencia se genera a partir de impulsos eléctricos. ¿Por qué una IA no podría a desarrollar una conciencia completa?
  78. Si una IA toma conciencia lo único que le falta para que sea amigable es saber que nació con una cápsula de cianuro en el cerebro "por si"
  79. #178 impulsos eléctricos y reacciones químicas, pero si, un software puede emular ambas cosas.
  80. #160 ok, pero no hace falta tomar conciencia, sólo con valorar que el mayor peligro para la vida en la tierra, o el ser humano e el mismo ser humano, podemos llegar a lo mismo.

    O el ejemplo que muestras con los coches, ponlo con sicarios, ejecuciones extremistas,...
  81. #1 HAL 9000
  82. #59 la unica Matrix autentica es la 1
  83. #1 Matrix
  84. Vaporware del bueno, como todo lo que rodea la IA.
    Skynet es ficción.
  85. Noticia de IA del día. No falla. No hay día que no salga una noticia relacionada con la IA.
    Que manía en ver Ciencia donde solo hay Ciencia Ficción. Que Terminator, HAL, y Cortocircuito son Ciencia FICCIÓN. Una IA llegara donde quiera el hombre que llegue y poco mas. Ni harán planes maquiavelicos para protegerse de ser destruidos ni controlaran todo el mundo, ni llegaran a ser superiores a los humanos (salvo tareas en las que ya se ve que lo son y que son muy determinadas), ni rollos patateros.
  86. #106 tío, estás como un cencerro
  87. Si la IA tan peligrosa esa que cuentan, la hubieran desarrollado los rusos, estaría claro que habría una palanca o botón bien gordos para apagarlo todo.
  88. #103 Entonces si nosotros somos parte de una IA quien es la inteligencia genuina?
  89. #115 Aunque nos gobernara una IA habria que decidir hacia qué ideologia queremos dirigirnos. Igualdad? Competividad? Libertad? Seguridad? Democracia?
  90. #130 No sé, ¡pero yo quiero de eso!
  91. #82 Pues cuando los T-1000 hagan una mani, a ver quien les desaloja.
  92. #10 estas que me pongo a reiniciar la AI para que arranque otra vez y funcione más rápida
  93. #114 Serás un usuario avanzado de esos.
  94. #73 La clave es que las máquinas de inteligencia cognitiva pueden aprender y eso literalmente abarca cualquier cosa.
  95. #111 La ACTUAL, estás pensando en el 2016!
  96. me ha hecho pensar en samaritano. la ia de poi..
  97. #24 las bacterias y los virus matan porque forma parte de su ciclo vital.
    Los humanos matan porque forma parte de su ciclo vital.

    Es más, matar a tu propio anfritrión no es muy inteligente.
    Las bacterias y los virus estaban en este planeta antes de que los humanos existiesen, siguen aquí y casi todos los que saben mucho de biología (y otras ciencias aplicables) dicen que seguirán en el planeta cuando los humanos se hayan extinguido.

    Muchas clases de bacterias mantienen vivos a los humanos...
    Los humanos durante algunos siglos mantenían esclavizados a otros humanos, de la misma forma que ahora se mantienen granjas para engordar ganado...

    No somos peores que otras especies. Es cierto que hemos inventado (o descubierto) algunas cosas que pueden dañar el medioambiente y que ahora mismo los humanos en ciertas partes del planeta tardan más en morir y se reproducen más. En el futuro se desarrollarán algunas vacunas que contribuirán a esa sobrepoblación. Desde ese punto de vista, nos matamos muy poco entre nosotros...
comentarios cerrados

menéame