edición general
573 meneos
4628 clics
Envío erróneo o controvertido, por favor lee los comentarios.
Bill Gates insiste, la Inteligencia Artificial es una amenaza

Bill Gates insiste, la Inteligencia Artificial es una amenaza

El fundador de Microsoft, dijo que no entendía a la gente que no estaba preocupada por la posibilidad de que la Inteligencia Artifical (IA) pudiera crecer demasiado fuerte como para ser controlada por las personas. Su punto de vista fue respaldado por Musk y el profesor Stephen Hawking, que han advertido sobre la posibilidad de que la IA podría evolucionar hasta el punto que estaba más allá del control humano. Hawking dijo que sentía que las máquinas con IA podrían "significará el fin de la raza humana".

| etiquetas: bill , gates , inteligencia , artificial , ia , stephen , hawking , musk
Comentarios destacados:                                  
#10 #3 Igual esas preocupaciones le vienen a alguien que es capaz de analizar la realidad más allá del momento que está viviendo, y que tiene conocimientos suficientes para evaluar el desarrollo posible de la IA y sus vertientes.

Y quizás, solo quizás, ese señor lo tiene todo resuelto por que ha sido más inteligente que otros ;)
«123
  1. Y qué hacemos. ¿Una dictadura global?
  2. #1 Limitar la inteligencia artificial en determinadas áreas.
  3. Estas preocupaciones solo vienen de quienes lo tienen todo resuelto en la vida.
  4. #2 ¿Y eso como se come?
  5. #2 Si pero no sé cómo se puede llevar a la practica eso de limitar.
  6. La inteligencia es una amenaza.

    Los cuchillos también son una amenaza.

    Por más que nos pese, incluso @cocopino es una amenaza.
  7. #1 ¿Que qué hacemos? Pues lo de siempre, dar vueltas agitando los brazos y gritando:

    ¡¡¡Vamos a morir todos!!!
  8. ¡ El Frankenstein del S. XXI !
  9. Por eso hizo el sistema operativo más tonto del mundo
  10. #3 Igual esas preocupaciones le vienen a alguien que es capaz de analizar la realidad más allá del momento que está viviendo, y que tiene conocimientos suficientes para evaluar el desarrollo posible de la IA y sus vertientes.

    Y quizás, solo quizás, ese señor lo tiene todo resuelto por que ha sido más inteligente que otros ;)
  11. #10 Por favor, no mezcles inteligencia con enriquecerse.
  12. Esté tío está cada día más chocho!!
  13. #6 Sobre todo si te lo encuentras en la cola del Lidl. xD

    www.meneame.net/m/actualidad/c/16210342
  14. Todavía las IAs están muy verdes como para eso. Pero es muy simple
    1.- Se les hace vulnerables a algún malware
    2.- No se les deja programar IAs a los ejercitos
    Y listo, acabo de poner la solución par aun problema que no existe creado por un tío que llama sistema operativo a cualquier cosa (y no es que el hombre sea tonto, pero a cualquier cosa se le llama sistema operativo)
  15. #14 El cual, por cierto, no es "amenaza"... pero, se le acerca bastante.
  16. Podremoa hablar de IA cuando se cumplan estos requisitos: Autoconsciencia, autoproteccion,automantenimiento.
    Hasta entonces hablamos de condicionales complejos.
  17. #17 Ese umbral que describes se conoce como singularidad tecnológica. es.wikipedia.org/wiki/Singularidad_tecnológica
  18. Ha visto Matrix, y ya se ha dado cuenta :troll:
  19. Claro que para él es una amenaza... ningún sistema inteligente querrá correr sobre windows! xD
  20. Mucho más preocupante que el aumento de la Inteligencia Artificial me parece la evidente disminución de Inteligencia Natural
  21. #10 Eso se acerca peligrosamente a la falacia de autoridad, es decir, que un argumento tiene más peso que otro porque quien lo dice es rico, o importante, o inteligente o influyente.
  22. #23 No es eso, es simplemente que me crea más interes y lo veo más factible si me lo dice Bill Gates que si me lo dice mi frutero, que es majo, pero es frutero.
  23. #24 Pues eso es exáctamente la falacia de autoridad. Es el ejemplo perfecto,¿acaso si esto mismo lo dijera el frutero tendría menos razón?
  24. #25 No hablo de razón, hablo de credibilidad, que por ejemplo hace años un ingeniero de teleco me dice que acabaremos usando una pantalla sin teclado para comunicarnos me lo hubiera creido más que si me lo dice Paco el del kiosko de la ONCE y no hay más.

    Si tienes un posible problema de salud a desarrollar, seguro que te fias mas de lo que te diga un medico que tu cuñao escayolista.
  25. No se que sentido tiene hacer conjeturas sobre como será la IA Fuerte, puesto que nadie sabe todavía cual puede ser el salto cualitativo que se necesita para lograrla.
    Parece ser que a esa supuesta IA Fuerte se le atribuyen cualidades humanas como la de que acabará con el resto de la raza humana... ¿Pero porque habría de tener esa IA el "instinto de supervivencia" o el deseo de aniquilar a la raza humana? Los humanos estamos programados genéticamente (y socialmente/culturalmente en cierta medida) para reaccionar exterminando lo que pueda ser una peligro para nuestra supervivencia.
    ¿Es ello intrinseco a todo tipo de inteligencia? No lo se.
    Por otro lado, solo conocemos el caso de una inteligencia que se desarrolla/evoluciona en un ambiente, con su sistema programado (cerebro, genes) y la entrada de datos (nuestros sentidos) y actuadores con los que interactuar con el ambiente (cuerpo), para ir desarrollando la inteligencia.
    Por lo que veo sobre la IA, se está imitando a los seres humanos, con sensores como camaras que simulan nuestros ojos. Lo cual no me parece el ambiente natural (inicial) para que una maquina desarrolle una inteligencia genuina.
    Creo que si se ha de lograr una IA Fuerte, su ambiente natural habrá de ser virtual, y sus interacciones basarse en bits. Y creo que estamos bastante lejos de saber cómo hacerlo.
  26. más que windows?
  27. #27 Por otro lado, en el supuesto de que se consiga desarrollar una IA Fuerte (y con ello seamos, o sea el que lo consiga, básicamente Dios pues cumple la definición del término), creo que se planteara el asunto bajo otra perspectiva.
    De cara a la extinción (innegable) de la raza humana (algún día), quizá se vea a las máquinas o a esa IA Fuerte que pueda tener forma parecida al cuerpo humano, siendo una especie de cyborg (aunque quizá los humanos seamos bastante cyborgs en el futuro también) la que consiga salir de nuestro sistema solar y buscar otros lugares para sobrevivir.

    ¿Por qué cual es la misión? ¿Que sobreviva la raza humana o que sobreviva la vida inteligente?

    Y en el supuesto de que consigamos crear/programar una maquina/ser inteligente a nuestro antojo:
    ¿Volcaríais en ella una inteligencia que imita a la humana o la programaríais del mejor más inteligente posible? Quiero decir conociendo las taras de nuestra programación humana, sería más deseable eliminar los aspectos negativos y añadir lo que vayamos descubriendo sobre la inteligencia per se.
  28. #24 Aquí hay gente especializada en IA, y no veo que se les haga mucho caso cuando dicen lo evidente para cualquier experto: está en pañales y muy lejos de lo que se vende. Se pueden resolver problemas muy complejos con ella pero de inteligencia, nada de nada.
  29. #19 Y es una elucubración sin fundamento, que presupone un montón de cosas (como que la inteligencia es mágica y que aumenta a ritmo exponencial) porque a cuatro flipados les mola la ciencia ficción y el futurismo, pero de realista poco.
  30. La raza humana no tiene ninguna esperanza. Debemos hacer lo posible por crear máquinas inteligentes y pasarles el testigo antes de extinguirnos. "Debemos" en el mismo sentido en que "debemos" tener hijos y mantener la vida.
  31. #27 Porque todos los flipaos a los que les encantan estos temas de IAs rebeldes y singularidades tienen como única fuente de datos las novelas de "ciencia" ficción y sus pajas mentales. Por eso.
  32. Estamos hablando de un tipo que ha fallado todas sus predicciones
  33. #35 Mientras no haya demostraciones, todo es vaporware.
  34. Y por eso los videojuegos son cada vez mas faciles ?
  35. #1 Preguntaselo a Cortaba a ver que te dice. :-D
  36. Puede ser una amenaza o una bendición, la misma tecnología que puede crear un robot militar puede servir para crear un robot cirujano para operar en el tercer mundo. Estamos con lo de siempre. Ya estamos con lo de si es malo o es buena una tecnología.

    Existe un problema social producto del exceso de mano de obra pero al fin y al cabo eso es solo un problema de reparto de riqueza si la adopción de estas tecnologías va acompañada de incrementos de la productividad.
  37. #11 personalmente, opino que inteligencia y riqueza van muchas veces de la mano. Alguien inteligente va a ser capaz de hacerse más rico que alguien que no lo es. Ser inteligente implica también ver negocios donde otros no los ven.
  38. #17 Yo también lo veo así, pero además creo que una IA fácilmente podría llegar a deducir que el ser humano representa un peligro solo con entender las estadísticas de natalidad/mortalidad.
  39. #23 Así es por desgracia.
  40. #24 Y si te lo dice Richard Stallman?
  41. Que se encargue de ello Microsoft y tranquilos, que se autosuicidará o le darán pantallazos azules de la muerte.
  42. #7 Deberían enseñar en la escuela los métodos efectivos de resolución de problemas: correr en círculos, estirarse de los pelos, gritar y rezar. Saber cuando pueden combinarse, cuando no, cuando es más apropiado un método u otro, etc.
    Ay señor!!! llévame pronto!!!
  43. Lo de Bill gates puede ser mas o menos discutibles aunque como apuntan "againandagain" el que lo tiene todo resuelto puede dedicarse a pensar en cosas mas "profundas", pero también lo dice Elon Musk tio que no es para nada "chocho" (y al que personalmente admiro y envidio), yo creo que si este tipo de personalidades van diciendo esto y que si nosotros, pringaos de a pie que nunca nos enteramos de lo que pasa hasta que pasa, deberíamos prestar atención a estas voces. Mas que nada porque el pavo piensa que los seres humanos son maravillosos hasta el dia antes de navidad.
  44. Solo una palabra SKYNET. ;) Es lo que tiene la SCFI que en ocasiones se cumple.
  45. Cylons are coming...
  46. Seguro que gobernaría mejor que el PP.

    Elijo el calzador Rojo,gracias. :-P

    PD:Se le pone un interruptor a Skynet y problemas solucionado,que se pone tonto se le apaga y nosotros win. :-P
  47. #41 Creo que confundes ser listo o espabilado, coloquialmente hablado, con ser inteligente.
    Quizas alguien inteligente prefiere ser feliz, ayudar a los demás o tener un propósito en la vida en lugar de perder la vida tratando de ser rico.
  48. #6 Y todas las amenazas pueden provocar exactamente el mismo daño...
  49. #47 ¿Estás seguro de que no lo enseñan en la escuela?
  50. Preocupante  media
  51. #55 Me lo quitaste de la cabeza xD. Iba a decir que desde la última vez que clipo se les escapó y se cargó a varios ingenieros y tuvo que ser reducido... (por eso lo quitaron del word)
  52. Siempre podremos tirar del cable.
  53. No solo Bill gates eso se lleva diciendo decadas ... pero eso no es lo triste, lo triste es que sea la raza humana la que vista por una maquina seamos la tara del planeta y que encima no podamos despentir eso ..
  54. Pues hasta lo que yo sé de teoría de computabilidad. Es imposible matemáticamente de crear una IA con las características que ellos mencionan.
  55. #4 Yo entiendo que no permitiendo el acceso de las IA a estructuras sensibles (Armamento, p. ej.).
  56. #11 Vaya por delante que detesto su "obra" en el sector IT.

    Si este tío hoy está podrío de millones, es por haber sido el MAS listo. Ha sabido leer las tendencias, y durante su mecenazgo, M$ estuvo siempre en la cresta de la ola. Supo ver el negocio de las licencias, supo coger lo mejor de cada casa, hacerlo peor y más barato, envolverlo bien y endosarselo al cliente. A escala mundial. A gobiernos. Incluso a su competencia.

    Este tío, hoy se merece mi respeto, no por lo que hizo, sino por su punto de vista visionario. Ha estado a lomos de gigantes viendo y sabiendo más que muchos jefes de estado.

    Hace 10 años dijo que Linux era la mayor amenaza de M$, y así fué (Android, servidores, routers...)

    Si Bill ve en algo una amenaza, acojónate.
  57. #52 Una cosa no quita la otra. Bill Gates "solo" gastó unos años de vida en convertirse en el hombre más rico de la tierra. Luego decidió dejar su nombre en los libros de historia.
  58. #21 ... Y cuando el emperador Robo X-25 se dispuso a aniquilar a la raza humana enchufándose el USB para controlar el nuevo PlasmaTRON sus grandes ojos se volvieron azules de repente y quedó paralizado. El pequeño esclavo humano que había desarrollado el driver para el W666 sonrió maliciosamente...

    Algún día, Bill Gates nos salvará a todos.
  59. #52 No me digas lo que prefiero o dejo de preferir.
  60. #18 Eso es la definición de "ser vivo autoconsciente". Una IA no necesita estar viva, ni necesariamente poder automantenerse.
  61. #18 Se te olvida otra cosa: directrices.

    Hace 20 años que existe un sistema que no es autoconsciente, pero que está programado para cargarse todo bicho viviente si se da el peor caso. campodocs.com/articulos-utiles/article_110099.html

    Ese es el peor escenario. Que la IA, aun siendo precaria y un poco tonta, supere las capacidades humanas.
  62. #49 Pues a mi me da mas miedo una IA controlada por un demente. Imagina un ejercito de robots, soldados, drones y misiles guiados, todos ellos sin conciencia, ni remordimientos, controlados por una única persona con solo pulsar un botón. Eso sí que da miedo, la deshumanización de la guerra.
  63. #10 No estoy de acuerdo con los tres y fíjate quienes son. Si tienen razón que lo demuestren matemáticamente y lo publiquen.
  64. Siempre estuve convencido de que Terminator más que una película era una predicción hacia la que caminamos con paso firme.  media
  65. Yo pregunto una cosa, si mandas a tomar por culo las fuentez de energía eléctrica, qué.
  66. #61 el problema de la IA es que se esta empleando mal, de echo hoy en día mas de la mitad del trafico se la come ellas los BOT, y cada vez es mas difícil diferenciar entre un humano a un bot y suelen atacar masivamente a sitios web para dar de alta perfiles y actuar como señuelos de engaños, aveces hay gente que los utiliza para parecer que tiene muchos seguidores y colar mejor el engaño como algunos Partidos PoliticoS en las redes sOcialEs cuales no señalare (no directamente) que las usan para parecer tener muchos seguidores.....

    también en la Banca se emplea para cruzar datos y hacer operaciones de compra a alta velocidad, incluso se maquinan pequeñas crisis para obtener fácilmente el control de una empresa, en la actualidad esto se le llama "trading" o banca de alta frecuencia (de forma electrónica), esta "prohibida" por ética pero no por ley pero todo el mundo los usa, no es mas añadir reglas del juego para que la maquina las use y aprenda y gane dinero con ella.. hace unos años hubo un grave problema y casi hace desaparecer P&G tuvieron que paralizar la bolsa, antes que terminase con cientos de miles de personas en la calle despedidas de una las empresas con mas venta mundial.

    el problema es que si quieres jugar al juego debes de tener muchos juguetes para trabajar por ti y estar a la misma altura y lo peor que estamos en sus manos
  67. Amenaza para ellos?.
    Porque los pobres ya no tenemos mucho que perder.
  68. #38 Ahora rasca un poco bajo la publicidad, y verás lo que son realmente esos algoritmos.
    Espero que los de google tengan suerte con lo del sentido común. La van a necesitar.
  69. Han pasado miles de millones de años de evolución para que la vida haya llegado a nuestro nivel de inteligencia. No empecemos a chuparnos las pollas todavía creyéndonos dioses que en cuatro días seremos capaces de replicar algo tan sumamente complicado como un cerebro humano, más aún cuando todavía no somos capaces de entender el de una rata.

    Pasar pasará, pero algo me dice que de momento nuestras generaciones no tienen nada que temer.
  70. #11 Bueno, alguien rico puede pagar para que le rodee gente inteligente.

    Estos últimos años he leído 3 o 4 cosas muy interesantes escritas por Gates de diferentes temas, sobre todo de temas de filantropia, y me ha parecido que era imposible que una persona controle tanto de temas tan diferentes sin tener unos buenos asesores. Y al él le sobra dinero, literalmente, para tener, literalmente, los mejores asesores.
  71. Desde mi punto de vista, las botnet son los vectores de creación de IA en potencia. Eso mete mucho miedo en el cuerpo. Si algún grupo criminal (que son los que desarrollan las botnet más sofisticadas) dan con la tecla de crear un sistema cada vez más inteligente, con un buen algoritmo de aprendizaje, estamos jodidos. Capacidad de proceso hay más que de sobra con el hardware actual, de hecho, hay más potencia en un i-trasto que en todos los artefactos que ha puesto en órbita la NASA.

    Y ahora viene el susto: ¿Quien tiene la mayor red de ordenadores del mundo a su disposición? Bingo, la gran G.
  72. #71 Si nosotros somos capaces de generarla, y se está hablando de que nos superen en inteligencia, ¿qué te hace pensar que ellos no la generarían?
  73. #78 A buen entendedor...
  74. Desde luego una IA con Windows sería el fin de la humanidad... o no, porque tendría un fallo a los dos minutos...
  75. #17 Yo pienso que sera una lucha en la que las maquinas llegaran a ser cada vez mas organicas y los humanos cada vez mas bionicos. En el cruce de esos dos caminos se produciria una hibrido entre los dos. Eso seria la logica "evolutiva humana"; en el otro filo de la cuestion y por causas seguramente humanas de errores de programacion "eticos", seria la maquina la dominante y el ser humano el conejillo de indias...( Por su propia codicia ).
  76. #32 No sé hasta que punto las máquinas tendrían ventaja a los humanos. Nosotros también evolucionaremos, y de hecho nuestra inteligencia también lo ha hecho a un ritmo exponencial increíble (hace unos miles de años apenas sabíamos hablar).

    La inteligencia artificial actual puede hacer cosas increíbles, pero cosas tan complejas como la creatividad están aún a años luz. No conocemos el algoritmo por el cuál los seres vivos evolucionan, no tenemos ni una vaga idea de como funciona, con lo cuál se me hace imposible pensar que los humanos seamos capaces de implementarlo en una máquina.
  77. #15 ¿Crees que eres capaz de hacer una IA que sea funcional y tenga más vulnerabilidades que el ser humano?

    Buena suerte con ello.
  78. #81 No, no es acojonante. Es ingenioso. De hecho seguro que se puede aplicar a multitud de dominios. Pero claro, tuneando el algoritmo y adaptándolo a cada problema en particular. Al final la inteligencia está en el que programa.

    Lo mismo con el sistema que aprendía a jugar videojuegos. Claro que la parte en la que tenían que reentrenar al algoritmo y darle un criterio de feedback diferente no la mencionaban mucho cuando lo expusieron públicamente. Y si le ponemos un juego con un objetivo más abstracto y a largo plazo se jodió el invento.

    A base de ensayo y error y dado el tiempo y la potencia bruta suficiente puedes hacer que un sistema de aprendizaje haga casi lo que sea. El avance sería que no hiciese falta la fuerza bruta, ni el entrenamiento, ni que nadie programase los criterios para que el algoritmo supiese si está yendo por el buen camino o no. Una persona aprende mucho más rápido y con una potencia disponible y datos mucho más pequeños.

    Sigue sin haber un asomo de inteligencia "hard" en nada de esto, por mucho mérito que tenga.
  79. #6 Los cuchillos no tienen la posible conciencia de que la raza humana es un enemigo y la posible capacidad de destruirlo.
  80. #39 ¿no será Cortana?
  81. Este tio la cago con lo de los 640kb y ahora lo quiero arreglar haciendose el visionario... Ains...
  82. #52 pues precisamente Bill Gates tiene entre sus inquietudes acabar con ciertas enfermedades el hambre etc. Esta implicado en varios programas.
  83. #77 .... Grecia? Quién?
  84. #89 Pues me parece genial, pero no dejan de ser aplicaciones más complejas de lo que ya se sabe hace décadas. Por muchas apelaciones a la autoridad que se hagan.
    Redes neuronales, Modelos de Markov, genéticos... pero al final es lo mismo: entrenamiento a base de ensayo error, bases de datos gigantes y programas que no tienen ni idea de lo que hacen ya que les cambias el dominio del problema y ni siquiera tiene sentido intentar ejecutarlos.

    El equivalente inteligente del programa de juegos sería uno en el que le dieses una cámara, un mando (o interfaz equivalente) y él aprendiese a jugar a base de probar e interpretar lo que ve en pantalla, si modificaciones ni entrenamiento previo. Mientras tanto son algoritmos de decisión muy complejos, pero algoritmos.
  85. #79 Que la mayoría de la gente más inteligente no es precisamente adaptable, ni tiene por qué tener conocimientos de lo que más le conviene.

    Todos somos inteligentes (en mayor o menor grado), eso no quiere decir que todos sepamos montar una central eléctrica, ni organizarse para ello.
  86. Lo que es realmente una amenaza es la estupidez.
  87. #4 sobre #2: Esto ya lo han planteado los escritores de ciencia ficción el ciento y la madre de veces. Un ejemplo: en El hombre bicentenario, un robot se sale de madre (toma conciencia de sí mismo, aunque no da problemas porque es una inteligencia artificial programada para "querer" a los seres humanos). Aun así, se asustan, y a partir de entonces NUNCA vuelven a vender un robot con capacidad de automantenimiento: venden el cuerpo por un lado y tienen la mente separada en otro sitio, con los botones de apagados a cargo de humanos.

    Es tan simple como tener tú el botón que le corta la alimentación.

    Luego ya se están planteando la programación de "Human friendly artificial intelligence". Que bien llevada puede dar grandes resultados. De nuevo, la mayor y mejor especulación al respecto es de Asimov, en su relato corto "The Last Question". Ese relato es el principal responsable de que me decantara por el agnosticismo y no por el ateísmo.
  88. #97 Si esa inteligencia de la que se habla no es colectiva y capaz de auto-organizarse para generar electricidad apaga y vámonos, no tienen nada que hacer.
«123
comentarios cerrados

menéame