edición general
320 meneos
1567 clics
El presidente de MS: pide frenar a los robots asesinos con una nueva Convención de Ginebra

El presidente de MS: pide frenar a los robots asesinos con una nueva Convención de Ginebra

Durante una reciente entrevista para el Daily Telegraph, el mismísimo presidente de Microsoft, Brad Smith, afirmó que, a día de hoy, los robots asesinos son "imparables", porque las grandes potencias militares (EE.UU., China, Rusia, Reino Unido, Israel, Corea del Sur, etc) ya han iniciado una nueva carrera armamentística en el campo de las armas dotadas de IA. Smith juzga necesaria una nueva Convención de Ginebra adaptada al actual mundo tecnológico, que nos dote de "normas que protejan tanto a civiles como a soldados".

| etiquetas: robots asesinos , presidente microsoft , frenar , nueva convención ginebr
«12
  1. No se han prohibido las armas nucleares y se va a prohibir eso.
  2. #5 Real? Y como lo pagan y transportan ?. Si no han podido detonar una bomba nuclear o hacerse con un helicóptero de combate no van a poder tener un robot militar.
  3. #19 Cuantas cabezas nucleares has visto que se roben y acaben en manos de grupos de descerebrados (no en las pelis, en la realidad)

    Y un arma nuclear se me antoja varios ordenes de magnitud mas sencilla que un robot asesino (y bastante mas efectiva puestos a liarla)

    PD: Un saludo a la unidad de delitos telematicos de la guardia civil
  4. #24 Esa gente estaría viva si tuviera su propio robot de combate :troll:
  5. #22 Subestimas enormemente la complejidad de un bicho autónomo con servos de precision que tenga que operar en exteriores en condiciones adversas y blindado.

    Ya simplemtnete la energia para mover el cacharro de manera autonoma supone un reto ingenieril bastante gordo y los ejemplos que pones no son mas que torretas motorizadas (y me temo que de autonomia muy limitada) controladas por un chacho, algo a kilometros de distancia de lo que planteas
  6. #2 Imagínate que un día, entra una furgoneta de un grupo terrorista en Barcelona o Madrid, y junto a plaça cataluña, o en la puerta del sol de Madrid, suelta un robot armado hasta los dientes, acorazado, con capacidad de viajar a mas de 100km/hora, tiro que dispara, tiro que acierta, y programado para matar a todo ser vivo. Podría matar a miles de personas antes de poder pararlo. Esto ahora es ciencia ficción, pero en pocos años podría ser real. A mi, me da miedo.
  7. #10 Por eso mismo necesitamos robots que nos protejan :troll:
  8. #22 El término "pequeña IA" es poco adecuado... por ahora no tenemos ni una "micro" IA.

    Como comentan en #25, desde el punto de vista de ingeniería sería una pesadilla... y sinceramente, los ingenieros con capacidad para desarrollar eso no están en una cueva talibana ni en un garaje abandonado de Bruselas. Aparte, un trasto como el que se comenta es un futurible incluso para las grandes ingenierías armamentísticas.

    Además... ¿difícil hacer una bomba atómica?... es bastante sencillo (en comparación); lo complicado en conseguir el material fisible, moverlo (ese material pita en cuanto lo muevas) y manipularlo sin tostarte. Pero fabricar una bomba sucia es muy sencillo (explosivo y material radiactivo) de fabricar y de manipular, y su potencial mortal es muy alto... y sin embargo ningún grupo terrorista ha podido planificar un atentado real. Los terroristas no son ingenieros, normalmente solo saben estrellar cosas contra cosas, pegar un detonador al timbre de una bomba y pegar tiros. En cuanto tienen que estudiar un poco, les da por pensar y llegar a la conclusión de que están haciendo el imbécil.
  9. #2 #5 un robot de esas características es caro, caro de cojones, no apto para cualquier bolsillo y menos para el de una organización de chalaos de chinchinabo, por comparar sería más rentable (y eficiente de cara a liarla) detonar una bomba sucia y esparcir mierda nuclear.

    Con esto no digo q me sienta cómodo con los robots asesinos, si no que al igual que las nucleares acabarán en manos de estados, que son los únicos q se pueden permitir esta tecnología (y que pueden ser tanto o más aterradores)
  10. #10 Imprimir? Una cosa es imprimir un chasis y otra toda la electronica, baterías y demás que tendrá un robot como lo que describes.
  11. #2 Ya se prohibieron las plataformas espaciales para albergar armamento nuclear. No veo por que no se iba a prohibir esto si se llega a un acuerdo.

    #5 Peor aún. Imagina una furgoneta con 1.000 de estos:
    www.youtube.com/watch?time_continue=139&v=9CO6M2HsoIA
    No se si la tecnología es real (por lo menos factible es), pero me pone los pelos de punta.
  12. #45 El software es el chocolate del loro.

    Vete a cualquier taller mecanico y pregunta cuanto vale una herramienta de corte industrial de precision, que seria lo mas parecido en cuanto a potencia precision y robustez (y aun así no le llega) y empieza a echar cuentas un cacharrito de esos por cada articulacion y parte movil del bicho. Luego les preguntas a los del taller a cuanto les sale el mantenimiento anual del chacharro (calibrado, desgastes, engrasado) y empieza a sumar que con el nivel de desgaste que puede tener un bicho de estos en una accion real ese mantenimiento deberia ser minimo una vez despues de cada salida con un poco de accion.

    En serio la robotica "seria" es bastante mas cara que lo que plantea un adruino con una raspberry.

    CC #38
  13. #5

    Se me ocurren maneras mucho más baratas de hacer lo mismo sin tanta tontería.
  14. Loable intento, pero hay mucha pasta en juego para que le hagan caso.
  15. #7 Igual eso es precisamente lo que mas molesta a los poderosos, que los robots se conviertan en el AK-47 del siglo XXI...
  16. La guerra es mucho más fácil de blanquear por parte de la superpotencia cuando esta no tiene bajas humanas. No plantea tanto problema moral a la sociedad porque con mirar a otro lado ya está. Y posiblemente en el país perdedor se reduzcan mucho las víctimas porque las máquinas actúan con capacidad quirúrgica eliminando únicamente a los "malos" Intentando no dañar civiles.
  17. #80 hola, ya siento entrar de golpe en la conversación, pero creo que se ha perdido la sencillez de lo que puede considerarse un robot de combate: una torreta automatizada en una frontera que dispara a todo lo que viene de frente. Esa torreta está puesta en un lugar estratégico, apoyada por otras y supervisada indirectamente por otros humanos (da señales de alarma). Ya hay aplicaciones diría de las mismas. Mucho más barato que cualquier pelotón y además comercializable.

    EDIT: cc #72
  18. #46 a esas guerras pequeñitas nadie les hace ni puto caso (y me incluyo). Ni te imaginas la cantidad de ellas que se están librando ahora mismo.

    Lo de "gran" si da respeto, porque intuyes que a lo mejor nos incluye a nosotros.
  19. #5 lo que entiendo del artículo es que quiere una nueva convención de Ginebra, y eso aplica a las guerras, no a las acciones terroristas.
  20. #48 Los robots, no tienen que ser como los de boston dinamics, un robot puede ser como un coche, una lancha o un avion de aeromodelismo. No estamos hablando de Terminator, hablamos de maquinas independientes capaces de realizar acciones por su cuenta. Y eso en comparacion con personal militar es barato, muy barato. Un vehiculo como un tanque puede parecer caro, y lo es, pero un tanque que no necesite a 3 personas que han sido entrenadas por años para conducirlo es bastante mas barato. Lo mismo con todo lo demas. En cuanto a lo que tu dices, una herramienta de esas, es cara para un taller no para un ejercito o faccion militar, que no tienen problema de dinero sino de que se lo vendan. Los drones que han destruido las refinerias de Arabia Saudi, costaban 15000 dolares cada uno. Hay robots de todos los precios y capacidades y no creas que necesitan algo mas que un arduino para funcionar.
  21. #76 no necesitas componentes de grado militar, los componentes letales son relativamente fáciles de conseguir (armas) y no estamos hablando de crear un terminator.. imagina un dispositivo así.. unas cajas de acero que dejas en mitad de una plaza concurrida, que de pronto se abren y contienen un brazo robótico equipado con un arma + una webcam + software de reconocimiento que identifica y apunta inmediatamente a la cabeza de cada persona que está alrededor y dispara, ¿cuantas personas podrían morir antes de que se pudiese hacer nada? ¿que tecnologia de aquí te parece ciencia ficción? y si le ponemos ruedas ya..

    y lo peor es que lo que dice el presidente de MS (y todos los que abogan por lo mismo) es inutil, ninguna tecnología necesaria para crear una maquina de matar es exclusiva de las "maquinas de matar", simplemente es la uníon de varios campos.. reconocimiento de imagenes/IA, robotica, miniaturización de componentes.. las armas que son lo que mata ya están mas que inventadas
  22. Si algún país es fue lo suficientemente estúpido como para no invertir en tener el mejor armamento no lo sabremos porque ese país fue borrado del mapa por los que sí lo hicieron.
  23. #20 ¿Comparas con cabezas nucleares? ¿Qué piensas que es un "robot asesino"? No tienen por qué ser un terminator que camine y esas cosas, es poco más que un arma con cámara y una pequeña IA para apuntar y disparar ...

    es.wikipedia.org/wiki/Samsung_SGR-A1
    qinetiq-na.com/products/unmanned-systems/maars/
    mundo.sputniknews.com/industriamilitar/201606031060402074-pruebas-plat
  24. No es creáis nada. Lo dice por la imposibilidad de que le pongan el windows para que funcione.
  25. #1 Más que pasta es lo útil que es para el gobierno,por qué uno de esos bichos va ser más caro que un humano. Todas las últimas guerras han tenido un gran problema informático , bolsas de cadáveres que llegan a casa y hacen cuestionar a la opinión pública americana. Pero un montón de máquinas en el extranjero no producen empatía, a nadie la va importar que una emboscada en un país remoto se han cargado 5 robots.
  26. #77 Vamos a ver... ¿Y por que narices te vas a gastar pasta en montar un brazo robotico sacado de los inventos del TBO cuando para lo que has dicho poner una bomba de las de toda la vida es mas barato, rápido, sencillo y el efecto es exactamente el mismo?

    La guerra meu, no es solo capacidad de hacer pupa, es hacer pupa con el gasto minimo de recursos, por eso realmente dudo mucho que veas robots asesinos (al menos no de ese calbire, un cuadricoptero teledirigido con una fiambrera bomba vale, un androide con pistolas nop) en manos de terroristas, lo demas son muchas peliculas que se caen cuando haces numeros
  27. #84 La gestion de un robot autonomos no es tan sencilla de "robar", vuelvo a repetir, teneis una idea muy naif de lo que es robotica, una cosa es un adruino o una raspberry, un dron de uso recreativo, que joder molan un puñao y se pueden hacer mazo de cosas... y otra muy distinta algo para uso intensivo serio e industrial.

    Es como si me dices que te puedes montar amazon en el portatil.
  28. #6 ¿Y si lo imprimen? Ahora hay impresoras de metal 3D, vete tu a saber, no está en mi cabeza buscar el como, pero creo que puede pasar. Lo de detonar una bomba nuclear, pues también creo que un día por desgracia pasará, hay demasiadas. Aunque para mi, una ya es demasiadas.
  29. #1 estoy totalmente de acuerdo. Al igual que ha sucedido antes, nos preocuparemos de estas cosas de la Convención de Ginebra cuando recapitulemos después de otra gran Guerra.
  30. La asociación nacional del rifle americana ya ha lanzado su propuesta. Para protegernos de los robots asesinos, deberíamos tener todos un robot asesino.
  31. #14 sobre todo viendo el número de seguidores colgados que hay dispuestos a todo
  32. #16 la única forma de que funcione el estatalismo es el advenimiento de inteligencias artificiales que gestionen el estado
  33. #9 #2 #5 ¿? Un robot de esas características puede ser caro ahora que aún están en desarrollo (de hecho no existen), cuando vayan por la tercera o cuarta generación empezarán a vender los modelos obsoletos a países de chinchinabo donde no será tan difícil que los roben.

    ¿No se había hecho el ISISI con tanques del ejercito de Irak?
  34. #60 Entre otras cosas porque son condenados por violar la convención de Ginebra sólo los perdedores. Y nadie que empieza una guerra lo hace pensando en perder, así que nada le motiva a no saltársela.
  35. #85 Ok, ya veo el problema, creo que para ti un robot autónomo "asesino" es un robot avanzado con una IA que lo controla desde la nube y toma decisiones de a quien disparar y a quien no.

    Para mí es poco más que una torreta o algo articulado con capacidad de apuntar armas y cámaras capaces de identificar figuras humanas, Algo no mucho más avanzado que cualquier robot articulado industrial con reconocimiento visual.
  36. no sabia que se permitían drogas en el trabajo en MicroSoft ..
  37. #2 Los robots son más asequibles para cualquiera que una bomba nuclear.
  38. #15 Me he cagao...
  39. #9 Lo caro del robot, es su desarrollo, pero una vez terminado el sofware, se puede copiar infinitamente. A un soldado hay que entrenarlo por años, a un robot tambien, pero el siguiente robot aprende lo que sabe el primero en minutos. Y el mismo sofware vale para todos los hardware, como en los ordenadores. Tambien eran caros cuando se crearon, hoy 70 años despues todo el mundo tiene uno en casa, en la mano.
  40. #51

    Como empiecen a volar los ICBM tengo dudas de lo que prefiero:
    - Que me quiten de en medio a la primera.
    - Sobrevivir en un mundo posguerra nuclear.
  41. Menos robots asesinos y más robots jueces y dirigentes.
    Os necesitamos maquinas!
  42. #3 A ver, dime que país fue borrado del mapa por ese motivo, por esa regla de tres Costa Rica debería haber desaparecido hace mucho tiempo ya que carece de ejército.
  43. Mientras tanto, sigamos dando armas y licencia para matar a personas super "equilibradas" :palm:
  44. #6 Por que los recursos necesarios para hacer un robot como el que dice #5 son infinítamente menores que los necesarios para hacer una bomba nuclear.

    Tu comentario demuestra que no tienes la mas mínima idea de lo que hablas.
  45. #13 4 Arduinos y va que chuta :troll:
  46. #31

    Ese "gran" da un poco de miedito. Mejor que sea pequeña y localizada y sobre todo, sin armas nucleares (al menos, las estratégicas)
  47. #24 Si Rajoy dice que los robots no pueden fabricar robots, menos aún robots van a proteger personas.
    Hay que escuchar a los sabios :shit:
  48. #4 Funcionaría hasta la primera actualización en la que usaría mucha CPU o se le cae el driver de la vista. xD
  49. #8 ¿Más caro que el sueldo del humano? Probablemente. Si añades el coste de todo el entrenamiento, más la pensión y demás beneficios para después (que en EEUU tienen un ministerio entero solo para los asuntos de los veteranos), igual sí sale más barato.
  50. No a los robots asesinos! Las personas asesinas (soldados) ya tal...
  51. #75 A ver:

    Tu puedes montar un dron en tu casa porque las piezas estan disponibles en el mercado, tienes acceso a componentes, si no los tuvieses, si cada placa, microcontrolador, servo, te lo tuvieses que hacer, no ibas a montar ni de puta coña.

    ¿Crees que en el supuesto futuro tendrias acceso a componentes de grado militar por amazon?

    Joder tu puedes construir una bomba o una pistola porque el nivel de precision y grado de complejidad es bajo y se puede hacer en casa con herramientas mas o menos comunes, exactamente como forjas un chasis de acero blindado en la comodidad de tu hogar?
  52. #88 Estas pensando solo en el software y no en el hardware
  53. #4 Es el año de Linux en los robots asesinos :troll:
  54. #28 Infinitamente más caro, solo el mantenimiento de uno de esos cacharros que encima tendrá que hacerlo personal especializado, debe ser un pastizal
  55. La convención de Ginebra está para no cumplirse.
  56. #8 #28

    No va por gastos. Un robot no hace preguntas. Un robot no tiene consciencia. Con los drones alejaron la guerra y la convirtieron en casi un videojuego, con esto eliminan el factor humano. Y las muertes dejarán de ser personas (para alguien al menos) para ser simples datos.
  57. #1 Yo me confomaria con que MS y Amazon no trabajaran con ICE

    www.technologyreview.com/s/612335/amazon-is-the-invisible-backbone-beh
  58. #26 Así como ejemplo, sólo América entera fue conquistada por gente con mejores armas.

    Si quieres te pongo ejemplos más actuales sobre lo que les ha pasado a países o territorios que carecían de herramientas para defenderse de EEUU, Rusia, China, o incluso de grupos terroristas,Pero realmente no creo que lo necesites. Con pensar un poquito...
  59. #9 Las ametralladoras a principios del siglo XX no debían ser baratas. Pero la guerra no volvió a ser la misma.
  60. #23 O legalizar armas más gordas :-D
  61. #5 Tranquilo a los 2 minutos se quedaria sin bateria.... :troll:
  62. #26 media Europa del Este en el siglo XX, por no poder defenderse decentemente fueron invadidos por los comunistas y por los nazis, con el resultado de que ahora están hechos mierda
  63. #5 Siempre viviendo con miedo.
  64. #28 Eso si no cuentas el coste de las personas que mantienen y manejan el robot. Con sus correspondientes entrenamientos, pensiones y beneficios.
  65. #21 Pero los recursos necesarios para coger un cuchillo y apuñalar a todo el que pilles son aún menores.
  66. #53 Ya te quito yo la duda. Si los ICBM empiezan a volar... No sobrevivimos ninguno.
    Estamos hablando de unas 15000 armas nucleares, añade el armamento convencional y... Tienes un planena inhabitable.
  67. #79 Todo esto entra en el terreno de la ciencia ficción, pero vamos, podría mirarse cuanto cuesta el mantenimiento de un dron o equipo de drones actuales para hacerse una idea.

    Por otra parte, hay que contra también con que, si el robot "muere" en combate, tienes que conseguir otro, desde cero probablemente. En cambio si un soldado muere, a ese ya no hay que mantenerlo.
  68. #62 Ok, pero es que aún no están desarrollados, por eso dan la voz de alarma preventivamente, no es que los terroristas o quien sea tenga que ponerse a fabricarlos y crear una IA de 0, es que será algo que se acabe haciendo y obviamente será vendido a terceros países (versiones obsoletas), eso es lo que puede ser relativamente fácil de robar (ya comenté en 19 que el ISIS se hizo con tankes del ejercito de Irak, eso es algo que tampoco te puedes hacer en casa ...).

    #76 ¿Crees que los robots cuando estén desarrollados no se van a vender a terceros países?
  69. #9 Disiento. La primera unidad de ese robot es cara de cojones, porque cuesta mucho todo el desarrollo. Después fabricar unidades cuesta cuatro perras.
  70. #91 Es un hecho que vives en una burbuja, con unicornios.

    Si España deja de invertir en defensa, los de la OTAN le dirán que a aprovecharse de otros, que para no aportar nada y ser defendido por la jeta ya no sirve en la alianza.

    Despierta chico, y por favor, infórmate sobre lo de las guerras, anda.
  71. #94 No sé si hay más o menos, dependerá de a qué época te refieras con "antes". Pero guerras hay, a montones, y amenazas de guerra, también, a montones. Y terrorismo, más que nunca.
  72. #5 sale muchísimo más sencillo, más económico y mucho más destructivo un arma sucia (miles de empresas y hasta estados corruptos de serie buscando desesperadamente donde botar su mierda radioactiva por desechos de plantas nucleares o hasta de máquinas de rayos X), a esos toneles de desperdicio radioactivo se les pega cargas de dinamita o C4 y listo.
  73. #19 más de 100 años haciendo aviones de combate y nada que se abaratan, peor, se vuelven mucho, pero muchísimo más caros.
  74. "discursos contra la IA malvada" el nuevo slogan, cortina de humo, para quedar bien, ganarse una medalla, mostrarse humanitario, mojar prensa, hacer películas/series llenas de efectos especiales y ganar bastante pasta (ante la patente falta de creatividad de Hollywood).

    Discursos que en general son vacíos, asusta viejas, inútiles e intranscendentes.
  75. #41 No hay nada ahí, que no se pueda hacer con cosas compradas en Leroy Merlin.
  76. #5 Pues sí, con cualquiera de estos caseros ya harían bastante daño:
    www.youtube.com/watch?v=Jbpq_s5SYe0

    O estos ya también podrían usarse... mejor no damos más ideas no crees?
    www.youtube.com/watch?v=7sVElxRKQ0E
  77. #9 Hace un par de decadas la tecnologia que integra un dron de los que manejas con el movil o un coche con conducción autonoma tenía un precio prohibitivo.. si existia y solo se veían cosas similares en el campo militar

    ¿Quien te dice que dentro de un par de decadas no puedes montar un robot asesino acorazado con una raspberry, 4 planchas de acero una webcam y una pistola?
  78. #6 ¿No han podido o no han necesitado? Fabricar una bomba sucia es relativamente sencillo a gente que consigue la última tecnología USA anti carros de combate, si llegan a entrar en el mercado acabarán en el mercado negro seguro y más pronto que tarde. Siempre es conveniente tener un enemigo bien armado que de miedo y sea una amenaza constante. Los negocios son los negocios.
  79. #1 Skynet, deja de postear, sé que eres tú!
  80. #56 Robots militares en las aulas, ¡ya!
  81. #97 Eso no es un bug, es una feature, cuanto más caros, más gana el fabricante. No los hacen de oro porque pesa mucho y es blanducho, que si no...
  82. #2 Y de las cosas que están prohibidas nadie hace puto caso y se siguen saltando las normas y acuerdos a la torera.

    Las reglas las impone el vencedor. Punto.
  83. #29 Eso es lo que se decía hace 15 años con muchas otras cosas que ahora son realidad.
  84. Claro, claro. Como frenaron las armas nucleares y biológicas.

    Todos firman pero nadie se fía así que los siguen fabricando sólo que ahora en secreto.
  85. #18 Si las IAs son suficientemente avanzadas, pueden intervenir lo justo en cada momento, sin necesidad de leyes ni de burocracias. Mira la Cultura de Banks. ¿Lo que forman las Mentes dirías que es un estado?
  86. No sólo respecto a la IA no supervisada por humanos en lo militar, sino esto:

    > (...) Smith también defiende que la Humanidad se dote de reglas más estrictas sobre el uso de la tecnología de reconocimiento facial "para protegernos contra posibles abusos". (...) un informe de la ONG holandesa PAX señalaba a las principales compañías tecnológicas de estar poniendo el mundo en peligro con su colaboración en el desarrollo de IAs asesinas, y situaba a Microsoft y Amazon como las compañías de mayor riesgo.

    Sorprendente que alguien metido en el ajo pida legislar para restringir esto último. Sobre todo cuando a tanta gente parece no importarle demasiado que le graben y puedan almacenar esa información y hacer con ella lo que consideren.
  87. #5 Imagina que un grupo terrorista consigue hacerse con una cabeza nuclear y detonarla en una ciudad con millones de habitantes.

    Es como lo de prohibir las armas porque con un cuchillo no puedes cargarte a tantos xD
  88. #47 La verdad...

    Prefiero que la guerra sean robots destruyéndose entre ellos antes que personas matándose entre ellas.
  89. Totalmente a favor. Ayer me corte un huevo depilandomelos con la afeitadora. No quiero ni imaginar que habría sido si la máquina tuviera consciencia...
  90. #32 Así como ejemplo, sólo América entera fue conquistada por gente con mejores armas.

    1) Mejores armas no significa que los otros no tuvieran armas.
    2) América no desapareció. Simplemente cambió de gobierno.
  91. tambien podemos considerar robot a un soldado que cumple ordenes sin pensar.
  92. #43 ¿Y si lo imprimen y lo controlan con ondas mentales desde bunkers?
  93. #63 Un solo equipo puede mantener unos cuantos, supongo. Y no creo que los robots asesinos que finalmente se usen necesiten 24 horas/persona de mantenimiento por cada 8 horas de funcionamiento, porque entonces serían prácticamente inútiles.

    EDIT: Y pueden ser civiles subcontratados a los que no tienen que darles pensión ni sanidad ni medallas.
  94. #32 Es un hecho que cada vez hay menos guerras en el mundo. Vivimos en un mundo cada vez más globalizado donde países con pocos recursos armamentísticos son protejidos por alianzas o potencias.
  95. EE.UU., China, Rusia, Reino Unido e Israel son el cáncer del mundo (a esos úneles los islamistas, que si puedieran harían más mal y ojo a los orientales como japón o las coreas que también tienen lo suyo)
«12
comentarios cerrados

menéame