EDICIóN GENERAL
320 meneos
1562 clics

El presidente de MS: pide frenar a los robots asesinos con una nueva Convención de Ginebra

Durante una reciente entrevista para el Daily Telegraph, el mismísimo presidente de Microsoft, Brad Smith, afirmó que, a día de hoy, los robots asesinos son "imparables", porque las grandes potencias militares (EE.UU., China, Rusia, Reino Unido, Israel, Corea del Sur, etc) ya han iniciado una nueva carrera armamentística en el campo de las armas dotadas de IA. Smith juzga necesaria una nueva Convención de Ginebra adaptada al actual mundo tecnológico, que nos dote de "normas que protejan tanto a civiles como a soldados".

| etiquetas: robots asesinos , presidente microsoft , frenar , nueva convención ginebr
No se han prohibido las armas nucleares y se va a prohibir eso.
#2 Imagínate que un día, entra una furgoneta de un grupo terrorista en Barcelona o Madrid, y junto a plaça cataluña, o en la puerta del sol de Madrid, suelta un robot armado hasta los dientes, acorazado, con capacidad de viajar a mas de 100km/hora, tiro que dispara, tiro que acierta, y programado para matar a todo ser vivo. Podría matar a miles de personas antes de poder pararlo. Esto ahora es ciencia ficción, pero en pocos años podría ser real. A mi, me da miedo.
#5 Real? Y como lo pagan y transportan ?. Si no han podido detonar una bomba nuclear o hacerse con un helicóptero de combate no van a poder tener un robot militar.
#6 ¿Y si lo imprimen? Ahora hay impresoras de metal 3D, vete tu a saber, no está en mi cabeza buscar el como, pero creo que puede pasar. Lo de detonar una bomba nuclear, pues también creo que un día por desgracia pasará, hay demasiadas. Aunque para mi, una ya es demasiadas.
#10 Imprimir? Una cosa es imprimir un chasis y otra toda la electronica, baterías y demás que tendrá un robot como lo que describes.
#13 4 Arduinos y va que chuta :troll:
#10 Por eso mismo necesitamos robots que nos protejan :troll:
#24 Esa gente estaría viva si tuviera su propio robot de combate :troll:
#56 Robots militares en las aulas, ¡ya!
#24 Si Rajoy dice que los robots no pueden fabricar robots, menos aún robots van a proteger personas.
Hay que escuchar a los sabios :shit:
#29 Eso es lo que se decía hace 15 años con muchas otras cosas que ahora son realidad.
#30 Bueno, no veo que hayan impreso en 3D un helicoptero de combate y es tecnología de hace 40 años.
#41 No hay nada ahí, que no se pueda hacer con cosas compradas en Leroy Merlin.
#10 Oh, my, god.
#10 Ibas bien hasta lo de "imprimir" :shit:
#6 Por que los recursos necesarios para hacer un robot como el que dice #5 son infinítamente menores que los necesarios para hacer una bomba nuclear.

Tu comentario demuestra que no tienes la mas mínima idea de lo que hablas.
#21 Pero los recursos necesarios para coger un cuchillo y apuñalar a todo el que pilles son aún menores.
#6 ¿No han podido o no han necesitado? Fabricar una bomba sucia es relativamente sencillo a gente que consigue la última tecnología USA anti carros de combate, si llegan a entrar en el mercado acabarán en el mercado negro seguro y más pronto que tarde. Siempre es conveniente tener un enemigo bien armado que de miedo y sea una amenaza constante. Los negocios son los negocios.
#2 #5 un robot de esas características es caro, caro de cojones, no apto para cualquier bolsillo y menos para el de una organización de chalaos de chinchinabo, por comparar sería más rentable (y eficiente de cara a liarla) detonar una bomba sucia y esparcir mierda nuclear.

Con esto no digo q me sienta cómodo con los robots asesinos, si no que al igual que las nucleares acabarán en manos de estados, que son los únicos q se pueden permitir esta tecnología (y que pueden ser tanto o más aterradores)
#9 #2 #5 ¿? Un robot de esas características puede ser caro ahora que aún están en desarrollo (de hecho no existen), cuando vayan por la tercera o cuarta generación empezarán a vender los modelos obsoletos a países de chinchinabo donde no será tan difícil que los roben.

¿No se había hecho el ISISI con tanques del ejercito de Irak?
#19 Cuantas cabezas nucleares has visto que se roben y acaben en manos de grupos de descerebrados (no en las pelis, en la realidad)

Y un arma nuclear se me antoja varios ordenes de magnitud mas sencilla que un robot asesino (y bastante mas efectiva puestos a liarla)

PD: Un saludo a la unidad de delitos telematicos de la guardia civil
#20 ¿Comparas con cabezas nucleares? ¿Qué piensas que es un "robot asesino"? No tienen por qué ser un terminator que camine y esas cosas, es poco más que un arma con cámara y una pequeña IA para apuntar y disparar ...

es.wikipedia.org/wiki/Samsung_SGR-A1
qinetiq-na.com/products/unmanned-systems/maars/
mundo.sputniknews.com/industriamilitar/201606031060402074-pruebas-plat
#22 Subestimas enormemente la complejidad de un bicho autónomo con servos de precision que tenga que operar en exteriores en condiciones adversas y blindado.

Ya simplemtnete la energia para mover el cacharro de manera autonoma supone un reto ingenieril bastante gordo y los ejemplos que pones no son mas que torretas motorizadas (y me temo que de autonomia muy limitada) controladas por un chacho, algo a kilometros de distancia de lo que planteas
#22 El término "pequeña IA" es poco adecuado... por ahora no tenemos ni una "micro" IA.

Como comentan en #25, desde el punto de vista de ingeniería sería una pesadilla... y sinceramente, los ingenieros con capacidad para desarrollar eso no están en una cueva talibana ni en un garaje abandonado de Bruselas. Aparte, un trasto como el que se comenta es un futurible incluso para las grandes ingenierías armamentísticas.

Además... ¿difícil hacer una bomba atómica?... es…   » ver todo el comentario
#62 Ok, pero es que aún no están desarrollados, por eso dan la voz de alarma preventivamente, no es que los terroristas o quien sea tenga que ponerse a fabricarlos y crear una IA de 0, es que será algo que se acabe haciendo y obviamente será vendido a terceros países (versiones obsoletas), eso es lo que puede ser relativamente fácil de robar (ya comenté en 19 que el ISIS se hizo con tankes del ejercito de Irak, eso es algo que tampoco te puedes hacer en casa ...).

#76 ¿Crees que los robots cuando estén desarrollados no se van a vender a terceros países?
#84 La gestion de un robot autonomos no es tan sencilla de "robar", vuelvo a repetir, teneis una idea muy naif de lo que es robotica, una cosa es un adruino o una raspberry, un dron de uso recreativo, que joder molan un puñao y se pueden hacer mazo de cosas... y otra muy distinta algo para uso intensivo serio e industrial.

Es como si me dices que te puedes montar amazon en el portatil.
#85 Ok, ya veo el problema, creo que para ti un robot autónomo "asesino" es un robot avanzado con una IA que lo controla desde la nube y toma decisiones de a quien disparar y a quien no.

Para mí es poco más que una torreta o algo articulado con capacidad de apuntar armas y cámaras capaces de identificar figuras humanas, Algo no mucho más avanzado que cualquier robot articulado industrial con reconocimiento visual.
#19 más de 100 años haciendo aviones de combate y nada que se abaratan, peor, se vuelven mucho, pero muchísimo más caros.
#97 Eso no es un bug, es una feature, cuanto más caros, más gana el fabricante. No los hacen de oro porque pesa mucho y es blanducho, que si no...
#9 Las ametralladoras a principios del siglo XX no debían ser baratas. Pero la guerra no volvió a ser la misma.
#45 El software es el chocolate del loro.

Vete a cualquier taller mecanico y pregunta cuanto vale una herramienta de corte industrial de precision, que seria lo mas parecido en cuanto a potencia precision y robustez (y aun así no le llega) y empieza a echar cuentas un cacharrito de esos por cada articulacion y parte movil del bicho. Luego les preguntas a los del taller a cuanto les sale el mantenimiento anual del chacharro (calibrado, desgastes, engrasado) y empieza a sumar que con el nivel de…   » ver todo el comentario
#48 Los robots, no tienen que ser como los de boston dinamics, un robot puede ser como un coche, una lancha o un avion de aeromodelismo. No estamos hablando de Terminator, hablamos de maquinas independientes capaces de realizar acciones por su cuenta. Y eso en comparacion con personal militar es barato, muy barato. Un vehiculo como un tanque puede parecer caro, y lo es, pero un tanque que no necesite a 3 personas que han sido entrenadas por años para conducirlo es bastante mas barato. Lo mismo…   » ver todo el comentario
#9 Lo caro del robot, es su desarrollo, pero una vez terminado el sofware, se puede copiar infinitamente. A un soldado hay que entrenarlo por años, a un robot tambien, pero el siguiente robot aprende lo que sabe el primero en minutos. Y el mismo sofware vale para todos los hardware, como en los ordenadores. Tambien eran caros cuando se crearon, hoy 70 años despues todo el mundo tiene uno en casa, en la mano.
#9 Hace un par de decadas la tecnologia que integra un dron de los que manejas con el movil o un coche con conducción autonoma tenía un precio prohibitivo.. si existia y solo se veían cosas similares en el campo militar

¿Quien te dice que dentro de un par de decadas no puedes montar un robot asesino acorazado con una raspberry, 4 planchas de acero una webcam y una pistola?
#75 A ver:

Tu puedes montar un dron en tu casa porque las piezas estan disponibles en el mercado, tienes acceso a componentes, si no los tuvieses, si cada placa, microcontrolador, servo, te lo tuvieses que hacer, no ibas a montar ni de puta coña.

¿Crees que en el supuesto futuro tendrias acceso a componentes de grado militar por amazon?

Joder tu puedes construir una bomba o una pistola porque el nivel de precision y grado de complejidad es bajo y se puede hacer en casa con herramientas mas o menos comunes, exactamente como forjas un chasis de acero blindado en la comodidad de tu hogar?
#76 no necesitas componentes de grado militar, los componentes letales son relativamente fáciles de conseguir (armas) y no estamos hablando de crear un terminator.. imagina un dispositivo así.. unas cajas de acero que dejas en mitad de una plaza concurrida, que de pronto se abren y contienen un brazo robótico equipado con un arma + una webcam + software de reconocimiento que identifica y apunta inmediatamente a la cabeza de cada persona que está alrededor y dispara, ¿cuantas personas podrían…   » ver todo el comentario
#77 Vamos a ver... ¿Y por que narices te vas a gastar pasta en montar un brazo robotico sacado de los inventos del TBO cuando para lo que has dicho poner una bomba de las de toda la vida es mas barato, rápido, sencillo y el efecto es exactamente el mismo?

La guerra meu, no es solo capacidad de hacer pupa, es hacer pupa con el gasto minimo de recursos, por eso realmente dudo mucho que veas robots asesinos (al menos no de ese calbire, un cuadricoptero teledirigido con una fiambrera bomba vale, un androide con pistolas nop) en manos de terroristas, lo demas son muchas peliculas que se caen cuando haces numeros
#9 Disiento. La primera unidad de ese robot es cara de cojones, porque cuesta mucho todo el desarrollo. Después fabricar unidades cuesta cuatro perras.
#88 Estas pensando solo en el software y no en el hardware
#5 lo que entiendo del artículo es que quiere una nueva convención de Ginebra, y eso aplica a las guerras, no a las acciones terroristas.
#5

Se me ocurren maneras mucho más baratas de hacer lo mismo sin tanta tontería.
#14 sobre todo viendo el número de seguidores colgados que hay dispuestos a todo
#2 Ya se prohibieron las plataformas espaciales para albergar armamento nuclear. No veo por que no se iba a prohibir esto si se llega a un acuerdo.

#5 Peor aún. Imagina una furgoneta con 1.000 de estos:
www.youtube.com/watch?time_continue=139&v=9CO6M2HsoIA
No se si la tecnología es real (por lo menos factible es), pero me pone los pelos de punta.
#15 Me he cagao...
#5 Tranquilo a los 2 minutos se quedaria sin bateria.... :troll:
#43 ¿Y si lo imprimen y lo controlan con ondas mentales desde bunkers?
#5 Siempre viviendo con miedo.
#5 Imagina que un grupo terrorista consigue hacerse con una cabeza nuclear y detonarla en una ciudad con millones de habitantes.

Es como lo de prohibir las armas porque con un cuchillo no puedes cargarte a tantos xD
#5 Pues sí, con cualquiera de estos caseros ya harían bastante daño:
www.youtube.com/watch?v=Jbpq_s5SYe0

O estos ya también podrían usarse... mejor no damos más ideas no crees?
www.youtube.com/watch?v=7sVElxRKQ0E
#5 sale muchísimo más sencillo, más económico y mucho más destructivo un arma sucia (miles de empresas y hasta estados corruptos de serie buscando desesperadamente donde botar su mierda radioactiva por desechos de plantas nucleares o hasta de máquinas de rayos X), a esos toneles de desperdicio radioactivo se les pega cargas de dinamita o C4 y listo.
#5 ¿Para que esperar a que un gobierno invente a Terminator si ya existen los drones y las bombas y el potencial mortífero puede ser el mismo?
#5 y hace menos que esa furgoneta llena con armamento químico desarrollado a principios de siglo.

Imagina que la OTAN ponen robots a disparar posibles amenazas por mar de Libia o Siria, ya no hay refugiados.
Hay gente muy mierda, pero a millones de personas que huyen la tasa de encontrarse gente tan mierda que trate como amenaza no es tan grande, con eso automatizado, el mierda que lo desarrolló va a tener algo más que dos manos para frenar huidas.
Lo mismo que las minas, con humanos se puede…   » ver todo el comentario
#2 Los robots son más asequibles para cualquiera que una bomba nuclear.
#7 Igual eso es precisamente lo que mas molesta a los poderosos, que los robots se conviertan en el AK-47 del siglo XXI...
#2 Y de las cosas que están prohibidas nadie hace puto caso y se siguen saltando las normas y acuerdos a la torera.

Las reglas las impone el vencedor. Punto.
#2 No has entendido el titular. A ver con este:

"El presidente de MS: pide frenar a los robots asesinos con una nueva Convención de Cerveza".
Loable intento, pero hay mucha pasta en juego para que le hagan caso.
#1 Más que pasta es lo útil que es para el gobierno,por qué uno de esos bichos va ser más caro que un humano. Todas las últimas guerras han tenido un gran problema informático , bolsas de cadáveres que llegan a casa y hacen cuestionar a la opinión pública americana. Pero un montón de máquinas en el extranjero no producen empatía, a nadie la va importar que una emboscada en un país remoto se han cargado 5 robots.
#8 ¿Más caro que el sueldo del humano? Probablemente. Si añades el coste de todo el entrenamiento, más la pensión y demás beneficios para después (que en EEUU tienen un ministerio entero solo para los asuntos de los veteranos), igual sí sale más barato.
#28 Eso si no cuentas el coste de las personas que mantienen y manejan el robot. Con sus correspondientes entrenamientos, pensiones y beneficios.
#63 Un solo equipo puede mantener unos cuantos, supongo. Y no creo que los robots asesinos que finalmente se usen necesiten 24 horas/persona de mantenimiento por cada 8 horas de funcionamiento, porque entonces serían prácticamente inútiles.

EDIT: Y pueden ser civiles subcontratados a los que no tienen que darles pensión ni sanidad ni medallas.
#79 Todo esto entra en el terreno de la ciencia ficción, pero vamos, podría mirarse cuanto cuesta el mantenimiento de un dron o equipo de drones actuales para hacerse una idea.

Por otra parte, hay que contra también con que, si el robot "muere" en combate, tienes que conseguir otro, desde cero probablemente. En cambio si un soldado muere, a ese ya no hay que mantenerlo.
#80 hola, ya siento entrar de golpe en la conversación, pero creo que se ha perdido la sencillez de lo que puede considerarse un robot de combate: una torreta automatizada en una frontera que dispara a todo lo que viene de frente. Esa torreta está puesta en un lugar estratégico, apoyada por otras y supervisada indirectamente por otros humanos (da señales de alarma). Ya hay aplicaciones diría de las mismas. Mucho más barato que cualquier pelotón y además comercializable.

EDIT: cc #72
#28 Infinitamente más caro, solo el mantenimiento de uno de esos cacharros que encima tendrá que hacerlo personal especializado, debe ser un pastizal
#72 Pues como todo. Los primeros costarán decenas de millones de €. En 10 años pocos miles.

Economías de escala.
#8 #28

No va por gastos. Un robot no hace preguntas. Un robot no tiene consciencia. Con los drones alejaron la guerra y la convirtieron en casi un videojuego, con esto eliminan el factor humano. Y las muertes dejarán de ser personas (para alguien al menos) para ser simples datos.
#1 Yo me confomaria con que MS y Amazon no trabajaran con ICE

www.technologyreview.com/s/612335/amazon-is-the-invisible-backbone-beh
#1 estoy totalmente de acuerdo. Al igual que ha sucedido antes, nos preocuparemos de estas cosas de la Convención de Ginebra cuando recapitulemos después de otra gran Guerra.
#31

Ese "gran" da un poco de miedito. Mejor que sea pequeña y localizada y sobre todo, sin armas nucleares (al menos, las estratégicas)
#46 a esas guerras pequeñitas nadie les hace ni puto caso (y me incluyo). Ni te imaginas la cantidad de ellas que se están librando ahora mismo.

Lo de "gran" si da respeto, porque intuyes que a lo mejor nos incluye a nosotros.
#51

Como empiecen a volar los ICBM tengo dudas de lo que prefiero:
- Que me quiten de en medio a la primera.
- Sobrevivir en un mundo posguerra nuclear.
#53 Ya te quito yo la duda. Si los ICBM empiezan a volar... No sobrevivimos ninguno.
Estamos hablando de unas 15000 armas nucleares, añade el armamento convencional y... Tienes un planena inhabitable.
#31 yo creo que las Convenciones de Ginebra son tan útiles cómo las encíclicas papales.
No creo que asusten al que busque una guerra pues, al final, siempre se ejecuta a los líderes del bando perdedor, por muy santos que sean.
#60 Entre otras cosas porque son condenados por violar la convención de Ginebra sólo los perdedores. Y nadie que empieza una guerra lo hace pensando en perder, así que nada le motiva a no saltársela.
#1 Skynet, deja de postear, sé que eres tú!
La guerra es mucho más fácil de blanquear por parte de la superpotencia cuando esta no tiene bajas humanas. No plantea tanto problema moral a la sociedad porque con mirar a otro lado ya está. Y posiblemente en el país perdedor se reduzcan mucho las víctimas porque las máquinas actúan con capacidad quirúrgica eliminando únicamente a los "malos" Intentando no dañar civiles.
Si algún país es fue lo suficientemente estúpido como para no invertir en tener el mejor armamento no lo sabremos porque ese país fue borrado del mapa por los que sí lo hicieron.
#3 A ver, dime que país fue borrado del mapa por ese motivo, por esa regla de tres Costa Rica debería haber desaparecido hace mucho tiempo ya que carece de ejército.
#26 Así como ejemplo, sólo América entera fue conquistada por gente con mejores armas.

Si quieres te pongo ejemplos más actuales sobre lo que les ha pasado a países o territorios que carecían de herramientas para defenderse de EEUU, Rusia, China, o incluso de grupos terroristas,Pero realmente no creo que lo necesites. Con pensar un poquito...
#32 Así como ejemplo, sólo América entera fue conquistada por gente con mejores armas.

1) Mejores armas no significa que los otros no tuvieran armas.
2) América no desapareció. Simplemente cambió de gobierno.
#32 Es un hecho que cada vez hay menos guerras en el mundo. Vivimos en un mundo cada vez más globalizado donde países con pocos recursos armamentísticos son protejidos por alianzas o potencias.
#91 Es un hecho que vives en una burbuja, con unicornios.

Si España deja de invertir en defensa, los de la OTAN le dirán que a aprovecharse de otros, que para no aportar nada y ser defendido por la jeta ya no sirve en la alianza.

Despierta chico, y por favor, infórmate sobre lo de las guerras, anda.
#92 En qué te basas para decir que hay más guerras que antes? El mundo se está globalizando, ya no hay guerras en América ni Europa y eso difícilmente va a cambiar, tampoco hay guerra entre países Asiáticos. Sí, existen tensiones con China pero eso no son guerras. La globalización hace que cada vez haya más comercio internacional, más gente que se va a estudiar / trabajar a otros países, más cooperación política entre los estados, más conciencia y presión social contra las guerras gracias a…   » ver todo el comentario
#94 No sé si hay más o menos, dependerá de a qué época te refieras con "antes". Pero guerras hay, a montones, y amenazas de guerra, también, a montones. Y terrorismo, más que nunca.
#26 media Europa del Este en el siglo XX, por no poder defenderse decentemente fueron invadidos por los comunistas y por los nazis, con el resultado de que ahora están hechos mierda
No es creáis nada. Lo dice por la imposibilidad de que le pongan el windows para que funcione.
#4 Funcionaría hasta la primera actualización en la que usaría mucha CPU o se le cae el driver de la vista. xD
#4 Es el año de Linux en los robots asesinos :troll:
La asociación nacional del rifle americana ya ha lanzado su propuesta. Para protegernos de los robots asesinos, deberíamos tener todos un robot asesino.
#23 O legalizar armas más gordas :-D
Menos robots asesinos y más robots jueces y dirigentes.
Os necesitamos maquinas!
#16 la única forma de que funcione el estatalismo es el advenimiento de inteligencias artificiales que gestionen el estado
#18 Si las IAs son suficientemente avanzadas, pueden intervenir lo justo en cada momento, sin necesidad de leyes ni de burocracias. Mira la Cultura de Banks. ¿Lo que forman las Mentes dirías que es un estado?
Mientras tanto, sigamos dando armas y licencia para matar a personas super "equilibradas" :palm:
No a los robots asesinos! Las personas asesinas (soldados) ya tal...
#47 La verdad...

Prefiero que la guerra sean robots destruyéndose entre ellos antes que personas matándose entre ellas.
La convención de Ginebra está para no cumplirse.
"discursos contra la IA malvada" el nuevo slogan, cortina de humo, para quedar bien, ganarse una medalla, mostrarse humanitario, mojar prensa, hacer películas/series llenas de efectos especiales y ganar bastante pasta (ante la patente falta de creatividad de Hollywood).

Discursos que en general son vacíos, asusta viejas, inútiles e intranscendentes.
Totalmente a favor. Ayer me corte un huevo depilandomelos con la afeitadora. No quiero ni imaginar que habría sido si la máquina tuviera consciencia...
tambien podemos considerar robot a un soldado que cumple ordenes sin pensar.
Claro, claro. Como frenaron las armas nucleares y biológicas.

Todos firman pero nadie se fía así que los siguen fabricando sólo que ahora en secreto.
No sólo respecto a la IA no supervisada por humanos en lo militar, sino esto:

> (...) Smith también defiende que la Humanidad se dote de reglas más estrictas sobre el uso de la tecnología de reconocimiento facial "para protegernos contra posibles abusos". (...) un informe de la ONG holandesa PAX señalaba a las principales compañías tecnológicas de estar poniendo el mundo en peligro con su colaboración en el desarrollo de IAs asesinas, y situaba a Microsoft y Amazon como las

…   » ver todo el comentario
EE.UU., China, Rusia, Reino Unido e Israel son el cáncer del mundo (a esos úneles los islamistas, que si puedieran harían más mal y ojo a los orientales como japón o las coreas que también tienen lo suyo)
«12

menéame