10 meneos
73 clics
Debemos destruir el armamento nuclear antes de que la IA aprenda a usarlo (ENG)
La muerte no nos llega solo por la edad y las enfermedades sino también por la estupidez humana. El primer país que desarrolle un sistema superinteligente de IA probablemente tendrá la capacidad de romper y reescribir los códigos nucleares de todo el mundo. Esto cambiará el escenario político-militar del planeta de la noche a la mañana.
|
comentarios cerrados
No estamos ni cerca de producir una IA que sepa hacer lo que hace una rata, y hay flipados preocupándose de IAs superinteligentes (como si eso fuese cercano o siquiera probable) que además como en una buena peli de serie B, gana superpoderes.
es.gizmodo.com/stephen-hawking-la-i-a-puede-ser-el-peor-error-de-la-15
Su opinión hace que por lo menos debamos tenerlo en cuenta.
La inmensa mayoría de los humanos vamos a lo nuestro, no tenemos conciencia colectiva de humanidad ni de especie, somos medio gilipollas y profundamente débiles tanto física como psicológicamente. Según Darwin, que el humano evolucione a IA es lo lógico y lo natural.
En ese escenario, desde luego, el armamento nuclear nos dejaría caos totalmente.
Creo que es un error comparar la IA con la inteligencia de una rata o de un humano, son cosas diferentes, y una IA correctamente entrenada puede llegar a hacer cosas muy complejas al mismo tiempo que no sabe reconocer un queso.
El sistema no "sabe" gestionar. Para saber hay que tener conciencia. ¿Una tostadora "sabe" tostar?. ¿Un coche "sabe" moverse? ¿Un avión con piloto automático "sabe" pilotar?
Menudo montón de mierda.
Menos novela y peli y más estudio. La flipadura y el cuñadismo que hay con este tema es de vergüenza ajena.
Hubo algo que lo indujo, fue programada y entrenada para conducir. Del mismo modo pueden ser programadas y entrenadas para buscar la forma de tomar el control de un sistema nuclear y puede que encuentren el fallo que les dé el control, así como encuentran la forma de optimizar el metro de Hong Kong sopesando todas las variables, o el patrón para reconocer gatos. O puede que no.
Una tostadora son unas resistencias, un coche es un montón de metal con motor y ruedas, un avión con piloto automático sigue unas pautas preprogramadas por un humano, una IA pondera por sí sola todas las variables para encontrar el camino acertado que le lleve al objetivo, sin que el humano le diga cómo.
El ordenador del metro de Hong Kong no sigue unas pautas marcadas por un humano que le dijo: "tal persona es buena en esto, si hay este fallo, mándala a ella, y si ocurre tal cosa, manda a esta otra" no, la IA del metro de Hong Kong tendrá una lista de empleados, su oficio y muchos otros datos; cuando se rompe la cañería manda a uno, cuando se rompe otra manda a otro, compara los tiempos y ve que el primero fue más rápido en la primera avería, en tal lugar y hora, pero a distinta hora está perezoso y el más rápido es el segundo, así con muchas variables; Entonces mandará al primero cuando las condiciones sean óptimas para él y al segundo cuando entre mejor. Eso no fue programado, lo dedujo la IA por sí sóla a base de ponderar muchos datos y eso es más que una tostadora.
El problema de una IA avanzada, que dudo que exista aún, es que la puedes programar y entrenar para velar por nuestra vida y tú esperando que nos sirva copas en una playa tropical, cuando la IA por sí sola vio que lo mejor es tenernos encerrados y aislados para que no nos hagamos daño a nosotros mismos. Es decir, puedes tener resultados inesperados.