El avance imparable de la inteligencias artificial (IA) comportará -si no lo hace ya- grandes avances para la humanidad. Sin embargo, al mismo tiempo también la pondrá en riesgo, hasta el punto incluso de provocar nuestra propia extinción ante la pérdida de control de la tecnología. Lo alertan 25 reputados científicos a escala mundial en un artículo publicado en la revista Science esta semana.
|
etiquetas: ia , ciencia , tecnología 
a 20/30 años vista imaginad la evolución de una Ai, + la potencia de un ordenador quántico.
Edit: lo has arreglado. Ahora me quedo más tranquilo.
Y encima ninguneando la opinión gente que lleva toda la vida dedicada a esto cuyas mentes son de las más brillantes que existen en la actualidad... En fin, nada que no hayamos visto antes con el tema del cambio climático.
En todo caso me imagino sabrás que es una frase "hecha" la cual es tomada para bien o para mal de una importante pelicula de los años noventa
Solo están desarrollando una inteligencia artificial que a corto o medio plazo puede superar a la humana.
Un científico (del latín scientificus,1 y a su vez de scientia, 'conocimiento' y -fic, raíz apofónica de facis, 'hacer') es una persona que participa y realiza una actividad sistemática para generar2 nuevos conocimientos en el campo de las ciencias (tanto naturales como sociales), es decir, que realiza investigación científica.
Una búsqueda en internet saca que estos pollos son informáticos. La última vez que miré un informático tenía de científico lo mismo que una folclórica. Yo por mi parte paro de leer aquí.
Tócate los huevos, después de miles de años de guerras, hambrunas, genocidios y plagas, resulta que nos vamos a extinguir de puro aburrimiento. Me lo dicen hace 30 años y me río.
Hasta que llega Paco, el mantenimiento y tira del enchufe
Pero los instintos humanos son muy complicados y no aparecieron de la nada sino que han ido evolucionando a lo largo de millones de años. Los humanos los adquirimos por herencia, son biología. Eso no está en internet.
Así te puedes dar cuenta de que es una inmensa tontería.
Conociendo cómo funciona la industria del sw dudo que pase.
Todo sw tiende a volverse inútil para las tareas que ha sido creado inicialmente.
Con chatgpt hemos visto varias versiones en pocos años, muchos parches y un comité que revisa cada entrada y cada salida para eliminar resultados no deseados. Este avance también habla de lo rápido que se deprecan las ias.
Si miramos lo que consume una ia en la nube, eso puede dar una pista sobre la necesidad de monetizarlas para mantenerlas online.
Y dicho avance ha sido posible porque han cacheado gratis gran parte de internet y multitud de obras sin pagar un céntimo. A ver el día que empiecen las denuncias por copyright.
Internet es cada vez más inútil y más orientado a recopilar lo que hace la gente GRATIS!!! Datos que se venderán para entrenar ias.
Bien.
Intentaré ir paso a paso.
El avance imparable de la inteligencias artificial (IA) comportará -si no lo hace ya- grandes avances para la humanidad.
Es falso cada punto. No hay ningún avance imparable. El poner redes neuronales muy grandes entrenadas con todo lo que hay en internet, no da mucho más de sí que lo que ya vemos. No paran de salir nuevos modelos, con gran frecuencia, pero lo que aportan sobre los anteriores es muy poca cosa.
Los grandes avances para la humanidad están por ver. Es cierto que las máquinas parlantes pueden ser una herramienta útil, pero hay que verificar aparte cada cosa que dicen, pues la máquina no sabe si lo que dice significa algo o no, ya ni soñemos lo de la corrección.
provocar nuestra propia extinción ante la pérdida de control de la tecnología
No se sigue la conclusión de la premisa. La pérdida de control no significa nada y ya la tenemos desde hace tiempo. Por ejemplo los veinte mil millones de transistores que hay en un chip actual no los ha puesto ninguna persona. Es el resultado de compilar un código fuente.
cómo podría conducir a una superinteligencia artificial en un futuro no muy lejano
Quizás se refieran a una IA general. No estamos yendo hacía ahí. Ni despacio ni deprisa, no hay nada de eso. Ese futuro se antoja muy lejano.
ha llegado la hora de actuar
¿Haciendo el qué? ¿Le escribimos un poema o algo?
ante máquinas con altísimas capacidades que pronto podrían superar a los seres humanos
No hay nada ni remotamente parecido a eso ni se le ve venir.
puede traducirse en “pérdida de vidas”, incluso suponer “el fin de la especie humana”
Es difícil exagerar todavía más. Las personas que han matado los coches autónomos son por falta de capacidad, no al revés.
Una IA superinteligente podría tener capacidades cognitivas muy superiores a las humanas en áreas como el razonamiento, la resolución de problemas y el aprendizaje.
Sí, en la ciencia ficción. Las LLG tienen cero capacidad de razonamiento. Lo que están haciendo ahora es perfilarles el entrenamiento para que lo simulen un poquito, pero ese aparato no tiene nada dentro que soporte el razonar.
una IA superinteligente podría ser difícil de controlar
Este es, creo yo, el punto más enloquecido de todos. Una máquina carece de instintos. No tiene voluntad propia ni objetivos que alcanzar. No importa lo sofisticada que sea. Los humanos somos todo lo contrario, o cualquier animal. Queremos sobrevivir, pero una máquina no.
una vez los sistemas autónomos de inteligencia artificial persiguen objetivos indeseables se escaparían de nuestro alcance
No pueden inventarse objetivos, indeseables o no.
Esto incluye trabajar en alinear los objetivos de la IA con los valores humanos
No tienen, ni pueden tener, ni objetivos ni valores.
El titular es grandilocuente, pero es lo que dicen en el artículo. A mí también me parece ciencia ficción, pero firman personas que no solamente han dedicado parte de su vida a la IA, también trabajan con ella ahora mismo. En todo caso, la carta no se limita a eso, tiene recomendaciones sobre control a la IA que son muy razonables. Supongo que querrán llamar la atención.