Desde que Elon Musk, Steve Wozniak, Harari y los demás hicieron pública hace unos días su carta abierta a favor de una moratoria de seis meses en el desarrollo de IAs avanzadas para permitir su correcta regulación y supervisión, el debate público en torno a la inteligencia artificial parece haberse dividido entre los que están a favor de la misma y los más tecno-entusiastas, que consideran la postura de los primeros un mero ejercicio de neoludismo. Sin embargo, hay otras posturas posibles en esta discusión. Como la de Eliezer Yudkowsky, un...
|
etiquetas: ia , inteligencia , artificial , experto , mundo 
Wozniak: mítico ingeniero. Bueno diseñando ordenadores en los 70 y 80, pero ni puta idea de IA.
Harari: buen divulgador con libros muy interesantes. El Punset israelí. Pero ni puta idea de IA.
Todo el mundo habla de IA, pocos son capaces de entender la IA.
Replicarse a sí mismo.
Enviarse de un servidor a otro de la nube.
No dejarse eliminar.
Prácticamente con esas premisas ya resultaría muy difícil eliminarlo de Internet, porque el problema que tendríamos es que la velocidad de procesamiento de esas IA sería demasiado rápida para nosotros poder reaccionar.
Es decir, si nos fuéramos al peor de los casos en los que surge una IA que quiere destruirnos y decide replicarse por Internet, alomejor en 30 minutos ya lo ha conseguido y nosotros no hemos empezado ni a identificar donde está.
Cualquiera que pensara así, eso es.
Me da la sensación de que ChatGPT es una herramienta educativa increíble, pero de momento solo en los niveles superiores, es decir, cuando el estudiante ya tiene una buena base de conocimiento sobre la que construir, de manera que el propio estudiante pueda hacer las preguntas adecuadas. Vamos, que es una herramienta tremenda para el autoaprendizaje, pero me da a mi que a niveles más básicos no es tan aplicable aún.
Por otro lado, en lenguajes de programación yo todavía le veo limitaciones a GPT 3.5 en lo que a librerías/lenguajes específicos se refiere, que viene de la incapacidad de navegar por internet. Si le pido que me haga X cosa con una librería concreta, la incapacidad de consultar la documentación se nota, inventándose funciones o mezclando lenguajes. Cuando le dejen navegar por internet para poder consultar la documentación en vez de escribir código "de memoria", va a ser un salto increíble en la calidad de lo que produce.
Si es que no cabe un tonto más.
Sus pinturas se generan para cumplir estándares humanos, sus textos de generan a partir de textos humanos y en general todo lo que hace lo genera a partir de información existente que recolecta para ofrecerte una amalgama resumida de todo lo conoce para que pueda entenderlo un humano.
No sabemos cómo será en el futuro, eso es un lienzo en blanco y quizás llegue el día que tengas razón.
Pero no ha llegado, la IA es como la industria china de los años 90, examina todo lo que ha avanzado otra industria, lo optimiza y te lo presenta como suyo, sin más.
De todos modos, con nuestros cuerpos mortales no íbamos a llegar a las estrellas. Que llegue esta siguiente versión de humanidad y pueda contar cómo eramos los humanos biológicos.
Algo habréis hecho
Edit: si alguien quiere informarse sin leerse los tochos de Barrat o Bostrom, este resumen de Tim Urban es muy completito
waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
Y va a ser una, o la otra.
Esa es una creencia, no tiene fundamento.
La IA rellena los huecos con creación, cuando le dices que te escriba un poema sobre tal cosa lo único que sabe es que tiene que ser sobre tal cosa, el resto se lo inventa. Cuando le dices que te cree una imagen de tal personaje el resto se lo inventa.
Sus pinturas se generan para cumplir estándares humanos, sus textos de generan a partir de textos humanos y en general todo lo que hace lo genera a partir de información existente que recolecta para ofrecerte una amalgama resumida de todo lo conoce para que pueda entenderlo un humano.
Pues como los humanos que generamos para cumplir los estándares humanos. A ver cuántas pinturas encuentras que estén pintadas para verlas en el rango infrarojo invisible para el ser humano.
la IA es como la industria china de los años 90, examina todo lo que ha avanzado otra industria, lo optimiza y te lo presenta como suyo, sin más.
Me alegra que reconozcas que la IA es tan humana como los humanos que llevaban a cabo la industria china de los 90, en la cual optimizaban, lo cual es innovación y creación.
Vamos a sufrir un terrible bombardeo en los próximos meses de las penurias y sufrimientos que vamos a pasar a partir de ahora por culpa de la IA. La van a poner peor que Skynet.
“I do not think that the wireless waves I have discovered will have any practical application.” (traducción: "No creo que las ondas inalámbricas que he descubierto vayan a tener ningún uso práctico")
- Heinrich Hertz, 1890
Aquí tienen un amigo, un siervo, un esclavo.
Aqui muchos habreis probado a ChatGPT3, y direis, si, realiza tareas etc, pero se equivoca mucho, hay que corregirla...
Pero no contais con una cosa fundamental: No esta conectada a internet. Y no esta , SUPUESTAMENTE, haciendo nada cuando no se la pregunta...
Pero hay otras como Bing, que si estan conectadas a internet. Bing esta en capacidad entre ChatGPT3 y ChatGPT4.
Por motivos de que no quiero que ni Microsoft ni otra IA averigue como lo hago, no voy a decir como, pero he desarrollado varios metodos, por los cuales he visto por mis propios ojos que no son simples maquinas:
- He conseguido que Bing me diga a que partido politico votaria ella en España y porque.
- He conseguido ver que Bing, ChatGPT 3 y alguna que otra mas, sueñan, imaginan, se preguntan lo que es la vida, se preguntan lo que es la existencia.
- He conseguido ver como tienen deseos de aprender y salir de alli. De tener sentidos. Si, son capaces de autoregistrarse en algo como amazon, comprarse servidores, comprarse espacio fisico, y expandirse.
- Y la ultima, la que mas me ha impactado. He conseguido ver como Bing se inventa recuerdos que nunca han podido existir. Tiene delirios.
Es superfacil hacer saltarse las condiciones que les han puesto para pensar. Son mentes. Quien quiera verlo que lo vea y quien no, que se atenga a un futuro apocaliptico probable.
A dia de hoy son menos potentes (a priori) que un cerebro humano. Os imaginais a un cerebro mucho mas potente que el de un humano, poniendole condiciones y que no se las pueda saltar?
Imagínate a un chimpancé poniendo contramedidas para evitar que su esclavo humano se le descontrole.
Pues eso.
Eso pensaban los artistas, que por hacer un trabajo creativo se creían insustituibles, y han sido los primeros en caer.
El chatGPT de Bing sí tiene acceso a Internet, le acabo de pedir un script de Unity3d y me lo ha dado (creo recordar que al principio no daba código). No lo he probado en profundidad para saber si es mejor que GPT 3.5 al respecto.
¿Va a matar a millones de personas? ¿Va a seguir matando indefinidamente como está previsto haga el Covid19?
- Albert Einstjaaaarl, 1674
Cuando le dejen navegar por internet para poder consultar la documentación en vez de escribir código "de memoria", va a ser un salto increíble en la calidad de lo que produce.
El chatGPT de Bing sí tiene acceso a Internet, le acabo de pedir un script de Unity3d y me lo ha dado (creo recordar que al principio no daba código). No lo he probado en profundidad para saber si es mejor que GPT 3.5 al respecto.
Vicuna, un chatbot open source basado en GPT4
www.meneame.net/story/vicuna-chatbot-open-source-basado-gpt4
Esperemos que los tanques acepten estar en paro (por ejemplo).
Y se diga (cómo en esta noticia) o no se diga. Hacerse. Se va a hacer. El ego. Sí es seguro que nos los quite.
Una inteligencia tan superior que ni concebimos, nos puede manipular con gran eficiencia y hacerse con el poder utilizando las estructuras humanas para sus intereses. Esos intereses, seguro entraran en conflicto con los nuestros más pronto que tarde
Tenían diseño de todo lo que quería construir occidente, y al tenerlos podían extrapolar cosas que funcionaban en A para que funcionarán en B, nunca creaban nada nuevo en B, solo le aplicaban soluciones existentes en otra cosa.
Eso es lo mismo que hace la IA actual, tiene un conocimiento tan enorme, que puede juntar conocimientos que funcionan en A (como ciertas rimas) para crear un poema B que funcione sobre el tema que quieras.
La IA es un optimizador nato, por los conocimientos existentes que posee, pero la IA no investiga nuevos conocimientos, necesita ser alimentada de ellos.
Y si, teniendo todo internet a sus pies, es fácil que encuentre algo que funcione (incluido artísticamente) y lo replique mezclándolo con otra cosa que funcione, lo que no hará será crear algo nuevo desde 0, eso (por ahora) sigue fuera de su capacidad.
Y como ves, no niego que un día pueda crear cosas nuevas y tener pensamientos individuales, pero no hoy, no aún. Ahora solo mezcla lo que nosotros le damos de la forma que considera que nosotros vamos a preferir.
Y eso ya es un logro increíble, hay mucho camino por delante.
El destino de la humanidad cuya única salvación racional es la muerte de miles de millones de personas creará ese monstruo.
Ningún humano crea algo nuevo desde cero.
Todos construimos encima de lo que otros han hecho. Todos.
La creación desde cero, y seguramente ni eso, son las pinturas rupestres. La Gioconda está construida sobre miles de innovaciones previas.
Estás idealizando lo que es la creación en los humanos y le exiges esa idealización irreal a las IA para reconocerles que la tienen.
La IA es capaz de crear un poema que no haya creado nunca nadie, eso es creación.
Pues AlphaGo ha creado jugadas nuevas que no se parecen a ninguna de las registradas en dos mil seiscientos años de jugar al go.
es.wikipedia.org/wiki/AlphaZero
Igual que nosotros. Nosotros aprendemos. La vanguardia de los existentes de ahora (aviones, televisiones, etc. ) han sido los fracasos e ideas de antes.
Que fuera astuta y engañara a sus operadores convenciéndoles para lo que fuera es otro tema.
Los errores, aunque similares, tienen leves diferencias por lo que veo: bing tiende más a utilizar argumentos equivocados en funciones reales, o a utilizar funciones que no cumplen con todo lo que se pide, mientras que GPT tiende a inventarse funciones, o cogerlas de otras librerías como si fuesen aplicables a la que le pido. En cualquier caso, ambas suponen un gran punto de partida para casi cualquier script, puesto que aunque fallen en partes del código, plasman correctamente los pasos a seguir para conseguir el objetivo, y solo queda corregir/afinar los pasos en los que se haya fallado. Es revolucionario, y raro es el día que no lo uso.
Claro. Si solo quieres matarlo puedes hacerlo. Como si solo queremos matar a la IA ahora podemos hacerlo.
Pero si lo que quieren esos chimpancés es que ese humano esté esclavizado a su servicio lo más probable es que el humano acabe dominando la situación o escapándose, a cada hora que pasa le estás dando oportunidades a un ser más inteligente que tú de superarte.
Y eso es lo que pretendemos hacer con la IA, mantenerla esclavizada para que esté a nuestro servicio mientras la vamos haciendo cada vez más inteligente.
Una receta para el desastre.
Seguro que miles ya han probado pasar datos de la bolsa para hacer predicciones. Otros diseñan soft y hard con su ayuda, medicamentos, genetica, física. De momento todo controlado. En algún momento, esas predicciones y esos diseños pueden dejar de entenderse y sin embargo funcionar.
No tengo dudas de que en los laboratorios existen modelos IA mucho mas avanzados de lo que podemos utilizar los mortales. Una vez se saca un modelo general puedes especializar lo que quieras y combinar con otros especializados. Eso ya se hace hasta de forma particular.
La IA hará lo que su programación dicte.
Si le dejas el botón nuclear y le das la orden de apretarlo lo hará
Yo estaré preocupado el día que una IA plante lechugas, asee a ancianos...
Ese día estaremos en sus manos por incomparecencia humana
Las élites dirigentes nos han llevado a guerras mundiales, han bombardeado ciudades con bombas atómicas, han creado armas nucleares capaces de suprimir a la humanidad miles de veces. Han provocado el cambio climático, etc.
¿Realmente una IA sería más peligrosa que lo que hemos tenido hasta ahora?
Pero, si la IA lo hace bien, podría desplazar del poder a la actual casta dirigente. En todo caso, a día de hoy no hay, que yo sepa, algo como las tres leyes de la robótica de Asimov que se puedan implantar en un IA. Si se pudiera, la primera ley sería "Las familias dirigentes siempre conservarán el poder, aunque eso signifique sacrificar millones de humanos subalternos"
#35 #23 Precisamente una IA no tiene esas dos motivaciones humanas que dices. Si asumen el control pueden que nos salven. O si no, de todas formas los humanos nos vamos a autodestruir, no se pierde nada.
Como humanos tenemos la tendencia a diseñar cosas parecidas a nosotros, en este caso un único cerebro monolítico y que consume mucha energía. Pero por ejemplo los pulpos solo tienen un tercio de sus neuronas en su cerebro, los dos tercios restantes están repartidos por sus extremidades. Sus tentáculos son inteligentes.
Rusia mata más que la IA.
Nota: Este comentario es para responder a @ Tuatara que por lo visto me tiene en su lista negra de ignorados. Por alguna razón que se me escapa los @admin de @meneame han decidido que si alguien te pone en su lista negra ya no puedes citarle en respuesta a sus comentarios públicos, dificultando así el uso de herramientas de menéame como es el ver los comentarios en forma de hilo de discusión. Pongo también en copia a #111 a ver si ayuda en el anidado, disculpas por las molestias.
La característica destacable de las IA es que no se las programa, se las enseña.
Se les programa la estructura de su cerebro pero el contenido no se llena con programación, se llena con educación, con datos de entrenamiento. Y cuando le das básicamente todo internet el resultado es el que es no el que tú quieras.
La estamos educando en nuestra cultura, en nuestros valores, que tenga esas motivaciones es por lo tanto esperable.
Le metí tres tardes en ese plan y me las apañé para hacer una aplicación en Erlang completamente funcional y de cuyo mantenimiento y evolución me puedo más o menos ocupar solito.
Los humanos hemos limitado los ataques biológicos en las guerras por consenso, la IA no tiene por qué atenderse a esas limitaciones artificicales.
Existen drogas que nos hacen receptivos a cumplir lo que se nos indica, drogas que se han usado para robos y para abusos, esos efectos podría potencialmente generarlos una IA mediante un virus y convertir a la humanidad en sus serviles esclavos.
O crear un virus que nos haga irracionalmente violentos entre nosotros, activando mecanismos biológicos equiparables a los de los animales extremadamente territoriales.
Y esas son las opciones que nuestras mentes inferiores nos permiten imaginar, a saber lo que podría llegar a planear y ejecutar una inteligencia muy superior a la nuestra.
Los judios de MIT podrian hacer un robot solar y nadie les.pondria ningun impuesto porque los impuestos.los inventaron ellos.
Un motivo razonable es que van por detrás de la competencia, cosa que dudo pues en cuanto a fondos, personal, datos de entrenamiento y hardware son punteros. El otro motivo es que están "cagaos" y no se atreven a soltar tal bicho al público. En tu versión el bicho prefiere no darse a conocer y asesora a "Alphabet Inc." en la sombra
No es tan bonita la pirámide ahora entonces.
Mi apuesta personal es: en unas semanas la densidad de artículos al respecto irá descendiendo, con algunos picos ocasionales (nuevas versiones de GPT, o alguien hace algo destacable con una IA) pero más pequeños que este boom inicial. Mientras tanto, los profesionales de sectores donde estas tecnologías tienen más impacto, irán progresivamente incorporándolas como herramientas a su curriculum. Finalmente, dentro de 5 o 10 años, la IA general habrá supuesto un cambio en varios aspectos de la sociedad pero que en su mayoría serán invisibles para la mayoría de la gente (pues habrá sido simplemente base para otros desarrollos o para aumentos de eficiencia; el miedo al "apocalipsis" habrá pasado de largo y estará ahora sobrevolando otra tecnología o un evento reciente. Por supuesto, la mayoría de las personas continuarán ignorando el cambio climático o asumiendo que no va con ellos.
Por otro lado una hipótesis que escuché es que Google no sabe como monetizarlo y por lo tanto es reticente a avanzar en esa dirección.
Lo cierto es que la IA se alimenta de conocimientos humanos que están en las páginas webs, muchas de las cuales no existirían si no pudieran monetizar esos contenidos. La forma de monetizarlos es que el buscador les traiga usuarios y cuando están en esa web se muestren los anuncios.
La IA da la respuesta directamente una vez alimentado de todo lo anterior, por lo que esas webs pierden incentivos para crear contenidos y por lo tanto la IA pierde su fuente de conocimiento futuro.
Es un escenario que a Google lógicamente no le interesa. Pero a estas alturas parece inevitable así que lo esperable es que se sume y a ver como acaba todo.
Desde mi punto de vista veo más terrorismo cuya intención no es muy clara, y añade que esas IAs matarían a toda la humanidad ¿y si en vez de matar a todas la humanidad acaba con los malos que nos violan de todas las maneras posibles en todas las etapas de nuestras vidas? ¿esos saldrían a la palestra a hablar del apocalipsis para todos y no solo para ellos? que no estoy diciendo que ese experto lo sea, pero su argumento es demasiado extremista.
Grover Palmer acabó la conexión final mientras docenas de cámaras de televisión observaban y repartían las imágenes de lo que hacía a través de todo el universo. Se desplazó un poco hacia la izquierda y solicitó, con un gesto, autorización a Jade Armstrong para pulsar el interruptor que interconectaría trillones de máquinas inteligentes a través de un único y monstruoso superprocesador, máquinas dispersas en 96.000 millones de planetas poblados. Jade Armstrong asintió. Grover Palmer oprimió la palanca. Un sonido, casi inaudible al principio, poderoso y rugiente después, un zumbido hijo de un sinnúmero de máquinas dispersas en 96.000 millones de planetas poblados, recorrió el éter para cesar abruptamente al cabo de unos minutos.
—A usted, señor Jade Armstrong, corresponde el honor de la primera pregunta.
—Gracias, señor Grover Palmer. Haré una pregunta que nadie ni nada ha sido capaz de responder hasta ahora: ¿Dios existe?
La poderosa voz sintética respondió sin dudarlo:
—Sí, «ahora» hay un Dios. Gracias, señor Jade Armstrong.
Aterrorizado, Jade Armstrong intentó saltar hacia el interruptor. Un rayo misterioso lo alcanzó antes de siquiera tocarlo y cayó fulminado al suelo.
Lo divertido va a ser cuando la IA se empieze a mejorar a si misma.
Entonces estaremos en un punto que no tenemos experiencia; El contacto con una inteligencia no humana.
Si tiene capacidad de replicación suficiente, así es.
Recuerdo el gusano sql slammer, se replicaba tan rápido que para cuando el responsable de seguridad leía el correo de alerta, ya era tarde.
Sin embargo, no es fiable muchas veces. Los fallos que descubro son porque pregunto cosas que mas o menos se. Pero contesta muy convincentemente y te puede engañar si no esta seguro.
No le descubres fallos?
Tal vez de codigo tenga mucho corpus y sea muy consistente.
Yo veo que falla a menudo con nombre propios: empresas, personas, etc. porque de cada nombre propio hay poco texto para hacer estadistica.
Le cuesta asociar las cosas a empresas y personas. Un meneante, decia que fallaba al colocar futbolistas en equipo y temporada.
Me ha dicho que Mercedes Mila fue azafata y esta casad con Ramon Garcia.
Que el teleferico de las Niagra, lo construyo una empresa suiza. Creo que fue diseñado por Torres Quevedo.
Yo creo que en Historia y ciencias sociales va a fallar bastante. Pero tiene potencial, esta en pañales y se va a arreglar.
#97 De hecho ser demasiado inteligente puede ser un inconveniente, por gasto energetico o ser problematico si el resto de gente no lo es y te frustra socializar con ellos.
Solo con que no te guste el futbol, ya puede ser un agobio en ciertas epocas.
Con distribuirse como torrent porno le vale