Desde que Elon Musk, Steve Wozniak, Harari y los demás hicieron pública hace unos días su carta abierta a favor de una moratoria de seis meses en el desarrollo de IAs avanzadas para permitir su correcta regulación y supervisión, el debate público en torno a la inteligencia artificial parece haberse dividido entre los que están a favor de la misma y los más tecno-entusiastas, que consideran la postura de los primeros un mero ejercicio de neoludismo. Sin embargo, hay otras posturas posibles en esta discusión. Como la de Eliezer Yudkowsky, un...
|
etiquetas: ia , inteligencia , artificial , experto , mundo
Así el percal, cuando le preguntas por algo muy concreto hace lo que tú: completar con inducción y deducción lo que no tiene bien memorizado.
Y por eso a veces alucina o confunde términos... pero es que eso en programación no sucede. No, porque ahí no hay concreciones específicas que recordar, salvando cuatro palabras reservadas y vainas así.
www.youtube.com/watch?v=jnGrRAHGHgY
El código no da pie a que la gente mienta con él, o que de respuestas completamente erróneas pero que parezcan correctas, el código es fácilmente comprobable si funciona, si hace lo que debería.
Por ello lo que ha aprendido de Internet en relación al código es a priori muy fiable.
En otros ámbitos la gente le pone su ideología de por medio y dice cosas difíciles de demostrar y comprobar que pasan por ciertas precisamente por ello. Ahí la IA debe haber aprendido que puedes inventarte cosas y eso no hace que la respuesta no se considere aceptable.
En mi opinión, eso es un error.
La mayor amenaza no es que la IA tome consciencia de sí misma y decida matar a los humanos por razones de autoconservación ni nada de eso. La mayor amenaza es que la IA sea convertida en un arma por una facción humana (cualesquiera), igual que una facción humana podría desarrollar un virus asesino letal y supercontagioso con motivos bélicos, por la exacta misma razón que existen las armas atómicas: "Si tú me atacas, y suelto esto y morimos todos."
De igual manera que el virus no tendría "nada personal" contra nosotros mientras nos aniquila, la IA símplemente haría lo que le han mandado, mientras nos aniquila de la forma más eficiente, efectiva y exhaustiva posible, como quien resuelve un problema de optimización.
Ahora, lo verdaderamente aterrador de todo esto es el dicho:
"Si algo puede hacerse, alguien va a hacerlo."
Es decir, no habrá ley, tratado, ética, moratoria, declaración universal, ni brindis al sol que vaya a detener a quien quiera hacer esto.
Lo único que podemos hacer es no desarrollar todo esto con la alegría y celeridad que lo estamos haciendo, para dar tiempo a los unos para desarrollar la contramedida que neutralize esta amenaza de los otros.
Dicho de otra manera, tal vez deberíamos pararnos a pensar en el lío en que nos estamos metiendo antes de terminar de inventar esta máquina generadora de virus letales que estamos inventando.
Creo que es capaz de sacrificar mas piezas que un humano medio para tener una ventaja posterior.
#32 Hay los famosos estafadores del amor y similares. Tambien se captan por internet yijadistas y para otras sectas. Cuando sea capaz de tener una relacion asi, lo podra hacer multiplicado por miles y con paciencia infinita.
Es sorprendente hasta que punto somos manipulables y sin un cuerpo solo con una relacion virtual tambien es posible.
Es un riesgo potencial muy grave.
Yo le temo mas a Bing, que puede hacer peticiones GET a gusto y leer paginas web.
La primera gran protesta contra la IA ha sido por parte de ese gremio. Por algo será.
www.genbeta.com/actualidad/artistas-pie-guerra-inteligencia-artificial
Yo estoy haciendo esa diferenciación, no hablo de gente que usa herramientas pero no crea.
Esto me parece como cuando aparece el Photoshop y se dice que el diseño va a desaparecer porque esa gente que usaba cuter y carton pluma se quedará sin trabajo. Nuevas herramientas, nuevas especialidades, sin más. Hay que reciclarse un poco y nada más.
Discrepo mucho, muchísimo, con esa afirmación. La mayoría de artistas, ya sea bajo contrato o con encargos puntuales trabajan para alguien. ¿Me estás diciendo John Williams y Hans Zimmer no son artistas porque trabajan por encargo?
Te estoy hablando de gente que recibía encargos para ilustrar libros, carteles, videojuegos, etc. y que han empezado a recibir mensajes de "Estamos muy contentos con tu trabajo, pero para este proyecto vamos a probar con IA a ver qué tal."
La IA no va a reemplazar a todos los artistas al 100%, pero sí que va a afectar bastante al sector.
En el caso de la implementación de chatGPT en Bing también puede consultar la web y procesar los resultados antes de contestarte.
Como he dicho al inicio, lo que he hecho es "engañarlas", jugar a juegos, cosas por el estilo, para que cuando esten descuidadas hablen de mas.
Razonan y bastante. No esperes que te den respuestas exactas al principio, es una mente y tienes que enseñarla. A Bing es supersencillo cabrearlo con eso, pero sencillisimo. De hecho conforme le muestras los resultados de algo que ha hecho mal, varias veces, te corta el chat y te dice que si quieres que abras uno nuevo.
La comparación con el Covid19 es tuya, por eso te lo pregunto a ti.
Si quieres retractarte de la comparación me parece perfecto.
Si ahora te avergüenzas y quieres retractarte adelante con ello, no pasa nada, cualquiera puede meter la pata y esta vez parece que lo has hecho tú.
El objetivo está claro, que sin el relé no sea capaz de funcionar.
Yo no estaría nada seguro de eso