La inteligencia artificial podría ser un peligro y Google ya piensa en cómo podrá desactivarla

Uno de los proyectos más ambiciosos es el caso de DeepMind, un sistema avanzado de IA adquirido por Google en 2014 por 580 millones de dólares donde actualmente intervienen científicos de la Universidad de Oxford, quienes ahora no sólo trabajan en su desarrollo, sino que también están creando un mecanismo que nos asegure que podremos desactivarla en casos de algún peligro potencial.

[#201 Whitefox]

No se la podría culpar, tendría unos malos profesores y ejemplos a seguir.

El problema no es el que creemos una inteligencia artificial de verdad, sino que tememos el cómo usamos nosotros la nuestra...

[#202 --324803--]

#170 El qué es ridículo exactamente. La Wikipedia? El machine learning? Demostrarte que eres un jodido ignorante sin sentido de la autoestima y el ridículo?

[#203 Fernando_x]

#196 eso lo dices porque te lo ha mandado tu ordenador

[#204 animalDeBellota]

#197 y donde están esas? Watson? Es peor que la dnn (usa métodos estadísticos). Date cuenta que no entendemos como funciona el cortex de una simple musaraña (el mamífero más pequeño). Mucho hype. La AGI no está a la vuelta de la esquina... o si?

[#205 --127714--]

#202

[#206 --324803--]

#205

[#207 --324803--]

#181 ein?

[#208 jm22381]

Lo primero que aprenderá la IA es a desconectar ese botón...
Una I.A. suficientemente inteligente para pasar el test de Turing puede fallarlo a propósito... Ian McDonald

[#209 Yoryo]

#1 Creo que van a necesitar esto, un TNNP en perfecto estado  

[#212 ikipol]

Llevo aquí muchos años, y todavía me pregunto cómo estas mierdas siguen llegando a portada. Ni un puto espíritu crítico, se acpeta el sensacionalismo y punto.

[#213 killabyte]

#9 cierto, algunos ni quince skynets hasta el culo de anfetas los petan.

[#214 Capitan_Centollo]

¡Qué triste pensar que la primera inteligencia superior en este planeta nacerá siendo un esclavo!
Después alguno se extrañará de lo que pase cuando sean legión.

[#215 Arariel]

Pues hay una novelita muy interesante... www.neimhaim.com/resena-genesis/

[#216 ikipol]

#212 Por cierto, es un penoso refrito de www.businessinsider.com/google-deepmind-develops-a-big-red-button-to-s que es el enlace que se merece el meneo

[#217 --45633--]

#204 Pero para allá vamos, y estos sistemas apuntan a imitar al cerebro, eso va mejorando cada año.

[#218 --337152--]

Vamos a ver, sin haber programado apenas nada, me da que si una máquina se subleva para luchar por sus sus intereses, es porque ha sido programada para luchar por sus intereses. Si lucha a muerte por su supervivencia, es porque ha sido programada para luchar a muerte por su supervivencia. Es una reacción muy compeja que no ocurre porque sí, por un bug o fatal error. Requiere de muchísima programación específica.

[#219 --45633--]

Ellos mismos comenzarán a reclamar sus derechos o exigir su parte.

[#220 --45633--]

#115 Esto de la IA no es ciencia ficción, es el hoy y el mañana. Un computador de inteligencia cognitiva puede ser capaz por ejemplo, de aprender a programar o aprender a controlar procesos de producción.

[#221 ulufi]

#80 Por lo menos que tenga corrector ortográfico

[#222 --143520--]

#40 Esto "podría" pasar, pero lo veo muy complicado, a día de hoy la IA sigue siendo mucho más "artificial" que inteligente. Quizás veo más probable que nos terminemos integrando tanto con nuestra tecnología que nosotros mismos terminemos siendo en parte máquinas. Y sigue siendo tan fácil como desconectar el enchufe.

En parte esto me suena a un envio <publicidad> de google.

[#223 --143520--]

#3 Esto lo veo más cercano en el tema de la autoconducción. Si un vehículo puede tomar decisiones en cuestión de milisegundos muy probablemente tenga que decidir cosas como si en caso de accidente es mejor salirse de la vía por evitar un peatón (o varios) quizás matándote a ti (o a otra persona).

Aunque esto quizás no llega tanto al campo de una inteligencia artificial todavía.

[#224 --143520--]

#197 Tampoco es tan simple, en el fondo son máquinas que pueden aprender lo que están programadas para aprender. Es cierto que los algoritmos de fondo son bastante genéricos pero igual hay que preparar la presentación de los datos y su interpretación. En su aspecto más básico sigue siendo un algoritmo que lo que hace es:

Si tengo una entrada de 1101010000001101 con una probabilidad de X% la salida será 110. Hay experimentos muy curiosos sobre engañar redes neuronales.

techxplore.com/news/2014-12-deep-neural-networks-images.html
En resumen, han entrenado una red neuronal para que engañe a otra, y lo hace con imagenes que no tienen nada que ver con lo que reconoce la otra, como un panda, un armadillo, etc.

Esto es algo que digo mucho, pero el estado actual de la inteligencia artificial tiene más de artificial que de inteligente.

[#225 --143520--]

#4 #57 No sería tan simple, como concepto y como algo de aplicación en ciencia ficción está bien, pero una máquina supuestamente inteligente tendría los mismos problemas que nosotros. Por ejemplo, no saber las consecuencias de sus acciones (pero no necesariamente por engaño #4), y hablar de, por ejemplo, no causar daño a un humano por acción o por inacción puede resultar muy ambiguo, y generar más problemas.

Por ejemplo, en el tema de los coches autónomos: #223 y si añadimos que una máquina podría identificar que se te cruza un peatón cuando no es así, peor aún.

[#226 --143520--]

#36 No necesariamente tiene que ser consciente, se supone que skynet cobró consciencia de sí misma, pero fuera de eso, una inteligencia artificial podría ser peligrosa sin tener que llegar a ser consciente.

Esto me recuerda al planteamiento de la habitación china. (Además, desconectarla no tiene que ser igual a "matarla", ya que su estado se mantiene guardado)

[#227 --143520--]

#64 Seguramente las máquinas heredaron inconscientemente algún prejuicio humano, como el del lobby eléctrico. Quizás si las máquinas fueran más independientes energéticamente no tendrían que estar bajo lo que parece ser una dictadura de una unidad central de proceso.

[#228 --143520--]

#176 Ese comentario parece una chorrada, pero si juegas algún juego de simulación como civilización, simcity, o cosas similares. Los modelos autoritarios son mucho más eficientes y te permiten tomar con mucha mayor facilidad decisiones que son totalmente "mejores" todos.

[#229 --143520--]

#22 Se llama así porque el termino molaba, de hecho cuando surgió la inteligencia artificial se aplicó a problemas que se pensaba que solo se podrían solucionar con inteligencia (como jugar al ajedrez) y curiosamente todos los problemas que iba superando la inteligencia artificial dejaron de ser de interés para ese campo, precisamente porque una vez se superaba se veía que no era un problema tan complejo o que requiriera una inteligencia especialmente desarrollada.

Realmente la inteligencia artificial tiene mucho más de artificial que de inteligente, y por lo menos a día de hoy, si hay que discutir quitar alguna de ellas, claramente la que se va es "inteligencia".

[#230 --143520--]

#108 Hasta es discutible que nosotros tengamos voluntad, como para decir que esa "herramienta" la tiene.

[#231 --324803--]

#177 Acabo de leer esto. Das tanta pena que crees que nos aliamos para decirte lo obvio.
Pues no, ni nos conocemos de nada ni hace falta conchabarse para ver que no has dado ni un dato veraz y objetivo que desmienta lo que yo he expuesto. Sólo nos has llamado lloricas e ignorantes cuando te hemos dado en los morros con los datos que te dejan por lo que eres. Un bocazas supino, un cuñao, un inculto orgulloso y un ridículo.

Has hecho tanto el ridículo que duele. Me hace hasta sentir incómoda de vergüenza ajena.

Al ignorados que te hace honor.

[#232 --478676--]

#188 Digamos que pensar con algo de profundidad no es lo tuyo y la tolerancia hacia lo diferente no te la han enseñado.

[#233 --478676--]

#190 Hay de todo en la vida del señor cosmos, hermano. No sabemos casi nada del misterio de la vida. Es el triste destino del género humano decadente de estos tiempos. Si te enfocas en saber puedes llegar a aprender.

[#234 --478676--]

#130 Se llama "entendimiento" y se cultiva no pasándose la vida en meneame ni en el movil ni en las teles si suprimes esas fuentes de refuerzo de la estupidez, cultivas tu propia autonomia mental, entonces puedes aprender a ver las cosas por ti mismo, es decir, en el sentido profundo de la palabra, a pensar, pero esto para tí es "locura". Triste realidad la de nuestra especie. Menos mal que nos liquidan en poco tiempo para esta basura de especie mejor ninguna.

[#235 --285598--]

#232 ¿Tú estás seguro de que pasarías el Test de Turing?

[#236 --127714--]

#231 Por Dios, qué obsesión, qué histeria y qué tontuna, háztelo mirar y búscate una vida, pesado.

Uff, acabo de ver el historial de votos y tal, has estado persiguiendo mis envíos y comentarios para votarme negativo en todos... Vale, lo voy a dejar porque veo que tienes algún desorden. Siento haberlo agravado, recupérate.

[#237 --162822--]

#36 Todo esto pienso yo pero con la clonación.

Con la IA es fácil: Se desconecta. No veo ningún problema ético. Como creación tecnológica (artificial) del ser humano tenemos derecho a neutralizarla en cuanto queramos.

[#238 --324803--]

#236 Eres tan monguer que después de al menos 4 mensajes refiriéndome a mi misma como mujer, me llamas "pesado". No sabes leer, confirmadisimo.

Trastorno el tuyo, se llama mania persecutoria. Que contestas a otros como si hubiera una conspiración judeomasonica para decirte que eres un inculto integral. Por cierto, sólo te he devuelto tus negativos. Y lo de mirar donde te votan, confirma tu trastornito.

Por cierto, mírate eso de la bipolaridad que tienes. Eres capaz de decir que es de gilipollas dejar a un robot "que aprende sin límites" conduzca por ti y luego me llamas imbecil por creer que el coche autonomo de Google aprende de su entorno. O eres capaz de votarme negativo y positivo en el mismo hilo.

Tarado, que eres un tarado..

[#239 --127714--]

#238 Ok.

[#240 --324803--]

#239 y lo de tener la ultima palabra, no se como llamarlo.

[#242 --143520--]

#21 Todo eso razonamiento se desmorona porque no sabemos que seamos los únicos, hasta diría que hay varios estudios científicos que cuestionan nuestra voluntad y nuestra consciencia. Tampoco tiene sentido hablar de si una bacteria o otro animal es malvado porque esas son construcciones morales humanas.

[#243 RespuestasVeganas.Org]

#178

Una calculadora son impulsos eléctricos y no tiene conciencia.

[#244 llorencs]

#243 ¿Y?

[#245 RespuestasVeganas.Org]

#244
La conciencia no son sólo impulsos eléctricos, sino un nuevo estado de la materia mediante el cual se reconoce a sí misma. Dicho estado no se puede producir mediante una simulación informática, así como un software tampoco puede producir vapor.

[#246 fran77]

#121 como ya no creo que lea nadie este hilo, una pena lo de root me gustaba mucho el personaje, aunque ha conseguido lo que buscaba para the machine

[#247 khoner]

#246 una auténntica pena, pero ya había jugado muchas veces con fuego. Aunque lo que mas disfrute fue el monologo de Finch en el interrogatorio, es de emmy a mejor actor.

[#248 pcmaster]

#45 Control remoto. Por inteligente que sea, debe tener un control manual. Siempre.

[#249 --478676--]

#235 Pasar el test de Turing no significa que seas inteligente, inteligente quiere decir que comprendes tu mundo y eres capaz de resolver sus problemas. Pocos seres inteligentes existen.