Son las grandes empresas las que están desarrollando estos sistemas y lo hacen de acuerdo a sus propios objetivos: vender y generar beneficios a través de manipular a las personas. Debemos crear una IA que mejore la naturaleza humana y no al revés
|
etiquetas: ia , corporaciones , manipulacion
es artificial pq es una maquina y es inteligente porque toma las decisiones mas utiles en un entorno especifico
ahora imagina lo k sucederia si esa inteligencia tuviera acceso al resto del planeta y comenzara a tratarlo como si fuera la fabrica.... todo absolutamente todo lo que hay en el planeta se optimizaria para crear grapadoras e incluso podria evolucionar para mandar grapadoras al espacio en busca de mas materiales para crear mas grapadoras
es artificial pq es una maquina y es inteligente porque toma las decisiones mas utiles en un entorno especifico
ahora imagina lo k sucederia si esa inteligencia tuviera acceso al resto del planeta y comenzara a tratarlo como si fuera la fabrica.... todo absolutamente todo lo que hay en el planeta se optimizaria para crear grapadoras e incluso podria evolucionar para mandar grapadoras al espacio en busca de mas materiales para crear mas grapadoras
es.wikipedia.org/wiki/Los_cangrejos_caminan_sobre_la_isla
www.sisabianovenia.com/LoLeido/Ficcion/DneprovCangrejos.htm
Solo espero que la IA no sea tan HDLGP como ciertos humanos.
Es un ejemplo muy utilizado entre los IAlarmistas, Bostrom, Russell, ...
Toca spam de un cuentucho mío.
lacosagris.wordpress.com/2014/04/08/lo-lacteo/
El inacabable ingenio humano ha conseguido que conseguir leche fresca no sea una lucha a muerte sino un simple trabajo manual o incluso una tarea automatizada a cargo de poderosas máquinas y computadoras que trabajan por el beneficio de la civilización.
En Japón han ido más allá aplicando los máximos avances en inteligencia artificial. Allí las vacas son criadas por robots autónomos que buscan la máxima eficiencia más allá de valores morales o de visiones cortoplacistas e inocentes.
La programación de esas factorías lácteas las dirige inexorablemente al exterminio de la raza humana, los niños necesitan saberlo si quieren vivir en el mundo del mañana.
Un mundo sin prados ni rebaños, solo una máquina de escala planetaria en la que las vacas son ordeñadas y los hombres se esconden en la oscuridad.
Un mundo dominado por máquinas que nos ven como un obstáculo en su proyecto por la perfecta producción de leche.
#5 uno de los mejores relatos de ciencia ficción jamás escritos.
Ah, porque a la naturaleza se la viola, se la explota y el dia que no quede nada la culpa será de ella.
En esta novela se habla de IAs a las que se les da entidad jurídica al mando de empresas, el resultado es una distopía absoluta.
Y sí, es innegable que comparativamente con el pasado, ahora estamos mejor que nunca. Y no es menos cierto que cada vez le cuesta más a un individuo hacerse valer en el mundo competitivo, donde cada vez hay que ser mayor coleccionista de títulos, años de experiencia y conocedor de mil y una historias para llevar a cabo trabajos hasta de lo menos cualificado. Un disparate de principio a fin.
waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
Una historieta muy parecida aparece en la segunda parte.
¿Es la IA realmente el peligro? creo que no, el problema es son las técnicas que se han ido desarrollando, la IA es una herramienta más que la puede llevar a otro nivel.
¿Que solución habría? El desarrollo desde edades muy tempranas del pensamiento crítico, pensamiento lógico y conocimiento de los distintos tipos de falacias...así como conocimiento de las técnicas de persuasión que se aplican en el 'mercado'. Un ciudadano armado con dichas herramientas se convertiría en un objetivo mucho mas dificil ya sea para IAs, politicos o telepredicadores
Aquí una definición (aunque puede haber algo de controversia sobre lo que es la inteligencia y cómo definirla) :
Inteligencia:
Facultad de la mente que permite aprender, entender, razonar, tomar decisiones y formarse una idea determinada de la realidad.
Si nos vamos a la definición literal, la mente es una parte de un ser humano, y la inteligencia es "una facultad de la mente"... así que por definición nada que sea artificial podría ser inteligente.
Bueno, creo que es evidente que las definiciones suelen limitadas, o se quedan obsoletas, etc... Si quitamos eso de "de la mente" o ampliamos la definición de "mente" quedaría:
" Facultad que permite aprender, entender, razonar, tomar decisiones y formarse una idea determinada de la realidad."
Con esta definición quizá podrías pensar que si puede "tomar decisiones" entonces piensa y hace lo que le da la gana y no lo que otros quieren... pero no tiene por qué ser así. ¿Qué es una decisión? "Determinación definitiva adoptada en un asunto." Es decir, que decidir es evaluar diferentes alternativas y elegir una. El detector automático de SPAM de Gmail está continuamente "decidiendo", tomando "decisiones"... y eso no significa que piense lo que quiere ni que haga lo que le de la gana.
Y podemos ir más allá: hay quien duda que la mente humana sea libre totalmente. Está condicionada por muchos factores: lo que percibe, las costumbres / tradiciones del entorno, los instintos, etc.
Veamos un ejemplo: lo que percibes (ves, oyes, etc) te limita... Por ejemplo, estás es el Polo Norte y todos los osos que has visto son blancos. Tu mente asocia a los osos, todos los osos, con el color blanco. Entonces, tu pensamiento está condicionado por haber visto únicamente osos blancos, si hubieses visto osos pardos sabrías que existen de otros colores y tu pensamiento cambia.
Otro ejemplo: los instintos. Tienes hambre y encuentras un alimento de un olor y aspecto muy apetecible. Según tú, el ser inteligente puede pensar lo que quiera, pero tu instinto te hace pensar en desear ese alimento y en desear comerlo. Puedes resistirte a la acción de comerlo, pero no a pesar en comerlo y desearlo.
Del mismo modo, una máquina puede tener programados unos "instintos", un "objetivo"... por ejemplo, ganar en el juego del Go pero dejando abierto el cómo llegar a ese objetivo. Le dicen a la máquina lo que tiene que conseguir, su objetivo, y cómo aprender (de otros jugadores, de partidas imaginadas, etc) y con eso sería capaz de tomar decisiones: qué movimiento hacer en la partida en función de lo que haga el otro jugador. Esta máquina no piensa lo que le da la gana, piensa según lo que tiene programado en su instinto, lo que otros quieren que piense / que consiga. Aún así, es inteligente, tiene las cualidades de la inteligencia: aprende, entiende, razona, forma una idea de la realidad y toma decisiones. No puede "pensar lo que quiere" ... ni el humano tampoco.
Veamos un ejemplo: 'IA: maximiza como sea el precio del trigo'.
En base a la información que la IA puede procesar en internet. ¿Qué sucesos podrían reducir la oferta de trigo en el mundo e incrementar su precio?
Algunas opciones:
-Que se inunden cosechas (abramos compuertas de embalses)
-Que se declare una guerra entre países productores (fabriquemos noticias falsas o lancemos unos misiles por aquí y por allá)
-Que se paralice el transporte marítimo (estropeemos unos cuantos sistemas de navegación o portuarios)...
Vale sí, que aún estamos lejos de eso y tal.
Es gracioso que usen un argumento así. Sustituye mercados capitalistas por Estados socialistas y tienes un Gran Hermano orwelliano controlándote 24/7
El peligro real son los humanos manipuladores que con la llegada de la AI temen perder poder político y quedarse en la calle, miedo a perder el control sobre otros humanos al gestionarlo todo las máquinas de manera mucho más eficiente.
#33 cierto que estamos lejos. Nos cae a miles de kilómetros.
#37 el gran hermano controlando todo ya lo tienes. Ya has visto las revelaciones de Snowden.
Sin unos "padres" que la eduquen en empatía y diferenciar el bien del mal, entre otras cosas, puedes crear una IA que se comporte como un niño egoísta y manipulador de 4 años pero con un gran poder.
Te falta lo más importante, la demanda, debe ir de la mano para que la máquina no haga grapadoras para 3 siglos.
Si la respuesta es sí, que triste.
¿cuál definición?
#23 Superintelligence es de Nick Bostrom:
Superintelligence: Paths, Dangers, Strategies g.co/kgs/HEPMmD
Por cierto, en formato audio es horrible, un truñaco. El libro es una maravilla.
En otros comentarios ya se ha dicho cosas similares a que un entrenador puede querer un sólo objetivo a cualquier precio y la IA decida, por ejemplo, que la raza humana es prescindible para lograr ese objetivo.
Una "madre" le ensenaria, por ejemplo, que matar está mal y a que se conformase con un objetivo menor aunque suficientemente satisfactorio.
Obviamente no va a haber una madre física con la zapatilla, pero con la de Asperger no diagnosticados que hay en menéame igual alguno se ha creído que habla de madres de verdad
La mente... ¿Es algo que es inherente al ser humano? ¿Entonces cómo leches se puede detectar si hay mente en algo que no sea humano? ¿De verdad no consideras al resto de mamíferos como que tienen mente, sea esta más o menos desarrollada?
Ningún escoces verdadero: si tienes mente eres humano, si no eres humano no puedes tener mente aunque todo indique que comportamiento y funcionamiento sea idéntico al humano.
Y a partir de ahí.
Si vas por ejemplo al DRAE, conocidos por ser unos vejestorios alejados de la teconología y tal y cual y Pascual resulta que ni en inteligencia ni en mente te quedas atascado en los humanos, pudiendo explicar por ejemplo frases como "mente colmena", o "este perro es muy inteligente, sabe abrir puertas" (aunque, mucha gente diría listo en lugar de inteligente):
Inteligencia:
1. f. Capacidad de entender o comprender.
2. f. Capacidad de resolver problemas.
3. f. Conocimiento, comprensión, acto de entender.
5. f. Habilidad, destreza y experiencia.
De esta forma un algoritmo o mecanismo puede ser más o menos inteligente, según su capacidad para resolver problemas (expresión utilizada muy habitualmente).
Mente:
1. f. Potencia intelectual del alma. <-Aquí tenemos también connotaciones religiosas, y esta definición da a debate (¿Por qué se dice en cuerpo y alma?), pero aún queda donde escoger.
2. f. Designio, pensamiento, propósito, voluntad.
3. f. Psicol. Conjunto de actividades y procesos psíquicos conscientes e inconscientes, especialmente de carácter cognitivo.
Lo curioso es que esto que he puesto te deja llegar exactamente a las mismas conclusiones y dudas que has llegado. Así que no entiendo por qué has partido de ahí.