83 meneos
3368 clics
Este envío tiene varios votos negativos. Asegúrate antes de menear
Dilemas morales y experimentos mentales: el coche sin conductor
Uno de esos dilemas que tanto nos gustan por las capas y capas de análisis que plantean de una forma extremadamente simplificada y fácil de entender: "Vas por la carretera a bordo de tu coche sin conductor, uno de esos supermodernos que negocian los obstáculos y son capaces de reaccionar ante cualquier cambio...
|
comentarios cerrados
Antes están las de la selección natural de Darwin. Si un niño cruza la carretera sin mirar ... Selección natural.
La primera dice que un robot no puede hacer daño a un ser humano, pero tampoco permitir que por su inacción un ser humano sea dañado. Cualquiera de las dos opciones violaría la primera ley.
En todo caso podría echar mano de la ley zero, por la que se puede permitir violar la primera ley en favor de la humanidad, con lo que es probable que salvara al niño que es al que en teoría le queda más por vivir y más por aportar a la humanidad.
Fin del desvarío.
Antes están las de la selección natural de Darwin. Si un niño cruza la carretera sin mirar ... Selección natural.
Yo no veo ningún dilema moral, se prioriza al máximo la integridad del pasajero porque el robot/software no estaba violando ninguna ley. El robot/software debe es tratar de minimizar el daño en la colisión frenando, pero si el crío se muere, mala suerte para el crio porque violó la ley.
Creo que la wikipedia lo explica mejor de lo que yo puedo explicarlo antes de que me haga efecto el café de hoy:
Posteriores desarrollos en la robótica, permitieron la construcción de circuitos más complejos, con una mayor capacidad de autorreflexión. Una peculiaridad de los robots es que pueden llegar a redefinir su concepto de "daño" según sus experiencias, y determinar niveles de éste. Su valoración de los seres humanos también puede ser determinada por el ambiente. Es así que un robot puede llegar a dañar a un ser humano por proteger a otro que considere de más valía, en particular su amo. También podría darse el caso de que un robot dañara físicamente a un ser humano para evitar que otro sea dañado psicológicamente, pues llega a ser una tendencia el considerar los daños psicológicos más graves que los físicos. Estas situaciones nunca se hubieran dado en robots más antiguos. Asimov plantea en sus historias de robots las más diversas situaciones, siempre considerando las posibilidades lógicas que podrían llevar a los robots a tales situaciones.
¿El niño violo la ley? ¿que ley? el enunciado solo dice que el niño se encuentra de repente en el tunel, no da mas datos, no inventes datos que no dan para justificar tu decision.
Pero igual soy yo que soy un poco moñas. Al fin y al cabo me pongo nervioso si yendo con la bici veo una paloma en medio de la carretera por si le da por no apartarse.
Obviamente no hablo de conspiraciones en las que los directivos de las aseguradoras amenacen a los fabricante de software para conseguir ese objetivo, nada más lejos de la realidad. Basta con que los seguros por accidentes sean más baratos en aquellos coches que cumplan los requisitos que marquen las aseguradoras.
Así el mercado tendirá a producir software que sepa cuantificar el valor monetario de las vidas y elija la del valor menor.
Asi pues, la opcion seria maximizar la seguridad de los ocupantes y minimizar en lo posible los daños a los demas.
Ademas, ¿Quien compraria un coche autonomo que "te mata" para salvar a quien comete imprudencias?
No te ofendas pero eso únicamente funciona de forma efectiva para la gente que tenga poca empatía, para los psicópatas. El resto de ciudadanos sentirán remordimientos durante toda su vida por haber matado a un niño, a quién además al no conocerlo en absoluto podrán idealizarlo hasta tal punto de sentirse culpables por matar al niño más bueno que ha existido nunca.
Por contra si tú mueres en el accidente por culpa del niño, especialmente si es de edad temprana, éste no tendrá remordimiento alguno. No por que sea mala persona sino por la misma razón por la que estaba en la carretera cuando no debía, por no ser plenamente consciente de las consecuencias de sus actos.
En otras palabras. Es divertido debatir respecto esas leyes,con una cerveza en la mano y tal, pero los robots/drones se la sudan esas leyes. Van a hacer todo lo que les ha sido programado, ni mas ni menos. Punto. Si el que les ha programado les ha dicho ve y mata, ellos irán y matarán.
Como dice #9, el dilema esta en; ¿ Aceptarías comprar un coche que estará dispuesto a sacrificarte a ti, en pro de evitar un daño mayor ?.
Eso es por que te falta información. El coche sí podría calcular con mayor exactitud las probabilidades de tu supervivencia y las del niño.
#22 ¿ Aceptarías comprar un coche que estará dispuesto a sacrificarte a ti, en pro de evitar un daño mayor ?.
Dependiendo de los descuentos en el seguro de accidentes
1) Sigo recto y me estampo contra una parada de autobús en la que hay 8 personas.
2) Giro a la derecha y me estampo contra un muro de hormigón.
Es difícil discernir con fiabilidad si esas 8 personas morirían o no. O si tu morirías o no. Pero si es evidente que pones en riesgo la vida de 8 personas, o la de 1.
El coche ha de proteger a sus ocupantes siempre.
Si fuera yo el conductor, si viajase sólo y tuviera el volante en mis manos, quiero creer que me la jugaría para no atropellar al niño. De hecho creo que en cuanto ves un niño delante, el giro es instintivo.
El problema viene cuando no voy sólo en el coche. Si mi hijo fuese en el asiento de atrás, lo sentiría mucho por el niño, lo lloraría, aceptaría las consecuencias, pero no habría hecho nada que pusiese en peligro la vida de mi hijo.
¿creeis que el echo de que el sistema me diera un 50% de sobrevivir contra el muro y un 0.00.1 del niño,me va a ayudar a sobrellevar el dolor de la muerte que he causado?
Yo creo que en la situación propuesta el coche debería atropellar al niño. Porque.. ¿qué diablos hace un niño cruzándose de repente dentro de un túnel? No es muy normal.. se aplica la ley de Darwin.
Pero vale, hay otras situaciones más complejas como algunas que se proponen en los comentarios, no tengo ni idea de qué debería pasar, la idea de randomizar la decisión que comenta el artículo no la conocía, es curiosa.
www.meneame.net/b/2253947
El que muere es el niño que está donde no debiera, como si fuera un grupo de bebés y no un niño.
Si fuera un autobus lleno de gente, no habría dilema moral (salvo que se meta por error en la cabalgata de reyes o así).
NADIE seguiría recto y atropellaría al niño a sabiendas.
Otra cosa es que intentaras girar poco, evitarlo sin más para no poner tu vida en riesgo...Matices
En uno de los dialogos con la cientifica que diseña los robots, esta le dice que el robot tomo la decision mas correcta porque el tenia un mayor porcentaje de sobrevivir, pero el comenta "Un 2% es suficiente para un niño pequeño, un humano lo hubiera sabido".
seguro que a mas de un meneante le importara poco poner en riesgo la vida de un niño, una monja o siete premios novel en una parada de autobus..... pero seguramente, le aterrara poner en riesgo la vida de un gatete....
p.d.: NO, no atropello niños.
En un mundo donde todos los vehículos son de este tipo. Deberían poder comunicarse entre ellos en caso de emergencia. Y el coche que detecte el peligro mandar una señal a todos los demás vehículos por cercanía.
Una vez recibida la señal estos pararían y el coche podría esquivar al niño sin chocarse con el coche que viene de frente. En mi opinión el coche siempre debería hacer todo lo posible por evitar matar a nadie y si no es posible, siempre debe optar por proteger a su dueño. Ya que no tiene manera de saber quien va dentro del coche.
Y dejar a un niño en un túnel por donde pasan coches....a sus padre hay que darles 2 ostias.
De todas formas este tipo de vehículos estoy seguro que salvarían más vidas de las que quitarían.
(era el viaje de ida a buscar a mi hermana)
Si mi hermana pequeña hubiera ido en el asiento trasero, estoy muy seguro que la señora vuela unos cuantos metros y yo no me juego la vida de mi hermana.
Yo quisiera que un "piloto automático" que llevara a mi hermana actuara así.
¿ Veo que ha tenido un accidente, esta seguro que quier activar el airbag ?
La idea es que el coche tome la decisión, no que pida permiso.
"Porcentaje de favoritismo a los ocupantes en caso de accidente"
Si no es capaz de ver venir al niño o llevaba excesiva velocidad y el sistema aún es malo para implantarlo.
Resumiendo, creo que tanto por moral hazard (no perjudicar al que infringe una norma) como por Darwinismo (salvar a un individuo que elige cruzar ilegalmente delante de un túnel, y que encima se tropieza) como por pragmatismo (quien se va a comprar el coche si éste no toma siempre la mejor decisión para sus ocupantes) creo que lo más apropiado es que muera el niño.
Vete a la mierda, hombre.
PD: te aseguro que si alguien comete el error de cruzar la carretera cuando no debe lo último que voy a sentir son remordimientos. Porque no lo he matado yo, se ha matado él. Otra cosa muy distinta sería si lo atropellase en un paso de cebra, pero no estamos hablando de ese caso.
#63 Le salvaría la vida, pero el puro que le caería cuando el coche registre el accidente en la base de datos, muestre las causas y saque una foto e identificación del imprudente de turno le quitarían las ganas de volver a hacerlo. Vamos, que el de dentro del coche se llevaría la ostia, pero también una compensación por daños y perjuícios, el de fuera no se saldría de rositas.
Esta es una variante robótica de un dilema moral clásico, explicado muy bien en la charla de Michael Sandel "What's The Right Thing To Do?"
www.youtube.com/watch?v=kBdfcR-8hEY
"PART ONE: THE MORAL SIDE OF MURDER
If you had to choose between (1) killing one person to save the lives of five others and (2) doing nothing even though you knew that five people would die right before your eyes if you did nothing—what would you do? What would be the right thing to do?"
La respuesta es... que no hay respuesta. Y si nos encontramos ante un dilema moral que los seres humanos no son capaces de discernir, de verdad esperamos que los robots lo resuelvan?
Leyendo a Isaac Asimov queda claro cómo se desarrollan las leyes de la robótica y el por qué hay una ley 0, que es la supervivencia de la humanidad ante todo. Un robot consentiría un genocidio si piensa que la humanidad sale ganando, o en el caso de arriba, salvaría una persona buena en lugar de dos malas.
Otra contradicción de la pelicula es la sobreaplicaciòn de las leyes hecha por el super-ordenador, ya que llega a matar humanos violando la primera ley y aplicando la ley cero sin autodestruirse.
#70 Eso no es asì, la aplicación de la ley 0 se basa en calculos de futuro, y Asimov deja claro que es algo muy sutil y que no se permiten grandes cambios, solo pequeños ajustes para salvaguardar la integridad del robot.
Ya que no tiene manera de saber quien va dentro del coche.
Y sabe que lo que hay dentro del túnel es un niño y no un enano anciano o un niño de cartonpiedra.
Ante 1 niño q cruza ilegalmente...Gira o no?
Y si son 2 niños.
..
..
..
x niños?
Qué valor tiene que tomar x para q el coche decida una cosa u otra?
Si gira a la dcha, hay una parada de autobús con 1 peaton. Gira hacia ahí?
2 peatones
..
..
..
n peatones?
Qué valor tiene que tomar n para q el coche decida girar o no hacia ahí?
Si gira a la izda, te caes a un barranco, muriendo. Gira hacia ahí?
2 pasajeros
..
..
..
z pasajeros?
Qué valor tiene que tomar z para q el coche decida girar o no hacia ahí?
Y si llegamos al caso en que cruzan x niños, a la dcha hay n peatones y en el cochen van z pasajeros...Qué decision tomaría el coche?
Daño te haces de las dos maneras, pero he probado ambas y te aseguro que la primera suele ser bastante menos dolorosa...(para el conductor)
Moraleja: Zas!(colleja) Mira ante de cruzar niño!!!
Te pondré un ejemplo claro. Matamos a un chico jovén de unos 20 años. Aprovechamos su corazón, sus dos riñones, sus pulmones, su hígado, ojos, huesos, pelo, etc. Y con eso salvamos a 10 personas.
Balance: un muerte vs 10 salvaciones = +9 a favor del máximo bien común.
Como verás muy ético no es.
¿Psicópata? No, veo el cuadro mucho más grande.
Y este "dilema moral", se da actualmente:
1. ¿Es preferible frenar y tener una colisión frontal con altas posibilidades de matar al niño manteniendo el control del coche o giro algunos grados hacia una dirección convirtiendo el coche en un bólido que va a 60km/h sin control alguno generando las preguntas 2. 3. y 4?
2. ¿Y si al girar colisiono con N peatones? ¿Y si me estrello contra un vehículo que transportaba X niños?
3. ¿Y si tengo como pasajero a una mujer embarazada?
4. ¿Y si colisiono con un camión que lleva productos químicos explosivos o tóxicos?
Y podemos dar una razón a esa actitud, podemos decir que de seguir recto sabes con certeza que ese niño morirá y que si intentas evitarlo entras en un ámbito de riesgo pero no de certezas, las respuestas a esas preguntas que te haces no tienen una respuesta fija sino que hay grados de riesgo.
Pero lo cierto es que dudo mucho que ante esa situación, donde los tiempos de reacción son ínfimos, actúes en base a un análisis racional de la situación. Y lo que dudo muchísimo es que no hagas absolutamente nada para evitar la colisión y muerte segura de ese niño.
Eso es lo humano.
Y con ello nos enfrentamos al problema de fondo, que es que cuando deleguemos nuestra decisión a una máquina ¿queremos que esa máquina "decida" de forma fría y calculada o tal como lo haría un "humano"?
Hacerlos fríos y calculados, con reglas firmes que podamos comprender, puede que nos permita "entender" el accidente. Poder decir que la máquina no giró por qué tal o cual algoritmo daría cierto consuelo a muchos, más que no poder explicar por qué ese coche en concreto hizo lo que hizo.
Pero cuando esas decisiones nos afectan a nosotros directamente, por ejemplo si hablamos de un robot niñera que cuida de nuestros hijos cuando no estamos presentes, ¿querremos que actúe de forma fría y calculada o como lo haríamos nosotros si estuviéramos allí? ¿O como lo haría otra persona distinta a nosotros si estuviera allí?
No creo que sea en absoluto fácil responder a esas preguntas.