Justo ayer estuve escuchando un postcast sobre el tema y el conflicto entra en cuando hay que tomar decisiones que impliquen vidas humanas. ¿Salvamos al conductor o atropellamos a inocentes? Por mucho altgoritmo que lleven, esto implica responsabilidad jurídica y terminará afectando a alguien en concreto.
Pues muy mal, el coche de Google no debió quedarse parado si podía avanzar sin riesgo reduciendo así el peligro para el coche trasero que estaba cometiendo una imprudencia.
Es obvio que el coche de Google no cumple la primera ley de la robotica:
1. Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
#1 Las aseguradoras tienen muy claro qué vidas tienen más valor que otras, con incorporar sus algoritmos a los coches éstos ya se encargarán de solo matar a gente de raza negra y pobre.
#1 "¿Salvamos al conductor o atropellamos a inocentes?"
Como juego teórico está bien pero esto es casi imposible que pase por tres motivos:
a) El conductor (sobre todo si es una máquina) ha de ser prudente. En ese aspecto el accidente ya ni se da
b) Normalmente las soluciones en caso de peligro consisten en detener el vehículo, lo que salva tanto al conductor como a los demás. No son intereses enfrentados casi nunca, son los mismos
c) No hay absolutos, es muy difícil una situación en donde solo tengas dos opciones y una claramente mate al conductor y otra claramente mate a los inocentes
Imaginemos por ejemplo que un coche automático se encuentra con la siguiente situación: Va por una calle de un solo carríl y con aceras y se encuentra con un vehículo aproximándose en dirección contraria a toda velocidad. ¿Que hace? Detenerse.
No invadirá las aceras por que no va a tener codificadas todas y cada una de las situaciones posibles.
Es que es de cajón, no sé dónde está el descubrimiento.
Una máquina falla cuando tiene un error de hardware, o cuando se ha programado mal (que estrictamente es un fallo humano, pero bueno).
Una persona falla periódicamente, de forma más o menos aleatoria. Cuando se despista, cuando ha dormido mal, cuando le entra una mota en el ojo, cuando quiere cambiar de emisora de radio...
Basta ver que el 70% largo de accidentes de coche se deben a un error humano. Con un coche autónomo, te quitas todos estos de un plumazo, y aunque se añadan otros tipos (por fallos de software, por ejemplo), es difícil que el total sea superior por mínimamente bien hecho que esté el sistema.
#16 Bueno, un coche autónomo se supone que es un pelín redundante, y si a algún gracioso le da por repintar la carretera no tendría por qué pasar nada, para eso estaría, por ejemplo, el GPS, que detectaría que se está saliendo de la ruta. En cualquier caso, los coches autónomos empezarán por entornos controlados, como las autopistas, en las que hay poco riesgo de que pase algo así.
Por otra parte, basta mirar los periódicos para ver que "graciosos" que cuelgan cables en medio de las carreteras, quitan señales o hacen todo tipo de barbaridades ya los tenemos a patadas, y provocan un buen número de accidentes al año. De eso no nos vamos a librar.
#17 Como vayan por GPS, cada coche se lleva unas decenas de multas al día por giros y cambios de sentidos prohibidos, además del riesgo de accidentes que provocarían
#20 La gracia es no usar sólo una cosa, sino combinar varias técnicas. Por ejemplo, además del GPS cualquier coche modernillo de hoy día sabe detectar señales y cambios de carril, por lo que cosas así serían detectables.
Por no hablar de que el día que los coches conduzcan solos, no se podrá ser tan laxo con el tema de los mapas como ahora, que conducimos con mapas de hace 4 años y tan panchos. Teniendo en cuenta el peligro (y el riesgo de demandas si los mapas están mal), ya se cuidarán los fabricantes de que los mapas estén detalladísimos al minuto, hasta con las obras de la esquina.
Es obvio que el coche de Google no cumple la primera ley de la robotica:
1. Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
si fuese un coche manual, también lo escogería el usuario, pero en caliente.
Como juego teórico está bien pero esto es casi imposible que pase por tres motivos:
a) El conductor (sobre todo si es una máquina) ha de ser prudente. En ese aspecto el accidente ya ni se da
b) Normalmente las soluciones en caso de peligro consisten en detener el vehículo, lo que salva tanto al conductor como a los demás. No son intereses enfrentados casi nunca, son los mismos
c) No hay absolutos, es muy difícil una situación en donde solo tengas dos opciones y una claramente mate al conductor y otra claramente mate a los inocentes
Imaginemos por ejemplo que un coche automático se encuentra con la siguiente situación: Va por una calle de un solo carríl y con aceras y se encuentra con un vehículo aproximándose en dirección contraria a toda velocidad. ¿Que hace? Detenerse.
No invadirá las aceras por que no va a tener codificadas todas y cada una de las situaciones posibles.
Y a tomar por culo
Una máquina falla cuando tiene un error de hardware, o cuando se ha programado mal (que estrictamente es un fallo humano, pero bueno).
Una persona falla periódicamente, de forma más o menos aleatoria. Cuando se despista, cuando ha dormido mal, cuando le entra una mota en el ojo, cuando quiere cambiar de emisora de radio...
Basta ver que el 70% largo de accidentes de coche se deben a un error humano. Con un coche autónomo, te quitas todos estos de un plumazo, y aunque se añadan otros tipos (por fallos de software, por ejemplo), es difícil que el total sea superior por mínimamente bien hecho que esté el sistema.
O cuando un humano gracioso ha pintado una carretera que conduce a un precipicio.
Por otra parte, basta mirar los periódicos para ver que "graciosos" que cuelgan cables en medio de las carreteras, quitan señales o hacen todo tipo de barbaridades ya los tenemos a patadas, y provocan un buen número de accidentes al año. De eso no nos vamos a librar.
Por no hablar de que el día que los coches conduzcan solos, no se podrá ser tan laxo con el tema de los mapas como ahora, que conducimos con mapas de hace 4 años y tan panchos. Teniendo en cuenta el peligro (y el riesgo de demandas si los mapas están mal), ya se cuidarán los fabricantes de que los mapas estén detalladísimos al minuto, hasta con las obras de la esquina.