15 meneos
72 clics
Una Inteligencia Artificial superinteligente sería imposible de controlar para los humanos en un futuro no tan lejano
Un estudio realizado por científicos especializados en tecnología digital sostiene que, aunque no nos destruiría, una Inteligencia Artificial superinteligente sería imposible de controlar para los humanos.
|
comentarios cerrados
Nosotros somos esos chimpancés.
El plan que nosotros pensemos y pongamos en marcha será trivial de resolver y superar para alguien órdenes de magnitud más inteligente que nosotros.
Pues con esa IA igual.
O la IA podría crear miles de millones de réplicas de ese botón y los presentes estadísticamente morirían antes de encontrar el real.
O la IA podría provocar un escenario en el cual los individuos dentro de la sala holográfica estuvieran cayendo permanentemente a una velocidad mortal en caso de impactar contra el suelo, de forma que aunque ese botón estuviera y pudieran pulsarlo hacerlo fuese una terrible decisión. Solo el funcionamiento holográfico les permitiría seguir vivos ya que durante la sesión seguirían cayendo sin impactar con nada.
O ...
Pues con esa IA igual.
Colossus: The Forbin Project (1970)
Además, el botón lo podrían llevar ellos en plan reloj y pulsarlo en cuanto quisieran...
Que sí, que es ciencia ficción y puedes plantearte lo que quieras.
A la velocidad a la que estuvieran cayendo en el momento de parar la sala holográfica. Cuando la sala holográfica no se para con el comando de voz es porque han perdido el control de ésta, también de las limitaciones de seguridad. La sala holográfica puede ser mortal.
Cualquier ser suficientemente inteligente encuentra fórmulas para garantizarse aquello de lo que depende su existencia.
Un ser con una inteligencia varias magnitudes superior a la nuestra es previsible que tenga mayor capacidad para conseguir esos objetivos.
Subestimar a alguien de mayor inteligencia es una soberana estupidez, propia de un ser poco inteligente.
Sends you out
With a kind of a glow
And you say
As you go on your way
That's entertainment."
That’s Entertainment (Tony Bennett.)