Robots que desobedecen órdenes

Matthias Scheutz, Director del HRI LAB
Matthias Scheutz, Director del HRI LAB

En diciembre de 1940, y durante una reunión informal para conversar, se reunieron dos de los más grandes escritores de ciencia ficción de nuestros tiempos: Isaac Asimov y John W. Campbell. En aquella charla trataron el fascinante tema de la ética y el comportamiento de los robots, un nombre que surgió veinte años antes cuando el escritor checo Karel Capek lo utilizó por primera vez en su obra RUR.

Así comienza mi artículo “Diseñan los primeros robots que desobedecen órdenes” en Yahoo España. Puedes leer el artículo completo en este enlace.

2 Comentarios

Participa Suscríbete

Orbatos

Sin entrar a analizar mucho en detalle la cuestión, aparentemente se han intercambiado hasta cierto punto, por decirlo de algún modo la “segunda” por la “tercera”

Algo así como “Debes de obedecer ordenes siempre y cuando estas no representen un peligro para tu integridad”. En el fondo no está desobedeciendo en absoluto, está siguiendo al pie de la letra las ordenes de un orden superior.

Teniendo en cuenta que estamos hablando de un sistema lógico, la “desobediencia” no existe en realidad, solo el seguimiento de unas normas lógicas. Si el sistema analiza un posible riesgo ante la ejecución de una orden, acepta una orden que tiene una mayor prioridad.

En términos humanos (por hacer una comparación) podemos imaginar un soldado que tiene una orden de su general de guardar una puerta y no dejar entrar a nadie. Un teniente le ordena que le deje pasar, y el se niega.

No esta realmente “desobedeciendo” una orden, ya que esas ordenes tienen una jerarquía. La orden superior tiene prioridad sobre la inferior, luego no desobedece.

O en un plano mucho mas cercano. El administrador de sistema aplica una política a los usuarios de que estos no pueden instalar ejecutables. El usuario no puede decir que el ordenador “se niega” a hacer lo que el quiere. Es un administrador, que tiene un nivel de autoridad mas alto quien ha dado esa orden, y el sistema simplemente aplica esas normas.

Es decir, que tal y como yo lo veo, esa desobediencia no existe. Para existir una desobediencia “real” el sistema, el robot o como queramos llamarlo debería de tener libre albedrio para obedecer o no hacerlo una orden. y este no es el caso.

Deja un comentario

Tu email nunca será mostrado o compartido. No olvides rellenar los campos obligatorios.

Obligatorio
Obligatorio
Obligatorio

Puedes usar las siguientes etiquetas y atributos HTML: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>