Revista Economía

La guerra de los robots; Cómo la tecnología está cambiando los conflictos armados

Publicado el 21 octubre 2021 por Javier Pérez Caro @JavierPerezcaro
La guerra de los robots; Cómo la tecnología está cambiando los conflictos armados[email protected] [email protected]

Sinopsis

La era de la robótica cambiará la sociedad del siglo XXI y también sus guerras, que no desaparecerán: serán diferentes. Las armas autónomas son capaces de matar y destruir sin necesidad de control humano. Esta facultad de una máquina inteligente para decidir sobre la vida de una persona ha movilizado a científicos y académicos, pero no tanto a las personas anónimas, más preocupadas por los problemas cotidianos y cercanos. Sin embargo, no estamos frente a un debate académico, sino ante una realidad que nos afecta -y afectará- a todos. En un intento de despertar el interés del público general sobre ello, el Coronel Francisco Rubio nos ofrece en este libro -con prólogo del periodista de RTVE David Corral Hernández- la oportunidad de conocer y entender un escenario inédito en el que las tecnologías son empleadas en contra de lo que se supone su esencia, aportar beneficio a la humanidad. El lector encontrará bastantes preguntas, muchas respuestas y la información o argumentos con los que formar su propia opinión sobre un mundo, completamente nuevo, que está surgiendo a nuestro alrededor.

«Nos fascinan los robots porque

son reflejos de nosotros mismos»

Ken Goldberg

Introducción

(...) una de las opciones que se barajan para garantizar el control humano y la gobernanza de todos los robots, no solo los militares, es la incorporación de un código ético en su programa.

(…) el derecho internacional humanitario prohíbe los métodos y medios de guerra que causen daño excesivo y sufrimiento innecesario (…)

«Podemos hacer robots que aprendan de los errores,

 pero el hombre todavía hace los mismos

 una y otra vez»

Anthony T. Hincks

La guerra de los robots, los robots guerreros, autónomos… ¿es ese el debate?, ¿tenemos suficientes elementos de juicio para poder emitir un veredicto?, ¿debemos ser capaces de formarnos una opinión?, ¿qué papel debe ocupar la ética en el desarrollo de algoritmos, inteligencia artificial, vehículos autónomos…?

Compre el libro con dos objetivos que creo he cumplido, primero era ser capaz de aumentar mi capacidad juiciosa y poder formular una mejor opinión, y segundo fortalecer mi obcecación con la necesidad de que todo algoritmo o similar necesita detrás un código ético.

No cierro la puerta a los robots, más bien todo lo contrario, solo pido de manera insistente que haya una reglas del juego claras, transparentes y en continua evolución. Estamos aprendiendo a la vez que haciendo, por tanto los argumentos que hoy demos por validos tendremos que ser capaces de cambiarlos a medida que los desarrollos vayan madurando.

Además de todo lo anterior creo necesario que todo robots debiera tener un botón de apagado, el ser humano debe tener siempre la ultima palabra y en caso de duda poderlo apagar, no quiero robots que sean soberanos para tomar decisiones que afectan a personas.

«Los robots son la nueva clase media.

 Y todos los demás serán empresarios o temporales»

James Altucher

(…) la robotización militar es una tendencia que, lejos de desacelerarse, experimentará un fuerte impulso a corto, medio y largo plazo (…) en la década de 2030, el ejército británico podría estar formado por noventa mil soldados y treinta mil robots (…)

Los ejércitos de masas ya no son determinantes en el campo de batalla porque la capacidad de movilizar grandes contingentes de fuerza ha dejado de aportar una superioridad militar efectiva (…)

El equipo del soldado del futuro se hará con materiales especiales como la fibra de carbono, proporcionará protección antibala, equipará un exoesqueleto activo que aliviará la carga física y dispondrá de sensores, navegadores y sistemas óptico-electrónicos de disminuirán su carga cognitiva, todo ello alimentado con fuentes de energía más eficientes (…)

El uso generalizado de los sistemas de armas autónomos modificará la naturaleza de la guerra de forma sustancial (…) una de las cuestiones que se plantean es si las maquinas convertirán los conflictos armados en versiones actualizadas de las guerras por delegación (…)

Los robot militares tampoco son mercenarios tecnológicos (…) los sistemas de armas autónomos, con toda su inteligencia artificial, carecen de voluntad para actuar con animo de lucro y tampoco tienen motivación ideológica o espíritu de servicio (…) no pueden elegir a quien sirven (…)   

¿Es moralmente exigible arriesgar la vida en combate?

La guerra tecnológica se combatirá con frecuencia a distancia y el manejo de los sistemas de armas estará a cargo, en buena medida, de personal civil, militarizando o no (…)

(…) «no se trata de limitar la inteligencia artificial, sino de introducir límites éticos en los robots, lograr que sean capaces de vivir en sociedad y, eso sí, rechazar de forma clara autónomos sin control humanos» (…)

(…) el ser humano debe ser siempre el último responsable de la actualización de una máquina, no solo en la identificación del objetivo sino en la selección y operación final. En términos generales, la inteligencia artificial no debería ser utilizada para reemplazar la toma de decisiones de los humanos en asuntos delicados que se basan en juicios o de moral.

(…) si un robot militar realiza una acción contraria al derecho internacional (…) ¿sobre quién debería actuar la justicia?

(…) el sentido común es más o menos homogéneo (común) en situaciones poco complejas, sin presión y en ausencia de emociones, todo lo contrario de lo que ocurre en la guerra. Durante el combate, la forma de actuar dejar de ser común. Cada soldado reacciona de forma personal y distinta ante el miedo, la tensión, el dolor y el agotamiento (…) uno de los objetivos de la instrucción militar es conseguir que el combatiente responsa de manera resolutiva, rápida y poco menos que automatizada ante situaciones en las que, para sobrevivir, tiene que actuar casi sin pensar.

(…) la introducción de un código ético en la programación de los robots inteligentes militares o civiles, es una de las acciones que se plantean con más insistencia para asegurar que en todo momento se mantienen al servicio de las personas (…)

(…) las tres leyes de la robótica formuladas por Isaac Asimov han quedado desfasadas y no pueden ser el referente para desarrollar las cartas éticas de los robots (…)

1.   Un robot no hará daño a un ser humano ni, por inacción, permitirá que el ser humano sufra daño.

2.   Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de las que entren en conflicto con la primera ley.

3.   Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o segunda ley.

(…) nos encontramos en un acelerado proceso de automatización de la guerra, algo normal, por otra parte. Lo mismo que la industrialización tuvo enormes consecuencias en todas las actividades sociales del siglo XX, incluidas las guerras, la robotización también cambiara la sociedad del siglo XXI y sus guerras. Los conflictos armados no desaparecerán; serán diferentes.

La cuestión ética no se solventa con tecnología (…) la conciencia pública, aún en formación (…) será contraria a delegar acciones críticas del combate en los robots militares.

(…) la regulación tendría que garantizar que la maquina no decida la muerte de una persona, para lo que es imprescindible retener el control humano significativo sobre las funciones críticas del combate (…)

La regulación del control humano se debería complementar (…) con la incorporación de filtros éticos en la programación de los robots militares (…)

Insistir en la prohibición total de las armas autónomas letales puede ser un ejercicio de adoctrinamiento o de ingenuidad, pero, en todo caso, es una pérdida de tiempo.

«(…) simplemente no se puede diferenciar entre un robot

 y el mejor de los seres humanos»

Isaac Asimov

La guerra de los robots

Cómo la tecnología está cambiando los conflictos armados

Francisco Rubio Damián

PREGUNTA

Link de interés

The utility of force

La singularidad está cerca: cuando los humanos trascienden a la biología

Liderar personas con inteligencia artificial; Cambio y digitalización

«La robótica está empezando a cruzar esa línea

desde el movimiento absolutamente primitivo

 hasta el movimiento que se asemeja al comportamiento

 animal o humano»

J. J. Abrams

Recibid un cordial saludo


Volver a la Portada de Logo Paperblog