TEMAS PROFESIONALES
muchos expertos, la ética debe ser el núcleo del debate del empleo de los
sistemas de armas autónomos.
Son numerosos los estudios realizados para dotar de ética a las máquinas
aprovechando los avances en AI. En el ámbito específico de los SAAL, el
prototipo de Gobernador ético de Arkin pretende ser un modificador o supresor
de las conductas letales generadas por un sistema robótico para asegurar
que las acciones que este lleve a cabo sean éticamente adecuadas y conforme
al DIH y a las ROE (28). Sin embargo, ante la dificultad de que las máquinas
se conviertan en agentes éticos completos en un futuro cercano (29), muchos
expertos sugieren centrarse en el desarrollo de agentes éticos explícitos limitados,
que podrían ayudar a prevenir resultados no éticos. Trasladado al ámbito
de los SAAL, esto significaría mantener siempre un mínimo control humano
sobre la máquina; dicho de otro modo, que en mayor o menor medida la ética
humana siempre esté presente.
Sea cual sea el futuro de los SAAL, lo que es evidente es que la evolución
de la tecnología y la aparición de nuevas armas está transformando las características
de la guerra convencional (30), y quién sabe si con ello también se
estén modificando los principios de la guerra tal cual los hemos conocido
hasta ahora. Estos principios (humanidad, distinción, proporcionalidad,
prevención, no discriminación…) tratan de evitar los daños superfluos o innecesarios
y equilibrar las condiciones del combate, equilibrio que una carrera
armamentística sin control podría romper. Como destaca Moliner (31), la
sustitución del hombre por robots de combate supondría la deshumanización
de la guerra y relajaría el umbral a la hora de iniciar un conflicto. Éticamente
no habría limitaciones, ya que no se tendría que exponer a ningún riesgo a los
soldados propios; en tal caso, si el otro bando actuara del mismo modo, llegaríamos
a una guerra entre máquinas inteligentes.
Debate internacional
Si bien existe un amplio consenso en la comunidad internacional referente
a la necesidad de cumplir con el DIH y en que la responsabilidad del empleo
(28) ARKIN, R. C.; ULAM, P.; DUNCAN, B. (2009): An Ethical Governor for Constraining
Lethal Action in an Autonomous System. Georgia Institute of Technology: https://www.cc.gatech.
edu/ai/robot-lab/online-publications/GIT-GVU-09-02.pdf. Consultado el 20.04.19.
(29) MOOR, J. H. (2006): The Nature, Importance and Difficulty of Machine Ethics.
Vanderbilt University: http://www.psy.vanderbilt.edu/courses/hon182/The_Nature_Importance_
and_Difficulty_of_Machine_Ethics.pdf. Consultado el 17.04.19.
(30) MOLINER, J. A. (2018): «Desafíos éticos en el uso militar de la Inteligencia Artificial».
La Inteligencia Artificial aplicada a la Defensa, pp. 147-170. Madrid: Instituto Español de
Estudios Estratégicos (IEEE).
(31) Ídem.
2020 467