TEMAS PROFESIONALES
de un profundo debate en el seno de la Convención sobre Ciertas Armas
Convencionales (CCW, Convention on Certain Conventional Weapons) de
las Naciones Unidas. Tras el inicio de las reuniones en el año 2014, y la
posterior creación de un Grupo de Expertos Gubernamentales (GGE) en
2017, la agenda de la Comisión se centra en la definición del problema y
en alcanzar un consenso en la conceptualización de aspectos clave, como
«sistema de armas autónomo letal», «niveles de autonomía», «control humano
significativo» o la «determinación de responsabilidad» de los daños
producidos. En las sesiones del GGE participa además un número importante
de observadores pertenecientes a organizaciones internacionales, no gubernamentales,
institutos de investigación, centros de pensamiento e incluso de la
industria privada.
Sistemas de Armas Autónomos Letales (SAAL)
En el contexto del debate internacional y a los efectos del presente artículo,
se pueden definir las armas autónomas (en adelante, Sistemas de Armas Autónomas
Letales o SAAL) como aquellas programables que, una vez activadas o
lanzadas al entorno, no necesitan de la intervención humana para seleccionar
y atacar blancos. El elemento diferenciador de este tipo de armas respecto a
otras es la eliminación, en parte o en su totalidad, del control humano (1), o lo
que la comunidad internacional ha venido a denominar el Control Humano
Significativo. Este término viene a describir el umbral mínimo de control
humano que es considerado necesario para asegurar la presencia del hombre
en el ciclo de la decisión (2).
Los avances en nanotecnología, robótica y AI y su aplicación a los sistemas
ya existentes, como los RPA (3), representan el verdadero peligro ante la
posible automatización de las armas por parte de algunos Estados, pudiendo
convertirlas en —como vienen a denominar comúnmente algunos autores (4)
para referirse a los SAAL— auténticos robots asesinos, con nula o escasa
necesidad de control por parte del ser humano (5). Para organizaciones como
(1) KRISHNAN, A. (2009): Killer robots: legality and ethicality of autonomous weapons.
Farnham, Surrey, England: Ashgate Publishing Limited.
(2) Estados Unidos hace una aproximación sensiblemente diferente al considerar que la
interacción hombre-máquina debe asegurar en todo momento que las armas autónomas ejecuten
la «intención» del comandante (Commander’s intent) como forma de minimizar los enfrentamientos
no intencionados.
(3) Remotely Piloted Aircraft.
(4) Stop Killer Robots (SKR), Human Rights Watch (HRW) o el propio Comité Internacional
de la Cruz Roja.
(5) Los sistemas navales —como el Aegis— o de tipo defensivo —sistema de artillería
antimisil Vulcan Phalanx— con los que están dotados muchos buques de la Marina de los Esta
2020 459