849 el derecho internacional humanitario, esos sistemas podrían reducir las muertes en la guerraϮϮ. Los valores políticos y militares modernos son unos fuertes motivadores para continuar con el desarrollo y el despliegue de armas robóticas. Pero, dada la magnitud del malestar frente al uso reciente de los sistemas telerobóticos de armas y la amenaza de la adaptación tecnológica inversa23, sería razonable establecer límites al diseño y al uso de los sistemas robóticos armados. Hacen falta normas éticas que guíen el diseño de sistemas robóticos armados y las políticas de uso24. Los sistemas robóticos armados podrían desempeñar un papel potencialmente positivo para resolver conflictos armados de forma justa y ética. Para lograrlo habría que adoptar normas éticas que restrinjan ciertos aspectos de la toma de decisiones autónomas con respecto a objetivos humanos, que limiten las capacidades de dichos sistemas, su despliegue y su uso. Todos esos límites deben cumplirse desde el propio diseño para reducir los efectos de la adaptación tecnológica inversa25. Existen diversas propuestas para introducir normas éticas en los sistemas robóticos y autónomos en la fase de diseño. Una de ellas aboga por incluir un componente denominado gobernador ético. Su misión es transformar y suprimir la acción letal generada por el sistema para asegurar que constituye una acción éticamente admisible. Introduce un cuello de botella dentro de una arquitectura híbrida deliberativa y reactiva, que fuerza a considerar una segunda opinión antes de realizar una respuesta de comportamiento letal. Si el gobernador ético necesita intervenir, debe enviar una notificación al sistema deliberativo para permitir la replanificación a nivel táctico o de misión que sea apropiada, y para avisar al operador de una potencial infracción ética de una o varias restricciones26. 22 Ibíd., p. 3. 23 Adaptación tecnológica inversa es un concepto utilizado por los filósofos de la tecnología. Se produce cuando el ámbito social y político de una sociedad cambia para adaptarse a la inflexibilidad de una tecnología, en lugar de esperar al despliegue de la tecnología cuando resulta más adecuado para el entorno humano. Un ejemplo reciente son los teléfonos móviles (SULLINS, 2013, p. 490). 24 SULLINS, John P., «An Ethical Analysis of the Case of Robotic Weapons Arms Control», 2013, en Podings, K., Stinissen, J. y Maybaum, M. (Eds) 5th International Conference on Cyber Conflict (pp. 487- 506), Tallinn: NATO CCD COE Publications, pp. 500-501. 25 SULLINS, op. cit., p. 503. 26 ARKIN, Ronald C., ULAM, Patrick y DUNCAN, Brittany. «An Ethical Governor for Constraining Lethal Action in an Autonomous System», 2009, Georgia Institute of Technology, p. 1. bie3 >ĂĂƵƚŽŶŽŵşĂĞŶƌŽďſƚŝĐĂLJĞůƵƐŽĚĞůĂĨƵĞƌnjĂ ǀĂDĂƌƚşŶ/累Ğnj ŽĐƵŵĞŶƚŽĚĞKƉŝŶŝſŶ ϮϳͬϮϬϭϳ ϴ
BOLETIN IEEE 5
To see the actual publication please follow the link above