El Derecho Internacional Humanitario ante los desafiantes sistemas de armas autónomas: ¿un marco legislativo suficiente?
Barra lateral del artículo
18)Cómo citar
435
Resumen
el siglo XXI está marcado por un desarrollo tecnológico sin precedentes que está transformando nuestra sociedad, remodelando la industria y fomentando la innovación en prácticamente todos los ámbitos. Como era de esperar, los conflictos armados no son ajenos a estos avances. De hecho, el progreso tecnológico ha penetrado con tal fuerza en este escenario que el modus operandi de las partes beligerantes se está viendo alterado. En este delicado contexto, la inteligencia artificial desempeña un papel crucial, especialmente cuando se integra en los sistemas de armas autónomas en la medida en que ello trae como resultado la creación de dispositivos con capacidad para ejecutar operaciones militares que requieren una mínima intervención humana. Esta realidad plantea serios interrogantes que exigen un análisis profundo del Derecho Internacional Humanitario. Consecuentemente, examinaremos esta rama jurídica para determinar si afronta de manera adecuada los desafíos que surgen en las contiendas actuales marcadas por el uso del armamento anteriormente referido.
Referencias
Allen, S., «Air Power, International Organizations, and Civilian Casualties in Afghanistan», Armed Forces & Society, vol. 49, 2023, pp. 1048-1060 (https://doi.org/10.1177/0095327X22110078).
Aravena Flores, M. A., «Los principios éticos y jurídicos aplicables a los sistemas autónomos de armas letales», Revista de Derecho, 23, 2024, pp. 1-25 (https://doi.org/10.47274/DERUM/46.3).
Asaro, P., «On banning autonomous lethal systems: Human rights, automation and the dehumanizing of lethal decision-making, special issue on new technologies and warfare», International Review of the Red Cross, vol. 94, 2012, pp. 687-709. (https://cyberlaw.stanford.edu/content/files/sites/default/files/publication/files/Asaro%20IRRC.pdf)
https://doi.org/10.1017/S1816383112000768
Beyer, G., Nuclear Weapons During the Cold War: Power and Proliferation, The Collector, 2023. (https://www.thecollector.com/nuclear-weapons-during-cold-war/).
Bode, I., y Huelss, H., «The Future of Remote Warfare? Artificial Intelligence, Weapons Systems and Human Control», en Remote warfare: Interdisciplinary perspectives, E-International Relations, Alasdair McKay, Abigail Watson y Megan Karlshøj-Pedersen (eds.), 2021, pp. 218-233. https://www.e-ir.info/pdf/89160.
Boulanin, V. et al., «Autonomous weapon systems and international humanitarian law», Stockholm International Peace Research Institute, 2021, pp. 1-72. (https://www.sipri.org/sites/default/files/2021-06/2106_aws_and_ihl_0.pdf)
Boulanin, V., y Verbruggen, M., «Mapping the Development of Autonomy in Weapons Systems», SIPRI, Suecia, 2017 (https://doi.org/10.13140/RG.2.2.22719.41127).
Brynjolfsson, E., y Mcafee, A., The Second Machine Age: Work, Progress and Prosperity in a Time of Brilliant Technologies, Nueva York, W. W. Norton, 2014.
Cassese, A., «The Martens Clause: Half a Loaf or Simply Pie in the Sky?», EJIL, vol. 11, 2000, pp. 187-216. (http://www.ejil.org/pdfs/11/1/511.pdf)
https://doi.org/10.1093/ejil/11.1.187
Chin, W., «Technology, war and the state: past, present and future», International Affairs, vol. 95, 2019, pp. 765-783 (https://doi.org/10.1093/ia/iiz106).
cicr, «Sistemas de armas autónomos letales: el cicr recomienda la adopción de nuevas reglas», 2021. (https://www.icrc.org/es/document/sistemas-armas-autonomos-letales-cicr-recomienda-adopcion-nuevas-reglas).
cicr, «Autonomous weapon systems: Technical, military, legal and humanitarian aspects», Expert meeting, Ginebra, 26-28 de marzo de 2014. (https://www.icrc.org/sites/default/files/external/doc/en/assets/files/2014/expert-meeting-autonomous-weapons-icrc-report-2014-05-09.pdf)
cicr, «Protocol Additional to the Geneva Conventions of 12 August 1949, and relating to the Protection of Victims of International Armed Conflicts (Protocol I), 8 June 1977», Comentario de 1987. (https://ihl-databases.icrc.org/en/ihltreaties/api-1977/article-1/commentary/1987?activeTab=undefinedGC)
Consejo de Derechos Humanos, «Promoción y protección de todos los derechos humanos, civiles, políticos, económicos, sociales y culturales, incluido el derecho al desarrollo», 2023, A/HRC/23/47. (https://documents.un.org/doc/undoc/gen/g13/127/79/pdf/g1312779.pdf)
Crawford, E., «The Modern Relevance of the Martens Clause», ISIL Yearbook of International Humanitarian and Refugee Law, n.º 6, 2006, pp. 1-18. (https://casebook.icrc.org/a_to_z/glossary/martens-clause)
Delgado Calvo-Flores, M., La Inteligencia Artificial. Realidad de un mito moderno, Granada, Servicio de Publicaciones de la Universidad de Granada, 1996. (https://digibug.ugr.es/bitstream/handle/10481/1270/16912512.pdf?sequence=1&isAllowed=y)
Doyle, G. et al., «Israel's Iron Dome», Reuters, 2024. (https://www.reuters.com/graphics/ISRAEL-PALESTINIANS/IRAN-DEFENCE/mypmkljzopr/)
Early, R., y Gartzke, E., «Spying from Space: Reconnaissance Satellites and Interstate Disputes», Journal of Conflict Resolution, vol. 65, 2021, pp. 155-1575 (https://doi.org/10.1177/002200272199589).
Etzioni, A., y Etzioni, O., «Pros and Cons of Autonomous Weapons Systems», Military Review, 2017, pp. 72-81. (https://www.armyupress.army.mil/Portals/7/military-review/Archives/English/pros-and-cons-of-autonomous-weapons-systems.pdf)
Evans, T., «At War with the Robots: Autonomous Weapon Systems and the Martens », Hofstra Law Review, vol. 43, 2013, pp. 697-733. (https://scholarlycommons.law.hofstra.edu/cgi/viewcontent.cgi?article=2707&context=hlr)
Folly, M., «Killer robots': the danger of lethal autonomous weapons systems», Southern Voice, 2021. (https://southernvoice.org/killer-robots-the-danger-oflethal-autonomous-weapons-systems/)
Gómez López, J. et al., «La desinformación y la guerra híbrida: Instrumentalización de las narrativas informativas para entender la guerra del siglo xxi», Comunicación y Hombre, n.º 9, 2023, pp. 223-232. (https://comunicacionyhombre.com/article/la-desinformacion-y-la-guerra-hibrida-instrumentalizacion-de-las-narrativas-informativas-para-entender-la-guerra-del-siglo-xxi/)
https://doi.org/10.32466/eufv-cyh.2023.19.757.223-232
González Ante, J. F., «La Cláusula Martens y sus implicaciones en la Jurisdicción Especial para la Paz», Anuario Iberoamericano sobre Derecho Internacional Humanitario, n.º 4, 2023, pp. 247-285 (https://doi.org/10.5294/aidih.2023.4.8).
Gutiérrez Espada, C., y Cervell Hortal, M. J., «Sistema de armas autónomas, drones y derecho internacional», Revista del Instituto Español de Estudios Estratégicos, n.º 2, 2013, pp. 27-57. (https://revista.ieee.es/article/view/338/567)
Hables Gray, C., Postmodern War: The New Politics of Conflict, Londres, Routledge, 1997.
Hambling, D., «Ukraine deploy lethal autonomous drones against Russia?», NewScientist, 2022. (https://www.newscientist.com/article/2344966-will-ukrainedeploy-lethal-autonomous-drones-against-russia/)
Heyns, C., «Report of the Special Rapporteur on extrajudicial, summary or arbitrary executions», 2013. (https://digitallibrary.un.org/record/755741?ln=es&v=pdf#files)
Hill, A., «Both sides in the Russia-Ukraine war are using new and old technologies for warfare» The Conversation, 2024. (https://theconversation.com/both-sidesin-the-russia-ukraine-war-are-using-new-and-old-technologies-for-warfare-225451)
Horowitz, M. C., «When Speed Kills: Autonomous Weapon Systems, Deterrence, and Stability», Journal of Strategic Studies, vol. 42, 2019, pp. 764-788 (https://doi.org/10.1080/01402390.2019.1621174).
Horowitz, M. C., «The Ethics & Morality of Robotic Warfare: Assessing the Debate over Autonomous Weapons», American Academy of Arts & Sciences, 2016, pp. 25-36 (https://doi.org/10.1162/DAED_a_00409).
hrw, «Gaza: Israeli Military's Digital Tools Risk Civilian Harm», 2024. (https://www.hrw.org/news/2024/09/10/gaza-israeli-militarys-digital-tools-risk-civilian-harm)
hrw, «Questions and Answers: Israeli Military's Use of Digital Tools in Gaza», 2024. (https://www.hrw.org/news/2024/09/10/questions-and-answers-israelimilitarys-use-digital-tools-gaza#_What_is_«Lavender)
hrw, «Stopping Killer Robots. Country Positions on Banning Fully Autonomous Weapons and Retaining Human Control», 2020. (https://www.hrw.org/report/2020/08/10/stopping-killer-robots/country-positions-banning-fully-autonomous-weapons-and)
hrw, «Heed the call», 2014. (https://www.hrw.org/report/2018/08/21/heed-call/moral-and-legal-imperative-ban-killer-robots)
hrw, «Review of the 2012 US Policy on Autonomy in Weapons Systems. US Policy on Autonomy in Weapons Systems is First in the World», 2013. (https://www.hrw.org/news/2013/04/15/review-2012-us-policy-autonomy-weaponssystems)
hrw, «Losing Humanity. The Case against Killer Robots», 2012. (https://www.hrw.org/report/2012/11/19/losing-humanity/case-against-killer-robots).
Ilica Sepúlv eda, A., «El debate sobre los sistemas de armas autónomos letales: perspectivas en el sistema internacional», Centro de Estudios de la Academia de Guerra, 2023. (https://test.ceeag.cl/wp-content/uploads/2023/06/EC-AI-Sistemas-de-armas-autonomos-letales.pdf)
Immerman, R., «Intelligence and the Iraq and Afghanistan Wars», Political Science Quarterly, vol. 131, 2016, pp. 477-501.
https://doi.org/10.1002/polq.12489
Ingvild, B., y Huelss, H., Autonomous Weapons Systems and International Relations, Canada, Mc Gill-Queen's University Press, 2022. (https://findresearcher.sdu.dk/ws/portalfiles/portal/201618147/Bode_Huelss_aws_and_Norms_1_2.pdf).
Kallenborn, Z., «Swords and Shields: Autonomy, AI, and the Offense-Defense Balance», Georgetown Journal of International Affairs, 2021. (https://gjia.georgetown.edu/2021/11/22/swords-and-shields-autonomy-ai-and-the-offensedefense-balance/).
Kawthalkar, A., «Modeling and simulation of a direct-ascent anti-satellite missile using Kerbal Space Program», Aerospace Systems, 5, 2022, pp. 285-299 (https://doi.org/10.1007/s42401-022-00141-1).
Kiernan, V., Atomic Bill: A Journalist's Dangerous Ambition in the Shadow of the Bomb, Nueva York, Cornell University Press, 2022.
https://doi.org/10.7591/cornell/9781501765636.001.0001
Koppe, E., The Use of Nuclear Weapons and the Protection of the Environment During International Armed Conflict, Oxford, Hart Publishing, 2008. (https://scholarlypublications.universiteitleiden.nl/access/item%3A2884092/view).
Koumoulou, V., «Defining Remote Warfare», The Greater European Journal, 2021. (https://institutegreatereurope.com/publications/research-pieces/definingremote-warfare/).
Krakhmalyov, O. et al., «Key Aspects of the Production of Modern Armaments and Military Equipment Systems», NOVUM JUS, vol. 17, 2023, pp. 117-135. (https://novumjus.ucatolica.edu.co/article/view/4841/4649).
https://doi.org/10.14718/NovumJus.2023.17.1.5
Lavazza, A., y Farina, M., «Leveraging autonomous weapon systems: realism and humanitarianism in modern warfare», Technology in Society, n.º 74, 2023, pp. 1-10 (https://doi.org/10.1016/j.techsoc.2023.102322).
Lieber, K. y Daryl, G., «The End of mad? The Nuclear Dimension of U.S. Primacy », International Security, n.º 4, 2006, pp. 7-44.
https://doi.org/10.1162/isec.2006.30.4.7
Macher Reyes, M., «Sistemas de armas autónomas y dih. Advertencia de un futuro cercano», Ius et Veritas, n.º 63, 2021, pp. 179-191 (https://doi.org/10.18800/iusetveritas.202102.009).
Marín Martínez, A. P., «Los Sistemas de Armas Autónomos Letales y el Derecho Internacional Humanitario en la Guerra de Ucrania», Relaciones Internacionales, n.º 53, 2023, pp. 71-90 (https://doi.org/10.15366/relacionesinternacionales2023.53.004).
McCarthy, J. et al., «A proposal for the Dartmouth Summer Research Project on Artificial Intelligence», AI Magazine, 1955, pp. 12-14. (https://ojs.aaai.org/aimagazine/index.php/aimagazine/article/view/1904).
McFarland, T., «Minimum Levels of Human Intervention in Autonomous Attacks», Journal of Conflict & Security Law, vol. 27 n.º 3, 2022, pp. 387-409 (https://doi.org/10.1093/jcsl/krac021).
McNeil, S, «Israel deploys remote-controlled robotic guns in West Bank», The Independent, 2022. (https://apnews.com/article/technology-business-israel-robotics-west-bank-cfc889a120cbf59356f5044eb43d5b88)
Meer, S., «AI, Autonomy, and Arms Race: The Evolving Role of Autonomous Weapons », Modern Diplomacy, 2024. (https://moderndiplomacy.eu/2024/10/19/aiautonomy-and-arms-race-the-evolving-role-of-autonomous-weapons/)
Meron, T., «The Martens Clause, Principles of Humanity, and Dictates of Public Conscience», The American Journal of International Law, vol. 94, 2000, pp. 78- 89 (https://doi.org/10.2307/2555232).
Mozur, P. y Satariano, A., «A.I. Begins Ushering in an Age of Killer Robots», New York Times, 2024. (https://www.nytimes.com/2024/07/02/technology/ukrainewar-ai-weapons.html)
Pearson, L., «Tilting the Balance of Terror», en War at the Speed of Light: Directed- Energy Weapons and the Future of Twenty-First-Century Warfare, Potomac Books, Louis del Monte (coord.), 2021, pp. 13-26. (https://api.pageplace.de/preview/DT0400.9781640124370_A49466043/preview-9781640124370_A49466043.pdf).
https://doi.org/10.2307/j.ctv1f70m1m.7
Petrović, I. y Gordić, M., «Unmanned aerial systems as a revolutionary tool in modern armed conflicts», BaŁ¡tina, vol. 60, 2023, pp. 281-298 (https://doi.org/10.5937/bastina33-45159).
Pintado Rodríguez, C., «Armas de energía dirigida: del mito a la realidad», CISDE, 3, 2018, pp. 37-50. (https://rabida.uhu.es/dspace/bitstream/handle/10272/17202/Armas.pdf?sequence=2)
Porcelli, A. M., «La inteligencia artificial aplicada a la robótica en los conflictos armados. Debates sobre los sistemas de armas letales autónomas y la (in)suficiencia de los estándares del derecho internacional humanitario», Revista de Estudios Socio-Jurídicos, vol. 23, 2021, pp. 483-530 (https://doi.org/10.12804/revistas.urosario.edu.co/sociojuridicos/a.9269).
Rhodes, R., «The Atomic Bomb in the Second World War», en Remembering The Manhattan Project-Perspectives On The Making Of The Atomic Bomb & Its Legacy, World Scientific Publishing Co., Kelly Cynthia (ed.), 2004, pp. 17-30.
Roque, A., «Army eyeing new PrSM Inc. 5 weapon to fire from autonomous launchers beyond 1000 km», Breaking Defense, 2024. (https://breakingdefense.com/2024/12/army-eyeing-new-prsm-inc-5-weapon-to-fire-from-autonomous-launchers-beyond-1000-km/)
Sánchez Tapia, S., «La tecnología como catalizador del cambio en la guerra», Global Affairs, n.º 6, pp. 6-13. (https://www.unav.edu/documents/16800098/85691452/tecnologia-como-catalizador-cambio-guerra.pdf).
Sassoli, M., «Autonomous Weapons and International humanitarian Law: advantages, open technical questions and legal issues to be clarified», International Law Studies. US Naval War College, n.º 90, 2014, pp. 308-340. https://digitalcommons.usnwc.edu/cgi/viewcontent.cgi?article=1017&context=ils)
Shah, R., «The U.S. Military Is Not Ready for the New Era of Warfare», New York Times, 2024. (https://www.nytimes.com/2024/09/13/opinion/ai-drones-robotwarpentagon.html)
Sharkey, A., «Autonomous weapons systems, killer robots and human dignity», Ethics and Information Technology, n.º 2, 2019, pp. 75-87 (http://doi.10.1007/s10676-018-9494-0).
Snow, S., «U.S. May Field Railgun on Zumwalt Destroyer», The Diplomat, 2016. (https://thediplomat.com/2016/03/u-s-may-field-railgun-on-zumwalt-destroyer/).
Sola Ayape, C. y Sotelo Fuentes, M.F., «La bomba atómica después de Hiroshima y Nagasaki. El difícil camino hacia el control de la energía nuclear», En-claves del pensamiento, vol. 14, 2020, pp. 52-85 (https://doi.org/10.46530/ecdp.v0i28.372).
Taddeo, M., y Blanchard, A., «A Comparative Analysis of the Definitions of Autonomous Weapons Systems», Science and Engineering Ethics, 2022, pp. 1-22 (https://doi.org/10.1007/s11948-022-00392-3).
Ticehurst, R., «The Martens Clause and the Laws of Armed Conflict», International Review of the Red Cross, n.º 317, 1997, pp. 125-134. (https://www.onlinelibrary.iihl.org/wp-content/uploads/2021/07/Martens-Clause-LOAC.pdf)
https://doi.org/10.1017/S002086040008503X
Thomson, K., «How the Drone War in Ukraine Is Transforming Conflict», Council on Foreign Affairs, 2024. (https://www.cfr.org/article/how-drone-war-ukrainetransforming-conflict)
Thurner, J., «Legal Implications of Fully Autonomous Targeting», JFQ, 67, 2012, pp. 77-84. (https://ageoftransformation.org/content/files/Portals/68/Documents/jfq/jfq-67/jfq-67_77-84_thurnher.pdf)
Tragger, R., «Killer Robots Are Here-and We Need to Regulate Them», Foreign Policy, 2022. (https://foreignpolicy.com/2022/05/11/killer-robots-lethal-autonomous-weapons-systems-ukraine-libya-regulation/)
Trumbull, C., «Considering a Legally Binding Instrument on Autonomous Weapons», Lawfare, 2024. (https://www.lawfaremedia.org/article/considering-alegally-binding-instrument-on-autonomous-weapons#:~:text=Although%20states%20presented%20a%20variety,used%20in%20compliance%20with%-20international)
Tuset Varela, D., «The role of Autonomous Weapons Systems (AWP) in the Ukrainian-Russian conflict: a critical analysis», IurisCrimPol, 2023. (https://blogs.uoc.edu/edcp/es/the-role-of-autonomous-weapons-systems-in-theukrainian-russian-conflict/)
Valadares Fernándes Barbosa, L., «Exploring the 2023 U.S. Directive on Autonomy in Weapon Systems: Key Advancements and Potential Implications for International Discussion», Brazilian Journal of International Affairs, n.º 7, 2023, pp. 117-136. (https://cebri-revista.emnuvens.com.br/revista/article/view/153/210).
Van Der Boogard, J., «Proportionality and Autonomous Weapons Systems», Opinio Juris, 2016. (http://opiniojuris.org/2016/03/23/proportionality-and-autonomous-weapons-systems/)
Van Der Boogard, J., «Proportionality and Autonomous Weapons Systems», Journal of International Humanitarian Legal Studies, n.º 6, 2015, pp. 1-36.
https://doi.org/10.1163/18781527-00602007
Veyna, S., «Ucrania ve nacer la era de los robots asesinos impulsados por ia», The New York Times, 2024. (https://www.nytimes.com/es/2024/07/05/espanol/ucrania-robots-asesinos.html)
Vraí†jescu, V., «Disruptive and Emerging Technologies Impact on the Multinational Joint Operations Coordination in Modern Warfare», Journal of Military Science and Security Studies, n.º 3, 2024, pp. 6-15. https://en-gmr.mapn.ro/webroot/fileslib/upload/files/arhiva%20reviste/RMT/2024/3/RMT_3__2024.pdf#page=107).
Winter, E, «The Compatibility of Autonomous Weapons with the Principles of International Humanitarian Law», Journal of Conflict & Security Law, vol. 27, 2022, pp. 1-20 (https://doi.org/10.1093/jcsl/krac001).
Número
Sección
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-SinDerivadas 4.0.
CESIÓN DE DERECHOS
Al enviar el artículo para su evaluación y posterior publicación en la revista Anuario Español de Derecho Internacional, el AUTOR cede de manera exclusiva los derechos patrimoniales y/o de explotación: reproducción, distribución, comunicación pública, transformación/traducción/
En el caso de que el artículo no fuera aceptado para su publicación, esta cesión de derechos decae con la comunicación de la negativa al AUTOR.
El AUTOR afirma que el artículo es inédito, que no ha sido enviado simultáneamente a otro medio de publicación y que los derechos no han sido cedidos de forma exclusiva con anterioridad. Se hace responsable frente a la Universidad de Navarra a través de su Servicio de Publicaciones de la autoría y originalidad de su obra, así como de todas las cargas pecuniarias que pudieran derivarse para Universidad de Navarra a través de su Servicio de Publicaciones, a favor de terceros con motivo de acciones, reclamaciones o conflictos derivados del incumplimiento de obligaciones por parte del AUTOR.