“Beautiful future”? Artificial intelligence and international crimes
Abstract
The article examines the prospects for international legal regulation of autonomous weapon systems, which are considered a “new word” in the arms market. The specifics of these systems are analysed, as well as the most common approaches to who should bear responsibility for their unlawful use. The military-tactical characteristics of autonomous weapon systems are described and their difference from conventional weapons is emphasised, including the specific feature that they independently select a target and make a decision to destroy it. The article identifies various approaches to attributing responsibility for the actions of such systems. It argues that it is inappropriate to grant the latter an independent legal personality, despite the degree of autonomy they possess from the will of the human operator. The arguments of supporters of the ban on autonomous weapon systems put forward by the International Committee of the Red Cross and a number of non-governmental organisations are analysed in detail. The possibility of equating these systems with legal entities or other subjects is debated. Ultimately, the author concludes that it is necessary to maintain “meaningful human control” over them. In turn, this will make it possible to impute the actions of these systems to those subjects of legal relations who are capable of bearing criminal responsibility under international law. Finally, the disappointing conclusion is drawn that the desire to put this type of weapon “on the conveyor belt” despite the danger it possesses, is a clear sign of the dehumanisation of modern society.
Downloads
References
Батурин, Ю. М. (2024). «Вина» искусственного интеллекта за «ошибку» и проблема ядерной военной безопасности в контексте юридической топики. Правопорядок: история, теория, практика, (3), 12–19. = Baturin, YU. M. (2024). The “guilt” of AI for the “mistake” and the problem of nuclear military safety in the context of judicial topics. Pravoporyadok: istoriya, teoriya, praktika, (3), 12–19. DOI: https://doi.org/10.47475/2311-696X-2024-42-3-12-19
Батурин, Ю. М., Полубинская, С. В. (2022). Искусственный интеллект: правовой статус или правовой режим? Государство и право, (10), 141–154. = Baturin, Yu. M., Polubinskaya, S. V. (2022). Artificial intelligence: legal status or legal regime? Gosudarstvo i pravo, (10), 141–154.
Бегишев, И. Р. (2023). Автономная робототехника в системе уголовно-правовых отношений. Блок-Принт. = Begishev, I. R. (2023). Autonomous robotics in the system of criminal law relations. Blok-Print.
Даунинг, Т. (2020). 1983-й. Мир на грани. РОССПЭН. = Downing, T. (2020). 1983. The world is at the brink. ROSSPEN.
Великович, Б., Стюарт, К. (2024). Дрон-убийца. Мемуары оператора боевого беспилотника. Родина. = Velikovich, B., Styuart, K. (2024). Drone-killer. Memoirs of combat drone operator. Rodina.
Гаджиев, Г. А., Войниканис, Е. А. (2018). Может ли робот быть субъектом права? (поиск правовых форм для регулирования цифровой экономики). Право. Журнал ВШЭ, (4), 24–48. = Gadzhiev, G. A., Voinikanis, E. A. (2018). Could a robot be a subject of law (in search of legal forms for a digital economy)? Pravo. Zhurnal Vysshey shkoly ekonomiki, (4), 24–48. DOI: https://doi.org/10.17323/2072-8166.2018.4.24.48
Головко, Л. В. (2021). М. С. Строгович и «искусственный интеллект»: о современной реинкарнации старых теорий и их этической ничтожности. Судебная власть и уголовный процесс, (3), 29–36. = Golovko L. V. (2021) M. S. Strogovich and AI: on the modern reincarnation of the old theories and their etic insignificance. Sudebnaya vlast’ i ugolovnyi process, (3), 29–36.
Головко, Л. В. (2019). Цифровизация в уголовном процессе: локальная оптимизация или глобальная революция? Вестник экономической безопасности, (1), 15–25. = Golovko, L. V. (2019). Digitalisation in the criminal process: local optimisation or global revolution? Vestnik e`konomicheskoy bezopasnosti, (1), 15–25. DOI: https://doi.org/10.24411/2414-3995-2019-10002
Грачева, Ю. В., Арямов, А. А. (2020). Роботизация и искусственный интеллект: уголовно-правовые риски в сфере общественной безопасности. Актуальные проблемы российского права, 15(6), 169–178. = Gracheva, YU. V., Aryamov, A. A. (2020). Robotisation and artificial intelligence: criminal law risks in the field of public security. Aktualnye problemy rossiyskogo prava, 15(6), 169–178. DOI: https://doi.org/10.17803/1994-1471.2020.115.6.169-178
Евсеев, А. П. (2022). Бизнес и международное уголовное правосудие: эволюция взаимоотношений. Международное правосудие, 12(3), 96–116. = Evseev, A. (2022). Business and international criminal justice: the evolution of their relationship. Mezhdunarodnoe pravosudie, 12(3), 96–116.
Жалинский, А. Э. (2006). Современное немецкое уголовное право. Велби, Проспект. = Zhalinskiy, A. E. (2006). The modern German criminal law. Velbi, Prospekt.
Иванов, В. В. (1978). Чет и нечет. Сов. радио. = Ivanov, V. V. (1978). Odd and even. Sov. radio.
Зауэр, Ф. (2021). В шаге от края пропасти: почему многостороннее регулирование автономности систем вооружения столь сложно, но необходимо и возможно. Международный журнал Красного Креста, 913, 305–334. = Sauer, F. (2021). Stepping back from the brink: why multilateral regulation of autonomy in weapons systems is difficult yet imperative and feasible. International Review of the Red Cross, 913, 305–334.
Карпец, И. И. (1979). Преступления международного характера. Юрид. лит. = Karpecz, I. I. (1979). Treaty-based crimes. Yurid. lit.
Люблинский, П. И. (1930). Преступления в области воздушного транспорта. Вопросы воздушного права. В кн. П. И. Баранов, В. А. Зарзар, Е. А. Коровин, В. Л. Лахтин, И. С. Перетерский, А. В. Сабанин (Pед.), Вопросы воздушного права, вып. 2 (с. 165–189). Госиздат. = Lyublinskii, P. I. (1930). The crimes in the field of air transport. In P. I. Baranov, V. A. Zarzar, YE. A. Korovin, V. L. Lakhtin, I. S. Pereterskiy, A. V. Sabanin (Eds.), Issues of air law, iss. 2 (pp. 165–189). Gosizdat.
Медушевский, А. Н. (2024). Постгуманизм: научная теория, социальная утопия или новая идеология господства? Часть I. Вопросы теоретической экономики, (3), 171–185. = Medushevskiy, A. N. (2024). Post-humanism: academic theory, social utopia or the new ideology of political dominance? Part I. Voprosy teoreticheskoy ekonomiki, (3), 171–185. DOI: https://doi.org.10.52342/2587-7666VTE_2024_3_171_185
Международный Комитет Красного Креста. (2022). Позиция МККК в отношении автономных систем вооружений. Международный журнал Красного Креста, (915), 445–463. = International Committee of the Red Cross. ICRC position on autonomous weapon systems. International Review of the Red Cross, (915), 445–463.
Мельникова, Е. Н. (2024). Принцип ответственности контролирующего лица как основа для устранения «разрыва ответственности» за вред, причиненный искусственным интеллектом. Московский журнал международного права, (4), 132–145. = Melnikova, E. N. (2024). Principle of responsibility of the controlling person as an approach to eliminating the “responsibility gap” for harm caused by AI systems and AI applications. Moscow Journal of International Law, (4), 132–145. DOI: https://doi.org/10.24833/0869-0049-2024-4-132-145
Наумов, А. В., Кибальник, А. Г. (Pед.). (2022). Уголовное право зарубежных государств. Общая часть: Учебник. Юрайт. = Naumov, A. V., Kibal’nik, A. G. (Eds.). (2022). The criminal law of foreign states. The general part: textbook. Yurait.
Овчинский, В. С. (2020). Криминология цифрового мира. Норма: ИНФРА-М. = Ovchinskiy V. S. (2020). The criminology of the digital world. Norma: INFRA-M.
Пашин, С. А. (1990). Применение электронно-вычислительной техники и доказательственное право. В кн. Е. А. Суханов (Pед.), Право и информатика (с. 71–89). Изд-во МГУ. = Pashin, S. A. (1990). The use of computers and the evidence law. In E. A. Sukhanov (Ed.), Law and informatics (pp. 71–89). Izd-vo MGU.
Роксин, К. (1986). Основания уголовно-правовой ответственности и личность преступника. В кн. В. Г. Манашвили (Pед.), Актуальные вопросы современного уголовного права, криминологии и уголовного процесса (второй сов.-западногерм. коллоквиум) (с. 19–34). Мецниереба. = Roksin, K. (1986). The grounds for criminal liability and the personality of the criminal. In V. G. Manashvili (Ed.), The actual issues of the modern criminal law, criminology and criminal process (the second soviet-westerngerm. colloquium) (pp. 19–34). Metszniereba.
Румянцев, А. (2023). Общество, право и грядущий мир роботов: вместе с людьми или вместо? Сравнительное конституционное обозрение, 157(6), 4–32. = Rumyantsev, A. (2023). Society, law, and the coming world of robots: cooperating with humans or replacing them? Sravnitel'noe konstitutsionnoe obozrenie, 157(6), 4–32.
Скуратова, А. Ю., Королькова, Е. Е. (2019). Смертоносные автономные системы вооружений: проблемы международно-правового регулирования. Российский юридический журнал, 124(1), 22–30. = Skuratova, A. YU., Korol`kova, E. E. (2019). AWS: the problems of international legal regulation. Rossiyskiy yuridicheskiy zhurnal, 124(1), 22–30.
Холмс, С. (2013). Какая от этого польза Обаме? Сравнительное конституционное обозрение, 97(6), 141–150. = Holmes, S. (2013). What’s in it for Obama? Sravnitel’noe konstitutsionnoe obozrenie, 97(6), 141–150.
Швабе, Ю., Гайсслер, Т. (Ред.). (2018). Избранные решения ФКС Германии. Инфотропик Медиа. = Shvabe, YU., Gaissler, T. (Eds.). (2018). Selected decisions of the German FCC. Infotropik Media.
Шестак, В. А., Волеводз, А. Г., Ализаде, В. А. (2019). О возможности доктринального восприятия системой общего права искусственного интеллекта как субъекта преступления: на примере уголовного законодательства США. Всероссийский криминологический журнал, 13(4), 547–554. = Shestak, V. A., Volevodz, A. G., Alizade, V. A. (2019). On the opportunity of doctrinal perception by the system of common law AI as the subject of crime: on the example of the US criminal legislation. Vserossiiskii kriminologicheskii zhurnal, 13(4), 547–554. DOI: https://doi.org/ 10.17150/2500-4255.2019.13(4).547-554
Широкорад, А. Б. (2024). СВО. Два года противостояния. Вече. = Shirokorad, A. B. (2024). Special military operation. Two years of confrontation. Veche.
Acquaviva, G. (2022). Autonomous weapons systems controlled by artificial intelligence: a conceptual roadmap for international criminal responsibility. The military law and the law of war review, 60(1), 89–121. DOI: http://dx.doi.org/10.2139/ssrn.4070447
Eser, A. (2021). Collateral killings of civilians: reflecting recent German judgments on co-responsibility for foreign drone attacks. In K. Ghanayim, Y. Shany (Eds.), The quest for core values in the application of legal norms (pp. 237–257). Springer. DOI: https://doi.org/10.1007/978-3-030-78953-4_14
Hassan, F. M., Osman, N. D. (2023). AI-Based Autonomous Weapons and Individual Criminal Responsibility Under the Rome Statute. Journal of Digital Technologies and Law, 1(2), 464–480. DOI: https://doi.org/10.21202/jdtl.2023.19.
Sauer, F. (2021). Lethal autonomous weapons systems. In A. Elliott (Ed.), The Routledge social science handbook of AI (pp. 237–250). Routledge. DOI: https://doi.org/10.4324/9780429198533
Swart, M. (2023). Constructing “electronic liability’’ for international crimes: transcending the individual in international criminal law. German Law Journal, 24(3), 589–602. DOI: https://doi.org/10.1017/glj.2023.28
Weigend, T. (2023). Convicting autonomous weapons? Journal of International Criminal Justice, 21(5), 1137–1154. DOI: https://doi.org/10.1093/jicj/mqad037
This work is licensed under CC BY-NC-ND 4.0
