Автономное оружие: МККК выступает за новые правила
Заявление Международного Комитета Красного Креста на заседании Группы правительственных экспертов по вопросам, касающимся новых технологий в сфере создания смертоносных автономных систем вооружений
3–13 августа 2021 г., Женева
Международный Комитет Красного Креста (МККК) приветствует возобновление работы Группы правительственных экспертов (ГПЭ) в этот переломный момент в многостороннем обсуждении проблемы автономных систем вооружений, поскольку до Обзорной конференции по КНО осталось меньше пяти месяцев.
МККК высоко оценивает усилия председателя Группы правительственных экспертов, посла Бельгии Марка Пекстена де Бёйтсверве, по сбору предложений, касающихся «нормативной и оперативной базы», по которым Обзорная конференция могла бы прийти к консенсусу и оформить их в виде рекомендаций. МККК считает, что необходимо срочно принять эффективные меры на международном уровне, чтобы преодолеть серьезные риски, вызванные применением автономных систем вооружений, на что последние десять лет обращает внимание множество государств и организаций гражданского общества.
Эти риски вызваны спецификой функционирования автономных систем вооружений. В понимании МККК такое оружие после активации выбирает цели и применяет в их отношении силу без вмешательства со стороны человека, а только на основе получения сигналов из окружающей среды, согласно «профилю цели», который служит обобщенным представлением о типе цели.
Пользователь автономной системы вооружений не выбирает ни конкретную цель, ни точное время или место применения силы.
В ходе такого процесса человек рискует потерять контроль над применением силы, что порождает опасения гуманитарного, правового и этического характера.
Эти опасения небеспочвенны, поскольку многие считают, что любые системы вооружений можно сделать автономными в выполнении критически важных функций, например в выборе целей и применении силы.
Основные проблемы с автономными системами вооружений связаны с тем, что сложно предугадать и ограничить последствия их применения. С гуманитарной точки зрения они рискуют причинить ущерб лицам, пострадавшим в результате вооруженных конфликтов, как гражданским, так и выбывшим из строя комбатантам, что повышает риск эскалации конфликта. С правовой точки зрения они ставят под сомнение способность лиц, которые должны применять нормы международного гуманитарного права (МГП) при планировании, принятии решений и осуществлении нападений, выполнять свои обязательства.
С этической точки зрения такой порядок функционирования создает опасность фактического предоставления датчикам, программам и машинам возможности принимать вместо человека решения, от которых зависит жизнь и смерть людей. Это порождает вопросы этического характера, которые стоят особенно остро, когда автономные системы вооружений используются непосредственно для поражения людей.
На сегодняшний день применение автономных систем вооружений крайне ограничено. В основном их применяют строго под контролем человека, в отношении определенных видов военных объектов, в течение ограниченного времени, в ограниченных зонах, где нет гражданских лиц.
Тем не менее, сложившиеся тенденции в сфере наращивания разработки и применения автономных систем вооружений значительно усугубляют основные опасения. В частности, с военной точки зрения существует заинтересованность в их применении в отношении более широкого спектра целей, на более обширных территориях и в течение более длительного времени, в городской среде, где наибольшему риску будут подвергаться гражданские лица и где контроль со стороны человека и возможность вмешаться и деактивировать систему для человека также будут ограниченными.
Вызывает обеспокоенность то, что сейчас все больше исследуется применение искусственного интеллекта и программного обеспечения для машинного обучения с целью контроля критически важных функций — выбора цели и применения силы. Это сделало бы еще более сложной и без того непростую задачу, которая стоит перед пользователями: как предугадать и ограничить последствия применения автономных систем вооружений.
В связи с этим высокие договаривающиеся стороны КНО обязаны и имеют возможность содействовать прогрессу в разъяснении, рассмотрении и разработке нормативной и оперативной базы для автономных систем вооружений.
Воспользовавшись этой возможностью, 12 мая 2021 года МККК составил рекомендации для всех государств, а 11 июня 2021 года представил их на рассмотрение председателю ГПЭ.
МККК рекомендует государствам принять новые, юридически обязательные нормы, регулирующие создание и применение автономных систем вооружений, чтобы гарантировать достаточный контроль со стороны человека и возможность для него принимать решения о применении силы.
МККК считает, что это потребует запрета определенных видов автономных систем вооружений и строгого регулирования других их видов.
Прежде всего, следует прямо и недвусмысленно отказаться от непредсказуемых автономных систем вооружений именно из-за их неизбирательного действия. Лучший способ этого добиться – запретить автономные системы вооружений, которые разработаны или используются таким образом, что последствия их применения невозможно в достаточной мере понять, спрогнозировать или объяснить.
Во-вторых, применение автономных систем вооружений для выбора людей в качестве целей должно быть исключено. Лучший способ этого добиться – запретить автономные системы вооружений, которые разработаны или используются для применения силы непосредственно против людей, а не против объектов.
В-третьих, разработку и применение автономных систем вооружений, которые не подпадают под этот запрет, следует регулировать, в том числе, сочетая несколько видов ограничений на виды целей, например, ограничивать их применение объектами, которые по своему характеру являются военными; ограничивать продолжительность, географический охват и масштабы их применения, в том числе обеспечить принятие решений и контроль со стороны человека в отношении нанесения конкретных ударов; ограничивать ситуации применения, например, ситуациями, в которых отстуствуют гражданские лица или объекты. Кроме того, следует ввести обязательные требования к взаимодействию человека и машины, в особенности чтобы обеспечить эффективный надзор со стороны человека и своевременное вмешательство и деактивацию системы.
МККК считает, что предложенные им запреты и ограничения соответствуют сложившейся практике применения автономных систем вооружений в военных целях.
Хотя эти рекомендации содержат четкие, принципиальные и практически применимые советы относительно того, где провести границы приемлемого с учетом опасений гуманитарного, правового и этического характера, они не являются готовым текстом договора и требуют большей детализации ограничений, что создает для государств необходимость дальнейшей доработки формулировок.
Поэтому отрадно отмечать сближение мнений государств о том, что определенные автономные системы вооружений следует запретить или иным образом не допустить их разработки и применения, а также что разработку других таких систем следует регулировать или иным образом ограничивать.
Данные предложения отражают широко распространенные взгляды: признание необходимости обеспечить контроль со стороны человека и принятие решений человеком при применении силы; признание того, что обеспечение такого контроля и принятия решений требует эффективного ограничения разработки и применения автономных систем вооружений, а также растущая уверенность в том, что такие ограничения можно ввести на международном уровне.
Также внушает оптимизм то, что многие государства продемонстрировали готовность прояснить, как МГП уже ограничивает автономные системы вооружений, и некоторые предложили более активно делиться примерами из современной военной практики.
МККК убежден, что международные ограничения применения автономных систем вооружений должны принять форму новых, юридически обязательных норм. Новые нормы нужны в связи с серьезностью рисков и необходимостью разъяснить, как применяются существующие нормы МГП, а также разработать и укрепить правовую базу в соответствии с этическими принципами, верховенством права и гуманитарными соображениями.
Международное право должно развиваться дальше, чтобы обеспечивать и укреплять меры защиты в свете развивающихся военных технологий и практики. Высокие договаривающиеся стороны КНО — рамочной конвенции, неразрывно связанной с МГП, — подтверждают «необходимость продолжить кодификацию и прогрессивное развитие норм международного права, применяемых в период вооруженных конфликтов», как сказано в преамбуле к Конвенции.
Учитывая сложившиеся тенденции в сфере применения и развертывания автономных систем вооружений, МККК призывает высокие договаривающиеся стороны КНО участвовать в принятии новых норм.
Опираясь на обширную и углубленную работу КНО и ГПЭ за последние восемь лет, можно выработать международные меры, которые будут способствовать повышению эффективности защиты людей, пострадаваших от вооруженных конфликтов, выполнению правовых и моральных обязательств лиц, участвующих в конфликте, и сохранению свойственной всем нам человечности. Высокие договаривающиеся стороны должны воспользоваться этой возможностью и сфокусироваться на ней в своей работе в ходе этого совещания.