Женевские переговоры об автономном оружии проверяют, что на практике должно означать «человеческое управление»
На ноябрьской обзорной конференции ООН 2026 года решается, начинать ли переговоры об автономном оружии. Главный вопрос — не может ли дрон летать сам, а кто выбирает цель, устанавливает ограничения и несёт ответственность, когда силу применяет программное обеспечение.
Что именно решает Женева на этой неделе

Седьмая обзорная конференция Конвенции о конкретных видах обычного оружия проходит в Женеве 16–20 ноября 2026 года. Среди вопросов её повестки — смертоносные автономные системы оружия. Это не испытание на поле боя и не демонстрация технологий. Дипломаты проверяют, способны ли правительства перейти от общей обеспокоенности оружием, применяющим силу с помощью программного обеспечения, к более точному решению о дальнейших действиях. Программа, подготовленная Управлением ООН по вопросам разоружения, включает этот вопрос в повестку и предусматривает работу над итоговым документом. Тем самым государствам предоставляется официальная площадка для оценки того, должны ли нынешние обсуждения перейти к переговорам.
Это различие важно, поскольку центральный вопрос заключается не в том, может ли дрон лететь, ориентироваться или оставаться в воздухе без постоянных команд с джойстика. Важно, способен ли он после активации самостоятельно выбирать цели и применять к ним силу без дальнейшего вмешательства человека — и достаточно ли конкретны правила, которые государства примут для контроля этого процесса. Поэтому Женева рассматривает одновременно содержание и процедуру: какой документ можно было бы согласовать и сможет ли конференция вообще договориться начать такую работу.
Согласно материалу Associated Press, Австрия, Бельгия, Бразилия, Ирландия, Мексика, Новая Зеландия и Панама предложили начать переговоры о юридически обязательном документе. Это вывело бы дискуссию за рамки общих заявлений о беспокойстве и приблизило её к сложной работе по определению обязательств. Юридически обязательный документ потребует от правительств ответить на вопросы, которые в политических декларациях часто намеренно оставляют расплывчатыми: какие системы или функции входят в его сферу действия, какие ограничения должны применяться к их использованию и как сохраняется ответственность, если поведение оружия частично формируется датчиками, программным обеспечением и заранее заданными параметрами.
Однако это предложение не гарантирует начала переговоров. Конференция работает по правилам консенсуса, поэтому итогом всё ещё может стать процедурное решение или текст, отражающий минимально общий знаменатель, а не согласие на переговоры о детальных ограничениях. Это не техническая сноска. Это часть вопроса, который решается на этой неделе. Конференция может признать риски, зафиксировать сохраняющиеся разногласия и поручить государствам продолжить обсуждения, не создавая нового юридического документа. Она также может запустить переговорный процесс, результат которого останется неопределённым. Это существенно разные исходы, даже если каждый из них публично будет назван прогрессом.
Именно здесь находится язык «человеческого управления». На первый взгляд он может звучать как простая гарантия: перед применением оружия человек где-то остаётся в цепочке принятия решения. Но содержательное правило должно было бы сказать больше. Оно должно определить, кто выбирает категорию цели, кто устанавливает географические и оперативные ограничения, сколько времени система может вести поиск, какой информацией располагает оператор и можно ли прервать или остановить систему, если обстоятельства изменились. Эти вопросы показывают, почему женевскую дискуссию нельзя свести к выбору между людьми и машинами. Современные военные системы могут по-разному сочетать дистанционное управление, автоматическую навигацию, обработку данных с датчиков и применение оружия. Будущему правилу придётся различать эти функции, а не считать каждую автономную особенность одной и той же юридической проблемой.
Таким образом, непосредственное решение конференции уже, чем широкие утверждения, которыми часто сопровождают тему автономного оружия. Государства не просто голосуют за или против существования искусственного интеллекта в войне и не решают, является ли запрещённым оружием любой дрон, использующий автоматизацию. Они решают, должен ли международный процесс начать вырабатывать правила для систем, способных выбирать цели и применять силу при ограниченном или отсутствующем вмешательстве человека непосредственно в момент атаки. Ответ определит следующий этап дискуссии, но сам по себе не установит, что именно будет запрещать, разрешать или требовать будущий договор.
Именно поэтому итоговый документ следует читать по его рабочим формулировкам, а не по заголовкам. Упоминание о переговорах, мандат на дальнейшую работу и общее подтверждение норм международного гуманитарного права влекут разные практические последствия. Конференция может придать процессу динамику, но политика консенсуса способна сузить итог. Поэтому для тех, кто пытается понять, что именно изменит Женева, первый тест прост: договорились ли государства вести переговоры о юридически обязательном документе — или лишь продолжить обсуждение проблемы?
Граница автономности проходит по выбору цели, а не просто по полёту
Дрон, способный лететь без пилота, не становится автоматически автономным оружием. Важен вопрос о том, что система делает после активации. Дистанционно управляемый вооружённый дрон может использовать программное обеспечение для стабилизации полёта, следования по маршруту, обхода препятствий или возвращения на базу, тогда как человек-оператор по-прежнему решает, какой объект атаковать и когда применить силу. Эти автоматизированные функции могут быть существенными, но сами по себе не отвечают на главный вопрос: кто выбирает цель и кто санкционирует применение силы?
Международный комитет Красного Креста определяет автономную систему оружия исходя из её действий после активации. В соответствующем смысле такая система может выбирать цели и применять к ним силу без дальнейшего вмешательства человека. Это смещает внимание от образа машины, которая «думает» как человек. Оружию не обязательно принимать широкие стратегические решения, чтобы создать правовую и оперативную проблему. Достаточно, чтобы программное обеспечение с помощью датчиков и заданных правил определяло, какой объект относится к разрешённому классу целей, а затем поражало его без участия человека в окончательном выборе каждой конкретной атаки. (МККК, «Часто задаваемые вопросы об автономных системах оружия»)
Поэтому три системы могут выглядеть похожими, но ставить разные вопросы. Дистанционно управляемый вооружённый дрон остаётся частью цепочки решений, в которой участвует человек, даже если его навигация и камеры в значительной степени автоматизированы. Автономная навигация может позволить летательному аппарату или боеприпасу самостоятельно перемещаться в окружающей среде, но движение — не то же самое, что выбор цели. Граница пересекается тогда, когда системе после активации разрешают самостоятельно обнаруживать цели и поражать их без дополнительного вмешательства человека. Проверять нужно не то, способен ли аппарат лететь один, а то, распространяется ли его автономность на решение применить силу.
Слово «автономный» может обозначать несколько разных функций. Аппарат способен удерживать высоту, распознавать рельеф, прокладывать маршрут или избегать столкновений. Оборонительная система может обнаруживать и перехватывать приближающуюся угрозу. Боеприпас может объединять данные нескольких датчиков и решать, соответствует ли объект заранее заданной сигнатуре. Барражирующее оружие может искать в определённом районе объект, соответствующий обобщённому профилю цели, и атаковать его. Эти системы несут неодинаковые риски, поэтому ответственно оценивать их нельзя, спрашивая лишь о том, участвовал ли человек в начале операции.
Примеры МККК показывают, почему и оборонительные, и наступательные варианты требуют тщательной проверки. Системы, предназначенные для перехвата приближающихся ракет или самолётов, могут работать на таких скоростях, что времени для вмешательства почти не остаётся. Боеприпасы с объединением данных датчиков могут быть выпущены ещё до того, как оружие определит конкретный объект, по которому нанесёт удар. Барражирующее оружие может оставаться в районе, обрабатывать данные датчиков и поражать цель, соответствующую общему описанию, а не конкретному человеку или однозначно идентифицированной машине. В каждом случае ключевым становится соотношение между первоначальным решением человека и последующим действием машины: что именно санкционировал человек и какая часть последующего применения силы была оставлена системе? (МККК, «Автономные системы оружия и международное гуманитарное право»)
Именно поэтому описание каждого автономного дрона как «робота-убийцы» затемняет техническую и правовую суть вопроса. Такой ярлык сводит в одну категорию навигацию, наблюдение, распознавание целей и применение оружия. Из-за него самолёт с автоматизированной системой управления полётом может выглядеть эквивалентом оружия, которое самостоятельно обнаруживает и поражает цели. И наоборот, он способен скрыть важную автономность боеприпаса или оборонительного перехватчика, поскольку внешне платформа остаётся под контролем человека. Точный анализ должен выявлять функцию, выполняемую автономно, а не просто аппарат, на котором она реализована.
Противоположное упрощение столь же вводит в заблуждение. Назвать систему «управляемой человеком» недостаточно, если роль человека сводится к нажатию кнопки запуска, после чего оружие само ищет, выбирает и атакует цели в обширной зоне. Само присутствие оператора в командном пункте также не доказывает наличия осмысленного контроля над каждым результатом. Практические вопросы точнее: какой класс целей был задан, какие различия способны уловить датчики, какие географическая зона и временной интервал установлены, можно ли остановить или перенаправить систему до применения силы? От ответов зависит, сохраняется ли связь между решением человека и конкретным применением силы.
Для женевских обсуждений эта граница имеет принципиальное значение. Правила, сформулированные применительно к платформам — дронам, ракетам или турелям, — могут упустить ту же функцию наведения, если её перенесут в другую систему. Правила, построенные вокруг понятия «автономность», способны охватить безвредные функции навигации и при этом не определить конкретное применение силы, вызывающее обеспокоенность. Рабочий тест должен начинаться с последовательности действий: человек активирует систему; система собирает и интерпретирует информацию; выбирает цель в соответствии со своей программой; применяет силу. Решающее значение имеет то, требуется ли вмешательство человека между выбором цели и атакой, а также достаточно ли конкретны ограничения, заданные при активации, чтобы такую передачу полномочий можно было оценить.
Почему человеческий контроль трудно превратить в требование к машине
«Человеческий контроль» звучит как ясная гарантия, пока его не приходится переводить в условия, при которых оружию разрешено искать, выбирать и атаковать цель. Человек может активировать систему, одобрить задание или находиться рядом, пока программное обеспечение выполняет решающие действия. Такие формы участия не обязательно равнозначны. Практический вопрос состоит в том, остаётся ли роль человека осмысленной в момент применения силы и располагает ли он достаточной информацией, полномочиями и временем, чтобы предотвратить незаконную или ошибочную атаку.
Поэтому автономность — это не только вопрос о том, кто нажимает кнопку запуска, но и задача проектирования системы. Любое будущее правило должно учитывать, насколько предсказуемы результаты работы системы в условиях её применения. Оружие, действующее против чётко определённого класса целей на ограниченной территории, создаёт иную проблему контроля, чем система, которая ищет объекты в меняющейся среде по широкому или обобщённому профилю. Чем уже перечень разрешённых целей и зона действия, тем легче заранее установить, с чем система может столкнуться и что ей разрешено делать. Но даже ограниченные условия не отменяют необходимости проверить, способна ли система отличить разрешённую цель от находящихся рядом людей, гражданских объектов или иных охраняемых объектов.
Важна и продолжительность работы. Систему, действующую в течение короткого контролируемого периода, может быть проще контролировать, чем ту, которая продолжает поиск после изменения обстоятельств. Со временем меняются значение признаков цели, присутствие гражданских лиц и военная необходимость атаки. Поэтому решение человека, принятое до активации, не может автоматически заменить продолжающееся суждение. К числу необходимых гарантий могут относиться ограничения на место действия оружия, срок его активности и порядок действий при столкновении с условиями, не предусмотренными исходными допущениями, на которых основывалось разрешение.
Предсказуемость также имеет ключевое значение для подотчётности. Оператор должен на приемлемом для практики уровне понимать, что именно система предназначена обнаруживать, как она может отреагировать и какие неопределённости способны повлиять на её поведение. Это не означает, что во время операции человек обязан просчитывать каждый программный шаг. Но предполагаемые последствия применения системы должны быть достаточно ограничены, чтобы решение задействовать её можно было оценить до применения силы. Если результаты работы системы непрозрачны, нестабильны или плохо предсказуемы, формальное одобрение может почти не обеспечивать реального контроля над последствиями.
Та же проблема касается возможности вмешательства. Недостаточно заявить, что человек технически способен прервать работу оружия, если оператор не может распознать необходимость вмешательства, не располагает надёжной связью, получает информацию слишком поздно или не имеет действенных полномочий отменить поражение цели. Возможность прерывания нужно рассматривать с учётом скорости оружия, понимания оператором обстановки и поведения системы при задержке или потере команды. Механизм контроля, существующий лишь на бумаге и неработоспособный в условиях операции, не снимает исходную правовую и этическую проблему.
Международное гуманитарное право уже устанавливает применимые обязательства. Стороны конфликта должны различать гражданских лиц и комбатантов, а также гражданские объекты и военные цели; они обязаны избегать атак, от которых ожидается чрезмерный ущерб гражданскому населению по сравнению с предполагаемым военным преимуществом; кроме того, при нападении необходимо принимать практически осуществимые меры предосторожности. Сложность не в том, что автономность создаёт отдельную правовую вселенную. Проблема в том, что непрозрачное или адаптивное наведение может затруднить оценку этих обязательств до удара — в момент, когда соответствующие решения должны быть приняты.
Различение целей наглядно показывает эту проблему. Система может распознать технический признак, связанный с допустимой целью, и всё же испытывать трудности, когда меняется окружающий контекст или когда гражданское население и военная деятельность оказываются рядом. Принцип соразмерности требует сопоставлять ожидаемый вред гражданскому населению с предполагаемым военным преимуществом, а не просто классифицировать объект. Меры предосторожности должны планироваться и проверяться с учётом конкретных обстоятельств. Если пользователь не может надёжно знать, как система истолкует окружающую обстановку, решение человека может оказаться оторванным от последствий, которые нападающая сторона обязана предвидеть по закону.
Поэтому подотчётность не может заканчиваться первоначальным разрешением. Следователи должны иметь возможность восстановить, что именно система восприняла, как классифицировала, какие ограничения действовали, что было известно оператору и какое вмешательство оставалось возможным. Записи и объяснимость сами по себе не делают удар законным, однако без них сложнее установить, возникла ли ошибка из-за конструкции оружия, параметров задания, решения оператора или более широкой цепочки командования. Следовательно, правило, требующее контроля человека, должно охватывать не только надзор в реальном времени, но и доказательства, необходимые после инцидента.
Одна лишь автономность навигации не отвечает на эти вопросы. Дрон может лететь без постоянного управления пилотом, при этом оставляя выбор цели и применение силы человеку. Это отличается от оружия, которое после активации самостоятельно выбирает цели и атакует их. Решающее значение имеет функция, сохраняющая автономность в момент применения силы. Поэтому содержательная проверка наличия контроля человека должна охватывать всю цепочку — от разрешённой цели и района действия через поиск и идентификацию до решения применить силу и возможности остановить систему или расследовать результат.
Практическая проверка для читателя: каким должно быть будущее правило
Самый полезный способ оценить будущее соглашение об автономном оружии — оставить в стороне общие заверения о том, что человек «остаётся в контуре», и спросить, что именно он контролирует. Человек выбирает каждую цель или лишь задаёт общий профиль цели? Система автономна только в навигации или после активации сама распознаёт объекты и вступает с ними в бой? Может ли оператор до запуска чётко установить район действия, ограничение по времени и характер воздействия оружия? Эти различия важны, поскольку дрон, который добирается до заданного места без непрерывного управления пилотом, не обязательно сам принимает юридически и оперативно решающее решение. Более трудный вопрос заключается в том, выбирает ли программное обеспечение цель и применяет ли против неё силу без дальнейшего вмешательства человека.
Это даёт читателю практический критерий для оценки заявлений государств, военных и технологических компаний. Во-первых, нужно определить, какая именно функция автономна. Заявления об «автономности» могут относиться к прокладыванию маршрута, обходу препятствий, обработке данных сенсоров, распознаванию целей или всей последовательности применения оружия; это разные возможности, сопряжённые с разными рисками. Во-вторых, следует выяснить, какие цели разрешены. Система, ограниченная чётко определённым объектом в контролируемой обстановке, вызывает иные вопросы, чем система, действующая против обобщённого класса целей в населённой или меняющейся среде. В-третьих, важно спросить, где и как долго система может искать и действовать. Ограниченная зона и короткий период способны уменьшить неопределённость; широкая территория и поиск без заранее установленного конца затрудняют прогнозирование того, с чем столкнётся система и как она это классифицирует.
Следующий вопрос — является ли вмешательство человека осмысленным, а не только формальным. У оператора может технически быть кнопка отмены, но это ещё не доказывает наличие эффективного контроля, если система движется быстрее, чем оператор успевает понять её выводы, если связь ненадёжна или если оператор не может определить, почему конкретный объект был классифицирован как цель. Человеческий контроль также зависит от информации, доступной до активации: качества сенсоров, точности описания цели, ожидаемого присутствия гражданских лиц и известных ограничений системы. Если оператор не может разумно предвидеть ситуации, в которых оружие применит силу, ответственность нельзя восстановить простым указанием на человека, находящегося где-то в командной цепочке.
Поэтому убедительное правило должно охватывать нечто большее, чем лозунг. В нём необходимо чётко определить требуемый уровень предсказуемости, допустимую широту класса целей, географические и временные ограничения, а также моменты, когда человек должен иметь возможность контролировать, прервать или отменить применение оружия. Правило также должно сохранять обычные требования международного гуманитарного права: различение гражданских лиц и комбатантов либо военных объектов, соразмерность с учётом ожидаемого ущерба гражданскому населению и осуществимые меры предосторожности при нападении. Эти нормы уже действуют. Сложность в том, что непрозрачное, адаптивное или основанное на объединении данных сенсоров наведение может затруднить оценку соблюдения норм до удара — именно тогда, когда должны приниматься ключевые решения о риске и санкционировании применения силы.
Наконец, нужно спросить, кто несёт ответственность после ошибки и смогут ли следователи восстановить ход событий. Система не должна превращаться в пробел в подотчётности лишь потому, что её решение возникло из взаимодействия программного обеспечения, сенсоров и меняющихся данных о поле боя. Для содержательной проверки необходимы записи о настройках системы, полученной ею информации, командах операторов и моменте, когда было принято решение выбрать и применить силу. Практический критерий заключается не в том, способна ли машина объяснить себя обычным языком, а в том, могут ли компетентные органы установить, кто санкционировал операцию, какие ограничения были введены, что сделала система и почему возник незаконный или неожиданный результат.
Эти вопросы также показывают, что Женева может дать, а чего не может. Седьмая обзорная конференция Конвенции о конкретных видах обычного оружия может начать работу над переговорами, а предложение, поддержанное Австрией, Бельгией, Бразилией, Ирландией, Мексикой, Новой Зеландией и Панамой, придаёт встрече конкретный политический критерий. Но решение начать переговоры само по себе не является ни обязательным для исполнения глобальным запретом, ни полноценным правилом развёртывания. Консенсусная политика может привести к процедурному результату или оставить самые трудные вопросы нерешёнными. Поэтому будущие заявления следует сопоставлять с практическими деталями: какая функция автономна, какие цели разрешены, где и как долго система может действовать, какое вмешательство остаётся возможным и кто несёт ответственность, если программное обеспечение ошибается. Пока эти ответы не станут конкретными, «человеческий контроль» останется принципом, а не надёжной гарантией.
Comments
Sign in to comment.
No comments yet.