日内瓦本周究竟要决定什么

日内瓦外交官在抽象自动化系统显示屏旁开会

《特定常规武器公约》第七次审议大会将于2026年11月16日至20日在日内瓦举行,致命性自主武器系统列在会议议程之中。这次会议本身既不是战场测试,也不是技术演示,而是一次外交检验:各国政府能否从对“通过软件施加武力”的武器的笼统担忧,推进到更明确地决定下一步该怎么做。联合国裁军事务厅拟定的议程已将这一问题列入讨论,并安排推进最终文件的工作,为各国评估现有讨论是否应转向谈判提供了正式场合。

这一点之所以重要,是因为核心问题并不在于无人机能否在没有持续操纵杆指令的情况下飞行、导航或保持空中状态,而在于系统启动后,能否在不再接受人类干预的情况下选择目标并对其施加武力,以及各国通过的规则是否足够具体,能够约束这一过程。因此,日内瓦同时面对实质与程序两方面的考量:可能谈判哪一种文书,以及大会能否同意启动这项工作。

据美联社报道,奥地利、比利时、巴西、爱尔兰、墨西哥、新西兰和巴拿马已提议启动一项具有法律约束力的文书的谈判。这一提议将使讨论超越对风险的概括性表态,转向界定义务这一艰难工作。一份有约束力的文书将要求各国解决一些在政治声明中常被有意模糊处理的问题:哪些系统或功能属于其适用范围,对其使用应施加哪些限制,以及当武器的行为部分由传感器、软件和预设参数生成时,如何确保责任不被稀释。

这项提议并不能保证谈判一定启动。大会遵循协商一致规则,因此最终结果仍可能只是程序性决定,或一份最低限度共识文本,而不是同意谈判详细限制措施的决定。这种可能性并非技术层面的附注,而正是本周待决问题的一部分。大会可以承认风险、记录持续存在的分歧,并要求各国继续对话,却不创设新的法律文书;也可以开启谈判进程,但其最终结果仍不确定。即使每一种结果都被公开描述为进展,它们在实质上仍截然不同。

“人类控制”的表述正处于这种不确定性的中心。它听起来可能像一道简单的保障:武器使用前,某个人仍处在决策链条中的某个位置。但一项有实际意义的规则还必须说明更多内容:谁选择目标类别,谁设定地理和作战限制,系统可以搜索多长时间,操作人员掌握哪些信息,以及情况发生变化时能否中断或停止系统。这些问题说明,日内瓦的讨论不能被简化为人类与机器之间的二选一。现代军事系统可能以不同方式结合远程操作、自动导航、传感器处理和武器效应。未来的规则需要区分这些功能,而不能把所有自主特征都视为同一个法律问题。

因此,大会眼下的决定比围绕自主武器提出的那些宏大论断更为具体。各国并不是简单地表决人工智能是否应存在于战争之中,也不是在决定所有使用自动化技术的无人机是否都属于被禁止的武器。它们要决定的是,国际进程是否应开始为那些能够在攻击时以较少或完全没有人为干预选择并施加武力的系统谈判规则。这个答案将影响争论的下一阶段,但本身不会决定最终条约将禁止、允许或要求什么。

因此,最终文件值得关注的应是其中具有操作性的措辞,而不是标题。提及谈判、授权进一步开展工作,以及笼统重申国际人道法,这些表述都会带来不同的实际后果。会议可以形成势头,但共识政治也可能收窄最终结果。对于试图理解日内瓦会议将带来何种变化的读者,首要检验其实很直接:各国是否同意谈判一项具有法律约束力的文书,还是仅仅同意继续讨论这一问题?

自主性的边界在于目标选择,而不只是飞行

能够在没有飞行员操控的情况下导航的无人机,并不自动构成自主武器。关键区别在于系统启动后会做什么。一架由远程操控的武装无人机可以利用软件保持飞行稳定、沿航线飞行、避开障碍物或返航,但仍由人类操作员决定攻击哪个目标、何时使用武力。这些自动化功能可能十分重要,却无法独自回答核心问题:谁选择目标,谁授权使用武力?

红十字国际委员会根据系统启动后的作用来界定自主武器系统。在相关意义上,这类系统能够在无需进一步人类干预的情况下选择目标并对其使用武力。由此,关注点便从“像人一样思考”的机器形象上移开。武器不必作出广泛的战略决策,也会产生法律和行动层面的难题。只要软件借助传感器和预先编程的规则,判断某个物体属于获准攻击的目标类别,并在没有人对每次攻击作出最终选择的情况下实施打击,就足够构成问题。(红十字国际委员会,《自主武器系统常见问题》)

因此,三个系统看起来可能相似,却会引发不同问题。即使导航和摄像系统高度自动化,由远程操控的武装无人机仍处于一条由人作出决定的链条之中。自主导航功能可以让飞行器或弹药自行穿越环境,但移动并不等于选择目标。真正越过相关边界的情形是:系统启动后被允许在没有额外人类干预的情况下识别并攻击目标。检验标准不是平台能否自行飞行,而是其自主性是否延伸到了使用武力的决定。

“自主”一词可以描述多种不同功能。车辆可以保持高度、识别地形、计算路线或避免碰撞。防御系统可以探测并拦截来袭威胁。弹药可以整合多个传感器的信息,并判断某个物体是否符合预设特征。巡飞武器可以搜索一片区域,攻击符合一般目标特征的对象。这些系统带来的风险并不相同,因此不能只问任务开始时是否有过人类参与,就对它们作出负责任的评估。

红十字国际委员会列举的例子说明,防御性和进攻性用途都仍需仔细审查。用于拦截来袭火箭或飞机的系统,运行速度可能快到几乎不给人类留下干预时间。传感器融合弹药可能在武器识别出将要击中的具体对象之前就已发射。巡飞武器可能停留在某一区域,处理传感器数据,并攻击符合一般描述的目标,而不是某个点名的个人或经过唯一识别的车辆。在每种情形中,关键都在于最初的人类决定与之后的机器行动之间是什么关系:人究竟授权了什么?最终的武力使用有多少部分被交给了系统?(红十字国际委员会,《自主武器系统与国际人道法》)

正因如此,把每一架自主无人机都称为“杀手机器人”,反而模糊了技术和法律问题。这个标签把导航、监视、目标识别和武器释放压缩成同一类别,容易让一架配有自动飞行辅助功能的飞机听起来等同于能够自行搜索并攻击目标的武器。反过来,它也可能掩盖弹药或防御拦截器中真正重要的自主性,因为从外观上看,承载平台似乎仍由人控制。要进行准确讨论,必须明确究竟是哪项功能实现了自主,而不能只看搭载该功能的硬件。

另一种简单化说法同样具有误导性。称某个系统“由人控制”,并不能解决问题:如果人的作用仅限于按下启动键,之后由武器在一个宽泛区域内搜索、选择并攻击,这种控制就未必有实质意义。操作员即便待在控制室里,也不代表他能对每一个结果实施有效控制。真正需要追问的是:目标类别如何界定?传感器能够区分哪些信息?地理范围和时间窗口设定为何?在武力施加之前,系统能否被停止或改道?这些问题决定了人的决策是否仍与具体的武力使用保持联系。

对日内瓦的讨论而言,这一界限至关重要。围绕平台制定的规则——无论是无人机、导弹还是炮塔——可能会遗漏同一目标选择功能转移到其他系统后的情形。围绕“自主性”制定的规则,则可能把无害的导航功能一并纳入,却没有明确规定真正引发担忧的武力使用。一个可行的检验应从行动顺序入手:人启动系统;系统收集并解读信息;根据预设程序选择目标;随后施加武力。关键在于,从目标选择到攻击之间是否仍必须有人介入,以及启动时施加的限制是否足够具体,能够让这种授权范围接受评估。

为什么很难把人类控制转化为机器要求

“人类控制”听起来像是一项清晰的保障措施,直到它被转化为武器可以搜索、选择并攻击目标时所必须满足的条件。人可以启动系统、批准任务,或者在软件执行关键步骤时留在附近。这些参与方式并不一定等价。实际问题是:在武力施加的节点,人所扮演的角色是否具有实质意义?这个人是否拥有足够的信息、权限和时间,以阻止一次违法或误判的攻击?

因此,自主性既是系统设计问题,也是“谁按下发射按钮”的问题。任何未来规则都需要考察系统在实际使用环境中的输出有多大可预测性。一种武器如果只针对严格界定的目标类别,并在有限区域内运行,与另一种武器在不断变化的环境中搜索、寻找符合宽泛或概括性特征的物体,面临的控制问题并不相同。获准攻击的目标范围和运行区域越窄,就越容易预先判断系统可能遇到什么,以及它获准采取哪些行动。但即使环境受到严格限制,仍必须检验系统能否把获准目标与附近人员、民用物体或其他受保护物体区分开来。

运行持续时间同样重要。在短暂且受控的时间窗口内行动的系统,可能比能够在情况发生变化后仍继续搜索的系统更容易监管。时间会改变目标特征的含义、平民的存在状况以及发动攻击的军事必要性。因此,启动前作出的人的决定,不能自动代替持续不断的判断。相关保障措施可能包括:限制武器可以运行的地点、能够保持激活的时长,以及当它遭遇授权依据所采用的假设之外的情况时应采取何种措施。

可预测性同样是问责的核心。操作员需要在有实际意义的层面上了解系统被设计用来探测什么、可能如何响应,以及哪些不确定因素会影响其行为。这并不要求人在行动期间计算软件的每一步。但系统可能造成的影响必须受到足够明确的约束,使人能够在使用武力前评估是否应当启用它。如果输出不透明、不稳定或难以预判,正式批准在实践中可能几乎无法控制最终结果。

干预的可能性也受到同一问题影响。仅仅说人类在技术上可以中断武器并不够:操作员可能无法识别需要中断的时刻,缺乏可靠通信,收到信息时已经太迟,或没有取消交战的有效权限。是否能够中断,必须结合武器的运行速度、操作员对局势的理解,以及命令延迟或丢失时系统会如何行动来判断。纸面上存在、却无法在实际行动条件下运作的控制安排,无法回应其中真正的法律和伦理疑虑。

国际人道法已经提供了适用的义务框架。冲突各方必须区分平民与战斗员,区分民用物体与军事目标;必须避免发动预期会造成相对于预期军事优势而言过度平民伤害的攻击;并且必须在攻击中采取可行的预防措施。困难不在于自主性创造了一个独立的法律世界,而在于不透明或具适应性的目标选择,可能使这些义务更难在打击前评估——而相关决定必须在那个时点作出。

区分原则正好说明了问题所在。一个系统或许能够识别与获准目标相关的技术模式,但当周围情境发生变化,或平民活动与军事活动重叠时,它仍可能难以作出可靠判断。相称性要求将预期平民伤害与预期军事优势进行评估,而不只是给某个物体分类。预防措施则要求根据具体情况进行规划和核查。如果使用者无法可靠了解系统将如何解读周围环境,人的决定就可能脱离法律要求攻击方预见的实际影响。

因此,问责不能在最初授权时结束。调查人员必须能够重建系统感知到了什么、将其归为哪一类、哪些限制条件当时处于启用状态、操作员掌握了哪些信息,以及当时可以采取什么干预措施。记录和可解释性本身不会使一次打击变得合法,但缺少这些信息,就更难确定失败究竟源于武器设计、任务参数、操作员决定,还是更广泛的指挥链。要求人类控制的规则,因而不仅要处理实时监督,也必须处理事件发生后所需的证据。

仅有导航自主性并不能解决这些问题。无人机可以在没有持续人工操纵的情况下自主导航,同时仍由人选择目标并决定是否使用武力。这与武器启动后自行选择并攻击目标,是两种不同的安排。真正关键的界线,在于使用武力时哪项功能仍保持自主。因此,对人类控制的有意义检验必须沿着完整链条展开:从获准目标和行动区域,到搜索与识别,再到使用武力的决定,以及停止行动或调查结果的能力。

未来任何规则都应通过的实际读者检验

判断未来关于自主武器的协议,最有用的方法是忽略“让人类处于决策环节之中”之类的笼统保证,转而追问人类究竟控制了什么。是由人选择每一个目标,还是只设定一个笼统的目标特征?系统只是自主导航,还是会在启动后自行识别并攻击物体?发射前,操作员能否设定明确的行动区域、时间限制和武器效果?这些区别很重要,因为无人机飞往某个地点时无需飞行员持续操纵,并不意味着它自动作出了具有法律和行动决定意义的决策。更难的问题是:软件是否在没有进一步人工干预的情况下,自行选择目标并对其使用武力。

这也为读者检验各国政府、军方和科技供应商的声明提供了一个实用标准。首先,要确定自主功能究竟是什么。“自主”可能指路线规划、避障、传感器处理、目标识别,或完整的交战流程;这些能力彼此不同,风险也不同。其次,要问系统获准攻击哪些目标。只能在受控环境中针对定义十分明确的物体的系统,与在有人居住或不断变化的环境中针对某一大类目标运行的系统,面临的问题并不相同。第三,要问系统可以在哪里、在多长时间内搜索和行动。狭小的区域和较短的时间能够限制不确定性;宽广区域和无期限搜索,则会让人更难预测系统将遇到什么,以及它会如何进行分类。

接下来的问题是,人类干预是否具有实质意义,而不只是形式上的存在。操作员或许在技术上拥有一个中止按钮,但如果系统运行速度超过操作员理解其输出的能力,通信并不可靠,或者操作员无法判断某个物体为何被归类为目标,那么这并不能证明存在有效控制。人类控制还取决于启用系统前掌握的信息:传感器的质量、目标描述是否清晰、预期会有多少平民,以及系统已知的局限。如果操作员无法合理预见武器将在什么情形下使用武力,仅仅指出指挥链上的某处存在一名人类,并不能重新确立责任。

因此,一项可信的规则不能只停留在口号层面。它需要明确所要求的可预测性达到什么程度、目标类别必须多么狭窄、适用哪些地域和时间限制,以及人员何时必须能够监督、中断或取消交战。规则还必须保留国际人道法的一般要求:区分平民与战斗人员或军事目标,评估预期平民伤害是否符合比例原则,以及在攻击中采取可行的预防措施。这些规则本来就适用。困难在于,透明度不足、具有适应性或融合多种传感器的目标锁定方式,可能让人在打击发生前难以评估是否合规,而风险评估和授权的关键决定恰恰必须在此之前作出。

最后,要问错误发生后由谁承担责任,以及调查人员能否还原事情经过。一个系统不应因为其决定来自软件、传感器和不断变化的战场数据,就变成责任缺口。要进行有意义的审查,就必须记录系统设置、它接收的信息、操作员下达的指令,以及系统选择并实施武力的时点。实际检验标准不是机器能否用日常语言解释自己,而是有关部门能否确定谁授权了行动、施加了哪些限制、系统做了什么,以及为何会出现违法或出乎预期的结果。

这些问题也厘清了日内瓦能够、以及不能够带来什么。《特定常规武器公约》第七次审议大会可以启动谈判工作;奥地利、比利时、巴西、爱尔兰、墨西哥、新西兰和巴拿马支持的提案,也为会议提供了一个具体的政治检验。但决定启动谈判本身,并不是一项可执行的全球禁令,也不是完整的部署规则。共识政治可能只产生程序性结果,也可能把最棘手的问题留待以后。因此,今后的声明应当结合操作细节来阅读:哪些功能是自主的,允许攻击哪些目标,系统可以在哪里、在多长时间内行动,仍有哪些干预可能,以及软件出错时谁承担责任。在这些答案变得具体之前,“人类控制”仍只是一个原则,而不是可靠的保障。