跳转到主要内容

各国应就自主武器系统制定新的禁令和限制规定

联合国秘书长古特雷斯和红十字国际委员会主席斯波利亚里茨(Mirjana Spoljaric)今天发出联合呼吁,敦促政治领导人紧急制定新的自主武器系统国际规则,更好地保护人类。

古特雷斯和斯波利亚里茨说:“今天,我们齐声呼吁解决一项紧急的人道主义优先事项。联合国和红十字国际委员会呼吁各国制定有关自主武器系统的具体禁令和限制规定,以保护今世后代免遭使用这些武器的后果。在当前的安全形势下,划定明确的国际红线将使所有国家受益。”

自主武器系统

自主武器系统通常是指在没有人类干预的情况下选择目标并对其使用武力,已经引发了人道、法律、道德和安全方面的严重关切。

自主武器系统的发展和扩散有可能显著改变战争的方式,造成全球不稳定,加剧国际紧张局势。通过制造一种对军队和平民构成的风险降低的假象,自主武器系统可能降低参与冲突的门槛,无意中使暴力升级。

保持人类的控制权

古特雷斯和斯波利亚里茨表示,我们必须立即行动起来,保持人类对使用武力的控制。在生死抉择中必须保留人类的控制权。阻止机器自主攻击人类,是我们绝不能逾越的道德底线。

“国际法应该禁止那些在没有人类参与的情况下有能力和自由裁量权去剥夺生命的机器。”

他们说:“随着机器人和人工智能等尖端新兴技术越来越容易获得和利用,且有可能被集成到自主武器中,我们的担忧日益加深。

解决最紧迫的风险

推动这些技术进步的科学家和行业领袖也一直在敲警钟。古特雷斯和斯波利亚里茨表示,如果我们要利用新技术造福人类,就必须首先解决最紧迫的风险,避免不可挽回的后果。

要做到这一点,就需要禁止不可预测的自主武器系统。例如,允许自主武器由机器学习算法控制,就是一个令人无法接受的危险提议,机器学习算法本质上是不可预测、会自我编写的软件

此外,还需要对所有其他类型的自主武器做出明确限制,以确保其符合国际法和道德规范,包括限制使用的地点、时间和时长,限制攻击目标的类型和使用武力的规模,以及确保人类具备有效监督、及时干预和停用的能力。

制定新国际法

古特雷斯和斯波利亚里茨指出,尽管有关测试和使用各类自主武器系统的报告越来越多,但现在采取行动还为时不晚。经过联合国内部十多年的讨论,包括人权理事会、《特定常规武器公约》和联合国大会的讨论,已经为明确的禁止和限制规定的通过奠定了基础。现在,各国必须在此基础上再接再厉,以建设性的方式共同商讨制定新的规则,以应对这些武器技术带来的切实威胁。

他们表示,国际法,特别是国际人道主义法,禁止某些武器的使用,并对所有其他武器的使用设定了一般性限制,国家和个人仍需对一切违反行为负责。然而,由于没有一项专门管理自主武器系统的国际协定,各国可能对如何适用一般规则持有不同的看法。因此,要明确和加强现有法律,就需要制定新的自主武器国际规则。这些规则将起到预防作用,是保护可能受到此类武器影响的人类的机会,也是避免人类遭受可怕后果的关键。

两位领导人说:“我们呼吁世界各国领导人启动谈判,制定一项新的具有法律约束力的文书,明令禁止和限制自主武器系统的使用,并在2026年之前完成谈判。我们敦促会员国现在就采取果断行动,保护人类。”