秘书长：联合国是为人工智能制定全球标准与治理手段的“理想场所”
联合国秘书长古特雷斯今天在安理会就人工智能举行的首场公开辩论上强调，各方必须共同为发展人工智能努力，以弥合社会、数字与经济鸿沟，而不是让人们之间的距离进一步拉大。他同时欢迎一些会员国提出建立新的联合国机构来治理这项技术，并称“我们需要争分夺秒来让人工智能造福人类”。
古特雷斯首先表示，早在六年前他就在联合国大会上提出，人工智能将对可持续发展、劳工世界和社会结构产生巨大影响。然而，如今生成式人工智能的迅猛发展仍然令他惊叹不已。
他强调，从监测气候危机到医学研究的突破，人工智能具有推动全球发展和实现人权的潜力，并将对人类生活的方方面面产生影响；除了发展与人权以外，联合国的第三大支柱——“和平与安全”也在与人工智能的应用产生联系，而这已经引发了政治、法律、伦理和人道主义层面的关切。
人工智能给“和平与安全”造成风险
古特雷斯指出，人工智能正越来越多地被用于确定暴力模式和监测停火等工作，以帮助联合国加强维持和平、调解以及人道主义方面的努力，“但人工智能工具也可能被那些不怀好意的人加以利用”。
他进一步指出，出于恐怖主义、犯罪或国家目的来恶意使用人工智能系统可能会造成可怕的死亡、破坏，以及广泛的创伤，并以难以想象的规模造成严重的心理损害；由人工智能支持的网络攻击已经瞄准了关键基础设施以及联合国的维和与人道主义行动，给人们带来巨大的苦难；生成式人工智能的横空出世还可能成为虚假信息和仇恨言论的爆发点，进而破坏真相、事实与安全。
与此同时，人工智能与核武器、生物技术、神经技术和机器人之间的交叉互动也令人不寒而栗。为此，古特雷斯敦促安理会带着“一种紧迫感、一种全球视野和一种学习者的心态”来应对这项技术。
联合国层面做出回应
他表示，面对有可能扰乱人类社会与经济的新技术，国际社会做出集体回应的历史由来已久；而联合国正是为人工智能制定全球标准与治理手段的“理想场所”，因为《联合国宪章》强调保护子孙后代，“这给我们提出了明确的任务，要把所有利益攸关方聚集在一起，共同减缓长期的全球风险”。
古特雷斯强调，世界在减缓人工智能带来的风险方面已经有了起点，包括通过《特定常规武器公约》就致命自主武器系统达成的指导性原则，以及由教科文组织会员国一致通过的《人工智能伦理问题建议书》。
提议建立专门机构
他同样欢迎一些会员国提出建立新的联合国机构来治理人工智能，其模式可以参考国际原子能机构、国际民航组织或政府间气候变化专门委员会。这一机构的总体目标将是“支持各国最大限度地受益于人工智能，减缓现有和潜在的风险，并制定和管理国际商定的监测与治理机制”。
而作为向其迈出的第一步，古特雷斯表示首先将召集一个包含各利益攸关方的人工智能高级别咨询委员会，在今年年底之前为全球人工智能治理的选项提供报告。
此外，即将发布的政策简报“新和平纲领”也会向会员国提出人工智能治理方面的建议，尤其将呼吁在2026年之前完成一项具有法律约束力的国际文书的谈判工作，以禁止在没有人类控制或监督的情况下运行致命自主武器系统。
不仅如此，2024年9月举行的未来峰会也将提供一次绝佳的机会，就许多这些相互关联的问题做出决策。
安理会需发挥领导作用
古特雷斯最后敦促安理会在人工智能问题上发挥领导作用，为采取共同措施指明道路，以加强人工智能系统的透明度、问责制和监督机制。
他重申，“我们需要开发可靠且安全的人工智能，以结束贫困、消除饥饿、治愈癌症、加速气候行动，并推动我们朝着可持续发展目标迈进”。