古特雷斯：缺乏全球监管，人工智能带来的风险将大于收益

这场由英国政府主办的峰会在著名的布莱切利园举行。在二战时期，这里曾是盟军破译密码的主要中心，相关工作取得的突破为最终击败纳粹德国立下汗马功劳。

参与人工智能治理对话

古特雷斯对与会者说，如今人工智能构成的威胁更为隐蔽，但可能同样危险。他强调，围绕这项技术带来的风险、挑战和机遇，需要进行“持续和结构性的对话”。

他说：“作为一个具有包容性、公平性和普遍性的人工智能治理协调平台，联合国现在正全面参与这一对话。”

三大关键领域

古特雷斯概述了需要立即采取行动的三个关键领域。

首先，新发布的人工智能模型过少考虑用户的安全和安保，而相应的监管一直处于“追赶”之势。古特雷斯提出，必须要以先发制人的方式制定框架，应对这些强大模型带来的风险，并防止其落入坏人之手。

其次，人工智能也会带来长期的负面后果，包括扰乱就业市场和经济，通过有偏见的算法侵蚀文化多样性，以及技术过于集中而引发地缘政治紧张局势。古特雷斯说：“我们也需要制定框架来监测和分析这些趋势，并对其加以预防。”

第三，在不立即采取行动的情况下，人工智能将加剧本已日益扩大的不平等。古特雷斯提醒，这不是一种风险，而是一个现实，“我们需要做出系统性的努力来改变这一点”。

伦理原则

他同时提到，为了解决这些担忧，各方已经制定出100多套不同的伦理原则，其中不乏重叠之处。他说：“各方普遍认同的是，人工智能应用程序必须做到可靠、透明、负责，并且由人类监督，还要能够被关闭。”

但古特雷斯强调，如果没有全球性的监管，那么不同的伦理原则之间就会存在不连贯的情况，甚至出现鸿沟。

人工智能咨询机构

为此，他特别指出，联合国于上周正式组建了一个新的人工智能咨询机构。该机构汇集了39名来自政府、私营部门、研究界、公民社会和学术界的专家，具有全球性、性别均衡和跨学科等特点。

古特雷斯表示，专家们将考虑如何将现有的各种倡议联系起来，并从中展开协调；今年年底之前，咨询机构还将提供初步建议，探讨如何就人工智能治理建立科学共识，并让这项技术为全人类服务。

这些建议将为拟议中的《全球数字契约》提供参考意见，而这份倡议拟于明年9月在联合国举办的未来峰会上获得通过。