【前方视野】引领人工智能发展走向，联合国推动全球治理

人工智能的发展是否会失控，引发的风险如何规避，红利如何分配，谁来规范它的发展，治理如何开展……这些都是人们关心的问题。

对此，联合国早已采取行动，在2023年秋，由秘书长古特雷斯召集了一个汇集全球人工智能相关领域专家的高级别咨询机构，就此进行探究。前不久，这一咨询机构发布了一份最终报告，联合国新闻的黄莉玲就此采访了机构中的中国人工智能专家曾毅。

问：秘书长人工智能咨询机构刚刚发布了最终报告。您能给我们讲讲这份最终报告的主要内容吗？

曾毅：人工智能的发展使得原来的数字鸿沟变成智能鸿沟。因为现在人工智能不仅是它的基础设施，还是它的服务，对于很多的中低收入国家来讲，甚至都是不可及的。

所以在这种情况下，我们怎么保证人工智能的服务，人工智能的红利能够惠及到所有人，这是联合国非常关注的问题 。

各个国家发展人工智能，它的原则、标准、规范，以及整体的治理体系的设计都是不同的。还有很多的区域性的人工智能治理的网络，它们之间相对来说也是互不沟通的。但这对于全球来讲就是一个重大的冲突。我们怎么去保证，我们在不同的区域网络，在不同的国家制定的人工智能的治理的原则，治理的体系，能够具备和其他的国家、其他区域的互操作性，能够关联在一起，形成一个真正的我们叫做“leave no one behind”的这样的一个网络，这是一个重大的挑战。

在去年的9月20号，我们开联大边会的时候提出了这样的一个问题，Governing  AI for Humanity。整整一年之后，9月20号的时候，联合国发布了这样一个报告。

问：报告里面提出了七个建议，您能给我们讲讲吗？

曾毅：那么其中第一项就是建议联合国专门成立关于前沿人工智能的科学小组。第二项建议是针对人工智能治理，要开展持续的政策对话。第三个建议，就是我们要针对人工智能标准的建立，以及标准之间的交互、互鉴，建立机制，我们叫做这个AI Standardization and  Exchange。那么更关键的是，未来我们在联合国系统，如何通过联合国平台的支持，成立关于人工智能能力发展的网络。我们还建议需要专门地构建全球人工智能基金，来帮助中低收入国家人工智能的发展、应用和治理。人工智能有一项基础就是数据。针对数据， 也专门提出了要构建全球数据框架。

可以说这七项建议是一环扣一环的。我们不妨先讨论一下，为什么还要建立一个关于人工智能的科学小组？人工智能应当向什么方向发展？我们现在是不是在朝正确的方向发展？还有没有其他的方式来发展人工智能？这个在科学上现在是没有确定的答案的。

我们知道现在人工智能它需要大规模的数据，大规模的算力，需要很多的能源，这本身跟我们的可持续发展目标 就是相违背的。所以按照现在的人工智能的这种发展的趋势，以及它的基础设施，在耗能方面的特征，那么实际上，越多的人工智能应用就可能给能源、给可持续发展带来更多的挑战——虽然它可以帮助解决很多可持续发展的问题，但是同时它也带来了挑战。未来能不能有这样的人工智能的技术，就是小规模的数据，用相对少的算力、低能耗就能达到我们的高质量，帮助我们解决很多的问题。这些都需要人工智能的科学家来回答。

当然，这个科学小组也不应当限于理工科学，也需要与科学政策进行互动，但它的核心是用科学的方式回答未来人工智能的走向，以及它可能潜在的风险，以及这些风险解决的技术途径。

问：人工智能需要大量的数据，大量的算力，另一方面还要消耗大量的能源。具体您能给我们解释一下吗？

曾毅：人工智能现在是高能耗的，训练一个人工智能大模型，它所耗费的碳排放可能是一百多个人一年生活所耗的碳排放。但是呢，人工智能为了提供稳定的服务，经常重新训练，或者是在这个基础之上进行优化训练。可以说像这样高能耗的过程，每一天、每一时都在发生。而且还有商业的竞争，不同的人工智能——商业的人工智大模型能也都在被开发出来。

我们可以说现阶段的人工智能的发展，其实是不太计算成本的。然后，同质化的竞争也非常多。这个实际上就给社会带来了巨大的挑战，需要以更科学的方式去发展。

问：有的国家在人工智能领域发展非常的快，但是很多发展中国家仍然是相对落后的。这种差距到底有多大？

曾毅：根据全球粗略的估计，可能有将近三分之一的人现在甚至没有稳定的互联网接入设施。在美国、在中国这些相对来说互联网通讯基础设施比较发达的国家，人工智能的服务相对稳定。但是对于有些国家来讲，基础的互联网、数据通信设施都没有。这样的话，人工智能所赋能的这些服务对于这些国家就变得更遥不可及了。

所以，对于人工智能的应用来讲，对于有些国家是有与没有的差别，而对有些国家来讲，是你有没有能力去发展自己的人工智能模型，即使你能够发展，你的人工智能模型在你的国家有没有能力赋能千行百业。这些对于绝大多数的国家都是巨大的挑战。

问：这种差距从长远的发展角度来说意味着什么？

曾毅：从长远的发展来讲的话，就意味着我们的智能鸿沟越来越大，如果不是从联合国这个层面去协调资源，来去平衡地域发展之间的差异，那么就会变成富者更富，就会使得基础设施更好的国家，人工智能的算力发展得更好的国家，就更能享受到更多的人工智能的红利。

这其实也就代表着人工智能发展和应用的红利在一些国家实际上是被剥夺了，因为资源就只是这些。对于联合国来讲，不能放任这样的现象。  

问：在人工智能咨询机构的建议里，还有一条提到了要建立通行的治理体系。在目前地缘政治竞争比较激烈的情况下，这种通行的治理体系怎么去建立呢？联合国能够发挥什么作用？   

曾毅：联合国将发挥的作用，就是真正地构建具有最广泛意义的互操作性，使得不同的人工智能治理的体系能够互鉴，能够交互。

人工智能是一个看似智能的新的处理工具，所以它还会犯很多人犯的错误，还会有很多的风险，我们是放任这样的风险在不同的国家一遍一遍地反复出现，还是说最先发展的这些国家能不能够把解决人工智能的风险、安全隐患的这些最佳案例、实践以及经验分享给其他的国家，以使得人工智能可能的安全和风险隐患不要在不同的区域反复出现。我觉得联合国在这方面可以发挥很重要的作用。

我们统计了2022年、2023年左右发生的人工智能风险案例次数，我们可以说有这么几个国家出现的人工智能风险是非常多的。第一是美国，几乎占据了有新闻报道的60%的人工智能风险，第二名就是中国，大概占据10%到20%的风险，第三名大概是英国。而我们看人工智能的技术发展最先进的国家，基本上也可以说是这三个国家，或者说是以英国为代表的欧洲国家。

为什么这几个国家的发展水平高，反而风险出现的次数也多呢？实际上就是因为我们在治理方面没有跟上。然后，很多的（人工智能）发展，它如何去使用，是不是合乎伦理地使用，这对于任何一个国家来讲都是新的问题。

问：刚才您提到了有些风险事件不只是在一个国家发生，在其他国家同样也重复了。您能给我们举几个例子吗？

曾毅：比如说，在很多的在线教育或者课堂教育当中，都会使用到人工智能技术。有一些人工智能技术是辅助教学的，还有一些人工智能技术，去分析教室当中的学生，是不是认真听讲，上课有没有走神，然后有没有跟别人说话。但是呢，像这种教室当中的表情识别、注意度识别， 实际上很容易侵犯到学生的隐私。在2018年左右的时候，在中国大陆出现，那个时候就被中国教育部叫停了。

几个月以后，在美国就发生了类似的案例。卡内基梅隆大学一个计算机系的教授就开发了一个不是利用人脸识别，而是利用步态识别——也是一种生物特征识别方式，然后呢，在教室当中做动作意图识别。

那么很显然，这样的应用既然在中国没有受到欢迎，在美国它也不会受欢迎。当这个应用上线了以后，很多的美国民众、家长都在反对，可是没有多久，这个事情又出现在欧洲。

问：咨询机构的建议里还提到了标准的建立和交互，您能给我们具体解释一下吗？

曾毅：可以说，对未来人工智能的发展，不管是它的研发方式，还是风险防范的方式，其实现在不同的国家都在采用不同的方式去探索，缺乏的是一个统一标准。

而且在国际上，其实是有很多的与国际标准相关的组织，而他们制定的人工智能相关标准，实际上也是不尽相同的，虽然可能有关联，但是有很多的考虑是不尽相同的。

在不同的这个标准之间，就如何去构建这种映射的关系，或者是说未来的人工智能和国际标准能不能够统一化，那么这对于人工智能的标准化的发展是是一个重大的挑战。

问：“人工智能的标准”，指的究竟是什么？您能给我们举几个例子吗？

曾毅：人工智能标准可以说是方方面面。一方面比如说，我们训练人工智能的数据，应该采用什么样的标准的格式，或者是说有哪些输入的形式，数据编码有哪些标准的方法，训练人工智能可以采用什么样的算法，它的输出应该是什么样的格式，呈现应该是什么样的形态，风险防范的方面，都要去防范哪些方面的风险，这些风险可不可以量化的评估，能不能够建立这些风险评估的标准……这一切都是人工智能标准的研究内容。

问：咨询机构还有一条建议，就是要建立一个全球人工智能基金。那么这个基金是怎么运作呢？它的资金从哪里来？怎么用？

曾毅：现在人工智能的发展，其实主要是商业驱动，所以有商业利益可图的时候，发展相对来说就比较快。否则的话，有很多的领域呢，其实现在都没有被充分的发展。那么包括不同的地域之间的差异，也造成了人工智能在服务和应用之上存在巨大的差异。

那么全球人工智能基金就能够保证人工智能的技术相对来说更广泛的惠及到全球各个角落，去解决中低收入国家应用人工智能的问题，帮助他们建基础设施的问题等等。

人工智能能力建设不可能由一个国家来完成，它一定是由一个体系化的网络，相互协作来完成。

问：刚才您提到在有商业利益推动的地方，人工智能的发展就比较快；在没有商业利益的地方，发展就比较慢。您能给我们举个例子吗？

人工智能已经赋能的可持续发展目标，主要是集中在健康以及教育这两个领域。为什么是这样？因为从这两个领域，有很多的价值投入的回报。但是对于其他的领域，比如说生物多样性，比如说文化的构建，可能你并不一定能直接找到这种经济上的回报方式，但是呢，它对于整个社会来讲非常重要。

比如说，我们人与其他物种之间、其他的植物之间会是什么样的关系？那么以往回答这种问题是非常困难的，但是现在通过人工智能与大数据分析的技术，我们可以在十分钟之内就把所有的物种、植物之间的这种关联的关系绘制出来。

另外一方面呢，就是文化。文化之间的交流和互鉴，其实也是人工智能可以去赋能的，不仅仅是说把我们的文化用数字的方式保留下来，更关键的是去比较不同的文化之间的异同，去发现文化之间的共通点，然后，去学习文化之间的差异。这些都是人工智能能够给我们这个社会带来的，但很显然的，这样的应用呢，现在还没有得到足够充分的重视。

问：报告里面还建议联合国成立一个人工智能办公室，那么这个办公室是不是要发挥一个协调作用？  

曾毅：我们提出的每一项建议都是非常具体的步骤，但它们没有一个系统化的组织。这也就是为什么这份报告提出，联合国应该在秘书处下成立一个专门的人工智能办公室，来协调人工智能发展的一些战略、部署和应用。真正使得人工智能落地，服务于全人类，才能够leaving no one behind。

以上是联合国新闻的黄莉玲对对联合国秘书长人工智能高级别咨询机构成员、中国科学院自动化研究所研究员、北京人工智能安全与治理实验室主任曾毅的采访。