英国副首相道登：世界必须通过“人工智能压力测试”

道登表示，定于今年11月举行的人工智能安全峰会旨在预防前沿人工智能带来的风险，并探讨如何将其用于公共利益。

他强调，人工智能是世界上已知的最大变革，将改变我们所做的一切、我们的生活方式、国家之间的关系，并且将从根本上改变联合国。

他强调说：“作为政府，我们的任务是理解它、掌握它，并寻求治理它，而且我们必须尽快做到这一点。”

我们不知道人工智能的边界

道登将灯泡的发明者托马斯·爱迪生和电子邮件的缔造者蒂姆·伯纳斯·李（Tim Berners-Lee）的工作与当今人工智能的潜力进行了比较。

“他们当然都无法想象纽约天际线的夜间照明或现代互联网的奇迹，但他们都猜想自己的发明具有变革性的力量。”

他强调，前沿人工智能不仅有可能同样改变我们的生活，而且从解码最小的粒子到宇宙最远的范围，人工智能技术有可能重新构想我们对科学的理解。

机遇与风险

道登强调的主要担忧之一是人工智能正在以前所未有的速度发展，无论是在它带来的机遇还是风险方面，这种发展速度都具有深远的影响。

从积极的一面来看，目前正在开发的人工智能模型可以在解决世界上一些最紧迫的挑战方面发挥关键作用，如清洁能源、气候行动、粮食生产，或疾病和流行病的检测。

他表示：“事实上，今年联合国大会上讨论的每一项挑战以及更多挑战都可以通过人工智能得到改善甚至解决。”

然而，在人工智能的前景之中，道登也发出了警告，强调了滥用的危险，并列举了黑客攻击、网络攻击、深度造假以及人工智能系统可能失去控制等例子。

道登表示，许多人认为这项技术与其他技术不同，因为它的创造者自己不知道它是如何工作的。因此，主要问题将在于误用、意外事故或与人类目标的不一致。

他指出，虽然各公司正在尽最大努力设置护栏，但全球角逐的竞赛已经打响了发令枪，在这场竞赛中，各个公司和国家都将努力以尽可能远和尽可能快的速度突破界限。

人工智能峰会的目标

道登表示，在此背景下，人工智能安全峰会将重点关注解决与前沿人工智能相关的极端风险。

此次峰会旨在汇聚专家、政策制定者和利益相关者，探讨减轻这些风险的策略，同时利用人工智能造福公共利益的积极潜力。

他说：“我们不能陷入关于人工智能是行善工具还是作恶工具的争论，因为这一工具兼具利弊。 我们必须为此做好准备，趋利避害。”