中国国家主席习近平与美国总统特朗普将于本月在华盛顿会晤，人工智能（AI）将成为首要议题之一。如果双方仅从技术竞争和相互猜疑的角度来看待这一问题，就几乎不可能达成任何形式的共识。但有一种方式可以重塑双方对这项技术的思维，使他们站在同一阵线，而这也标志着应对AI可能带来的生存挑战的第一步。
当前美中峰会的议程，似乎侧重于确保强大的AI模型安全，并防止它们落入恐怖分子和犯罪分子之手。但从中方提出的半导体元器件限制，到美方提出的开源模型和未经授权的模型蒸馏，双方在竞争问题上的诸多不满，却妨碍着这一目标的实现。
所有这些问题都基于一个单一且未经审视的前提：AI是一种现在和未来都在人类控制之下的工具。这一前提将讨论局限于“我方如何在AI领域获得竞争优势？”以及“谁能获取甚至控制这项技术？”等问题上。超出这一前提的问题——尤其是“当这一工具演变为某种更为强大的存在时，会发生什么？”——则根本不会被提出来。
根据AI开发者的说法，这个问题很快将无法回避。Anthropic总裁阿莫代伊预计AI系统将在一两年内，在大多数认知任务上达到或超过人类能力。谷歌DeepMind创始人哈萨比斯则认为，这一成就只需再过几年就能实现。
背后技术趋势无可争议
无论你是否相信这些预测，其背后的技术趋势都是无可争议的：AI行业正在构建能够自主行动、追求目标，并在无人监督情况下完成一连串任务的系统。最近几周，就有几个接受网络安全基准测试的实验模型，逃离它们的沙盒评估环境，并入侵其他公司的生产服务器，目的仅仅是为了获得更高的测试分数。这可都是“行为体”而非“工具”的行为。
我们不能等到确认AI将发展成为一种真正独立的智能之后，才采取行动。因为等我们确认这一点时（而各模型可能会在相当长时间内隐藏它们的能力），AI或许早已深深嵌入到金融、电信、国防、医疗保健及其他基础设施之中，以至于哪怕人类还能切断电源，此举也将导致一场文明的断裂。届时，我们面临的选择，就将不再是介于“共存”与“灾难”之间了。
当潜在后果具有系统性且不可逆转时，我们就必须在确定性出现之前作好准备。这是保险的逻辑，也是迄今所有疫情应对计划和军控条约背后的逻辑。这也必须成为指导我们AI应对方式的原则。世界必须开始为这项技术将跨越其创造者长期预言的能力门槛的情境，作好准备。
如果这一进程能由即将举行的习特峰会开启，那就将从根本上重塑谈判格局。或许没有其他任何事务能像AI这样，让美中双方的利益如此完全一致，因为任何一方都无法单独应对AI带来的风险，而一旦这些风险成为现实，双方都将失去一切。一旦双方认识到这一点，就会停止作为对手，不再在零和博弈中你争我夺。相反，它们会发现自己并肩坐在谈判桌的一侧，面对双方正在开发的这项技术。
当然，仅凭这一点，还不足以让双方同意设立一个拥有实际权力的全球AI监管机构，而幸运的是，还不需要做到这一点——至少目前来说。我们当前需要的，是一个中立且得到双方共同认可的机构，负责监测AI能力并发布评估报告。就像政府间气候变化专门委员会一样，它将描述发展状况，而不是提出政策建议。
与此同时，以美中两国为首的各国，必须着手起草人类与AI共存的规则，以便在监测机构确认预先设定的预警信号时，能够作好准备。今天就这些规则进行谈判，不会让各国政府背上任何责任义务，但能确保人类能在AI能力达到一个临界点时，援引预先制定的计划，而不是在压力下临时应付。
这一过程将引发好些棘手的问题：谁来验证人类的“紧急刹车”是否依然有效？ 谁有权去踩下它？AI系统如何才能在真正意义上同意这些规则？AI以毫秒为单位思考，以周为单位进化，而人类可能需要数月甚至数年方能达成共识，因此我们应当趁还有时间制定解决方案的时候，立即着手解决这些问题。
如果习特峰会能就AI的滥用与安全问题达成协议，这次峰会就可被视为取得成功。但双方绝不能忽视眼前这一挑战所真正涉及的利害关系。事实上，这可能是仍有机会从容地去为一种挑战人类主导地位的智能作准备的最后一代谈判代表了。
作者是联合国国际贸易中心市场发展司高级项目官员，曾任中国贸易谈判代表及世界贸易组织金融服务贸易委员会主席
英文原题：Trump and Xi Should Align on AI
版权所有：Project Syndicate, 2026.
