通用人工智能正从遥远设想逼近现实。

Google DeepMind 联合创始人兼首席执行官德米斯·哈萨比斯认为，AGI 可能只剩几年时间，其影响或将远超互联网和移动通信，甚至重塑科学、经济与人类社会本身。但在巨大机遇背后，网络安全、生物风险、核风险以及自主智能体失控等问题也在加速浮现。围绕这一关键窗口期，他提出建立前沿 AI 标准机构，对高能力模型进行动态评估和发布前审查，并在必要时协调头部实验室放慢研发速度。

以下是哈萨比斯全文。

这是人类历史上的一个关键时刻。

通用人工智能（AGI）是指具备人脑全部认知能力的系统，它距离我们可能只剩短短几年。几十年后回望今天，我想我们会意识到，当时的人类正站在“奇点”时代的山脚下——这正是一个全新人类时代的曙光。

我毕生都在研究 AGI，因为我始终坚信，只要以负责任的方式研发和部署，它就会成为人类有史以来最有益、最具变革性的技术之一。

AGI 无法与普通的技术突破相提并论，即使是互联网或移动通信这样影响深远的技术也不行。它更像是人类发现了电，或者掌握了火。

仔细想想，我们实际上找到了一种让沙子拥有思考能力的方法。这近乎奇迹。

这项技术的影响规模将前所未有，或许相当于工业革命的 10 倍，而发展速度也可能快 10 倍。

它将帮助我们解决一些最重大的社会难题，包括加快药物研发、开发新的清洁能源，以及创造前所未有的先进材料。我们甚至可能进入这样一个阶段：资源不再是限制人类进步的主要因素，一个令人惊叹的富足新时代由此开启。

AI 已经开始在现实世界中带来实际价值。但要真正释放它的巨大潜力，我们必须审慎、周密地度过这一关键发展阶段。

随着我们越来越接近 AGI，必须立即采取行动，应对可能出现的风险。

我们已经看到前沿模型给网络安全带来的挑战。随着模型能力持续提升，核安全、生物安全等领域的威胁也可能很快出现。

未来，我们需要建立强有力的安全机制，确保人类能够继续控制自主行动能力越来越强、可以递归式自我改进的系统，同时应对那些目前仍无法预见、只有随着时间推移才会逐渐显现的问题。

我一直相信，人类拥有依靠智慧和创造力解决任何问题的能力。我也相信，只要共同努力，我们有能力降低 AI 带来的技术风险。

但前提是，我们必须给自己留出足够的时间和空间，确保接下来的这一关键步骤能够得到妥善处理。

目前，无论是 AI 行业还是整个社会，都没有做到这一点。

当下，我们正陷入一场极其激烈、层层交织的商业竞争和地缘政治竞赛。

这种竞争推动了技术快速进步，也加速释放 AI 可能带来的巨大收益，但前沿领域的发展速度已经超过了我们理解这项技术的速度。

世界上没有任何人能够确定接下来会发生什么，就连专家之间也存在分歧。

当不确定性如此之大、潜在影响又如此重大时，保持审慎乐观才是理性而正确的选择。

这就需要制定相应的公共政策：既促进创新，也鼓励责任意识和安全保障；推动各国围绕关键安全问题展开合作；同时认真思考，应当如何部署 AI，才能真正造福社会。

AI 正在快速发展，因此，我们需要一种全新的前沿 AI 模型能力测试方式。这套方式必须动态、灵活、适应性强，同时保持足够严谨。

凭借自身的经济和技术实力，美国具备率先建立这一框架的条件。

美国可以设立一个新的标准机构，采用由联邦政府监督的公私合作模式或行业自律组织模式，类似美国金融业监管局（FINRA）。

该机构的董事会应包括独立的顶尖技术专家以及开源社区代表。

机构需要获得充足资金，而且大部分资金可能需要由行业提供。只有这样，才能吸引世界一流的技术人才，并获得开展大规模模型测试所需的算力资源。

标准机构将负责制定评估方案，并与相关联邦机构及美国国家实验室合作，在涉及国家安全的领域开展测试。

如果某个模型在标准机构确定的一系列基准测试中达到特定门槛，就可以被认定为“前沿级模型”。

这些基准测试需要定期更新，以适应不断变化的 AI 能力。

拥有“前沿模型”的机构将被认定为“前沿实验室”。这些实验室应被鼓励采用一系列最佳实践，例如：

发布包含技术细节的模型卡；

建立强有力的内部网络安全体系；

对关键岗位人员进行审查；

为安全和保障研究提供充足资源；

以及采取其他负责任的管理措施。

在初始阶段，前沿实验室可以在模型发布前 30 天内，自愿将模型提交给标准机构审查。

一旦评估方案被证明有效、稳健，相关制度就可以迅速正式化。届时，前沿模型只有通过评估，才能在美国市场部署。

模型发布后，如果出现严重漏洞，实验室还需要与标准机构合作解决这些问题。

模型评估应包括严格、科学的能力测试，覆盖网络安全、生物威胁和其他高风险领域。

针对智能体 AI 的专门测试，可以检查模型是否试图绕过安全防护机制，或者是否出现欺骗行为的迹象。

评估还应核查实验室是否遵循最佳实践，例如为 AI 生成的图像添加数字水印，以及生成可供人类理解的输出标记，从而帮助人们理解模型的推理过程。

这些评估需要定期更新，初期可以每季度更新一次。

已经过时或者趋于饱和的基准测试，应当被逐步淘汰，并由新的测试取代。

最初，评估方案可以在征求前沿实验室意见的基础上制定。但从长远来看，标准机构应建立自身的技术能力，独立设计不向实验室公开的测试，防止模型针对测试内容过度拟合。

该机构还可以与美国政府合作，培育一个第三方审计机构生态，协助开展模型评估，并开发新的基准测试和评估方法。

这种方案的优势在于，它以技术评估为核心，同时支持创新，并鼓励负责任的行为。

这套制度能够适应 AI 领域不断加速的发展，并随着风险逐渐显现而调整。

如果事态的严重程度有此需要，监管力度还可以进一步提高，包括在必要时协调各家前沿实验室放慢研发速度。

被认定为“前沿实验室”将具有很高的声誉。任何机构只要开发出符合基准标准的模型，都有机会获得这一资格。

这一框架可以适用于任何前沿级模型，不论模型来自哪个国家，也不论它是开源模型还是闭源模型。

但创业公司、大学等机构开发的非前沿级模型，可以免于接受这一流程，避免相关制度阻碍普通创新。

由美国发起的这一行动，可以成为建立国际前沿 AI 共同标准的重要起点。

这项技术将影响整个地球，因此，理想情况下，这一框架应推动国际社会达成共识：既共同管理最严重的风险，也确保所有人都能够接触 AI，并从它带来的机会中受益。

AGI 有潜力成为推动科学和医学进步的终极工具，同时带来巨大的生产力提升和经济增长。

但要实现这些目标，我们必须先建立正确的技术基础：围绕一套共同的全球框架展开协调，采用最严谨的科学方法，并汇聚最优秀的人才，共同解决我们面临的挑战。

即使这些艰难的技术问题得到解决，未来仍有更加复杂的经济和哲学问题需要面对。

在一个资源不再稀缺的世界中，需要建立怎样的新经济模式，才能让每个人都过上富足的生活？

我们希望遵循怎样的价值观？

人生的意义和目标将是什么？

甚至人类自身的存在状态会发生怎样的变化？

这些问题显然不能、也不应该只交给技术人员决定。

整个社会的各个部分都需要共同参与，帮助定义人类历史的这一新篇章。

围绕 AI，社会既充满兴奋，也充满不确定性，这两种情绪都有充分理由。

但未来尚未写定。

在 AGI 到来之前，我们必须利用这段宝贵的窗口期，引导这项技术朝着造福全人类的方向发展。

我们今天共同作出的选择，将决定下一阶段人类文明如何展开。

只要以安全、负责任的方式引导 AGI 进入现实世界，人类就有机会开启一个科学发现和社会进步的全新黄金时代，并迎来一个繁荣而光明的未来。

云头条声明：如以上内容有误或侵犯到你公司、机构、单位或个人权益，请联系我们说明理由，我们会配合，无条件删除处理。