AI 安全路线之争进一步公开化。
2026 年 9 月 16 日，Meta CEO 马克·扎克伯格发文回应近期关于放慢前沿 AI 发展的讨论。
全文翻译：
上个月，我写过一篇文章，谈我们应该如何为所有人创造一个积极、安全的未来：http://meta.com/thefutureisforeveryone
每一家 AI 实验室都有责任，也有足够的动力，以确保模型安全训练所需要的速度推进研发；同时，各家也完全有能力自行采取措施，确保安全得到落实。
现实情况是：
人们不会愿意使用那些与自己目标不一致、也不按照要求行事的 AI Agent。
因此，AI 实验室天然有很强的动力，让自己的模型更加符合用户意图。
现在行业里有很多讨论，认为应该放慢模型能力的发展速度，等安全与对齐能力追上来。
我的看法是，信任和对齐正在迅速成为区分不同 Agent 和模型最重要的能力之一。任何不重视对齐的实验室，最终都会落后。
AI 实验室如果因为模型造成现实伤害，也可能承担巨大的法律责任，因此同样有很强的动力提前防范风险。
Meta 曾经将 Muse 的发布时间推迟了数月，专门用于加强安全和安全防护。
我们并没有先要求其他所有实验室也这么做，然后自己才行动。
我们只是将这件事作为日常研发的一部分直接做了，因为这显然既符合用户利益，也符合 Meta 自身利益。
我也为我们已经建立起来的安全基础感到自豪。
引入独立评估机构和外部顾问，是行业里的最佳实践。
Meta Superintelligence Labs（MSL）目前已经在多个领域这样做，因为这有助于提升我们的工作质量。其他实验室同样可以这么做。
总体而言，如果未来能够形成一个规模更大、参与者更加多元的独立评估生态，对整个行业都会有帮助。
还有一点非常重要：将绝大多数算力用于服务人类，而不是投入一场追逐“递归自我改进”的竞赛，是确保 AI 安全发展的最佳方式之一。
Meta 已经作出了这样的承诺，其他实验室同样可以这么做。
我认为，要为所有人创造一个积极的未来，关键是维持正确的权力平衡。
而这件事，是我们有能力做到的。
云头条声明：如以上内容有误或侵犯到你公司、机构、单位或个人权益，请联系我们说明理由，我们会配合，无条件删除处理。
网友留言2