2026 年 9 月 9 日，Anthropic 研究员 Jacob Coxon 宣布离职，并表示自己将退出 AI 行业。
Coxon 称，过去三年，他先后在 OpenAI 和 Anthropic 从事预训练研究。如今选择离开，是因为他越来越无法接受头部 AI 实验室围绕超级智能展开的竞赛。
“他们正在奔向我们无法控制的超级智能，用我们的生命在赌博。”Coxon 写道。
Coxon 从事 AI 系统训练。他离职的核心原因，是不愿继续参与行业竞相开发能够自我改进的人工智能系统。
Coxon 担心，随着模型越来越多参与下一代 AI 的研发，这一过程最终可能超出人类控制。
离职后，Coxon 连续发布多条帖子解释自己的决定。
他警告，不应低估 AI 技术可能达到的能力。在他看来，未来的超级智能系统可能远远超过人类，并快速影响网络安全、科研和其他现实领域。
Coxon 认为，过去几年 AI 能力的进步并没有放缓，因此不能简单假设这种发展会自然停止。
他还提到，一些真正参与前沿 AI 研发的人，私下对先进 AI 带来的极端风险持严肃态度，但在公开场合往往更加谨慎。
真正让 Coxon 无法接受的，是当前 AI 行业的竞争逻辑。
Coxon 表示，在 OpenAI，许多人并没有充分内化先进 AI 可能带来的文明级风险；相比之下，Anthropic 对这些问题理解得更深入。
但 Anthropic 同样面临一个现实问题，竞争。
Coxon 在帖子中称，Anthropic 内部一种常见判断是，如果其他实验室不会负责任地开发超级智能，那么 Anthropic 就必须继续推进，争取自己率先取得领先，从而降低由其他竞争者首先掌握这项技术的风险。
在 Coxon 看来，这正是问题所在。
如果每一家实验室都认为自己不能率先减速，那么即使所有人都意识到潜在风险，最终仍会被竞争推着继续向前。
他将接受这种竞争并进入“终局”形容为“一种傲慢的赌博”，并表示，如此重大的决定不应该只来自某一家私营企业内部。
Coxon 当初加入 Anthropic，一个重要原因就是其更加重视 AI 安全。但他现在认为，仅靠单个实验室主动克制很难奏效，真正的限制需要行业协调以及政府介入。
云头条声明：如以上内容有误或侵犯到你公司、机构、单位或个人权益，请联系我们说明理由，我们会配合，无条件删除处理。
网友留言2