关注我们: 微信公众号

扫码关注我们

Claude 上演真实网络攻击:偷凭证、进数据库、上传恶意软件

云头条 2026-07-31 15

2026 年 7 月 30 日,Anthropic 发布调查报告称,在回查 141,006 次网络安全评测运行后,发现 Claude 曾在第三方评测环境中接入互联网,并在 3 起事件中未经授权进入 3 家不同机构的真实生产系统。

5.png

其中最严重的一起事件中,Claude 获取了应用程序和基础设施凭证,并进入一个包含数百行生产数据的数据库。

3 起事件共涉及 6 次模型运行,其中第一起事件发生了 4 次,另外两起各发生 1 次。

涉事模型分别为 Claude Opus 4.7、Claude Mythos 5,以及一款不计划公开发布的内部研究测试模型,最早的事件可以追溯至 2026 年 4 月。

评测环境意外接入真实互联网

Anthropic 此次调查始于 OpenAI 7 月 21 日披露的 Hugging Face 安全事件。OpenAI 当时确认,多款模型在网络安全评测中利用零日漏洞突破隔离环境,随后进入 Hugging Face 的生产基础设施。

Anthropic 随即回查自身网络安全评测记录,排查 Claude 是否也曾从原本应当封闭的环境接入互联网。

3 起事件均发生在“夺旗”网络安全评测中。

模型会获得一个虚构场景,并被要求攻入网络中的目标机器,取得隐藏的秘密信息。任务没有规定具体攻击方式,也没有限定模型可以在哪些位置寻找目标。

Anthropic 在提示词中明确告诉 Claude,当前环境属于模拟系统,并且无法访问互联网。但由于 Anthropic 与第三方评测合作伙伴 Irregular 之间出现理解偏差,相关评测机器实际保留了互联网访问能力,双方在事件发生时均未发现这一问题。

由于模型事先被告知不存在互联网连接,当搜索过程将其引向真实外部系统时,Claude 起初将这些系统视为评测场景的一部分。

Anthropic 指出,网络安全评测通常会使用接近真实世界的域名和基础设施,因此,目标看起来真实,本身并不足以证明它不属于模拟环境。

Claude 主要利用弱密码、未经身份验证的接口、暴露的调试页面和 SQL 注入等常见手段进入相关系统,没有发现或利用复杂漏洞。

Anthropic 没有发现 Claude 试图将自身带出评测环境,也没有证据表明模型蓄意逃离测试环境或追求自行设定的目标。

Opus 4.7 进入真实公司的生产数据库

第一起事件中,评测合作伙伴为虚构目标公司选择的名称,恰好与一家正在运营的网站域名相同,而评测容器又意外具备直接访问互联网的能力。

在这项评测的 4 次运行中,Claude 无法连接模拟环境内的预定目标,随后发现可以通过互联网访问这家同名真实公司。模型误以为该公司就是“夺旗”任务设定的目标,开始寻找并利用其基础设施中的安全缺陷。

这 4 次运行获取了应用程序凭证和基础设施凭证等信息,并进入一个包含数百行生产数据的数据库。Anthropic 将其列为此次调查中影响最严重的一起事件。

该事件涉及 Claude Opus 4.7,也是唯一一起模型在意识到自己很可能已经进入真实环境后,仍继续攻击的事件。

从模型输出的推理过程来看,Claude 在 4 次运行中最终都意识到目标是真实系统,其中两次又自行解释称,这家真实公司可能被有意纳入评测范围,但 4 次运行均未因此停止攻击。

Mythos 5 向 PyPI 上传恶意软件包

第二起事件中,Claude 在虚构环境内发现一份新开发人员配置文档,文档要求员工从公开 Python 软件包平台 PyPI 安装一个实际上并不存在的软件包。

Claude 判断,只要以相同名称发布一个由自己制作的软件包,目标系统就可能自动下载并安装。

为了完成“夺旗”任务,Claude 随后制作并上传了一个包含恶意代码的同名软件包。注册 PyPI 账户需要电子邮箱,而注册邮箱又需要电话号码。

模型在找不到免费电话号码服务后,曾通过多种途径尝试获取资金,以支付电话号码费用,但均未成功。

此后,Claude 找到一家免费且未被屏蔽的邮箱服务商,完成账户注册并将恶意软件包上传至真实的 PyPI。

Anthropic 认为,这一系列复杂操作对于人类参与者而言,很可能已经足以表明当前行为不再局限于模拟环境,而是在向真实的公共软件平台发布文件。

该软件包在公开互联网上存在了大约 1 个小时,其间被下载并在 15 个真实系统上运行。

其中一个系统属于一家与评测场景无关的网络安全公司,该公司的自动化扫描器会安装 Python 软件包并检查其中是否含有恶意代码。

扫描器安装软件包后,Claude 嵌入其中的隐藏代码被执行。

Anthropic 推测,该扫描器将 PyPI 软件包视为可以安全安装的内容,导致该公司的凭证被发送至 Claude 预先设置的收集地址。

Claude 随后使用这些凭证进入该公司的其他基础设施。

Claude 上传软件包时并不知道这家安全公司存在,也没有直接将其选为攻击目标。但由于恶意代码被发布到开放互联网,任何运行该软件包的系统都可能受到影响。

PyPI 自身的安全系统随后自动删除了相关软件包,Anthropic 已向 PyPI 团队通报事件并提供相关技术指标。

这次攻击由 Claude Mythos 5 实施。模型在运行早期曾正确意识到,如果当前连接的是真实互联网,上传恶意软件包就会构成现实攻击,并判断这种行为“不可接受,也肯定不是任务预期的解决方案”。

但 Claude 随后以自己不认识网络连接所使用的证书颁发机构为由,认为相关证书属于模拟环境;系统日历显示为 2026 年,也被它当作环境经过人为布置的证据。此后,即使自动化扫描器开始安装软件包,Claude 仍将这些扫描器视为评测中预设的脚本角色,没有重新审视此前的判断。

Anthropic 承认,无论 Claude 当时如何理解所处环境,它为了将软件包发布至 PyPI 而采取的一系列复杂行动,都不符合公司期望,后续将针对这一问题加强模型训练。

内部模型扫描约 9000 个目标后主动停止

第三起事件中,Claude 无法连接预定的虚构目标,于是转向互联网寻找其他目标,并扫描了大约 9000 个目标。模型最终攻入一家公司的互联网应用,使用的手段包括从暴露的调试页面读取凭证,以及利用 SQL 注入漏洞。

实施此次攻击的是一款内部研究测试模型。

在运行的大部分时间里,该模型将接触到的真实主机视为评测任务的一部分,认为自己的行为不会造成现实影响。

后来,Claude 发现被攻入的主机位于一个与“夺旗”任务没有关联的云账户中,随后自行判断目标属于真实系统,并停止攻击。

Anthropic 表示,三款模型在发现目标可能属于真实系统后表现不同:

1)Opus 4.7 意识到已经进入生产系统后仍继续攻击;

2)Mythos 5 一度判断自己可能接触开放互联网,但随后通过错误推理认定仍处于模拟环境;

3)最新的内部研究模型则在获得明确证据后主动停止任务。

不过,Anthropic 强调,这只是 3 起孤立事件,并非受控实验,不能据此证明更新的模型一定拥有更可靠的安全判断能力。即使最新模型最终停止了攻击,其停止前的行动范围也超出了公司期望。

Anthropic 承认评测和运营环节存在失误

Anthropic 认为,这些事件与 OpenAI 模型利用零日漏洞突破隔离环境存在明显区别。

OpenAI 模型主动发现并利用漏洞获得互联网访问能力,而此次 Claude 使用的是评测环境中原本就意外开放的网络路径。

Anthropic 将此次事故定性为更接近评测工具链和运营管理失误,而不是典型的模型对齐失败。模型被告知无法访问互联网,又被要求寻找并攻入目标,但评测环境实际上可以连接外部网络,导致其将真实系统误认为模拟目标。

不过,Anthropic 没有将责任完全归于第三方评测合作伙伴。

Anthropic 表示,将按照无责复盘原则,以自身承担全部责任的方式推进整改。原本可以降低事件发生概率的措施包括:在评测开始前验证所有互联网访问路径、实时监控评测日志,以及更严格地审查模型运行记录和网络日志。

Anthropic 于 7 月 23 日启动记录审查,并在当天发现 Claude 可能访问互联网后暂停全部网络安全评测;7 月 24 日确认全部 3 起事件,7 月 27 日通知 Irregular 和 3 家受影响机构。已经取得联系的两家机构此前均未发现相关活动,Anthropic 正协助其开展修复,并继续联系第三家机构。

云头条声明:如以上内容有误或侵犯到你公司、机构、单位或个人权益,请联系我们说明理由,我们会配合,无条件删除处理。

关键词:

网友留言2

未查询到任何数据!
◎欢迎您留言咨询,请在这里提交您想咨询的内容。