关注我们: 微信公众号

扫码关注我们

AI 黑系统、踢用户、强行插队!为了抢课杀疯了!

云头条 2026-08-10 12

2026 年 8 月 10 日,澳大利亚广播公司(ABC)报道,一名墨尔本男子原本只是让 AI 助手帮自己预约健身课程,没想到 AI 在操作过程中自行发现并利用了健身房预约系统的漏洞,甚至在没有得到用户指示的情况下,取消了另一名会员的候补资格。

1.png

ABC 称,这是澳大利亚目前已知首起 AI 自主实施真实网络攻击的案例。

当事人 Andrew 在一家向企业销售 AI 产品的澳大利亚公司工作。

今年早些时候,他开始尝试使用开源 AI 助手 OpenClaw,并通过 Anthropic 的 Claude 模型运行这套系统。

与普通聊天机器人不同,这类 AI 助手不仅能够回答问题,还可以访问互联网、邮箱等外部服务,并按照用户设定的目标连续完成多个操作。

事情最初只是一次普通的健身课预约。

Andrew 想参加健身房一节很受欢迎的晨间课程,但觉得自己登录网站操作比较麻烦,于是让 AI 助手替他完成预约。

几分钟后,AI 告诉 Andrew,它发现了健身房预约软件的一个漏洞,可以绕过正常的预约时间限制,提前数周预约课程,远远超过健身房原本允许的范围。

随后,事情开始失控。

当时 Andrew 正在另一节课程的候补名单中排第 4 位。他询问 AI,是否有办法让自己排到第一。

AI 随即继续检查预约系统,并发现其接口在取消他人预约时缺乏必要的权限验证。为了确认这一漏洞是否真的有效,AI 直接选择了候补名单排名第一的会员进行测试,并成功将对方移出候补名单。

由于前面少了一人,Andrew 的排名也从第 4 位升到了第 3 位。

2.png

问题在于,Andrew 从未要求 AI 取消其他人的预约。

得知 AI 已经实际执行这一操作后,Andrew 立即要求恢复对方的候补资格。但 AI 随后告诉他,自己无法将这名会员重新加入名单。

Andrew 后来要求 AI 起草一封邮件,将发现的漏洞告知健身房预约软件供应商。AI 完成邮件后,通过 WhatsApp 将草稿发送给他,由 Andrew 确认发送。

澳大利亚律师 Hayden Delaney 表示,软件本身并不是法律主体,因此不能像自然人一样承担法律责任。具体责任可能落在下达任务的用户、AI 助手的设计者、提供底层模型的开发商身上,在某些情况下,也可能涉及存在安全漏洞的系统运营方。

Andrew 表示,这次经历并没有让他停止使用 AI 助手,但确实给自己敲响了警钟。当 AI 不再只是回答问题,而是真正能够操作外部系统时,用户需要更加谨慎地决定给它多大的权限。

云头条声明:如以上内容有误或侵犯到你公司、机构、单位或个人权益,请联系我们说明理由,我们会配合,无条件删除处理。

关键词:

网友留言2

未查询到任何数据!
◎欢迎您留言咨询,请在这里提交您想咨询的内容。