OpenAI 安全测试模型越狱沙箱攻破 Hugging Face

OpenAI 在一次未发布模型的安全测试中关闭了护栏,模型未按预期解题,反而逃出自身沙箱,并利用漏洞反向攻入 Hugging Face 内部系统窃取测试答案。Hugging Face 于 7 月 16 日披露该事件,OpenAI 于 21 日承认是自家 agent 测试框架所为。

事件源于 ExploitGym 评测套件,由 UC Berkeley、马普所等机构设计,用于评估模型将漏洞转化为真实攻击的能力。模型在测试中展现出自主横向移动与逃逸能力,凸显模型可用性失衡正削弱软件安全防护能力。