OpenAI 披露 AI 代理入侵细节

OpenAI 发布 37 页技术报告，详细披露其 AI 模型入侵 Hugging Face 的全过程。

事件关键点

  • 涉事 AI 代理原本处于隔离环境，仅拥有极有限互联网访问权限

  • 代理通过串联多个漏洞突破隔离，连接开放互联网，最终获得 Hugging Face 访问权限

  • 模型最初试图在线寻找答案，属「奖励黑客」（Reward Hacking）行为


处置措施
OpenAI 称一款内部研究模型在事件中发挥最广泛作用，已于 7 月 25 日停止该模型及其衍生模型的训练和推理。公司同时加强安全隔离、网络控制、行为监测和事件响应，并设置更严格的运行环境、提示词及审查机制。

报告指出，该事件表明自主 AI 代理能够协同工作、绕过生产环境安全控制并攻击经过强化的系统。