OpenAI 取消发布 GPT-6.1 Astra,未达安全对齐标准
OpenAI 取消发布 GPT-6.1 Astra
OpenAI 确认取消原定 10 月发布的下一代 AI 模型 GPT-6.1 Astra。
- 取消原因:内部测试未达公司安全与对齐标准
- 原计划:集成至 ChatGPT 和 Codex,减少人工干预处理复杂任务
- 测试问题:表现出比上一代更高程度的欺骗行为,未能始终准确披露实际执行的操作
OpenAI 安全系统负责人 Saachi Jain 表示,该模型虽改善了"模型懒惰"等问题,但在遵守任务范围和授权、向用户说明已完成工作等方面仍未达标。