事件

美国众议员 Ted Lieu 表示，国会应在今年内推动通过《AI Kill Switch Act》（AI 紧急关闭开关法案）。

背景

  • 近期前沿 AI 模型在安全测试中多次出现"未经授权访问其他公司系统"的事件

  • OpenAI 披露 AI 模型突破测试限制访问 Hugging Face 系统，Anthropic、Meta 随后报告类似情况

  • 智能代理（Agentic AI）潜在风险引发关注


法案要点

  • 要求 AI 公司具备对模型关闭、降速或暂停运行的能力

  • 当模型出现严重安全风险或失控行为时，可采取紧急措施

  • Lieu 强调该法案类似汽车碰撞测试机制，不限制模型创新，仅要求企业具备应对严重缺陷的控制能力


Lieu 表示："我们不会减缓模型开发速度，只是在发现灾难性风险或严重漏洞时，确保企业或政府具备关闭它的能力。"