核心门槛

Anthropic正私下游说美国国会议员，推动一项前沿AI安全法案草案，为政府干预AI模型设定严格触发条件：仅当模型面临可预见且迫在眉睫的特定风险，可能造成超10亿美元损失，或导致50人以上死亡或重伤时，政府才可申请叫停。

三类风险

草案将监管范围限定为：

  • AI模型被用于生物武器研发或扩散

  • 模型脱离开发者控制

  • 模型引发网络攻击


程序链条

开发商须开展透明化测试并接受独立第三方评估。评估机构发现风险后，须在72小时内向美国商务部报告；商务部可向联邦法院申请暂停模型运营，由法院最终裁决。

草案同时拟禁止其他美国政府部门及官员独立叫停AI模型的开发、部署或内部使用。

进展

该草案源自Anthropic今年早些时候发布的先进AI框架，目前仍处游说阶段，尚未成为法律。若条款通过，可能显著压缩美国政府对前沿AI模型的紧急干预权限。