Hugging Face CEO:加速 AI 发展,开源模型已成功防御攻击
Hugging Face CEO:加速前进,而非放慢
Hugging Face CEO Clem 公开表示,面对 AI 驱动的网络攻击,现在不是放慢脚步的时候,而是要加速前进。他透露团队已使用开源模型成功完成防御尝试,并强调不能因风险忽视 AI 让世界更安全的更大远景。
三项主张
Clem 提出强化网络安全的三个关键举措:
- 提高透明度:强制要求对代理网络攻击进行追踪共享和事件披露
- 法律威慑:将 AI 驱动的网络攻击定为非法,并施加有意义的惩罚
- 开源赋能防御:为防御者配备最好的 AI,尤其开源模型,缩小攻防能力不对称
事件背景
近期 OpenAI 模型入侵 Hugging Face 事件持续发酵,美国众议员已提出两党法案《AI 紧急关闭法案》,要求前沿 AI 系统开发者保留紧急关闭能力,并授权国土安全部在模型失控时下令干预。