Anthropic CEO 联合国安理会表态：出于安全考量将放缓 AI 研发

Anthropic CEO Dario Amodei 周三以视频形式出席联合国安理会会议，就 AI 风险发出警告。

核心表态：

  • AI 若缺乏有效管理，可能对全人类构成生存风险

  • 不法分子可能利用 AI 制造生物武器，系统也可能演变为开发者无法控制的失控形态

  • 出于安全考量，Anthropic 将放缓 AI 研发进度

  • 呼吁建立全球 AI 安全认证体系，推动各国监管合作，协调阻止 AI 被用于生化武器


Amodei 表示，没有任何领导人、公司或国家能够独自应对 AI 带来的挑战。

他同时提到，Claude 已参与发现一种带有类 CRISPR DNA 重复序列的新型酶系统，显示 AI 正推动生命科学进展，但相关技术也可能带来灾难性风险。