顶尖AI研究员联名呼吁监管"自我改进型AI"

OpenAI、Anthropic、Meta、微软的研究负责人联合发文，呼吁政策制定者紧急审查AI研究自动化的进展。

  • 署名作者：OpenAI首席科学家Jakub Pachocki、Anthropic联创Jack Clark、微软首席科学官Eric Horvitz、Meta AI研究副总裁Dawn Song

  • 核心警告：AI研究自动化可能引发"智能爆炸"，将数年进展压缩至数月甚至更短，技术演进速度或超出人类理解能力

  • 具体诉求：政策制定者应紧急要求企业提高透明度，披露模型开发自动化已达到的程度


论文以个人名义发布，未代表各自公司立场。