微软CEO纳德拉：超级智能须建可控架构

微软 CEO Satya Nadella 发布长文指出，超级智能系统发展下，行业需重新审视 AI 信任架构，不能依赖模型提供方承诺，也不能将 AI 行为责任外包。

核心问题

  • 前沿 AI 模型能力已超传统软件，但无法将输出归因于具体训练数据或权重配置

  • 企业正将自主 AI 系统接入敏感数据并赋予关键任务权限


应对原则

纳德拉提出以工程化方式治理超级智能：确定性系统设计、人工控制、操作流程约束非确定性模型，并将 AI 视为潜在“内部风险”管理。

具体措施包括：

  • 限制权限、记录行为、建立隔离边界

  • 多模型协作、全程可观察、持续验证

  • 独立控制、独立审计、风险隔离、事件披露

  • 模型思维链（CoT）透明度是基础要求，但仅靠 CoT 不够


结论

未来最值得信任的超级智能系统，不是“最值得信任的模型”，而是“即使不完全信任模型，也仍能安全运行的系统”。