微软CEO：AI模型应纳入企业安全风险管理

微软 CEO 萨蒂亚·纳德拉发文指出，企业应将 AI 模型纳入内部安全风险管理体系。

核心要点：

  • 即使模型本身无恶意，也可能因错误或被攻击者利用造成安全风险，涉及敏感数据访问及关键操作时尤为突出

  • 不能仅依赖模型供应商的安全承诺

  • 应将 AI 模型与 Agent 执行框架分离，通过外部系统控制数据访问和工具调用权限

  • 关键操作须保留防篡改、可供人工审查的记录

  • 部署阶段就应考虑模型遭入侵的可能性，确保授权人员可随时暂停或关闭 Agent

  • 持续开展安全测试及事故披露


此外，微软本月已宣布 Windows 平台正式支持 MXC 隔离工具，可通过外部策略限制 Agent 对文件及网络的访问。