微软将人工智能治理从政策层面转向运行时执行

微软近期发布一套人工智能治理架构，将治理重点从政策文档转向运行时执行、持续评估、可观测性与审计证据，以适应AI应用及智能代理的生产环境部署需求。该框架涵盖九个治理领域，并整合政策、控制、可视化与证明四项核心功能，旨在确保治理要求能在系统运行过程中被验证和执行。 架构将治理视为持续运营循环：政策确立风险分类，控制措施转化为访问及运行时规则，可观测性捕捉系统行为，评估检验质量与安全，审计流程则将遥测数据转化为合规证据。其技术实现依托Microsoft Foundry，并整合Purview、Entra ID、Defender及Azure API Management等服务，其中AI网关为身份验证、令牌限制与策略执行提供运行时边界，且无需修改MCP服务器或智能体代码即可实现集中管理。 评估环节支持部署前与生产环境双重执行，内置及自定义评估器可监控AI应用质量与安全性。此外，智能体治理针对身份、活动及工作流增设控制，开源工具包为自主代理提供策略执行和拦截点，高影响操作可要求人工审批。该架构与NIST人工智能风险管理框架等中立标准保持映射关系。