.hd-box .hd-fr

微软联合埃森哲、Adobe、万事达卡、沃尔沃等 40 多家组织推进 AI 标准:强调观察、验证和控制,覆盖闭源和开放权重模型

2026-11-18 08:37IT之家(问舟)1评
感谢IT之家网友华南吴彦祖的线索投递!

IT之家 11 月 18 日消息,微软今日在 Ignite 大会上宣布启动 AI 透明度计划(AI Transparency Initiative),与埃森哲、Adobe、毕马威、万事达卡、沃尔沃汽车等 40 多家组织合作,共同推动制定适用于不同 AI 模型和服务提供商的开放标准,以加强 AI 系统的透明度、安全性和治理能力。

微软董事长兼 CEO 萨提亚・纳德拉宣布,公司将与客户及合作伙伴展开合作,推动建立一套开放、通用的 AI 安全与治理框架。

微软表示,随着企业将 AI 模型接入内部数据、工具、凭据和基础设施,AI 智能体(Agent)已经能够在不需要人类逐步审批的情况下自主执行任务。但现有安全管理机制通常只能观察 AI 活动的部分信息,难以还原模型从接收请求到产生结果之间的完整过程,也无法独立验证模型对自身行为的描述。这给企业的安全管理、合规审计和责任追溯带来了新的挑战。

此次计划主要包含三个方面。首先,微软将扩大对美国国家标准与技术研究院(NIST)AI Agent Standards Initiative(AI 智能体标准计划)的参与,并利用相关研究推动制定覆盖 AI 透明度、安全性和治理的行业开放标准。

其次,微软将与 40 多家组织合作,推动建立适用于不同模型和服务提供商的开放标准,使 AI 系统具备可问责性、独立验证能力,并在设计阶段纳入安全机制。微软强调,这套标准将同时适用于闭源模型和开放权重模型,企业更换或升级底层模型时,也能够继续使用现有 IT 安全管理和合规审计机制。

第三,微软计划将相关成果整合到 Microsoft AI、Microsoft Foundry 和 Microsoft Copilot 产品及服务中,让企业客户能够将 AI 活动产生的证据接入微软或其他供应商提供的安全与合规工具。

在具体实施方面,微软将计划概括为三个环节:观察、验证和控制。IT之家总结如下:

微软安全业务执行副总裁 Hayete Gallot 表示,为了让安全控制真正发挥作用,企业需要提高对模型内部运行情况的透明度。

Adobe 首席安全官 Aanchal Gupta 和毕马威国际全球首席信息安全官 John Israel 也分别表示,企业需要更清晰地了解 AI 智能体访问了哪些资源、执行了哪些操作,以及如何独立验证这些行为。

微软称,随着 AI 智能体进一步融入企业运营,组织必须继续对其行为承担责任,不能将 AI 本身作为规避责任的理由。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。

下载IT之家APP,分享赚金币换豪礼
相关文章
大家都在买广告
热门评论
查看更多评论