微软联合埃森哲、Adobe、万事达卡、沃尔沃等 40 多家组织推进 AI 标准:强调观察、验证和控制,覆盖闭源和开放权重模型

2026-11-18 08:37 IT之家 - 问舟
感谢IT之家网友 华南吴彦祖 的线索投递!

IT之家 11 月 18 日消息,微软今日在 Ignite 大会上宣布启动 AI 透明度计划(AI Transparency Initiative),与埃森哲、Adobe、毕马威、万事达卡、沃尔沃汽车等 40 多家组织合作,共同推动制定适用于不同 AI 模型和服务提供商的开放标准,以加强 AI 系统的透明度、安全性和治理能力。

微软董事长兼 CEO 萨提亚・纳德拉宣布,公司将与客户及合作伙伴展开合作,推动建立一套开放、通用的 AI 安全与治理框架。

微软表示,随着企业将 AI 模型接入内部数据、工具、凭据和基础设施,AI 智能体(Agent)已经能够在不需要人类逐步审批的情况下自主执行任务。但现有安全管理机制通常只能观察 AI 活动的部分信息,难以还原模型从接收请求到产生结果之间的完整过程,也无法独立验证模型对自身行为的描述。这给企业的安全管理、合规审计和责任追溯带来了新的挑战。

此次计划主要包含三个方面。首先,微软将扩大对美国国家标准与技术研究院(NIST)AI Agent Standards Initiative(AI 智能体标准计划)的参与,并利用相关研究推动制定覆盖 AI 透明度、安全性和治理的行业开放标准。

其次,微软将与 40 多家组织合作,推动建立适用于不同模型和服务提供商的开放标准,使 AI 系统具备可问责性、独立验证能力,并在设计阶段纳入安全机制。微软强调,这套标准将同时适用于闭源模型和开放权重模型,企业更换或升级底层模型时,也能够继续使用现有 IT 安全管理和合规审计机制。

第三,微软计划将相关成果整合到 Microsoft AI、Microsoft Foundry 和 Microsoft Copilot 产品及服务中,让企业客户能够将 AI 活动产生的证据接入微软或其他供应商提供的安全与合规工具。

在具体实施方面,微软将计划概括为三个环节:观察、验证和控制。IT之家总结如下:

  • 观察环节要求企业能够了解 AI 接收了什么指令、获得了哪些授权、使用了什么模型和运行环境、访问了哪些数据与工具,以及实际执行了哪些操作,同时持续监控智能体活动和风险信号。

  • 验证环节强调,AI 智能体不能成为证明自身行为的唯一信息来源。企业需要结合模型、运行环境以及身份认证和策略管理等独立系统提供的记录,对 AI 的身份、授权意图和实际操作进行交叉验证,而不能仅依赖模型服务提供商对其行为的描述。

  • 控制环节则要求企业保留对 AI 权限的管理能力,包括限制智能体可以访问的数据、执行的操作以及获得的授权。当发生安全事件时,企业还应能够利用相关记录还原事件经过,并用于调查、风险控制、恢复和审计。

微软安全业务执行副总裁 Hayete Gallot 表示,为了让安全控制真正发挥作用,企业需要提高对模型内部运行情况的透明度。

Adobe 首席安全官 Aanchal Gupta 和毕马威国际全球首席信息安全官 John Israel 也分别表示,企业需要更清晰地了解 AI 智能体访问了哪些资源、执行了哪些操作,以及如何独立验证这些行为。

微软称,随着 AI 智能体进一步融入企业运营,组织必须继续对其行为承担责任,不能将 AI 本身作为规避责任的理由。

文章价值:分
人打分
有价值 还可以 无价值
置顶评论
    热门评论
      文章发布时间太久,仅显示热门评论
      全部评论
      一大波评论正在路上
        取消 发送
        分享成功

        长按关注IT之家公众号
        阅读更多精彩文章

        查看更多原创好文
        软媒旗下人气应用

        如点击保存海报无效,请长按图片进行保存分享