微软发布新工具,检测和纠正 AI 幻觉内容

2024-09-25 15:27IT之家 - 故渊

IT之家 9 月 25 日消息,科技媒体 The Decoder 昨日(9 月 24 日)发布博文,报道称微软以预览版的形式,在 Azure AI Content Safety 中推出 Groundedness Detection,用于“纠正” AI 幻觉。

AI 幻觉

在人工智能领域中,幻觉是由人工智能生成的一种回应,它含有貌似事实的虚假或误导性资讯。

该术语源自幻觉的心理学概念,因为它们具有相似的特征。人工智能幻觉的危险之处之一是模型的输出看起来是正确的,而它实际上是错误的。

Groundedness Detection

微软的 Groundedness Detection 类似于谷歌在 Vertex AI 中推出的 Google Search Grounding,主要对比 AI 输出内容和源文件,从而识别没有证据或者幻觉内容。

微软强调,虽然该工具提高了人工智能输出的可靠性,但并不能保证完全准确,只是能提高生成内容与源材料之间的一致性。

当系统检测到一个支持不足的句子时,就会触发一个新的请求,要求一个较小的人工智能模型进行修正,该模型会根据基础文档对句子进行评估。

如果一个句子不包含基础文档中的相关信息,它就会被完全过滤掉。对于包含一些相关内容的句子,模型会对其进行改写,匹配源材料。

IT之家附上官方介绍视频如下:

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

文章价值:
人打分
有价值还可以无价值
置顶评论
    热门评论
      文章发布时间太久,仅显示热门评论
      全部评论
      一大波评论正在路上
        取消发送
        软媒旗下人气应用

        如点击保存海报无效,请长按图片进行保存分享