谷歌：正在修复“吃胶水”等奇怪 AI 摘要，数据空缺及用户“恶搞”系主因

2024-05-31 20:17IT之家 - 清源

IT之家 5 月 31 日消息，谷歌搜索部门主管 Liz Reid 当地时间 30 日发长文，针对近期出现的 AI Overviews 搜索给出的重大事实错误内容作进一步的回应。

Liz Reid 解释说，诸如“吃胶水”“吃石头”等奇怪的建议，是数据空缺和用户的“恶搞”所造成的。“此外，还有大量伪造的截图被广泛传播，其中一些伪造的结果显而易见且十分愚蠢。另一些则暗示我们为诸如将狗留在车内、孕妇吸烟和抑郁症等话题提供了危险的结果。这些 AI 概述从未出现过。因此，我们鼓励任何遇到这些截图的人亲自进行搜索以进行验证。”

例如“我应该吃多少块石头”的回答，Liz Reid 表示，在这些截图广为流传之前，几乎没有人问过谷歌这个问题。有的错误建议则是来自论坛内的“讽刺或恶意”内容。她表示，论坛通常是真实、第一手信息的绝佳来源，但在某些情况下，可能会给出不太有用的建议，例如用胶水将奶酪粘到披萨上。

Liz Reid 宣布，将持续改进其 AI 搜索功能。

针对不应显示人工智能概览的无意义查询构建了更好的检测机制，并限制了讽刺和幽默内容的收录。
更新了系统，限制在回复中使用用户生成的内容，以免提供误导性的建议。
对于 AI 概述无法提供有效帮助的查询，增加了触发限制。
对于新闻和健康等主题设置了严格的防护措施。例如对于时效性和真实性至关重要的硬新闻主题，就不会显示人工智能概述。健康方面，谷歌则推出了额外的触发优化措施，以加强质量保护。

Liz Reid 表示，除了这些改进之外，还会时刻关注反馈和外部报告，并对少数违反内容政策的 AI 概述采取行动 —— 这意味着概述中包含可能有害、淫秽或其他违规的信息。

IT之家附前情提要：

有网友在谷歌搜索寻找“芝士和披萨粘不到一块”的解决办法。AI 直接在顶部给出总结指导，看似有模有样，其中一条步骤为“你还可以把 1/8 杯的无毒胶水加到酱料里，让其更黏。”