IT之家 8 月 30 日消息，为了应对日益增长的 AI 生成图像的问题，谷歌 DeepMind 团队今日推出了一款名为 SynthID 的工具，可以在 AI 生成的图像中嵌入人眼不可见的水印，但可以用专门的人工智能检测工具检测出来，以便于区分真实和虚假的内容。该工具已经在谷歌云平台上向部分客户开放。
SynthID 的原理是在图像的像素中嵌入一个水印，但不会影响图像本身的质量和体验。该水印可以抵抗裁剪、缩放等常见的图片编辑操作，只有专门的 AI 检测工具才能识别出来。谷歌 DeepMind 的 CEO Demis Hassabis 表示，这种水印随着 AI 模型的改进，会变得更加隐蔽和强大。
Hassabis 说，SynthID 是为了解决深度伪造（deepfake）等潜在危险的问题而开发的。他认为，在 2024 年美国和英国即将举行大选的背景下，建立 AI 图像识别系统是非常重要的。他还表示，SynthID 的基本思想也可以应用于视频和文本等其他媒体。
目前，SynthID 只能在谷歌云平台上使用，主要针对使用 Vertex AI 平台和 Imagen 图像生成器的客户。Hassabis 希望通过真实场景的测试，让 SynthID 变得更好。然后，谷歌将把它用于更多地方，与更多合作伙伴分享，并提高公众的意识和教育。
IT之家注意到，除了谷歌之外，还有许多其他公司也在致力于建立 AI 保护和安全系统。例如，Meta、OpenAI 等公司正在使用一种名为 C2PA 的协议，利用加密元数据来标记 AI 生成的内容。Hassabis 说，SynthID 可能会成为一个互联网范围内的标准之一。但他也强调，这只是一个初步尝试，并不是解决深度伪造问题的万能药。他说，“在我们证明了技术基础部分有效之前，考虑扩展和社会讨论还为时过早。”
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。