海外骗子用 AI 合成泰勒・斯威夫特声音,伪造“厨具免费送”广告行骗

2024-01-10 21:14IT之家 - 清源(实习)
感谢IT之家网友 Coje_He 的线索投递!

IT之家 1 月 10 日消息,据《纽约时报》当地时间周二报道,最近几周在 Facebook 等平台陆续出现了美国著名歌手泰勒・斯威夫特的“代言广告”:她在这则广告中“宣布”将会为粉丝免费送出 Le Creuset 品牌的厨具套装,人们只需要点击一个按钮并回答几个问题。

不过,这则广告的“当事方”Le Creuset 却表示,公司并没有参与任何消费者赠品活动,尽管她平时爱用这个品牌的厨具。在这则案例中,AI 技术用来合成了泰勒・斯威夫特的声音,并将声音与 Le Creuset 广告片段拼凑在一起

骗子还利用合成的声音称呼泰勒・斯威夫特的粉丝为“Swifties”。当受害者被引导至虚假网站后,会被要求支付 9.96 美元的运费。当然,号称免费送的厨具也并不可能真的送出去。

报道称,在过去一年内,AI 技术的重大进步使未经名人本人授权的“数字替身”制作门槛愈发降低。美国布法罗大学“媒体取证实验室”的计算机科学教授 Siwei Lyu 表示,这起“深度伪造”诈骗活动很可能是利用文字转语音服务制作的。这类工具可将脚本转译成声音,并用唇语同步程序将其合成至视频片段

Lyu 称,如今要获得这些工具非常容易,不到 45 分钟内就可以制作出质量“不错”的视频。

据IT之家此前报道,美国著名演员汤姆・汉克斯(Tom Hanks)去年也声称自己肖像的 AI 版本被用于牙科计划的在线广告中,而且没有经过他本人的同意

“明天我可能会被公共汽车撞到,仅此而已,但表演可以继续下去,”他说。“除了对 AI 和深度造假的自身鉴别,没有什么可以告诉你这不是我。这当然是一种艺术挑战,也是一种法律挑战。”

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

文章价值:
人打分
有价值还可以无价值
置顶评论
    热门评论
      文章发布时间太久,仅显示热门评论
      全部评论
      一大波评论正在路上
        取消发送
        软媒旗下人气应用

        如点击保存海报无效,请长按图片进行保存分享