增长率超 330%,一文了解换脸软件 Deepfake 2020 发展现状

2020-11-22 12:33雷锋网 (贝爽)

Deepfake 的兴起,让视频和音频不再是记录历史的可靠证据!

近日一则电影片段在 YouTube 爆火,影片中两位主演分别是好莱坞两位顶级流量巨星西尔维斯特 · 史泰龙(Sylvester Stallone)和阿诺 · 施瓦辛格(Arnold Schwarzenegger)

然而,短片爆火的原因不是两位巨星,而是它逼真的视频合成效果。

事实上,这部名为《Step Brothers》的电影主演是两位小众演员,短片创作者利用 Deepfake 将面部替换成了两位巨星。

短片中,人脸自然、毫无痕迹的融合效果,让不少网友们惊叹:太恐怖。

但事实上,更让人恐怖的是短片背后,Deepfake 愈演愈烈的负面应用。自 2017 年,某 Reddit 用户首次将其用来伪造色情视频开始,Deepfake 造假已逐渐渗透到政治、媒体等多个领域,甚至还威胁到了今年的美国总统大选。

与此同时,伪造品的数量也在逐年增长,特别是在 2020 年再次创下历史新高,达到 49081 个。

那么,快速增长的 Deepfake 有哪些特点,背后有哪些应对措施?

Deepfake 泛滥成灾,增长率超 330%

近些年,计算机视觉技术得到飞速发展。

尤其是 2014 年生成式对抗网络 GAN 的提出,让图像和视频合成不断取得惊人的效果。

2017 年,这项技术被不良分子用来伪造了一段色情视频,由此该技术被人们称为 “Deepfake”,后来 Deepfake 的负面应用不断发酵,并逐渐覆盖到更广泛的图像、视频,乃至音频领域。

具体来说,Deepfake 主要是对人脸进行篡改和重新编辑,包括表情修改,换脸、换口型、合成新人脸四种模式。其中,换脸和对口型是 Deepfake 最主要的应用模式,其破坏性和杀伤力也最强。如篡改政客公开演讲以及伪造色情视频。

值得注意的是,造假者无需了解这些修改模式背后的技术原理,诸多开源软件,已经可以让他们轻松地制造虚假内容。比如 DeepFaceLab 之类的工具,任何人都可以拍摄一张图片或视频,并替换或操纵人脸。

技术的普及和便捷性,让造假品数量成指数级增长。根据安全分析公司 Sensity 最新结果显示,

自 2018 年 12 月以来,Deepfake 在线造假品的数量大约每六个月翻一番

2019 年 7 月 Deepfake 的总数达到 14,678,相比于 2018 年 12 月的 7964 部造假视频增加了近 100%。而截至今年 6 月,造假视频已多达 49081 个,比 2019 年 7 月增长了 330%以上。

色情视频占比最高,美英成重灾区

2019 年,在 14678 个公开发布的 Deepfakes 作品中,假色情视频占据了 96%

另外,根据 Sensity 调查分析显示,Deepfake 用来制作色情作品的目标对象超过 95% 全部来自影视娱乐业,只有剩下的一小部分来自商业、新闻媒体以及政治领域。

而今年,影视娱乐仍然是覆盖最广的行业,占据了 62.7%,加上时尚类别(21.7%)和运动类别(4.4%),总计占所有目标的 88.9%。

其中,在娱乐行业 62.7%的占比中,来自 Instagram,Twitch 以及 Youtube 等社交媒体的目标对象数量显著增加。同时,来自商业(4.1%)和政治(4%)背景的目标对象也有所增加。

值得注意的是,上述 4% 政治背景的目标对象,主要集中在一些知名政客身上,如川普、Obama 等。信息时代,利用这些政客身份伪造虚假政治言论,可能会造成灾难性成果。

尤其是随着技术的提升,伪造品越来越难以用肉眼分辨。去年,一名马来西亚政治家就因涉嫌从事同性恋活动的视频而被判入狱(在马来西亚同性恋是非法的),但后来证实该视频是 Deepfake 伪造的。

另外,比利时政治团体也曾利用 Deepfake 伪造了一段川普关于巴黎气候协定的演讲视频,在当时产生了不小的轰动。

不过,总体来看,大部分有关政客的虚假作品还多以讽刺为目的。

另外,这些虚假作品有明显的地区分别特点。从 Sensity 的统计结果来看,政客伪造品主要集中在西方国家,尤其是美国和英国。同时,韩国和印度在今年也成为了主要目标。

图中,美国和英国在整体中占据了 61%,超过了一半。韩国(9.6%),印度(5.0)和日本(4.0)也构成了很大一部分。总体来看,说明亚洲的政治造假活动在持续增长。

反 Deepfake 技术有哪些?

Deepfake 的危害无需再多说。

为了应对日益泛滥的伪造品,学、政界和各大企业也在联合发力,研发反 Deepfake 技术。

值得一提的是,Kaggle 和 Facebook 已经举办了多场 Deepfake 探测器研发竞赛,并收集了大量用于训练的数据集。

Deepfake 检测器,主要通过对大量图像和视频进行训练,并从中查找不同的 Deepfake 标识符来鉴别内容真伪。目前最先进的监测手段,分为以下几种:

  • 人脸 X 射线( Face X-ray)检测:它是一种将假脸重新混入目标图像或视频,以从中寻找边界的方法。经过 FaceForensics 数据集上测试,精准度可达 99% 以上。(https://arxiv.org/abs/1912.13458)

  • 背景差异检测:该方法通过将人脸区域与背景区域进行对比,从中寻找微小差异以辨别真假。(https://arxiv.org/pdf/2008.12262.pdf)

  • 情绪识别网络(Emotion Recognition Network):该方法通过检测面部情绪是否与场景上下文或音频内容相匹配,来确定视频是真是伪。(https://arxiv.org/abs/2003.06711)

  • 生物学信号:通过检测视频目标的心跳并分析该信号的残差确定真假,该方法的准确率已达到 97.29%,同时还可以检测背后所用的 Deepfake 模型。(https://arxiv.org/pdf/2008.11363.pdf)

以上大多数这些 Deepfake 检测方法都没有可用的开源代码,不过,目前也有一些商业上可用的 API,例如 Sensity,Deepware,以及微软的 Video Authenticator。

此外,要说明的是,虽然人脸 X 射线检测法精度已经达到 99%,但它仅限于 FaceForensics 数据集,对于 “Wild”数据集可能并不适用,很多其他检测工具也是如此。

一位研究人员证实说,他上述某款模型用于《Step Brothers》和川普伪造视频检测,结果并不能证伪。尽管川普的伪造视频有明显的缺陷(嘴边周围有合成痕迹)

因此,在特定 Deepfake 检测数据集上表现良好的模型,在现实世界中也不一定达到理想效果。

但庆幸的是,高质量的 Deepfake 造假品仍需要人工干预来完善输出,这会极大地减慢传播速度,并为改进 Deepfake 检测模型提供时间。

引用链接:

https://www.skynettoday.com/overviews/state-of-deepfakes-2020

https://sensity.ai/deepfake-threat-intelligence-a-statistics-snapshot-from-june-2020/

https://www.creativebloq.com/news/the-irishman-deepfake

文章价值:
人打分
有价值还可以无价值
置顶评论
    热门评论
      全部评论
      评论区正在整改,人工审核团队培训中
        取消发送
        软媒旗下人气应用

        如点击保存海报无效,请长按图片进行保存分享