本文来自微信公众号：SF 中文 （ID：kexuejiaodian），作者：SF
近年，人工智能的快速发展不仅推动了社会的进步，也为诈骗分子提供了新工具。利用一种新式的深度伪造技术，诈骗分子甚至能把两个人的面部融合，凭借一张脸，使用两个人的身份分别成功申领证件。
文 | 亚历克斯・休斯（Alex Hughes）
译 | 李驿
编 | 赵佳明
原文刊载于《科学焦点》2023 年第 12 期
如果你常看短视频，想必一定看过这样一些作品：原本是一些知名影视剧，但是剧中一些人物的脸被换成了其他的人，通常是其他名人的脸。这就是深度伪造。
深度伪造是指利用人工智能技术“凭空捏造”足以以假乱真的音频乃至视频。只需一台笔记本电脑，经过短期训练，任何人都可以掌握深度伪造技术。
答案是肯定的。其实，在网上下载相关的软件，用鼠标轻点几下，任何人都能轻松制作出深度伪造作品。另外，深度伪造的训练成本也极低，甚至都无需使用时长为几分钟、几小时的数据样本，使用几秒钟的样本就能完成训练。
而且，深度伪造所需的数据量也很小。深度伪造所需的数据通常都是网上已有的数据，显然名人更容易成为“伪造”的对象。不过，现在我们生活在互联网时代，任何人的个人数据都能在网上找到。一个学生只不过下载了我的一段课程音频，就足以让他收集到足够的数据来复制我的声音，伪造新内容了。更有甚者，一些报告指出，只需一段 3～10 秒的音频样本，利用深度伪造，就可以制作出声音极为逼真高仿真作品。
所以说，如今人工智能的繁荣是一把双刃剑。一方面，它已经成了人人都能使用的强大工具；另一方面，它也可能被别有用心的人利用，为人类带来负面影响。
其实，对于我们大多数人来说，深度伪造只是一项好玩的技术。但是，一些别有用心的人也开始利用深度伪造技术了。更令人担忧的是，深度伪造除了换脸，还能用于伪造声音：无需花费太多的时间和精力，就能十分逼真地模仿任何人的声音。
前面说的还只是技术层面上的逼真。对于诈骗分子来说，如果在此基础上，把骗术与亲情等情感因素相结合，再向受害人不断施压，制造时间上的紧迫感，让受害人因为紧张和慌乱而丧失了判断能力，那么哪怕伪造的声音没那么逼真，也能让受害人上当受骗。
在现在的很多案例中，诈骗分子都会假扮成被害人的亲友，通过电话甚至视频通话，编造车祸、绑架等紧急情况，以急需用钱的谎言来实施诈骗。
这些深度伪造所用的音视频素材通常来自网络。诈骗分子无需保证百分之百地还原，因为当被害人陷入恐慌和绝望时，判断能力会严重下降，也就能让诈骗分子趁虚而入，轻松得逞。
了解了诈骗分子如何利用深度伪造诈骗，那我们该如何防范呢？
当我们自己深陷深度伪造骗局时，往往也会因为一时慌乱而丧失了判断能力。所以，当我们接到亲友的紧急求助时，一定要想一想：这真的是他的声音吗？他真会遇到这种麻烦吗？
尽管现在有不少能检测音视频是否经过深度伪造的软件，可我们在遇到紧急求助时，也不大可能第一时间就想到它们。所以，当我们接到突如其来的紧急求助时，最好还是要给亲友打个电话或是视频电话，确认他们到底在哪里、在干什么。然后，等我们冷静下来之后，再综合评估信息的真实性。冷静、周密的思考比任何软件都要可靠。
学会了防范，我们是否有什么方法能提前给自己打个“预防针”呢？
如今，我们生活在一个个人隐私很难得到妥善保护的世界，特别我们的很多日常活动都从线下转到了线上，比如社交、购物。这意味着我们的个人信息、数据也都转到了线上，因此在网络上随处可见有关我们的图像、音频和视频信息。
如果想彻底摆脱诈骗，需要彻底清除自己在网上的数字“足迹”，可在现今社会，这简直是天方夜谭。所以，我们更应该做的，也更可能做到的是，面对潜在的深度伪造骗局，保持冷静客观，认真分析当前遇到的情况到底是不是一个骗局。
随着近年人工智能的快速发展，利用深度伪造诈骗也衍生出了新的诈骗形式和方法，令人防不胜防。
现在，有一种叫“人脸融合”（facial morphing）的全新深度伪造方法，利用这种方法，可以把两个人的面部特征融合在一起，形成一个全新的面部形象。如果在合成过程中停下来，就会形成一个在现实世界完全不存在，却同时拥有两人的面部特征的形象。不法分子已经开始利用这种“四不像”的面部混合体伪造身份证等证件。比如，把两个人的证件照合成为新照片，甚至用这张新照片能以这两个人的身份分别申领护照，并最终获批。
其实，遇到突发事件，保持冷静是很难做到的。究其根本，还是人的贪婪在作祟。
我们可能都听说过，甚至见过这样的信息：某人的银行账户里有几百万美元的继承资产，但需要 500 美金才能解锁账户，如果你能借钱给他，帮他解锁，事成之后就可以获得 100 万美元的酬劳。对于这种诈骗形式，我们早已见怪不怪，但如今诈骗分子也在提升自己的骗术。不过，异曲同工的是，诈骗分子都会声称，只需小小的投入，你就能获得巨大的回报。
这些骗局其实就是在利用人的贪念。一旦动了贪念，这些利用人性的骗局往往就防不胜防。但是，想要提防这种骗局，其实也很简单，那就是永远不要相信天上会掉馅饼 —— 不管是巨额的现金馈赠，还是让你一夜暴富的投资项目，都不会轻易落在你的身上。
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。