设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

AI 诈骗更是防不胜防,一张脸申领两份证件,深度伪造不只能换脸

SF中文 2023/11/18 13:10:04 责编:梦泽

本文来自微信公众号:SF 中文 (ID:kexuejiaodian),作者:SF

近年,人工智能的快速发展不仅推动了社会的进步,也为诈骗分子提供了新工具。利用一种新式的深度伪造技术,诈骗分子甚至能把两个人的面部融合,凭借一张脸,使用两个人的身份分别成功申领证件。

文 | 亚历克斯・休斯(Alex Hughes)

译 | 李驿

编 | 赵佳明

原文刊载于《科学焦点》2023 年第 12 期

如果你常看短视频,想必一定看过这样一些作品:原本是一些知名影视剧,但是剧中一些人物的脸被换成了其他的人,通常是其他名人的脸。这就是深度伪造。

深度伪造是指利用人工智能技术“凭空捏造”足以以假乱真的音频乃至视频。只需一台笔记本电脑,经过短期训练,任何人都可以掌握深度伪造技术。

每个人都能使用深度伪造吗?

答案是肯定的。其实,在网上下载相关的软件,用鼠标轻点几下,任何人都能轻松制作出深度伪造作品。另外,深度伪造的训练成本也极低,甚至都无需使用时长为几分钟、几小时的数据样本,使用几秒钟的样本就能完成训练。

而且,深度伪造所需的数据量也很小。深度伪造所需的数据通常都是网上已有的数据,显然名人更容易成为“伪造”的对象。不过,现在我们生活在互联网时代,任何人的个人数据都能在网上找到。一个学生只不过下载了我的一段课程音频,就足以让他收集到足够的数据来复制我的声音,伪造新内容了。更有甚者,一些报告指出,只需一段 3~10 秒的音频样本,利用深度伪造,就可以制作出声音极为逼真高仿真作品。

所以说,如今人工智能的繁荣是一把双刃剑。一方面,它已经成了人人都能使用的强大工具;另一方面,它也可能被别有用心的人利用,为人类带来负面影响。

其实,对于我们大多数人来说,深度伪造只是一项好玩的技术。但是,一些别有用心的人也开始利用深度伪造技术了。更令人担忧的是,深度伪造除了换脸,还能用于伪造声音:无需花费太多的时间和精力,就能十分逼真地模仿任何人的声音。

诈骗分子如何利用深度伪造行骗?

前面说的还只是技术层面上的逼真。对于诈骗分子来说,如果在此基础上,把骗术与亲情等情感因素相结合,再向受害人不断施压,制造时间上的紧迫感,让受害人因为紧张和慌乱而丧失了判断能力,那么哪怕伪造的声音没那么逼真,也能让受害人上当受骗。

在现在的很多案例中,诈骗分子都会假扮成被害人的亲友,通过电话甚至视频通话,编造车祸、绑架等紧急情况,以急需用钱的谎言来实施诈骗。

这些深度伪造所用的音视频素材通常来自网络。诈骗分子无需保证百分之百地还原,因为当被害人陷入恐慌和绝望时,判断能力会严重下降,也就能让诈骗分子趁虚而入,轻松得逞。

了解了诈骗分子如何利用深度伪造诈骗,那我们该如何防范呢?

如何防范深度伪造骗局?

当我们自己深陷深度伪造骗局时,往往也会因为一时慌乱而丧失了判断能力。所以,当我们接到亲友的紧急求助时,一定要想一想:这真的是他的声音吗?他真会遇到这种麻烦吗?

尽管现在有不少能检测音视频是否经过深度伪造的软件,可我们在遇到紧急求助时,也不大可能第一时间就想到它们。所以,当我们接到突如其来的紧急求助时,最好还是要给亲友打个电话或是视频电话,确认他们到底在哪里、在干什么。然后,等我们冷静下来之后,再综合评估信息的真实性。冷静、周密的思考比任何软件都要可靠。

学会了防范,我们是否有什么方法能提前给自己打个“预防针”呢?

如今,我们生活在一个个人隐私很难得到妥善保护的世界,特别我们的很多日常活动都从线下转到了线上,比如社交、购物。这意味着我们的个人信息、数据也都转到了线上,因此在网络上随处可见有关我们的图像、音频和视频信息。

如果想彻底摆脱诈骗,需要彻底清除自己在网上的数字“足迹”,可在现今社会,这简直是天方夜谭。所以,我们更应该做的,也更可能做到的是,面对潜在的深度伪造骗局,保持冷静客观,认真分析当前遇到的情况到底是不是一个骗局。

随着近年人工智能的快速发展,利用深度伪造诈骗也衍生出了新的诈骗形式和方法,令人防不胜防。

现在,有一种叫“人脸融合”(facial morphing)的全新深度伪造方法,利用这种方法,可以把两个人的面部特征融合在一起,形成一个全新的面部形象。如果在合成过程中停下来,就会形成一个在现实世界完全不存在,却同时拥有两人的面部特征的形象。不法分子已经开始利用这种“四不像”的面部混合体伪造身份证等证件。比如,把两个人的证件照合成为新照片,甚至用这张新照片能以这两个人的身份分别申领护照,并最终获批。

其实,遇到突发事件,保持冷静是很难做到的。究其根本,还是人的贪婪在作祟。

诈骗分子利用了人的贪婪?

我们可能都听说过,甚至见过这样的信息:某人的银行账户里有几百万美元的继承资产,但需要 500 美金才能解锁账户,如果你能借钱给他,帮他解锁,事成之后就可以获得 100 万美元的酬劳。对于这种诈骗形式,我们早已见怪不怪,但如今诈骗分子也在提升自己的骗术。不过,异曲同工的是,诈骗分子都会声称,只需小小的投入,你就能获得巨大的回报。

这些骗局其实就是在利用人的贪念。一旦动了贪念,这些利用人性的骗局往往就防不胜防。但是,想要提防这种骗局,其实也很简单,那就是永远不要相信天上会掉馅饼 —— 不管是巨额的现金馈赠,还是让你一夜暴富的投资项目,都不会轻易落在你的身上。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

相关文章

关键词:人工智能

软媒旗下网站: IT之家 辣品 - 超值导购,优惠券 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件: 魔方 云日历 酷点桌面 Win7优化大师 Win10优化大师 软媒手机APP应用