每周质量报告丨“AI换脸”诈骗套路多多！我们该如何防范？

来源：央视新闻客户端

AI技术，也就是人工智能，近年来发展迅速，有关专家介绍，AI的主要特征之一就是能自主深度学习，比如说，可以对现实生活中的人物表情和动作细节进行深度学习并且进行模仿。一些不法分子因此盯上了这项新技术，他们利用“AI换脸”冒充受害人的亲戚和朋友实施诈骗。公安部数据显示，近两年来，全国共发生“AI换脸”类诈骗案近百起，累计给人民群众造成经济损失高达2亿元。“AI换脸”诈骗缘何能屡屡得手？这其中的套路有哪些？我们又该如何防范呢？

记者近日来到了浙江大学区块链与数据安全全国重点实验室。在这里，任奎教授团队的研究人员让记者体验了一回“AI换脸”。

画面中，这位充当总台记者替身的姑娘实际上是浙江大学网络空间安全学院的学生小刘博士。在视频中，通过AI技术，浙大的研究人员成功将记者的面部特征移植到了刘博士的脸上，并对刘博士的声音也进行了改造，这样就合成出了“AI换脸”版的所谓总台记者。

浙江大学区块链与数据安全全国重点实验室任奎团队 廉伟辰：我们首先去锁定高老师和刘博士面部信息的位置，然后在里面提取出两个人的面部特征信息，之后我们用“AI换脸”模型去拟合两个人五官分布。因为刘博士面部特征分布情况和高老师分布情况不一样，所以需要让高老师的面部特征移到刘博士的脸上。等到AI模型拟合完成后，再把背景信息融合进来，合成最后的效果。

据专家介绍，“AI换脸”技术是一项基于人工智能的图像处理技术，这种技术能够识别出目标人物的面部特征并对其进行精准分析。也就是说，只需要目标人物的几张照片或视频，AI就能从中提取出他的面部五官和声音特征，通过和另一个人进行匹配，最终实现换脸，达到以假乱真的效果。

在“AI换脸”类诈骗案件中，那些让人真假难辨的杀熟视频就是利用这项技术合成出来的。

AI“造出”老同学

女子险被诈骗40万

前不久，家住内蒙古鄂尔多斯的李女士忽然收到了一个微信添加好友申请。李女士打开一看，这个微信昵称为“浊雨不语”的人，头像是自己的老同学“贾某”，她便加了对方的微信，并在对方的要求下转入了QQ聊天。进入QQ聊天之后，这名贾某主动发来了视频通话邀请。

受害人 李女士：跟我视频，我没等接起来就没了，紧接着又跟我视频一次，我还是接不起来。第三次给我打视频，我接起来16秒钟看到他的头像，头比较大，背景啥的都看不到，声音听不到，太吵了那里边，他就说网络信号卡，听不到声音，文字交代，他就给我打过来字。

视频通话虽然只有短短的16秒，但李女士确实看到了所谓老同学的样貌。这样李女士确信和自己交流的就是老同学“贾某”无疑。

一番寒暄之后，这位所谓的老同学“贾某”说有个急事想请李女士帮忙，他有个朋友正在参加一个项目竞标，急需资金周转，但他不方便直接出面将钱转给对方，希望借李女士的账户做个资金周转的桥梁。

随后这位老同学向李女士索要了银行卡号，接着便声称已经向李女士的账户转了196万元，同时还发来了一张“银行转账记录”截图。

在收款未到账的情况下，这位所谓的老同学极力说服李女士先垫付资金。基于对老同学的信任，加上已经视频通话核实了身份，李女士没有进一步确认钱款是否到账，就将自己手里的40万元转入了对方提供的一个银行账号。

然而在李女士转出40万后，对方仍不罢休，要求她继续转账。此时李女士才感到事有蹊跷，就在她尝试再次联系对方时发现自己已经被拉黑了。随后李女士拨打了真正的老同学的电话，这才发现被骗了，随即便报了警。

接到报警后，鄂尔多斯警方立即启动了紧急止付机制，成功将被骗的40万元拦截，返还给了李女士。

随即警方对涉案的“浊雨不语”微信账号展开了调查。警方调查发现，这个账号的实名认证信息对应的是一个叫刘某的人，而这个人的行为明显异常。

鄂尔多斯市公安局东胜分局刑事侦查大队四中队指导员 杨雪刚：微信号的实际登记注册人名下有12个微信账号，我们就对这个人比较怀疑，因为作为一个普通人，不可能有十二三个微信账号。

很快，办案民警在呼和浩特找到了刘某。到案后，据刘某交代，此前在一个拥有上千名成员的所谓QQ兼职群中，他关注到了一条标题为“租用私人实名制认证手机号，注册社交聊天账号，可以赚钱”的兼职信息。抱着试试看的态度，刘某和他们取得了联系。

据刘某交代，注册好多个微信账号后，他按照上线的要求，将这些微信的头像、昵称、地区等全都改成了上线提供的信息之后，便将自己名下的微信号交给境外诈骗团伙操作。

尝到所谓轻松“赚钱”甜头的刘某一发不可收拾，将自己的好友王某也一起拉来出租实名认证的微信号。在案发前的9个月时间里，刘某和王某两人用各自名下的19个手机号，实名认证了三十多个微信账号、十多个支付宝账号，出租给诈骗团伙，非法获利8000余元。

无独有偶，前不久，家住安徽池州的陈先生也遭遇了“AI换脸”诈骗。这次骗子冒充的是陈先生熟识的一位领导。而这位假领导让陈先生险些损失了六十万元。

受害人 陈先生：我当时是有所怀疑的，然后给我发视频，跟我聊天的过程当中完全就是跟我很熟悉的，跟我平时跟他聊天的内容、口气几乎是一样的。那感觉就是完全没有再去怀疑他了。接到他那个转账汇款的截屏，但是没收到款，这里又要我转回去，我再三考虑朋友之间，有时候难为情，我就把钱给他转过去了。

调查中记者注意到，安徽陈先生遭遇的诈骗套路与陈女士的如出一辙：诈骗人员第一步都是先冒充受害人的朋友要求加微信；接着第二步通过聊天取得受害人的初步信任；第三步发来利用“AI换脸”合成的视频通话进一步打消受害人的顾虑；最后第四步伪造假转账记录并以延时为由，诱骗受害人对外转款。

获取公民个人信息

是“AI换脸”类犯罪的最重要前提之一

在“AI换脸”类诈骗案中，骗子之所以能够屡屡得逞，关键在于受害人在视频通话中都看到了熟悉的亲戚朋友的样貌，才最终打消了顾虑，同意向对方转款。这些足以以假乱真的视频全都是通过“AI换脸”技术伪造出来的。随着调查的深入，记者发现，在“AI换脸”类诈骗中远不止视频杀熟一种套路，事实上只要在涉及面容、声音等特征的社交场景中，“AI换脸”技术如果应用不当就可能形成各种各样的犯罪。

这家总部位于深圳的网络安全企业，其主要业务之一是为全国500多个地市区县的反诈中心提供反诈预警服务。截至目前，他们已协助各级公安部门破获各类新型犯罪案件6000余起，其中就包括多起利用“AI换脸”伪造色情视频进行敲诈勒索的案件。

前不久，河北的一位李先生在浏览交友App时，因没禁住诱惑，同意了与所谓美女的裸聊要求，并下载了对方发来的一个非法聊天软件。殊不知这位所谓的美女是诈骗人员假冒的。而就在聊天过程中，诈骗人员已将李先生的样貌截取了下来，并利用“AI换脸”伪造了带有李先生面容的色情视频。与此同时，诈骗人员还利用非法聊天软件获取了李先生手机中所有联系人的手机号，以此来对李先生进行敲诈勒索。为了让诈骗人员删除色情视频，无奈之下李先生只得同意向对方转账12万元。

深圳某网络安全科技公司 钟子骥：诈骗人会诱导受骗人进行视频聊天，然后通过这些软件截取受害人的面部特征以及外貌，通过AI合成了一些黄色的视频，投放到他自制的App里。在这个App里有数十万的用户，最终通过刚才我们说的这种方式实施诈骗、勒索，平均每个人的受骗金额都是有几十万。

调查中记者了解到，在这类案件中，诈骗人员首先会在一些交友类平台搜寻诈骗对象；然后以裸聊等名义诱导受害人下载注册非法的聊天软件，并在注册过程中非法获取受害人的通讯录、照片库等隐私信息；接着通过视频聊天截取受害人面部、声音等特征；最后伪造出带有受害人面部的色情视频进行敲诈勒索。

记者注意到，在这类电诈案中，除了需要掌握“AI换脸”这项核心技术之外，成功诈骗的前提还需要获取受害人的通讯录、照片库等个人隐私信息，甚至可以说获取公民个人信息是“AI换脸”类犯罪的最重要前提之一。

网络安全专家告诉记者，事实上，对于诈骗团伙来说，要想获得这些信息并不难。

个人信息大规模泄露

是诈骗犯罪高发的重要因素

在这家企业技术攻破的一些诈骗团伙的数据库中，记者看到了海量的公民个人隐私信息。这个电子表格中存储的就是众多银行理财用户的隐私信息，其中包括了姓名、手机号、身份证号、银行卡号甚至还有用户理财账户金额和风险评估类型。

网络专家向记者介绍，这些公民个人隐私信息在一些暗网渠道被明码标价，打包出售，根据新鲜程度的不同，标价从几毛钱到几元钱不等，最低起售条数一般以一万条为计算单位。而这些公民个人隐私信息除了主要由行业内鬼窃取出售之外，另外一个主要渠道就是利用一些非法链接、二维码和手机App的诱导套取。

深圳某网络安全科技公司负责人 肖坚炜：第二个渠道就是由诈骗分子直接自己安排技术人员跟他的业务人员去套取，比如说去发小卡片，这小卡片里有App，你只要装了这个App，去看直播也好，看色情网站，免费的VPN，然后就会把你的通讯录、照片给你传到后台去。

在浙江大学，研究人员为记者演示了通过扫描非法二维码套取手机通讯录和照片库信息的过程。可以看到，研究人员首先模拟不法分子制作了一条诱导短信，短信中声称因存在异常交易，账户存在被冻结风险，需要扫描二维码下载专属银行客服。而就在下载安装成功后，只要点击这个App，试验手机中的通讯录和照片库就全部被窃取并上传到了模拟的不法人员后台数据库中。

浙江大学区块链与数据安全全国重点实验室任奎团队 郭永军：我们可以看到刚刚这个时间，犯罪分子将你手机上的信息进行窃取，可以查看你手机中的通讯录信息，以及你手机中相册的信息。在当前的网络环境下面我们会遇到很多未知的链接，比如可能说扫二维码送礼物去进行一个App下载，这些App没有经过安全检测，随意下载之后手机上的隐私信息就有可能被窃取。

网络电诈频发背后

是规模化、协同化的黑灰产业链

调查中记者了解到，电信网络诈骗已形成了分工明确的完整网络犯罪产业链。产业链的上游为网络犯罪团伙提供非法套取的公民个人隐私信息；中游定制个性化脚本实施网络诈骗；下游洗钱变现。网络安全专家告诉记者，这样一个具备“规模化生产、协同运作”等特点的黑灰产业链，给网络诈骗的打击和治理带来了挑战。

据了解，截至目前，我国网络安全法已实施近7年，个人信息保护法已实施两年有余。有关法律专家表示，要想进一步遏制公民个人隐私信息泄露及网络诈骗的发生，在制度上仍需细化和完善。

中国法学会消费者权益保护法研究会副秘书长 陈音江：针对公民个人信息保护方面一些具体的法律法规，或者说一些具体的管理措施还要进一步明确，进一步细化，更便于基层执法人员进行监管。

网络安全专家认为，维护网络安全需要制度建设与技术创新并重，制度为技术的应用提供保障，技术则为制度的落地提供可行路径。

浙江大学区块链与数据安全全国重点实验室任奎团队研究员 巴钟杰：在防范手段方面我认为一是我们要加强对网络犯罪的预防和打击；二是需要从源头上加强我们的技术安全性，尤其是商用产品的安全性，比方说可以结合隐私计算等技术来降低用户隐私泄露的风险；三是积极发展新兴技术，以AI反制AI。虽然AI合成的视频现在已经做到了以假乱真的程度，但事实上我们用AI技术还是可以从中提取到一些我们人类肉眼无法察觉的伪造痕迹，以帮助我们的消费者去防范以及识别以“AI换脸”诈骗为主的安全风险。

“AI换脸”诈骗之所以会得逞，实际上就是因为在生活中看到脸就确认身份是再普通不过的习惯，“AI换脸”诈骗就是利用了我们这一习惯。但是“AI换脸”诈骗也并非不可防范，最可靠的一招，就是在线上发现任何疑点，都要线下核实，在线上也可以采取增加沟通时间等方法，时间越长骗子越容易露出马脚。还可以多一些试探性举措，比如视频通话时让对方转转头或者做一些指定的动作。AI目前还不能完美地适配所有情况，如果是伪造的视频就一定会存在一些破绽。当然最终引导AI正向应用，严厉打击犯罪行为，才是治本之策。

记者丨高杰 朱平 呼和牧仁