“AI换脸诈骗潮”来了？
公安部门：全国爆发消息不实，但涉诈风险正在积聚
记者 于梅君
一张静态半身照，经过特殊软件处理，就能变成视频，而这样一段视频，可能被不法分子用来诈骗。那么，“AI换脸”是如何实现的？目前全国真的爆发“AI诈骗潮”了吗？对普通公众而言，如何识别“AI假脸”？
花钱就可“买脸” “AI换脸”暗藏黑产
“AI换脸”技术，一直是网络安全监管的重点对象，许多换脸软件，不得不通过短视频平台、社交账号等私密渠道进行资源共享。
某社交平台一位商家介绍，可以提供国内明星换脸服务，软件价格2000元一套，可送一个模型，“模型可以定制，另外加500元一个。”此外，该商家提供了多组套餐供选择：包括单图换脸、实时换脸、全自动换脸等，每套价格多集中在2000元至3000元。商家表示，可采用多个人脸混合的方式，将使用者本人的脸和明星的脸进行混合，以降低侵权风险。
在某销售网站上，一名软件开发者则展示了如何将知名女星的眼睛和嘴巴拼接融合到一起，生成全新虚拟数字人的过程。该款软件提供了从初级到超级再到全套的不同版本。以初级套餐来说，付费499元可提供软件界面、视频指导、入门级模型、基础指导等。付费2888元，则可得到全套等级的视频换脸模型。
软件不仅可以实现视频换脸，还支持直播换脸。“如果你有看中的脸，可以找到某个人的正面、侧面等各种角度视频拿来训练。”该软件开发者同样表示，“如果你想要明星脸，又怕侵权，不想那么像，就可以找几个人的脸放在一起训练，看上去又像又不像，达到明星脸的效果。”
此外，网络上不乏AI换脸教程。在国内某知名App上输入“换脸”，弹出的高频检索记录显示，有“换脸软件”“换脸App免费”“换脸视频怎么做”“换脸算法”等。
视频“大变活人” 是如何实现的
“AI换脸”也叫“深度伪造技术”，堪称现代网络“易容术”，是比PS强大很多的动态换脸技术。这一方式被一些不法分子用于盗刷银行卡、非法办理手机卡等诈骗场景。除了欺骗机器外，还可以通过伪造电话语音、视频通话等欺骗真人，引诱转账、实施敲诈等。那么，“AI换脸”到底是如何实现的？
“深度伪造技术主要分两部分：自动编码器和生成对抗网络。”天津大学智能与计算学部教授翁仲铭介绍，其核心原理，是利用“生成对抗网络”等算法，将目标对象的面部，“嫁接”到被模仿对象上，一般可分四类：重现、替换、编辑和合成。
随着深度学习技术的发展，自动编码器、生成对抗网络等，逐渐被应用到“深度伪造”中。那么，什么是自动编码器？翁仲铭介绍，自动编码器是一种神经网络技术，就是把一个人的照片特征抓取出来，然后用数字代表。
有编码器就需要解码器，解码器会把一串串数字再还原成照片。不同解码器，可以还原不同照片，比如朱茵的解码器可以还原朱茵的照片，而还原施瓦辛格照片，则需要施瓦辛格的解码器。
“深度伪造技术，就是在设计、训练精准的编码器和解码器。”翁仲铭解释，因为编码器是抓取照片的特征，所以基本上只需要一套就可以了。但解码器就需要训练很久，以换成史泰龙的脸为例，这个过程需要输入史泰龙600—3000张照片，并经过48—72小时来训练深度模型。
“自动编码器做出的照片是否自然真实，还需要判别把关，这就需要‘生成对抗网络’技术。”翁仲铭解释，这包括两个机器学习模型，分别为“生成网络”和“辨别网络”，这种网络包含两个相互博弈的神经网络，像“猫捉老鼠”一样对抗：一个尽力去忽悠另一个，让它相信自己生成的是真样本，而另一个则尽力去区分真假样本。
生成网络扮演“造假者”，在模型训练后，产生伪造影片；而辨别网络则扮演“检测者”，不断地检视假影片，直至它再辨别不了结果是假的。数据越多，效果越理想，假影片越真实。
AI进入快速迭代期，涉诈犯罪风险正在积聚
通过AI换脸和拟声技术，10分钟骗430万元；AI虚拟人在聊天中筛选出受害者，人工接力实施诈骗……近期，多起宣称利用AI技术实施诈骗的案件引发关注。
那么，“AI诈骗潮”是否真的到来了？近日，公安部门确认，“AI诈骗全国爆发”的消息不实，目前此类诈骗发案占比很低。但公安机关已注意到此犯罪新手法，将会同有关部门，开展技术反制和宣传防范。
专家表示，AI在技术上确实能做到换脸、拟音，但被用来进行“广撒网”式诈骗需要具备很多条件。
这类诈骗如果得手必须做到：收集到被换脸对象的个人身份信息、大量人脸图片、语音素材，通过AI生成以假乱真的音视频；窃取被换脸对象的微信号；充分掌握诈骗对象个人身份信息，熟悉其与被换脸对象的社会关系，综合作案成本很高。
公安机关研判，目前AI涉诈案件仍属零星发案状态，成熟的类型化诈骗犯罪，往往具有在全国多地集中爆发的特点，但当前没有成规模的AI诈骗类案件发生。
所以，近期网上“AI换脸、换声诈骗在全国爆发”传言不实，目前全国此类案件发生不到10起，但该动向值得高度关注。网上一键换脸功能的App、小程序有技术滥用风险，需要加强技术防范反制等工作。
国家开发投资集团特级专家赵建强表示，虽然AI诈骗类案件尚未大规模爆发，但AI技术正加速向网络诈骗、虚假信息、色情等领域渗透。“如假冒明星换脸直播、一键脱衣、造谣、制作色情视频等。虽然AI诈骗案件未成气候，但这一趋势值得关注，必须提早防范。”一位反诈民警说。
用“白AI”对抗“黑AI”，及时画红线、踩刹车
中国移动信息安全中心品质管理处副处长周晶表示，近年来，各界正在研判AI技术给社会带来的风险和潜在威胁，设法将AI技术发展纳入一定规则中，做到安全可控。
业内人士建议，要加强AI反制技术研究，“以AI制AI”。一些科技公司正加强对图像、声音伪造技术的反制研究，在公安、金融的视频认证场景已有应用。有一线民警建议，要加强AI安全技术应用研发，将AI技术应用于犯罪识别、预警、对抗中，实现以“白”AI对抗“黑”AI。
其次，加强源头治理和行业引导，及时更新、完善相关法律、标准、规则，为AI技术发展保驾护航。“数据是AI犯罪的源头，保护好公民的个人隐私数据安全，就能在最大程度上降低AI违法犯罪的能力。”周晶说。
中国互联网协会监管支撑部主任郝智超建议，AI技术发展还要有相关法律法规来画红线、踩刹车。对AI技术的研发、传播、使用做到有规可循，并根据技术发展实际情况，及时完善对技术服务商行为的规范引导。
此外，还要有针对性地加强反诈宣传。郝智超表示，未来AI可根据大数据创造出无比接近真实的“真实”。“要通过不断的教育，改变大众观念，让人知道眼见不一定为实，有图不一定有真相，提升对网络信息的辨识力。”
(一)合成声音
骗子通过骚扰电话录音等，提取某人声音，获取素材后进行声音合成。
(二)通过AI筛选受骗人群
骗子不是漫无目的地全面撒网，而是别有用心地锁定特定对象。
(三)AI换脸
骗子首先分析公众发布在网上的各类信息，用AI技术换脸，可伪装成任何人。
识别假脸
多数假脸是使用睁眼照片合成，假脸极少甚至不会眨眼。还包括语音和嘴唇运动不同步、情绪不符合、模糊的痕迹、画面停顿或变色等。（齐鲁晚报） 【编辑:叶攀】 ,“AI换脸诈心疼的近义词 骗潮”来了?
相关：
广州城中村电费乱象何时休？ 原标题：自查倒计时高价依旧 城中村电费乱象何时休？ 羊城晚报记者 董鹏程 夏日炎炎，空调成了人们的消暑神器，然而广州城中村里的不少租客却碍于高昂的电费无法实现“空调自由”。5月17日，广州市市场监督管理局发布关于贯彻执行《广州市供用电条例》规范电费收费行为的提醒告知书(以下简称“告知书”)，提醒各电费收费主体立即开展自查自纠，并于6月30日前全面纠正自身存在的不规范收费行为。眼下限期整改的日..
“圣婴”驾到 全球进入“烧烤模式” “圣婴”驾到 全球进入“烧烤模式” 未来五年全球气温将创新纪录，会打开“潘多拉魔盒”吗 记者 于梅君 厄尔尼诺来了 明年或史上最热 进入6月以来，我国北方多地气温突破40℃,让许多人“热到怀疑人生”。6月15日，中国气象局公共气象服务中心发布了今年首个高温中暑气象预报，较常年平均首发日期提早13天。 事实上，被“炙烤”的不是只有我国，而是全球。 更坏的消息是，从气象意义来说，..
从老有所养到老有颐养 山西长子守护最美“夕阳红” 中新网长治6月28日电 题：从老有所养到老有颐养 山西长子守护最美“夕阳红” 作者 杨静 曹杨 杨亚勤 午后阳光正暖，山西省长治市长子县第一养老院里的院子里，几名老人围坐在一起，边聊天边晒太阳，“夕阳红们”的欢笑声四处洋溢。 “在这里每天都有人照顾我们，饭菜不重样，生病有人护理，还能和‘老伙伴们’每天在一起聊天，很热闹，比在家里还好。”80岁的候爱莲奶奶对自己如今的生活非常满意。 ..
网飞三体要开播：“已阅，狗屁不通！”网飞版《3体》终于发预告了。看一下评论区，好生热闹，颇有撒村骂街的味道。细分下来，舆论大致分为三大类。第一类：声量最响的，力挺与舔。在他们心中，网飞的月亮更圆，网飞会踩着国产三体封神。“拍出国内不敢拍的，我就更想看。”“唯一想看的三体版本，还得是网飞才行，预告片已经秒杀。”第二类：一身反骨的，否定与对骂。他们从政治正确、2DB黑历史、魔改原著等角度反击力挺派。“大概率是
“抢教授话筒”学生高考387分？造谣带节奏居心何在极目新闻评论员 吴双建6月26日，有网友发文称今年2月安徽省庐江某中学上台抢演讲教授话筒学生高考失利，成绩为387分，引发关注。27日，学校高三一位毕业生告诉顶端新闻记者，网上所传内容不实。（据6月27日顶端新闻）有学生家长对网上所传内容辟谣（图源：顶端新闻）这件事有前情，今年2月19日，有网友发布一则标题为“合肥师范学院教师教育学院副教授陈某友讲座中被学生轰下台”的视频在多平台流传。陈某友说什么“学生们读书..
预测33亿，陈思诚可真精《消失的她》爆了。如果说年初的《保你平安》算是小爆。那么《消失的她》是大爆了，上映6天突破10亿，目前预测票房33亿。△ 数据来源：猫眼专业版要知道今年在内地表现最好的好莱坞电影《速度与激情10》，票房也才9.79亿。由于热度出圈，票房火爆，《消失的她》也被更多的人用放大镜观看。原本一些缺陷和不足变得更加明显，评分也从7.5下降到了目前的6.7。对于这部片的讨论，已经不限于作品质量本身。而是社会现象和大..
这几天，最炸裂的瓜来了……这几天，夹杂在蔡徐坤和大小曲线那一坨人之间，居然还能出现更匪夷所思，更光怪陆离的顶流瓜……内娱啊内娱啊，我应该说你什么好呢？热带鱼你也别想躲过去哦。这个神秘又离奇的瓜，和王俊凯有关。其实前几次我也写过一些，就是关于王俊凯之前出了很多事，包括事业停滞方面，一些离谱的传言等等。他这边团队也出来发了好几次声明，说王俊凯这几年确实出了一些问题，遭遇到了来自hsh等一些黑暗势力的威胁↓↓↓咋说呢？对于这个说..
天！突然去世，不是刚得到千万遗产？！还记得肥姐沈殿霞和郑少秋的女儿郑欣宜吗？前两天，港媒那边传出来一个很吓人的新闻，称郑欣宜尸体被警方找到，爸爸郑少秋泪如雨下，而在这条新闻之前，郑欣宜经纪公司表示人已经失踪两个月了，无法联系上，而且据说抑郁症发作健康堪忧，社交平台也停留在5月中旬。于是很多人真以为郑欣宜出事了！一时间舆论哗然。然而只是一场乌龙而已，郑欣宜好友冯允谦出面辟谣，说郑欣宜目前在家休息，私下有传简讯问候。经纪人也出来澄清，..
官宣！求婚女经纪人，疑似怀孕，互称爸妈！今天，是祝福他俩的吃瓜阿美。有生之年系列，萧敬腾发博官宣向经纪人林有慧求婚成功，晒出的照片里两人相拥，深情地凝望对方，林有慧更是一脸幸福，不过告白叫妈妈这个称呼也是蛮让人费解的， 死去的“妈咪，你能教我玩抖音吗”记忆又来攻击网友了加上林有慧确实比他要大上个13岁，很多人觉得要么萧敬腾有恋母癖，要么两个人已经悄悄有孩子了，用孩子他妈称呼对象再正常不过，不管怎样都是人家两口子的事，祝福就完事儿了。话说..
比起来星二代，她其实更像遗孤吧…出了个事，你别说看到这个消息时还真有被惊到，不是那个男顶流的瓜嗷。话说男顶流“无套一夜情，然后派妈妈出场善后女方怀孕流产”的瓜在咱们这还算稀奇吗？还好吧今天要讲的是郑欣宜，“肥姐”沈殿霞和郑少秋的女儿。因为妈妈沈殿霞是当时人见人爱的TVB台柱“肥肥”，父亲又是大名鼎鼎的秋官，所以郑欣宜的人生可以说是从出生就是惹人注目的存在。现在就连她的“死讯”也是。就油管上有一个营销号忽然爆料称“郑欣宜遗体找到”..