如今，AI换脸在网上被玩的不亦乐乎。喜欢哪个明星，就把所有电视剧主角都换成他的脸，如果只是单纯娱乐，貌似也无可厚非。但可怕的是，你的脸很可能会被“植入”到色情视频然后被打包贩卖，甚至你的手机、电脑、智能门锁等应用了人脸识别技术的设备也可能被AI换脸轻松攻破。有人用AI视频造假，亦或是犯罪，似乎就没那么好玩了。
刷脸支付、人脸识别……不可否认，人工智能技术给人们的生活带来了诸多便利。“但我们也应当正视，当前人工智能技术还处在初步发展阶段，仍然面临着一些挑战。”清华大学教授、清华大学人工智能研究院基础理论研究中心主任朱军说。
“任何技术都是一把双刃剑，当AI技术应用到越来越多的场景，由于AI算法本身存在漏洞所引发的安全问题必须引起足够重视。同时，AI技术的滥用也将引发安全隐患，比如隐私与伦理问题。当AI开始触碰边界问题，安全性就成为AI发展过程中必须思考的课题。”北京瑞莱智慧科技有限公司(以下简称RealAI)高级产品经理张旭东在接受科技日报记者采访时说。
技术漏洞带来AI安全问题
回家，到单元楼门口，刷一下脸，门就开了。人脸解锁已经成为生活中最常见的AI应用场景之一。然而，很少有人会想到，当前的AI算法存在明显的“安全盲点”。
RealAI团队就曾做过相关研究：针对识别算法漏洞，可生成一类名为对抗样本的“噪音”，恶意误导AI算法输出非预期的结果，诱导识别系统出错。团队成员通过一张打印上对抗样本“噪音”的纸，成功地让研究对象在识别系统下实现“隐身”，如果再把纸贴在其他实物上，比如小车模型上，也可以让该物体在识别系统下完全“消失不见”。此外，他们还研发了一种带有噪点的“眼镜”，只要戴上，即使不是本人，也能成功破解商用智能手机的刷脸解锁，甚至包括门锁等其他人脸识别设备。
“AI算法漏洞本质上是安全问题的一大类，而解决安全问题往往是攻防两端不断对抗、演化的过程。”张旭东说。目前对主流的攻击手段都有比较有力的防御手段，如可以通过训练模型去除对抗“噪音”，或是检测出对抗样本以后将其从数据中去除，以及使用攻击算法生成大量对抗样本对模型做对抗训练等方式来解决这些问题。
由于AI换脸技术也在不段进化，早期换脸技术生成的视频中人物往往不会眨眼，可根据一些较为明显的特征直接肉眼判断。但随着深度伪造技术的不断演化，这些鉴别方法已不再有效。
“面对这种情况，我们会根据当前市面上流行的换脸算法生成海量的训练样本，再结合贝叶斯学习处理还未出现的新型虚假视频。简单理解，就是基于主流的甚至更为领先的生成技术制作出大量逼真的假视频，再利用这些假视频训练出一个新的模型。做的假视频越逼真，训练出来的模型分辨能力就越强。”张旭东说。
要守好技术和法规两道关
“AI技术滥用最显性的问题在于个人信息被轻易‘操纵’，这背后可能会引发隐私泄露、身份危机，而且还会催生出更加隐秘、难以侦察的新型黑产，如色情黑产、金融欺诈等。”张旭东说。
此外，AI技术滥用的潜在效应还将蔓延到大众的信息获取和社会信任层面，引导公众舆论、引发社会信任危机，比如美国就曾流出国家领导人被恶搞的视频，制作者利用视频煽动政治暴力、破坏选举、扰乱外交。长此以往，难以辨别真相的公众无法选择相信还是不相信，如果选择相信可能会继续给不法分子带来可趁之机，如果选择不相信则可能带来长期的社会冷漠。
张旭东表示，AI安全问题牵一发而动全身，守好技术和法规两道“关卡”是当务之急，同时需要联动社会各界力量，从监管机构、AI科技企业到普通公众共同重视、共同发力才能真正的从根本上使其良性发展。
欣喜的是，AI安全问题已经引起国内相关监管机构的重视。此前，网信办就正式发布《网络音视频信息服务管理规定》，指出自2020年1月1日起，AI造假音视频不得随意发布。新规定中关于AI造假音视频的规定主要有四条：按照国家有关规定开展安全评估、以显著方式予以标识非真实音视频信息、不得利用AI造假技术发布虚假新闻、部署AI造假音视频鉴别技术和健全辟谣机制等。
“当然，最有效、最可行的解决方法仍是依靠技术制衡技术。”张旭东说，这主要包括两方面，一是开发出高精度的AI检测算法与检测产品，从源头制止虚假内容的泛滥传播；二是开发出相应的“防火墙”技术，从防御端铸造高墙，保障配备了人脸识别系统的公共安全设备攻不可破。
本报记者 付丽丽 【编辑:苏亦瑜】 ,堵dresser 住AI安全漏洞 法规之外更需技术制衡
相关：
这三句狠话流行 记录基层干部“夹缝生存”真实状态 三句狠话，记录基层干部夹缝生存 “不换思想就换人”“不管你用什么办法，我只要结果”“上面政策都是好的，都是下面的和尚念歪了经”——半月谈记者调研发现，这三句在基层颇为流行的话，让广大基层干部感到很受伤，同时也记录了基层干部“夹缝生存”的真实状态。 “不管你用什么办法，我只要结果” “上级领导讲，不管你用什么办法，我只要结果。”北方某镇镇长说，“事情多任务重，这些我们都能克服。但问..
跨越4186公里的新年愿望 哨所的解放军叔叔帮他实现 跨越4186公里的新年愿望，竟然是一张“小白杨”照片 “一棵呀小白杨，长在哨所旁 根儿深，干儿壮，守望着北疆” 寒冬时节，2019年12月31日，位于中哈边境的新疆塔城军分区塔斯提边防连小白杨哨所的官兵们收到了一封特别来信。 空中俯瞰小白杨哨所。 写信的是4000公里外的一名小学生，想请哨所的解放军叔叔们帮他实现自己的新年愿望。 一个跨越了4186公里的新年愿望，到底是什么呢？ 湖..
西宁地陷现场：救援人员下洞救援 洞中大量管道破裂新京报讯（记者 马骏 刘浩南）1月13日17时36分许，青海省西宁市城中区南大街长城医院门前发生路面坍塌，一辆公交车陷入其中。1月14日，据西宁市政府新闻办和西宁市应急管理局联合发布消息称，事故已造成10人失联，16人受伤，受伤人员已在青海省红十字医院接受治疗。新京报记者现场看到，有救援人员腰缠绳索下洞救援。挖掘机正在坑洞中挖掘救援。来源：新京报我们视频救援人员进入坑洞内救援。来源：新京报我们视频洞中可见大量..
43斤女大学生离世 生前最后愿望：跟弟弟过个好年吴花燕2019年11月接受封面新闻采访画面封面新闻记者 刁明康 李佳雨 贵州摄影报道2020年1月13日，噩耗传来，43斤女大学生吴花燕走了！生前，她对封面新闻记者说：“2020年春节，想添几件家具，和弟弟一起过个好年”。2019年10月，贵州43斤女大学生吴花燕的故事经媒体报道引发社会关注。吴花燕4岁时母亲去世，18岁时父亲去世，只剩她和弟弟吴江龙相依为命。获得各界救助后，吴花燕得以上初中、高中、大学，以及维持在贵阳治疗，..
还记得剧版《神话》的吕雉吗？她现在长这样有人说想看电视剧《神话》中的吕雉，今天就来说说她吧！和温柔又没心机的妹妹吕素不同，她有手段。吕雉发现妹妹也喜欢上了易小川，就设计让吕素嫁出去。她虚荣、向往权势。要让刘邦在京城跑个官之后，才答应嫁给他。饰演吕雉的演员是陈紫函，原名陈莎莎。毕业于北京电影学院。她演过太多我们熟悉的角色了！《大汉天子》中有勇有谋，重情重义的平阳公主▼《倚天屠龙记》中狠毒却单纯的“蛛儿”▼刘涛、潘粤明版《白蛇传》中饰演调..
赵本山女儿“球球”被质疑靠爹吃饭，霸气回怼：还好我有作为赵本山的女儿，今年22岁的赵珈萱（曾用名赵一涵）从出生就获得了很多关注。她从小就能歌善舞，8岁就上电视台表演，外界都看好她长大后会进入娱乐圈。没想到，2016年赵珈萱另辟蹊径去当网络主播，以“社会你球姐”的名字进军网红界。或许很多人对网络主播不以为然，但勇敢追梦的赵珈萱（小球球）在直播界成绩斐然，追随她的粉丝数以百万计，成为有名的“网红”。当上“网红”后，小球球终于“女承父业”正式出道踏入娱乐圈转..
乱港暴徒在丹麦惹众怒后又把锅甩给内地近日，多家丹麦媒体报道了一件很恶心的事情。 而且这件发生在丹麦的事情，还与香港的“乱港暴徒”有关。什么恶心事呢？如下图所示，人家丹麦这个有着107年历史的著名“小美人鱼”铜像，近日竟然被人喷上了“Free Hong Kong”（“光复香港”）这一香港的“乱港分子”最常用的政治口号。该口号传达的是一种“反内地”、“反一国两制”乃至“寻求港独”的非法政治诉求。此事自然也引起了不少丹麦人的不满。在境外社交网站“脸谱..
西宁的道路对不住救人的少年也只有避免“路面吞人”再发生，才是对救人少年们的最好回应。文 | 梅堂这是颇为感人的一幕，这也是让人揪心的一幕。1月13日17时30分许，青海省西宁市南大街现路面塌陷，一辆载客公交车几乎呈90度角坠入坑中，坑洞中不时冒出火光。但千钧一发之际，两人挺身而出。视频显示，身着白色横条纹衣服男子“死死地拽住了一位正要掉下去的人”，身穿黄色衣服少年则救起身边一掉落的婴儿后，又再度去救人，这也带动现场更多人参与救援。..
佩洛西发表“撑伊朗”言论后，特朗普转发了这张图【文/观察者网 张晨静】1月13日，又是美国总统特朗普推特轰炸的一天。因前一日众议院议长佩洛西在节目上公开发表“撑伊朗”的言论，这让特朗普感到很不满。当天他转发了一系列标有“佩洛西假新闻”标签的煽动性推文，指责佩洛西及其民主党，然而其中一条引发了广泛性争议。这条推特的配文写着，“腐败的民主党人正竭尽全力营救阿亚图拉（伊朗最高领袖哈梅内伊）”，配图则是经过PS后穿着穆斯林服饰的佩洛西和参议员少数党领袖舒..
再次安利，这么火你还不看？作为追剧同学，现在每周最开心的事情之一是：《想见你》终于又更新了！而每周最痛苦的事情之一是：为什么《想见你》每次只更新一集！就像豆瓣网友评论的——求求你能不能开个一口气看完全集的快递通道？作为2019年最后一部，同时也是2020年第一部爆款台剧，早在开播之初，我们就已经推荐过它了，想复习的可戳《反转再反转，年末台剧又出新神作》。剧集从最初的8.0分，到8.9分，现在已经飙升到了9.2分——终于熬成了大型真香现场..