你在网上关注的美女,可能都是AI生成的

2023-02-28 16:07:13 来源:网络

最近,有人宣称,要在苏州的金鸡湖上开游艇趴,报名费3000块,每名参加者都会配备“随身女仆一名”。

举办者还附上了部分女仆的照片,看着很顶,但也很奇怪,因为有几位“女仆”的手指扭曲得不合常理。

后来事儿闹大了,警方介入,才发现这些女仆照片,居然全都是用AI生成的。

而诸如此类利用AI以假乱真的例子,在过去的一年里可谓屡见不鲜,一再刷新着我们对“真实”这两个字的认知。

你所爱恋的,都是幻象

今年2月,海外多家媒体发文,称付费色情平台OnlyFans可能会在不远的未来,被AI创造的色图所冲垮。

媒体说这话的原因,是因为在推特平台上,有一个名叫“heartereum的”用户上传了数张由AI所生成的美女图片。

乍看上去,图里的小姐姐们与真人别无二致。

只有仔细观察,你才能发现她们身上的一处处“不协调”,然后才意识到这些辣妹,其实都只是精致的“人类模仿品”。

虽然人是假的,但色却是真的,就像下面这哥们所说的那样:

不过OnlyFans的从业者倒是不担心会被AI模特抢走工作,平台知名艳星Laura Lux表示,她赚钱的点不仅是裸露,还在于与粉丝的亲密互动,这一点,AI是无法胜任的。

在几乎同一时间节点,国内的网络上也出现了一套由AI生成的小姐姐Cosplay图。因其过于逼真,而被B站的审核直接分类进了“仿妆Cos区”。

·Ai生成的cosplay照,角色是《明日方舟》里的缄默德克萨斯,创造者:勘云工造

·Ai生成的cosplay照,角色是《明日方舟》里的缄默德克萨斯,创造者:勘云工造

这事儿充满一种“齐马蓝式”的科幻寓言感:

人类用PS修图,努力将自己的面容P到完美,而AI却努力去模仿真人脸上的复杂与瑕疵,最后二者实现了某种动态平衡。

·男生也可以,创造者:海辛Hyacinth

·男生也可以,创造者:海辛Hyacinth

创造这套图的,是国内的博主“勘云工造”。在他的微博时间线上,技术的迭代似乎每隔几天就会出现一次。

当漂亮的写真可以被人工智能愈发完美地一次次复现时,你可能就无法意识到,小红书上那个名叫“爱旅游的小多”的美女博主,其实只是一个由AI所缔造的存在。

德国的ColorDigital,已经开始组建自己的“数字模特营销团队”,用被生成的、身材完美的AI模特,来给各种潮牌做宣传。

·AI生成的

而要说AI合成图像最近最狠的一次应用,那还得看Youtube博主Kyle Vorbach——这哥们决定在社交媒体上,利用AI伪造出自己一个月的全部生活。

最开始,他只是在Instagram上生成了一张自己从未拍过的自拍照。

·AI合成的

·AI合成的

然后,Instagram上的照片变成了小哥穿上了万圣节的服装;变成了他前往了纽约街头,见到了自己的好友——当然,这一切都是假的。

然而,它们却成功骗过了小哥的朋友们。他们以为他真在纽约,有人甚至都准备打扫屋子迎接他了。

·AI合成的

·AI合成的

之后,小哥开始让AI去完成它更多的幻想:他成了成功人士,搬到了纽约,和自己的爱犬住进了漂亮的公寓,在街头偶遇名人……

·AI合成的

·AI合成的

在千万次的训练下,AI创造出了一条完全平行的时空线,在那些真的可怕的合成照片里,小哥甚至开始觉得,机器所合成的他,似乎就是真正的他。

诸如此类的案例,正变得越来越多,而许多本不该被击穿的“真实底线”,也开始遇到了数字虚拟的全面刺破——有人开始用AI生成的作品沽名钓誉,甚至开始搞数字诈骗。

你所看见的,都是虚假

从去年10月开始,Instagram上火了一个叫Jos Avery的摄影师。

这个Jos,以其精湛的人像摄影,在短时间内征服了3万多名粉丝。

并且,面对摄影新人的请教,Jos还贴心地指导他们:“我这张照片,是用尼康D810拍的,用的是24-70毫米的镜头。”

然而在一段时间后,Jos本人实在忍不住,向Ars Technica的记者坦言:“其实我根本就不是什么摄影师,这些人像都是我用AI生成出来的。”

这不禁让人想起国内最近有个知名的画师,因被曝出用AI绘画而塌房,让许多模仿他作画的萌新失去了继续画下去的动力,也让许多网民开始了一场赛博猎巫——逼画师们自证在绘画中没用过人工智能辅助。

与之类似,当人类的容貌,可以被机器在短时间内创造出成百上千张,就会有像Informa Systems 这样的企业,用生成的脸孔创造假的员工,让公司看上去有一个人数众多的专业团队。

同一时刻,Facebook的母公司在去年底表示,在它们2022年的取缔活动中,有三分之二的违禁账户,用的头像是AI生成的。

这并不让人感到意外,因为在2022年的一篇论文里,研究者发现有3成到5成的美国人,根本就无法在真实脸孔和用DeepFake所生成的虚拟脸孔间做区分。

所以在TikTok上,由AI合成的明星整活儿类视频遍地都是,难辨真假,比如下面的这个基努里维斯:

对于骗子来说,DeepFake实在是一件的趁手的工具。

去年8月,有个诈骗团队就利用DeepFake,伪造出一张数字货币公司高管的脸。骗子将这张假脸套在自己的面部,然后通过在线聊天软件Zoom,去和那些项目团队的成员开会,让他们以为自己正在和大公司的负责人对接。”

被“偷脸”的这位高管表示,这群骗子的技术很厉害:“他们唯一没模仿出来的,就是我在疫情期间胖出来的那15磅。”

不止面孔,像Midjourney这样的图像生成AI,甚至会影响你对这个世界的认知。

譬如去年9月26日,东京时间凌晨4点39分,有一名家住东京的推特用户,发了三张静冈县遭遇水灾后的惨状。

该贴被迅速转发,许多网友又是震惊不已又是要筹措捐款。

结果在推文发出11小时后,原作者道歉,称静冈发水灾是真的,但灾情图片却是他用AI做出来的。他也知道撒谎不好,但就是舍不得海量的推特转发和点赞。

无独有偶,在今年2月初的土耳其叙利亚大地震后,也有人在网上用一张“地震现场的救援图”来号召爱心人士们捐款,结果立刻就被眼尖的网友扒出来,说这图上的人有六根手指,应该是用Midjourney做出来的。

而当被AI生成的图像,配合上同样被AI生成的音频与文字时,那你所理解的一切真实,就将会迎来一场彻底的崩塌。

你所相信的,都在崩塌

在以假乱真这个层面,AI合成的音频丝毫不逊色于图像。

上个月, ElevenLabs发布了自家的语音合成平台,原本是帮助电影和游戏配音,结果很快就被网友们拿来合成“比尔·盖茨称新冠疫苗会造成艾滋病”,以及“艾玛·沃特森大声朗读《我的奋斗》”。

而早在去年12月,中国台湾的刑事局就已经破获了一起AI语音诈骗案。

骗子先以5万新台币的价格从科技公司购入诈骗电话的AI模组,然后在8个月的时间里群发上百万次,赚了2700万新台币的赃款。

而当AI合成视频加上了AI合成音频,你便能在社交媒体上刷到埃隆·马斯克在镜头前忏悔自己吸毒过量,知名电台主持人乔·罗根(Joe Rogan)教观众如何去亚马逊购买他推荐的壮阳药。

在算法的加持与混淆下,那个“将名人的话语奉为真理”的时代正在离我们远去。

这还没完。

前些日子,ChatGPT正好在情人节前后大火,加拿大反欺诈中心便趁此机会警告世人:未来操纵感情杀猪盘的,很可能就是这些聪明的聊天AI。

而安全公司McaFee的研究则表明,10个人里有7个都会把AI生成的情书,当成是真人所撰写的甜言蜜语。

与此同时,美国知名科幻杂志《克拉克世界》被迫暂停投稿渠道,只因他们在短短一个月内,接到了500多篇由AI所生成的小说稿件。

·"目前已关闭稿件提交,原因不难猜出”by 克拉克世界

欧洲执法组织去年9月预言:“到 2026 年,全网有多达 90% 的在线内容可能是合成生成的。媒体将大多由人工智能生成与操纵。”

当然,为了防止以后互联网上“无内容可信”,各国也想出了相应的对策——利用一套专门用来打假的AI。

像韩国就声称将在2月的月底,用AI来辅助侦破电信诈骗案,而创造了ChatGPT的OpenAI,最近刚研究出了一个专门鉴别ChatGPT的AI。

这就让以后的互联网,变得越来越像一个AI神仙打架的地方了,变成了一个巨型的类生成对抗网络,而所谓的真假,不过是用来证明哪方AI更强的一个标准。

况且,根据去年12月安永发布的一篇文章,许多用来训练AI的数据,本身也都是虚构出来的。

像现在一些顶尖的汽车公司,就用随机生成出来的模拟路况来训练自动驾驶,而药企则用千万个用随机数据做出的病历,来进行非物质层面的临床实验。

相对于参考真实的案例去开发,AI生成确实节省了大量的成本,也能将许多罕见的极端情况考虑在内。

·模拟驾驶环境

·模拟驾驶环境

而我们也因此终于,走进了那片被《黑客帝国》称为“真实的荒漠”的地方。

在那个地方,真实被AI托管,网络上的种种欺诈,像一个个被精心策划的真相,没有真与假,只有神经网络与复杂的算法。

设计/视觉 Elaine

,你樱兰高校男公关部漫画 在网上关注的美女,可能都是AI生成的

相关:

胡锡进谈人大代表再次呼吁取消寻衅滋事罪看到全国人大代表朱征夫再次呼吁取消寻衅滋事罪,也看到一些人对他提议做出的明确反对。老胡作为老媒体人支持就这一长期话题再次开展争论。寻衅滋事罪是1997年刑法修订时将比较笼统的流氓罪分解为多个罪名的其中一项,那次分解起到很大的明确作用,但是寻衅滋事罪在司法实践中又形成了新的模糊性。这种模糊性起到一定的托底作用,有威慑力,便于打击犯罪,为维护社会稳定起了一定积极作用。与此同时,也的确存在因为这种模糊性而..

到底有多少人在网上跟着陕西人云吃席?人的生活注定要受苦,但这并不妨碍人们不断地去追寻如电光火石般短暂的快乐,这是我看了三天陕西乡村流水席短视频之后得到的感悟。因为,在这些视频里,我见到的只有返璞归真的快乐。吃席在被大范围用来表述做事不顾安全的人或者危险行为以前,主要还是乡村集体对于美食的一种粗浅认知,用来拯救被困在单调的日常饮食中的味蕾。因此上,流水席也成了人们吃到幸福最初也是最深的印象。像我的小学同桌——赵龙,以前上语文课,语文..

流感、新冠傻傻分不清?FDA批准首个家庭诊断测试盒·The Lucira COVID-19 & Flu Home Test,是一种一次性的家庭测试盒,可以区分新冠和流感。不过,它也存在假阳性和假阴性结果的风险。FDA设备和放射健康中心主任杰夫·舒伦(Jeff Shuren)博士说:“The Lucira COVID-19 & Flu Home Test的紧急授权是使消费者能更多地获得完全可以在家中自行诊断测试的一个重要里程碑。”新冠、流感和呼吸道合胞病毒的叠加影响下,如何区分自己得的是哪种“感冒”?当地时间2月24日..

后悔成为母亲,是件再正常不过的事成为母亲是一个过程,女性无论在生理上还是心理上,都会经历重塑,是一点一滴累积起来,而不是成就于一个瞬间。在这个过程中,女性们往往会对一些个人选择,经历前所未有的思考。关于“成为母亲”,有一本著名的书叫《成为母亲的选择》,作者是以色列社会学家奥纳·多纳特,任教于以色列的名校特拉维夫大学。不过,从这本书的英文原名“Regretting Motherhood”(后悔成为母亲)来看,读者就可以大概猜到内容。《成为母亲的选择..

起诉那个网暴者新黄河记者:薛冬“很有意思,一个人可以同时非常热爱生命,又想死。”在公开自己“抑郁状态”诊断书半年后,2023年1月23日,“非常热爱生命”的郑灵华选择了后者。23岁的郑灵华是网络暴力的受害者,直接原因是她“染了粉红色的头发”。她并不是“任人宰割的羔羊”。在半年的网暴经历中,她一边取证、起诉网暴者,一边更高频率地分享生活,甚至因抑郁症住院期间,她也分享“积极抗抑”的日记。她似乎在以更优秀的姿态证明,不能..

厉以宁的两会时光2017年3月6日,北京人民大会堂,全国政协十二届五次会议记者会开始前,全国政协委员厉以宁、陈锡文、杨凯生、常振明、钱颖一等入场。当日,他们就深入推进“三去一降一补”、深入推进农业供给侧结构性改革、着力振兴实体经济、防范金融风险、推进“一带一路”建设等回答记者提问。中青报·中青网记者 赵迪/摄据北京大学新闻网消息,我国著名经济学家、教育家厉以宁先生于2023年2月27日在北京逝世,享年92岁。厉以宁是我国最早提..

风声香港宣布取消口罩令,内地还会远吗?作者丨蔡乐渭中国政法大学教师今日,香港特区行政长官李家超宣布,从3月1日起解除所有场所的“口罩令”,而在内地其他很多城市,尽管有关佩戴口罩的要求不再如之前严格,但仍有一些场合要求必须佩戴。整体上,“乙类乙管”阶段之后是否佩戴口罩,呈现出各地各部门各自为政而公众不知所以的局面。但这个问题最好明确,因为关于口罩佩戴问题,不仅是疫情防控问题,还是一个执法问题。谁来规定佩戴口罩?人们可能因为各种不同的原因..

匈牙利总理:针对“北溪”的攻击是恐怖主义行为当地时间2月27日,匈牙利总理欧尔班表示,“北溪”天然气管道爆炸事件是“恐怖主义行为”,匈牙利和塞尔维亚已经明确表示,如果此类事件发生在“南溪”天然气管道,肇事者“必将被绳之以法”。此前,匈外长西雅尔多曾表示,支持对“北溪”爆炸事件进行全面深入调查。(总台记者 徐明)

至少63人丧生!“所有问题仍没有答案”据路透社2月27日报道,营救人员当日又发现4具尸体,令意大利南部克罗托内市附近海域的移民船沉船事故死亡人数增至63人,其中包括至少14名儿童。另有数十人失踪。另据西班牙《国家报》网站报道,26日凌晨,意大利卡拉布里亚大区海域发生一起移民船沉船事故,已致数十人死亡,目前有80人获救。这艘破旧的渔船长约20米,几天前从土耳其西部的伊兹密尔港出发,根据幸存者的第一批证词,船上大约载有200至250名移民,因此不排除死亡人..

“排海”正挨骂,日本却动起别的心思下个月,日本福岛核事故将满12周年。然而,这个本该让日本痛定思痛、做好事故善后处置的重要契机,却可能成为岸田政府执意“玩火”的另类纪念日。随着国际原子能机构(IAEA)技术工作组有关福岛核污染水处置问题的最终评估报告即将出台,日本政府的“排海”动向日益引起多方警惕和担忧。“日本希望这成为他们的遗产吗”去年7月,日方在IAEA技术工作组仍在开展审查评估的情况下,就正式批准了核污染水排海方案。今年1月,日方在IA..