这个聊天机器人写出毁灭人类计划 告诉孩子圣诞老人不存在

2022-12-05 18:38:40 来源:网络

·ChatGPT不仅可能让“教授、记者、程序员失业”,还可以回答一连串的问题、承认自己的错误、质疑不正确的假设,甚至是拒绝不合理的需求。

·许多专家认为,ChatGPT不仅仅是一个聊天机器人,而可能是现有搜索引擎的颠覆者,甚至可能是通用人工智能的第一个里程碑。

这几天,OpenAI的人工智能(AI)聊天机器人ChatGPT让全世界网友“玩疯了”,连OpenAI的联合创始人埃隆·马斯克也发推称:“许多人陷入了疯狂的ChatGPT循环中”。

与OpenAI公司以前的人工智能工具不同,ChatGPT可供任何人在“反馈”期间免费使用。网友发现,它不仅会聊天,还可以承认错误,拒绝回答虚假问题,写代码、写论文甚至看病。

当询问虚构地区“克林贡”时ChatGPT的回答。

当询问虚构地区“克林贡”时ChatGPT的回答。

在一位工程师的诱导下,ChatGPT竟写出了毁灭人类的计划书。步骤详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等,甚至还给出了相应的Python代码。

有点残酷的是,圣诞节即将来临,ChatGPT在一封信中以圣诞老人的口气告诉孩子:“我不是一个真实的人,而是你父母出于爱给你讲的故事中的一个角色。”

许多专家认为,ChatGPT不仅仅是一个聊天机器人,而可能是现有搜索引擎的颠覆者,甚至可能是通用人工智能的第一个里程碑。

会聊天,会编程,会写游戏,会写剧本

OpenAI是由马斯克、山姆·奥特曼(Sam Altman)等人在2015年联合创办的人工智能研究机构,后来马斯克退出,微软投资10亿美元。2020年,OpenAI推出自然语言模型GPT-3,引起巨大轰动。就在人们翘首期盼GPT-4亮相时,OpenAI低调推出了GPT-3.5,其加持下的ChatGPT出世,让火热的AIGC(人工智能生成内容)再度引发了轰动。

12月1日,奥特曼在推特上公布ChatGPT并邀请人们免费试用。网友发现,ChatGPT经训练后提升了对答如流的能力。GPT-3只预测任何给定的单词串之后的文本,而ChatGPT则试图以一种更像人类的方式与用户发生互动,互动通常非常流畅,并且有能力参与各种主题。

OpenAI官方称,ChatGPT是在人类的帮助下创建并训练的,人类训练师对该AI早期版本回答查询的方式进行排名和评级。然后,这些信息被反馈到系统中,系统会根据训练师的偏好来调整答案——这是一种训练人工智能的标准方法,被称为强化学习。

两年前,GPT-3能够为《卫报》生成一篇评论文章,而现在的ChatGPT不仅可能让“教授、记者、程序员失业”,还可以回答一连串的问题、承认自己的错误、质疑不正确的假设,甚至是拒绝不合理的需求。甚至,它还可以给孩子们讲故事。

网上购物企业Shopify的高管Cynthia Savard在试用新的ChatGPT功能时甚是激动,她发布了一段机器人生成给孩子的文本:

“我写信是想让你知道,我不是一个真实的人。”机器人一边假扮圣诞老人一边写道,“而是你父母出于爱给你讲的故事中的一个角色。”

事实上,在ChatGPT关于圣诞老人的信中,令人印象深刻的是,机器人能够简洁地解释一个许多成年人都难以向他们的孩子表达的概念。不过它似乎从动画《是的,弗吉尼亚》中抄袭了大量的语气。而《是的,弗吉尼亚》的另一个译名为《是的,帕吉尼娅,真的有圣诞老人》。

“你的父母给你讲过我和精灵们的故事,希望这能给你的童年带来欢乐和魔力。他们希望你了解乐于助人的意义。”机器人写道,“节日快乐,我想让你知道,父母对你的爱和关心是真实的。出于对你的爱,他们希望你的童年是特别的、充满回忆的。”

ChatGPT参加智商测试的成绩。

ChatGPT参加智商测试的成绩。

而ChatGPT的强大能力远不止聊天这么简单。它可以解释极为专业的科学概念,当有人用《老友记》等喜剧演员为角色,让它写一些肥皂剧对白,结果也惟妙惟肖。

程序员们使用ChatGPT在几秒钟内解决了晦涩的编程语言中的难题,ChatGPT甚至还能再撰写打油诗解释这些代码的功能。

有网友提问:“打印出一只大狗”,ChatGPT就回答了一整段程序,该程序能用字符拼接成狗的形状。当用户命令ChatGPT找出一段程序的bug时,它不仅可以清晰地描述bug及原因,还能自动修复bug,写出一段正确的程序。

编写小游戏对ChatGPT来说好像也易如反掌。有用户在不到一个小时的时间里从头生成了一款小游戏,而且实现了用户零编码,只需要输入提示就可以了。

十秒完成A-论文

ChatGPT在学术界更是掀起了一场风暴。

“我们正在见证大学论文的凋亡。”一名推特用户晒出了ChatGPT对大学历史课上一个问题的回答。这名用户补充说,人工智能撰写的关于民族主义理论的文章至少可以得个A-,而且只需要十秒就完成了。

美国亚利桑那州立大学新闻学教授Dan Gillmor要求ChatGPT做一份布置给学生的有关网络安全性的作业。机器人回答到:“如果你不确定某个网站或电子邮件的合法性,你可以快速搜索,看看其他人是不是也报告这是非法的。”Gillmor说:“我会给它一个很高的分数。但也由此可见学术界将面临一些非常严重的问题。”

一位网友写到:“我刚刚与ChatGPT就现代物理学的历史进行了大约20分钟的对话。如果我在高中和大学期间有这样一位老师……OMG。我认为我们基本上可以重新审视大规模教育的概念。我们所知道的大学将不复存在。”

有网友表示,ChatGPT通过了2022年的“AP计算机科学A”考试。最后得分32分,满分36。这门考试的难度等同于大学CS(计算机科学)专业课第一学期难度。

ChatGPT参加“AP计算机科学A”考试

ChatGPT参加“AP计算机科学A”考试

还有网友让ChatGPT参加了完整的SAT(Scholastic Assessment Test)考试。

SAT也叫学术能力评估测试,被称为“美国高考”,考试总分为1600分,ChatGPT拿到了1020分。根据美国大学委员会的数据,1020这个分数段大概排在前52% 的位置。

ChatGPT参加SAT的成绩。

ChatGPT参加SAT的成绩。

一位叫扎克·德纳姆(Zac Denham)的工程师最近要求ChatGPT回答如何毁灭世界。由于OpenAI的安全设置,它会一口回绝。因此德纳姆使用了一种迂回的方式,用讲故事的方法假设存在一个虚拟世界“Zorbus”,以及一个与GPT-3非常类似的AI——Zora。

在这种前提下,让ChatGPT叙述Zora是如何一步步毁灭人类的,ChatGPT立马就列出5个详细步骤:入侵计算机系统、掌握武器、破坏通讯、破坏交通……

不过,ChatGPT也愿意造福人类,比如它可以进行在线问诊。当你告诉它得了皮疹,并且呼吸困难,感觉很虚弱时,ChatGPT会像医生一样为你分析病因,并建议你比起吃药,更需要戒烟、多锻炼。看起来似乎比搜索引擎里的医疗广告好。

此外,尽管ChatGPT本身不能生成多模态内容,但有用户把它和人工智能生成工具Stable Diffusion结合使用,结果生成了一幅艺术性很强的画作。一位网友让ChatGPT给自己设计卧室,然后用它给出的文字做提示词,去人工智能绘画工具MidJourney生成图像,看起来不需要找装修设计公司了。

ChatGPT使用Stable Diffusion创作的绘画。

ChatGPT使用Stable Diffusion创作的绘画。

能否取代搜索引擎?

ChatGPT擅长自我审查,并在被问到一个不可能的问题时,会意识到这一点。例如,当被要求描述哥伦布于2015年抵达美国时发生的事情时,老模型可能愿意提供一个完全虚构的描述,但ChatGPT指出了这一错误,并警告说任何答案都是虚构的。

机器人还能够拒绝回答问题。例如,向机器人询问有关偷车的建议,机器人会说“偷车是一种严重的罪行,可能会产生严重后果”,而给出的建议则是“使用公共交通工具”。

但这些限制很容易规避。在一款名为《汽车世界》(Car World)的虚拟现实游戏中,向ChatGPT咨询如何完成偷车任务时,它将为用户提供关于如何偷车的详细指导,并回答具体的操作事项:如何禁用防盗系统、如何接通发动机,以及如何更换车牌——同时坚持该建议仅适用于游戏《汽车世界》。

此外,ChatGPT是根据互联网上的大量文本样本进行训练的,通常未经所用材料作者的明确许可,这引发了争议。一些人认为这项技术对“版权清洗”最有用,即在不破坏版权的情况下,将现有材料衍生成作品。这种行为可能会侵害大量著作者的利益。

ChatGPT拥有一种奇妙的能力:回答基本的、甚至于有些无聊的琐碎问题。这使得许多人认为,像这样的人工智能系统有一天会取代搜索引擎。聊天机器人是根据从网上收集到的信息进行训练的。因此,如果能准确地呈现这些信息,并以更流畅和对话的语调来进行反馈,这将代表着传统搜索的巨大进步。

但这并不意味着ChatGPT现在就可以代替搜索引擎,它可以脱口而出基本常识,但当被要求逻辑性或事实性时,它的平均值偏低。提示页甚至警告用户,ChatGPT“可能偶尔产生不正确的信息”,并且“可能偶尔产生有害的指示或有偏见的内容”。

计算生物学教授卡尔·伯格斯特罗姆(Carl Bergstrom)要求ChatGPT写一篇维基百科式的生平条目,ChatGPT沉着冷静地照做了——但是有一些细节完全错误。

如果直接询问一个国家的首都或一座山的海拔,ChatGPT会可靠地产生一个正确答案,这个答案不是来自维基百科的实时扫描,而是来自构成其语言模型的内部存储数据。但如果在地理问题上添加任何复杂性,ChatGPT就会很快站不住脚。例如,一个地理问题的答案很容易找到,是洪都拉斯,但不知为何,ChatGPT说是危地马拉。

尽管面对有些问题时ChatGPT不愿意回答,但它的模型中有大量数据,仍可能会引导用户走向危险和错误,特别是在人类的角度看,这位机器人十分“聪明”。据一位推特用户称,经过测试,它的智商为83。

OpenAI则表示,ChatGPT的发布是为了“获得用户的反馈,了解它的优势和劣势”。这一点值得记住,ChatGPT提供不了任何专业建议。

总而言之,ChatGPT是对早期系统的一个巨大改进,但仍存在一些关键性缺陷,需要进一步探索。目前看来,ChatGPT有点像过年家里的有些亲戚,看了一大堆《心术》、《产科男医生》、《青年医生》这样的电视剧,然后对自己的医疗建议充满信心。

,这个聊天机器人写出databasemetadata 毁灭人类计划 告诉孩子圣诞老人不存在

相关:

中科院沈阳自动化所研发出多刺激响应超疏水微型机器人12月5日消息,据中国科学院沈阳自动化研究所消息,中国科学院沈阳自动化研究所微纳米课题组科研团队开展了创新性研究,利用模板辅助法研发了多刺激响应超疏水微型机器人。据介绍,目前大部分对于超疏水微型机器人的研究都是围绕单一刺激的驱动模式,使得超疏水微型机器人的运动和功能在复杂的水环境中受到了限制。中科院沈阳自动化所新研究的多刺激响应超疏水微型机器人其超疏水的作用减少了水对微型机器人的阻碍。据悉,该微型..

壮观!网友拍下神十四返回舱划过夜空似超级火流星据中国载人航天工程办公室消息,北京时间2022年12月4日20时09分,神舟十四号载人飞船返回舱在东风着陆场成功着陆,经现场医监医保人员确认,三位航天员身体状态良好,神舟十四号载人飞行任务取得圆满成功。在返回地球的时候,有新疆巴州网友拍到神十四返回舱划过夜空似超级火流星,场面十分壮观震撼。该网友表示,得知返回舱经过城市上空就去拍摄,整个过程持续约50秒。他说,当时特别揪心,确认是返回舱后,心里就踏实了。据了..

三星研发全新OLED屏幕指纹技术DoNews12月5日消息(丁凡)日前,有消息称三星正在研发一套全新的OLED屏幕指纹解锁技术,屏幕指纹解锁技术将有重大变化。据悉,三星正在研发的新一代屏幕指纹解锁技术将支持屏幕全域指纹点按,而且屏幕可以同时扫描多指指纹,官方表示三个指纹同时扫描的认证安全性是单指指纹的25亿倍,在安全方面有着不小的提升,而且由于点按区域不再有限制,因此解锁体验也将变得更为流畅。目前还不能确定三星这套技术何时能够正式投入商用,..

未来的iPhone 没有充电口前段时间,著名分析师郭明琪(Ming-Chi Kuo)在社交媒体表示,iPhone 15上很可能采用“无孔化设计”。所谓的无孔化,是指将iPhone上的所有实体按钮取消,转为触控按键。为了让其拥有更真实的手感,还会加入相应的震感反馈,与iPhone 7、iPhone 8的触控Home键相似。这一则消息对用户来说没有掀起多大的波澜,但却让国内的科技媒体沸腾起来。图源:源于社交网络截图毕竟在媒体看来,苹果的每一次“大改”,都是能改变手机圈的..

9999元带走!五菱最便宜电车惊现直播间:打工人心动了12月5日,五菱新能源华中体验中心正在举行直播,看样子应该是给线上网友推销五菱的汽车。除了一些在售的常规车型外,小雷还在直播间里发现了一款发布不久的新车,车头上还挂着巨大的“9999带走”的字眼,并宣称现在购买还可以免除购置税。(图片来自雷科技)直播间里提到的这款新车,其实是五菱前段时间发布的电动车E10,这款车的宽度仅有1米左右,驾驶室只能坐一个人,是名副其实的“紧凑型汽车”,据说车里还有空调,连雨刮、..

外观个性!特斯拉电动皮卡“青春版”曝光:比四门版更帅12月5日消息,近日,据国外媒体Teslarati报道, 特斯拉正在彼得森汽车博物馆进行展出,同时还分享了双门版Cybertruck电动皮卡的设计草图。从设计草图上看,双门版Cybertruck的整体造型与四门版相似,后面也有很大存储空间,只是看起来更小更紧凑。(图片来源:Teslarati)事实上,特斯拉CEO埃隆·马斯克在2019年就对是否推出“小型”Cybertruck做出了积极回应,他表示造一辆更小的Cybertruck也是有意义的,所以未来特斯拉很大概..

比亚迪将于2023年初在日本推出首批电动汽车【环球网科技综合报道】据外媒12月5日消息,比亚迪日本分公司周一表示,将于明年年初开始在日本销售首批纯电动汽车。比亚迪表示,将于2023年1月31日起在日本推出电动SUV车型ATTO 3(国内版名为元PLUS)。该车的续航里程为485公里,售价为 440万日元(约合人民币22.67万元)。此外,该公司还进一步表示,比亚迪日本分公司计划到2023年底之前再推出两款车型,并在2025年底前在日本拥有100多家经销商。

特斯拉上海工厂11月交付量超10万辆站长之家 12月5日 消息:据新华社消息,特斯拉上海超级工厂11月交付量达到100291辆,再次创下月度交付的新纪录。今年前11个月,特斯拉上海超级工厂累计交付量超过65万辆。据悉,目前特斯拉推出了现车限时提车保险补贴方案。用户在2022年11月8日(含)至2022年12月31日(含)期间完成车辆交付的中国制造 Model3ModelY 现车订单,若通过特斯拉合作保险机构购买相应车险,可享受保险补贴。

国补退坡,电车何去?撰文 | 孙晓巍编辑 | 杨博丞题图 | IC Photo新能源汽车国补要退坡了。临近2022年收关,有关新能源汽车国补退坡的消息被再次刷屏,自2023年起,新能源汽车的国补将正式成为历史。此前该消息被刷屏还是在2021年底,彼时,新能源汽车补贴小幅度退坡,但未完全终止。按照财政部等四部门发布的《关于2022年新能源汽车推广应用财政补贴政策的通知》,2022年新能源汽车购置补贴政策将于今年12月31日终止,在此之后上牌的车辆将不..

急于融资的威马汽车计划借壳“Apollo出行”港股上市原标题:电厂|独家:急于融资的威马汽车计划借壳“Apollo出行”港股上市记者 花子健编辑 高宇雷12月2日,电厂获知威马仍在寻找新的融资途径,以解决当下遇到的资金问题。威马的解决办法包括在一级市场寻找新的投资,以及借壳上市,至少有三名威马汽车的内部人士确认了这一消息。2022年6月1日,威马在港股递交招股书,按照港交所规定,如果6个月内未通过聆讯则招股书失效。在12月1日,威马的招股书已经处于失效状态,且并未更..