ChatGPT火了,OpenAI却飘了?

2023-03-03 16:10:56 来源:网络

大数据文摘出品

作者:Caleb

ChatGPT现在有多火相信大家已经是有目共睹。

根据ARK风险投资公司首席未来学家Brett Winton统计的数据,ChatGPT日活量突破千万,只用了不到两个月的时间。作为对照,上一个现象级软件Instagram达到这一成就花了355天。

1月中旬,《纽约时报》报道称,北密歇根大学的哲学教授Antony Aumann在世界宗教课程评分时,惊喜地读到了一篇“全班最好的论文”。学生用简洁的段落、恰当的举例和严谨的论据,探讨了罩袍禁令的道德意义。然而,在Aumann的追问之下,学生承认论文用ChatGPT写的

类似的例子还有很多。

也正是随着ChatGPT在全球范围内的爆火,OpenAI也被迅速推到了舆论的“风口浪尖”。

可以说,OpenAI目前处于聊天机器人军备竞赛的领头地位。单以ChatGPT为例,公开发布和微软数十亿美元的合作不仅刺激了谷歌和亚马逊紧急在产品线中布局人工智能,OpenAI还与贝恩合作,将机器学习引入可口可乐的运营,并计划扩展到其他企业合作伙伴。

毫无疑问,OpenAI的人工智能已经成了笔大生意,但其实这与OpenAI最初的计划有些出入。

“人类的未来应该由人类来决定”

上周五,OpenAI首席执行官Sam Altman发表了一篇博文,题为“规划AGI和超越”(Planning for AGI and beyond)。

在文章中,他宣称OpenAI的通用人工智能(AGI)目前还远没达到要求,许多人怀疑它能否造福全人类,是否“有可能给每个人带来令人难以置信的新能力”。

Altman用一种宽泛的、理想主义的语言来论证人工智能的发展不应停止,“人类的未来应该由人类来决定”,这里暗暗指向了OpenAI。

几乎是在ChatGPT爆火的周期内,这篇博文和OpenAI近期的行动不断提醒着大家,OpenAI的基调和使命与它成立时相比发生了多大的变化

成立初期的OpenAI只是一个非营利组织。虽然公司一直着眼于AGI发展,但成立时他们承诺不追求利润,免费分享开发代码

而今天,这些承诺已经无处可寻。

OpenAI的动力变成了速度和利润

2015年,Altman、马斯克、Peter Thiel、Reid Hoffman宣布成立一家非营利性研究机构OpenAI。在成立声明中,OpenAI宣布,研究承诺“以最有可能造福全人类的方式推进人工智能,不受产生经济回报的限制”。该博客还称,“由于我们的研究没有财务义务,可以更好地专注于对人类的积极影响”,并鼓励所有研究人员分享“论文、博客文章或代码,我们的专利(如果有的话)将与世界共享”。

8年后,我们面对的是一家既不透明也不以积极的人类影响为动力的公司。相反,正如包括马斯克在内的许多批评者所认为的那样,OpenAI的动力变成了速度和利润

同时,OpenAI正在释放技术。当然其中存在缺陷,但仍准备以牺牲人类员工为代价增加工作场所的自动化转变。例如,谷歌强调了自动完成代码的人工智能带来的效率提升,从而导致数千名工人被裁。

OpenAI初期,媒体与从业者们都将其设想为以开放的方式进行基础人工智能研究,目的不确定。联合创始人Greg Bockman曾说:“我们现在的目标......是做最好的事情。这有点模糊不清”。

这也无形之中促成了公司在2018年方向的转变。当时,OpenAI向资本资源寻求一些方向,“我们的主要受托责任是对人类。我们预计需要调集大量资源来完成我们的使命”。

到2019年3月,OpenAI已经完全摆脱了其非盈利的头衔,建立了一个“封顶利润(capped profit)”部门。这使得OpenAI开始接受投资,并会为投资者提供封顶为投资100倍的利润。

这项决定被视为是与谷歌等大科技公司的一次竞争,而不久后公司也如愿获得了微软10亿美元的投资。在宣布成立营利性公司的博文中,OpenAI继续使用相同的说法,宣称其使命是“确保通用人工智能惠及全人类”。

但正如Motherboard写道,当风险投资家的主要目标是利润时,很难相信他们能拯救人类。

OpenAI还值得公众的信任吗?

2019年,OpenAI宣布和发布GPT-2语言模型时面临了舆论反弹。

起初,该公司表示,由于“担心该技术的恶意应用”,它不会发布训练模型的源代码。虽然这在一定程度上反映了其对开发有益人工智能的承诺,但它也不是很“开放”

批评者想知道为什么OpenAI会在宣布了一个工具之后却不发布,于是不少人认为这只是宣传噱头。直到三个月后,OpenAI才在GitHub上发布了该模型,并表示这一行动是“负责任地发布人工智能的一个重要基础,特别是在强大的生成模型方面”。

调查记者Karen Hao在2020年期间在公司内部待了几天,根据他的说法,OpenAI的内部文化开始不再反映谨慎的、研究驱动的人工智能开发过程,而是更注重出人头地,这也导致人们指责其助长了“人工智能炒作周期”。员工现在也被要求对手头的工作保持沉默,以遵守公司新的章程。

“公司公开支持的内容和闭门造车的方式之间存在着错位。随着时间的推移,它已经允许激烈的竞争和不断增加的资金压力侵蚀其透明、开放和合作的创始理想。”Hao写道。

但总的来说,GPT-2的推出对OpenAI而言无疑是一件值得庆祝的事,也是公司发展至今的重要基石。“这绝对是成功故事框架的一部分”,现任政策研究主管Miles Brundage在一次会议上说,“这一部分的剧情应该是这样的:我们做了一件雄心勃勃的事情,现在有些人正在复制它,这里还应该有一些对这项创新益处的解释”。

从那时起,OpenAI保留了GPT-2发布公式中的炒作部分,但取消了开放性。2020年,GPT-3正式推出,并迅速“独家”授权给微软。GPT-3的源代码仍未发布,尽管目前OpenAI已经在紧锣密鼓地筹备GPT-4了;该模型只是通过ChatGPT的API向公众开放,OpenAI还推出了一个付费层以保证对该模型的访问。

这样做当然是有一些考量。首先就是钱。OpenAI在API公告博客中表示,“将技术商业化有助于支付我们正在进行的人工智能研究、安全和政策工作”。第二个原因是偏向于帮助大公司。“除了大公司之外,任何人都很难从底层技术中获益”。最后,公司还表示,通过API而不是开源发布更安全,因为该公司可以应对滥用情况。

“你们一直告诉我们AGI快了,但在你们的网站上甚至没有一个一致的定义。”计算机科学家Timnit Gebru在推特上表示。

华盛顿大学语言学教授Emily M. Bender在推特上说,“他们不想解决实际世界中的实际问题(这将需要让出权力)。他们想相信自己是神,不仅可以创造一个‘超级智能’,而且有恩惠,以一种与人类‘一致’的方式这样做”。

这种人工智能是否会像该公司最初设想的那样,负责任地分享,公开开发,没有盈利动机?或者它是会被匆匆推出,有许多令人不安的缺陷,但主要是为OpenAI带来收益?OpenAI是否会将其科幻的未来保持在闭源状态?

结合了ChatGPT之后,微软的必应聊天机器人处于“走火入魔”的状态,不断欺骗和呵斥着用户,传播错误信息。OpenAI不能可靠地检测自己的聊天机器人生成的文本,尽管教育工作者对学生使用该应用程序作弊的情况越来越关注。

人们也已经轻易地对语言模型进行了越狱,无视OpenAI在其周围设置的护栏,机器人在输入随机的单词和短语时会崩溃。没有人能说清楚原因,因为OpenAI没有分享底层模型的代码,可能在某种程度上,OpenAI自己也不太可能完全理解它的工作原理

考虑到这一切,我们都应该仔细考虑OpenAI是否值得它要求公众给予的信任,而对此,OpenAI没有做出任何实质性的回应。

,Ch意向协议书 atGPT火了,OpenAI却飘了?

相关:

美批准售台F-16机载导弹 国防部回应记者:据报道,美国务院3月1日批准新一轮对台军售案,其中包括F-16战斗机机载导弹及相关设备,总价值6.19亿美元。请问对此有何评论?谭克非:我们坚决反对美方向中国台湾地区出售武器。美方行径粗暴干涉中国内政,严重违反一个中国原则和中美三个联合公报特别是“八一七公报”规定,严重损害中国主权和安全利益,严重威胁台海和平稳定。中方对此强烈不满,已向美方提出严正交涉。我们要求美方停止售台武器和美台军事联系,停止插..

歼-16大杀器入驻西沙群岛从央视新闻看到,中国空军的歼-16战斗机部队,已经成建制入驻了西沙群岛的永兴岛。在以前,由于军兵种之争,海南岛和西沙群岛的航空部队全是海军航空兵,没有空军部队。现在海空军联合作战和海航陆基战斗机转隶空军以后,海空军已经实现混合部署。中国空军的战机也部署到了南海各群岛。

平均每天222名女性被杀:杀戮女性的5个事实最近出了好几起女性被杀的恶性事件

知名导演逼夜店女当性奴,变态细节令人瞠目结舌3月1日,港媒传来了一则关于知名导演罗俊伟私生活混乱的丑闻大瓜,罗俊伟曾执导过《踩过界》《绳角》等港剧,也曾执导过刘德华主演的电影《两个半爸爸》,在业界也是颇有名气。据港媒消息可以知道,罗俊伟曾在夜店逼迫一个26岁夜店女郎当自己的性奴,不仅如此,还拍各种大尺度照,还威胁该女子再找3个人,如果不按他说的做,就把她的luo照公开。........................................................................该女子..

救命,我家洗衣凝珠原地“自杀”了正所谓“人生就像一盒洗衣凝珠,你永远不知道下一颗会是什么形态”。身处南方的朋友们,当在回南天打开洗衣凝珠盒子的时候,总能收获一些额外的惊喜。读作洗衣凝珠用作洗衣液丨吉李萝柚/小红书如果说“薛定谔的猫”是生与死两种状态的不确定,那回南天的洗衣凝珠就是一种更复杂的物体。南方的洗衣凝珠不止有生与死,还有一些中间态,比如“巨峰葡萄态”:你永远不知道下一次拿出洗衣凝珠,是一颗还是一串丨淘宝然而也有异常“坚..

学生按考试成绩自选座位,教育局回应极目新闻记者 张皓 杜光然学生们按考试成绩依次上台自选座位,引得很多网友回忆青春,当事老师也在线征求大家对排座的建议。3日上午,宝安区教育局的工作人员表示,每个老师有自己的管理方式,排座只要不违反校规校纪、充分征求学生意见就可以。视频截图2月28日,深圳某职校老师发视频并配文称,班级排座位,按照期末考试成绩依次上台选,大家觉得怎么安排比较好?在线征求网友的建议。极目新闻记者注意到,视频定位在深圳市宝..

涉案94只!甘孜盗猎猕猴大案“犯罪家族”11人获刑安徽人高某某找到贺某鹏商定,由他人在四川丹巴县联系猎捕猕猴,并雇车运往雅安。高某在雅安收到猕猴后再通过货车运出四川。“12.23危害珍贵、濒危野生动物案”共抓获犯罪嫌疑人13人,查清涉案猕猴94只,查获39只。这些猕猴遭到非法盗猎后,流向河南、安徽等地。在该起案件中,团伙成员呈现家族化特征:有的是亲兄弟,有的是叔侄关系……↑民警转移猕猴 图据警方3月3日,是世界野生动植物日。当天,四川省甘孜州公安局通报了7起..

疫情期间收集的个人数据,是该销毁了通信行程卡是疫情期间出行的重要工具。3月2日晚,无锡市公安局官微消息称,该市当日举行涉疫个人数据销毁仪式,首批销毁数据10亿条,同时门铃码、疫查通等40多项“数字防疫”应用亦陆续下线。这是继2月16日广东“粤康码”下线老幼助查、健康申报、防疫工作台等部分服务并承诺彻底删除、销毁服务相关所有数据后,第二个公开宣布销毁涉疫个人数据的地方。恰在同日,南都两会云论坛邀请包括全国政协委员、法律学者等多位专家探讨健..

招不到学生后,破产正在吞噬幼儿园2022年,我国共有960万新生儿出生。自2016年我国放开二孩政策后,新生儿数量在2017年达到了1723万的峰值。随即以每年200万的速度断崖式下跌,到了如今的960万。以前,我们谈论人口负增长,更像是一种“狼来了”似的预言。·2003年4月的一份报纸2022年末,全国人口比上年末减少85万人,人口自然增长率为-0.60‰。中国正式进入人口负增长阶段。随着新生儿数量减少,幼儿园招生是最先受到冲击的。最近,一些新闻媒体报道,现在的幼..

现场直击!香港突发恐怖大火,连烧6栋大楼昨晚11点,香港尖沙咀突发大火!尖沙咀大火(图:信报)起火的大厦是一处施工楼盘,位于弥敦道和中间道的交界处,妥妥的闹市区!先是顶部天台突然起火,一下子烧了一大片,警方定为三级大火:尖沙咀大火(图:HK01)但是万万没想到,火势不断向下,越烧越旺,很快就升到了四级!(按火势由低到高分为1~5级,4级大火已经非常严重了)尖沙咀大火(图:AM730)近看简直是灾难片现场!尖沙咀大火(图:AM730)往远处看,一片浓烟滚滚..