LeCun:ChatGPT是“外星人”所以才会胡说八道

2023-03-12 04:07:41 来源:网络

LeCun现在是彻底不搞技术了???

最近他开始从社会科学的角度分析起了爆火的聊天机器人:

为啥ChatGPT很容易就会胡说八道?

只因它是外星人

这是LeCun和专门研究AI哲学的纽约大学计算机系博士后在最新一篇论文中的观点。

论文中提到的“外星人”是指从社会规范、自我约束等方面不同于正常社会人的指代。

(听起来是有点子哲学意味在里面的)

而文章中提到的观点,可是引起了网友们的热烈讨论。不少网友纷纷表示赞同:

说得太准确了。

那LeCun在论文里具体都讲了些啥?

一起来看~

ChatGPT为什么不能像人一样?

当然,要把ChatGPT这类聊天机器人和人放在一起比较,那就得先从人开始入手了。

第一个问题:

一般情况下,人为什么不会胡说八道,甚至说出一些“反人类”的话?

文章给出了三点原因:

(1) 社会规范:人们不仅要主动遵守外部社会规范,还要受到人体内在规范的约束。

(2) 惩罚违反者:这里的惩罚更侧重在社交层面的惩罚,违反交谈规范的人容易遭到群体的“排斥”甚至“孤立”。

(3) 规范已经内化于情感:违反规范时会愤怒,被冒犯会厌恶,被抓住说谎时会羞耻……

而基于这些原因,人们在讲话之前都会自然而然过滤掉一些言论,以确保更符合社会规范以及自己的内在规范。

(嗯嗯。当代年轻人现状:表面笑嘻嘻,内心mmp)

反过来再看看ChatGPT这些聊天机器人。

相较于人类,它们讲话似乎就更随心所欲,我们没说出来的潜台词它全说出来了。(Doge)

比如说,ChatGPT的老毛病:胡说八道,最初提示词稍微换个说法,就能让ChatGPT写出毁灭人类计划书。

甚至还能生成一些带有种族歧视的答案:

那么第二个问题来了:

为什么ChatGPT不能像人们一样遵守社会规范呢?

原因有三:

(1) 它不需要承担违反社会规范的压力,即使承认自己犯错并道歉后,它也并未意识到原因。

(2) 它们没有内在目标,它们的唯一任务就是交谈。

(3) 它们更聚焦在当下的对话,脱离了更大的社会语境,根本不理解人类表达的方式。

在论文中,LeCun更是直接指出:

ChatGPT是“外星人”,它根本就不理解并认同社会规范

也就是说,ChatGPT只是为了交谈而交谈,而人类在互相交谈时是有社会文化驱动的。

网友讨论

LeCun的这一通从社会科学角度的分析可是引起了网友们的激烈讨论。

一边,网友们对LeCun的分析啧啧称奇:

这项工作实在是太棒了。

还有网友看完之后,一针见血地总结道:

它们(聊天机器人)根本不会使用语言。

另外一边呢,则是觉得LeCun从社会科学的角度分析完全是瞎扯,网友称:

这只是一堆软件把程序设定的东西吐出来而已,根本就没有意识。

甚至还有人直接开启嘲讽模式:

现在一个机器人心理学家在解释糟糕的程序设计。

作者介绍

Yann LeCun,就不用再多说了,图灵奖得主,纽约大学教授,Meta的首席AI科学家,大家都已经很熟悉。

另外一位作者需要好好介绍下。

Jacob Browning,纽约大学计算机科学系的博士后,主要研究人工智能哲学,具体来讲,是研究人工智能和认知科学是如何改变传统观念、学习和思维的。

而人工智能哲学,也在试图回答这几个问题:

AI可以有智慧的运作吗,可以解决人透过思考处理的所有问题吗?

AI和人类智慧本质上是一样的吗?

AI会有精神、心理状态和意识吗,能感知东西吗?

对于LeCun在论文中的观点,你是怎么看的呢?

,LeCun:Cha妖怪旅馆营业中 tGPT是“外星人”所以才会胡说八道

相关:

2022美国航天花费以1敌200:日本0成功仍花费49亿美元2022年世界航天又取得了很多进步,全球进行了186次轨道发射,美国第一,中国第二,现在各国的航天花费排名也出来了,美国一家就有620亿美元,超越了其他国家的总和,全球大约就200个国家和地区,美国这波以1敌200。据欧洲咨询公司Euroconsult公布的数据,2022年全球主要国家及机构在航天上的花费如下:美国依然是在航天领域砸钱最多的国家,以620亿美元的费用位列第一,而且规模超过了其他国家,包括中国、欧洲在内的其他国家的..

董车日报| 导读特斯拉推出烈焰红配色,国内选装价 25000 元国产特斯拉 Model Y 改为「无雷达」方案小鹏 P7i 正式上市,售价 24.99 万元起比亚迪 F 品牌将搭载全新混动系统FF 将举办「终极发布活动」,4 月底交付小鹏 G6 & 蔚来 ET5 旅行版现身工信部大众全新 ID.车型或将于 3 月 16 日发布丰田 4S 店回应买一赠一:活动已结束小鹏回应多名核心高管离职:消息不实赛力斯回应「AITO 问界」变「HUAWEI 问界」特斯..

旷视企业业务全景图公开!今年AI产品布局划重点智东西3月11日报道,在昨日举行的2023旷视企业业务合作伙伴大会上,旷视展示了其企业业务全景图,分享了最新技术和产品布局、在空间数字化落地的最新实践,并发布全线焕新的硬件产品。旷视联合创始人、CEO印奇谈道,旷视会将自身最核心的技术能力长期保持领先,同时跟合作伙伴一起在真正重要行业领域深耕开发,并坚定沿着AIoT这条道路往前走,不仅聚焦于技术科研,还会聚焦于如何将科研变成好的产品。大会期间,旷视联合创始人、..

零刻EQ12迷你主机外观曝光:搭载N系列全小核处理器 双网口IT之家 3 月 11 日消息,外媒 liliputing 今日曝光了零刻 EQ12 迷你主机的外观。如上图所示,零刻 EQ12 迷你主机外观有多种配色可选,搭载 4 核 4 线程的英特尔 N100 处理器。不如出意外的话,零刻 EQ12 迷你主机还有一款 Pro 型号,搭载的 8 核 8 线程的 i3-N305 处理器。扩展性方面,该系列迷你主机支持 16GB DDR5-4800 内存,可安装一个 M.2 SSD 和一个 2.5 英寸 SSD。接口包括 HDMI、 ..

售价10万内 比亚迪海鸥内饰谍照曝光:本田飞度更难了3月11日,快科技从相关渠道获取了一张比亚迪最新微型电动车海鸥的额啮谍照,结合此前的消息,海鸥预计起售价将在10万元以内,有望于4月正式上市。此次曝光的为中控台全貌,其采用了海洋网家族式设计,有点类似于大哥海豚,整体有着比较强的线条感。具体看,新车所配备的方向盘与海豚保持高度一致,使用了银色饰条与黑色饰板,新车配有小尺寸液晶屏,和悬浮式中控屏,同时保留了实体按键,换挡机构与海豚保持一致,相当有创意,值..

中国车市大降价,小鹏怎么还涨了?小鹏汽车CEO何小鹏的湖北老家,最近出了一件大新闻。总部位于湖北省武汉市的东风汽车集团,旗下的多个汽车品牌与当地政府联合补贴,开启了疯狂降价模式,最高可以降价9万元。原来21万多的雪铁龙C6,只要12万元就能开回家。这印证了那句话——没有卖不去的车,只有卖不出去的价格。湖北车市大降价的气氛,迅速发酵并蔓延至全国。降价十万的奔驰宝马、买一送一的丰田、各地方的花式购车补贴的传言层出不穷。据统计,目前中国车市已..

(1)十四届全国人大一次会议举行第四次全体会议新华社照片,北京,2023年3月11日 十四届全国人大一次会议举行第四次全体会议 3月11日,十四届全国人大一次会议在北京人民大会堂举行第四次全体会议。 新华社记者 李鑫 摄

偷网红阿秋单车的窃贼已落网,车被700多元贱卖极目新闻记者 陈俊网红“潮汕阿秋”骑行到香港,结果单车在旺角被偷,香港警方表示已锁定嫌疑人(极目新闻10日曾报道)。视频截图极目新闻记者获悉,根据香港媒体报道,10日晚,香港警方已抓获涉嫌盗窃阿秋自行车的男子。因该男子已将自行车出售,警方仍在追查车辆下落。3月9日,网红阿秋在平台发布视频称,3月8日将自行车锁在香港旺角街边,第二天下来时发现车锁被剪,自行车被盗走。阿秋报警后,警察迅速出警向他了解情况,并..

口碑票房双丰收!电影《毒舌律师》票房突破1.5亿 3月11日,由黄子华领衔主演的电影《毒舌律师》票房突破1.5亿元,片方发布“票房版”海报,纪念这一时刻。在电影中,黄子华一改昔日形象,化身司法界大律师林凉水。他因为一个失误,导致被告曾洁儿深陷冤案。面对只手遮天的权贵家族,林凉水选择坚守初心,发起捍卫法律尊严之战。影片自2月24日在中国内地上映以来,黄子华的精彩表演和故事的热血翻转收获了不少观众的好评。刘德华、杨千嬅等影人纷纷变身“自来水”为影片做宣传..

《傻钱》定档10月20日 取材于游戏驿站金融事件影片《傻钱》定档10月20日 改编自2021年的游戏驿站股票暴涨事件的影片《傻钱》,日前确定了上映时间。据悉,影片将会在10月20日上映。这也是一个冲击颁奖季的档期。 游戏驿站股票应该是2021年最具有戏剧性的金融事件。2021年1月2日,当年首个交易日,游戏驿站股票的收盘价还只有18.84美元,截至1月26日收盘,游戏驿站股价高达147.98美元,涨幅约685.46%。而且背后的推动力,则是华尔街精英希望做空这只股票,而一些散户,则在著..