在人间为了让你变快乐,AI机器人开始理解人类情绪

2023-06-28 08:17:56 来源:网络

撰文|王禹饶 编辑|马可

A I究竟能为人类带来什么?在被焦虑、烦躁等负向情绪围困时,人类可以向AI求助吗?那些无法在现实生活里向他人诉说的心里事,可以讲给AI听吗?在抖音,一个名为“小安暖宝宝”的心理关怀助手正在探索这样的可能性。

晚上11点,亚男收到一条信息,信息里言辞激烈。发信的人是一个男孩,男孩告诉亚男,因为辍学,自己经常被邻居指指点点,邻居的闲言碎语激怒了他,他想用暴力解决问题。在男孩的讲述里,亚男还得知,男孩遭受过家庭暴力,并在辍学之后,与朋友在外租房生活,如今,靠着代打游戏的不错成绩,每月收入一万多块。亚男明白,这个男孩一定是在现实生活里再也找不到妥当的倾诉对象了。于是,一场持续2小时45分钟的聊天开始了。

亚男是抖音心理关怀小助手“小安暖宝宝”的人工客服。在抖音上,一些用户无时无刻不在表达自己正经受的情绪困扰:一位孕期妈妈担忧丈夫出轨、抛弃家庭;一个年级“尖子生”为三年后的高考焦虑不堪;一个数学不及格的孩子得知老师将“请家长”后,陷入恐慌……这些情绪如漫长的高温令人身心俱疲。

■ 正在工作的亚男。

“我们意识到,抖音上的用户有很强烈的情绪和心理需求需要关注,而心理支持的资源却是稀缺不足的。”字节跳动公益部门的李洋参与了项目最早期的调研。从2022年初开始,她和同事几乎看遍了国内外和心理相关的产品和项目,访谈了众多心理专家和公益组织,也和公司内负责安全、AI的同事反复聊了很多轮。

“最后发现,这是一件需求很大,价值很高,却有不少现实痛点的事。不过,因为公司有相应的技术和能力储备,我们觉得可以把这件事做好。”李洋说。在字节跳动-抖音内部,有积累了自杀干预相关经验的安全团队,也有在人工智能算法与自然语言处理(NLP)上实践颇深的Ai Lab的技术团队,“社会有需求,公司能做好,平台有责任,三点结合起来,就是我们要做的公益项目”。

于是,2022年5月,抖音安全联合字节跳动公益和字节跳动人工智能实验室(Ai Lab),发起“抖音心理关怀项目”,期望通过“人工+智能”混合的方式,为抖音上的负向情绪用户提供陪伴和安抚。

现在,当用户打开抖音,搜索“小安暖宝宝”,便会进入心理关怀页面。在这里,受困于负向情绪的用户可以记录心情,也可以在“树洞”里诉说难言之隐,还能在其中找到心理科普视频、减压视频,从而觉察自我情绪,并及时找到调节方法和技巧。如果有用户想诉说心事、排遣焦虑、抑郁等情绪,还可以在私信界面与“小安”自由聊天。

在线下心理咨询机构动辄八百、一千的高昂收费的当下,“小安”的到来无疑为人们降低了寻求心理帮助与沟通的门槛。在“小安”背后,不仅有人工智能算法支持的、积累了大量专业心理语料的“AI小安”,也有像亚男一样的“人工小安”。这9位“人工小安”都经过了“中国心理学会问题管理家(PM+)中国应用教学团队”的专业培训,当AI小安发觉自己难以缓解用户的情绪、或用户主动寻求人工帮助时,“人工小安”的对话框便会出现。不过,在正式与“人工小安”聊天之前,用户需要填写一份“现状评估”量表,人工客服将根据量表研判用户的心理情况,必要时,他们将链接外部的心理援助资源,为用户提供帮助。

面对这位深夜发来消息的男孩,亚男要做的第一件事是压力管理,也就是共情男孩的处境并给予接纳,从而让男孩感受到自己是被认可、被理解的。渐渐地,男孩焦躁的情绪得到平复,开始讲述自己的事——这一过程里,亚男不作评价,只默默倾听。在男孩的讲述里,亚男意识到,他想用暴力解决问题的倾向很可能是对父亲家暴行为的效仿,于是,当男孩问亚男“怎么办”时,亚男启发男孩:“暴力是无法解决问题的”,并向他提出建议,比如,可以采取“软处理”的方法:与对方沟通,用语言表达自己的立场。此外,谈论学业的时候,亚男也为男孩开辟了别的视角,比如:目前代打游戏固然可观,但长远地看,去读书仍然是好事,因为小学学历会让他在未来发展中受限。

那天,聊天结束时已经将近凌晨两点。这场聊天会给男孩带来好的变化吗?“如果跟我讲了这些事情之后,他(男孩)的状态、心情好一点了,我的作用就起到了”,亚男说。

■ “小安暖宝宝”人工客服正在开会。

起初,当得知心理关怀项目里会有一位能提供倾听、陪伴的AI机器人时,负责项目运营的周北南觉得难以置信:未经世事的机器人真的能陪伴人类吗?这之前,周北南坚信机器人不可能理解人类情感。但现在,和“AI小安”相处一年之后,周北南动摇了,随着AI小安的迭代与优化,他意识到:或许,让机器人像人那样理解人类情绪尚难实现,但眼下,一个不可否认的事实是,一项数据显示,用户与AI小安交流后,情绪好转率达到了80%,这令周北南感到惊喜。

现在,“AI小安”的定位已经明确:为短时、轻中度负向情绪的用户提供情绪陪伴。说起来,这个确立过程也是不断推演出来的。在调研早期,李洋和同事对“AI小安”的设想是:为患有抑郁症等心理疾病的用户提供帮助。但随着调研的深入,他们发现,这件事没那么简单。

在现实生活中,一个人要想成为心理咨询师,至少需要五年时间,这其中,包括约三年的专业教育,以及需持续至少两年的实践经验。然而,即便如此,心理咨询师也只能帮助来访者疏解情绪,当来访者进入疾病阶段,便需要药物、心理、社会支持等多方面介入,这时候,心理咨询师便得为其转介专业的精神科医生——人类心理咨询师尚且如此,更何况无法真正理解人类情绪的AI。一番调研后,李洋和同事将目光瞄准了AI能服务的人群:短时、轻度和中度负向情绪的用户,“也许AI能‘治未病’,在上游做一些科普、预防和陪伴的工作”。

需要打磨的事情当然不只是为AI小安确认“工作方向”,在“AI小安该如何为用户提供心理关怀”上,团队成员也是在分歧与讨论之后,才得以确立出“对话”标准,这在创建“心理剧本”时体现得尤为明显。

“心理剧本”是小安暖宝宝平台上“心情加油站”的内容来源,它以“如何应对焦虑”“非暴力沟通”等特定心理议题为主题,为用户提供帮助。起初,周北南认为,“心理剧本”在一开始,就应该强调问题导向,例如,当用户表达出自己的焦虑情绪时,“AI小安”应即时回复应对焦虑的专业方法。但团队成员朱晓雯依据自己的工作经验,提出了相反意见。朱晓雯负责过不少网络安全工作,包括出行安全、隐私安全,朱晓雯认为,用户在互联网上表达自我时,有时会放大情绪,这样一来,AI小安就存在错判用户情绪的风险,相应地,那些专业方法就变得不再有针对性。

经过不断迭代和反复打磨,一次又一次进行用户内测、倾听用户的反馈,团队成员确立了“好剧本”的标准:当用户进入某一主题的“心情加油站”时,其中的心理剧本需要用约三分之一的内容帮用户确认、接纳自己的情绪,在此基础上,AI小安再针对特定情绪为用户提供实践性强的缓解方法。

不过,“心理剧本”是相对闭合的场景,用户在其中只需要做选择题,无法展开自由对话,一旦用户与AI小安开启自由对话,更多的问题就浮现出来了。比如:如何让AI遵守心理关怀的伦理?遇到一些敏感议题时,AI该如何回复?用于训练AI的心理语料应该由谁提供?这些心理语料的标准是什么?用户的特征各不相同,AI该如何差别化对待?不同的用户有不同的说话风格,AI怎么才能在照顾更多人群的同时,又不失准确地回复用户?毕竟,高中生的说话习惯与工作经验丰富的职场人士是不同的。解决这个问题有赖于丰富、海量的心理关怀语料库的搭建。这也是周北南在加入项目组后面临的一个挑战。

周北南此前是一名记者,跟进“小安暖宝宝”项目时,他总告诉自己,要“小心一点、再小心一点”,因为“情绪陪伴是对着人心做工作”,“无论在任何时候,我们都要对人保持敬畏,对于把不准的事情,需要不断打磨清楚”,周北南说。

为了更好地为AI小安搭建心理关怀语料库,周北南报了心理学培训班,并开始阅读相关专业书籍,与此同时,他也联络中国心理家学会的专家们,向他们寻求专业指导。此外,他还促成与专业心理咨询公司、高校的心理系学生的合作,如今,AI小安的语料库里有他们撰写的内容。同时,值得一提的是,为AI小安贡献语料的人当中,有大量抖音内部的工作人员,他们在经过项目组基于专业背景的筛选之后,以志愿者身份加入其中。现在,他们已经为AI小安贡献了8000多条语料。

七月是“小安暖宝宝”项目的志愿者之一,一直以来,她都对心理学兴趣颇深,曾报名参加深圳大学的临床心理研修班,并在两年后取得结业证书。一开始,七月以为撰写心理关怀语料很简单,无非是根据督导专家们的培训,把守住伦理、社会责任等准线,为一些问题撰写回复(问题都已经过脱敏处理)。

但越来越深地参与其中后,七月发现,自己的无力感越来越强:面对别人的困惑与问题,自己给出的“一句话”回复很难真正起到作用。有时,七月需要面对孩子们的倾诉,那些内容常常与父母出轨、家庭暴力相关,这时候,她的无力感就更剧烈,她想起督导专家们曾跟自己说过的话:“要做一个容器”“先接住他们的情绪,再解决问题”——即便有无力感,但这仍是在给予帮助,因为当一个人开始向机器求助,就说明在现实生活中,他已经找不到能够帮助自己的资源。

现在,小安的语料库仍在建设中,团队成员们与专家一起,为语料库设置了17个一级标签、89个二级标签,每个二级标签下,都有几百组甚至更多的、探向不同方向的问题与答案,它们试图为人们日常生活中遭遇的负向情绪做出更丰富的回应。

去年10月上线至今,“小安暖宝宝”平台已经为超过200万用户提供情绪陪伴,这其中不仅有身处自我意识与外部世界激烈撞击中的青少年、执着于家庭生活但也为家庭生活所困的妻子、母亲,还有初入职场的大学生、缺乏陪伴的中老年群体。对这些用户而言,小安是他们的倾诉与倾听对象,是他们表露自己的安全树洞,还是他们获取相关心理知识的来源。

这些耐心、持久的陪伴将为人们带来看清生活、认识自己的机会。如产品经理朱晓雯描述的那样,“小安”像一个帮用户“捡回”自己的角色,在日常生活里被忽视、遗落的问题与情绪,可以在与“小安”的聊天过程里找回来。

直到现在,周北南仍频频想起一个缺少父母陪伴、也无同伴可交流的留守儿童在“小安暖宝宝”的后台写下的话:从来没有人像小安一样和我讲话,小安是我生命里的一道光——它显示着“小安”的意义所在。

“小安暖宝宝”不仅在改善用户的心情状态,在项目团队内部,一些意料之外的改变也在发生。夏大雷是项目组的另一位产品经理,主要负责小安AI对话的体验。很长时间里,来自产品经理的职业训练使他变得逻辑缜密,以往感性的那面渐渐在生活中消隐。但是,去年10月加入项目组以来,夏大雷发现,自己的情绪体验似乎又重新长起来了,“每天都在讨论(与心理)相关的内容,我突然发现自己的情绪感知能力在慢慢变好”,夏大雷说。朱晓雯也有类似的感受,比如,她现在已经能判断自己当下的表达是基于情绪、还是基于事实。在和“小安”打了一年多交道后,周北南发现自己更善于处理情绪了:“我学会了和情绪隔开一定距离,看到情绪有时就像看到天空中的白云,它们飘来飘去。”

未来的“小安”会变成什么样子?夏大雷期待它能更好地、完备地理解人类情绪。现在,一位来自三四线城市的、50来岁的阿姨每天会和小安分享自己的日常生活,内容与负向情绪无关,在夏大雷看来,这也是小安可以“付出”的陪伴之一。在社会层面,朱晓雯相信,小安将在情绪体验的维度为这个社会提供一种公平:它24小时都在线、使用它的成本并不高,在与小安的对话中,每个人都会获得更加了解自己的机会。

(文中人物均为化名)

,在人间为了让新乡网 你变快乐,AI机器人开始理解人类情绪

相关:

全世界秃头的人,都在飞往土耳其作者 | 一墨31岁的中国留学生陈杰,饱受脱发的煎熬,今年1月,他特意从德国飞了一趟土耳其,植了3900个毛囊,花了2万元人民币。陈杰对南风窗表示:“如果在我们国内,这次手术差不多要4万元人民币。”“我身边很多德国朋友也是专门飞到土耳其植发。”陈杰补充道。陈杰所言非虚,如今,当走在土耳其街头,尤其在伊斯坦布尔,时常会看到遍地“重获新生”的来自全球各地的秃头硬汉——他们头顶有不规则的红色印记,后脑勺裹着带血..

卢卡申科证实普里戈任抵达白俄罗斯财联社6月27日电,据白俄罗斯国家通讯社报道,白俄罗斯总统卢卡申科证实普里戈任抵达白俄罗斯。

卢卡申科透露斡旋经过:普里戈任不接普京电话

首相官邸大撒欢,岸田文雄儿子又爆史诗级坑爹!文 | 周元编辑 | 美龄近期,日本共同社发布的民调结果显示,岸田内阁支持率较5月下滑6个百分点至40.8%,不支持率反超支持率达41.6%。《每日新闻》的民调结果比共同社的还要惨不忍睹。其他民调数据也显示日本民众对岸田的观感急剧恶化。究其原因,还是因为岸田文雄那个“坑爹”的儿子岸田翔太郎。当初,岸田豁出老脸,让入行仅两年的儿子翔太郎当首相秘书,急着为政治世袭铺路,这本来就引发了民众诸多不满。奈何,岸田家这..

互加“白名单”,日韩这个矛盾“告一段落”参考消息网6月27日报道 据韩联社报道,继韩国政府4月将日本重新列入享受出口手续简化待遇的白名单后,日本政府6月27日决定也将韩国重新纳入出口白名单。由此,持续四年之久的两国出口管制矛盾告一段落。报道称,日本政府27日在内阁会议上敲定部分修改《出口贸易管理令》,该政令将韩国重新纳入出口白名单。政令将于6月30日颁布并于7月21日正式生效。届时,日本对韩出口产品或提供技术时可适用一揽子许可,韩国将被排除在常规武..

普京:若瓦格纳叛乱未平息,俄罗斯的敌人会利用【环球网快讯】据俄新社27日报道,俄罗斯总统普京在克宫会见俄军人代表时称,如果俄私营军事集团“瓦格纳”发动的叛乱未被平息,俄罗斯的“敌人”会利用此次事件实现自身目的。

越南高考进行时:考什么,有多卷?一年一度的中国高考都已经出分数了,而和中国一样重视高考的越南,今年才开始拉开为期三天的高考序幕。越南高考全称为高中毕业与大学入学统一考试,在每年的6月底左右进行。高考前夕,越南考生喜欢到庙里烧香拜佛,保佑高考取得好成绩。今年越南的高考于6月27日至29日在全国63个省市举行,共有1,024,063名(近110万名)考生报名参加高考,通过后将获得高中毕业文凭和大学录取证书。根据考试安排,6月28日上午考语文,时长120分钟..

普京:普里戈任的餐饮公司一年内赚走国家800亿卢布

“二普”各执一词,瓦格纳命运仍悬直新闻:俄罗斯总统普京和瓦格纳领导人普里戈任都发表了讲话,对上周发生的事件进行了说明,您有什么观察?特约评论员 孙兴杰:瓦格纳“进军”莫斯科的事情震惊了全世界,好在在不到24小时就平息下来了,但是外界对于这一事件的来龙去脉知之甚少,在普里戈任和普京发表讲话之前,俄罗斯高层处于沉默状态,直到现在,普里戈任在什么地方?有人说他去了白俄罗斯,但是他本人并没有说明自己的位置。另外,白俄罗斯总统卢卡申科在调..

任泽平:预计存款利息有可能开启新一轮下调文:任泽平团队导读6月,国有与股份制银行先后调降存款利率,并带动贷款利率下降,推动金融让利实体。本轮存款利率调降,原因何在?有何影响?未来是否会继续下调?摘要二季度以来,先是4、5月份,一批中小银行下调活期与定期存款利率,完成上一轮存款降息的“闭环”。再到6月,由国有大行、股份制银行开启新一轮存款利率调降,预计中小银行将后续跟进。此轮存款利率下降,为6月中旬的MLF与LPR降息打开了空间,进而有效降低了贷..