这项研究由南加州大学马歇尔商学院的Yidan Yin、Nan Jia和Cheryl J. Wakslak共同完成,发表于《PNAS》2024年第121卷第14期,文章编号e2319112121,于2024年3月29日正式发表。
该研究属于心理学与认知科学领域,重点关注人工智能(AI)在满足人类基本心理需求——“被倾听感”(feel heard)方面的潜力与局限。被倾听感指个体感知到自己被理解、被认可和被重视,对身心健康和人际关系具有重要意义。随着AI日益深入地融入日常生活,研究者试图回答两个核心问题:第一,AI能否生成让接收者感到被倾听的回应?第二,当接收者得知回应来自AI而非人类时,其感受是否会被削弱?
为此,研究者设计了一项包含三个部分的实验,采用2(回应来源:人类 vs. AI)× 2(标签:人类 vs. AI)的组间设计。第一部分招募了540名Prolific平台参与者,要求他们描述自己正在经历的复杂情境及其情绪,并以音频形式提交,随后通过Phonic AI自动转录为文字。经过筛选,最终有501名参与者的描述被用于后续研究。第二部分中,251名参与者被随机分配到人类回应条件,他们的描述由另一批Prolific参与者撰写回应;另外250名参与者被分配到AI回应条件,他们的描述被输入Bing Chat(使用GPT-4的创意模式)以生成回应。为确保回应长度一致,研究者根据每批人类回应者的中位字数设定AI回应的字数限制。此外,人类回应者和Bing Chat都被要求对描述者的六种基本情绪(快乐、悲伤、恐惧、愤怒、惊讶、厌恶)进行评分,用以计算共情准确性(empathic accuracy)。第三部分中,所有原始描述者被邀请回来阅读分配给他们的回应,并被随机告知回应来自人类或Bing Chat,从而形成四种实验条件:AI回应-人类标签、AI回应-AI标签、人类回应-人类标签、人类回应-AI标签。最终共有455名参与者完成了第三部分的问卷,测量了被倾听感、回应准确性感知、回应者理解程度感知、与回应者的连接感以及多种情绪反应。
研究结果显示,AI生成的回应在多个维度上优于人类生成的回应。具体而言,实际由AI生成的回应使接收者感到更强的被倾听感(AI回应组平均5.74,人类回应组平均5.17,效应量η² = 0.046),感知到更高的回应准确性(5.92 vs. 5.24),更强的被理解感(5.79 vs. 5.07),以及与回应者更强的连接感(4.71 vs. 4.06)。然而,当回应被标注为来自AI时,接收者的评价全面下降:被倾听感降低0.68分,回应准确性感知降低0.31分,被理解感降低0.71分,连接感降低0.94分。值得注意的是,回应来源与标签之间不存在显著交互作用,二者效应独立且可叠加。在四种条件中,使参与者感到最被倾听和最被理解的是“AI回应但被标注为人类”的条件;而“人类回应但被标注为AI”的条件评分最低。两个“真实”条件——AI回应-AI标签和人类回应-人类标签——的评分惊人地相似,说明AI回应的正向效应被AI标签的负向效应完全抵消。
为探究AI标签负向效应的机制,研究者检验了两种可能的解释:对AI心智的感知和对生成式AI的态度。结果显示,对Bing Chat持更积极态度的参与者,其AI标签负向效应显著减弱,甚至消失;而感知AI具有更强能动性(agency)和经验(experience)的参与者,在连接感上受AI标签的负向影响较小。这表明,被倾听感、回应准确性感知和被理解感的下降主要由对AI的消极态度驱动,而连接感的下降则既与消极态度有关,也与认为AI缺乏心智有关。
关于AI回应正向效应的来源,研究者首先比较了Bing Chat与人类回应者在情绪检测上的共情准确性。Bing Chat在六种基本情绪中的四种(快乐、悲伤、恐惧、厌恶)上比人类回应者更准确地判断了描述者的情绪,在愤怒和惊讶上两者无显著差异。其次,研究者开展了一项后续研究,招募了1,449名第三方评分者,对主研究中的482条回应进行评价,但不告知回应来源。结果显示,AI回应提供了显著更多的情感支持(emotional support)(5.76 vs. 4.64,Cohen’s d = 1.01),而人类回应提供了更多的实际支持(practical support)(4.31 vs. 3.28,d = 0.67)。在14项具体回应技术中,AI更频繁地使用了大多数与伴侣回应性(partner responsiveness)相关的技术,包括复述关键短语、表达理解、认可感受的合理性、承认对方的努力、肯定对方的积极品质、表达关心和共情等。相比之下,人类回应者更多地分享个人经历和提供自己的见解,但这两项技术与接收者的被倾听感并无显著相关。相关分析进一步表明,情感支持与接收者的被倾听感显著正相关,而实际支持与被倾听感无显著关联。
此外,探索性分析发现,阅读AI生成的回应使参与者的希望感更高、痛苦感和不适感更低,但同时也会引发一定程度的诡异感(creepiness)和矛盾感。这与“恐怖谷”(uncanny valley)现象一致,表明人们一方面从AI的共情能力中获益,另一方面又对这种能力感到不安。不过,研究者提醒这些情绪效应的效应量较小,解读需谨慎。
本研究的核心结论是:AI确实能够在相当高的程度上让人感到被倾听,这源于其卓越的情绪识别能力和提供有效情感支持的纪律性;然而,AI标签会显著削弱这种效果,主要因为人们对AI的消极态度。AI在当下尚不能完全替代人类,但在缺乏可用的倾听者(如在线陌生人或无人可倾诉的情境)时,AI可以填补这一需求。研究还指出,人类可以从AI身上学习如何更好地提供情感支持,抑制急于给出建议的倾向。研究的局限在于仅比较了AI与匿名的、非专业的在线陌生人的回应,未涉及亲密关系或专业咨询师;同时,研究未设置无标签条件,无法区分AI标签的降低效应与人类标签的提升效应。研究数据已公开于OSF平台,但因涉及敏感内容,音频转录文本需向通讯作者申请获取。
本研究的亮点在于首次系统区分了“回应效应”(response effect)与“标签效应”(label effect),通过实验设计将AI生成内容的质量与人们对AI来源的主观信念分离开来。这一方法学创新为理解人机互动中的算法厌恶(algorithm aversion)提供了新视角。同时,研究发现AI在情感支持上的“纪律性”优势——避免过度提供实际建议——为改善人类沟通实践提供了具体启示。研究还揭示了被倾听感的认知基础:它不仅取决于回应内容本身,还深受回应者身份和人们对回应者心智与态度的感知影响。