作者与研究机构
本研究由韩国建国大学(Konkuk University)媒体与传播学系的Mincheol Shin和庆熙大学(Kyung Hee University)媒体学系及共存现实实验室(Coexistent Reality Lab)的Doohwang Lee共同完成。论文发表于Taylor & Francis出版集团旗下的《国际人机交互杂志》(International Journal of Human–Computer Interaction),该期刊同时拥有印刷版ISSN 1044-7318和在线版ISSN 1532-7590。文章于2025年10月14日在线发表,收录于2026年第42卷第11期,页码为8525至8545,文献数字对象唯一标识符(DOI)为10.1080⁄10447318.2025.2567966。
研究背景与目的
本研究属于人机交互(Human-Computer Interaction, HCI)与算法决策心理学的交叉领域。随着人工智能(Artificial Intelligence, AI)系统在管理、法律、医疗、教育等社会敏感领域的广泛部署,理解人类如何感知和评价AI做出的决策变得至关重要。以往研究对于人类与AI决策的比较结果并不一致:一部分研究发现了“算法厌恶”(Algorithm Aversion),即人们在看到算法出错后更不愿信任算法;另一部分研究则发现了“自动化偏差”(Automation Bias, AB)或“算法欣赏”(Algorithm Appreciation),即人们倾向于认为算法比人类更客观、更少犯错。
然而,当AI做出明显不公平的决策时,人们是否会仍然保持对算法的偏好,这一问题仍未得到充分研究。本研究以Sundar提出的“模态-能动性-交互性-可导航性”(Modality-Agency-Interactivity-Navigability, MAIN)模型为理论框架,结合“机器启发式”(Machine Heuristics)和“启发式-系统式模型”(Heuristic-Systematic Model, HSM)的“偏差假设”(Bias Hypothesis),旨在探讨在需要同时具备分析性机械技能和人际性人类技能的任务情境中,人们是否会因为机器启发式的激活而对AI的不公平决策表现出更高的公平性感知。同时,研究还考察了决策规则透明度的调节作用,以及感知公平性、信任和未来采纳意愿之间的因果链条。
实验设计与方法详述
本研究采用2(决策主体:人类 vs. AI)× 2(决策规则透明度:不透明 vs. 透明)的被试间实验室实验设计(Between-subjects Laboratory Experiment)。因变量为感知公平性(Perceived Fairness)、感知信任(Perceived Trust)和再次与主体进行游戏的意愿(Willingness to Play, WP),后者在本研究中被操作化为算法采纳意愿(Adoption Intention)的指标。
研究使用社会最后通牒分裂游戏作为实验任务。该游戏原本由Güth等人于1982年提出,常用于研究公平感知。在本研究的改良版本中,参与者扮演“发送者B”,与一名同谋者(Confederate)“发送者A”交替向决策主体提出分配20张票的出价。决策主体由人类专家或AI扮演,决定接受或拒绝出价。如果出价被接受,则按照提议分配票数;如果被拒绝,则双方在该轮均不得票。游戏共进行20轮,前15轮中决策主体始终做出公平且一致的决策,但在最后5轮中,决策主体故意拒绝真实参与者的公平出价,同时继续接受同谋者的公平出价,以此制造明显的不公平决策体验。游戏结果被预先设定为同谋者获胜,以确保所有参与者都经历不公平的对待。
参与者的招募来自韩国一所私立大学的学生参与系统。初始招募96人,经过剔除发现研究目的者(3人)、有SUSG经验者(3人)、直线作答者(3人)、技术故障(1人)以及对隐私和激励表示极端不适者(2人)后,最终有效样本为84人,每种实验条件恰好21人。参与者年龄范围20至26岁,平均年龄22.85岁,标准差1.79。性别在各条件间大致平衡。
在AI条件下,研究者采用“绿野仙踪法”(Wizard of Oz Technique)模拟AI系统。实验者在单向镜房间内使用文本转语音(Text-to-Speech)软件将预先输入的文本转换为语音,通过一个无品牌标识的蓝牙音箱向参与者播放。该AI被介绍为由韩国某公立学术研究机构的研究者开发的AI原型,名为“Eugene”。在人类条件下,同一位实验者被介绍为该机构研究最后通牒游戏的专家研究员“Dr. Eugene Kim”,通过Skype电话会议以同样的蓝牙音箱与参与者进行语音互动。两种条件均不呈现视觉线索,语音性别统一设置为男性,语言风格保持正式,以控制混淆变量。
在透明度操纵方面,透明条件下的参与者会在游戏开始前被告知,决策主体可能会根据参与者之前的出价行为做出理性反应,例如,如果参与者之前提出过不公平的出价,主体可能会拒绝其后续出价。非透明条件下则不提供这一额外信息。实验开始前,所有参与者均通过信息图(Infographic)和口头指导了解游戏规则,并进行3轮练习以熟悉流程。实验结束后,参与者填写问卷,测量感知公平性、信任、再次游戏意愿、总体信任倾向(Disposition to Trust)、能力信念(Competence Belief)和性别等变量。感知公平性采用Masterson等人(2000)的两项7点李克特量表;信任采用Ayeh等人(2013)的五项7点语义差异量表;再次游戏意愿采用de Melo等人(2014)的单项7点李克特量表。操纵检验通过Gefen和Straub(2003)的社会临场感量表中的三个条目测量感知人性化程度,结果显示人类主体(M=3.14)显著高于AI主体(M=2.34),t(82)=3.23,p=0.002,Cohen’s d=0.71,证明主体类型操纵有效。
数据分析采用偏最小二乘结构方程模型(Partial Least Squares Structural Equation Modeling, PLS-SEM),使用WarpPLS 8.0软件执行。选择PLS-SEM的原因在于其适用于较小样本量、不要求数据正态分布,并且能够整合性地检验多个结构路径。测量模型的信效度通过条目载荷、组合信度(Composite Reliability)、Cronbach’s α、平均方差提取量(Average Variance Extracted, AVE)和异质-单质比率(Heterotrait-Monotrait Ratio, HTMT)进行检验,结果均满足推荐的临界值标准。
主要研究发现
假设1预测AI主体的不公平决策会比人类主体被感知为更公平。PLS-SEM结果支持了这一假设:AI主体的不公平决策感知公平性均值(M=3.66, SD=1.52)显著高于人类主体(M=2.99, SD=1.31),路径系数β=0.21,p=0.02。这表明即使在决策不公平性明显的情境下,参与者仍对AI表现出更高的公平性评价,验证了机器启发式激活和自动化偏差的持续存在。
假设2预测透明度会调节主体类型对感知公平性的影响,即透明条件下AI与人类之间的感知公平性差异会更大。然而,结果并未支持这一假设:透明度对主体类型与感知公平性关系的调节效应不显著(β=-0.07, p=0.27)。事后分析(Post-hoc Analysis)显示,在规则不透明条件下,AI(M=3.64, SD=1.57)与人类(M=2.81, SD=1.30)的感知公平性差异达到边缘显著(t(40)=-1.87, p=0.069, d=0.58);而在透明条件下,二者差异不显著(t(40)=-1.14, p=0.26, d=0.35)。这一发现暗示透明度的解释可能主要提升了人类决策的公平感知,而对AI决策的公平感知没有额外增益,因为AI条件下的自动化偏差可能已经“覆盖”了透明度的影响。主体类型和透明度共同解释了感知公平性8%的方差(R²=0.08)。
假设3预测感知公平性会正向影响对主体的信任。结果强烈支持该假设:在控制总体信任倾向、能力信念和性别后,感知公平性对信任的正向路径系数β=0.77,p<0.001,解释了信任63%的方差(R²=0.63)。
假设4预测感知信任会正向影响再次游戏意愿。结果同样支持该假设:信任对再次游戏意愿的路径系数β=0.38,p<0.001,R²=0.15。进一步的序列中介检验表明,感知公平性和信任在主体类型对再次游戏意愿的影响中起显著的序列中介作用,间接效应β=0.16,标准误0.07,p=0.014,效应量f²=0.04。
结构模型的拟合优度指标支持了模型的有效性:平均路径系数(APC)=0.15,p=0.039;平均R²(ARS)=0.29,p=0.001;平均方差膨胀因子(AVIF)=1.05;平均完全共线性VIF(AFVIF)=1.47,均处于可接受范围内。
结论与价值
本研究的主要结论是:在需要同时运用机械性分析和人际性理解能力的任务中,人们可能对AI做出的不公平决策表现出比人类不公平决策更高的公平性感知,这种偏差可能源于机器启发式的激活和自动化偏差的持续存在。即使决策的不公平性是明显的,AI在早期轮次中成功管理机械性任务和人机交互的表现仍可能导致参与者以积极偏差的方式处理后续信息,从而高估AI决策的公平性。这一发现对算法欣赏和自动化偏差的理论研究提供了新的实证支持,并将其适用范围扩展到了不公平决策的情境。
在实践层面,本研究对AI在招聘、司法、医疗等高社会风险领域的部署具有重要警示意义。如果用户因为机器启发式而对AI不公平决策保持过度信任,可能会不加批判地接受带有偏见的算法结果,从而加剧社会歧视和不平等。因此,研究强调需要开发促进批判性评估的干预措施,例如沟通算法局限性、建立监测系统,以及设计透明、负责、符合社会规范的伦理AI系统。
研究亮点与局限
本研究的亮点在于:第一,首次在涉及不公平决策的实验情境中验证了机器启发式和自动化偏差的持续存在;第二,采用了绿野仙踪法模拟真实AI交互,避免了传统情境描述法(Vignette-based Design)在生态效度上的局限;第三,通过SUSG任务同时引入机械性和人际性技能要求,拓展了Lee(2018)关于任务特征调节作用的研究。
然而,本研究也存在若干局限:透明度操纵的解释内容较为简单,可能不足以充分激活透明度的理论效果;样本量相对较小,且采用学生样本,限制了结果的普适性;未直接测量机器启发式和自动化偏差的中介过程,无法确定这些心理机制是否确实在评价过程中发挥了作用;再次游戏意愿仅用单一项目测量,可能影响构念效度;此外,研究未测量参与者主观上是否将最后五轮的决策感知为不公平,因此无法区分参与者是因为觉察到不公平却仍然给予高公平评价,还是根本未能识别出不公平。未来研究可以在更大样本和多样化人群中使用更详细的多项目量表,并直接测量启发式激活、认知负荷及不公平感知程度,以进一步验证和深化本研究的发现。