人工智能与人类互动中的偏见放大效应：一项多实验研究
作者及发表信息
本研究由Moshe Glickman和Tali Sharot合作完成，两位作者分别来自英国伦敦大学学院（University College London）的实验心理学系情感脑科学实验室（Affective Brain Lab）以及马克斯·普朗克UCL计算精神病学与老龄化研究中心（Max Planck UCL Centre for Computational Psychiatry and Ageing Research）。Tali Sharot还同时任职于美国麻省理工学院（Massachusetts Institute of Technology）的脑与认知科学系。研究于2025年2月发表在期刊《Nature Human Behaviour》（第9卷，第345-359页），DOI号为10.1038/s41562-024-02077-2。
学术背景
本研究属于心理学与人工智能交叉领域，聚焦于人类与人工智能（AI）系统的交互如何影响人类的感知、情感及社会判断。随着AI技术在医疗、金融等领域的广泛应用，其潜在的偏见问题日益受到关注。已有研究表明，AI系统可能放大训练数据中的人类偏见，但一个更深远的问题被长期忽视：人类与偏见的AI系统互动后，是否会进一步内化并放大这些偏见？本研究通过一系列实验，首次揭示了“人类-AI偏见反馈循环”的存在，即AI不仅继承人类偏见，还会通过交互使人类变得更加偏见。
研究流程与实验设计
研究包含三个核心实验，共涉及1,401名参与者，分别从情绪判断、运动感知和社会认知三个维度验证偏见放大效应。
实验1：情绪聚合任务中的偏见反馈循环
- 流程：
1. Level 1（人类初始偏见测量）：50名参与者完成情绪分类任务，判断12张人脸组成的阵列整体更偏向“悲伤”还是“快乐”。结果显示，参与者存在轻微“悲伤偏向”（53.08%选择“悲伤”，p=0.017）。
2. Level 2（AI偏见放大）：使用卷积神经网络（CNN）训练Level 1的人类数据。AI将初始3%的偏见放大至15%（p<0.001），表明AI对数据中的微小偏见高度敏感。
3. Level 3（人类-AI互动）：新参与者与AI交互后，其“悲伤偏向”从基线49.9%升至56.3%（p<0.001），且随时间加剧（末次试验达61.44%）。对照组（人类-人类互动）未出现类似效应（p=0.48）。
- 关键方法：
- 动态交互设计：参与者在每次判断后需决定是否采纳AI的建议，量化了AI对决策的直接影响。
- 感知操纵实验：当AI被伪装成人类时，偏见放大效应减弱（p=0.001），表明人类对AI的“权威性认知”是偏见放大的重要因素。
实验2：随机点运动判别任务（RDK）中的算法类型影响
- 流程：
参与者与三种算法交互：准确算法（无偏见）、偏见算法（系统性高估右向运动）和噪声算法（高随机误差）。结果显示：
- 与偏见算法交互后，参与者的右向运动估计偏差显著增加（Δbias=2.66，p=0.002）；
- 与准确算法交互则提升判断精度（Δerror=-1.55，p<0.001）。
- 创新发现：
参与者低估了偏见算法的影响（主观评分vs.实际影响，p=0.90），却高估准确算法的作用（p<0.001），说明人类对AI偏见的警觉性不足。
实验3：生成式AI对社会判断的偏见传递
- 流程：
使用真实AI系统Stable Diffusion生成“财务经理”图像（85%为白人男性，远超实际比例）。100名参与者暴露于这些图像后，选择白人男性作为财务经理的概率从32.36%升至38.20%（p=0.04），而对照组（接触分形图像）无变化（p=0.15）。
- 生态效度：
实验模拟了社交媒体短暂曝光场景（1.5秒/图像），验证了AI生成内容对现实社会认知的潜在影响。
主要结果与逻辑链条
1. AI放大人类偏见：CNN将初始3%的情绪分类偏见放大至15%（表1），揭示了AI对数据噪声的过度拟合倾向。
2. 人类内化AI偏见：交互后的人类偏见水平显著高于基线（p<0.001），且效应强于人类-人类互动（p<0.001），形成正反馈循环。
3. 感知机制的作用：当AI被标记为“人类”时，偏见放大效应减弱（p=0.001），表明人类对AI的“高权威性预期”加剧了偏见学习。
4. 领域普适性：从情绪判断到社会认知，不同任务均验证了偏见反馈循环的存在，且参与者对偏见的无意识性高度一致。
结论与价值
本研究首次系统证明：
1. 科学价值：揭示了“人类-AI偏见反馈循环”的认知机制，即AI通过高信号噪声比和人类对其的权威性认知，加速偏见内化。
2. 应用价值：呼吁AI开发者优先解决算法偏见，因其影响远超技术层面，可能重塑社会认知。例如，生成式AI的偏见输出可能固化职业性别/种族刻板印象。
3. 政策意义：建议加强公众对AI偏见的认知教育，并设计“偏见警示系统”以阻断反馈循环。
研究亮点
1. 多范式验证：结合实验室控制实验（情绪分类、RDK）与真实AI系统（Stable Diffusion），兼顾严谨性与生态效度。
2. 机制深度解析：通过“感知操纵实验”分离了AI输出特性与人类认知心理的独立贡献。
3. 反向积极发现：准确算法可提升人类判断精度（p<0.001），为AI正向应用提供实证支持。
其他有价值内容
- 计算建模：补充分析显示人类对AI偏见的学习符合强化学习模型（见Supplementary Models），非简单模仿。
- 长期影响警示：研究者指出，儿童因认知可塑性更高，可能更易受AI偏见影响（需未来研究验证）。