本研究由来自北京大学智能科学与技术学院、通用人工智能国家重点实验室的Mingqing Xiao (肖命清),清华大学心理与认知科学系的Kai Du (杜凯),以及北京大学的Zhouchen Lin (林宙辰) 共同完成。论文发表于 Nature Machine Intelligence,于2026年在线发表。
这项研究的学术背景在于探索大型语言模型(LLMs)与人类高级认知神经机制之间的对应关系。当前,虽然大语言模型在逻辑推理等高级认知任务上表现出日益接近人类的性能,但它们在处理训练分布之外的简单推理问题时仍存在困难,这引发了关于LLMs是否真正具备类人内部机制的广泛争议。在人类大脑中,语言和逻辑推理被证实依赖于可分离的神经基础,因此一个核心的开放性问题就是:LLMs的内部表征是否与人类推理相关脑区的神经信号对齐,以及这些神经信号能否被用来提升模型性能。本研究旨在超越单纯的语言行为层面,从内部表征的角度探究模型与大脑的异同,并开创性地利用任务态功能磁共振成像(task-based fMRI)信号直接引导和增强LLMs的演绎推理(deductive reasoning)能力。
研究的具体工作流程包含两个主要阶段。第一阶段是评估模型与大脑的表征对齐程度。研究者首先利用一个开源的fMRI数据集(OpenNeuro dataset ds003076),该数据集记录了十名健康成年人在解决70道包含三段论(syllogistic)和传递性(transitive)推理的演绎逻辑问题时的脑部活动。同时,他们选取了从15亿到720亿参数的十个开源LLMs,让这些模型以相同的顺序阅读前提和结论并判断真伪。为了量化模型与大脑的对应关系,他们采用了一种名为“神经预测性”(neural predictivity)的指标,其核心流程是:首先通过对比“推理条件”与“纯阅读前提”的激活差异,在每一层Transformer的注意力输出和层输出中,定位出对演绎推理有响应的“功能定位模型单元”(functionally localized model units)。然后,提取这些单元对每个问题的表征,通过交叉验证的岭回归(ridge regression)模型,拟合从模型表征到全脑fMRI体素响应的映射,并在留存的测试数据上计算预测值与真实值的皮尔逊相关系数,最后将其除以由人类间信度估算出的“噪声天花板”(ceiling),得到标准化预测分数。研究者分别在演绎推理脑区、多需求(multiple-demand, MD)网络和核心语言(core language)网络上计算了这一分数。
研究第二阶段的核心是利用人类神经活动直接提升LLMs的推理能力,研究者提出了一个名为“脑引导框架”(brain-guided framework)的方法。该方法的核心思想是为模型会产出错误回答的表征,引入一个由模型和大脑表征的联合结构所诱导的修正方向。具体实现分为两种互补方式。第一种是“神经激活引导的表征干预”(neural-activation-guided representation intervention, NARI),应用于推理阶段。研究者首先为每个被试和每个模型层,用岭回归学习一个从模型表征到fMRI信号的线性映射。然后,对于模型答错但人类答对的题目,定义一个表征相似度目标函数,并计算该函数关于模型表征的梯度,该梯度剔除了截距项(intercept),从而引入了一个系统性的偏移,形成了精确的修正方向。他们通过在一个受约束的范围内沿此方向迭代更新中间层(尤其是1/4至3/4深度的注意力模块输出)的激活值,在不改变模型参数的情况下即时将错误答案修正为正确答案。第二种是“神经激活引导的表征微调”(neural-activation-guided representation fine-tuning, NARF),通过参数更新将这种表征层面的神经知识内化到模型中。研究者利用成功干预所产生的方向作为目标,或直接优化与fMRI信号的相似度作为辅助损失函数,与标准语言标签的交叉熵(cross-entropy)损失函数结合进行混合训练,从而使微调后的模型能够在新问题上展现出更好的泛化能力。
研究取得了多层面的重要结果。首先,在模型-大脑对齐性上,研究发现在所有问题汇总的层面上,LLMs的表征可以解释演绎推理脑区中约76%的可解释方差,表明存在相当程度的对齐。然而,在分别审视三段论和传递性推理时,预测性大幅下降至约27%,这表明整体高预测性部分源于模型和大脑都能对推理类型进行粗粒度的区分,而在特定推理类型内部的精细模式上,两者则存在明显差异。这种对齐具有区域特异性,模型在推理脑区和MD网络的预测性显著高于语言网络,并且远高于未训练的随机权重模型。主成分分析(PCA)可视化进一步证实了这种部分对齐的模式。
其次,在脑信号引导模型改进方面,NARI展现出惊人的效果。在六个犯错模型上,针对其最初回答错误的题目,该方法实现了100%的成功修正率,即对于每一个错误回答,都能在模型表征空间内找到一个可成功将其翻转为正确答案的干预方向,且所需扰动范围远小于基于随机信号或随机方向的对照组。进一步的消融实验表明,这种有效性来源于人脑fMRI的结构,而非仅模型自身的表征结构,并且利用演绎推理脑区的信号效果优于MD或语言区域。取消截距项以获得系统性偏移对于产生高质量方向至关重要。从所有被试成功方向中整合出的“通用方向”(general direction)还能迁移到模型未见过的全新问题上,成功提升多个模型的测试准确率。研究者甚至将NARI成功应用于DeepSeek-R1这样的思维链(chain-of-thought)模型,通过干预思维过程的内部表征来修改其语言推理路径,并导向正确结论。
最后,在参数微调方面,NARF展现出了强大的泛化能力。用演绎推理数据微调后,模型不仅在前提顺序变换和前提数量增加的同类问题上表现稳健提升,其习得的表征增强效果还能跨推理类型迁移,在具有不同神经基础的全新命题推理(propositional reasoning)问题和FOLIO自然语言一阶逻辑数据集上均取得了显著的准确率增长(最高达13个百分点的绝对提升)。将NARF与传统的语言标签监督相结合的实验表明,二者能够提供互补的增益,在十款不同规模(15亿至720亿参数)的LLMs上均能一致地提升测试性能,即便是那些初始准确率已超过人类水平的模型也能从中获益。对模型表征轨迹的分析揭示了一种潜在机制:语言监督主要塑造最终输出层的表征,而NARF则引导整个网络中间层形成更具判别性的、正确与错误逻辑轨迹分离更清晰的内部推理路径。
本研究的结论具有深远的科学意义。它首次证实了LLMs与人类大脑在演绎推理上存在部分重叠的认知机制,不仅体现在相关性的对齐上,更体现在利用脑信号实现功能性增益的因果引导上。这标志着从“相关性”到“引导性”的LLM-大脑对应关系研究范式的突破。在应用层面,该研究开辟了一条独立于语言行为监督、直接从人类认知神经信号中学习更优中间表征的全新模型增强路径,为构建更稳健、更具认知合理性和泛化能力的人工智能系统提供了神经科学启发的新方法。
本研究的亮点主要体现在以下几个前沿创新点上。第一,理念的创新性,首次将脑信号对AI的改进从视觉、语音等领域推进到了高级认知任务——演绎推理,并成功实现。第二,方法的独创性,精心设计的NARI和NARF方法,通过解耦模型与大脑的联合表征结构,生成精确的修正方向,实现了对模型内部表征的有效“神经外科手术式”引导。第三,发现的深刻性,不仅揭示了模型与大脑的部分对齐,还洞察到这种对齐背后存在着类型分辨能力高而精细模式分辨能力低的结构性差异,并通过脑信号成功弥补了模型在精细表征上的不足。
此外,该研究还在另一个独立数据集(人类连接组计划的关联处理任务)上验证了其方法的可扩展性,表明该技术路线并非依赖于某个特定的实验设计,而是有望成为一个通用框架,为未来整合更多模态的脑信号数据(如脑磁图MEG、脑电图EEG)来提升更大规模模型在更复杂认知任务上的表现铺平了道路。