激活空间人格操控：面向大型语言模型稳定特质控制的混合层选择方法研究报告
一、 研究作者、机构与发表信息
本研究的主要作者包括Pranav Bhandari（第一及共同通讯作者）、Nicolas Fay、Sanjeevan Selvaganapathy、Amitava Datta、Usman Naseem以及Mehwish Nasim（共同通讯作者）。他们分别来自澳大利亚西澳大学的网络分析与社交影响力建模实验室、物理数学与计算学院、心理科学学院，以及麦考瑞大学计算学院。
该研究以题为“Activation-Space Personality Steering: Hybrid Layer Selection for Stable Trait Control in LLMs”的论文形式，发表于2026年3月24日至29日举行的第19届欧洲计算语言学协会会议（Proceedings of the 19th Conference of the European Chapter of the Association for Computational Linguistics）的会议录第一卷中（页码6388–6403）。
二、 研究学术背景
本研究属于人工智能，特别是大型语言模型（Large Language Models, LLMs）可控生成与对齐（Alignment）领域。随着LLMs在医疗、金融、教育等关键领域的广泛应用，其生成内容往往反映出不受控制或不透明的行为倾向。虽然已有研究探索通过激活工程（Activation Engineering）在推理时微调模型行为，但现有方法多针对简单属性（如情感、毒性），对于复杂、多维的人格特质（Personality Traits）的可靠控制仍是一个开放挑战。同时，现有方法通常假设固定的干预层（例如模型的中间层），忽视了不同模型架构、不同人格特质以及不同输入提示（Prompt）下模型内部表征敏感度的巨大差异，导致操控效果不稳定、不可复现。
研究的理论基础建立在心理学经典的大五人格模型（Big Five Personality Traits）之上，该模型包括开放性（Openness）、尽责性（Conscientiousness）、外向性（Extraversion）、宜人性（Agreeableness）和神经质（Neuroticism），合称OCEAN模型。这是一个全面且经过实证验证的人格框架。研究旨在探索这些心理构念在LLMs内部激活空间（Activation Space）中的表征，并利用这些表征来精确、稳定地“操控”模型在生成文本时表现出特定的人格特质，而无需重新训练模型权重。其核心目标是：1）验证人格特质在LLM激活空间中存在于一个低秩（Low-Rank）共享子空间；2）开发一套能够跨模型架构、跨提示稳定控制人格特质表达的端到端流程；3）在实现有效操控的同时，保持模型的语言流畅性、核心推理能力不退化。
三、 研究方法与详细流程
本研究提出了一套新颖的、端到端的激活空间人格操控管道（Pipeline），主要包含四个核心步骤：1）人格特质方向向量提取与标准化；2）低秩人格子空间学习；3）混合层选择策略；4）推理时前向钩子（Forward Hooks）注入操控。
步骤一：激活提取与特质方向向量构建 研究使用了一个名为Big-5-Chat的数据集，该数据集包含2万个实例，每个实例针对每个OCEAN特质标注了“高”或“低”的水平。对于预训练的因果LLM（如Llama-3-8B-Instruct），研究者提取模型各Transformer层（候选层索引l）在处理每个高/低特质标注句子序列时的最后一个非填充（non-pad）残差状态（Residual State）h_l。随后，对每个特质c和每个层l，分别计算高特质样本和低特质样本激活的均值μ_l,high和μ_l,low。通过标准化这两个均值向量的差值，得到一个层级的特质方向向量d_l^©。由于不同层对特质差异的判别能力不同，研究进一步学习了一组非负的、特质特定的层权重{w_l^©}，对各个层计算出的方向向量进行加权平均，最终为每个特质c得到一个聚合的、稳健的特质方向向量d^©。这一步骤整合了模型所有层的信息，而非依赖单一层。
步骤二：低秩人格子空间投影 研究者发现，将五个OCEAN特质的聚合方向向量{d^©}堆叠成一个矩阵后，其主成分分析（PCA）结果显示，前三个主成分（Principal Components）即可解释超过90%的总方差（例如在Llama-8B模型上达到96.31%）。这表明人格特质在LLM的高维激活空间中占据一个共享的、低维的子空间。基于此发现，研究采用PCA或奇异值分解（SVD）方法，从堆叠的方向向量矩阵中提取出前K个正交归一化的基向量U_k ∈ R^(d×K)。随后，将每个特质的原始方向向量d^©投影到这个低秩子空间上，并进行重新归一化，得到最终用于操控的、紧凑且去噪的特质向量d̂^©。这一操作不仅降低了操控向量的维度、提高了稳定性，还通过捕捉特质间的共享结构，为多特质组合操控奠定了基础。
步骤三：混合层选择策略 这是本研究的核心创新之一，旨在解决“在模型的哪一层注入操控向量最有效”的问题。传统方法常固定选择中间层（如第18层），但本研究提出了一个结合静态验证（离线诊断）与动态测量（运行时响应）的混合策略。 * 静态离线先验层选择：对于每个特质c，使用一组中性探测提示（不包含特质词汇的通用指令），在模型各层注入一个极小的操控信号（α_probe << 1），并测量其对下一个令牌预测分布的影响。通过综合三个诊断指标——原始敏感度（∆ℓ2距离）、语义偏移（KL散度）和类别翻转率（Flip Rate）——计算出一个综合敏感度分数S(l, c)。选择分数最高的层作为该特质的“已验证最佳层”l*_c。此层作为稳定、可靠的先验知识。 * 动态运行时层选择：对于给定的实际输入提示p，计算在每个候选层注入微小操控信号时，模型输出对数几率（Logits）z的变化范数ν(l, p)。选择变化最大的层作为该提示下的“动态候选层”r(p, c)。这使层选择能适应具体的输入语境。 * 混合组合：在推理时，操控同时作用于已验证的静态先验层l*_c和动态选择的层r(p, c)。研究采用固定的混合权重（例如0.8和0.2），以静态层为主确保稳定性，以动态层为辅引入上下文敏感性。这种设计平衡了跨提示的可靠性和对特定输入的适应性。
步骤四：推理时操控与极性校准 在模型生成文本的每个解码步骤，对于选定的目标特质c和选定的层集合L，将经过强度参数α缩放的、带有校准后极性（sign©）的特质向量Δ^©(α) = α * sign© * d̂^©注入到对应解码器块的残差流（Residual Stream）中，即h‘_l = h_l + Δ^©(α)。极性校准是为了确保“正向”操控确实对应特质的高水平表达。方法是通过在一个小型校准集上测试正负两个方向的微小操控，选择能导致模型输出分布与基线分布产生更大、更一致KL散度的方向作为正向。
四、 主要研究结果
研究在多个不同家族和参数规模的LLM上进行了全面评估，包括Llama-3-8B-Instruct、Ministral-8B/24B-Instruct、Qwen-14B-Instruct和Gemma-3-4B-IT。
1. 低秩假设验证：PCA分析结果（表2）强有力地支持了人格特质存在于低维共享子空间的假设。在所有测试模型中，前三个主成分累计解释了超过93%的方差，最高达96.35%。这为使用低秩投影进行紧凑、稳定的操控提供了实证依据。
2. 人格特质操控有效性：通过人格问卷和情境生成基准数据集进行测试。 * 人格问卷评估：如表1所示，对于所有测试模型和所有五个OCEAN特质，正向操控（High）和负向操控（Low）均能显著、一致地改变模型在相应特质上的得分，与基线模型（Base）形成清晰分离。以Llama-3-8B为例，高低特质得分之间的平均分离度（∆）达到2.64（1-5分制），与现有基于提示、监督微调（SFT）或直接偏好优化（DPO）的方法效果相当甚至更优。更重要的是，操控在保持甚至略微提升语言流畅性（Fluency Score）的同时，显著降低了生成内容在特质表达上的方差（Variance），表明操控效果更稳定、可靠。 * 情境生成评估：使用SocialIQA数据集构造情境性问题，由GPT评估生成文本的特质得分和流畅度。结果（图3，图5）同样显示，正向与负向操控能产生显著的特质分离（∆约2.1-3.2），且流畅度基本维持在较高水平（>4.0）。这证明了方法在开放式生成任务中的有效性。
3. 通用能力保留：为确保人格操控不会损害模型的核心推理与知识能力，研究在MMLU（大规模多任务语言理解）和ARC-Challenge（AI2推理挑战）基准上进行了测试。如表3、表4©、表5所示，无论是正向还是负向操控，模型在这两个基准上的准确率与基线模型相比仅有微小波动（通常在±2个百分点以内），未出现性能的灾难性下降。这证实了该方法在实现人格操控的同时，能够有效保留模型的通用能力。
4. 消融实验（Ablation Studies）：研究对比了混合层选择、纯动态层选择和纯静态层选择三种策略的效果。如图4和表6、表7所示，混合策略在特质分离强度上显著优于其他两种单一策略。例如在Llama-3-8B上，混合策略的平均特质分离度为2.64，而纯动态和纯静态策略分别为0.98和1.47。这验证了结合静态可靠性与动态适应性的必要性：静态先验层提供了稳定的特质信号基础，而动态层选择则能针对具体提示在模型最敏感的点施加影响，即使其权重较小（20%），也能显著放大操控效果。
五、 研究结论与价值
本研究成功提出并验证了一种名为“激活空间人格操控”的新方法，能够在不修改模型权重的前提下，通过向LLM的残差流注入低维、正交化的人格特质方向向量，实现对模型生成文本人格特质的精确、稳定和双向（高/低）控制。
科学价值：1）首次系统性地探索并证实了心理学大五人格模型在LLM激活空间中存在低秩共享子空间结构，为理解LLM内部如何编码复杂人类特质提供了新的视角。2）提出了创新的混合层选择策略，解决了激活工程中“在哪干预”的关键难题，提高了跨模型和跨提示的操控鲁棒性与可复现性。3）开发了一套完整的、可解释的端到端操控流程，包括方向提取、子空间学习、层选择和推理注入，为后续更复杂的模型行为操控研究提供了方法论框架。
应用价值：1）为实现高度个性化的AI助手提供了技术路径，可以根据用户的偏好或情境需求，动态调整AI的“性格”（如更富创造性、更尽责、更随和等）。2）在安全对齐领域，可以用于抑制模型可能产生的不良人格倾向（如高神经质可能导致的不稳定输出）。3）为心理学与计算语言学的交叉研究提供了新工具，例如模拟不同人格特质的个体在特定情境下的语言反应。
六、 研究亮点
七、 其他有价值内容
研究还讨论了方法的局限性及未来方向：1）当前操控强度参数α是凭经验手动校准的，未来可探索自适应校准策略。2）使用LLM作为评估者可能存在轻微偏差，未来可结合人类评估。3）人格特质本质是连续谱，当前“高/低”二元划分是近似，未来可探索更丰富的中间表征。4）方法目前适用于可获取内部激活的开源模型，对闭源模型的扩展需要进一步研究。
此外，附录中提供了丰富的生成示例（附录A），直观展示了操控前后模型回答风格的显著变化；进行了人格几何分析（附录F），计算了各特质方向向量间的余弦相似度，发现某些特质（如开放性与外向性）存在正相关，而神经质与宜人性、尽责性等存在负相关，这反映了人格特质在语言表征中的内在关联，与心理学发现有一定呼应。研究也坦诚讨论了在某些模型家族（如Qwen）上效果相对较弱、以及强制对所有特质方向进行正交化会导致效果下降等观察，为后续研究指明了改进空间。