分享自:

医学图RAG:基于图检索增强生成的循证医学大语言模型

期刊:Proceedings of the 63rd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)

本文介绍的是来自University of Oxford等机构的研究者Junde Wu、Jiayuan Zhu、Yunli Qi等人发表在Proceedings of the 63rd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)上的原创研究论文《Medical Graph RAG: Evidence-based Medical Large Language Model via Graph Retrieval-Augmented Generation》。该研究提出了一种名为MedGraphRAG的新型图检索增强生成框架,旨在提升大语言模型在医学领域生成循证回答的能力,并通过图结构确保回答来源可信且可追溯。

研究背景与目的
大语言模型(Large Language Models, LLMs)如GPT-4在自然语言处理领域取得了巨大进展,但在医学等专业领域中仍面临严峻挑战。首先,医学依赖数千年积累的海量知识体系,将这些知识全部放入模型有限的上下文窗口几乎不可能;有监督微调虽然可以部分解决,但商业闭源模型使这一方法成本高且不现实。其次,医学术语体系精确,存在大量既定事实,例如特定疾病症状或药物副作用,模型不应扭曲、修改或引入创造性内容。对于非专业用户而言,判断医学回答是否准确尤为困难。因此,能够利用大型外部数据集进行复杂推理,同时给出可验证来源的准确可信回答,在医学应用中至关重要。
检索增强生成(Retrieval-Augmented Generation, RAG)可以在不重新训练模型的情况下利用特定私有数据回答问题,但它难以综合新的见解,在需要跨大量文档进行整体理解的任务中表现不佳。GraphRAG的提出部分克服了这些限制,它通过大语言模型从原始文档构建知识图谱,并从图中检索知识以增强回答。该技术显著优于传统RAG,特别是在复杂推理方面。然而,GraphRAG的图构建缺乏确保回答可认证和可信的专门设计,且其层次社区构建过程成本高昂,未针对医学领域进行专门优化。为此,本研究旨在设计一种专门面向医学领域的图RAG方法,既生成有证据支持的回答和官方医学术语解释,又提高回答的整体质量和可信度。

研究设计与方法流程
MedGraphRAG的工作流程包括两个主要阶段:三重图构建(triple graph construction)和U型检索(U-retrieval)。
1. 文档分块与实体提取:医学文档往往包含多样内容,研究者采用LangChain的语义分块函数将文档分为多个段落,并通过图构建大语言模型lg从每个块中提取所有相关实体。每个实体包含名称、类型(来自UMLS语义类型)和上下文描述。
2. 三重链接(triple linking):为了使回答基于既定事实,研究构建了仓储图(repo graph),该图跨用户固定,提供已确立的来源和受控词汇定义。仓库图分两层,底层为UMLS医学词典图,上层为医学教科书和学术论文构建的图。用户RAG文档中的实体与医学论文/书籍中的实体通过计算内容嵌入的余弦相似度进行关联,标注为“the reference of”。上层实体再与词典实体链接,标注为“the definition of”。这样形成[用户实体、来源、定义]三元组。随后,lg识别每个块中用户实体之间的关系,生成带关系描述的有向图,称为meta-medgraphs(元医学图)。
3. 图标记与层次聚类:为了避免GraphRAG中昂贵的图社区构建,研究者使用预定义医学标签(遵循ASTM电子健康记录内容标准,涵盖症状、病史、身体功能、用药等)对每个图进行摘要。然后采用带动态阈值的凝聚层次聚类,基于标签相似度将相似图逐步合并,生成多层标签结构,从粗略到精细,最多12层。
4. 自顶向下精确检索:对用户查询q生成标签摘要tq,从最高层开始逐层选择与查询最相似的标签,直到定位目标meta-medgraph。随后在目标图中,基于查询与实体内容的嵌入相似度选择前nu个实体,并收集它们的前ku个最近三元组邻居作为检索子图gr。
5. 自底向上响应精炼:首先用检索到的子图gr生成初始回答,然后逐层向上加入更高层标签摘要,由响应大语言模型lr对回答进行多轮修正。具体层数取决于基线模型,一般4到6层,默认GPT-4为4层,其他为5层。该设计在全局上下文感知和检索效率之间取得平衡。

实验设置与数据
研究使用MIMIC-IV(大型公开电子健康记录数据集)作为用户RAG数据;使用MedC-K(包含480万篇生物医学论文和3万本教科书)以及FakeHealth和PubHealth的证据出版物作为上层仓库数据,UMLS图作为底层仓库数据。测试集包括MultiMedQA套件的9个生物医学选择题数据集(MedQA、MedMCQA、PubMedQA、MMLU的6个医学相关主题)的测试划分、2个公共卫生事实核查数据集FakeHealth和PubHealth,以及自建的DiverseHealth数据集(包含50个真实临床问题,涉及罕见病、少数族裔健康、共病、药物使用、酒精、COVID-19、肥胖、自杀和慢性病管理等)。
检索方法在6个大语言模型上进行了比较:Llama2(13B、70B)、Llama3(8B、70B)、Gemini-Pro和GPT-4。图构建使用Llama3-70B,文本嵌入使用OpenAI的text-embedding-3-large。对比基线包括无检索、标准RAG和GraphRAG。MedGraphRAG使用60个实体和16跳邻居,相似度阈值0.5。

主要结果与发现
1. 多选评估:MedGraphRAG在所有模型和所有数据集上均优于无检索、标准RAG和GraphRAG。相比无检索基线,在事实核查上平均提升近10%,医学问答上提升约8%;相比GraphRAG,在事实核查上提升约8%,医学问答上提升约5%。较小模型如Llama2-13B提升更明显,说明MedGraphRAG有效利用了模型自身推理能力并提供额外外部知识。
2. 与SOTA医疗大模型比较:MedGraphRAG结合GPT-4在MedQA上比之前的SOTA模型Medprompt高出1.1%,并在所有9个数据集上建立新的SOTA,超过经过大量微调的医疗大语言模型如Med-PaLM 2和Med-Gemini。
3. 长文本生成的人类评估:在MultiMedQA和DiverseHealth上,由7名认证临床医生和5名非专业人士对回答的切题性、正确性、引用精确率、引用召回率和可理解性进行五级评分。MedGraphRAG在所有维度上均取得更高评分,尤其在引用精确率、召回率和可理解性方面优势显著。
4. 消融实验:从GraphRAG开始逐步加入triple graph construction和U-retrieval,在MedQA、PubMedQA、MedMCQA上准确率逐步提高。例如MedQA从88.9提高到91.1(加入三重图构建),再提高到91.3(加入U-retrieval)。
5. 外部数据整合效果:将三层数据单独或逐步加入进行测试,结果显示MedGraphRAG能高效利用额外数据,分别对医学论文层和词典层带来超过6%和8%的提升,而RAG和GraphRAG的提升有限。
6. 检索范围与深度:检索实体数与邻居数并非越多越好,约120个实体加4跳邻居或60个实体加16跳邻居效果最佳。检索层数也存在最佳点,GPT-4为4层,其他模型为5层。
7. 案例研究:在COPD合并心力衰竭的复杂案例中,GraphRAG给出了通用COPD治疗建议,忽略了某些支气管扩张剂可能加重心力衰竭;而MedGraphRAG推荐了心脏选择性β受体阻滞剂如比索洛尔或美托洛尔。在血管性痴呆案例中,GPT-4被误导为阿尔茨海默病,而MedGraphRAG通过检索到MRI显示中脑血管变化和白质病变等证据,正确诊断为血管性痴呆。这些优势源于三重图构建使实体直接链接到参考文献中的关键信息,而GraphRAG因用户数据与参考文献混在同一层图中,导致同等最近邻数下遗漏关键信息。

研究结论与价值
MedGraphRAG通过三重图构建与U型检索显著提高了医学回答的可靠性、可追溯性和可读性。其在多个基准上超越现有RAG和微调医疗大模型,证明了无需微调即可利用外部数据提升大语言模型专业能力。该框架为临床场景下大语言模型的安全应用提供了可行路径。应用价值在于:回答附带来源引用和术语解释,使非专业用户也能理解复杂医学内容;临床医生可快速核查模型输出,提高人机协作的信任度。科学价值在于提出了面向医学领域专门化的图RAG设计,解决了GraphRAG在可信溯源和层次构建成本上的不足,并为如何将外部知识高效组织为可检索图结构提供了新思路。

研究亮点与特色
1. 首次提出医学领域专门的图RAG框架MedGraphRAG。
2. 三重图构建将用户私有数据与权威医学文献及词典分层链接,形成[用户实体、参考文献、定义]三元组,从根本上保证回答的证据性和可追溯性。
3. U型检索用多层标签聚类取代昂贵的图社区构建,通过自顶向下精确定位目标图,自底向上逐步融入高层摘要,在全局语境感知与计算效率间取得平衡。
4. 在多个基准和多个基础模型上一致超越现有方法,包括经过大规模微调的医学大模型,且无需对基础模型进行任何微调。
5. 人类评估由专业临床医生和非专业人士共同参与,验证了回答不仅准确且有更好可理解性和引用质量,增强了方法的实用可信度。
6. 针对计算成本高、更新困难等问题,论文还提出了分层更新策略和局部更新思路,为后续研究和实际部署提供了方向。

局限性与未来工作
图构建步骤计算成本较高,每次提问处理约需70秒;超参数和技术选择基于有限数据经验设置,未来需要更系统的比较与优化;人类评估样本量有限,需更大规模研究。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com