分享自:

主题新颖性程度—融合程度—影响力三维视角下的学术论文创新性评价研究

期刊:现代情报DOI:10.3969/j.issn.1008-0821.2024.03.012

学术报告:主题新颖性程度—融合程度—影响力三维视角下的学术论文创新性评价研究

一、研究作者、机构与发表信息

本研究由魏绪秋、常霞、姜召昊和申力旭四位研究者共同完成,他们均来自山东理工大学信息管理学院。该论文发表于《现代情报》期刊2024年3月第44卷第3期,收稿日期为2023年7月4日。研究受到国家社会科学基金青年项目“基于文本挖掘的学术论文创新性识别研究”(项目编号:21CTQ022)的资助。其中,魏绪秋为副教授、博士、硕士生导师,研究方向为信息计量、科学评价与数据挖掘;其余三位作者均为硕士研究生,研究方向同样集中于信息计量、科学评价与数据挖掘。

二、研究背景与目的

学术论文作为科研活动的重要成果形式,其创新水平和科学价值的科学、合理评价已成为科研管理领域的关注焦点。2020年教育部、科技部联合发布的《关于规范高等学校SCI论文相关指标使用 树立正确评价导向的若干意见》明确指出,应坚决摒弃“以刊评文”,评价重点转向论文的创新水平和科学价值。然而,学术论文创新性评价本身具有高度复杂性,受到评价角度多样性、评价层次差异性、评价方法灵活性以及论文自身多样性等多重因素影响。

已有研究主要形成了三类评价路径:一是运用同行评议方法的主观评价,二是基于引用数据与社交媒体数据的量化评价,三是从学术论文内容本身出发的评价。其中,同行评议存在专家偏见或仅支持预期结果的争议;引用数据与替代计量(altmetrics)数据虽易于操作,但面临未正式引用、偏见引用以及数据解读与数据源选择等挑战。近年来,从论文内容本身出发评价创新性逐渐成为研究重点,具体包括基于主题词层面和基于句子层面的评价方法。

在这一背景下,本研究旨在构建融合主题新颖性程度、主题融合程度与主题影响力三个维度的学术论文创新性评价模型,以弥补现有评价方式维度单一的不足,为学术论文创新性评价相关研究提供方法借鉴。

三、研究的工作流程与模型构建

本研究的工作流程共包含四个主要步骤:数据清洗、数据统计、模型构建与创新性评价。

第一步:数据清洗。 研究以中国知识学术期刊数据库为数据来源,以主题为“区块链”、来源类型限定为CSSCI(中文社会科学引文索引)进行检索,出版年度截至2021年,检索时间为2022年9月6日,共获得1,409条文献题录。经删除会议通知、编辑约稿说明等无效文献后,最终得到1,395条有效文献题录。在此基础上,抽取每篇文献的关键词,并进行规范化清洗,例如将“LDA”与“LDA主题模型”统一为“LDA”,将“版权”与“著作权”统一为“版权”,以确保后续统计结果的准确性。

第二步:数据统计。 研究者自编程实现关键词对的配对与频次统计。统计内容包括:2021年度关键词出现频次、2021年度关键词对出现频次、2021年度之前(即2014—2020年)关键词对累积出现次数,以及2021年度关键词对被引用次数。此处所指的关键词对,是指同一篇学术论文中任意两个关键词共同出现所形成的配对。

第三步:模型构建。 本研究从三个维度分别构建测度指标。

其一,主题新颖性程度维度(novelty)。该维度通过关键词对在当年度的出现次数与关键词对在往年度累积出现次数之间的关系来度量。公式为:

novelty = (∑n n=1 t<ki,kj>t)/(1+∑t-1 t=0 t<ki,kj>t)/n

其中,t<ki,kj>t表示关键词ki与kj构成的词对在t年度出现的次数,∑t-1 t=0 t<ki,kj>t表示该词对在t年度之前的累积出现次数,n表示某篇论文中关键词对的总对数。分母中的“+1”用于避免词对在往年累积次数为零时无法计算的情况。该指标值越大,表明该主题组合在当年越新颖。

其二,主题融合程度维度(fusion)。该维度用于揭示主题的融合与分裂程度,反映主题的继承与发展状况。公式为:

fusion = (∑n n=1 t<ki,kj>t/√(t<ki>t × t<kj>t))/n

其中,t<ki>t与t<kj>t分别表示关键词ki与kj在t年度各自出现的次数。该指标值越接近1,说明关键词对在当年度的共现越集中、越稳定,主题融合程度较好;越接近0则说明词对较为分散,主题融合程度较差。其测度结果区间为(0,1]。

其三,主题影响力维度(influence)。该维度利用引用数据来量化关键词对所反映主题的学术影响程度。公式为:

influence = (∑n n=1 c<ki,kj>t /(1+∑c<ki,kj>t))/n

其中,c<ki,kj>t表示某篇论文中关键词ki与kj构成的词对在t年度被引用的次数,∑c<ki,kj>t表示该词对在t年度被引用的总次数。该指标结果区间为[0,1]。

在上述三个维度基础上,研究采用TOPSIS法(Technique for Order Preference by Similarity to an Ideal Solution,逼近理想解排序法)构建综合评价模型。TOPSIS法通过计算各评价对象与理想最优解和理想最劣解之间的距离来排序,具体包括构建正向化矩阵、数据标准化处理、计算最优解与最劣解向量、计算各方案与最优解和最劣解的距离以及最终评分五个环节。学术论文创新性评价模型定义为:

model = snovelty × novelty + sfusion × fusion + sinfluence × value

第四步:创新性评价。 根据统计所得数据与上述模型,计算每篇学术论文在三个维度上的得分及综合创新性得分,并按照“高—较高—一般—较低—低”五个等级进行均等划分。

四、实证结果与分析

研究对象基本特征。 人文社会科学领域区块链研究的首篇文献出现在2014年,为《比特币:运行原理、典型特征与前景展望》一文。此后发表数量逐年增长:2018年首次超过100篇,达169篇;2019年突破250篇;2020年达到峰值,超过500篇;2021年虽增速放缓,但仍维持376篇的较高年度发表量。这表明我国人文社会科学区块链研究保持着较高的增长态势,这与国家层面的宏观政策引导密切相关。

关键词对分布特征。 统计结果显示,关键词对“区块链—智能合约”无论在2021年前的累积出现次数(60次)还是2021年的出现次数(22次)均位居前列,是该领域持续关注的重点。2021年,“区块链—数字经济”“电子证据—区块链”等关键词对的关注度有所上升,而“区块链—人工智能”“区块链—去中心化”等词对的关注度略有下降,说明研究关注点在总体稳定的同时呈现年度变化。

创新性测度结果。 在全部2021年度区块链主题学术论文中,杨现民等发表于《现代远程教育研究》的《智能技术生态驱动未来教育发展》一文创新性得分最高(0.1445)。该文包含“智能技术生态”“未来教育”“教育变革”“教育样态”4个关键词,被引次数17次,主题新颖性程度为0.0402,主题融合程度为0.0552,主题影响力为0.0491。排名第二的是李洪晨等发表于《图书情报工作》的《面向健康医疗大数据安全保护的医疗区块链模型构建》一文,创新性得分为0.1416,包含“健康医疗大数据”“区块链去中心化”“信息安全保护”“PBFT算法”4个关键词,被引8次,三个维度得分分别为0.0402、0.0552和0.0462。

等级分布特征。 从等级分布来看,约71.54%的论文学术主题新颖性程度位于“一般”等级;约43.62%的论文主题融合程度位于“低”等级;主题影响力方面,约37.77%位于“较高”等级,30.32%位于“高”等级;综合创新性方面,约35.64%的论文位于“一般”等级,44.41%位于“较高”等级,仅有9.04%被列为“高”等级。三个维度的测度结果等级相互交叉,共形成46种组合,其中“主题新颖程度一般—主题融合程度低—主题影响力较高”组合的论文最多,为48篇。综合创新性等级与三个维度等级共形成60组组合,反映出不同维度的测度结果相互作用,共同提升了论文创新性。

相关分析。 研究运用肯德尔秩相关系数(Kendall’s tau-b)分析学术论文创新性与各维度之间的定序一致性。结果显示,创新性与主题新颖性程度的相关系数为0.330,呈弱相关;与主题融合程度的相关系数为0.524,呈中等程度相关;与主题影响力的相关系数为0.535,呈中等程度相关;与被引频次的相关系数为0.401,呈中等程度相关。这表明三个维度对论文创新性均发挥了不可替代的作用,任何单一维度都不能完全代表综合创新性测度结果。同时,综合创新性模型与被引频次的定序结果有所差异,两者不能互相替代,该模型可作为研究活动和绩效的衡量标准。

五、研究结论与价值

本研究得出以下主要结论:第一,我国人文社会科学区块链研究维持着较高的增长态势,近两年年度发表量保持在300篇以上,这与国家政策的宏观引导密切相关。第二,我国人文社会科学区块链研究的关注度在总体稳定的同时随年度略有变化,主题热度分布逐渐趋于均衡。第三,主题新颖性程度—融合程度—影响力三维视角下的学术论文创新性评价模型可以有效地将主题内容与主题价值有机融合,从三个维度综合测度学术论文创新性,丰富了学术论文创新性评价的方法体系,可作为研究活动和绩效的衡量标准。

在科学价值方面,该研究突破了传统单维度或双维度评价的局限,构建了内容维与价值维相结合的多维评价框架,为学术论文创新性评价提供了新的理论视角与操作化路径。在应用价值方面,该模型可以帮助科研管理人员、科研评价机构以及研究人员从海量文献中识别高创新性论文,满足对创新性知识的需求。

六、研究亮点

本研究的亮点主要体现在以下三个方面:其一,在模型构建上,将主题新颖性程度、主题融合程度与主题影响力三个维度有机整合,兼顾了论文内容的创新性和论文的学术影响,克服了以往评价维度相对单一的不足。其二,在方法运用上,采用TOPSIS法进行多指标综合评价,避免了对各维度得分进行简单算术平均的局限,使评价结果更加科学合理。其三,在实证对象选择上,聚焦于人文社会科学中区块链这一前沿交叉领域,具有鲜明的时代性和现实针对性。

七、研究局限与展望

作者指出,本研究仅以人文社会科学区块链主题领域的学术论文为样本,研究样本规模有限,研究维度也局限于主题层面。未来研究应进一步扩大样本规模、拓展至更多研究领域,同时深入到学术论文文本的句子层面,更全面、更深入地基于论文所取得的新进展、新知识、新价值与新应用来评价其创新性。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com