基于样本相关性的深度人脸识别模型指纹检测

深度人脸识别中的模型盗用检测与保护:基于样本相关性的创新研究 背景与研究问题 近年来,深度学习技术的飞速发展显著推动了人脸识别领域的进步。然而,与此同时,商用的人脸识别模型正面临日益严峻的知识产权威胁——模型盗用攻击。模型盗用攻击允许攻击者通过对模型的黑盒或白盒访问,复制出功能等效的模型,从而规避模型所有者的检测。这种攻击不仅侵犯了模型所有者的知识产权,还可能危及商业利益和隐私安全。 为了应对这一挑战,模型指纹识别成为一种重要的盗用检测手段。传统方法主要依赖可迁移的对抗样本来生成模型指纹,但这些方法在面对对抗训练和迁移学习时表现出脆弱性。针对这一局限性,本文提出了一种基于样本相关性(Sample Correlation,SAC)的新型模型指纹识别方法,旨在提升模型盗用检测的鲁棒性和效率。 研...

基于知识蒸馏的轻量级卷积神经网络用于无创胶质瘤分级

非侵入性胶质瘤分级研究综述:基于知识蒸馏的轻量级卷积神经网络 背景介绍 胶质瘤是中枢神经系统的主要肿瘤,早期检测非常重要。世界卫生组织(WHO)将胶质瘤分为Ⅰ至Ⅳ级,Ⅰ和Ⅱ级为低级胶质瘤(LGG),Ⅲ和Ⅳ级为高级胶质瘤(HGG)。准确分类胶质瘤对于生存率评估至关重要。 磁共振成像(MRI)是医学领域诊断和治疗胶质瘤的常用方法。目前,许多学者应用机器学习和深度学习方法进行胶质瘤分类。例如,Zacharaki等人成功应用支持向量机(SVM)算法在MRI图像中分类胶质瘤。而Fatemeh等人采用卷积神经网络(CNN)对MRI图像中的胶质瘤进行分类。遗憾的是,这些研究多集中在提高分类精度,但高参数的CNN架构难以在实际医疗环境中应用。此外,由于胶质瘤数据集较小,他们只能使用具有较少参数的CNN,因而...

AdaDFKD:探索数据无关知识蒸馏中的自适应样本间关系

近年来,隐私保护和大规模数据传输等应用场景对数据的不可访问性提出了严峻挑战,因此,研究人员通过提出数据无关知识蒸馏(Data-Free Knowledge Distillation,简称DFKD)方法,来解决这些问题。知识蒸馏(Knowledge Distillation,简称KD)是一种训练轻量级模型(学生模型)使其从深度预训练模型(教师模型)中学习知识的方法。然而,传统的知识蒸馏方法要求具有可用的训练数据,这在隐私保护和大规模数据传输场景下是不现实的。本文提出了一种新的DFKD方法——Adaptive Data-Free Knowledge Distillation(简称AdaDFKD),旨在解决现有DFKD方法中目标分布静态和实例级分布学习的局限性,通过建立和利用伪样本间的关系,实现对...

以原型为基础的样本加权蒸馏统一框架应用于缺失模态的情感分析

以原型为基础的样本加权蒸馏统一框架应用于缺失模态的情感分析

以原型为基础的样本加权蒸馏统一框架应用于缺失模态情感分析 研究背景 情感分析是自然语言处理(NLP)中的一个重要领域,随着社交媒体平台的发展,人们越来越倾向于通过简短的视频片段来表达他们的情感。这导致多模态数据的快速增长。然而,现实生活中经常会遇到模态缺失的情况,例如由于音频丢失、摄像头遮挡或语音转录错误等问题。在这种情况下,对缺失模态的情感分析成为一个具有挑战性的重要议题。多模态的异质性在尝试对所有模态在多模态网络上优化相同目标时,往往导致优化的不平衡问题,尤其是在模态缺失的情况下。现有的研究在处理模态缺失时,常常忽略了网络优化的不平衡问题。 研究来源 这篇论文由山东师范大学信息科学与工程学院的张玉娟、刘芳娥、庄旭强、侯英和张玉灵共同撰写,论文发表于2024年5月20日的《Neural N...

合成辅助预训练和补丁级特征对齐的多类别宫颈病变细胞检测蒸馏

合成辅助预训练和补丁级特征对齐的多类别宫颈病变细胞检测蒸馏

合成辅助预训练和补丁级特征对齐的多类别宫颈病变细胞检测蒸馏 背景与研究意义 宫颈癌是一种严重威胁女性生命和健康的疾病。根据国际癌症研究机构(IARC)的数据显示,2020年全球新增宫颈癌病例约为60.4万例,死亡病例约为34.2万例(Sung et al., 2021)。早期诊断和筛查宫颈癌能够有效预防和治疗,而延误诊断则会增加严重并发症和生命危险的风险(Schiffman, Castle, Jeronimo, Rodriguez, & Wacholder, 2007)。目前,全球各地的健康组织均推荐进行早期筛查作为预防和治疗宫颈癌的一种有效方法(A. C. of Obstetricians, Gynecologists et al., 2010)。其中,液基薄层细胞检测(TCT)是检测宫颈...