加速支持张量机的顺序安全静态和动态筛选规则

在数据获取技术的不断发展下,获取大量包含多种特征的高维数据已经变得十分容易,比如图像、视觉等。然而,传统的机器学习方法尤其是基于向量和矩阵的方法,面临着维度灾难、计算复杂度增加以及模型过拟合等挑战。为了解决这些问题,张量作为一种多维数组表示方式,比向量和矩阵更具灵活性,能够更好地处理高维数据。因此,基于张量的机器学习方法逐渐成为学术研究的焦点。 支持张量机 (Support Tensor Machine, STM) 是一种有效的张量分类策略,受到支持向量机 (Support Vector Machine, SVM) 和交替投影技术以及多线性代数操作的启发。STM 旨在处理复杂的张量数据,通过寻找具有最大间隔的两类分类超平面,在分类任务中表现出优异的性能。尽管最近基于不同张量分解方法的一系列改...

异构霍普菲尔德神经网络的研究:适应性激活函数与忆阻器结合的动态行为分析

异构霍普菲尔德神经网络的研究:适应性激活函数与忆阻器结合的动态行为分析 本研究背景探讨了神经网络中非线性因素对系统动态行为的影响。尤其是激活函数和忆阻器(memristor)做为非线性因素,常被用于构建混沌系统和模拟突触行为。霍普菲尔德神经网络(Hopfield Neural Network, HNN)因其独特的网络结构和生成复杂脑样动态的能力,而受到广泛关注。再者,当前研究多集中于使用固定激活函数的神经元对系统动态的影响,而对异构激活函数组合的研究较少。 本文由Chunhua Wang、Junhui Liang和Quanli Deng撰写,分别来自湖南大学计算机与电子工程学院和粤港澳大湾区研究院。文章在2024年1月28日提交,2024年5月21日被《Neural Networks》期刊接...

通过空间-频率线索挖掘方法实现低光照RGB-T场景中的显著目标检测

通过空间-频率线索挖掘方法实现低光照RGB-T场景中的显著目标检测

通过空间-频率线索挖掘方法实现低光照RGB-T场景中的显著目标检测 显著目标检测(Salient Object Detection, SOD)在计算机视觉领域具有重要地位,其主要任务是在图像中识别出最具视觉吸引力的区域或物体。尽管在过去几十年中,SOD模型在正常光照环境中取得了一定进展,但在低光环境下仍面临严峻挑战。在低光环境下,由于光子不足,导致图像细节缺失,严重影响了SOD的性能。而这种挑战在智能监控、自动驾驶等实际应用中显得尤为突出。 近几年来,RGB-T(可见光和热红外图像)系统因其在光线不足条件下对热红外不变性的特点,引起了越来越多研究人员的关注。借助RGB-T图像,研究人员开发了一些SOD模型,通过融合可见光和热红外线索,在一定程度上缓解了低光环境下的目标检测问题。然而,这些现有...

基于自适应集成分解和跨模态注意力融合的电网故障诊断框架

基于自适应集成分解与跨模态注意力融合的电网故障诊断框架 研究背景 随着现代电力系统规模的不断扩大和复杂化,电网的稳定运行面临着越来越严峻的挑战。电网故障的发生可能由自然灾害、设备故障以及局部电网结构薄弱等多个因素导致。这些故障不仅会影响电力用户的正常工作,还可能导致大面积停电,进而引发重大损失。美国能源信息管理局的数据显示,美国每年平均发生超过500起电网故障事件,影响数百万用户的电力供应。在中国,因电网故障造成的年均电力损失超过百亿人民币。由此可见,快速准确地检测和诊断电网故障类型已成为电力系统研究中的关键课题之一。 研究来源 本文题为“a grid fault diagnosis framework based on adaptive integrated decomposition a...

耦合神经网络间歇性随机扰动下的快速同步控制及加密解密应用

耦合神经网络间歇性随机扰动下的快速同步控制及加密解密应用 一、背景及研究动机 近年来,神经网络被广泛应用于各种领域,包括数据分类、图像识别及组合优化问题等。在神经网络结构和性能方面,可以将其分为确定性神经网络和随机性神经网络。许多研究表明,加入噪声扰动的随机神经网络展示出比确定性神经网络更好的动态特性,即通过构建具有随机扰动的网络,可以更真实地模拟实际神经网络的模型。然而,当前大多数神经网络的研究主要集中在全时扰动模型上,尽管实际生活中更多的是间歇性随机扰动现象。 二、论文来源 这篇名为《Fast synchronization control and application for encryption-decryption of coupled neural networks with ...

InA: 在预训练语言模型上的抑制自适应方法

InA: 在预训练语言模型上的抑制自适应方法 预训练语言模型(Language Models, LMs)已经在自然语言处理(Natural Language Processing, NLP)任务中取得了显著的效果。然而,传统的微调方法存在冗余参数的问题,影响了效率和效果。为了应对这一挑战,本文提出了一种称为抑制自适应(Inhibition Adaptation, INA)的微调方法,用以减少添加的可调权重,并适当地再权重来自预训练语言模型的知识。 研究背景和问题 当前,微调预训练语言模型是一种常见的解决NLP下游任务的方法。然而,经典的微调方法需要更新所有的模型参数,这会导致冗余参数问题,尤其是当应用于新的下游任务时。冗余参数不仅影响模型的效率,还会阻碍模型性能的提升。为了解决这一问题,已有...