分享自:

遮挡鲁棒的鱼类个体识别:面向复杂水下环境的多模型视频识别框架

期刊:Computers and Electronics in AgricultureDOI:10.1016/j.compag.2026.112486

以下报告基于一篇关于水下鱼类个体识别的最新研究论文撰写。

该研究由大连海洋大学信息工程学院的梁雪岚、吴俊峰等学者合作完成,论文发表于《Computers and Electronics in Agriculture》期刊。研究团队来自大连海洋大学信息工程学院、大连市智慧渔业重点实验室及环境可控水产养殖教育部重点实验室。论文于2026年1月收到投稿,同年8月修订,9月接受发表。

该研究属于计算机视觉与智能水产养殖的交叉领域,具体聚焦于水下视频中的鱼类个体识别任务。在真实水下环境中,鱼群频繁的重叠游动会产生严重的相互遮挡,鱼类身体仅有部分可见,这导致基于传统图像匹配或分类方法难以提取稳定的身份特征,识别性能显著下降。同时,水下图像往往存在光照不均、水体浑浊、运动模糊和分辨率受限等问题,同种鱼类个体之间外观高度相似,可用的判别性视觉线索非常有限。因此,如何在部分遮挡条件下维持稳定的个体身份识别和跨帧一致性成为该领域的关键挑战。与静态图像识别不同,视频识别不仅要求分类准确,还必须保持时序上的身份稳定,这使其在概念上更接近行人重识别和多目标跟踪任务。针对上述问题,作者提出了一种融合目标检测、多目标跟踪、多模型特征提取与身份检索的视频级鱼类个体识别框架,旨在提高遮挡条件下的鲁棒性。

论文的核心工作流程包括四个主要阶段。第一阶段是目标检测与跟踪模块。作者采用YOLOv9算法进行鱼类检测,该算法引入了可编程梯度信息机制和广义ELAN架构,能够在复杂视觉条件下保持有效的检测性能。在FishData数据集上对预训练模型进行了微调,使其适应水下背景和鱼类视觉特征。检测所得的目标框随后输入SORT跟踪器进行跨帧关联。SORT是一种基于卡尔曼滤波和匈牙利算法的轻量级在线多目标跟踪方法,通过交并比匹配来关联相邻帧中的检测结果。论文中将交并比阈值设为0.3,并将跟踪持续性参数max_age设为10、min_hits设为1,以在短时遮挡或检测失败期间维持目标身份,减少轨迹碎片化。第二阶段是多模型特征融合模块。该模块组合了两种互补的深度特征提取模型:CosPlace和DOLG。DOLG模型通过多尺度卷积特征提取和正交融合机制,同时编码局部纹理细节和全局结构信息。具体而言,DOLG通过全局平均池化获取整体语义特征,并利用注意力机制聚焦于鱼鳍边缘、鳞片图案等判别性局部区域,再通过正交融合约束两个特征子空间以避免冗余干扰。然而,当鱼体轮廓模糊或局部信息不完整时,DOLG的结构感知能力会受到限制。为此,作者引入了原本用于视觉地点识别的CosPlace模型作为全局表征分支。CosPlace基于度量学习框架学习判别性嵌入向量,使类内距离最小化、类间距离最大化。鱼类个体识别与视觉地点识别在目标上具有相似性,均依赖嵌入表达和相似性检索机制。CosPlace在实验中采用ResNet101作为骨干网络,提取512维全局嵌入向量。t-SNE可视化结果表明,基于ResNet101的CosPlace特征具有清晰的类间边界,而ResNet50的聚类效果相对较弱。此外,作者利用鱼体局部区域图像(头部、躯干、尾部、上半身、下半身)作为查询样本进行检索,CosPlace模型在top-5结果中均能正确检索到对应个体的全视图图像,相似度得分均超过0.95,证明了其在部分可见条件下的鲁棒性。特征融合策略方面,CosPlace和DOLG输出的两个512维特征向量经L2归一化后拼接为1024维联合表示,随后通过两层全连接多层感知机进行非线性映射和降维,最终输出512维融合特征向量。第三阶段是特征检索与身份匹配模块。系统为已知鱼类个体构建参考特征数据库,每个身份存储多张来自不同视频帧的参考图像生成的高维嵌入。推理时,对当前帧中每个检测到的鱼类实例提取融合特征向量,计算其与数据库中所有参考样本的余弦相似度,选择相似度最高的身份作为预测结果,并将相似度值保留两位小数作为置信度分数。系统还在视频帧上实时叠加检测框、预测身份标签和置信度分数,同时自动保存关键帧图像并按身份分类归档,以支持长期行为监测和数据管理。第四阶段是实验评估。研究使用FishData数据集,该数据集包含锦鲤、金鱼、河豚和小丑鱼四个物种共3000张图像,其中锦鲤1200张、小丑鱼990张、河豚510张、金鱼300张。识别实验按物种分别进行。数据集按身份级别以7:1:2比例划分为训练集、验证集和测试集,且来自同一视频序列的帧被限制在同一子集内,确保训练与测试之间无身份或时序重叠。实验平台搭载Intel Core i7-12700K CPU和NVIDIA RTX 4090 GPU。YOLOv9使用SGD优化器,批大小为16,学习率0.001,训练500轮;DOLG使用SGD优化器,批大小64,学习率0.001,训练300轮;CosPlace使用Adam优化器,批大小48,学习率3×10⁻⁵,训练300轮。输入图像统一调整为224×224分辨率。

实验结果方面,消融研究首先比较了三种特征提取配置在视频识别任务中的表现。仅使用CosPlace的识别准确率为97.6%,仅使用DOLG的准确率为97.8%,而融合模型的准确率达到98.3%。t-SNE可视化显示,DOLG单独使用时多个类别的特征存在明显重叠,区分能力较弱;而融合后的特征分布形成紧凑且分离良好的簇,表明融合策略有效提高了判别性。推理速度方面,CosPlace-only为25 FPS,DOLG-only为30 FPS,融合模型为24.7 FPS,仍满足实际水产养殖监测的实时处理需求。不同融合策略的对比实验中,直接拼接加归一化得到相似度得分0.9880,固定加权求和得到0.9870,通道注意力引导融合得到0.9964,而提出的MLP融合策略获得最高的0.9987。在与其他六种代表性方法(LiFrNet、FIRN、CFGFLL、LFGT、FishFace、VOS)的对比实验中,所提方法在WideFish、DLOUFish、Fish-Seg和FishData四个数据集上分别取得了97.34%、97.33%、96.88%和98.32%的准确率,均高于所有对比方法。在FishData数据集上基线方法均在同一实验协议下复现评估,所提方法显著优于VOS的95.80%和LFGT的94.21%。

论文的核心结论是,通过将YOLOv9检测、SORT跟踪与DOLG和CosPlace双分支特征提取相结合,并利用MLP进行局部与全局特征融合,能够有效补偿遮挡造成的身份信息损失,提高鱼类个体在动态水下环境中的识别鲁棒性。该研究的科学价值在于证明了互补的全局结构建模和局部细节编码对于解决部分可见条件下的身份判别问题具有协同增效作用。在应用层面,该框架能够在视频流中实现实时个体识别和连续身份关联,为智慧水产养殖中的行为分析、个体档案管理和精准健康监测提供了切实可行的技术方案。研究的亮点包括:其一,将视觉地点识别模型CosPlace迁移至鱼类个体识别场景,并验证了其在部分身体可见条件下仍能保持较强的身份判别能力;其二,通过MLP融合策略有效整合了不同特征空间的互补信息,比简单拼接、加权求和和注意力融合方法获得了更高的匹配置信度;其三,该框架并非提出新的检测或跟踪算法,而是将既有成熟技术与专门设计的特征融合策略有效整合,形成了一套面向复杂水下环境的视频级个体识别完整流程。需要指出的是,论文作者也承认当前研究未对遮挡严重程度进行量化分级,未来工作需要建立更全面的遮挡评估协议,并在更多样的养殖场所、物种和拍摄条件下检验框架的泛化能力。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com