本文发表于 *IEEE Transactions on Image Processing*,作者为刘菊华(Juhua Liu)、王朝岳(Chaoyue Wang)、苏海(Hai Su)、杜博(Bo Du)和陶大程(Dacheng Tao)。刘菊华来自武汉大学印刷与包装系及人工智能研究所,同时隶属于悉尼大学UBTECH人工智能中心和武汉大学苏州研究院;王朝岳和陶大程来自悉尼大学计算机科学学院UBTECH人工智能中心;苏海来自华南师范大学软件学院;杜博来自武汉大学国家多媒体软件工程技术研究中心及人工智能研究所。论文于2019年12月19日在线发表,收录于2020年第29卷。
织物缺陷检测是工业质量控制中的关键环节,旨在从复杂纹理背景中识别并定位各类异常。该任务的难点在于织物纹理和缺陷形态的多样性,以及实际生产中难以获取覆盖所有可能纹理的标注缺陷样本。传统频域方法如傅里叶变换在纹理简单的织物上有效,但对复杂纹理织物往往失效;基于稀疏表示和自编码器的方法在特定场景中取得进展,但大多仍局限于简单纹理。为解决这些问题,作者提出一种基于生成对抗网络(GAN)的多阶段织物缺陷检测框架,核心思想是利用已有缺陷样本训练检测模型,并通过生成模型对无缺陷的新纹理织物合成合理缺陷,从而实现模型对新纹理的自适应。
方法部分由三个主要模块构成。首先是基础检测网络,作者选用DeepLab v3语义分割网络作为检测器。为适应织物缺陷尺度多变和微小缺陷易被忽略的问题,将输出步幅由常规的16调整为8,即在ResNet-50骨干网络的block3和block4中采用空洞卷积,并将ASPP模块中的空洞率相应放大为12、24、36。此举使输出特征图尺寸增大一倍,有利于保留细小缺陷。同时,由于缺陷面积通常远小于背景,损失函数中对背景和缺陷分别赋予权重1和9,以提高缺陷分割的准确性与收敛速度。其次,作者设计了多阶段GAN用于新纹理缺陷样本的合成。第一阶段为条件生成网络,使用预训练VGGNet从无缺陷纹理块中提取Gram矩阵作为风格标签,以此作为条件信号训练生成器,使网络学习在给定纹理风格下生成对应外观的缺陷块。第二阶段为缺陷融合网络,将第一阶段生成的缺陷粘贴到无缺陷图像中的空白窗口后,再通过生成器对整幅图像进行精修,使缺陷与背景自然过渡。融合网络训练中除了对抗损失,还引入铰链重构损失和基于VGG特征图的感知损失,以约束生成图像与真实缺陷图像在低层细节和高层语义上的相似性。第三模块为微调策略,利用现有多缺陷标注数据预训练分割网络,再以新纹理生成缺陷样本对模型进行微调,从而提升对新纹理的检测能力。
实验部分使用简单纹理和复杂纹理两类织物数据集,每类各含四种缺陷:简单纹理为色斑、油污、结头和断头;复杂纹理为色斑、断头、断纱和白条。原始图像平均尺寸为5300×3000像素,裁剪为512×512训练块,并采用颜色、亮度、旋转和镜像等数据增强构建数据集。为评估方法性能,以交并比(IoU)阈值0.5判断缺陷是否被检测,并计算精确率、召回率和F值。在简单纹理数据集上,所提方法平均F值达96.2%,四项缺陷的召回率均超过96.8%,除结头外精确率均不低于98.5%。与快速傅里叶变换、非局部中心稀疏表示(NCSR)和Fisher准则堆叠降噪自编码器(FCSDA)相比,所提框架在全部四种缺陷上均有明显优势。在复杂纹理数据集上,对比方法基本失效,而本方法精确率相比简单纹理提高2.2%,召回率下降5.7%,F值略降1.8%,总体仍能有效检测复杂背景中的缺陷。生成模块的实验显示,第一阶段生成的缺陷已具备合理形态,但与背景融合不够自然;第二阶段精修后缺陷与纹理过渡更平滑、观感更真实。为进一步验证鲁棒性,作者对原始图像进行0.25和0.5倍缩放以构造低分辨率数据集,结果显示性能仅小幅下降,说明方法在较低分辨率下仍具竞争力。
大尺度缺陷检测方面,当缺陷占据图像38%时,由于训练块为512×512,模型可能无法完整感知缺陷导致漏检。作者讨论多尺度检测虽可改善大缺陷,但会增加计算负担并可能将复杂纹理误判为缺陷。关于简单纹理中结头缺陷的高假阴性率,分析发现原因主要是人工标注遗漏,而模型实际已检测出该缺陷。微调前后的对比实验表明,未经微调的模型在新纹理上会将正常条纹或花纹误判为缺陷,微调后能正确将背景识别为背景,证实微调模块对提升新纹理适应性的必要性。
本研究的科学价值在于将工业缺陷检测与深度生成模型结合,提出“检测—生成—微调”的闭环框架,在一定程度上缓解了真实场景中标注数据不足和纹理持续更新的问题。多阶段生成设计将缺陷生成与缺陷融合分离,使模型先学习纹理条件下的缺陷分布,再进行空间位置上的真实融合,具有模块化和可解释性。应用价值方面,该方法可直接用于纺织工业在线质检,在获得新布种的无缺陷样本后即可快速自适应,降低人工标注和传统算法重新开发成本。此外,较低分辨率下的稳定表现也增强了其在计算资源受限产线中的部署潜力。论文的亮点包括:针对小缺陷保留调整输出步幅和空洞率;在损失函数中引入类别权重以应对前景与背景极度不平衡;利用Gram矩阵风格标签实现不同纹理条件下的缺陷生成;以及通过两阶段GAN和多种损失组合生成高真实感的缺陷融合图像。整体而言,该研究为基于深度学习的织物缺陷检测提供了较完整的解决方案,在方法设计、工程考量和实验验证上兼具创新性与实用性。