本文档属于类型a，即报告了一项原创性研究。以下是针对该研究的学术报告：

作者与机构
本研究的主要作者包括Diwang Ruan、Jinzhao Han、Jianping Yan和Clemens Gühmann。研究团队分别来自德国柏林工业大学（TU Berlin）和中国浙江大学（Zhejiang University）。该研究于2023年发表在《Scientific Reports》期刊上。

学术背景
本研究的主要科学领域为机械系统的故障诊断与剩余使用寿命（Remaining Useful Life, RUL）预测。随着现代工业的快速发展，机械系统的安全性和可靠性需求日益增加。滚动轴承作为旋转机械的核心部件，其性能直接影响设备的可靠性。轴承故障可能导致巨大的经济损失和安全隐患。因此，轴承的故障诊断和RUL预测对于预测性维护具有重要意义。卷积神经网络（Convolutional Neural Network, CNN）因其强大的特征提取能力，在轴承故障诊断和RUL预测中得到了广泛应用。然而，随着CNN性能的提升，其网络结构和参数规模也在不断增加，这限制了其在计算资源有限的工业应用中的部署。为此，本研究提出了一种基于神经架构搜索（Neural Architecture Search, NAS）和模型剪枝的两步法，旨在构建轻量化的CNN模型，以解决上述问题。

研究流程
本研究主要包括两个步骤：第一步是基于NAS的轻量化CNN结构设计，第二步是基于权重排序的模型剪枝。

1. 基于NAS的轻量化CNN结构设计

   • 首先，构建一个基于单元的CNN模型，并通过可微架构搜索（Differentiable Architecture Search, DARTS）技术搜索最优单元结构。DARTS通过将离散的操作选择转化为连续空间，利用梯度下降优化架构权重，从而加速搜索过程。
     
   • 在搜索过程中，定义了一个包含卷积、可分离卷积、空洞卷积、最大池化和平均池化等操作的搜索空间。通过训练一个过参数化的CNN模型，提取最优单元结构。
     
   • 最终，通过堆叠最优单元构建轻量化CNN模型，并通过影响分析限制单元数量，以减少网络规模。

2. 基于权重排序的模型剪枝

   • 在剪枝过程中，首先评估每个连接的重要性，并根据其对模型性能的贡献进行排序。
     
   • 通过逐步移除最不重要的连接，进一步压缩网络规模。剪枝过程持续进行，直到达到模型规模或性能的边界条件。

研究对象与数据处理
本研究使用了两个公开数据集进行验证：
1. CWRU轴承数据集：用于轴承故障分类任务。数据集包含正常轴承和三种故障类型（内圈故障、外圈故障和滚动体故障），每种故障类型有三种不同的故障直径和四种负载状态。数据被分割为训练集、验证集和测试集，比例为7:2:1。
2. Pronostia平台数据集：用于轴承RUL预测任务。数据集包含三种工作条件下的轴承运行至失效数据，从中提取了38个时域和频域特征用于RUL预测。

主要结果
1. 故障分类任务
- 基于NAS和剪枝的轻量化CNN模型在CWRU数据集上表现出色。仅包含两个单元的CNN模型在测试集上的准确率达到99.969%，且即使移除50%的连接，准确率仍保持在99.968%。
- 与传统CNN相比，两单元CNN的参数规模从9.677MB减少到0.197MB，显著降低了计算资源需求。

1. RUL预测任务
   
   • 该模型在Pronostia数据集上也表现出色。两单元CNN模型在测试集上的R平方值（R-square）达到0.965，预测误差为13.7%。
     
   • 通过剪枝，移除50%的连接后，模型仍能保持较高的预测性能。

结论与意义
本研究提出了一种基于NAS和模型剪枝的轻量化CNN设计方法，成功构建了适用于轴承故障诊断和RUL预测的轻量化模型。该模型在保持高精度的同时，显著减少了参数规模和计算资源需求，为在嵌入式系统中部署CNN提供了可能性。本研究的科学价值在于为轻量化神经网络设计提供了一种高效的方法，其应用价值在于为工业设备预测性维护提供了可靠的技术支持。

研究亮点
1. 方法创新：结合NAS和模型剪枝，提出了一种两步骤的轻量化CNN设计方法，显著提升了模型效率。
2. 高性能与低资源需求：仅包含两个单元的CNN模型在故障分类和RUL预测任务中均表现出色，且参数规模大幅减少。
3. 广泛适用性：该方法不仅适用于轴承故障诊断，还可推广至其他机械系统的健康管理任务。

其他有价值的内容
本研究还探讨了不同单元数量对模型性能的影响，发现两单元CNN在性能和资源需求之间达到了最佳平衡。此外，研究还验证了剪枝技术在进一步压缩模型规模方面的有效性，为轻量化神经网络的实际应用提供了重要参考。