分享自:

基于生成对抗网络的进化多目标优化方法

期刊:IEEE Transactions on Cybernetics

类型a:这篇文档报告了一项原创研究,因此属于类型a。

主要作者与机构及发表信息
这篇研究的主要作者包括Cheng He(IEEE会员)、Shihua Huang、Ran Cheng(IEEE会员)、Kay Chen Tan(IEEE会士)和Yaochu Jin(IEEE会士)。Cheng He、Shihua Huang和Ran Cheng隶属于广东省进化智能系统重点实验室、南方科技大学计算机科学与工程系;Kay Chen Tan隶属于香港城市大学计算机科学系;Yaochu Jin隶属于英国萨里大学计算机科学系。该研究发表在《IEEE Transactions on Cybernetics》期刊上。

学术背景
本研究属于多目标优化(Multiobjective Optimization, MOPs)领域,旨在解决具有多个冲突目标的优化问题。近年来,基于机器学习模型驱动进化算法的研究逐渐增多,但这些方法在高维决策空间中表现不佳,主要原因在于训练数据需求量随决策变量数量增加而指数增长(即维度灾难)。此外,传统进化算法中的遗传操作(如交叉和变异)无法显式地从环境中学习,导致生成的后代解质量有限。为了解决这些问题,作者提出了一种基于生成对抗网络(Generative Adversarial Networks, GANs)的多目标进化算法(GMoEA)。GANs是一种强大的生成模型,能够通过对抗学习机制高效学习高维分布,并且其生成样本的能力使其成为解决高维MOPs的理想工具。

研究流程
该研究的工作流程包括以下几个主要步骤:

  1. 候选解分类(Solution Classification)
    在每一代进化过程中,首先将当前种群中的候选解分为两组:高质量解标记为“真实样本”(real samples),低质量解标记为“假样本”(fake samples)。分类依据是改进的强度Pareto选择策略(Improved Strength Pareto based Selection),通过计算适应度值和密度信息来区分解的质量。

  2. 模型训练(Model Training)
    使用分类后的样本训练GANs。生成器(Generator)和判别器(Discriminator)均采用前馈神经网络结构。训练过程中,判别器使用真实样本、假样本以及生成器生成的样本来更新参数,而生成器则通过对抗学习机制生成更接近真实分布的样本。为了提高训练效率,作者提出了一种新的训练方法,利用多元正态分布增强数据生成能力。

  3. 后代生成(Offspring Reproduction)
    后代解通过混合繁殖策略生成,即以相等概率使用GANs生成后代或通过传统遗传操作(交叉和变异)生成后代。这种混合策略平衡了算法的开发(exploitation)和探索(exploration)能力。

  4. 环境选择(Environmental Selection)
    将父代和子代解合并后,通过环境选择策略选择下一代种群。选择过程基于非支配排序和密度估计,确保种群的多样性和收敛性。

  5. 终止条件
    算法运行至达到预设的目标函数评估次数(Function Evaluations, FEs)为止。

主要结果
研究对GMoEA进行了三组实验,验证了其性能:

  1. 模型训练方法的有效性
    通过对IMF4和IMF7问题的测试,发现改进的GANs训练方法显著提高了后代解的质量。在IMF4中,改进的GANs生成的后代解分布更广且收敛性更好;在IMF7中,改进的GANs在高维决策空间中仍能生成高质量解。

  2. 整体性能比较
    GMoEA与六种代表性多目标进化算法(NSGA-II、MOEA/D-DE、MOEA/D-CMA、IM-MOEA、GDE3和SPEA2)在10个基准问题上进行了比较。统计结果显示,GMoEA在IGD(Inverted Generational Distance)和HV(Hypervolume)指标上均优于其他算法,尤其是在高维决策空间问题中表现出色。

  3. 混合策略的有效性
    对比纯遗传操作(GMoEA*)、纯GAN操作(GMoEA−)和混合策略(GMoEA),发现混合策略在几乎所有测试实例中均表现最佳,证明了GAN操作与混合策略的有效性。

结论与价值
GMoEA在解决高维多目标优化问题方面表现出显著优势,其科学价值在于结合了GANs的强大生成能力和进化算法的全局搜索能力,克服了传统模型驱动进化算法在高维空间中的局限性。应用价值体现在其可广泛应用于复杂优化问题,如深度神经网络结构学习、建筑设计中的能源效率优化以及认知空间通信等领域。

研究亮点
1. 提出了一种新颖的基于GANs的多目标进化算法(GMoEA),首次将GANs引入多目标优化领域。
2. 设计了一种新的GANs训练方法,通过多元正态分布增强数据生成能力,减少了训练数据需求量。
3. 提出了混合繁殖策略,有效平衡了算法的开发和探索能力。
4. 在高维决策空间问题中表现出优异性能,解决了传统方法的维度灾难问题。

其他有价值内容
研究还探讨了GMoEA的运行时间成本,虽然其运行时间约为标准IBEA的五倍,但通过使用高性能GPU可以进一步优化。此外,作者指出,GMoEA的模型结构可根据具体问题进行调整,以适应不同的优化场景。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com