分享自:

通过生物启发步态策略学习适应以实现多功能四足运动

期刊:nature machine intelligenceDOI:10.1038/s42256-025-01065-z

本研究由Joseph Humphreys(利兹大学机械工程学院)和Chengxu Zhou(伦敦大学学院计算机科学系)完成,于2025年7月11日在线发表于《Nature Machine Intelligence》期刊,卷号为第7卷,页码为1141–1153。

从学术背景来看,该研究属于足式机器人与深度强化学习(deep reinforcement learning, DRL)的交叉领域。四足机器人在复杂地形中的自适应运动长期面临挑战,而动物却能够在不同步态之间灵活切换以应对环境变化和动态扰动。当前大多数DRL运动控制方法仅依赖固定步态,导致其在变化地形和动态状态下的适应性受限。已有研究虽然实现了跳跃、攀爬等脱离弗劳德数(Froude number)约束的运动,但在更常见的弗劳德表征运动(如行走、小跑、奔跑等)中,大多数框架只能部署单一固定步态。生物力学研究表明,没有一种步态在所有场景下都是全局最优的,动物会通过步态转换策略、步态程序性记忆(gait procedural memory)和实时运动调整来实现高效且稳定的运动。然而,已有方法尚未同时整合这三类核心能力。为此,本研究旨在将步态转换策略、步态程序性记忆和自适应运动调整三种动物运动特征同时嵌入DRL框架,以提升四足机器人在未知地形中的适应性与通用性。

研究的主要工作流程包括三个核心模块的设计与验证。首先,研究构建了一个生物启发步态调度器(bio-inspired gait scheduler, BGS),其输出包含参考足端接触状态和参考足端笛卡尔位置,并利用Raibert启发式方法根据机器人状态实时生成步态参考。BGS还输出用于步态选择策略的压缩信息,包括步态固有稳定性指标和步态转换标志。其次,研究训练了一个运动策略π_l,其观察空间包含BGS生成的步态参考β_l和状态估计器输出s,从而在不需要外部感知的情况下实现多种步态的执行与实时调整。该策略通过奖励函数同时优化效率、速度跟踪、步态参考跟踪和稳定性,其中奖励项包括关节冲击最小化、足端接触误差和姿态偏差抑制等。第三,研究训练了一个步态选择策略π_g,以生物力学指标作为奖励函数的一部分,使机器人能够在不同地形和速度条件下自主选择最优步态。该策略将运输成本(cost of transport, COT)、关节力矩饱和率(τ%)、外部机械功(external work, W_ext)和足端接触跟踪误差(C_err_avg)进行统一优化,分别对能量消耗、执行器—结构力、机械功和稳定性进行表征。所有策略均使用Proximal Policy Optimization算法训练,并采用多层感知器网络结构,在Raisim仿真环境中完成训练和测试。

在实验验证方面,研究进行了多组对比实验。在运动策略评估中,与未使用BGS输出的基线策略相比,所提出的π_l^bio在平坦地形上的速度跟踪误差降低了15%,接触时间表跟踪误差降低了21%,基础姿态稳定性误差降低了10%。在粗糙地形上,基线策略频繁失败,而π_l^bio尽管仅在平坦地形上训练,却在所有试验中均成功完成,显示出对未知地形的强泛化能力。在步态选择策略评估中,π_g^uni在低速时主要使用小跑步态,在高速时切换为奔跑步态,并在加速过程中出现两种步态的振荡过渡,这与动物步态转换行为一致。在崎岖地形下,π_g^uni还会调用跳跃、蹦跳、跛行、缓行等辅助步态以恢复稳定性。雷达图显示,该统一策略在所有指标上的综合表现优于任何单一固定步态。在真实世界实验中,机器人在草地、松散木材、低摩擦板、泥泞草地等多种复杂地面上成功实现了全部七种步态的自主执行,并在失去稳定时通过切换辅助步态恢复平衡,例如在松木上因后足打滑导致的失稳中,π_g^uni自动切换至蹦跳和跳跃步态以完成恢复。

研究的主要结论是,通过将动物运动中的步态转换策略、步态程序性记忆和自适应运动调整三项核心能力同时集成到DRL框架中,机器人可以在不使用外部传感器且未在粗糙地形上训练的情况下,实现对复杂和高风险地形的自适应遍历。步态选择策略仅依赖内部感知即可完成最优步态切换,避免了视觉系统在检测地面摩擦力和前腿之外地形变化方面的局限性。值得注意的是,执行器—结构力指标(τ%)在实验中表现出与稳定性的强相关性,这提示该生物力学指标在稳定性表征方面的作用可能被以往研究低估。此外,π_g^uni在步态转换策略上与狗、马、负鼠等动物的实验数据高度一致,而仅优化单一指标的策略则无法完整再现动物的转换行为,表明只有通过多指标统一优化才能在机器人上复现动物步态转换的复杂性。

本研究的科学价值在于首次将动物运动的三大核心适应机制同时嵌入端到端DRL运动框架,并提出了一种基于生物力学指标的统一奖励设计方法,为机器人运动控制中的步态选择提供了新的理论依据。其应用价值在于该框架不依赖外部感知即可实现零样本真实世界部署,显著提高了四足机器人在未知地形中的鲁棒性和适应性,为未来在救灾、野外探测和复杂环境巡检等场景中的实用化应用奠定了基础。

本研究的亮点包括:首次同时整合步态转换策略、步态程序性记忆和自适应运动调整三类能力;利用BGS作为伪步态程序性记忆,实现了七种步态之间的平滑过渡与快速部署;步态选择策略仅依赖内部传感器即可在真实世界未知地形上实现接近动物行为的步态选择;通过统一多种生物力学指标,使机器人能够在未经过相关训练的情况下涌现出辅助步态用于稳定性恢复的行为。此外,研究还发现稳定性相关指标与执行器—结构力指标之间存在强相关关系,为后续生物力学假说的验证提供了机器人实验平台。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com