一种处理开放世界新奇事物的神经符号认知架构框架

论文背景

传统的人工智能研究假设智能体工作在”封闭世界”中,即环境中所有与任务相关的概念都是已知的,而不会出现新的未知情况。然而,在开放的真实世界中,总会出现违背智能体先验知识的新奇事物。本文提出一种新颖的混合神经符号推理架构,赋予智能体检测和适应新奇事物的能力,从而能在开放世界中完成任务。

新奇事物的定义

本文将新奇事物视为一种智能体相关的概念。如果智能体无法从其知识库中推导出某一事物的表征,那么该事物对于该智能体而言就是新奇的。根据新奇事物对智能体完成任务的影响程度,文中将新奇事物分为以下几种类型:

• 禁止性新奇事物:智能体必须表征并推理这种新奇事物,才能够生成能完成任务的计划。
• 阻塞性新奇事物:会导致智能体执行器执行失败。
• 有益新奇事物:掌握这种新奇事物可以让智能体更有效地完成任务。
• 无关新奇事物:对任务完成无影响,但可能会增加代价。

神经符号认知架构

文中提出了一种神经符号混合架构,用于检测和适应新奇事物。该架构包括以下几个主要组件:

符号推理

• 知识库:存储符号状态描述、规则和算子。
• 任务规划器:根据目标状态生成行动计划。
• 目标管理器:监测状态与预期的差异,检测禁止性和阻塞性新奇事物。

神经推理

• 视觉模型:使用深度自动编码器检测视觉上的新奇事物。
• 智能体模型:使用行为克隆建模其他智能体的行为,检测其行为异常。

新奇性探索

• 包含符号探索算法和强化学习探索器。
• 在探测到新奇事物后,生成恰当的探索策略,学习如何适应新奇事物。

评估

本文在Polycraft沙盒环境中对架构的各个组件和整体系统进行了综合评估。实验设置了各种新奇场景,智能体需要检测并适应新奇事物以完成制作”蹦蹦棍”的任务。评估指标包括:

• 新奇事物检测性能:假阳性率、真阳性率等。
• 任务完成性能:在引入新奇事物后,智能体完成任务的能力。

评估结果表明,所提出的架构能够高效地检测和适应大部分新奇事物,在引入新奇事物后仍能保持较好的任务完成能力。

总结

本文提出了一种混合神经符号认知架构,赋予智能体在开放世界中检测和适应新奇事物的能力。该架构结合了符号规划、反事实推理、强化学习和深度计算机视觉等技术,能有效探索未知情况并更新知识库。在Polycraft环境中的评估表明,所提出的架构在处理新奇事物方面表现出色。该工作为开放世界人工智能系统的发展提供了有价值的解决方案。