AIGC与大模型赋能机器人智能控制

01AIGC简介

• 介绍了生成模型的发展历程，从变分自编码器（VAE）到扩散模型（Diffusion Models），强调了扩散模型在生成任务中的强大能力。
• 讨论了正态化流和生成对抗网络（GAN）的局限性，并提及了扩散模型在强化学习（RL）中的应用，如基于流式循环信念状态学习的POMDPs方法。
• 详细解释了扩散模型的工作原理，包括正向扩散过程和逆向去噪过程。

02Adaptdiffuser

• 提出将强化学习问题转化为轨迹生成任务，并使用扩散模型进行轨迹生成。
• 介绍了如何将无条件轨迹模型转换为条件策略，通过引导函数（guidance functions）实现多样化任务。
• 讨论了扩散规划面临的挑战，如受限于训练数据的分布，难以适应新任务、目标和环境。
• 提出了AdaptDiffuser框架，利用ChatGPT生成多样化任务，并通过实验验证了其有效性。

03具身智能简介

• 介绍了具身智能（Embodied AI）的概念，即人工智能系统与物理身体或机器人平台的结合，使其能够像人类一样感知和交互物理世界。
• 指出具身智能面临的三大挑战：构建具身认知系统、实现高度自主的决策规划能力、以及实现目标条件下的物理交互。

04EmbodiedGPT

• 介绍了EmbodiedGPT的三个关键步骤：
  1）构建人类操作视频-文本数据集EgoCOT，通过多模态认知链将视觉信息与操作任务的子目标关联。
  2）引入基于多模态认知链的视觉语言预训练方法。
  3）利用自注意力机制提取当前视觉观察和规划子目标的 highly relevant features，使模型能够通过少量演示数据学习低级控制。