98. 逐篇讲解机器人基座模型和VLA经典论文——“人就是最智能的VLA”

今天的嘉宾是清华大学交叉信息研究院助理教授、星动纪元创始人陈建宇。他的研究和创业方向都是人形机器人。

大语言模型浪潮爆发后，学界和工业界看见了机器人从专用走向通用的可能迹象，机器人革命随之而来。其中，本轮革命最重要的是，对机器人底层架构，也就是机器人“大脑”的探索。

但通用机器人还在科学研究阶段，处于产业发展早期。这集节目，陈老师将带领大家，概览式阅读机器人基座模型和当下最前沿的架构VLA架构（Vision-Language-Action Model，视觉语言动作模型）的经典论文。

希望我们的节目能直观地帮助更多人靠近科学前线，感受技术之美，并且能直观感知当前技术拐点。

还是那句话：期待2025，我们和AI共同进步！

（因为因为，陈老师真的分享了很多很多的动图和视频，本集结合视频服用效果更佳噢！可以前往：含投屏的视频版本。嘿嘿！预祝你学得开心！学得顺利啦！）我们的播客节目在腾讯新闻首发，大家可以前往关注哦，这样可以第一时间获取节目信息和更多新闻资讯：）

02:30 陈建宇的研究和创业方向

04:11 讲解开始前，先提问几个小问题

17:36 当下最大变量：从专用模型到通用模型（robot foundation model）的可能性

21:12 大模型浪潮爆发后，机器人领域经历了两个阶段：从利用基础模型进行机器人研究（leveraging foundation models in robotics）到为机器人预训练基础模型（pretraining foundation models for robotics）

第一阶段：利用基础模型进行机器人研究（leveraging foundation models in robotics）

21:59 机器人传统三板块：Planning+Perception+Actuation（规划+感知+执行）——第一步，用LLM（Large Language Model，大语言模型）替代Planning

23:54 由Google Robotics团队提出的具身智能开创性论文Say Can《Do As I Can, Not As I Say: Grounding Language in Robotic Affordances》

（中文名：我能做到，而不是我说到：将语言与机器人的可供性相结合）

27:03 第二步，用VLM（Vision-Language Models，视觉语言模型）替代Perception

27:52 来自Google的论文《Inner Monologue: Embodied Reasoning through Planning with Language Models》

（中文名：内心独白：通过语言模型规划进行具身推理）

29:51 由清华和上海姚期智研究院提出的《DoReMi: Grounding Language Model by Detecting and Recovering from Plan-Execution Misalignment》

（中文名：DoReMi：通过检测和恢复规划-执行不一致来落地语言模型）

32:47 第三步，想把Actuation进一步自动化，用Code LM（专门用于代码相关任务的大型语言模型）来替代Actuation

32:24 由李飞飞团队提出的《VoxPoser: Composable 3D Value Maps for Robotic Manipulation with Language Models》

（中文名：VoxPoser：使用语言模型进行机器人操作的可组合3D价值地图）

第二阶段：为机器人预训练基础模型（pretraining foundation models for robotics）

38:36 VLA端到端模型（Vision-Language-Action Model，视觉语言动作模型）——“人是很智能的VLA Agent”

39:53 关于VLA的经典论文及分类：

40:17 Aloha论文《Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware》

（中文名：学习用低成本硬件进行精细双手操作）

47:36 Mobile Aloha论文《Mobile ALOHA: Learning Bimanual Mobile Manipulation with Low-Cost Whole-Body Teleoperation》

（中文名：移动ALOHA：使用低成本全身远程操作学习双手移动操作）

50:15 论文《A Generalist Agent》介绍了一个名为Gato的通用型人工智能代理

（中文名：通用型代理）

52:45 RT-1论文《RT-1: Robotics Transformer for Real-World Control at Scale》

（中文名：RT-1：机器人Transformer用于大规模现实世界控制）

59:02 Octo论文《Octo: An Open-Source Generalist Robot Policy》

（中文名：Octo：一个开源的通用机器人策略）

01:02:20 CrossFormer论文《Scaling Cross-Embodied Learning: One Policy for Manipulation, Navigation, Locomotion and Aviation》

（中文名：扩展跨具身学习：操控、导航、运动和飞行的统一策略）

01:06:58 字节跳动AI Lab的两个工作GR-1和GR-2：

《Unleashing Large-Scale Video Generative Pre-Training For Visual Robot Manipulation》（为视觉机器人操控释放大规模视频生成预训练模型）

《A Generative Video-Language-Action Model with Web-Scale Knowledge for Robot Manipulation》（用于机器人操作的网络规模知识生成视频-语言-动作模型》）

01:15:02 Palm-E论文《PaLM-E: An Embodied Multimodal Language Model》

（中文名：PaLM-E：具身多模态语言模型）

01:20:02 当前VLA最有名的开山工作：Google推出的RT-2论文《RT-2：Vision-Language-Action Models Transfer Web Knowledge to Robotic Control》

（中文名：RT-2：视觉-语言-动作模型将网络知识迁移到机器人控制中）

01:26:05 RT-X论文《Open X-Embodiment: Robotic Learning Datasets and RT-X Models》

（中文名：开放X具身：机器人学习数据集与RT-X模型）

01:31:16 《OpenVLA: An Open-Source Vision-Language-Action Model》（约等于开源版RT-2）

（中文名：OpenVLA：一个开源的视觉-语言-动作模型）

01:32:56 陈建宇课题组《HiRT: Enhancing Robotic Control with Hierarchical Robot Transformers》

（中文名：HiRT：利用分层机器人Transformer增强机器人控制）

01:38:40 Figure AI Helix，没发论文，但是今年Figure最新架构

01:39:28 Pi0论文《π₀: A Vision-Language-Action Flow Model for General Robot Control》

（中文名：π₀：一个视觉-语言-动作的流模型用于通用机器人控制）

01:41:36 英伟达最近发布的GROOT N1模型《GR00T N1: An Open Foundation Model for Generalist Humanoid Robots》

（中文名：GR00T N1：通用人形机器人的开放基础模型）

01:42:32 《Diffusion Policy: Visuomotor Policy Learning via Action Diffusion》

（中文名：扩散策略：通过动作扩散进行视觉运动策略学习）

01:47:39 清华发布的《RDT-1B: A Diffusion Foundation Model for Bimanual Manipulation》

（中文名：RDT-1B：双手操作机器人的扩散基础模型）

01:51:04 《Prediction with Action: Visual Policy Learning via Joint Denoising Process》（动作预测：通过联合去噪过程进行视觉策略学习）

和续作《Video Prediction Policy: A Generalist Robot Policy with Predictive Visual Representations》（视频预测策略：一个预测视觉表征的通才机器人策略）

02:03:06 两个未来方向：《UP-VLA: A Unified Understanding and Prediction Model for Embodied Agent》（UP-VLA：具身智能体的统一理解与预测模型）

《Improving Vision-Language-Action Model with Online Reinforcement Learning》（通过在线强化学习改进视觉-语言-动作模型）

02:09:22 最后的提问

【技术之美】系列：

逐句讲解DeepSeek-R1、Kimi K1.5、OpenAI o1技术报告——“最优美的算法最干净”

逐篇讲解DeepSeek关键9篇论文及创新点——“勇敢者的游戏”

逐篇讲解DeepSeek、Kimi、MiniMax注意力机制新论文——“硬件上的暴力美学”

【更多信息】

联络我们：微博@张小珺-Benita，小红书@张小珺

更多信息欢迎关注公众号：张小珺