父女七日变

1.5B开源通用VLA模型，冲进具身智能第一梯队_我的网站

A |     金磊 发自 上海          量子位 | 公众号 QbitAI          一个新的国产VLA模型诞生了，而且只有1.5B。         Size这么小，能好用吗？          来，话不多说，我们直接看效果：          视频地址：     https://mp.weixin.qq.com/s/TWDuh4NmsamJ52E2A6ZpTw          在上面这个真机演示里，两只机械臂围着桌面开始做三明治。它们分工合作，先取面包，再夹起生菜、火腿和鸡蛋，一层层叠到一起。    

。         这项能力对真实机器人很重要。         叠衣服、收拾桌面、做三明治，看起来都是日常小事，拆开后却包含一连串动作。机器人只看眼前，很容易做到一半便“失忆”；能记住此前的状态，才有机会把长任务完整做完。         除了记得住，机器人还得反应快。         面壁给出的单帧推理对比中，在H100显卡、bf16精度下，MiniCPM-RobotManip单次决策延迟约为120毫秒，π0.5约为234毫秒，前者接近后者的一半。

K |          这里的“成本减半”，主要是体现在推理延迟和计算量上。         聊天模型多想一秒，用户通常还能等。机械臂每做一步都停顿一秒，动作马上就会变得僵硬，整个任务的完成时间也会被拉长。         对VLA来说，能不能在有限算力下快速输出下一步动作，和榜单分数一样重要。         MiniCPM-RobotTrack也走了类似的小尺寸模型路线。         它以MiniCPM4-0.5B为基础，整体参数规模为0.9B，主要测试三种真实场景。         第一种是单目标跟踪。

L | 给它一句明确指令，机器狗持续跟着指定的人。         第二种是多人干扰。周围几个人同时移动、交叉甚至交换位置，模型依然要认准最初的目标。         第三种更难，指令本身可能比较模糊。比如只说“跟着穿黑衣服的人”，现场又恰好有多个穿着相近的人，模型需要结合画面理解人类到底指的是谁。         在没有进行下游强化学习优化的情况下，MiniCPM-RobotTrack在三类任务上的追踪率分别达到89.8%、73.4%和80.4%，均取得开源方案中的最优结果。         相比OpenTrackVLA，三项追踪率分别提高7.0、14.6和6.5个百分点。

M |          在相同的单视角、纯SFT设定下，与闭源模型TrackVLA++相比，它在单目标跟踪和模糊目标跟踪上的追踪率分别高出8.8和17.0个百分点，模糊目标跟踪的成功率达到58.0%。         参数小，表现却没有明显掉队。         机器人模型的竞争，也开始从单纯拼规模，转向拼单位算力到底能换来多少能力。         把机器人看到的世界压缩一下          MiniCPM-RobotManip能把尺寸压到1.5B，背后离不开面壁过去在多模态模型上的积累。

N |          它基于MiniCPM-V 4.6训练而来（开源不到2个月，下载量已突破200万）。         面壁的MiniCPM-V/O系列已经持续迭代两年多，开源总下载量超过2500万。过去积累的图像理解、视频理解和多模态信息处理能力，如今被进一步搬到了机器人身上。         机器人执行一次动作，需要处理的信息其实很多。         一台双臂机器人通常会同时接收三个摄像头的画面，包括两个腕部相机和一个主视角相机，再加上一段文字指令，最后输出一个可以执行的动作。

o |          而且，这个过程一秒要重复好几次。         如果每一张图片都被转换成大量视觉Token，机器人运行得越久，需要处理的历史信息就越多，计算量很快就会堆起来。         MiniCPM-RobotManip采用的办法，是尽量压缩视觉Token。         桌面纹理、墙面图案等和当前任务关系不大的信息，不必占用太多Token。模型用更短的数据表示保留关键内容，单次推理需要处理的信息量也随之下降。         信息少了，推理自然更快。

p | 对应到机械臂上，就是等待时间更短，动作衔接更顺。         视觉Token压缩还有一个更大的用处，可以帮助机器人以更低成本保留历史记忆。         常规方法每获得一张新画面，都要把此前的历史重新计算一遍。任务越长，计算量增长得越快。         MiniCPM-RobotManip采用流式计算，前面已经处理过的信息可以继续复用，新画面进来后，只需要接着往下计算。

q |          这就有点像看连续剧的感觉了。         普通做法每更新一集，都要从第一集重新看起；流式计算则会记住之前的剧情，直接从最新一集接着看。

r |          机器人因此可以带着更长的历史继续执行任务，同时避免计算量一路暴涨。         1.5B的尺寸，也和机器人的实际运行需求有关。         面壁在将约200毫秒视为机器人操作体验的一道临界线。

s | 再慢下去，机械臂和机器狗的卡顿感就会明显增加。         当前多数VLA基础模型都控制在4B以内。模型继续做大能带来多少真实操作收益，行业仍在验证。          作者声明：该图片由AI生成          到了MiniCPM-RobotTrack这里，轻量化的思路又换了一种实现方式。         它把视觉画面、自然语言指令和机器人的控制决策放进同一个模型里统一处理。         用户说一句“跟着前面穿黑衣服的人”，模型会直接结合摄像头画面理解指令，再把判断转换成机器狗的运动控制。         整个过程不需要额外安装一套目标检测模块、一套识别模块，再接一套跟踪系统。也不用外接开发板，只靠宇树Go2 Edu原装摄像头和本地算力，就能完成单目标跟踪、多人干扰跟踪和模糊目标跟踪。         不过，真实世界总会出现训练集里很少见的情况。         目标可能突然从镜头前横穿过去，也可能快速转弯，被其他人短暂挡住。几个人同时交叉走动时，机器狗还要避免跟错人。         这类场景数量少，却最容易让模型翻车。所以，面壁为此搭建了一套自进化数据管线。         团队先对原始数据进行检查和清洗，把异常轨迹、错误动作和无效交互剔除掉。

t | 随后让模型进入仿真和真实机器人环境，在持续运行中主动暴露自己的薄弱环节。         系统再把这些容易出错的场景集中收集起来，通过专家策略进行纠偏，放回下一轮训练。         说得通俗一点，这就像给机器狗准备了一本会自动更新的错题本。         经过一轮轮闭环训练，目标横穿、快速转向、短时遮挡、多人交叉这些长尾问题，也能不断得到加强。         模型训好了，装到真机上仍然有一道关。         摄像头采集、画面编码、模型推理、动作生成、指令传输，任何一个环节慢下来，最终都会反映在机器狗的动作上。         面壁围绕宇树Go2的完整运行链路做了系统级优化。目前MiniCPM-RobotTrack在机器狗原生本地算力上可以稳定达到5Hz以上，端到端响应延迟约180毫秒。

u |          这次开源的内容也不只有模型权重，还包括环境安装、模型加载、摄像头接入、文本指令输入、控制接口和一键启动脚本。         准备一台Go2 Edu，就能按照开源流程把模型部署起来。         本地部署的好处，在电梯和停车场的演示里体现得很直接。

v |          机器人不用等待画面上传云端，也不用等远程服务器返回结果。摄像头数据和用户指令留在本地，网络信号变差后，完整功能依然可以继续运行。         直接拔掉网卡，机器狗照样能根据摄像头画面和文字指令，完成目标识别、持续跟踪和运动控制。         除了MiniCPM-Robot系列之外，这次还有一项容易被忽略的发布——PhyAI。

w |          它是一款面向Physical AI的开源推理框架，由明体科技联合北京邮电大学、北京大学研发。         具身模型想从实验室跑到真实机器人上，中间还要经过硬件适配、量化、算子优化和部署。         不同VLA、世界模型的结构差异很大。每发布一个新模型，再从头适配一次，时间和工程成本都不低。         PhyAI想做的，就是把这段路缩短。         在RTX 5090上运行π0、π0.5和GR00T时，PhyAI相较模型官方仓库分别实现约2.85倍、1.82倍和2.28倍加速。         适配MiniCPMRobot系列模型时，PhyAI先通过CUDA Graph把推理帧率从10.12Hz提高到33.28Hz，再加入为模型定制的融合算子，在NVIDIA H20上进一步提高到36.77Hz。         前面是模型效果，这里解决的是工程效率。         模型能干活，还得尽快跑上硬件，跑得足够快，才能真正进入更多机器人。

x |          机器人需要又好又便宜的大脑          具身智能行业从来不缺精彩Demo。

y | 真正难的是离开展台之后，机器人还能不能稳定工作。         清华大学人工智能学院助理教授、面壁智能多模态首席科学家姚远在访谈中也提到：          现阶段不少机器人Demo会围绕单一任务采集大量数据，再进行针对性优化，展示效果并不能完全代表基础模型的真实进度。面壁更看重模型的基础性、泛化性和通用性，希望先把数据、Infra和工程链路打磨好，让基础能力提升后自然覆盖更多场景。沿着大语言模型的发展经验，具身智能最终也要走向“先通后专”，先理解物理世界的基本常识，再成为做饭、叠衣服或仓储作业等具体领域的专家。

z |          展馆、园区和工厂里，网络信号不会一直满格。机器人还要面对隐私、数据合规、任务失败和异常恢复等一连串现实问题。         榜单分数再高，走到地下停车场便停摆，落地空间依然有限。         这也是面壁把端侧能力放在重要位置的原因。         在与乐聚机器人的合作中，面壁把端侧多模态大模型、夸父机器人本体和导航系统组合到了一起，推出展厅导览Agent和园区巡检Agent。

|          展厅导览机器人在无网环境下，也能基于本地知识库完成离线讲解和自由问答。它可以理解展厅环境和人的指令，规划导览路线，同时完成避障。         园区巡检机器人则可以识别车辆违停、路面异常和公共设施问题。

| 敏感画面直接在本地处理，数据留在客户侧。         与吉利汽车的合作，则进一步走进了生产仓储场景。         面壁和吉利共同训练VLA模型，再通过RoboHarness把VLM、VLA、机器人本体和导航系统接到一起，让机器人执行仓储中的长程任务。         RoboHarness可以理解成物理世界里的Agent执行框架。         上层VLM负责规划任务，VLA和导航系统作为可以调用的工具。框架还会管理长任务的上下文和记忆，遇到失败时进行重试和恢复。         机器人每完成一次任务，运行数据还会进入可治理的数据闭环，继续帮助模型进化。          作者声明：该图片由AI生成          到这里，面壁此次在WAIC带来的具身智能路线已经比较清楚了。         MiniCPM-RobotManip负责操作，让机械臂理解任务、记住过程，再把事情做完。         MiniCPM-RobotTrack负责跟踪导航，让机器狗在复杂环境里认准目标，断网也能继续走。         PhyAI负责把模型更快地部署到真实硬件上。              再往外，乐聚和吉利的合作开始把模型、本体、导航和具体业务流程接起来。         大语言模型时代，人们习惯用参数量判断能力。

| 但机器人真正走进物理世界后，参数只是其中一个数字。

|          它还得反应够快、记得住、断网能跑，数据留得下来，遇到意外能够恢复，成本也要控制在企业愿意长期使用的范围内。         从这个角度看，1.5B和0.9B的意义，也就不止是“小”。它们更像是在回答一个很现实的问题：          当AI真正长出手脚，除了聪明，还得跑得动、用得起，最后把活干完。         GitHub链接：          https://github.com/OpenBMB/MiniCPM-Robot          HuggingFace链接：          https://huggingface.co/openbmb/MiniCPM-RobotManip          https://huggingface.co/openbmb/MiniCPM-RobotTrack。

Current article:http://msfe48q.minpinpengcemiuanjiuxuan.pics/w32c/fuh.html

Published on:12:03:34