7 月 15 日,具身智能创业企业星尘智能发布第二代具身基座模型 Lumo-2,以及面向长期人机共处的物理 AI 智能体 Philia。
在星尘智能的技术框架中,这两项发布分别对应「AI 模型」与「具身 OS」,再与其绳驱机器人本体结合,构成公司所强调的「AI 模型—具身 OS—绳驱本体」三层体系。在这个体系中,具身基座模型 Lumo-2 试图改善机器人理解物理变化、预测未来并生成动作的能力,物理 AI 智能体 Philia 则负责把模型、记忆、交互、导航和多个机器人组织成一套长期运行的系统。
鉴于具身智能技术多少有点晦涩,这里不妨打个比方:在动漫作品《海贼王》里,有一项能力叫「见闻色霸气」,这种能力可以帮助使用者感知其他的存在、情绪与行动意图;更高级的使用者甚至可以看到短暂的未来。
Lumo-2 这个模型的核心不同,有点类似于「见闻色」,能够根据当前的视觉观察,机器人自身状态,语言指令和过去一段时间的动作历史,来推测动作目标最可能出现的物理变化,做概率性的短期物理预测,进而帮助动作的执行。
在行动之前,先预测世界会怎样变化
星尘智能将 Lumo-2 称为「家庭隐式世界—动作模型」,英文为 Latent World-Action Model。
从实际展示来看,Lumo-2 覆盖了超过 22 项家庭任务,包括接住滚落的球、将杯子放到旋转杯架上、煎鸡蛋并颠锅翻面、称取 500 克小米、磨粉制作咖啡、调制饮品、给礼盒打蝴蝶结、整理行李箱并拉上拉链、熨烫和悬挂衣服等。
这些任务看起来都属于「家务」,对机器人能力的要求却并不相同。
接球和抓取滚动鸡蛋需要理解物体运动趋势;倒水、煎蛋和洗碗要求判断任务进行到了哪个阶段;行李装箱和制作咖啡包含较长的动作链条;蝴蝶结、拉链、茶包等任务,则对双手协调和精细控制提出了更高要求。
传统 VLA 模型(视觉--语言--动作模型)通常根据视觉观察和语言指令直接输出动作。机器人看到杯子,收到「把水倒进茶壶」的指令,模型便生成机械臂接下来的一段轨迹。
这种技术方案也比较成熟,不过也容易产生一种「反射式」局限:模型学习了某种视觉输入通常对应什么动作,却不一定明确理解,这个动作将令环境发生怎样的变化。
Lumo-2 会在观察与动作之间加入了一层「潜在世界动态」,模型先在压缩的隐空间中预测与任务有关的未来变化,再根据这份未来变化生成动作。
这个预测并非生成一段完整视频,因为完整的视频预测需要重建大量像素,其中包括背景、光线、纹理等与控制关系有限的信息,需要的算力成本也相对较高。Lumo-2 试图保留的预测是与行动有关的物理变化,例如物体将向哪里移动、容器是否仍在倾倒、手与物体将发生怎样的接触,以及任务即将进入哪个阶段。
可以把它理解为一份面向行动的「未来草稿」。
这让 Lumo-2 位于 VLA 和完整视频世界模型之间:它保留了世界模型「先预测后行动」的思路,又将预测限制在更轻量、更接近控制需求的潜在空间里,星尘智能发表的论文将这一过程称为 latent reasoning 隐式推理。
星尘智能的上一代 Lumo-1 更多依赖显式文本推理,将复杂任务拆成文字步骤。文本规划便于解释,不过文字有自身的局限性,很多信息无法通过文字精准描述,面对快速连续控制时却存在推理延迟和表达容量上的限制。Lumo-2 将这部分推理转移到隐空间,希望在减少 token 生成的同时,捕捉更加连续的时空变化。
在倒水任务中,Lumo-2 的优势可以直观体现,因为透明的水倒出之前和倒完之后,单帧图像可能非常相似;机器人只看当前画面,很难判断应该继续倾倒,还是将容器放回桌面。
Lumo-2 因此引入一段短期动作历史,让模型结合此前做过什么,判断当前处于哪个阶段。这相当于为策略增加一种紧凑的「动作记忆」,避免单帧观察造成的状态混淆。
Lumo-2 的另一项关键变化,是重新处理动作表征。机器人动作通常是一组连续信号,例如机械臂位姿、旋转角度、速度和夹爪开合程度。过去不少模型会将这些信号压缩成动作 token,训练目标主要是尽可能准确地还原原始轨迹。
但星尘智能认为,动作还原得准确,并不必然意味着实际控制效果更好。
一个动作编码器可能非常擅长保存低层信号细节,却没有理解动作与物体、任务和语言之间的关系。模型在训练集上的重建误差很低,真正进入新环境后仍可能表现不稳定。
这就是为什么一些具身智能机器人在实验室或者固定场景的演示里表现优异,但进入到了真实家庭或者工厂场景就不知所措的原因。
为此,Lumo-2 采用三阶段渐进式训练。
第一阶段先让动作与视觉世界变化对齐。模型同时观察前后两个时刻的画面和对应动作,从视觉变化中筛选与物理运动有关的信息,并用动作反过来约束视觉表示。这样可以减少光照变化、背景扰动等无关因素对世界动态表示的影响。
第二阶段将动作进一步与视觉和语言对齐。动作 token 除了记录位移、旋转和夹爪状态,还需要逐渐具有「拿起杯子」「继续倾倒」「将物品放入背包」等语义关系。训练任务包括动作描述、动作预测、世界动态预测,以及判断动作与当前视觉和指令是否匹配。
第三阶段再把视觉语言数据、互联网视频、第一人称人类视频和机器人数据放在一起联合训练,让模型同时学习世界知识、物理变化和动作生成。
这套流程背后的判断逻辑是:动作应当和图像、语言一样,被当作基座模型中的一种核心模态,而不是在视觉语言模型末端临时增加的输出接口。
为满足实时控制需要,Lumo-2 还采用分块自回归生成,一次预测一组动作 token,而非逐个生成。Lumo-2 的技术论文显示,在单张 RTX 5090 上,其端到端延迟由约 253.66 ms 降至 93.53 ms。
在实验中,团队将真实任务划分为时序推理、物理理解、动态场景、长流程、高精度和灵巧操作等类别。根据论文数据,Lumo-2 在这些任务中整体优于 π0.5 和 Fast-WAM 等基线;在未见语言指令和未见物体条件下,也表现出更高的任务成功率。
具身智能开始进入「系统工程」阶段
具身基座模型 Lumo-2 解决的是机器人怎样完成任务,物理 AI 智能体 Philia 关注的点是用户在使用具身智能机器人时怎么获得良好的体验。
虽然具身智能技术还在探索期,几乎没有什么 C 端用户,考虑用户体验还为时过早,但未雨绸缪嘛,先考虑的有先发优势。
目前多数机器人仍然围绕单次技能调用设计,用户通过特定 App 或控制台下发命令,一台机器人对应一套软件和账户,执行结束后,系统对用户偏好、历史任务和其他机器人通常没有连续认知。
Philia 希望将机器人重新定义为一个智能助理能够调用的「物理执行者」。
用户可以触达的最上层是飞书、微信、语音和网页等用户界面;中间层是 Agent 控制平面,负责理解意图、调用记忆、拆解任务、选择机器人和匹配能力;底层则是每台机器人的本地运行时,负责感知、导航、模型推理、轨迹执行和安全控制。
在这个结构中,Agent 决定「做什么」,机器人本地系统负责「怎样做」。
连接两者的关键,是 Robot Gateway,也就是机器人网关。每台机器人通过网关公开一组标准能力,例如观察场景、执行操作、导航、播报、查询状态和取消任务。
这种设计与软件 API 类似:底层实现可以持续替换,只要对外接口保持稳定,上层交互、记忆和任务系统便不需要重新开发。
例如,用户在飞书中说「把玩具装进书包」,智能体 Philia 可以先确定哪台机器人具备对应能力,再调用本地部署的 Lumo-2 背包装填策略。未来
模型升级后,只需替换底层策略,用户面对的助理身份和交互方式仍然保持连续。
长期记忆是 Philia 与普通机器人控制系统的重要区别。比如说,用户此前告诉系统,自己早餐通常吃三明治和浓缩咖啡,之后用户只需说「把我平时早餐吃的食物放进托盘」,Philia 便可以从记忆中找到相关偏好,再结合机器人当前看到的桌面,选择三明治作为目标。
Philia 还支持将多台机器人组织在同一个助手身份下。用户可以同时下达「Alice 整理桌面,Bob 提起垃圾袋」这样的命令,系统分别解析机器人名称、能力和任务,将指令发送给不同网关,并独立追踪执行状态。
从用户视角看,自己始终在和同一个助理交流;多台机器人相当于这个助理能够调用的不同身体。这种统一身份和多本体设计,比「每台机器人拥有一个独立 App」更接近未来家庭设备生态,也意味着智能体可能逐渐从单个硬件中脱离出来,成为跨设备存在的服务层。
Lumo-2 与 Philia 同时发布,呈现了两条相互补充的技术路线。
Lumo-2 继续向下深入:研究机器人如何通过隐式世界动态理解物理变化,利用更多数据,并生成更稳定的动作。
Philia 则向上扩展:研究怎样将操作模型、导航、记忆、交互和多台机器人整合为一个能够长期服务用户的系统。
如果以智能手机为例的话,一部智能手机的使用体验,一方面是硬件水平,性能好不好,屏幕靓不靓,影像强不强;另一方面是系统优化,流畅与否,省不省电,聪不聪明等等。
星尘智能发布的两个技术成果大概就是分别对应模型能力与系统体验,也就是说,起码在技术上,具身智能开始进入「系统工程」阶段,机器人进入家庭,一段漂亮的演示视频已经远远不够打动人了,一套可以持续升级、可以被打断、能够记忆,也能够对真实世界负责的完整系统才是准入门槛。