在具身智能与边缘 AI 加速落地的当下,消费级四足机器人正从实验室原型走向真实场景部署。对一台要在设备端同时运行环境感知、决策规划与运动控制的机器人来说,除了算力,内存同样是决定产品稳定性、部署成本与功能扩展空间的关键资源。
近期,元思无界基于 NVIDIA Jetson AGX Orin 平台推进消费级四足机器人项目,依托平台的内存管理能力,从系统层与模型层开展联合优化,在不损失核心感知与控制能力的前提下,将整体内存使用量从 45GB 降至 30.6GB,释放内存空间 14.4GB,整体降幅达 32%。
这一成果不仅显著提升了设备的资源利用效率,也为后续算法迭代、功能叠加和产品规模化部署,释放了更充足的空间。
一、项目挑战:功能越强大,内存越紧张
消费级四足机器人在设备端需要同时承载感知模型、实时控制等复杂任务。随着功能持续叠加,优化前整机内存使用量达到 45GB,给产品落地带来多方面压力:
- 系统可用资源被不断压缩,后续功能扩展空间受限;
- 多任务并发运行时,系统稳定性与运行余量承压;
- 模型与应用升级的空间受限,影响量产节奏;
- 资源余量不足时,产品在不同场景下的适配难度增加。
因此,如何在不影响核心感知与控制能力的前提下进一步降低内存占用,成为项目推进落地的关键课题。
二、解决方案:从系统到模型的联合优化,把每一分内存都花在刀刃上
本次优化不是“头疼医头”的单点调整,而是一条从底层到应用层的联合优化路径:先算清系统真实内存需求 —— 系统层涵盖 carveout 与静态预留、page cache 与脏页、进程匿名内存预算、连续内存预分配,模型层聚焦量化压缩 —— 再两端同步压降,最后以运行态监控守住余量、防止反弹,避免“只优化一处、整体收益有限”。
依托 NVIDIA Jetson AGX Orin 平台,本次优化不做单点参数调整:先以系统层闭合账本算清真实占用,再锁定 carveout 优化与模型量化压缩两大核心方向,配合缓存治理、进程预算与运行态监控,形成从底层到应用层的联合优化闭环。
两项核心优化方向
- Carveout 优化:盘活被“预留”的内存
系统启动时会为各类任务预先留出专用空间,其中一部分长期闲置。项目组从系统内存规划入手,梳理 CPU/GPU reserve、dma-buf/CMA 等静态预留,削减非必要预留和过度保留,把原本被预留锁死、却未被业务实际使用的空间释放给真实负载。对于需要长期稳定运行、同时承载多个功能模块的机器人系统,这类底层规划优化能有效提升整体资源利用效率。 - 模型量化优化:给 AI 模型“瘦身”
在模型侧采用量化优化策略,在兼顾业务精度目标的前提下,压缩模型运行所需内存,让 AI 模型在设备端更轻巧地运行。模型量化与系统侧 carveout、缓存治理相互配合,使整体优化不再局限于单点。
五项系统级配套优化
- 先理清内存用途:建立六科目闭合账本
把内存用途逐项盘点清楚,建立系统层六科目闭合账本:free 真实空闲、业务进程匿名页 (按进程去重,不按线程重复累加)、内核、GPU/dma-buf 预留、file page cache 残值以及其他杂项。六科目加总与总容量闭合核对,先把“业务真正需要的匿名内存”与“可回收的 page cache、slab 等虚占”分开,避免误把可回收缓存判为内存泄漏,确保优化动作精准对准真实占用来源 —— 既不放过浪费,也不误伤正常缓存。 - 管好临时缓存,避免越积越多:page cache 与脏页治理
针对数据录制与日志落盘产生的大块文件读入 (data-collect 场景),优化写盘与缓存策略,控制 page cache 膨胀与脏页堆积,避免瞬时大块分配只能依赖内核强制回收 cache 买单,从而消除回收延迟导致的系统卡顿。 - 给每个功能模块定下“内存额度”:进程匿名内存预算与稳态基线
对语音、行人检测、相机编解码、ToF 传感、数据录制、BEV 检测、融合、规划、运动控制等主要模块,按进程去重统计 RSS 与匿名页,分别建立内存预算配额与稳态基线,一旦发现某个模块持续超支、单点持续增长,及时收敛,防止匿名页锁死累积。 - 提前备好“整块专用空间”:连续内存预分配
影像编码与 AI 计算需要大片连续内存,项目组对编码器、GPU 所需的连续内存进行预分配与内存池管理,使瞬时大块分配不再临时向系统申请连续物理页,从源头避免触发 kswapd 强制回收与调度队列抖动,让多任务并发运行更平稳、更实时。 - 装上“水位表”和警报器:运行态监控与水位判据
持续采集 meminfo、zoneinfo、slab 与 PSI 快照,以 available 与 PSI memory 作为内存水位判据 (而非只看 free),并设置异常增量、强制回收与 OOM 告警,保证优化成果在长期使用和功能持续叠加之后依然稳定、不反弹。
三、实施路径:四步形成闭环
项目按协同方式推进:第一步,全面识别系统级内存压力来源,明确优化重点;第二步,依托 Jetson 平台的内存配置能力,从底层 carveout 配置与静态预留入手,释放被闲置预留占用的资源;第三步,同步推进 page cache 治理、进程匿名内存预算、连续内存预分配与模型量化压缩;第四步,通过联合验证与运行态监控形成闭环,确保优化结果经得起长期真实运行的检验。
四、优化成果:占用下降 32%,支撑硬件档位降配
经过系统层与模型层的联合优化,项目取得了明确、可量化的成果:
| 指标 | 数值 |
| 优化前内存使用 | 45 GB |
| 优化后内存使用 | 30.6 GB |
| 释放内存空间 | 14.4 GB |
| 整体降幅 | 32% |
优化后稳态占用 30.6GB,已落入 32GB 档容量区间。在常态化治理与监控保障下,整机内存可长期稳定保持在 32GB 档内并保留安全余量,由此支撑硬件配置由 64GB 档降配至 32GB 档 —— 在不损失核心感知与控制能力的前提下,降低硬件成本、提升边缘部署的灵活性。
五、价值与可复用经验
- 支持更丰富的应用功能与算法迭代;
- 为系统长期稳定运行保留更充足的安全余量;
- 提升边缘部署的灵活性与可持续扩展能力;
- 为后续量产与商业化落地夯实工程基础。
这套“闭合账本定位 — 底层预留释放 — 缓存与进程预算治理 — 连续内存预分配 — 模型量化 — 监控闭环”的联合优化方法,同样可复用于四足机器人、AMR、工业机器人等端侧多模型并发场景。
结语
从 45GB 到 30.6GB,这组数字背后,是元思无界围绕消费级四足机器人产品落地所做的一次扎实系统优化实践:通过 carveout 与静态预留精简、page cache 与进程预算治理、连续内存预分配与模型量化相结合,在 NVIDIA Jetson AGX Orin 平台上显著降低内存占用,并在治理闭环保障下将稳态占用稳定压入 32GB 档,为四足机器人产品释放出更大的部署与演进空间。
关于元思无界
元思无界 (TOPBOT,原名:桦之坚) 成立于 2025 年 8 月,总部位于上海长宁,团队超 400 人,研发人员占比 87%。公司构建七大平台全栈自研底座;集团旗下四足机器人产品累计订单超 1,200 台,并为 1X 提供关键模组与整机代工。
