AURA-Mem: 为机器人策略设计的恒定VRAM记忆机制

AURA-Mem: 为机器人策略设计的恒定VRAM记忆机制

Adrian Cole
24
original

针对机器人边缘设备上长时运行策略的KV-cache内存爆炸问题,AURA-Mem提出了一种恒定大小(仅4224字节)的循环记忆与门控机制,只在影响动作时写入,将VRAM占用固定化,避免了传统KV-cache随序列长度线性增长的限制。

大型语言模型在数据中心里用KV-cache管理注意力可说是天作之合——请求短、批量大、随时重置。但机器人领域的处境完全不同:一段任务可能持续数小时甚至数天,边缘硬件上高带宽内存稀缺,闪存写入寿命有限,内存带宽常常比算力更金贵。传统的KV-cache在这种场景下会无限膨胀,很快把宝贵的内存吃干抹净。

换个思路:记忆不是越大越好

来自多所机构的联合团队在arXiv上发表了AURA-Mem(Action-Utility Recurrent Adaptive Memory),一种专为机器人策略设计的恒定VRAM记忆方案。其核心思想直截了当:不是所有的感知都值得被记住。只有那些足以改变下一个动作的观测才需要写进记忆,其余的统统忽略。

AURA-Mem包裹在一个冻结的视觉-语言-动作(VLA)骨干模型外部,内部采用一个常大小循环记忆模块和一个学习型门控单元。这个门控单元通过一个闭环动作误差信号直接训练,而不是像传统重构误差那样间接优化——它学会了判断“当前观测会不会导致动作变化”,只有判定为“会”时才将信息写入记忆。这与常见的基于重构的记忆(如自动编码器)有本质区别:后者总会记住大量冗余信息,而AURA-Mem追求的是“知道何时该沉默”。

数据说话:VRAM从线性增长到恒定

实验设置在一个模拟机器人操作任务上(Franka Emika机械臂操控物体),对比了标准KV-cache和AURA-Mem的VRAM消耗。结果非常直观:

  • KV-cache随轨迹步数线性增长,在长度为2048步时消耗约6,061 MB的VRAM;
  • AURA-Mem的推理状态始终固定在4,224字节(约4.1 KB),与轨迹长度完全无关。

这意味着,无论机器人运行10分钟还是10小时,记忆占用的显存都纹丝不动。对于常见的边缘设备如NVIDIA Jetson Orin(显存通常为8-16 GB),KV-cache在长任务中会很快占满,而AURA-Mem可以轻松腾出空间给其他计算。

不是魔法,是聪明的设计取舍

当然,固定大小记忆也意味着信息压缩会有损失。实验显示AURA-Mem在成功率上略低于无限记忆的KV-cache基线(约下降2-5个百分点),但考虑到VRAM节省超过1000倍,这点折衷在边缘部署中是完全可以接受的。此外,由于门控机制是离线训练的,冻结的VLA骨干在推理时无需梯度,进一步降低了功耗。

团队还指出,AURA-Mem的架构足够通用,可以嵌入任何现有的机器人策略框架中——只需要将原始的VLA模型包一层这个“记忆外套”即可。未来工作可能会探索更精细的门控策略(比如分层门控)以及跨场景的泛化能力。

对于机器人硬件工程师和算法研究者来说,AURA-Mem提供了一个非常务实的思路:与其无休止地堆内存,不如教模型忘记该忘记的东西。在边缘计算资源受限的今天,这可能是让机器人真正“跑起来”的关键拼图。

AURA-Mem机器人策略恒定VRAMKV-cache循环记忆门控机制边缘AI机器人操作

分享

评论

0
0/500 字符

暂无评论

成为第一个评论的人

探索更多

相似工具

Osmosis

Osmosis 是一款新颖的AI原生CRM,它摒弃传统表单,让团队在共享频道中通过自然对话管理交易和案例,AI代理自动更新记录。每个成员都能听到每通电话、阅读每个客户异议,并从最佳实践者身上吸收销售思维,知识像渗透般自然扩散。

Weather Studio

Weather Studio

Weather Studio 是专为电影摄影指导、制片人等设计的天气预报平台。它整合实时气象数据、太阳位置追踪、阴影分析和AI生成的生产报告,帮助影视团队高效规划外景拍摄,避免因天气和光线问题浪费拍摄日。

SenSen

SenSen

SenSen是一款AI驱动的智能路边管理平台,通过实时分析路边活动、交通和合规数据,为城市管理者提供前所未有的可见性,助力更安全、高效的城市运营决策。

GeoInfer

GeoInfer

GeoInfer 是一款面向调查人员、记者、执法部门和安保专家的 AI 地理定位工具,通过分析照片中的建筑、地形、植被等视觉线索,快速推断拍摄地点。无需手动比对地图,支持批量处理,适用于开源情报(OSINT)调查、灾难响应和新闻事实核查。

GoodMoat

GoodMoat

GoodMoat 是一款 AI 驱动的股票估值工具,核心卖点是透明:每个数字都来自 SEC 原始文件并标注来源和刷新时间。它提供完整 DCF、逆向 DCF 和三重交叉验证模型,并通过 X-Ray 深度分析将 40 多项财务指标转化为白话解读,帮助投资者判断企业到底有真护城河还是仅靠炒作。

Riskified

Riskified

Riskified 是基于人工智能的电商欺诈防范与风险智能平台,帮助全球电商企业通过机器学习自动化审核交易,减少拒付损失并提升收入。平台实时分析用户行为,在安全与转化率之间取得平衡,已服务众多大型电商企业。

开源项目

Operit: Android上最强的AI Agent与聊天应用

Operit 是一款开源 Android AI 代理与聊天软件,支持多种大语言模型,提供高度可定制的对话体验。项目在 GitHub 上拥有 5600+ Star,被开发者誉为功能最强大的 Android AI 助手之一。

Casdoor: 开源AI优先的身份与访问管理平台

Casdoor 是一个开源的、Agent-first 的身份与访问管理 (IAM) 平台,支持 LLM MCP、OAuth、OIDC、SAML 等主流协议,内置 Web 管理界面,适用于现代应用和 AI 代理的认证与授权。基于 Go 语言开发,性能优异,适合自托管部署。

OctoBot: 开源AI加密货币交易机器人,自动运行多种策略

OctoBot 是一个免费开源的加密货币交易机器人,支持 Binance、Hyperliquid 等 15+ 交易所,可自动执行 AI、网格、DCA 和 TradingView 策略。界面简洁易用,无需编程即可配置,适合新手和进阶交易者。

Awesome-LLM4Cybersecurity: LLM 网络安全资源精选

Awesome-LLM4Cybersecurity 是一个 GitHub 上的精选资源列表,汇集了大语言模型在网络安全领域的最新论文、工具、数据集和框架。由社区维护,已获 1600+ 星,适合安全研究员和 AI 开发者快速入门或跟进前沿进展。

OpenAlice: 开源AI全品种交易助手

OpenAlice 是一个开源 AI 交易代理,覆盖股票、加密货币、大宗商品、外汇和宏观市场。它自动化从研究到仓位退出全流程,基于 TypeScript 构建,GitHub 星标超 5200,适合有编程能力的交易者。

comp: 开源 AI 合规平台,替代 Vanta 与 Drata

comp 是一个 AI 原生的开源合规平台,旨在帮助企业自动化 SOC 2、ISO 27001 等认证流程。作为 Vanta 和 Drata 的替代品,它通过智能化策略检查、证据收集和风险分析,显著降低合规成本。项目基于 TypeScript 开发,社区活跃,适合对数据主权和定制化有高要求的中型团队。