論文の概要: NativeMEM: Native Memory Compression for Long-Horizon Robotic Manipulation
- arxiv url: http://arxiv.org/abs/2607.06678v1
- Date: Tue, 07 Jul 2026 18:00:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-09 22:50:30.189377
- Title: NativeMEM: Native Memory Compression for Long-Horizon Robotic Manipulation
- Title(参考訳): NativeMEM: 長期ロボットマニピュレーションのためのネイティブメモリ圧縮
- Abstract要約: 我々は、長期およびリアルタイムに更新されたメモリを特徴付けるNativeMEMを提供する。
NativeMEMは、従来の手法を一貫して上回り、シミュレーションでは32.4%から84.0%に、実際のロボットでは98.7%に向上した。
- 参考スコア(独自算出の注目度): 22.20970271577043
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: How can pretrained Vision-Language-Action (VLA) models retain long-horizon visual histories with high-frequency updates without sacrificing efficiency? Existing approaches rely on external memory management, which restrains either the memory horizon or the reactiveness of pretrained policies. To this end, we present NativeMEM, a VLA policy that features long-term and real-time updated memory. At its core is an efficient memory encoding scheme, Native Memory Compression, which repurposes the VLA's own vision encoder to compress each historical frame from each camera view into a single token. Appended to the input sequence, these memory tokens enable the pretrained VLA to attend over long-term history with negligible latency overhead, requiring neither an external planner nor a freshly initialized memory module. To align the memory tokens with the pretrained policy, we first develop a generic memory tokenizer under the supervision of a frozen VLA on memory-demanding data, and then unfreeze the VLA for task-specific fine-tuning. NativeMEM consistently outperforms prior methods, boosting success rates from 32.4% to 84.0% in simulation and up to 98.7% on real robots, while maintaining low inference latency and GPU memory usage. Notably, NativeMEM exhibits high data efficiency by achieving competitive results with prior arts using only 20% of the training data.
- Abstract(参考訳): VLA(Vision-Language-Action)モデルでは、高頻度更新による長い水平視履歴を、効率を犠牲にすることなく保持できるのか?
既存のアプローチは外部メモリ管理に依存しており、メモリの水平性や事前訓練されたポリシーの反応性を抑える。
この目的のために我々は,長期およびリアルタイムに更新されたメモリを特徴とするVLAポリシであるNativeMEMを提案する。
コアとなるのが効率的なメモリ符号化スキームであるNative Memory Compression(Native Memory Compression)で、VLA独自のビジョンエンコーダを使用して、各カメラビューから各歴史的フレームを1つのトークンに圧縮する。
入力シーケンスに付加されたこれらのメモリトークンにより、トレーニング済みのVLAは、外部プランナーも新しい初期化メモリモジュールも必要とせず、遅延のオーバーヘッドを無視して、長期にわたる履歴に出席することができる。
メモリトークンを事前訓練されたポリシーと整合させるため、まず、凍結したVLAをメモリ要求データ上で監督し、次にタスク固有の微調整のためにVLAを解凍するジェネリックメモリトークンライザを開発する。
NativeMEMは従来の手法を一貫して上回り、シミュレーションでは32.4%から84.0%に、実際のロボットでは98.7%まで、低い推論レイテンシとGPUメモリ使用率を維持している。
特に、NativeMEMは、トレーニングデータの20%しか使用せずに、事前のアートと競合する結果を達成することで、高いデータ効率を示す。
関連論文リスト
- UniMem: Unifying Multimodal Memory and Control for Vision-Language-Action Models [8.70663346892131]
我々は,高レベルのマルチモーダルメモリと低レベルの制御を1つのバックボーンの下に統一するフレームワークUniMemを提案する。
逐次記憶と空間記憶を対象とする5つのシミュレーションと4つのハードウェアタスクでUniMemを評価する。
論文 参考訳(メタデータ) (2026-08-24T06:56:02Z) - Remember Smarter: Visual History Compressor and Hyperbolic Experience Space for Robotic Memory [54.400138177707504]
remember Smarter (RS) は、視覚履歴と双曲的なエクスペリエンスメモリのブランチを補完するプラグイン・アンド・プレイモジュールである。
pi0に適合すると、RSはLIBERO-Plusの総成功率を53.6%から70.6%に引き上げ、実際のロボット実験でかなりの性能向上を達成した。
論文 参考訳(メタデータ) (2026-08-15T15:13:33Z) - MemoryWAM: Efficient World Action Modeling with Persistent Memory [80.90899269062128]
本稿では,効率的な永続メモリを持つ世界アクションモデルであるMemoryWAMを紹介する。
調整された注意機構は、詳細な短期コンテキストと圧縮された長期コンテキストの両方の検索を可能にする。
MemoryWAMは、シミュレーションと実世界の両方において、強力な視覚言語アクション(VLA)とWAMベースラインを上回っている。
論文 参考訳(メタデータ) (2026-06-18T17:59:51Z) - FlashMemory-DeepSeek-V4: Lightning Index Ultra-Long Context via Lookahead Sparse Attention [77.12062766962815]
Lookahead Sparse Attention (LSA)は、DeepSeek-V4アーキテクチャ上に構築されたNeural Memory Indexerを利用している。
このアーキテクチャをバックボーンフリーの非結合なトレーニング戦略でインスタンス化する。
FM-DS-V4は、物理KVキャッシュのフットプリントを、フルコンテキストベースラインのわずか13.5%まで圧縮することを示した。
論文 参考訳(メタデータ) (2026-06-08T06:25:54Z) - RoboMemArena: A Comprehensive and Challenging Robotic Memory Benchmark [49.16825786282095]
記憶はロボットインテリジェンスにとって重要な要素であり、ロボットは長期のタスクを達成するために過去の観察と行動に頼る必要がある。
既存のロボットメモリベンチマークには、メモリ形成のためのマルチモーダルアノテーションがなく、タスクカバレッジと構造的複雑さが制限されており、実際の評価なしにシミュレーションに制限されている。
このギャップに対処するため、26タスクの大規模ベンチマークであるRoboMemArenaでは、タスク毎の平均軌道長が1,000ステップを超え、サブタスクの68.9%がメモリ依存である。
論文 参考訳(メタデータ) (2026-05-11T17:54:49Z) - MSA: Memory Sparse Attention for Efficient End-to-End Memory Model Scaling to 100M Tokens [38.762431789628074]
メモリスパース注意(MSA:Memory Sparse Attention)は、エンドツーエンドのトレーニング可能で、効率的で、非常にスケーラブルなメモリモデルフレームワークである。
MSAは、例外的な安定性を維持しながら、トレーニングと推論の両方において線形複雑性を実現する。
また,分散メモリセグメント間の複雑なマルチホップ推論を容易にするメモリインターリービングを提案する。
論文 参考訳(メタデータ) (2026-03-06T02:29:54Z) - VPWEM: Non-Markovian Visuomotor Policy with Working and Episodic Memory [31.464584758455356]
VPWEMは、ワーキングメモリとエピソードメモリを備えた非マルコフヴィジュモータ政策である。
動作生成には短期情報とエピソードワイド情報の両方を使用し、1ステップあたりのメモリと計算がほぼ一定である。
論文 参考訳(メタデータ) (2026-03-05T07:52:50Z) - LightMem: Lightweight and Efficient Memory-Augmented Generation [72.21680105265824]
我々は、メモリシステムの性能と効率のバランスをとるLightMemという新しいメモリシステムを紹介した。
人間の記憶のアトキンソン・シフリンモデルにインスパイアされたLightMemは、メモリを3つの相補的なステージにまとめる。
GPTとQwenのバックボーンを用いたLongMemEvalの実験では、LightMemは高いベースライン(最大10.9%のゲイン)を上回り、トークンの使用量を最大117倍に削減している。
論文 参考訳(メタデータ) (2025-10-21T17:58:17Z) - MemoryVLA: Perceptual-Cognitive Memory in Vision-Language-Action Models for Robotic Manipulation [59.31354761628506]
このようなタスクは本質的にマルコフ的ではないが、主流のVLAモデルはそれを見落としているため、ロボット操作には時間的コンテキストが不可欠である。
本稿では,長距離ロボット操作のためのコグニション・メモリ・アクション・フレームワークであるMemoryVLAを提案する。
本稿では,3つのロボットを対象とした150以上のシミュレーションと実世界のタスクについて評価する。
論文 参考訳(メタデータ) (2025-08-26T17:57:16Z) - MEMO: Fine-grained Tensor Management For Ultra-long Context LLM Training [24.066283519769968]
大規模言語モデル(LLM)は、よりクリエイティブなアプリケーションを促進するために、拡張コンテキスト長を使用して訓練されている。
本稿では,メモリ管理を微粒化するための新しいフレームワークであるMEMOを提案する。
MeMOはMegatron-LMやDeepSpeedと比べて平均1.97倍と1.80倍のMFUを達成している。
論文 参考訳(メタデータ) (2024-07-16T18:59:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。