論文の概要: MambaAct: Efficient Mamba Action Experts for Flow-Matching Vision-Language-Action Models
- arxiv url: http://arxiv.org/abs/2610.22951v1
- Date: Fri, 16 Oct 2026 05:20:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.770096
- Title: MambaAct: Efficient Mamba Action Experts for Flow-Matching Vision-Language-Action Models
- Title(参考訳): MambaAct:フローマッチングビジョン・ランゲージ・アクションモデルのための効率的なMambaアクションエキスパート
- Abstract要約: MambaActは、フローマッチングVLAポリシーのための効率的なMambaアクションエキスパートである。
MambaActは、LIBEROで64.8%、現実世界でのデプロイメントで58.8%の待ち時間を削減する。
- 参考スコア(独自算出の注目度): 3.2409153365546626
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Vision-language-action (VLA) models have shown strong promise for generalist robotic manipulation, but their inference cost remains a major bottleneck for real-time control. This limitation is especially pronounced in flow-matching VLAs such as $π_{0.5}$, where the action expert is evaluated repeatedly during iterative denoising. We introduce MambaAct, an efficient Mamba action expert for flow-matching VLA policies. MambaAct retains the pretrained visual-language prefix encoder of $π_{0.5}$, while replacing its transformer-based action expert with a compact Mamba-based action expert. Within this expert, Mamba serves as the action mixer that models dependencies across the noisy continuous-action sequence. To preserve visual-language conditioning without repeated token-level cross-attention, MambaAct uses a lightweight Context Compressor to map Vision-language model (VLM) prefix tokens into a compact conditioning signal that gates and modulates each Mamba action block. MambaAct uses a $10\times$ smaller action expert and reduces flow-matching denoising latency by $64.8\%$ on LIBERO and $58.8\%$ in real-world deployment, while improving mean LIBERO success by $1.08$ percentage points across three independent fine-tuning seeds and maintaining gains on LIBERO-Plus and real-world benchmarks. Our code and model weights are publicly available at https://github.com/giakhuyendihoc/MambaAct.
- Abstract(参考訳): 視覚言語アクション(VLA)モデルは、汎用的なロボット操作に強く期待されているが、その推論コストは、リアルタイム制御の大きなボトルネックであり続けている。
この制限は、例えば$π_{0.5}$のようなフローマッチングVLAでは特に顕著である。
我々は、フローマッチングVLAポリシーのための効率的なMambaアクションエキスパートであるMambaActを紹介する。
MambaActは、事前訓練されたビジュアル言語プレフィックスエンコーダを$π_{0.5}$で保持し、トランスフォーマーベースのアクションエキスパートをコンパクトなMambaベースのアクションエキスパートに置き換える。
このエキスパートの中で、Mambaはノイズの多い連続的なアクションシーケンスをまたいだ依存関係をモデル化するアクションミキサーとして機能する。
トークンレベルのクロスアテンションを繰り返すことなく視覚言語条件を維持するために、MambaActは軽量のContext Compressorを使用して、視覚言語モデル(VLM)プレフィックストークンを、各Mambaアクションブロックをゲートして変調するコンパクトな条件付け信号にマッピングする。
MambaActは10ドル以上の小さなアクションエキスパートを使用し、LIBERO上でのフローマッチングの遅延を64.8セント、実世界のデプロイで58.8セントに削減し、LIBEROの成功率を3つの独立した微調整種子間で1.08ドルに改善し、LIBERO-Plusおよび実世界のベンチマークでの利得を維持する。
コードとモデルの重み付けはhttps://github.com/giakhuyendihoc/MambaAct.comで公開されています。
関連論文リスト
- Mamba-based Selective State Space Modeling Improves the Accuracy-Complexity Tradeoff of SmolVLA Vision-Language-Action Experts [3.5067761206491004]
本稿では,一般的なSmolVLAモデルのアクションエキスパートにおける因果自己注意の代替として,マンバの選択的状態空間モデリングについて検討する。
以上の結果から,マンバ専門家の優位性は,実行地平線によって増大することが示唆された。
論文 参考訳(メタデータ) (2026-08-10T11:07:27Z) - MambaLite-Micro: Memory-Optimized Mamba Inference on MCUs [1.188901646387747]
資源制約型MCU上でのMambaベースのニューラルアーキテクチャの最初の展開について述べる。
MambaLite-Microは、トレーニング済みのPyTorch Mambaモデルを、モデルウェイトを軽量なフォーマットにエクスポートすることで、オンデバイス実行にマップする。
MambaLite-Microは大きな中間テンソルを排除し、83.0%のピークメモリを削減し、平均数値誤差は1.7x10-5である。
論文 参考訳(メタデータ) (2025-09-05T20:34:06Z) - Dynamic Vision Mamba [41.84910346271891]
マンバベースの視覚モデルは、注意に基づくモデルよりも計算的に効率的であることから、広く注目を集めている。
トークンの冗長性については、初期トークンプルーニング手法がトレーニングと推論の不整合をもたらすことを解析的に見出した。
ブロック冗長性については,マンバ型視覚モデルの推論速度がSSMブロック数に大きく影響しているという経験的観察に基づいて,各画像が動的にSSMブロックを選択することができる。
論文 参考訳(メタデータ) (2025-04-07T07:31:28Z) - MambaMIM: Pre-training Mamba with State Space Token Interpolation and its Application to Medical Image Segmentation [23.67774523461722]
我々はMambaMIMと呼ばれる汎用的な事前学習フレームワークを提案する。
MambaMIMはマスキングシーケンス内の状態空間の因果関係を学習する。
我々は6.8KCTの大規模データセットでMambaMIMを事前訓練する。
論文 参考訳(メタデータ) (2024-08-15T10:35:26Z) - MambaOut: Do We Really Need Mamba for Vision? [70.60495392198686]
状態空間モデル(SSM)のRNNライクなトークンミキサーを備えたアーキテクチャであるMambaが最近導入され、注意機構の2次複雑さに対処した。
本論文は,マンバが長周期および自己回帰特性を有するタスクに理想的に適していることを概念的に結論づける。
我々は,コアトークンミキサーであるSSMを除去しながら,Mambaブロックを積み重ねることで,MambaOutという名前の一連のモデルを構築する。
論文 参考訳(メタデータ) (2024-05-13T17:59:56Z) - ReMamber: Referring Image Segmentation with Mamba Twister [51.291487576255435]
ReMamberは、マルチモーダルなMamba TwisterブロックとMambaのパワーを統合する新しいRISアーキテクチャである。
Mamba Twisterは画像とテキストのインタラクションを明示的にモデル化し、独自のチャネルと空間的ツイスト機構を通じてテキストと視覚的特徴を融合する。
論文 参考訳(メタデータ) (2024-03-26T16:27:37Z) - BlackMamba: Mixture of Experts for State-Space Models [10.209192169793772]
状態空間モデル(SSM)は、最近、大規模な言語モデリングベンチマークでトランスフォーマーと競合する性能を示した。
MoEモデルは、計算コストと遅延コストを大幅に削減しながら、顕著なパフォーマンスを示している。
我々は,Mamba SSMとMoEを組み合わせた新しいアーキテクチャであるBlackMambaを紹介した。
論文 参考訳(メタデータ) (2024-02-01T07:15:58Z) - MambaByte: Token-free Selective State Space Model [71.90159903595514]
マンババイト(英: MambaByte)は、マンバSSMがバイト配列で自己回帰的に訓練したトークンレス適応である。
MambaByteは、言語モデリングタスクにおいて、最先端のサブワードトランスフォーマーよりも優れています。
論文 参考訳(メタデータ) (2024-01-24T18:53:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。