論文の概要: MIRTH: Mutual-Information Reasoning with Temporal Hubs for Vision-Language-Action Agents
- arxiv url: http://arxiv.org/abs/2606.31167v1
- Date: Tue, 30 Jun 2026 05:57:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.089759
- Title: MIRTH: Mutual-Information Reasoning with Temporal Hubs for Vision-Language-Action Agents
- Title(参考訳): MIRTH:視覚・言語・アクションエージェントのためのテンポラルハブを用いた相互情報推論
- Abstract要約: VLAモデルは、Webスケールのデータから物理的なロボット制御へ意味的な知識を伝達するための強力なパラダイムとして登場した。
MIRTHはこれらの課題に対処するために設計された統一されたフレームワークである。
MIRTHは、(1)長期シーンの進化と短期動作の傾向をコンパクトな埋め込みに圧縮するデュアルスケールの時間記憶ハブ、(2)相互情報目的によって最適化された潜在推論トークン、(3)マルチモーダルコンテキストをアクショントラジェクトリと整合させるセマンティックプラン空間、(3)自己回帰生成をベクトル的に置き換えて制御スループットを最大化する並列アクションデコードスキームの3つの重要な革新によって、事前訓練されたVLAバックボーンを増強する。
- 参考スコア(独自算出の注目度): 15.061825959360192
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: VLA models have emerged as a powerful paradigm for transferring semantic knowledge from web-scale data to physical robotic control. However, current single-frame architectures suffer from intrinsic limitations: temporal myopia that discards historical dynamics, reasoning gaps between high-level instructions and low-level motor commands, and inference inefficiency due to autoregressive scalar decoding. In this work, we propose MIRTH, a unified framework designed to address these challenges. MIRTH augments a pretrained VLA backbone with three key innovations: (1) dual-scale temporal memory hubs that compress long-term scene evolution and short-term motion trends into compact embeddings; (2) latent reasoning tokens optimized via a mutual-information objective carving out a semantic plan space to align multimodal context with action trajectories; and (3) a parallel action decoding scheme that replaces autoregressive generation with vector-wise prediction to maximize control throughput. Extensive evaluations on the LIBERO simulation benchmark and a real-world LeRobot platform demonstrate that MIRTH achieves state-of-the-art performance and exhibiting emergent error recovery capabilities. The codes and collected datasets are released at http://github.com/kiva12138/mirth.
- Abstract(参考訳): VLAモデルは、Webスケールのデータから物理的なロボット制御へ意味的な知識を移すための強力なパラダイムとして登場した。
しかし、現在の単一フレームアーキテクチャは、歴史的力学を捨てる時間的ミオピア、高レベルの命令と低レベルのモーターコマンドの間のギャップを推論すること、自己回帰スカラー復号による推論の非効率性といった本質的な制限に悩まされている。
本稿では,これらの課題に対処するための統合フレームワークであるMIRTHを提案する。
MIRTHは、(1)長期的なシーンの進化と短期的な動きの傾向をコンパクトな埋め込みに圧縮するデュアルスケールの時間記憶ハブ、(2)相互情報目的によって最適化された潜在推論トークン、(3)マルチモーダルコンテキストをアクショントラジェクトリと整合させるセマンティックプラン空間、(3)自己回帰生成をベクトルワイドな予測に置き換えて制御スループットを最大化する並列アクションデコードスキームの3つの重要な革新によって、事前訓練されたVLAバックボーンを増強する。
LIBEROシミュレーションベンチマークと実世界のLeRobotプラットフォームに関する大規模な評価は、MIRTHが最先端のパフォーマンスを達成し、緊急エラー回復能力を示すことを示した。
コードと収集されたデータセットはhttp://github.com/kiva12138/mirth.comで公開されている。
関連論文リスト
- Embodied-Navigator: Point, Think, Memorize, and Align for Efficient Navigation [68.02899606570223]
本稿では,効率的なエンボディナビゲーションのための統合フレームワークであるTAMP-Navを提案する。
まず、ナビゲーションを2次元の視覚座標に再構成するPixel-to-3D Action Formulation(Point)を導入する。
次に,Selective Reasoning and Anchor-Trajectory Memory Mechanism (Think and Memorize)を提案する。
論文 参考訳(メタデータ) (2026-08-18T08:37:08Z) - DexWorldModel: Causal Latent World Modeling towards Automated Learning of Embodied Tasks [54.32016216994156]
本稿では,DINOv3特徴を生成対象として用い,視覚ノイズから相互作用意味を乱す因果潜在世界モデル(CLWM)を提案する。
メモリスケーリングを克服するため、CLWMはDual-State Test-Time Training (TTT)メモリを備えている。
EmbodiChainは、トレーニング中に物理基底軌道の無限の流れを注入することによって効率法を確立するオンラインフレームワークである。
論文 参考訳(メタデータ) (2026-04-13T03:19:36Z) - Beyond Short-Horizon: VQ-Memory for Robust Long-Horizon Manipulation in Non-Markovian Simulation Benchmarks [96.60530830276281]
RuleSafeは、スケーラブルなLLM支援シミュレーションフレームワーク上に構築された、新しいオペレーティングベンチマークである。
VQ-Memoryはベクトル量子化変分オートエンコーダを用いたコンパクトで構造化された時間表現である。
論文 参考訳(メタデータ) (2026-03-10T11:13:54Z) - ABot-M0: VLA Foundation Model for Robotic Manipulation with Action Manifold Learning [31.000965640377128]
ABot-M0は、システマティックデータキュレーションパイプラインを構築するフレームワークである。
これは不均一な生データを統一的で効率的な表現にエンドツーエンドに変換することを可能にする。
ABot-M0はデュアルストリーム機構を通じてモジュール認識をサポートする。
論文 参考訳(メタデータ) (2026-02-11T16:47:01Z) - BiManiBench: A Hierarchical Benchmark for Evaluating Bimanual Coordination of Multimodal Large Language Models [30.38546017617527]
MLLM(Multi Large Language Models)を評価するベンチマークであるBiManiBenchを紹介した。
本フレームワークは,腕の到達性や運動的制約など,独特な両面的課題を分離する。
30以上の最先端モデルの解析により、高度推論能力にもかかわらず、MLLMはデュアルアームの空間接地と制御に苦しむことが明らかとなった。
論文 参考訳(メタデータ) (2026-02-09T08:47:14Z) - T2M Mamba: Motion Periodicity-Saliency Coupling Approach for Stable Text-Driven Motion Generation [3.6564162676635363]
アバターアニメーションやヒューマノイドロボットのインタラクションといった分野において、テキスト・トゥ・モーション・ジェネレーションが注目を集めている。
モデルは、動き周期性とサリエンシを独立した要因として扱い、それらの結合を見下ろし、長いシーケンスで生成のドリフトを引き起こす。
本稿では,この制限に対処するT2M Mambaを提案する。
論文 参考訳(メタデータ) (2026-02-01T17:42:53Z) - ColaVLA: Leveraging Cognitive Latent Reasoning for Hierarchical Parallel Trajectory Planning in Autonomous Driving [44.008287454538596]
視覚言語モデル(VLM)は、クロスモーダルな先行とコモンセンス推論を導入することで、このパラダイムを豊かにする。
現在のVLMベースのプランナは、(i) 個別のテキスト推論と継続的制御のミスマッチ、(ii) 自己回帰的連鎖のデコーディングからの高い遅延、(iii) リアルタイムデプロイメントを制限する非効率または非因果的なプランナである。
テキストから潜在空間へ推論を転送し,それを階層的並列軌道デコーダで結合する統合視覚言語アクションフレームワークColaVLAを提案する。
論文 参考訳(メタデータ) (2025-12-28T14:06:37Z) - Learning Primitive Embodied World Models: Towards Scalable Robotic Learning [50.32986780156215]
我々は,世界モデリングのための新しいパラダイム--Primitive Embodied World Models (PEWM)を提案する。
ビデオ生成を固定的な短地平線に制限することにより,ロボット行動の言語概念と視覚的表現の微妙なアライメントを可能にする。
我々のフレームワークは、きめ細かい物理的相互作用と高レベルの推論のギャップを埋め、スケーラブルで解釈可能で汎用的なインテリジェンスへの道を開く。
論文 参考訳(メタデータ) (2025-08-28T14:31:48Z) - MEgoHand: Multimodal Egocentric Hand-Object Interaction Motion Generation [28.75149480374178]
MEgoHandは、エゴセントリックなRGB、テキスト、初期手ポーズから物理的にプラウジブルなハンドオブジェクトインタラクションを合成するフレームワークである。
手首の翻訳誤差と関節回転誤差の大幅な低減を実現し、手首の微細な関節構造を正確にモデル化する能力を強調している。
論文 参考訳(メタデータ) (2025-05-22T12:37:47Z) - ReCoM: Realistic Co-Speech Motion Generation with Recurrent Embedded Transformer [58.49950218437718]
音声に同期した高忠実で一般化可能な人体動作を生成するための効率的なフレームワークであるReCoMを提案する。
Recurrent Embedded Transformer (RET)は、動的埋め込み正規化(DER)をViT(Vit)コアアーキテクチャに統合する。
モデルロバスト性を高めるため,ノイズ抵抗とクロスドメイン一般化の二重性を持つモデルに,提案したDER戦略を取り入れた。
論文 参考訳(メタデータ) (2025-03-27T16:39:40Z) - SuperFlow++: Enhanced Spatiotemporal Consistency for Cross-Modal Data Pretraining [62.433137130087445]
SuperFlow++は、連続するカメラペアを使用して事前トレーニングと下流タスクを統合する新しいフレームワークである。
SuperFlow++は様々なタスクや運転条件で最先端のメソッドよりも優れています。
強力な一般化性と計算効率により、SuperFlow++は、自動運転におけるデータ効率の高いLiDARベースの認識のための新しいベンチマークを確立する。
論文 参考訳(メタデータ) (2025-03-25T17:59:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。