論文の概要: Causal Analysis of Robot Foundation Models Enables Efficiency Gains

• arxiv url: http://arxiv.org/abs/2610.20750v1
• Date: Wed, 14 Oct 2026 18:06:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.004214
• Title: Causal Analysis of Robot Foundation Models Enables Efficiency Gains
• Title（参考訳）: 効率向上が可能なロボット基礎モデルの因果解析
• Abstract要約: 視覚言語アクション(VLA)モデルは、汎用ロボット操作において有望なアプローチである。 入力画像と命令形状が作用する因果経路を解析することにより,この問題を3つのフロンティアVLAモデル(_0.5$, MolmoAct2, MolmoBot)で機械的に検討する。
• 参考スコア（独自算出の注目度）: 35.40288497157734
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision-language-action (VLA) models are a promising approach to general purpose robot manipulation. While the internal computation of vision-language models, which compose the backbone of VLAs, has been studied extensively, less is known about how their perceptual and semantic representations are transformed into action in VLA models. We study this question mechanistically in three frontier VLA models ($π_{0.5}$, MolmoAct2, and MolmoBot) by analyzing the causal pathways through which the input image and the instruction shape actions. Across the three models, activation patching shows that causally relevant information influences the action expert (AE) through a narrow band of mid-to-late cross-attention layers, which we term the action-conditioning interface. The content of this information changes with token and layer within the model. Early-to-mid layer representations of the target noun token determine which object is selected, whereas mid-to-late layers carry the spatial information in text tokens that redirects the movement when patched. Where spatial information is stored in prompt tokens various based on the architecture. In MolmoAct2 the model forms task-conditioned representations at the text positions that follow the instruction, whereas $π_{0.5}$ additionally stores this information at image token positions. We show that these findings can be translated directly into improving model efficiency. We find that restricting MolmoBot's action expert conditioning to only 3 out of 36 layers reduces inference FLOPs by up to $33\%$ while maintaining comparable task success with the default model across 3,000 evaluation episodes ($46.7\%$ vs. $46.9\%$), and the same principle carries over to real-robot deployment of $π_{0.5}$.
• Abstract（参考訳）: 視覚言語アクション(VLA)モデルは、汎用ロボット操作において有望なアプローチである。 VLAのバックボーンを構成する視覚言語モデルの内部計算は広く研究されているが、その知覚的表現と意味的表現がVLAモデルにおいてどのように作用するかについてはあまり知られていない。 入力画像と命令形状が作用する因果経路を解析することにより,この問題を3つのフロンティアVLAモデル(π_{0.5}$, MolmoAct2, MolmoBot)で機械的に研究する。 3つのモデル全体で、アクティベーションパッチングは、アクションエキスパート(AE)に、アクションコンディショニングインターフェース(アクションコンディショニングインターフェース)と呼ばれる、中間から後期までのクロスアテンション層の狭いバンドを通して、因果関係のある情報が影響を及ぼすことを示している。 この情報の内容は、モデル内のトークンとレイヤによって変化する。 ターゲット名詞トークンの早期から中期の層表現は、どのオブジェクトが選択されているかを決定するが、中から後期の層は、パッチが当てられたときに動きをリダイレクトするテキストトークンに空間情報を格納する。 空間情報はアーキテクチャに基づいて各種のプロンプトトークンに格納される。 MolmoAct2では、モデルは命令に従うテキスト位置でタスク条件付き表現を形成するが、$π_{0.5}$はこの情報を画像トークン位置で格納する。 これらの結果はモデル効率を向上させるために直接変換可能であることを示す。 MolmoBotのアクションエキスパートの条件付けを36層中3層に制限することで、FLOPの推論を最大3,3\%まで削減すると同時に、3000回の評価エピソード(46.7\%対4,6.9\%$)でデフォルトモデルと同等のタスク成功を維持することができ、同じ原則がπ_{0.5}$の実際のロボットデプロイメントへと引き継がれる。

関連論文リスト

• WLA$^3$: World Latent Action Modeling for Semantics, Dynamics, and Kinematics [33.75014442121971]
  WLA$3$ (World Latent Action Modeling for Semantics, Dynamics, and Kinematics)は、統一的なジェネラリストポリシーモデルフレームワークである。 WLA$3$は、世界潜在アクションモデル(WLAM)が、セマンティクス、ダイナミクス、キネマティクスで学んだ表現を再利用する。 LaryBenchでは、最後の32D遅延アクションは67.89%の平均的な分類精度に達する。
  論文  参考訳（メタデータ） (2026-09-14T16:59:00Z)
• Decoupling the Declarative from the Procedural in Vision-Language-Action Models [65.22639791239932]
  オブジェクト固有のデモから振る舞いをクローンするように訓練されたポリシーは、そのオブジェクトを超えて一般化されなければならない。 情報フローを再構成した新しいビジョン・ランゲージ・アクションモデルであるw$2$VLAを提案する。 最先端のVLAとは異なり、我々のモジュラーアプローチは知識表現の分離に成功している。
  論文  参考訳（メタデータ） (2026-06-19T14:43:58Z)
• Position: Explaining Behavioral Shifts in Large Language Models Requires a Comparative Approach [7.72875981545154]
  行動シフトは、独立した単一のモデルではなく、相対的に説明されるべきである、と私たちは主張する。 我々は、適切な説明法を設計する際に考慮すべきデシラタのセットで比較XAI($-XAI)フレームワークを定式化する。
  論文  参考訳（メタデータ） (2026-02-02T16:36:21Z)
• DTP: A Simple yet Effective Distracting Token Pruning Framework for Vision-Language Action Models [25.91822750707556]
  VLA(Vision-Language Action)モデルは、ロボット操作において顕著な進歩を見せている。 VLAモデルはタスク関連領域のイメージトークンに過度に参加する可能性がある。 この振る舞いは、各ステップにおける望ましいアクショントークンの生成からモデルを邪魔し、タスクの成功率に影響を与える可能性がある。
  論文  参考訳（メタデータ） (2026-01-22T16:02:56Z)
• Stanceformer: Target-Aware Transformer for Stance Detection [59.69858080492586]
  スタンス検出は、テキストで表現されたスタンスを特定の主題やターゲットに向けて識別する。 以前の作業は、ターゲットを効果的に優先順位付けする能力に欠ける既存のトランスフォーマーモデルに依存していた。 本稿では,学習と推論の両方において,目標に対する注意を高めるターゲット対応トランスフォーマーモデルであるStanceformerを紹介する。
  論文  参考訳（メタデータ） (2024-10-09T17:24:28Z)
• Robot Instance Segmentation with Few Annotations for Grasping [10.005879464111915]
  セミスーパーバイザードラーニング(SSL)とラーニング・スルー・インタラクション(LTI)を組み合わせた新しいフレームワークを提案する。 提案手法は,自己スーパービジョンによる注釈付きデータを利用して,ラベルのない静止画像から生成された擬似シーケンスを用いて時間的コンテキストを組み込む。 本手法をARMBenchmix-object-toteとOCIDの2つのベンチマークで検証し,最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-07-01T13:58:32Z)
• STMT: A Spatial-Temporal Mesh Transformer for MoCap-Based Action Recognition [50.064502884594376]
  本研究では、モーションキャプチャー(MoCap)シーケンスを用いた人間の行動認識の問題点について検討する。 メッシュシーケンスを直接モデル化する新しい時空間メッシュ変換器(STMT)を提案する。 提案手法は,スケルトンベースモデルやポイントクラウドベースモデルと比較して,最先端の性能を実現する。
  論文  参考訳（メタデータ） (2023-03-31T16:19:27Z)
• Object-Region Video Transformers [100.23380634952083]
  本稿では,オブジェクト表現でトランスフォーマー映像層を拡張するエポbject中心のアプローチであるObject-Region Transformers Video(ORViT)を提案する。 ORViTブロックは2つのオブジェクトレベルのストリームで構成されています。 オブジェクト表現をトランスフォーマーアーキテクチャに組み込んだモデルの価値を実証し、全てのタスクにまたがってパフォーマンスを強く向上させ、検討する。
  論文  参考訳（メタデータ） (2021-10-13T17:51:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。