論文の概要: The Linear Representation Hypothesis for Vision-Language-Action Models

• arxiv url: http://arxiv.org/abs/2609.30996v1
• Date: Fri, 25 Sep 2026 08:41:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.300363
• Title: The Linear Representation Hypothesis for Vision-Language-Action Models
• Title（参考訳）: 視覚・言語・行動モデルに対する線形表現仮説
• Abstract要約: 本稿では,視覚言語行動(VLA)モデルに対する線形表現仮説(LRH)の理論的,署名に基づく定式化を開発する。 表現側では、QoIの将来の進化を回復できる表現の存在を確立する。 政策面では,アクションチャンクの一般化線形モデルを提案する。
• 参考スコア（独自算出の注目度）: 1.43494686131174
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The linear representation hypothesis (LRH) has become a standard lens for measuring and intervening on semantic information through the internal representations of large language models (LLMs). A growing body of work has begun extending this perspective to vision-language-action (VLA) models, but the dynamical nature of embodied interaction introduces an additional challenge. Unlike semantic attributes commonly studied in LLMs, such as gender or language, a physical quantity of interest (QoI) in a VLA evolves jointly with the system dynamics: the representation influences the actions selected by the policy, which alter the physical state and, in turn, the next representation. In this paper, we develop a theoretical, signature-based formulation of the LRH for VLA that unifies representations and policies. On the representation side, we establish the existence of representations from which the future evolution of a QoI under a candidate action trajectory can be recovered via linear probing. On the policy side, we introduce a signature generalized linear model for stochastic action chunks. This structure yields a monotonic change in the expected future QoI along linear paths in natural parameter space, enabling linear steering. We construct an explicit oracle representation in a planar control-affine navigation experiment and verify the predicted linear probing and steering mechanisms.
• Abstract（参考訳）: 線形表現仮説(LRH)は、大規模言語モデル(LLM)の内部表現を通して意味情報を測定し、介入するための標準レンズとなっている。 この視点を視覚言語アクション(VLA)モデルにまで拡張し始めているが、具体的相互作用の動的性質はさらなる課題をもたらす。 性別や言語などのLLMでよく研究される意味的属性とは異なり、VLAの物理量(QoI)はシステムダイナミクスと共同で進化する。 本稿では,VLAのためのLRHの理論的,署名に基づく定式化を開発し,表現とポリシーを統一する。 表現側では,QoI の今後の進化を線形な探索によって予測できる表現の存在を確立する。 政策面では、確率的作用チャンクに対する符号一般化線形モデルを導入する。 この構造は、自然パラメータ空間の線型経路に沿って期待される将来のQoIの単調な変化をもたらし、線形ステアリングを可能にする。 平面制御-ファインナビゲーション実験において,明示的なオラクル表現を構築し,予測線形探索と操舵機構を検証する。

関連論文リスト

• Beyond Instance Slots: Semantically Rich World Models for Physical Interaction Planning [3.284163275977256]
  本稿では,5つの機能的役割を中心に構成されたタスク条件付き世界モデルであるSemantically Rich World Model (SR-WM)を提案する。 SR-WM内では、ビジュアルエンティティエンコーダが事前訓練されたパッチ機能からソフトエンティティ仮説を抽出し、セグメンテーションマスクがオプションの提案先として機能する。 ロールバインダーはこれらの仮説をタスク固有のロールにマッピングし、アクション条件付きダイナミクスモデルは、きめ細かいセマンティクスと共にロール遷移を予測する。
  論文  参考訳（メタデータ） (2026-08-23T08:37:59Z)
• Towards Predictive, Aligned, and Scalable Robot Learning [11.830982964522605]
  本稿では、潜在空間における世界ダイナミクスを推論して行動を生成する潜在世界行動モデルであるLumo-2を紹介する。 我々は、潜在世界モデリングとモダリティアライメントについて研究し、スケーリング法則とアウト・オブ・ディストリビューションの一般化におけるそれらの役割を分析した。 その結果,Lumo-2は強い視覚言語モデル(VLA)と世界行動モデル(WAM)のベースラインを一貫して上回っていることがわかった。
  論文  参考訳（メタデータ） (2026-07-13T08:53:34Z)
• Discrete-WAM: Unified Discrete Vision-Action Token Editing for World-Policy Learning [28.162567330430928]
  我々は、視覚的観察、将来の状態、ハイレベルな決定、共有トークン空間内のエゴアクションを表す統合されたビジョンアクション世界政治フレームワークであるDiscrete-WAMを紹介する。 この離散的なアライメントに基づいて、離散WAMは、マルチタスクとマルチステージ事前トレーニングを通じて、ワールド・モデリング、ワールド・ポリティクス・モデリング、ポリシー・モデリングを共同で訓練する。 実験により、離散WAMは、制御可能な将来の生成、対実評価、サプライズベースのワールドモデル分析、効率的な並列ポリシー復号をサポートしながら、強い計画性能を達成することが示された。
  論文  参考訳（メタデータ） (2026-06-04T03:16:31Z)
• LAST: Bridging Vision-Language and Action Manifolds via Gromov-Wasserstein Alignment [71.3712075841632]
  LASTはアクション空間を再構築し、ビジョン・ランゲージ・アクション・モダリティとの局所的な距離互換性を確立する。 LASTは収束性と一般化性に優れたVLAモデルを可能にする。
  論文  参考訳（メタデータ） (2026-05-27T03:48:10Z)
• Self-Evolving Spatial Reasoning in Vision Language Models via Geometric Logic Consistency [53.28076739140119]
  本稿では,視覚・言語モデル(VLM)における論理的一貫性を幾何学的・言語的双対性演算によって実現する枠組みを提案する。 SAGEは、従来のGRPO法に比べてモデルに依存しず、データ効率が良く、既存のVLMに軽量な後学習段階として適用することができる。 ビデオおよび空間推論ベンチマークの実験では、強いベースラインよりも一貫した改善が示されている。
  論文  参考訳（メタデータ） (2026-05-18T10:05:21Z)
• World Action Models: The Next Frontier in Embodied AI [123.5787299299832]
  VLA(Vision-Language-Action)モデルは、具体的政策学習のための強力なセマンティックな一般化を実現している。 彼らは、物理的な世界が介入の下でどのように進化するかを明示的にモデル化することなく、リアクティブな観察から行動へのマッピングを学ぶ。 成長するこの制限には、世界モデル、環境ダイナミクスの予測モデル、アクション生成パイプラインを統合することで対処する。
  論文  参考訳（メタデータ） (2026-05-12T13:10:52Z)
• Vision-Language-Action Models for Autonomous Driving: Past, Present, and Future [125.92052530850425]
  VLA(Vision-Language-Action)フレームワークは、認識と言語に基づく意思決定を統合する。 VLAフレームワークは、より解釈可能で、一般化可能で、人間に準拠した運転ポリシーへの道筋を提供する。 この研究は、人間と互換性のある自動運転システムを構築するための一貫性のある基盤を確立することを目的としている。
  論文  参考訳（メタデータ） (2025-12-18T16:57:44Z)
• Mechanistic interpretability for steering vision-language-action models [0.23371356738437823]
  VLA(Vision-Language-Action)モデルは、一般のエンボディエージェントを実現するための有望な道である。 本稿では,VLAを内部表現で解釈し,操作するための最初のフレームワークを紹介する。 我々は、微調整、報酬信号、環境相互作用を伴わずに、リアルタイムに行動を調整する汎用的なアクティベーションステアリング手法を提案する。
  論文  参考訳（メタデータ） (2025-08-30T03:01:57Z)
• On the Origins of Linear Representations in Large Language Models [51.88404605700344]
  我々は,次のトークン予測の概念力学を定式化するために,単純な潜在変数モデルを導入する。 実験により、潜在変数モデルと一致するデータから学習すると線形表現が現れることが示された。 また、LLaMA-2大言語モデルを用いて、理論のいくつかの予測を検証した。
  論文  参考訳（メタデータ） (2024-03-06T17:17:36Z)
• On the Emergence of Cross-Task Linearity in the Pretraining-Finetuning Paradigm [47.55215041326702]
  我々は、共通の事前訓練されたチェックポイントから、クロスタスク線形性(CTL)と呼ばれる異なるタスクに微調整されたモデルにおいて、興味深い線形現象を発見する。 2つの微調整モデルの重みを線形に補間すると、重み補間モデルの特徴は各層における2つの微調整モデルの特徴の線形性にほぼ等しいことが示される。 プレトレーニング-ファインタニングのパラダイムでは、ニューラルネットワークは、パラメータ空間から特徴空間への写像である線形写像として概ね機能する。
  論文  参考訳（メタデータ） (2024-02-06T03:28:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。