論文の概要: How Representational Priors Shape Generalization in World Action Models

• arxiv url: http://arxiv.org/abs/2610.29168v1
• Date: Wed, 21 Oct 2026 03:59:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.196894
• Title: How Representational Priors Shape Generalization in World Action Models
• Title（参考訳）: 世界行動モデルにおける表現の先駆的形状一般化
• Abstract要約: 世界行動モデル (WAM) は、その生成的バックボーンに基づいて、一般化性能の下で実質的に分岐することが示されている。 我々は、WAMが背骨から受け継いだ表現幾何学と、政策訓練がそれをどのように再編成するかを通して、このギャップを考察する。
• 参考スコア（独自算出の注目度）: 8.446887947386559
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: World action models (WAMs) are shown to substantially diverge under generalization performance based on their generative backbones. We investigate this gap through the representational geometry that WAMs inherit from their backbones and how policy training reorganizes it. Our central hypothesis is that a useful representational prior would structure geometry that separates nuisance information from the in-distribution manifold in advance of training as a policy. We quantify this with nuisance orthogonality; orthogonality of the feature under visual variation outside the empirical in-distribution manifold. Across various image and video backbones, we show that a higher orthogonality from the representational prior is associated with stronger robustness to visual variations after WAM training, enabling policy generalization measurable prospectively for world models. In addition, analyzing the resulting robust WAMs reveals nuisance suppression; relative suppression of feature displacement caused by such variations and robust action generation of the policy. Together, these findings provide a geometric perspective on how the representational prior of the world model shapes the generalization performance of WAMs.
• Abstract（参考訳）: 世界行動モデル (WAM) は、その生成的バックボーンに基づいて、一般化性能の下で実質的に分岐することが示されている。 我々は、WAMが背骨から受け継いだ表現幾何学と、政策訓練がそれをどのように再編成するかを通して、このギャップを考察する。 我々の中心的な仮説は、表現的事前は、政策として訓練の前に、ニュアンス情報を分布内多様体から分離する構造幾何学である、というものである。 我々はこれを、ニュアンス直交(nuisance orthogonality)、経験的分布多様体の外側の視覚的変動の下での特徴の直交(orgonality)で定量化する。 様々な画像やビデオのバックボーンにまたがって、表現前より高い直交性は、WAMトレーニング後の強靭性から視覚的変化に結びついていることを示し、世界モデルに対する政策一般化を前向きに評価できることを示した。 さらに、結果として生じるロバストなWAMを解析すると、ニュアンス抑制、そのような変動に起因する特徴変位の相対的な抑制、およびポリシーのロバストなアクション生成が明らかになる。 これらの知見は、WAMの一般化性能を、世界モデルに先行する表現がどう形作るかという幾何学的視点を与えるものである。

関連論文リスト

• Cross-View Feature Matching: Survey, Benchmarking, and Foundation-Model Perspectives [74.46417373478194]
  クロスビュー特徴マッチングは、大きな視点変化を持つ画像間の信頼性の高い対応を確立することを目的としている。 過去10年間で、この分野はタスク固有のモデルから、ますます統一され、一般化可能な対応モデルへと発展してきた。 これらの進歩にもかかわらず、既存の研究は問題定式化、モデルアーキテクチャ、訓練パラダイム、評価プロトコルにおいて非常に多様である。
  論文  参考訳（メタデータ） (2026-08-11T16:00:40Z)
• World Action Models: The Next Frontier in Embodied AI [123.5787299299832]
  VLA(Vision-Language-Action)モデルは、具体的政策学習のための強力なセマンティックな一般化を実現している。 彼らは、物理的な世界が介入の下でどのように進化するかを明示的にモデル化することなく、リアクティブな観察から行動へのマッピングを学ぶ。 成長するこの制限には、世界モデル、環境ダイナミクスの予測モデル、アクション生成パイプラインを統合することで対処する。
  論文  参考訳（メタデータ） (2026-05-12T13:10:52Z)
• Anisotropic Modality Align [91.23979617826926]
  マルチモーダルな大規模言語モデルの訓練は、高品質なペア型マルチモーダルデータの不足により、長い間制限されてきた。 近年の研究では、事前訓練されたマルチモーダルコントラストモデルの共有表現空間がブリッジとして機能し、非モーダルデータを用いたマルチモーダルトレーニングを可能にすることが示されている。 中心となる障害は、共有空間の永続的なモダリティギャップにある。
  論文  参考訳（メタデータ） (2026-05-08T14:53:24Z)
• Hyperbolic Enhanced Representation Learning for Incomplete Multi-view Clustering [57.38215918201251]
  本稿では,不完全なマルチビュークラスタリングのためのハイパーボリック拡張表現学習フレームワークであるHERLを提案する。 ポアンカレボール内で操作すると、HERLは表現学習を強化するために構造を意識した潜在空間を構築する。 HERLは最先端のアプローチよりも一貫して優れていることを示す。
  論文  参考訳（メタデータ） (2026-04-18T10:50:46Z)
• Rethinking Data Mixing from the Perspective of Large Language Models [8.321564977096974]
  大規模言語モデル(LLM)訓練にはデータ混合戦略が不可欠であり,不適切な戦略が一般化を著しく減少させることを示す実証的証拠がある。 本稿では,データスケジューリングをグラフ制約付き最適化問題として定式化するフレームワークであるDoGraphを紹介する。
  論文  参考訳（メタデータ） (2026-04-09T08:25:03Z)
• Invariance on Manifolds: Understanding Robust Visual Representations for Place Recognition [19.200074425090595]
  本稿では,2次幾何統計フレームワークを提案する。 提案手法では、固定されたトレーニング済みのバックボーン上に構築されたトレーニング不要のフレームワークを導入し、パラメータ更新なしで強力なゼロショット一般化を実現する。
  論文  参考訳（メタデータ） (2026-01-31T18:12:29Z)
• A Flat Minima Perspective on Understanding Augmentations and Model Robustness [4.297070083645049]
  モデル強化がモデル堅牢性をいかに高めるかを明らかにするため、統一的な理論フレームワークを提供する。 我々の研究は従来の研究から、我々の分析が既存の増補手法の多くを幅広く包含しているという点で分岐している。 我々は、既存の共通汚職と敵対的堅牢性ベンチマークのシミュレーションを通じて、我々の理論を裏付ける。
  論文  参考訳（メタデータ） (2025-05-30T13:40:44Z)
• Exploring Representation Invariance in Finetuning [51.19872959859021]
  大規模自然画像に事前訓練された基礎モデルは、様々なクロスドメインの低リソースダウンストリームタスクに広く適応している。 我々は、事前訓練された表現の利点を犠牲にすることなく、このようなタスクを効果的に適用できると主張している。 我々は、事前訓練されたモデルと微調整されたモデルとの表現類似性を最大化する正規化であるtextitRepresentation Invariance FineTuning (RIFT) を導入する。
  論文  参考訳（メタデータ） (2025-03-10T14:44:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。