論文の概要: SLA: Scaling Spatial-Language-Action Model via Continual Pre-training

• arxiv url: http://arxiv.org/abs/2611.08373v1
• Date: Thu, 05 Nov 2026 17:52:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-07 04:55:13.607462
• Title: SLA: Scaling Spatial-Language-Action Model via Continual Pre-training
• Title（参考訳）: SLA:連続事前学習による空間言語行動モデルのスケーリング
• Abstract要約: 空間ランゲージ・アクション・モデル(Spatial-Language-Action Model)は、連続的な事前トレーニングに暗黙の空間アライメントをスケールし、下流のポストトレーニング中にそれを維持する。 空間的監視のために複数のVLA層から視覚的埋め込みを適応的に集約する特徴依存ゲート。 全ての補助部品は訓練中にのみ使用され、事前訓練されたVLA重量を直接再利用することができる。
• 参考スコア（独自算出の注目度）: 14.699376483540396
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reliable robotic manipulation requires both semantic understanding and precise control in three-dimensional space. However, vision-language-action (VLA) foundations largely inherit visual representations from 2D vision-language pre-training, while spatial supervision is often introduced only during task-specific adaptation. Developing spatial understanding as a transferable foundation-model capability therefore calls for learning from broader robot experience. We present SLA, a Spatial-Language-Action Model that scales implicit spatial alignment to continual pre-training and maintains it during downstream post-training. Initialized from a pretrained pi05 policy, SLA jointly optimizes action prediction and alignment between intermediate visual embeddings and spatial representations from a frozen 3D perception model. We curate and unify heterogeneous robot datasets to support spatial learning across diverse embodiments, tasks, and scenes. To accommodate this diversity, we introduce feature-dependent gates that adaptively aggregate visual embeddings from multiple VLA layers for spatial supervision. The teacher further exploits partially available depth and camera calibration alongside RGB observations, enabling effective use of heterogeneous geometric annotations. Probabilistic state dropout encourages reliance on visual cues and mitigates overfitting to demonstration trajectories. All auxiliary components are used only during training, allowing direct reuse of pretrained VLA weights and preserving the original inference architecture.
• Abstract（参考訳）: 信頼性の高いロボット操作は、三次元空間における意味的理解と正確な制御の両方を必要とする。 しかしながら、視覚言語行動(VLA)基盤は2次元視覚言語事前訓練から視覚表現をほとんど継承しているが、空間的監督はタスク固有の適応時にのみ導入されることが多い。 空間的理解を伝達可能な基礎モデル能力として発展させるには、より広範なロボットの経験から学ぶことが必要である。 本稿では、連続的な事前学習に暗黙的な空間アライメントを拡大し、下流の訓練中に維持する空間言語-行動モデルSLAを提案する。 事前訓練されたpi05ポリシーから初期化され、SLAは凍結した3次元知覚モデルから中間的な視覚埋め込みと空間表現の間のアクション予測とアライメントを共同で最適化する。 我々は異種ロボットデータセットをキュレートして統一し、多様な実施形態、タスク、シーンにわたる空間学習を支援する。 この多様性に対応するため、空間監視のために複数のVLA層から視覚的埋め込みを適応的に集約する特徴依存ゲートを導入する。 教師はさらに、RGB観測とともに利用可能な深度とカメラキャリブレーションを利用して、異質な幾何学的アノテーションを効果的に活用する。 確率的状態低下は、視覚的手がかりへの依存を促進し、実証軌道への過度な適合を緩和する。 全ての補助部品は訓練中にのみ使用され、事前訓練されたVLA重量を直接再利用し、元の推論アーキテクチャを保存することができる。

関連論文リスト

• Relational Spatial Alignment for Vision-Language-Action Models [13.870335561260807]
  既存のアプローチは、その表現を事前訓練された3D基礎モデルと直接整合させることで、視覚言語アクション(VLA)モデルへの3D認識を符号化する。 モデルの本来の表現性を損なうことなく、3次元空間認識を注入できる表現アライメント法を提案する。
  論文  参考訳（メタデータ） (2026-10-17T14:08:49Z)
• EWAM: Emergent Depth-Wise Specialization in a Unified Embodied Model -- From Semantic Understanding through Visual Foresight to Action [65.7650775259592]
  視覚言語行動(VLA)ポリシーは意味理解を重視し、世界行動モデル(WAM)は環境力学の予測表現を学習する。 本研究では,アクション中心の統一型エンボディモデルであるEWAMについて述べる。
  論文  参考訳（メタデータ） (2026-09-30T15:35:53Z)
• SpaceEra++: A Unified Framework Towards 3D Spatial Reasoning in Video [88.79625979053873]
  事前学習型視覚言語モデル(VLM)のための新しいフレームワークSpaceEraを提案する。 データ構築、モデル設計、トレーニング最適化、推論の促進にまたがる、SpaceEra++と呼ばれる、オリジナルのフレームワークを包括的なシステムに拡張します。 さらに,空間的推論を強化するために,絶対座標と相対空間関係を協調的に利用することにより,対物制約を強制するSpaceAlignを開発した。
  論文  参考訳（メタデータ） (2026-07-02T06:56:29Z)
• AffordanceVLA: A Vision-Language-Action Model Empowering Action Generation through Affordance-Aware Understanding [55.535374902204296]
  AffordanceVLAは、タスク指向の中間表現として構造化された価格予測を導入する統一フレームワークである。 AffordanceVLAは様々な操作シナリオで高いパフォーマンスを実現していることを示す。
  論文  参考訳（メタデータ） (2026-06-04T13:28:51Z)
• VEGA: Visual Encoder Grounding Alignment for Spatially-Aware Vision-Language-Action Models [55.12929235609365]
  現在の視覚言語アクション(VLA)モデルの視覚バックボーンは、主に3次元幾何学的監督を伴わない2次元画像データに事前訓練されている。 既存の暗黙の接地法は、VLA特徴を3D認識基盤モデルと整合させることによって、この問題に部分的に対処する。 DINOv2-FiT3D の空間認識機能と VLA の視覚エンコーダの出力を直接一致させるフレームワーク VEGA を提案する。
  論文  参考訳（メタデータ） (2026-05-11T12:44:26Z)
• Learning to Perceive "Where": Spatial Pretext Tasks for Robust Self-Supervised Learning [17.753167530453997]
  空間認識型プレテキスト回帰タスクである空間予測を導入し、同じ画像から一対の非絡み合ったローカルビュー間の相対的な位置とスケールを予測する。 連続幾何学空間における部分対部分関係をモデル化することにより、SPは表現がきめ細かい空間依存を捉えることを奨励する。 実験では、画像認識、きめ細かな分類、セマンティックセグメンテーション、深さ推定、および物体認識におけるアウト・オブ・ディストリビューションの大幅な向上が示されている。
  論文  参考訳（メタデータ） (2026-05-11T04:15:34Z)
• SG-VLA: Learning Spatially-Grounded Vision-Language-Action Models for Mobile Manipulation [43.77409401429281]
  VLA(Vision-Language-Action)モデルは、ロボット制御の可能性を秘めているが、複雑な家庭環境におけるパフォーマンスは、まだ準最適である。 モバイル操作には、グローバルなシーンレイアウト、きめ細かい形状、高次元連続的な動作の推論が必要である。 知覚と表現を強化する空間的接地型VLAモデルの学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-24T03:44:25Z)
• Universal Pose Pretraining for Generalizable Vision-Language-Action Policies [83.39008378156647]
  既存のVision-Language-Action(VLA)モデルは、しばしば機能崩壊と訓練効率の低下に悩まされる。 本稿では,VLAトレーニングを3次元空間前駆体抽出のための事前学習フェーズに分離する,分離されたパラダイムであるPose-VLAを提案する。 我々のフレームワークは2段階の事前学習パイプラインに従い、ポーズと動きのアライメントによる基本的な空間接地を確立する。
  論文  参考訳（メタデータ） (2026-02-23T11:00:08Z)
• ST4VLA: Spatially Guided Training for Vision-Language-Action Models [80.35847468618276]
  大規模視覚言語モデル(VLM)はマルチモーダル理解において優れるが、具体化されたタスクに拡張されると不足する。 本稿では,動作学習と空間的先行時間との整合性を実現するための2元系ビジョン・ランゲージ・アクション・フレームワークST4VLAを紹介する。 ST4VLAは、Google Robotでは66.1 -> 84.6、WidowX Robotでは54.7 -> 73.2、バニラVLAよりも大幅に改善されている。
  論文  参考訳（メタデータ） (2026-02-10T18:59:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。