論文の概要: Spatial-OPSD: Self-Improving Spatial Reasoning via Label-Free Self-Distillation
- arxiv url: http://arxiv.org/abs/2609.37055v1
- Date: Tue, 29 Sep 2026 08:58:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.34772
- Title: Spatial-OPSD: Self-Improving Spatial Reasoning via Label-Free Self-Distillation
- Title(参考訳): 空間OPSD:ラベルなし自己蒸留による自己改善空間推論
- Abstract要約: 空間OPSD(Spatial-OPSD)は、視覚言語モデルのためのラベルなしの自己改善フレームワークである。
知覚と再構築ツールから自然に利用できる空間構造を利用する。
1ラウンドは5ベンチマーク平均を一貫して改善し、3ラウンドはオープンソースフロンティアに強力な空間特化モデルを押し上げる。
- 参考スコア(独自算出の注目度): 20.81249618829351
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Vision-language models (VLMs) increasingly operate in embodied and spatially grounded settings, where accurate understanding of depth, viewpoint, and three-dimensional relations is essential. However, improving spatial reasoning typically relies on ground-truth answers, answer-derived rewards, or other forms of task-specific supervision. We introduce Spatial-OPSD, a label-free self-improvement framework that instead exploits spatial structure naturally available from perception and reconstruction tools. During training, a privileged teacher receives automatically obtainable spatial priors, such as depth, reconstructed 3D relations, and camera geometry, while the student observes only the original visual-language input. On trajectories sampled by the student itself, the teacher provides dense token-level supervision, allowing the student to internalize spatial knowledge without ground-truth answer labels or privileged information at inference time. To extend this supervision beyond a single round, we adopt a round-wise recursive training scheme: the teacher remains frozen within each round to provide a stable learning target, and the improved student initializes both teacher and student in the next round, where privileged spatial priors re-establish an informative teacher--student asymmetry. This enables repeated self-improvement while avoiding a rapidly moving teacher during optimization. Across four VLM families, a single round of Spatial-OPSD consistently improves the five-benchmark average, while three rounds further push a strong spatially specialized model to the open-source frontier, achieving the highest average among the open models and the best results on three of five spatial reasoning benchmarks. Our code is available at https://github.com/vermouth599/Spatial-OPSD.
- Abstract(参考訳): 視覚言語モデル(VLM)は、深度、視点、三次元関係の正確な理解が不可欠である、具体的かつ空間的に接地された環境でますます機能する。
しかし、空間的推論を改善するには、典型的には、根底からの答え、答え由来の報酬、その他のタスク固有の監督形式に依存する。
本研究では,ラベルのない自己改善フレームワークであるSpatial-OPSDを紹介する。
訓練中、特権教師は、深度、再構成された3D関係、カメラ幾何学などの空間的先行情報を自動で受け取り、学生は元の視覚言語入力のみを観察する。
学生自身がサンプリングした軌道上では、教師は密集したトークンレベルの監督を行い、学生は推論時に、地味な回答ラベルや特権情報なしで空間的知識を内部化することができる。
教師は学習目標を安定させるために各ラウンドに凍結し続け、改良された生徒は次のラウンドで教師と生徒の両方を初期化し、特権的な空間的事前が情報的教師の非対称性を再確立する。
これにより、最適化中に急速に動く教師を避けながら、繰り返し自己改善を行うことができる。
4つのVLMファミリー全体では、Spatial-OPSDの1ラウンドは5ベンチマーク平均を一貫して改善し、3ラウンドはより強力な空間特化モデルをオープンソースフロンティアにプッシュし、オープンモデルの中で最高の平均を達成し、5つの空間推論ベンチマークのうち3つの最良の結果を得る。
私たちのコードはhttps://github.com/vermouth599/Spatial-OPSD.comで利用可能です。
関連論文リスト
- Reinforcing Dual-Path Reasoning in Spatial Vision Language Models [113.86271063627782]
本稿では,空間的VLMにLOR(Language-Only Reasoning)とDTR(Detect-Then-Reason)の2つの相補的推論経路を持つ統一的なフレームワークを提案する。
様々な空間ベンチマークにおいて、SR-REALは空間的VLMベースラインを著しく上回る。
論文 参考訳(メタデータ) (2026-06-16T05:32:39Z) - Beyond 3D VQAs: Injecting 3D Spatial Priors into Vision-Language Models for Enhanced Geometric Reasoning [24.251128353444713]
VLM(Vision-Language Models)は、しばしば堅牢な3次元空間推論に苦しむ。
GASP(Geometric Aware Spatial Priors)は,LLMのトランスフォーマー層に直接,基本的な幾何学的事前を注入するフレームワークである。
GASPは、すべての層にまたがる深い監視信号として応用された小さな対応ヘッドを使用し、地上の映像シーンを活用する2つの目的で訓練されている。
論文 参考訳(メタデータ) (2026-05-28T17:00:52Z) - SpatialEvo: Self-Evolving Spatial Intelligence via Deterministic Geometric Environments [75.60795462502949]
SpaceEvoは3D空間推論のための自己進化型フレームワークである。
16の空間推論タスクカテゴリを明示的な幾何学的検証規則で定式化する。
注釈のない3Dシーンをゼロノイズのインタラクティブなオラクルに変換し、モデルコンセンサスを客観的な物理的フィードバックに置き換える。
論文 参考訳(メタデータ) (2026-04-15T17:59:12Z) - ToLL: Topological Layout Learning with Structural Multi-view Augmentation for 3D Scene Graph Pretraining [29.799719863247287]
3D Scene Graph (3DSG) 生成は空間的理解と意味認識において重要な役割を担っている。
現在のソリューションは主に、クロスモーダル支援表現学習とオブジェクト中心生成事前学習に焦点を当てている。
3DSG事前学習のためのトポロジカルレイアウト学習(ToLL)を提案する。
より詳しくは,GNNを用いたアンカー・コンディショントポロジカル・ジオメトリ・推論を設計し,空間的なアンカーからゼロ中心部分グラフのグローバルなレイアウトを復元する。
論文 参考訳(メタデータ) (2026-03-30T08:43:52Z) - Towards Foundation Models for 3D Scene Understanding: Instance-Aware Self-Supervised Learning for Point Clouds [53.82500407523346]
PointINSは、幾何学的学習を通じてポイントクラウド表現を豊かにする、インスタンス指向の自己組織化フレームワークである。
PointINSは、屋内のインスタンスセグメンテーションで平均+3.5%のmAP改善、屋外のパン光学セグメンテーションで+4.1%のPQゲインを達成している。
論文 参考訳(メタデータ) (2026-03-26T08:31:06Z) - EagleVision: A Dual-Stage Framework with BEV-grounding-based Chain-of-Thought for Spatial Intelligence [10.889641815961133]
空間知能アプローチは通常、2D推論パイプラインやブラックボックス再構成モジュールを備えたMLLMに3Dキューを付加する。
本稿では,マクロ認識とマイクロ検証による進行的空間認知のためのフレームワークであるEagleVisionを提案する。
論文 参考訳(メタデータ) (2025-12-17T07:51:36Z) - Spatial-SSRL: Enhancing Spatial Understanding via Self-Supervised Reinforcement Learning [93.19037653970622]
本研究では,通常のRGBやRGB-D画像から直接検証可能な信号を導出する自己教師付きRLパラダイムである空間SSRLを紹介する。
我々のタスクの訓練は、一般的な視覚能力を維持しながら空間的推論を大幅に改善する。
以上の結果から,単純で本質的な監視がRLVRを大規模に実現し,LVLMの空間知能を高めるための実践的経路が示唆された。
論文 参考訳(メタデータ) (2025-10-31T16:30:08Z) - Hierarchical Supervision and Shuffle Data Augmentation for 3D
Semi-Supervised Object Detection [90.32180043449263]
最先端の3Dオブジェクト検出器は通常、高品質な3Dアノテーションを備えた大規模データセットで訓練される。
自然な治療法は、限られた量のラベル付きサンプルと豊富なラベル付きサンプルを活用することで、半教師付き学習(SSL)を採用することである。
本稿では,HSSDA(Hierarchical Supervision and Shuffle Data Augmentation)の新たなアプローチを提案する。
論文 参考訳(メタデータ) (2023-04-04T02:09:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。