論文の概要: Distilling Routed 3D Privilege for Spatial Reasoning in Vision-Language Models
- arxiv url: http://arxiv.org/abs/2610.12355v1
- Date: Thu, 08 Oct 2026 17:22:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:54.209887
- Title: Distilling Routed 3D Privilege for Spatial Reasoning in Vision-Language Models
- Title(参考訳): 視覚・言語モデルにおける空間推論のための蒸留3次元プリビレージ
- Abstract要約: GPD(GeometryPrivileged Distillation)を提案する。
各質問に対して、奥行き、意味、鳥の目視(BEV)の手がかりをコンパクトテキストとして描画し、基準回答と共に教師にルーティングする。
4Bバックボーンでは、PSBenchでは57.1、ViewSpatialでは37.6を達成している。
- 参考スコア(独自算出の注目度): 45.59858998032098
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Spatial reasoning remains a persistent weakness of vision-language models (VLMs), because RGB inputs do not directly provide geometric evidence. Existing remedies either inject 3D into the model at inference, paying architecture and latency costs, or train with outcome rewards that supervise only the final answer. Spatial errors originate in perception: a misjudged depth or direction can be corrected only by the scene's true geometry, which the 3D-scanned sources of spatial training corpora already provide. We propose GPD (Geometry-Privileged Distillation), which makes geometric evidence the privilege in on-policy self-distillation (OPSD). For each question, depth, semantic, and bird's-eye-view (BEV) cues are rendered as compact text and routed to the teacher alongside the reference answer; a privileged KL, applied only to incorrect trajectories, augments GRPO, and the deployed model remains RGB-only. On the 4B backbone, GPD achieves 57.1 on VSI-Bench and 37.6 average across MindCube, SPARBench, MMSI-Bench, and ViewSpatial, outperforming both GRPO and answer-privileged OPSD across spatial reasoning benchmarks. Ablations confirm the complementarity of 3D and answer privilege, the advantage of question-conditioned routing over full-context injection, and the benefit of restricting distillation to incorrect trajectories.
- Abstract(参考訳): 空間的推論は、RGB入力が幾何学的証拠を直接提供しないため、視覚言語モデル(VLM)の永続的な弱点である。
既存の改善は、推論時にモデルに3Dを注入し、アーキテクチャとレイテンシのコストを支払うか、最終回答のみを監督する結果報酬でトレーニングする。
空間的誤差は知覚に起因し、誤った深さや方向はシーンの真の幾何学によってのみ修正できる。
GPD(Geometry-Privileged Distillation)を提案する。
各質問に対して、奥行き、意味、鳥の目視(BEV)のキューをコンパクトテキストとして描画し、参照応答と共に教師にルーティングする。
4Bのバックボーンでは、GPDはVSI-Benchで57.1、MindCube、SPARBench、MMSI-Bench、ViewSpatialで37.6、空間推論ベンチマークでGRPOと回答プライマリOPSDの両方を上回っている。
アブレーションは、3Dと解答の特権の相補性、全文注入よりも質問条件付きルーティングの利点、不正な軌跡への蒸留の制限の利点を裏付ける。
関連論文リスト
- Distill What RGB Can Recover: Privileged 3D Evidence for RGB-Only Vision-Language Models [9.680948084798487]
3Dシーンの理解には、実体の存在、空間的レイアウト、オブジェクトの関係に関する推論が必要である。
既存の3D-VLMは、通常、推論時に深度や3D位置対応の入力に依存する。
本研究では,RGBのみの推論下での空間的推論能力に3Dエビデンスを変換する方法について検討した。
論文 参考訳(メタデータ) (2026-07-31T08:24:05Z) - Beyond 3D VQAs: Injecting 3D Spatial Priors into Vision-Language Models for Enhanced Geometric Reasoning [24.251128353444713]
VLM(Vision-Language Models)は、しばしば堅牢な3次元空間推論に苦しむ。
GASP(Geometric Aware Spatial Priors)は,LLMのトランスフォーマー層に直接,基本的な幾何学的事前を注入するフレームワークである。
GASPは、すべての層にまたがる深い監視信号として応用された小さな対応ヘッドを使用し、地上の映像シーンを活用する2つの目的で訓練されている。
論文 参考訳(メタデータ) (2026-05-28T17:00:52Z) - SpatialEvo: Self-Evolving Spatial Intelligence via Deterministic Geometric Environments [75.60795462502949]
SpaceEvoは3D空間推論のための自己進化型フレームワークである。
16の空間推論タスクカテゴリを明示的な幾何学的検証規則で定式化する。
注釈のない3Dシーンをゼロノイズのインタラクティブなオラクルに変換し、モデルコンセンサスを客観的な物理的フィードバックに置き換える。
論文 参考訳(メタデータ) (2026-04-15T17:59:12Z) - SpatialFly: Geometry-Guided Representation Alignment for UAV Vision-and-Language Navigation in Urban Environments [49.966170814478915]
UAV VLNのための幾何学誘導空間表現フレームワークを提案する。
明示的な3次元再構成を伴わないRGB観測において、SpatialFlyは幾何学誘導2次元表示アライメント機構を導入する。
実験結果から、SpatialFlyは現状のUAV VLNベースラインを目に見える環境と見えない環境の両方で一貫して上回っていることが明らかとなった。
論文 参考訳(メタデータ) (2026-03-22T03:56:58Z) - GLaD: Geometric Latent Distillation for Vision-Language-Action Models [106.53332923530245]
GLaDは、知識蒸留による事前学習中に3次元の幾何学的先行を組み込んだ幾何学的認識型視覚・言語・アクション(VLA)フレームワークである。
GLaDは4つのLIBEROタスクスイートの平均成功率は94.1%で、同じ事前トレーニングデータを使用するUniVLA(92.5%)を上回っている。
論文 参考訳(メタデータ) (2025-12-10T13:07:27Z) - Towards Human-Level 3D Relative Pose Estimation: Generalizable, Training-Free, with Single Reference [65.42565481489132]
人間は、単一のクエリ参照イメージペアのみを前提として、ラベル付けやトレーニングをすることなく、これまで見られなかったオブジェクトの相対的なポーズを容易に推論することができる。
RGB-D参照から3D/2.5D形状認識と2.5D形状認識を併用した新しい3次元一般化可能な相対ポーズ推定法を提案する。
RGBとセマンティックマップ(DINOv2がRGB入力から取得)によってテクスチャ化された2.5Dの回転可能なメッシュを識別し、新しいRGBとセマンティックマップを新しい回転ビューの下でレンダリングする。
論文 参考訳(メタデータ) (2024-06-26T16:01:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。