論文の概要: SpatialOPSD: Self-Distilling Spatial Intelligence from Verified Coding Agent Traces
- arxiv url: http://arxiv.org/abs/2610.11366v1
- Date: Thu, 08 Oct 2026 06:58:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.849336
- Title: SpatialOPSD: Self-Distilling Spatial Intelligence from Verified Coding Agent Traces
- Title(参考訳): SpaceOPSD: 検証された符号化エージェントトレースからの自己拡張型空間知能
- Abstract要約: 本研究では,空間推論をスタンドアロンMLLMに内部化するSpatialOPSDを提案する。
複数のベンチマークで実験したところ、自己蒸留型SpatialOPSDはSFTやGRPOよりも平均精度が高いことがわかった。
- 参考スコア(独自算出の注目度): 23.87906673648646
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Spatial coding agents significantly improve spatial reasoning in Multimodal Large Language Models (MLLMs) by using external tools to generate verified execution traces. However, this paradigm inherently suffers from prohibitive inference-time overhead and external dependencies. In this paper, we explore whether an MLLM can internalize this agentic capability to operate entirely tool-free. We begin with a simple observation: prompting an MLLM with summarized execution traces of a spatial coding agent naturally unlocks the model's internal spatial Chain-of-Thought (CoT). Motivated by this, we introduce SpatialOPSD, an on-policy self-distillation framework that internalizes spatial reasoning into a standalone MLLM by formulating verified agent traces as privileged information. To mitigate privileged-information leakage during distillation, we introduce Repetition-Aware Distillation, which combines repetition masking with unlikelihood regularization. Experiments across multiple benchmarks demonstrate that self-distilling SpatialOPSD achieves higher average accuracy than SFT and GRPO on both spatial and OOD datasets, exhibiting superior performance and generalization.
- Abstract(参考訳): 空間符号化エージェントは、外部ツールを用いて検証された実行トレースを生成することにより、MLLM(Multimodal Large Language Models)における空間推論を大幅に改善する。
しかし、このパラダイムは本質的には推論時間の禁止と外部依存関係に悩まされている。
本稿では,MLLMがこのエージェント機能を内在化して完全にツールフリーで運用できるかどうかを考察する。
空間符号化エージェントの実行トレースを要約したMLLMを起動することで、モデルの内部空間連鎖(CoT)を自然に解き放つ。
そこで本稿では,実証されたエージェントトレースを特権情報として定式化することによって,空間推論を独立MLLMに内在化する自己蒸留フレームワークであるSpatialOPSDを紹介する。
蒸留における特権情報漏洩を軽減するため,繰り返しマスクと不規則な正則化を組み合わせた繰り返し意識蒸留を導入する。
複数のベンチマークで実験したところ、自己蒸留型空間OPSDは空間データとOODデータセットの両方においてSFTやGRPOよりも高い平均精度を達成し、優れた性能と一般化を示すことがわかった。
関連論文リスト
- Is It Time for the Renaissance of Salient Object Detection in the Era of MLLMs? [25.03825424390989]
MLLM(Multimodal large language model)は、タスク固有の監視を超越した、有能なオブジェクト検出(SOD)を推進している。
SODをローカライズとセグメンテーションに分解し、フレーズ、ボックス、属性でデータセットを再エンジニアリングする。
We introduced the first training-free framework that leverages Collaborative attention for Unified SOD (FOCUS)。
論文 参考訳(メタデータ) (2026-07-31T09:54:23Z) - Where to Place the Query? Unveiling and Mitigating Positional Bias in In-Context Learning for Diffusion LLMs via Decoding Dynamics [5.345984783628041]
本稿では,クエリ位置が実際にdLLMの1次変数であることを示す包括的解析について述べる。
本稿では,反復復号プロセスを追跡する新しいメトリクスである平均信頼度(overlineC$)を提案する。
基礎となる空間的ICLベースラインを確立することにより、トレーニング不要な適応ルーティング戦略であるAuto-ICLを導入する。
論文 参考訳(メタデータ) (2026-04-26T20:22:47Z) - Memory-Augmented LLM-based Multi-Agent System for Automated Feature Generation on Tabular Data [52.80567461420316]
メモリ拡張LPMに基づくマルチエージェントシステム(textbfMALMAS)を提案する。
MALMASは生成プロセスを独立した責任を持つエージェントに分解し、ルータエージェントはイテレーション毎にエージェントの適切なサブセットを起動する。
さらに、手続きメモリ、フィードバックメモリ、概念記憶を含むメモリモジュールを統合し、その後の特徴生成を適応的に導く反復的改善を可能にする。
論文 参考訳(メタデータ) (2026-04-22T07:09:30Z) - Agentic Spatio-Temporal Grounding via Collaborative Reasoning [80.83158605034465]
時間的ビデオグラウンド(Temporal Video Grounding)は、テキストクエリが与えられたビデオ内の対象物または人の時間的チューブを検索することを目的としている。
本稿では,STVGの課題に対して,オープンワールドおよびトレーニングフリーシナリオに向けたエージェント時空間グラウンド(ASTG)フレームワークを提案する。
具体的には、現代多言語モデル(MLLM)を活用した2つの特殊エージェントSRA(Spatial Reasoning Agent)とTRA(Temporal Reasoning Agent)である。
人気のあるベンチマークの実験は、既存の弱教師付きおよびゼロショットアプローチをマージンで上回る提案手法の優位性を実証している。
論文 参考訳(メタデータ) (2026-02-10T10:16:27Z) - DLLM Agent: See Farther, Run Faster [94.74432470237817]
拡散大言語モデル(DLLM)は、自己回帰(AR)デコーディングの代替として、魅力的な効率とモデリング特性を持つ。
我々は、DLLMとARのバックボーンを同一のエージェントワークフロー内でインスタンス化することで、制御された環境でこれを研究する。
DLLMエージェントはARエージェントよりも平均30%以上速く、場合によっては8倍のスピードアップを達成している。
論文 参考訳(メタデータ) (2026-02-07T09:01:18Z) - RECALL: REpresentation-aligned Catastrophic-forgetting ALLeviation via Hierarchical Model Merging [33.22889542330089]
大規模言語モデル(LLM)の内部表現は、学習知識の信頼できるプロキシとして機能する。
本稿では,過去データにアクセスせずに連続的な学習を行うための表現認識モデル統合フレームワークRECALLを提案する。
論文 参考訳(メタデータ) (2025-10-23T12:17:37Z) - Agentic Reinforced Policy Optimization [66.96989268893932]
検証可能な報酬付き大規模強化学習(RLVR)は,大規模言語モデル(LLM)を単一ターン推論タスクに活用する効果を実証している。
現在のRLアルゴリズムは、モデル固有のロングホライゾン推論能力と、マルチターンツールインタラクションにおけるその習熟性のバランスが不十分である。
エージェント強化ポリシー最適化(ARPO: Agentic Reinforced Policy Optimization)は,マルチターンLDMエージェントを学習するためのエージェントRLアルゴリズムである。
論文 参考訳(メタデータ) (2025-07-26T07:53:11Z) - LaMDAgent: An Autonomous Framework for Post-Training Pipeline Optimization via LLM Agents [3.6117068575553595]
トレーニング後の完全なパイプラインを自律的に構築し、最適化するフレームワークであるLaMDAgentを紹介します。
LaMDAgentは、ツールの使用精度を9.0ポイント向上し、命令追従機能を保持する。
従来の人間主導の探査で見落とされがちな効果的なポストトレーニング戦略を明らかにする。
論文 参考訳(メタデータ) (2025-05-28T04:30:51Z) - Disentanglement via Latent Quantization [60.37109712033694]
本研究では,組織化された潜在空間からの符号化と復号化に向けた帰納的バイアスを構築する。
本稿では,基本データレコーダ (vanilla autoencoder) と潜時再構成 (InfoGAN) 生成モデルの両方に追加することで,このアプローチの広範な適用性を実証する。
論文 参考訳(メタデータ) (2023-05-28T06:30:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。