論文の概要: Soft Spatial Reasoning
- arxiv url: http://arxiv.org/abs/2609.38717v1
- Date: Wed, 30 Sep 2026 00:51:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:26.914172
- Title: Soft Spatial Reasoning
- Title(参考訳): ソフトスペース推論
- Abstract要約: LVLM(Large Vision-Language Models)は一般的に、チェーン・オブ・ソート(CoT)を通して空間的推論を行う。
LVLMにおける空間的タスクに対するソフト思考を導入するフレームワークであるソフト空間推論を提案する。
各中間推論ステップでは、LVLMはトークン埋め込みを混合して連続したソフト状態を形成する。
- 参考スコア(独自算出の注目度): 11.320777521892422
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Vision-Language Models (LVLMs) commonly perform spatial reasoning through chain-of-thought (CoT), encoding intermediate reasoning as autoregressive sequences of discrete language tokens. Such hard thinking requires committing to a single token at each step, even when the correct spatial interpretation remains uncertain. This early commitment constitutes premature discretization: an incorrect token selection can propagate errors through subsequent reasoning. We propose Soft Spatial Reasoning, a post-training framework that introduces soft thinking for spatial tasks in LVLMs. At each intermediate reasoning step, the LVLM forms a continuous soft state by mixing token embeddings rather than selecting a single token, allowing multiple candidate continuations to influence the next step. The appropriate degree of softness, however, can vary across reasoning steps: retaining multiple candidates may preserve a useful spatial interpretation, but if those candidates imply conflicting spatial relations, mixing them may interfere with subsequent reasoning. At the core of Soft Spatial Reasoning is AdaptSoft, a controller that uses the current hidden state and predictive uncertainty to adapt the degree of softness at each reasoning step. To train AdaptSoft, we introduce a gradient-alignment learning objective that provides a step-specific learning signal for softness control without intermediate reasoning supervision. Across diverse spatial benchmarks, Soft Spatial Reasoning outperforms hard and fixed-soft CoT baselines using the same backbone, as well as a range of existing LVLMs. The source code is available at https://github.com/rafiibnsultan/Soft_Spatial_Reasoning
- Abstract(参考訳): LVLM(Large Vision-Language Models)は一般にチェーン・オブ・シント(CoT)を通して空間的推論を行い、中間的推論を離散言語トークンの自己回帰配列として符号化する。
このようなハードシンキングは、正しい空間解釈が不確実である場合でも、各ステップで1つのトークンにコミットする必要がある。
この初期のコミットメントは早期の離散化を構成しており、不正なトークン選択はその後の推論を通じてエラーを伝播することができる。
LVLMにおける空間的タスクに対するソフト思考を導入した後学習フレームワークであるソフト空間推論を提案する。
各中間推論ステップにおいて、LVLMは単一のトークンを選択するのではなく、トークン埋め込みを混合することで連続したソフト状態を形成し、複数の候補継続が次のステップに影響を与える。
しかし、適切なソフトネスの度合いは推論の段階によって異なり、複数の候補を保持することは有用な空間解釈を保存することができるが、それらの候補が空間的関係に矛盾するなら、それらが混合されることはその後の推論に干渉する可能性がある。
ソフトスペース推論のコアとなるAdaptSoftは、現在の隠れ状態と予測の不確実性を利用して、各推論ステップにおけるソフトネスの度合いを調整するコントローラである。
AdaptSoftを訓練するために、中間的推論監督なしにソフトネス制御のためのステップ固有の学習信号を提供する勾配調整学習目標を導入する。
様々な空間的ベンチマークにおいて、Soft Space Reasoningは、同じバックボーンと既存のLVLMを使用して、ハードおよび固定ソフトのCoTベースラインを上回っている。
ソースコードはhttps://github.com/rafiibnsultan/Soft_Spatial_Reasoningで入手できる。
関連論文リスト
- Rethinking Soft Tokens for Parallel Decoding in Diffusion Language Models [62.63931587313321]
拡散言語モデル(DLMs)は、各段階で複数のトークンを予測してコミットすることで並列生成を可能にする。
最近の研究は、emphsoftトークンが不確実な位置を表すことによってこの問題を緩和できることを示している。
ソフトトークンフィードバックが並列デコードをどのように改善するかは、体系的に検討されていない。
論文 参考訳(メタデータ) (2026-09-29T12:38:30Z) - SPOT: Span-level Pause-of-Thought for Efficient and Interpretable Latent Reasoning in Large Language Models [15.95627037350657]
CoT (Explicit Chain-of-Thought) 計算はトークンレベルのトレースを内部化することによって高い推論コストを発生させる。
固定応答テンプレートを強制せずに、明示的なCoTをコンパクトなポーズトークンに圧縮するフレキシブルなフレームワークであるSPOTを提案する。
推論ベンチマークの実験では、SPOTは生成したトークンを37.5%削減しながら、平均2.3ポイントの精度を向上している。
論文 参考訳(メタデータ) (2026-03-06T12:34:27Z) - SoftCoT: Soft Chain-of-Thought for Efficient Reasoning with LLMs [48.28847964704554]
CoT(Chain-of-Thought)推論により、LLM(Large Language Models)は複雑な推論タスクを解くことができる。
LLMの変更を必要としない連続空間推論のための新しい手法を提案する。
論文 参考訳(メタデータ) (2025-02-17T18:52:29Z) - Training Large Language Models to Reason in a Continuous Latent Space [71.0274000348354]
我々は、言語を超えた推論の可能性を探るため、Coconut (Chain of Continuous Thought)と呼ばれる新しいパラダイムを導入します。
この状態を単語に復号するのではなく、連続した空間に直接埋め込む次の入力としてモデルにフィードバックします。
この潜在的推論パラダイムは、継続的思考が複数の代替の次のステップをエンコードできる高度な推論パターンを可能にする。
論文 参考訳(メタデータ) (2024-12-09T18:55:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。