論文の概要: CST-Bench: Benchmarking Counterfactual Spatial Transition Reasoning with Causal Transition On-Policy Self-Distillation
- arxiv url: http://arxiv.org/abs/2611.07541v1
- Date: Thu, 05 Nov 2026 06:49:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.573092
- Title: CST-Bench: Benchmarking Counterfactual Spatial Transition Reasoning with Causal Transition On-Policy Self-Distillation
- Title（参考訳）: CST-Bench:Cousal transition on-Policy Self-Distillation による非現実的空間遷移推論のベンチマーク
- Abstract要約: 対実空間推論のベンチマークであるCST-Benchを紹介する。
CST-Benchには、6つの介入タイプと12の変換演算子をカバーする7,082のサンプルが含まれている。
我々は,CST-Benchアノテーションを用いたCT-OPSDを提案する。
- 参考スコア（独自算出の注目度）: 16.694513810026184
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Spatial reasoning is a fundamental capability of multimodal large language models (MLLMs), yet existing benchmarks mainly focus on static scene understanding. When objects are moved or swapped, models must infer not only spatial relations but also how interventions change the scene state. To address this problem, we introduce CST-Bench, a benchmark for counterfactual spatial reasoning. CST-Bench contains 7,082 examples covering 6 intervention types and 12 transformation operators, with dense causal annotations including intervention sources, affected relations, expected effects, invariant relations, and metric changes. We benchmark general-purpose MLLMs on CST-Bench and further compare post-training strategies on CST-Bench and standard spatial benchmarks. Results show that methods effective for ordinary spatial reasoning can still fail under counterfactual interventions. We further formulate counterfactual spatial reasoning as causal state-transition modeling and propose CT-OPSD, which uses CST-Bench annotations to guide a teacher model in learning counterfactual state transitions and causal reasoning chains. These chains are then distilled into a student model that reasons only from real observations. Overall, experiment results establish CST-Bench as a challenging benchmark and reusable supervision resource for counterfactual spatial reasoning. CT-OPSD further provides an initial demonstration of how its annotations can support model improvement.
- Abstract（参考訳）: 空間推論はマルチモーダル大言語モデル(MLLM)の基本機能であるが、既存のベンチマークは主に静的シーン理解に焦点を当てている。
オブジェクトが移動または交換された場合、モデルは空間的関係だけでなく、介入がどのようにシーンの状態を変えるかを推測する必要がある。
この問題に対処するために, 対実空間推論のベンチマークである CST-Bench を導入する。
CST-Benchには、6つの介入タイプと12の変換演算子を含む7,082の例が含まれている。
我々は、CST-Bench上の汎用MLLMをベンチマークし、CST-Benchと標準空間ベンチマークのポストトレーニング戦略を比較した。
その結果, 通常の空間的推論に有効な手法は, いまだに非現実的介入の下では失敗する可能性が示唆された。
我々はさらに、因果状態遷移モデルとしての反ファクト空間推論を定式化し、CST-Benchアノテーションを用いて、反ファクト状態遷移と因果的推論連鎖を学習する教師モデルを案内するCT-OPSDを提案する。
これらの鎖は、実際の観測からのみ生じる学生モデルに蒸留される。
全体として、実験結果は、CST-Benchを、カウンターファクト空間推論のための、挑戦的なベンチマークと再利用可能な監視リソースとして確立する。
CT-OPSDはさらに、そのアノテーションがモデル改善をサポートするための最初のデモを提供している。
関連論文リスト
- From Stages to States: Unified Iterative Reasoning for MLLMs [30.40472787097603]
MCoT(Multimodal Chain-of-Thought)は、MLLM(Multimodal Large Language Models)の複雑な推論能力を大幅に向上させる。
学習に基づくほとんどのMCoT手法は、異なる推論動作が事前に定義された段階に割り当てられ、個別に最適化されるステージ中心のパラダイムに従っている。
ステージ駆動パイプラインから状態駆動動的プロセスへのマルチモーダル推論を再構成する,統合された反復推論フレームワークであるReStateを提案する。
論文 参考訳（メタデータ） (2026-10-11T13:46:43Z) - When LLM Meets Tree Search: A Systematic View of Inference as Search in Large Language Models [92.71325249013535]
テスト時間スケーリング(TTS)は、推論時間計算を固定モデルに割り当てることで推論を改善する重要な方向として登場した。
この調査は、木探索に基づく推論の最近の進歩を体系化し、推論をデコードではなく、インスタンス固有の最適化と見なす。
論文 参考訳（メタデータ） (2026-08-31T07:49:56Z) - The Art of Interrogation: Consistency Amplifies Factuality in Spatial Reasoning [65.67266333751569]
現在のLRM(Large Reasoning Models)は、空間推論タスクにおいて顕著な汎用性を示すが、性能は著しく劣る。
本研究では,内的推論プロセスを対象とした自己指導型強化学習フレームワークを提案する。
このラベルのない整合性トレーニングは,地道的な監督によって訓練されたモデルの精度にアプローチし,多様なタスクやデータ領域にまたがる同様の一般化を実現することを示す。
論文 参考訳（メタデータ） (2026-06-10T10:50:06Z) - GTS: Inference-Time Scaling of Latent Reasoning with a Learnable Gaussian Thought Sampler [54.10960908347221]
我々は、学習可能な密度から条件付きサンプリングとして潜在思考探索をモデル化し、このアイデアをガウス思想サンプリング(GTS)としてインスタンス化する。
GTSは、連続的推論状態における文脈依存摂動分布を予測し、バックボーンを凍結させながらGRPOスタイルのポリシー最適化を訓練する。
論文 参考訳（メタデータ） (2026-02-15T09:57:47Z) - Causal Imitation Learning Under Measurement Error and Distribution Shift [6.038778620145853]
ノイズ測定によってのみ、決定関連状態の一部が観察される場合、オフライン模倣学習(IL)について検討する。
本稿では,変数間の因果関係を明示的にモデル化することによって,測定誤差下でのILの一般的なフレームワークを提案する。
論文 参考訳（メタデータ） (2026-01-29T18:06:53Z) - How and Why LLMs Generalize: A Fine-Grained Analysis of LLM Reasoning from Cognitive Behaviors to Low-Level Patterns [51.02752099869218]
大きな言語モデル(LLM)は、非常に異なる一般化の振る舞いを示す。
推論を原子核スキルに分解する新しいベンチマークを導入する。
SFTモデルはよりシャープなドリフトと表面パターンへの過度な適合を示すのに対し、RL型モデルはより安定した行動プロファイルを維持し、推論スキルの崩壊に抵抗することを示す。
論文 参考訳（メタデータ） (2025-12-30T08:16:20Z) - CTRLS: Chain-of-Thought Reasoning via Latent State-Transition [57.51370433303236]
チェーン・オブ・シント(CoT)推論は、大規模な言語モデルで複雑な問題を解釈可能な中間ステップに分解することを可能にする。
我々は,遅延状態遷移を伴うマルコフ決定プロセス(MDP)としてCoT推論を定式化するフレームワークであるgroundingSを紹介する。
我々は、ベンチマーク推論タスクにおける推論精度、多様性、探索効率の改善を示す。
論文 参考訳（メタデータ） (2025-07-10T21:32:18Z) - Enhancing Spatial Reasoning in Vision-Language Models via Chain-of-Thought Prompting and Reinforcement Learning [0.42855555838080844]
本研究では,視覚言語モデル(VLM)の空間的推論能力について,Chain-of-Thoughtプロンプトと強化学習を通して検討した。
モデルが解答の前に推論ステップを生成する単純なCoT形式は、モデルの本来の性能を損なう可能性がある。
対照的に、シーングラフ(SceneGraph CoT)に基づく構造化マルチステージプロンプトは空間推論の精度を大幅に向上させる。
論文 参考訳（メタデータ） (2025-07-06T10:51:12Z) - State Stream Transformer (SST) : Emergent Metacognitive Behaviours Through Latent State Persistence [0.0]
State Stream Transformer (SST) は、事前訓練された重みで遅延した突発的な推論動作を示す新しいLCMアーキテクチャである。
SSTは、自己回帰世代を通して永続的な潜伏過程を維持し、進化させる重み付き崩壊を伴うスライディングウィンドウ潜伏状態(FFN)キャッシュを導入している。
SSTは、GSM-8K(0ショット)で89.01%、ARC Challenge(0ショットCoT)で91.04%の精度を達成した。
論文 参考訳（メタデータ） (2025-01-30T14:03:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。