論文の概要: Are Stated Reasoning Steps Causally Load-Bearing?
- arxiv url: http://arxiv.org/abs/2609.27038v1
- Date: Tue, 22 Sep 2026 20:34:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 00:05:17.766858
- Title: Are Stated Reasoning Steps Causally Load-Bearing?
- Title（参考訳）: 状態推論は因果的ロードバアリングのステップか?
- Abstract要約: CoT(Chain-of- Thought)モニタリングは、モデルが書き込む推論は、その解を直接生成する計算を反映していると仮定する。
本手法は,活性化レベル,特に自己生成的推論に基づいて,忠実度を因果的に測定することを目的としている。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Chain-of-thought (CoT) monitoring assumes that the reasoning a model writes reflects the computation that directly produces its answer. Previous faithfulness metrics have been predominantly behavioral, as they simply edit the reasoning text and observe the resulting answer. However, our methodology aims to measure faithfulness causally at the activation level, specifically on self-generated reasoning. Unlike previous causal audits, which measure degradation, our interventions carry a known predicted target. In this way, each patch should switch the answer to a specific counterfactual entity derivable by construction. Specifically, we use synthetic multi-hop lookup tasks (2-6 hops). We patch the residual stream at the token span where the model states each intermediate step with the corresponding activations from a counterfactual run. For Qwen3-4B, 76.9% +/- 2.8% of stated steps are causally load-bearing (CLB) at the most responsive mid-network layer (random-position null: 11.3%; patching the underlying prompt fact: 83%, so stated steps carry approximately 96% of the achievable effect). Moreover, the standard behavioral test on the same items yields 88.2%, which overstates causal faithfulness by 11.4 percentage points (item-matched; 111:14 discordant pairs, p < 1e-15) and, for the easiest items, by up to 20 percentage points. This gap also has a clear capability dimension. Qwen3-1.7B is far less causally faithful overall (54.8%), with its faithfulness collapsing as reasoning depth increases (68% at 2 hops to 30% at 6), while Qwen3-4B remains relatively flat. Although stated reasoning can be causally meaningful, standard behavioral tests tend to overestimate its causal faithfulness, particularly on easier examples where model reasoning appears most fluent.
- Abstract（参考訳）: CoT(Chain-of- Thought)モニタリングは、モデルが書き込む推論は、その解を直接生成する計算を反映していると仮定する。
それまでの忠実度指標は、推論テキストを編集して結果の回答を観察するだけで、主に行動的であった。
しかし,本手法は,活性化レベル,特に自己生成的推論に基づいて,忠実度を因果的に測定することを目的としている。
劣化を測定する従来の因果監査とは異なり、我々の介入は既知の予測対象を担っている。
このようにして、各パッチは、解答を構築によって導出される特定の偽物エンティティに切り替えるべきである。
具体的には,合成マルチホップルックアップタスク(2-6ホップ)を用いる。
トークンスパンで残ストリームをパッチし、モデルが各中間ステップを、反ファクト的な実行から対応するアクティベーションでステートする。
Qwen3-4Bでは、76.9%+/-2.8%のステップが、最も応答性の高い中間ネットワーク層における因果的ロードベアリング(CLB)である(ランダム配置null: 11.3%; 基礎となるプロンプト事実をパッチする: 83%。
さらに、同じ項目の標準行動テストでは88.2%が因果的忠実度を11.4ポイント(テムマッチング、111:14不協和対、p < 1e-15)、最も簡単な項目では最大20ポイントに上乗せする。
このギャップはまた、明らかな能力の次元を持っている。
Qwen3-1.7Bは概して因果的に忠実でない(54.8%)が、その忠実度は、推論の深さが増加し(68%は2ホップで30%)、Qwen3-4Bは比較的平坦である。
説明された推論は因果的意味を持つ可能性があるが、標準的な行動テストはその因果的忠実さを過大評価する傾向がある。
関連論文リスト
- From Decorative to Load-Bearing: Task Difficulty Shapes the Causal Role of Chain-of-Thought [2.122752621320654]
CoT(Chain-of- Thought)モニタリングは、記述された推論が答えを因果的に制約する場合のみ意味を持つ。
本稿では,連続型因果検定,アブレーション・パッチによる介入,連鎖の切断,崩壊した接頭辞からの継続を強制する手法を提案する。
これは、CoTが最後に答えるためにどのようにロードされるかを測定するもので、機械的忠実性とは異なる振る舞いの概念である。
論文 参考訳（メタデータ） (2026-09-21T20:06:06Z) - State of Thought Enables Endogenous Reasoning [48.902117018115256]
大規模言語モデル(LLM)の能力向上のための主要なアプローチとして、テスト時推論が登場した。
LLMにおける内在的推論を可能にする新しい推論パラダイムであるState of Thoughtを提案する。
SoTは平均ベースライン精度を一貫して改善し,生成トークンを62.6%,エンドツーエンドのレイテンシを44.6%削減した。
論文 参考訳（メタデータ） (2026-09-13T05:55:03Z) - PriorProof: A Point-in-Time Measure of Technique Novelty for Formal Proofs [0.23689955632456092]
我々は、形式数学における時間相対的証明-ルート非標準性という、意図的なより狭い構成について研究する。
PriorProofは、その精巧な証明項の依存関係のフットプリントを抽出し、そのフットプリントの重み付けされた推定値をスコアする。
我々は、スコアギャップが解釈可能な信頼性指標を提供する分解可能な時間アンコール信号として、PreferProofを提案する。
論文 参考訳（メタデータ） (2026-07-18T23:10:00Z) - Reasoning Quality Emerges Early: Data Curation for Reasoning Models [58.56882815783977]
我々は,初期推論トークンのみを用いて,多種多様かつ挑戦的な推論例を識別可能であることを示す。
本手法は,トークン効率を91%向上させながら,既存のベースラインを最大1.7%向上させる。
論文 参考訳（メタデータ） (2026-06-25T09:32:58Z) - Free Energy Heuristics: Fast-And-Frugal Cognition as Active Inference Under Uncertain Precision [0.0]
CoT(Chain-of-Thought)は、数学と記号的推論における大きな言語モデルの性能を改善する。
しかし、計画、倫理問題、モデルが自身をチェックできないタスクについて、さらなる推論は事態を悪化させます。
これはメタ不確実性(メタ不確実性)である、と我々は主張する。
論文 参考訳（メタデータ） (2026-06-14T16:04:09Z) - Understanding and Mitigating Premature Confidence for Better LLM Reasoning [76.16007941549857]
現在の言語モデルからの思考の長い連鎖(CoT)は、しばしば論理的ギャップと不正な跳躍を含んでいる。
このような信号は、モデルの信頼性が推論中にどのように進化するかを示す。
これは、モデルを早期にコミットするのではなく、理由によってモデルの信頼性を更新するように訓練する強化学習の目標です。
論文 参考訳（メタデータ） (2026-05-23T04:42:45Z) - ReasoningBomb: A Stealthy Denial-of-Service Attack by Inducing Pathologically Long Reasoning in Large Reasoning Models [67.15960154375131]
大規模推論モデル(LRM)は、多段階推論トレースを明示した大規模言語モデルを拡張する。
この能力は、推論の高い計算コストを生かした、新しいタイプのプロンプト誘発推論時間拒否攻撃(PI-DoS)を導入している。
本稿では,強化学習に基づくPI-DoSフレームワークであるReasoningBombについて紹介する。
論文 参考訳（メタデータ） (2026-01-29T18:53:01Z) - Does Inference Scaling Improve Reasoning Faithfulness? A Multi-Model Analysis of Self-Consistency Tradeoffs [0.0]
自己整合性は、推論タスクにおける大きな言語モデルの精度を改善するための一般的な手法として現れてきた。
推論スケーリングは信頼の推論を改善するのか?
我々は、100 GSM8Kの数学的推論問題に対して、4つのフロンティアモデル(GPT-5.2、Claude Opus 4.5、Gemini-3-flash-preview、DeepSeek-v3.2)にわたる総合的な実証的研究を行った。
論文 参考訳（メタデータ） (2026-01-10T04:20:00Z) - Causal Understanding by LLMs: The Role of Uncertainty [43.87879175532034]
近年の論文では、LLMは因果関係分類においてほぼランダムな精度を達成している。
因果的事例への事前曝露が因果的理解を改善するか否かを検討する。
論文 参考訳（メタデータ） (2025-09-24T13:06:35Z) - VeriThinker: Learning to Verify Makes Reasoning Model Efficient [52.74493506816969]
大型推論モデルは、Chain-of-Thought (CoT)推論を用いて複雑なタスクで優れている。
過度に考える傾向は、必然的に長い推論連鎖に繋がる。
我々は,CoT圧縮の新しい手法であるVeriThinkerを紹介する。
論文 参考訳（メタデータ） (2025-05-23T14:17:56Z) - Faithful Chain-of-Thought Reasoning [51.21714389639417]
CoT(Chain-of-Thought)は言語モデル(LM)のパフォーマンスを様々な推論タスクで向上させる。
翻訳と問題解決という2つの段階を含む推論フレームワークであるFithful CoTを提案する。
このことは、推論連鎖が最終回答の忠実な説明を提供することを保証している。
論文 参考訳（メタデータ） (2023-01-31T03:04:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。