論文の概要: Thinking Leakage: A Causal Audit of NoThink Post-Training in Hybrid Reasoning Models

• arxiv url: http://arxiv.org/abs/2609.28682v1
• Date: Wed, 23 Sep 2026 18:22:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 21:10:09.486698
• Title: Thinking Leakage: A Causal Audit of NoThink Post-Training in Hybrid Reasoning Models
• Title（参考訳）: ハイブリッド推論モデルにおけるNoThinkポストトレーニングの因果監査
• Abstract要約: NoThinkモードでの学習後のハイブリッド推論モデルは、関心を集めている。 これらの利得は、ベースモデルのThinkモードを通じて既にアクセス可能な思考行動に作用する可能性がある。 我々はこの思考漏れを因果仲裁の枠組みで定式化する。
• 参考スコア（独自算出の注目度）: 16.17376255007009
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Post-training hybrid reasoning models in NoThink mode has attracted growing interest as a way to improve performance while keeping inference fast. However, these gains may draw on thinking behavior already accessible through the base model's Think mode. We formulate this thinking leakage in a causal mediation framework and audit its contribution using bidirectional interventions along a simple base-derived activation direction. Across three models and three post-training methods on competition math benchmarks, we find that leakage is real, causal, and substantial: behavioral and representational analyses reveal shifts toward Think, steering the base model along this direction reproduces most of the post-training accuracy gain, and counter-steering a checkpoint removes a substantial share of what it gains. Across nine aligned checkpoints with positive NoThink gains, the resulting leakage ratio ranges from 42% to 79%. These interventions support a substantial causal contribution of thinking leakage. Our findings show that a post-training method's apparent advantage can therefore reflect greater drift toward Think, obscuring whether it improves capability within NoThink or more effectively re-invokes existing Think behavior.
• Abstract（参考訳）: NoThinkモードでの学習後のハイブリッド推論モデルは、推論を高速に保ちながらパフォーマンスを向上させる方法として注目されている。 しかしながら、これらの利得は、ベースモデルのThinkモードを通じて既にアクセス可能な思考行動に作用する可能性がある。 我々は、この思考漏れを因果媒介の枠組みで定式化し、簡単なベース由来の活性化方向に沿って双方向の介入を用いてその貢献を監査する。 3つのモデルと3つのポストトレーニング手法の競合数学ベンチマークにおいて、リークは本物で因果的であり、重大なものであることが判明した: 行動的および表現的分析は、思考へのシフトを明らかにし、この方向に沿ってベースモデルを操縦することは、トレーニング後の精度向上のほとんどを再現する。 正のNoThinkゲインを持つ9つの整列チェックポイントのうち、リーク率は42%から79%の範囲である。 これらの介入は思考リークの相当な因果的寄与を支持する。 以上の結果から,学習後の学習方法の優位性は,NoThink内での能力向上や,既存の思考行動のより効果的な再起動など,思考に対する大きなドリフトを反映していることが示唆された。

関連論文リスト

• When Is Thinking Enough? Early Exit via Sufficiency Assessment for Efficient Reasoning [52.21239821135325]
  本稿では、効率的な推論のための新しいフレームワークDTSR(Dynamic Thought Sufficiency in Reasoning)を紹介する。 人間のメタ認知にインスパイアされたDTSRは、リフレクションシグナルモニタリングとThought Sufficiency Checkという2つの段階で動作する。 DTSRは推論長を28.9%から34.9%削減し、性能損失を最小限に抑えている。
  論文  参考訳（メタデータ） (2026-04-08T07:56:28Z)
• Efficient Reasoning Through Suppression of Self-Affirmation Reflections in Large Reasoning Models [29.615519143908998]
  自己確認反射は、事前の内容を肯定する冗長な反射ステップであり、しばしば既に正しい推論ステップの後に起こる。 自己確認反射の抑制は複数のモデル間で精度を低下させることなく出力長を減少させることを示す。 また、そのような反射を明示的に抑制することで、現行の列車方式も改善する。
  論文  参考訳（メタデータ） (2025-06-14T05:30:09Z)
• Does Thinking More always Help? Mirage of Test-Time Scaling in Reasoning Models [130.5487886246353]
  Wait"や"Let me rethink"といったプロンプトを使って思考トレースを拡張することで、パフォーマンスが向上します。 テスト時にもっと考えることは、本当により良い推論につながるのでしょうか? 過度に考える”という理由から,新たな思考による初期パフォーマンス改善の一貫したパターンと,それに続く低下を示す。
  論文  参考訳（メタデータ） (2025-06-04T17:55:09Z)
• The First Impression Problem: Internal Bias Triggers Overthinking in Reasoning Models [38.11937119873932]
  推論モデルは、冗長な推論ステップを特徴とする過度な思考を示すことが多い。 我々は、入力問題によって引き起こされる内部バイアスを、そのような行動の鍵となる引き金とみなす。
  論文  参考訳（メタデータ） (2025-05-22T09:35:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。