論文の概要: Reasoning-Trace Overflow in Code Generation: An Empirical Study of Explicit Reasoning Models

• arxiv url: http://arxiv.org/abs/2611.06095v1
• Date: Wed, 04 Nov 2026 07:42:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 03:25:58.015633
• Title: Reasoning-Trace Overflow in Code Generation: An Empirical Study of Explicit Reasoning Models
• Title（参考訳）: コード生成におけるReasoning-Trace Overflow:Explicit Reasoning Modelの実証的研究
• Abstract要約: 明示的な推論は言語モデルがコードを生成するのに役立つが、実際的なリスクも伴う。 比較的小さなオープンウェイト推論モデルでこの振る舞いを研究する。 我々は、固定された32kのアウトプット予算のどれだけが推論に費やされているかを測定する。
• 参考スコア（独自算出の注目度）: 9.426248468755272
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Explicit reasoning can help language models generate code, but it also introduces a practical risk: the model may spend so much of its output budget reasoning that it never produces usable code. We study this behaviour in relatively small open-weight reasoning models, framing it as reasoning-trace overflow. Across seven models and six code benchmark settings, we measure how much of a fixed 32k-token output budget is spent on reasoning, whether that reasoning improves pass@1, and whether lightweight inference-time controls can mitigate overflow. Our results show that the value of reasoning is highly conditional. Overflow is rare on simpler function-level tasks, but becomes common on harder code-generation benchmarks and for particular model families: on several model--benchmark pairs, more than half of generations exhaust the full 32k-token budget while still reasoning. Most complete overflow is associated with repetitive reasoning loops, although substantial long reasoning also occurs without looping. Disabling reasoning can therefore be competitive for overflow-prone models, simply because it ensures that an answer is produced. At the same time, reasoning remains valuable for stronger models on harder algorithmic and code-understanding tasks. Finally, prompt steering can substantially reduce overflow for some models but is inconsistent, while budgeted transitions provide more direct control and can improve both performance and token efficiency for overflow-prone models. These findings suggest that explicit reasoning should be treated as a controllable resource for code generation, rather than an always-on capability.
• Abstract（参考訳）: 明示的な推論は、言語モデルがコードを生成するのに役立つが、実際的なリスクも伴う。 比較的小さなオープンウェイト推論モデルにおいて,この振る舞いを推論-トレースオーバーフローとみなす。 7つのモデルと6つのコードベンチマーク設定で、固定された32kのアウトプット予算のどれだけが推論に費やされているか、その推論がpass@1を改善しているかどうか、そして、軽量な推論時制御がオーバーフローを緩和できるかどうかを測定します。 以上の結果から,推論の価値は高い条件付きであることが示唆された。 オーバーフローは単純な関数レベルのタスクでは珍しいが、より難しいコード生成ベンチマークや特定のモデルファミリでは一般的になる。 ほとんどの完全オーバーフローは繰り返しの推論ループに関連付けられているが、かなりの長い推論もループなしで起こる。 したがって、解答が生成されることを保証するため、解答推論はオーバーフローのモデルと競合する可能性がある。 同時に、より厳しいアルゴリズムとコードに基づくタスクのより強力なモデルでは、推論が有用である。 最後に、プロンプトステアリングは、いくつかのモデルのオーバーフローを大幅に削減できるが、整合性はない。 これらの結果は、明示的な推論は、常にオンの能力ではなく、コード生成のための制御可能なリソースとして扱うべきであることを示唆している。

関連論文リスト

• Forethought: Verifiable Reasoning from Neurosymbolic Primitive Programming [0.764671395172401]
  Forethoughtは、推論を明示的で検証可能なプログラムとして扱う神経象徴的推論システムである。 ベースモデルの精度を約30%向上し、バニラのプロンプト、強化学習足場、即時進化法に勝る。
  論文  参考訳（メタデータ） (2026-07-05T03:20:23Z)
• Dual-Track CoT: Budget-Aware Stepwise Guidance for Small LMs [0.3823356975862005]
  小言語モデルは、厳密な計算とトークンの予算の下で、多段階の推論に苦しむ。 自己整合性のような既存のテスト時間推論手法ではパフォーマンスが向上するが、トークンコストが高く、ステップレベルの細かい制御ができないことが多い。 SLM(Small Language Models)は、同じまたは少ないトークンを確実に使用することができるか?
  論文  参考訳（メタデータ） (2026-04-27T22:43:33Z)
• Batch Prompting Suppresses Overthinking Reasoning Under Constraint: How Batch Prompting Suppresses Overthinking in Reasoning Models [5.408799241182959]
  我々は,Large Reasoning Models (LRMs) の多段階推論におけるモデル挙動を規則化することを示した。 我々は、13の多様なベンチマークを総合的に調査し、トークンの使用理由を著しく減らしながら精度を向上する観察を行った。 驚くべきことに、バッチ推論における創発的な集団効果も観察する:モデルは、しばしば以前の例からパターンを一般化して、難しいものを解決する。
  論文  参考訳（メタデータ） (2025-11-06T06:47:39Z)
• Beyond Pass@k: Breadth-Depth Metrics for Reasoning Boundaries [2.9807229517491827]
  モデルが解ける問題の割合を測るCover@tauを提案する。 Pass@kとは異なり、Cover@tauは明確な信頼性閾値の下で推論をキャプチャする。 Cover@tau-based metrics を用いていくつかのRLVRモデルを評価し,Pass@1 と比較してアルゴリズムの相対ランクがどう変化するかを示した。
  論文  参考訳（メタデータ） (2025-10-09T15:14:58Z)
• ConciseHint: Boosting Efficient Reasoning via Continuous Concise Hints during Generation [74.37307916314407]
  提案するフレームワークはConciseHintと呼ばれ,推論モデルが簡潔に話すことを継続的に奨励する。 DeepSeek-R1 および Qwen-3 シリーズを含む最先端の LRM 実験により,本手法が簡潔な推論を効果的に生成できることが実証された。
  論文  参考訳（メタデータ） (2025-06-23T16:20:44Z)
• The Price of a Second Thought: On the Evaluation of Reasoning Efficiency in Large Language Models [54.88805865447848]
  モデルが全体の効率を向上し,問題の難しさが効率に影響を及ぼすことを示す。 インストラクションモデルが簡単なアウトラインをドラフトし,思考モデルがそれを拡張する,シンプルな2段階パイプラインであるCOTHINKを提案する。 GSM8K、MATH500、AIME24では、COTHINKはトークンの使用量を21.1%削減し、4つの思考モデルの精度を維持し、強力な効率のベースラインと競争し続ける。
  論文  参考訳（メタデータ） (2025-05-28T06:24:45Z)
• Reasoning with Latent Thoughts: On the Power of Looped Transformers [52.84192961524481]
  多くの合成推論問題に対して、$k$層変換器が$L$倍ループしたことが、$kL$層非ループモデルの性能にほぼ一致することを示す。 ループ型および非ループ型モデルは、その有効深さに依存するスケーリングの挙動を示す。
  論文  参考訳（メタデータ） (2025-02-24T18:49:05Z)
• O1-Pruner: Length-Harmonizing Fine-Tuning for O1-Like Reasoning Pruning [98.3430004984531]
  精度を維持しながら推論オーバーヘッドを最小限に抑えるため,Longth-Harmonizing Fine-Tuning (O1-Pruner)を提案する。 私たちのコードはもうすぐhttps://github.com/StarDewXXX/O1-Pruner.comで公開されます。
  論文  参考訳（メタデータ） (2025-01-22T01:35:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。