論文の概要: Doesn't Stop Reasoning: Analysis of Spurious CoT Termination

• arxiv url: http://arxiv.org/abs/2609.03633v1
• Date: Thu, 03 Sep 2026 10:25:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-04 18:28:39.018862
• Title: </think> Doesn't Stop Reasoning: Analysis of Spurious CoT Termination
• Title（参考訳）: 思考>推論が止まらない:すっぱいCoTの終端の解析
• Authors: Seunghee Koh, Sungjae Choi, Minchan Kwon, Sunghyun Baek, Junmo Kim,
• Abstract要約: 本稿では,この時点でエンド・オブ・シンクトークン(EoT)を注入し,推論と回答の遷移を引き起こす戦略について検討する。 注入されたEoTは必ずしもクリーンな応答位相を誘導しない。 私たちはこれをCoT終末と呼び、推論のような生成が応答フェーズに継続する。
• 参考スコア（独自算出の注目度）: 8.097661521171581
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Chain-of-thought (CoT) reasoning improves large reasoning models (LRMs) on complex tasks but often produces long, redundant traces. Recent training-free early-exit methods shorten these traces by choosing an intermediate point to stop reasoning. We study one such strategy that injects an end-of-think token (EoT, </think>) at this point to trigger the reasoning-to-answering transition, and find that the injected EoT does not always induce a clean answering phase. Answering-phase generation can continue before the model regenerates another EoT, with the span preceding this regenerated EoT scaling with the reasoning tokens saved by early exit and exhibiting continued reasoning behavior. We call this spurious CoT termination, where reasoning-like generation continues into the answering phase. We hypothesize that insufficient attention to the injected EoT contributes to spurious CoT termination and probe this hypothesis with Exit-token Attention Biasing (EAB). Across four LRMs, five benchmarks, and two early-exit methods, increasing attention to the injected EoT reduces spurious CoT termination and answering-phase length. These results reveal a limitation of controlling LRMs by externally matching their explicit think-block format. Inserting the EoT token conforms to this format but does not by itself guarantee the intended reasoning-to-answering transition. Our code is available at https://github.com/Seunghee-Koh/Spurious-CoT-Termination.
• Abstract（参考訳）: CoT推論は複雑なタスクにおいて大きな推論モデル(LRM)を改善するが、しばしば長い冗長なトレースを生成する。 最近の訓練不要早期退避法は、推論を止める中間点を選択することによってこれらのトレースを短縮する。 本研究では,この時点でエンド・オブ・シンクトークン (EoT, </think>) を注入し, 推論と回答の遷移を誘導する戦略について検討し, 注入したEoTが必ずしもクリーンな応答相を誘導するとは限らないことを確認する。 解答相の生成は、モデルが別のEoTを再生する前に継続することができ、この再生されたEoTスケーリングに先行するスパンは、早期出口によって保存された推論トークンと、継続する推論動作を示す。 私たちはこれをCoT終末と呼び、推論のような生成が応答フェーズに継続する。 注入されたEoTに対する注意不足はCoTの急激な終了に寄与し,この仮説をEAB(Exit-token Attention Biasing)で検証する。 4つのLEM、5つのベンチマーク、および2つの早期出口法で、注入されたEoTへの注意が増し、CoTの急激な終了と応答相の長さが減少する。 これらの結果から, 明示的な思考ブロック形式を外部に整合させることにより, LRMの制御の限界が明らかとなった。 EoTトークンを挿入することは、このフォーマットに適合するが、それ自体は、意図した推論と問合せの遷移を保証するものではない。 私たちのコードはhttps://github.com/Seunghee-Koh/Spurious-CoT-Termination.comで公開されています。

関連論文リスト

• WhisperRec: Latent Reasoning for Efficient Foundation Recommendation Models [51.88075626243057]
  基礎推薦モデル(FRM)のための効率的な潜在推論フレームワークであるWhisperRecを提案する。 WhisperRecは教師生成のChain-of-Thought(CoT)を学習可能な潜在推論トークンに圧縮する。 WhisperRecは明示的なCoT法と従来のベースラインを一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2026-07-29T08:48:35Z)
• ThoughtFold: Folding Reasoning Chains via Introspective Preference Learning [69.64972562984882]
  提案するThoughtFoldは,よりきめ細かい選好学習を,効率的な推論のための冗長探索に活用するフレームワークである。 ThoughtFoldは効率を大幅に向上させる。 最先端の精度を維持しつつ、DeepSeek-R1-Distill-Qwen-7Bのトークン使用量を約56%削減する。
  論文  参考訳（メタデータ） (2026-06-02T11:21:27Z)
• Stop When Reasoning Converges: Semantic-Preserving Early Exit for Reasoning Models [17.588873255093596]
  長鎖の思考(CoT)を生成することでLRM(Large Reasoning Models)の性能が向上する LRMは、しばしば過度に考え、ソリューションがすでに安定し、トークンを無駄にし、レイテンシを増大した後も、推論を続けます。 本稿では,軽量冗長検出器と応答レベル検証を組み合わせたプラグアンドプレイフレームワークPUMAを提案する。
  論文  参考訳（メタデータ） (2026-05-17T22:04:11Z)
• Latent Chain-of-Thought as Planning: Decoupling Reasoning from Verbalization [9.193078163792427]
  CoT(Chain-of-Thought)は、大規模言語モデル(LLM)に複雑な問題に取り組む権限を与える。 最近の潜伏推論手法は、連続した隠蔽状態内で推論を行うことによって効率を最適化しようとする。 PLaTは、潜在推論を言語化から根本的に切り離すことによって計画として再構成するフレームワークである。
  論文  参考訳（メタデータ） (2026-01-29T07:38:18Z)
• One Token Embedding Is Enough to Deadlock Your Large Reasoning Model [91.48868589442837]
  我々は, LRMの生成制御フローをハイジャックする資源枯渇手法であるDeadlock Attackを提案する。 提案手法は4つの先進LEMにおいて100%の攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2025-10-12T07:42:57Z)
• Stop Spinning Wheels: Mitigating LLM Overthinking via Mining Patterns for Early Reasoning Exit [114.83867400179354]
  オーバーライドは、大きな言語モデル全体のパフォーマンスを低下させる可能性がある。 推論は, 探索段階の不足, 補償推論段階, 推論収束段階の3段階に分類される。 我々は,ルールに基づく軽量なしきい値設定戦略を開発し,推論精度を向上させる。
  論文  参考訳（メタデータ） (2025-08-25T03:17:17Z)
• ThinkLess: A Training-Free Inference-Efficient Method for Reducing Reasoning Redundancy [8.962703809086628]
  ThinkLessは推論効率のよいフレームワークで、推論生成を早期に終了し、モデルを変更することなく出力品質を維持する。 我々はThinkLessが完全長のChain-of-Thought(CoT)デコードに匹敵する精度を実現し,デコード時間とメモリ消費を大幅に削減することを示した。
  論文  参考訳（メタデータ） (2025-05-21T15:58:16Z)
• Mitigating Misleading Chain-of-Thought Reasoning with Selective Filtering [59.495717939664246]
  大規模言語モデルは、複雑な問題を解くためにチェーン・オブ・ソート(CoT)推論技術を活用することで、顕著な能力を示した。 本稿では,選択フィルタリング推論(SelF-Reasoner)と呼ばれる新しい手法を提案する。 SelF-ReasonerはScienceQA、ECQA、LastLetterタスクに対して、微調整されたT5ベースラインを一貫して改善する。
  論文  参考訳（メタデータ） (2024-03-28T06:28:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。