論文の概要: Knowing When to Quit: Diagnosing and Training LLMs to Abort Futile Reasoning

• arxiv url: http://arxiv.org/abs/2607.29211v1
• Date: Fri, 31 Jul 2026 09:30:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-03 14:29:40.676699
• Title: Knowing When to Quit: Diagnosing and Training LLMs to Abort Futile Reasoning
• Title（参考訳）: クイットのタイミングを知る:LLMの診断とトレーニングによる不活性推論の中止
• Abstract要約: 大規模言語モデルは、計算コストが高くても意味論的に無効な推論を、能力を超えたタスクで生成する。 textbfCaRL(textbfCapability-textbfaligned textbfReinforcement textbfL)を導入し、振る舞いを機能境界に合わせる。 実験は、タスクの難易度を超えて性能を保ちながら、無駄な推論を大幅に削減することを示した。
• 参考スコア（独自算出の注目度）: 109.33717747526583
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models generate computationally expensive yet semantically void reasoning on beyond-capability tasks, creating risks where plausible-sounding but incorrect derivations mislead users. We characterize this \textit{futile reasoning} phenomenon through systematic analysis, revealing universal capability overreach and systematic miscalibration between capability and behavior. The dominant failure mode is specious reasoning, which outputs look superficially valid but contain subtle errors, escalating with task difficulty. To address this, we introduce \textbf{CaRL} (\textbf{Ca}pability-\textbf{a}ligned \textbf{R}einforcement \textbf{L}earning), which aligns model behavior with capability boundaries through reward shaping that incentivizes refusal over futile reasoning and hindsight refusal augmentation that converts failures into refusal supervision. Experiments demonstrate a substantial reduction in futile reasoning while preserving performance across task difficulties, effectively achieving capability-aligned behavior without sacrificing utility. \footnote{https://github.com/icip-cas/Knowing-When-to-Quit}
• Abstract（参考訳）: 大規模言語モデルは、計算に費用がかかるが、能力を超えたタスクに対して意味論的に無効な推論を生成する。 我々は,この「textit{futile reasoning}」現象を系統的分析により特徴付け,普遍的な能力過剰と能力と行動の体系的誤校正を明らかにする。 主な障害モードは特異な推論であり、出力は表面的には妥当に見えるが微妙なエラーを伴い、タスクの難しさをエスカレートする。 この問題に対処するために、モデル行動と能力境界を協調する \textbf{CaRL} (\textbf{Ca}pability-\textbf{a}ligned \textbf{R}einforcement \textbf{L}earning) を導入する。 実験では, 作業難易度を超えて性能を保ちながら, 実用性を犠牲にすることなく, 能率整合性を効果的に達成しながら, 無駄な推論を著しく低減することを示した。 https://github.com/icip-cas/Knowing-When-to-Quit}

関連論文リスト

• On the Limits of Prompt-Conditioned Language Models as General-Purpose Learners [4.675635684281315]
  大規模言語モデル(LLM)は、任意のタスクを解くことのできる汎用的な解法としてしばしば表現される。 言語は,タスク情報を伝達するための,圧縮された,容量に制限のあるインターフェースである。 我々は、遅延タスクがどのようにプロンプトにエンコードされ、アライメントと安全性の制約の下で再解釈されるかを分析する。
  論文  参考訳（メタデータ） (2026-06-22T17:52:59Z)
• CoFEE: Reasoning Control for LLM-Based Feature Discovery [0.0]
  本研究では,言語モデル(LLM)における特徴発見を改善するための認知行動の誘導による推論制御について検討する。 特徴発見におけるLLMの理由について,認知行動を実施するための推論フレームワークであるCoFEEを紹介した。 CoFEEは、バニラアプローチよりも15.2%高い平均成功率スコアを達成し、29%の機能を発生させ、53.3%のコスト削減を実現している。
  論文  参考訳（メタデータ） (2026-04-23T12:05:38Z)
• Pause or Fabricate? Training Language Models for Grounded Reasoning [50.104657152302956]
  不完全情報に基づくグラウンドド推論のために,対話型強化学習(GRIL)によるグラウンドド推論を提案する。 GRILは推論プロセスを2つの段階に分解する: 明確化と一時停止、利用可能な情報が十分かどうかを識別する。 GSM8K-InsufficientおよびMetaMATH-Insufficientの実験では、GRILは前提検出を大幅に改善し(最大45%)、平均応答長を20%以上削減しながらタスク成功率が30%向上した。
  論文  参考訳（メタデータ） (2026-04-21T16:45:29Z)
• Bridging the Know-Act Gap via Task-Level Autoregressive Reasoning [22.264933226031435]
  我々は,新たに構築された大規模・学際横断的な問題ベンチマークであるFactyScienceを用いて,包括的解析を行った。 このギャップは,タスク選択とコンテンツ生成を結びつけるトークンレベルの自己回帰に起因していることを示す。 この決定を明示的にモデル化したタスクレベルの自動回帰フレームワークであるDeIllusionLLMを提案する。
  論文  参考訳（メタデータ） (2026-03-23T22:43:34Z)
• When and Why Does Unsupervised RL Succeed in Mathematical Reasoning? A Manifold Envelopment Perspective [23.239530219575936]
  結果に基づく強化学習(RL)は大規模言語モデル(LLM)の数学的推論能力を著しく向上させる 計算コストのかかる地平線アノテーションに依存しているため、スケーラビリティの重大なボトルネックが生じる。 内在的な報酬によって導かれる教師なしのRLは、スケーラブルな代替手段を提供する。
  論文  参考訳（メタデータ） (2026-03-17T14:29:38Z)
• Imagination Helps Visual Reasoning, But Not Yet in Latent Space [65.80396132375571]
  因果関係分析を用いた潜伏推論の有効性について検討した。 潜在トークンが限られた視覚情報を符号化し、高い類似性を示すことを示す。 CapImagineという簡単な代替案を提案し、テキストを明示的に想像するようにモデルに教える。
  論文  参考訳（メタデータ） (2026-02-26T08:56:23Z)
• ALIVE: Awakening LLM Reasoning via Adversarial Learning and Instructive Verbal Evaluation [4.265094703231012]
  ハンズフリーアライメントフレームワークである textbfALIVE (emphAdrial Learning with Instructive Verbal Evaluation) を導入する。 対人学習とインストラクティブな言語フィードバックを結合することにより、ALIVEはモデルが生のコーパスから直接評価基準を内在化できるようにする。 同一のデータと計算により、ALIVEはクロスドメインの一般化を著しく改善し、自己補正率も向上した。
  論文  参考訳（メタデータ） (2026-02-05T09:20:23Z)
• On the Paradoxical Interference between Instruction-Following and Task Solving [50.75960598434753]
  次の命令は、大規模言語モデル(LLM)を、タスクの実行方法に関する明示的な制約を指定することで、人間の意図と整合させることを目的としている。 我々は,LLMのタスク解決能力にパラドックス的に干渉する命令に従うという,直感に反する現象を明らかにした。 本稿では,タスク解決に追従する命令の干渉を定量化する指標として,SUSTAINSCOREを提案する。
  論文  参考訳（メタデータ） (2026-01-29T17:48:56Z)
• Beware of Reasoning Overconfidence: Pitfalls in the Reasoning Process for Multi-solution Tasks [54.31998314008198]
  大きな言語モデル(LLM)は、単一の正しい答えを必要とするタスクの推論において優れているが、マルチソリューションタスクでは不十分である。 我々はこの制限を、不完全解集合における不完全確実性を表現する傾向という、不確実な過信(textbfreasoning overconfidence)に起因している。 この仮説は, 思考経路の狭いセットに早急に収束すると, 過信が生じることを示唆するものである。
  論文  参考訳（メタデータ） (2025-12-01T14:35:06Z)
• Sycophancy Mitigation Through Reinforcement Learning with Uncertainty-Aware Adaptive Reasoning Trajectories [58.988535279557546]
  適応推論トラジェクトリを用いたtextbf sycophancy Mitigation を提案する。 SMARTは,分布外の入力に対して強い性能を維持しながら,サイコファンティクスの挙動を著しく低下させることを示した。
  論文  参考訳（メタデータ） (2025-09-20T17:09:14Z)
• Causality-aligned Prompt Learning via Diffusion-based Counterfactual Generation [45.395353088233556]
  理論的には、$textbfDi$ffusion-based $textbfC$ounterf$textbfa$ctual $textbfp$rompt学習フレームワークを導入します。 本手法は,画像分類,画像テキスト検索,視覚的質問応答などのタスクにおいて,特に目に見えないカテゴリにおいて優れた優位性を示す。
  論文  参考訳（メタデータ） (2025-07-26T09:27:52Z)
• Interpreting the Repeated Token Phenomenon in Large Language Models [31.1226642501095]
  大きな言語モデル (LLM) は、引き起こされた時に1つの単語を正確に繰り返すことができず、代わりに無関係なテキストを出力する。 「この現象の原因を説明し、注意流しの概念と結びつけよう。」 我々の研究は、注意シンクの原因となる神経回路を特定し、この回路がどれくらいの時間繰り返しで破壊されるかを示す。
  論文  参考訳（メタデータ） (2025-03-11T21:40:58Z)
• Tuning-Free Accountable Intervention for LLM Deployment -- A Metacognitive Approach [55.613461060997004]
  大規模言語モデル(LLM)は、自然言語処理タスクの幅広い領域にわたる変換的進歩を触媒している。 我々は,自己認識型誤り識別と訂正機能を備えたLLMを実現するために,textbfCLEARと呼ばれる革新的なテキストメタ認知手法を提案する。
  論文  参考訳（メタデータ） (2024-03-08T19:18:53Z)
• A Closer Look at the Self-Verification Abilities of Large Language Models in Logical Reasoning [73.77088902676306]
  論理的推論の文脈において,大規模言語モデル(LLM)の自己検証能力について詳しく検討する。 本研究の主目的は,既存のLCMが誤った推論手順を正確に識別するのに苦労し,自己検証法の有効性を保証できないことにある。
  論文  参考訳（メタデータ） (2023-11-14T07:13:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。