論文の概要: Knowing When Thinking Is Not Enough: Teaching Small Reasoning Models to Reason Beyond Their Parametric Knowledge

• arxiv url: http://arxiv.org/abs/2609.34327v1
• Date: Mon, 28 Sep 2026 05:07:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 21:46:51.986565
• Title: Knowing When Thinking Is Not Enough: Teaching Small Reasoning Models to Reason Beyond Their Parametric Knowledge
• Title（参考訳）: 思考が不十分なときを知る: パラメトリック知識を超えて、小さな推論モデルに推論を教える
• Abstract要約: テスト時間計算のスケールは、言語モデル推論を改善する強力な方法である。 自己閉じ込めは、既に現在の状態から到達可能な解に確率質量を大半を凝縮することを示す。 選択的なクエリフレームワークであるFlyByを導入し、まず4Bと8Bの変種をトレーニングする。
• 参考スコア（独自算出の注目度）: 63.752287291668786
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Scaling test-time computation is a powerful way to improve language-model reasoning, and is particularly appealing for small reasoning models (sRMs) that are cheap to serve. However, is additional thinking always the right operation? By intervening at intermediate reasoning states across two model families and multiple scales, we find that self-refinement largely consolidates probability mass onto solutions already reachable from the current state, rather than making new ones reachable. These interventions reveal two failure regimes: execution bottlenecks, where the correct path is reachable and reflection can recover it, and knowledge bottlenecks, where relevant external information makes it reachable. Motivated by this distinction, we introduce FlyBy, a selective querying framework, and train 4B and 8B variants to reason first, diagnose what remains unresolved, and, at a knowledge bottleneck, query stronger models whose parametric knowledge extends beyond its own. Supervised fine-tuning bootstraps a multi-depth query action, and cost-aware reinforcement learning calibrates whether to query, what to ask, and how much to spend. On 1,158 hard problems across six benchmarks, FlyBy-4B achieves 45.96% pass@8, surpassing Qwen3-14B (41.64%) at 2.7 times lower serving cost, while also exceeding Qwen3-8B in pass@1 (16.85% vs. 15.31%). Scaling to FlyBy-8B further improves pass@8 to 51.81%.
• Abstract（参考訳）: テスト時間計算のスケールは、言語モデル推論を改善する強力な方法であり、特に安価に利用できる小さな推論モデル(sRM)に魅力がある。 しかし、追加の思考は常に正しい操作なのか? 2つのモデル族と複数のスケールにまたがる中間的推論状態に介入することによって、自己補充は確率質量を、新しい解を到達可能にするのではなく、既に現在の状態から到達可能な解に大きく統合する。 適切なパスが到達し、リフレクションが回復可能な実行ボトルネックと、関連する外部情報が到達可能な知識ボトルネックだ。 この区別によって、選択的なクエリフレームワークであるFlyByを導入し、まず4Bと8Bの変種をトレーニングし、未解決のままのものを診断し、知識ボトルネックにおいて、パラメトリック知識がそれ自体を超えて拡張されたより強力なモデルをクエリする。 改良された微調整ブートストラップは、マルチディープなクエリアクションであり、コストを意識した強化学習は、クエリの可否、質問の可否、費用の可否を判断する。 6つのベンチマークで1,158の難しい問題に対して、FlyBy-4Bは45.96%のパス@8を達成し、Qwen3-14B(41.64%)を2.7倍のサービスコストで上回り、Qwen3-8Bをパス@1で上回り(16.85%対15.31%)。 FlyBy-8Bへのスケーリングはさらにpass@8から51.81%改善した。

関連論文リスト

• Reasoning effort, not tool access, buys first-try reliability in agentic code generation: an observational study [0.0]
  90の独立したエージェントが、1つの詳細な仕様から、リアルタイムのレトロスペクティブボードである同じアプリケーションを構築します。 実行は、いくつかのモデル世代、エージェントハーネス2つ、推論作業レベル2つ、テストツール1つ、設計指向のプロンプト2つにまたがった。 テストツールのコストは42～68%向上し、インターフェースの可視性も向上した。
  論文  参考訳（メタデータ） (2026-07-02T17:08:21Z)
• BrainBench: Exposing the Commonsense Reasoning Gap in Large Language Models [4.264192013842096]
  大きな言語モデル(LLM)は、標準ベンチマークで印象的なスコアを得るが、人間が数秒で正しく答えられるような質問を日常的に失敗する。 BrainBenchは、慎重に設計された20のカテゴリにまたがる100のブレインティーザー質問のベンチマークです。
  論文  参考訳（メタデータ） (2026-03-16T02:50:43Z)
• Scaling Trends for Multi-Hop Contextual Reasoning in Mid-Scale Language Models [0.0]
  大規模言語モデルにおけるマルチホップ文脈推論の制御に関する研究について述べる。 マルチエージェントシステムは逆パターンを示し、ルールベースのメソッドが失敗する推論タスクを最大80%達成する。
  論文  参考訳（メタデータ） (2026-01-06T20:18:55Z)
• Correct, Concise and Complete: Multi-stage Training For Adaptive Reasoning [11.179446105672461]
  教師付き微調整と強化学習を組み合わせた多段階効率的な推論手法を提案する。 提案手法は,8Bモデルでは平均28%,32Bモデルでは40%の応答長を減少させる。 より複雑な最先端の効率的な推論手法に比べて、優れたトレードオフを実現する。
  論文  参考訳（メタデータ） (2026-01-06T12:31:51Z)
• Speculative Thinking: Enhancing Small-Model Reasoning with Large Model Guidance at Inference Time [14.963731580129892]
  推論レベルでの推論において,大規模推論モデルによるより小さな推論のガイドを可能にする,トレーニング不要なフレームワークであるSpeculative Thinkingを紹介した。 より有能なモデルに回帰ステップを戦略的に委譲することにより,提案手法は推論モデルの推論精度を向上し,出力を短縮する。
  論文  参考訳（メタデータ） (2025-04-12T21:25:32Z)
• Retro-Search: Exploring Untaken Paths for Deeper and Efficient Reasoning [84.2749507577386]
  MCTSにインスパイアされた検索アルゴリズムであるRetro-Searchを導入し,大規模モデルから高品質な推論経路を抽出する。 Retro-Searchは、より良い、しかし短いトレースを見つけるための推論パスをふりかえりに修正する。 当社のアプローチでは,モデルが独自のRetro-Search-edトレースに基づいて微調整される自己改善と,弱いから強い改善の2つのユースケースを実現しています。
  論文  参考訳（メタデータ） (2025-04-06T06:23:27Z)
• Benchmarking Reasoning Robustness in Large Language Models [76.79744000300363]
  新規データや不完全データでは,性能が著しく低下することがわかった。 これらの結果は、厳密な論理的推論に対するリコールへの依存を浮き彫りにした。 本稿では,情報不足によって引き起こされる幻覚を利用して推論ギャップを明らかにする,Math-RoBと呼ばれる新しいベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-03-06T15:36:06Z)
• SuperCorrect: Advancing Small LLM Reasoning with Thought Template Distillation and Self-Correction [89.56181323849512]
  SuperCorrectは、大きな教師モデルを使用して、より小さな学生モデルの推論と反映の両方を監督し、修正する新しい2段階のフレームワークである。 第1段階では、教師モデルから階層的な高レベルかつ詳細な思考テンプレートを抽出し、よりきめ細かい推論思考を導き出す学生モデルを指導する。 第2段階では、学生モデルの自己補正能力を高めるために、クロスモデル協調直接選好最適化(DPO)を導入する。
  論文  参考訳（メタデータ） (2024-10-11T17:25:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。