論文の概要: MetaCtrl: Your Large Language Models Can Reason Better and More Concisely with a Metacognitive Controller

• arxiv url: http://arxiv.org/abs/2609.37304v1
• Date: Tue, 29 Sep 2026 11:41:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.448082
• Title: MetaCtrl: Your Large Language Models Can Reason Better and More Concisely with a Metacognitive Controller
• Title（参考訳）: MetaCtrl: 大規模言語モデルはメタ認知型コントローラにより、より簡潔に推論できる
• Abstract要約: トークン予算や推論の再トレーニングを必要とせず,凍結推論を適応的に制御する軽量コントローラであるMetaCtrlを紹介する。 数学、科学、コードにまたがる7つのベンチマークにおいて、MetaCtrlは推論長を減らしながらLRMの精度を一貫して改善している。 これらの結果は,推論時間生成を大幅に削減しつつ,推論精度を向上させるためのプラグアンドプレイコントローラとしてMetaCtrlを確立する。
• 参考スコア（独自算出の注目度）: 20.056421925231813
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large reasoning models improve performance on challenging problems by allocating additional computation before answering, but longer reasoning does not always lead to better results and can introduce substantial redundant reasoning on simple problems. Conversely, aggressively shortening reasoning can degrade performance on difficult ones. Effective reasoning therefore requires dynamically deciding when additional computation is useful based on the reasoner's capabilities and evolving solution state. Existing approaches often rely on predefined budgets or intervention rules, retrain the target reasoner, or require additional supervision. We introduce MetaCtrl, a lightweight controller that adaptively regulates a frozen reasoner without predefined token budgets or reasoner retraining. We formulate reasoning regulation as a sequential metacognitive control problem: MetaCtrl observes the evolving reasoning trace and decides whether to continue, simplify, skip redundant steps, or conclude reasoning. It is trained directly with reinforcement learning using a reward that prioritizes correctness while favoring shorter trajectories among correct solutions, requiring neither supervised intervention trajectories nor problem-specific budgets. Across seven benchmarks spanning mathematics, science, and code, MetaCtrl consistently improves the accuracy of LRMs while reducing their reasoning length. On DeepSeek-R1-Distill-Qwen-7B, it improves average accuracy by 4.7 points while reducing generation length by 53.3%. Without further training, the same controller transfers to an unseen reasoner (e.g., Qwen3-14B), improving average accuracy by 2.9 points and reducing generation length by 50.3%. These results establish MetaCtrl as a plug-and-play controller for improving reasoning accuracy while substantially reducing inference-time generation. The code is available at https://github.com/binbin2xs/MetaCtrl.
• Abstract（参考訳）: 大規模な推論モデルでは、解答前にさらなる計算を割り当てることで問題のパフォーマンスを向上させるが、より長い推論は必ずしもより良い結果をもたらすわけではなく、単純な問題に対してかなりの冗長な推論を導入することができる。 逆に、積極的な推論の短縮は、難しいものの性能を低下させる可能性がある。 したがって、効果的な推論は、推論者の能力と進化するソリューション状態に基づいて、追加の計算がいつ有用であるかを動的に決定する必要がある。 既存のアプローチは、しばしば事前に定義された予算や介入規則に依存する。 トークン予算や推論の再トレーニングを必要とせず,凍結推論を適応的に制御する軽量コントローラであるMetaCtrlを紹介する。 MetaCtrlは進化する推論トレースを観察し、継続するか、単純化するか、余分なステップを省略するか、または推論を終了するかを決定する。 正解間の短い軌跡を優先しながら正解を優先する報酬を用いて強化学習を直接訓練し、監督された介入軌跡も問題固有の予算も必要としない。 数学、科学、コードにまたがる7つのベンチマークにおいて、MetaCtrlは推論長を減らしながらLRMの精度を一貫して改善している。 DeepSeek-R1-Distill-Qwen-7Bでは平均精度を4.7ポイント改善し、生成長を53.3%削減した。 それ以上の訓練がなければ、同じコントローラーが見えない推論器(例えばQwen3-14B)に転送され、平均精度が2.9ポイント向上し、生成長が50.3%減少する。 これらの結果は,推論時間生成を大幅に削減しつつ,推論精度を向上させるためのプラグアンドプレイコントローラとしてMetaCtrlを確立する。 コードはhttps://github.com/binbin2xs/MetaCtrlで入手できる。

関連論文リスト

• REVES: REvision and VErification--Augmented Training for Test-Time Scaling [53.197756110943395]
  本稿では,オンラインデータ/プロンプト拡張とポリシー最適化を交互に行う2段階反復フレームワークを提案する。 我々は、RLベースライン上の+6.5点と、標準マルチターントレーニングにおける+4.0点の利得を観察する。
  論文  参考訳（メタデータ） (2026-06-17T10:37:23Z)
• Stop When Further Reasoning Won't Help: Attention-State Adaptive Generation in Reasoning Models [11.158010513386666]
  大規模推論モデル(LRM)は、明確な連鎖推論プロセスによって複雑な問題を解くことができる。 LRMはしばしば過大評価に悩まされ、冗長なトークン出力と劣化した精度をもたらす。 本稿では,モデルの推論状態を推定し,生成戦略を適応的に調整するASAGを提案する。
  論文  参考訳（メタデータ） (2026-06-13T02:58:29Z)
• Agentic Chain-of-Thought Steering for Efficient and Controllable LLM Reasoning [27.851326399978394]
  大規模言語モデルは、拡張チェーン・オブ・ソート推論により最終回答精度を向上させる。 既存の効率的な推論手法は、トレースの短縮、早期停止、圧縮によって思考長を制御する。 本稿では,マルコフ決定過程の推論を定式化したACTS(Agenic Chain-of-Thought Steering)を提案する。
  論文  参考訳（メタデータ） (2026-06-02T17:51:30Z)
• Stepwise Penalization for Length-Efficient Chain-of-Thought Reasoning [66.22060690012512]
  大規模な推論モデルは、より多くのテストタイム計算で改善されるが、しばしば過大評価され、正確さを向上することなくコストを上昇させる必要のない長い連鎖を生み出す。 本研究は,本質的な貢献に基づいて,ステップ間の長さ短縮を割り当てる,きめ細かいフレームワークであるSWAPを提案する。
  論文  参考訳（メタデータ） (2026-02-27T20:23:59Z)
• Structured Reasoning for Large Language Models [59.215789462977206]
  本研究では、推論を明示的、評価可能、トレーニング可能なコンポーネントに分解するフレームワークであるStructured Reasoning(SCR)を提案する。 SCRは推論効率と自己検証を大幅に改善する。 既存の推論パラダイムと比較して、出力トークンの長さを最大50%削減する。
  論文  参考訳（メタデータ） (2026-01-12T04:04:01Z)
• DTS: Enhancing Large Reasoning Models via Decoding Tree Sketching [54.98126916293868]
  大規模推論モデル(LRMs)は、精度を低下させる、非常に長い連鎖のトレースを生成する。 本稿では,高エントロピートークンを分岐することで推論空間をスケッチするモデル非依存デコーディングフレームワークを提案する。 このアプローチは、追加のトレーニングや監督を必要とせず、効率と正確性を両立させる最適解を近似する。
  論文  参考訳（メタデータ） (2025-11-01T17:41:28Z)
• Your Models Have Thought Enough: Training Large Reasoning Models to Stop Overthinking [50.97239453902612]
  大規模推論モデル(LRM)は、困難なタスクにおいて顕著なパフォーマンスを達成したが、その深い推論はしばしばかなりの計算コストを発生させる。 Evidence Accumulation Modelsにインスパイアされて、LEMは推論の初期段階で十分な情報を蓄積し、さらなる推論ステップを冗長にすることがわかった。 不要な推論を積極的に終了させるためにモデルを訓練するJust-Enough Thinking (JET)を提案する。
  論文  参考訳（メタデータ） (2025-09-27T16:25:06Z)
• ReCUT: Balancing Reasoning Length and Accuracy in LLMs via Stepwise Trails and Preference Optimization [16.51303604678232]
  Reasoning Compression ThroUgh Stepwise Trials (ReCUT) は推論軌道の精度と長さのバランスをとるための新しい手法である。 複数の数学推論データセットとバックボーンモデルによる実験結果から、ReCUTは推論の長さを約30～50%削減することが示された。
  論文  参考訳（メタデータ） (2025-06-12T15:43:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。