論文の概要: Cognitive Demand Steering for Adaptive Meta-Reasoning in Large Language Models
- arxiv url: http://arxiv.org/abs/2608.01319v1
- Date: Sun, 02 Aug 2026 15:41:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.163101
- Title: Cognitive Demand Steering for Adaptive Meta-Reasoning in Large Language Models
- Title(参考訳): 大規模言語モデルにおける適応メタ推論のための認知的デマンドステアリング
- Abstract要約: 認知的デマンドステアリング(Cognitive Demand Steering)は、残留需要評価を備えたトレーニングフリーなメタ推論フレームワークである。
3つのフロンティアLCMと6つの推論ベンチマークで比較すると、CDSは直接呼び出しで21.9%、標準のCoT推論で9%の精度向上を実現している。
- 参考スコア(独自算出の注目度): 12.235165912578095
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent meta-reasoning frameworks improve LLM reasoning by wrapping chain-of-thought generation in an iterative control loop, allowing more effective backtracking, termination of reasoning loops, and injection of promising reasoning patterns, among other strategy adjustments. Despite promising results, methods often rely on backward-looking reward functions, utilize coarse search actions, or require additional reasoning controller training requiring many-shot supervision. We introduce Cognitive Demand Steering (CDS), a training-free meta-reasoning framework equipped with residual demand assessment: at each step, an LLM-based progress evaluator characterizes the residual reasoning required to arrive at a solution rather than merely evaluating the previous step. This allows a meta-controller to select reasoning interventions comprising both general-purpose exemplars and actions (e.g., general guidance for quantitative reasoning) that directly tackle this forward-looking demand signal. This shift eliminates the need for any trained component while enabling zero-shot transfer across models and tasks with no adaptation. Rather than relying on coarse characterizations, we employ cognitive scales to both design interventions as well as profile initial problem complexity and residual demand signal over 16 dimensions motivated by cognitive science (e.g., attention and scan, learning and abstraction, spatio-physical reasoning), giving the controller a fine-grained vocabulary for diagnosing. Averaged across three frontier LLMs and six reasoning benchmarks, CDS improves accuracy by $21.9\%$ over direct calls and $9\%$ over standard CoT reasoning, with the largest gains on difficult mathematics and coding tasks.
- Abstract(参考訳): 最近のメタ推論フレームワークは、繰り返し制御ループでチェーン・オブ・シント生成をラップすることでLCM推論を改善し、より効果的なバックトラック、推論ループの終了、有望な推論パターンの注入を可能にする。
有望な結果にもかかわらず、メソッドは後向きの報酬関数に依存したり、粗い検索アクションを利用する場合や、多発的な監視を必要とする追加の推論コントローラトレーニングを必要とする場合が多い。
各段階において、LCMベースの進捗評価器は、前段階を単に評価するのではなく、解決に要する残差推論を特徴付ける。
これにより、メタコントローラは、この先進的な需要信号に直接対処する汎用的な先例と行動(例えば、量的推論のための一般的なガイダンス)の両方からなる推論の介入を選択することができる。
このシフトにより、トレーニング済みのコンポーネントは不要になり、モデルやタスク間でゼロショット転送が可能になった。
粗い特徴に頼らず、認知科学(例えば、注意とスキャン、学習と抽象化、空間物理学的推論)によって動機付けられた16次元にわたる初期問題複雑度と残留需要信号のプロファイル化の両方に認知尺度を使用し、コントローラに詳細な診断用語彙を与える。
3つのフロンティアLCMと6つの推論ベンチマークで評価され、CDSは直接呼び出しよりも21.9\%、標準のCoT推論より9\%の精度を向上し、難解な数学やコーディングタスクにおいて最大の利益を上げている。
関連論文リスト
- CARE: Competence-Aware Reward Shaping for Adaptive Reasoning Length in Video-MLLMs [50.189987475377656]
マルチモーダル推論における適応推論長最適化のための能力認識型報酬形成フレームワークであるCAREを提案する。
CAREは、パスレートの指数的な移動平均を通したスムーズなコンピテンス推定を維持し、それを訓練を進行段階にルートするために利用する。
複数のビデオ推論と一般的なビデオ理解ベンチマークの実験により、CAREは推論精度を一貫して改善し、強化学習を安定化し、トークン効率を大幅に向上することを示した。
論文 参考訳(メタデータ) (2026-06-18T08:28:26Z) - Stop When Further Reasoning Won't Help: Attention-State Adaptive Generation in Reasoning Models [11.158010513386666]
大規模推論モデル(LRM)は、明確な連鎖推論プロセスによって複雑な問題を解くことができる。
LRMはしばしば過大評価に悩まされ、冗長なトークン出力と劣化した精度をもたらす。
本稿では,モデルの推論状態を推定し,生成戦略を適応的に調整するASAGを提案する。
論文 参考訳(メタデータ) (2026-06-13T02:58:29Z) - Metacognition as Reward: Reinforcing LLM Reasoning via Knowledge and Regulation Signals [75.25256166997414]
本稿ではメタ認知に触発されたRLフレームワークであるメタ認知・アズ・リワード(MaR)を紹介する。
MaRは2つの一般的なプロセス次元を推論する。
MaRはモデル性能を継続的に改善し、ベースモデルよりも最大7.7%向上した。
論文 参考訳(メタデータ) (2026-05-22T08:54:37Z) - TRACES: Tagging Reasoning Steps for Adaptive Cost-Efficient Early-Stopping [5.190961793309368]
TRACESは、推論ステップをリアルタイムでタグ付けする軽量フレームワークです。
その結果, LRMは正しい回答を得た後, 推論行動を変える傾向にあることがわかった。
本研究では,特定のステップのモニタリングにより,効果的に解釈可能な早期停止基準を導出できることを実証する。
論文 参考訳(メタデータ) (2026-04-22T20:00:18Z) - ProRAG: Process-Supervised Reinforcement Learning for Retrieval-Augmented Generation [54.071574153853994]
ProRAGは、学習段階の監視をオンライン最適化ループに統合するために設計されたプロセス教師付き強化学習フレームワークである。
本フレームワークは,(1)構造化推論形式でモデルを初期化するための監視されたポリシーワームアップ,(2)中間推論品質を定量化するためのMCTSベースのプロセスリワードモデル(PRM)の構築,(3)細粒度プロセスの好みに合わせてポリシーを調整するためのPRM誘導推論リファインメント,(4)プロセススーパービジョン強化学習と2つのグラニュラリティー・アドバンテージ・メカニズムの4段階から構成される。
論文 参考訳(メタデータ) (2026-01-29T16:04:59Z) - Structured Reasoning for Large Language Models [59.215789462977206]
本研究では、推論を明示的、評価可能、トレーニング可能なコンポーネントに分解するフレームワークであるStructured Reasoning(SCR)を提案する。
SCRは推論効率と自己検証を大幅に改善する。
既存の推論パラダイムと比較して、出力トークンの長さを最大50%削減する。
論文 参考訳(メタデータ) (2026-01-12T04:04:01Z) - In-Token Rationality Optimization: Towards Accurate and Concise LLM Reasoning via Self-Feedback [38.915062716409686]
InTROはトークンレベルの探索と,正確かつ簡潔な推論のための自己フィードバックを可能にする,新たなフレームワークである。
InTROは他のベースラインを一貫して上回り、ベースモデルと比較して解の精度を最大20%向上させる。
その思考の連鎖は明らかに簡潔であり、冗長性が低下している。
論文 参考訳(メタデータ) (2025-11-13T01:47:06Z) - From <Answer> to <Think>: Multidimensional Supervision of Reasoning Process for LLM Optimization [62.07990937720985]
DRM(Dimension-level Reward Model)は、大規模言語モデルのための新しい監視フレームワークである。
DRMは3つの基本的、相補的、解釈可能な次元に沿って推論プロセスの品質を評価する。
実験の結果、DRMは効果的な監視信号を提供し、LCMの最適化を誘導し、推論能力を向上することが示された。
論文 参考訳(メタデータ) (2025-10-13T14:29:15Z) - SmartThinker: Learning to Compress and Preserve Reasoning by Step-Level Length Control [5.224609066309358]
大規模な推論モデル(LRM)は、推論時間スケーリングを通じて顕著な推論能力を示した。
従来の研究は、強化学習中に生成されたサンプル全体の長さをペナルティ化することでこの問題を緩和しようと試みてきた。
We propose SmartThinker, a two-stage learnable framework designed to enable fine-fine control over the length of reasoning chains。
論文 参考訳(メタデータ) (2025-07-06T11:21:47Z) - The First Few Tokens Are All You Need: An Efficient and Effective Unsupervised Prefix Fine-Tuning Method for Reasoning Models [69.798277882245]
大規模言語モデルの推論効率を向上させるために,Unsupervised Prefix Fine-Tuning (UPFT)を導入した。
UPFTはラベル付きデータや徹底的なサンプリングの必要性を取り除く。
実験の結果,UPFTは教師付き手法の性能と一致していることがわかった。
論文 参考訳(メタデータ) (2025-03-04T18:56:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。