論文の概要: More: Mode-Optimized Reasoning with Self-Adaptive Effort for Self-Evolving Agents
- arxiv url: http://arxiv.org/abs/2610.33684v1
- Date: Sat, 24 Oct 2026 14:03:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.420348
- Title: More: Mode-Optimized Reasoning with Self-Adaptive Effort for Self-Evolving Agents
- Title(参考訳): さらに: 自己進化剤の自己適応性を考慮したモード最適化推論
- Abstract要約: 本稿では,各タスクに対する推論形式と計算作業の両方を適応的に選択する自己進化型学習フレームワークを提案する。
BaseとCoderのバックボーンは、3Bから14Bまでのモデルスケールで一貫したパフォーマンス向上を実現している。
推論中、MOREは高い精度とより良い効率を示し、応答長が著しく短く、推論時間が短縮される。
- 参考スコア(独自算出の注目度): 3.0526142288785696
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Self-evolving training improves the performance of agents on difficult tasks through verifiable feedback, but it often applies costly deliberation uniformly across tasks. To address this problem, we propose Mode-Optimized Reasoning with Self-Adaptive Effort (MORE), a self-evolving training framework that adaptively selects both reasoning form and computational effort for each task. Specifically, MORE follows a two-stage training paradigm: (i) \emph{Stage 1} establishes a compact prior over direct answering, short and long chain-of-thought, and code-based reasoning, and (ii) \emph{Stage 2} self-evolves this prior with Mode-Adaptive and Test-time Effort PPO (MATE-PPO) on generated, verifiable task streams without curated data. By learning mode selection and token expenditure jointly, MORE allocates concise reasoning to tasks that permit it while retaining extended deliberation where it is useful. Across coding, mathematics, and general-reasoning benchmarks, MORE achieves consistent performance gains on Base and Coder backbones at model scales from 3B to 14B. During inference, MORE demonstrates higher accuracy and better efficiency, with markedly shorter response lengths and reduced inference time.
- Abstract(参考訳): 自己進化型トレーニングは、検証可能なフィードバックを通じて、困難なタスクにおけるエージェントのパフォーマンスを改善するが、タスク全体にわたって費用対効果を均一に適用することが多い。
この問題に対処するために,各タスクに対する推論形式と計算作業の両方を適応的に選択する自己進化型学習フレームワークMORE(Mode-Optimized Reasoning with Self-Adaptive Effort)を提案する。
特にMOREは、2段階のトレーニングパラダイムに従っています。
i) \emph{Stage 1} は、直接応答、短くて長い連鎖、そしてコードに基づく推論よりもコンパクトな先行性を確立する。
(ii) \emph{Stage 2} は、生成した検証可能なタスクストリームに対して、Mate-Adaptive と Test-time Effort PPO (MATE-PPO) で、キュレートされたデータなしで、これを自己進化させる。
モード選択とトークンの支出を共同で学習することにより、MOREは簡潔な推論をタスクに割り当てる。
コーディング、数学、一般的な推論ベンチマークの他、MOREは3Bから14BまでのモデルスケールでBaseとCoderのバックボーンで一貫したパフォーマンス向上を実現している。
推論中、MOREは高い精度とより良い効率を示し、応答長が著しく短く、推論時間が短縮される。
関連論文リスト
- FABSVer: Faster Training and Better Self-Verification for LLM Mathematical Reasoning [8.96133612398978]
自己検証モデルを備えた既存のアプローチは、解の生成と検証を2つの別々のタスクとして扱うのが一般的である。
本稿では,この2つのタスクを1世代パスに融合するFABSVerを提案する。
FABSVerは3つのモデルスケールで優れた自己検証と推論性能を実現する。
論文 参考訳(メタデータ) (2026-05-27T12:26:34Z) - LEAD: Length-Efficient Adaptive and Dynamic Reasoning for Large Language Models [24.128148876541783]
OpenAI o1やDeepSeek-R1のような大きな推論モデルは、推論能力が向上するにつれて、次第に冗長になりがちである。
これらの拡張されたChain-of-Length trajectories(CoT)は、根底にある問題、無駄な計算、レイテンシ、コンテキスト予算を超えることが多い。
静的をオンラインの自己適応機構に置き換える手法であるLEAD(Thought-Efficient Adaptive and Dynamic reasoning)を提案する。
論文 参考訳(メタデータ) (2026-05-10T23:05:02Z) - BOTS: A Unified Framework for Bayesian Online Task Selection in LLM Reinforcement Finetuning [82.925106913459]
強化微調整(Reinforcement Finetuning, RFT)は、大規模言語モデル(LLM)を人間の嗜好と整合させ、推論を強化するための重要な手法である。
RFT強化微調整におけるベイズオンラインタスク選択のための統合フレームワークBOTSを紹介する。
論文 参考訳(メタデータ) (2025-10-30T11:15:23Z) - Learning to Refine: Self-Refinement of Parallel Reasoning in LLMs [102.48588475875749]
本稿では,新しい並列テスト時間スケーリングフレームワークであるGenerative Self-Refinement (GSR)を紹介する。
GSRは一連の候補応答を並列に生成し、その後自己精製を行い、新しい優れた解を合成する。
提案手法は,5つの数学ベンチマークにおいて,最先端性能を実現する。
論文 参考訳(メタデータ) (2025-08-27T06:51:48Z) - Light-IF: Endowing LLMs with Generalizable Reasoning via Preview and Self-Checking for Complex Instruction Following [10.119219532863767]
思考段階の怠慢な推論は 指示の順守に 寄与する主要な要因だ
本稿では,プレビューと自己チェックを含む厳密な推論プロセスを実現するための包括的フレームワークを提案する。
私たちのLight-IF-32Bモデルは、DeepSeek-R1のような大規模なオープンソースモデルと、Doubao-1.6のようなクローズドソースモデルの両方を上回っています。
論文 参考訳(メタデータ) (2025-08-05T07:42:00Z) - TACO: Think-Answer Consistency for Optimized Long-Chain Reasoning and Efficient Data Learning via Reinforcement Learning in LVLMs [50.820065021136024]
DeepSeek R1には、大規模言語モデル(LLM)のためのかなり高度な複雑な推論がある。
最近の手法は、R1の推論能力をマルチモーダルな設定で再現しようと試みている。
視覚推論のための新しい強化学習アルゴリズムTACOを提案する。
論文 参考訳(メタデータ) (2025-05-27T06:30:48Z) - A Systematic Examination of Preference Learning through the Lens of Instruction-Following [83.71180850955679]
新たな合成データ生成パイプラインを用いて48,000の命令追従プロンプトを生成する。
合成プロンプトでは、リジェクションサンプリング(RS)とモンテカルロ木探索(MCTS)の2つの選好データセットキュレーション手法を用いる。
実験により、MCTSが生成した選好ペアにおける共有プレフィックスは、限界はあるが一貫した改善をもたらすことが明らかになった。
高コントラストの選好ペアは一般的に低コントラストのペアよりも優れているが、両者を組み合わせることで最高のパフォーマンスが得られることが多い。
論文 参考訳(メタデータ) (2024-12-18T15:38:39Z) - Think Beyond Size: Adaptive Prompting for More Effective Reasoning [0.0]
本稿では,動的かつ反復的なフレームワークであるAdaptive Promptingを紹介する。
その結果、Adaptive Promptingは、算術的推論(GSM8K、MultiArithm)、論理的推論、コモンセンスタスクなど、様々な推論ベンチマークのパフォーマンスを著しく向上させることを示した。
提案手法は,計算効率を維持しつつ,GPT-4などの大規模モデルと競合する性能を実現する。
論文 参考訳(メタデータ) (2024-10-10T17:14:36Z) - Self-regulating Prompts: Foundational Model Adaptation without
Forgetting [112.66832145320434]
本稿では,PromptSRCと呼ばれる自己正規化フレームワークを提案する。
PromptSRCはタスク固有の汎用表現とタスクに依存しない汎用表現の両方に最適化するプロンプトを導く。
論文 参考訳(メタデータ) (2023-07-13T17:59:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。