論文の概要: Multi-objective Evolutionary Merging Enables Efficient Reasoning Models

• arxiv url: http://arxiv.org/abs/2604.06465v1
• Date: Tue, 07 Apr 2026 21:07:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-09 17:30:51.241112
• Title: Multi-objective Evolutionary Merging Enables Efficient Reasoning Models
• Title（参考訳）: 効率的な推論モデルを実現する多目的進化的マージ
• Authors: Mario Iacobelli, Adrian Robert Minut, Tommaso Mencattini, Donato Crisostomi, Andrea Santilli, Iacopo Masi, Emanuele Rodolà,
• Abstract要約: L2S(Long-to-Short)推論問題は、少ないトークンを用いて高い精度を維持することを目指している。 本稿では,L2S推論を多目的最適化問題として定式化する新しいフレームワークであるEvo-L2Sを紹介する。 Evo-L2Sは、元の推論モデルを保存または改善しながら、生成した推論トレースの長さを50%以上削減できることを示す。
• 参考スコア（独自算出の注目度）: 18.89171308910831
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Reasoning models have demonstrated remarkable capabilities in solving complex problems by leveraging long chains of thought. However, this more deliberate reasoning comes with substantial computational overhead at inference time. The Long-to-Short (L2S) reasoning problem seeks to maintain high accuracy using fewer tokens, but current training-free model merging approaches rely on scalarized, fixed-hyperparameter arithmetic methods that are highly brittle and force suboptimal compromises. To address this gap, we introduce Evo-L2S, a novel framework that formulates L2S reasoning as a multi-objective optimization challenge. By leveraging evolutionary model merging, Evo-L2S explicitly optimizes the trade-off between accuracy and output length to produce a robust Pareto front of merged models. To make this search computationally tractable for large language models, we propose an entropy-based subset sampling technique that drastically reduces the overhead of fitness estimation. Comprehensive experiments across 1.5B, 7B, and 14B parameter scales on six mathematical reasoning benchmarks demonstrate that Evo-L2S can reduce the length of generated reasoning traces by over 50% while preserving, or even improving, the problem-solving accuracy of the original reasoning models.
• Abstract（参考訳）: 推論モデルは、長いチェーンの思考を活用することで複雑な問題を解く際、顕著な能力を示した。 しかし、このより故意な推論は、推論時にかなりの計算オーバーヘッドを伴う。 L2S(Long-to-Short)推論問題はトークンが少なくて精度が高いことを目指しているが、現在のトレーニングフリーのモデルマージアプローチは、高度に脆く、最適以下の妥協を強制する、スカラー化され固定されたハイパーパラメータの算術法に依存している。 このギャップに対処するために,L2S推論を多目的最適化問題として定式化する新しいフレームワークであるEvo-L2Sを紹介する。 進化モデルマージを活用することで、Evo-L2Sは、精度と出力長の間のトレードオフを明示的に最適化し、マージモデルの前にロバストなパレートを生成する。 この探索を大規模言語モデルに適用するために,エントロピーに基づくサブセットサンプリング手法を提案し,適合度推定のオーバーヘッドを大幅に削減する。 1.5B, 7B, 14Bパラメータの6つの数学的推論ベンチマークにおける総合的な実験により、Evo-L2Sは、元の推論モデルの問題解決精度を維持しながら、生成した推論トレースの長さを50%以上削減できることを示した。

関連論文リスト

• Dual-Phase LLM Reasoning: Self-Evolved Mathematical Frameworks [48.105258051884384]
  本稿では,モデルの自己補正能力を高めるための2段階トレーニングフレームワークを提案する。 最初の段階では、マルチターン対話戦略がモデルをガイドし、長いチェーン・オブ・シント(CoT)データを生成する。 第2段階では、データの分散を動的に最適化する難易度の高い拒絶サンプリング機構を採用している。
  論文  参考訳（メタデータ） (2026-01-09T08:19:11Z)
• TL;DR: Too Long, Do Re-weighting for Efficient LLM Reasoning Compression [55.37723860832064]
  高度なデータアノテーションに依存しない動的比に基づくトレーニングパイプラインを提案する。 我々は、DeepSeek-R1-Distill-7BとDeepSeek-R1-Distill-14Bのモデルと、様々な難易度を持つ様々なベンチマークのモデルに対するアプローチを検証する。
  論文  参考訳（メタデータ） (2025-06-03T09:23:41Z)
• Long-Short Chain-of-Thought Mixture Supervised Fine-Tuning Eliciting Efficient Reasoning in Large Language Models [23.34070841541423]
  LS-Mixture SFT(Long-Short Chain-of-Thought Mixture Supervised Fine-Tuning)を提案する。 LS-Mixture SFTでトレーニングしたモデルと直接SFTでトレーニングしたモデルでは,平均精度が2.3%向上した。 この研究は、教師付き微調整によって推論能力を持つ非推論モデルを実現するアプローチを提供する。
  論文  参考訳（メタデータ） (2025-05-06T12:18:11Z)
• Ada-R1: Hybrid-CoT via Bi-Level Adaptive Reasoning Optimization [86.56120216550232]
  適応的で効率的な推論のための新しい2段階のフレームワークを提案する。 まず、長いCoTモデルと短いCoTモデルを組み合わせてハイブリッド推論モデルを構築する。 第二に、モデルに適切な推論スタイルを選択するための2段階の選好訓練を適用する。
  論文  参考訳（メタデータ） (2025-04-30T14:01:45Z)
• Unlocking Efficient Long-to-Short LLM Reasoning with Model Merging [17.038807261969033]
  Long-to-Short (L2S) 推論は推論深度と実用効率のバランスをとることを目的としている。 モデルマージは、System 1モデルの迅速な思考能力とSystem 2モデルの方法論的推論を統合することで、コスト効率が高く堅牢な代替手段を提供する。 実験の結果,モデルマージにより平均応答長を最大55%削減できることがわかった。
  論文  参考訳（メタデータ） (2025-03-26T15:34:37Z)
• Self-Evolved Preference Optimization for Enhancing Mathematical Reasoning in Small Language Models [17.673293240849787]
  我々は、小言語モデル(SLM)における推論を強化する自己進化型データ生成パイプラインSPHEREを紹介する。 SPHEREは、 (i) 自己生成(Self-Generation)、 (ii) 自己補正(Self-Correction)、 (iii) 多様性誘導(diversity induction)、そして、複数の有効な推論軌道を通じて堅牢性を改善する。 本研究では,SPHERE学習モデルがベースバージョンよりも大幅に向上し,特定のベンチマークでGPT-4oにマッチすることを示す。
  論文  参考訳（メタデータ） (2025-03-04T14:43:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。