論文の概要: Preventing Curriculum Collapse in Self-Evolving Reasoning Systems

• arxiv url: http://arxiv.org/abs/2603.13309v1
• Date: Tue, 03 Mar 2026 22:10:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-23 08:17:42.291757
• Title: Preventing Curriculum Collapse in Self-Evolving Reasoning Systems
• Title（参考訳）: 自己進化型推論システムにおけるカリキュラム崩壊の防止
• Authors: Vaibhav Mishra,
• Abstract要約: 自己進化システムは、ほんの数回のイテレーションの後、新しい問題を引き起こすことで、多様性の崩壊を示す可能性がある。 この崩壊に直接対処する質問中心の自己進化手法であるPrismを紹介する。 Prismは、数学的問題の埋め込みによって引き起こされる意味的な分割に対して永続的な多様性信号を定義する。 セマンティックに多様性があり、イテレーション間で挑戦的な質問を生成し、その結果、Prism-Mathデータセットが構築される。
• 参考スコア（独自算出の注目度）: 0.7868449549351486
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Self-evolving reasoning frameworks let LLMs improve their reasoning capabilities by iteratively generating and solving problems without external supervision, using verifiable rewards. Ideally, such systems are expected to explore a diverse problem space and propose new challenges of high learning value. While prior work has largely focused on solver-side optimisation and verification, recent evidence suggests that self-evolving systems can exhibit diversity collapse in posing new problems after just a few iterations, even when surface-level variation is preserved. We introduce Prism, a question-centric self-evolution method that directly tackles this collapse. Prism defines a persistent diversity signal over an embedding-induced semantic partition of mathematical problems and uses it to encourage balanced exploration of underrepresented regions across iterations. This coverage signal is combined with a Zone-of-Proximal-Development (ZPD) gate to preserve edge-of-solvability difficulty. Evaluated on seven widely used mathematical reasoning benchmarks against five self-evolving baselines, Prism achieves the highest accuracy on six out of seven tasks, achieving gains of +3.98 absolute points over R-Zero on AMC and +3.68 on Minerva Math. Prism also generates semantically diverse and challenging questions across iterations, resulting in the construction of the Prism-Math dataset comprising 100k mathematical questions. These results demonstrate that cross-iteration semantic coverage is a high-leverage and under-explored axis for building more capable self-evolving reasoners. We release the code, dataset, and models to facilitate further research.
• Abstract（参考訳）: 自己進化的推論フレームワークにより、LLMは、検証可能な報酬を使用して、外部の監督なしに問題を反復的に生成し、解決することによって、推論能力を改善することができる。 理想的には、このようなシステムは多様な問題空間を探索し、高い学習価値の新たな課題を提案することが期待される。 従来の研究はソルバ側の最適化と検証に主に焦点を合わせてきたが、最近の証拠は、表面レベルの変動が保存されている場合でも、ほんの数回の反復で新しい問題を生じさせる際に、自己進化系が多様性の崩壊を示す可能性があることを示唆している。 この崩壊に直接対処する質問中心の自己進化手法であるPrismを紹介する。 Prismは、数学的問題の埋め込みによって引き起こされるセマンティックパーティションの上に永続的な多様性信号を定義し、それを繰り返しにまたがる未表現領域のバランスの取れた探索を促進するために利用する。 このカバー信号とZPDゲートが組み合わさって、エッジ・オブ・ゾルバビリティの難しさを抑える。 5つの自己進化基底線に対して広く使用されている7つの数学的推論ベンチマークに基づいて評価され、プリズムは7つのタスクのうち6つのタスクにおいて最高精度を達成し、AMC上のR-Zero上の+3.98絶対点とMinerva Math上の+3.68のゲインを達成した。 Prismはまた、反復にまたがって意味的に多様で挑戦的な質問を生成し、100kの数学的質問からなるPrism-Mathデータセットを構築した。 これらの結果から,クロスイテレーション・セマンティック・カバレッジは,より有能な自己進化型推論器を構築するための,高平均・低探索軸であることが示唆された。 さらなる研究を容易にするために、コード、データセット、モデルをリリースしています。

関連論文リスト

• R-Diverse: Mitigating Diversity Illusion in Self-Play LLM Training [65.13759782915164]
  反復的なチャレンジャーブートストラップループによる自己再生LDM推論。 R-Diverseは、より多くのイテレーション以上のゲインを持続し、常に以前のセルフプレイメソッドより優れています。
  論文  参考訳（メタデータ） (2026-02-13T17:07:42Z)
• Milestones over Outcome: Unlocking Geometric Reasoning with Sub-Goal Verifiable Reward [67.00373428443879]
  サブゴールレベルの評価と学習へのパラダイムシフトを導入する。 まず,厳密な形式検証データエンジンを用いたベンチマークであるGeoGoalを構築した。 本研究では,スケルトンレートに基づいて,スパース信号を高密度な報酬に置き換えるサブゴール検証リワード(SGVR)フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-01-08T16:17:56Z)
• GeoBench: Rethinking Multimodal Geometric Problem-Solving via Hierarchical Evaluation [48.04396968707237]
  幾何学的問題解決における4つの推論レベルを特徴とする階層型ベンチマークであるGeoBenchを提案する。 属性抽出から論理的誤り訂正まで,様々な機能を体系的に評価する。 これらの結果はGeoBenchを総合的なベンチマークとして確立し、幾何学的問題解決システムを開発するための実用的なガイドラインを提供する。
  論文  参考訳（メタデータ） (2025-12-30T09:56:37Z)
• MM-HELIX: Boosting Multimodal Long-Chain Reflective Reasoning with Holistic Platform and Adaptive Hybrid Policy Optimization [103.74675519953898]
  ロングチェーンのリフレクティブ推論は、複雑な現実世界の問題を解決するための前提条件である。 我々は42の難解な合成タスクの1,260のサンプルからなるベンチマークを構築した。 トレーニング後のデータを生成し、そのようなデータを活用するための学習パラダイムを探索する。
  論文  参考訳（メタデータ） (2025-10-09T17:53:58Z)
• EvolMathEval: Towards Evolvable Benchmarks for Mathematical Reasoning via Evolutionary Testing [45.89558878854675]
  EvolMathEvalは、進化テストに基づく自動数学的ベンチマーク生成と進化のフレームワークである。 連続的な自己イテレーションによって大量の高次問題を生成することができる。 また、進化を通じてGSM8Kのような公開データセットの複雑さを著しく向上させ、モデルの精度を平均48%削減する。
  論文  参考訳（メタデータ） (2025-08-18T15:24:10Z)
• OMEGA: Can LLMs Reason Outside the Box in Math? Evaluating Exploratory, Compositional, and Transformative Generalization [88.76091817642963]
  最近の大規模言語モデル (LLMs) は、DeepSeek-R1-のような長い鎖の推論を持ち、オリンピアード級数学において印象的な成果を上げている。 本稿では,3つの分布外一般化の軸を評価するために設計された3つの一般化 Axes-a ベンチマークを用いた OMEGA-Out-of-distriion Math Problems Evaluation を提案する。
  論文  参考訳（メタデータ） (2025-06-23T17:51:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。