論文の概要: Towards Eliminating Catastrophic Forgetting in the Curriculum Learning of Math Reasoning Tasks
- arxiv url: http://arxiv.org/abs/2609.33655v1
- Date: Sun, 27 Sep 2026 15:19:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-05 14:59:06.108815
- Title: Towards Eliminating Catastrophic Forgetting in the Curriculum Learning of Math Reasoning Tasks
- Title（参考訳）: 数学推論課題のカリキュラム学習におけるカタストロフィック・フォーミングの排除に向けて
- Abstract要約: EWC(Elastic Weight Consolidation)は、数学的推論における破滅的な忘れを抑制するために提案されている。
EWCは、カリキュラムのトレーニングデータから代表的検証セットを構築するために影響関数を使用する。
IV-EWCはこの問題を緩和し、バニラのカリキュラム学習と比較して平均162%の忘れを減らした。
- 参考スコア（独自算出の注目度）: 14.574897400584765
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Curriculum learning has found broad application across numerous domains. Nevertheless, its effectiveness is intrinsically curtailed by catastrophic forgetting, driven by the shifts in model parameter distributions between curriculum tasks. In this paper, we investigate the phenomenon of catastrophic forgetting in this training paradigm, building on the established efficacy of curriculum learning. Our theoretical analyses of parameter update dynamics demonstrate that catastrophic forgetting in curriculum learning stems from the divergence of task optima, which is generally essential to the faster convergence of curriculum learning; therefore, forgetting cannot be completely eliminated. Based on this finding, we augment the training process and propose IV-EWC, which incorporates Elastic Weight Consolidation (EWC) into the curriculum learning objective to curb catastrophic forgetting in mathematical reasoning, a prototypical curriculum learning scenario. IV-EWC employs the influence function to construct a representative validation set from the curriculum's training data, which is used to drive dynamic regularization during training. We further present an extended theoretical analysis to show that EWC-based regularization methods mitigate catastrophic forgetting in curriculum learning, thereby providing theoretical support for IV-EWC. Empirical evaluations on three backbone models and three benchmarks indicate that curriculum learning exhibits catastrophic forgetting. IV-EWC alleviates this issue, reducing forgetting by 162% on average relative to vanilla curriculum learning and yielding positive backward transfer, as evidenced by improved performance on easier tasks after subsequent training on challenging tasks.
- Abstract（参考訳）: カリキュラム学習は多くの領域に広く応用されている。
それにもかかわらず、その効果は、カリキュラムのタスク間のモデルパラメータ分布の変化によって引き起こされる破滅的な忘れによって本質的に制限される。
本稿では,カリキュラム学習の確立した有効性に基づいて,この学習パラダイムにおける破滅的忘れの現象を考察する。
パラメータ更新ダイナミクスの理論的解析により、カリキュラム学習における破滅的な忘れは、一般に、カリキュラム学習のより早い収束に不可欠であるタスク最適性の分散に起因することが示される。
本研究は, 数学的推論における破滅的な忘れを抑えるためのカリキュラム学習の目的として, EWC(Elastic Weight Consolidation)を組み込んだIV-EWCを提案する。
IV-EWCは、カリキュラムのトレーニングデータから代表的検証セットを構築するために影響関数を利用する。
さらに、EWCに基づく正規化手法は、カリキュラム学習における破滅的な忘れを軽減し、IV-EWCの理論的支援を提供することを示す。
3つのバックボーンモデルと3つのベンチマークに関する実証的な評価は、カリキュラム学習が破滅的な忘れを示すことを示している。
IV-EWCはこの問題を緩和し、バニラのカリキュラム学習と比較して平均162%の忘れを減らし、より簡単なタスクのパフォーマンスを改善したことが証明された。
関連論文リスト
- Understanding Curriculum Learning in Large Language Models via Cross-Difficulty Optimization Dynamics [5.2200534546273465]
異なる難易度間の伝達関係は,カリキュラム学習によって引き起こされる最適化のダイナミクスを特徴付けることを示す。
我々の研究は、クロスディフルティー・トランスファーによるカリキュラム学習の統一的な最適化に基づく説明を提供する。
論文 参考訳（メタデータ） (2026-08-18T01:51:20Z) - On Predicting the Post-training Potential of Pre-trained LLMs [60.07459271263409]
本稿では,ポストトレーニング前のベースモデルの性能予測という,ポストトレーニング後の潜在能力を予測するための新しいタスクを紹介する。
本稿では,応答判別を活用することで,ベースモデルの生成ギャップを回避できる統一フレームワークであるRuDEを提案する。
実験では、トレーニング後のパフォーマンスと90%以上の相関を示す。
論文 参考訳（メタデータ） (2026-05-12T11:33:49Z) - AdaCuRL: Adaptive Curriculum Reinforcement Learning with Invalid Sample Mitigation and Historical Revisiting [23.630999806649914]
強化学習は大規模言語モデル(LLM)における推論を強化する
既存の方法は、難易度が混ざったサンプルで直接トレーニングを行う際に、グラディエント飢餓と政策劣化に悩まされる。
AdaCuRLは、粗大な難易度推定と適応的なカリキュラムスケジューリングを統合する。
論文 参考訳（メタデータ） (2025-11-12T16:50:16Z) - Provable Benefit of Curriculum in Transformer Tree-Reasoning Post-Training [76.12556589212666]
学習後のカリキュラムは指数関数的複雑性のボトルネックを回避していることを示す。
結果のみの報酬信号の下では、強化学習の微調整は、サンプルの複雑さを高い精度で達成する。
カリキュラムを意識したクエリにより、報奨託書の呼び出しとサンプリングコストの両方を指数関数的に削減するテストタイムスケーリングの保証を確立する。
論文 参考訳（メタデータ） (2025-11-10T18:29:54Z) - What Makes a Good Curriculum? Disentangling the Effects of Data Ordering on LLM Mathematical Reasoning [47.10036442634749]
大規模言語モデル(LLMs)における推論改善戦略として,カリキュラム学習(CL)が普及している。
しかし、以前の作業では、異なる難易度メトリクスとトレーニングのセットアップを採用しており、オープンな根本的な疑問を残している。
我々は,カリキュラムの難易度を5つの相補的な次元に分解する統合されたオフライン評価フレームワークを通じて,これらの疑問に対処する。
論文 参考訳（メタデータ） (2025-10-21T21:43:38Z) - CurES: From Gradient Analysis to Efficient Curriculum Learning for Reasoning LLMs [53.749193998004166]
カリキュラム学習は,大規模言語モデルの学習効率を高める上で重要な役割を担っている。
収束を加速し,計算オーバーヘッドを最小限に抑えるためにベイズ後続推定を用いた効率的な学習法であるCurESを提案する。
論文 参考訳（メタデータ） (2025-10-01T15:41:27Z) - Spurious Forgetting in Continual Learning of Language Models [20.0936011355535]
大規模言語モデル(LLM)の最近の進歩は、継続学習において複雑な現象を呈している。
大規模な訓練にもかかわらず、モデルは大幅な性能低下を経験する。
本研究では,このような性能低下が,真の知識喪失よりもタスクアライメントの低下を反映していることが示唆された。
論文 参考訳（メタデータ） (2025-01-23T08:09:54Z) - Enhancing Robustness of Vision-Language Models through Orthogonality Learning and Self-Regularization [77.62516752323207]
そこで本研究では,事前訓練した重みを効率よく微調整する直交微調整法を導入し,頑健さと一般化の強化を実現した。
自己正規化戦略は、OrthSRと呼ばれるVLMのゼロショット一般化の観点から安定性を維持するためにさらに活用される。
筆者らはCLIPとCoOpを再検討し,少数の画像のクラスフィシエーションシナリオにおけるモデルの改善を効果的に行う。
論文 参考訳（メタデータ） (2024-07-11T10:35:53Z) - Enhancing Spatio-temporal Quantile Forecasting with Curriculum Learning: Lessons Learned [11.164896279040379]
問題時間データ(ST)データのトレーニングモデルは、データ自体の複雑で多様な性質のため、オープンな積み重ねとなる。
モデルの性能が元のSTデータに基づいて直接訓練されることを保証することは困難である。
本稿では,空間的,時間的,定量的な視点を対象とする3種類のカリキュラム学習を取り入れた革新的パラダイムを提案する。
論文 参考訳（メタデータ） (2024-06-18T15:23:10Z) - Towards Effective Evaluations and Comparisons for LLM Unlearning Methods [97.2995389188179]
本稿では,大規模言語モデルにおける機械学習評価の精度向上を図る。
評価指標の堅牢性と、競合する目標間のトレードオフという、2つの重要な課題に対処します。
論文 参考訳（メタデータ） (2024-06-13T14:41:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。