論文の概要: From a Prompt to Repertoires: Evolving Functional REpertoires Enable LLM Continual Learning

• arxiv url: http://arxiv.org/abs/2610.11373v1
• Date: Thu, 08 Oct 2026 07:06:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.851758
• Title: From a Prompt to Repertoires: Evolving Functional REpertoires Enable LLM Continual Learning
• Title（参考訳）: プロンプトからレパートリーへ:LLM連続学習を可能にする機能レパートリーの進化
• Abstract要約: これにより、モデルは既存の能力を損なうことなく、新しいスキルと知識を習得できなければならない。 単一プロンプトを新しいタスクが到着するにつれて進化する関数のレパートリーに置き換える機能レパートリー(EFRE)を提案する。 3タスク連続学習ストリームでは、EFREはGRPOよりも7.50ポイント高い最終的な平均パフォーマンスを達成する。
• 参考スコア（独自算出の注目度）: 26.72994132440226
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Continual learning remains challenging for large language models, which must enable models to acquire new skills and knowledge without degrading existing capabilities. Existing approaches typically address this challenge by carefully designing how model parameters are updated. In contrast, prompt optimization avoids costly parameter updates while achieving competitive or even superior performance to reinforcement learning methods such as GRPO on individual knowledge-intensive and reasoning tasks. This raises a natural question: \textit{Can prompt optimization, as an efficient adaptation approach, be directly applied to continual learning?} Our analysis shows that, under sequential task adaptation, it suffers from catastrophic forgetting, while optimized prompts accumulate rules that overfit to local task distributions. To address these limitations, we propose \emph{Evolving Functional REpertoires} (EFRE), which replaces a single prompt with a repertoire of functions that evolves as new tasks arrive: compatible updates refine existing functions, while conflicting updates trigger the emergence of new ones. On a three-task continual-learning stream, EFRE achieves a final average performance 7.50 percentage points higher than GRPO. Moreover, after adaptation to the Bio task, its performance on FinQA decreases by only 1.56 percentage points, compared with 25.10 percentage points for the base prompt optimization method. We further instantiate EFRE in a minimal agent system and observe consistent improvements across different backbone models. Overall, these results demonstrate EFRE's strong performance in continual learning for large language models and highlight its substantial potential for continual learning in advanced agent systems.
• Abstract（参考訳）: これにより、モデルは既存の能力を損なうことなく、新しいスキルと知識を習得できなければならない。 既存のアプローチでは、モデルパラメータの更新方法を慎重に設計することで、この課題に対処するのが一般的である。 対照的に、プロンプト最適化は、個別の知識集約や推論タスクにおけるGRPOのような強化学習手法に競争力や優れた性能を保ちながら、コストのかかるパラメータ更新を避ける。 これは自然な疑問を提起する: \textit{Can prompt optimization, as a efficient adapt approach, be directly applied to continual learning? 分析の結果、逐次的なタスク適応の下では、破滅的な忘れ込みに悩まされ、一方、最適化されたプロンプトは、局所的なタスク分布に過度に適合するルールを蓄積することがわかった。 これらの制限に対処するために、単一プロンプトを新しいタスクが到着すると進化する関数のレパートリーに置き換える \emph{Evolving Functional Repertoires} (EFRE) を提案する。 3タスク連続学習ストリームでは、EFREはGRPOよりも7.50ポイント高い最終的な平均パフォーマンスを達成する。 さらに、Bioタスクへの適応後、FinQAの性能は、ベースプロンプト最適化法では25.10ポイントに対してわずか1.56ポイント低下した。 EFREを最小限のエージェントシステムでインスタンス化し、異なるバックボーンモデル間で一貫した改善を観察する。 これらの結果は,大規模言語モデルの連続学習におけるEFREの強い性能を示し,高度なエージェントシステムにおける連続学習の可能性を強調している。

関連論文リスト

• Sequencing to Mitigate Catastrophic Forgetting in Continual Learning [1.1724961392643483]
  破滅的な忘れ(CF)は継続的学習アプローチの進歩にとって大きな課題である。 CFの緩和におけるタスクシークエンシングの役割を考察し、最適なタスク順序を決定する方法を提案する。 その結果、インテリジェントなタスクシークエンシングはCFを大幅に削減できることが示された。
  論文  参考訳（メタデータ） (2025-12-18T18:40:58Z)
• Fast Adaptation with Behavioral Foundation Models [82.34700481726951]
  教師なしゼロショット強化学習は、行動基礎モデルの事前学習のための強力なパラダイムとして登場した。 有望な結果にもかかわらず、ゼロショットポリシーは、教師なしのトレーニングプロセスによって引き起こされるエラーにより、しばしば準最適である。 本稿では,事前訓練されたBFMの低次元タスク埋め込み空間を探索し,ゼロショットポリシーの性能を急速に向上させる高速適応手法を提案する。
  論文  参考訳（メタデータ） (2025-04-10T16:14:17Z)
• Sculpting Subspaces: Constrained Full Fine-Tuning in LLMs for Continual Learning [19.27175827358111]
  大規模言語モデル(LLM)における継続的な学習は破滅的な忘れがちである。 適応特異値分解(SVD)を利用した連続的完全微調整手法を提案する。 我々は,Encoder-decoder (T5-Large) モデルとdecoder-only (LLaMA-2 7B) モデルの両方を用いて,標準連続学習ベンチマークを広範囲に評価した。
  論文  参考訳（メタデータ） (2025-04-09T17:59:42Z)
• Fresh-CL: Feature Realignment through Experts on Hypersphere in Continual Learning [3.708456605408296]
  連続学習(Fresh-CL)におけるハイパーSpHereのエキスパートによる特徴認識手法を提案する。 本研究では,ETFの動的拡張を専門家の混合により提案し,様々な部分空間への適応射影を可能とし,特徴表現を向上する。 11のデータセットの実験では、最強のベースラインに比べて精度が2%向上した。
  論文  参考訳（メタデータ） (2025-01-04T05:20:53Z)
• Temporal-Difference Variational Continual Learning [77.92320830700797]
  複数の先行推定の正則化効果を統合する新たな学習目標を提案する。 提案手法は, 変分CL法より優れたカタストロフィックフォーミングを効果的に緩和する。
  論文  参考訳（メタデータ） (2024-10-10T10:58:41Z)
• LW2G: Learning Whether to Grow for Prompt-based Continual Learning [55.552510632228326]
  最近のPromptベースの連続学習は、事前訓練されたモデルで顕著な性能を達成した。 これらのアプローチは、学習中に新しいプロンプトセットを追加してプロンプトプールを拡張し、推論中に正しいセットを選択する。 従来,PCLの性能向上に課題を呈する課題として,タスク指向のプロンプトセットの個別化と選択精度の低さが指摘されてきた。
  論文  参考訳（メタデータ） (2024-09-27T15:55:13Z)
• Towards Robust Continual Learning with Bayesian Adaptive Moment Regularization [51.34904967046097]
  継続的な学習は、モデルが以前に学習した情報を忘れてしまう破滅的な忘れ込みの課題を克服しようとする。 本稿では,パラメータ成長の制約を緩和し,破滅的な忘れを減らし,新しい事前手法を提案する。 以上の結果から, BAdamは, 単頭クラスインクリメンタル実験に挑戦する先行手法に対して, 最先端の性能を達成できることが示唆された。
  論文  参考訳（メタデータ） (2023-09-15T17:10:51Z)
• Efficient Feature Transformations for Discriminative and Generative Continual Learning [98.10425163678082]
  継続的学習のための簡易タスク特化機能マップ変換戦略を提案する。 これらは新しいタスクを学習するための強力な柔軟性を提供し、ベースアーキテクチャに最小パラメータを追加することで実現される。 本手法の有効性と効率を,判別(cifar-100およびimagenet-1k)および生成的タスクの一連の実験を用いて実証する。
  論文  参考訳（メタデータ） (2021-03-25T01:48:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。