論文の概要: Routed Continual Learning
- arxiv url: http://arxiv.org/abs/2610.38796v1
- Date: Wed, 28 Oct 2026 20:03:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-31 05:25:12.410812
- Title: Routed Continual Learning
- Title(参考訳): 経路連続学習
- Abstract要約: 我々は、経験を分割し維持する方法を決定するアーキテクチャであるRouted Continual Learning (Routed CL)を紹介する。
CL-Benchタスク6つのタスクから301のインスタンスをインターリーブし,97のバンキングインスタンスを$3-Benchから提供するヘテロジニアスストリーム上でのアーキテクチャの評価を行った。
- 参考スコア(独自算出の注目度): 0.9573264242407453
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Agents deployed at scale repeatedly encounter related problems, and it is natural to let them learn from each other's experience rather than starting over each time. Unfortunately, there is no single way to retain that experience that works well across settings, and no way to know in advance which future problems a given experience will help with. A global history preserves every detail but becomes expensive and mixes together experience that may not belong together; compressing that history into one fixed representation limits the cost but can throw away valuable details. We introduce Routed Continual Learning (Routed CL), an architecture that decides how to partition and retain experience. Past trajectories are grouped into clusters, each of which maintains state using one memory system from a fixed library. Before each run, an LLM-based router either reuses an existing cluster or creates a new one, basing its decision on the problem statement, memory system descriptions, and cluster summaries. We also introduce Context Memory Adapter, which mediates between the memory system and the agentic loop. We evaluate the architecture on a heterogeneous stream that interleaves 301 instances from the six CL-Bench tasks with 97 banking instances from $τ^3$-Bench. Across four language models and five matched rollouts, Routed Continual Learning raises normalized reward over a single global in-context learning (ICL) history by 15-30% of the maximum attainable normalized reward, achieves higher mean normalized reward than ICL-only clustering, and reduces estimated API cost by 65-72% relative to Global ICL. These results support approaching continual learning as a routing problem that chooses both a learning mechanism and a state cluster rather than committing to one representation globally.
- Abstract(参考訳): 大規模に展開されるエージェントは、関連する問題に何度も遭遇し、各時間から始めるのではなく、お互いの経験から学ぶことは自然なことです。
残念ながら、そのエクスペリエンスを設定によってうまく維持する方法はひとつもなく、特定のエクスペリエンスがどの将来の問題に役立つかを事前に知る方法もありません。
グローバルな歴史はあらゆる詳細を保存するが、高価になり、一緒に属さない経験を混ぜ合わせ、その歴史を1つの固定された表現に圧縮することはコストを制限するが、価値ある詳細を捨てることができる。
我々は、経験を分割し維持する方法を決定するアーキテクチャであるRouted Continual Learning (Routed CL)を紹介する。
過去のトラジェクトリはクラスタにグループ化され、それぞれが固定ライブラリから1つのメモリシステムを使用して状態を維持する。
各実行前に、LLMベースのルータは、既存のクラスタを再利用するか、あるいは新しいクラスタを生成し、問題ステートメント、メモリシステム記述、クラスタ要約に基づいて決定する。
また、メモリシステムとエージェントループを仲介するContext Memory Adapterを導入する。
6つのCL-Benchタスクから301のインスタンスをインターリーブし,9つのバンクインスタンスをτ^3$-Benchから取得した。
4つの言語モデルと5つのマッチしたロールアウトにおいて、Routed Continual Learningは、単一のグローバルインコンテキスト学習(ICL)履歴に対する正規化報酬を、到達可能な最大正規化報酬の15~30%増加させ、ICLのみのクラスタリングよりも平均化報酬を高くし、Global ICLと比較して推定APIコストを65~72%削減する。
これらの結果は、グローバルに1つの表現をコミットするのではなく、学習メカニズムと状態クラスタの両方を選択するルーティング問題として、継続的学習にアプローチすることを支援する。
関連論文リスト
- Unified Context Evolution for LLM Agents [19.55736346580243]
Unified Context Evolution (UCE) は、エージェントエクスペリエンスを進化するライブラリタイプEvolvable Context Units (ECUs) に外部化するフレームワークである。
UCEは経験を4つの補完型(メモリ、戦略、スキル)に分解する
スケジューリングモジュールは、ライブラリが最も弱いタイプに対して、各サイクルの生成予算を割り当てる。
論文 参考訳(メタデータ) (2026-06-01T14:25:29Z) - Slowing Down Forgetting in Continual Learning [20.57872238271025]
継続的学習(CL)における一般的な課題は、新しいタスクが学習された後に古いタスクのパフォーマンスが落ちることを忘れることである。
本稿では,ReCLと呼ばれる新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-11-11T12:19:28Z) - Hard Regularization to Prevent Deep Online Clustering Collapse without
Data Augmentation [65.268245109828]
オンラインディープクラスタリング(オンラインディープクラスタリング)とは、機能抽出ネットワークとクラスタリングモデルを組み合わせて、クラスタラベルを処理された各新しいデータポイントまたはバッチに割り当てることである。
オフラインメソッドよりも高速で汎用性が高いが、オンラインクラスタリングは、エンコーダがすべての入力を同じポイントにマッピングし、すべてを単一のクラスタに配置する、崩壊したソリューションに容易に到達することができる。
本稿では,データ拡張を必要としない手法を提案する。
論文 参考訳(メタデータ) (2023-03-29T08:23:26Z) - Towards Diverse Evaluation of Class Incremental Learning: A Representation Learning Perspective [67.45111837188685]
クラスインクリメンタル学習(CIL)アルゴリズムは、インクリメンタルに到着したデータから新しいオブジェクトクラスを継続的に学習することを目的としている。
表現学習における様々な評価プロトコルを用いて,CILアルゴリズムによって訓練されたニューラルネットワークモデルを実験的に解析する。
論文 参考訳(メタデータ) (2022-06-16T11:44:11Z) - Learning Rate Curriculum [75.98230528486401]
ラーニングレートカリキュラム(LeRaC)と呼ばれる新しいカリキュラム学習手法を提案する。
LeRaCは、ニューラルネットワークの各レイヤ毎に異なる学習率を使用して、最初のトレーニングエポックの間、データに依存しないカリキュラムを作成する。
Smoothing(CBS)によるCurriculum(Curriculum)との比較を行った。
論文 参考訳(メタデータ) (2022-05-18T18:57:36Z) - vCLIMB: A Novel Video Class Incremental Learning Benchmark [53.90485760679411]
本稿では,ビデオ連続学習ベンチマークvCLIMBを紹介する。
vCLIMBは、ビデオ連続学習における深層モデルの破滅的な忘れを解析するための標準化されたテストベッドである。
本稿では,メモリベース連続学習法に適用可能な時間的整合性正規化を提案する。
論文 参考訳(メタデータ) (2022-01-23T22:14:17Z) - An Efficient Framework for Clustered Federated Learning [26.24231986590374]
本稿では,ユーザがクラスタに分散するフェデレーション学習(FL)の問題に対処する。
反復フェデレーションクラスタリングアルゴリズム(IFCA)を提案する。
ニューラルネットワークのような非分割問題では,アルゴリズムが効率的であることを示す。
論文 参考訳(メタデータ) (2020-06-07T08:48:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。