論文の概要: When Generator Replay Degrades: Projected Rehearsal Orchestration for Heterogeneous Federated Class-Incremental Learning

• arxiv url: http://arxiv.org/abs/2606.15695v1
• Date: Sun, 14 Jun 2026 09:17:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 16:21:33.799142
• Title: When Generator Replay Degrades: Projected Rehearsal Orchestration for Heterogeneous Federated Class-Incremental Learning
• Title（参考訳）: ジェネレータのリプレイが低下する時:不均一なフェデレーションクラスインクリメンタルラーニングのためのリハーサル編成の計画
• Abstract要約: フェデレートされたクラスインクリメンタルラーニング(FCIL)は、クライアントが異なるラベルサブセットを観察し、異なる段階のタスクを進行させ、同じセマンティックな概念に対する不均一な監督を提供すると、難しくなる。 既存のFCIL法はしばしば入力空間合成によって古い知識を保存するが、不均一なタスクストリームの下では脆弱である。 本稿では、合成入力リプレイを投影されたリハーサルオーケストレーションに置き換えるフレームワークであるPropを提案する。
• 参考スコア（独自算出の注目度）: 14.035822324042663
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated class-incremental learning (FCIL) becomes substantially harder when clients observe different label subsets, progress through tasks at different stages, and provide uneven supervision for the same semantic concepts. Existing FCIL methods often preserve old knowledge through input-space synthesis, but they can be fragile under heterogeneous task streams and difficult to transfer across modalities. To alleviate such issues, we propose PRO, a framework that replaces synthetic input replay with projected rehearsal orchestration. To remove external pretraining, we evaluate all methods under the same warmup. After this, PRO maintains compact class-level projected memories on the server and allows clients perform balanced pseudo multi-task training over current examples and old projected memories. To handle stronger representation drift, we further introduce PRO-MAX, which augments PRO with neighborhood-weighted memory alignment while preserving the same server-light principle that the server only aggregates model updates and memory statistics. Across image, text, and graph benchmarks, PRO and PRO-MAX improve retention and final utility under heterogeneous streams while remaining competitive in homogeneous FCIL. Even when baselines are given expanded replay budgets, they degrade under supervision imbalance and stage misalignment, indicating that replay quantity alone does not resolve replay-quality failures. Additional weak-task diagnostics further show that larger replay mismatch is associated with larger downstream degradation, while our method keeps projected memories better aligned with the evolving representation.
• Abstract（参考訳）: フェデレートされたクラスインクリメンタルラーニング(FCIL)は、クライアントが異なるラベルサブセットを観察し、異なる段階のタスクを進行させ、同じセマンティックな概念に対する不均一な監視を提供すると、著しく困難になる。 既存のFCIL法はしばしば入力空間合成によって古い知識を保存するが、不均一なタスクストリームの下では脆弱であり、モダリティ間での移動が困難である。 このような問題を緩和するために、合成入力リプレイを投影されたリハーサルオーケストレーションに置き換えるフレームワーク PRO を提案する。 また,外的事前訓練を除去するために,同じ暖房条件下でのすべての方法を評価する。 その後、Properはサーバ上でコンパクトなクラスレベルのプロジェクテッドメモリを維持し、クライアントが現在の例や古いプロジェクテッドメモリよりもバランスの取れた擬似マルチタスクトレーニングを実行できるようにする。 Pro-MAXは、サーバがモデル更新とメモリ統計のみを集約するのと同じサーバライト原理を保ちながら、近隣のメモリアライメントでPropを増強する。 画像、テキスト、グラフベンチマーク全体にわたって、PROとPRO-MAXは、均一なFCILにおいて競争力を維持しながら、不均一なストリーム下での保持と最終的なユーティリティを改善した。 ベースラインが拡張されたリプレイ予算が与えられたとしても、彼らは監督の不均衡とステージの調整の下で劣化し、リプレイ量だけでリプレイ品質の失敗は解決しないことを示す。 追加の弱いタスク診断では、より大きなリプレイミスマッチが下流の劣化に結びついていることが示され、一方、我々の手法では、予測された記憶は進化する表現とよく一致している。

関連論文リスト

• Unsupervised Continual Learning with Growing Self-Organizing Maps and Synthetic Replay [47.020758735910306]
  本研究では,クラス増分学習のための自己組織化マップ(GSOM)とエンコーダデコーダモデルに基づく生成連続学習フレームワークを提案する。 提案手法により,分布統計メモリを用いた非定型再生が可能となり,生データを格納する必要がなくなる。 複数のベンチマークの結果から,提案手法は教師付きメモリベース手法であっても性能の競争力を発揮することが示された。
  論文  参考訳（メタデータ） (2026-08-27T19:48:44Z)
• When to Review: Spaced Repetition for Continual Pre-Training of Language Models [1.0262304700896199]
  既存のリプレイ手法は、しばしばグローバルな古い/新しい混合物とサンプルを均一に選択する。 トレーニングループは、リプレイする履歴だけでなく、各ステップでどの例を返すかを決定する必要があります。 認知科学に触発された連続学習フレームワークである空間反復訓練(Spaced Repetition Training, SRT)を導入し, SuperMemo-2 (SM-2) アルゴリズムを用いてサンプルリハーサルをスケジュールする。
  論文  参考訳（メタデータ） (2026-08-18T08:51:47Z)
• Generation as Auxiliary Supervision: Enhancing Visual Understanding at Zero Inference Overhead via Decoupled Embedding Prediction [11.257989394325671]
  生成誘導学習フレームワークは、視覚生成を表現学習の補助的指導として再解釈する。 ガスは集合的マルチモーダル理解を改善し、その最も確実な利得は知覚と空間的理解である。
  論文  参考訳（メタデータ） (2026-08-12T16:03:31Z)
• Rethinking Memory as Continuously Evolving Connectivity [63.58181883607843]
  既存のメモリ拡張LDMエージェントは、メモリを事前定義された表現と固定された検索パイプラインを備えた静的リポジトリとして扱う。 メモリをヘテロジニアスなグラフとしてモデル化し,そのトポロジを3段階にわたって段階的に洗練する,コネクティビティ進化型メモリフレームワークであるFluxMemを提案する。 LoCoMo、Mind2Web、GAIAなど、根本的に異なる3つのベンチマークにおいて、FluxMemは一貫した最先端のパフォーマンスを実現し、複雑なエージェント環境において強力な適応と一般化を示す。
  論文  参考訳（メタデータ） (2026-05-27T17:35:34Z)
• Next-Acceleration-Scale Prediction for Autoregressive MRI Reconstruction [52.32112533846212]
  MRI再建は本質的に不完全な逆問題である。 この制限は、再構成を離散的なマルチスケールの潜在空間に移動させ、自己回帰的次加速スケールの予測として機能させることによって解決する。 提案手法は,過度のアンサンプ下での多種多様なサンプリングパターンの再構成性能の向上を図っている。
  論文  参考訳（メタデータ） (2026-05-19T04:40:50Z)
• RAVEN: Real-time Autoregressive Video Extrapolation with Consistency-model GRPO [53.38929612273108]
  因果自己回帰ビデオ拡散モデルは、以前生成されたコンテンツから将来のチャンクを外挿することでリアルタイムストリーミング生成をサポートする。 本稿では,リアルタイム自動回帰ビデオ補間ネットワーク(RAVEN)を紹介した。これは,各自己ロールアウトを,クリーンな歴史的エンドポイントのインターリーブシーケンスに再パッケージするトレーニングタイムテストフレームワークである。
  論文  参考訳（メタデータ） (2026-05-14T17:59:30Z)
• MSSR: Memory-Aware Adaptive Replay for Continual LLM Fine-Tuning [36.119948355819]
  本稿では,サンプルレベルの記憶強度を推定し,アダプティブ間隔でリハーサルをスケジュールし,破滅的な忘れを緩和するエクスペリエンス・リプレイ・フレームワークを提案する。 3つのバックボーンモデルと11のシーケンシャルタスクにわたる大規模な実験は、MSSRが一貫して最先端のリプレイベースラインを上回っていることを示している。
  論文  参考訳（メタデータ） (2026-03-10T16:49:44Z)
• Beyond Retention: Orchestrating Structural Safety and Plasticity in Continual Learning for LLMs [2.5202137607634407]
  経験リプレイ(ER)は破滅的忘れに対する標準的な対策である。 ERはコード生成のような脆弱で構造化されたドメインに対して負の転送を引き起こす。 我々は,確立した知識構造に対する数学的根拠を持つ「安全保証」として,オルソゴン部分空間ウェイクアップ(OSW)を提案する。
  論文  参考訳（メタデータ） (2026-01-26T08:28:02Z)
• Rethinking Video Tokenization: A Conditioned Diffusion-based Approach [58.164354605550194]
  新しいトークン化ツールであるDiffusion Conditioned-based Gene Tokenizerは、GANベースのデコーダを条件付き拡散モデルで置き換える。 再建に基本的MSE拡散損失とKL項,LPIPSを併用した訓練を行った。 CDTのスケールダウン版(3$times inference speedup)でさえ、トップベースラインと互換性がある。
  論文  参考訳（メタデータ） (2025-03-05T17:59:19Z)
• SHERL: Synthesizing High Accuracy and Efficient Memory for Resource-Limited Transfer Learning [63.93193829913252]
  本稿では,リソース制限シナリオに対するSHERLと呼ばれる革新的なMETL戦略を提案する。 初期経路では、中間出力は反冗長動作によって統合される。 遅延ルートでは、最小限の遅延事前トレーニングされたレイヤを利用することで、メモリオーバーヘッドのピーク需要を軽減できる。
  論文  参考訳（メタデータ） (2024-07-10T10:22:35Z)
• DiffusePast: Diffusion-based Generative Replay for Class Incremental Semantic Segmentation [73.54038780856554]
  クラスインクリメンタルセマンティック(CISS)は、新たに追加されたクラスを漸進的に学習することで、従来のセグメンテーションタスクを拡張する。 これは、事前訓練されたGANから生成された古いクラスサンプルを再生するものである。 そこで我々はDiffusePastを提案する。DiffusePastは拡散型生成再生モジュールを特徴とする新しいフレームワークで、異なる命令でより信頼性の高いマスクで意味論的に正確な画像を生成する。
  論文  参考訳（メタデータ） (2023-08-02T13:13:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。