論文の概要: SUM: Unified Geometric Surgery on Spatio-Temporal Adaptation Vectors for Federated Class Incremental Learning

• arxiv url: http://arxiv.org/abs/2607.19384v1
• Date: Wed, 01 Jul 2026 11:46:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-27 00:46:13.145602
• Title: SUM: Unified Geometric Surgery on Spatio-Temporal Adaptation Vectors for Federated Class Incremental Learning
• Title（参考訳）: SUM:フェデレーションクラスインクリメンタルラーニングのための時空間適応ベクトルの統一的幾何学的手術
• Authors: Jaeik Kim, Jaeyoung Do,
• Abstract要約: フェデレーション・クラス・インクリメンタル・ラーニング(FCIL)は、フェデレーション・ラーニング(FL)と継続学習(CL)を組み合わせたものである。 既存のアプローチは通常、別々のメカニズムによる空間的および時間的干渉に対処する。 時空間適応ベクトル(SUM)の統一幾何手術を提案する。 Sumは、さまざまなビジョンと言語ベンチマークで以前のFCILメソッドよりも最大22%改善されている。
• 参考スコア（独自算出の注目度）: 6.328734263302503
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Real-world intelligent systems often require both distributed collaboration across data-isolated clients and continual adaptation to evolving tasks. This setting naturally gives rise to Federated Class Incremental Learning (FCIL), which combines Federated Learning (FL) and Continual Learning (CL). However, their combination introduces two coupled sources of interference: spatial interference from heterogeneous clients and temporal interference from sequential tasks, jointly leading to Spatial-Temporal Catastrophic Forgetting (ST-CF). Existing approaches typically address spatial and temporal interference with separate mechanisms, often incurring additional client-side computation or communication, while leaving directional interactions among updates during aggregation unregulated. In this paper, we reinterpret FCIL as a unified multi-task learning problem, where both client and task updates are represented as adaptation vectors in a shared parameter space. Based on this view, we propose Unified Geometric Surgery on Spatio-Temporal Adaptation Vectors (SUM), a purely server-side framework that performs geometric surgery on adaptation vectors during aggregation. Spatial SUM mitigates client-level interference within each round, while causal online temporal SUM removes cross-task interference over time without additional client-side computation, communication, or memory beyond standard federated training. Empirically, SUM achieves up to 22% improvement over prior FCIL methods across diverse vision and language benchmarks while remaining robust to unreliable clients and maintaining computational efficiency.
• Abstract（参考訳）: 現実世界のインテリジェントシステムは、データ分離されたクライアント間の分散コラボレーションと、進化するタスクへの継続的な適応の両方を必要とします。 この設定は、フェデレーション・クラス・インクリメンタル・ラーニング(FCIL)と、フェデレーション・ラーニング(FL)と継続的ラーニング(CL)を組み合わせたものである。 しかし、それらの組み合わせは、異種クライアントからの空間的干渉と、シーケンシャルタスクからの時間的干渉という2つの複合的な干渉源を導入し、共同で時空間カタストロフィック・フォーッティング(ST-CF)へと繋がる。 既存のアプローチは、通常、異なるメカニズムによる空間的および時間的干渉に対処し、しばしば追加のクライアント側の計算や通信を発生させる。 本稿では、FCILを統合マルチタスク学習問題として再解釈し、クライアントとタスクの更新を共用パラメータ空間の適応ベクトルとして表現する。 そこで本研究では,SUM(Unified Geometric Surgery on Spatio-Temporal Adaptation Vectors)を提案する。 空間的SUMは各ラウンドにおけるクライアントレベルの干渉を軽減し、因果的オンライン時間的SUMはクライアント側の計算、通信、メモリを標準のフェデレーショントレーニングを超えることなく、時間とともにクロスタスクの干渉を取り除く。 実証的には、SUMは様々なビジョンと言語ベンチマークでFCILの手法よりも最大22%改善されているが、信頼性の低いクライアントには頑健であり、計算効率は維持されている。

関連論文リスト

• Wireless Federated Multi-Task LLM Fine-Tuning via Sparse-and-Orthogonal LoRA [61.12136997430116]
  低ランク適応(LoRA)に基づく分散連合学習(DFL)により、マルチタスクデータセットを持つモバイルデバイスは、ローカルに更新されたパラメータを、無線接続を介して近隣デバイスのサブセットと交換することで、大きな言語モデル(LLM)を協調的に微調整することができる。 不均一データセットに微調整されたパラメータを直接集約すると、DFLライフサイクルの3つの主要な問題が発生する: (i) 微調整プロセス中に忘れる破滅的な知識、(ii) データの異種性に起因する更新方向の矛盾に起因する。
  論文  参考訳（メタデータ） (2026-02-24T02:45:32Z)
• Decentralized Dynamic Cooperation of Personalized Models for Federated Continual Learning [50.56947843548702]
  フェデレーション型連続学習のための分散動的協調フレームワークを提案する。 顧客は、新しい知識の獲得と事前学習の維持のバランスをとるために、動的な協調学習連合を確立する。 また、協調的・動的平衡を達成するために、マージブロックアルゴリズムと動的協調的進化アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-09-28T06:53:23Z)
• CollaPipe: Adaptive Segment-Optimized Pipeline Parallelism for Collaborative LLM Training in Heterogeneous Edge Networks [57.95170323315603]
  CollaPipeは、コラボレーティブパイプライン並列性とフェデレーションアグリゲーションを統合し、自己進化型ネットワークをサポートする分散学習フレームワークである。 CollaPipeでは、エンコーダ部分は可変サイズのセグメントに適応的に分割され、パイプライン並列トレーニングのためにモバイルデバイスにデプロイされ、デコーダは生成タスクを処理するためにエッジサーバにデプロイされる。 トレーニング効率を向上させるために,モデルセグメント,マイクロバッチ,帯域幅,送信電力を適応的に割り当てる共同最適化問題を定式化する。
  論文  参考訳（メタデータ） (2025-09-24T07:54:01Z)
• STSA: Federated Class-Incremental Learning via Spatial-Temporal Statistics Aggregation [64.48462746540156]
  Federated Class-Incremental Learning (FCIL)は、分散データからクラスインクリメンタルラーニングを可能にする。 本稿では,空間的(クライアント間)と時間的(ステージ間)の両方に特徴統計を集約する新しい手法を提案する。 本手法は, 性能, 柔軟性, 通信効率の両面で, 最先端のFCIL法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2025-06-02T05:14:57Z)
• PeFAD: A Parameter-Efficient Federated Framework for Time Series Anomaly Detection [51.20479454379662]
  私たちはaを提案します。 フェデレートされた異常検出フレームワークであるPeFADは、プライバシーの懸念が高まっている。 我々は、4つの実際のデータセットに対して広範な評価を行い、PeFADは既存の最先端ベースラインを最大28.74%上回っている。
  論文  参考訳（メタデータ） (2024-06-04T13:51:08Z)
• TurboSVM-FL: Boosting Federated Learning through SVM Aggregation for Lazy Clients [40.687124234279274]
  TurboSVM-FLは、クライアント側で追加の計算負荷を発生させることのない、新しい統合集約戦略である。 我々は、FEMNIST、CelebA、シェークスピアを含む複数のデータセット上でTurboSVM-FLを評価する。
  論文  参考訳（メタデータ） (2024-01-22T14:59:11Z)
• Distributed Adaptive Learning Under Communication Constraints [54.22472738551687]
  本研究では,コミュニケーション制約下での運用を目的とした適応型分散学習戦略について検討する。 我々は,ストリーミングデータの連続的な観察から,オンライン最適化問題を解決しなければならないエージェントのネットワークを考える。
  論文  参考訳（メタデータ） (2021-12-03T19:23:48Z)
• Byzantine-robust Federated Learning through Spatial-temporal Analysis of Local Model Updates [6.758334200305236]
  フェデレートラーニング(FL)は、複数の分散クライアント(モバイルデバイスなど)が、クライアントにローカルにトレーニングデータを保持しながら、協調的に集中的なモデルをトレーニングすることを可能にする。 本稿では,これらの障害と攻撃を空間的・時間的観点から緩和することを提案する。 具体的には、パラメータ空間におけるそれらの幾何学的性質を活用することにより、不正な更新を検出し、排除するためにクラスタリングに基づく手法を用いる。
  論文  参考訳（メタデータ） (2021-07-03T18:48:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。