論文の概要: CRIP: Channel Level Representation Injection for Personalized One-Shot Federated Learning
- arxiv url: http://arxiv.org/abs/2608.02222v1
- Date: Mon, 03 Aug 2026 13:41:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.581464
- Title: CRIP: Channel Level Representation Injection for Personalized One-Shot Federated Learning
- Title(参考訳): CRIP:Personalized One-Shot Federated Learningのためのチャネルレベル表現注入
- Abstract要約: ワンショットフェデレーション学習(OSFL)は、1ラウンドのコミュニケーションだけで、有望なコラボレーティブモデル学習フレームワークとして登場した。
チャネルレベルの特徴アライメントを通じて表現空間で動作するパーソナライズされたOSFLフレームワークであるCRIPを提案する。
- 参考スコア(独自算出の注目度): 10.225304989678202
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: One-shot federated learning (OSFL) has emerged as a promising collaborative model learning framework with only a single round of communication, offering significant advantages in communication efficiency and privacy preservation. However, OSFL often faces inherent limitations under severe domain heterogeneity across clients due to the lack of iterative knowledge exchange. Most existing OSFL methods require an auxiliary public dataset for knowledge distillation or leverage statistical information for parameter-level aggregation, overlooking feature shift caused by domain heterogeneity. To address these challenges, we propose CRIP, a personalized OSFL framework that operates in the representation space via channel-level feature alignment. To achieve this, each client uploads its feature extractor to the server, which broadcasts all extractors back to every client. Since not all source clients share compatible feature distributions with the target client, indiscriminate fusion of cross-client features would introduce domain-specific noise. Therefore, CRIP effectively measures the channel-wise representational similarity between the target client and each source client on a small local mini-batch, and selectively fuses only the most compatible features. Extensive experiments on domain-heterogeneous benchmarks such as DomainNet, PACS, and Office-Home demonstrate that CRIP consistently outperforms local models and state-of-the-art baselines, validating the effectiveness of representation-space personalization under extreme domain heterogeneity.
- Abstract(参考訳): ワンショット・フェデレーション・ラーニング(OSFL)は,コミュニケーションの効率性とプライバシ保護において重要なメリットを提供する,単一のラウンドのコミュニケーションだけで,有望なコラボレーティブモデル学習フレームワークとして登場した。
しかし、OSFLはしばしば、反復的な知識交換の欠如により、クライアント間のドメインの不均一性の下で固有の制限に直面している。
既存のOSFL法の多くは、知識蒸留のための補助的なパブリックデータセットや、パラメータレベルの集約のための統計情報を必要とし、ドメインの不均一性に起因する特徴シフトを見越す。
これらの課題に対処するために、チャネルレベルの機能アライメントを通じて表現空間で動作するパーソナライズされたOSFLフレームワークであるCRIPを提案する。
これを実現するために、各クライアントは機能抽出器をサーバにアップロードし、すべての抽出器を各クライアントにブロードキャストする。
すべてのソースクライアントがターゲットクライアントと互換性のある機能ディストリビューションを共有するわけではないので、クロスクライアント機能の無差別な融合はドメイン固有のノイズをもたらすだろう。
そのため、CRIPは、小さなローカルなミニバッチ上で、ターゲットクライアントと各ソースクライアントのチャネルワイド表現類似性を効果的に測定し、最も互換性のある機能のみを選択的にフューズする。
DomainNet、PACS、Office-Homeといったドメイン不均一なベンチマークに関する大規模な実験は、CRIPが局所モデルと最先端のベースラインを一貫して上回り、極端なドメインの不均一性の下で表現空間のパーソナライズの有効性を検証していることを示している。
関連論文リスト
- Beyond Parameter Space: NTK-Guided Personalized Aggregation for Robust Federated Learning [1.3924112497839525]
フェデレーション学習は、データをローカルに保ちながら、分散クライアント間で協調的なモデルトレーニングを可能にする。
中心的な課題は、各クライアントのターゲットドメインに関して、どのクライアントのアップデートがアグリゲーションに有効かを決定することである。
本稿では,関数空間における更新選択を行うフェデレート学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-08-12T14:29:43Z) - Federated Client Selection under Partial Visibility: A POMDP Approach with Spatio-Temporal Attention [28.071372082273403]
フェデレーション学習は、データの不均一性に起因するパフォーマンス劣化を軽減するために、効果的なクライアント選択に依存する。
大規模またはエッジベースのデプロイメントでは、通信、モビリティ、可用性の制約のため、サーバはクライアントのサブセットにしかアクセスできない。
我々は,部分可視性のあるマルコフ決定プロセス (POMDP) としてフェデレートされたクライアント選択を定式化し,空間的注意に基づく強化学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-12T08:28:25Z) - Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
VLM(Vision-Language Models)は、医療や金融といったプライバシに敏感な分野において大きな可能性を秘めている。
ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを組み合わせた協調アライメントフレームワークであるMoRを提案する。
MoRは、一般化とクロスクライアント適応性において、フェデレートされたアライメントベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-05-05T07:02:50Z) - One-Shot Hierarchical Federated Clustering [51.490181220883905]
本稿では,効率的な階層型クラスタリングフレームワークを提案する。
クライアント-エンドの分散探索とサーバ-エンドの分散アグリゲーションを実行する。
クライアント間の複雑なクラスタ分布を効率的に探索できることが判明した。
論文 参考訳(メタデータ) (2026-01-10T02:58:33Z) - Federated Multi-Task Clustering [44.73672172790804]
本稿では,Federated Multi-Task Clustering(FMTC)という新しいフレームワークを提案する。
クライアント側パーソナライズされたクラスタリングモジュールとサーバ側テンソル相関モジュールの2つの主要コンポーネントで構成されている。
乗算器の交互方向法に基づく,効率的なプライバシ保護分散アルゴリズムを導出する。
論文 参考訳(メタデータ) (2025-12-28T12:02:32Z) - Towards Federated Clustering: A Client-wise Private Graph Aggregation Framework [57.04850867402913]
フェデレーションクラスタリングは、分散化されたラベルのないデータからパターンを抽出する課題に対処する。
本研究では,プライバシ保護のための知識共有媒体として,局所構造グラフを革新的に活用する新しいアルゴリズムSPP-FGCを提案する。
我々のフレームワークは最先端のパフォーマンスを実現し、認証可能なプライバシー保証を維持しつつ、フェデレーションベースラインよりも最大10%(NMI)のクラスタリング精度を向上させる。
論文 参考訳(メタデータ) (2025-11-14T03:05:22Z) - Client-Centric Federated Adaptive Optimization [78.30827455292827]
Federated Learning(FL)は、クライアントが独自のデータをプライベートに保ちながら、協調的にモデルをトレーニングする分散学習パラダイムである。
本稿では,新しいフェデレーション最適化手法のクラスであるフェデレーション中心適応最適化を提案する。
論文 参考訳(メタデータ) (2025-01-17T04:00:50Z) - FedCCRL: Federated Domain Generalization with Cross-Client Representation Learning [4.703379311088474]
ドメイン一般化(DG)は、目に見えないドメインに効果的に一般化できるモデルを訓練することを目的としている。
クライアントがデータを直接共有せずに協調的にモデルをトレーニングするフェデレートラーニング(FL)では、既存のDGアルゴリズムはFL設定に直接適用できない。
プライバシを保ちながらモデルの一般化能力を大幅に向上させる軽量なフェデレーションドメイン一般化手法であるFedCCRLを提案する。
論文 参考訳(メタデータ) (2024-10-15T04:44:21Z) - Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。
本稿では,FedInsという新しいFLアルゴリズムを提案する。
我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-08-11T09:58:47Z) - Efficient Distribution Similarity Identification in Clustered Federated
Learning via Principal Angles Between Client Data Subspaces [59.33965805898736]
クラスタ学習は、クライアントをクラスタにグループ化することで、有望な結果をもたらすことが示されている。
既存のFLアルゴリズムは基本的に、クライアントを同様のディストリビューションでグループ化しようとしている。
以前のFLアルゴリズムは、訓練中に間接的に類似性を試みていた。
論文 参考訳(メタデータ) (2022-09-21T17:37:54Z) - FRAug: Tackling Federated Learning with Non-IID Features via
Representation Augmentation [31.12851987342467]
Federated Learning(FL)は、複数のクライアントが協調してディープラーニングモデルをトレーニングする分散学習パラダイムである。
本稿では,FRAug(Federated Representation Augmentation)を提案する。
当社のアプローチでは,通常は小さなクライアントデータセットを増大させるために,埋め込み空間にクライアント固有の合成サンプルを生成する。
論文 参考訳(メタデータ) (2022-05-30T07:43:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。