論文の概要: CALM: Class-wise Agreement and Label-gated Disagreement Modulation for Decentralized Federated Learning
- arxiv url: http://arxiv.org/abs/2609.05884v1
- Date: Sat, 05 Sep 2026 05:13:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.161482
- Title: CALM: Class-wise Agreement and Label-gated Disagreement Modulation for Decentralized Federated Learning
- Title(参考訳): CALM:分散学習のためのクラスワイド・アグリーメントとラベルゲート・アグリーメント・アグリーメント・アグリーメント・アグリーメント
- Abstract要約: CALMは、あらゆる難しい決定をスムーズな信頼ゲートに置き換える。
均一で硬ろ過された蒸留よりも一貫して優れており、競合する異種FL法に適合するか超えている。
- 参考スコア(独自算出の注目度): 1.1617094867403568
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Conventional federated learning relies on parameter averaging, which forces clients to be doubly homogeneous: all must run an identical architecture, and accuracy degrades when local data are non-IID. Decentralized federated distillation sidesteps both: each client runs its peers' model snapshots as teachers on its own local data and distills from their soft predictions, with no server, no public data, and no shared architecture. Under severe non-IID skew, however, the trustworthiness of the aggregated teacher target is a matter of degree, yet existing pipelines make hard, all-or-nothing decisions: outlier teachers are discarded by threshold, and whatever target survives is trusted in full. We propose CALM, which replaces every hard decision with a smooth trust gate at three levels: per class, teachers are weighted by agreement with the peer consensus; per sample, distillation is scaled by the teachers' divergence from that target; and a label gate scales it by how strongly the target supports the sample's true label. None of this adds communication or auxiliary data. On CIFAR-10, SVHN, OrganAMNIST, and Google Speech Commands with heterogeneous client architectures under Dirichlet label skew, CALM consistently outperforms uniform and hard-filtered distillation and matches or exceeds competing heterogeneous-FL methods.
- Abstract(参考訳): 従来のフェデレーション学習はパラメータ平均化に依存しており、クライアントは2倍均一でなければならない。
各クライアントは、自身のローカルデータで教師としてピアのモデルスナップショットを実行し、サーバなし、パブリックデータなし、共有アーキテクチャなしのソフトな予測から蒸留を行う。
しかし、厳密な非IIDスキューの下では、集計された教師の信頼性はある程度の問題であるが、既存のパイプラインは困難で、全てまたは何も決定しない。
そこで本研究では,各クラスにおいて,教師が相互合意の一致によって重み付けされていること,サンプル毎に,その目標からの分岐によって蒸留がスケールされること,ターゲットが真のラベルをどれだけ強く支持しているか,という3つのレベルにおいて,すべての難しい判断をスムーズな信頼ゲートに置き換えるCALMを提案する。
いずれも通信や補助的なデータを追加していません。
CIFAR-10、SVHN、OrganAMNIST、およびGoogle Speech Commandsでは、Dirichlet label skewの下で不均一なクライアントアーキテクチャで、CALMは一貫して均一でハードフィルタの蒸留より優れており、競合する異種FL法よりも優れている。
関連論文リスト
- CRAD: Class-wise Reliability-Aware Distillation for Decentralized Heterogeneous Federated Learning [3.2847672479922783]
フェデレートラーニングのためのクラスワイド・アウェア蒸留(CRAD)を提案する。
CRADはクラス毎の信頼性(精度、逆分散)で各教師を重み付けする
世界的精度で競合する手法を一貫して上回る。
論文 参考訳(メタデータ) (2026-08-31T22:36:30Z) - FedCC: Towards Addressing Label Distribution Skews in Distillation-Based Federated Learning [6.693752118202639]
Federated Learning (FL)は、分散クライアントが生データを共有せずに、協力的にモデルをトレーニングすることを可能にする。
蒸留ベースのFLでは、各クライアントはそのローカルモデルをラベルなしのパブリックデータセットに適用し、サーバにのみ予測結果を共有する。
本稿では,クライアントの誤分類を緩和する簡易かつ効果的なアルゴリズムであるFedCCを提案する。
論文 参考訳(メタデータ) (2026-08-24T09:34:26Z) - Any-OPD: Heterogeneous On-Policy Distillation for Flow-Matching Models via Representation-Space Bridging [13.653084100002737]
教師が生徒自身が生成するサンプルを補正するオンライン蒸留は、2つのモデルが同じ言語を話すことを前提にしている。
我々は、Any-OPDについて、任意対の潜流整合発生器間のオンライン蒸留のための最初のフレームワークについて述べる。
論文 参考訳(メタデータ) (2026-08-04T08:23:57Z) - FedQHD: Closed-Form Function-Space Federated Reinforcement Learning [18.086374545576792]
統合強化学習は、分散エージェントが生の軌跡を交換することなく、政策や価値見積を協調的に改善することを可能にする。
線形読み出しを用いた超次元(ランダム機能)状態エンコーダを用いたQ-ラーニング手法であるFedQHDを提案する。
このギャップは、サブスペースのミスアライメント、アンカーセット条件付け、正規化バイアスに分解される。
論文 参考訳(メタデータ) (2026-05-27T18:59:40Z) - FedFusion: Federated Learning with Diversity- and Cluster-Aware Encoders for Robust Adaptation under Label Scarcity [33.17279604575767]
FedFusionは、ドメイン適応とフラゲラベリングを統合する、フェデレートされたトランスファーラーニングフレームワークである。
遅延教師クライアントは、信頼度フィルタリングされた擬似ラベルとドメイン適応転送を通じて学習者クライアントをガイドする。
FedFusionは、常に最先端のベースライン、正確性、堅牢性、公正性を上回っている。
論文 参考訳(メタデータ) (2025-09-23T16:46:06Z) - Federated Learning under Partially Class-Disjoint Data via Manifold Reshaping [64.58402571292723]
我々はFedMRと呼ばれる多様体再構成手法を提案し、局所訓練の特徴空間を校正する。
我々は、FedMRがはるかに高い精度と通信効率を達成することを示すために、さまざまなデータセットに関する広範な実験を行います。
論文 参考訳(メタデータ) (2024-05-29T10:56:13Z) - Exploring Vacant Classes in Label-Skewed Federated Learning [113.65301899666645]
本稿では,ラベルスキュード・フェデレーション学習の新しいアプローチであるFedVLSを紹介する。
空のクラス蒸留とロジット抑制を同時に統合する。
FedVLSの有効性を検証する実験は、従来のSOTA(State-of-the-art)法と比較して優れた性能を示す。
論文 参考訳(メタデータ) (2024-01-04T16:06:31Z) - Appeal: Allow Mislabeled Samples the Chance to be Rectified in Partial Label Learning [55.4510979153023]
部分ラベル学習(PLL)では、各インスタンスは候補ラベルのセットに関連付けられ、そのうち1つだけが接地真実である。
誤記されたサンプルの「アペアル」を支援するため,最初の魅力に基づくフレームワークを提案する。
論文 参考訳(メタデータ) (2023-12-18T09:09:52Z) - JointMatch: A Unified Approach for Diverse and Collaborative
Pseudo-Labeling to Semi-Supervised Text Classification [65.268245109828]
半教師付きテキスト分類(SSTC)は、ラベルのないデータを活用する能力によって注目を集めている。
擬似ラベルに基づく既存のアプローチは、擬似ラベルバイアスと誤り蓄積の問題に悩まされる。
我々は、最近の半教師付き学習からアイデアを統一することでこれらの課題に対処する、SSTCの総合的なアプローチであるJointMatchを提案する。
論文 参考訳(メタデータ) (2023-10-23T05:43:35Z) - Rethinking Client Drift in Federated Learning: A Logit Perspective [125.35844582366441]
フェデレートラーニング(FL)は、複数のクライアントが分散した方法で協調的に学習し、プライバシ保護を可能にする。
その結果,局所モデルとグローバルモデルとのロジット差は,モデルが継続的に更新されるにつれて増大することがわかった。
我々はFedCSDと呼ばれる新しいアルゴリズムを提案する。FedCSDは、ローカルモデルとグローバルモデルを調整するためのフェデレーションフレームワークにおけるクラスプロトタイプの類似度蒸留である。
論文 参考訳(メタデータ) (2023-08-20T04:41:01Z) - Divide and Contrast: Source-free Domain Adaptation via Adaptive
Contrastive Learning [122.62311703151215]
Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。
DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。
さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
論文 参考訳(メタデータ) (2022-11-12T09:21:49Z) - Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。
SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
論文 参考訳(メタデータ) (2021-12-12T06:11:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。