論文の概要: Fed-ADE: Adaptive Learning Rate for Federated Post-adaptation under Distribution Shift
- arxiv url: http://arxiv.org/abs/2603.01040v1
- Date: Sun, 01 Mar 2026 10:38:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-03 19:50:56.475149
- Title: Fed-ADE: Adaptive Learning Rate for Federated Post-adaptation under Distribution Shift
- Title(参考訳): Fed-ADE: 流通シフト下におけるフェデレーション後適応のための適応的学習率
- Authors: Heewon Park, Mugon Joe, Miru Kim, Kyungjin Im, Minhae Kwon,
- Abstract要約: デプロイ後設定におけるフェデレーテッドラーニング(FL)は、地味なラベルにアクセスすることなく、異種クライアントをまたいだ非定常データストリームに適応する必要がある。
本稿では,分散ダイナミクスの軽量な推定器を利用する非教師付き適応フレームワークであるFed-ADEを提案する。
- 参考スコア(独自算出の注目度): 5.0727678479257685
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated learning (FL) in post-deployment settings must adapt to non-stationary data streams across heterogeneous clients without access to ground-truth labels. A major challenge is learning rate selection under client-specific, time-varying distribution shifts, where fixed learning rates often lead to underfitting or divergence. We propose Fed-ADE (Federated Adaptation with Distribution Shift Estimation), an unsupervised federated adaptation framework that leverages lightweight estimators of distribution dynamics. Specifically, Fed-ADE employs uncertainty dynamics estimation to capture changes in predictive uncertainty and representation dynamics estimation to detect covariate-level feature drift, combining them into a per-client, per-timestep adaptive learning rate. We provide theoretical analyses showing that our dynamics estimation approximates the underlying distribution shift and yields dynamic regret and convergence guarantees. Experiments on image and text benchmarks under diverse distribution shifts (label and covariate) demonstrate consistent improvements over strong baselines. These results highlight that distribution shift-aware adaptation enables effective and robust federated post-adaptation under real-world non-stationarity.
- Abstract(参考訳): デプロイ後設定におけるフェデレーテッドラーニング(FL)は、地味なラベルにアクセスすることなく、異種クライアントをまたいだ非定常データストリームに適応する必要がある。
大きな課題は、クライアント固有の時間変化の分散シフトの下での学習率の選択である。
本稿では,分散ダイナミクスの軽量な推定器を利用する非教師付き適応フレームワークであるFed-ADEを提案する。
特に、Fed-ADEでは、予測の不確実性の変化を捉えるために不確実性力学推定と表現力学推定を使用して、共変量レベルの特徴ドリフトを検出し、それらを1サイクルごとの適応学習率に組み合わせている。
我々は,我々の力学推定が基礎となる分布シフトを近似し,動的後悔と収束の保証をもたらすことを示す理論的解析を行った。
多様な分散シフト(ラベルと共変量)による画像とテキストのベンチマーク実験は、強いベースラインよりも一貫した改善を示している。
これらの結果から,分散シフト認識適応は実世界の非定常環境下での効果的で堅牢な連邦化後適応を実現することが示唆された。
関連論文リスト
- Fair and Explainable Credit-Scoring under Concept Drift: Adaptive Explanation Frameworks for Evolving Populations [0.0]
動的に進化する信用モデルにおいて,解釈可能性と公平性を再検討する適応的説明フレームワークを開発する。
その結果、適応的手法、特に再ベースラインと代理に基づく説明は、時間的安定性を著しく改善し、予測精度を低下させることなく、人口集団間で異なる影響を減少させることがわかった。
これらの知見は、データ駆動型信用システムにおいて、透明性、説明責任、倫理的信頼性を維持するための実践的なメカニズムとして適応的説明可能性を確立した。
論文 参考訳(メタデータ) (2025-11-05T19:14:43Z) - Uncertainty Awareness on Unsupervised Domain Adaptation for Time Series Data [49.36938105983916]
教師なし領域適応法は、ラベルのないテストデータに効果的に一般化しようとする。
本稿では,ドメイン間の一般化とロバスト性を改善するために,マルチスケールの特徴抽出と不確実性推定を導入することを提案する。
論文 参考訳(メタデータ) (2025-08-26T03:13:08Z) - Adapting to Fragmented and Evolving Data: A Fisher Information Perspective [0.0]
FADEは動的環境下での堅牢な学習のための軽量フレームワークである。
フィッシャー情報幾何学に固定されたシフトアウェアの正規化機構を採用している。
FADEは固定メモリでオンラインで動作し、ターゲットラベルにアクセスできない。
論文 参考訳(メタデータ) (2025-07-25T06:50:09Z) - TrustLoRA: Low-Rank Adaptation for Failure Detection under Out-of-distribution Data [62.22804234013273]
本稿では,共変量および意味的シフトの両条件下での拒絶による分類を統一し,促進する,単純な故障検出フレームワークを提案する。
キーとなる洞察は、障害固有の信頼性知識を低ランクアダプタで分離し、統合することにより、障害検出能力を効果的かつ柔軟に向上できるということです。
論文 参考訳(メタデータ) (2025-04-20T09:20:55Z) - Relaxed Contrastive Learning for Federated Learning [48.96253206661268]
本稿では,フェデレート学習におけるデータ不均一性の課題に対処する,新しいコントラスト学習フレームワークを提案する。
当社のフレームワークは,既存のフェデレート学習アプローチを,標準ベンチマークにおいて大きなマージンで上回ります。
論文 参考訳(メタデータ) (2024-01-10T04:55:24Z) - Conformal Prediction for Federated Uncertainty Quantification Under
Label Shift [57.54977668978613]
Federated Learning(FL)は、多くのクライアントが協力してモデルをトレーニングする機械学習フレームワークである。
我々は、量子回帰に基づく新しいコンフォメーション予測法を開発し、プライバシー制約を考慮した。
論文 参考訳(メタデータ) (2023-06-08T11:54:58Z) - Federated Conformal Predictors for Distributed Uncertainty
Quantification [83.50609351513886]
コンフォーマル予測は、機械学習において厳密な不確実性定量化を提供するための一般的なパラダイムとして現れつつある。
本稿では,共形予測を連邦学習環境に拡張する。
本稿では、FL設定に適した部分交換可能性の弱い概念を提案し、それをフェデレート・コンフォーマル予測フレームワークの開発に利用する。
論文 参考訳(メタデータ) (2023-05-27T19:57:27Z) - Variational Classification [51.2541371924591]
我々は,変分オートエンコーダの訓練に用いるエビデンスローバウンド(ELBO)に類似した,モデルの訓練を目的とした変分目的を導出する。
軟質マックス層への入力を潜伏変数のサンプルとして扱うことで, 抽象化された視点から, 潜在的な矛盾が明らかとなった。
我々は、標準ソフトマックス層に見られる暗黙の仮定の代わりに、選択された潜在分布を誘導する。
論文 参考訳(メタデータ) (2023-05-17T17:47:19Z) - FedAgg: Adaptive Federated Learning with Aggregated Gradients [1.5653612447564105]
我々はFedAggと呼ばれる適応型FEDerated Learningアルゴリズムを提案し、局所モデルパラメータと平均モデルパラメータのばらつきを緩和し、高速モデル収束率を得る。
IIDおよび非IIDデータセット下でのモデル性能の向上と収束速度の促進を目的として,本手法が既存のFL戦略よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-03-28T08:07:28Z) - Adaptive Federated Learning via New Entropy Approach [14.595709494370372]
Federated Learning (FL) は、分散機械学習フレームワークとして注目されている。
本稿では,不均一クライアント間のパラメータ偏差を軽減するために,entropy理論(FedEnt)に基づく適応型FEDerated Learningアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-03-27T07:57:04Z) - Accuracy on the Line: On the Strong Correlation Between
Out-of-Distribution and In-Distribution Generalization [89.73665256847858]
分布外性能は,広範囲なモデルと分布シフトに対する分布内性能と強く相関していることを示す。
具体的には,CIFAR-10 と ImageNet の変種に対する分布内分布と分布外分布性能の強い相関関係を示す。
また,CIFAR-10-Cと組織分類データセットCamelyon17-WILDSの合成分布の変化など,相関が弱いケースについても検討した。
論文 参考訳(メタデータ) (2021-07-09T19:48:23Z) - Learning Calibrated Uncertainties for Domain Shift: A Distributionally
Robust Learning Approach [150.8920602230832]
ドメインシフトの下で校正された不確実性を学習するためのフレームワークを提案する。
特に、密度比推定は、ターゲット(テスト)サンプルの近さをソース(トレーニング)分布に反映する。
提案手法は下流タスクに有利な校正不確実性を生成する。
論文 参考訳(メタデータ) (2020-10-08T02:10:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。