論文の概要: Federated Covariate Shift Adaptation for Missing Target Output Values
- arxiv url: http://arxiv.org/abs/2302.14427v1
- Date: Tue, 28 Feb 2023 09:15:41 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-01 17:20:15.704378
- Title: Federated Covariate Shift Adaptation for Missing Target Output Values
- Title（参考訳）: 目標値の欠落に対する連立共変量シフト適応
- Authors: Yaqian Xu, Wenquan Cui, Jianjun Xu, Haoyang Cheng
- Abstract要約: 本稿では,最新のマルチソースコシフトアルゴリズムをフェデレート学習の枠組みに拡張する。
対象タスクの重み付けモデルを構築し,我々の設定で好ましく機能するフェデレーション共シフト適応アルゴリズムを提案する。
- 参考スコア（独自算出の注目度）: 1.1374487003189466
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The most recent multi-source covariate shift algorithm is an efficient
hyperparameter optimization algorithm for missing target output. In this paper,
we extend this algorithm to the framework of federated learning. For data
islands in federated learning and covariate shift adaptation, we propose the
federated domain adaptation estimate of the target risk which is asymptotically
unbiased with a desirable asymptotic variance property. We construct a weighted
model for the target task and propose the federated covariate shift adaptation
algorithm which works preferably in our setting. The efficacy of our method is
justified both theoretically and empirically.
- Abstract（参考訳）: 最新のマルチソース共変量シフトアルゴリズムは、目標出力の不足に対する効率的なハイパーパラメータ最適化アルゴリズムである。
本稿では,このアルゴリズムを連合学習の枠組みに拡張する。
フェデレート学習および共変量シフト適応におけるデータ島々について, 好ましくは漸近的かつ漸近的な分散特性を伴わない対象リスクのフェデレーションドメイン適応推定法を提案する。
対象タスクの重み付けモデルを構築し,我々の設定で好ましく機能する共変量シフト適応アルゴリズムを提案する。
本手法の有効性は理論的にも実証的にも正当化される。
関連論文リスト
- Provably Mitigating Overoptimization in RLHF: Your SFT Loss is Implicitly an Adversarial Regularizer [52.09480867526656]
人間の嗜好を学習する際の分布変化と不確実性の一形態として,不一致の原因を同定する。
過度な最適化を緩和するために、まず、逆選択された報酬モデルに最適なポリシーを選択する理論アルゴリズムを提案する。
報奨モデルとそれに対応する最適ポリシーの等価性を用いて、優先最適化損失と教師付き学習損失を組み合わせた単純な目的を特徴とする。
論文 参考訳（メタデータ） (2024-05-26T05:38:50Z) - Federated Conditional Stochastic Optimization [110.513884892319]
条件付き最適化は、不変学習タスク、AUPRC、AMLなど、幅広い機械学習タスクで見られる。
本稿では,分散フェデレーション学習のためのアルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-10-04T01:47:37Z) - Adaptive Consensus: A network pruning approach for decentralized
optimization [0.5432724320036953]
ネットワーク内の各ノードが局所関数を持つネットワークベースの分散最適化問題を考える。
目的は、すべての局所関数の和を最小化するコンセンサス解を集合的に達成することである。
本稿では,通信量を削減する適応的ランダム化通信効率アルゴリズムフレームワークを提案する。
論文 参考訳（メタデータ） (2023-09-06T00:28:10Z) - Stochastic Unrolled Federated Learning [85.6993263983062]
本稿では,UnRolled Federated Learning (SURF)を導入する。
提案手法は,この拡張における2つの課題,すなわち,非学習者へのデータセット全体の供給の必要性と,フェデレート学習の分散的性質に対処する。
論文 参考訳（メタデータ） (2023-05-24T17:26:22Z) - Faster Adaptive Federated Learning [84.38913517122619]
フェデレートラーニングは分散データの出現に伴って注目を集めている。
本稿では,クロスサイロFLにおけるモーメントに基づく分散低減手法に基づく適応アルゴリズム(FAFED)を提案する。
論文 参考訳（メタデータ） (2022-12-02T05:07:50Z) - Variance-Reduced Heterogeneous Federated Learning via Stratified Client
Selection [31.401919362978017]
本稿では,収束性の向上と精度の向上を図るため,新たな階層化クライアント選択方式を提案する。
地層変動の多様性を考慮し,最適化されたサンプルサイズ割当方式を提案する。
実験結果から,本手法は最先端の手法と比較して性能が向上するだけでなく,一般的なFLアルゴリズムと互換性があることが確認された。
論文 参考訳（メタデータ） (2022-01-15T05:41:36Z) - Distributionally Robust Federated Averaging [19.875176871167966]
適応サンプリングを用いた堅牢な学習周期平均化のためのコミュニケーション効率の高い分散アルゴリズムを提案する。
我々は、フェデレーション学習環境における理論的結果に関する実験的証拠を裏付ける。
論文 参考訳（メタデータ） (2021-02-25T03:32:09Z) - Tackling the Objective Inconsistency Problem in Heterogeneous Federated
Optimization [93.78811018928583]
本稿では、フェデレートされた異種最適化アルゴリズムの収束性を分析するためのフレームワークを提供する。
我々は,高速な誤差収束を保ちながら,客観的な矛盾を解消する正規化平均化手法であるFedNovaを提案する。
論文 参考訳（メタデータ） (2020-07-15T05:01:23Z) - Adaptivity of Stochastic Gradient Methods for Nonconvex Optimization [71.03797261151605]
適応性は現代最適化理論において重要であるが、研究されていない性質である。
提案アルゴリズムは,PL目標に対して既存のアルゴリズムよりも優れた性能を保ちながら,PL目標に対して最適な収束性を実現することを実証した。
論文 参考訳（メタデータ） (2020-02-13T05:42:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。