論文の概要: Towards Model-Agnostic Federated Learning over Networks
- arxiv url: http://arxiv.org/abs/2302.04363v2
- Date: Tue, 13 Jun 2023 19:08:27 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-17 02:15:46.379820
- Title: Towards Model-Agnostic Federated Learning over Networks
- Title(参考訳): ネットワーク上でのモデル非依存連合学習に向けて
- Authors: A. Jung, S. Abdurakhmanova, O. Kuznetsova, Y. SarcheshmehPour
- Abstract要約: 異種データとモデルのネットワークに対するモデルに依存しないフェデレーション学習手法を提案する。
提案手法は,データのネットワーク構造から正規化項を導出した経験的リスク最小化の例である。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present a model-agnostic federated learning method for networks of
heterogeneous data and models. The network structure reflects similarities
between the (statistics of) local datasets and, in turn, their associated
local("personal") models. Our method is an instance of empirical risk
minimization, with the regularization term derived from the network structure
of data. In particular, we require well-connected local models, forming
clusters, to yield similar predictions on a common test set. The proposed
method allows for a wide range of local models. The only restriction on these
local models is that they allow for efficient implementation of regularized
empirical risk minimization (training). For a wide range of models, such
implementations are available in high-level programming libraries including
scikit-learn, Keras or PyTorch.
- Abstract(参考訳): 異種データとモデルのネットワークに対するモデルに依存しないフェデレーション学習手法を提案する。
ネットワーク構造は、ローカルデータセットの(統計学)類似性と、関連するローカル("personal")モデルとの類似性を反映する。
提案手法は,データのネットワーク構造から正規化項を導出した経験的リスク最小化の例である。
特に私たちは、共通のテストセットで同様の予測を行うために、よく接続されたローカルモデル、クラスタの形成が必要です。
提案手法は広範囲の局所モデルを可能にする。
これらの局所モデルに対する唯一の制限は、正規化された経験的リスク最小化(training)の効率的な実装を可能にすることである。
幅広いモデルに対して、そのような実装はscikit-learn、keras、pytorchといった高レベルのプログラミングライブラリで利用できる。
関連論文リスト
- Federated Learning with Projected Trajectory Regularization [65.6266768678291]
フェデレーション学習は、ローカルデータを共有せずに、分散クライアントから機械学習モデルの共同トレーニングを可能にする。
連合学習における重要な課題の1つは、クライアントにまたがる識別できない分散データを扱うことである。
本稿では,データ問題に対処するための予測軌道正則化(FedPTR)を備えた新しいフェデレーション学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-12-22T02:12:08Z) - Federated Learning of Models Pre-Trained on Different Features with
Consensus Graphs [19.130197923214123]
プライベートデータセットと分散データセットで効果的なグローバルモデルを学ぶことは、機械学習においてますます重要な課題になりつつある。
本稿では,局所モデルから局所表現を抽出し,それらをグローバル表現に組み込んで予測性能を向上させる特徴融合手法を提案する。
本稿では,これらの問題に対する解決策を提示し,電力網や交通網などの時系列データを用いた実世界の応用例を示す。
論文 参考訳(メタデータ) (2023-06-02T02:24:27Z) - Improving Heterogeneous Model Reuse by Density Estimation [105.97036205113258]
本稿では,異なる参加者の個人データを用いてモデルを学習することを目的とした多人数学習について検討する。
モデルの再利用は、各パーティーのためにローカルモデルがトレーニングされていると仮定して、マルチパーティの学習にとって有望なソリューションである。
論文 参考訳(メタデータ) (2023-05-23T09:46:54Z) - Generalization Properties of Retrieval-based Models [50.35325326050263]
検索ベースの機械学習手法は、幅広い問題で成功をおさめた。
これらのモデルの約束を示す文献が増えているにもかかわらず、そのようなモデルの理論的基盤はいまだに解明されていない。
本稿では,その一般化能力を特徴付けるために,検索ベースモデルの形式的処理を行う。
論文 参考訳(メタデータ) (2022-10-06T00:33:01Z) - Bayesian community detection for networks with covariates [16.230648949593153]
科学界でもっとも注目されているのは「コミュニティ検出」である。
共依存型ランダムパーティションを持つブロックモデルを提案する。
本モデルでは, 後部推測により, コミュニティの数を知ることができる。
論文 参考訳(メタデータ) (2022-03-04T01:58:35Z) - Clustered Federated Learning via Generalized Total Variation
Minimization [83.26141667853057]
本研究では,分散ネットワーク構造を持つローカルデータセットの局所的(あるいはパーソナライズされた)モデルを学習するための最適化手法について検討する。
我々の主要な概念的貢献は、総変動最小化(GTV)としてフェデレーション学習を定式化することである。
私たちのアルゴリズムの主な貢献は、完全に分散化されたフェデレーション学習アルゴリズムです。
論文 参考訳(メタデータ) (2021-05-26T18:07:19Z) - Anomaly Detection on Attributed Networks via Contrastive Self-Supervised
Learning [50.24174211654775]
本論文では,アトリビュートネットワーク上の異常検出のためのコントラスト型自己監視学習フレームワークを提案する。
このフレームワークは、新しいタイプのコントラストインスタンスペアをサンプリングすることで、ネットワークデータからのローカル情報を完全に活用します。
高次元特性と局所構造から情報埋め込みを学習するグラフニューラルネットワークに基づくコントラスト学習モデルを提案する。
論文 参考訳(メタデータ) (2021-02-27T03:17:20Z) - A Bayesian Federated Learning Framework with Online Laplace
Approximation [144.7345013348257]
フェデレートラーニングは、複数のクライアントが協力してグローバルに共有されたモデルを学ぶことを可能にする。
クライアント側とサーバ側の両方の後方部を近似するために,オンラインラプラス近似を用いた新しいFLフレームワークを提案する。
提案手法の利点を実証し,いくつかのベンチマークで最新の結果を得た。
論文 参考訳(メタデータ) (2021-02-03T08:36:58Z) - Local Model Feature Transformations [0.0]
局所学習法は機械学習アルゴリズムの一般的なクラスである。
局所学習モデルの研究は、主に単純なモデルファミリーに限られている。
局所モデリングパラダイムをガウス過程、二次モデル、単語埋め込みモデルに拡張する。
論文 参考訳(メタデータ) (2020-04-13T18:41:03Z) - Fast local linear regression with anchor regularization [21.739281173516247]
高速アンカー正規化局所線形法(FALL)と呼ばれる,単純で効果的な局所モデルトレーニングアルゴリズムを提案する。
合成および実世界のデータセットの実験を通じて、FALLは最先端のネットワークLassoアルゴリズムと精度の面で好適に比較できることを示した。
論文 参考訳(メタデータ) (2020-02-21T10:03:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。