論文の概要: Federated Learning From Big Data Over Networks

• arxiv url: http://arxiv.org/abs/2010.14159v1
• Date: Tue, 27 Oct 2020 09:39:46 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-02 12:32:40.578707
• Title: Federated Learning From Big Data Over Networks
• Title（参考訳）: ネットワーク上のビッグデータからのフェデレーション学習
• Authors: Y. Sarcheshmehpour, M. Leinonen and A. Jung
• Abstract要約: 本稿では,ローカルデータセットの集合からのフェデレーション学習のための新しいアルゴリズムを定式化し,研究する。 ネットワーク化線形回帰モデルを用いてネットワーク上のそのようなビッグデータをモデル化する。 本手法のメッセージパッシング実装により,分散フェデレーション学習アルゴリズムを得る。
• 参考スコア（独自算出の注目度）: 1.2891210250935146
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper formulates and studies a novel algorithm for federated learning from large collections of local datasets. This algorithm capitalizes on an intrinsic network structure that relates the local datasets via an undirected "empirical" graph. We model such big data over networks using a networked linear regression model. Each local dataset has individual regression weights. The weights of close-knit sub-collections of local datasets are enforced to deviate only little. This lends naturally to a network Lasso problem which we solve using a primal-dual method. We obtain a distributed federated learning algorithm via a message passing implementation of this primal-dual method. We provide a detailed analysis of the statistical and computational properties of the resulting federated learning algorithm.
• Abstract（参考訳）: 本稿では,ローカルデータセットの集合からのフェデレーション学習のための新しいアルゴリズムを定式化し,研究する。 このアルゴリズムは、非方向の"empirical"グラフを介してローカルデータセットを関連付ける本質的なネットワーク構造に基くものである。 ネットワーク化線形回帰モデルを用いてネットワーク上のそのようなビッグデータをモデル化する。 各ローカルデータセットは個々の回帰重みを持つ。 ローカルデータセットのクローズクニットサブコレクションの重み付けは、ほんの少ししか外れないように強制される。 このことは、原始双対法を用いて解決するネットワークラッソ問題に自然に寄与する。 本手法のメッセージパッシング実装により,分散フェデレーション学習アルゴリズムを得る。 本研究では,連体学習アルゴリズムの統計的および計算的性質の詳細な解析を行う。

関連論文リスト

• Data Augmentations in Deep Weight Spaces [89.45272760013928]
  そこで本研究では,Mixup法に基づく新しい拡張手法を提案する。 既存のベンチマークと新しいベンチマークでこれらのテクニックのパフォーマンスを評価する。
  論文  参考訳（メタデータ） (2023-11-15T10:43:13Z)
• Tackling Computational Heterogeneity in FL: A Few Theoretical Insights [68.8204255655161]
  我々は、計算異種データの形式化と処理を可能にする新しい集約フレームワークを導入し、分析する。 提案するアグリゲーションアルゴリズムは理論的および実験的予測から広範囲に解析される。
  論文  参考訳（メタデータ） (2023-07-12T16:28:21Z)
• Towards Model-Agnostic Federated Learning over Networks [0.0]
  異種データとモデルのネットワークに対するモデルに依存しないフェデレーション学習手法を提案する。 提案手法は,データのネットワーク構造から正規化項を導出した経験的リスク最小化の例である。
  論文  参考訳（メタデータ） (2023-02-08T22:55:57Z)
• Clustered Federated Learning via Generalized Total Variation Minimization [83.26141667853057]
  本研究では,分散ネットワーク構造を持つローカルデータセットの局所的(あるいはパーソナライズされた)モデルを学習するための最適化手法について検討する。 我々の主要な概念的貢献は、総変動最小化(GTV)としてフェデレーション学習を定式化することである。 私たちのアルゴリズムの主な貢献は、完全に分散化されたフェデレーション学習アルゴリズムです。
  論文  参考訳（メタデータ） (2021-05-26T18:07:19Z)
• Exploiting Shared Representations for Personalized Federated Learning [54.65133770989836]
  本稿では,クライアント間の共有データ表現と,クライアント毎のユニークなローカルヘッダを学習するための,新しいフェデレーション学習フレームワークとアルゴリズムを提案する。 提案アルゴリズムは, クライアント間の分散計算能力を利用して, 表現の更新毎に低次元の局所パラメータに対して, 多数の局所更新を行う。 この結果は、データ分布間の共有低次元表現を学習することを目的とした、幅広い種類の問題に対するフェデレーション学習以上の関心を持っている。
  論文  参考訳（メタデータ） (2021-02-14T05:36:25Z)
• Robustness to Missing Features using Hierarchical Clustering with Split Neural Networks [39.29536042476913]
  階層的クラスタリングを用いて類似の入力特徴をクラスタリングする,単純かつ効果的な手法を提案する。 本手法を一連のベンチマークデータセット上で評価し,単純な計算手法を用いても有望な改善を示す。
  論文  参考訳（メタデータ） (2020-11-19T00:35:08Z)
• Pre-Trained Models for Heterogeneous Information Networks [57.78194356302626]
  異種情報ネットワークの特徴を捉えるための自己教師付き事前学習・微調整フレームワークPF-HINを提案する。 PF-HINは4つのデータセットにおいて、各タスクにおける最先端の代替よりも一貫して、大幅に優れています。
  論文  参考訳（メタデータ） (2020-07-07T03:36:28Z)
• FedPD: A Federated Learning Framework with Optimal Rates and Adaptivity to Non-IID Data [59.50904660420082]
  フェデレートラーニング(FL)は、分散データから学ぶための一般的なパラダイムになっています。 クラウドに移行することなく、さまざまなデバイスのデータを効果的に活用するために、Federated Averaging(FedAvg)などのアルゴリズムでは、"Computation then aggregate"(CTA)モデルを採用している。
  論文  参考訳（メタデータ） (2020-05-22T23:07:42Z)
• Fast local linear regression with anchor regularization [21.739281173516247]
  高速アンカー正規化局所線形法(FALL)と呼ばれる,単純で効果的な局所モデルトレーニングアルゴリズムを提案する。 合成および実世界のデータセットの実験を通じて、FALLは最先端のネットワークLassoアルゴリズムと精度の面で好適に比較できることを示した。
  論文  参考訳（メタデータ） (2020-02-21T10:03:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。