論文の概要: Decentralized Machine Learning with Centralized Performance Guarantees via Gibbs Algorithms

• arxiv url: http://arxiv.org/abs/2604.20492v1
• Date: Wed, 22 Apr 2026 12:25:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-23 15:36:11.122963
• Title: Decentralized Machine Learning with Centralized Performance Guarantees via Gibbs Algorithms
• Title（参考訳）: Gibbsアルゴリズムによる集中型パフォーマンス保証による分散機械学習
• Authors: Yaiza Bermudez, Samir Perlaza, Iñaki Esnaola,
• Abstract要約: 本稿では、ローカルデータセットを共有することなく、分散学習において集中的なパフォーマンスが達成できることを初めて示す。 特に、分散環境での集中的なパフォーマンスを達成するには、局所的なサンプルサイズで正規化係数の具体的なスケーリングが必要である。
• 参考スコア（独自算出の注目度）: 3.307203784120635
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this paper, it is shown, for the first time, that centralized performance is achievable in decentralized learning without sharing the local datasets. Specifically, when clients adopt an empirical risk minimization with relative-entropy regularization (ERM-RER) learning framework and a forward-backward communication between clients is established, it suffices to share the locally obtained Gibbs measures to achieve the same performance as that of a centralized ERM-RER with access to all the datasets. The core idea is that the Gibbs measure produced by client~$k$ is used, as reference measure, by client~$k+1$. This effectively establishes a principled way to encode prior information through a reference measure. In particular, achieving centralized performance in the decentralized setting requires a specific scaling of the regularization factors with the local sample sizes. Overall, this result opens the door to novel decentralized learning paradigms that shift the collaboration strategy from sharing data to sharing the local inductive bias via the reference measures over the set of models.
• Abstract（参考訳）: 本稿では、ローカルデータセットを共有することなく、分散学習において、集中的なパフォーマンスが達成できることを初めて示す。 具体的には、クライアントが相対エントロピー正規化(ERM-RER)学習フレームワークによる経験的リスク最小化を採用し、クライアント間のフォワードバック通信を確立した場合には、ローカルに取得したGibs尺度を共有すれば、すべてのデータセットにアクセス可能な集中型ERM-RERと同じパフォーマンスを実現することができる。 中心となる考え方は、クライアント~$k$で生成されるGibs測度が参照測度として、クライアント~$k+1$で使用されることである。 これにより、参照測度を通じて事前情報をエンコードする原則的な方法が効果的に確立される。 特に、分散環境での集中的なパフォーマンスを達成するには、局所的なサンプルサイズで正規化係数の具体的なスケーリングが必要である。 全体として、この結果は、コラボレーション戦略をデータ共有からモデルセット上の参照尺度を介して局所帰納的バイアス共有へとシフトする、新たな分散学習パラダイムへの扉を開く。

関連論文リスト

• Conditioning on Local Statistics for Scalable Heterogeneous Federated Learning [0.0]
  フェデレーション・ラーニング(Federated Learning)は、複数のクライアントがローカルデータを共有せずに、協調的にモデルをトレーニングする分散機械学習アプローチである。 本稿では,各クライアントが独立に計算した統計特性を,局所的な特徴統計として利用することを提案する。 トレーニング中、これらのローカル統計は、モデルがローカルデータ分布の条件付け方法を学ぶのに役立ち、推論中は、クライアントの予測をガイドする。
  論文  参考訳（メタデータ） (2025-03-01T07:10:58Z)
• Personalized Federated Learning for Cross-view Geo-localization [49.40531019551957]
  本稿では,フェデレート・ラーニング (FL) とクロスビュー・イメージ・ジオローカライゼーション (CVGL) 技術を組み合わせた方法論を提案する。 提案手法では, クライアントが粗い特徴抽出器のみを共有しながら, 局所環境に特有のきめ細かな特徴を保持する, 粗い特徴抽出器を実装している。 その結果,フェデレートCVGL法は,データプライバシを維持しつつ,集中的なトレーニングに近い性能を実現することができた。
  論文  参考訳（メタデータ） (2024-11-07T13:25:52Z)
• Networked Communication for Mean-Field Games with Function Approximation and Empirical Mean-Field Estimation [59.01527054553122]
  分散エージェントは、経験的システムの非絶対的実行から平均フィールドゲームにおいて平衡を学ぶことができる。 既存の設定に関数近似を導入し,Munchausen Online Mirror Descent 方式で描画する。 ポリシー情報の交換は,ネットワーク化されたエージェントが,機能近似設定において,独立エージェントと集中エージェントの両方より優れていることを示す。
  論文  参考訳（メタデータ） (2024-08-21T13:32:46Z)
• Generalizing Differentially Private Decentralized Deep Learning with Multi-Agent Consensus [11.414398732656839]
  本稿では,分散ディープラーニングに差分プライバシーを組み込んだフレームワークを提案する。 本稿では,このフレームワークから派生したアルゴリズムの収束保証を証明し,その実用性を示す。
  論文  参考訳（メタデータ） (2023-06-24T07:46:00Z)
• Collaborative Mean Estimation over Intermittently Connected Networks with Peer-To-Peer Privacy [86.61829236732744]
  本研究は、断続接続を有するネットワーク上での分散平均推定(DME)の問題について考察する。 目標は、中央サーバの助けを借りて、分散ノード間でローカライズされたデータサンプルに関するグローバル統計を学習することだ。 ノード間のデータ共有による協調中継とプライバシー漏洩のトレードオフについて検討する。
  論文  参考訳（メタデータ） (2023-02-28T19:17:03Z)
• Personalized Decentralized Federated Learning with Knowledge Distillation [5.469841541565307]
  フェデレート学習機能のパーソナライゼーションは、データや振る舞いのばらつきが高いクライアントのコーディネータとして機能する。 一般に、分散ネットワークにおいて、他のユーザーのモデルについて限られた知識の下で類似性を定量化することは困難である。 本研究では,局所モデル間の統計的距離を識別するために,知識蒸留技術を活用したパーソナライズされた完全分散FLアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-02-23T16:41:07Z)
• Divide and Contrast: Source-free Domain Adaptation via Adaptive Contrastive Learning [122.62311703151215]
  Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。 DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。 さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
  論文  参考訳（メタデータ） (2022-11-12T09:21:49Z)
• DisPFL: Towards Communication-Efficient Personalized Federated Learning via Decentralized Sparse Training [84.81043932706375]
  本稿では,分散型(ピアツーピア)通信プロトコルであるDis-PFLにおいて,新たな個人化フェデレーション学習フレームワークを提案する。 Dis-PFLはパーソナライズされたスパースマスクを使用して、エッジ上のスパースローカルモデルをカスタマイズする。 本手法は,計算複雑性の異なる異種ローカルクライアントに容易に適応できることを実証する。
  論文  参考訳（メタデータ） (2022-06-01T02:20:57Z)
• Decentralized federated learning of deep neural networks on non-iid data [0.6335848702857039]
  分散環境でパーソナライズされたディープラーニングモデルを学ぶことの難しさに対処する。 本稿では,PENS(Performance-Based Neighbor Selection)という手法を提案する。 PENSは強力なベースラインに比べて高い精度を達成することができる。
  論文  参考訳（メタデータ） (2021-07-18T19:05:44Z)
• Dif-MAML: Decentralized Multi-Agent Meta-Learning [54.39661018886268]
  我々は,MAML や Dif-MAML と呼ばれる協調型マルチエージェントメタ学習アルゴリズムを提案する。 提案手法により, エージェントの集合が線形速度で合意に達し, 集約MAMLの定常点に収束できることを示す。 シミュレーションの結果は従来の非協調的な環境と比較して理論的な結果と優れた性能を示している。
  論文  参考訳（メタデータ） (2020-10-06T16:51:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。