論文の概要: On Gossip Algorithms for Machine Learning with Pairwise Objectives
- arxiv url: http://arxiv.org/abs/2603.24128v1
- Date: Wed, 25 Mar 2026 09:43:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-26 21:06:11.231814
- Title: On Gossip Algorithms for Machine Learning with Pairwise Objectives
- Title(参考訳): Pairwise Objectivesを用いた機械学習のためのゴシップアルゴリズムについて
- Authors: Igor Colin, Aurélien Bellet, Stephan Clémençon, Joseph Salmon,
- Abstract要約: IoT時代において、情報は、ストレージ、通信、計算能力に制限があるものの、接続されたスマートセンサーによって、ますます頻繁に拾われる。
ネットワーク上で共有されるデータ専用の統計的学習手法の開発は、現在では大きな問題となっている。
Gossipベースのアルゴリズムは、様々な統計的学習タスクを解決するために開発された。
- 参考スコア(独自算出の注目度): 17.859587616935002
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the IoT era, information is more and more frequently picked up by connected smart sensors with increasing, though limited, storage, communication and computation abilities. Whether due to privacy constraints or to the structure of the distributed system, the development of statistical learning methods dedicated to data that are shared over a network is now a major issue. Gossip-based algorithms have been developed for the purpose of solving a wide variety of statistical learning tasks, ranging from data aggregation over sensor networks to decentralized multi-agent optimization. Whereas the vast majority of contributions consider situations where the function to be estimated or optimized is a basic average of individual observations, it is the goal of this article to investigate the case where the latter is of pairwise nature, taking the form of a U -statistic of degree two. Motivated by various problems such as similarity learning, ranking or clustering for instance, we revisit gossip algorithms specifically designed for pairwise objective functions and provide a comprehensive theoretical framework for their convergence. This analysis fills a gap in the literature by establishing conditions under which these methods succeed, and by identifying the graph properties that critically affect their efficiency. In particular, a refined analysis of the convergence upper and lower bounds is performed.
- Abstract(参考訳): IoT時代において、情報は、ストレージ、通信、計算能力に制限があるものの、接続されたスマートセンサーによって、ますます頻繁に拾われる。
プライバシの制約や分散システムの構造により、ネットワーク上で共有されるデータ専用の統計的学習手法の開発が大きな問題となっている。
Gossipベースのアルゴリズムは、センサネットワーク上のデータ集約から分散マルチエージェント最適化まで、幅広い統計学習タスクを解決するために開発された。
コントリビューションの大多数は、推定または最適化すべき関数が個々の観測の基本的な平均である状況を考慮するが、後者がペアの自然である場合を調査し、次数2のU統計の形式をとることが本論文の目標である。
類似性学習やランキング,クラスタリングといった様々な問題に触発された我々は,対目的関数用に特別に設計されたゴシップアルゴリズムを再検討し,それらの収束のための包括的な理論的枠組みを提供する。
この分析は、これらの手法が成功する条件を確立し、それらの効率に重大な影響を与えるグラフ特性を特定することによって、文献のギャップを埋める。
特に、収束上界と下界の洗練された解析を行う。
関連論文リスト
- Beyond Centralization: Provable Communication Efficient Decentralized Multi-Task Learning [7.147459905796264]
特徴が低ランク構造を共有する分散マルチタスク表現学習について検討する。
分散環境では、タスクデータは複数のノードに分散され、ノード間の情報交換は通信ネットワークによって制限される。
論文 参考訳(メタデータ) (2025-12-27T18:44:43Z) - Similarity-based fuzzy clustering scientific articles: potentials and challenges from mathematical and computational perspectives [0.0]
ファジィクラスタリングは出版データを解析する上で重要な役割を果たす。
この問題は制約付き最適化モデルとして定式化することができ、このモデルの目的は、データから観測される類似性と予測された分布から導かれる類似性との差を最小限にすることである。
我々は、数学的および計算的視点からアプローチの可能性と課題を分析する。
論文 参考訳(メタデータ) (2025-06-04T15:10:31Z) - Optimization and Learning in Open Multi-Agent Systems [1.0249620437941]
本稿では,「オープンネットワーク」における多種多様な問題に対処する新しい分散アルゴリズムを提案する。
提案アルゴリズムは動的コンセンサス(英語版)の解決や,興味のあるメトリクスの追跡に使用される。
論文 参考訳(メタデータ) (2025-01-28T10:40:09Z) - Distributed Learning over Networks with Graph-Attention-Based
Personalization [49.90052709285814]
分散ディープラーニングのためのグラフベースパーソナライズアルゴリズム(GATTA)を提案する。
特に、各エージェントのパーソナライズされたモデルは、グローバルな部分とノード固有の部分で構成される。
グラフ内の各エージェントを1つのノードとして扱うことにより、ノード固有のパラメータを特徴として扱うことにより、グラフアテンション機構の利点を継承することができる。
論文 参考訳(メタデータ) (2023-05-22T13:48:30Z) - Contextual Model Aggregation for Fast and Robust Federated Learning in
Edge Computing [88.76112371510999]
フェデレーション学習は、ネットワークエッジにおける分散機械学習の第一候補である。
既存のアルゴリズムは、性能の緩やかな収束や堅牢性の問題に直面している。
そこで本稿では,損失低減に対する最適コンテキスト依存境界を実現するためのコンテキストアグリゲーション手法を提案する。
論文 参考訳(メタデータ) (2022-03-23T21:42:31Z) - Dif-MAML: Decentralized Multi-Agent Meta-Learning [54.39661018886268]
我々は,MAML や Dif-MAML と呼ばれる協調型マルチエージェントメタ学習アルゴリズムを提案する。
提案手法により, エージェントの集合が線形速度で合意に達し, 集約MAMLの定常点に収束できることを示す。
シミュレーションの結果は従来の非協調的な環境と比較して理論的な結果と優れた性能を示している。
論文 参考訳(メタデータ) (2020-10-06T16:51:09Z) - Learning while Respecting Privacy and Robustness to Distributional
Uncertainties and Adversarial Data [66.78671826743884]
分散ロバストな最適化フレームワークはパラメトリックモデルのトレーニングのために検討されている。
目的は、逆操作された入力データに対して頑健なトレーニングモデルを提供することである。
提案されたアルゴリズムは、オーバーヘッドがほとんどない堅牢性を提供する。
論文 参考訳(メタデータ) (2020-07-07T18:25:25Z) - Scaling-up Distributed Processing of Data Streams for Machine Learning [10.581140430698103]
本稿では,計算・帯域幅制限方式における大規模分散最適化に着目した手法を最近開発した。
i)分散凸問題、(ii)分散主成分分析、(ii)グローバル収束を許容する幾何学的構造に関する非問題である。
論文 参考訳(メタデータ) (2020-05-18T16:28:54Z) - Dynamic Federated Learning [57.14673504239551]
フェデレートラーニング(Federated Learning)は、マルチエージェント環境における集中的なコーディネーション戦略の包括的用語として登場した。
我々は、各イテレーションにおいて、利用可能なエージェントのランダムなサブセットがそのデータに基づいてローカル更新を実行する、フェデレートされた学習モデルを考える。
集約最適化問題に対する真の最小化器上の非定常ランダムウォークモデルの下で、アーキテクチャの性能は、各エージェントにおけるデータ変動率、各エージェントにおけるモデル変動率、アルゴリズムの学習率に逆比例する追跡項の3つの要因によって決定されることを示す。
論文 参考訳(メタデータ) (2020-02-20T15:00:54Z) - Distributed Learning in the Non-Convex World: From Batch to Streaming
Data, and Beyond [73.03743482037378]
分散学習は、多くの人々が想定する、大規模に接続された世界の重要な方向となっている。
本稿では、スケーラブルな分散処理とリアルタイムデータ計算の4つの重要な要素について論じる。
実践的な問題や今後の研究についても論じる。
論文 参考訳(メタデータ) (2020-01-14T14:11:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。