論文の概要: Technical Report: On the Convergence of Gossip Learning in the Presence of Node Inaccessibility

• arxiv url: http://arxiv.org/abs/2401.09498v2
• Date: Sun, 18 Feb 2024 06:34:42 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-21 03:31:28.004417
• Title: Technical Report: On the Convergence of Gossip Learning in the Presence of Node Inaccessibility
• Title（参考訳）: 技術報告:ノードの到達不能性を考慮したゴシップ学習の収束について
• Authors: Tian Liu, Yue Cui, Xueyang Hu, Yecheng Xu, Bo Liu
• Abstract要約: Gossip Learning (GL) は、Flying Ad-Hoc Networks (FANETs) のようなリソース制約のある無線ネットワークに適している。 動的ネットワークトポロジの下で,アクセス不能ノードがGLに与える影響を定式化し検討する。
• 参考スコア（独自算出の注目度）: 3.5160668192788376
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Gossip learning (GL), as a decentralized alternative to federated learning (FL), is more suitable for resource-constrained wireless networks, such as Flying Ad-Hoc Networks (FANETs) that are formed by unmanned aerial vehicles (UAVs). GL can significantly enhance the efficiency and extend the battery life of UAV networks. Despite the advantages, the performance of GL is strongly affected by data distribution, communication speed, and network connectivity. However, how these factors influence the GL convergence is still unclear. Existing work studied the convergence of GL based on a virtual quantity for the sake of convenience, which failed to reflect the real state of the network when some nodes are inaccessible. In this paper, we formulate and investigate the impact of inaccessible nodes to GL under a dynamic network topology. We first decompose the weight divergence by whether the node is accessible or not. Then, we investigate the GL convergence under the dynamic of node accessibility and theoretically provide how the number of inaccessible nodes, data non-i.i.d.-ness, and duration of inaccessibility affect the convergence. Extensive experiments are carried out in practical settings to comprehensively verify the correctness of our theoretical findings.
• Abstract（参考訳）: gossip learning(gl)は、連合学習(federated learning:fl)の代替として、無人航空機(uavs)によって形成される空飛ぶアドホックネットワーク(fanets)のようなリソース制約された無線ネットワークに適している。 GLは、UAVネットワークの効率を大幅に向上し、バッテリー寿命を延長することができる。 この利点にもかかわらず、GLの性能はデータ分散、通信速度、ネットワーク接続に強く影響されている。 しかし、これらの因子がGL収束にどのように影響するかはいまだ不明である。 既存の研究は、コンビニエンスのために仮想量に基づくglの収束を研究したが、いくつかのノードがアクセスできない場合、ネットワークの実際の状態を反映しなかった。 本稿では,動的ネットワークトポロジの下でglに対するアクセス不能ノードの影響を定式化し,検討する。 まず、ノードがアクセス可能かどうかによって重み分散を分解する。 そこで我々は,ノードアクセシビリティの動的条件下でのGL収束について検討し,到達不能ノード数,データ非i.d.ネス,到達不能期間が収束に与える影響を理論的に示す。 理論的な結果の正しさを包括的に検証するために,実践的な実験を行った。

関連論文リスト

• Information Flow in Graph Neural Networks: A Clinical Triage Use Case [49.86931948849343]
  グラフニューラルネットワーク(GNN)は、マルチモーダルグラフとマルチリレーショナルグラフを処理する能力によって、医療やその他の領域で人気を集めている。 GNNにおける埋め込み情報のフローが知識グラフ(KG)におけるリンクの予測に与える影響について検討する。 以上の結果から,ドメイン知識をGNN接続に組み込むことで,KGと同じ接続を使用する場合や,制約のない埋め込み伝搬を行う場合よりも優れた性能が得られることが示された。
  論文  参考訳（メタデータ） (2023-09-12T09:18:12Z)
• Graph Agent Network: Empowering Nodes with Inference Capabilities for Adversarial Resilience [50.460555688927826]
  グラフニューラルネットワーク(GNN)の脆弱性に対処するグラフエージェントネットワーク(GAgN)を提案する。 GAgNはグラフ構造化エージェントネットワークであり、各ノードは1-hop-viewエージェントとして設計されている。 エージェントの限られたビューは、悪意のあるメッセージがGAgNでグローバルに伝播するのを防ぎ、グローバル最適化ベースのセカンダリアタックに抵抗する。
  論文  参考訳（メタデータ） (2023-06-12T07:27:31Z)
• Learning Strong Graph Neural Networks with Weak Information [64.64996100343602]
  我々は、弱い情報(GLWI)を用いたグラフ学習問題に対する原則的アプローチを開発する。 非完全構造を持つ入力グラフ上で長距離情報伝搬を行うデュアルチャネルGNNフレームワークであるD$2$PTを提案するが、グローバルな意味的類似性を符号化するグローバルグラフも提案する。
  論文  参考訳（メタデータ） (2023-05-29T04:51:09Z)
• Kernel function impact on convolutional neural networks [10.98068123467568]
  畳み込みニューラルネットワークの異なる層におけるカーネル関数の利用について検討する。 より歪みに敏感なプール層を導入することで、カーネル関数を効果的に活用する方法を示す。 完全接続層を置き換えるKDL(Kernelized Dense Layers)を提案する。
  論文  参考訳（メタデータ） (2023-02-20T19:57:01Z)
• Cross-network transferable neural models for WLAN interference estimation [8.519313977400735]
  本稿では,ロバストネスにおける干渉推定の原理的アプローチを採用する。 まず、実データを使って影響する要因を識別し、関連する一連の合成ワークロードを導出します。 当然のことながら、Graph Conalvolution Networks(GCNs)が全体的なパフォーマンスで最高のものになっている。
  論文  参考訳（メタデータ） (2022-11-25T11:01:43Z)
• Learning Graph Neural Networks for Multivariate Time Series Anomaly Detection [8.688578727646409]
  局所不確実性推定を用いたGLUE(Graph Deviation Network)を提案する。 GLUEは変数間の複雑な依存関係を学び、それを使って異常な振る舞いをよりよく識別する。 また、GLUEは、同様のセンサーをまとめる有意義なセンサー埋め込みを学習することを示す。
  論文  参考訳（メタデータ） (2021-11-15T21:05:58Z)
• Tackling Oversmoothing of GNNs with Contrastive Learning [35.88575306925201]
  グラフニューラルネットワーク(GNN)は、グラフデータと表現学習能力の包括的な関係を統合する。 オーバースムーシングはノードの最終的な表現を識別不能にし、ノード分類とリンク予測性能を劣化させる。 本稿では,TGCL(Topology-Guided Graph Contrastive Layer)を提案する。
  論文  参考訳（メタデータ） (2021-10-26T15:56:16Z)
• ADOM: Accelerated Decentralized Optimization Method for Time-Varying Networks [124.33353902111939]
  本稿では,時間変動ネットワーク上の滑らかかつ強凸分散最適化のための高速化手法である adom を提案する。 ネットワーク構造のみに依存する一定の要因まで、その通信は加速されたNesterovメソッドのそれと同じです。
  論文  参考訳（メタデータ） (2021-02-18T09:37:20Z)
• Optimization and Generalization Analysis of Transduction through Gradient Boosting and Application to Multi-scale Graph Neural Networks [60.22494363676747]
  現在のグラフニューラルネットワーク(GNN)は、オーバースムーシング(over-smoothing)と呼ばれる問題のため、自分自身を深くするのは難しいことが知られている。 マルチスケールGNNは、オーバースムーシング問題を緩和するための有望なアプローチである。 マルチスケールGNNを含むトランスダクティブ学習アルゴリズムの最適化と一般化を保証する。
  論文  参考訳（メタデータ） (2020-06-15T17:06:17Z)
• Graph Highway Networks [77.38665506495553]
  グラフ畳み込みネットワーク(GCN)は、グラフ表現の有効性と効率性から、グラフ表現の学習に広く利用されている。 彼らは、多くの層が積み重ねられたとき、学習された表現が類似したベクトルに収束するという悪名高い過度に滑らかな問題に悩まされる。 本稿では,GCN学習プロセスにおける均一性と不均一性との間のトレードオフのバランスをとるため,ゲーティングユニットを利用したグラフハイウェイネットワークを提案する。
  論文  参考訳（メタデータ） (2020-04-09T16:26:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。