論文の概要: GRANITE : a Byzantine-Resilient Dynamic Gossip Learning Framework

• arxiv url: http://arxiv.org/abs/2504.17471v1
• Date: Thu, 24 Apr 2025 12:03:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-02 19:15:53.348361
• Title: GRANITE : a Byzantine-Resilient Dynamic Gossip Learning Framework
• Title（参考訳）: GRANITE : ビザンチン耐性動的ゴシップ学習フレームワーク
• Authors: Yacine Belal, Mohamed Maouche, Sonia Ben Mokhtar, Anthony Simonet-Boulogne,
• Abstract要約: Gossip Learning(GL)は、ユーザがモデルを小さな仲間と反復的に交換し集約する分散学習パラダイムである。 最近のGLアプローチは、Random Peer Sampling (RPS)プロトコルを使用して構築および維持される動的通信グラフに依存している。 本研究では,少数のビザンチンノードが存在する場合に,疎度でダイナミックなグラフより頑健な学習を行うフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 1.9093042949944972
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Gossip Learning (GL) is a decentralized learning paradigm where users iteratively exchange and aggregate models with a small set of neighboring peers. Recent GL approaches rely on dynamic communication graphs built and maintained using Random Peer Sampling (RPS) protocols. Thanks to graph dynamics, GL can achieve fast convergence even over extremely sparse topologies. However, the robustness of GL over dy- namic graphs to Byzantine (model poisoning) attacks remains unaddressed especially when Byzantine nodes attack the RPS protocol to scale up model poisoning. We address this issue by introducing GRANITE, a framework for robust learning over sparse, dynamic graphs in the presence of a fraction of Byzantine nodes. GRANITE relies on two key components (i) a History-aware Byzantine-resilient Peer Sampling protocol (HaPS), which tracks previously encountered identifiers to reduce adversarial influence over time, and (ii) an Adaptive Probabilistic Threshold (APT), which leverages an estimate of Byzantine presence to set aggregation thresholds with formal guarantees. Empirical results confirm that GRANITE maintains convergence with up to 30% Byzantine nodes, improves learning speed via adaptive filtering of poisoned models and obtains these results in up to 9 times sparser graphs than dictated by current theory.
• Abstract（参考訳）: Gossip Learning(GL)は、ユーザがモデルを小さな仲間と反復的に交換し集約する分散学習パラダイムである。 最近のGLアプローチは、Random Peer Sampling (RPS)プロトコルを使用して構築および維持される動的通信グラフに依存している。 グラフ力学のおかげで、GLは極端にスパースなトポロジーでさえ高速な収束を達成することができる。 しかしながら、ダイナミックグラフ上のGLのビザンチン(モデル中毒)攻撃に対する堅牢性は、特にビザンチンノードがモデル中毒を拡大するためにRSSプロトコルを攻撃したとき、未解決のままである。 GRANITEは,少数のビザンチンノードの存在下で,疎度でダイナミックなグラフを頑健に学習するフレームワークである。 GRANITEは2つのキーコンポーネントに依存している (i)ビザンチン系レジリエントピアサンプリングプロトコル(HaPS)は、それまで遭遇した識別子を追跡し、時間とともに敵の影響力を減少させる。 (ii) 適応確率閾値(APT)は、ビザンチン存在の推定を利用して、正式な保証付き集計閾値を設定する。 実験の結果、GRANITEは最大30%のビザンチンノードとの収束を維持し、有毒モデルの適応フィルタリングにより学習速度を向上し、これらの結果が現在の理論より最大9倍のスペーサーグラフで得られることが確認された。

関連論文リスト

• Structural Alignment Improves Graph Test-Time Adaptation [17.564393890432193]
  グラフに基づく学習は、リコメンデーションから不正検出、粒子物理学まで、領域で顕著な成功を収めた。 分散シフトが発生すると、特にネットワーク接続やインタラクションパターンの変化に関わることを一般化するのに苦労することが多い。 このようなシフトを軽減するために設計された既存のアプローチは、典型的にはソースデータへの完全なアクセスで再トレーニングする必要がある。 本稿では,GTTA(Graph Test-Time Adaptation)のためのテスト時構造アライメント(TSA)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-02-25T16:26:25Z)
• Leveraging Joint Predictive Embedding and Bayesian Inference in Graph Self Supervised Learning [0.0]
  グラフ表現学習は、ノード分類やリンク予測といったタスクの基盤として登場した。 現在の自己教師付き学習(SSL)手法は、計算の非効率性、対照的な目的への依存、表現の崩壊といった課題に直面している。 本稿では,意味情報と構造情報を保存しながら,対照的な目的と負のサンプリングを排除したグラフSSLのための新しい結合埋め込み予測フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-02-02T07:42:45Z)
• Graph Structure Refinement with Energy-based Contrastive Learning [56.957793274727514]
  グラフの構造と表現を学習するための生成訓練と識別訓練のジョイントに基づく教師なし手法を提案する。 本稿では,ECL-GSR(Energy-based Contrastive Learning)によるグラフ構造再構成(GSR)フレームワークを提案する。 ECL-GSRは、主要なベースラインに対するサンプルやメモリの少ない高速なトレーニングを実現し、下流タスクの単純さと効率性を強調している。
  論文  参考訳（メタデータ） (2024-12-20T04:05:09Z)
• CONVERT:Contrastive Graph Clustering with Reliable Augmentation [110.46658439733106]
  信頼性オーグメンテーション(CONVERT)を用いたContrastiVe Graph ClustEringネットワークを提案する。 本手法では,データ拡張を可逆的パーターブ・リカバリネットワークにより処理する。 セマンティクスの信頼性をさらに保証するために、ネットワークを制約する新たなセマンティクス損失が提示される。
  論文  参考訳（メタデータ） (2023-08-17T13:07:09Z)
• Resisting Graph Adversarial Attack via Cooperative Homophilous Augmentation [60.50994154879244]
  最近の研究では、グラフニューラルネットワークは弱く、小さな摂動によって簡単に騙されることが示されている。 本研究では,グラフインジェクションアタック(Graph Injection Attack)という,新興だが重要な攻撃に焦点を当てる。 本稿では,グラフデータとモデルの協調的同好性増強によるGIAに対する汎用防衛フレームワークCHAGNNを提案する。
  論文  参考訳（メタデータ） (2022-11-15T11:44:31Z)
• Causal Incremental Graph Convolution for Recommender System Retraining [89.25922726558875]
  実世界のレコメンデーションシステムは、新しいデータを維持するために定期的に再トレーニングする必要がある。 本研究では,GCNに基づくレコメンデータモデルを用いて,グラフ畳み込みネットワーク(GCN)を効率的に再学習する方法を検討する。
  論文  参考訳（メタデータ） (2021-08-16T04:20:09Z)
• Spatial-spectral Hyperspectral Image Classification via Multiple Random Anchor Graphs Ensemble Learning [88.60285937702304]
  本稿では,複数のランダムアンカーグラフアンサンブル学習(RAGE)を用いた空間スペクトルHSI分類手法を提案する。 まず、各選択されたバンドのより記述的な特徴を抽出し、局所的な構造と領域の微妙な変化を保存するローカルバイナリパターンを採用する。 次に,アンカーグラフの構成に適応隣接代入を導入し,計算複雑性を低減した。
  論文  参考訳（メタデータ） (2021-03-25T09:31:41Z)
• Graph Neural Networks Inspired by Classical Iterative Algorithms [28.528150667063876]
  我々は、2つの古典的反復アルゴリズムの更新ルールを模倣し、統合するために設計された新しいGNNレイヤーのファミリーを考える。 新しい注意機構は、基礎となるエンドツーエンドエネルギー関数に明示的に固定され、エッジの不確かさに関する安定性に寄与する。
  論文  参考訳（メタデータ） (2021-03-10T14:08:12Z)
• Cyclic Label Propagation for Graph Semi-supervised Learning [52.102251202186025]
  本稿では,CycPropと呼ばれるグラフ半教師付き学習のための新しいフレームワークを提案する。 CycPropはGNNを周期的かつ相互に強化された方法でラベル伝播の過程に統合する。 特に,提案するCycPropでは,GNNモジュールが学習したノード埋め込みをラベル伝搬による拡張情報で更新する。
  論文  参考訳（メタデータ） (2020-11-24T02:55:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。