論文の概要: Garfield: System Support for Byzantine Machine Learning

• arxiv url: http://arxiv.org/abs/2010.05888v2
• Date: Thu, 31 Dec 2020 13:45:15 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-08 07:44:05.263613
• Title: Garfield: System Support for Byzantine Machine Learning
• Title（参考訳）: Garfield: ビザンティン機械学習のためのシステムサポート
• Authors: Rachid Guerraoui, Arsany Guirguis, J\'er\'emy Max Plassmann, Anton Alexandre Ragot, S\'ebastien Rouault
• Abstract要約: 私たちは、機械学習(ML)アプリケーションを透過的に作成するライブラリであるGarfieldを紹介します。 Garfield氏は新しいオブジェクト指向設計に依存しており、コーディングの労力を削減している。 ビザンツのレジリエンスのコストに関する興味深い事実をいくつか取り上げる。
• 参考スコア（独自算出の注目度）: 5.014047705634666
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present Garfield, a library to transparently make machine learning (ML) applications, initially built with popular (but fragile) frameworks, e.g., TensorFlow and PyTorch, Byzantine-resilient. Garfield relies on a novel object-oriented design, reducing the coding effort, and addressing the vulnerability of the shared-graph architecture followed by classical ML frameworks. Garfield encompasses various communication patterns and supports computations on CPUs and GPUs, allowing addressing the general question of the very practical cost of Byzantine resilience in SGD-based ML applications. We report on the usage of Garfield on three main ML architectures: (a) a single server with multiple workers, (b) several servers and workers, and (c) peer-to-peer settings. Using Garfield, we highlight several interesting facts about the cost of Byzantine resilience. In particular, (a) Byzantine resilience, unlike crash resilience, induces an accuracy loss, (b) the throughput overhead comes more from communication than from robust aggregation, and (c) tolerating Byzantine servers costs more than tolerating Byzantine workers.
• Abstract（参考訳）: garfieldは、マシンラーニング(ml)アプリケーションを透過的に作成するためのライブラリで、最初はtensorflowやpytorch、byzantine-resilientなど、一般的な(ただし脆弱な)フレームワークで構築されています。 Garfield氏は、新しいオブジェクト指向設計に依存し、コーディングの労力を削減し、古典的なMLフレームワークに続く共有グラフアーキテクチャの脆弱性に対処する。 Garfieldは様々な通信パターンを包含し、CPUやGPU上での計算をサポートし、SGDベースのMLアプリケーションにおけるビザンチンレジリエンスの非常に実用的なコストに関する一般的な問題に対処することができる。 主に3つのMLアーキテクチャにおけるGarfieldの使用について報告する。 (a)複数の作業員を持つ1つのサーバ (b)複数のサーバ及び作業員、及び (c)ピアツーピアの設定。 Garfieldを使って、ビザンツのレジリエンスのコストに関する興味深い事実をいくつか取り上げる。 特に (a)ビザンチンの弾力性は、クラッシュの弾力性とは異なり、精度の低下を引き起こす。 b) スループットのオーバーヘッドは、ロバストなアグリゲーションよりもコミュニケーションによるものです。 c) ビザンチンのサーバーのトレーティングは、ビザンチンの労働者をトレーティングする以上のコストがかかる。

関連論文リスト

• Understanding Byzantine Robustness in Federated Learning with A Black-box Server [47.98788470469994]
  フェデレートラーニング(FL)は、一部の参加者が学習モデルの収束を損なう傾向にあるビザンティン攻撃に対して脆弱になる。 以前の研究では、様々なタイプのビザンツ人攻撃に対して、参加者からの更新を集約するために堅牢なルールを適用することを提案した。 実際には、FLシステムにはブラックボックスサーバが組み込まれており、採用されているアグリゲーションルールは参加者にアクセスできないため、ビザンティン攻撃を自然に防御したり弱めたりすることができる。
  論文  参考訳（メタデータ） (2024-08-12T10:18:24Z)
• Dynamic Byzantine-Robust Learning: Adapting to Switching Byzantine Workers [10.632248569865236]
  Byzantine-robust学習は、フォールトトレラントな分散機械学習フレームワークとして注目されている。 我々はダイナブロ(DynaBRO)という,ラウンドごとのサブ線形数の変化に耐えられる新しい手法を提案する。 本手法では,マルチレベルモンテカルロ勾配法をサーバに適用し,ワーカー更新を頑健に集約する。
  論文  参考訳（メタデータ） (2024-02-05T12:26:01Z)
• Quantum $X$-Secure $B$-Byzantine $T$-Colluding Private Information Retrieval [31.285983939625098]
  量子プライベート情報検索(QPIR)におけるビザンチンサーバの存在から生じる問題点を考察する。 量子エンコーディングによる可能性から,量子ビザンチンサーバの能力は従来のサーバよりも高いことを示す。
  論文  参考訳（メタデータ） (2024-01-30T18:44:41Z)
• Noise Contrastive Estimation-based Matching Framework for Low-Resource Security Attack Pattern Recognition [49.536368818512116]
  TTP(Tactics, Techniques and Procedures)は、サイバーセキュリティドメインにおける高度な攻撃パターンを表す。 そこで本研究では,TTPラベルへのテキストの割り当てが,両者の直接的な意味的類似性によって決定される,異なる学習パラダイムの問題を定式化する。 本稿では,効果的なサンプリングベース学習機構を備えたニューラルマッチングアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2024-01-18T19:02:00Z)
• Serving Deep Learning Model in Relational Databases [70.53282490832189]
  リレーショナルデータ上での深層学習(DL)モデルの実現は、様々な商業分野や科学分野において重要な要件となっている。 最先端のDL中心アーキテクチャは、DL計算を専用のDLフレームワークにオフロードします。 UDF中心アーキテクチャの可能性は、リレーショナルデータベース管理システム(RDBMS)内の1つ以上のテンソル計算をユーザ定義関数(UDF)にカプセル化する。
  論文  参考訳（メタデータ） (2023-10-07T06:01:35Z)
• Universal and Transferable Adversarial Attacks on Aligned Language Models [118.41733208825278]
  本稿では,アライメント言語モデルに反抗的な振る舞いを生じさせる,シンプルで効果的な攻撃手法を提案する。 驚いたことに、我々のアプローチによって生じる敵のプロンプトは、かなり伝達可能である。
  論文  参考訳（メタデータ） (2023-07-27T17:49:12Z)
• Network Fault-tolerant and Byzantine-resilient Social Learning via Collaborative Hierarchical Non-Bayesian Learning [2.236663830879273]
  通信障害や敵攻撃に弱いネットワーク上での非ベイズ学習の問題に対処する。 まず,パケットドロップリンクの頻繁な障害に拘わらず,平均コンセンサスを達成できる階層的頑健なプッシュサムアルゴリズムを提案する。 次に,パケットドロップによるフォールトトレラントな非ベイズ学習アルゴリズムを提案し,コンバージェンス保証を実現する。
  論文  参考訳（メタデータ） (2023-07-27T15:46:46Z)
• Federated Multi-Armed Bandits Under Byzantine Attacks [8.974667651758095]
  FMAB(Federated Multi-armed Bandits)は、学習者がMABゲームをし、集約されたフィードバックをサーバに伝達し、グローバルな最適なアームを学ぶための新興フレームワークである。 本研究では,学習プロセスを脅かす偽モデル更新を送信できるビザンティンクライアントの存在下でのFMAB問題について検討する。 我々は,ビザンティンの顧客に対応するために,中央値平均オンラインアルゴリズムであるFed-MoM-UCBを提案する。
  論文  参考訳（メタデータ） (2022-05-09T09:06:42Z)
• Privatized Graph Federated Learning [57.14673504239551]
  グラフによって連結された複数の単位からなるグラフフェデレーション学習を導入する。 グラフ準同型摂動はアルゴリズムが微分プライベートであることを保証するためにどのように使用できるかを示す。
  論文  参考訳（メタデータ） (2022-03-14T13:48:23Z)
• Verifiable Coded Computing: Towards Fast, Secure and Private Distributed Machine Learning [13.09925205966904]
  分散クラウドコンピューティングの主なボトルネックは、ストラグラー、ビザンチン労働者、データプライバシである。 本稿では,Byzantineノード検出チャレンジをトラグラー耐性から分離する検証可能なコード計算フレームワークを提案する。 実験の結果,VCCは分散ロジスティック回帰の非符号化実装を3.2times-6.9times$で高速化することがわかった。
  論文  参考訳（メタデータ） (2021-07-27T17:23:09Z)
• Byzantine-Robust Learning on Heterogeneous Datasets via Bucketing [55.012801269326594]
  ビザンチンの堅牢な分散学習では、中央サーバは、複数のワーカーに分散したデータよりも、機械学習モデルを訓練したい。 これらの労働者のごく一部は、所定のアルゴリズムから逸脱し、任意のメッセージを送ることができる。 本稿では,既存のロバストなアルゴリズムを無視可能な計算コストでヘテロジニアスなデータセットに適応させる,シンプルなバケット方式を提案する。
  論文  参考訳（メタデータ） (2020-06-16T17:58:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。