論文の概要: General Coded Computing: Adversarial Settings

• arxiv url: http://arxiv.org/abs/2502.08058v1
• Date: Wed, 12 Feb 2025 01:50:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-13 13:44:51.711608
• Title: General Coded Computing: Adversarial Settings
• Title（参考訳）: 汎用コンピューティング - 逆設定
• Authors: Parsa Moradi, Hanzaleh Akbarinodehi, Mohammad Ali Maddah-Ali,
• Abstract要約: 本稿では,汎用計算の基盤を築き,多種多様な計算を扱うための符号化計算の適用性を拡張した。 提案手法は, 汎用フレームワークにおいて, 最大数の対向サーバにおいて, 最適対向ロバスト性を実現することができることを示す。
• 参考スコア（独自算出の注目度）: 15.839621757142597
• License:
• Abstract: Conventional coded computing frameworks are predominantly tailored for structured computations, such as matrix multiplication and polynomial evaluation. Such tasks allow the reuse of tools and techniques from algebraic coding theory to improve the reliability of distributed systems in the presence of stragglers and adversarial servers. This paper lays the foundation for general coded computing, which extends the applicability of coded computing to handle a wide class of computations. In addition, it particularly addresses the challenging problem of managing adversarial servers. We demonstrate that, in the proposed scheme, for a system with $N$ servers, where $\mathcal{O}(N^a)$, $a \in [0,1)$, are adversarial, the supremum of the average approximation error over all adversarial strategies decays at a rate of $N^{\frac{6}{5}(a-1)}$, under minimal assumptions on the computing tasks. Furthermore, we show that within a general framework, the proposed scheme achieves optimal adversarial robustness, in terms of maximum number of adversarial servers it can tolerate. This marks a significant step toward practical and reliable general coded computing. Implementation results further validate the effectiveness of the proposed method in handling various computations, including inference in deep neural networks.
• Abstract（参考訳）: 従来の符号化コンピューティングフレームワークは、行列乗算や多項式評価のような構造化された計算に主に適合している。 このようなタスクにより、代数的符号化理論からツールやテクニックを再利用し、ストラグラーや敵サーバの存在下で分散システムの信頼性を向上させることができる。 本稿では,汎用計算の基盤を築き,多種多様な計算を扱うための符号化計算の適用性を拡張した。 さらに、敵サーバを管理するという困難な問題にも特に対処している。 提案手法では、$N$サーバを持つシステムにおいて、$\mathcal{O}(N^a)$, $a \in [0,1)$は逆数であり、全ての逆数戦略に対する平均近似誤差の上限は$N^{\frac{6}{5}(a-1)}$の速度で減衰することを示した。 さらに,提案手法は汎用フレームワークにおいて,最大数の対向サーバで許容できる最適対向ロバスト性を実現していることを示す。 これは実用的で信頼性の高い汎用計算への重要な一歩である。 実装結果は、ディープニューラルネットワークの推論を含む様々な計算処理における提案手法の有効性をさらに検証する。

関連論文リスト

• Near-Optimal Online Learning for Multi-Agent Submodular Coordination: Tight Approximation and Communication Efficiency [52.60557300927007]
  離散部分モジュラー問題を連続的に最適化するために,$textbfMA-OSMA$アルゴリズムを提案する。 また、一様分布を混合することによりKLの発散を効果的に活用する、プロジェクションフリーな$textbfMA-OSEA$アルゴリズムも導入する。 我々のアルゴリズムは最先端OSGアルゴリズムによって提供される$(frac11+c)$-approximationを大幅に改善する。
  論文  参考訳（メタデータ） (2025-02-07T15:57:56Z)
• General Coded Computing in a Probabilistic Straggler Regime [15.960546024967327]
  近年,正確な計算を近似計算に置き換える一般計算関数のための新しい符号化計算方式が出現している。 本稿では、一般的な符号化コンピューティングの文脈において、各サーバが他のサーバとは独立して確率$p$のストラグラーになるという、現実的に重要なシナリオについて論じる。 既存の2つの一般符号計算スキームの平均近似誤差は、少なくとも$mathcalO(log3_frac1p(N)cdotN-3)$の速度で0に収束することを示す。
  論文  参考訳（メタデータ） (2025-02-02T03:24:05Z)
• Coded Computing for Resilient Distributed Computing: A Learning-Theoretic Framework [15.703073293718953]
  本稿では,学習理論の原理を統合し,機械学習アプリケーションにシームレスに適応するフレームワークを開発することを目的とした,符号化コンピューティングのための新しい基盤を提案する。 提案手法では, 推定誤差の平均は$mathcalO(S3 N-3)$と$mathcalO(Sfrac85Nfrac-35)$の2乗誤差で, ノイズのない, ノイズの多い計算条件で減衰することを示した。
  論文  参考訳（メタデータ） (2024-06-01T05:01:25Z)
• An Optimal Transport Approach for Computing Adversarial Training Lower Bounds in Multiclass Classification [3.447848701446988]
  強靭性を強制する一般的なパラダイムは、敵対的訓練(AT)であるが、これは多くの計算的および理論的困難をもたらす。 最近の研究は、ATとマルチクラス分類設定(MOT)の接続を開発し、この問題を研究するための新しいツールセットをアンロックしている。 本稿では,最適対向リスクの普遍的下界を計算するための計算処理可能な数値アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-01-17T13:03:47Z)
• Efficient Methods for Non-stationary Online Learning [61.63338724659592]
  本稿では, 動的後悔と適応的後悔を最適化する効率的な手法を提案し, ラウンド当たりの投影回数を$mathcalO(log T)$から$ $1$まで削減した。 また、さらに強化された測度、すなわち「インターバル・ダイナミック・リピート」を研究し、ラウンド当たりの射影数を$mathcalO(log2 T)$から$$$$に減らした。
  論文  参考訳（メタデータ） (2023-09-16T07:30:12Z)
• Randomized Polar Codes for Anytime Distributed Machine Learning [66.46612460837147]
  本稿では,低速な計算ノードに対して堅牢で,線形演算の近似計算と精度の両立が可能な分散コンピューティングフレームワークを提案する。 本稿では,復号化のための計算複雑性を低く保ちながら,実数値データを扱うための逐次復号アルゴリズムを提案する。 大規模行列乗算やブラックボックス最適化など,様々な文脈において,このフレームワークの潜在的な応用を実証する。
  論文  参考訳（メタデータ） (2023-09-01T18:02:04Z)
• Robust Training and Verification of Implicit Neural Networks: A Non-Euclidean Contractive Approach [64.23331120621118]
  本稿では,暗黙的ニューラルネットワークのトレーニングとロバスト性検証のための理論的および計算的枠組みを提案する。 組込みネットワークを導入し、組込みネットワークを用いて、元のネットワークの到達可能な集合の超近似として$ell_infty$-normボックスを提供することを示す。 MNISTデータセット上で暗黙的なニューラルネットワークをトレーニングするためにアルゴリズムを適用し、我々のモデルの堅牢性と、文献における既存のアプローチを通じてトレーニングされたモデルを比較する。
  論文  参考訳（メタデータ） (2022-08-08T03:13:24Z)
• Berrut Approximated Coded Computing: Straggler Resistance Beyond Polynomial Computing [34.69732430310801]
  本稿では,ストラグラー効果に対処する代替手法として,Berrut Approximated Coded Computing (BACC)を提案する。 BACCは計算複雑性が低い数値的に安定であることが証明されている。 特に、BACCは、サーバのクラスタ上でディープニューラルネットワークをトレーニングするために使用される。
  論文  参考訳（メタデータ） (2020-09-17T14:23:38Z)
• Coded Distributed Computing with Partial Recovery [56.08535873173518]
  部分回復型符号化計算(CCPR)と呼ばれる新しい符号化行列ベクトル乗法を導入する。 CCPRは計算時間と復号化の複雑さを減らし、精度と計算速度のトレードオフを可能にする。 次に、この手法をより一般的な計算タスクの分散実装に拡張し、部分的回復を伴う符号化通信方式を提案する。
  論文  参考訳（メタデータ） (2020-07-04T21:34:49Z)
• Stochastic Flows and Geometric Optimization on the Orthogonal Group [52.50121190744979]
  直交群 $O(d)$ 上の幾何駆動最適化アルゴリズムの新しいクラスを示す。 提案手法は,深層,畳み込み,反復的なニューラルネットワーク,強化学習,フロー,メトリック学習など,機械学習のさまざまな分野に適用可能であることを示す。
  論文  参考訳（メタデータ） (2020-03-30T15:37:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。