論文の概要: Analog Lagrange Coded Computing
- arxiv url: http://arxiv.org/abs/2008.08565v2
- Date: Fri, 29 Jan 2021 23:42:14 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-27 12:45:18.783285
- Title: Analog Lagrange Coded Computing
- Title(参考訳): アナログラグランジュ符号計算
- Authors: Mahdi Soleymani, Hessam Mahdavifar, A. Salman Avestimehr
- Abstract要約: 分散コンピューティングシナリオは、ワーカノードの集合の計算能力を使用して、ワーカ間で分散されたデータセット上で特定の計算タスクを実行する。
Yuらによって提案されたLCCは、符号化コンピューティングにおいてよく知られたラグランジュ演算を利用する。
アナログドメイン(ALCC)に対するLCCの新規拡張を提案する。
- 参考スコア(独自算出の注目度): 23.67685616088422
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A distributed computing scenario is considered, where the computational power
of a set of worker nodes is used to perform a certain computation task over a
dataset that is dispersed among the workers. Lagrange coded computing (LCC),
proposed by Yu et al., leverages the well-known Lagrange polynomial to perform
polynomial evaluation of the dataset in such a scenario in an efficient
parallel fashion while keeping the privacy of data amidst possible collusion of
workers. This solution relies on quantizing the data into a finite field, so
that Shamir's secret sharing, as one of its main building blocks, can be
employed. Such a solution, however, is not properly scalable with the size of
dataset, mainly due to computation overflows. To address such a critical issue,
we propose a novel extension of LCC to the analog domain, referred to as analog
LCC (ALCC). All the operations in the proposed ALCC protocol are done over the
infinite fields of R/C but for practical implementations floating-point numbers
are used. We characterize the privacy of data in ALCC, against any subset of
colluding workers up to a certain size, in terms of the distinguishing security
(DS) and the mutual information security (MIS) metrics. Also, the accuracy of
outcome is characterized in a practical setting assuming operations are
performed using floating-point numbers. Consequently, a fundamental trade-off
between the accuracy of the outcome of ALCC and its privacy level is observed
and is numerically evaluated. Moreover, we implement the proposed scheme to
perform matrix-matrix multiplication over a batch of matrices. It is observed
that ALCC is superior compared to the state-of-the-art LCC, implemented using
fixed-point numbers, assuming both schemes use an equal number of bits to
represent data symbols.
- Abstract(参考訳): 分散コンピューティングシナリオでは、ワーカノードの集合の計算能力を使用して、ワーカ間で分散されたデータセット上で特定の計算タスクを実行する。
Yuらによって提案されたラグランジュ符号化コンピューティング(LCC)は、有名なラグランジュ多項式を利用して、労働者の共謀の可能性を秘めたデータのプライバシーを維持しながら、そのようなシナリオでデータセットの多項式評価を行う。
この解は、データを有限体に定量化することに依存しており、シャミールの秘密の共有は、その主要な構成要素の1つである。
しかし、このようなソリューションは、主に計算オーバーフローのため、データセットのサイズで適切にスケーラブルではない。
このような重要な問題に対処するため,アナログLCC(ALCC)と呼ばれるアナログ領域へのLCCの新たな拡張を提案する。
提案するALCCプロトコルのすべての操作は、R/Cの無限フィールド上で実行されるが、実際の実装では浮動小数点数を使用する。
我々は、ALCCにおけるデータのプライバシを、ある大きさの衝突労働者の任意のサブセットに対して、識別セキュリティ(DS)と相互情報セキュリティ(MIS)メトリクスの観点から特徴づける。
また、浮動小数点数を用いた演算を前提とした実用的な設定で結果の精度を特徴付ける。
その結果、ALCCの結果とプライバシーレベルとの基本的なトレードオフが観察され、数値的に評価される。
さらに,行列のバッチ上で行列-行列乗算を行うための提案手法を実装した。
両スキームが同じビット数を用いてデータシンボルを表現していると仮定すると、ALCCは固定点数を用いて実装された最先端のLCCよりも優れている。
関連論文リスト
- ByzSecAgg: A Byzantine-Resistant Secure Aggregation Scheme for Federated
Learning Based on Coded Computing and Vector Commitment [90.60126724503662]
ByzSecAggは、フェデレートラーニングのための効率的なセキュアアグリゲーションスキームである。
ByzSecAggは、ビザンツの攻撃やプライバシーの漏洩から保護されている。
論文 参考訳(メタデータ) (2023-02-20T11:15:18Z) - Linearized Wasserstein dimensionality reduction with approximation
guarantees [65.16758672591365]
LOT Wassmap は、ワーッサーシュタイン空間の低次元構造を明らかにするための計算可能なアルゴリズムである。
我々は,LOT Wassmapが正しい埋め込みを実現し,サンプルサイズの増加とともに品質が向上することを示す。
また、LOT Wassmapがペア距離計算に依存するアルゴリズムと比較して計算コストを大幅に削減することを示す。
論文 参考訳(メタデータ) (2023-02-14T22:12:16Z) - Task-Oriented Sensing, Computation, and Communication Integration for
Multi-Device Edge AI [108.08079323459822]
本稿では,AIモデルの分割推論と統合センシング通信(ISAC)を併用した,新しいマルチインテリジェントエッジ人工レイテンシ(AI)システムについて検討する。
推定精度は近似的だが抽出可能な計量、すなわち判別利得を用いて測定する。
論文 参考訳(メタデータ) (2022-07-03T06:57:07Z) - A Learning-Based Approach to Approximate Coded Computation [22.886991943938703]
我々は、LCCにインスパイアされたAI支援学習アプローチであるAICCを提案し、深層ニューラルネットワーク(DNN)も使用している。
より一般的な関数の符号化計算には適している。
論文 参考訳(メタデータ) (2022-05-19T19:43:53Z) - Generalized Lagrange Coded Computing: A Flexible Computation-Communication Tradeoff for Resilient, Secure, and Private Computation [11.951700263976777]
一般ラグランジュ符号計算(GLCC)符号は、時間内に結果を返さないストラグラーに対してレジリエンスを提供するために提案される。
LCCコードには、特殊なケースとして、最先端のラグランジュ・コードド・コンピューティング(LCC)コードが含まれる。
論文 参考訳(メタデータ) (2022-04-24T02:48:07Z) - Meta Learning Low Rank Covariance Factors for Energy-Based Deterministic
Uncertainty [58.144520501201995]
ニューラルネットワーク層のBi-Lipschitz正規化は、各レイヤの特徴空間におけるデータインスタンス間の相対距離を保存する。
注意セットエンコーダを用いて,タスク固有の共分散行列を効率的に構築するために,対角的,対角的,低ランクな要素のメタ学習を提案する。
また,最終的な予測分布を達成するために,スケールしたエネルギーを利用する推論手法を提案する。
論文 参考訳(メタデータ) (2021-10-12T22:04:19Z) - List-Decodable Coded Computing: Breaking the Adversarial Toleration
Barrier [24.75623641870649]
我々は,これまでコード化コンピューティングで知られていた逆許容しきい値障壁を破る手法を提案する。
本稿では,マスタノードがサイド情報を取得するために,適切に設計された余分な計算を行う方法を示す。
さらに、開発した技術を特定の符号化コンピューティング環境に組み込むため、折り畳みLCCまたはFLCCと呼ばれる折り畳みラグランジュ符号化コンピューティングを提案します。
論文 参考訳(メタデータ) (2021-01-27T19:17:33Z) - Berrut Approximated Coded Computing: Straggler Resistance Beyond
Polynomial Computing [34.69732430310801]
本稿では,ストラグラー効果に対処する代替手法として,Berrut Approximated Coded Computing (BACC)を提案する。
BACCは計算複雑性が低い数値的に安定であることが証明されている。
特に、BACCは、サーバのクラスタ上でディープニューラルネットワークをトレーニングするために使用される。
論文 参考訳(メタデータ) (2020-09-17T14:23:38Z) - Privacy-Preserving Distributed Learning in the Analog Domain [23.67685616088422]
計算サーバからデータをプライベートに保ちながら、データよりも分散学習の問題を考察する。
本稿では,アナログ領域にデータが存在する場合の問題を解くための新しいアルゴリズムを提案する。
本研究では,浮動小数点数を用いてデータを表す場合の計算処理に,提案フレームワークをどのように適用できるかを示す。
論文 参考訳(メタデータ) (2020-07-17T07:56:39Z) - Coded Distributed Computing with Partial Recovery [56.08535873173518]
部分回復型符号化計算(CCPR)と呼ばれる新しい符号化行列ベクトル乗法を導入する。
CCPRは計算時間と復号化の複雑さを減らし、精度と計算速度のトレードオフを可能にする。
次に、この手法をより一般的な計算タスクの分散実装に拡張し、部分的回復を伴う符号化通信方式を提案する。
論文 参考訳(メタデータ) (2020-07-04T21:34:49Z) - Learnable Subspace Clustering [76.2352740039615]
本研究では,大規模サブスペースクラスタリング問題を効率的に解くために,学習可能なサブスペースクラスタリングパラダイムを開発する。
鍵となる考え方は、高次元部分空間を下層の低次元部分空間に分割するパラメトリック関数を学ぶことである。
我々の知る限り、本論文は、サブスペースクラスタリング手法の中で、数百万のデータポイントを効率的にクラスタ化する最初の試みである。
論文 参考訳(メタデータ) (2020-04-09T12:53:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。