論文の概要: Iterative Sketching for Secure Coded Regression
- arxiv url: http://arxiv.org/abs/2308.04185v1
- Date: Tue, 8 Aug 2023 11:10:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-09 13:05:01.334808
- Title: Iterative Sketching for Secure Coded Regression
- Title(参考訳): セキュアコード回帰のための反復スケッチ
- Authors: Neophytos Charalambides, Hessam Mahdavifar, Mert Pilanci, Alfred O.
Hero III
- Abstract要約: ランダムなスケッチ技術を活用し、非同期システムにおけるストラグラーレジリエンスを改善する。
ランダムな正則行列とサブサンプルのテキストブロックを適用し、情報を同時に確保し、回帰問題の次元を小さくする。
- 参考スコア(独自算出の注目度): 74.88044637225738
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, we propose methods for speeding up linear regression
distributively, while ensuring security. We leverage randomized sketching
techniques, and improve straggler resilience in asynchronous systems.
Specifically, we apply a random orthonormal matrix and then subsample
\textit{blocks}, to simultaneously secure the information and reduce the
dimension of the regression problem. In our setup, the transformation
corresponds to an encoded encryption in an \textit{approximate gradient coding
scheme}, and the subsampling corresponds to the responses of the non-straggling
workers; in a centralized coded computing network. This results in a
distributive \textit{iterative sketching} approach for an $\ell_2$-subspace
embedding, \textit{i.e.} a new sketch is considered at each iteration. We also
focus on the special case of the \textit{Subsampled Randomized Hadamard
Transform}, which we generalize to block sampling; and discuss how it can be
modified in order to secure the data.
- Abstract(参考訳): 本研究では,安全性を確保しつつ,線形回帰分布を高速化する手法を提案する。
ランダムなスケッチ技術を活用し、非同期システムにおけるストラグラーレジリエンスを改善する。
具体的には、ランダム正規直交行列を適用し、その後、情報を確保し、回帰問題の次元を減らすために \textit{blocks} をサブサンプルする。
我々の設定では、変換は \textit{approximate gradient coding scheme} で符号化された暗号化に対応し、サブサンプリングは非ストラップ作業者の応答に対応する。
これにより、$\ell_2$-subspace Embedding, \textit{i.e.} に対する分配的な \textit{iterative sketching} アプローチが各イテレーションで検討される。
我々はまた、サンプリングをブロックするために一般化された \textit{Subsampled Randomized Hadamard Transform} の特別なケースに焦点を当て、データをセキュアにするためにどのように修正できるかについて議論する。
関連論文リスト
- GEC-DePenD: Non-Autoregressive Grammatical Error Correction with
Decoupled Permutation and Decoding [52.14832976759585]
文法的誤り訂正(GEC)は、通常自己回帰的なシーケンス・ツー・シーケンスモデルで解決される重要なNLPタスクである。
本稿では, アーキテクチャを置換ネットワークに分離する, GEC に対する非自己回帰的アプローチを提案する。
GECの既知の非自己回帰手法よりもネットワークが向上することを示す。
論文 参考訳(メタデータ) (2023-11-14T14:24:36Z) - Gradient Coding through Iterative Block Leverage Score Sampling [40.37097343584523]
変換したデータのサンプリングサブセットに対応するために,$ell$-subspace埋め込みのためのレバレッジスコアサンプリングスケッチを一般化する。
これを用いて、一階法に対する近似符号付き計算手法を導出する。
論文 参考訳(メタデータ) (2023-08-06T12:22:12Z) - Sketching for First Order Method: Efficient Algorithm for Low-Bandwidth
Channel and Vulnerability [22.90127105925077]
本稿では,大規模分散学習環境における一階法のための新しいスケッチ手法を提案する。
スケッチ手法を適用した後も勾配漏れの問題が残っていることを示す。
その結果,勾配情報にランダムノイズを加えることで,アルゴリズムが微分プライベートになることを厳格に証明した。
論文 参考訳(メタデータ) (2022-10-15T20:44:15Z) - Distributed Sketching for Randomized Optimization: Exact
Characterization, Concentration and Lower Bounds [54.51566432934556]
我々はヘシアンの形成が困難である問題に対する分散最適化法を検討する。
ランダム化されたスケッチを利用して、問題の次元を減らし、プライバシを保ち、非同期分散システムにおけるストラグラーレジリエンスを改善します。
論文 参考訳(メタデータ) (2022-03-18T05:49:13Z) - Solving weakly supervised regression problem using low-rank manifold
regularization [77.34726150561087]
我々は弱い教師付き回帰問題を解く。
weakly"の下では、いくつかのトレーニングポイントではラベルが知られ、未知のものもあれば、無作為なノイズの存在やリソースの欠如などの理由によって不確かであることが分かっています。
数値的な節ではモンテカルロモデルを用いて提案手法を人工と実のデータセットに適用した。
論文 参考訳(メタデータ) (2021-04-13T23:21:01Z) - Preventing Posterior Collapse with Levenshtein Variational Autoencoder [61.30283661804425]
我々は,エビデンス・ロー・バウンド(ELBO)を最適化し,後部崩壊を防止できる新しい目的に置き換えることを提案する。
本稿では,Levenstein VAEが後方崩壊防止のための代替手法よりも,より情報的な潜伏表現を生成することを示す。
論文 参考訳(メタデータ) (2020-04-30T13:27:26Z) - Efficient Algorithms for Multidimensional Segmented Regression [42.046881924063044]
多次元回帰を用いた固定設計の基本問題について検討する。
我々は任意の固定次元におけるこの問題に対する最初のサンプルと計算効率のよいアルゴリズムを提供する。
提案アルゴリズムは,多次元的条件下では新規な,単純なマージ反復手法に依存している。
論文 参考訳(メタデータ) (2020-03-24T19:39:34Z) - Localized sketching for matrix multiplication and ridge regression [29.61816941867831]
局所的スケッチの新たな設定において,スケッチ化された近似行列乗法とリッジ回帰を考察する。
緩やかな条件下では、ブロック対角線スケッチ行列はO(安定ランク/エプシロン2)と$O(stat. dim. epsilon)$の値のみを必要とする。
論文 参考訳(メタデータ) (2020-03-20T04:25:32Z) - Distributed Sketching Methods for Privacy Preserving Regression [54.51566432934556]
ランダム化されたスケッチを利用して、問題の次元を減らし、プライバシを保ち、非同期分散システムにおけるストラグラーレジリエンスを改善します。
従来のスケッチ手法に対する新しい近似保証を導出し、分散スケッチにおけるパラメータ平均化の精度を解析する。
大規模実験によるサーバレスコンピューティングプラットフォームにおける分散スケッチのパフォーマンスについて説明する。
論文 参考訳(メタデータ) (2020-02-16T08:35:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。