論文の概要: On InstaHide, Phase Retrieval, and Sparse Matrix Factorization
- arxiv url: http://arxiv.org/abs/2011.11181v2
- Date: Thu, 25 Mar 2021 00:08:38 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-22 01:44:11.611323
- Title: On InstaHide, Phase Retrieval, and Sparse Matrix Factorization
- Title(参考訳): instahide, phase retrieval, およびsparse matrix factorizationについて
- Authors: Sitan Chen, Xiaoxiao Li, Zhao Song, Danyang Zhuo
- Abstract要約: InstaHideは、分散学習の文脈でプライベートデータセットのセキュリティを保存するためのスキームである。
健全な疑問は、このスキームが証明可能な意味で安全かどうかである。
本研究は, 位相探索の古典的問題に対する, マルチタスク, 欠落データバージョンの平均ケース複雑性と, 非常に微妙な関係があることを示唆する。
- 参考スコア(独自算出の注目度): 32.93116534310763
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, we examine the security of InstaHide, a scheme recently
proposed by [Huang, Song, Li and Arora, ICML'20] for preserving the security of
private datasets in the context of distributed learning. To generate a
synthetic training example to be shared among the distributed learners,
InstaHide takes a convex combination of private feature vectors and randomly
flips the sign of each entry of the resulting vector with probability 1/2. A
salient question is whether this scheme is secure in any provable sense,
perhaps under a plausible hardness assumption and assuming the distributions
generating the public and private data satisfy certain properties.
We show that the answer to this appears to be quite subtle and closely
related to the average-case complexity of a new multi-task, missing-data
version of the classic problem of phase retrieval. Motivated by this
connection, we design a provable algorithm that can recover private vectors
using only the public vectors and synthetic vectors generated by InstaHide,
under the assumption that the private and public vectors are isotropic
Gaussian.
- Abstract(参考訳): 本研究では,分散学習の文脈でプライベートデータセットのセキュリティを維持するための,[Huang, Song, Li, Arora, ICML'20] が最近提案した InstaHide のセキュリティについて検討する。
分散学習者間で共有される合成学習例を生成するため、instahideはプライベート特徴ベクトルの凸結合を取り、結果ベクトルの各エントリの符号を確率1/2でランダムに反転させる。
健全な疑問は、このスキームが証明可能な意味で安全であるかどうかであり、おそらくは可算的硬度仮定の下で、パブリックデータとプライベートデータを生成する分布が特定の特性を満たすことを仮定する。
これに対する答えは、位相検索の古典的な問題のマルチタスク、欠落データバージョンにおける平均ケースの複雑さと非常に密接な関係があることが示される。
この関係に動機づけられて,プライベートベクトルとパブリックベクトルが等方性ガウス的であることを前提に,instahide が生成する合成ベクトルと公開ベクトルのみを用いてプライベートベクトルを復元するプロビタブルアルゴリズムを設計した。
関連論文リスト
- Probabilistic Contrastive Learning for Long-Tailed Visual Recognition [78.70453964041718]
細長い分布は、少数の少数派が限られた数のサンプルを含む実世界のデータにしばしば現れる。
近年の研究では、教師付きコントラスト学習がデータ不均衡を緩和する有望な可能性を示していることが明らかになっている。
本稿では,特徴空間の各クラスからのサンプルデータ分布を推定する確率論的コントラスト学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-03-11T13:44:49Z) - Learning a Gaussian Mixture for Sparsity Regularization in Inverse
Problems [2.375943263571389]
逆問題では、スパーシティ事前の組み込みは、解に対する正則化効果をもたらす。
本稿では,ガウスの混合として事前に定式化された確率的疎性について提案する。
我々は、このネットワークのパラメータを推定するために、教師なしのトレーニング戦略と教師なしのトレーニング戦略をそれぞれ導入した。
論文 参考訳(メタデータ) (2024-01-29T22:52:57Z) - On the Universal Adversarial Perturbations for Efficient Data-free
Adversarial Detection [55.73320979733527]
本稿では,UAPに対して正常サンプルと逆サンプルの異なる応答を誘導する,データに依存しない逆検出フレームワークを提案する。
実験結果から,本手法は様々なテキスト分類タスクにおいて,競合検出性能を実現することが示された。
論文 参考訳(メタデータ) (2023-06-27T02:54:07Z) - Deterministic equivalent and error universality of deep random features
learning [4.8461049669050915]
この問題は、広く研究されているランダム特徴モデルのより深いアーキテクチャへの自然な一般化と見なすことができる。
まず,学習者と対象ネットワークが同一の中間層を共有した普遍性リッジ設定において,テストエラーの普遍性を証明し,そのシャープな式を提供する。
第二に、任意の凸損失と一般的な学習/ターゲットアーキテクチャのより一般的な設定において、テストエラーの普遍性を予想する。
論文 参考訳(メタデータ) (2023-02-01T12:37:10Z) - Differential Secrecy for Distributed Data and Applications to Robust
Differentially Secure Vector Summation [32.004283989604154]
本稿では,各コントリビューションのユークリッドノルムがほぼ有界であることを検証したベクトル和のプロトコルを提案する。
必然的に整数を大きな有限体の要素にキャストするSMCアルゴリズムとは異なり、我々のアルゴリズムは整数/実数上で動作し、それによってさらなる効率が期待できる。
論文 参考訳(メタデータ) (2022-02-22T02:06:42Z) - Differential Privacy of Dirichlet Posterior Sampling [0.0]
ディリクレ後部分布から1枚のドローを放出する固有のプライバシーについて検討する。
トランカットされた集中微分プライバシー(tCDP)の概念により、ディリクレ後方サンプリングの単純なプライバシー保証を導き出すことができる。
論文 参考訳(メタデータ) (2021-10-03T07:41:19Z) - Causally-motivated Shortcut Removal Using Auxiliary Labels [63.686580185674195]
このようなリスク不変予測器の学習に重要な課題はショートカット学習である。
この課題に対処するために、フレキシブルで因果的なアプローチを提案する。
この因果的動機付けされた正規化スキームが堅牢な予測子を生み出すことを理論的および実証的に示す。
論文 参考訳(メタデータ) (2021-05-13T16:58:45Z) - Learning to Separate Clusters of Adversarial Representations for Robust
Adversarial Detection [50.03939695025513]
本稿では,最近導入された非破壊的特徴を動機とした新しい確率的対向検出器を提案する。
本稿では,非ロバスト特徴を逆例の共通性と考え,その性質に対応する表現空間におけるクラスターの探索が可能であることを推定する。
このアイデアは、別のクラスタ内の逆表現の確率推定分布を導出し、その分布を確率に基づく逆検出器として活用する。
論文 参考訳(メタデータ) (2020-12-07T07:21:18Z) - Parsimonious Feature Extraction Methods: Extending Robust Probabilistic
Projections with Generalized Skew-t [0.8336315962271392]
本稿では,学生の確率的主成分法に新たな一般化を提案する。
この新しいフレームワークは、観測データにおける端尾依存性の群をモデル化するための、より柔軟なアプローチを提供する。
新しいフレームワークの適用性は、最も高い市場資本を持つ暗号通貨からなるデータセットに説明されている。
論文 参考訳(メタデータ) (2020-09-24T05:53:41Z) - Learning Output Embeddings in Structured Prediction [73.99064151691597]
構造化予測に対する強力で柔軟なアプローチは、予測される構造化対象を潜在的に無限次元の特徴空間に埋め込むことである。
原空間における予測は、前像問題の解法により計算される。
本研究では,新しい特徴空間に出力埋め込みと回帰関数の有限近似を共同で学習することを提案する。
論文 参考訳(メタデータ) (2020-07-29T09:32:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。