論文の概要: Fast Private Kernel Density Estimation via Locality Sensitive Quantization

• arxiv url: http://arxiv.org/abs/2307.01877v1
• Date: Tue, 4 Jul 2023 18:48:04 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-06 16:01:26.537255
• Title: Fast Private Kernel Density Estimation via Locality Sensitive Quantization
• Title（参考訳）: 局所感性量子化による高速プライベートカーネル密度推定
• Authors: Tal Wagner, Yonatan Naamad, Nina Mishra
• Abstract要約: 差分プライベートカーネル密度推定(DP-KDE)の効率的なメカニズムについて検討する。 カーネルを$d$の時間線形でプライベートに近似する方法を示し、高次元データに対して実現可能である。
• 参考スコア（独自算出の注目度）: 10.227538355037554
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study efficient mechanisms for differentially private kernel density estimation (DP-KDE). Prior work for the Gaussian kernel described algorithms that run in time exponential in the number of dimensions $d$. This paper breaks the exponential barrier, and shows how the KDE can privately be approximated in time linear in $d$, making it feasible for high-dimensional data. We also present improved bounds for low-dimensional data. Our results are obtained through a general framework, which we term Locality Sensitive Quantization (LSQ), for constructing private KDE mechanisms where existing KDE approximation techniques can be applied. It lets us leverage several efficient non-private KDE methods -- like Random Fourier Features, the Fast Gauss Transform, and Locality Sensitive Hashing -- and ``privatize'' them in a black-box manner. Our experiments demonstrate that our resulting DP-KDE mechanisms are fast and accurate on large datasets in both high and low dimensions.
• Abstract（参考訳）: 差分プライベートカーネル密度推定(DP-KDE)の効率的なメカニズムについて検討した。 gaussian kernel の以前の作業では、次元 $d$ で指数関数的に実行されるアルゴリズムが記述されていた。 本稿では,指数障壁を破り,KDEを時間線形に$d$でプライベートに近似し,高次元データに対して実現可能であることを示す。 また,低次元データの境界も改善した。 本研究は,既存のKDE近似手法を応用可能なKDE機構を構築するために,LSQ(Locality Sensitive Quantization)と呼ばれる一般フレームワークを用いて得られた。 Random Fourier Features、Fast Gauss Transform、Locality Sensitive Hashingなど、効率的な非プライベートなKDEメソッドをブラックボックスで活用できます。 実験の結果,DP-KDE機構は高次元および低次元の大規模データセット上で高速かつ高精度であることがわかった。

関連論文リスト

• KDEformer: Accelerating Transformers via Kernel Density Estimation [30.860357184928407]
  本稿では,Dot-product attention mechanismの正確な計算方法を提案する。 提案手法は, 精度, メモリ, 実行時間において, 他の注目度よりも優れていることを示す。 T2T-ViTを用いた画像分類では,精度低下が0.5%以下であるのに対して,18時間以上のスピードアップを示す。
  論文  参考訳（メタデータ） (2023-02-05T18:23:49Z)
• Solving High-Dimensional PDEs with Latent Spectral Models [74.1011309005488]
  我々は,高次元PDEの効率的かつ高精度な解法に向けて,Latent Spectral Models (LSM) を提案する。 数値解析において古典スペクトル法に着想を得て,潜時空間におけるPDEを解くために,ニューラルスペクトルブロックを設計する。 LSMは、一貫した最先端を実現し、7つのベンチマークで平均11.5%の相対的な利益を得る。
  論文  参考訳（メタデータ） (2023-01-30T04:58:40Z)
• Dynamic Maintenance of Kernel Density Estimation Data Structure: From Practice to Theory [16.460386321121945]
  カーネル密度推定(KDE)は機械学習において難しい課題である。 近年,効率的なKDEにデータ構造を用いる傾向が高まっている。 そこで本研究では,KDEデータ構造を動的に維持し,逆クエリに対する堅牢性に着目した。
  論文  参考訳（メタデータ） (2022-08-08T04:40:20Z)
• Fast Kernel Density Estimation with Density Matrices and Random Fourier Features [0.0]
  カーネル密度推定 (KDE) は、最も広く使われている非パラメトリック密度推定法の一つである。 DMKDEは密度行列、量子力学的定式化、ランダムフーリエ特徴、明示的なカーネル近似を用いて密度推定を生成する。 DMKDEは、計算密度推定の競合と同等であり、高次元データ上で実行された場合の利点が示される。
  論文  参考訳（メタデータ） (2022-08-02T02:11:10Z)
• CROM: Continuous Reduced-Order Modeling of PDEs Using Implicit Neural Representations [5.551136447769071]
  高忠実度偏微分方程式ソルバの過剰実行は、時間クリティカルな応用には適さない。 我々は低次モデリング(ROM)を用いたPDEソルバの高速化を提案する。 我々のアプローチは、その離散化ではなく、連続ベクトル場自体の滑らかで低次元多様体を構築する。
  論文  参考訳（メタデータ） (2022-06-06T13:27:21Z)
• Scaling Structured Inference with Randomization [64.18063627155128]
  本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。 我々の手法は古典的DPベースの推論に広く適用できる。 また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
  論文  参考訳（メタデータ） (2021-12-07T11:26:41Z)
• Generative Adversarial Learning via Kernel Density Discrimination [32.91091065436645]
  本稿では,KDD GAN(Kernel Density Discrimination GAN)について紹介する。 我々は,カーネル密度推定を特徴空間内で直接定義し,カーネル特徴写像の可逆性の必要性を排除した。 その結果,FIDの基準値に比べてFIDが10%から40%に向上することが示唆された。
  論文  参考訳（メタデータ） (2021-07-13T15:52:10Z)
• A Note on Optimizing Distributions using Kernel Mean Embeddings [94.96262888797257]
  カーネル平均埋め込みは、その無限次元平均埋め込みによる確率測度を表す。 カーネルが特徴的である場合、カーネルの総和密度を持つ分布は密度が高いことを示す。 有限サンプル設定でそのような分布を最適化するアルゴリズムを提供する。
  論文  参考訳（メタデータ） (2021-06-18T08:33:45Z)
• Random Features for the Neural Tangent Kernel [57.132634274795066]
  完全接続型ReLUネットワークのニューラルタンジェントカーネル(NTK)の効率的な特徴マップ構築を提案する。 得られた特徴の次元は、理論と実践の両方で比較誤差境界を達成するために、他のベースライン特徴マップ構造よりもはるかに小さいことを示しています。
  論文  参考訳（メタデータ） (2021-04-03T09:08:12Z)
• Nonparametric Density Estimation from Markov Chains [68.8204255655161]
  我々はマルコフ・チェインにインスパイアされた新しい非パラメトリック密度推定器を導入し、よく知られたケルネル密度推定器を一般化する。 我々の推定器は, 通常のものに対していくつかの利点を示し, 全密度アルゴリズムの基盤として容易に利用できる。
  論文  参考訳（メタデータ） (2020-09-08T18:33:42Z)
• A One-Pass Private Sketch for Most Machine Learning Tasks [48.17461258268463]
  差別化プライバシ(DP)は、正式な証明可能な保証を通じて、プライバシとユーティリティのトレードオフを説明する魅力的なプライバシ定義である。 本稿では,回帰,分類,密度推定など,多数の機械学習タスクをサポートするプライベートスケッチを提案する。 このスケッチは,局所性に敏感なハッシュをインデックス化して,効率的なワンパスアルゴリズムで構築したランダムな一致テーブルで構成されている。
  論文  参考訳（メタデータ） (2020-06-16T17:47:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。