論文の概要: A Neighbourhood-Aware Differential Privacy Mechanism for Static Word Embeddings

• arxiv url: http://arxiv.org/abs/2309.10551v1
• Date: Tue, 19 Sep 2023 11:58:08 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-20 14:44:09.079206
• Title: A Neighbourhood-Aware Differential Privacy Mechanism for Static Word Embeddings
• Title（参考訳）: 静的な単語埋め込みのための隣接認識型差分プライバシー機構
• Authors: Danushka Bollegala, Shuichi Otake, Tomoya Machide, Ken-ichi Kawarabayashi
• Abstract要約: 本研究では,事前訓練された静的単語埋め込み空間において,単語の近傍を考慮に入れたNighbourhood-Aware Differential Privacy (NADP) 機構を提案する。 まず、単語に最も近い近傍グラフを埋め込みを用いて構築し、それを連結成分の集合に分解する。 次に、各近傍の単語に対して異なるレベルのガウス雑音を別々に適用し、その近傍の単語の集合によって決定される。
• 参考スコア（独自算出の注目度）: 29.514170092086598
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose a Neighbourhood-Aware Differential Privacy (NADP) mechanism considering the neighbourhood of a word in a pretrained static word embedding space to determine the minimal amount of noise required to guarantee a specified privacy level. We first construct a nearest neighbour graph over the words using their embeddings, and factorise it into a set of connected components (i.e. neighbourhoods). We then separately apply different levels of Gaussian noise to the words in each neighbourhood, determined by the set of words in that neighbourhood. Experiments show that our proposed NADP mechanism consistently outperforms multiple previously proposed DP mechanisms such as Laplacian, Gaussian, and Mahalanobis in multiple downstream tasks, while guaranteeing higher levels of privacy.
• Abstract（参考訳）: 本研究では,事前訓練された静的単語埋め込み空間における単語の近傍を考慮し,特定のプライバシレベルを保証するのに必要な最小限のノイズを判定するNADP(Neighbourhood-Aware Differential Privacy)機構を提案する。 まず、それらの埋め込みを使って単語の上に最も近い隣接グラフを構築し、それらを連結されたコンポーネント(すなわち近傍)の集合に分解する。 次に、各近傍の単語に対して異なるレベルのガウス雑音を適用し、その近傍の単語集合によって決定される。 実験の結果,提案するNADP機構は,複数の下流タスクにおいて,Laplacian, Gaussian, Mahalanobisといった従来提案されていたDPメカニズムを常に上回り,高いプライバシーレベルを保証していることがわかった。

関連論文リスト

• Private Language Models via Truncated Laplacian Mechanism [18.77713904999236]
  本稿では,高次元トラカート型ラプラシアン機構と呼ばれる新しいプライベート埋め込み手法を提案する。 提案手法は,従来のプライベート単語埋め込み法に比べて分散度が低いことを示す。 注目すべきは、高いプライバシー体制であっても、私たちのアプローチは、プライベートでないシナリオに比べて、実用性がわずかに低下することです。
  論文  参考訳（メタデータ） (2024-10-10T15:25:02Z)
• On the Privacy of Selection Mechanisms with Gaussian Noise [44.577599546904736]
  ガウス雑音によるReport Noisy MaxとAbove Thresholdの分析を再検討する。 その結果,Report Noisy Max の純元 DP 境界と Above Threshold の純元 DP 境界を提供することが可能であることがわかった。
  論文  参考訳（メタデータ） (2024-02-09T02:11:25Z)
• Optimizing Noise for $f$-Differential Privacy via Anti-Concentration and Stochastic Dominance [7.581259361859479]
  正準雑音分布 (CND) は, 半整数値で反集束境界に一致することを示す。 離散 CND の新たな概念を提案し、離散 CND が常に存在することを証明する。 我々の理論的結果は、$f$DPフレームワークで可能な様々な種類のプライバシー保証に光を当て、パフォーマンスを最適化するより複雑なメカニズムに組み込まれることができます。
  論文  参考訳（メタデータ） (2023-08-16T13:09:27Z)
• Dynamic Privacy Allocation for Locally Differentially Private Federated Learning with Composite Objectives [10.528569272279999]
  本稿では,強い凸性を持つが非滑らかな問題に対する差分プライベートなフェデレーション学習アルゴリズムを提案する。 提案アルゴリズムは、共有情報に人工ノイズを加えてプライバシーを確保するとともに、時間変化のノイズ分散を動的に割り当て、最適化誤差の上限を最小化する。 解析結果から,提案手法が最先端手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-08-02T13:30:33Z)
• A unifying framework for differentially private quantum algorithms [0.0]
  本稿では、近隣の量子状態の新規で一般的な定義を提案する。 この定義が量子符号化の基盤となる構造を捉えることを実証する。 また、入力状態のコピーを複数用意した代替設定についても検討する。
  論文  参考訳（メタデータ） (2023-07-10T17:44:03Z)
• Adaptive Privacy Composition for Accuracy-first Mechanisms [55.53725113597539]
  ノイズ低減機構はますます正確な答えを生み出す。 アナリストは、公表された最も騒々しい、あるいは最も正確な回答のプライバシー費用のみを支払う。 ポスト前のプライベートメカニズムがどのように構成されるかは、まだ研究されていない。 我々は、分析者が微分プライベートとポストプライベートのメカニズムを適応的に切り替えることのできるプライバシーフィルタを開発した。
  論文  参考訳（メタデータ） (2023-06-24T00:33:34Z)
• Breaking the Communication-Privacy-Accuracy Tradeoff with $f$-Differential Privacy [51.11280118806893]
  サーバが複数のユーザの協調的なデータ分析を,プライバシの懸念と限られた通信能力で調整する,フェデレートされたデータ分析問題を考える。 有限出力空間を有する離散値機構の局所的差分プライバシー保証を$f$-differential privacy (DP) レンズを用いて検討する。 より具体的には、様々な離散的評価機構の厳密な$f$-DP保証を導出することにより、既存の文献を前進させる。
  論文  参考訳（メタデータ） (2023-02-19T16:58:53Z)
• Multiple Kernel Clustering with Dual Noise Minimization [56.009011016367744]
  マルチカーネルクラスタリング(MKC)は、ベースカーネルから補完的な情報を統合することでデータをグループ化する。 本稿では,双対雑音を厳密に定義し,パラメータフリーなMKCアルゴリズムを提案する。 二重ノイズはブロック対角構造を汚染し,クラスタリング性能の劣化を招き,CノイズはNノイズよりも強い破壊を示す。
  論文  参考訳（メタデータ） (2022-07-13T08:37:42Z)
• Brownian Noise Reduction: Maximizing Privacy Subject to Accuracy Constraints [53.01656650117495]
  研究者と実践者の間には、プライバシとユーティリティのトレードオフの扱い方の違いがある。 ブラウン機構は、まず擬ブラウン運動の最終点に対応する高分散のガウス雑音を加えることで機能する。 我々は、古典的AboveThresholdアルゴリズムの一般化であるReduceedAboveThresholdでブラウン機構を補完する。
  論文  参考訳（メタデータ） (2022-06-15T01:43:37Z)
• Smoothed Differential Privacy [55.415581832037084]
  微分プライバシー(DP)は、最悪のケース分析に基づいて広く受け入れられ、広く適用されているプライバシーの概念である。 本稿では, 祝賀されたスムーズな解析の背景にある最悪の平均ケースのアイデアに倣って, DPの自然な拡張を提案する。 サンプリング手順による離散的なメカニズムはDPが予測するよりもプライベートであるのに対して,サンプリング手順による連続的なメカニズムはスムーズなDP下では依然としてプライベートではないことが証明された。
  論文  参考訳（メタデータ） (2021-07-04T06:55:45Z)
• On a Utilitarian Approach to Privacy Preserving Text Generation [5.123298347655088]
  本研究では, 従来機構の近傍選択基準をパラメータ化する微分的プライベート機構のクラスを提案する。 Vickreyオークションは、第2位の価格のみを公表し、最も高い価格を非公開にしておくことで、第1位と第2位の隣人の選択のバランスをとる。 実際のテキスト分類データセットの実験では、同じ実証的なプライバシー保証を持つ既存の最先端技術と比較して、ユーティリティが最大50%改善されている。
  論文  参考訳（メタデータ） (2021-04-23T23:13:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。