論文の概要: PATE-AAE: Incorporating Adversarial Autoencoder into Private Aggregation
of Teacher Ensembles for Spoken Command Classification
- arxiv url: http://arxiv.org/abs/2104.01271v1
- Date: Fri, 2 Apr 2021 23:10:57 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-06 14:47:04.399245
- Title: PATE-AAE: Incorporating Adversarial Autoencoder into Private Aggregation
of Teacher Ensembles for Spoken Command Classification
- Title（参考訳）: PATE-AAE:音声コマンド分類のための教師の私的集合体への対人オートエンコーダの導入
- Authors: Chao-Han Huck Yang, Sabato Marco Siniscalchi, Chin-Hui Lee
- Abstract要約: 教師アンサンブル(PATE)のプライベートアグリゲーションにおけるGAN(Generative Adversarial Network)の代替として,AAE(Adversarial Autoencoder)を提案する。
AAEアーキテクチャにより、潜伏ベクトルの識別訓練により、優れた合成音声ネイティブが得られる。
PATE-AAEは、代替プライバシー保護ソリューションと比較して、平均分類精度をそれぞれ+$2.11%$と+$6.60%$改善します。
- 参考スコア（独自算出の注目度）: 53.764020085834645
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: We propose using an adversarial autoencoder (AAE) to replace generative
adversarial network (GAN) in the private aggregation of teacher ensembles
(PATE), a solution for ensuring differential privacy in speech applications.
The AAE architecture allows us to obtain good synthetic speech leveraging upon
a discriminative training of latent vectors. Such synthetic speech is used to
build a privacy-preserving classifier when non-sensitive data is not
sufficiently available in the public domain. This classifier follows the PATE
scheme that uses an ensemble of noisy outputs to label the synthetic samples
and guarantee $\varepsilon$-differential privacy (DP) on its derived
classifiers.
Our proposed framework thus consists of an AAE-based generator and a
PATE-based classifier (PATE-AAE). Evaluated on the Google Speech Commands
Dataset Version II, the proposed PATE-AAE improves the average classification
accuracy by +$2.11\%$ and +$6.60\%$, respectively, when compared with
alternative privacy-preserving solutions, namely PATE-GAN and DP-GAN, while
maintaining a strong level of privacy target at $\varepsilon$=0.01 with a fixed
$\delta$=10$^{-5}$.
- Abstract（参考訳）: 本稿では,教師アンサンブルのプライベートアグリゲーション(PATE)におけるGAN(Generative Adversarial Network)の代替として,AAE(Adversarial Autoencoder)を用いることを提案する。
AAEアーキテクチャにより、潜伏ベクトルの識別訓練を利用した優れた合成音声が得られる。
このような合成音声は、パブリックドメインで十分な機密データが得られていない場合に、プライバシー保護の分類器を構築するために使用される。
この分類器は、ノイズ出力のアンサンブルを使用して合成サンプルをラベル付けし、派生した分類器に$\varepsilon$-differential privacy (DP)を保証するPATE方式に従う。
提案するフレームワークは,AAEベースのジェネレータとPATEベースの分類器(PATE-AAE)から構成される。
提案されたpate-aaeは、google speech commandのdatasetバージョンiiで評価され、pate-ganとdp-ganという代替プライバシ保存ソリューションと比較して、平均的な分類精度が2.11\%$と6.60\%$で向上する一方で、固定された$\delta$=10$^{-5}$で$\varepsilon$=0.01という高いプライバシターゲットレベルを維持している。
関連論文リスト
- Co-training for Low Resource Scientific Natural Language Inference [65.37685198688538]
遠隔教師付きラベルに分類器のトレーニング力学に基づいて重みを割り当てる新しいコトレーニング手法を提案する。
予測された信頼度に対する任意のしきい値に基づいてサンプルをフィルタリングするのではなく、重要重みを割り当てることにより、自動ラベル付きデータの使用を最大化する。
提案手法は、遠隔監視ベースラインに対するマクロF1の1.5%の改善と、他の強力なSSLベースラインよりも大幅に改善されている。
論文 参考訳（メタデータ） (2024-06-20T18:35:47Z) - The Elusive Pursuit of Replicating PATE-GAN: Benchmarking, Auditing, Debugging [11.900523702759598]
PATE-GANは、GAN(Generative Adversarial Networks)とPATEのプライベートトレーニングアプローチを組み合わせた一般的なアルゴリズムとして登場した。
原著者の3つ(サブセット)を含む6つのオープンソースPATE-GAN実装を分析し,ベンチマークする。
DP監査を含む詳細なプライバシ評価を提示し、すべての実装が意図したよりも多くのプライバシをリークし、17のプライバシ違反やその他の5つのバグを明らかにします。
論文 参考訳（メタデータ） (2024-06-20T04:25:41Z) - An Experimental Study on Private Aggregation of Teacher Ensemble
Learning for End-to-End Speech Recognition [51.232523987916636]
差分プライバシー(DP)は、プライバシーデータにノイズのある歪みを課すことで、深層モデルのトレーニングに使用されるユーザー情報を保護するための1つのデータ保護手段である。
本研究では、PATE学習を動的パターン、すなわち音声を扱うように拡張し、音響データの漏洩を避けるために、ASRに関する最初の実験を行う。
論文 参考訳（メタデータ） (2022-10-11T16:55:54Z) - Individual Privacy Accounting for Differentially Private Stochastic Gradient Descent [69.14164921515949]
DP-SGDで訓練されたモデルをリリースする際の個々の事例に対するプライバシー保証を特徴付ける。
ほとんどの例では、最悪のケースよりも強力なプライバシー保証を享受しています。
これは、モデルユーティリティの観点からは守られないグループが同時に、より弱いプライバシー保証を経験することを意味する。
論文 参考訳（メタデータ） (2022-06-06T13:49:37Z) - Uncertainty-Autoencoder-Based Privacy and Utility Preserving Data Type
Conscious Transformation [3.7315964084413173]
プライバシ・ユーティリティのトレードオフ問題に対処する逆学習フレームワークを2つの条件で提案する。
データタイプの無知な条件下では、プライバシメカニズムは、正確に1つのクラスを表す、カテゴリ機能の1ホットエンコーディングを提供する。
データ型認識条件下では、分類変数は各クラスごとに1つのスコアの集合で表される。
論文 参考訳（メタデータ） (2022-05-04T08:40:15Z) - Adaptive Private-K-Selection with Adaptive K and Application to
Multi-label PATE [19.344510696808282]
我々は、差分的にプライベートなトップ$k$選択のためのエンドツーエンドのRenyi DPベースのフレームワークを提供する。
提案手法は,従来のトップ$選択アルゴリズムと比較して,プライバシとユーティリティのトレードオフを改善していることを示す。
論文 参考訳（メタデータ） (2022-03-30T07:11:01Z) - Class-Conditional Defense GAN Against End-to-End Speech Attacks [82.21746840893658]
本稿では,DeepSpeech や Lingvo といった先進的な音声テキストシステムを騙すために開発された,エンドツーエンドの敵対攻撃に対する新しいアプローチを提案する。
従来の防御手法とは異なり、提案手法は入力信号のオートエンコードのような低レベル変換を直接利用しない。
我々の防衛GANは、単語誤り率と文レベルの認識精度において、従来の防衛アルゴリズムよりもかなり優れています。
論文 参考訳（メタデータ） (2020-10-22T00:02:02Z) - Differentially Private Federated Learning with Laplacian Smoothing [72.85272874099644]
フェデレートラーニングは、ユーザ間でプライベートデータを共有せずに、協調的にモデルを学習することで、データのプライバシを保護することを目的としている。
敵は、リリースしたモデルを攻撃することによって、プライベートトレーニングデータを推測することができる。
差別化プライバシは、トレーニングされたモデルの正確性や実用性を著しく低下させる価格で、このような攻撃に対する統計的保護を提供する。
論文 参考訳（メタデータ） (2020-05-01T04:28:38Z) - Decentralized Differentially Private Segmentation with PATE [19.074694101300373]
PATEが意味的セグメンテーションにどのように適応できるかを示す。
Brain tumorデータセットでは、AutoencoderベースのPATE変種が、ノイズの多いフェデレーション平均化に基づいて、プライバシ作業のための高Dice係数を達成する。
論文 参考訳（メタデータ） (2020-04-10T00:05:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。