Fugu-MT 論文翻訳(概要): Privacy Auditing with One (1) Training Run

論文の概要: Privacy Auditing with One (1) Training Run

arxiv url: http://arxiv.org/abs/2305.08846v1
Date: Mon, 15 May 2023 17:57:56 GMT
ステータス: 処理完了
システム内更新日: 2023-05-16 13:17:40.491842
Title: Privacy Auditing with One (1) Training Run
Title（参考訳）: 1つのトレーニングランによるプライバシー監査
Authors: Thomas Steinke, Milad Nasr, Matthew Jagielski
Abstract要約: 本研究では,1つのトレーニングランで差分プライベートな機械学習システムを監査する手法を提案する。これは並列性を利用して、複数のトレーニング例を独立して追加あるいは削除することができる。グループプライバシのコストを回避するために,差分プライバシーと統計一般化の接続を用いてこれを解析する。
参考スコア（独自算出の注目度）: 30.184308402198543
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We propose a scheme for auditing differentially private machine learning systems with a single training run. This exploits the parallelism of being able to add or remove multiple training examples independently. We analyze this using the connection between differential privacy and statistical generalization, which avoids the cost of group privacy. Our auditing scheme requires minimal assumptions about the algorithm and can be applied in the black-box or white-box setting.
Abstract（参考訳）: 本研究では,1つのトレーニングランで差分プライベート機械学習システムの監査手法を提案する。これにより、複数のトレーニング例を独立して追加または削除できる並列性が活用される。グループプライバシのコストを回避するために,差分プライバシーと統計一般化の接続を用いてこれを解析する。我々の監査手法はアルゴリズムに関する最小限の仮定を必要とし、ブラックボックスやホワイトボックスの設定に適用できる。

関連論文リスト

Auditing $f$-Differential Privacy in One Run [43.34594422920125]
実証監査は、プライバシ保護アルゴリズムの実装におけるいくつかの欠陥をキャッチする手段として登場した。本稿では,メカニズムのプライバシを効果的に評価できる,厳密で効率的な監査手順と分析法を提案する。
論文参考訳（メタデータ） (2024-10-29T17:02:22Z)
Provable Privacy with Non-Private Pre-Processing [56.770023668379615]
非プライベートなデータ依存前処理アルゴリズムによって生じる追加のプライバシーコストを評価するための一般的なフレームワークを提案する。当社のフレームワークは,2つの新しい技術的概念を活用することにより,全体的なプライバシー保証の上限を確立する。
論文参考訳（メタデータ） (2024-03-19T17:54:49Z)
Privacy Side Channels in Machine Learning Systems [87.53240071195168]
プライバシサイドチャネルは、システムレベルのコンポーネントを利用してプライベート情報を抽出する攻撃である。例えば、差分プライベートなトレーニングを適用する前にトレーニングデータを重複させることで、保証可能なプライバシ保証を完全に無効にするサイドチャネルが生成されることを示す。さらに,学習データセットに含まれる秘密鍵を抽出するために,言語モデルを学習データ再生からブロックするシステムを利用することを示す。
論文参考訳（メタデータ） (2023-09-11T16:49:05Z)
Why Is Public Pretraining Necessary for Private Model Training? [50.054565310457306]
公開データに対する事前トレーニングは、非プライベートな設定よりも顕著な利益をもたらすことを示す。トレードオフは、アルゴリズムが2つのフェーズを通過する必要のある、より深い損失モデルかもしれない、と私たちは主張する。直観によって導かれた理論的な構成は、公的な事前訓練なしでの私的分離を確実に実証するものである。
論文参考訳（メタデータ） (2023-02-19T05:32:20Z)
Tight Auditing of Differentially Private Machine Learning [77.38590306275877]
プライベート機械学習では、既存の監査メカニズムは厳格である。彼らは不確実な最悪の仮定の下でのみ厳密な見積もりを行う。我々は、自然(逆向きではない)データセットの厳密なプライバシー推定を得られる改善された監査スキームを設計する。
論文参考訳（メタデータ） (2023-02-15T21:40:33Z)
A General Framework for Auditing Differentially Private Machine Learning [27.99806936918949]
本稿では,差分プライベートな学習者によって与えられるプライバシ保証を統計的に評価する枠組みを提案する。本研究は、微分プライベート機械学習実装のプライバシを実証的に評価する一般的な手法を開発する。
論文参考訳（メタデータ） (2022-10-16T21:34:18Z)
On Differential Privacy for Federated Learning in Wireless Systems with Multiple Base Stations [90.53293906751747]
複数の基地局とセル間干渉を持つ無線システムにおける連合学習モデルを考える。本稿では,学習過程の収束挙動を,その最適性ギャップの上限を導出することによって示す。提案するスケジューラは,ランダムなスケジューラと比較して予測平均精度を向上する。
論文参考訳（メタデータ） (2022-08-25T03:37:11Z)
Debugging Differential Privacy: A Case Study for Privacy Auditing [60.87570714269048]
監査は、微分プライベートなスキームの欠陥を見つけるためにも利用できることを示す。このケーススタディでは、微分プライベートなディープラーニングアルゴリズムの最近のオープンソース実装を監査し、99.9999999999%の信頼を得て、この実装が要求される差分プライバシー保証を満たさないことを発見した。
論文参考訳（メタデータ） (2022-02-24T17:31:08Z)
Differentially Private Correlation Clustering [23.93805663525436]
相関クラスタリングは教師なし機械学習で広く使われている手法である。個人のプライバシーが懸念されるアプリケーションに動機づけられて、微分プライベート相関クラスタリングの研究を開始します。
論文参考訳（メタデータ） (2021-02-17T17:27:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。