Fugu-MT 論文翻訳(概要): Formalizing Distribution Inference Risks

論文の概要: Formalizing Distribution Inference Risks

arxiv url: http://arxiv.org/abs/2106.03699v1
Date: Mon, 7 Jun 2021 15:10:06 GMT
ステータス: 処理完了
システム内更新日: 2021-06-08 18:25:19.954836
Title: Formalizing Distribution Inference Risks
Title（参考訳）: 分布推論のリスクの形式化
Authors: Anshuman Suri and David Evans
Abstract要約: プロパティ推論攻撃は、統計機械学習の主な目的と区別することが難しい。プロパティ推論攻撃の形式的で汎用的な定義を提案する。
参考スコア（独自算出の注目度）: 11.650381752104298
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Property inference attacks reveal statistical properties about a training set but are difficult to distinguish from the primary purposes of statistical machine learning, which is to produce models that capture statistical properties about a distribution. Motivated by Yeom et al.'s membership inference framework, we propose a formal and generic definition of property inference attacks. The proposed notion describes attacks that can distinguish between possible training distributions, extending beyond previous property inference attacks that infer the ratio of a particular type of data in the training data set. In this paper, we show how our definition captures previous property inference attacks as well as a new attack that reveals the average degree of nodes of a training graph and report on experiments giving insight into the potential risks of property inference attacks.
Abstract（参考訳）: 特性推論攻撃は、トレーニングセットに関する統計特性を明らかにするが、分布に関する統計特性をキャプチャするモデルを作成する統計機械学習の主な目的と区別することが難しい。 yeomらに動機づけられた。メンバシップ推論フレームワークでは,プロパティ推論攻撃の形式的かつ汎用的な定義を提案する。提案された概念は、トレーニングデータセット内の特定のタイプのデータの比率を推測する以前のプロパティ推論攻撃を超えて、考えられるトレーニング分布を区別できる攻撃を記述する。本稿では,我々の定義が過去のプロパティ推論攻撃を捉えた方法と,トレーニンググラフのノード数の平均値を明らかにする新しい攻撃と,プロパティ推論攻撃の潜在的なリスクに関する洞察を与える実験について報告する。

関連論文リスト

Uncertainty, Calibration, and Membership Inference Attacks: An Information-Theoretic Perspective [46.08491133624608]
我々は,情報理論の枠組みを用いて,最先端の確率比攻撃(LiRA)の性能を解析する。我々は、MIAの有効性に対する不確実性と校正の影響についての洞察を提供することを目的として、MIA敵の利点に基づいて境界を導出する。
論文参考訳（メタデータ） (2024-02-16T13:41:18Z)
Membership Inference Attacks against Language Models via Neighbourhood Comparison [45.086816556309266]
メンバーシップ推論攻撃(MIA)は、機械学習モデルのトレーニングデータにデータサンプルが存在するかどうかを予測することを目的としている。近年の研究では、類似データに基づいてトレーニングされた参照モデルとモデルスコアを比較した参照ベースの攻撃は、MIAの性能を大幅に向上することを示した。より現実的なシナリオでそれらの性能を調査し、参照モデルのトレーニングに使用されるデータ分布に関して非常に脆弱であることを示す。
論文参考訳（メタデータ） (2023-05-29T07:06:03Z)
Distribution inference risks: Identifying and mitigating sources of leakage [42.1976069096515]
分散推論(またはプロパティ推論)攻撃による漏洩が注目されている。この攻撃において、敵の目標は、トレーニングデータに関する分布情報を推測することである。理論的および実験的に、敵が分散推論攻撃を連続的に行うことができる情報漏洩源を解析する。
論文参考訳（メタデータ） (2022-09-18T11:45:27Z)
Robust Transferable Feature Extractors: Learning to Defend Pre-Trained Networks Against White Box Adversaries [69.53730499849023]
また, 予測誤差を誘導するために, 逆例を独立に学習した別のモデルに移すことが可能であることを示す。本稿では,頑健な伝達可能な特徴抽出器(RTFE)と呼ばれる,ディープラーニングに基づく事前処理機構を提案する。
論文参考訳（メタデータ） (2022-09-14T21:09:34Z)
Enhanced Membership Inference Attacks against Machine Learning Models [9.26208227402571]
メンバーシップ推論攻撃は、モデルがトレーニングセット内の個々のデータポイントについてリークする個人情報の定量化に使用される。我々は,AUCスコアを高い精度で達成できる新たな攻撃アルゴリズムを導き,その性能に影響を及ぼすさまざまな要因を強調した。我々のアルゴリズムは、モデルにおけるプライバシ損失の極めて正確な近似を捉え、機械学習モデルにおけるプライバシリスクの正確かつ詳細な推定を行うためのツールとして使用することができる。
論文参考訳（メタデータ） (2021-11-18T13:31:22Z)
Formalizing and Estimating Distribution Inference Risks [11.650381752104298]
プロパティ推論攻撃の形式的および一般的な定義を提案する。以上の結果から,安価なメタクラス化攻撃は高価なメタクラス化攻撃と同じくらい効果的であることが示唆された。我々は、最先端のプロパティ推論攻撃を畳み込みニューラルネットワークに拡張する。
論文参考訳（メタデータ） (2021-09-13T14:54:39Z)
Adversarial Robustness through the Lens of Causality [105.51753064807014]
ディープニューラルネットワークの敵対的脆弱性は、機械学習において大きな注目を集めている。我々は、因果関係を敵対的脆弱性の軽減に組み込むことを提案する。我々の手法は、敵の脆弱性を緩和するために因果性を利用する最初の試みと見なすことができる。
論文参考訳（メタデータ） (2021-06-11T06:55:02Z)
Learning to Separate Clusters of Adversarial Representations for Robust Adversarial Detection [50.03939695025513]
本稿では,最近導入された非破壊的特徴を動機とした新しい確率的対向検出器を提案する。本稿では,非ロバスト特徴を逆例の共通性と考え,その性質に対応する表現空間におけるクラスターの探索が可能であることを推定する。このアイデアは、別のクラスタ内の逆表現の確率推定分布を導出し、その分布を確率に基づく逆検出器として活用する。
論文参考訳（メタデータ） (2020-12-07T07:21:18Z)
Trust but Verify: Assigning Prediction Credibility by Counterfactual Constrained Learning [123.3472310767721]
予測信頼性尺度は統計学と機械学習において基本的なものである。これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
論文参考訳（メタデータ） (2020-11-24T19:52:38Z)
Sampling Attacks: Amplification of Membership Inference Attacks by Repeated Queries [74.59376038272661]
本手法は,他の標準メンバーシップ相手と異なり,被害者モデルのスコアにアクセスできないような厳格な制限の下で動作可能な,新しいメンバーシップ推論手法であるサンプリングアタックを導入する。ラベルのみを公開している被害者モデルでは,攻撃のサンプリングが引き続き可能であり,攻撃者はその性能の最大100%を回復できることを示す。防衛においては,被害者モデルのトレーニング中の勾配摂動と予測時の出力摂動の形式で差分プライバシーを選択する。
論文参考訳（メタデータ） (2020-09-01T12:54:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。