論文の概要: Lower Bounds on the MMSE of Adversarially Inferring Sensitive Features

• arxiv url: http://arxiv.org/abs/2505.09004v1
• Date: Tue, 13 May 2025 22:39:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-15 21:44:09.315395
• Title: Lower Bounds on the MMSE of Adversarially Inferring Sensitive Features
• Title（参考訳）: 主観的特徴を推定するMMSEの下位境界
• Authors: Monica Welfert, Nathan Stromberg, Mario Diaz, Lalitha Sankar,
• Abstract要約: 本稿では,有限標本サイズと線形予測モデルに基づく,感度の高い特徴推論のための逆評価フレームワークを提案する。 提案手法は,他の相関特徴の雑音観測から感度特性を推定する真のMMSEの理論的下界を確立する。
• 参考スコア（独自算出の注目度）: 4.8998185508205765
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose an adversarial evaluation framework for sensitive feature inference based on minimum mean-squared error (MMSE) estimation with a finite sample size and linear predictive models. Our approach establishes theoretical lower bounds on the true MMSE of inferring sensitive features from noisy observations of other correlated features. These bounds are expressed in terms of the empirical MMSE under a restricted hypothesis class and a non-negative error term. The error term captures both the estimation error due to finite number of samples and the approximation error from using a restricted hypothesis class. For linear predictive models, we derive closed-form bounds, which are order optimal in terms of the noise variance, on the approximation error for several classes of relationships between the sensitive and non-sensitive features, including linear mappings, binary symmetric channels, and class-conditional multi-variate Gaussian distributions. We also present a new lower bound that relies on the MSE computed on a hold-out validation dataset of the MMSE estimator learned on finite-samples and a restricted hypothesis class. Through empirical evaluation, we demonstrate that our framework serves as an effective tool for MMSE-based adversarial evaluation of sensitive feature inference that balances theoretical guarantees with practical efficiency.
• Abstract（参考訳）: 有限標本サイズと線形予測モデルを用いた最小平均二乗誤差(MMSE)推定に基づく,感度の高い特徴推論のための逆評価フレームワークを提案する。 提案手法は,他の相関特徴の雑音観測から感度特性を推定する真のMMSEの理論的下界を確立する。 これらの境界は、制限された仮説クラスと非負の誤差項の下で経験的MMSEで表される。 誤差項は、有限個のサンプルによる推定誤差と、制限された仮説クラスを用いて近似誤差の両方をキャプチャする。 線形予測モデルでは、線形写像、二項対称チャネル、クラス条件付き多変量ガウス分布を含む、感度・非感度特徴間の関係のいくつかのクラスに対する近似誤差に基づいて、ノイズ分散の観点から最適な閉形式境界を導出する。 また,有限サンプルと制限された仮説クラスで学習したMMSE推定器のホールドアウト検証データセットに基づいて計算されたMSEに依存する新しい下界も提示する。 経験的評価を通じて,本フレームワークは,理論的保証と実用的効率のバランスをとるような,MMSEに基づく高感度特徴推定の対角的評価の有効なツールとして機能することが実証された。

関連論文リスト

• Model-free Methods for Event History Analysis and Efficient Adjustment (PhD Thesis) [55.2480439325792]
  この論文は、モデルフリーの観点から統一された統計学への独立した貢献のシリーズである。 第1章では、機械学習から予測技術を活用する柔軟なメソッドを定式化するために、モデルフリーの視点をどのように利用できるか、詳しく説明している。 第2章では、あるプロセスの進化が他のプロセスに直接影響されるかどうかを記述した地域独立の概念を研究している。
  論文  参考訳（メタデータ） (2025-02-11T19:24:09Z)
• Probability Distribution Learning and Its Application in Deep Learning [0.0]
  本稿では,確率分布学習(PD Learning)と呼ばれる理論学習フレームワークを紹介する。 PD学習は確率分布の学習に重点を置いており、確率の単純さの中で確率変数としてモデル化される。
  論文  参考訳（メタデータ） (2024-06-09T06:49:22Z)
• Selective Nonparametric Regression via Testing [54.20569354303575]
  本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。 既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
  論文  参考訳（メタデータ） (2023-09-28T13:04:11Z)
• Optimal variance-reduced stochastic approximation in Banach spaces [114.8734960258221]
  可分バナッハ空間上で定義された収縮作用素の定点を推定する問題について検討する。 演算子欠陥と推定誤差の両方に対して漸近的でない境界を確立する。
  論文  参考訳（メタデータ） (2022-01-21T02:46:57Z)
• Keep it Tighter -- A Story on Analytical Mean Embeddings [0.6445605125467574]
  カーネル技術は、データサイエンスにおいて最も人気があり柔軟なアプローチの一つである。 平均埋め込みは、最大平均不一致(MMD)と呼ばれる分岐測度をもたらす。 本稿では,基礎となる分布の1つの平均埋め込みが解析的に利用可能である場合のMDD推定の問題に焦点をあてる。
  論文  参考訳（メタデータ） (2021-10-15T21:29:27Z)
• Near-optimal inference in adaptive linear regression [60.08422051718195]
  最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。 我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。 我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
  論文  参考訳（メタデータ） (2021-07-05T21:05:11Z)
• Minimum Excess Risk in Bayesian Learning [23.681494934015927]
  最小超過リスク(mer)の定義と上限化により,生成モデルの下でベイズ学習の達成可能な最高の性能を解析する。 MERの定義は、ベイズ学習における不確実性の異なる概念を定義する原則的な方法を提供する。
  論文  参考訳（メタデータ） (2020-12-29T17:41:30Z)
• Amortized Conditional Normalized Maximum Likelihood: Reliable Out of Distribution Uncertainty Estimation [99.92568326314667]
  本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。 提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。 我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
  論文  参考訳（メタデータ） (2020-11-05T08:04:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。