論文の概要: Shift-aware score transport for privacy auditing without retraining

• arxiv url: http://arxiv.org/abs/2610.31549v1
• Date: Thu, 22 Oct 2026 16:54:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.485185
• Title: Shift-aware score transport for privacy auditing without retraining
• Title（参考訳）: シフト・アウェア・スコア・トランスポートによるプライバシー監査
• Abstract要約: プライバシー監査は、メンバーシップ推論攻撃を使用してプライバシー漏洩を経験的に評価し、プライバシー損失の低い境界を確立する。 本稿では,監査者がカナリアを挿入したり,データを含めたり,対象モデルを再訓練したりできない監査環境について考察する。 監査に利用できる非メンバーは、トレーニングデータと分布が異なる場合があり、その分布シフトによりメンバーシップ推論スコアが歪む。
• 参考スコア（独自算出の注目度）: 25.372968988197034
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Privacy auditing empirically assesses privacy leakage by using membership inference attacks to establish lower bounds on privacy loss. We consider an observational auditing setting in which the auditor cannot insert canaries, control data inclusion, or retrain the target model, and must instead rely on fixed sets of known members and non-members. This setting is relevant for large deployed models or when retraining is restricted by computational or access constraints. In this case, non-members available for auditing may differ in distribution from the training data, causing membership-inference scores to be skewed due to the distribution shift. We address this problem by estimating the counterfactual in-distribution non-member score distribution using the available out-of-distribution (OOD) non-members. Our proposed method learns the relationship between data representations and membership-inference scores from OOD non-members and transports it to the target covariate distribution. Because this transport may become unreliable under extrapolation or imperfect conditional invariance, we further introduce a conservative correction calibrated directly to the nominal transported privacy level. We construct controlled calibration tasks from the available non-member data to estimate how representation-space displacement inflates the audit, and use this estimate to correct the transport-induced audit error. Across multiple datasets with distribution shifts, our method yields substantially more stable privacy estimates while retaining tighter lower bounds than baselines.
• Abstract（参考訳）: プライバシー監査は、メンバーシップ推論攻撃を使用してプライバシー漏洩を経験的に評価し、プライバシー損失の低い境界を確立する。 我々は,監査者がカナリアを挿入したり,データ包含を制御したり,対象モデルを再訓練することができない観察的監査環境を考察し,その代わりに既知のメンバーや非メンバーの固定セットに頼らなければならない。 この設定は、大規模なデプロイモデルや、再トレーニングが計算やアクセス制限によって制限される場合に関連する。 この場合、監査に利用できる非会員は、トレーニングデータと分布が異なる場合があり、その分布シフトによりメンバーシップ推論スコアが歪むことになる。 そこで本研究では, 利用可能なアウト・オブ・アウト・オブ・ディストリビューション(OOD)非会員による非会員スコア分布を推定することにより, この問題に対処する。 提案手法は,OOD非会員からデータ表現と会員推論スコアの関係を学習し,対象の共変量分布に転送する。 このトランスポートは、外挿や不完全な条件不変性の下で信頼性が低下する可能性があるため、我々はさらに、名目上のトランスポートされたプライバシレベルに直接調整された保守的な補正を導入する。 本研究では,非メンバーデータから制御されたキャリブレーションタスクを構築し,表現空間の変位が監査を膨らませるかを推定し,この推定値を用いて搬送による監査誤差を補正する。 分布シフトを伴う複数のデータセットに対して,本手法はベースラインよりも厳密な下位境界を維持しつつ,より安定したプライバシ推定を行う。

関連論文リスト

• Reliable Estimation of Differential Privacy under Selection Bias [31.7930600453449]
  この研究は、このバイアスを修正するために統計文献のツールを用いている。 統計的補正がなければ、監査は主張する信頼度よりも最大4倍の確率で理論上界に違反することを示す。
  論文  参考訳（メタデータ） (2026-10-19T13:59:44Z)
• How Much Can Reliability Drift Under a Fixed Confidence Distribution? [14.727396825167917]
  信頼性分布が全く同じである間、分類器の条件精度は変化しうることを示す。 我々は再重み付けを信頼ビン内の学習された有限読み出しに制限する。 探索ラベル置換診断(Exploratory label-permutation diagnosis)は、この統計にほぼゼロの一致をもたらす。
  論文  参考訳（メタデータ） (2026-09-30T04:02:44Z)
• Federated Targeted Maximum Likelihood Estimation [15.722746871859593]
  クロスサイロ学習は計算をデータに移動させ、合意された要約を交換する。 我々は2つのサイロを通して、任意の目標、損失、変動家族のためのターゲティング自体を連携させた。 FedTMLEGは、局所的な勾配を集約し、ステップの集中的なターゲティングステップを再現する。 FedTMLELは、各機関が適合した更新を単一に交換する前に、独自のゆらぎを完了させる。
  論文  参考訳（メタデータ） (2026-09-24T19:43:40Z)
• Conformal Changepoint Localization and Root Cause Analysis with Corrupted Observations [55.76952683833966]
  本稿では,データ破損時の信頼性設定サイズを低減するために,重み付きCONCH(W-CONCH)と重み付きCROC(W-CROC)を提案する。 画像ベースおよび実世界の変化点と根本原因ベンチマークの実験は、不確実性ベースの重み付けが信頼性セットのサイズを大幅に減少させることを示している。
  論文  参考訳（メタデータ） (2026-07-29T05:16:59Z)
• Counterfactual Likelihood Tests for Indirect Influence in Private Reasoning Channels [51.56484100374058]
  本稿では,私的推論チャネル間の影響を測定するための実証実験について述べる。 この方法は、上流のプライベートブロックを長さマッチングドナーブロックに置き換え、公開トークンシーケンスと下流ターゲットを固定し、下流ターゲットの負のログに似たシフトを測定する。
  論文  参考訳（メタデータ） (2026-05-18T20:27:43Z)
• Privacy Auditing with Zero (0) Training Run [24.856718399464636]
  2つの固定データセットを使用してモデルを監査するためのポストホックフレームワークであるZero-Runのプライバシ監査を紹介する。 最初のアプローチは、適応的な構成として分布シフトとアルゴリズムリークの併用効果をモデル化する。 第2のアプローチでは、観測されたデータに基づいて、ポイントワイドなメンバシップ推定を調整し、よりシャープなインスタンス依存境界を得る。
  論文  参考訳（メタデータ） (2026-05-14T09:00:56Z)
• Non-exchangeable Conformal Prediction with Optimal Transport: Tackling Distribution Shifts with Unlabeled Data [13.788274786492286]
  コンフォーマル予測は、分散のない不確実性定量化手法であり、機械学習コミュニティで人気を博している。 最も一般的な変種であるスプリット共形予測は、モデルがまだ見ていないキャリブレーションデータに基づくモデル予測の統計を収集するため、計算的に効率的である。 対象範囲の損失を推定し,任意の分布シフトを緩和し,原理的かつ広く適用可能なソリューションを提供することが可能であることを示す。
  論文  参考訳（メタデータ） (2025-07-14T16:10:55Z)
• COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
  COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。 COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。 リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
  論文  参考訳（メタデータ） (2025-06-25T07:04:49Z)
• Correcting Underrepresentation and Intersectional Bias for Classification [49.1574468325115]
  我々は、表現不足のバイアスによって破損したデータから学習する問題を考察する。 偏りのないデータの少ない場合、グループワイドのドロップアウト率を効率的に推定できることが示される。 本アルゴリズムは,有限VC次元のモデルクラスに対して,効率的な学習を可能にする。
  論文  参考訳（メタデータ） (2023-06-19T18:25:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。