論文の概要: Inducing Uncertainty for Test-Time Privacy

• arxiv url: http://arxiv.org/abs/2509.11625v1
• Date: Mon, 15 Sep 2025 06:38:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-16 17:26:23.173406
• Title: Inducing Uncertainty for Test-Time Privacy
• Title（参考訳）: テスト時のプライバシのための不確実性の導入
• Authors: Muhammad H. Ashiq, Peter Triantafillou, Hung Yun Tseng, Grigoris G. Chrysos,
• Abstract要約: 私たちはこの脅威モデルを、未学習が防げない、*テストタイムのプライバシ*と呼んでいる。 特に、完全なモデルアクセスを持つ敵は、テスト時のプライバシを保証するナイーブな防御をバイパスすることができる。 モデル重みを摂動することで、保護されたインスタンスの最大不確実性を誘導し、残りのインスタンスの精度を保つアルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 3.8031924942083517
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Unlearning is the predominant method for removing the influence of data in machine learning models. However, even after unlearning, models often continue to produce the same predictions on the unlearned data with high confidence. This persistent behavior can be exploited by adversaries using confident model predictions on incorrect or obsolete data to harm users. We call this threat model, which unlearning fails to protect against, *test-time privacy*. In particular, an adversary with full model access can bypass any naive defenses which ensure test-time privacy. To address this threat, we introduce an algorithm which perturbs model weights to induce maximal uncertainty on protected instances while preserving accuracy on the rest of the instances. Our core algorithm is based on finetuning with a Pareto optimal objective that explicitly balances test-time privacy against utility. We also provide a certifiable approximation algorithm which achieves $(\varepsilon, \delta)$ guarantees without convexity assumptions. We then prove a tight, non-vacuous bound that characterizes the privacy-utility tradeoff that our algorithms incur. Empirically, our method obtains $>3\times$ stronger uncertainty than pretraining with $<0.2\%$ drops in accuracy on various image recognition benchmarks. Altogether, this framework provides a tool to guarantee additional protection to end users.
• Abstract（参考訳）: アンラーニングは、機械学習モデルにおけるデータの影響を取り除く主要な方法である。 しかし、学習が終わっても、モデルはしばしば、未学習のデータを高い信頼性で予測し続けます。 この永続的な振る舞いは、不正確なデータや古いデータに対する確実なモデル予測を使用して、ユーザを害する。 私たちはこの脅威モデルを、未学習が防げない、*テストタイムのプライバシ*と呼んでいる。 特に、完全なモデルアクセスを持つ敵は、テスト時のプライバシを保証するナイーブな防御をバイパスすることができる。 この脅威に対処するために、モデルウェイトを摂動させ、保護されたインスタンスの最大不確実性を誘導し、残りのインスタンスの精度を保ったアルゴリズムを導入する。 私たちのコアアルゴリズムは、テスト時のプライバシとユーティリティとのバランスを明確にする、Paretoの最適目的による微調整に基づいています。 また、凸性仮定なしで$(\varepsilon, \delta)$保証を達成できる認証近似アルゴリズムも提供する。 そして、アルゴリズムが生み出すプライバシーとユーティリティのトレードオフを特徴付ける、厳密で非空白な境界を証明します。 提案手法は,画像認識ベンチマークにおいて,<0.2\%$の精度で事前学習するよりも,$>3\times$強い不確実性が得られる。 このフレームワークは、エンドユーザーにさらなる保護を保証するツールを提供する。

関連論文リスト

• Uncertainty-Driven Reliability: Selective Prediction and Trustworthy Deployment in Modern Machine Learning [1.2183405753834562]
  この論文は、不確実性推定が機械学習(ML)システムの安全性と信頼性を高める方法について考察する。 まず、モデルのトレーニング軌道は、アーキテクチャの変更や損失を伴わずに活用できるような、豊富な不確実性信号を含むことを示す。 本稿では,タスク間で動作し,深層アンサンブルのコストを回避し,最先端の選択的予測性能を実現する軽量なポストホック禁忌手法を提案する。
  論文  参考訳（メタデータ） (2025-08-11T02:33:53Z)
• Reminiscence Attack on Residuals: Exploiting Approximate Machine Unlearning for Privacy [18.219835803238837]
  非学習アルゴリズムは、未学習データのプライバシーを適切に保護できないことを示す。 本稿では,残余と会員のプライバシーの相関を増幅するReminiscence Attack (ReA)を提案する。 我々は,まず深層無学習データトレースを除去し,収束安定性を強制する二相近似学習フレームワークを開発した。
  論文  参考訳（メタデータ） (2025-07-28T07:12:12Z)
• Confidential Guardian: Cryptographically Prohibiting the Abuse of Model Abstention [65.47632669243657]
  不正直な機関は、不確実性の観点からサービスを差別または不正に否定する機構を利用することができる。 我々は、ミラージュと呼ばれる不確実性誘導攻撃を導入することで、この脅威の実践性を実証する。 本研究では,参照データセット上のキャリブレーションメトリクスを分析し,人工的に抑制された信頼度を検出するフレームワークであるConfidential Guardianを提案する。
  論文  参考訳（メタデータ） (2025-05-29T19:47:50Z)
• Coverage-Guaranteed Speech Emotion Recognition via Calibrated Uncertainty-Adaptive Prediction Sets [0.0]
  しばしば感情的な抑圧と突然のアウトバーストによって引き起こされる道路の怒りは、衝突や攻撃的な行動を引き起こすことによって道路の安全を著しく脅かす。 音声感情認識技術は、ネガティブな感情を早期に識別し、タイムリーな警告を発することにより、このリスクを軽減することができる。 本稿では,予測精度を統計的に厳格に保証するリスク制御予測フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-03-24T12:26:28Z)
• Uncertainty-Aware Decoding with Minimum Bayes Risk [70.6645260214115]
  予測されたリスクに応じてモデル生成を選択する最小ベイズリスク復号法を,原理化された不確実性認識復号法に一般化する方法を示す。 この修正された予測リスクは、出力の選択と生成をいつ中止するかの判断の両方に有用であり、オーバーヘッドを発生させることなく改善を提供できることを示す。
  論文  参考訳（メタデータ） (2025-03-07T10:55:12Z)
• From Data to Uncertainty Sets: a Machine Learning Approach [5.877778007271621]
  我々は、堅牢な最適化を活用し、機械学習モデルの出力の不確実性に対する制約を保護する。 我々は違反の可能性を強く保証する。 合成計算実験では、この手法は他の手法よりも1桁小さい半径を持つ不確実性集合を必要とする。
  論文  参考訳（メタデータ） (2025-03-04T01:30:28Z)
• Pseudo-Probability Unlearning: Towards Efficient and Privacy-Preserving Machine Unlearning [59.29849532966454]
  本稿では,PseudoProbability Unlearning (PPU)を提案する。 提案手法は,最先端の手法に比べて20%以上の誤りを忘れる改善を実現している。
  論文  参考訳（メタデータ） (2024-11-04T21:27:06Z)
• Overconfidence is a Dangerous Thing: Mitigating Membership Inference Attacks by Enforcing Less Confident Prediction [2.2336243882030025]
  機械学習モデルは、メンバシップ推論攻撃(MIA)に対して脆弱である この研究は、強力なメンバーシップのプライバシと高い精度の両方を、余分なデータを必要とすることなく達成できる防衛技術であるHAMPを提案する。
  論文  参考訳（メタデータ） (2023-07-04T09:50:33Z)
• Training Private Models That Know What They Don't Know [40.19666295972155]
  いくつかの一般的な選択的予測手法は、差分的にプライベートな環境では効果がないことがわかった。 モデルユーティリティレベルを越えた選択予測性能を分離する新しい評価機構を提案する。
  論文  参考訳（メタデータ） (2023-05-28T12:20:07Z)
• Theoretically Principled Federated Learning for Balancing Privacy and Utility [61.03993520243198]
  モデルパラメータを歪ませることでプライバシを保護する保護機構の一般学習フレームワークを提案する。 フェデレートされた学習における各コミュニケーションラウンドにおいて、各クライアント上の各モデルパラメータに対して、パーソナライズされたユーティリティプライバシトレードオフを実現することができる。
  論文  参考訳（メタデータ） (2023-05-24T13:44:02Z)
• Differentially Private Stochastic Gradient Descent with Low-Noise [49.981789906200035]
  現代の機械学習アルゴリズムは、データからきめ細かい情報を抽出して正確な予測を提供することを目的としており、プライバシー保護の目標と矛盾することが多い。 本稿では、プライバシを保ちながら優れたパフォーマンスを確保するために、プライバシを保存する機械学習アルゴリズムを開発することの実践的および理論的重要性について論じる。
  論文  参考訳（メタデータ） (2022-09-09T08:54:13Z)
• Private Prediction Sets [72.75711776601973]
  機械学習システムは、個人のプライバシーの確実な定量化と保護を必要とする。 これら2つのデシラタを共同で扱う枠組みを提案する。 本手法を大規模コンピュータビジョンデータセット上で評価する。
  論文  参考訳（メタデータ） (2021-02-11T18:59:11Z)
• Trust but Verify: Assigning Prediction Credibility by Counterfactual Constrained Learning [123.3472310767721]
  予測信頼性尺度は統計学と機械学習において基本的なものである。 これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。 この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
  論文  参考訳（メタデータ） (2020-11-24T19:52:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。