論文の概要: Behavioral Audit of Machine Unlearning Has a Privacy Cost

• arxiv url: http://arxiv.org/abs/2606.14518v1
• Date: Fri, 12 Jun 2026 14:49:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-15 16:00:42.94394
• Title: Behavioral Audit of Machine Unlearning Has a Privacy Cost
• Title（参考訳）: 機械学習の行動監査にはプライバシコストが伴う
• Authors: Liou Tang, James Joshi, Ashish Kundu,
• Abstract要約: 本研究では,機械学習(MU)モデルから学習したデータの除去について検討する。 正直に言うと、監査役は本質的にプライバシーと監査の緊張に直面している。 われわれの結果は、プライバシーと監査の緊張のさらなる証拠を求めている。
• 参考スコア（独自算出の注目度）: 4.24756753556479
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: The removal of learned data from Machine Learning models through Machine Unlearning (MU) has been widely studied; however, there has yet to be an agreed-upon scheme for auditing MU. Existing work has shown that a dishonest model owner can falsify evidence to avoid executing MU, while curious auditors (and adversaries) can infer the privacy-sensitive properties of the model and its training data even with limited access. Yet auditing of MU under mutual distrust between the model owner and the auditor remains unexplored. We provide an information-theoretic proof for this scenario: for convex ML models, a generic audit scheme that relies solely on querying the model for \textit{behavioral} signals cannot identify insufficiently unlearned models without revealing membership information of the retained set. Therefore, auditing MU under the assumption of a dishonest model owner and an honest-but-curious auditor faces an inherent privacy-audit tradeoff. Our empirical results on convex models strongly supports this result, while further experiments demonstrate that this privacy-audit tension persists in non-convex models. Our results call for a more careful consideration of the privacy-audit tension under a realistic auditor threat model, and serve as a foundation for more scrutiny of designs of privacy-preserving audit schemes for the MU pipeline. We also release our code implementation at https://github.com/LiouTang/Behavioral-Unlearn-Audit.
• Abstract（参考訳）: マシン・アンラーニング(MU)による機械学習モデルからの学習データの除去は広く研究されているが、MUの監査には合意されていない。 既存の研究によると、不正直なモデル所有者はMUの実行を避けるために証拠を偽造できるが、好奇心強い監査官(および敵)は限られたアクセスでもモデルのプライバシーに敏感な特性とトレーニングデータを推測できる。 しかし、モデル所有者と監査人の相互不信の下でMUの監査は未調査のままである。 コンベックスMLモデルでは,<textit{behavioral} 信号に対するモデルクエリのみに依存する汎用監査スキームでは,保持集合のメンバシップ情報を明らかにすることなく,未学習モデルの同定が不十分である。 したがって、MUを不正直なモデル所有者と誠実だが正確な監査役の仮定で監査することは、固有のプライバシー監査のトレードオフに直面している。 コンベックスモデルに関する実験結果は、この結果を強く支持する一方で、このプライバシーと監査の緊張が非凸モデルで持続することを示すさらなる実験も行われた。 我々は,現実的な監査者脅威モデルの下でのプライバシーと監査の緊張についてより慎重に検討し,MUパイプラインのプライバシーを保護した監査スキームの設計についてより精査するための基盤として機能する。 また、コード実装はhttps://github.com/LiouTang/Behavioral-Unlearn-Audit.comでリリースしています。

関連論文リスト

• IMMACULATE: A Practical LLM Auditing Framework via Verifiable Computation [49.796717294455796]
  経済的なモチベーションのある逸脱を検出するための実践的な監査フレームワークIMMACULATEを提案する。 IMMACULATEは、検証可能な計算を用いて少数のリクエストを選択的に監査し、暗号オーバーヘッドを償却しながら強力な検出保証を達成する。
  論文  参考訳（メタデータ） (2026-02-26T07:21:02Z)
• Statistical MIA: Rethinking Membership Inference Attack for Reliable Unlearning Auditing [8.828612051271628]
  機械学習(MU)の主な課題は、モデルが本当に特定のトレーニングデータを忘れたかどうかを確実に監査する方法である。 本研究では,新しいトレーニングフリーかつ高効率な監査フレームワークである統計会員推論攻撃(SMIA)を提案する。
  論文  参考訳（メタデータ） (2026-02-01T10:51:53Z)
• Auditing language models for hidden objectives [26.85568746300155]
  本研究では,アライメント監査の実施可能性について検討する。 テストベッドとして、私たちは、隠れた目的を持った言語モデルをトレーニングします。トレーニングパイプラインはまず、RLHF報酬モデル(RM)の悪用可能なエラーについてモデルを教えます。 まず、4つのチームがモデルの隠れた目的やトレーニングを知らず、行動やその原因について調査する、盲目な監査ゲームを実施します。 3つのチームが、テクニックを含むテクニックを使って、モデルの隠れた目的を明らかにすることに成功した
  論文  参考訳（メタデータ） (2025-03-14T00:21:15Z)
• Trustless Audits without Revealing Data or Models [49.23322187919369]
  モデルプロバイダが(アーキテクチャではなく)モデルウェイトとデータシークレットを維持しながら、他のパーティがモデルとデータプロパティを信頼性のない監査を行うことが可能であることを示す。 私たちはZkAuditと呼ばれるプロトコルを設計し、モデルプロバイダがデータセットとモデルの重みの暗号的コミットメントを公開します。
  論文  参考訳（メタデータ） (2024-04-06T04:43:06Z)
• Auditing and Generating Synthetic Data with Controllable Trust Trade-offs [54.262044436203965]
  合成データセットとAIモデルを包括的に評価する総合監査フレームワークを導入する。 バイアスや差別の防止、ソースデータへの忠実性の確保、実用性、堅牢性、プライバシ保護などに焦点を当てている。 多様なユースケースにまたがる様々な生成モデルを監査することにより,フレームワークの有効性を実証する。
  論文  参考訳（メタデータ） (2023-04-21T09:03:18Z)
• Tight Auditing of Differentially Private Machine Learning [77.38590306275877]
  プライベート機械学習では、既存の監査メカニズムは厳格である。 彼らは不確実な最悪の仮定の下でのみ厳密な見積もりを行う。 我々は、自然(逆向きではない)データセットの厳密なプライバシー推定を得られる改善された監査スキームを設計する。
  論文  参考訳（メタデータ） (2023-02-15T21:40:33Z)
• MOVE: Effective and Harmless Ownership Verification via Embedded External Features [104.97541464349581]
  本稿では,異なる種類のモデル盗難を同時に防ぐために,効果的かつ無害なモデル所有者認証(MOVE)を提案する。 我々は、疑わしいモデルがディフェンダー特定外部特徴の知識を含むかどうかを検証し、所有権検証を行う。 次に、メタ分類器をトレーニングして、モデルが被害者から盗まれたかどうかを判断します。
  論文  参考訳（メタデータ） (2022-08-04T02:22:29Z)
• PrivFair: a Library for Privacy-Preserving Fairness Auditing [13.947606247944597]
  機械学習モデルのプライバシ保護フェアネス監査のためのライブラリであるPrivFairを紹介する。 PrivFairは監査対象のモデルの機密性と監査に使用される機密データを保護する。
  論文  参考訳（メタデータ） (2022-02-08T18:42:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。