論文の概要: SoK: Privacy Attacks on Machine Learning via Explainable AI

• arxiv url: http://arxiv.org/abs/2609.10627v1
• Date: Wed, 09 Sep 2026 02:05:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-11 23:53:35.078435
• Title: SoK: Privacy Attacks on Machine Learning via Explainable AI
• Title（参考訳）: SoK: 説明可能なAIによるマシンラーニングのプライバシ攻撃
• Abstract要約: モデル抽出, メンバーシップ推論, モデルインバージョンのための説明を利用する25の研究を体系化する。 分析の結果,家族の安全が損なわれ,防衛が一様でないことが明らかとなった。
• 参考スコア（独自算出の注目度）: 3.4228148164859857
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Machine learning explanations reveal model behavior beyond predictions, creating attack surfaces for model confidentiality and data privacy. We systematize 25 studies that exploit explanations for model extraction, membership inference, and model inversion, treating attribute inference as partial inversion. Existing work is often labeled only black- or white-box, obscuring substantial differences in what explanation signal reaches an adversary. We therefore separate model knowledge from explanation acquisition and identify five paths: target-released, attacker-derived, secondary disclosure, privileged access, and released global artifacts. Across these paths, explanations reduce extraction cost, expose membership signals through explanation statistics, recourse distance, and explanation-guided robustness, and support spatial or algebraic reconstruction of private inputs. We compare system and threat models, explanation signals, auxiliary knowledge, target models, modalities, query budgets, evaluation metrics, reported performance, and defenses. Our analysis shows that no explanation family is uniformly unsafe and no defense is uniformly effective. Risk depends on which signal is exposed, how it is acquired, which asset is targeted, and what the attacker already knows. We argue that explanation privacy should therefore be evaluated as an end-to-end disclosure problem, with defenses matched to the acquisition path and protected asset.
• Abstract（参考訳）: 機械学習の説明は、予測を超えたモデルの振る舞いを明らかにし、モデルの機密性とデータのプライバシに対するアタックサーフェスを作成する。 モデル抽出, メンバーシップ推論, モデルインバージョンの説明を利用する25の研究を体系化し, 属性推論を部分的インバージョンとして扱う。 既存の作業はブラックボックスかホワイトボックスにのみラベル付けされることが多く、説明信号が敵に届く範囲でかなりの差がある。 そこで我々は、モデル知識を説明獲得から切り離し、ターゲットリリース、攻撃者由来、二次開示、特権アクセス、グローバルアーティファクトの5つのパスを特定する。 これらの経路全体で、説明は抽出コストを削減し、説明統計、講義距離、説明誘導ロバスト性を通じてメンバーシップ信号を公開し、プライベート入力の空間的あるいは代数的再構築をサポートする。 我々は,システムモデルと脅威モデル,説明信号,補助的知識,目標モデル,モダリティ,クエリ予算,評価指標,報告されたパフォーマンス,防衛状況を比較した。 分析の結果,家族の安全が損なわれ,防衛が一様でないことが明らかとなった。 リスクは、どの信号が露出するか、どのように取得され、どのアセットが標的になり、攻撃者が既に知っているものに依存する。 したがって、我々は、プライバシーの説明をエンド・ツー・エンドの開示問題として評価すべきであり、防御策は取得経路と保護資産に一致していると論じている。

関連論文リスト

• Pando: Do Interpretability Methods Work When Models Won't Explain Themselves? [53.07826484214082]
  モデル・オーガニゼーションのベンチマークであるPandoを紹介します。 Pandoは、ラベル付きクエリ-レスポンスペアから、ホールドアウトモデル決定を予測する。 説明が忠実であれば、ブラックボックスの引用はすべてのホワイトボックスメソッドに一致するか、超える。
  論文  参考訳（メタデータ） (2026-04-13T06:42:24Z)
• The privacy issue of counterfactual explanations: explanation linkage attacks [0.0]
  本稿では、インスタンスベースの戦略をデプロイして、偽説明を見つける際に発生する説明リンク攻撃について紹介する。 このような攻撃に対抗するため、我々はk匿名の偽物説明を提案し、これらのk匿名の偽物説明の有効性を評価するための新しい指標として純粋性を導入する。 この結果から,データセット全体ではなく,k-匿名で説明を行うことが,説明の質に有益であることが示唆された。
  論文  参考訳（メタデータ） (2022-10-21T15:44:19Z)
• Inferring Sensitive Attributes from Model Explanations [0.685316573653194]
  入力に対する説明の依存は、機密性の高いユーザーデータに対するプライバシー上の懸念を引き起こす。 2つの脅威モデルにおけるモデル説明に対する最初の属性推論攻撃を設計する。 本研究では,双方の脅威モデルにおける説明から,攻撃者が機密属性の価値を正確に推測できることを示す。
  論文  参考訳（メタデータ） (2022-08-21T21:31:19Z)
• MOVE: Effective and Harmless Ownership Verification via Embedded External Features [104.97541464349581]
  本稿では,異なる種類のモデル盗難を同時に防ぐために,効果的かつ無害なモデル所有者認証(MOVE)を提案する。 我々は、疑わしいモデルがディフェンダー特定外部特徴の知識を含むかどうかを検証し、所有権検証を行う。 次に、メタ分類器をトレーニングして、モデルが被害者から盗まれたかどうかを判断します。
  論文  参考訳（メタデータ） (2022-08-04T02:22:29Z)
• On the amplification of security and privacy risks by post-hoc explanations in machine learning models [7.564511776742979]
  インプットディメンションを重要あるいは関連性に応じて強調するポストホックな説明方法もまた、セキュリティとプライバシを弱める情報を漏洩させる。 我々は,同じ成功率のクエリ数を10倍に削減する,説明誘導型ブラックボックス回避攻撃を提案する。 本研究では, 推定勾配の総分散の低減として, 説明からの逆効果を定量化できることを示す。
  論文  参考訳（メタデータ） (2022-06-28T13:46:06Z)
• Defending against Model Stealing via Verifying Embedded External Features [90.29429679125508]
  トレーニングサンプルがなく、モデルパラメータや構造にアクセスできない場合でも、敵はデプロイされたモデルを盗むことができる。 我々は、不審なモデルがディフェンダー特定遠近法の特徴の知識を含んでいるかどうかを検証することによって、他の角度からの防御を探索する。 本手法は, 複数段階の盗難処理によって盗難モデルが得られた場合でも, 同時に異なる種類の盗難モデルを検出するのに有効である。
  論文  参考訳（メタデータ） (2021-12-07T03:51:54Z)
• ExAD: An Ensemble Approach for Explanation-based Adversarial Detection [17.455233006559734]
  説明手法のアンサンブルを用いて逆例を検出するフレームワークであるExADを提案する。 3つの画像データセットに対する6つの最先端の敵攻撃によるアプローチの評価を行った。
  論文  参考訳（メタデータ） (2021-03-22T00:53:07Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• Model extraction from counterfactual explanations [68.8204255655161]
  本稿では, 敵が反実的説明によって提供された情報を利用して, 高精度かつ高精度なモデル抽出攻撃を構築する方法を示す。 我々の攻撃は、敵が相手モデルの忠実なコピーを、その偽説明にアクセスして作成することを可能にする。
  論文  参考訳（メタデータ） (2020-09-03T19:02:55Z)
• Sampling Attacks: Amplification of Membership Inference Attacks by Repeated Queries [74.59376038272661]
  本手法は,他の標準メンバーシップ相手と異なり,被害者モデルのスコアにアクセスできないような厳格な制限の下で動作可能な,新しいメンバーシップ推論手法であるサンプリングアタックを導入する。 ラベルのみを公開している被害者モデルでは,攻撃のサンプリングが引き続き可能であり,攻撃者はその性能の最大100%を回復できることを示す。 防衛においては,被害者モデルのトレーニング中の勾配摂動と予測時の出力摂動の形式で差分プライバシーを選択する。
  論文  参考訳（メタデータ） (2020-09-01T12:54:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。