論文の概要: TIER: Trajectory-Invariant Explanation Regularization for Membership Privacy
- arxiv url: http://arxiv.org/abs/2607.02903v1
- Date: Fri, 03 Jul 2026 02:59:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.452103
- Title: TIER: Trajectory-Invariant Explanation Regularization for Membership Privacy
- Title（参考訳）: TIER: メンバーシッププライバシのための軌道不変説明規則化
- Abstract要約: 本稿では,勾配誘導摂動を模擬した信頼落下における不規則な変動を補償するトラジェクトリ不変説明正規化(TIER)ディフェンスを提案する。
提案手法は,KL分割による自己整合性を強制し,メンバーと非メンバー間の信頼低下の分散を低減することによって,ロバストネスを目標とする。
- 参考スコア（独自算出の注目度）: 0.27855886538423175
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Explainability is central to building trustworthy AI, yet explanation interfaces can inadvertently provide adversaries with an expanded privacy-related attack surfaces. Recent studies show that advanced membership-inference attacks succeed by exploiting confidence-drop trajectories, induced through attribution-guided perturbations, as discriminative features, rather than directly using confidence scores or explanation vectors. Existing defenses against membership inference fail to directly mitigate such explanation-driven attacks. In this work, we investigate whether, during training, a model's own gradients can be leveraged as defense signals against such attacks, thereby aligning explanation profiles between members and non-members. To this end, we propose a Trajectory-Invariant Explanation Regularization (TIER) defense that penalizes erratic fluctuations in confidence drops simulated through gradient-guided perturbations and simultaneously minimizes the distributional shifts via KL-divergence. Unlike conventional adversarial training, which emphasizes label robustness, our approach targets explanation robustness by enforcing self-consistency through KL-divergence and reducing the variance of confidence drops between members and non-members. Extensive experiments confirm that our method effectively mitigates these attacks, delivering privacy protection while maintaining model utility and explanation fidelity.
- Abstract（参考訳）: 説明責任は信頼できるAI構築の中心であるが、説明インターフェースは必然的に、プライバシー関連の攻撃面を拡大した敵に提供することができる。
近年の研究では、信頼度スコアや説明ベクトルを直接使用するのではなく、帰属誘導摂動によって誘導される信頼度低下軌跡を識別的特徴として活用することで、高度なメンバーシップ推論攻撃が成功することが示されている。
既存のメンバーシップ推論に対する防御は、そのような説明駆動攻撃を直接緩和することができない。
本研究では,訓練中,モデル自体の勾配が攻撃に対する防御信号として活用できるかどうかを考察し,メンバーと非メンバー間の説明プロファイルの整合性について検討する。
この目的のために、勾配誘導摂動を模擬した信頼落下における不規則な変動をペナライズし、同時にKL偏差による分布シフトを最小化するtrajectory-Invariant Explanation Regularization (TIER) ディフェンスを提案する。
ラベルのロバスト性を重視した従来の対人訓練とは違い,我々のアプローチは,KL分割による自己整合性の実現と,メンバーと非メンバーの信頼低下のばらつきの低減によって,ロバスト性を説明することを目的としている。
大規模な実験により,本手法はこれらの攻撃を効果的に軽減し,モデルユーティリティと説明忠実さを維持しつつプライバシ保護を提供することを確認した。
関連論文リスト
- Crushing the Evidence: A Dual-Penalty Evasion Framework for Fooling White-Box Explainable AI Auditors [4.377640147713394]
ポストホックモデルの説明器は、高感度ドメインのモデルを監査するために広くデプロイされている。
説明可能性パイプラインにおける潜在的な攻撃について、いくつかの研究がなされている。
より強力なホワイトボックス、勾配調整型回避攻撃フレームワークを導入する。
論文 参考訳（メタデータ） (2026-08-01T10:03:14Z) - Privacy Vulnerabilities of Attention Layers in Tabular Foundation Models and Protection of High-Risk Queries [12.545534835317481]
本稿では,アテンション機構によって生成された予測が,効果的なメンバーシップ推論攻撃(MIAs)を可能にする十分な情報を漏らすことを示す。
このリスクを軽減するために、$k$匿名の原則にインスパイアされた推論時防御を導入します。
論文 参考訳（メタデータ） (2026-06-24T16:42:21Z) - Boundary-targeted Membership Inference Attacks on Safety Classifiers [70.20833439671131]
安全分類器は、セルフハームとメンタルヘルスの議論を含むセンシティブなデータセットに基づいて訓練される。
低信頼例を識別する新たな境界目標選択戦略を導入する。
実験により、相手は会話の19%を安全分類器が5%の偽陽性率でユーザーの苦痛を示すようにフラグ付けして回復できることが示された。
これは最先端のMIAメソッドだけで攻撃するより3.5ドル高い。
論文 参考訳（メタデータ） (2026-05-21T12:05:22Z) - Provable Robustness against Backdoor Attacks via the Primal-Dual Perspective on Differential Privacy [51.758416625168]
ランダムな平滑化は、敵の摂動に対する堅牢性を証明するための強力なツールである。
本稿では,複雑な構成機構の認証のためのフレームワークを提案する。
複雑な脅威モデル下での堅牢性を証明するために複合メカニズムを使用するための原則的で一般的なフレームワークを提供する。
論文 参考訳（メタデータ） (2026-05-20T22:17:29Z) - Neighborhood Blending: A Lightweight Inference-Time Defense Against Membership Inference Attacks [5.468130838517792]
近隣ブレンディング(Neighborhood Blending)と呼ばれる新しい予測時防衛機構を導入する。
提案手法は,敵と区別できない,一貫した信頼パターン,メンバと非メンバのレンダリングを実現する。
これはモデルに依存しないアプローチであり、実用的で軽量なソリューションを提供し、モデルユーティリティを犠牲にすることなくプライバシを強化する。
論文 参考訳（メタデータ） (2026-02-13T14:01:21Z) - Leveraging Soft Prompts for Privacy Attacks in Federated Prompt Tuning [24.914116986408327]
本稿では,フェデレートされたプロンプトチューニングに適したメンバシップ推論攻撃であるPromptMIAを提案する。
PromptMIAは、様々なベンチマークデータセットに対して、このゲームにおいて一貫して高い優位性を発揮することを実証的に示します。
結果は、現在の防衛に対する非自明な課題を強調し、その制限に関する洞察を提供する。
論文 参考訳（メタデータ） (2026-01-10T17:50:05Z) - Explainability-Guided Defense: Attribution-Aware Model Refinement Against Adversarial Data Attacks [6.573058520271728]
私たちは、トレーニング中に直接活用できる、解釈可能性と堅牢性との関連性を特定します。
本稿では,局所解釈可能なモデル非依存表現をアクティブな訓練信号に変換する属性誘導型改良フレームワークを提案する。
論文 参考訳（メタデータ） (2026-01-02T19:36:03Z) - Adversarial Counterfactual Visual Explanations [0.7366405857677227]
本稿では,敵攻撃を意味論的に意味のある摂動に変換するエレガントな手法を提案する。
提案手法は,拡散確率モデルが高周波および分布外摂動を回避するための優れた正則化器であることを仮定する。
論文 参考訳（メタデータ） (2023-03-17T13:34:38Z) - FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated
Learning [66.56240101249803]
我々は,クライアントの強固化がグローバルモデル(および悪意のあるクライアント)に与える影響について検討する。
本稿では, 逆エンジニアリングによる防御手法を提案するとともに, 堅牢性を保証して, 改良を実現できることを示す。
競合する8つのSOTA防御法について, 単発および連続のFLバックドア攻撃に対して, 提案手法の実証的優位性を示した。
論文 参考訳（メタデータ） (2022-10-23T22:24:03Z) - Protecting Split Learning by Potential Energy Loss [70.81375125791979]
我々は、分割学習の前方埋め込みからのプライバシー漏洩に焦点を当てる。
我々は、前方埋め込みをより「複雑化」させるためのエネルギー損失の可能性を提案する。
論文 参考訳（メタデータ） (2022-10-18T06:21:11Z) - Sampling Attacks: Amplification of Membership Inference Attacks by
Repeated Queries [74.59376038272661]
本手法は,他の標準メンバーシップ相手と異なり,被害者モデルのスコアにアクセスできないような厳格な制限の下で動作可能な,新しいメンバーシップ推論手法であるサンプリングアタックを導入する。
ラベルのみを公開している被害者モデルでは,攻撃のサンプリングが引き続き可能であり,攻撃者はその性能の最大100%を回復できることを示す。
防衛においては,被害者モデルのトレーニング中の勾配摂動と予測時の出力摂動の形式で差分プライバシーを選択する。
論文 参考訳（メタデータ） (2020-09-01T12:54:54Z) - Label-Only Membership Inference Attacks [67.46072950620247]
ラベルのみのメンバシップ推論攻撃を導入する。
我々の攻撃は、摂動下でのモデルが予測するラベルの堅牢性を評価する。
差分プライバシーと(強い)L2正規化を備えたトレーニングモデルは、唯一知られている防衛戦略である。
論文 参考訳（メタデータ） (2020-07-28T15:44:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。