論文の概要: Model Reconstruction Using Counterfactual Explanations: Mitigating the Decision Boundary Shift
- arxiv url: http://arxiv.org/abs/2405.05369v1
- Date: Wed, 8 May 2024 18:52:47 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-10 14:52:18.620199
- Title: Model Reconstruction Using Counterfactual Explanations: Mitigating the Decision Boundary Shift
- Title(参考訳): 対物的説明を用いたモデル再構成:決定境界シフトの緩和
- Authors: Pasan Dissanayake, Sanghamitra Dutta,
- Abstract要約: 我々は,CCA(Counterfactual Clamping Attack)と呼ばれる新しいモデル抽出手法を提案する。
モデル近似における誤差と,ポリトープ理論を用いたクエリ数との間に,新しい数学的関係を導出する。
実験結果から,本手法は,複数の実世界のデータセットにおいて,ターゲットと代理モデル間の忠実度の向上を図っている。
- 参考スコア(独自算出の注目度): 9.771997770574947
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Counterfactual explanations find ways of achieving a favorable model outcome with minimum input perturbation. However, counterfactual explanations can also be exploited to steal the model by strategically training a surrogate model to give similar predictions as the original (target) model. In this work, we investigate model extraction by specifically leveraging the fact that the counterfactual explanations also lie quite close to the decision boundary. We propose a novel strategy for model extraction that we call Counterfactual Clamping Attack (CCA) which trains a surrogate model using a unique loss function that treats counterfactuals differently than ordinary instances. Our approach also alleviates the related problem of decision boundary shift that arises in existing model extraction attacks which treat counterfactuals as ordinary instances. We also derive novel mathematical relationships between the error in model approximation and the number of queries using polytope theory. Experimental results demonstrate that our strategy provides improved fidelity between the target and surrogate model predictions on several real world datasets.
- Abstract(参考訳): 対実的な説明は、最小の入力摂動で好ましいモデル結果を達成する方法を見つける。
しかし、反実的な説明は、元の(ターゲット)モデルと同様の予測を与えるために代理モデルを戦略的に訓練することで、モデルを盗むために利用することもできる。
本研究では, モデル抽出について, 因果的説明が決定境界にかなり近いという事実を特に活用して検討する。
そこで本研究では,従来の事例とは違って,一意の損失関数を用いて代理モデルを訓練するモデル抽出手法をCCA(Counterfactual Clamping Attack)と呼ぶ。
提案手法は,既存のモデル抽出攻撃において発生した決定境界シフトの問題を通常の事例として扱うことで緩和する。
また,モデル近似における誤差と,ポリトープ理論を用いたクエリ数との間には,新しい数学的関係を導出する。
実験結果から,本手法は,複数の実世界のデータセットにおいて,ターゲットと代理モデル間の忠実度の向上を図っている。
関連論文リスト
- Single-Model Attribution of Generative Models Through Final-Layer Inversion [16.506531590300806]
最終層逆転と異常検出に基づくオープンワールド設定における単一モデル属性に対する新しいアプローチを提案する。
得られた最終層インバージョンを凸ラッソ最適化問題に還元し,理論的に健全で計算効率がよいことを示す。
論文 参考訳(メタデータ) (2023-05-26T13:06:38Z) - Less is More: Mitigate Spurious Correlations for Open-Domain Dialogue
Response Generation Models by Causal Discovery [52.95935278819512]
本研究で得られたCGDIALOGコーパスに基づくオープンドメイン応答生成モデルのスプリアス相関に関する最初の研究を行った。
因果探索アルゴリズムに着想を得て,反応生成モデルの学習と推論のための新しいモデル非依存手法を提案する。
論文 参考訳(メタデータ) (2023-03-02T06:33:48Z) - Non-intrusive surrogate modelling using sparse random features with
applications in crashworthiness analysis [4.521832548328702]
Sparse Random Features を自己教師付き次元減少と組み合わせた代理モデリングに利用する新しい手法について述べる。
以上の結果から, サーロゲートモデリング技術, ポリノミアルカオス展開, ニューラルネットワークの状況に対するアプローチの優位性が示唆された。
論文 参考訳(メタデータ) (2022-12-30T01:29:21Z) - When to Update Your Model: Constrained Model-based Reinforcement
Learning [50.74369835934703]
モデルベースRL(MBRL)の非遅延性能保証のための新規で一般的な理論スキームを提案する。
続いて導いた境界は、モデルシフトとパフォーマンス改善の関係を明らかにします。
さらなる例では、動的に変化する探索からの学習モデルが、最終的なリターンの恩恵をもたらすことが示されている。
論文 参考訳(メタデータ) (2022-10-15T17:57:43Z) - Deciding What to Model: Value-Equivalent Sampling for Reinforcement
Learning [21.931580762349096]
本稿では,エージェントが真のモデルの代わりにターゲットにできるような,ほぼ等価でロッキーな環境圧縮を計算するアルゴリズムを提案する。
有限水平, エピソディックな逐次決定問題を解くアルゴリズムに対して, 情報理論的, ベイズ的後悔を証明した。
論文 参考訳(メタデータ) (2022-06-04T23:36:38Z) - ReLACE: Reinforcement Learning Agent for Counterfactual Explanations of
Arbitrary Predictive Models [6.939617874336667]
本稿では,最適対実的説明を生成するためのモデルに依存しないアルゴリズムを提案する。
本手法は,DRLエージェントが相互作用する環境に類似するため,任意のブラックボックスモデルに容易に適用できる。
さらに,DRLエージェントのポリシーから説明可能な決定ルールを抽出し,CF自体を透過的に生成するアルゴリズムを開発した。
論文 参考訳(メタデータ) (2021-10-22T17:08:49Z) - Estimation of Bivariate Structural Causal Models by Variational Gaussian
Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
因果機構は構造因果モデルによって記述できる。
最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
論文 参考訳(メタデータ) (2021-09-06T14:52:58Z) - Beyond Trivial Counterfactual Explanations with Diverse Valuable
Explanations [64.85696493596821]
コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。
本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。
このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
論文 参考訳(メタデータ) (2021-03-18T12:57:34Z) - BODAME: Bilevel Optimization for Defense Against Model Extraction [10.877450596327407]
私たちは、サービスプロバイダのアタッカーを最も推測する前提の下でモデル抽出を防ぐために、逆の設定を検討します。
真のモデルの予測を用いてサロゲートモデルを定式化する。
勾配降下に基づくアルゴリズムを用いて学習されるより複雑なモデルに対して,トラクタブル変換とアルゴリズムを与える。
論文 参考訳(メタデータ) (2021-03-11T17:08:31Z) - Improving the Reconstruction of Disentangled Representation Learners via Multi-Stage Modeling [55.28436972267793]
現在の自己エンコーダに基づく非絡み合い表現学習法は、(集合体)後部をペナルティ化し、潜伏因子の統計的独立を促進することで、非絡み合いを実現する。
本稿では,不整合因子をペナルティに基づく不整合表現学習法を用いて学習する,新しい多段階モデリング手法を提案する。
次に、低品質な再構成を、欠落した関連潜伏変数をモデル化するために訓練された別の深層生成モデルで改善する。
論文 参考訳(メタデータ) (2020-10-25T18:51:15Z) - Control as Hybrid Inference [62.997667081978825]
本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。
連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
論文 参考訳(メタデータ) (2020-07-11T19:44:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。