論文の概要: Resisting Out-of-Distribution Data Problem in Perturbation of XAI
- arxiv url: http://arxiv.org/abs/2107.14000v1
- Date: Tue, 27 Jul 2021 08:29:46 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-30 13:20:10.874490
- Title: Resisting Out-of-Distribution Data Problem in Perturbation of XAI
- Title（参考訳）: xaiの摂動における分布外データ問題への抵抗
- Authors: Luyu Qiu, Yi Yang, Caleb Chen Cao, Jing Liu, Yueyuan Zheng, Hilary Hei
Ting Ngai, Janet Hsiao, Lei Chen
- Abstract要約: 摂動に基づくXAI技術の大部分は、OoD(Out-of-Distribution)データによる課題に直面している。
OoDデータは、モデル予測における過信問題を引き起こし、既存のXAIアプローチを信頼できないものにする。
我々の解は、RISE、OCCLUSION、LIMEなどの最も一般的な摂動型XAIアルゴリズムと互換性があることが示されている。
- 参考スコア（独自算出の注目度）: 20.849168573556085
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the rapid development of eXplainable Artificial Intelligence (XAI),
perturbation-based XAI algorithms have become quite popular due to their
effectiveness and ease of implementation. The vast majority of
perturbation-based XAI techniques face the challenge of Out-of-Distribution
(OoD) data -- an artifact of randomly perturbed data becoming inconsistent with
the original dataset. OoD data leads to the over-confidence problem in model
predictions, making the existing XAI approaches unreliable. To our best
knowledge, the OoD data problem in perturbation-based XAI algorithms has not
been adequately addressed in the literature. In this work, we address this OoD
data problem by designing an additional module quantifying the affinity between
the perturbed data and the original dataset distribution, which is integrated
into the process of aggregation. Our solution is shown to be compatible with
the most popular perturbation-based XAI algorithms, such as RISE, OCCLUSION,
and LIME. Experiments have confirmed that our methods demonstrate a significant
improvement in general cases using both computational and cognitive metrics.
Especially in the case of degradation, our proposed approach demonstrates
outstanding performance comparing to baselines. Besides, our solution also
resolves a fundamental problem with the faithfulness indicator, a commonly used
evaluation metric of XAI algorithms that appears to be sensitive to the OoD
issue.
- Abstract（参考訳）: eXplainable Artificial Intelligence (XAI)の急速な発展に伴い、摂動に基づくXAIアルゴリズムは、その有効性と実装の容易さから非常に人気がある。
摂動ベースのxai技術の大部分は、分散(ood)データ -- ランダムに摂動したデータのアーティファクト — という課題に直面している。
OoDデータは、モデル予測における過信問題を引き起こし、既存のXAIアプローチを信頼できないものにする。
我々の知る限り、摂動に基づくXAIアルゴリズムにおけるOoDデータ問題は文献では適切に解決されていない。
本研究では、このOoDデータ問題に対して、摂動データと元のデータセット分布との親和性を定量化するモジュールを設計し、集約プロセスに統合することで対処する。
我々の解は、RISE、OCCLUSION、LIMEなどの最も一般的な摂動型XAIアルゴリズムと互換性があることが示されている。
実験により,本手法は一般の症例において,計算指標と認知指標の両方を用いて有意な改善を示した。
特に劣化の場合,提案手法はベースラインと比較して優れた性能を示す。
さらに,ood問題に敏感であると思われるxaiアルゴリズムの一般的な評価指標である trueness indicator による根本的な問題も解決する。
関連論文リスト
- F-Fidelity: A Robust Framework for Faithfulness Evaluation of Explainable AI [15.314388210699443]
微調整フィデリティF-フィデリティはXAIの堅牢な評価フレームワークである。
その結果, F-Fidelity は, 説明者の信頼度を回復する上で, 事前評価基準を著しく改善することを示した。
また,F-Fidelityの指標を忠実に説明すれば,入力成分の空間性を計算することができることを示す。
論文 参考訳（メタデータ） (2024-10-03T20:23:06Z) - Enhancing Feature Selection and Interpretability in AI Regression Tasks Through Feature Attribution [38.53065398127086]
本研究では、回帰問題に対する入力データの非形式的特徴をフィルタリングする特徴属性法の可能性について検討する。
我々は、初期データ空間から最適な変数セットを選択するために、統合グラディエントとk平均クラスタリングを組み合わせた機能選択パイプラインを導入する。
提案手法の有効性を検証するため, ターボ機械の開発過程における羽根振動解析を実世界の産業問題に適用した。
論文 参考訳（メタデータ） (2024-09-25T09:50:51Z) - Explainable AI for Enhancing Efficiency of DL-based Channel Estimation [1.0136215038345013]
人工知能に基づく意思決定のサポートは、将来の6Gネットワークの重要な要素である。
このようなアプリケーションでは、ブラックボックスモデルとしてAIを使用するのは危険で難しい。
本稿では,無線通信におけるチャネル推定を目的とした新しいXAI-CHESTフレームワークを提案する。
論文 参考訳（メタデータ） (2024-07-09T16:24:21Z) - Simple Ingredients for Offline Reinforcement Learning [86.1988266277766]
オフライン強化学習アルゴリズムは、ターゲット下流タスクに高度に接続されたデータセットに有効であることが証明された。
既存の手法が多様なデータと競合することを示す。その性能は、関連するデータ収集によって著しく悪化するが、オフラインバッファに異なるタスクを追加するだけでよい。
アルゴリズム的な考慮以上のスケールが、パフォーマンスに影響を及ぼす重要な要因であることを示す。
論文 参考訳（メタデータ） (2024-03-19T18:57:53Z) - Assessing Fidelity in XAI post-hoc techniques: A Comparative Study with
Ground Truth Explanations Datasets [0.0]
入力への出力情報のバックプロパゲーションに基づくXAI手法により精度と信頼性が向上する。
バックプロパゲーション法は、よりノイズの多いサリエンシマップを生成する傾向がある。
発見はXAI法の進歩に重要な意味を持つ。
論文 参考訳（メタデータ） (2023-11-03T14:57:24Z) - A Deep Dive into Perturbations as Evaluation Technique for Time Series
XAI [13.269396832189754]
時系列データのためのXAIは、金融、医療、気候科学においてますます重要になっている。
XAI技術による属性などの説明の質を評価することは依然として困難である。
本稿では,時系列モデルから抽出した属性を評価するために摂動を用いた詳細な解析を行う。
論文 参考訳（メタデータ） (2023-07-11T08:26:08Z) - On Robust Numerical Solver for ODE via Self-Attention Mechanism [82.95493796476767]
我々は,内在性雑音障害を緩和し,AIによって強化された数値解法を,データサイズを小さくする訓練について検討する。
まず,教師付き学習における雑音を制御するための自己認識機構の能力を解析し,さらに微分方程式の数値解に付加的な自己認識機構を導入し,簡便かつ有効な数値解法であるAttrを提案する。
論文 参考訳（メタデータ） (2023-02-05T01:39:21Z) - Deep Equilibrium Assisted Block Sparse Coding of Inter-dependent
Signals: Application to Hyperspectral Imaging [71.57324258813675]
相互依存信号のデータセットは、列が強い依存を示す行列として定義される。
ニューラルネットワークは、事前に構造として機能し、基礎となる信号相互依存性を明らかにするために使用される。
ディープ・アンローリングとディープ・平衡に基づくアルゴリズムが開発され、高度に解釈可能で簡潔なディープ・ラーニング・ベース・アーキテクチャを形成する。
論文 参考訳（メタデータ） (2022-03-29T21:00:39Z) - Adaptive Anomaly Detection for Internet of Things in Hierarchical Edge
Computing: A Contextual-Bandit Approach [81.5261621619557]
階層エッジコンピューティング(HEC)を用いた適応型異常検出手法を提案する。
まず,複雑性を増した複数のDNNモデルを構築し,それぞれを対応するHEC層に関連付ける。
そこで我々は、文脈帯域問題として定式化され、強化学習ポリシーネットワークを用いて解決される適応モデル選択スキームを設計する。
論文 参考訳（メタデータ） (2021-08-09T08:45:47Z) - DEALIO: Data-Efficient Adversarial Learning for Imitation from
Observation [57.358212277226315]
観察ifoからの模倣学習において、学習エージェントは、実演者の生成した制御信号にアクセスせずに、実演行動の観察のみを用いて実演エージェントを模倣しようとする。
近年、逆模倣学習に基づく手法は、ifO問題に対する最先端のパフォーマンスをもたらすが、データ非効率でモデルなしの強化学習アルゴリズムに依存するため、サンプルの複雑さに悩まされることが多い。
この問題は、サンプルの収集が時間、エネルギー、およびリスクの面で高いコストを被る可能性がある現実世界の設定に展開することは非現実的です。
よりデータ効率の高いifOアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-03-31T23:46:32Z) - Decomposed Adversarial Learned Inference [118.27187231452852]
我々は,DALI(Decomposed Adversarial Learned Inference)という新しいアプローチを提案する。
DALIは、データ空間とコード空間の両方の事前および条件分布を明示的に一致させる。
MNIST, CIFAR-10, CelebAデータセットにおけるDALIの有効性を検証する。
論文 参考訳（メタデータ） (2020-04-21T20:00:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。