論文の概要: Faithful Counterfactual Visual Explanations (FCVE)

• arxiv url: http://arxiv.org/abs/2501.06841v1
• Date: Sun, 12 Jan 2025 15:18:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-14 14:24:27.542764
• Title: Faithful Counterfactual Visual Explanations (FCVE)
• Title（参考訳）: Faithful Counterfactual Visual Explanations (FCVE)
• Authors: Bismillah Khan, Syed Ali Tariq, Tehseen Zia, Muhammad Ahsan, David Windridge,
• Abstract要約: 本稿では、妥当性と忠実性のバランスをとる対実的説明(CE)モデルを開発することを提案する。 このモデルは、画素データを変更することなく、画像に必要最小限の変更を加えることで、容易に理解可能な視覚的説明を生成する。 提案した説明は、モデルの内部決定過程を反映し、モデルへの忠実性を保証する。
• 参考スコア（独自算出の注目度）: 1.4959655297971257
• License:
• Abstract: Deep learning models in computer vision have made remarkable progress, but their lack of transparency and interpretability remains a challenge. The development of explainable AI can enhance the understanding and performance of these models. However, existing techniques often struggle to provide convincing explanations that non-experts easily understand, and they cannot accurately identify models' intrinsic decision-making processes. To address these challenges, we propose to develop a counterfactual explanation (CE) model that balances plausibility and faithfulness. This model generates easy-to-understand visual explanations by making minimum changes necessary in images without altering the pixel data. Instead, the proposed method identifies internal concepts and filters learned by models and leverages them to produce plausible counterfactual explanations. The provided explanations reflect the internal decision-making process of the model, thus ensuring faithfulness to the model.
• Abstract（参考訳）: コンピュータビジョンにおけるディープラーニングモデルは目覚ましい進歩を遂げているが、透明性と解釈可能性の欠如は依然として課題である。 説明可能なAIの開発は、これらのモデルの理解と性能を高めることができる。 しかし、既存の技術は、非専門家が容易に理解できるような説得力のある説明を提供することに苦慮し、モデルの本質的な意思決定プロセスを正確に識別することはできない。 これらの課題に対処するために、妥当性と忠実性のバランスをとる対実的説明(CE)モデルを開発することを提案する。 このモデルは、画素データを変更することなく、画像に必要最小限の変更を加えることで、容易に理解可能な視覚的説明を生成する。 提案手法は,モデルによって学習された内部概念とフィルタを識別し,それらを有効活用して,妥当な対実的説明を生成する。 提案した説明は、モデルの内部決定過程を反映し、モデルへの忠実性を保証する。

関連論文リスト

• CoLa-DCE -- Concept-guided Latent Diffusion Counterfactual Explanations [2.3083192626377755]
  概念誘導型遅延拡散対実例(CoLa-DCE)を紹介する。 CoLa-DCEは、概念選択と空間条件に関する高度な制御を持つ任意の分類器に対して、概念誘導対物を生成する。 我々は,複数の画像分類モデルとデータセットにまたがって,最小化と理解性のアプローチの利点を実証する。
  論文  参考訳（メタデータ） (2024-06-03T14:27:46Z)
• Exploring the Trade-off Between Model Performance and Explanation Plausibility of Text Classifiers Using Human Rationales [3.242050660144211]
  ホック後説明可能性法は、ますます複雑なNLPモデルを理解するための重要なツールである。 本稿では,人間の判断を説明するテキストアノテーションをテキスト分類モデルに組み込む手法を提案する。
  論文  参考訳（メタデータ） (2024-04-03T22:39:33Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• Explainability for Large Language Models: A Survey [59.67574757137078]
  大規模言語モデル(LLM)は、自然言語処理における印象的な能力を示している。 本稿では,トランスフォーマーに基づく言語モデルを記述する手法について,説明可能性の分類法を紹介した。
  論文  参考訳（メタデータ） (2023-09-02T22:14:26Z)
• Learning with Explanation Constraints [91.23736536228485]
  我々は、説明がモデルの学習をどのように改善するかを分析するための学習理論フレームワークを提供する。 我々は,多数の合成および実世界の実験に対して,我々のアプローチの利点を実証する。
  論文  参考訳（メタデータ） (2023-03-25T15:06:47Z)
• Perception Visualization: Seeing Through the Eyes of a DNN [5.9557391359320375]
  我々は、Grad-CAMのような現在の説明方法と本質的に異なる、新しい説明形式を開発する。 知覚可視化は、DNNが入力画像で知覚するものの視覚的表現を提供する。 ユーザスタディの結果から,認識の可視化が可能になった場合,人間がシステムの判断をよりよく理解し,予測できることが示される。
  論文  参考訳（メタデータ） (2022-04-21T07:18:55Z)
• Towards Interpretable Deep Reinforcement Learning Models via Inverse Reinforcement Learning [27.841725567976315]
  本稿では,逆逆強化学習を利用した新しいフレームワークを提案する。 このフレームワークは、強化学習モデルによる決定のグローバルな説明を提供する。 モデルの意思決定過程を要約することで、モデルが従う直感的な傾向を捉える。
  論文  参考訳（メタデータ） (2022-03-30T17:01:59Z)
• Beyond Explaining: Opportunities and Challenges of XAI-Based Model Improvement [75.00655434905417]
  説明可能な人工知能(XAI)は、高度に複雑な機械学習(ML)モデルに透明性をもたらす新たな研究分野である。 本稿では,機械学習モデルの諸特性を改善するために,XAIを実用的に応用する手法を概観する。 実験では,モデル一般化能力や推論などの特性を改善する上で,説明がどのように役立つのかを,おもちゃと現実的な設定で実証的に示す。
  論文  参考訳（メタデータ） (2022-03-15T15:44:28Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• Explainers in the Wild: Making Surrogate Explainers Robust to Distortions through Perception [77.34726150561087]
  説明における歪みの影響を知覚距離を埋め込むことで評価する手法を提案する。 Imagenet-Cデータセットの画像の説明を生成し、サロゲート説明書の知覚距離を使用して歪んだ画像と参照画像のより一貫性のある説明を作成する方法を示しています。
  論文  参考訳（メタデータ） (2021-02-22T12:38:53Z)
• Right for the Right Concept: Revising Neuro-Symbolic Concepts by Interacting with their Explanations [24.327862278556445]
  本稿では,意味レベルでのモデル修正を可能にするニューロ・シンボリックシーン表現を提案する。 CLEVR-Hansの実験の結果は、私たちのセマンティックな説明が共同創設者を識別できることを示しています。
  論文  参考訳（メタデータ） (2020-11-25T16:23:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。