論文の概要: Contrastive Explanations for Explaining Model Adaptations

• arxiv url: http://arxiv.org/abs/2104.02459v2
• Date: Wed, 7 Apr 2021 07:09:30 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-08 13:09:54.062997
• Title: Contrastive Explanations for Explaining Model Adaptations
• Title（参考訳）: モデル適応を説明するための対比的説明
• Authors: Andr\'e Artelt, Fabian Hinder, Valerie Vaquet, Robert Feldhans, Barbara Hammer
• Abstract要約: 対照的説明によりモデル適応を説明するためのフレームワークを評価する。 また,与えられたモデル適応によって影響を受けるデータ空間内の領域を自動的に発見する手法を提案する。
• 参考スコア（独自算出の注目度）: 9.208159005149238
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Many decision making systems deployed in the real world are not static - a phenomenon known as model adaptation takes place over time. The need for transparency and interpretability of AI-based decision models is widely accepted and thus have been worked on extensively. Usually, explanation methods assume a static system that has to be explained. Explaining non-static systems is still an open research question, which poses the challenge how to explain model adaptations. In this contribution, we propose and (empirically) evaluate a framework for explaining model adaptations by contrastive explanations. We also propose a method for automatically finding regions in data space that are affected by a given model adaptation and thus should be explained.
• Abstract（参考訳）: 現実世界にデプロイされた意思決定システムは静的ではなく、モデル適応と呼ばれる現象が時間の経過とともに起こる。 aiベースの意思決定モデルの透明性と解釈性の必要性は広く受け入れられ、広く研究されている。 通常、説明手法は、説明しなければならない静的なシステムを仮定する。 非静的システムを説明することはまだオープンリサーチの問題であり、モデル適応を説明する方法が課題となっている。 本稿では,モデル適応を説明するためのフレームワークを,対照的な説明によって提案し,実際に評価する。 また,与えられたモデル適応によって影響を受けるデータ空間内の領域を自動的に発見する手法を提案する。

関連論文リスト

• An Axiomatic Approach to Model-Agnostic Concept Explanations [67.84000759813435]
  本稿では、線形性、再帰性、類似性という3つの自然な公理を満たす概念的説明へのアプローチを提案する。 次に、従来の概念的説明手法とのつながりを確立し、それらの意味の異なる意味についての洞察を提供する。
  論文  参考訳（メタデータ） (2024-01-12T20:53:35Z)
• Using Causal Threads to Explain Changes in a Dynamic System [0.0]
  システムのリッチなセマンティックモデルの開発について検討する。 具体的には、これらのシステムにおける状態変化に関する構造的因果説明について考察する。 積雪地理論により提案される地質学的変化の因果糸モデルを構築した。
  論文  参考訳（メタデータ） (2023-11-19T14:32:06Z)
• Explainability for Large Language Models: A Survey [59.67574757137078]
  大規模言語モデル(LLM)は、自然言語処理における印象的な能力を示している。 本稿では,トランスフォーマーに基づく言語モデルを記述する手法について,説明可能性の分類法を紹介した。
  論文  参考訳（メタデータ） (2023-09-02T22:14:26Z)
• Learning with Explanation Constraints [91.23736536228485]
  我々は、説明がモデルの学習をどのように改善するかを分析するための学習理論フレームワークを提供する。 我々は,多数の合成および実世界の実験に対して,我々のアプローチの利点を実証する。
  論文  参考訳（メタデータ） (2023-03-25T15:06:47Z)
• Gradient Frequency Modulation for Visually Explaining Video Understanding Models [39.70146574042422]
  本稿では、周波数に基づく極端摂動(FEP)を提案し、映像理解モデルの意思決定を説明する。 FEPが提供する実験は、既存の最先端の手法と比較して、モデルの決定をより忠実に表現できることを示している。
  論文  参考訳（メタデータ） (2021-11-01T19:07:58Z)
• Recurrence-Aware Long-Term Cognitive Network for Explainable Pattern Classification [0.0]
  構造化データの解釈可能なパターン分類のためのLCCNモデルを提案する。 本手法は, 決定過程における各特徴の関連性を定量化し, 説明を提供する独自のメカニズムを提供する。 解釈可能なモデルでは,最先端の白黒ボックスと比較して競争性能が向上する。
  論文  参考訳（メタデータ） (2021-07-07T18:14:50Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• Contrastive Explanations for Model Interpretability [77.92370750072831]
  分類モデルの対照的説明を生成する手法を提案する。 本手法は潜在空間へのモデル表現の投影に基づいている。 本研究は,モデル決定のより正確できめ細かな解釈性を提供するためのラベルコントラスト的説明の能力に光を当てた。
  論文  参考訳（メタデータ） (2021-03-02T00:36:45Z)
• Accurate and Intuitive Contextual Explanations using Linear Model Trees [0.0]
  ローカルなポストホックモデル説明が広く採用されている。 技術手法の現状は、初歩的な手法を用いて説明すべき点の周囲に合成データを生成する。 我々は、合成データ生成にジェネレーティブ・アドバイサル・ネットワークを使用し、線形モデルツリーの形で断片的な線形モデルを訓練する。
  論文  参考訳（メタデータ） (2020-09-11T10:13:12Z)
• Explainable Deep Classification Models for Domain Generalization [94.43131722655617]
  説明は、深い分類網が決定を下す視覚的証拠の領域として定義される。 トレーニング戦略は周期的な正当性に基づくフィードバックを強制し、モデルが地中真実に直接対応する画像領域に焦点を合わせることを奨励する。
  論文  参考訳（メタデータ） (2020-03-13T22:22:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。