論文の概要: Generative Example-Based Explanations: Bridging the Gap between Generative Modeling and Explainability

• arxiv url: http://arxiv.org/abs/2410.20890v2
• Date: Wed, 10 Sep 2025 08:43:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-11 15:16:51.940133
• Title: Generative Example-Based Explanations: Bridging the Gap between Generative Modeling and Explainability
• Title（参考訳）: 生成例に基づく説明:生成モデリングと説明可能性のギャップを埋める
• Authors: Philipp Vaeth, Alexander M. Fruehwald, Benjamin Paassen, Magda Gregorova,
• Abstract要約: いくつかの手法は、画像分類器の例に基づく説明を作成するために、深層生成モデリングを活用している。 視覚的に見事な結果をもたらすにもかかわらず、これらの手法は古典的な説明可能性の文献から大きく切り離されている。 この概念とコミュニケーションのギャップは、目標と期待の誤解と誤った調整につながります。
• 参考スコア（独自算出の注目度）: 40.26990075693758
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recently, several methods have leveraged deep generative modeling to produce example-based explanations of image classifiers. Despite producing visually stunning results, these methods are largely disconnected from classical explainability literature. This conceptual and communication gap leads to misunderstandings and misalignments in goals and expectations. In this paper, we bridge this gap by proposing a probabilistic framework for example-based explanations, formally defining the example-based explanations in a probabilistic manner amenable for modeling via deep generative models while coherent with the critical characteristics and desiderata widely accepted in the explainability community. Our aim is on one hand to provide a constructive framework for the development of well-grounded generative algorithms for example-based explanations and, on the other, to facilitate communication between the generative and explainability research communities, foster rigor and transparency, and improve the quality of peer discussion and research progress in this promising direction.
• Abstract（参考訳）: 近年、画像分類器の例に基づく説明を作成するために、深層生成モデリングを活用している手法がいくつかある。 視覚的に見事な結果をもたらすにもかかわらず、これらの手法は古典的な説明可能性の文献から大きく切り離されている。 この概念とコミュニケーションのギャップは、目標と期待の誤解と誤った調整につながります。 本稿では、このギャップを、例ベースの説明のための確率的枠組みを提案し、説明可能性コミュニティで広く受け入れられている批判的特徴とデシダラタを両立させながら、深い生成モデルを通してモデリング可能な確率論的説明を正式に定義することによって橋渡しする。 本研究の目的は、例えば、説明・説明・説明可能性研究コミュニティ間のコミュニケーションを容易にし、厳密さと透明性を育み、将来的な方向性でピアディスカッションや研究の質を向上させるための構築的枠組みを提供することである。

関連論文リスト

• Preference Learning for AI Alignment: a Causal Perspective [55.2480439325792]
  私たちはこの問題を因果パラダイムに枠組み化し、永続的な課題を特定するための因果関係の豊富なツールボックスを提供します。 因果推論の文献を継承し、信頼性の高い一般化に必要な重要な仮定を特定する。 そこで本研究では, 因果関係に基づくアプローチがモデルロバスト性をいかに改善するかを, ナイーブ報酬モデルの障害モードを例示する。
  論文  参考訳（メタデータ） (2025-06-06T10:45:42Z)
• Causality can systematically address the monsters under the bench(marks) [64.36592889550431]
  ベンチマークはさまざまなバイアス、アーティファクト、リークに悩まされている。 モデルは、調査の不十分な障害モードのため、信頼できない振る舞いをする可能性がある。 因果関係はこれらの課題を体系的に解決するための 理想的な枠組みを提供します
  論文  参考訳（メタデータ） (2025-02-07T17:01:37Z)
• Interpreting Inflammation Prediction Model via Tag-based Cohort Explanation [5.356481722174994]
  本稿では,局所的特徴重要度スコアに基づいて,データセット内のコホートを識別する新しいフレームワークを提案する。 食品ベースの炎症予測モデル上での枠組みを評価し,その枠組みがドメイン知識に合致する信頼性のある説明を生成できることを実証した。
  論文  参考訳（メタデータ） (2024-10-17T23:22:59Z)
• On Generating Monolithic and Model Reconciling Explanations in Probabilistic Scenarios [46.24262986854885]
  本稿では,確率論的モノリシックな説明とモデル整合的な説明を生成するための新しいフレームワークを提案する。 モノリシックな説明のために,本手法は確率論的論理を利用して不確実性を統合し,説明の確率を増大させる。 モデル整合性の説明のために,モデル整合性問題の論理に基づく変種を拡張し,確率的人間モデルを考慮したフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-05-29T16:07:31Z)
• Towards a Unified Framework for Evaluating Explanations [0.6138671548064356]
  我々は、モデルと利害関係者の間の仲介者として、本質的に解釈可能なモデルであれ、不透明なブラックボックスモデルであれ、説明が役立ちます。 本稿では,学習者の行動を予測するための解釈可能なニューラルネットワークの例を用いて,これらの基準と具体的な評価手法について述べる。
  論文  参考訳（メタデータ） (2024-05-22T21:49:28Z)
• Explaining Text Similarity in Transformer Models [52.571158418102584]
  説明可能なAIの最近の進歩により、トランスフォーマーの説明の改善を活用することで、制限を緩和できるようになった。 両線形類似性モデルにおける2次説明の計算のために開発された拡張であるBiLRPを用いて、NLPモデルにおいてどの特徴相互作用が類似性を促進するかを調べる。 我々の発見は、異なる意味的類似性タスクやモデルに対するより深い理解に寄与し、新しい説明可能なAIメソッドが、どのようにして深い分析とコーパスレベルの洞察を可能にするかを強調した。
  論文  参考訳（メタデータ） (2024-05-10T17:11:31Z)
• Exploring the Trade-off Between Model Performance and Explanation Plausibility of Text Classifiers Using Human Rationales [3.242050660144211]
  ホック後説明可能性法は、ますます複雑なNLPモデルを理解するための重要なツールである。 本稿では,人間の判断を説明するテキストアノテーションをテキスト分類モデルに組み込む手法を提案する。
  論文  参考訳（メタデータ） (2024-04-03T22:39:33Z)
• Explainability for Large Language Models: A Survey [59.67574757137078]
  大規模言語モデル(LLM)は、自然言語処理における印象的な能力を示している。 本稿では,トランスフォーマーに基づく言語モデルを記述する手法について,説明可能性の分類法を紹介した。
  論文  参考訳（メタデータ） (2023-09-02T22:14:26Z)
• Advanced Conditional Variational Autoencoders (A-CVAE): Towards interpreting open-domain conversation generation via disentangling latent feature representation [15.742077523458995]
  本稿では,メソスコピックスケールの特徴的絡み合いを伴う認知的アプローチを通じて,先行知識による生成モデルを活用することを提案する。 本稿では,潜在空間分布の解釈可能性を客観的に評価できるオープンドメイン対話のための新しい指標を提案する。
  論文  参考訳（メタデータ） (2022-07-26T07:39:36Z)
• Exploring the Trade-off between Plausibility, Change Intensity and Adversarial Power in Counterfactual Explanations using Multi-objective Optimization [73.89239820192894]
  自動対物生成は、生成した対物インスタンスのいくつかの側面を考慮すべきである。 本稿では, 対実例生成のための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2022-05-20T15:02:53Z)
• Explainability in Process Outcome Prediction: Guidelines to Obtain Interpretable and Faithful Models [77.34726150561087]
  本稿では、プロセス結果予測の分野における説明可能性モデルと説明可能性モデルの忠実性を通して、説明可能性を定義する。 本稿では,イベントログの仕様に基づいて適切なモデルを選択することのできる,X-MOPというガイドラインのセットを提案する。
  論文  参考訳（メタデータ） (2022-03-30T05:59:50Z)
• Representations of epistemic uncertainty and awareness in data-driven strategies [0.0]
  本稿では,エージェントによる知識表現とその伝達における不確実性の理論モデルを提案する。 我々は、推論、嗜好関係、情報測度の観点から、等価な知識表現を考察する。 本稿では,データ駆動戦略における提案モデルの有効性について論じる。
  論文  参考訳（メタデータ） (2021-10-21T21:18:21Z)
• On the Connections between Counterfactual Explanations and Adversarial Examples [14.494463243702908]
  本研究は, 対実的説明と敵対的事例との間の関係を定式化するための最初の試みである。 本分析は,いくつかの反事実的説明法と逆例生成法が等価であることを示す。 人工および実世界のデータセットを用いた広範囲な実験により理論的知見を実証的に検証した。
  論文  参考訳（メタデータ） (2021-06-18T08:22:24Z)
• Generative Counterfactuals for Neural Networks via Attribute-Informed Perturbation [51.29486247405601]
  AIP(Attribute-Informed Perturbation)の提案により,生データインスタンスの反事実を生成するフレームワークを設計する。 異なる属性を条件とした生成モデルを利用することで、所望のラベルとの反事実を効果的かつ効率的に得ることができる。 実世界のテキストや画像に対する実験結果から, 設計したフレームワークの有効性, サンプル品質, および効率が示された。
  論文  参考訳（メタデータ） (2021-01-18T08:37:13Z)
• Enhancing Dialogue Generation via Multi-Level Contrastive Learning [57.005432249952406]
  質問に対する応答のきめ細かい品質をモデル化するマルチレベルコントラスト学習パラダイムを提案する。 Rank-aware (RC) ネットワークはマルチレベルコントラスト最適化の目的を構築するために設計されている。 本研究では,知識推論(KI)コンポーネントを構築し,学習中の参照からキーワードの知識を抽出し,そのような情報を活用して情報的単語の生成を促す。
  論文  参考訳（メタデータ） (2020-09-19T02:41:04Z)
• Generalization Properties of Optimal Transport GANs with Latent Distribution Learning [52.25145141639159]
  本研究では,潜伏分布とプッシュフォワードマップの複雑さの相互作用が性能に与える影響について検討する。 我々の分析に感銘を受けて、我々はGANパラダイム内での潜伏分布とプッシュフォワードマップの学習を提唱した。
  論文  参考訳（メタデータ） (2020-07-29T07:31:33Z)
• Adversarial Mutual Information for Text Generation [62.974883143784616]
  本稿では,テキスト生成フレームワーク(AMI:Adversarial Mutual Information)を提案する。 AMIは、ソースとターゲット間の共同相互作用を特定することを目的とした、新しいサドル点(min-max)最適化として形成される。 AMIは、最大相互情報のより狭い範囲に導かれる可能性があることを示す。
  論文  参考訳（メタデータ） (2020-06-30T19:11:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。