論文の概要: LeapFactual: Reliable Visual Counterfactual Explanation Using Conditional Flow Matching

• arxiv url: http://arxiv.org/abs/2510.14623v1
• Date: Thu, 16 Oct 2025 12:34:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-17 21:15:14.850222
• Title: LeapFactual: Reliable Visual Counterfactual Explanation Using Conditional Flow Matching
• Title（参考訳）: LeapFactual:条件付きフローマッチングを用いた信頼性の高い視覚対実説明
• Authors: Zhuo Cao, Xuan Zhao, Lena Krieger, Hanno Scharr, Ira Assent,
• Abstract要約: 本稿では,条件付きフローマッチングに基づく新しい対実的説明アルゴリズム LeapFactualを提案する。 LeapFactualは、真実と学習された決定境界が分岐しても、信頼性が高く情報的な反ファクトを生成する。 ヒューマン・イン・ザ・ループのシステムを扱うことができ、ヒューマン・アノテータの参加を必要とするドメインに対実的な説明の範囲を広げることができる。
• 参考スコア（独自算出の注目度）: 8.220601095681355
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The growing integration of machine learning (ML) and artificial intelligence (AI) models into high-stakes domains such as healthcare and scientific research calls for models that are not only accurate but also interpretable. Among the existing explainable methods, counterfactual explanations offer interpretability by identifying minimal changes to inputs that would alter a model's prediction, thus providing deeper insights. However, current counterfactual generation methods suffer from critical limitations, including gradient vanishing, discontinuous latent spaces, and an overreliance on the alignment between learned and true decision boundaries. To overcome these limitations, we propose LeapFactual, a novel counterfactual explanation algorithm based on conditional flow matching. LeapFactual generates reliable and informative counterfactuals, even when true and learned decision boundaries diverge. Following a model-agnostic approach, LeapFactual is not limited to models with differentiable loss functions. It can even handle human-in-the-loop systems, expanding the scope of counterfactual explanations to domains that require the participation of human annotators, such as citizen science. We provide extensive experiments on benchmark and real-world datasets showing that LeapFactual generates accurate and in-distribution counterfactual explanations that offer actionable insights. We observe, for instance, that our reliable counterfactual samples with labels aligning to ground truth can be beneficially used as new training data to enhance the model. The proposed method is broadly applicable and enhances both scientific knowledge discovery and non-expert interpretability.
• Abstract（参考訳）: 機械学習(ML)と人工知能(AI)モデルの、医療や科学研究のような高度な領域への統合が増えている。 既存の説明可能な方法の中で、反事実的な説明は、モデルの予測を変える可能性のある入力に対する最小限の変更を特定することによって解釈可能性を提供し、より深い洞察を提供する。 しかし、現在のカウンターファクト生成法は、勾配の消滅、不連続な潜在空間、学習と真の決定境界の整合性への過度な依存など、限界に悩まされている。 これらの制約を克服するために,条件付きフローマッチングに基づく新しい対実的説明アルゴリズム LeapFactualを提案する。 LeapFactualは、真実と学習された決定境界が分岐しても、信頼性が高く情報的な反ファクトを生成する。 モデルに依存しないアプローチに従うと、LeapFactualは異なる損失関数を持つモデルに限定されない。 人間のループシステムを扱うこともでき、市民科学のような人間のアノテータの参加を必要とする領域に反ファクト的説明の範囲を広げることもできる。 我々は、ベンチマークと実世界のデータセットに関する広範な実験を行い、LeapFactualが正確な反物的説明を生成し、実用的な洞察を提供することを示す。 例えば,新たなトレーニングデータとして,地平線に整合したラベルを持つ信頼性の高い偽物サンプルを有効利用することで,モデルの強化を実現している。 提案手法は広く適用可能であり,科学的知識発見と非専門的解釈性の両方を向上する。

関連論文リスト

• Exploring Energy Landscapes for Minimal Counterfactual Explanations: Applications in Cybersecurity and Beyond [3.6963146054309597]
  説明可能な人工知能(XAI)において、対物的説明が顕著な方法として浮上している。 本稿では、摂動理論と統計力学を統合し、最小限の反実的説明を生成する新しい枠組みを提案する。 提案手法は,妥当性を維持しつつモデルの予測を変更するために必要な最小限の修正を系統的に同定する。
  論文  参考訳（メタデータ） (2025-03-23T19:48:37Z)
• I Predict Therefore I Am: Is Next Token Prediction Enough to Learn Human-Interpretable Concepts from Data? [76.15163242945813]
  大規模言語モデル (LLM) は、多くの人が知能の形式を示すと結論づけている。 本稿では,潜在離散変数として表現される人間解釈可能な概念に基づいてトークンを生成する新しい生成モデルを提案する。
  論文  参考訳（メタデータ） (2025-03-12T01:21:17Z)
• Overlap Number of Balls Model-Agnostic CounterFactuals (ONB-MACF): A Data-Morphology-based Counterfactual Generation Method for Trustworthy Artificial Intelligence [15.415120542032547]
  XAIはAIシステムをより理解しやすく信頼性の高いものにしようとしている。 本研究は,データ形態学戦略の価値を解析し,反実的説明を生成する。 ボールのオーバーラップ数(Overlap Number of Balls Model-Agnostic CounterFactuals,ONB-MACF)法を導入している。
  論文  参考訳（メタデータ） (2024-05-20T18:51:42Z)
• LaPLACE: Probabilistic Local Model-Agnostic Causal Explanations [1.0370398945228227]
  本稿では,機械学習モデルに対する確率論的原因・効果説明を提供するLaPLACE-Explainerを紹介する。 LaPLACE-Explainerコンポーネントはマルコフ毛布の概念を利用して、関連する特徴と非関連する特徴の間の統計的境界を確立する。 提案手法は,LIME と SHAP の局所的精度と特徴の整合性の観点から,因果的説明と性能を向上する。
  論文  参考訳（メタデータ） (2023-10-01T04:09:59Z)
• Shapelet-Based Counterfactual Explanations for Multivariate Time Series [0.9990687944474738]
  我々は,モデル非依存多変量時系列(MTS)の対実的説明アルゴリズムを開発した。 我々は、実生活の太陽フレア予測データセット上で、我々のアプローチを検証し、我々のアプローチが高品質な反事実を生み出すことを証明した。 視覚的に解釈可能であることに加えて、我々の説明は近接性、疎性、そして妥当性の点で優れている。
  論文  参考訳（メタデータ） (2022-08-22T17:33:31Z)
• MACE: An Efficient Model-Agnostic Framework for Counterfactual Explanation [132.77005365032468]
  MACE(Model-Agnostic Counterfactual Explanation)の新たな枠組みを提案する。 MACE法では, 優れた反実例を見つけるための新しいRL法と, 近接性向上のための勾配のない降下法を提案する。 公開データセットの実験は、有効性、空間性、近接性を向上して検証する。
  論文  参考訳（メタデータ） (2022-05-31T04:57:06Z)
• Principled Knowledge Extrapolation with GANs [92.62635018136476]
  我々は,知識外挿の新たな視点から,対実合成を研究する。 本稿では, 知識外挿問題に対処するために, クローズド形式判別器を用いた対角ゲームが利用可能であることを示す。 提案手法は,多くのシナリオにおいて,エレガントな理論的保証と優れた性能の両方を享受する。
  論文  参考訳（メタデータ） (2022-05-21T08:39:42Z)
• Exploring the Trade-off between Plausibility, Change Intensity and Adversarial Power in Counterfactual Explanations using Multi-objective Optimization [73.89239820192894]
  自動対物生成は、生成した対物インスタンスのいくつかの側面を考慮すべきである。 本稿では, 対実例生成のための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2022-05-20T15:02:53Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• Generative Counterfactuals for Neural Networks via Attribute-Informed Perturbation [51.29486247405601]
  AIP(Attribute-Informed Perturbation)の提案により,生データインスタンスの反事実を生成するフレームワークを設計する。 異なる属性を条件とした生成モデルを利用することで、所望のラベルとの反事実を効果的かつ効率的に得ることができる。 実世界のテキストや画像に対する実験結果から, 設計したフレームワークの有効性, サンプル品質, および効率が示された。
  論文  参考訳（メタデータ） (2021-01-18T08:37:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。