論文の概要: Counterfactual Explanations in Medical Imaging: Exploring SPN-Guided Latent Space Manipulation

• arxiv url: http://arxiv.org/abs/2507.19368v1
• Date: Fri, 25 Jul 2025 15:19:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-28 16:16:49.017157
• Title: Counterfactual Explanations in Medical Imaging: Exploring SPN-Guided Latent Space Manipulation
• Title（参考訳）: 医用画像における非現実的説明:SPN誘導潜時空間マニピュレーションの探求
• Authors: Julia Siekiera, Stefan Kramer,
• Abstract要約: 医用画像解析において、深層学習モデルは顕著な性能を示した。 可変オートエンコーダ(VAE)のような深い生成モデルは、大きな生成能力を示す。 和積ネットワーク(SPN)のような確率モデルは、複雑な結合確率分布を効率的に表す。
• 参考スコア（独自算出の注目度）: 2.9810923705287524
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Artificial intelligence is increasingly leveraged across various domains to automate decision-making processes that significantly impact human lives. In medical image analysis, deep learning models have demonstrated remarkable performance. However, their inherent complexity makes them black box systems, raising concerns about reliability and interpretability. Counterfactual explanations provide comprehensible insights into decision processes by presenting hypothetical "what-if" scenarios that alter model classifications. By examining input alterations, counterfactual explanations provide patterns that influence the decision-making process. Despite their potential, generating plausible counterfactuals that adhere to similarity constraints providing human-interpretable explanations remains a challenge. In this paper, we investigate this challenge by a model-specific optimization approach. While deep generative models such as variational autoencoders (VAEs) exhibit significant generative power, probabilistic models like sum-product networks (SPNs) efficiently represent complex joint probability distributions. By modeling the likelihood of a semi-supervised VAE's latent space with an SPN, we leverage its dual role as both a latent space descriptor and a classifier for a given discrimination task. This formulation enables the optimization of latent space counterfactuals that are both close to the original data distribution and aligned with the target class distribution. We conduct experimental evaluation on the cheXpert dataset. To evaluate the effectiveness of the integration of SPNs, our SPN-guided latent space manipulation is compared against a neural network baseline. Additionally, the trade-off between latent variable regularization and counterfactual quality is analyzed.
• Abstract（参考訳）: 人工知能は、人間の生活に大きな影響を与える意思決定プロセスを自動化するために、さまざまな領域でますます活用されている。 医用画像解析において、深層学習モデルは顕著な性能を示した。 しかし、それら固有の複雑さはブラックボックスシステムを作り、信頼性と解釈可能性に関する懸念を提起する。 カウンターファクトな説明は、モデル分類を変更する仮説的な"What-if"シナリオを提示することによって、決定プロセスに関する理解可能な洞察を提供する。 入力の変化を調べることで、反実的な説明は意思決定プロセスに影響を与えるパターンを提供する。 その可能性にもかかわらず、人間に解釈可能な説明を提供する類似性の制約に固執するもっともらしい反事実を生成することは、依然として課題である。 本稿では,モデル固有の最適化手法を用いて,この課題を考察する。 可変オートエンコーダ(VAEs)のような深層生成モデルは大きな生成力を示すが、和積ネットワーク(SPNs)のような確率モデルは複雑な結合確率分布を効率的に表す。 半教師付きVAEの潜在空間をSPNでモデル化することにより、その双対的な役割を、与えられた識別タスクの潜在空間記述子と分類子の両方として活用する。 この定式化により、元のデータ分布に近づき、対象のクラス分布に整合した潜在空間反事実の最適化が可能となる。 cheXpertデータセットの実験的評価を行う。 SPNの統合の有効性を評価するため,SPN誘導の潜在空間操作をニューラルネットワークベースラインと比較した。 さらに、潜伏変数正規化と反事実品質のトレードオフを分析する。

関連論文リスト

• I Predict Therefore I Am: Is Next Token Prediction Enough to Learn Human-Interpretable Concepts from Data? [76.15163242945813]
  大規模言語モデル (LLM) は、多くの人が知能の形式を示すと結論づけている。 本稿では,潜在離散変数として表現される人間解釈可能な概念に基づいてトークンを生成する新しい生成モデルを提案する。
  論文  参考訳（メタデータ） (2025-03-12T01:21:17Z)
• Neural Networks Decoded: Targeted and Robust Analysis of Neural Network Decisions via Causal Explanations and Reasoning [9.947555560412397]
  本稿では、因果推論理論に基づく新しい手法TRACERを紹介し、DNN決定の根底にある因果ダイナミクスを推定する。 提案手法は入力特徴に系統的に介入し,特定の変化がネットワークを介してどのように伝播するかを観察し,内部の活性化と最終的な出力に影響を与える。 TRACERはさらに、モデルバイアスの可能性のある反ファクトを生成することで説明可能性を高め、誤分類に対する対照的な説明を提供する。
  論文  参考訳（メタデータ） (2024-10-07T20:44:53Z)
• Diffusion models as probabilistic neural operators for recovering unobserved states of dynamical systems [49.2319247825857]
  拡散に基づく生成モデルは、ニューラル演算子に好適な多くの特性を示す。 本稿では,複数のタスクに適応可能な単一モデルを,トレーニング中のタスク間で交互に学習することを提案する。
  論文  参考訳（メタデータ） (2024-05-11T21:23:55Z)
• Counterfactual Fairness through Transforming Data Orthogonal to Bias [7.109458605736819]
  我々は新しいデータ前処理アルゴリズムOrthogonal to Bias (OB)を提案する。 OBは、連続的な敏感な変数群の影響を排除し、機械学習アプリケーションにおける反ファクトフェアネスを促進するように設計されている。 OBはモデルに依存しないため、幅広い機械学習モデルやタスクに適用できる。
  論文  参考訳（メタデータ） (2024-03-26T16:40:08Z)
• LaPLACE: Probabilistic Local Model-Agnostic Causal Explanations [1.0370398945228227]
  本稿では,機械学習モデルに対する確率論的原因・効果説明を提供するLaPLACE-Explainerを紹介する。 LaPLACE-Explainerコンポーネントはマルコフ毛布の概念を利用して、関連する特徴と非関連する特徴の間の統計的境界を確立する。 提案手法は,LIME と SHAP の局所的精度と特徴の整合性の観点から,因果的説明と性能を向上する。
  論文  参考訳（メタデータ） (2023-10-01T04:09:59Z)
• Neural Causal Models for Counterfactual Identification and Estimation [62.30444687707919]
  本稿では,ニューラルモデルによる反事実文の評価について検討する。 まず、神経因果モデル(NCM)が十分に表現可能であることを示す。 第2に,反事実分布の同時同定と推定を行うアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2022-09-30T18:29:09Z)
• Exploring the Trade-off between Plausibility, Change Intensity and Adversarial Power in Counterfactual Explanations using Multi-objective Optimization [73.89239820192894]
  自動対物生成は、生成した対物インスタンスのいくつかの側面を考慮すべきである。 本稿では, 対実例生成のための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2022-05-20T15:02:53Z)
• Towards Comparative Physical Interpretation of Spatial Variability Aware Neural Networks: A Summary of Results [0.7297229770329212]
  空間変数認識ニューラルネットワーク(SVANN)が与えられた場合、その目標は、比較物理的解釈のための数学的(または計算的)モデルを調べることである。 本研究では,地理的に異質な特徴に基づく新しい比較手法を用いて,SVANNの物理的解釈について検討する。
  論文  参考訳（メタデータ） (2021-10-29T15:40:42Z)
• Generative Counterfactuals for Neural Networks via Attribute-Informed Perturbation [51.29486247405601]
  AIP(Attribute-Informed Perturbation)の提案により,生データインスタンスの反事実を生成するフレームワークを設計する。 異なる属性を条件とした生成モデルを利用することで、所望のラベルとの反事実を効果的かつ効率的に得ることができる。 実世界のテキストや画像に対する実験結果から, 設計したフレームワークの有効性, サンプル品質, および効率が示された。
  論文  参考訳（メタデータ） (2021-01-18T08:37:13Z)
• Generalization Properties of Optimal Transport GANs with Latent Distribution Learning [52.25145141639159]
  本研究では,潜伏分布とプッシュフォワードマップの複雑さの相互作用が性能に与える影響について検討する。 我々の分析に感銘を受けて、我々はGANパラダイム内での潜伏分布とプッシュフォワードマップの学習を提唱した。
  論文  参考訳（メタデータ） (2020-07-29T07:31:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。