論文の概要: XAI-Refine: An Automated Explanation-Knowledge Loop for Brain-Age Prediction

• arxiv url: http://arxiv.org/abs/2609.09388v1
• Date: Tue, 08 Sep 2026 19:40:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.799232
• Title: XAI-Refine: An Automated Explanation-Knowledge Loop for Brain-Age Prediction
• Title（参考訳）: XAI-Refine:脳卒中予測のための自動説明知識ループ
• Abstract要約: 静止状態機能接続からの脳年齢予測のための自動説明ループを提案する。 XAI-Refineは、反復訓練における相補的なポストホック分析を、信頼性のある構造化されたモデル説明に集約する。 信頼性のある各説明を中立的な神経生物学の質問に変換し、関連する文献を検索して検証し、検証された証拠を許容可能な集合にコンパイルする。
• 参考スコア（独自算出の注目度）: 8.369324356989523
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Brain-age prediction models are commonly evaluated by predictive accuracy, yet accurate predictions alone do not establish that a model relies on reproducible or neurobiologically supported mechanisms. Post-hoc explanation methods can expose these mechanisms, but existing workflows typically stop at diagnosis or require correction targets to be specified before model analysis. We propose XAI-Refine, an automated explanation-knowledge loop for brain-age prediction from resting-state functional connectivity. At each iteration, XAI-Refine consolidates complementary post-hoc analyses across repeated training runs into reliable, structured model explanations. It converts each reliable explanation into a neutral neurobiological question, retrieves and verifies relevant literature, and compiles the verified evidence into an admissible set in the same typed explanation space. The target for refinement is defined as the minimal projection of the current model explanation onto the admissible set induced by applicable verified knowledge. This revised explanation is then translated into a differentiable constraint while preserving the originating model variable, measurement operator, and applicable scope. Candidate updates are promoted only when multi-seed validation confirms target-directed explanatory movement, predictive performance remains within a prespecified guardrail, and non-target explanatory drift remains bounded. Experiments on functional-connectivity-based brain-age prediction evaluate predictive performance, explanation reliability, literature alignment, and target-specific model revision, illustrating a structured route from post-hoc analysis to evidence-guided model refinement.
• Abstract（参考訳）: 脳年齢予測モデルは通常、予測精度によって評価されるが、正確な予測だけでは、モデルが再現性または神経生物学的に支持されたメカニズムに依存していることは証明されない。 ポストホックな説明法はこれらのメカニズムを公開することができるが、既存のワークフローは通常診断時に停止するか、モデル解析の前に修正ターゲットを指定する必要がある。 静止状態機能接続からの脳年齢予測のための自動説明知識ループであるXAI-Refineを提案する。 各イテレーションにおいて、XAI-Refineは、繰り返しトレーニングを経た補完的なポストホック分析を、信頼性のある構造化されたモデル説明に集約する。 信頼性のある各説明を中立的な神経生物学的問題に変換し、関連する文献を検索して検証し、検証された証拠を同一の型付き説明空間内の許容可能な集合にコンパイルする。 改良の対象は、適用可能な検証された知識によって誘導される許容集合への現在のモデル説明の最小射影として定義される。 この修正された説明は、元のモデル変数、測定演算子、適用範囲を保持しながら、微分可能な制約に変換される。 候補の更新は、マルチシード検証が目標指向の説明動作を確認した場合にのみ行われ、予測性能は予め指定されたガードレール内に留まり、非目標説明ドリフトはバウンドされている。 機能的接続性に基づく脳年齢予測実験は, 予測性能, 説明信頼性, 文学的アライメント, 目標固有モデル修正を評価し, ポストホック解析からエビデンス誘導モデル改良までの構造化経路を考察した。

関連論文リスト

• A Multi-Dimensional Evaluation of Explainability in Media Bias Detection [10.798797986346914]
  本稿では,Bias s By Expertsデータセットを用いたエンコーダによるメディアバイアス検出における説明可能性の多次元評価を行う。 我々は,BERTとRoBERTaを,予測性能,説明妥当性,機械的忠実性の3つの相補的軸に沿った分類器として検討した。 本研究は, 予測性能, 帰属確率, 機械的忠実度が, モデル行動の異なる側面を特徴付けることを示唆している。
  論文  参考訳（メタデータ） (2026-07-22T09:29:49Z)
• Decoding the Critique Mechanism in Large Reasoning Models [50.821607345799386]
  大規模推論モデル(LRM)は、バックトラックと自己検証メカニズムを示し、中間ステップを修正して正しい解に到達できるようにする。 中間推論ステップに算術ミスを挿入することにより,現在のLEMがエラーからどのように回復するかを検討する。 チェーン・オブ・シークレットを伝播する誤りにもかかわらず、モデルは依然として正しい最終解に達している。
  論文  参考訳（メタデータ） (2026-03-17T10:03:30Z)
• Improving Perturbation-based Explanations by Understanding the Role of Uncertainty Calibration [34.62583246144584]
  本研究では,モデルが説明可能性に比例した摂動を受けると,信頼できない確率推定値が得られることを示す。 本稿では,ReCalXを提案する。ReCalXは,従来の予測を保ちながら,改善された説明のためのモデルの再検討を行う新しい手法である。
  論文  参考訳（メタデータ） (2025-11-13T16:04:11Z)
• Internal Causal Mechanisms Robustly Predict Language Model Out-of-Distribution Behaviors [61.92704516732144]
  正当性予測の最も堅牢な特徴は、モデルの振舞いに特徴的な因果的役割を果たすものであることを示す。 モデル出力の正しさを予測するために因果メカニズムを利用する2つの手法を提案する。
  論文  参考訳（メタデータ） (2025-05-17T00:31:39Z)
• Counterfactuals of Counterfactuals: a back-translation-inspired approach to analyse counterfactual editors [3.4253416336476246]
  我々は、反事実的、対照的な説明の分析に焦点をあてる。 本稿では,新しい逆翻訳に基づく評価手法を提案する。 本研究では, 予測モデルと説明モデルの両方の振る舞いについて, 反事実を反復的に説明者に与えることで, 価値ある洞察を得ることができることを示す。
  論文  参考訳（メタデータ） (2023-05-26T16:04:28Z)
• Logical Satisfiability of Counterfactuals for Faithful Explanations in NLI [60.142926537264714]
  本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。 これは、説明に表される論理述語に基づいて、反実仮説を生成する。 そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
  論文  参考訳（メタデータ） (2022-05-25T03:40:59Z)
• Pathologies of Pre-trained Language Models in Few-shot Fine-tuning [50.3686606679048]
  実例が少ない事前学習言語モデルはラベル間に強い予測バイアスを示すことを示す。 わずかな微調整で予測バイアスを軽減できるが,本分析では,非タスク関連の特徴を捉えることで,モデルの性能向上を図っている。 これらの観察は、より少ない例でモデルのパフォーマンスを追求することは、病理学的予測行動を引き起こす可能性があることを警告する。
  論文  参考訳（メタデータ） (2022-04-17T15:55:18Z)
• Explainability in Process Outcome Prediction: Guidelines to Obtain Interpretable and Faithful Models [77.34726150561087]
  本稿では、プロセス結果予測の分野における説明可能性モデルと説明可能性モデルの忠実性を通して、説明可能性を定義する。 本稿では,イベントログの仕様に基づいて適切なモデルを選択することのできる,X-MOPというガイドラインのセットを提案する。
  論文  参考訳（メタデータ） (2022-03-30T05:59:50Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• Explainable AI by BAPC -- Before and After correction Parameter Comparison [0.0]
  より単純な'ベース'モデルを補正するAIモデルのための局所的なサロゲートは、AI予測の説明を得るための分析方法を表す。 AIモデルは線形モデルの残差誤差を近似し、その説明は解釈可能な基底モデルのパラメータの変化の観点から定式化される。
  論文  参考訳（メタデータ） (2021-03-12T09:03:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。