論文の概要: Position: Explainability Research Must Prioritize Foundations over Ad-hoc Methods

• arxiv url: http://arxiv.org/abs/2607.14123v1
• Date: Thu, 18 Jun 2026 21:46:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-19 21:54:20.41749
• Title: Position: Explainability Research Must Prioritize Foundations over Ad-hoc Methods
• Title（参考訳）: 立場:説明可能性研究はアドホック法よりも基礎を優先すべきである
• Abstract要約: 本稿では,機械学習コミュニティが,基礎的・構造的課題に対処するために,アドホックなXAI手法から転換する必要があることを論じる。 我々は、XAIをより人間中心のアクション指向のパラダイムに移行するために設計された実践的なチェックリストを概説する。
• 参考スコア（独自算出の注目度）: 56.14010017381489
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Despite the proliferation of Explainable AI (XAI) techniques -- from feature attributions to sparse autoencoders -- explanations rarely influence real-world workflows. In practice, they are often generated and discarded without guiding meaningful action. This gap reflects foundational shortcomings: research has not yet established methodologies for integrating explanations into end-to-end, human-in-the-loop systems. This position paper argues that the machine learning community must pivot from ad-hoc XAI methods toward addressing foundational & structural challenges, including unclear problem formulations, underspecified evaluation objectives, and the absence of pipelines for explanation-driven feedback. We support this claim through an analysis of recent ICML, NeurIPS, and ICLR papers and a survey of XAI practitioners, revealing recurring issues that limit cumulative progress. We conclude by outlining a practical checklist designed to shift XAI toward a more human-centered, action-oriented paradigm. By emphasizing foundational clarity over the development of ad-hoc methods, we hope to provide a roadmap for integrating explanations into actionable, feedback-driven AI systems.
• Abstract（参考訳）: 特徴属性からスパースオートエンコーダに至るまで、説明可能なAI(XAI)技術の普及にもかかわらず、説明が現実世界のワークフローに影響を与えることはめったにない。 実際には、意味のある行動を導くことなく、しばしば生成される。 このギャップは基礎的な欠点を反映している: 研究は、説明をエンドツーエンドのヒューマン・イン・ザ・ループシステムに統合するための方法論をまだ確立していない。 このポジションペーパーでは、機械学習コミュニティは、不明確な問題定式化、未特定評価目的、説明駆動型フィードバックのためのパイプラインの欠如など、基礎的・構造的課題に対処するために、アドホックなXAI手法から転換する必要があると論じている。 我々は,近年のICML,NeurIPS,ICLRの論文の分析と,XAI実践者の調査を通じて,累積的な進歩を制限する繰り返しの問題を明らかにすることで,この主張を支持している。 我々は、XAIをより人間中心のアクション指向のパラダイムに移行するために設計された実践的なチェックリストを概説する。 アドホックな手法の開発に関する基礎的明確さを強調することで、説明を実行可能なフィードバック駆動型AIシステムに統合するためのロードマップを提供したいと思っています。

関連論文リスト

• Emergent, not Immanent: A Baradian Reading of Explainable AI [37.51348424835944]
  我々は、人間、文脈、解釈装置とのAIモデルの位置的絡み合いから解釈が現れることを論じる。 本稿では,創発的解釈を支援するXAIインタフェースの設計指針を提案する。
  論文  参考訳（メタデータ） (2026-01-21T14:32:40Z)
• Towards Transparent AI: A Survey on Explainable Large Language Models [2.443957114877221]
  大規模言語モデル(LLM)は人工知能(AI)の進歩において重要な役割を担っている LLMは意思決定プロセスを説明するのに苦労し、それらを"ブラックボックス"にし、説明可能性に重大な課題を提示します。 これらの制限を克服するために、研究者は様々な説明可能な人工知能(XAI)法を開発した。
  論文  参考訳（メタデータ） (2025-06-26T23:25:22Z)
• Chain of Methodologies: Scaling Test Time Computation without Training [77.85633949575046]
  大規模言語モデル(LLM)は、トレーニングデータに対する詳細な洞察が不十分なため、複雑な推論タスクに苦しむことが多い。 本稿では,人間の方法論的洞察を統合することで構造的思考を強化するCoM(Chain of the CoM)フレームワークを紹介する。
  論文  参考訳（メタデータ） (2025-06-08T03:46:50Z)
• Demystifying Reinforcement Learning in Production Scheduling via Explainable AI [0.7515066610159392]
  深層強化学習(Dep Reinforcement Learning, DRL)はスケジューリング問題の解法としてよく用いられる手法である。 DRLエージェントは、短い計算時間で実行可能な結果を提供するのが得意だが、その推論はいまだに不透明である。 フロー生産における特殊DRLエージェントのスケジューリング決定の背後にある理由を説明するために,2つの説明可能なAI(xAI)フレームワークを適用した。
  論文  参考訳（メタデータ） (2024-08-19T09:39:01Z)
• Why do explanations fail? A typology and discussion on failures in XAI [5.366368559381279]
  結果として生じる害は、XAIにおける複数の障害の複雑な重複から生じると我々は主張する。 本稿では,説明失敗の複雑さを明らかにするためのタイプ的枠組みを提案する。
  論文  参考訳（メタデータ） (2024-05-22T09:32:24Z)
• Opening the Black-Box: A Systematic Review on Explainable AI in Remote Sensing [51.524108608250074]
  ブラックボックス機械学習アプローチは、リモートセンシングにおける知識抽出における主要なモデリングパラダイムとなっている。 我々は、この分野における重要なトレンドを特定するための体系的なレビューを行い、新しい説明可能なAIアプローチに光を当てた。 また,課題と将来的な研究方向性について,より詳細な展望を述べる。
  論文  参考訳（メタデータ） (2024-02-21T13:19:58Z)
• Learning Transferable Conceptual Prototypes for Interpretable Unsupervised Domain Adaptation [79.22678026708134]
  本稿では,Transferable Prototype Learning (TCPL) という,本質的に解釈可能な手法を提案する。 この目的を達成するために、ソースドメインからターゲットドメインにカテゴリの基本概念を転送する階層的なプロトタイプモジュールを設計し、基礎となる推論プロセスを説明するためにドメイン共有プロトタイプを学習する。 総合的な実験により,提案手法は有効かつ直感的な説明を提供するだけでなく,従来の最先端技術よりも優れていることが示された。
  論文  参考訳（メタデータ） (2023-10-12T06:36:41Z)
• Re-Reading Improves Reasoning in Large Language Models [87.46256176508376]
  既成のLarge Language Models (LLM) の推論能力を高めるため, 単純で汎用的で効果的なプロンプト手法であるRe2を導入する。 CoT (Chain-of-Thought) など、ほとんどの思考を刺激する手法とは異なり、Re2 は質問を2回処理することで入力に焦点を移し、理解プロセスを強化する。 提案手法の有効性と汎用性を検証するため,14のデータセットにまたがる広範囲な推論ベンチマークでRe2を評価した。
  論文  参考訳（メタデータ） (2023-09-12T14:36:23Z)
• Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
  反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。 現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。 本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
  論文  参考訳（メタデータ） (2021-06-14T20:48:48Z)
• A new interpretable unsupervised anomaly detection method based on residual explanation [47.187609203210705]
  本稿では,大規模システムにおけるAEベースのADの制限に対処する新しい解釈可能性手法であるRXPを提案する。 実装の単純さ、計算コストの低さ、決定論的振る舞いが特徴である。 実鉄道路線のデータを用いた実験において,提案手法はSHAPよりも優れた性能を示した。
  論文  参考訳（メタデータ） (2021-03-14T15:35:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。