論文の概要: From Questions to Insights: Exploring XAI Challenges Reported on Stack Overflow Questions

• arxiv url: http://arxiv.org/abs/2504.03085v1
• Date: Thu, 03 Apr 2025 23:33:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-07 14:49:55.810040
• Title: From Questions to Insights: Exploring XAI Challenges Reported on Stack Overflow Questions
• Title（参考訳）: 質問から洞察へ - スタックオーバーフローに関する質問で報告されたXAIの課題を探る
• Authors: Saumendu Roy, Saikat Mondal, Banani Roy, Chanchal Roy,
• Abstract要約: 解釈可能性の欠如は、AIモデルの実用的使用を制限する主要な障壁である。 XAI技術(例えばSHAP、LIME)はこれらのモデルの性能を解釈するために使われてきた。 我々は,これらの課題,その重症度,XAI技術をより使いやすくするための特徴を明らかにするために,探索的研究を行った。
• 参考スコア（独自算出の注目度）: 1.8049331600471712
• License:
• Abstract: The lack of interpretability is a major barrier that limits the practical usage of AI models. Several eXplainable AI (XAI) techniques (e.g., SHAP, LIME) have been employed to interpret these models' performance. However, users often face challenges when leveraging these techniques in real-world scenarios and thus submit questions in technical Q&A forums like Stack Overflow (SO) to resolve these challenges. We conducted an exploratory study to expose these challenges, their severity, and features that can make XAI techniques more accessible and easier to use. Our contributions to this study are fourfold. First, we manually analyzed 663 SO questions that discussed challenges related to XAI techniques. Our careful investigation produced a catalog of seven challenges (e.g., disagreement issues). We then analyzed their prevalence and found that model integration and disagreement issues emerged as the most prevalent challenges. Second, we attempt to estimate the severity of each XAI challenge by determining the correlation between challenge types and answer metadata (e.g., the presence of accepted answers). Our analysis suggests that model integration issues is the most severe challenge. Third, we attempt to perceive the severity of these challenges based on practitioners' ability to use XAI techniques effectively in their work. Practitioners' responses suggest that disagreement issues most severely affect the use of XAI techniques. Fourth, we seek agreement from practitioners on improvements or features that could make XAI techniques more accessible and user-friendly. The majority of them suggest consistency in explanations and simplified integration. Our study findings might (a) help to enhance the accessibility and usability of XAI and (b) act as the initial benchmark that can inspire future research.
• Abstract（参考訳）: 解釈可能性の欠如は、AIモデルの実用的使用を制限する大きな障壁である。 いくつかのeXplainable AI(XAI)技術(例:SHAP、LIME)を使用して、これらのモデルのパフォーマンスを解釈している。 しかしながら、現実のシナリオでこれらのテクニックを活用する場合、ユーザはしばしば課題に直面し、これらの課題を解決するためにStack Overflow (SO)のような技術的なQ&Aフォーラムに質問を提出する。 我々は,これらの課題,その深刻さ,XAI技術がよりアクセスしやすく,使いやすくする機能を明らかにするために,探索的研究を行った。 この研究への私たちの貢献は4倍です。 まず、XAI技術に関する課題を議論する633のSO質問を手動で分析した。 私たちの慎重な調査は7つの課題(例えば、不一致の問題)のカタログを作成しました。 そして、それらの人気を分析し、最も一般的な課題として、モデル統合と不一致の問題が現れました。 第2に、課題タイプと回答メタデータ(例えば、受け入れられた回答の有無)の相関を判定することで、各XAI課題の重症度を推定しようと試みる。 我々の分析によると、モデル統合問題は最も深刻な課題である。 第3に,XAIを効果的に活用する実践者の能力に基づいて,これらの課題の深刻さを把握しようと試みる。 実践者の回答は、不一致問題がXAI技術の使用に最も深刻な影響を与えることを示唆している。 第4に、XAI技術をよりアクセシブルでユーザフレンドリなものにするための改善や機能について、実践者から合意を求めます。 その多くは、説明と単純化された統合における一貫性を示唆している。 私たちの研究成果は (a)XAIのアクセシビリティとユーザビリティを高めること b) 将来の研究を刺激する最初のベンチマークとして機能する。

関連論文リスト

• More Questions than Answers? Lessons from Integrating Explainable AI into a Cyber-AI Tool [1.5711133309434766]
  ソースコード分類におけるXAIの使用に関する予備的事例研究について述べる。 我々は、AIの専門知識がほとんどない人々によって解釈されると、最先端の正当性説明技法の出力が翻訳で失われることを発見した。 実用的で効果的なXAIにおける非適応的なギャップを概説し、次に、LLM(Large Language Models)のような新興技術が、これらの既存の障害を緩和する方法について触れます。
  論文  参考訳（メタデータ） (2024-08-08T20:09:31Z)
• Solving for X and Beyond: Can Large Language Models Solve Complex Math Problems with More-Than-Two Unknowns? [57.80779199039929]
  大規模言語モデル (LLM) は数学問題の解法において顕著な性能を示した。 本稿では,複数の未知の問題を組み込むことで,これらの制約に対処する新しいベンチマークであるBeyondXを紹介する。 BeyondXに関する実証的な研究によると、数学のタスクに特化して調整された既存のLLMの性能は、未知の数が増えるにつれて著しく低下する。
  論文  参考訳（メタデータ） (2024-07-06T17:01:04Z)
• OlympicArena: Benchmarking Multi-discipline Cognitive Reasoning for Superintelligent AI [73.75520820608232]
  我々は,11,163のバイリンガル問題を含む,テキストのみとインターリーブされたテキストイメージのモダリティを紹介する。 これらの課題には、7つのフィールドと62の国際オリンピック大会にわたる幅広い規律が含まれており、データ漏洩について厳格に調査されている。 我々の評価によると、GPT-4oのような先進モデルでさえ、複雑な推論とマルチモーダル統合における現在のAI制限を反映して、全体的な精度は39.97%しか達成していない。
  論文  参考訳（メタデータ） (2024-06-18T16:20:53Z)
• Explainable Artificial Intelligence (XAI) 2.0: A Manifesto of Open Challenges and Interdisciplinary Research Directions [37.640819269544934]
  説明可能なAI(XAI)は、様々な領域にまたがる実践的、倫理的利益の研究分野として登場した。 本稿では,XAIの進歩と実世界のシナリオへの応用について述べる。 9つのカテゴリに分類される27のオープンな問題のマニフェストを提示する。
  論文  参考訳（メタデータ） (2023-10-30T17:44:55Z)
• Is Task-Agnostic Explainable AI a Myth? [0.0]
  我々の研究は、現代の説明可能なAI(XAI)の課題を統一するための枠組みとして機能する。 我々は、XAI手法が機械学習モデルに補助的かつ潜在的に有用な出力を提供する一方で、研究者と意思決定者は、概念的および技術的な制限に留意すべきであることを示した。 本稿では,画像,テキスト,グラフデータにまたがる3つのXAI研究経路について検討する。
  論文  参考訳（メタデータ） (2023-07-13T07:48:04Z)
• AI for IT Operations (AIOps) on Cloud Platforms: Reviews, Opportunities and Challenges [60.56413461109281]
  IT運用のための人工知能(AIOps)は、AIのパワーとIT運用プロセスが生成するビッグデータを組み合わせることを目的としている。 我々は、IT運用活動が発信する重要なデータの種類、分析における規模と課題、そしてどのように役立つかについて深く議論する。 主要なAIOpsタスクは、インシデント検出、障害予測、根本原因分析、自動アクションに分類します。
  論文  参考訳（メタデータ） (2023-04-10T15:38:12Z)
• Transcending XAI Algorithm Boundaries through End-User-Inspired Design [27.864338632191608]
  エンドユーザに対する説明責任重視の機能サポートの欠如は、高度なドメインにおけるAIの安全で責任ある使用を妨げる可能性がある。 我々の研究は、エンドユーザーがXAIを使用する際の技術的な問題を根底から解決することで、新たな研究課題がもたらされることを示している。 このようなエンドユーザにインスパイアされた研究質問は、AIを民主化し、クリティカルドメインにおけるAIの責任ある使用を保証することによって、社会的善を促進できる可能性がある。
  論文  参考訳（メタデータ） (2022-08-18T09:44:51Z)
• Connecting Algorithmic Research and Usage Contexts: A Perspective of Contextualized Evaluation for Explainable AI [65.44737844681256]
  説明可能なAI(XAI)を評価する方法に関するコンセンサスの欠如は、この分野の進歩を妨げる。 このギャップを埋める一つの方法は、異なるユーザ要求を考慮に入れた評価方法を開発することである、と我々は主張する。
  論文  参考訳（メタデータ） (2022-06-22T05:17:33Z)
• Explainable AI (XAI): A Systematic Meta-Survey of Current Challenges and Future Opportunities [0.0]
  説明可能なAI(XAI)は、AIをより透明性を高め、クリティカルドメインにおけるAIの採用を促進するために提案されている。 本研究は,XAIにおける課題と今後の研究方向性の体系的なメタサーベイである。
  論文  参考訳（メタデータ） (2021-11-11T19:06:13Z)
• A User-Centred Framework for Explainable Artificial Intelligence in Human-Robot Interaction [70.11080854486953]
  本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。 このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
  論文  参考訳（メタデータ） (2021-09-27T09:56:23Z)
• Technical Question Answering across Tasks and Domains [47.80330046038137]
  文書検索と読解作業のための調整可能な共同学習手法を提案する。 TechQAに関する我々の実験は、最先端の手法と比較して優れた性能を示している。
  論文  参考訳（メタデータ） (2020-10-19T18:39:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。