論文の概要: PnPXAI: A Universal XAI Framework Providing Automatic Explanations Across Diverse Modalities and Models

• arxiv url: http://arxiv.org/abs/2505.10515v1
• Date: Thu, 15 May 2025 17:21:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-16 22:29:06.436689
• Title: PnPXAI: A Universal XAI Framework Providing Automatic Explanations Across Diverse Modalities and Models
• Title（参考訳）: PnPXAI: さまざまなモダリティとモデルにまたがる自動説明を提供するユニバーサルXAIフレームワーク
• Authors: Seongun Kim, Sol A Kim, Geonhyeong Kim, Enver Menadjiev, Chanwoo Lee, Seongwook Chung, Nari Kim, Jaesik Choi,
• Abstract要約: 多様なデータモダリティをサポートする汎用XAIフレームワークであるbfXAIを紹介する。 ユーザ調査により,フレームワークの有効性を検証し,その汎用性を諸領域にまたがって示す。
• 参考スコア（独自算出の注目度）: 22.160351661755904
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recently, post hoc explanation methods have emerged to enhance model transparency by attributing model outputs to input features. However, these methods face challenges due to their specificity to certain neural network architectures and data modalities. Existing explainable artificial intelligence (XAI) frameworks have attempted to address these challenges but suffer from several limitations. These include limited flexibility to diverse model architectures and data modalities due to hard-coded implementations, a restricted number of supported XAI methods because of the requirements for layer-specific operations of attribution methods, and sub-optimal recommendations of explanations due to the lack of evaluation and optimization phases. Consequently, these limitations impede the adoption of XAI technology in real-world applications, making it difficult for practitioners to select the optimal explanation method for their domain. To address these limitations, we introduce \textbf{PnPXAI}, a universal XAI framework that supports diverse data modalities and neural network models in a Plug-and-Play (PnP) manner. PnPXAI automatically detects model architectures, recommends applicable explanation methods, and optimizes hyperparameters for optimal explanations. We validate the framework's effectiveness through user surveys and showcase its versatility across various domains, including medicine and finance.
• Abstract（参考訳）: 近年,入力特徴にモデル出力を寄与させることにより,モデルの透明性を高めるポストホックな説明法が出現している。 しかし、これらの手法は特定のニューラルネットワークアーキテクチャやデータモダリティに特異性があるため、課題に直面している。 既存の説明可能な人工知能(XAI)フレームワークは、これらの課題に対処しようとするが、いくつかの制限に悩まされている。 これには、ハードコード実装による多様なモデルアーキテクチャやデータモダリティへの柔軟性の制限、属性メソッドの層固有の操作の要求によるサポート対象のXAIメソッドの制限、評価と最適化フェーズの欠如による説明のサブ最適推奨などが含まれる。 その結果、これらの制限は現実世界のアプリケーションでXAI技術を採用する妨げとなり、実践者がドメインの最適な説明方法を選択するのが難しくなった。 これらの制限に対処するために,Platform-and-Play(PnP)方式で,多様なデータモダリティとニューラルネットワークモデルをサポートする汎用XAIフレームワークである \textbf{PnPXAI} を紹介する。 PnPXAIはモデルアーキテクチャを自動的に検出し、適用可能な説明方法を推奨し、最適な説明のためにハイパーパラメータを最適化する。 本フレームワークの有効性をユーザ調査により検証し,医療や金融など多分野にわたる多目的性を示す。

関連論文リスト

• XEdgeAI: A Human-centered Industrial Inspection Framework with Data-centric Explainable Edge AI Approach [2.0209172586699173]
  本稿では,新しいXAI統合視覚品質検査フレームワークを提案する。 我々のフレームワークはXAIとLarge Vision Language Modelを組み込んで人間中心の解釈可能性を提供する。 このアプローチは、重要な産業アプリケーションに信頼性と解釈可能なAIツールを広く採用する道を開くものだ。
  論文  参考訳（メタデータ） (2024-07-16T14:30:24Z)
• Explainable AI for Enhancing Efficiency of DL-based Channel Estimation [1.0136215038345013]
  人工知能に基づく意思決定のサポートは、将来の6Gネットワークの重要な要素である。 このようなアプリケーションでは、ブラックボックスモデルとしてAIを使用するのは危険で難しい。 本稿では,無線通信におけるチャネル推定を目的とした新しいXAI-CHESTフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-09T16:24:21Z)
• REX: Rapid Exploration and eXploitation for AI Agents [103.68453326880456]
  本稿では、REXと呼ばれるAIエージェントのための高速探索およびeXploitationのための改良されたアプローチを提案する。 REXは追加の報酬層を導入し、アッパー信頼境界(UCB)スコアに似た概念を統合し、より堅牢で効率的なAIエージェントのパフォーマンスをもたらす。
  論文  参考訳（メタデータ） (2023-07-18T04:26:33Z)
• Neural Fields with Hard Constraints of Arbitrary Differential Order [61.49418682745144]
  我々は、ニューラルネットワークに厳しい制約を課すための一連のアプローチを開発する。 制約は、ニューラルネットワークとそのデリバティブに適用される線形作用素として指定することができる。 私たちのアプローチは、広範囲の現実世界のアプリケーションで実証されています。
  論文  参考訳（メタデータ） (2023-06-15T08:33:52Z)
• Efficient XAI Techniques: A Taxonomic Survey [40.74369038951756]
  我々は、XAI加速の既存の手法を、非アモルト化および効率的なアモルト化法にレビューする。 我々は、トレーニングフェーズ、デプロイメントフェーズ、およびユースケースの観点から、効率的なXAIパイプラインの制限を分析します。
  論文  参考訳（メタデータ） (2023-02-07T03:15:38Z)
• Optimizing Explanations by Network Canonization and Hyperparameter Search [74.76732413972005]
  ルールベースで修正されたバックプロパゲーションXAIアプローチは、モダンなモデルアーキテクチャに適用される場合、しばしば課題に直面します。 モデルカノン化は、基礎となる機能を変更することなく問題のあるコンポーネントを無視してモデルを再構成するプロセスである。 本研究では、一般的なディープニューラルネットワークアーキテクチャに適用可能な、現在関連するモデルブロックのカノン化を提案する。
  論文  参考訳（メタデータ） (2022-11-30T17:17:55Z)
• Beyond Explaining: Opportunities and Challenges of XAI-Based Model Improvement [75.00655434905417]
  説明可能な人工知能(XAI)は、高度に複雑な機械学習(ML)モデルに透明性をもたらす新たな研究分野である。 本稿では,機械学習モデルの諸特性を改善するために,XAIを実用的に応用する手法を概観する。 実験では,モデル一般化能力や推論などの特性を改善する上で,説明がどのように役立つのかを,おもちゃと現実的な設定で実証的に示す。
  論文  参考訳（メタデータ） (2022-03-15T15:44:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。