論文の概要: Fast Explainability via Feasible Concept Sets Generator

• arxiv url: http://arxiv.org/abs/2405.18664v1
• Date: Wed, 29 May 2024 00:01:40 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-30 21:13:51.715522
• Title: Fast Explainability via Feasible Concept Sets Generator
• Title（参考訳）: 実現可能なコンセプトセットジェネレータによる高速説明可能性
• Authors: Deng Pan, Nuno Moniz, Nitesh Chawla,
• Abstract要約: モデルに依存しないアプローチの普遍性とモデル固有のアプローチの効率とのギャップを埋める。 まず、人間の理解可能な概念の集合を通して説明を定義する。 第二に、予測モデルに付随する説明として、最小限の可能な集合生成器を学習できることが示される。
• 参考スコア（独自算出の注目度）: 7.011763596804071
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A long-standing dilemma prevents the broader application of explanation methods: general applicability and inference speed. On the one hand, existing model-agnostic explanation methods usually make minimal pre-assumptions about the prediction models to be explained. Still, they require additional queries to the model through propagation or back-propagation to approximate the models' behaviors, resulting in slow inference and hindering their use in time-sensitive tasks. On the other hand, various model-dependent explanations have been proposed that achieve low-cost, fast inference but at the expense of limiting their applicability to specific model structures. In this study, we bridge the gap between the universality of model-agnostic approaches and the efficiency of model-specific approaches by proposing a novel framework without assumptions on the prediction model's structures, achieving high efficiency during inference and allowing for real-time explanations. To achieve this, we first define explanations through a set of human-comprehensible concepts and propose a framework to elucidate model predictions via minimal feasible concept sets. Second, we show that a minimal feasible set generator can be learned as a companion explainer to the prediction model, generating explanations for predictions. Finally, we validate this framework by implementing a novel model-agnostic method that provides robust explanations while facilitating real-time inference. Our claims are substantiated by comprehensive experiments, highlighting the effectiveness and efficiency of our approach.
• Abstract（参考訳）: 長年のジレンマは、一般的な適用性と推論速度という、より広範な説明方法の適用を防止する。 一方、既存のモデルに依存しない説明法は、説明すべき予測モデルについて最小限の事前推定を行う。 それでも、モデルの振る舞いを近似するために、伝播やバックプロパゲーションを通じてモデルに追加のクエリが必要であるため、推論が遅くなり、時間に敏感なタスクでの使用が妨げられる。 一方で、低コストで高速な推論を実現するためのモデルに依存した様々な説明が提案されている。 本研究では,モデルに依存しないアプローチの普遍性とモデル固有のアプローチの効率とのギャップを,予測モデルの構造を仮定せずに新たなフレームワークを提案し,推論時に高い効率を達成し,リアルタイムな説明を可能にすることによって橋渡しする。 これを実現するために、まず、人間の理解可能な概念の集合を通して説明を定義し、最小限の概念集合を通してモデル予測を解明する枠組みを提案する。 第二に、最小限の可能な集合生成器が予測モデルに付随する説明として学習できることを示し、予測のための説明を生成する。 最後に、実時間推論を容易にしながら、堅牢な説明を提供する新しいモデルに依存しない手法を実装することにより、この枠組みを検証する。 我々の主張は包括的な実験によって裏付けられ、我々のアプローチの有効性と効率を強調している。

関連論文リスト

• Spurious Feature Eraser: Stabilizing Test-Time Adaptation for Vision-Language Foundation Model [86.9619638550683]
  視覚言語基礎モデルは、画像とテキストのペアデータに拡張性があるため、多数の下流タスクで顕著な成功を収めている。 しかし、これらのモデルは、決定ショートカットの結果、きめ細かな画像分類などの下流タスクに適用した場合に重大な制限を呈する」。
  論文  参考訳（メタデータ） (2024-03-01T09:01:53Z)
• Faithful Explanations of Black-box NLP Models Using LLM-generated Counterfactuals [67.64770842323966]
  NLPシステムの予測に関する因果的説明は、安全性を確保し、信頼を確立するために不可欠である。 既存の手法は、しばしばモデル予測を効果的または効率的に説明できない。 本稿では, 対物近似(CF)の2つの手法を提案する。
  論文  参考訳（メタデータ） (2023-10-01T07:31:04Z)
• Approximating Score-based Explanation Techniques Using Conformal Regression [0.1843404256219181]
  スコアベースの説明可能な機械学習技術は、ブラックボックスモデルの背後にあるロジックを理解するためにしばしば使用される。 本稿では,SHAPなどのスコアベースの説明手法の出力を近似するために,計算コストの低い回帰モデルを提案する。 本稿では,提案モデルから得られた近似的説明を効率的に評価する大規模実証研究の結果を報告する。
  論文  参考訳（メタデータ） (2023-08-23T07:50:43Z)
• REX: Rapid Exploration and eXploitation for AI Agents [103.68453326880456]
  本稿では、REXと呼ばれるAIエージェントのための高速探索およびeXploitationのための改良されたアプローチを提案する。 REXは追加の報酬層を導入し、アッパー信頼境界(UCB)スコアに似た概念を統合し、より堅牢で効率的なAIエージェントのパフォーマンスをもたらす。
  論文  参考訳（メタデータ） (2023-07-18T04:26:33Z)
• Advancing Counterfactual Inference through Nonlinear Quantile Regression [77.28323341329461]
  ニューラルネットワークで実装された効率的かつ効果的な対実的推論のためのフレームワークを提案する。 提案手法は、推定された反事実結果から見つからないデータまでを一般化する能力を高める。 複数のデータセットで実施した実証実験の結果は、我々の理論的な主張に対する説得力のある支持を提供する。
  論文  参考訳（メタデータ） (2023-06-09T08:30:51Z)
• GLOBE-CE: A Translation-Based Approach for Global Counterfactual Explanations [10.276136171459731]
  Global & Efficient Counterfactual Explanations (GLOBE-CE)は、現在の最先端技術に関連する信頼性とスケーラビリティの問題に取り組む柔軟なフレームワークである。 分類的特徴翻訳を数学的に解析し,その手法を応用した。 公開データセットとユーザスタディによる実験的評価は、GLOBE-CEが現在の最先端よりも大幅にパフォーマンスが向上していることを示している。
  論文  参考訳（メタデータ） (2023-05-26T15:26:59Z)
• MACE: An Efficient Model-Agnostic Framework for Counterfactual Explanation [132.77005365032468]
  MACE(Model-Agnostic Counterfactual Explanation)の新たな枠組みを提案する。 MACE法では, 優れた反実例を見つけるための新しいRL法と, 近接性向上のための勾配のない降下法を提案する。 公開データセットの実験は、有効性、空間性、近接性を向上して検証する。
  論文  参考訳（メタデータ） (2022-05-31T04:57:06Z)
• A Unifying Framework for Causal Explanation of Sequential Decision Making [24.29934526009098]
  本稿では、シーケンシャルな意思決定システムの因果的説明のための新しい枠組みを提案する。 本稿では,単一の統一的アプローチを用いて,エージェントアクションに対して意味的に異なるタイプの説明を識別する方法を示す。
  論文  参考訳（メタデータ） (2022-05-30T23:17:58Z)
• Revisiting GANs by Best-Response Constraint: Perspective, Methodology, and Application [49.66088514485446]
  ベストレスポンス制約(Best-Response Constraint、BRC)は、ジェネレータのディスクリミネータへの依存性を明示的に定式化する一般的な学習フレームワークである。 モチベーションや定式化の相違があっても, フレキシブルBRC法により, 様々なGANが一様に改善できることが示される。
  論文  参考訳（メタデータ） (2022-05-20T12:42:41Z)
• CARE: Coherent Actionable Recourse based on Sound Counterfactual Explanations [0.0]
  本稿では,モデルおよびユーザレベルのデシダータに対処するモジュール型説明フレームワークであるCAREを紹介する。 モデルに依存しないアプローチとして、CAREはブラックボックスモデルに対して複数の多様な説明を生成する。
  論文  参考訳（メタデータ） (2021-08-18T15:26:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。