論文の概要: Global Counterfactual Explanations: Investigations, Implementations and Improvements

• arxiv url: http://arxiv.org/abs/2204.06917v1
• Date: Thu, 14 Apr 2022 12:21:23 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-15 12:26:17.669813
• Title: Global Counterfactual Explanations: Investigations, Implementations and Improvements
• Title（参考訳）: グローバルな反事実的説明:調査、実施、改善
• Authors: Dan Ley, Saumitra Mishra, Daniele Magazzeni
• Abstract要約: Actionable Recourse Summaries (AReS)は、Recourseの世界で唯一知られている対実的な説明フレームワークである。 本稿では,Recourse における唯一の国際対実的説明フレームワークである AReS の実装と改善に焦点をあてる。
• 参考スコア（独自算出の注目度）: 12.343333815270402
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Counterfactual explanations have been widely studied in explainability, with a range of application dependent methods emerging in fairness, recourse and model understanding. However, the major shortcoming associated with these methods is their inability to provide explanations beyond the local or instance-level. While some works touch upon the notion of a global explanation, typically suggesting to aggregate masses of local explanations in the hope of ascertaining global properties, few provide frameworks that are either reliable or computationally tractable. Meanwhile, practitioners are requesting more efficient and interactive explainability tools. We take this opportunity to investigate existing global methods, with a focus on implementing and improving Actionable Recourse Summaries (AReS), the only known global counterfactual explanation framework for recourse.
• Abstract（参考訳）: 対物的説明は、公正性、リコース、モデル理解に現れる様々なアプリケーション依存の手法を用いて、説明可能性において広く研究されてきた。 しかし、これらのメソッドに関連する主な欠点は、ローカルレベルやインスタンスレベルで説明できないことである。 グローバルな説明の概念に触発する研究もあるが、一般的には、グローバルな性質を確かめるために、局所的な説明の大量を集約することを示唆するが、信頼性または計算的に抽出可能なフレームワークを提供するものはほとんどない。 一方、実践者はより効率的でインタラクティブな説明ツールを求めている。 我々は、この機会を利用して既存のグローバルメソッドを調査し、recourseの唯一のグローバルな反事実的説明フレームワークであるactionable recourse summaries(ares)を実装し、改善することに集中する。

関連論文リスト

• Towards Few-Shot Learning in the Open World: A Review and Beyond [52.41344813375177]
  少ないショット学習は、人間の知性を模倣し、大きな一般化と伝達性を実現することを目的としている。 本稿では,FSLをオープンワールド環境に適用するための最近の進歩について概説する。 既存の手法は,3つの異なるタイプのオープンワールド・マイクロショット・ラーニングに分類する。
  論文  参考訳（メタデータ） (2024-08-19T06:23:21Z)
• GLEAMS: Bridging the Gap Between Local and Global Explanations [6.329021279685856]
  本稿では,入力空間を分割し,各サブリージョン内で解釈可能なモデルを学習する新しい手法であるGLEAMSを提案する。 我々は、GLEAMSが合成データと実世界のデータの両方で有効であることを示し、その望ましい特性と人間の理解可能な洞察を強調した。
  論文  参考訳（メタデータ） (2024-08-09T13:30:37Z)
• Sparsity-Guided Holistic Explanation for LLMs with Interpretable Inference-Time Intervention [53.896974148579346]
  大規模言語モデル(LLM)は、様々な自然言語処理領域において前例のないブレークスルーを達成した。 LLMの謎的なブラックボックスの性質は、透過的で説明可能なアプリケーションを妨げる、解釈可能性にとって重要な課題である。 本稿では,LLMの全体的解釈を提供することを目的として,スポーシティ誘導技術に係わる新しい方法論を提案する。
  論文  参考訳（メタデータ） (2023-12-22T19:55:58Z)
• Explainability for Large Language Models: A Survey [59.67574757137078]
  大規模言語モデル(LLM)は、自然言語処理における印象的な能力を示している。 本稿では,トランスフォーマーに基づく言語モデルを記述する手法について,説明可能性の分類法を紹介した。
  論文  参考訳（メタデータ） (2023-09-02T22:14:26Z)
• GLOBE-CE: A Translation-Based Approach for Global Counterfactual Explanations [10.276136171459731]
  Global & Efficient Counterfactual Explanations (GLOBE-CE)は、現在の最先端技術に関連する信頼性とスケーラビリティの問題に取り組む柔軟なフレームワークである。 分類的特徴翻訳を数学的に解析し,その手法を応用した。 公開データセットとユーザスタディによる実験的評価は、GLOBE-CEが現在の最先端よりも大幅にパフォーマンスが向上していることを示している。
  論文  参考訳（メタデータ） (2023-05-26T15:26:59Z)
• Change Detection for Local Explainability in Evolving Data Streams [72.4816340552763]
  局所的特徴帰属法はポストホックやモデルに依存しない説明法として人気がある。 ローカルな属性が、ストリーミングやオンラインアプリケーションのような、現実的で絶えず変化する設定でどのように振る舞うかは、しばしば不明である。 局所変化と概念ドリフトを検出するフレキシブルでモデルに依存しないCDLEEDSを提案する。
  論文  参考訳（メタデータ） (2022-09-06T18:38:34Z)
• ExSum: From Local Explanations to Model Understanding [6.23934576145261]
  ブラックボックスモデルの動作メカニズムを理解するために,解釈可能性法を開発した。 この目標をフルフィルするには、これらのメソッドによって生成された説明が正しいことと、人々が容易に確実に理解できることの両方が必要である。 本稿では,モデル理解の定量化のための数学的枠組みである説明要約(ExSum)を紹介する。
  論文  参考訳（メタデータ） (2022-04-30T02:07:20Z)
• Partial Order in Chaos: Consensus on Feature Attributions in the Rashomon Set [50.67431815647126]
  ポストホックなグローバル/ローカルな特徴属性法は、機械学習モデルを理解するために徐々に採用されている。 この手法により局所的・言語的特徴の半順序が生じることを示す。 これらの部分的な順序に現れる特徴間の関係は、既存のアプローチによって提供されたランクにも当てはまることを示す。
  論文  参考訳（メタデータ） (2021-10-26T02:53:14Z)
• Best of both worlds: local and global explanations with human-understandable concepts [10.155485106226754]
  解釈可能性のテクニックは、モデルの決定の背後にある理論的根拠を提供することを目的としている。 提案手法は, 地上の真理と比較して, TCAVのグローバルな説明を改善するとともに, 有用な知見を提供する。
  論文  参考訳（メタデータ） (2021-06-16T09:05:25Z)
• On the Objective Evaluation of Post Hoc Explainers [10.981508361941335]
  機械学習研究の最近の傾向は、それらがブラックボックスであると考えられる程度に、ますます複雑化しているアルゴリズムにつながっている。 意思決定の不透明度を低減するため、そのようなモデルの内部動作を人間に理解可能な方法で解釈する手法が提案されている。 本稿では,モデルの加法構造から直接導出される地底真理に基づくポストホック説明器の評価のための枠組みを提案する。
  論文  参考訳（メタデータ） (2021-06-15T19:06:51Z)
• Towards Interpretable Natural Language Understanding with Explanations as Latent Variables [146.83882632854485]
  そこで本研究では,人間に注釈付き説明文の小さなセットだけを必要とする自然言語理解の枠組みを構築した。 我々のフレームワークは、ニューラルネットワークの基本的な推論過程をモデル化する潜在変数として、自然言語の説明を扱う。
  論文  参考訳（メタデータ） (2020-10-24T02:05:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。