論文の概要: GLANCE: Global Actions in a Nutshell for Counterfactual Explainability
- arxiv url: http://arxiv.org/abs/2405.18921v1
- Date: Wed, 29 May 2024 09:24:25 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-30 17:49:44.183722
- Title: GLANCE: Global Actions in a Nutshell for Counterfactual Explainability
- Title(参考訳): GLANCE: 現実的説明責任のためのNutshellにおけるグローバルアクション
- Authors: Ioannis Emiris, Dimitris Fotakis, Giorgos Giannopoulos, Dimitrios Gunopulos, Loukas Kavouras, Kleopatra Markou, Eleni Psaroudaki, Dimitrios Rontogiannis, Dimitris Sacharidis, Nikolaos Theologitis, Dimitrios Tomaras, Konstantinos Tsopelas,
- Abstract要約: 我々は,グローバル・カウンティファクトを識別する問題を簡潔に定式化する。
我々は,グローバルな対物発見の課題に対処するために,革新的なアルゴリズムを導入する。
- 参考スコア(独自算出の注目度): 10.250117377606871
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Counterfactual explanations have emerged as an important tool to understand, debug, and audit complex machine learning models. To offer global counterfactual explainability, state-of-the-art methods construct summaries of local explanations, offering a trade-off among conciseness, counterfactual effectiveness, and counterfactual cost or burden imposed on instances. In this work, we provide a concise formulation of the problem of identifying global counterfactuals and establish principled criteria for comparing solutions, drawing inspiration from Pareto dominance. We introduce innovative algorithms designed to address the challenge of finding global counterfactuals for either the entire input space or specific partitions, employing clustering and decision trees as key components. Additionally, we conduct a comprehensive experimental evaluation, considering various instances of the problem and comparing our proposed algorithms with state-of-the-art methods. The results highlight the consistent capability of our algorithms to generate meaningful and interpretable global counterfactual explanations.
- Abstract(参考訳): 複雑な機械学習モデルを理解し、デバッグし、監査するための重要なツールとして、カウンターファクトの説明が登場した。
グローバルな対実的説明可能性を提供するため、局所的な説明の要約を構築し、簡潔性、対実的効果、対実的コスト又はインスタンスに課される負担のトレードオフを提供する。
本研究では,グローバルな反事実を識別する問題を簡潔に定式化し,パレート支配からインスピレーションを得て,解を比較するための原則的基準を確立する。
本稿では,クラスタリングと決定木をキーコンポーネントとして用いて,入力空間全体あるいは特定のパーティションのグローバルな対策を見つけるという課題に対処する,革新的なアルゴリズムを導入する。
さらに,問題の様々な事例を考慮し,提案したアルゴリズムを最先端の手法と比較し,総合的な実験評価を行う。
その結果,意味的かつ解釈可能なグローバルな対実的説明を生成するアルゴリズムの一貫性が強調された。
関連論文リスト
- Unifying Perspectives: Plausible Counterfactual Explanations on Global, Group-wise, and Local Levels [2.675793767640172]
説明可能なAI(xAI)における有望なテクニックとして、CF(Counterfactual Explanations)が登場している。
本稿では, 局所的, グループ的, グローバルな対実的説明を識別可能な分類モデルに対して生成するための統一的アプローチを提案する。
我々の研究は、AIモデルの解釈可能性と説明可能性を大幅に向上させ、透明なAI追求の一歩を踏み出した。
論文 参考訳(メタデータ) (2024-05-27T20:32:09Z) - Provable Representation with Efficient Planning for Partial Observable Reinforcement Learning [74.67655210734338]
ほとんどの実世界の強化学習アプリケーションでは、状態情報は部分的にしか観測できないため、マルコフ決定プロセスの仮定を破る。
我々は、部分的な観察から実践的な強化学習のためのコヒーレントな枠組みと抽出可能なアルゴリズムアプローチへと導く表現に基づく視点を開発する。
提案アルゴリズムは,様々なベンチマークで部分的な観察を行い,最先端の性能を超えることができることを実証的に実証した。
論文 参考訳(メタデータ) (2023-11-20T23:56:58Z) - Understanding and Mitigating Classification Errors Through Interpretable
Token Patterns [58.91023283103762]
容易に解釈可能な用語でエラーを特徴付けることは、分類器が体系的なエラーを起こす傾向にあるかどうかを洞察する。
正しい予測と誤予測を区別するトークンのパターンを発見することを提案する。
提案手法であるPremiseが実際によく動作することを示す。
論文 参考訳(メタデータ) (2023-11-18T00:24:26Z) - GLOBE-CE: A Translation-Based Approach for Global Counterfactual
Explanations [10.276136171459731]
Global & Efficient Counterfactual Explanations (GLOBE-CE)は、現在の最先端技術に関連する信頼性とスケーラビリティの問題に取り組む柔軟なフレームワークである。
分類的特徴翻訳を数学的に解析し,その手法を応用した。
公開データセットとユーザスタディによる実験的評価は、GLOBE-CEが現在の最先端よりも大幅にパフォーマンスが向上していることを示している。
論文 参考訳(メタデータ) (2023-05-26T15:26:59Z) - Explainable Data-Driven Optimization: From Context to Decision and Back
Again [76.84947521482631]
データ駆動最適化では、コンテキスト情報と機械学習アルゴリズムを使用して、不確実なパラメータによる決定問題の解決策を見つける。
本稿では,データ駆動型問題に対する解法を説明するために,対実的説明手法を提案する。
在庫管理やルーティングといった運用管理における重要な問題を説明することで,我々のアプローチを実証する。
論文 参考訳(メタデータ) (2023-01-24T15:25:16Z) - Neural Causal Models for Counterfactual Identification and Estimation [62.30444687707919]
本稿では,ニューラルモデルによる反事実文の評価について検討する。
まず、神経因果モデル(NCM)が十分に表現可能であることを示す。
第2に,反事実分布の同時同定と推定を行うアルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-09-30T18:29:09Z) - Global Counterfactual Explanations: Investigations, Implementations and
Improvements [12.343333815270402]
Actionable Recourse Summaries (AReS)は、Recourseの世界で唯一知られている対実的な説明フレームワークである。
本稿では,Recourse における唯一の国際対実的説明フレームワークである AReS の実装と改善に焦点をあてる。
論文 参考訳(メタデータ) (2022-04-14T12:21:23Z) - A survey of Bayesian Network structure learning [8.411014222942168]
本稿では,データからBN構造を学習するための61のアルゴリズムについてレビューする。
各アルゴリズムの基本的アプローチは一貫性のある言葉で説明され、それらの類似点と相違点が強調された。
実世界のデータセットでのデータノイズに対処し、学習プロセスに専門家の知識を取り入れるためのアプローチについても紹介する。
論文 参考訳(メタデータ) (2021-09-23T14:54:00Z) - On the Objective Evaluation of Post Hoc Explainers [10.981508361941335]
機械学習研究の最近の傾向は、それらがブラックボックスであると考えられる程度に、ますます複雑化しているアルゴリズムにつながっている。
意思決定の不透明度を低減するため、そのようなモデルの内部動作を人間に理解可能な方法で解釈する手法が提案されている。
本稿では,モデルの加法構造から直接導出される地底真理に基づくポストホック説明器の評価のための枠組みを提案する。
論文 参考訳(メタデータ) (2021-06-15T19:06:51Z) - A black-box adversarial attack for poisoning clustering [78.19784577498031]
本稿では,クラスタリングアルゴリズムのロバスト性をテストするために,ブラックボックス対逆攻撃法を提案する。
我々の攻撃は、SVM、ランダムフォレスト、ニューラルネットワークなどの教師付きアルゴリズムに対しても転送可能であることを示す。
論文 参考訳(メタデータ) (2020-09-09T18:19:31Z) - Polynomial-Time Exact MAP Inference on Discrete Models with Global
Dependencies [83.05591911173332]
ジャンクションツリーアルゴリズムは、実行時の保証と正確なMAP推論のための最も一般的な解である。
本稿では,ノードのクローン化による新たなグラフ変換手法を提案する。
論文 参考訳(メタデータ) (2019-12-27T13:30:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。