論文の概要: Multi-Objective Counterfactual Explanations

• arxiv url: http://arxiv.org/abs/2004.11165v2
• Date: Wed, 24 Jun 2020 10:03:01 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-10 09:12:39.035400
• Title: Multi-Objective Counterfactual Explanations
• Title（参考訳）: 多目的対実説明
• Authors: Susanne Dandl, Christoph Molnar, Martin Binder and Bernd Bischl
• Abstract要約: 本稿では, 対物探索を多目的最適化問題に変換する多目的対物法 (MOC) を提案する。 我々のアプローチは、提案する目的間のトレードオフの異なる多様な対策セットを返却するだけでなく、特徴空間における多様性も維持する。
• 参考スコア（独自算出の注目度）: 0.7349727826230864
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Counterfactual explanations are one of the most popular methods to make predictions of black box machine learning models interpretable by providing explanations in the form of `what-if scenarios'. Most current approaches optimize a collapsed, weighted sum of multiple objectives, which are naturally difficult to balance a-priori. We propose the Multi-Objective Counterfactuals (MOC) method, which translates the counterfactual search into a multi-objective optimization problem. Our approach not only returns a diverse set of counterfactuals with different trade-offs between the proposed objectives, but also maintains diversity in feature space. This enables a more detailed post-hoc analysis to facilitate better understanding and also more options for actionable user responses to change the predicted outcome. Our approach is also model-agnostic and works for numerical and categorical input features. We show the usefulness of MOC in concrete cases and compare our approach with state-of-the-art methods for counterfactual explanations.
• Abstract（参考訳）: 反事実的説明は、'what-if scenarios'という形式で説明を提供することで、ブラックボックス機械学習モデルの予測を可能にする最も一般的な方法の1つである。 現在のアプローチのほとんどは、倒壊した重み付けされた複数の目的の和を最適化している。 本稿では, 対物探索を多目的最適化問題に変換する多目的対物法 (MOC) を提案する。 我々のアプローチは、提案する目的間のトレードオフの異なる多様な対策セットを返すだけでなく、特徴空間における多様性も維持する。 これにより、より詳細なポストホック分析がより理解しやすくなり、予測結果を変更するアクション可能なユーザー応答の選択肢が増える。 私たちのアプローチはモデルに依存しず、数値的およびカテゴリ的な入力機能で動作します。 具体例におけるMOCの有用性を示し,提案手法と最先端手法との比較を行った。

関連論文リスト

• UCB-driven Utility Function Search for Multi-objective Reinforcement Learning [75.11267478778295]
  マルチオブジェクト強化学習(MORL)エージェントでは、意思決定行動の最適化を行う。 重みベクトル w でパラメータ化される線型効用関数の場合に焦点を当てる。 学習過程の異なる段階で最も有望な重みベクトルを効率的に探索する上信頼境界に基づく手法を提案する。
  論文  参考訳（メタデータ） (2024-05-01T09:34:42Z)
• A multi-criteria approach for selecting an explanation from the set of counterfactuals produced by an ensemble of explainers [4.239829789304117]
  そこで本研究では,マルチ基準解析に基づいて単一対実数を選択するマルチステージアンサンブル手法を提案する。 提案手法は、検討された品質指標の魅力的な妥協値を持つ、完全に実行可能な対策を生成できる。
  論文  参考訳（メタデータ） (2024-03-20T19:25:11Z)
• Faithful Explanations of Black-box NLP Models Using LLM-generated Counterfactuals [67.64770842323966]
  NLPシステムの予測に関する因果的説明は、安全性を確保し、信頼を確立するために不可欠である。 既存の手法は、しばしばモデル予測を効果的または効率的に説明できない。 本稿では, 対物近似(CF)の2つの手法を提案する。
  論文  参考訳（メタデータ） (2023-10-01T07:31:04Z)
• MinT: Boosting Generalization in Mathematical Reasoning via Multi-View Fine-Tuning [53.90744622542961]
  数学領域における推論は、小言語モデル(LM)にとって重要な課題である。 多様なアノテーションスタイルで既存の数学的問題データセットを利用する新しい手法を提案する。 実験結果から,LLaMA-7Bモデルが先行手法より優れていることが示された。
  論文  参考訳（メタデータ） (2023-07-16T05:41:53Z)
• An Additive Instance-Wise Approach to Multi-class Model Interpretation [53.87578024052922]
  解釈可能な機械学習は、ブラックボックスシステムの特定の予測を駆動する要因に関する洞察を提供する。 既存の手法は主に、局所的な加法的あるいはインスタンス的なアプローチに従う説明的入力特徴の選択に重点を置いている。 本研究は,両手法の長所を生かし,複数の対象クラスに対する局所的な説明を同時に学習するためのグローバルフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-07T06:50:27Z)
• MACE: An Efficient Model-Agnostic Framework for Counterfactual Explanation [132.77005365032468]
  MACE(Model-Agnostic Counterfactual Explanation)の新たな枠組みを提案する。 MACE法では, 優れた反実例を見つけるための新しいRL法と, 近接性向上のための勾配のない降下法を提案する。 公開データセットの実験は、有効性、空間性、近接性を向上して検証する。
  論文  参考訳（メタデータ） (2022-05-31T04:57:06Z)
• Model-agnostic and Scalable Counterfactual Explanations via Reinforcement Learning [0.5729426778193398]
  本稿では,最適化手順をエンドツーエンドの学習プロセスに変換する深層強化学習手法を提案する。 実世界のデータを用いた実験により,本手法はモデルに依存しず,モデル予測からのフィードバックのみに依存することがわかった。
  論文  参考訳（メタデータ） (2021-06-04T16:54:36Z)
• Optimal Counterfactual Explanations for Scorecard modelling [0.0]
  本研究では,スコアカードモデルのための数学的プログラミングの定式化を検討する。 提案した混合整数型プログラミング定式化は、目的関数を組み合わせて、密接で現実的でスパースな反事実を保証する。 2つの実世界のデータセットの実験により、提案手法が最適な多様なカウンターファクトを生成できることが確認された。
  論文  参考訳（メタデータ） (2021-04-17T18:51:50Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。