論文の概要: GeCo: Quality Counterfactual Explanations in Real Time

• arxiv url: http://arxiv.org/abs/2101.01292v2
• Date: Wed, 17 Mar 2021 04:23:30 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-11 11:28:33.636206
• Title: GeCo: Quality Counterfactual Explanations in Real Time
• Title（参考訳）: GeCo: リアルタイムの品質対実的説明
• Authors: Maximilian Schleich, Zixuan Geng, Yihong Zhang, Dan Suciu
• Abstract要約: GeCoは、実用的で実現可能な反実的な説明をリアルタイムで計算できる最初のシステムです。 GeCoの中核は遺伝的アルゴリズムに依存しており、最小限の変更数で偽物の説明を探すようにカスタマイズされている。 高品質な説明とリアルタイムの回答を両立できるシステムは,これが唯一のものであることを示す。
• 参考スコア（独自算出の注目度）: 14.62816378964803
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine learning is increasingly applied in high-stakes decision making that directly affect people's lives, and this leads to an increased demand for systems to explain their decisions. Explanations often take the form of counterfactuals, which consists of conveying to the end user what she/he needs to change in order to improve the outcome. Computing counterfactual explanations is challenging, because of the inherent tension between a rich semantics of the domain, and the need for real time response. In this paper we present GeCo, the first system that can compute plausible and feasible counterfactual explanations in real time. At its core, GeCo relies on a genetic algorithm, which is customized to favor searching counterfactual explanations with the smallest number of changes. To achieve real-time performance, we introduce two novel optimizations: $\Delta$-representation of candidate counterfactuals, and partial evaluation of the classifier. We compare empirically GeCo against five other systems described in the literature, and show that it is the only system that can achieve both high quality explanations and real time answers.
• Abstract（参考訳）: 機械学習は、人々の生活に直接影響を及ぼす高リスク意思決定にますます適用され、システムによる意思決定の要求の増加につながる。 説明はしばしば、結果を改善するために、エンドユーザに何を変える必要があるかを伝えて、反事実の形式をとる。 ドメインの豊富なセマンティクスとリアルタイム応答の必要性の間に固有の緊張関係があるため、反事実的説明の計算は困難である。 本稿では,リアルタイムに実現可能な反事実的説明を計算できる最初のシステムであるgecoについて述べる。 GeCoの中核は遺伝的アルゴリズムに依存しており、最小限の変更数で偽物の説明を探すようにカスタマイズされている。 リアルタイム性能を実現するために,$\delta$-representation of candidate counterfactualsと部分的評価という2つの新しい最適化を導入する。 文献に記述された他の5つのシステムと比較し,高品質な説明とリアルタイム回答を両立できる唯一のシステムであることを示した。

関連論文リスト

• Explanation Selection Using Unlabeled Data for Chain-of-Thought Prompting [80.9896041501715]
  非専門家によって書かれたオフ・ザ・シェルフの説明のように、タスクのために"チューニング"されていない説明は、中途半端なパフォーマンスをもたらす可能性がある。 本稿では,ブラックボックス方式で説明拡散プロンプトを最適化する方法の課題に対処する。
  論文  参考訳（メタデータ） (2023-02-09T18:02:34Z)
• Explaining $\mathcal{ELH}$ Concept Descriptions through Counterfactual Reasoning [3.5323691899538128]
  分類を本質的に透過的に行う方法は、記述論理の概念を使用することである。 一つの解決策は、「異なる分類を得るために特徴値をどう変えなければならないか」という疑問に答えるために反事実を用いることである。
  論文  参考訳（メタデータ） (2023-01-12T16:06:06Z)
• Computing Rule-Based Explanations by Leveraging Counterfactuals [17.613690272861053]
  ルールベースの説明は計算に非効率であり、既存のシステムは適切なパフォーマンスを達成するために品質を犠牲にする。 本稿では,異なるタイプの説明法を用いて,ルールに基づく説明を計算するための新しい手法を提案する。 我々は、ルールベースと反ファクトベースの説明が相互に二重であることを示すデュナリティ定理を証明し、この観察を用いてルールベースの説明を計算するための効率的なアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2022-10-31T05:20:41Z)
• Visual Abductive Reasoning [85.17040703205608]
  帰納的推論は、部分的な観察の可能な限りの可能な説明を求める。 本稿では,日常的な視覚的状況下でのマシンインテリジェンスの帰納的推論能力を調べるために,新たなタスクとデータセットであるVisual Abductive Reasoning(VAR)を提案する。
  論文  参考訳（メタデータ） (2022-03-26T10:17:03Z)
• REX: Reasoning-aware and Grounded Explanation [30.392986232906107]
  我々は,画像中の推論プロセスとグラウンド化キーワードをトラバースすることで,意思決定を説明する,新しいタイプのマルチモーダルな説明を開発する。 第2に、意思決定を説明するために、視覚的およびテキスト的モダリティに重要なコンポーネントを密に結合する必要があることを特定する。 第3に、単語と興味のある領域のペアワイズ対応を明示的にモデル化する、新しい説明生成手法を提案する。
  論文  参考訳（メタデータ） (2022-03-11T17:28:42Z)
• Ranking Facts for Explaining Answers to Elementary Science Questions [1.4091801425319965]
  小学校の理科試験では、学生は通常4つの選択肢の中から1つの答えを選び、なぜその選択をしたのかを説明することができる。 我々は,人間による事実から回答を導き出す新しい課題について考察する。 説明は、WorldTree corpus内の5000近い候補事実の人間による注釈付きセットから作成されます。
  論文  参考訳（メタデータ） (2021-10-18T06:15:11Z)
• This is not the Texture you are looking for! Introducing Novel Counterfactual Explanations for Non-Experts using Generative Adversarial Learning [59.17685450892182]
  反実用説明システムは、入力画像を変更して反実用推論を可能にする。 本稿では, 対向画像から画像への変換技術に基づく, 対向画像の説明を新たに生成する手法を提案する。 その結果,我々のアプローチは,2つの最先端技術システムよりも,メンタルモデル,説明満足度,信頼度,感情,自己効力に関して有意に優れた結果をもたらすことがわかった。
  論文  参考訳（メタデータ） (2020-12-22T10:08:05Z)
• From Checking to Inference: Actual Causality Computations as Optimization Problems [79.87179017975235]
  本稿では、最適化問題として二元非巡回モデルよりも、因果推論の異なる概念を定式化するための新しいアプローチを提案する。 8000ドル以上の変数を持つモデルを用いて,MaxSAT が ILP を上回り,数秒単位でチェック処理を行う場合が多い。
  論文  参考訳（メタデータ） (2020-06-05T10:56:52Z)
• SCOUT: Self-aware Discriminant Counterfactual Explanations [78.79534272979305]
  対物的視覚的説明の問題点を考察する。 新しい差別的な説明の族が紹介される。 結果として生じる反実的な説明は、最適化が自由で、従って以前の方法よりもはるかに高速である。
  論文  参考訳（メタデータ） (2020-04-16T17:05:49Z)
• Generating Fact Checking Explanations [52.879658637466605]
  まだ欠けているパズルの重要なピースは、プロセスの最も精巧な部分を自動化する方法を理解することです。 本稿では、これらの説明を利用可能なクレームコンテキストに基づいて自動生成する方法について、最初の研究を行う。 この結果から,個別に学習するのではなく,両目標を同時に最適化することで,事実確認システムの性能が向上することが示唆された。
  論文  参考訳（メタデータ） (2020-04-13T05:23:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。