論文の概要: Choose your Data Wisely: A Framework for Semantic Counterfactuals

• arxiv url: http://arxiv.org/abs/2305.17667v1
• Date: Sun, 28 May 2023 09:06:44 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-30 17:26:04.805237
• Title: Choose your Data Wisely: A Framework for Semantic Counterfactuals
• Title（参考訳）: データを簡潔に選択する:セマンティックカウンターファクトのフレームワーク
• Authors: Edmund Dervakos, Konstantinos Thomas, Giorgos Filandrianos, Giorgos Stamou
• Abstract要約: 本稿では,知識グラフの反実的な説明を提供するフレームワークを提案する。 このような説明を計算するためのアルゴリズムを提供し、そのフレームワークをユーザスタディで定量的に評価する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Counterfactual explanations have been argued to be one of the most intuitive forms of explanation. They are typically defined as a minimal set of edits on a given data sample that, when applied, changes the output of a model on that sample. However, a minimal set of edits is not always clear and understandable to an end-user, as it could, for instance, constitute an adversarial example (which is indistinguishable from the original data sample to an end-user). Instead, there are recent ideas that the notion of minimality in the context of counterfactuals should refer to the semantics of the data sample, and not to the feature space. In this work, we build on these ideas, and propose a framework that provides counterfactual explanations in terms of knowledge graphs. We provide an algorithm for computing such explanations (given some assumptions about the underlying knowledge), and quantitatively evaluate the framework with a user study.
• Abstract（参考訳）: 反事実的な説明は最も直感的な説明の1つだと論じられている。 通常は、与えられたデータサンプルに対する最小限の編集セットとして定義され、適用されると、そのサンプル上のモデルの出力が変更される。 しかし、最小限の編集セットは、例えば、逆の例(元のデータサンプルからエンドユーザへの区別がつかない)を構成することができるため、エンドユーザにとって必ずしも明確かつ理解可能なものではない。 代わりに、反事実の文脈における最小性の概念は、特徴空間ではなく、データサンプルのセマンティクスを参照すべきである、という最近の考え方がある。 本研究は,これらのアイデアに基づいて,知識グラフの観点で対実的な説明を提供するフレームワークを提案する。 このような説明(基礎知識に関するいくつかの仮定)を計算し,その枠組みをユーザスタディで定量的に評価するアルゴリズムを提案する。

関連論文リスト

• Generating collective counterfactual explanations in score-based classification via mathematical optimization [4.281723404774889]
  インスタンスの反実的な説明は、このインスタンスを最小限に修正して、摂動インスタンスを望ましいクラスに分類する方法を示している。 カウンターファクト・アナリティクスの文献の多くは、単一インスタンスの単一カウントファクト・セッティングに焦点を当てている。 新規な数学的最適化モデルにより、興味ある群における各インスタンスに対する対実的説明を提供する。
  論文  参考訳（メタデータ） (2023-10-19T15:18:42Z)
• Explanation Selection Using Unlabeled Data for Chain-of-Thought Prompting [80.9896041501715]
  非専門家によって書かれたオフ・ザ・シェルフの説明のように、タスクのために"チューニング"されていない説明は、中途半端なパフォーマンスをもたらす可能性がある。 本稿では,ブラックボックス方式で説明拡散プロンプトを最適化する方法の課題に対処する。
  論文  参考訳（メタデータ） (2023-02-09T18:02:34Z)
• Do Users Benefit From Interpretable Vision? A User Study, Baseline, And Dataset [8.863479255829139]
  本研究では,ベースラインの説明手法が,概念に基づく,反現実的な説明に対してどのように機能するかを検証するために,ユーザスタディを実施している。 そこで,本研究では,参加者が属性の集合を,基幹構造と比較して識別できるかどうかを検証した。 非可逆ニューラルネットワークからの対実的説明はベースラインと同様に実行された。
  論文  参考訳（メタデータ） (2022-04-25T13:20:06Z)
• On Quantitative Evaluations of Counterfactuals [88.42660013773647]
  本稿では、分析と実験を通じて、視覚的対実例の評価に関する研究を集約する。 ほとんどのメトリクスは、十分な単純なデータセットを意図して振る舞うが、複雑さが増加すると、良い結果と悪い結果の違いを判断できないものもいる。 私たちはラベル変動スコアとOracleスコアという2つの新しい指標を提案しています。
  論文  参考訳（メタデータ） (2021-10-30T05:00:36Z)
• Explaining Latent Representations with a Corpus of Examples [72.50996504722293]
  本稿では,サンプルベースの説明を自由に選択されたサンプル集合を参照して提供するユーザ中心の手法であるSimplExを提案する。 SimplExは、ポストホックな説明で潜伏空間に対するユーザの理解を改善するためにコーパスを使用する。 SimplExは,モデル表現を説明するコーパス内の関連パターンを強調表示することで,ユーザを力づけることを示す。
  論文  参考訳（メタデータ） (2021-10-28T17:59:06Z)
• Counterfactual Evaluation for Explainable AI [21.055319253405603]
  そこで本稿では, 文献的推論の観点から, 説明の忠実さを評価する新しい手法を提案する。 離散シナリオと連続シナリオの両方において適切な反事実を見つけるために2つのアルゴリズムを導入し、取得した反事実を用いて忠実度を測定する。
  論文  参考訳（メタデータ） (2021-09-05T01:38:49Z)
• VAE-CE: Visual Contrastive Explanation using Disentangled VAEs [3.5027291542274357]
  変分自己エンコーダに基づくコントラスト説明(VAE-CE) 本研究では,各次元をアンタングル化するための新しい教師付き手法で拡張した,アンタングル付きVAEを用いたモデルを構築した。 合成データとMNISTの分析は、解離と説明の両方へのアプローチが他の方法よりも有利であることを示している。
  論文  参考訳（メタデータ） (2021-08-20T13:15:24Z)
• Contrastive Explanations for Model Interpretability [77.92370750072831]
  分類モデルの対照的説明を生成する手法を提案する。 本手法は潜在空間へのモデル表現の投影に基づいている。 本研究は,モデル決定のより正確できめ細かな解釈性を提供するためのラベルコントラスト的説明の能力に光を当てた。
  論文  参考訳（メタデータ） (2021-03-02T00:36:45Z)
• Evaluations and Methods for Explanation through Robustness Analysis [117.7235152610957]
  分析による特徴に基づく説明の新たな評価基準を確立する。 我々は、緩やかに必要であり、予測に十分である新しい説明を得る。 我々は、現在の予測をターゲットクラスに移動させる一連の特徴を抽出するために、説明を拡張します。
  論文  参考訳（メタデータ） (2020-05-31T05:52:05Z)
• Evaluating Models' Local Decision Boundaries via Contrast Sets [119.38387782979474]
  テストデータの体系的なギャップを埋めるのに役立つNLPのための新しいアノテーションパラダイムを提案する。 10種類のNLPデータセットに対してコントラストセットを作成することで,コントラストセットの有効性を示す。 我々のコントラストセットは明示的には逆ではないが、モデルの性能は元のテストセットよりも大幅に低い。
  論文  参考訳（メタデータ） (2020-04-06T14:47:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。