論文の概要: Rather a Nurse than a Physician -- Contrastive Explanations under Investigation

• arxiv url: http://arxiv.org/abs/2310.11906v1
• Date: Wed, 18 Oct 2023 11:54:38 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-19 16:48:47.176703
• Title: Rather a Nurse than a Physician -- Contrastive Explanations under Investigation
• Title（参考訳）: 医師というよりは看護婦―調査中の対比的説明
• Authors: Oliver Eberle, Ilias Chalkidis, Laura Cabello, Stephanie Brandl
• Abstract要約: 英語テキスト分類データセット(SST2, DynaSent, BIOS, DBpedia-Animals)の解析 我々は3つの異なるモデルから説明を微調整し抽出し、3つのポストホックな説明可能性法を適用した。 我々は、人間が必ずしも対照的な方法で説明しないことを経験的に見出した。
• 参考スコア（独自算出の注目度）: 22.461311074002133
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Contrastive explanations, where one decision is explained in contrast to another, are supposed to be closer to how humans explain a decision than non-contrastive explanations, where the decision is not necessarily referenced to an alternative. This claim has never been empirically validated. We analyze four English text-classification datasets (SST2, DynaSent, BIOS and DBpedia-Animals). We fine-tune and extract explanations from three different models (RoBERTa, GTP-2, and T5), each in three different sizes and apply three post-hoc explainability methods (LRP, GradientxInput, GradNorm). We furthermore collect and release human rationale annotations for a subset of 100 samples from the BIOS dataset for contrastive and non-contrastive settings. A cross-comparison between model-based rationales and human annotations, both in contrastive and non-contrastive settings, yields a high agreement between the two settings for models as well as for humans. Moreover, model-based explanations computed in both settings align equally well with human rationales. Thus, we empirically find that humans do not necessarily explain in a contrastive manner.9 pages, long paper at ACL 2022 proceedings.
• Abstract（参考訳）: 対照的な説明は、ある決定が別の決定と対照的に説明されるものであり、人間が非矛盾的な説明よりも意思決定を説明する方法に近いものと考えられる。 この主張は実証的に検証されたことはない。 英語のテキスト分類データセット(SST2, DynaSent, BIOS, DBpedia-Animals)を解析した。 3つのモデル (RoBERTa, GTP-2, T5) をそれぞれ3つの異なるサイズで微調整し, 3つのポストホック説明可能性法 (LRP, GradientxInput, GradNorm) を適用した。 さらに、対照的かつ非対照的な設定のために、BIOSデータセットから100のサンプルのサブセットに対する人間の合理性アノテーションを収集、リリースする。 モデルに基づく合理性と人間のアノテーションの相互比較は、対照的な設定と非矛盾的な設定の両方において、モデルと人間の2つの設定の間に高い一致をもたらします。 さらに、両方の設定で計算されたモデルに基づく説明は、人間の理性と等しく一致する。 そこで我々は,ACL 2022 の長い論文において,人間が必ずしも対照的に説明できないことを実証的に見出した。

関連論文リスト

• Fool Me Once? Contrasting Textual and Visual Explanations in a Clinical Decision-Support Setting [43.110187812734864]
  視覚的説明(可用性マップ)、自然言語の説明、両方のモダリティの組み合わせの3種類の説明を評価した。 テキストに基づく説明は、高い信頼度をもたらすことが分かっており、従順マップと組み合わせることで軽減される。 また、説明の質、すなわち、それがどれだけ事実的に正しい情報であり、それがAIの正しさとどの程度一致しているかが、異なる説明タイプの有用性に大きく影響していることも観察します。
  論文  参考訳（メタデータ） (2024-10-16T06:43:02Z)
• Human Interpretation of Saliency-based Explanation Over Text [65.29015910991261]
  テキストデータ上でのサリエンシに基づく説明について検討する。 人はしばしば説明を誤って解釈する。 本稿では,過度知覚と過小認識のモデル推定に基づいて,サリエンシを調整する手法を提案する。
  論文  参考訳（メタデータ） (2022-01-27T15:20:32Z)
• Prompting Contrastive Explanations for Commonsense Reasoning Tasks [74.7346558082693]
  大規模事前学習言語モデル(PLM)は、常識推論タスクにおいて、ほぼ人間に近い性能を達成することができる。 人間の解釈可能な証拠を生成するために、同じモデルを使う方法を示す。
  論文  参考訳（メタデータ） (2021-06-12T17:06:13Z)
• Rationalization through Concepts [27.207067974031805]
  ConRATという,新しい自己解釈モデルを提案する。 高レベルの決定に対する人間の説明は、しばしば鍵となる概念に基づいており、ConRATはドキュメントに記述されているものを想定している。 2つの正規化器がConRATを駆動して解釈可能な概念を構築する。
  論文  参考訳（メタデータ） (2021-05-11T07:46:48Z)
• Contrastive Explanations for Model Interpretability [77.92370750072831]
  分類モデルの対照的説明を生成する手法を提案する。 本手法は潜在空間へのモデル表現の投影に基づいている。 本研究は,モデル決定のより正確できめ細かな解釈性を提供するためのラベルコントラスト的説明の能力に光を当てた。
  論文  参考訳（メタデータ） (2021-03-02T00:36:45Z)
• To what extent do human explanations of model behavior align with actual model behavior? [91.67905128825402]
  モデル推論決定の人間による説明が、モデルが実際にこれらの決定を下す方法と一致する程度を調べた。 自然言語の人間の説明が入力語に対するモデル感度とどのように一致するかを定量化する2つのアライメント指標を定義した。 モデルと人間の説明との整合は、NLI上のモデルの精度によって予測されないことが判明した。
  論文  参考訳（メタデータ） (2020-12-24T17:40:06Z)
• Dependency Decomposition and a Reject Option for Explainable Models [4.94950858749529]
  近年のディープラーニングモデルは様々な推論タスクにおいて非常によく機能する。 最近の進歩は特徴を視覚化し、入力の属性を記述する方法を提供します。 本稿では, 目的の画像分類出力に対する確率分布に関する依存性を初めて解析する。
  論文  参考訳（メタデータ） (2020-12-11T17:39:33Z)
• Leakage-Adjusted Simulatability: Can Models Generate Non-Trivial Explanations of Their Behavior in Natural Language? [86.60613602337246]
  我々はNL説明を評価するためのリーク調整シミュラビリティ(LAS)指標を提案する。 LASは、どのように説明が直接アウトプットをリークするかを制御しながら、オブザーバがモデルのアウトプットを予測するのに役立つかを計測する。 マルチエージェントゲームとしての説明文生成を行い、ラベルリークをペナライズしながら、シミュラビリティの説明を最適化する。
  論文  参考訳（メタデータ） (2020-10-08T16:59:07Z)
• The Struggles of Feature-Based Explanations: Shapley Values vs. Minimal Sufficient Subsets [61.66584140190247]
  機能に基づく説明は、自明なモデルでも問題を引き起こすことを示す。 そこで本研究では,2つの一般的な説明書クラスであるシェープリー説明書と十分最小限の部分集合説明書が,基本的に異なる基底的説明書のタイプをターゲットにしていることを示す。
  論文  参考訳（メタデータ） (2020-09-23T09:45:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。