論文の概要: On the Diversity and Limits of Human Explanations
- arxiv url: http://arxiv.org/abs/2106.11988v1
- Date: Tue, 22 Jun 2021 18:00:07 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-25 03:13:08.328784
- Title: On the Diversity and Limits of Human Explanations
- Title（参考訳）: 人間の説明の多様性と限界について
- Authors: Chenhao Tan
- Abstract要約: NLPの取り組みは、人間の説明のデータセットを構築することを目的としている。
私たちのゴールは、さまざまなタイプの説明と人間の制限の概要を提供することです。
- 参考スコア（独自算出の注目度）: 11.44224857047629
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A growing effort in NLP aims to build datasets of human explanations.
However, the term explanation encompasses a broad range of notions, each with
different properties and ramifications. Our goal is to provide an overview of
diverse types of explanations and human limitations, and discuss implications
for collecting and using explanations in NLP. Inspired by prior work in
psychology and cognitive sciences, we group existing human explanations in NLP
into three categories: proximal mechanism, evidence, and procedure. These three
types differ in nature and have implications for the resultant explanations.
For instance, procedure is not considered explanations in psychology and
connects with a rich body of work on learning from instructions. The diversity
of explanations is further evidenced by proxy questions that are needed for
annotators to interpret and answer open-ended why questions. Finally,
explanations may require different, often deeper, understandings than
predictions, which casts doubt on whether humans can provide useful
explanations in some tasks.
- Abstract（参考訳）: NLPの取り組みは、人間の説明のデータセットを構築することを目的としている。
しかし、説明という用語は幅広い概念を包含しており、それぞれが異なる性質と分岐を持つ。
我々の目標は、多種多様な説明と人的制約の概要を提供し、NLPにおける説明の収集と利用の意義について議論することである。
心理学と認知科学における先行研究に着想を得て,nlpの既存の説明を近位メカニズム,証拠,手続きの3つのカテゴリに分類した。
これら3つのタイプは性質が異なり、その結果の説明に影響を及ぼす。
例えば、手順は心理学における説明とはみなされず、指示から学ぶための豊富な仕事と結びついている。
説明の多様性は、アノテータがオープンな疑問を解釈し答えるのに必要なプロキシ質問によってさらに証明される。
最後に、説明は予測と異なる、しばしば深い理解を必要とするため、人間はいくつかのタスクで有用な説明を提供することができるかどうかに疑問を投げかける。
関連論文リスト
- Explainers' Mental Representations of Explainees' Needs in Everyday Explanations [0.0]
説明において、説明者は説明者の知識の発達と説明に関する関心の変化を精神的に表現する。
XAIは、同様の方法で説明者の要求に反応できるべきです。
本研究では,工芸品の日常的説明における説明者の心的表現について検討した。
論文 参考訳（メタデータ） (2024-11-13T10:53:07Z) - An Incomplete Loop: Deductive, Inductive, and Abductive Learning in Large Language Models [99.31449616860291]
現代の言語モデル(LM)は、異なる方法で新しいタスクを実行することを学べる。
次の命令では、ターゲットタスクは自然言語で明示的に記述され、少数ショットプロンプトでは、タスクは暗黙的に指定される。
命令推論では、LMはインコンテキストの例を示し、自然言語のタスク記述を生成するように促される。
論文 参考訳（メタデータ） (2024-04-03T19:31:56Z) - Providing personalized Explanations: a Conversational Approach [0.5156484100374058]
そこで本稿では,説明者との対話を通じて,パーソナライズされた説明を説明人に伝達する手法を提案する。
我々は、説明人が理解し、説明者が認識している最初の主張についての説明が存在する限り、説明人が最初の主張を正当化しているため、会話が終了することを証明する。
論文 参考訳（メタデータ） (2023-07-21T09:34:41Z) - Complementary Explanations for Effective In-Context Learning [77.83124315634386]
大規模言語モデル (LLM) は、説明のインプロンプトから学習する際、顕著な能力を示した。
この研究は、文脈内学習に説明が使用されるメカニズムをよりよく理解することを目的としている。
論文 参考訳（メタデータ） (2022-11-25T04:40:47Z) - Explanatory Paradigms in Neural Networks [18.32369721322249]
本稿では、推論に基づく質問に対する解答として説明を考慮し、ニューラルネットワークにおける説明可能性の研究に飛躍的に拡張する。
これらの質問に対する回答は, それぞれ, 相関, 反事実, 対照的な説明である。
この用語は、訓練されたニューラルネットワークが決定を下した後に、説明的手法が$P$を説明したとき、ホック後の説明可能性の特定のケースを指す。
論文 参考訳（メタデータ） (2022-02-24T00:22:11Z) - Human Interpretation of Saliency-based Explanation Over Text [65.29015910991261]
テキストデータ上でのサリエンシに基づく説明について検討する。
人はしばしば説明を誤って解釈する。
本稿では,過度知覚と過小認識のモデル推定に基づいて,サリエンシを調整する手法を提案する。
論文 参考訳（メタデータ） (2022-01-27T15:20:32Z) - Diagnosing AI Explanation Methods with Folk Concepts of Behavior [70.10183435379162]
我々は「成功」は、その説明がどんな情報を含むかだけでなく、人間の説明者がどのような情報から理解するかにも依存すると考えている。
我々は、人間の説明による社会的帰属の枠組みとして、行動の民意的概念を用いる。
論文 参考訳（メタデータ） (2022-01-27T00:19:41Z) - Explanation as a process: user-centric construction of multi-level and
multi-modal explanations [0.34410212782758043]
本稿では,マルチレベルとマルチモーダルな説明を組み合わせたプロセスベースアプローチを提案する。
私たちは、解釈可能な機械学習アプローチであるインダクティブロジックプログラミングを使用して、理解可能なモデルを学びます。
論文 参考訳（メタデータ） (2021-10-07T19:26:21Z) - Prompting Contrastive Explanations for Commonsense Reasoning Tasks [74.7346558082693]
大規模事前学習言語モデル(PLM)は、常識推論タスクにおいて、ほぼ人間に近い性能を達成することができる。
人間の解釈可能な証拠を生成するために、同じモデルを使う方法を示す。
論文 参考訳（メタデータ） (2021-06-12T17:06:13Z) - The Struggles of Feature-Based Explanations: Shapley Values vs. Minimal
Sufficient Subsets [61.66584140190247]
機能に基づく説明は、自明なモデルでも問題を引き起こすことを示す。
そこで本研究では,2つの一般的な説明書クラスであるシェープリー説明書と十分最小限の部分集合説明書が,基本的に異なる基底的説明書のタイプをターゲットにしていることを示す。
論文 参考訳（メタデータ） (2020-09-23T09:45:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。