論文の概要: Contrastive explanations of BDI agents

• arxiv url: http://arxiv.org/abs/2602.13323v1
• Date: Tue, 10 Feb 2026 22:12:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-17 14:17:27.916067
• Title: Contrastive explanations of BDI agents
• Title（参考訳）: BDIエージェントの対照的な説明
• Authors: Michael Winikoff,
• Abstract要約: 我々は、反トラスト的な質問に答えられるように、以前の作業を拡張します。 計算的評価は、対照的な質問を用いた場合、説明の長さが大幅に減少することを示している。 このような対照的な回答が望ましいかどうかを評価するために,人間の被験者評価を行った。
• 参考スコア（独自算出の注目度）: 0.685316573653194
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The ability of autonomous systems to provide explanations is important for supporting transparency and aiding the development of (appropriate) trust. Prior work has defined a mechanism for Belief-Desire-Intention (BDI) agents to be able to answer questions of the form ``why did you do action $X$?''. However, we know that we ask \emph{contrastive} questions (``why did you do $X$ \emph{instead of} $F$?''). We therefore extend previous work to be able to answer such questions. A computational evaluation shows that using contrastive questions yields a significant reduction in explanation length. A human subject evaluation was conducted to assess whether such contrastive answers are preferred, and how well they support trust development and transparency. We found some evidence for contrastive answers being preferred, and some evidence that they led to higher trust, perceived understanding, and confidence in the system's correctness. We also evaluated the benefit of providing explanations at all. Surprisingly, there was not a clear benefit, and in some situations we found evidence that providing a (full) explanation was worse than not providing any explanation.
• Abstract（参考訳）: 自律システムの説明提供能力は、透明性を支援し、(適切な)信頼の発展を支援するために重要である。 以前の作業では、BDIエージェントが '`なぜアクション$X$?'' をしたのかという形式の質問に答えるメカニズムを定義していた。 しかし、我々は \emph{contrastive} の質問をする(なぜ$X$ \emph{instead of} $F$?'' をしたのか)。 したがって、そのような疑問に答えられるように、以前の作業を拡張します。 計算的評価は、対照的な質問を用いた場合、説明の長さが大幅に減少することを示している。 このような対照的な回答が望ましいか、信頼開発と透明性をいかに支援するかを評価するために、人間による被験者評価を行った。 対照的な回答が好まれる証拠がいくつか見出され、それらがより高い信頼、認識された理解、システムの正しさに対する信頼につながった証拠がいくつか見出されました。 我々はまた、説明を提供することの利点を全く評価した。 驚くべきことに、明確なメリットはなく、いくつかの状況では、(完全な)説明を提供することは、説明を提供しないよりも悪いという証拠を見つけました。

関連論文リスト

• Beyond Satisfaction: From Placebic to Actionable Explanations For Enhanced Understandability [0.0]
  本稿では、機械学習システムの説明可能性を評価する上で、ユーザ満足度指標の過度な信頼性を批判する。 主観的な調査では、ユーザにとって有用なドメイン理解を構築する上で、説明が本当に有効かどうかを把握できないことが分かりました。 エージェントの説明能力の今後の評価は、主観的な評価とともに客観的なタスクパフォーマンス指標を統合して、説明品質をより正確に測定することを提案する。
  論文  参考訳（メタデータ） (2025-12-06T23:06:18Z)
• COMMUNITYNOTES: A Dataset for Exploring the Helpfulness of Fact-Checking Explanations [89.37527535663433]
  ユーザが提供するノートと有用なラベルを用いた104kポストの大規模データセットを提示する。 本稿では,自動的なプロンプト最適化による理由定義の自動生成と改善を行うフレームワークを提案する。 実験の結果,最適化された定義は有用性と推論の両方を改善できることがわかった。
  論文  参考訳（メタデータ） (2025-10-28T05:28:47Z)
• Evaluating Evidence Attribution in Generated Fact Checking Explanations [48.776087871960584]
  我々は、新しい評価プロトコル、引用マスキングとリカバリを導入する。 我々は,自動アノテータとヒューマンアノテータの両方を用いてプロトコルを実装した。 実験により、最高の性能を持つLSMは、不正確な属性を持つ説明を生成することが明らかとなった。
  論文  参考訳（メタデータ） (2024-06-18T14:13:13Z)
• HOP, UNION, GENERATE: Explainable Multi-hop Reasoning without Rationale Supervision [118.0818807474809]
  本研究は、合理的な監督なしに説明可能なマルチホップQAシステムを訓練するための原則的確率論的アプローチを提案する。 提案手法は,集合としての有理を明示的にモデル化し,文書と文間の相互作用を文書内で捉えることによって,マルチホップ推論を行う。
  論文  参考訳（メタデータ） (2023-05-23T16:53:49Z)
• Disagreement amongst counterfactual explanations: How transparency can be deceptive [0.0]
  偽物の説明は、説明可能な人工知能技術としてますます使われている。 すべてのアルゴリズムが同じインスタンスに対して一様説明を生成するわけではない。 悪意のあるエージェントがこの多様性を使って不公平な機械学習モデルに見合うと、倫理的な問題が生じる。
  論文  参考訳（メタデータ） (2023-04-25T09:15:37Z)
• Explanation Selection Using Unlabeled Data for Chain-of-Thought Prompting [80.9896041501715]
  非専門家によって書かれたオフ・ザ・シェルフの説明のように、タスクのために"チューニング"されていない説明は、中途半端なパフォーマンスをもたらす可能性がある。 本稿では,ブラックボックス方式で説明拡散プロンプトを最適化する方法の課題に対処する。
  論文  参考訳（メタデータ） (2023-02-09T18:02:34Z)
• WikiWhy: Answering and Explaining Cause-and-Effect Questions [62.60993594814305]
  自然言語で答えが正しい理由を説明するために構築されたQAデータセットであるWikiWhyを紹介する。 WikiWhyには、ウィキペディアのさまざまなトピックの事実に基づいて、9000以上の「なぜ」質問回答の3つ組が含まれている。 GPT-3ベースラインは、エンドツーエンドの回答と説明条件において、人間の評価された正しさを38.7%しか達成していない。
  論文  参考訳（メタデータ） (2022-10-21T17:59:03Z)
• How (Not) To Evaluate Explanation Quality [29.40729766120284]
  タスクやドメインにまたがって適用される説明品質の望ましい特性を定式化する。 本稿では,今日の説明品質評価を制限する障害を克服するための実用的なガイドラインを提案する。
  論文  参考訳（メタデータ） (2022-10-13T16:06:59Z)
• Ask to Know More: Generating Counterfactual Explanations for Fake Claims [11.135087647482145]
  本稿では,あるニュースがなぜ偽物と認識されたのかを理解するために,事実チェック予測を反実的説明を用いて解明することを提案する。 この研究では、偽ニュースの反実的な説明を生成するには、良い質問、矛盾の発見、適切な推論の3つのステップがある。 以上の結果から,提案手法は最先端の手法と比較して,最も有用な説明が得られたことが示唆された。
  論文  参考訳（メタデータ） (2022-06-10T04:42:00Z)
• Features of Explainability: How users understand counterfactual and causal explanations for categorical and continuous features in XAI [10.151828072611428]
  対物的説明は、AI決定の解釈可能性、レコメンデーション、バイアスに対処するためにますます使われています。 本研究では,ユーザ予測の客観的精度に対する反事実的・因果的説明の効果を検証した。 また, 利用者は, カテゴリー的特徴を参照する説明を, 連続的特徴を参照する説明よりも容易に理解できることがわかった。
  論文  参考訳（メタデータ） (2022-04-21T15:01:09Z)
• Explanatory Paradigms in Neural Networks [18.32369721322249]
  本稿では、推論に基づく質問に対する解答として説明を考慮し、ニューラルネットワークにおける説明可能性の研究に飛躍的に拡張する。 これらの質問に対する回答は, それぞれ, 相関, 反事実, 対照的な説明である。 この用語は、訓練されたニューラルネットワークが決定を下した後に、説明的手法が$P$を説明したとき、ホック後の説明可能性の特定のケースを指す。
  論文  参考訳（メタデータ） (2022-02-24T00:22:11Z)
• Human Interpretation of Saliency-based Explanation Over Text [65.29015910991261]
  テキストデータ上でのサリエンシに基づく説明について検討する。 人はしばしば説明を誤って解釈する。 本稿では,過度知覚と過小認識のモデル推定に基づいて,サリエンシを調整する手法を提案する。
  論文  参考訳（メタデータ） (2022-01-27T15:20:32Z)
• Prompting Contrastive Explanations for Commonsense Reasoning Tasks [74.7346558082693]
  大規模事前学習言語モデル(PLM)は、常識推論タスクにおいて、ほぼ人間に近い性能を達成することができる。 人間の解釈可能な証拠を生成するために、同じモデルを使う方法を示す。
  論文  参考訳（メタデータ） (2021-06-12T17:06:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。