論文の概要: Graph-Guided Textual Explanation Generation Framework

• arxiv url: http://arxiv.org/abs/2412.12318v1
• Date: Mon, 16 Dec 2024 19:35:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-18 13:59:46.259662
• Title: Graph-Guided Textual Explanation Generation Framework
• Title（参考訳）: Graph-Guided Textual Explanation Generation Framework
• Authors: Shuzhou Yuan, Jingyi Sun, Ran Zhang, Michael Färber, Steffen Eger, Pepa Atanasova, Isabelle Augenstein,
• Abstract要約: 自然言語の説明(NLE)は、モデルが予測する理由について、妥当な自由文の説明を提供するために一般的に用いられる。 強調説明を活用することでNLEの忠実度を高めるためのフレームワークであるG-Texを提案する。 3つの推論データセットを用いたT5とBARTの実験では、G-Texはベースライン法と比較してNLEの忠実度を最大17.59%改善している。
• 参考スコア（独自算出の注目度）: 57.2027753204786
• License:
• Abstract: Natural language explanations (NLEs) are commonly used to provide plausible free-text explanations of a model's reasoning about its predictions. However, recent work has questioned the faithfulness of NLEs, as they may not accurately reflect the model's internal reasoning process regarding its predicted answer. In contrast, highlight explanations -- input fragments identified as critical for the model's predictions -- exhibit measurable faithfulness, which has been incrementally improved through existing research. Building on this foundation, we propose G-Tex, a Graph-Guided Textual Explanation Generation framework designed to enhance the faithfulness of NLEs by leveraging highlight explanations. Specifically, highlight explanations are extracted as highly faithful cues representing the model's reasoning and are subsequently encoded through a graph neural network layer, which explicitly guides the NLE generation process. This alignment ensures that the generated explanations closely reflect the model's underlying reasoning. Experiments on T5 and BART using three reasoning datasets show that G-Tex improves NLE faithfulness by up to 17.59% compared to baseline methods. Additionally, G-Tex generates NLEs with greater semantic and lexical similarity to human-written ones. Human evaluations show that G-Tex can decrease redundant content and enhance the overall quality of NLEs. As our work introduces a novel method for explicitly guiding NLE generation to improve faithfulness, we hope it will serve as a stepping stone for addressing additional criteria for NLE and generated text overall.
• Abstract（参考訳）: 自然言語の説明(NLE)は、モデルが予測する理由について、妥当な自由文の説明を提供するために一般的に用いられる。 しかし、最近の研究はNLEの忠実さに疑問を投げかけており、モデルの内部推論過程を正確に反映していない可能性がある。 対照的に、モデルの予測にとって重要な入力フラグメントであるハイライトの説明は、既存の研究によって漸進的に改善された測定可能な忠実さを示している。 この基礎の上に構築されたG-Texは、強調説明を活用することでNLEの忠実度を高めるために設計されたグラフガイド型テキスト説明生成フレームワークである。 具体的には、強調説明はモデルの推論を表す非常に忠実な手がかりとして抽出され、その後、グラフニューラルネットワーク層を通じて符号化され、NLE生成プロセスを明示的にガイドする。 このアライメントは、生成された説明がモデルの基礎となる推論を深く反映することを保証する。 3つの推論データセットを用いたT5とBARTの実験では、G-Texはベースライン法と比較してNLEの忠実度を最大17.59%改善している。 加えて、G-Texは人間の記述とより意味的および語彙的に類似したNLEを生成する。 人間による評価では、G-Texは余剰量を減らし、NLEの全体的な品質を高めることができる。 本研究は,NLE生成を明確化して忠実性を高める新しい手法を導入することで,NLEおよび生成されたテキスト全体の追加基準に対処するための足場となることを期待する。

関連論文リスト

• Incorporating Retrieval-based Causal Learning with Information Bottlenecks for Interpretable Graph Neural Networks [12.892400744247565]
  我々は,検索に基づく因果学習をグラフ情報ボットネック(GIB)理論に組み込んだ,解釈可能な因果GNNフレームワークを開発した。 多様な説明型を持つ実世界の説明シナリオにおいて,32.71%の精度を達成する。
  論文  参考訳（メタデータ） (2024-02-07T09:57:39Z)
• Situated Natural Language Explanations [54.083715161895036]
  自然言語の説明(NLE)は、人間に意思決定を説明する最もアクセスしやすいツールである。 既存のNLE研究の視点は、観客を考慮に入れない。 Situated NLEは視点を提供し、説明の生成と評価に関するさらなる研究を促進する。
  論文  参考訳（メタデータ） (2023-08-27T14:14:28Z)
• Faithfulness Tests for Natural Language Explanations [87.01093277918599]
  ニューラルモデルの説明は、その予測のためのモデルの意思決定プロセスを明らかにすることを目的としている。 近年の研究では,サリエンシマップやファクトファクトファクトダクトなどの説明を行う手法が誤解を招く可能性があることが示されている。 本研究は,自然言語の説明の忠実さを評価する上での課題について考察する。
  論文  参考訳（メタデータ） (2023-05-29T11:40:37Z)
• Benchmarking Faithfulness: Towards Accurate Natural Language Explanations in Vision-Language Tasks [0.0]
  自然言語の説明(NLE)は、モデルの意思決定を容易に理解可能な方法でコミュニケーション可能にすることを約束する。 現在のモデルは説得力のある説明をうまく生成するが、NLEが実際にモデルの推論過程をいかにうまく表現しているかは未解決の問題である。 帰属相似性(Atribution-Similarity)、NLE-Sufficiency(NLE-Sufficiency)、NLE-Comprehensiveness(NLE-Comprehensiveness)の3つの忠実度指標を提案する。
  論文  参考訳（メタデータ） (2023-04-03T08:24:10Z)
• The Unreliability of Explanations in Few-Shot In-Context Learning [50.77996380021221]
  我々は、テキスト上の推論、すなわち質問応答と自然言語推論を含む2つのNLPタスクに焦点を当てる。 入力と論理的に整合した説明は、通常より正確な予測を示す。 本稿では,説明の信頼性に基づいてモデル予測を校正する枠組みを提案する。
  論文  参考訳（メタデータ） (2022-05-06T17:57:58Z)
• SEEN: Sharpening Explanations for Graph Neural Networks using Explanations from Neighborhoods [0.0]
  本稿では,補助的説明の集約によるノード分類タスクの説明品質の向上手法を提案する。 SEENを適用するにはグラフを変更する必要はなく、さまざまな説明可能性のテクニックで使用することができる。 与えられたグラフからモチーフ参加ノードをマッチングする実験では、説明精度が最大12.71%向上した。
  論文  参考訳（メタデータ） (2021-06-16T03:04:46Z)
• ExplaGraphs: An Explanation Graph Generation Task for Structured Commonsense Reasoning [65.15423587105472]
  スタンス予測のための説明グラフ生成の新しい生成および構造化コモンセンスリゾニングタスク(および関連するデータセット)を紹介します。 具体的には、信念と議論が与えられた場合、モデルは、議論が信念を支持しているかどうかを予測し、予測されたスタンスに対する非自明で完全で曖昧な説明として機能する常識強化グラフを生成する必要がある。 グラフの83%は、様々な構造と推論深度を持つ外部のコモンセンスノードを含んでいる。
  論文  参考訳（メタデータ） (2021-04-15T17:51:36Z)
• LIREx: Augmenting Language Inference with Relevant Explanation [1.4780878458667916]
  自然言語説明(NLE)は、アノテータがラベルをデータインスタンスに割り当てる際の有理性を識別するデータアノテーションの一種である。 nlesは人間の推論をより良く捉えているが、自然言語推論にはあまり役に立たない。 我々は、論理型説明生成器とインスタンスセレクタの両方を組み込んで、関連するNLEのみを選択する新しいフレームワーク LIREx を提案する。
  論文  参考訳（メタデータ） (2020-12-16T18:49:29Z)
• Parameterized Explainer for Graph Neural Network [49.79917262156429]
  グラフニューラルネットワーク(GNN)のためのパラメータ化説明器PGExplainerを提案する。 既存の研究と比較すると、PGExplainerはより優れた一般化能力を持ち、インダクティブな設定で容易に利用することができる。 合成データセットと実生活データセットの両方の実験では、グラフ分類の説明に関するAUCの相対的な改善が24.7%まで高い競争性能を示した。
  論文  参考訳（メタデータ） (2020-11-09T17:15:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。