論文の概要: Faithful to the Document or to the World? Mitigating Hallucinations via Entity-linked Knowledge in Abstractive Summarization

• arxiv url: http://arxiv.org/abs/2204.13761v1
• Date: Thu, 28 Apr 2022 20:28:45 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-02 13:41:34.008190
• Title: Faithful to the Document or to the World? Mitigating Hallucinations via Entity-linked Knowledge in Abstractive Summarization
• Title（参考訳）: 文書に忠実か、それとも世界に忠実か? 抽象要約におけるエンティティリンク知識による幻覚の緩和
• Authors: Yue Dong, John Wieting, Pat Verga
• Abstract要約: ソース文書に対する「忠実さ」を最終的に改善することで、このシナリオに対処する手法が提案されている。 これらのエンティティは収差ではなく、その代わりに、ソース内のエンティティからの推論パスを推論するために、外部の世界の知識を活用する必要がある。
• 参考スコア（独自算出の注目度）: 29.36934859859676
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Despite recent advances in abstractive summarization, current summarization systems still suffer from content hallucinations where models generate text that is either irrelevant or contradictory to the source document. However, prior work has been predicated on the assumption that any generated facts not appearing explicitly in the source are undesired hallucinations. Methods have been proposed to address this scenario by ultimately improving `faithfulness' to the source document, but in reality, there is a large portion of entities in the gold reference targets that are not directly in the source. In this work, we show that these entities are not aberrations, but they instead require utilizing external world knowledge to infer reasoning paths from entities in the source. We show that by utilizing an external knowledge base, we can improve the faithfulness of summaries without simply making them more extractive, and additionally, we show that external knowledge bases linked from the source can benefit the factuality of generated summaries.
• Abstract（参考訳）: 近年の抽象要約の進歩にもかかわらず、現在の要約システムは、モデルがソース文書と無関係または矛盾するテキストを生成する内容の幻覚に悩まされている。 しかしながら、先行研究は、ソースに明示的に現れていない生成された事実は、望ましくない幻覚である、という仮定に基づいている。 このシナリオに対処するために、最終的にソースドキュメントの'faithfulness'を改善する方法が提案されているが、実際には、金の参照ターゲットの中に、直接ソースにないエンティティの大部分が存在している。 本稿では,これらのエンティティが収差ではないことを示すが,その代わりに外部の世界知識を活用して,ソース内のエンティティからの推論パスを推論する必要がある。 また,外部知識ベースを利用することで,単に抽出性を高めることなく要約の忠実性を向上させることができることを示すとともに,外部知識ベースが生成した要約の事実性に寄与することを示す。

関連論文リスト

• Reducing Hallucinations in Entity Abstract Summarization with Facts-Template Decomposition [27.594783675635572]
  要約を2つの要素に分解する: 与えられたエンティティの事実情報を表すファクトと、指定したスロットをファクトに含むジェネリックコンテンツを構成するテンプレート。 そこで本研究では,エンティティ抽象要約のための説明可能なフレームワークであるSlotSumを提案する。 SlotSumは、事実のテンポレート分解に相応しいので、容易にエラーを見つけ出し、さらに外部の知識で幻覚予測を修正できます。
  論文  参考訳（メタデータ） (2024-02-29T05:43:43Z)
• Retrieve Only When It Needs: Adaptive Retrieval Augmentation for Hallucination Mitigation in Large Language Models [68.91592125175787]
  幻覚は、大規模言語モデル(LLM)の実践的実装において重要な課題となる。 本稿では,幻覚に対処するための選択的検索拡張プロセスにより,Lowenを改良する新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2024-02-16T11:55:40Z)
• Verif.ai: Towards an Open-Source Scientific Generative Question-Answering System with Referenced and Verifiable Answers [0.0]
  本研究の成果は,オープンソースの科学的生成質問応答システムであるVerifaiの紹介と検証を行った結果である。 本システムの構成要素は,(1) 科学的論文(ミストラル7B)上でのセマンティクスと語彙検索技術を組み合わせた情報検索システム,(3) クレームが導出された論文を参照して回答を生成し,(3) クレームが導出された論文と,そのクレームが導出された要約あるいは論文を相互に検証する検証エンジンである。
  論文  参考訳（メタデータ） (2024-02-09T10:25:01Z)
• Factually Consistent Summarization via Reinforcement Learning with Textual Entailment Feedback [57.816210168909286]
  我々は,この問題を抽象的な要約システムで解くために,テキストエンテーメントモデルの最近の進歩を活用している。 我々は、事実整合性を最適化するために、レファレンスフリーのテキストエンターメント報酬を用いた強化学習を用いる。 自動測定と人的評価の両結果から,提案手法は生成した要約の忠実さ,サリエンス,簡潔さを著しく向上させることが示された。
  論文  参考訳（メタデータ） (2023-05-31T21:04:04Z)
• Mutual Information Alleviates Hallucinations in Abstractive Summarization [73.48162198041884]
  モデルが生成中の幻覚コンテンツにより多くの確率を割り当てる可能性が著しく高いという単純な基準を見いだす。 この発見は幻覚の潜在的な説明を提供する:モデルは、継続について不確実な場合には、高い限界確率のテキストを好むことをデフォルトとする。 そこで本研究では,ターゲットトークンの正当性ではなく,ソースとターゲットトークンのポイントワイドな相互情報の最適化に切り替える復号手法を提案する。
  論文  参考訳（メタデータ） (2022-10-24T13:30:54Z)
• Principled Knowledge Extrapolation with GANs [92.62635018136476]
  我々は,知識外挿の新たな視点から,対実合成を研究する。 本稿では, 知識外挿問題に対処するために, クローズド形式判別器を用いた対角ゲームが利用可能であることを示す。 提案手法は,多くのシナリオにおいて,エレガントな理論的保証と優れた性能の両方を享受する。
  論文  参考訳（メタデータ） (2022-05-21T08:39:42Z)
• Don't Say What You Don't Know: Improving the Consistency of Abstractive Summarization by Constraining Beam Search [54.286450484332505]
  本研究は,幻覚とトレーニングデータの関連性を解析し,学習対象の要約を学習した結果,モデルが幻覚を呈する証拠を見出した。 本稿では,ビーム探索を制約して幻覚を回避し,変換器をベースとした抽象要約器の整合性を向上させる新しい復号法であるPINOCCHIOを提案する。
  論文  参考訳（メタデータ） (2022-03-16T07:13:52Z)
• Inspecting the Factuality of Hallucinated Entities in Abstractive Summarization [36.052622624166894]
  State-of-the-art abstractive summarization system(最先端の抽象的な要約システム)は、しばしば、源文から直接推測できない内容(Emphhallucination)を生成する。 本研究では,実体の非現実的幻覚から事実を分離する新たな検出手法を提案する。
  論文  参考訳（メタデータ） (2021-08-30T15:40:52Z)
• Dimensions of Commonsense Knowledge [60.49243784752026]
  我々は,その関係に特に焦点をあてて,広く普及しているコモンセンスソースを調査した。 我々はこれらの関係を13の知識次元に集約し、それぞれがソースにあるより具体的な関係を抽象化する。
  論文  参考訳（メタデータ） (2021-01-12T17:52:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。