論文の概要: Verifiable Generation with Subsentence-Level Fine-Grained Citations

• arxiv url: http://arxiv.org/abs/2406.06125v1
• Date: Mon, 10 Jun 2024 09:32:37 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-11 14:27:16.914660
• Title: Verifiable Generation with Subsentence-Level Fine-Grained Citations
• Title（参考訳）: サブステンスレベル微細粒状サイテーションによる検証可能生成
• Authors: Shuyang Cao, Lu Wang,
• Abstract要約: 検証可能な生成には、出力をサポートするソースドキュメントを引用するために、大きな言語モデルが必要である。 先行研究は主に文レベルの引用の生成を目標としており、引用された情報源によって文のどの部分が裏付けられているかの特異性が欠如している。 本研究は, サブ文レベルのきめ細かな引用による生成を検証し, 引用元が支持する生成コンテンツのより正確な位置について検討する。
• 参考スコア（独自算出の注目度）: 13.931548733211436
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Verifiable generation requires large language models (LLMs) to cite source documents supporting their outputs, thereby improve output transparency and trustworthiness. Yet, previous work mainly targets the generation of sentence-level citations, lacking specificity about which parts of a sentence are backed by the cited sources. This work studies verifiable generation with subsentence-level fine-grained citations for more precise location of generated content supported by the cited sources. We first present a dataset, SCiFi, comprising 10K Wikipedia paragraphs with subsentence-level citations. Each paragraph is paired with a set of candidate source documents for citation and a query that triggers the generation of the paragraph content. On SCiFi, we evaluate the performance of state-of-the-art LLMs and strategies for processing long documents designed for these models. Our experiment results reveals key factors that could enhance the quality of citations, including the expansion of the source documents' context accessible to the models and the implementation of specialized model tuning.
• Abstract（参考訳）: 検証可能な生成には、出力をサポートするソースドキュメントを引用するために大きな言語モデル(LLM)が必要であるため、出力の透明性と信頼性が向上する。 しかし、従来の研究は主に文レベルの引用の生成を目標としており、引用された資料によって文のどの部分が裏付けられているかの特異性が欠如している。 本研究は, サブ文レベルのきめ細かな引用による生成を検証し, 引用元が支持する生成コンテンツのより正確な位置を推定する。 まず、サブ文レベルの引用を含む10万のWikipedia節からなるデータセットSCiFiを提示する。 各段落は、引用のための候補ソース文書のセットと、段落内容の生成をトリガーするクエリとがペアリングされる。 SCiFi 上では、最先端の LLM の性能と、これらのモデル用に設計された長い文書を処理するための戦略を評価する。 実験結果から,モデルにアクセスできるソース文書のコンテキストの拡張や,特殊なモデルチューニングの実装など,引用の質を高める重要な要因が明らかになった。

関連論文リスト

• Ground Every Sentence: Improving Retrieval-Augmented LLMs with Interleaved Reference-Claim Generation [51.8188846284153]
  RAGは大規模言語モデル(LLM)を強化するために広く採用されている。 分散テキスト生成(ATG)が注目され、RAGにおけるモデルの応答をサポートするための引用を提供する。 本稿では,ReClaim(Refer & Claim)と呼ばれる詳細なATG手法を提案する。
  論文  参考訳（メタデータ） (2024-07-01T20:47:47Z)
• ALiiCE: Evaluating Positional Fine-grained Citation Generation [54.19617927314975]
  本稿では,微細な引用生成のための最初の自動評価フレームワークであるALiiCEを提案する。 我々のフレームワークはまず、文のクレームを依存性分析によって原子クレームに解析し、次に原子クレームレベルでの引用品質を計算する。 複数大言語モデルの2つの長文QAデータセット上での位置的きめ細かな引用生成性能を評価する。
  論文  参考訳（メタデータ） (2024-06-19T09:16:14Z)
• Context-Enhanced Language Models for Generating Multi-Paper Citations [35.80247519023821]
  本稿では,Large Language Models (LLMs) を用いて多文文を生成する手法を提案する。 提案手法は,複数文の引用文を含むコヒーレントな段落に終止符を打つ,単一のソース・ペーパーと対象論文の集合を包含する。
  論文  参考訳（メタデータ） (2024-04-22T04:30:36Z)
• Attribute First, then Generate: Locally-attributable Grounded Text Generation [33.371400233333326]
  本稿では,簡潔な属性を優先する局所帰属型テキスト生成手法を提案する。 Attribute First, then Generate"と名付けられたこの手法は,従来のエンドツーエンド生成プロセスを3つの直感的なステップに分解する。
  論文  参考訳（メタデータ） (2024-03-25T18:41:47Z)
• WebCiteS: Attributed Query-Focused Summarization on Chinese Web Search Results with Citations [34.99831757956635]
  我々は,属性付きクエリ中心要約 (AQFS) のタスクを定式化するとともに,7kの人称注釈の要約を引用した中国語データセットであるWebCiteSを提示する。 これらの課題に対処するために、詳細なメトリクスを開発し、自動評価器が文を細かな検証のためにサブステートに分解できるようにする。
  論文  参考訳（メタデータ） (2024-03-04T07:06:41Z)
• Enabling Large Language Models to Generate Text with Citations [37.64884969997378]
  大規模言語モデル (LLM) は情報検索のツールとして広く使われている。 我々の目的は、LLMが引用文を生成できるようにし、その事実の正しさと妥当性を向上させることである。 自動LLMのCitation Evaluationのための最初のベンチマークであるALCEを提案する。
  論文  参考訳（メタデータ） (2023-05-24T01:53:49Z)
• CiteBench: A benchmark for Scientific Citation Text Generation [69.37571393032026]
  CiteBenchは引用テキスト生成のベンチマークである。 CiteBenchのコードはhttps://github.com/UKPLab/citebench.comで公開しています。
  論文  参考訳（メタデータ） (2022-12-19T16:10:56Z)
• Controllable Citation Sentence Generation with Language Models [11.186252009101077]
  本稿では,テキストのコンテキスト,参照された論文のコンテキスト,および所望の制御属性を構造化テンプレートに統合し,次世代の予測を通じて言語モデル(LM)を微調整する手法を提案する。 提案したワークフローは、引用属性の提案と条件付き引用生成を1つのLMに調和して組み合わせ、より良いユーザ制御を実現する。
  論文  参考訳（メタデータ） (2022-11-14T01:54:08Z)
• Towards generating citation sentences for multiple references with intent control [86.53829532976303]
  We build a novel generation model with the Fusion-in-Decoder approach to handlee with multiple long inputs。 実験により,提案手法は引用文を生成するためのより包括的な特徴を提供することが示された。
  論文  参考訳（メタデータ） (2021-12-02T15:32:24Z)
• Context-Based Quotation Recommendation [60.93257124507105]
  本稿では,新しい文脈対応引用レコメンデーションシステムを提案する。 これは、所定のソース文書から引用可能な段落とトークンの列挙リストを生成する。 音声テキストと関連するニュース記事の収集実験を行う。
  論文  参考訳（メタデータ） (2020-05-17T17:49:53Z)
• SPECTER: Document-level Representation Learning using Citation-informed Transformers [51.048515757909215]
  SPECTERは、Transformer言語モデルの事前学習に基づいて、科学文書の文書レベルの埋め込みを生成する。 SciDocsは、引用予測から文書分類、レコメンデーションまでの7つの文書レベルのタスクからなる新しい評価ベンチマークである。
  論文  参考訳（メタデータ） (2020-04-15T16:05:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。