論文の概要: Controllable Citation Sentence Generation with Language Models
- arxiv url: http://arxiv.org/abs/2211.07066v2
- Date: Thu, 14 Dec 2023 16:13:15 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-16 05:30:04.081540
- Title: Controllable Citation Sentence Generation with Language Models
- Title（参考訳）: 言語モデルを用いた制御可能な引用文生成
- Authors: Nianlong Gu, Richard H.R. Hahnloser
- Abstract要約: 本稿では,テキストのコンテキスト,参照された論文のコンテキスト,および所望の制御属性を構造化テンプレートに統合し,次世代の予測を通じて言語モデル(LM)を微調整する手法を提案する。
提案したワークフローは、引用属性の提案と条件付き引用生成を1つのLMに調和して組み合わせ、より良いユーザ制御を実現する。
- 参考スコア（独自算出の注目度）: 11.186252009101077
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Citation generation aims to generate a citation sentence that refers to a
chosen paper in the context of a manuscript. However, a rigid citation
generation process is at odds with an author's desire to control specific
attributes, such as 1) the citation intent, e.g., either introducing background
information or comparing results, and 2) keywords that should appear in the
citation text. To provide these degrees of controllability during citation
generation, we propose to integrate the manuscript context, the context of the
referenced paper, and the desired control attributes into a structured template
and use it to fine-tune a language model (LM) via next-token prediction. We
then utilize Proximal Policy Optimization to directly optimize the LM in favor
of a high score of our proposed controllability metric. The proposed workflow
harmoniously combines citation attribute suggestion and conditional citation
generation into one LM, allowing for better user control.
- Abstract（参考訳）: 引用生成は、原稿の文脈で選択された論文を参照する引用文を生成することを目的とする。
しかし、厳格な引用生成プロセスは、著者が特定の属性を制御したいという欲求と相反する。
1) 引用意図,例えば,背景情報の導入又は結果の比較等
2) 引用テキストに表示されるべきキーワード。
そこで本稿では,引用生成時のこれらの制御可能性向上のために,原稿コンテキスト,参照論文のコンテキスト,および所望の制御属性を構造化テンプレートに統合し,次世代の予測を通じて言語モデル(LM)を微調整する手法を提案する。
次に,提案する制御可能性指標の高いスコアに有利なlmを直接最適化するために近位政策最適化を利用する。
提案したワークフローは、引用属性の提案と条件付き引用生成を1つのLMに調和して組み合わせ、より良いユーザ制御を実現する。
関連論文リスト
- Ground Every Sentence: Improving Retrieval-Augmented LLMs with Interleaved Reference-Claim Generation [51.8188846284153]
RAGは大規模言語モデル(LLM)を強化するために広く採用されている。
分散テキスト生成(ATG)が注目され、RAGにおけるモデルの応答をサポートするための引用を提供する。
本稿では,ReClaim(Refer & Claim)と呼ばれる詳細なATG手法を提案する。
論文 参考訳（メタデータ） (2024-07-01T20:47:47Z) - ALiiCE: Evaluating Positional Fine-grained Citation Generation [54.19617927314975]
本稿では,微細な引用生成のための最初の自動評価フレームワークであるALiiCEを提案する。
我々のフレームワークはまず、文のクレームを依存性分析によって原子クレームに解析し、次に原子クレームレベルでの引用品質を計算する。
複数大言語モデルの2つの長文QAデータセット上での位置的きめ細かな引用生成性能を評価する。
論文 参考訳（メタデータ） (2024-06-19T09:16:14Z) - Verifiable Generation with Subsentence-Level Fine-Grained Citations [13.931548733211436]
検証可能な生成には、出力をサポートするソースドキュメントを引用するために、大きな言語モデルが必要である。
先行研究は主に文レベルの引用の生成を目標としており、引用された情報源によって文のどの部分が裏付けられているかの特異性が欠如している。
本研究は, サブ文レベルのきめ細かな引用による生成を検証し, 引用元が支持する生成コンテンツのより正確な位置について検討する。
論文 参考訳（メタデータ） (2024-06-10T09:32:37Z) - Contextualizing Generated Citation Texts [11.531517736126657]
本稿では,引用テキスト生成タスクの簡単な修正を提案する。
生成ターゲットは、引用そのものだけではなく、ターゲットの引用を含むコンテキストウィンドウ全体である。
論文 参考訳（メタデータ） (2024-02-28T05:24:21Z) - Generative Context-aware Fine-tuning of Self-supervised Speech Models [54.389711404209415]
生成型大規模言語モデル(LLM)生成コンテキスト情報の利用について検討する。
自己教師型音声モデルの微調整中に生成した情報を抽出する手法を提案する。
本稿では,SLUE と Libri-light のベンチマークを用いて,自動音声認識,名前付きエンティティ認識,感情分析を行う手法を提案する。
論文 参考訳（メタデータ） (2023-12-15T15:46:02Z) - A Quality-based Syntactic Template Retriever for
Syntactically-controlled Paraphrase Generation [67.98367574025797]
既存の構文制御されたパラフレーズ生成モデルは、人間の注釈付きまたはよく書かれた構文テンプレートで有望に機能する。
禁止コストにより、ソース文ごとに適切なテンプレートを手作業で設計することは不可能になります。
本稿では,QSTR(Quality-based Syntactic Template Retriever)を提案する。
論文 参考訳（メタデータ） (2023-10-20T03:55:39Z) - Towards generating citation sentences for multiple references with
intent control [86.53829532976303]
We build a novel generation model with the Fusion-in-Decoder approach to handlee with multiple long inputs。
実験により,提案手法は引用文を生成するためのより包括的な特徴を提供することが示された。
論文 参考訳（メタデータ） (2021-12-02T15:32:24Z) - Learning Neural Textual Representations for Citation Recommendation [7.227232362460348]
サブモジュラースコアリング機能において,シームズとトリプルトネットワークを併用した文書(センテンス-BERT)の深部表現を用いた引用推薦手法を提案する。
我々の知る限りでは、これは引用推薦のタスクに対して、ディープ表現とサブモジュラー選択を組み合わせるための最初のアプローチである。
論文 参考訳（メタデータ） (2020-07-08T12:38:50Z) - Context-Based Quotation Recommendation [60.93257124507105]
本稿では,新しい文脈対応引用レコメンデーションシステムを提案する。
これは、所定のソース文書から引用可能な段落とトークンの列挙リストを生成する。
音声テキストと関連するニュース記事の収集実験を行う。
論文 参考訳（メタデータ） (2020-05-17T17:49:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。