論文の概要: RewriteLM: An Instruction-Tuned Large Language Model for Text Rewriting

• arxiv url: http://arxiv.org/abs/2305.15685v1
• Date: Thu, 25 May 2023 03:26:26 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-26 17:44:09.501884
• Title: RewriteLM: An Instruction-Tuned Large Language Model for Text Rewriting
• Title（参考訳）: RewriteLM: テキスト書き換えのための命令付き大規模言語モデル
• Authors: Lei Shu, Liangchen Luo, Jayakumar Hoskere, Yun Zhu, Canoee Liu, Simon Tong, Jindong Chen, Lei Meng
• Abstract要約: OpenRewriteEvalは、自然言語命令によって表現される多種多様な書き換えタイプをカバーする、新しいベンチマークである。 本稿では,長文書き直しのための命令調整型大規模言語モデルであるRewriteLMを提案する。
• 参考スコア（独自算出の注目度）: 13.221172253637679
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) have demonstrated impressive zero-shot capabilities in long-form text generation tasks expressed through natural language instructions. However, user expectations for long-form text rewriting is high, and unintended rewrites (''hallucinations'') produced by the model can negatively impact its overall performance. Existing evaluation benchmarks primarily focus on limited rewriting styles and sentence-level rewriting rather than long-form open-ended rewriting.We introduce OpenRewriteEval, a novel benchmark that covers a wide variety of rewriting types expressed through natural language instructions. It is specifically designed to facilitate the evaluation of open-ended rewriting of long-form texts. In addition, we propose a strong baseline model, RewriteLM, an instruction-tuned large language model for long-form text rewriting. We develop new strategies that facilitate the generation of diverse instructions and preference data with minimal human intervention. We conduct empirical experiments and demonstrate that our model outperforms the current state-of-the-art LLMs in text rewriting. Specifically, it excels in preserving the essential content and meaning of the source text, minimizing the generation of ''hallucinated'' content, while showcasing the ability to generate rewrites with diverse wording and structures.
• Abstract（参考訳）: 大言語モデル(LLM)は、自然言語命令によって表現される長文生成タスクにおいて、印象的なゼロショット機能を示している。 しかし、長文テキストの書き直しに対するユーザの期待は高く、モデルが生成した意図しない書き直し('hallucinations'')は全体的なパフォーマンスに悪影響を及ぼす可能性がある。 既存の評価ベンチマークは主に、長い形式のオープンエンドリライトではなく、限定的なリライトスタイルと文レベルのリライトに重点を置いており、我々は、自然言語命令によって表現される多種多様なリライトタイプをカバーする新しいベンチマークであるOpenRewriteEvalを紹介した。 長文のオープン・エンド・リライトの評価を容易にするよう特別に設計されている。 さらに,長文書き起こしのための命令調整型大規模言語モデルであるRewriteLMを提案する。 我々は,人間の介入を最小限に抑えつつ,多様な指示や嗜好データの生成を促進する新しい戦略を開発する。 我々は経験的な実験を行い、このモデルが現在のテキスト書き換えにおける最先端のllmを上回ることを実証する。 具体的には、原文の本質的内容と意味を保存し、「ハロシン化」コンテンツの生成を最小限に抑えつつ、多種多様な語句や構造で書き直しを生成する能力を示す。

関連論文リスト

• MaFeRw: Query Rewriting with Multi-Aspect Feedbacks for Retrieval-Augmented Large Language Models [34.39053202801489]
  現実世界のRAGシステムでは、現在のクエリは会話コンテキストからの音声楕円とあいまいな参照を含むことが多い。 本稿では,検索プロセスと生成結果の両方からマルチアスペクトフィードバックを統合することにより,RAG性能を向上させる新しいクエリ書き換え手法MaFeRwを提案する。 2つの対話型RAGデータセットの実験結果から、MaFeRwはベースラインよりも優れた生成指標と安定したトレーニングを達成できることが示された。
  論文  参考訳（メタデータ） (2024-08-30T07:57:30Z)
• RaFe: Ranking Feedback Improves Query Rewriting for RAG [83.24385658573198]
  アノテーションを使わずにクエリ書き換えモデルをトレーニングするためのフレームワークを提案する。 公開されているリランカを活用することで、フィードバックはリライトの目的とよく一致します。
  論文  参考訳（メタデータ） (2024-05-23T11:00:19Z)
• Tuna: Instruction Tuning using Feedback from Large Language Models [74.04950416204551]
  本稿では,新しいテキスト確率的ランキングとテキストコンテクスチュアルランキングを用いた命令調整型大規模言語モデルの微調整を提案する。 確率的ランク付けにより、教師のLCMから高品質で低品質なレスポンスの相対的なランク付けを継承することができる。 一方、文脈的ランキングを学習することで、より強いLLMの文脈的理解能力を用いて、モデルが独自の応答分布を洗練できる。
  論文  参考訳（メタデータ） (2023-10-20T09:55:06Z)
• Enhancing Conversational Search: Large Language Model-Aided Informative Query Rewriting [42.35788605017555]
  本稿では,大規模言語モデル(LLM)をクエリリフレクタとして利用することを提案する。 精巧な書き直しのための4つの重要な特性を定義し、それら全てをインストラクションに組み込む。 初期クエリの書き直しが可能な場合, LLM の書き直しエディタの役割を導入し, "書き直し-テーマ-編集" プロセスを作成する。
  論文  参考訳（メタデータ） (2023-10-15T03:04:17Z)
• Learning to Rewrite Prompts for Personalized Text Generation [27.50476377270294]
  パーソナライズされたテキスト生成のためのプロンプトを自動的に修正する新しい手法を提案する。 提案手法は、パーソナライズされた生成のための最先端のマルチステージフレームワークによって生成された初期プロンプトを取り込み、いくつかの重要なコンポーネントを書き換える。 書き直しプロンプトの詳細な分析は、人間の読みやすいだけでなく、手作業による手作業による書き直しも可能であることを示している。
  論文  参考訳（メタデータ） (2023-09-29T21:15:49Z)
• XATU: A Fine-grained Instruction-based Benchmark for Explainable Text Updates [7.660511135287692]
  本稿では,微粒な命令ベースの説明可能なテキスト編集用に設計された最初のベンチマークであるXATUを紹介する。 XATUは、語彙、構文、意味論、知識集約的な編集といった難易度の細かいテキスト編集タスクについて検討している。 各種編集タスクにおける命令チューニングの有効性と基礎となるアーキテクチャの影響を実証する。
  論文  参考訳（メタデータ） (2023-09-20T04:58:59Z)
• TIM: Teaching Large Language Models to Translate with Comparison [78.66926087162672]
  本稿では,LLMに翻訳学習を教えるために,サンプルを用いた新しいフレームワークを提案する。 我々のアプローチは、正しい翻訳例と間違った翻訳例をモデルに提示し、好みの損失を使ってモデルの学習をガイドすることである。 本研究は,翻訳タスクのための微調整LDMの新しい視点を提供し,高品質な翻訳を実現するための有望なソリューションを提供する。
  論文  参考訳（メタデータ） (2023-07-10T08:15:40Z)
• Query Rewriting for Retrieval-Augmented Large Language Models [139.242907155883]
  大規模言語モデル(LLM)は、検索対象のパイプラインで強力なブラックボックスリーダーを動作させる。 この作業では、検索拡張LDMに対する以前の検索テーマ読み込みの代わりに、新しいフレームワークであるRewrite-Retrieve-Readを導入する。
  論文  参考訳（メタデータ） (2023-05-23T17:27:50Z)
• Learning to Transfer Prompts for Text Generation [97.64625999380425]
  転送可能なテキスト生成のための新しいプロンプトベース手法(PTG)を提案する。 まず、PTGは、様々なソース生成タスクの一連のソースプロンプトを学習し、ターゲット生成タスクを実行するためのターゲットプロンプトとしてこれらのプロンプトを転送する。 広範な実験では、PTGは微調整法よりも競争力または優れた結果が得られる。
  論文  参考訳（メタデータ） (2022-05-03T14:53:48Z)
• Abstractive Summarization of Spoken and Written Instructions with BERT [66.14755043607776]
  本稿では,BERTSumモデルの最初の対話型言語への応用について述べる。 我々は多種多様な話題にまたがるナレーションビデオの抽象要約を生成する。 我々は、これをインテリジェントな仮想アシスタントの機能として統合し、要求に応じて文字と音声の両方の指導内容の要約を可能にすることを想定する。
  論文  参考訳（メタデータ） (2020-08-21T20:59:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。