論文の概要: Effective Large Language Model Adaptation for Improved Grounding
- arxiv url: http://arxiv.org/abs/2311.09533v1
- Date: Thu, 16 Nov 2023 03:22:25 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-17 16:52:42.842821
- Title: Effective Large Language Model Adaptation for Improved Grounding
- Title(参考訳): 改良接地のための効果的な大規模言語モデル適応
- Authors: Xi Ye, Ruoxi Sun, Sercan \"O. Arik, Tomas Pfister
- Abstract要約: 大規模言語モデル(LLM)は、自然言語の理解、生成、テキストベースのデータの操作において顕著な進歩を遂げている。
現実の世界に広く展開する上で大きな問題のひとつは、事実ではない"幻滅的な"回答を生成できることだ。
本稿では,新しいフレームワーク AGREE, Adaptation of LLMs for GRounding EnhancEment を用いて,全体論的な視点からグラウンドディングを改善することに焦点を当てる。
- 参考スコア(独自算出の注目度): 46.15893715475059
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) have achieved remarkable advancements in natural
language understanding, generation, and manipulation of text-based data.
However, one major issue towards their widespread deployment in the real world
is that they can generate "hallucinated" answers that are not factual. Towards
this end, this paper focuses on improving grounding from a holistic perspective
with a novel framework, AGREE, Adaptation of LLMs for GRounding EnhancEment. We
start with the design of an iterative test-time adaptation (TTA) capability
that takes into account the support information generated in self-grounded
responses. To effectively enable this capability, we tune LLMs to ground the
claims in their responses to retrieved documents by providing citations. This
tuning on top of the pre-trained LLMs requires a small amount of data that
needs to be constructed in a particular way to learn the grounding information,
for which we introduce a data construction method. Our results show that the
tuning-based AGREE framework generates better grounded responses with more
accurate citations compared to prompting-based approaches.
- Abstract(参考訳): 大規模言語モデル(llm)は、テキストベースのデータの自然言語理解、生成、操作において著しく進歩した。
しかし、現実の世界に広く展開する上での大きな問題は、事実ではない"幻滅的な"回答を生成できることです。
本稿では,GRounding EnhancEment のための新しいフレームワーク AGREE, Adaptation of LLMs を用いて,全体論的な視点から基礎化を改善することに焦点を当てる。
まず、自己接地応答で生成された支援情報を考慮に入れた反復テスト時間適応(TTA)機能の設計から始める。
この機能を効果的に有効化するために,llmをチューニングし,引用文を提供することで,検索文書に対する応答の根拠付けを行う。
事前学習されたLLM上でのこのチューニングは、データ構築方法を導入するために、特定の方法で構築される必要のある少量のデータを必要とする。
本結果から, チューニングに基づく AGREE フレームワークは, プロンプトベースのアプローチに比べて, より正確な励振による地上応答を生成できることが示唆された。
関連論文リスト
- Invar-RAG: Invariant LLM-aligned Retrieval for Better Generation [43.630437906898635]
Invar-RAGと呼ばれる2段階ファインチューニングアーキテクチャを提案する。
検索段階では、LORAに基づく表現学習を統合してLLMベースの検索器を構築する。
生成段階では、抽出した情報に基づいて回答を生成する際のLCM精度を向上させるための精細調整法が用いられる。
論文 参考訳(メタデータ) (2024-11-11T14:25:37Z) - Grounding by Trying: LLMs with Reinforcement Learning-Enhanced Retrieval [55.63711219190506]
大きな言語モデル(LLM)は、しばしば適切な検索クエリのポーズに苦労する。
私たちは$underlineLe$arningを$underlineRe$trieveに$underlineT$rying (LeReT)を導入します。
LeReTは、絶対精度を最大29%向上し、下流ジェネレータの評価を17%向上させることができる。
論文 参考訳(メタデータ) (2024-10-30T17:02:54Z) - On the Capacity of Citation Generation by Large Language Models [38.47160164251295]
Retrieval-augmented Generation (RAG) は、大規模言語モデル(LLM)における「ハロシン化」問題を緩和するための有望な方法として現れる。
論文 参考訳(メタデータ) (2024-10-15T03:04:26Z) - Ground Every Sentence: Improving Retrieval-Augmented LLMs with Interleaved Reference-Claim Generation [51.8188846284153]
RAGは大規模言語モデル(LLM)を強化するために広く採用されている。
分散テキスト生成(ATG)が注目され、RAGにおけるモデルの応答をサポートするための引用を提供する。
本稿では,ReClaim(Refer & Claim)と呼ばれる詳細なATG手法を提案する。
論文 参考訳(メタデータ) (2024-07-01T20:47:47Z) - Peering into the Mind of Language Models: An Approach for Attribution in Contextual Question Answering [9.86691461253151]
大規模言語モデル(LLM)の隠れ状態表現を利用した文脈質問応答における帰属手法を提案する。
提案手法は,より詳細な属性を提供し,生成した回答の質を保ちながら,広範囲なモデル再訓練および検索モデルオーバーヘッドの必要性を回避している。
本稿では,LLM世代に対するトークンレベルのアノテーションを文脈質問応答設定に有する属性データセットであるVerifiability-granularを提案する。
論文 参考訳(メタデータ) (2024-05-28T09:12:44Z) - SuRe: Summarizing Retrievals using Answer Candidates for Open-domain QA of LLMs [85.54906813106683]
大規模言語モデル(LLM)を用いたオープンドメイン質問応答(ODQA)の簡易かつ効果的なフレームワークを提案する。
SuRe は LLM が与えられた質問に対するより正確な回答を予測するのに役立つ。
様々なODQAベンチマークの実験結果はSuReの優位性を示し、標準的なプロンプトアプローチよりも4.6%、F1スコアが4.0%向上した。
論文 参考訳(メタデータ) (2024-04-17T01:15:54Z) - Training Language Models to Generate Text with Citations via Fine-grained Rewards [19.176465185343417]
大型言語モデル(LLM)は幻覚を起こす傾向があり、信頼できる情報源への参照が欠如しているため、その応答は信頼性に欠けることが多い。
本研究では,LLMに高い支援力と関連性のある引用を生成するための,微粒な報酬を用いた効果的な学習フレームワークを提案する。
LLaMA-2-7Bでは、細粒度の報酬がGPT-3.5-turboを上回り、ベースラインの中で最高の性能を達成している。
論文 参考訳(メタデータ) (2024-02-06T19:00:40Z) - Check Your Facts and Try Again: Improving Large Language Models with
External Knowledge and Automated Feedback [127.75419038610455]
大規模言語モデル(LLM)は、ダウンストリームタスクの多くに対して、人間のような、流動的な応答を生成することができる。
本稿では,プラグ・アンド・プレイモジュールのセットでブラックボックスのLSMを増強するLSM-Augmenterシステムを提案する。
論文 参考訳(メタデータ) (2023-02-24T18:48:43Z) - Guiding Large Language Models via Directional Stimulus Prompting [114.84930073977672]
我々は,特定の所望の出力に対して,ブラックボックス大言語モデル(LLM)を導くための新しいフレームワークであるDirectional Stimulus Promptingを紹介する。
LLMを直接調整するのではなく、小さな調整可能なポリシーモデルを用いて各入力インスタンスに対して補助的な指向性刺激プロンプトを生成する。
論文 参考訳(メタデータ) (2023-02-22T17:44:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。