論文の概要: Effective Dense Retrieval using Only In-Context Examples
- arxiv url: http://arxiv.org/abs/2609.38099v1
- Date: Tue, 29 Sep 2026 17:44:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.802937
- Title: Effective Dense Retrieval using Only In-Context Examples
- Title(参考訳): 文脈内例のみを用いた効果的なDense Retrieval
- Abstract要約: RICEは、大規模言語モデルから高品質な高密度表現を抽出するシンプルな「学習自由」アプローチである。
以上の結果から, RICE 埋め込みは, プロンプトベース LLM 埋め込みの精度を大幅に向上できることが示された。
- 参考スコア(独自算出の注目度): 43.20116542550374
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Turning decoder-only large language models (LLMs) into strong dense retrievers typically requires some form of retriever training. In this paper, we ask whether LLMs can instead be prompted to produce effective representations for dense retrieval given only a few in-context examples. To answer this, we introduce RICE (Representations from In-Context Examples), a simple "training-free" approach that extracts high-quality dense representations from LLMs. To do so, RICE conditions the LLM on examples that provide a shared context for query and document encoding. Our results demonstrate that RICE embeddings can substantially improve the accuracy of prompt-based LLM embeddings, establishing it as a simple method to build LLM-based dense retrievers that do not require training. We release our code at https://github.com/nourj98/RICE.
- Abstract(参考訳): デコーダのみの大規模言語モデル(LLM)を高密度レトリバーに変換するには、典型的にはある種のレトリバー訓練が必要である。
本稿では,LLMが高密度検索に有効な表現を生成するように促すことができるかどうかを,テキスト内例に限定して問う。
これに対応するために,LLMから高品質な高密度表現を抽出するシンプルな「トレーニング不要」アプローチであるRICE(Representations from In-Context Examples)を導入する。
そのため、RICEはクエリとドキュメントエンコーディングの共有コンテキストを提供する例でLLMを条件付けする。
以上の結果から, RICEの埋め込みは, LLMの埋め込みの精度を大幅に向上し, 学習を必要としないLLMベースの高密度検索器を簡易に構築する手法として確立できることが示唆された。
コードをhttps://github.com/nourj98/RICEでリリースします。
関連論文リスト
- CompCQR: Compositional Query Generation for Training-Free Conversational Search [21.486648754819466]
ユーザクエリは曖昧でコンテキストに依存しないことが多いため、検索クエリとして直接使用するには不適当である。
オープンおよびクローズドソースのLLMと,高密度かつスパースなレトリバーの両方にまたがるフレームワークを一般化する。
広く使用されている4つの会話ベンチマークでは、従来の最先端ベースラインよりも22.5%の相対的なMRR改善が達成されている。
論文 参考訳(メタデータ) (2026-09-13T16:31:22Z) - Making Large Language Models A Better Foundation For Dense Retrieval [19.38740248464456]
デンス検索では,クエリとドキュメント間の意味的関係を表現するために,識別テキストの埋め込みを学習する必要がある。
意味理解におけるLLMの強い能力を考えると、大きな言語モデル(LLM)の使用の恩恵を受けるかもしれない。
本稿では,LLaRA (LLM adapted for dense RetrievAl) を提案する。
論文 参考訳(メタデータ) (2023-12-24T15:10:35Z) - LLatrieval: LLM-Verified Retrieval for Verifiable Generation [67.93134176912477]
検証可能な生成は、大きな言語モデル(LLM)がドキュメントをサポートするテキストを生成することを目的としている。
本稿では,LLatrieval (Large Language Model Verified Retrieval)を提案する。
実験により、LLatrievalは幅広いベースラインを著しく上回り、最先端の結果が得られることが示された。
論文 参考訳(メタデータ) (2023-11-14T01:38:02Z) - Description-Based Text Similarity [59.552704474862004]
我々は、その内容の抽象的な記述に基づいて、テキストを検索する必要性を特定する。
そこで本研究では,近隣の標準探索で使用する場合の精度を大幅に向上する代替モデルを提案する。
論文 参考訳(メタデータ) (2023-05-21T17:14:31Z) - Large Language Models are Strong Zero-Shot Retriever [89.16756291653371]
ゼロショットシナリオにおける大規模検索に大規模言語モデル(LLM)を適用するための簡単な手法を提案する。
我々の手法であるRetriever(LameR)は,LLM以外のニューラルモデルに基づいて構築された言語モデルである。
論文 参考訳(メタデータ) (2023-04-27T14:45:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。