論文の概要: Select, Don't Train: The Benefits of Modular Entity Disambiguation with LLM-Based Selection
- arxiv url: http://arxiv.org/abs/2608.27470v1
- Date: Mon, 17 Aug 2026 16:52:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-06 19:38:41.434686
- Title: Select, Don't Train: The Benefits of Modular Entity Disambiguation with LLM-Based Selection
- Title(参考訳): Select, Don't Train: Modular Entity Disambiguation with LLM-based Selectionのメリット
- Abstract要約: 共有LLM選択段階における候補生成のための検索戦略の体系的比較について述べる。
LLMセレクタと組み合わせた完全トレーニングフリーのBM25レトリバーが,ZELDAベンチマークで新たな技術状態に達することを示す。
- 参考スコア(独自算出の注目度): 15.630318972190702
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Entity Disambiguation (ED) is a key task for constructing and using knowledge graphs. State-of-the-art neural approaches commonly model ED as a single task, although it consists of two distinct subproblems: retrieving candidate entities and selecting the correct one given context. Dual-encoder models optimize for both within a shared embedding space, forcing representations to balance high-recall retrieval with fine-grained selection, and they require trained retrievers, which are costly to maintain as knowledge graphs change. While recent work has begun to combine retrievers with LLM-based selectors, the interplay between the two stages has not been studied systematically. In this paper, we present a systematic comparison of retrieval strategies for candidate generation under a shared LLM-based selection stage, combining sparse retrieval (BM25), Web KB search, and a state-of-the-art trained dense retriever with several open- and closed-source LLMs. We show that, once selection is delegated to a capable LLM, training the retriever provides only modest additional value: a fully training-free BM25 retriever paired with an LLM selector reaches a new state of the art on the ZELDA benchmark, raising inKB micro-F1 from 82.3 to 86.3 (+4); pairing the same LLM with a trained dense retriever reaches 88.5. Decoupling retrieval from selection also exposes a limitation of current ED systems: when the correct entity is missing from retrieved candidates, they are forced to predict an incorrect entity. In contrast, our framework allows for abstention when retrieval failure is detected. In an evaluation setting that rewards correct abstentions, the training-free BM25 + LLM pipeline reaches 90.7 F1.
- Abstract(参考訳): エンティティの曖昧さ (ED) は知識グラフの構築と利用のための重要なタスクである。
最先端のニューラルアプローチでは、EDを単一のタスクとしてモデル化するが、候補エンティティの検索と、与えられたコンテキストの正しい選択という、2つの異なるサブプロブレムから構成される。
デュアルエンコーダモデルは、共有埋め込み空間内の両方で最適化され、ハイリコール検索ときめ細かい選択のバランスを強制される。
最近の研究はレトリバーとLLMベースのセレクタを組み合わせているが、この2つのステージ間の相互作用は体系的に研究されていない。
本稿では,複数のオープンおよびクローズドソースLLMを用いて,スパース検索(BM25),Web KB検索,および最先端の訓練された密集検索を組み合わせ,共有LLM選択段階における候補生成の体系的比較を行う。
LLMセレクタとLLMセレクタをペアにした完全トレーニングフリーのBM25レクタは、ZELDAベンチマークで新しい最先端に到達し、inKB micro-F1を82.3から86.3(+4)に引き上げる。
選択からの検索の分離は、現在のEDシステムの制限も露呈する: 検索された候補から正しいエンティティが欠落すると、誤ったエンティティを予測せざるを得なくなる。
対照的に,本フレームワークは,検索障害検出時の回避を可能にする。
正しい棄権に報いる評価設定では、トレーニング不要のBM25 + LLMパイプラインは90.7F1に達する。
関連論文リスト
- Mixture-of-Experts Language Models Can Be Strong and Efficient Retrievers [2.8881610726882827]
Mixture-of-Experts (MoE) LLMはトークン当たりのパラメータのサブセットのみを活性化し、生成モデルを拡張するために広く利用されている。
BEIRにおいて,MoEレトリバーは,最大3.0nDCG@10点の活性値を持つ高密度レトリバーより優れていることを示す。
最強のMoEレトリバーの1つは、アクティブパラメータが59%少なく、クエリエンコーディング時間が18%低い8B高密度レトリバーと一致します。
論文 参考訳(メタデータ) (2026-09-11T19:55:03Z) - MARAG-R1: Beyond Single Retriever via Reinforcement-Learned Multi-Tool Agentic Retrieval [50.30107119622642]
大規模言語モデル(LLM)は推論と生成において優れているが、本質的には静的事前学習データによって制限されている。
Retrieval-Augmented Generation (RAG)は、LLMを外部知識に基盤を置くことでこの問題に対処する。
MarAG-R1は、LLMが複数の検索機構を動的に調整できる強化学習型マルチツールRAGフレームワークである。
論文 参考訳(メタデータ) (2025-10-31T15:51:39Z) - FreeRet: MLLMs as Training-Free Retrievers [21.04237443940747]
FreeRetは、任意のMLLMを2段階のレトリバーに変換するプラグイン・アンド・プレイフレームワークである。
MMEBとMMEB-V2のベンチマークでは、FreeRetは何百万ものペアでトレーニングされたモデルよりも大幅に優れています。
論文 参考訳(メタデータ) (2025-09-29T11:28:42Z) - Harnessing the Power of Reinforcement Learning for Language-Model-Based Information Retriever via Query-Document Co-Augmentation [35.70731674603417]
LLM(Large Language Models)は、ユーザクエリとコーパスドキュメントの拡張に使用することができる。
ユーザクエリとコーパスドキュメントの両方を拡張できるLLMベースのレトリバーを提案する。
提案手法は,疎密な設定と密な設定の両方において,LLMに基づく検索性能を大幅に向上させる。
論文 参考訳(メタデータ) (2025-06-23T14:14:43Z) - ReasonIR: Training Retrievers for Reasoning Tasks [139.54343970560103]
ReasonIR-8Bは一般的な推論タスクのために特別に訓練された最初のレトリバーである。
新たに29.9 nDCG@10をリランカなしで、36.9 nDCG@10をリランカで達成している。
論文 参考訳(メタデータ) (2025-04-29T09:49:28Z) - Learning to Retrieve Iteratively for In-Context Learning [56.40100968649039]
イテレーティブ検索は、ポリシー最適化によるイテレーティブな意思決定を可能にする、新しいフレームワークである。
テキスト内学習例を構成するための反復型検索器をインスタンス化し,様々な意味解析タスクに適用する。
ステートエンコーディングのためのパラメータを4M追加するだけで、オフザシェルフの高密度レトリバーをステートフル反復レトリバーに変換する。
論文 参考訳(メタデータ) (2024-06-20T21:07:55Z) - PromptReps: Prompting Large Language Models to Generate Dense and Sparse Representations for Zero-Shot Document Retrieval [76.50690734636477]
本稿では,PmptRepsを提案する。このPmptRepsは,トレーニングを必要とせず,コーパス全体から検索できる機能である。
検索システムは、高密度テキスト埋め込みとスパースバッグ・オブ・ワード表現の両方を利用する。
論文 参考訳(メタデータ) (2024-04-29T04:51:30Z) - Bridging the Preference Gap between Retrievers and LLMs [32.342245642909404]
大規模言語モデル(LLM)は、幅広いタスクにおいて優れた結果を示している。
Retrieval-augmented Generation (RAG) は、関連する情報を見つけることでパフォーマンスを向上させる効果的な方法である。
しかしながら、RAGにおけるレトリバーとLLMの関係はまだ解明されていない。
論文 参考訳(メタデータ) (2024-01-13T02:20:17Z) - DQ-LoRe: Dual Queries with Low Rank Approximation Re-ranking for
In-Context Learning [66.85379279041128]
そこで本研究では,Dual Queries と Low-rank approximation Re- rank を利用して,文脈内学習のための例を自動選択するフレームワークを提案する。
DQ-LoRe は GPT-4 の自動選択において最先端の手法よりも優れ、92.5% から94.2% まで性能が向上した。
論文 参考訳(メタデータ) (2023-10-04T16:44:37Z) - Large Language Models are Strong Zero-Shot Retriever [89.16756291653371]
ゼロショットシナリオにおける大規模検索に大規模言語モデル(LLM)を適用するための簡単な手法を提案する。
我々の手法であるRetriever(LameR)は,LLM以外のニューラルモデルに基づいて構築された言語モデルである。
論文 参考訳(メタデータ) (2023-04-27T14:45:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。