論文の概要: Evolving Semantic Indexes for Generative Retrieval
- arxiv url: http://arxiv.org/abs/2610.28568v1
- Date: Tue, 20 Oct 2026 17:27:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.948623
- Title: Evolving Semantic Indexes for Generative Retrieval
- Title(参考訳): 生成検索のための意味指標の進化
- Abstract要約: 生成検索(GR)は、個別意味識別子(SID)の自動回帰生成として検索とレコメンデーションをキャストする
LLMによる進化的プログラム探索によってこれらのコンポーネントを改善するフレームワークを導入する。
プロキシデコーダは、1Bターゲットジェネレータを繰り返し訓練する代わりに高速なフィードバックを提供する。
- 参考スコア(独自算出の注目度): 10.205819166606233
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Generative retrieval (GR) casts search and recommendation as autoregressive generation of discrete semantic identifiers (SIDs). SID design largely determines GR quality, but its discrete, interdependent components (SID construction, collision handling, decoding, and training) cannot be optimized end-to-end with gradients and remain largely hand-designed. We introduce a framework that improves these components through LLM-driven evolutionary program search, to our knowledge the first application of this approach to GR. A locally served, open-weight 31B model mutates executable GR components, so no proprietary LLM API is used, and a 1M-parameter proxy decoder provides fast feedback in place of repeatedly training the 1B target generator. Across 21 SID programs on NQ320K, proxy and target Recall@100 show strong rank correlation (Spearman $ρ= 0.90$). Guided by this proxy, evolution improves the seed GR on NQ320K, MSMARCO300K, and a multilingual e-commerce dataset under a fixed training recipe. On NQ320K, jointly evolving SID construction and collision handling improves Recall@1 from 55.8% to 59.3% and Recall@100 from 85.8% to 90.6%. A component study shows that proxy reliability depends on what is evolved: improvements transfer reliably for the semantic index but not for the generator's training objective or the full pipeline. LLM-driven evolutionary search is thus a practical tool for GR design, provided proxy reliability is established for the chosen search space.
- Abstract(参考訳): 生成検索(GR)は、個別意味識別子(SID)の自動回帰生成として検索とレコメンデーションをキャストする。
SID設計はGRの品質を決定づけるが、その独立した相互依存コンポーネント(SIDの構成、衝突処理、復号化、訓練)は、勾配でエンドツーエンドに最適化できず、手作業で設計されている。
LLMによる進化的プログラム探索によってこれらのコンポーネントを改良するフレームワークを導入し、このアプローチのGRへの最初の応用について知る。
ローカルに提供されたオープンウェイト31Bモデルは、実行可能なGRコンポーネントをミュートするため、プロプライエタリなLLM APIは使用されず、1Mパラメータプロキシデコーダは、1Bターゲットジェネレータを繰り返しトレーニングする代わりに高速なフィードバックを提供する。
NQ320K上の21のSIDプログラムの中で、プロキシとターゲットのRecall@100は強いランク相関を示す(Spearman $ρ= 0.90$)。
このプロキシによってガイドされた進化は、NQ320KのシードGR、MSMARCO300K、固定されたトレーニングレシピの下での多言語eコマースデータセットを改善する。
NQ320Kでは、共同でSIDの構築と衝突処理が改良され、Recall@1は55.8%から59.3%に、Recall@100は85.8%から90.6%に改善された。
改善はセマンティックインデックスに対して確実に転送されるが、ジェネレータのトレーニング目標や完全なパイプラインには適用されない。
したがって、LLMによる進化的探索はGR設計の実用的なツールであり、選択した探索空間に対してプロキシの信頼性が確立される。
関連論文リスト
- A-SR: Self-Evolving Agentic LLMs for Symbolic Regression via Hierarchical Coordination [51.06539604709775]
本稿では、制御ユニットを表現編集からロール条件のエビデンスビューへシフトさせる自己進化型エージェントフレームワークであるA-SRを提案する。
A-SRは、コーディネートプロトコル、オンライン評価器・リワードロールポリシー、および状態制御プロセスメモリ間のルーティングによる公式発見をコーディネートする。
論文 参考訳(メタデータ) (2026-08-05T14:01:10Z) - Interpretable Representation via LLM-Driven Generative Disentanglement for Local-Life Service Recommendation [28.83516611687355]
我々はLGRID(Local-Life Service Recommendation)のためのLLM駆動型生成ディスタングルによる解釈可能な表現を提案する。
LGRID は Encode -> Disentangle -> Align -> Quantize Pipeline を通じて生成的不整合のパラダイムを導入している。
KuaishouとFoursquareの実験によると、LGRIDはSIDベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-07-30T09:52:18Z) - Efficient Generative Retrieval for E-commerce Search with Semantic Cluster IDs and Expert-Guided RL [8.046510111008638]
生成検索は、断片化された多段階検索プロセスを単一のエンドツーエンドモデルに統一することで、有望な代替手段を提供する。
本稿では,実世界のリコールシナリオに適した検索フレームワークを提案し,生成的検索をエンド・ツー・エンドの置き換えではなく,リコール・ステージ・サプリメントとして位置付ける。
論文 参考訳(メタデータ) (2026-05-14T06:27:46Z) - Revisiting Quantum Code Generation: Where Should Domain Knowledge Live? [0.0]
本稿では,Qiskit-HumanEvalベンチマークを用いて,Qiskitコード生成のための特殊化戦略について検討する。
現代の汎用LLMはパラメータ特化ベースラインを一貫して上回っていることを示す。
論文 参考訳(メタデータ) (2026-03-23T16:46:39Z) - Evaluating Retrieval-Augmented Generation Variants for Natural Language-Based SQL and API Call Generation [0.6117371161379209]
大規模言語モデル(LLM)は、コード生成の約束を示すが、ドメイン固有のエンタープライズコンテキストにおけるそれらの有効性はまだ未調査である。
本稿では,3種類のRAGを総合的に評価する。
本研究は,生産級自然言語インタフェースの重要な決定要因として,検索政治設計を確立した。
論文 参考訳(メタデータ) (2026-02-06T08:37:06Z) - ZeroGR: A Generalizable and Scalable Framework for Zero-Shot Generative Retrieval [125.19156877994612]
生成検索(GR)は、情報検索(IR)を文書識別子(ドシデント)の生成としてフレーミングすることによって再構成する
我々は、自然言語命令を利用して幅広いIRタスクにわたってGRを拡張するゼロショット生成検索フレームワークであるtextscZeroGRを提案する。
具体的には、textscZeroGRは、3つのキーコンポーネントで構成されている: (i)不均一な文書を意味的に意味のあるドシデントに統一するLMベースのドシデントジェネレータ; (ii)自然言語タスク記述から様々なタイプのクエリを生成し、拡張する命令チューニングクエリジェネレータ。
論文 参考訳(メタデータ) (2025-10-12T03:04:24Z) - Understanding Generative Recommendation with Semantic IDs from a Model-scaling View [57.471604518714535]
Generative Recommendation (GR)は、リッチアイテムのセマンティクスと協調フィルタリング信号を統合する。
一般的なアプローチの1つは、セマンティックID(SID)を使用して、自動回帰ユーザーインタラクションシーケンスモデリングのセットアップでアイテムを表現することである。
SIDをベースとしたGRは,モデルをスケールアップしながら大きなボトルネックを示す。
我々は、大規模言語モデル(LLM)を直接レコメンデーションとして使用する別のGRパラダイムを再考する。
論文 参考訳(メタデータ) (2025-09-29T21:24:17Z) - FORGE: Forming Semantic Identifiers for Generative Retrieval in Industrial Datasets [64.51403245281547]
FORGEは、産業データセットを使ったジェネレーティブrEtrievalにおけるFOrmingセマンティック識別のベンチマークである。
現実世界のアプリケーションでは、オンラインコンバージェンスを半減するオフライン事前トレーニングスキーマが導入されている。
論文 参考訳(メタデータ) (2025-09-25T08:44:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。