論文の概要: SLIDE: Search-to-List Item Distillation for Single-Rollout Generative Retrieval

• arxiv url: http://arxiv.org/abs/2610.34764v1
• Date: Mon, 26 Oct 2026 03:08:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.712892
• Title: SLIDE: Search-to-List Item Distillation for Single-Rollout Generative Retrieval
• Title（参考訳）: SLIDE:シングルロール生成検索のための検索-リスト項目蒸留
• Abstract要約: 生成検索(GR)は通常、候補を検索するためにアイテムレベルのビームサーチに依存する。 我々は、検索からリストへのアイテム蒸留フレームワークである$textbfSLIDE$を提案する。
• 参考スコア（独自算出の注目度）: 30.366819790862166
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generative retrieval (GR) typically relies on item-level beam search to retrieve candidates, leaving cross-item dependencies unmodeled and limiting direct optimization of list-level objectives. A natural alternative is to generate the entire list within a single autoregressive trajectory. However, greedy decoding with directly trained list-wise models substantially underperforms beam search. We identify two contributing factors: the broader search space explored by beam search and the positional bias of scarce positive signals, which deprives later positions of adequate supervision. To address these challenges, we propose $\textbf{SLIDE}$, a search-to-list item distillation framework that decouples offline search from online list generation. A teacher model retrieves high-quality candidates through offline item-level beam search, providing additional conversion-relevant supervision beyond sparse behavioral labels. Their Semantic IDs (SIDs) are then concatenated in beam-score order to form list-wise distillation targets. This search-to-list conversion transforms candidates retrieved along separate search paths into sequential item-generation targets within a single trajectory. Trained on these targets, the student generates the Top-$K$ list in a single greedy pass, also decoupling teacher scaling from online deployment. Experiments on FORGE and Taobao Search show that SLIDE substantially improves retrieval quality under single greedy decoding and, with stronger offline teachers, surpasses the beam-search reference. Supplementary RL experiments support the effectiveness of list-level generation.
• Abstract（参考訳）: ジェネレーティブ検索(GR)は通常、候補を検索するためにアイテムレベルのビームサーチに依存し、非モデルで、リストレベルの目的の直接最適化を制限している。 自然な代替手段は、単一の自己回帰軌道内でリスト全体を生成することである。 しかし、直接訓練されたリストワイズモデルによるグリーディ復号は、ビームサーチを著しく過小評価する。 ビームサーチによって探索される広い探索空間と、不十分な正の信号の位置バイアスの2つの要因を同定した。 これらの課題に対処するために、オンラインリスト生成からオフライン検索を分離する検索リストアイテム蒸留フレームワークである$\textbf{SLIDE}$を提案する。 教師モデルは、オフラインアイテムレベルのビームサーチを通じて高品質な候補を検索し、スパースな行動ラベルを超えて変換関連性のある監視を提供する。 それらのセマンティックID(SID)はビームスコアで連結され、リストワイド蒸留ターゲットを形成する。 このサーチ・ツー・リスト変換は、個別のサーチパスに沿って検索された候補を、単一の軌跡内におけるシーケンシャルなアイテム生成ターゲットに変換する。 これらの目標に基づいてトレーニングされ、学生は1つのgreedyパスでTop-$K$リストを生成し、オンラインデプロイメントから教師のスケーリングを分離する。 FORGE と Taobao Search の実験により,SLIDE は単一グリージーデコードによる検索品質を大幅に向上し,オフラインの教師が強くなるとビーム検索基準を超えていることがわかった。 補助的なRL実験はリストレベルの生成の有効性を支持する。

関連論文リスト

• Personalized LLM Recommendation with Semantic IDs: Autoregressive Beam Search vs. Multi-Token Prediction [38.58784050114887]
  大規模パーソナライゼーションは、埋め込みテーブル検索から、アイテムのセマンティックID(SID)を生成して推奨するLCMベースのレコメンデータへと移行している。 伝統的に、モデルは単一の言語モデリングヘッドに依存しており、通常は制約されたビームサーチを用いてトークンを自動回帰的に生成する。 対照的に、新しい研究機関はマルチトークン予測(MTP)を探求し、専用の頭が全てのトークンを並列に予測し、ビームサーチに伴う復号遅延を大幅に低減する。
  論文  参考訳（メタデータ） (2026-10-11T19:33:28Z)
• CodeHID: Learning an Addressable Hierarchical Code Index for Generative Code Retrieval [16.418964135916433]
  本稿では,コード検索タスクをフラットな候補マッチングから粗いセマンティックアドレス生成へと再構成する生成コード検索フレームワークであるCodeHIDを提案する。 CodeHIDは2つのコアコンポーネントに依存している。まず、Pseudo-Neighbor Guided DocID Learningは、多レベル残留量子化と$k$-nearest-neighbor pseudo-supervisionを適用することで、グローバルな静的階層インデックスを構築する。 第2に、Dual-Phase DocID Generation Guidanceは、トレーニング側ランキングの強化、ハードネガティブとランク蒸留、推論側候補制約、プレフィックス対応デコードを組み合わせて、この固定インデックスを確実にナビゲートする。
  論文  参考訳（メタデータ） (2026-08-25T05:35:17Z)
• SearchMaster: Grounded and Regulated Self-Play for Search Agents [57.537666863340284]
  検索エージェントの訓練には高品質な検索データが必要である。 既存のパイプラインは、人手によるタスクや専門家によるデモンストレーション、より強力な教師モデルに依存していることが多い。 本稿では,ローカル検索環境における検索タスクから,単一のLLMをトレーニングするセルフプレイフレームワークであるSearchMasterを提案する。
  論文  参考訳（メタデータ） (2026-08-03T07:29:11Z)
• GrepSeek: Training Search Agents for Direct Corpus Interaction [66.69568141699311]
  GrepSeekは、コンパクトな検索エージェントを訓練し、大きなテキストコーパスから証拠を見つけ、フィルタリングし、構成する、最適化された直接コーパスインタラクション(DCI)検索エージェントである。 DCIを大規模に実用化するためには、シェルコマンドのシーケンシャルな実行とバイトエクササイズ等価性を保ちながら、シェルベースの検索を最大7.6タイムで高速化するセマンティックス保存のシャード並列実行エンジンを使用する。
  論文  参考訳（メタデータ） (2026-05-28T03:37:33Z)
• PRAISE: Prefix-Based Rollout Reuse in Agentic Search Training [28.912613644535668]
  本稿では,エージェント検索訓練におけるデータ効率向上のためのフレームワークPRAISEを提案する。 本手法は,検索ポリシー学習とプレフィックス応答評価の両方に,単一の共有モデルを用いる。 マルチホップQAベンチマークの実験では、PRAISEは強いベースラインよりも一貫してパフォーマンスを改善している。
  論文  参考訳（メタデータ） (2026-04-04T10:23:46Z)
• List-aware Reranking-Truncation Joint Model for Search and Retrieval-augmented Generation [80.12531449946655]
  本稿では,2つのタスクを同時に実行可能なRe rank-Truncation joint model(GenRT)を提案する。 GenRTは、エンコーダ-デコーダアーキテクチャに基づく生成パラダイムによるリランクとトランケーションを統合している。 提案手法は,Web検索および検索拡張LLMにおけるリランクタスクとトラルケーションタスクの両方においてSOTA性能を実現する。
  論文  参考訳（メタデータ） (2024-02-05T06:52:53Z)
• Learning to Rank in Generative Retrieval [62.91492903161522]
  生成的検索は、検索対象として関連する通路の識別子文字列を生成することを目的としている。 我々はLTRGRと呼ばれる生成検索のための学習 torankフレームワークを提案する。 このフレームワークは、現在の生成的検索システムを強化するために、追加の学習からランクまでのトレーニングフェーズのみを必要とする。
  論文  参考訳（メタデータ） (2023-06-27T05:48:14Z)
• Zero-Shot Listwise Document Reranking with a Large Language Model [58.64141622176841]
  本稿では,タスク固有の学習データを用いることなく,言語モデル(LRL)を用いたリスワイズ・リランカを提案する。 3つのTRECウェブサーチデータセットの実験により、LRLは第1段検索結果の再ランク付け時にゼロショットポイントワイズ法より優れるだけでなく、最終段再ランカとしても機能することが示された。
  論文  参考訳（メタデータ） (2023-05-03T14:45:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。