論文の概要: STORM: Stepwise Token Optimization with Reward-Guided Beam Search

• arxiv url: http://arxiv.org/abs/2606.10621v1
• Date: Tue, 09 Jun 2026 09:18:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-10 15:40:58.419217
• Title: STORM: Stepwise Token Optimization with Reward-Guided Beam Search
• Title（参考訳）: STORM: Reward-Guided Beam Searchによるステップワイズトークン最適化
• Authors: Arthur Satouf, Giulio D'Erasmo, Yuxuan Zong, Habiboulaye Amadou Boubacar, Pablo Piantanida, Benjamin Piwowarski,
• Abstract要約: STORM(Stepwise Token Optimization with Reward-guided beaM search)は、語彙クエリ拡張のための自己教師型フレームワークである。 0.6B-8Bのバックボーンは競争力のあるLLMリライト機に匹敵するが、BM25と同じ速さで回収できる。 さらに、ゼロショットを18言語(MIRACL)に転送し、多言語密集レトリバーを平均で打ち負かす。
• 参考スコア（独自算出の注目度）: 26.876242989882787
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern retrieval increasingly relies on dense and learned-sparse neural models that are effective but require encoding the entire corpus into a specialized index, rebuilt whenever the model changes. Lexical retrievers like BM25 stay efficient and transparent on a standard inverted index that need not change as models evolve, but suffer from vocabulary mismatch. LLM query rewriting can help, yet prompted rewriters emit well-formed but retrieval-ineffective or harmful-terms, and training against a retrieval reward gives only delayed, sequence-level supervision that obscures which terms helped. We introduce STORM (Stepwise Token Optimization with Reward-guided beaM search), a self-supervised framework for lexical query expansion. STORM trains the rewriter through generation guided by retrieval metrics: at each step, candidate expansions are scored against the BM25 index and low-reward continuations pruned, turning the retrieval reward into a token-level signal that concentrates exploration on retrieval-effective vocabulary. Across TREC DL and BEIR, STORM lets 0.6B-8B backbones match or surpass competitive LLM rewriters while retrieving as fast as plain BM25; at 8B it rivals far larger proprietary rewriters. It further transfers zero-shot to 18 languages (MIRACL), beating dedicated multilingual dense retrievers on average, making STORM a competitive, infrastructure-light alternative to dense neural retrieval.
• Abstract（参考訳）: 現代の検索は、より効果的だが、コーパス全体を特別なインデックスにエンコードし、モデルが変化するたびに再構築する必要がある、密度の高い、学習されたスパースなニューラルモデルにますます依存している。 BM25のようなレキシカルレトリバーは、モデルが進化するにつれて変化する必要がなく、語彙ミスマッチに悩まされる標準的な逆索引上で、効率的で透明なままである。 LLMクエリの書き直しは役に立つが、プロンプトされた書き直しは、十分に整形されているが、検索非効率または有害な項を出力し、検索報酬に対するトレーニングは、どの用語が助けたのかを隠蔽する遅延したシーケンスレベルの監視のみを与える。 本稿では,語彙クエリ拡張のための自己教師型フレームワークであるSTORM(Stepwise Token Optimization with Reward-guided BeaM search)を紹介する。 STORMは、検索指標によってガイドされた生成を通じて、リライターを訓練する: 各ステップにおいて、候補拡張はBM25インデックスに対してスコアされ、低いリワード継続が実行され、検索報酬は、検索効果のある語彙の探索に集中するトークンレベル信号に変換される。 TREC DL と BEIR 全体で、STORM は 0.6B-8B のバックボーンにマッチするか、競合する LLM のリライトを上回り、BM25 と同じ速度でリトライする。 さらに、ゼロショットを18言語(MIRACL)に転送し、多言語高密度レトリバーを平均で上回り、STORMは高密度ニューラルネットワークに代わる、競争力のあるインフラライトとなる。

関連論文リスト

• Latent Terms: Dense Retrievers Contain Trivially Extractable BM25-ready Zipfian Vocabularies [1.938658977168075]
  本稿では,密集検索のために訓練されたモデルが,余分な特徴に分解され易い表現を学習する手法であるLatent Termsを提案する。 凍結したレトリバーでトレーニングを行うと、検索固有の調整を一切行わないスパースオートエンコーダは、約Zipfianコレクション統計を持つ潜在語彙を抽出する。 Latent Termsは、SPLADEに匹敵する変種と同様に、独自のベースモデルからシングルベクタースコアリング手法をマッチまたは上回ることができる。
  論文  参考訳（メタデータ） (2026-05-28T05:36:37Z)
• Superintelligent Retrieval Agent: The Next Frontier of Information Retrieval [25.731213365755234]
  textitSuperIntelligent Retrieval Agent (SIRA)を紹介する。 SIRAは、複数ラウンド探索探索を単一のコーパス識別検索アクションに圧縮することができる。 解釈可能で、トレーニング不要で、効率的でありながら、より高価なマルチラウンドサーチを超えることができる。
  論文  参考訳（メタデータ） (2026-05-07T17:54:29Z)
• LLMs as Sparse Retrievers:A Framework for First-Stage Product Search [103.70006474544364]
  プロダクト検索は、現代のeコマースプラットフォームにおいて重要な要素であり、毎日何十億ものユーザークエリがある。 スパース検索法は語彙ミスマッチの問題に悩まされ, 製品検索のシナリオにおいて, 最適以下の性能が向上する。 セマンティック分析の可能性により、大言語モデル(LLM)は語彙ミスマッチ問題を緩和するための有望な道を提供する。 本稿では,SParsE Retrievers として LLM を利用した製品検索フレームワーク PROSPER を提案する。
  論文  参考訳（メタデータ） (2025-10-21T11:13:21Z)
• InsertRank: LLMs can reason over BM25 scores to Improve Listwise Reranking [3.1125398490785217]
  InsertRankはLLMベースのリランカで、リランク中のBM25スコアなどの語彙信号を活用して、検索性能をさらに向上する。 Deepseek-R1では、InsertRankはBRIGHTベンチマークで37.5点、R2MEDベンチマークで51.1点を獲得し、以前の手法を上回りました。
  論文  参考訳（メタデータ） (2025-06-17T01:04:45Z)
• Mistral-SPLADE: LLMs for better Learned Sparse Retrieval [7.652738829153342]
  本稿では,意味的キーワード拡張学習にデコーダのみを用いたモデルを提案する。 我々はMistralをバックボーンとして,SPLADEに似たLearned Sparse Retrieverを開発した。 提案実験は,デコーダのみに基づくスパース検索モデル (LLM) が既存のLSRシステムの性能を上回るという仮説を支持する。
  論文  参考訳（メタデータ） (2024-08-20T18:21:54Z)
• Query Rewriting for Retrieval-Augmented Large Language Models [139.242907155883]
  大規模言語モデル(LLM)は、検索対象のパイプラインで強力なブラックボックスリーダーを動作させる。 この作業では、検索拡張LDMに対する以前の検索テーマ読み込みの代わりに、新しいフレームワークであるRewrite-Retrieve-Readを導入する。
  論文  参考訳（メタデータ） (2023-05-23T17:27:50Z)
• Large Language Models are Strong Zero-Shot Retriever [89.16756291653371]
  ゼロショットシナリオにおける大規模検索に大規模言語モデル(LLM)を適用するための簡単な手法を提案する。 我々の手法であるRetriever(LameR)は,LLM以外のニューラルモデルに基づいて構築された言語モデルである。
  論文  参考訳（メタデータ） (2023-04-27T14:45:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。