論文の概要: HARNESS-LM: A Three-Phase Training Recipe for Harnessing SLMs in Sponsored Search Retrieval

• arxiv url: http://arxiv.org/abs/2605.23572v1
• Date: Fri, 22 May 2026 12:39:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-25 17:29:20.348125
• Title: HARNESS-LM: A Three-Phase Training Recipe for Harnessing SLMs in Sponsored Search Retrieval
• Title（参考訳）: HARNESS-LM:スポンサー検索検索検索におけるSLMのハーネス化のための3相学習レシピ
• Authors: Vipul Gupta, Shikhar Mohan, Lakshya Kumar, Pranjal Chitale, Nikit Begwani, Amit Singh, Manik Varma,
• Abstract要約: 本稿では,大規模レトリバーの能力をコンパクトでコスト効率のよいモデルに変換するためのトレーニングフレームワークを提案する。 HLMは参照レトリバーの精度の98%以上を複数の設定で回復する。 実世界のBing Ads評価ベンチマークでは、HLMは最大27倍のオンラインクエリエンコーダレイテンシと20倍のスループットを回復する。
• 参考スコア（独自算出の注目度）: 6.331584045026755
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In the competitive landscape of sponsored search, balancing retrieval quality with production latency is a critical challenge. While large retrieval models based on Small Language Models (SLMs) such as Qwen3-Embedding-4B/8B set strong upper bounds on public benchmarks, their deployment in high-throughput, latency-sensitive environments remains impractical. In this paper, we present HARNESS-LM (HLM), a three-phase training framework for transferring the capabilities of large-scale retrievers into compact, cost-efficient models. The approach comprises: (1) training a high-performance reference ("teacher") retriever by fine-tuning a billion-parameter-scale SLM; (2) aligning query representations via an L2 objective to distill knowledge into a sub-600M parameter student encoder; and (3) applying a final contrastive refinement stage to optimize the student for retrieval performance. We also present a comprehensive empirical study of key design choices, including alignment objectives, embedding dimensionality, model scale, architecture, and optimization strategies, to identify configurations that are most effective in production settings. On a real-world Bing Ads evaluation benchmark, HLM recovers over 98% of the reference retriever's precision across multiple settings, while delivering up to 27x lower online query-encoder latency and 20x higher throughput on NVIDIA A100 GPUs. Online A/B testing on Bing Ads further shows a +1% Revenue, +0.6% Impression, and +0.4% Click uplift over the current ensemble of retrievers running in production with the deployed 190M parameter model, clearly highlighting the practical efficacy of the HLM recipe in a real-world sponsored search setting.
• Abstract（参考訳）: スポンサー付き検索の競争環境において、検索品質と生産遅延のバランスは重要な課題である。 Qwen3-Embedding-4B/8BのようなSmall Language Models (SLM) に基づく大規模な検索モデルは、公開ベンチマークに強い上限を設定するが、高スループットでレイテンシに敏感な環境への展開は、依然として現実的ではない。 本稿では,大規模レトリバーの能力をコンパクトでコスト効率のよいモデルに変換するための3段階学習フレームワークであるHARNESS-LM(HLM)を提案する。 本手法は,(1)10億のパラメータスケールのSLMを微調整して,高性能な参照(教師)レトリバーを訓練すること,(2)L2の目的によって知識を600M以下のパラメータの学生エンコーダに抽出するクエリ表現を調整すること,(3)学習者の検索性能を最適化するために,最終的なコントラスト改善段階を適用すること,を含む。 また、アライメント目標、埋め込み次元、モデルスケール、アーキテクチャ、最適化戦略を含む重要な設計選択に関する総合的な実証的研究を行い、生産環境において最も効果的である構成を特定する。 実世界のBing Ads評価ベンチマークでは、HLMは参照レトリバーの精度の98%以上を複数の設定で回復し、最大27倍のオンラインクエリエンコーダレイテンシとNVIDIA A100 GPUの20倍のスループットを提供する。 Bing Ads のオンライン A/B テストではさらに 1% の収益 +0.6% の印象、+0.4% のクリックアップリフトが190M のパラメータモデルで実行されている。

関連論文リスト

• LACONIC: Dense-Level Effectiveness for Scalable Sparse Retrieval via a Two-Phase Training Curriculum [73.82125917416067]
  LACONICは、Llama-3アーキテクチャに基づく学習されたスパースレトリバーのファミリーである。 8Bの派生型はMTEB Retrievalベンチマークで最先端の60.2 nDCGを達成し、リーダーボードで15位となった。
  論文  参考訳（メタデータ） (2026-01-04T22:42:20Z)
• Towards High Data Efficiency in Reinforcement Learning with Verifiable Reward [54.708851958671794]
  オフラインとオンラインの両方のデータ選択のための最適化戦略を組み合わせた,データ効率のよいポリシ最適化パイプラインを提案する。 オフラインフェーズでは、多様性、影響、適切な難易度に基づいて、トレーニングサンプルの高品質なサブセットをキュレートする。 オンラインRLVRトレーニングにおいて、探索可能性の低いサンプルを動的にフィルタリングするサンプルレベルの探索性指標を導入する。
  論文  参考訳（メタデータ） (2025-09-01T10:04:20Z)
• Ring-lite: Scalable Reasoning via C3PO-Stabilized Reinforcement Learning for LLMs [51.21041884010009]
  Ring-liteは、強化学習(RL)により最適化されたMixture-of-Experts(MoE)ベースの大規模言語モデルである 我々のアプローチは、挑戦的なベンチマーク上でのSOTA(State-of-the-art)の小規模推論モデルの性能と一致する。
  論文  参考訳（メタデータ） (2025-06-17T17:12:34Z)
• StepSearch: Igniting LLMs Search Ability via Step-Wise Proximal Policy Optimization [14.931231544839687]
  StepSearchは、ステップワイドなポリシー最適化手法でトレーニングされたLLMを検索するためのフレームワークである。 情報ゲインと冗長性に基づく、より豊かでより詳細な中間探索報酬とトークンレベルのプロセス監視で構成されている。 標準的なマルチホップQAベンチマークでは、グローバルリワードベースラインをはるかに上回り、3Bモデルと7Bモデルの11.2%と4.2%の絶対的な改善を達成した。
  論文  参考訳（メタデータ） (2025-05-21T05:01:31Z)
• QUPID: Quantified Understanding for Enhanced Performance, Insights, and Decisions in Korean Search Engines [4.94507535566914]
  異なるアーキテクチャで2つの異なる小言語モデル(SLM)を組み合わせることで、関連性評価において大きな言語モデル(LLM)より優れていることを示す。 我々のアプローチ - QUPID -- は、生成SLMと埋め込みSLMを統合し、高い関連性判定精度を実現する。
  論文  参考訳（メタデータ） (2025-05-12T08:35:09Z)
• ZeroSearch: Incentivize the Search Capability of LLMs without Searching [69.55482019211597]
  我々はZeroSearchを紹介した。ZeroSearchは、学習中にシミュレーションされた検索を備えた実検索エンジンを使用するための、大規模言語モデルの能力を動機付けるフレームワークである。 提案手法は,LLMを有用な文書とノイズの両方を生成可能な検索モジュールに変換するための,軽量な教師付き微調整から始まる。
  論文  参考訳（メタデータ） (2025-05-07T17:30:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。