論文の概要: Reasoning Quality Matters: Combating Reasoning Collapse in LLM-based Embedding Learning

• arxiv url: http://arxiv.org/abs/2609.20563v1
• Date: Thu, 17 Sep 2026 15:27:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:54.350301
• Title: Reasoning Quality Matters: Combating Reasoning Collapse in LLM-based Embedding Learning
• Title（参考訳）: 品質の推論:LLMを用いた埋め込み学習における推論の崩壊
• Abstract要約: 大規模言語モデル(LLM)は、最近、検索のための文脈に富んだテキスト埋め込みを生成する強力な可能性を示している。 CoFree(Collapse-Free Reasoning Embedding)は,LLM推論を問合せおよび文書埋め込み最適化に段階的に統合する2段階フレームワークである。 CoFree-4B は Qwen3-Embedding-4B に対して平均2.8 nDCG@10 点を MTEB と BRIGHT から22個のデータセットで達成し、CoFree の有効性を実証した。
• 参考スコア（独自算出の注目度）: 31.715592247019725
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) have recently shown strong potential for producing context-rich text embeddings for retrieval. Most existing methods either treat embedding learning as passive feature extraction or exploit LLM reasoning through instruction following for better embedding optimization. However, specialization toward embedding objectives can suppress useful reasoning generation or produce retrieval-irrelevant text. We refer to these two forms of degradation as reasoning collapse. To address this issue, we propose CoFree (Collapse-Free Reasoning Embedding), a two-stage framework that progressively integrates LLM reasoning into query and document embedding optimization while preserving reasoning quality. At the first stage, CoFree applies reference-guided supervised fine-tuning to restore the reasoning ability and retain representational strength of the foundation embedding model. At the second stage, we introduce dual rewards, an embedding-oriented reward and a reasoning-oriented reward, to guarantee fine-grained reasoning of the relevance toward the embedding goal in reinforcement learning. This endpoint-coupled optimization transforms embedding learning from static alignment into a high-quality reasoning-guided search process for retrieval. Extensive experiments demonstrate the effectiveness of CoFree, with CoFree-4B achieving an average absolute improvement of 2.8 nDCG@10 points over Qwen3-Embedding-4B across 22 datasets from MTEB and BRIGHT. Online experiments in a real-world retrieval system further show consistent gains. Code, RTED, and model checkpoints will be made publicly available.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、最近、検索のための文脈に富んだテキスト埋め込みを生成する強力な可能性を示している。 既存のほとんどの手法は、埋め込み学習を受動的特徴抽出として扱うか、より優れた埋め込み最適化のために命令に従ってLCM推論を利用するかのどちらかである。 しかし, 埋め込み対象に対する特殊化は, 有用な推論生成を抑えるか, 検索に関係のないテキストを生成することができる。 この2種類の分解は、崩壊の理由として言及する。 この問題に対処するために,2段階のフレームワークであるCoFree(Collapse-Free Reasoning Embedding)を提案する。 第一段階では、CoFreeは基準誘導制御された微調整を適用して推論能力を回復し、基礎埋め込みモデルの表現力を維持する。 第2段階では、強化学習における埋め込み目標に対する微妙な推論を保証するために、二重報酬、埋め込み指向報酬、推論指向報酬を導入する。 このエンドポイント結合最適化は、静的アライメントからの埋め込み学習を、検索のための高品質な推論誘導探索プロセスに変換する。 CoFree-4B は Qwen3-Embedding-4B に対して平均2.8 nDCG@10 点を MTEB と BRIGHT から22個のデータセットで達成し、CoFree の有効性を実証した。 実世界の検索システムにおけるオンライン実験は、さらに一貫した利得を示す。 コード、RTT、モデルチェックポイントが公開されます。

関連論文リスト

• Generative Reasoning Re-ranker [24.386586034456673]
  Generative Reasoning Reranker (GR2)は3段階のトレーニングパイプラインを備えたエンドツーエンドのフレームワークである。 GR2は、慎重に設計されたプロンプトとリジェクションサンプリングにより高品質な推論トレースを生成する。 2つの実世界のデータセットの実験では、GR2の有効性が示されている。
  論文  参考訳（メタデータ） (2026-02-08T02:12:24Z)
• Rectifying LLM Thought from Lens of Optimization [48.98086817378953]
  ロングチェーン・オブ・シンクレット (Long chain-of- Thought, CoT) は、徹底的な調査と検討を可能にする。 進歩にもかかわらず、長いCoT LLMは、しばしば最適な推論行動を示す。 ポストトレーニング中のLCM推論を洗練するための新しい手法であるReProを紹介する。
  論文  参考訳（メタデータ） (2025-12-01T17:41:08Z)
• Harnessing the Power of Reinforcement Learning for Language-Model-Based Information Retriever via Query-Document Co-Augmentation [35.70731674603417]
  LLM(Large Language Models)は、ユーザクエリとコーパスドキュメントの拡張に使用することができる。 ユーザクエリとコーパスドキュメントの両方を拡張できるLLMベースのレトリバーを提案する。 提案手法は,疎密な設定と密な設定の両方において,LLMに基づく検索性能を大幅に向上させる。
  論文  参考訳（メタデータ） (2025-06-23T14:14:43Z)
• Reinforced Latent Reasoning for LLM-based Recommendation [92.56166822197919]
  大きな言語モデル(LLM)は、複雑な問題解決タスクにおいて印象的な推論能力を示している。 既存の手法は通常、明示的なチェーン・オブ・シント(CoT)データによる微調整に依存している。 本研究では, 明示的なCoT推論から, コンパクトで情報密度の高い潜伏推論へ移行する代替手法について検討する。
  論文  参考訳（メタデータ） (2025-05-25T11:03:45Z)
• DQ-LoRe: Dual Queries with Low Rank Approximation Re-ranking for In-Context Learning [66.85379279041128]
  そこで本研究では,Dual Queries と Low-rank approximation Re- rank を利用して,文脈内学習のための例を自動選択するフレームワークを提案する。 DQ-LoRe は GPT-4 の自動選択において最先端の手法よりも優れ、92.5% から94.2% まで性能が向上した。
  論文  参考訳（メタデータ） (2023-10-04T16:44:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。