論文の概要: Beyond Recall Saturation: Scaling Hard-Negative Reranker Training for Industrial Legal Retrieval
- arxiv url: http://arxiv.org/abs/2610.24478v1
- Date: Sat, 17 Oct 2026 05:49:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:43.991311
- Title: Beyond Recall Saturation: Scaling Hard-Negative Reranker Training for Industrial Legal Retrieval
- Title（参考訳）: リコール飽和を超えて:産業法検索のためのハードネグティブリランカトレーニングのスケーリング
- Abstract要約: 十分に大きいが実用的な候補プールの下では、リコールの埋め込みはリターンを減少させる。
埋め込みマイニング,自己マイニング,動的負の変種を含む,再ランカトレーニングのための強負の戦略を比較した。
- 参考スコア（独自算出の注目度）: 10.617230636467339
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Industrial retrieval systems often improve quality by enlarging embedding candidate pools or adopting complex training pipelines. We show that, under a sufficiently large but practical candidate pool, embedding recall exhibits diminishing returns, motivating a closer examination of reranker quality. On Chinese legal retrieval benchmarks, embedding top-300 reaches a high-recall operating region, while relevant evidence may still be ranked below the output cutoff. We compare hard-negative strategies for reranker training, including embedding-mined, self-mined, and dynamic-negative variants, under aligned retrieval protocols that evaluate reranking after candidate retrieval. Among the evaluated staged configurations, an embedding-to-self-mined pipeline provides a favorable trade-off; additional dynamic stages do not improve all held-out metrics. The selected pipeline scales from a 0.6B to a 4B reranker. Relative to the native 4B reranker, the trained 4B Stage2 model improves reported metrics on the STARD and CSAID benchmarks and on an internal development set, and is preferred in 72.4\% of non-tied comparisons on 410 de-identified, reconstructed internal operational-query inputs in a latency-sensitive offline preference evaluation. These results support evaluating the retrieval and reranking stages separately when selecting an optimization target for industrial retrieval systems.
- Abstract（参考訳）: 産業検索システムは、組込み候補プールを拡大したり、複雑な訓練パイプラインを採用することで品質を向上することが多い。
十分に大きいが実用的な候補プールの下では,リコールの組込みはリランカー品質の低下を招き,リランカー品質のより深い検証を動機としている。
中国の法律検索ベンチマークでは、トップ300の埋め込みはハイリコール動作域に到達し、関連する証拠は依然としてアウトプット・カットオフを下回っている可能性がある。
提案手法は, 組込みマイニング, 自己マイニング, 動的負の変種を含む, リランカー訓練におけるハード・ネガティブな戦略を, 候補検索後のリランクを評価するアライメント検索プロトコルで比較する。
評価済みのステージ構成の中で、組み込みから自己管理のパイプラインは良好なトレードオフを提供する。
選択されたパイプラインは0.6Bから4Bリランカにスケールする。
ネイティブな4Bリランカとは対照的に、トレーニングされた4B Stage2モデルはSTARDとCSAIDベンチマークと内部開発セットのメトリクスを改善し、遅延に敏感なオフライン設定評価において410の非階層比較の72.4\%で好まれる。
これらの結果は,産業用検索システムの最適化対象を選択する際に,検索段階と再配置段階を別々に評価することを支援する。
関連論文リスト
- GRP v0.1 Technical Report [8.478641096801033]
産業レコメンデーションシステムは、検索、ランキング、サービスコンポーネントを共同で置き換えるのは難しい多段階カスケードに依存している。
本稿では,単一のエンコーダ-デコーダモデルにおいて,検索,ランキング,報酬モデリングを組み合わせたジェネレーティブレコメンデーションフレームワークであるGRPを提案する。
オンライン実験では、このモデルを検索源として評価し、早期のバイパスと弱い情報源の置き換えを行った。
論文 参考訳（メタデータ） (2026-09-29T04:30:34Z) - NeoHorse-1: Towards Recursive Self-Improvement via Agentic Post-Training with Routing Harness [76.6324710887112]
NeoHorse-1は、エージェントのポストトレーニングを通じてこの経路を探索するために開発されたエージェントネイティブモデルのファミリーである。
本システムでは,異種モデルプールとインテリジェントなルーティング,予測能力要求,選択されたサービス層,およびその後のユーザ毎のインタラクションを結合する。
論文 参考訳（メタデータ） (2026-09-08T03:14:54Z) - Learning from What You Retrieve: Online RL Fine-Tuning for Semantic Retrieval [6.320578377097843]
大規模なeコマース検索では、二重エンコーダレトリバーは対照的な類似性のために最適化され、下流のリランカはよりきめ細かな関連性を好む。
選択的RL最適化法であるPAO(Positive-Advantage-Only)を提案する。
論文 参考訳（メタデータ） (2026-08-31T13:21:47Z) - ARBOR: Online Process Rewards via a Reusable Rubric Buffer for Search Agents [48.80766702702854]
LLMベースの検索エージェントは、主に結果のみの報酬で訓練され、検索プロセス自体は監督されていない。
この信号は、全てのサンプル軌跡が同じ正当性を共有する結果同質な群に対して退化し、群内の優位性はゼロとなり、勾配は得られない。
ARBOR(Adaptive Buffer for Online Reward)は,クエリ間で共有されるルーリックメモリを維持する再利用可能なプロセス・リワードフレームワークである。
論文 参考訳（メタデータ） (2026-06-02T06:58:54Z) - AMARIS: A Memory-Augmented Rubric Improvement System for Rubric-Based Reinforcement Learning [25.32049139462467]
既存の適応ルーブリックメソッドは、現在のバッチやインスタンスレベルの比較のようなローカルエビデンスから基準を更新する。
AMARIS(AMemory-Augmented Improvement System)を導入する。
AMARISはロールアウト分析、ステップレベルサマリー、ルーブリック更新レコードを永続的な評価メモリに格納し、更新に関連のある最近の履歴を検索する。
論文 参考訳（メタデータ） (2026-05-18T16:06:27Z) - RubricEM: Meta-RL with Rubric-guided Policy Decomposition beyond Verifiable Rewards [76.17893114021757]
長い形式のレポートを計画し、調査し、エビデンスを評価し、合成する深層研究システムには、根本的な答えがなく、多くのツール強化された決定にまたがる。
本研究では,ルーブリックは最終回答評価者だけでなく,ポリシーの実行,判断フィードバック,エージェントメモリを構成する共有インターフェースとして機能すべきである,と論じる。
我々は、段階的な政策分解とリフレクションに基づくメタ政治進化を組み合わせたルーリック誘導強化学習フレームワークEMを導入する。
論文 参考訳（メタデータ） (2026-05-11T17:40:38Z) - Optimizing RAG Rerankers with LLM Feedback via Reinforcement Learning [47.963236269307735]
リランカはRetrieval-Augmented Generationの検索結果の精錬において重要な役割を果たす。
現在のリグレードモデルは通常、ダウンストリーム生成プロセスから切り離された静的な人間アノテートされた関連ラベルに独立して最適化される。
本稿では,LLMの生成品質と直接整合する強化学習フレームワークであるReRanking Preference Optimization(RRPO)を紹介する。
論文 参考訳（メタデータ） (2026-04-02T14:19:47Z) - Foundational Automatic Evaluators: Scaling Multi-Task Generative Evaluator Training for Reasoning-Centric Domains [97.5573252172065]
自動推論評価器(FARE)のファミリーを,簡易な反復的リジェクションサンプリング制御による微調整手法で訓練する。
FARE-8Bはより大型のRL訓練評価器に挑戦し、FARE-20Bはオープンソース評価器の新しい標準となる。
推論時リランカとして、FARE-20BはMATH上でのニアオークル性能を達成する。
論文 参考訳（メタデータ） (2025-10-20T17:52:06Z) - Towards High Data Efficiency in Reinforcement Learning with Verifiable Reward [54.708851958671794]
オフラインとオンラインの両方のデータ選択のための最適化戦略を組み合わせた,データ効率のよいポリシ最適化パイプラインを提案する。
オフラインフェーズでは、多様性、影響、適切な難易度に基づいて、トレーニングサンプルの高品質なサブセットをキュレートする。
オンラインRLVRトレーニングにおいて、探索可能性の低いサンプルを動的にフィルタリングするサンプルレベルの探索性指標を導入する。
論文 参考訳（メタデータ） (2025-09-01T10:04:20Z) - Optimizing Legal Document Retrieval in Vietnamese with Semi-Hard Negative Mining [4.233176571117095]
本稿では,法的文書検索の効率と精度を高めるために,検索と再ランクからなる2段階の枠組みを提案する。
鍵となるイノベーションは、検索の有効性を評価するExist@mメトリックの導入と、トレーニングバイアスを軽減するためのセミハードネガティブの使用である。
このフレームワークは、最適化されたデータ処理、調整された損失関数、バランスの取れた負のサンプリングが、法的な文脈で堅牢な検索強化システムを構築する上で重要であることを示す。
論文 参考訳（メタデータ） (2025-07-19T13:30:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。