論文の概要: Can System-1-Style Decision Models Replace Dedicated Rerankers in RAG? A Systems Evaluation
- arxiv url: http://arxiv.org/abs/2610.34816v1
- Date: Mon, 26 Oct 2026 04:00:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.73748
- Title: Can System-1-Style Decision Models Replace Dedicated Rerankers in RAG? A Systems Evaluation
- Title(参考訳): System-1-Style Decision Models Replaceed Reranker in RAG? : システム評価
- Abstract要約: System-1スタイルの決定モデルは、長い応答を生成するのではなく、直接的に構造化された予測を行う。
11のベンチマークで21のオープンウェイトモデルをスクリーニングし、有望な決定モデルと同一候補リストの専用リランカを比較します。
決定モデルは競争力のあるリランクを実行することができるが、リランカを置き換えるには、品質、レイテンシ、メモリを一緒に重み付けする必要がある。
- 参考スコア(独自算出の注目度): 0.0937899315060426
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Retrieval-augmented generation (RAG) systems often use a dedicated reranker to choose which retrieved candidates reach the language model. Reranking improves relevance but adds latency, so teams look for faster alternatives. System-1style decision models make direct, structured predictions instead of generating long responses. Could one provide comparable reranking quality with less inference overhead? We first screen 21 open-weight models on 11 benchmarks, then compare a promising decision model with a dedicated reranker on identical candidate lists. The default decision-model setup fails on many long candidate sets, so scoring only the requests it completes gives a misleading ranking. Limiting candidate text length largely restores reliability and makes some configurations competitive. A frozen evaluation on new retrieval data supports the reliability and ranking results, but confirms the latency requirement for only one of the two selected configurations. Across workloads, which model ranks better changes, and a tuned reranker remains faster and uses far less GPU memory. A decision model can perform competitive reranking, but replacing a reranker requires weighing quality, latency and memory together, and teams should tune the reranker they already run first.
- Abstract(参考訳): Retrieval-augmented Generation (RAG) システムは、検索された候補が言語モデルに到達するかを選択するために、専用のリランカを使用することが多い。
リグレードは関連性を改善するが、レイテンシが増すため、チームはより高速な代替手段を探す。
System-1スタイルの決定モデルは、長い応答を生成するのではなく、直接的に構造化された予測を行う。
推論オーバーヘッドの少ない同等のリカレントな品質を提供できるだろうか?
11のベンチマークで21のオープンウェイトモデルを確認した後、有望な決定モデルと、同一候補リスト上の専用リランカを比較します。
デフォルトの意思決定モデル設定は、多くの長い候補セットで失敗するので、完了した要求のみをスコアリングすると、誤解を招くランキングが得られます。
候補テキスト長の制限は、信頼性を大きく回復させ、いくつかの構成を競合させる。
新しい検索データに対する凍結評価は信頼性とランキング結果をサポートするが、選択された2つの構成のうちの1つのみが遅延要件を確認する。
モデルがより良い変更をランク付けするワークロード全体と、チューニングされたリランカは依然として高速で、GPUメモリをはるかに少なく使用しています。
決定モデルは、競争力のあるリランクを実行することができるが、リランカを置き換えるには、品質、レイテンシ、メモリの重み付けが必要であり、チームは、すでに実行しているリランカをチューニングする必要がある。
関連論文リスト
- Dynamic Multi-Step Decoding for Time-Series Foundation Models [10.873081045497848]
時系列予測モデルは通常、フル水平線のワンショット予測または原子チャンク上の自己回帰ロールアウトを使用する。
最適な復号化戦略は入力毎に固定されるのではなく、各予測インスタンスに対して適応的に選択されるべきである。
本稿では,予測ロールアウトスケジュールを推論時間決定問題として扱う動的戦略セレクタを提案する。
論文 参考訳(メタデータ) (2026-10-25T16:10:01Z) - Multimodal Reranking Is a System One Decision [8.720698253117837]
システム1の決定により、一般的なVLMはマルチモーダル・リランカとして機能することができると論じる。
この選択により、ゼロショットのQwen3.8-27Bは3つのベンチマークで監督されたQwen3-VL-Reranker-2Bを上回った。
JEV-27B-VLはテキスト決定のみにチューニングされた同じバックボーンであり、ページのランク付けを0.6から1.1ポイント改善している。
論文 参考訳(メタデータ) (2026-10-20T16:00:45Z) - Jeva: System One Models from First Principles [58.432996881401415]
Jevaは4つの重要な構造的要件に対処する、決定ネイティブなアーキテクチャです。
共有エンコーダは独立して要求と各オプションを表現し、コンパクトな決定スタックは要求状態のみを洗練する。
Jevとオープンソースモデルに対する評価全般において、Jevaは強力な型付き決定性能とほぼ完璧なnull検出を組み合わせる。
論文 参考訳(メタデータ) (2026-10-13T17:31:09Z) - ResiSpec: Enhancing Multi-Candidate Speculative Sampling via Residual Distribution Shaping [79.1905186547363]
ResiSpecは、検証中に提案の配布を戦略的に改革するフレームワークである。
候補の偏光を防止し、最先端のマルチ候補法よりも最大1.92$times$スピードアップを達成する。
論文 参考訳(メタデータ) (2026-08-25T11:25:55Z) - SpellMapper: A non-autoregressive neural spellchecker for ASR
customization with candidate retrieval based on n-gram mappings [76.87664008338317]
文脈スペル補正モデルは、音声認識を改善するために浅い融合に代わるものである。
ミススペルn-gramマッピングに基づく候補探索のための新しいアルゴリズムを提案する。
Spoken Wikipediaの実験では、ベースラインのASRシステムに比べて21.4%のワードエラー率の改善が見られた。
論文 参考訳(メタデータ) (2023-06-04T10:00:12Z) - ReFIT: Relevance Feedback from a Reranker during Inference [109.33278799999582]
Retrieve-and-Rerankは、ニューラル情報検索の一般的なフレームワークである。
本稿では,リランカを利用してリコールを改善する手法を提案する。
論文 参考訳(メタデータ) (2023-05-19T15:30:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。