論文の概要: The Fusion Tax: A Diagnostic Analysis of When Hybrid Retrieval Hurts
- arxiv url: http://arxiv.org/abs/2610.30612v1
- Date: Thu, 22 Oct 2026 02:24:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.189593
- Title: The Fusion Tax: A Diagnostic Analysis of When Hybrid Retrieval Hurts
- Title(参考訳): 核融合税 : ハイブリッド検索ハートの診断的分析
- Abstract要約: 我々は、個々のクエリにどのようなフュージョンコストがかかるかを尋ね、第一級の結果として"ヒューズを扱いません。
最も優れた方法である密度重み付けスコアでさえ、関連する文書を13~48%のクエリで2つのコンポーネントの上位にランク付けする。
本研究は, 核融合決定を目標コーパスのスパース・デンスバランスに導くための指針として, これらの知見を抽出する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hybrid retrieval, which fuses a sparse lexical retriever with a dense neural one, is widely recommended in the software documentation surveyed in September 2026, usually with reciprocal rank fusion (RRF), on the strength of aggregate gains. We ask what fusion costs on individual queries, treating "do not fuse" as a first-class outcome, in the setting in which hybrid retrieval is deployed: a standard Anserini BM25, five dense encoders spanning 22M-596M parameters and three model generations, a learned-sparse (SPLADE) alternative, and a cross-encoder second stage, on seven BEIR datasets and three fusion functions. Even the best method, dense-weighted score interpolation, ranks relevant documents below the better of its two components on 13-48% of queries and below the deployable dense-only retriever on 8-21% (14-48% and 11-25% at a weight selected under leave-one-corpus-out validation), while beating dense-only in aggregate on every corpus with the primary encoder; the downside is significant under loss-averse risk-sensitive evaluation on six of the seven corpora. We call this loss the fusion tax. It is mostly a ranking effect that preserves recall in aggregate, it is most likely on the queries that only one retriever covers, and it persists across the encoder ladder and the SPLADE substitution. RRF carries the higher tax wherever the dense retriever is clearly stronger and only beats dense-only where the two components are balanced. Fusion failure is weakly predictable within a corpus but transfers unreliably across corpora, because the features that predict it change sign with the sparse-dense balance. A cross-encoder recovers part of the tax only where it is itself reliable. We distill these findings into guidance that keys the fusion decision to the measured sparse-dense balance of the target corpus.
- Abstract(参考訳): 2026年9月に調査されたソフトウェア文書では、一般的には逆ランク融合(RRF)で集計ゲインの強度を計測し、疎語彙レトリバーと高密度ニューラルネットワークを融合させるハイブリッド検索が推奨されている。
標準のAnserini BM25、22M-596Mパラメータと3つのモデル世代にまたがる5つの高密度エンコーダ、学習スパース(SPLADE)代替品、およびクロスエンコーダ2段目のBEIRデータセットと3つのフュージョン関数である。
最も優れた方法である濃厚スコア補間でさえも、13~48%のクエリで2つのコンポーネントの上位に関連文書をランク付けし、8~21%(残留1コーパスアウトバリデーションで選択された重みで14~48%、11~25%)で展開可能密度のみレトリバーをランク付けし、プライマリエンコーダで各コーパスに集約された密度のみを上回り、ダウンサイドは7コーパスのうち6コーパスでロス・アバースリスクに敏感な評価において重要である。
私たちはこの損失を融合税と呼ぶ。
これは多くの場合、リコールを集約して保存するランキング効果であり、1つのレトリバーのみがカバーするクエリに最も影響し、エンコーダのはしごとSPLADE置換をまたいで持続する。
RRFは、高密度レトリバーが明らかに強く、両者のバランスが取れているような高密度のみを圧倒する、高い税率を担っている。
核融合の失敗はコーパス内では弱い予測が可能であるが、その予測する特徴はスパース・デンスバランスと一致するため、コーパス間では信頼性が低い。
クロスエンコーダは、それが信頼できる場合にのみ、税の一部を回収する。
本研究は, 核融合決定を目標コーパスのスパース・デンスバランスに導くための指針として, これらの知見を抽出する。
関連論文リスト
- Optimal Fusion Weights Form Intervals, Not Points: A Latency-Aware Study of Query-Adaptive WRRF [1.0347823906737001]
本研究では,4つのデータセットと4つのスパース・ディエンス・レトリバー・ペアにまたがる8つの動的核融合重量予測戦略について実験的検討を行った。
74および128種類の動的核融合法は, 偽発見率補正後の標準RFよりも有意に良好であった。
本稿では,実践者の制約,データセット特性,ラベルの可用性,ハードウェア,遅延予算を適切なメソッドクラスにマッピングする階層化決定フレームワークを提案する。
論文 参考訳(メタデータ) (2026-10-17T00:18:41Z) - Beyond SAEs: Consistent Concept Discovery with Sparse Coding [54.60525564599342]
一貫性スパース辞書学習(Consistent Sparse Dictionary Learning)は、標準線形エンコーダをサンプル単位スパース符号化に置き換える。
ConSDLは16の合成設定でほぼ完全な辞書と係数の回復を実現している。
これにより、4つのビジョンと言語設定をまたいだ最先端のクロスシード一貫性が実現される。
論文 参考訳(メタデータ) (2026-10-16T17:25:11Z) - Ranking Image Fusion the Way Humans Do: A Learned Pairwise Preference Measure for Infrared-Visible Fusion Assessment [11.746369329950227]
本稿では,人間のA/B/Tie比較プロトコルをスケーラブルなサロゲートとして運用するソース条件付きモデルであるLearted Perceptual Image Fusion Measure(LPIFM)を提案する。
LPIFMは2つの情報源と2つの融合候補を共同で観測し、Aが良いか、Bが良いか、または両者が知覚上等価かを予測する。
正解率は0.792-0.840、スピアマン相関は0.941-0.977、ブラッドリー-テリーランキングは人間由来である。
論文 参考訳(メタデータ) (2026-08-02T15:10:44Z) - Evidence-Unit Fairness and the Limits of Query-Adaptive Sparse-Dense Fusion in Financial Document Retrieval [4.371552631761563]
本研究では,企業10-K申請に対するエキスパートアノテート質問のベンチマークであるFinDERについて,スパース・ディエンスハイブリッド検索について検討した。
検索ユニットが高密度エンコーダの入力ウィンドウよりも大きい場合、高密度モデルはラベル付きエビデンスの大部分を決して見ることができない。
修正されたコーパスでは、BM25とコンパクトな高密度エンコーダを融合させることで、参照レベルhit@10はどちらのコンポーネントよりも約28%向上する。
論文 参考訳(メタデータ) (2026-07-31T18:06:58Z) - Trust Before Fusion: QIMG-7 and Source-Aware Resolution for Polluted Multimodal RAG [45.88028371034407]
マルチモーダル検索拡張生成(RAG)はクリーンなエビデンスで評価されることが多いが、真の検索は、トポロジー的に関係があるが信頼できないコンテンツを返すことができる。
本稿では,多文事実QAにおけるマルチモーダル検索汚染のベンチマークであるQIMG-7を紹介する。
そこで本研究では,Parametric, Text-only, Full-MM の候補解と比較した学習自由な手法として,SATRを提案する。
論文 参考訳(メタデータ) (2026-07-12T15:13:09Z) - vstash: Local-First Hybrid Retrieval with Adaptive Fusion for LLM Agents [0.0]
ベクトル類似性検索と全文キーワードマッチングを組み合わせたローカルファーストの文書メモリシステム**vstash**を提案する。
すべてのデータはsqlite-vecを使って近傍の検索に近づき、FTS5でキーワードマッチングを行う単一のファイルに格納される。
論文 参考訳(メタデータ) (2026-04-16T19:22:58Z) - Hybrid Retrieval for COVID-19 Literature: Comparing Rank Fusion and Projection Fusion with Diversity Reranking [0.0]
本稿では,TREC-COVIDベンチマークで評価した,COVID-19の科学的文献のハイブリッド検索システムについて述べる。
このシステムはスパース(SPLADE)、密度(BGE)、ランクレベル融合(RRF)、投影ベースベクトル融合(B5)の6つの検索構成を実装している。
RRF融合は最も高い関連性(nDCG@10 = 0.828)を達成し、密度のみを6.1%、スパースのみを14.9%上回る。
論文 参考訳(メタデータ) (2026-04-15T11:05:46Z) - Test-Time Scaling with Diffusion Language Models via Reward-Guided Stitching [66.39914384073145]
本稿では,安価な拡散サンプリング推論をステップレベル候補の再利用プールに変換する自己整合性フレームワークを提案する。
ステップレベルの再結合は、難しい問題に対して最も有益であることがわかった。
トレーニング不要のフレームワークは、6つの数学およびコーディングタスクの平均精度を最大2倍改善します。
論文 参考訳(メタデータ) (2026-02-26T11:08:39Z) - MoR: Better Handling Diverse Queries with a Mixture of Sparse, Dense, and Human Retrievers [66.30712034015009]
Retrieval-augmented Generation(RAG)は強力だが、その有効性は、どのレトリバーを使うか、どのように使うかにかかっている。
ゼロショットとヘテロジニアス・レトリバーの重み付けを組み合わせたレトリバーの混合について紹介する。
実験の結果、この混合物は個々のレトリバー、さらに大きな7Bモデルを平均で+10.8%、+3.9%上回ることがわかった。
論文 参考訳(メタデータ) (2025-06-18T20:15:23Z) - Adversarial Retriever-Ranker for dense text retrieval [51.87158529880056]
本稿では、二重エンコーダレトリバーとクロスエンコーダローダからなるAdversarial Retriever-Ranker(AR2)を提案する。
AR2は、既存の高密度レトリバー法より一貫して大幅に優れている。
これには、R@5から77.9%(+2.1%)、TriviaQA R@5から78.2%(+1.4)、MS-MARCO MRR@10から39.5%(+1.3%)の改善が含まれている。
論文 参考訳(メタデータ) (2021-10-07T16:41:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。