論文の概要: RSRank: Learning Relevance from Representational Shifts
- arxiv url: http://arxiv.org/abs/2606.17468v1
- Date: Tue, 16 Jun 2026 03:29:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-17 17:15:32.246753
- Title: RSRank: Learning Relevance from Representational Shifts
- Title(参考訳): RSRank: 表現のシフトから学ぶ
- Abstract要約: 関連度スコアの校正を行うため,予測RSを学習する軽量なトレーニングフレームワークを導入する。
トレーニングの目的は、無関係なコンテンツをゼロしきい値で自然にフィルタリングし、依存調整を減らすことである。
- 参考スコア(独自算出の注目度): 2.996596877662786
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: As enterprises deploy RAG-based systems to provide grounded responses to user queries, reranking has become a critical component for the final filtering step that separates relevant from distracting or irrelevant documents. Existing rerankers often rely on heuristic thresholds to achieve optimal filtering. Moreover, for relevance scoring, state-of-the-art methods use a language model's logit signals, which are designed for next-token prediction, not for assessing relevance. To address these limitations, we identify a principled signal for relevance: the representational shift (RS) induced in a query's internal state when conditioned on a document. We observe that the alignment between (a) RS induced by a candidate document and (b) RS induced by an oracle document-set provides a robust indicator of relevance. Building on this insight, we introduce a lightweight training framework that learns projections mapping RS to calibrated relevance scores. Our training objectives naturally filter irrelevant content at a zero threshold, reducing dependence on heuristic tuning. Across diverse retrieval datasets, our method delivers gains over SOTA rerankers.
- Abstract(参考訳): 企業がRAGベースのシステムをデプロイして、ユーザクエリに接地した応答を提供するようになると、リランクは最後のフィルタリングステップにおいて重要な要素となり、混乱や無関係なドキュメントから分離される。
既存のリランカーはしばしば最適なフィルタリングを達成するためにヒューリスティックしきい値に依存する。
さらに、関連性を評価するために、最先端の手法は言語モデルのロジット信号を使用し、関連性を評価するためにではなく、次トーケン予測のために設計されている。
これらの制約に対処するため、文書に条件付けされた場合、クエリの内部状態に誘導される表現シフト(RS)という、関連性に関する原理的なシグナルを同定する。
我々は両者の一致を観察する
(a)候補書類によるRS及びRS
b) オラクル文書セットによって誘導されるRSは、関連性の堅牢な指標を提供する。
この知見に基づいて、我々は、RSを校正された妥当性スコアにマッピングするプロジェクションを学習する軽量なトレーニングフレームワークを導入する。
トレーニングの目的は、無関係なコンテンツをゼロしきい値で自然にフィルタリングし、ヒューリスティックなチューニングへの依存を減らすことである。
本手法は,多種多様な検索データセットにまたがって,SOTAリランカに対するゲインを提供する。
関連論文リスト
- LLMs Encode Relevance as a Layer-Wise Cross-Lingual Signal [8.33491432828288]
命令調整言語モデルにおける残差ストリームアクティベーションから,クエリ文書の関連性が線形に除去可能であるかを検討する。
以上の結果から,q-d関係は深さ依存信号として符号化されていることが示唆された。
いくつかのモデルでは、バリデーション選択されたプローブが生成された判断にマッチするか、性能が良くなり、システムランキングがより保存される。
論文 参考訳(メタデータ) (2026-07-17T01:54:45Z) - Lost in the Evidence? Reproducing Document Position and Context Size Effects in RAG [3.597778914286147]
Retrieval-Augmented Generation (RAG) システムは、取得した文書がモデルの入力コンテキストに入力されることに依存する。
先行研究は、中年期の喪失や関連する長文現象のような位置に基づく効果を報告している。
トピックサンプリングが分散の主要な原因であることを示し、小さなトピックセットはオーダリング効果を誇張することができる。
また,より現実的なRAGシナリオについて検討した。
論文 参考訳(メタデータ) (2026-05-26T14:44:19Z) - Context-Aware Search and Retrieval Under Token Erasure [10.728269379368099]
本稿では,トークン消去下でのRAG様システムの検索・検索モデルを紹介し,解析する。
本稿では,クエリ表現が部分的にしか保存されていない場合に,リモート文書検索の情報理論解析を行う。
論文 参考訳(メタデータ) (2026-04-20T15:42:12Z) - Generate, Filter, Control, Replay: A Comprehensive Survey of Rollout Strategies for LLM Reinforcement Learning [79.88942231770629]
強化学習(RL)は、大規模言語モデル(LLM)の推論能力を向上させるための訓練後の中心的なツールとなっている。
統一表記によるロールアウトパイプラインの形式化とGenerate-Filter-Control-Replay(GFCR)の導入
検証可能な報酬、プロセスの監督、判断に基づくゲーティング、ガイドとツリー/セグメントのロールアウト、アダプティブな計算割り当て、早期終了と部分的なロールアウト、スループット最適化、自己改善のための再生/再配置でRLにまたがる手法を合成する。
論文 参考訳(メタデータ) (2026-04-08T00:53:29Z) - Heuristic-inspired Reasoning Priors Facilitate Data-Efficient Referring Object Detection [53.988759250627425]
HeROD(Heuristic-inspired ROD)は、明示的で解釈可能な空間的および意味的推論を注入する軽量でモデルに依存しないフレームワークである。
HeRODは、スカーセラベル体制において強い接地ベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-03-25T10:33:22Z) - Redefining Retrieval Evaluation in the Era of LLMs [20.75884808285362]
従来の情報検索(IR)メトリクスは、人間が下位階級への注意を減らした文書を逐次調査することを前提としている。
この仮定は、Large Language Models (LLM) によって検索結果が消費される検索拡張生成(RAG)システムにおいて破られる。
本稿では,関連するパスの肯定的な寄与と,注意をそらすパスのネガティブな影響の両方を定量化するユーティリティベースのアノテーションスキーマを提案する。
論文 参考訳(メタデータ) (2025-10-24T13:17:00Z) - Parallel Key-Value Cache Fusion for Position Invariant RAG [55.9809686190244]
大規模言語モデル(LLM)は、コンテキスト内の関連する情報の位置に敏感である。
入力コンテキスト順序に関係なく,デコーダのみのモデルに対して一貫した出力を生成するフレームワークを導入する。
論文 参考訳(メタデータ) (2025-01-13T17:50:30Z) - ChunkRAG: Novel LLM-Chunk Filtering Method for RAG Systems [2.8692611791027893]
Retrieval-Augmented Generation (RAG) システムは、無関係またはゆるい関連情報の検索によって不正確な応答を生成する。
チャンクレベルで取得した情報を評価・フィルタリングすることでRAGシステムを強化するフレームワークであるChunkRAGを提案する。
論文 参考訳(メタデータ) (2024-10-25T14:07:53Z) - RAGEval: Scenario Specific RAG Evaluation Dataset Generation Framework [66.93260816493553]
本稿では,様々なシナリオにまたがってRAGシステムを評価するためのフレームワークであるRAGvalを紹介する。
事実の正確性に焦点をあてて,完全性,幻覚,不適切性の3つの新しい指標を提案する。
実験結果から, RAGEvalは, 生成した試料の明瞭度, 安全性, 適合性, 豊かさにおいて, ゼロショット法とワンショット法より優れていた。
論文 参考訳(メタデータ) (2024-08-02T13:35:11Z) - Query Performance Prediction using Relevance Judgments Generated by Large Language Models [53.97064615557883]
自動生成関連判定(QPP-GenRE)を用いた新しいクエリ性能予測(QPP)フレームワークを提案する。
QPP-GenREは、QPPを独立したサブタスクに分解し、ランクリスト内の各項目の関連性を所定のクエリに予測する。
我々は,オープンソースの大規模言語モデル (LLM) を用いて,科学的妥当性を確保することにより,項目の関連性を予測する。
論文 参考訳(メタデータ) (2024-04-01T09:33:05Z) - ARES: An Automated Evaluation Framework for Retrieval-Augmented Generation Systems [46.522527144802076]
本稿では,RAGシステム評価のための自動RAG評価システムであるARESを紹介する。
ARESは軽量LM判定器を微調整し、個々のRAG成分の品質を評価する。
コードとデータセットをGithubで公開しています。
論文 参考訳(メタデータ) (2023-11-16T00:39:39Z) - Incorporating Relevance Feedback for Information-Seeking Retrieval using
Few-Shot Document Re-Ranking [56.80065604034095]
我々は,クエリとユーザが関連すると考えるドキュメントとの類似性に基づいて,文書を再参照するkNNアプローチを提案する。
異なる統合戦略を評価するため、既存の4つの情報検索データセットを関連フィードバックシナリオに変換する。
論文 参考訳(メタデータ) (2022-10-19T16:19:37Z) - Open-Set Recognition: A Good Closed-Set Classifier is All You Need [146.6814176602689]
分類器が「ゼロ・オブ・ア・ア・ア・ベ」決定を行う能力は、閉集合クラスにおける精度と高い相関関係があることが示される。
この相関を利用して、閉セット精度を向上させることにより、クロスエントロピーOSR'ベースライン'の性能を向上させる。
また、セマンティックノベルティを検出するタスクをより尊重する新しいベンチマークを構築した。
論文 参考訳(メタデータ) (2021-10-12T17:58:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。