論文の概要: Quantifying Prior Dominance in RAG Systems
- arxiv url: http://arxiv.org/abs/2606.23695v1
- Date: Wed, 29 Apr 2026 15:38:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 00:46:12.929208
- Title: Quantifying Prior Dominance in RAG Systems
- Title(参考訳): RAGシステムにおける先行支配の定量化
- Abstract要約: 我々は、文脈情報ゲインを定量化するために、正規化コンテキスト利用(NCU)メトリクスを導入する。
1.5Bから72Bまでのアーキテクチャを,プロプライエタリな商用APIとともに評価する。
厳密な抽出におけるSLMの構造的優位性と文脈的付着性について検討した。
- 参考スコア(独自算出の注目度): 1.9544213396776273
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Retrieval-Augmented Generation (RAG) grounds Large Language Models in external knowledge, yet current evaluations rely on discrete heuristics that suffer from ''epistemic blindness'' - failing to distinguish genuine contextual information extraction from parametric memory recall. To address this, we introduce the Normalized Context Utilization (NCU) metric, leveraging continuous token log-probabilities across zero-shot, oracle, and adversarial conditions to strictly quantify contextual information gain. Evaluating architectures ranging from 1.5B to 72B parameters alongside a proprietary commercial API reveals that for strict factual extraction (without Chain-of-Thought reasoning), traditional scaling laws exhibit extreme diminishing returns: highly efficient Small Language Models (SLMs) match or outperform high-capacity architectures. Furthermore, we demonstrate that ``Prior Dominance'' correlates with model scale and proprietary alignments. The evaluated commercial API not only overrode explicit external evidence in nearly half of adversarial conflicts, but also frequently suffered from systemic confidence collapse (Negative Transfer) when its parametric priors were contradicted. Our findings highlight the structural epistemic advantage and superior contextual adherence of SLMs in strict extraction workflows.
- Abstract(参考訳): Retrieval-Augmented Generation (RAG) は、大規模言語モデルを外部の知識に基礎を置いているが、現在の評価は、パラメトリックメモリリコールから真にコンテキスト情報を取り出すのに失敗する「目に見える盲目」に苦しむ離散的なヒューリスティックに依存している。
これを解決するために、ゼロショット、オラクル、敵条件をまたいだ連続トークンログ確率を活用し、文脈情報ゲインを厳密に定量化する正規化コンテキスト利用(NCU)メトリクスを導入する。
1.5Bから72Bのパラメータをプロプライエタリな商用APIとともに評価すると、厳密な事実抽出(Chain-of-Thought推論なしで)では、従来のスケーリング法は極めて低いリターンを示します。
さらに、'Prior Dominance''はモデルスケールとプロプライエタリなアライメントと相関していることを示す。
評価された商用APIは、敵の紛争の半分近くで明らかな外的証拠を覆すだけでなく、パラメトリックな先行が矛盾した場合に、しばしばシステム的信頼の崩壊(否定的移転)に悩まされた。
本研究は,厳密な抽出ワークフローにおけるSLMの構造的優位性と文脈的適合性に注目した。
関連論文リスト
- Loom: Weaving Diagnostic Strands into Free-Text Consensus via Embedding-Space Reweighting [0.0]
実世界の根本原因分析(RCA)のためにデプロイされた生成的コンセンサスフレームワークであるLoomについて紹介する。
ルームがモジュラー$sで出力されるオープンフォーム仮説を連続的な埋め込み空間に投影し、繰り返しセントロイドに基づく再重み付けアルゴリズムで競合する信号を解決する方法を示す。
我々は,エージェント深度と推論遅延のトレードオフ,冗長性検出の負の結果,および決定論的コンセンサスが対象事項専門家の信頼をいかに促進させるかについて,我々の展開経験について議論した。
論文 参考訳(メタデータ) (2026-09-02T14:24:32Z) - DUD: Decoupled Update Dynamics for Reliable Uncertainty Quantification in Large Language Models [16.097057987606714]
textbfDecoupled textbfUpdate textbfDynamics textbf(DUD)を導入する。
各モジュールの独立復元能力を定量化することにより、モデルの内部の不安定性を捉えるデュアルストリーム動的プロファイルを構築する。
論文 参考訳(メタデータ) (2026-08-04T10:04:33Z) - Perception Without Engagement: Dissecting the Causal Discovery Deficit in LMMs [68.58207076756237]
本稿では,結果評価からメカニズム診断へ移行する摂動に基づく評価プロトコルProCauEvalを紹介する。
因果推論において,ビデオコンテンツは体系的に過小評価されている。
教師のネガティブなアライメントに基づく強化学習フレームワークであるADPOを提案する。
論文 参考訳(メタデータ) (2026-05-10T08:48:58Z) - LiveFMBench: Unveiling the Power and Limits of Agentic Workflows in Specification Generation [75.05397479715576]
大規模言語モデル(LLM)とエージェントは有望な進歩を示しているが、その真の能力と失敗モードは未だ不明である。
CプログラムのためのLCMおよびエージェントベースの形式仕様生成に関する、最初の体系的および汚染に配慮した研究を提案する。
論文 参考訳(メタデータ) (2026-05-02T11:31:33Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳(メタデータ) (2026-04-21T15:05:58Z) - Hit-RAG: Learning to Reason with Long Contexts via Preference Alignment [97.55382322103986]
Hit-RAGは認知的ボトルネックを解決するために設計された多段階の優先順位調整フレームワークである。
本手法は,3つの異なる段階を通じて外部証拠の利用を体系的に改善する。
論文 参考訳(メタデータ) (2026-03-07T04:05:27Z) - Scalable Contrastive Causal Discovery under Unknown Soft Interventions [3.165716101116899]
本稿では,2つの観測と干渉のペア化のためのスケーラブルな因果探索モデルを提案し,その基礎構造と未知のソフト介入について述べる。
合成データの実験では、因果構造回復の改善、保持された因果機構を持つ未知のグラフへの一般化、より大きなグラフへのスケーラビリティが示されている。
論文 参考訳(メタデータ) (2026-03-03T18:16:16Z) - A Researcher's Guide to Empirical Risk Minimization [3.891921282474929]
このガイドは、経験的リスク最小化における高い確率的後悔境界の参照を提供する。
直観と一般的な証明戦略から始まり、ハイレベルな条件下で広く適用可能な保証を行う。
論文 参考訳(メタデータ) (2026-02-25T02:26:23Z) - Hallucination Detection and Mitigation in Large Language Models [0.0]
LLM(Large Language Models)とLRM(Large Reasoning Models)は、金融や法律のような高額な領域に変革をもたらす。
幻覚を起こそうとする傾向は、事実的に不正確な、または、サポートされていないコンテンツを発生させ、重大な信頼性のリスクを生じさせる。
本稿では,根本原因認識による継続的改善サイクル上に構築された幻覚管理のための包括的枠組みを紹介する。
論文 参考訳(メタデータ) (2026-01-14T23:19:37Z) - Lost in the Noise: How Reasoning Models Fail with Contextual Distractors [57.31788955167306]
推論モデルとエージェントAIシステムの最近の進歩は、多様な外部情報への依存度を高めている。
NoisyBenchは、RAGの11のデータセット、推論、アライメント、ツール使用タスクに対して、モデルロバスト性を体系的に評価する包括的なベンチマークである。
評価の結果,文脈的障害に直面した場合,最先端モデルでは最大80%の破滅的な性能低下がみられた。
論文 参考訳(メタデータ) (2026-01-12T05:43:51Z) - Hallucination Benchmark for Speech Foundation Models [33.92968426403491]
自動音声認識(ASR)システムにおける幻覚とは、基礎となる音響入力(すなわち、音声信号)とは全く無関係な神経性ASRモデルによって生成される流動的でコヒーレントな転写を指す。
この明らかな一貫性は、その後の処理段階を誤解させ、特に医療や法のような重要な領域において重大なリスクをもたらす可能性がある。
本稿では,ASRにおける幻覚現象を,語彙,音声,形態,意味の4つの相補軸に沿って体系的に分類し,定量化する最初のベンチマークフレームワークであるSHALLOWを紹介する。
論文 参考訳(メタデータ) (2025-10-18T16:26:16Z) - Does More Inference-Time Compute Really Help Robustness? [50.47666612618054]
小規模なオープンソースモデルは、推論時間スケーリングの恩恵を受けることができることを示す。
我々は、逆スケーリング法として、直感的に動機付けられ、実証的に検証された重要なセキュリティリスクを特定します。
私たちは、セキュリティに敏感で現実世界のアプリケーションに推論タイムのスケーリングを適用する前に、実践者にこれらの微妙なトレードオフを慎重に検討するよう促します。
論文 参考訳(メタデータ) (2025-07-21T18:08:38Z) - A Causal View of Entity Bias in (Large) Language Models [42.64248130399508]
ホワイトボックスとブラックボックスの設定の両方において,エンティティバイアスを軽減するための因果介入手法を提案する。
ホワイトボックス設定では,PLMのOOD性能を5.7ポイント,機械読解(MRC)を9.1ポイント向上させる。
ブラックボックス設定下では, 文脈内介入は, GPT-3.5の実体に基づく知識紛争を効果的に軽減し, MRCの正確な一致精度を最大20.5ポイント改善し, REの記憶率を最大17.6ポイント削減する。
論文 参考訳(メタデータ) (2023-05-24T03:59:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。