論文の概要: BERAG: Bayesian Ensemble Retrieval-Augmented Generation for Knowledge-based Visual Question Answering

• arxiv url: http://arxiv.org/abs/2604.22678v1
• Date: Fri, 24 Apr 2026 16:01:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-27 15:36:26.52895
• Title: BERAG: Bayesian Ensemble Retrieval-Augmented Generation for Knowledge-based Visual Question Answering
• Title（参考訳）: BERAG:知識に基づく視覚質問応答のためのベイジアンアンアンアンサンブル検索生成
• Authors: Jinghong Chen, Jingbiao Mei, Guangyu Yang, Bill Byrne,
• Abstract要約: 検索拡張生成(RAG)による質問応答の一般的なアプローチは、文書を単一のコンテキストに制限し、それを言語モデルに渡して回答を生成することである。 この戦略は個々の文書の貢献を曖昧にし、帰属を難しくし、失業者の影響に寄与する。 本稿では,単一のコンテキストの組み合わせではなく,個々の検索文書に言語モデルを条件付けする新しいRAGフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 24.259268301904545
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A common approach to question answering with retrieval-augmented generation (RAG) is to concatenate documents into a single context and pass it to a language model to generate an answer. While simple, this strategy can obscure the contribution of individual documents, making attribution difficult and contributing to the ``lost-in-the-middle'' effect, where relevant information in long contexts is overlooked. Concatenation also scales poorly: computational cost grows quadratically with context length, a problem that becomes especially severe when the context includes visual data, as in visual question answering. Attempts to mitigate these issues by limiting context length can further restrict performance by preventing models from benefiting from the improved recall offered by deeper retrieval. We propose Bayesian Ensemble Retrieval-Augmented Generation (BERAG), along with Bayesian Ensemble Fine-Tuning (BEFT), as a RAG framework in which language models are conditioned on individual retrieved documents rather than a single combined context. BERAG treats document posterior probabilities as ensemble weights and updates them token by token using Bayes' rule during generation. This approach enables probabilistic re-ranking, parallel memory usage, and clear attribution of document contribution, making it well-suited for large document collections. We evaluate BERAG and BEFT primarily on knowledge-based visual question answering tasks, where models must reason over long, imperfect retrieval lists. The results show substantial improvements over standard RAG, including strong gains on Document Visual Question Answering and multimodal needle-in-a-haystack benchmarks. We also demonstrate that BERAG mitigates the ``lost-in-the-middle'' effect. The document posterior can be used to detect insufficient grounding and trigger deflection, while document pruning enables faster decoding than standard RAG.
• Abstract（参考訳）: 検索強化生成(RAG)による質問応答の一般的なアプローチは、文書を単一のコンテキストにまとめ、それを言語モデルに渡して回答を生成することである。 単純ではあるが、この戦略は個々の文書の貢献を曖昧にし、帰属を難しくし、長期にわたる関連情報が見過ごされる「中途半端な」効果に寄与する。 計算コストは、文脈の長さと2次的に増加します。これは、視覚的な質問応答のように、コンテキストが視覚データを含むと特に深刻になる問題です。 文脈長を制限することでこれらの問題を緩和しようとする試みは、より深い検索によって提供される改善されたリコールからモデルが恩恵を受けるのを防止し、さらに性能を制限できる。 本稿では,単一の複合コンテキストではなく,個々の検索文書に言語モデルを条件付けするRAGフレームワークとして,Bayesian Ensemble Retrieval-Augmented Generation (BERAG)とBeyesian Ensemble Fine-Tuning (BEFT)を提案する。 BERAGは文書後部確率をアンサンブルウェイトとして扱い、世代間ベイズの規則を用いてトークンによってトークンを更新する。 このアプローチにより、確率的再ランク付け、並列メモリ使用量、ドキュメントコントリビューションの明確な属性が実現され、大規模なドキュメントコレクションに適している。 BERAGとBEFTを主に知識に基づく視覚的質問応答タスクに基づいて評価する。 その結果、Document Visual Question AnsweringやMultimodal needle-in-a-haystackベンチマークなど、標準的なRAGよりも大幅に改善された。 また、BERAGは ``lost-in-the-middle'' 効果を緩和することを示した。 文書プルーニングは標準のRAGよりも高速な復号を可能にするが、文書後部は不十分な接地やトリガー偏向を検出するために使用できる。

関連論文リスト

• ReAG: Reasoning-Augmented Generation for Knowledge-based Visual Question Answering [54.72902502486611]
  ReAG(Reasoning-Augmented Multimodal RAG)は、粗い部分ときめ細かい部分の検索と、無関係な通路をフィルタリングする批評家モデルを組み合わせた手法である。 ReAGは従来の手法よりも優れており、解答精度が向上し、検索された証拠に根ざした解釈可能な推論を提供する。
  論文  参考訳（メタデータ） (2025-11-27T19:01:02Z)
• Respecting Temporal-Causal Consistency: Entity-Event Knowledge Graphs for Retrieval-Augmented Generation [69.45495166424642]
  我々は,物語文書における時間的,因果的,文字的整合性を理解するために,頑健で差別的なQAベンチマークを開発する。 次に、バイナリマッピングでリンクされたエンティティとイベントのサブグラフを分離したまま保持するデュアルグラフフレームワークであるEntity-Event RAG(E2RAG)を紹介します。 ChronoQA全体で、我々のアプローチは最先端の非構造化およびKGベースのRAGベースラインよりも優れており、因果一貫性クエリや文字整合性クエリが顕著である。
  論文  参考訳（メタデータ） (2025-06-06T10:07:21Z)
• Don't Do RAG: When Cache-Augmented Generation is All You Need for Knowledge Tasks [11.053340674721005]
  検索拡張世代(RAG)は,外部知識ソースを統合することで言語モデルを強化する強力なアプローチとして注目されている。 本稿では、リアルタイム検索をバイパスする代替パラダイムであるキャッシュ拡張生成(CAG)を提案する。
  論文  参考訳（メタデータ） (2024-12-20T06:58:32Z)
• ELOQ: Resources for Enhancing LLM Detection of Out-of-Scope Questions [52.33835101586687]
  本研究では,検索した文書が意味的に類似しているように見えるスコープ外質問について検討するが,答えるために必要な情報がない。 本稿では,閉経後の文書から多様なスコープ外質問を自動的に生成するための,幻覚に基づくELOQを提案する。
  論文  参考訳（メタデータ） (2024-10-18T16:11:29Z)
• RAGEval: Scenario Specific RAG Evaluation Dataset Generation Framework [66.93260816493553]
  本稿では,様々なシナリオにまたがってRAGシステムを評価するためのフレームワークであるRAGvalを紹介する。 事実の正確性に焦点をあてて,完全性,幻覚,不適切性の3つの新しい指標を提案する。 実験結果から, RAGEvalは, 生成した試料の明瞭度, 安全性, 適合性, 豊かさにおいて, ゼロショット法とワンショット法より優れていた。
  論文  参考訳（メタデータ） (2024-08-02T13:35:11Z)
• Don't Forget to Connect! Improving RAG with Graph-based Reranking [26.433218248189867]
  本稿では,グラフニューラルネットワーク(GNN)に基づくリランカであるG-RAGについて紹介する。 提案手法は,文書と意味情報の相互接続(抽象表現平均グラフ)を組み合わせ,RAGの文脈インフォームドローダを提供する。 G-RAGは計算フットプリントを小さくしながら最先端のアプローチより優れている。
  論文  参考訳（メタデータ） (2024-05-28T17:56:46Z)
• Corrective Retrieval Augmented Generation [36.04062963574603]
  Retrieval-augmented Generation (RAG) は、検索された文書の関連性に大きく依存しており、検索が失敗した場合のモデルがどのように振る舞うかについての懸念を提起する。 生成の堅牢性を改善するために,CRAG(Corrective Retrieval Augmented Generation)を提案する。 CRAGはプラグアンドプレイであり、様々なRAGベースのアプローチとシームレスに結合できる。
  論文  参考訳（メタデータ） (2024-01-29T04:36:39Z)
• Generate rather than Retrieve: Large Language Models are Strong Context Generators [74.87021992611672]
  本稿では,文書検索を大規模言語モデル生成器に置き換えることで,知識集約型タスクを解く新しい視点を提案する。 我々は,提案手法をgenRead (genRead) と呼び,まず大きな言語モデルに対して,与えられた質問に基づいて文脈文書を生成し,次に生成された文書を読み出して最終回答を生成する。
  論文  参考訳（メタデータ） (2022-09-21T01:30:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。