論文の概要: ReliableRAG: Combating Misinformation in Retrieval-Augmented Generation via Reliability-Guided Reasoning Chains

• arxiv url: http://arxiv.org/abs/2608.25487v1
• Date: Wed, 26 Aug 2026 07:59:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-27 14:15:15.664644
• Title: ReliableRAG: Combating Misinformation in Retrieval-Augmented Generation via Reliability-Guided Reasoning Chains
• Title（参考訳）: ReliableRAG:Reliability-Guided Reasoning Chainsを用いた検索・拡張生成における誤情報交換
• Abstract要約: ニュースやソーシャルメディアで偽情報、不正確、誤解を招くことは、現実世界の質問回答システムに深刻な課題をもたらす。 本稿では, 個別三重項のきめ細かな評価により, マルチホップQAにおける誤情報を緩和するReliableRAGを提案する。 ReliableRAGは信頼に値する証拠を整理し、偽情報をフィルタリングする堅牢な推論連鎖を自己回帰的に構築する。
• 参考スコア（独自算出の注目度）: 13.376372865194627
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Retrieval-Augmented Generation (RAG) has emerged as a powerful architecture for Question Answering (QA) by integrating external information into Large Language Models (LLMs). However, false, inaccurate, and misleading information in news and social media poses a serious challenge to real-world RAG systems, especially in multi-hop QA, where complex multi-step reasoning can be misled by even a single deceptive misinformation segment in the retrieved documents. Existing approaches mainly rely on implicit alignment or explicit regulation, but their limited ability to assess fine-grained information reliability makes them vulnerable to deceptive misinformation that is semantically relevant to the question yet factually incorrect, leading to erroneous answers. To address this limitation, we propose ReliableRAG, which, to the best of our knowledge, is the first reliability-driven framework that mitigates deceptive misinformation in multi-hop QA through fine-grained evaluation of individual triples. ReliableRAG first extracts information segments from source documents and represents them as structured triples. It then quantifies triple reliability by combining query-triple semantic relevance with triple credibility, retaining only the top-$K$ reliable and non-redundant triples. Based on these refined triples, ReliableRAG autoregressively constructs robust reasoning chains to consolidate trustworthy evidence and filter deceptive misinformation, producing accurate answers faithful to reliable information. Experiments on three multi-hop QA datasets show that ReliableRAG outperforms existing methods, substantially improving the factual reliability and robustness of RAG systems under deceptive misinformation injection.
• Abstract（参考訳）: Retrieval-Augmented Generation (RAG)は、外部情報をLLM(Large Language Models)に統合することで、QA(QA)のための強力なアーキテクチャとして登場した。 しかし、特にマルチホップQAにおいて、ニュースやソーシャルメディアにおける偽情報、不正確情報、誤解を招く情報が現実のRAGシステムに深刻な課題を生じさせ、複雑な多段階推論は、検索された文書の1つの偽情報セグメントでも誤認される可能性がある。 既存のアプローチは、主に暗黙のアライメントや明示的な規制に依存しているが、詳細な情報信頼性を評価する能力に制限があるため、疑似偽情報に対して脆弱であり、実際には正しくないが、誤った答えをもたらす。 この制限に対処するため、我々はReliableRAGを提案する。このフレームワークは、我々の知る限り、個人トリプルのきめ細かい評価を通じて、マルチホップQAにおける偽情報を緩和する最初の信頼性駆動型フレームワークである。 ReliableRAGはまず、ソースドキュメントから情報セグメントを抽出し、構造化されたトリプルとして表現する。 次に、クエリトリプルセマンティック関連とトリプル信頼性を組み合わせることでトリプル信頼性を定量化し、上位の$K$と非冗長なトリプルのみを保持する。 これらの洗練された三重項に基づいて、ReliableRAGは信頼に値する証拠を整理し、偽情報をフィルタリングし、信頼できる情報に忠実な正確な答えを生成する頑健な推論連鎖を自己回帰的に構築する。 3つのマルチホップQAデータセットの実験により、ReliableRAGは既存の手法よりも優れており、偽情報注入時のRAGシステムの事実的信頼性と堅牢性を大幅に向上することが示された。

関連論文リスト

• Schema-Aware Planning and Hybrid Knowledge Toolset for Reliable Knowledge Graph Triple Verification [31.263531484583805]
  知識グラフ(KG)はAIシステムの重要な基盤として機能するが、自動化された構築は必然的にノイズを導入し、データの信頼性を損なう。 グラフ埋め込みや言語モデルに基づく既存の三重検証手法は、内部構造的制約や外部意味的証拠に依存することにより、単一ソースバイアスに悩まされることが多い。 本研究では,戦略的計画,積極的調査,明確推論のプロセスとして三重検証を再構築する,訓練不要の自律エージェントであるSHARPを提案する。
  論文  参考訳（メタデータ） (2026-04-05T17:10:18Z)
• InfoGatherer: Principled Information Seeking via Evidence Retrieval and Strategic Questioning [50.375547542738055]
  InfoGathererは、2つの補完的なソースから行方不明の情報を収集するフレームワークである。 InfoGathererは、法的および医療的タスクのターンを減らしながら、強力なベースラインを上回ります。
  論文  参考訳（メタデータ） (2026-03-06T04:55:03Z)
• ERA: Evidence-based Reliability Alignment for Honest Retrieval-Augmented Generation [19.616905640490252]
  本稿ではERA(Evidence-based Reliability Alignment)と呼ばれる新しいフレームワークを提案する。 提案手法は, 解答カバレッジと棄却のトレードオフを最適化し, 校正精度を向上し, ベースラインを著しく向上させる。
  論文  参考訳（メタデータ） (2026-02-24T01:45:51Z)
• Epistemic Context Learning: Building Trust the Right Way in LLM-Based Multi-Agent Systems [94.9141394384021]
  マルチエージェントシステムの個々のエージェントは、しばしば堅牢性を欠き、誤解を招く仲間に盲目的に適合する傾向にある。 この弱点は, 相互信頼度を評価する能力の欠如に起因していると考えられる。 まず,歴史認識参照の学習問題を定式化し,ピア間の歴史的相互作用を付加的な入力として導入する。 次に,歴史的に構築されたピアプロファイルの予測を行うための推論フレームワークであるEcestemic Context Learning (ECL) を開発した。
  論文  参考訳（メタデータ） (2026-01-29T13:59:32Z)
• ReFIne: A Framework for Trustworthy Large Reasoning Models with Reliability, Faithfulness, and Interpretability [23.70973331911138]
  使用可能な推論システムは、解釈可能性、忠実性、信頼性の3つの特性を特徴とする、信頼できるものでなければならない、と我々は主張する。 本稿では,GRPOと教師付き微調整を統合した新しいトレーニングフレームワークReFIneを提案する。 実験の結果,ReFIneモデルはより明確でより構造化された推論トレースを生成することがわかった。
  論文  参考訳（メタデータ） (2025-10-10T07:08:44Z)
• ReliabilityRAG: Effective and Provably Robust Defense for RAG-based Web-Search [69.60882125603133]
  本稿では,検索した文書の信頼性情報を明確に活用する,敵対的堅牢性のためのフレームワークであるReliabilityRAGを提案する。 我々の研究は、RAGの回収されたコーパスの腐敗に対するより効果的で確実に堅牢な防御に向けた重要な一歩である。
  論文  参考訳（メタデータ） (2025-09-27T22:36:42Z)
• Rethinking All Evidence: Enhancing Trustworthy Retrieval-Augmented Generation via Conflict-Driven Summarization [11.875601079871865]
  本稿では, 信頼性向上のための新しいフレームワークであるCARE-RAG(Conflict-Aware and Reliable Evidence for RAG)を提案する。 コンフリクトの検出と要約のために、3B LLaMA3.2モデルを蒸留し、コンフリクト駆動の要約を行い、複数のソース間で信頼性の高い合成を可能にする。 検索データを用いたQAデータセットの改訂実験により、CARE-RAGは強いRAGベースライン、特にノイズや矛盾するエビデンスのあるシナリオにおいて、一貫して優れることが示された。
  論文  参考訳（メタデータ） (2025-07-02T01:39:49Z)
• Divide-Then-Align: Honest Alignment based on the Knowledge Boundary of RAG [51.120170062795566]
  本稿では,問合せが知識境界外にある場合の"I don't know"で応答する機能を備えたRAGシステムを実現するためのDTAを提案する。 DTAは適切な棄権と精度のバランスをとり、検索強化システムの信頼性と信頼性を高める。
  論文  参考訳（メタデータ） (2025-05-27T08:21:21Z)
• Know3-RAG: A Knowledge-aware RAG Framework with Adaptive Retrieval, Generation, and Filtering [9.814926166669366]
  我々は知識グラフ(KG)から構造化知識を活用する知識認識RAGフレームワークであるKnow3-RAGを提案し、検索、生成、フィルタリングを含むRAGプロセスの3つの中核段階を導出する。 複数のオープンドメインQAベンチマークの実験では、Know3-RAGは強いベースラインを一貫して上回り、幻覚を著しく減らし、回答の信頼性を向上している。
  論文  参考訳（メタデータ） (2025-05-19T03:25:18Z)
• Retrieval is Not Enough: Enhancing RAG Reasoning through Test-Time Critique and Optimization [58.390885294401066]
  Retrieval-augmented Generation (RAG) は知識基底型大規模言語モデル(LLM)を実現するためのパラダイムとして広く採用されている。 RAGパイプラインは、モデル推論が得られた証拠と整合性を維持するのに失敗することが多く、事実上の矛盾や否定的な結論につながる。 批判駆動アライメント(CDA)に基づく新しい反復的枠組みであるAlignRAGを提案する。 AlignRAG-autoは、動的に洗練を終了し、批判的な反復回数を事前に指定する必要がなくなる自律的な変種である。
  論文  参考訳（メタデータ） (2025-04-21T04:56:47Z)
• Retrieval-Augmented Generation with Conflicting Evidence [57.66282463340297]
  大規模言語モデル (LLM) エージェントは、応答の事実性を改善するために、検索強化世代 (RAG) をますます採用している。 実際には、これらのシステムは曖昧なユーザクエリを処理し、複数のソースからの情報に衝突する可能性がある。 RAMDocs(Retrieval with Ambiguity and Misinformation in Documents)は,ユーザクエリのエビデンスを矛盾させるような,複雑で現実的なシナリオをシミュレートする新しいデータセットである。
  論文  参考訳（メタデータ） (2025-04-17T16:46:11Z)
• ParamMute: Suppressing Knowledge-Critical FFNs for Faithful Retrieval-Augmented Generation [91.20492150248106]
  本研究では,不誠実な生成の背後にある内部メカニズムを解明し,不均等に活性化される中深度フィードフォワードネットワーク(FFN)のサブセットを同定する。 本研究では,不信感関連FFNの活性化を抑制することにより,文脈的忠実度を向上させるフレームワークであるParametric Knowledge Mutingを提案する。 実験結果から,ParamMuteはCoFaithfulQAと確立されたConFiQAベンチマークの両方の信頼度を大幅に向上し,パラメトリックメモリへの依存度を大幅に低下させることが示された。
  論文  参考訳（メタデータ） (2025-02-21T15:50:41Z)
• TrustRAG: Enhancing Robustness and Trustworthiness in Retrieval-Augmented Generation [31.231916859341865]
  TrustRAGは、生成のために取得される前に、悪意のある、無関係なコンテンツを体系的にフィルタリングするフレームワークである。 TrustRAGは、検索精度、効率、攻撃抵抗を大幅に改善する。
  論文  参考訳（メタデータ） (2025-01-01T15:57:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。