論文の概要: Hallucination-Aware Multi-Agent RAG via Internal Attention Rewards

• arxiv url: http://arxiv.org/abs/2610.35056v1
• Date: Mon, 26 Oct 2026 09:03:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.803946
• Title: Hallucination-Aware Multi-Agent RAG via Internal Attention Rewards
• Title（参考訳）: 幻覚を意識したマルチエージェントRAG
• Abstract要約: Retrieval-augmented Generation (RAG)は、検索された証拠に言語モデルに基づく。 最近のマルチエージェントRAGシステムは、パイプラインを協調的な決定に分解する。 本稿では,その課題報酬と内部幻覚リスク信号を組み合わせた幻覚認識型マルチエージェントRAGフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 10.117954893461865
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Retrieval-augmented generation (RAG) grounds language models in retrieved evidence, but its outputs often contain claims unsupported by that evidence. Recent multi-agent RAG systems decompose the pipeline into cooperative decisions, yet they typically optimize all agents under a shared task reward such as EM or F1, which measures answer overlap rather than faithfulness to evidence. We propose a hallucination-aware multi-agent RAG framework that combines the task reward with an internal hallucination-risk signal computed from the generator's attention-head norms. Three role-specific LoRA adapters, a query planner, an evidence selector, and an answer generator, share a frozen backbone. A lightweight critic is trained once on TruthfulQA truthful/false pairs and then kept frozen, providing a complementary risk score that is added to the shared reward during cooperative PPO training. Across three backbones (Qwen3-8B, Llama3-8B, Llama2-13B) and three benchmarks (RAGTruth, HotpotQA, 2WikiMultiHopQA), our method improves task performance and reduces hallucination rates over the strongest multi-agent baseline. Ablations and critic diagnostics show that the TruthfulQA-calibrated signal provides useful reward shaping that transfers across RAG tasks.
• Abstract（参考訳）: Retrieval-augmented Generation (RAG) は、検索された証拠に言語モデルの基礎を置いているが、その成果には、しばしばその証拠によって支持されない主張が含まれている。 最近のマルチエージェントRAGシステムはパイプラインを協調的な決定に分解するが、通常はEMやF1のような共有タスク報酬の下で全てのエージェントを最適化する。 本稿では,タスク報酬と,ジェネレータの注意基準から計算した内部幻覚リスク信号を組み合わせた幻覚認識型マルチエージェントRAGフレームワークを提案する。 3つのロール固有のLoRAアダプタ、クエリプランナー、エビデンスセレクタ、および応答生成器は、凍結したバックボーンを共有する。 ライトウェイトな批評家は、ひとたびTrathfulQAの真偽/真偽のペアで訓練され、その後凍結し、協調的なPPOトレーニング中に共有報酬に追加される相補的なリスクスコアを提供する。 3つのバックボーン(Qwen3-8B,Llama3-8B,Llama2-13B)と3つのベンチマーク(RAGTruth,HotpotQA,2WikiMultiHopQA)にまたがって,本手法はタスク性能を改善し,最強のマルチエージェントベースラインに対する幻覚率を低減する。 アブレーションと批評家の診断は、TrathfulQAの校正信号がRAGタスク間の転送に有用な報酬形成を提供することを示している。

関連論文リスト

• GTA-RAG: Graph-Trajectory-Augmented Reinforcement Learning for Multi-Turn Retrieval-Augmented Reasoning [27.83191719981676]
  グラフトラジェクトリ拡張RLフレームワークであるtextscGTA-RAG について述べる。 メソッドは、Qwen2.5-3BとQwen2.5-7BのバックボーンでRLベースのRAGベースラインを一貫して上回る。
  論文  参考訳（メタデータ） (2026-08-23T16:05:20Z)
• Divide and Cooperate: Role-Decomposed Multi-Agent LLM Training with Cross-Agent Learning Signals [10.378290102256534]
  既存のアプローチは 一つのポリシーの中で 証拠の取得と 答えの生成を2つに分けます エージェント検索を2つのサブタスクに分割するロール分解型マルチエージェントトレーニングフレームワークであるDAC(Divide and Cooperate)を提案する。 生成装置は、解答生成元と証拠充足検証器の両方として二重の役割を担い、検索された証拠が不十分な場合に停止する。
  論文  参考訳（メタデータ） (2026-06-09T10:40:55Z)
• Rethinking Reasoning-Intensive Retrieval: Evaluating and Advancing Retrievers in Agentic Search Systems [55.04168927059962]
  推論集約的な検索は、単にトピックの類似性に一致するのではなく、下流の推論を支持する証拠を明らかにすることを目的としている。 BRIGHT-Proは、専門家による注釈付きベンチマークで、各クエリを複数アスペクトのゴールドエビデンスで拡張する。 また,相補的な正と正条件の強陰性を生成するアスペクト分解型合成コーパスであるRTriever-Synthを構築した。
  論文  参考訳（メタデータ） (2026-05-05T17:42:50Z)
• CodaRAG: Connecting the Dots with Associativity Inspired by Complementary Learning [50.98972985136333]
  CodaRAGは、受動的検索からアクティブな連想発見へと進化するフレームワークである。 CodaRAGは、検索リコールで7-10%、生成精度で3-11%という絶対的なゲインを達成する。
  論文  参考訳（メタデータ） (2026-04-12T02:50:40Z)
• From Conflict to Consensus: Boosting Medical Reasoning via Multi-Round Agentic RAG [65.0203623486525]
  大規模言語モデル(LLM)は、医学的質問応答において高い推論能力を示す。 幻覚や時代遅れの知識を生み出す傾向は、医療分野において重大なリスクをもたらす。 既存の手法はノイズの多いトークンレベルの信号に依存しており、複雑な推論に必要なマルチラウンドの改良は欠如している。
  論文  参考訳（メタデータ） (2026-02-06T08:25:30Z)
• Rethinking the Reranker: Boundary-Aware Evidence Selection for Robust Retrieval-Augmented Generation [64.09110141948693]
  Retrieval-Augmented Generation (RAG) システムは、現実的な検索ノイズの下でも不安定である。 そこで我々は,BAR-RAGを提案する。このBAR-RAGは,発電機のGoldilocks Zoneをターゲットとした境界認識型エビデンスセレクタである。 Bar-RAGはノイズ検索において、エンドツーエンドのパフォーマンスを一貫して改善する。
  論文  参考訳（メタデータ） (2026-02-03T16:08:23Z)
• SIRAG: Towards Stable and Interpretable RAG with A Process-Supervised Multi-Agent Framework [7.37561751991963]
  本稿では,レシーバとジェネレータのギャップを埋めるプロセス管理型マルチエージェントフレームワークを提案する。 提案するフレームワークはモジュール式でプラグアンドプレイで、レトリバーやジェネレータを変更する必要はない。
  論文  参考訳（メタデータ） (2025-09-17T09:09:28Z)
• Improving Retrieval-Augmented Generation through Multi-Agent Reinforcement Learning [88.55095746156428]
  Retrieval-augmented Generation (RAG) は、外部知識を大規模言語モデルに組み込むために広く利用されている。 標準的なRAGパイプラインは、クエリ書き換え、文書検索、文書フィルタリング、回答生成など、いくつかのコンポーネントで構成されている。 本稿では,複数コンポーネントからなる複雑なRAGパイプラインを多エージェント協調作業として扱うことを提案する。
  論文  参考訳（メタデータ） (2025-01-25T14:24:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。