論文の概要: Outcome-Anchored Credit Reallocation for Agentic Knowledge Graph Question Answering
- arxiv url: http://arxiv.org/abs/2610.25384v1
- Date: Sun, 18 Oct 2026 16:36:50 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:01:49.801484
- Title: Outcome-Anchored Credit Reallocation for Agentic Knowledge Graph Question Answering
- Title(参考訳): エージェント知識グラフ質問応答のためのアウトカム・アンコレッド・クレジット・レロケーション
- Abstract要約: エージェント知識グラフ質問応答(KGQA)は、複雑な質問を解決するために大きな言語モデル(LLM)を必要とする。
トレーニングのみのKG状態結果モデルを用いたOACR(Outcome-Anchored Credit Reallocation)を提案する。
OACR は既存の KGQA メソッドよりも性能が優れており、推論時 LLM コールやトークンは少ない。
- 参考スコア(独自算出の注目度): 13.363237312598216
- License:
- Abstract: Agentic knowledge graph question answering (KGQA) requires large language models (LLMs) to solve complex questions through multi-turn interactions with a knowledge graph (KG). Outcome-supervised reinforcement learning derives verifiable outcome rewards from final answers but uniformly assigns each rollout's outcome-level advantage to all policy-generated tokens, creating a trajectory-to-operation mismatch since KG operations within a rollout can have varying effects on the search process and final answer. To address this, we propose Outcome-Anchored Credit Reallocation (OACR), which employs a training-only KG-state outcome model to estimate outcome-reward changes between adjacent KG search states and converts them into operation credit, from which token-wise weights are derived. These multiplicative weights reallocate token-level update magnitudes while preserving the sign of the outcome-level advantage at every generated token. Across three benchmarks, OACR achieves stronger overall performance than existing KGQA methods while using fewer inference-time LLM calls and tokens.
- Abstract(参考訳): エージェント知識グラフ質問応答(KGQA)は、知識グラフ(KG)とのマルチターン相互作用を通じて複雑な質問を解決するために、大きな言語モデル(LLM)を必要とする。
結果教師付き強化学習は、最終回答から検証可能な結果報酬を導出するが、各ロールアウトの結果レベルの利点を全てのポリシー生成トークンに均一に割り当て、ロールアウト内のKG操作が検索プロセスと最終回答に様々な影響を与えるため、軌道間ミスマッチを生成する。
そこで本研究では,隣接するKG検索状態間の結果逆変化を推定し,トークン単位の重み付けを導出する操作クレジットに変換するために,トレーニングのみのKG状態結果モデルを用いて,OACR(Outcome-Anchored Credit Reallocation)を提案する。
これらの乗法重みは、生成されたトークン毎に結果レベルの利点のサインを保持しながら、トークンレベルの更新の規模を再配置する。
3つのベンチマークで、OACRは既存のKGQAメソッドよりも全体的なパフォーマンスを向上し、推論時のLCM呼び出しとトークンを少なくする。
関連論文リスト
- OpCredit: Operation-Aware Policy Learning for Agentic Knowledge Graph Question Answering [13.363237312598216]
エージェント知識グラフ質問応答は実行可能な操作のシーケンスに依存するが、軌道レベルの報酬は個々の貢献を曖昧にする。
我々は、下流の成果クレジットと即時移行クレジットを組み合わせたオペレータウェアなポリシー学習フレームワークであるOpCreditを提案する。
ComplexWebQuestions、WebQSP、GrailQAの3つのバックボーンによる実験は、KGQAのパフォーマンスが一貫した改善を示している。
論文 参考訳(メタデータ) (2026-10-15T06:29:17Z) - TRACE: A Unified Rollout Budget Allocation Framework for Efficient Agentic Reinforcement Learning [52.67756371231985]
検証可能な報酬を伴う強化学習(RLVR)は、大規模言語モデルにおける推論とエージェント的行動を強化するための有望なアプローチである。
本稿では,Tree Rollout Allocation for Contrastive Exploration (TRACE)について紹介する。
技術的には、TRACEはロールアウト予算をルートと中間プレフィックスの両方に割り当てている。
論文 参考訳(メタデータ) (2026-06-09T17:16:03Z) - Can Knowledge-Graph-based Retrieval Augmented Generation Really Retrieve What You Need? [57.28763506780752]
GraphFlowは、テキストリッチなKGから現実世界のクエリに必要な正確で多様な知識を効率的に取得するフレームワークである。
GPT-4oを含む強力なKG-RAGベースラインを10%上回り、ヒット率とリコール率で上回る。
また、KGを見えないものに強く一般化し、その有効性と堅牢性を示す。
論文 参考訳(メタデータ) (2025-10-18T17:06:49Z) - Towards Open-World Retrieval-Augmented Generation on Knowledge Graph: A Multi-Agent Collaboration Framework [21.896955284099334]
大きな言語モデル(LLM)は、言語理解と推論において強力な能力を示している。
Retrieval-Augmented Generation (RAG)は、外部知識ソースを組み込むことによって、この制限に対処する。
AnchorRAGは,オープンワールドRAGのための,事前定義されたアンカーエンティティを持たない新しいマルチエージェント協調フレームワークである。
論文 参考訳(メタデータ) (2025-09-01T08:26:12Z) - KG-CQR: Leveraging Structured Relation Representations in Knowledge Graphs for Contextual Query Retrieval [5.263064605350636]
我々は、コンテキストクエリ検索(CQR)のための新しいフレームワークであるKG-CQRを提案する。
KG-CQRは、構造化された関係表現によるクエリエンリッチメントに焦点を当て、関連するKGサブグラフを抽出して、セマンティックにリッチなクエリコンテキストを生成する。
RAGBenchとMultiHop-RAGデータセットの実験結果は、KG-CQRの優れたパフォーマンスを示し、mAPが4-6%改善され、強力なベースラインモデルよりもRecall@25が2-3%改善された。
論文 参考訳(メタデータ) (2025-08-28T04:37:15Z) - Generate-on-Graph: Treat LLM as both Agent and KG in Incomplete Knowledge Graph Question Answering [87.67177556994525]
我々は、知識グラフ(KG)を探索しながら、新しい実写トリプルを生成する、Generate-on-Graph(GoG)と呼ばれる学習自由な手法を提案する。
GoGはIKGQAでLLMをエージェントとKGの両方として扱うThinking-Searching-Generatingフレームワークを通じて推論を行う。
論文 参考訳(メタデータ) (2024-04-23T04:47:22Z) - Logical Message Passing Networks with One-hop Inference on Atomic
Formulas [57.47174363091452]
本稿では,ニューラルネットワーク演算子から知識グラフの埋め込みを分解する,複雑な問合せ応答のためのフレームワークを提案する。
クエリグラフの上に、局所的な原子式上のワンホップ推論とグローバル論理的推論を結びつける論理メッセージパッシングニューラルネットワーク(LMPNN)を提案する。
我々のアプローチは、最先端のニューラルCQAモデルをもたらす。
論文 参考訳(メタデータ) (2023-01-21T02:34:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。