論文の概要: SPARK: Self-Play with Asymmetric Reward from Knowledge Graphs
- arxiv url: http://arxiv.org/abs/2605.05546v1
- Date: Thu, 07 May 2026 00:51:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-08 22:27:11.464488
- Title: SPARK: Self-Play with Asymmetric Reward from Knowledge Graphs
- Title(参考訳): SPARK:知識グラフからの非対称リワードによるセルフプレイ
- Abstract要約: 自己再生強化学習は、形式的に検証可能な構造を持つ領域で強い性能を示している。
多文書科学文献から統合知識グラフ(KG)を自動構築するフレームワークであるSPARKを提案する。
単一の小さな視覚言語モデル(sVLM)は、情報非対称性の下でプロポーラとソルバーの役割を、固定KGに対して交互に置き換える。
その結果、SPARKはフラットコーパスベースのセルフプレイベースラインよりも一貫して優れていた。
- 参考スコア(独自算出の注目度): 2.1636750837987195
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Self-play reinforcement learning has shown strong performance in domains with formally verifiable structure, such as mathematics and coding, where both problem generation and reward computation can be grounded in explicit rules. Extending this paradigm to scientific literature is more challenging: the relationships among multi-modal elements within and across documents are rarely made explicit in text, which makes automatic generation of relational reasoning questions difficult and weakens the reliability of reward signals. We propose SPARK (Self-Play with Asymmetric Reward from Knowledge Graphs), a framework that automatically constructs a unified knowledge graph (KG) from multi-document scientific literature and uses it as the structural basis for self-play. KG paths over multimodal nodes serve as a source for generating relational reasoning questions, and structured facts stored in the KG provide a basis for verifiable reward computation. A single small vision-language model (sVLM) alternates between Proposer and Solver roles under information asymmetry against a fixed KG, a design that we believe can be naturally extended toward online adaptation in future work. We evaluate SPARK on public benchmarks and a self-constructed cross-document multi-hop QA dataset. Results show that SPARK consistently outperforms flat-corpus-based self-play baselines, and the performance gap widens as hop count increases, suggesting that KG-structure grounding contributes to relational multi-hop reasoning beyond what unstructured corpus grounding can provide.
- Abstract(参考訳): 自己プレイ強化学習は、数学やコーディングのような形式的に検証可能な構造を持つ領域において、問題生成と報酬計算の両方を明示的な規則で基礎付けることができる、強い性能を示している。
このパラダイムを科学文献に拡張することは、より困難である:文書内および文書間のマルチモーダル要素間の関係は、テキストで明示されることが滅多になく、関係性推論問題の自動生成が困難になり、報酬信号の信頼性が低下する。
SPARK(Self-Play with Asymmetric Reward from Knowledge Graphs)は,多文書科学文献から統合知識グラフ(KG)を自動的に構築し,自己再生のための構造基盤として利用するフレームワークである。
マルチモーダルノード上のKGパスは、関係推論問題を生成するためのソースとして機能し、KGに格納された構造化事実は、検証可能な報酬計算の基盤となる。
1つの小さな視覚言語モデル(sVLM)はProposerとSolverの役割を、固定されたKGに対して情報非対称性の下で交互に行う。
公開ベンチマークと自己構築型クロスドキュメントマルチホップQAデータセットを用いてSPARKを評価する。
その結果、SPARKは平板コーパスベースラインを一貫して上回り、ホップ数の増加とともに性能ギャップが拡大し、KG構造グラウンド化が非構造コーパスグラウンド化が提供するもの以上のリレーショナルマルチホップ推論に寄与することが示唆された。
関連論文リスト
- Structure-Internalized Rule Language Model for Faithful Knowledge Graph Reasoning [6.421907131279842]
KGR(Knowledge Graph Reasoning)は、KG(Knowledge Graphs)で利用可能な構造的証拠を活用することで、潜伏した事実を発見することを目的とする。
近年の研究では、Large Language Models (LLM) が、フレキシブル・イン・コンテクスト・ラーニング(英語版)により、KGRタスクにおいて顕著な進歩を達成できることが示されている。
本稿では,KG構造文脈とLLMパラメトリック知識との整合性を表現するために,構造化規則言語モデル(SIRLM)を提案する。
論文 参考訳(メタデータ) (2026-08-18T07:21:20Z) - HyGRL: Adaptive Hybrid Graph Reasoning for Multi-Entity Questions [6.383838707344047]
構造化知識グラフに非構造化テキストを埋め込む統合フレームワークである textbffwa を提案する。
推論はアダプティブな構造誘導として定式化され、頑健な2段階のプロセスを通して学習される。
実験により、fwaはテキストの豊かさと構造的知識を効果的に融合し、SOTAベースラインを上回り、答えの正確さと推論の忠実さを上回ります。
論文 参考訳(メタデータ) (2026-07-04T07:07:15Z) - RAGA: Reading-And-Graph-building-Agent for Autonomous Knowledge Graph Construction and Retrieval-Augmented Generation [1.7016397531234393]
RAGA(Reading And Graph-building Agent)は、自律的な知識グラフの構築と検索のためのフレームワークである。
完全なKGライフサイクルCRUD操作を提供し、Read-Search-Verify-Verify認知制約をReActツールループに埋め込む。
QASPERの科学QAデータセットのサブセットに関する予備実験は、RAGAの融合検索がゼロショットベースラインを上回っていることを示している。
論文 参考訳(メタデータ) (2026-05-16T16:42:50Z) - A Human-in-the-Loop, LLM-Centered Architecture for Knowledge-Graph Question Answering [41.99844472131922]
大きな言語モデルは言語理解において優れているが、知識集約的なドメインでは限られている。
この研究は、LLMがCypherグラフクエリを生成して説明するインタラクティブなフレームワークを導入している。
論文 参考訳(メタデータ) (2026-02-05T10:10:19Z) - Plan Then Retrieve: Reinforcement Learning-Guided Complex Reasoning over Knowledge Graphs [52.16166558205338]
Graph-RFTは、"plan-KGsearch-and-Websearch-during-think"パラダイムを備えた、2段階強化KGQAフレームワークである。
これにより、LLMは、不完全な知識条件下で、KGやWebソース間で自律的な計画と適応的なスケジューリングを行うことができる。
論文 参考訳(メタデータ) (2025-10-23T16:04:13Z) - Enrich-on-Graph: Query-Graph Alignment for Complex Reasoning with LLM Enriching [61.824094419641575]
大言語モデル(LLM)は知識グラフ質問応答(KGQA)のような知識集約的なシナリオにおける幻覚と事実的誤りに苦しむ
これは、構造化知識グラフ(KG)と非構造化クエリのセマンティックギャップによるもので、その焦点や構造に固有の違いが原因である。
既存の手法は通常、バニラKGの資源集約的で非スケーリング可能な推論を用いるが、このギャップを見落としている。
我々は、LLMの事前知識を活用してKGを充実させる柔軟なフレームワークEnrich-on-Graph(EoG)を提案し、グラフとクエリ間のセマンティックギャップを埋める。
論文 参考訳(メタデータ) (2025-09-25T06:48:52Z) - GRIL: Knowledge Graph Retrieval-Integrated Learning with Large Language Models [59.72897499248909]
本稿では,Large Language Models (LLM) を用いたエンドツーエンド学習のための新しいグラフ検索手法を提案する。
抽出したサブグラフでは, 構造的知識と意味的特徴をそれぞれ軟式トークンと言語化グラフで符号化し, LLMに注入する。
提案手法は、複雑な推論タスクに対する結合グラフ-LLM最適化の強みを検証し、最先端の性能を一貫して達成する。
論文 参考訳(メタデータ) (2025-09-20T02:38:00Z) - Knowledge Graph-extended Retrieval Augmented Generation for Question Answering [10.49712834719005]
本稿では,Large Language Models (LLMs) とKGs (KGs) を統合するシステムを提案する。
結果として得られるアプローチは、KGを持つ検索拡張生成(RAG)の特定の形式に分類される。
質問分解モジュールを含み、マルチホップ情報検索と回答可能性を高める。
論文 参考訳(メタデータ) (2025-04-11T18:03:02Z) - Grounding LLM Reasoning with Knowledge Graphs [4.279373869671241]
我々は、知識グラフと推論戦略を統合することで、KGデータにおける推論チェーンのすべてのステップまたは"思想"をアンカーする。
我々は,Chain-of-Thought (CoT), Tree-of-Thought (ToT), Graph-of-Thought (GoT) など,いくつかの推論手法によるエージェント検索と自動検索の両方を評価した。
我々の実験は、このアプローチがベースラインモデルより一貫して優れていることを示した。
論文 参考訳(メタデータ) (2025-02-18T19:20:46Z) - Ontology-grounded Automatic Knowledge Graph Construction by LLM under Wikidata schema [60.42231674887294]
本稿では,Large Language Models (LLMs) を用いた知識グラフ構築のためのオントロジー的アプローチを提案する。
我々は、一貫性と解釈可能性を確保するために、抽出された関係に基づいて、著者によるオントロジーによるKGの基底生成を行う。
我々の研究は、人間の介入を最小限に抑えたスケーラブルなKG建設パイプラインの実現に向けて有望な方向を示し、高品質で人間に解釈可能なKGを生み出す。
論文 参考訳(メタデータ) (2024-12-30T13:36:05Z) - Decoding on Graphs: Faithful and Sound Reasoning on Knowledge Graphs through Generation of Well-Formed Chains [66.55612528039894]
知識グラフ(KG)は質問応答(QA)のための信頼できる知識ソースとして機能する。
我々は、LLMとKGの深い相乗効果を促進する新しいフレームワークであるDoG(Decoding on Graphs)を提案する。
様々なKGQAタスクに対して異なるバックグラウンドKGを用いた実験により、DoGが優れた、堅牢なパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2024-10-24T04:01:40Z) - GIVE: Structured Reasoning of Large Language Models with Knowledge Graph Inspired Veracity Extrapolation [108.2008975785364]
Graph Inspired Veracity Extrapolation (GIVE)は、パラメトリックメモリと非パラメトリックメモリを融合して、最小の外部入力で正確な推論を改善する新しい推論手法である。
GIVE は LLM エージェントをガイドして,最も関連する専門家データ (observe) を選択し,クエリ固有の発散思考 (reflect) に従事し,その情報を合成して最終的な出力 (speak) を生成する。
論文 参考訳(メタデータ) (2024-10-11T03:05:06Z) - Learning Federated Neural Graph Databases for Answering Complex Queries from Distributed Knowledge Graphs [53.03085605769093]
我々は、マルチソースグラフデータに対するプライバシ保護推論を促進する先駆的な体系的フレームワークであるFederated Neural Graph DataBase(FedNGDB)を学習することを提案する。
FedNGDBは、フェデレートされた学習を活用して、複数のソースにわたるグラフ表現を協調的に学習し、エンティティ間の関係を強化し、グラフデータの全体的な品質を改善する。
論文 参考訳(メタデータ) (2024-02-22T14:57:44Z) - ReasoningLM: Enabling Structural Subgraph Reasoning in Pre-trained
Language Models for Question Answering over Knowledge Graph [142.42275983201978]
本稿では,構造化推論を行うためのGNNを模倣するサブグラフ認識型自己認識機構を提案する。
また、モデルパラメータを2万のサブグラフで合成した質問に適応するための適応チューニング戦略も採用する。
実験により、ReasoningLMは、更新されたパラメータが少なく、トレーニングデータが少ない場合でも、最先端のモデルを大きなマージンで上回っていることが示された。
論文 参考訳(メタデータ) (2023-12-30T07:18:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。