論文の概要: Plan-on-Graph: Self-Correcting Adaptive Planning of Large Language Model on Knowledge Graphs

• arxiv url: http://arxiv.org/abs/2410.23875v1
• Date: Thu, 31 Oct 2024 12:37:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-01 17:02:02.698316
• Title: Plan-on-Graph: Self-Correcting Adaptive Planning of Large Language Model on Knowledge Graphs
• Title（参考訳）: Plan-on-Graph:知識グラフに基づく大規模言語モデルの自己修正適応計画
• Authors: Liyi Chen, Panrong Tong, Zhongming Jin, Ying Sun, Jieping Ye, Hui Xiong,
• Abstract要約: 知識グラフ(KG)は、大規模言語モデル(LLM)のための明示的で編集可能な知識を提供する。 KG拡張LLMの既存のパラダイムは、探索空間の幅を手動で定義し、KGに欠陥のないナビゲーションを必要とする。 我々は、Plan-on-Graph(PoG)という、KG拡張LLMのための新しい自己修正適応計画パラダイムを提案する。
• 参考スコア（独自算出の注目度）: 45.10037731579319
• License:
• Abstract: Large Language Models (LLMs) have shown remarkable reasoning capabilities on complex tasks, but they still suffer from out-of-date knowledge, hallucinations, and opaque decision-making. In contrast, Knowledge Graphs (KGs) can provide explicit and editable knowledge for LLMs to alleviate these issues. Existing paradigm of KG-augmented LLM manually predefines the breadth of exploration space and requires flawless navigation in KGs. However, this paradigm cannot adaptively explore reasoning paths in KGs based on the question semantics and self-correct erroneous reasoning paths, resulting in a bottleneck in efficiency and effect. To address these limitations, we propose a novel self-correcting adaptive planning paradigm for KG-augmented LLM named Plan-on-Graph (PoG), which first decomposes the question into several sub-objectives and then repeats the process of adaptively exploring reasoning paths, updating memory, and reflecting on the need to self-correct erroneous reasoning paths until arriving at the answer. Specifically, three important mechanisms of Guidance, Memory, and Reflection are designed to work together, to guarantee the adaptive breadth of self-correcting planning for graph reasoning. Finally, extensive experiments on three real-world datasets demonstrate the effectiveness and efficiency of PoG.
• Abstract（参考訳）: 大きな言語モデル(LLM)は複雑なタスクに対して顕著な推論能力を示しているが、それでもなお、時代遅れの知識、幻覚、不透明な意思決定に悩まされている。 対照的に、知識グラフ(KG)は、これらの問題を緩和するためにLLMに対して明示的で編集可能な知識を提供することができる。 KG拡張LLMの既存のパラダイムは、探索空間の幅を手動で定義し、KGに欠陥のないナビゲーションを必要とする。 しかし、このパラダイムは問題意味論と自己誤り推論経路に基づいてKGの推論経路を適応的に探索することはできず、効率と効果のボトルネックとなる。 これらの制約に対処するため、我々は、まずいくつかのサブオブジェクトに分割し、その後、推論経路を適応的に探索し、記憶を更新し、答えに到達するまで自己修正の誤った推論経路の必要性を反映する、KG拡張LLMのための新しい自己修正適応計画パラダイムであるPlan-on-Graph(PoG)を提案する。 具体的には、グラフ推論のための自己修正計画の適応的な幅を保証するために、ガイダンス、メモリ、リフレクションの3つの重要なメカニズムが連携するよう設計されている。 最後に、3つの実世界のデータセットに関する広範な実験により、PoGの有効性と効率が示された。

関連論文リスト

• Simple is Effective: The Roles of Graphs and Large Language Models in Knowledge-Graph-Based Retrieval-Augmented Generation [9.844598565914055]
  大きな言語モデル(LLM)は強い推論能力を示すが、幻覚や時代遅れの知識のような制限に直面している。 本稿では、サブグラフを検索する知識グラフ(KG)ベースのRetrieval-Augmented Generation(RAG)フレームワークを拡張するSubgraphRAGを紹介する。 提案手法は,高効率かつフレキシブルなサブグラフ検索を実現するために,並列3重装飾機構を備えた軽量多層パーセプトロンを革新的に統合する。
  論文  参考訳（メタデータ） (2024-10-28T04:39:32Z)
• Paths-over-Graph: Knowledge Graph Empowered Large Language Model Reasoning [19.442426875488675]
  我々は,KGから知識推論経路を統合することで,Large Language Models(LLM)推論を強化する新しい手法であるPaths-over-Graph(PoG)を提案する。 PoGは3段階の動的マルチホップパス探索を通じて、マルチホップとマルチエンタリティの問題に取り組む。 実験では、GPT-3.5-TurboのPoGは、GPT-4のToGを最大23.9%上回った。
  論文  参考訳（メタデータ） (2024-10-18T06:57:19Z)
• Graph-constrained Reasoning: Faithful Reasoning on Knowledge Graphs with Large Language Models [83.28737898989694]
  大規模言語モデル(LLM)は知識ギャップと幻覚のために忠実な推論に苦しむ。 グラフ制約推論(GCR)は、KGにおける構造的知識とLLMにおける非構造的推論を橋渡しする新しいフレームワークである。 GCRは最先端のパフォーマンスを達成し、追加のトレーニングをすることなく、見えないKGに対して強力なゼロショット一般化性を示す。
  論文  参考訳（メタデータ） (2024-10-16T22:55:17Z)
• Debate on Graph: a Flexible and Reliable Reasoning Framework for Large Language Models [33.662269036173456]
  大規模言語モデル(LLM)は、関連する知識の欠如により、現実世界の応用において幻覚に悩まされることがある。 KGQA(Knowledge Graph Question Answering)は、統合のための重要な手掛かりとなる。 LLMの対話型学習機能を活用してグラフ上での推論と議論を行う対話型KGQAフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-09-05T01:11:58Z)
• Learning to Plan for Retrieval-Augmented Large Language Models from Knowledge Graphs [59.76268575344119]
  知識グラフ(KG)から得られた計画データを用いて,大規模言語モデル(LLM)計画能力を向上するための新しいフレームワークを提案する。 KGデータで微調整されたLLMは、計画能力を向上し、検索を含む複雑なQAタスクを処理するのがより適している。
  論文  参考訳（メタデータ） (2024-06-20T13:07:38Z)
• EffiQA: Efficient Question-Answering with Strategic Multi-Model Collaboration on Knowledge Graphs [11.323661062578799]
  EffiQAは、グローバルプランニング、効率的なKG探査、自己回帰という3つの段階で構成されている。 複数のKBQAベンチマークに関する実証的な証拠は、EffiQAの有効性を示している。 提案された新しいフレームワークが、効率的で知識集約的なクエリの道を開くことを期待しています。
  論文  参考訳（メタデータ） (2024-06-03T11:56:07Z)
• ReasoningLM: Enabling Structural Subgraph Reasoning in Pre-trained Language Models for Question Answering over Knowledge Graph [142.42275983201978]
  本稿では,構造化推論を行うためのGNNを模倣するサブグラフ認識型自己認識機構を提案する。 また、モデルパラメータを2万のサブグラフで合成した質問に適応するための適応チューニング戦略も採用する。 実験により、ReasoningLMは、更新されたパラメータが少なく、トレーニングデータが少ない場合でも、最先端のモデルを大きなマージンで上回っていることが示された。
  論文  参考訳（メタデータ） (2023-12-30T07:18:54Z)
• Mitigating Large Language Model Hallucinations via Autonomous Knowledge Graph-based Retrofitting [51.7049140329611]
  本稿では,知識グラフに基づくリトロフィッティング(KGR)を提案する。 実験により,実QAベンチマークにおいて,KGRはLLMの性能を大幅に向上できることが示された。
  論文  参考訳（メタデータ） (2023-11-22T11:08:38Z)
• Reasoning on Graphs: Faithful and Interpretable Large Language Model Reasoning [104.92384929827776]
  大規模言語モデル(LLM)は複雑なタスクにおいて顕著な推論能力を示している。 彼らは推論中に最新の知識と幻覚を欠いている。 知識グラフ(KG)は、推論のための信頼できる知識源を提供する。
  論文  参考訳（メタデータ） (2023-10-02T10:14:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。