論文の概要: Large Language Models Can Better Understand Knowledge Graphs Than We Thought

• arxiv url: http://arxiv.org/abs/2402.11541v3
• Date: Sun, 16 Jun 2024 14:16:56 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-19 06:06:06.653643
• Title: Large Language Models Can Better Understand Knowledge Graphs Than We Thought
• Title（参考訳）: 大規模言語モデルは、思った以上に知識グラフを理解することができる
• Authors: Xinbang Dai, Yuncheng Hua, Tongtong Wu, Yang Sheng, Qiu Ji, Guilin Qi,
• Abstract要約: 知識グラフ(KG) モデルパラメータの埋め込みはますますコストがかかる。 現在のプロンプト方式は、しばしばトライアル・アンド・エラー方式に依存している。 非順序線形化三重項は、流線型NLテキストと比較して、LLMのKG理解に有効であることを示す。
• 参考スコア（独自算出の注目度）: 13.336418752729987
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As the parameter scale of large language models (LLMs) grows, jointly training knowledge graph (KG) embeddings with model parameters to enhance LLM capabilities becomes increasingly costly. Consequently, the community has shown interest in developing prompt strategies that effectively integrate KG information into LLMs. However, the format for incorporating KGs into LLMs lacks standardization; for instance, KGs can be transformed into linearized triples or natural language (NL) text. Current prompting methods often rely on a trial-and-error approach, leaving researchers with an incomplete understanding of which KG input format best facilitates LLM comprehension of KG content. To elucidate this, we design a series of experiments to explore LLMs' understanding of different KG input formats within the context of prompt engineering. Our analysis examines both literal and attention distribution levels. Through extensive experiments, we indicate a counter-intuitive phenomenon: when addressing fact-related questions, unordered linearized triples are more effective for LLMs' understanding of KGs compared to fluent NL text. Furthermore, noisy, incomplete, or marginally relevant subgraphs can still enhance LLM performance. Finally, different LLMs have distinct preferences for different formats of organizing unordered triples.
• Abstract（参考訳）: 大規模言語モデル(LLM)のパラメータスケールが大きくなるにつれて、LLM能力を高めるためにモデルパラメータを組み込んだ知識グラフ(KG)を共同で訓練するコストが増大する。 その結果、コミュニティはKG情報をLLMに効果的に統合する迅速な戦略開発に関心を示してきた。 しかし、KGをLLMに組み込む形式は標準化に欠けており、例えば、KGは線形化された三重項や自然言語(NL)テキストに変換することができる。 現在のプロンプト法はしばしば試行錯誤法に依存しており、研究者はKG入力形式がどのKGコンテンツのLLM理解を最も促進するかを不完全な理解で残している。 そこで我々は,様々なKG入力形式に対するLCMの理解を,プロンプトエンジニアリングの文脈内で研究するための一連の実験を設計した。 本分析では,リテラル分布とアテンション分布の双方について検討する。 事実関連問題に対処する場合, 線形化されていない三重項は, 流動的なNLテキストに比べてLLMのKG理解に有効である。 さらに、ノイズ、不完全、あるいは辺縁関係のサブグラフはLLM性能を向上することができる。 最後に、異なるLLMは、順序のないトリプルを整理する異なるフォーマットをそれぞれ好んでいる。

関連論文リスト

• Thinking with Knowledge Graphs: Enhancing LLM Reasoning Through Structured Data [0.9284740716447338]
  大規模言語モデル(LLM)は、自然言語の理解と生成において顕著な能力を示した。 近年の研究では、知識グラフ(KG)を活用してLLM性能を向上させるという有望な成果が示されている。 我々は、KG構造と意味論をLLM表現に密に統合する様々な手法を開発した。
  論文  参考訳（メタデータ） (2024-12-14T02:51:47Z)
• GIVE: Structured Reasoning of Large Language Models with Knowledge Graph Inspired Veracity Extrapolation [108.2008975785364]
  Graph Inspired Veracity Extrapolation (GIVE)は、パラメトリックメモリと非パラメトリックメモリを融合して、最小の外部入力で正確な推論を改善する新しい推論手法である。 GIVE は LLM エージェントをガイドして,最も関連する専門家データ (observe) を選択し,クエリ固有の発散思考 (reflect) に従事し,その情報を合成して最終的な出力 (speak) を生成する。
  論文  参考訳（メタデータ） (2024-10-11T03:05:06Z)
• Combining Knowledge Graphs and Large Language Models [4.991122366385628]
  大規模言語モデル(LLM)は、言語理解と生成において驚くべき結果を示す。 幻覚やドメイン固有の知識の欠如など、いくつかの欠点がある。 これらの問題は知識グラフ(KG)を組み込むことで効果的に緩和することができる。 本研究は、KGを用いたLLM、LLMベースのKG、LLM-KGハイブリッドアプローチに関する28の論文の概要をまとめた。
  論文  参考訳（メタデータ） (2024-07-09T05:42:53Z)
• Prompting Large Language Models with Knowledge Graphs for Question Answering Involving Long-tail Facts [50.06633829833144]
  大規模言語モデル(LLM)は、様々なNLPタスクを実行するのに効果的であるが、広範囲の現実世界の知識を必要とするタスクを扱うのに苦労する。 我々は,関連する疑問に答えるために,長期的事実の知識を必要とするベンチマークを提案する。 実験の結果,LLMだけでこれらの疑問に答えるのに苦労していることが明らかとなった。
  論文  参考訳（メタデータ） (2024-05-10T15:10:20Z)
• FAC$^2$E: Better Understanding Large Language Model Capabilities by Dissociating Language and Cognition [56.76951887823882]
  大規模言語モデル(LLM)は、主に様々なテキスト理解および生成タスクにおける全体的なパフォーマンスによって評価される。 FAC$2$E, FAC$2$Eについて述べる。
  論文  参考訳（メタデータ） (2024-02-29T21:05:37Z)
• Supervised Knowledge Makes Large Language Models Better In-context Learners [94.89301696512776]
  大規模言語モデル(LLM)は、素早い工学を通して、文脈内学習能力の出現を示す。 自然言語理解と質問応答におけるLLMの一般化性と事実性の向上という課題は、まだ未解決のままである。 本研究では, LLM の信頼性を高める枠組みを提案する。1) 分布外データの一般化,2) 差別モデルによる LLM のメリットの解明,3) 生成タスクにおける幻覚の最小化。
  論文  参考訳（メタデータ） (2023-12-26T07:24:46Z)
• Investigating the Factual Knowledge Boundary of Large Language Models with Retrieval Augmentation [109.8527403904657]
  大規模言語モデル(LLM)は,その知識に対する信頼度が低く,内部知識と外部知識の衝突をうまく扱えないことを示す。 検索の強化は、LLMの知識境界に対する認識を高める効果的なアプローチであることが証明されている。 本稿では,文書を動的に活用するための簡易な手法を提案する。
  論文  参考訳（メタデータ） (2023-07-20T16:46:10Z)
• Give Us the Facts: Enhancing Large Language Models with Knowledge Graphs for Fact-aware Language Modeling [34.59678835272862]
  代表的大規模言語モデル(LLM)であるChatGPTは、その強力な創発的能力のために注目されている。 本稿では,知識グラフ強化大言語モデル(KGLLM)によるLLMの強化を提案する。 KGLLMはLLMの事実推論能力を高めるソリューションを提供し、LLM研究のための新たな道を開く。
  論文  参考訳（メタデータ） (2023-06-20T12:21:06Z)
• Unifying Large Language Models and Knowledge Graphs: A Roadmap [61.824618473293725]
  大規模言語モデル(LLM)は、自然言語処理と人工知能の分野で新たな波を発生させている。 知識グラフ(KG)、ウィキペディア、フアプ(英語版)は、豊富な事実知識を明示的に記憶する構造化された知識モデルである。
  論文  参考訳（メタデータ） (2023-06-14T07:15:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。