論文の概要: Causal Graph Discovery with Retrieval-Augmented Generation based Large
Language Models
- arxiv url: http://arxiv.org/abs/2402.15301v1
- Date: Fri, 23 Feb 2024 13:02:10 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-26 14:29:49.099407
- Title: Causal Graph Discovery with Retrieval-Augmented Generation based Large
Language Models
- Title(参考訳): 検索型大規模言語モデルを用いた因果グラフ探索
- Authors: Yuzhe Zhang, Yipeng Zhang, Yidong Gan, Lina Yao, Chen Wang
- Abstract要約: 本稿では,科学文献の大規模コーパスに含まれる広範な知識を利用して,一般的な因果グラフ回復タスクにおける因果関係を推定する手法を提案する。
本手法はまず,文献から関連テキストのチャンクを抽出し,各因子の関連性を識別し,ラベル付けする。
本手法は,文献のみからよく知られたSACHSデータセット上で,高品質な因果グラフを構築することができることを示す。
- 参考スコア(独自算出の注目度): 25.14578008156799
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Causal graph recovery is essential in the field of causal inference.
Traditional methods are typically knowledge-based or statistical
estimation-based, which are limited by data collection biases and individuals'
knowledge about factors affecting the relations between variables of interests.
The advance of large language models (LLMs) provides opportunities to address
these problems. We propose a novel method that utilizes the extensive knowledge
contained within a large corpus of scientific literature to deduce causal
relationships in general causal graph recovery tasks. This method leverages
Retrieval Augmented-Generation (RAG) based LLMs to systematically analyze and
extract pertinent information from a comprehensive collection of research
papers. Our method first retrieves relevant text chunks from the aggregated
literature. Then, the LLM is tasked with identifying and labelling potential
associations between factors. Finally, we give a method to aggregate the
associational relationships to build a causal graph. We demonstrate our method
is able to construct high quality causal graphs on the well-known SACHS dataset
solely from literature.
- Abstract(参考訳): 因果グラフの回復は因果推論の分野において不可欠である。
従来の手法は一般に知識ベースや統計的推定ベースであり、データ収集バイアスや個人の関心変数間の関係に影響する要因に関する知識によって制限される。
大規模言語モデル(LLM)の進歩は、これらの問題に対処する機会を提供する。
本研究では,科学文献の大規模なコーパスに含まれる膨大な知識を活用し,因果関係を推定する新しい手法を提案する。
本手法は,RAG(Retrieval Augmented-Generation)に基づくLLMを用いて,総合的な研究論文コレクションから関連する情報を体系的に分析・抽出する。
本手法は,まず文献から関連するテキストチャンクを検索する。
次に、LSMは因子間の潜在的な関連を識別しラベル付けする。
最後に,関係関係を集約して因果グラフを構築する手法を提案する。
本手法は,文献のみでよく知られたサックスデータセット上に高品質な因果グラフを構築できることを実証する。
関連論文リスト
- Graph-Based Retriever Captures the Long Tail of Biomedical Knowledge [2.2814097119704058]
大規模言語モデル(LLM)は、膨大な知識を要約して提示することで、情報の検索方法を変えつつある。
LLMはトレーニングセットから最も頻繁に見られる情報を強調し、まれな情報を無視する傾向があります。
本稿では,これらのクラスタをダウンサンプリングし,情報過負荷問題を緩和するために知識グラフを活用する新しい情報検索手法を提案する。
論文 参考訳(メタデータ) (2024-02-19T18:31:11Z) - Discovery of the Hidden World with Large Language Models [100.38157787218044]
COAT: Causal representatiOn AssistanTについて紹介する。
COATは、非構造化データから潜在的な因果因子を抽出する因子プロジェクタとしてLLMを組み込んでいる。
LLMはデータ値の収集に使用される追加情報を提供するよう指示することもできる。
論文 参考訳(メタデータ) (2024-02-06T12:18:54Z) - Multi-modal Causal Structure Learning and Root Cause Analysis [67.67578590390907]
根本原因局所化のためのマルチモーダル因果構造学習手法であるMulanを提案する。
ログ選択言語モデルを利用してログ表現学習を行い、ログシーケンスを時系列データに変換する。
また、モダリティの信頼性を評価し、最終因果グラフを共同学習するための新しいキーパフォーマンスインジケータ対応アテンション機構も導入する。
論文 参考訳(メタデータ) (2024-02-04T05:50:38Z) - Zero-shot Causal Graph Extrapolation from Text via LLMs [50.596179963913045]
我々は,自然言語から因果関係を推定する大規模言語モデル (LLM) の能力を評価する。
LLMは、(特別な)トレーニングサンプルを必要とせずにペア関係のベンチマークで競合性能を示す。
我々は、反復的なペアワイズクエリを通して因果グラフを外挿するアプローチを拡張した。
論文 参考訳(メタデータ) (2023-12-22T13:14:38Z) - Castor: Causal Temporal Regime Structure Learning [58.79788281088465]
CASTOR(Castor)は,多種多様な時系列データから因果関係を学習するためのフレームワークである。
EMアルゴリズムによるスコア関数の気候を通じて、CASTORはレジームの数を推定し、各レジームにおける線形または非線形因果関係を学習する。
論文 参考訳(メタデータ) (2023-11-02T17:26:49Z) - DIVKNOWQA: Assessing the Reasoning Ability of LLMs via Open-Domain
Question Answering over Knowledge Base and Text [73.68051228972024]
大きな言語モデル(LLM)は印象的な生成能力を示すが、内部知識に依存すると幻覚に悩まされる。
検索拡張LDMは、外部知識においてLLMを基盤とする潜在的な解決策として出現している。
論文 参考訳(メタデータ) (2023-10-31T04:37:57Z) - Inducing Causal Structure for Abstractive Text Summarization [76.1000380429553]
要約データの因果構造を誘導する構造因果モデル(SCM)を導入する。
本稿では因果的要因を模倣できる因果的表現を学習するための因果性インスピレーション付き系列列列モデル(CI-Seq2Seq)を提案する。
2つの広く使われているテキスト要約データセットの実験結果は、我々のアプローチの利点を示している。
論文 参考訳(メタデータ) (2023-08-24T16:06:36Z) - SARF: Aliasing Relation Assisted Self-Supervised Learning for Few-shot
Relation Reasoning [43.59319243928048]
知識グラフ (FS-KGR) に基づく一括関係推論は, 長期データと不適切な関係を推定することを目的としている。
本稿では, Aliasing Relations を利用して, SARF と呼ばれる FS-KGR を支援する新しい自己教師付き学習モデルを提案する。
論文 参考訳(メタデータ) (2023-04-20T13:24:59Z) - A Survey on Extraction of Causal Relations from Natural Language Text [9.317718453037667]
因果関係はテキストに頻繁に現れ、テキストから因果関係を計算することで、予測タスクのための因果関係を構築するのに役立つ。
既存の因果抽出技術には、知識ベース、統計機械学習(ML)ベース、深層学習ベースアプローチなどがある。
論文 参考訳(メタデータ) (2021-01-16T10:49:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。