論文の概要: Causal Discovery with Language Models as Imperfect Experts
- arxiv url: http://arxiv.org/abs/2307.02390v1
- Date: Wed, 5 Jul 2023 16:01:38 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-06 13:06:01.138108
- Title: Causal Discovery with Language Models as Imperfect Experts
- Title(参考訳): 不完全な専門家としての言語モデルによる因果発見
- Authors: Stephanie Long, Alexandre Pich\'e, Valentina Zantedeschi, Tibor
Schuster, Alexandre Drouin
- Abstract要約: 専門知識を用いて因果グラフの同定を改善する方法について検討する。
整合性に基づく専門家の知識を改良するための戦略を提案する。
本稿では,不完全な専門家として大規模言語モデルを用いる実データを用いたケーススタディについて報告する。
- 参考スコア(独自算出の注目度): 119.22928856942292
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Understanding the causal relationships that underlie a system is a
fundamental prerequisite to accurate decision-making. In this work, we explore
how expert knowledge can be used to improve the data-driven identification of
causal graphs, beyond Markov equivalence classes. In doing so, we consider a
setting where we can query an expert about the orientation of causal
relationships between variables, but where the expert may provide erroneous
information. We propose strategies for amending such expert knowledge based on
consistency properties, e.g., acyclicity and conditional independencies in the
equivalence class. We then report a case study, on real data, where a large
language model is used as an imperfect expert.
- Abstract(参考訳): システムの基盤となる因果関係を理解することは、正確な意思決定の基本的な前提条件である。
本研究では,マルコフ同値クラスを超えて,因果グラフのデータ駆動識別を改善するための専門家知識の利用方法を検討する。
そこで我々は,変数間の因果関係の向きについて専門家に問い合わせることができるが,専門家が誤った情報を提供できるような設定を考える。
本稿では,同値類における非巡回性や条件的無依存性など,一貫性特性に基づく専門知識の修正戦略を提案する。
次に、大規模な言語モデルが不完全な専門家として使用される実データに関するケーススタディを報告する。
関連論文リスト
- Discovery of the Hidden World with Large Language Models [100.38157787218044]
COAT: Causal representatiOn AssistanTについて紹介する。
COATは、非構造化データから潜在的な因果因子を抽出する因子プロジェクタとしてLLMを組み込んでいる。
LLMはデータ値の収集に使用される追加情報を提供するよう指示することもできる。
論文 参考訳(メタデータ) (2024-02-06T12:18:54Z) - Detection and Evaluation of bias-inducing Features in Machine learning [14.045499740240823]
機械学習(ML)の文脈では、システムの偏りのある振る舞いの理由を理解するために、原因から影響までの分析を用いることができる。
ドメインエキスパートの意思決定を支援するために,モデルの全バイアス誘発特徴を体系的に同定する手法を提案する。
論文 参考訳(メタデータ) (2023-10-19T15:01:16Z) - Probabilistic Dataset Reconstruction from Interpretable Models [0.0]
最適な解釈可能なモデルの方がコンパクトで、トレーニングデータに関する情報が、厳密に構築されたモデルよりも少ないことが示される。
この結果から,最適解釈可能なモデルの方がコンパクトで,学習データに関する情報が少ないことが示唆された。
論文 参考訳(メタデータ) (2023-08-29T08:10:09Z) - Leveraging Skill-to-Skill Supervision for Knowledge Tracing [13.753990664747265]
知識追跡は知的学習システムにおいて重要な役割を担っている。
知識追跡モデルの最近の進歩は、問題解決の歴史をよりうまく活用することを可能にしている。
知識を直接組み込む知識トレースアルゴリズムは、限られたデータやコールドスタートの設定において重要である。
論文 参考訳(メタデータ) (2023-06-12T03:23:22Z) - A Conceptual Model for End-to-End Causal Discovery in Knowledge Tracing [8.049552839071918]
我々は,知識追跡における因果発見問題の解決に向けて,予備的な一歩を踏み出した。
第3回NeurIPS 2022章「教育における学習経路の因果的洞察への挑戦」の項目の1つにその解決策が挙げられた。
論文 参考訳(メタデータ) (2023-05-11T21:20:29Z) - Competency Problems: On Finding and Removing Artifacts in Language Data [50.09608320112584]
複雑な言語理解タスクでは、すべての単純な特徴相関が突発的であると論じる。
人間バイアスを考慮したコンピテンシー問題に対するデータ作成の難しさを理論的に分析します。
論文 参考訳(メタデータ) (2021-04-17T21:34:10Z) - Leveraging Expert Consistency to Improve Algorithmic Decision Support [89.01584399789951]
歴史的専門家の意思決定を豊富な情報源として利用することを検討します。
観察されたラベルだけで学習する制限を緩和するために活用できることを示しています。
論文 参考訳(メタデータ) (2021-01-24T05:40:29Z) - Fundamental Limits and Tradeoffs in Invariant Representation Learning [99.2368462915979]
多くの機械学習アプリケーションは、2つの競合する目標を達成する表現を学習する。
ミニマックスゲーム理論の定式化は、精度と不変性の基本的なトレードオフを表す。
分類と回帰の双方において,この一般的かつ重要な問題を情報論的に解析する。
論文 参考訳(メタデータ) (2020-12-19T15:24:04Z) - Knowledge-driven Data Construction for Zero-shot Evaluation in
Commonsense Question Answering [80.60605604261416]
本稿では,共通認識課題にまたがるゼロショット質問応答のための新しいニューラルシンボリック・フレームワークを提案する。
言語モデル、トレーニング体制、知識ソース、データ生成戦略のセットを変えて、タスク間の影響を測定します。
個別の知識グラフは特定のタスクに適しているが、グローバルな知識グラフはさまざまなタスクに対して一貫した利得をもたらす。
論文 参考訳(メタデータ) (2020-11-07T22:52:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。