Fugu-MT 論文翻訳(概要): Causal Discovery with Language Models as Imperfect Experts

論文の概要: Causal Discovery with Language Models as Imperfect Experts

arxiv url: http://arxiv.org/abs/2307.02390v1
Date: Wed, 5 Jul 2023 16:01:38 GMT
ステータス: 処理完了
システム内更新日: 2023-07-06 13:06:01.138108
Title: Causal Discovery with Language Models as Imperfect Experts
Title（参考訳）: 不完全な専門家としての言語モデルによる因果発見
Authors: Stephanie Long, Alexandre Pich\'e, Valentina Zantedeschi, Tibor Schuster, Alexandre Drouin
Abstract要約: 専門知識を用いて因果グラフの同定を改善する方法について検討する。整合性に基づく専門家の知識を改良するための戦略を提案する。本稿では,不完全な専門家として大規模言語モデルを用いる実データを用いたケーススタディについて報告する。
参考スコア（独自算出の注目度）: 119.22928856942292
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Understanding the causal relationships that underlie a system is a fundamental prerequisite to accurate decision-making. In this work, we explore how expert knowledge can be used to improve the data-driven identification of causal graphs, beyond Markov equivalence classes. In doing so, we consider a setting where we can query an expert about the orientation of causal relationships between variables, but where the expert may provide erroneous information. We propose strategies for amending such expert knowledge based on consistency properties, e.g., acyclicity and conditional independencies in the equivalence class. We then report a case study, on real data, where a large language model is used as an imperfect expert.
Abstract（参考訳）: システムの基盤となる因果関係を理解することは、正確な意思決定の基本的な前提条件である。本研究では,マルコフ同値クラスを超えて,因果グラフのデータ駆動識別を改善するための専門家知識の利用方法を検討する。そこで我々は,変数間の因果関係の向きについて専門家に問い合わせることができるが,専門家が誤った情報を提供できるような設定を考える。本稿では,同値類における非巡回性や条件的無依存性など,一貫性特性に基づく専門知識の修正戦略を提案する。次に、大規模な言語モデルが不完全な専門家として使用される実データに関するケーススタディを報告する。

関連論文リスト

Does Knowledge Localization Hold True? Surprising Differences Between Entity and Relation Perspectives in Language Models [20.157061521694096]
本研究では,知識編集による実体的知識と関係的知識の相違について検討する。実体的知識と関係的知識の差異をさらに解明するために,関係的知識が事前学習されたモデルにどのように格納されているかを調べるために因果解析を用いる。この洞察は、言語モデルにおける知識記憶の多面的な性質を強調し、これらのモデル内で特定の種類の知識を操作する複雑さを浮き彫りにしている。
論文参考訳（メタデータ） (2024-09-01T05:09:11Z)
Unsupervised Pairwise Causal Discovery on Heterogeneous Data using Mutual Information Measures [49.1574468325115]
因果発見(Causal Discovery)は、構成変数の統計的性質を分析することで、この問題に取り組む手法である。教師付き学習によって得られたことに基づいて,現在の(おそらく誤解を招く)ベースライン結果に疑問を呈する。その結果、堅牢な相互情報測定を用いて、教師なしの方法でこの問題にアプローチする。
論文参考訳（メタデータ） (2024-08-01T09:11:08Z)
Large Language Models are Limited in Out-of-Context Knowledge Reasoning [65.72847298578071]
大規模言語モデル (LLMs) は、文脈内推論の実行において広範な知識と強力な能力を持っている。本稿では、複数の知識を組み合わせて新しい知識を推論する、文脈外知識推論(OCKR)という、文脈外推論の重要な側面に焦点を当てる。
論文参考訳（メタデータ） (2024-06-11T15:58:59Z)
Detection and Evaluation of bias-inducing Features in Machine learning [14.045499740240823]
機械学習(ML)の文脈では、システムの偏りのある振る舞いの理由を理解するために、原因から影響までの分析を用いることができる。ドメインエキスパートの意思決定を支援するために,モデルの全バイアス誘発特徴を体系的に同定する手法を提案する。
論文参考訳（メタデータ） (2023-10-19T15:01:16Z)
Probabilistic Dataset Reconstruction from Interpretable Models [8.31111379034875]
最適な解釈可能なモデルの方がコンパクトで、トレーニングデータに関する情報が、厳密に構築されたモデルよりも少ないことが示される。この結果から,最適解釈可能なモデルの方がコンパクトで,学習データに関する情報が少ないことが示唆された。
論文参考訳（メタデータ） (2023-08-29T08:10:09Z)
Leveraging Skill-to-Skill Supervision for Knowledge Tracing [13.753990664747265]
知識追跡は知的学習システムにおいて重要な役割を担っている。知識追跡モデルの最近の進歩は、問題解決の歴史をよりうまく活用することを可能にしている。知識を直接組み込む知識トレースアルゴリズムは、限られたデータやコールドスタートの設定において重要である。
論文参考訳（メタデータ） (2023-06-12T03:23:22Z)
A Conceptual Model for End-to-End Causal Discovery in Knowledge Tracing [8.049552839071918]
我々は,知識追跡における因果発見問題の解決に向けて,予備的な一歩を踏み出した。第3回NeurIPS 2022章「教育における学習経路の因果的洞察への挑戦」の項目の1つにその解決策が挙げられた。
論文参考訳（メタデータ） (2023-05-11T21:20:29Z)
Competency Problems: On Finding and Removing Artifacts in Language Data [50.09608320112584]
複雑な言語理解タスクでは、すべての単純な特徴相関が突発的であると論じる。人間バイアスを考慮したコンピテンシー問題に対するデータ作成の難しさを理論的に分析します。
論文参考訳（メタデータ） (2021-04-17T21:34:10Z)
Leveraging Expert Consistency to Improve Algorithmic Decision Support [62.61153549123407]
建設のギャップを狭めるために観測結果と組み合わせることができる情報源として,歴史専門家による意思決定の利用について検討する。本研究では,データ内の各ケースが1人の専門家によって評価された場合に,専門家の一貫性を間接的に推定する影響関数に基づく手法を提案する。本研究は, 児童福祉領域における臨床現場でのシミュレーションと実世界データを用いて, 提案手法が構成ギャップを狭めることに成功していることを示す。
論文参考訳（メタデータ） (2021-01-24T05:40:29Z)
Knowledge-driven Data Construction for Zero-shot Evaluation in Commonsense Question Answering [80.60605604261416]
本稿では,共通認識課題にまたがるゼロショット質問応答のための新しいニューラルシンボリック・フレームワークを提案する。言語モデル、トレーニング体制、知識ソース、データ生成戦略のセットを変えて、タスク間の影響を測定します。個別の知識グラフは特定のタスクに適しているが、グローバルな知識グラフはさまざまなタスクに対して一貫した利得をもたらす。
論文参考訳（メタデータ） (2020-11-07T22:52:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。