論文の概要: Scalable Causal Discovery with Score Matching
- arxiv url: http://arxiv.org/abs/2304.03382v1
- Date: Thu, 6 Apr 2023 21:28:16 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-10 13:40:13.749084
- Title: Scalable Causal Discovery with Score Matching
- Title(参考訳): スコアマッチングによるスケーラブルな因果発見
- Authors: Francesco Montagna, Nicoletta Noceti, Lorenzo Rosasco, Kun Zhang,
Francesco Locatello
- Abstract要約: 非線型加法的ガウス雑音モデルにおいて、ログライクリフの第2微分から因果グラフ全体の発見方法を示す。
我々の手法は、原理的かつスケーラブルな因果探索を可能にし、計算バーを大幅に低下させる。
- 参考スコア(独自算出の注目度): 37.13308785728276
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper demonstrates how to discover the whole causal graph from the
second derivative of the log-likelihood in observational non-linear additive
Gaussian noise models. Leveraging scalable machine learning approaches to
approximate the score function $\nabla \log p(\mathbf{X})$, we extend the work
of Rolland et al. (2022) that only recovers the topological order from the
score and requires an expensive pruning step removing spurious edges among
those admitted by the ordering. Our analysis leads to DAS (acronym for
Discovery At Scale), a practical algorithm that reduces the complexity of the
pruning by a factor proportional to the graph size. In practice, DAS achieves
competitive accuracy with current state-of-the-art while being over an order of
magnitude faster. Overall, our approach enables principled and scalable causal
discovery, significantly lowering the compute bar.
- Abstract(参考訳): 本稿では, 非線形付加型ガウス雑音モデルにおいて, 対数類似度の第2微分から因果グラフ全体の発見方法を示す。
スケーラブルな機械学習アプローチを活用してスコア関数 $\nabla \log p(\mathbf{X})$ を近似すると、スコアから位相的順序を回復するだけであり、注文によって認められた間の刺激的なエッジを除去する高価なプルーニングステップを必要とするRolland et al. (2022) の作業を拡張する。
das(acronym for discovery at scale)は,グラフサイズに比例する因子によってプルーニングの複雑さを減少させる実用的なアルゴリズムである。
実際には、DASは現在の最先端技術と競合し、桁違いに高速である。
全体として、当社のアプローチは原則的かつスケーラブルな因果発見を可能にし、計算バーを大幅に削減します。
関連論文リスト
- Sample Complexity Bounds for Score-Matching: Causal Discovery and
Generative Modeling [82.36856860383291]
我々は,標準深部ReLUニューラルネットワークをトレーニングすることにより,スコア関数の正確な推定が可能であることを実証した。
スコアマッチングに基づく因果発見手法を用いて因果関係の回復の誤差率の限界を確立する。
論文 参考訳(メタデータ) (2023-10-27T13:09:56Z) - Relationship between Batch Size and Number of Steps Needed for Nonconvex
Optimization of Stochastic Gradient Descent using Armijo Line Search [0.8158530638728501]
本研究では,SGDが深層数値線を用いた場合,他の深層学習ネットワークよりも優れた性能を示す。
その結果,バッチサイズが大きくなるにつれて,SFOに必要なステップ数を推定できることが示唆された。
論文 参考訳(メタデータ) (2023-07-25T21:59:17Z) - Efficient Model-Free Exploration in Low-Rank MDPs [76.87340323826945]
低ランクマルコフ決定プロセスは、関数近似を持つRLに対して単純だが表現力のあるフレームワークを提供する。
既存のアルゴリズムは、(1)計算的に抽出可能であるか、または(2)制限的な統計的仮定に依存している。
提案手法は,低ランクMPPの探索のための最初の実証可能なサンプル効率アルゴリズムである。
論文 参考訳(メタデータ) (2023-07-08T15:41:48Z) - Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。
本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
論文 参考訳(メタデータ) (2023-06-13T01:18:16Z) - Practical Algorithms for Orientations of Partially Directed Graphical
Models [5.833272638548153]
観測研究において、真の因果モデルは通常不明であり、利用可能な観測データと限られた実験データから推定する必要がある。
そのような場合、学習因果モデルは通常、部分有向非巡回グラフ(PDAG)として表される。
本稿の主な焦点は、与えられたPDAGに対して、無向エッジを最大に配向することを目的とした、最大配向タスクである。
論文 参考訳(メタデータ) (2023-02-28T08:15:49Z) - Subset verification and search algorithms for causal DAGs [13.108039226223793]
エッジのサブセット(ターゲットエッジ)間の因果関係を学習するために必要な最小の介入セットを特定する問題について検討する。
介入因果グラフのいくつかの興味深い構造的特性を証明し、ここで研究されるサブセット検証・探索問題以外の応用があると信じている。
論文 参考訳(メタデータ) (2023-01-09T06:25:44Z) - A Meta-Reinforcement Learning Algorithm for Causal Discovery [3.4806267677524896]
因果構造は、モデルが純粋な相関に基づく推論を超えることを可能にする。
データから因果構造を見つけることは、計算の労力と精度の両方において大きな課題となる。
我々は,介入を学習することで因果発見を行うメタ強化学習アルゴリズムを開発した。
論文 参考訳(メタデータ) (2022-07-18T09:26:07Z) - Score matching enables causal discovery of nonlinear additive noise
models [63.93669924730725]
次世代のスケーラブル因果発見手法の設計方法について述べる。
本稿では,スコアのヤコビアンを効率的に近似し,因果グラフを復元する手法を提案する。
論文 参考訳(メタデータ) (2022-03-08T21:34:46Z) - Differentiable Annealed Importance Sampling and the Perils of Gradient
Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。
差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。
我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文 参考訳(メタデータ) (2021-07-21T17:10:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。