論文の概要: Learning Discrete Directed Acyclic Graphs via Backpropagation
- arxiv url: http://arxiv.org/abs/2210.15353v1
- Date: Thu, 27 Oct 2022 12:03:55 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-28 12:15:04.136138
- Title: Learning Discrete Directed Acyclic Graphs via Backpropagation
- Title(参考訳): バックプロパゲーションによる離散非巡回グラフの学習
- Authors: Andrew J. Wren, Pasquale Minervini, Luca Franceschi and Valentina
Zantedeschi
- Abstract要約: 近年, バックプロパゲーションによるデータからDAG(Directed Acyclic Graphs)を学習するために, 連続緩和法が提案されている。
離散バックプロパゲーションによるDAG学習フレームワークであるDAG-DBを提案する。
- 参考スコア(独自算出の注目度): 16.823075878437493
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recently continuous relaxations have been proposed in order to learn Directed
Acyclic Graphs (DAGs) from data by backpropagation, instead of using
combinatorial optimization. However, a number of techniques for fully discrete
backpropagation could instead be applied. In this paper, we explore that
direction and propose DAG-DB, a framework for learning DAGs by Discrete
Backpropagation. Based on the architecture of Implicit Maximum Likelihood
Estimation [I-MLE, arXiv:2106.01798], DAG-DB adopts a probabilistic approach to
the problem, sampling binary adjacency matrices from an implicit probability
distribution. DAG-DB learns a parameter for the distribution from the loss
incurred by each sample, performing competitively using either of two fully
discrete backpropagation techniques, namely I-MLE and Straight-Through
Estimation.
- Abstract(参考訳): 近年、組合せ最適化の代わりにバックプロパゲーションによりデータからDAG(Directed Acyclic Graphs)を学習するために連続緩和法が提案されている。
しかし、完全な離散的なバックプロパゲーションのための多くの技術を適用することができた。
本稿では,DAGを離散バックプロパゲーションにより学習するフレームワークであるDAG-DBを提案する。
Implicit Maximum Likelihood Estimation [I-MLE, arXiv:2106.01798] のアーキテクチャに基づいて、DAG-DBはこの問題に対する確率的アプローチを採用し、暗黙の確率分布から二項隣接行列をサンプリングする。
DAG-DBは、各サンプルから得られた損失から分布のパラメータを学習し、完全に離散的な2つのバックプロパゲーション手法、すなわちI-MLEとStraight-Through Estimationを用いて競合的に実行する。
関連論文リスト
- Induced Covariance for Causal Discovery in Linear Sparse Structures [55.2480439325792]
因果モデルでは、観測データから変数間の因果関係を解き明かそうとしている。
本稿では,変数が線形に疎結合な関係を示す設定のための新しい因果探索アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-10-02T04:01:38Z) - Scalable Variational Causal Discovery Unconstrained by Acyclicity [6.954510776782872]
観測データから得られた因果グラフ上の後部分布を学習するために,スケーラブルなベイズ的手法を提案する。
有効な非巡回因果グラフを生成することができる新しい微分可能なDAGサンプリング手法を提案する。
連続領域上の単純な変分分布を用いて因果グラフ上の後部分布をモデル化することができる。
論文 参考訳(メタデータ) (2024-07-06T07:56:23Z) - ProDAG: Projection-Induced Variational Inference for Directed Acyclic Graphs [8.556906995059324]
直接非巡回グラフ(DAG)学習は急速に研究の領域を広げている。
データから単一の(点推定)DAGを学習することは統計的かつ計算的に困難であり、もちろん不確実な定量化を提供する。
本稿では,DAGの空間を直接支援する新しい分布に基づくベイズ変分推論フレームワークを開発することで,グラフの不確かさを定量化する難しい課題について論じる。
論文 参考訳(メタデータ) (2024-05-24T03:04:28Z) - Collaborative Heterogeneous Causal Inference Beyond Meta-analysis [68.4474531911361]
異種データを用いた因果推論のための協調的逆確率スコア推定器を提案する。
異質性の増加に伴うメタアナリシスに基づく手法に対して,本手法は有意な改善を示した。
論文 参考訳(メタデータ) (2024-04-24T09:04:36Z) - Synergistic eigenanalysis of covariance and Hessian matrices for enhanced binary classification [72.77513633290056]
本稿では, 学習モデルを用いて評価したヘッセン行列をトレーニングセットで評価した共分散行列の固有解析と, 深層学習モデルで評価したヘッセン行列を組み合わせた新しい手法を提案する。
本手法は複雑なパターンと関係を抽出し,分類性能を向上する。
論文 参考訳(メタデータ) (2024-02-14T16:10:42Z) - Improving Diffusion Models for Inverse Problems Using Optimal Posterior Covariance [52.093434664236014]
近年の拡散モデルは、特定の逆問題に対して再訓練することなく、ノイズの多い線形逆問題に対する有望なゼロショット解を提供する。
この発見に触発されて、我々は、最大推定値から決定されるより原理化された共分散を用いて、最近の手法を改善することを提案する。
論文 参考訳(メタデータ) (2024-02-03T13:35:39Z) - BayesDAG: Gradient-Based Posterior Inference for Causal Discovery [30.027520859604955]
マルコフ・チェイン・モンテカルロと変分推論を組み合わせたスケーラブルな因果探索フレームワークを提案する。
本手法では,DAG正則化を必要とせず,直接後部からDAGを採取する。
我々は、置換に基づくDAG学習に新しい等価性をもたらし、置換によって定義された緩和された推定器を使用する可能性を開く。
論文 参考訳(メタデータ) (2023-07-26T02:34:13Z) - BCD Nets: Scalable Variational Approaches for Bayesian Causal Discovery [97.79015388276483]
構造方程式モデル(SEM)は、有向非巡回グラフ(DAG)を介して表される因果関係を推論する効果的な枠組みである。
近年の進歩により、観測データからDAGの有効最大点推定が可能となった。
線形ガウス SEM を特徴付ける DAG 上の分布を推定するための変分フレームワークである BCD Nets を提案する。
論文 参考訳(メタデータ) (2021-12-06T03:35:21Z) - Learning linear non-Gaussian directed acyclic graph with diverging
number of nodes [12.49848873864773]
有向非巡回グラフ(DAG)として表される非巡回モデルは、収集ノード間の方向因果関係を表現するために広く用いられている。
本研究では,高次元の場合において,連続的な非ガウス分布の雑音が生じるような線形非ガウスDAGを効率よく学習する方法を提案する。
論文 参考訳(メタデータ) (2021-11-01T07:34:53Z) - DAGs with No Curl: An Efficient DAG Structure Learning Approach [62.885572432958504]
近年のDAG構造学習は連続的な非巡回性制約を伴う制約付き連続最適化問題として定式化されている。
本稿では,DAG空間の重み付き隣接行列を直接モデル化し,学習するための新しい学習フレームワークを提案する。
本手法は, 線形および一般化された構造方程式モデルにおいて, ベースラインDAG構造学習法よりも精度が高いが, 効率がよいことを示す。
論文 参考訳(メタデータ) (2021-06-14T07:11:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。