論文の概要: ProDAG: Projection-Induced Variational Inference for Directed Acyclic Graphs
- arxiv url: http://arxiv.org/abs/2405.15167v3
- Date: Mon, 14 Oct 2024 01:35:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-15 10:53:32.333417
- Title: ProDAG: Projection-Induced Variational Inference for Directed Acyclic Graphs
- Title(参考訳): ProDAG: 有向非巡回グラフの投影誘起変分推論
- Authors: Ryan Thompson, Edwin V. Bonilla, Robert Kohn,
- Abstract要約: 直接非巡回グラフ(DAG)学習は急速に研究の領域を広げている。
データから単一の(点推定)DAGを学習することは統計的かつ計算的に困難であり、もちろん不確実な定量化を提供する。
本稿では,DAGの空間を直接支援する新しい分布に基づくベイズ変分推論フレームワークを開発することで,グラフの不確かさを定量化する難しい課題について論じる。
- 参考スコア(独自算出の注目度): 8.556906995059324
- License:
- Abstract: Directed acyclic graph (DAG) learning is a rapidly expanding field of research. Though the field has witnessed remarkable advances over the past few years, it remains statistically and computationally challenging to learn a single (point estimate) DAG from data, let alone provide uncertainty quantification. Our article addresses the difficult task of quantifying graph uncertainty by developing a Bayesian variational inference framework based on novel distributions that have support directly on the space of DAGs. The distributions, which we use to form our prior and variational posterior, are induced by a projection operation, whereby an arbitrary continuous distribution is projected onto the space of sparse weighted acyclic adjacency matrices (matrix representations of DAGs) with probability mass on exact zeros. Though the projection constitutes a combinatorial optimization problem, it is solvable at scale via recently developed techniques that reformulate acyclicity as a continuous constraint. We empirically demonstrate that our method, ProDAG, can deliver accurate inference and often outperforms existing state-of-the-art alternatives.
- Abstract(参考訳): 直接非巡回グラフ(DAG)学習は急速に研究の領域を広げている。
この分野はここ数年で顕著な進歩をみせてきたが、統計学的、計算学的にデータから単一の(ポイント推定)DAGを学習することは困難であり、もちろん不確実な定量化を提供する。
本稿では,DAGの空間を直接支援する新しい分布に基づくベイズ変分推論フレームワークを開発することで,グラフの不確かさを定量化する難しい課題について論じる。
我々の先行および変動後部を形成するために用いられる分布は射影演算によって誘導され、任意の連続分布は正零点上の確率質量を持つスパース重み付き非巡回隣接行列(DAGの行列表現)の空間に投影される。
射影は組合せ最適化問題を構成するが、連続的な制約として非循環を再構成する最近開発された手法を通じて、大規模に解ける。
我々は,提案手法であるProDAGが正確な推論を実現し,既存の最先端の代替手法よりも優れていることを実証的に実証した。
関連論文リスト
- Scalable Variational Causal Discovery Unconstrained by Acyclicity [6.954510776782872]
観測データから得られた因果グラフ上の後部分布を学習するために,スケーラブルなベイズ的手法を提案する。
有効な非巡回因果グラフを生成することができる新しい微分可能なDAGサンプリング手法を提案する。
連続領域上の単純な変分分布を用いて因果グラフ上の後部分布をモデル化することができる。
論文 参考訳(メタデータ) (2024-07-06T07:56:23Z) - Variational DAG Estimation via State Augmentation With Stochastic Permutations [16.57658783816741]
ベイズネットワークの構造を観測データから推定することは統計的かつ計算的に難しい問題である。
確率的推論の観点から、主な課題は(i) DAG 制約を満たすグラフ上の分布を表すこと、(ii) 基礎空間上の後方を推定することである。
そこで本稿では,DAGと置換の強化空間上に共同分布を定式化することにより,これらの課題に対処するアプローチを提案する。
論文 参考訳(メタデータ) (2024-02-04T23:51:04Z) - BayesDAG: Gradient-Based Posterior Inference for Causal Discovery [30.027520859604955]
マルコフ・チェイン・モンテカルロと変分推論を組み合わせたスケーラブルな因果探索フレームワークを提案する。
本手法では,DAG正則化を必要とせず,直接後部からDAGを採取する。
我々は、置換に基づくDAG学習に新しい等価性をもたらし、置換によって定義された緩和された推定器を使用する可能性を開く。
論文 参考訳(メタデータ) (2023-07-26T02:34:13Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Implicit Bias of Gradient Descent for Logistic Regression at the Edge of
Stability [69.01076284478151]
機械学習の最適化において、勾配降下(GD)はしばしば安定性の端(EoS)で動く
本稿では,EoS系における線形分離可能なデータに対するロジスティック回帰のための定数段差GDの収束と暗黙バイアスについて検討する。
論文 参考訳(メタデータ) (2023-05-19T16:24:47Z) - Causal Graph Discovery from Self and Mutually Exciting Time Series [10.410454851418548]
我々は,線形プログラムを解くことによって,非漸近的回復保証と定量的不確実性を開発する。
Sepsis Associated Derangements (SAD) による高度に解釈可能な因果DAGの回復におけるアプローチの有効性を実証する。
論文 参考訳(メタデータ) (2023-01-26T16:15:27Z) - BCD Nets: Scalable Variational Approaches for Bayesian Causal Discovery [97.79015388276483]
構造方程式モデル(SEM)は、有向非巡回グラフ(DAG)を介して表される因果関係を推論する効果的な枠組みである。
近年の進歩により、観測データからDAGの有効最大点推定が可能となった。
線形ガウス SEM を特徴付ける DAG 上の分布を推定するための変分フレームワークである BCD Nets を提案する。
論文 参考訳(メタデータ) (2021-12-06T03:35:21Z) - Variational Causal Networks: Approximate Bayesian Inference over Causal
Structures [132.74509389517203]
離散DAG空間上の自己回帰分布をモデル化したパラメトリック変分族を導入する。
実験では,提案した変分後部が真の後部を良好に近似できることを示した。
論文 参考訳(メタデータ) (2021-06-14T17:52:49Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳(メタデータ) (2021-03-23T17:15:53Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。