論文の概要: Non-negative Weighted DAG Structure Learning
- arxiv url: http://arxiv.org/abs/2409.07880v1
- Date: Thu, 12 Sep 2024 09:41:29 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-13 17:08:15.561961
- Title: Non-negative Weighted DAG Structure Learning
- Title(参考訳): 非負重み付きDAG構造学習
- Authors: Samuel Rey, Seyed Saman Saboksayr, Gonzalo Mateos,
- Abstract要約: 本研究は,真DAGを夜間観測から学習する問題に対処する。
本稿では, ar を返すことが保証される手法に基づく DAG 回復アルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 12.139158398361868
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We address the problem of learning the topology of directed acyclic graphs (DAGs) from nodal observations, which adhere to a linear structural equation model. Recent advances framed the combinatorial DAG structure learning task as a continuous optimization problem, yet existing methods must contend with the complexities of non-convex optimization. To overcome this limitation, we assume that the latent DAG contains only non-negative edge weights. Leveraging this additional structure, we argue that cycles can be effectively characterized (and prevented) using a convex acyclicity function based on the log-determinant of the adjacency matrix. This convexity allows us to relax the task of learning the non-negative weighted DAG as an abstract convex optimization problem. We propose a DAG recovery algorithm based on the method of multipliers, that is guaranteed to return a global minimizer. Furthermore, we prove that in the infinite sample size regime, the convexity of our approach ensures the recovery of the true DAG structure. We empirically validate the performance of our algorithm in several reproducible synthetic-data test cases, showing that it outperforms state-of-the-art alternatives.
- Abstract(参考訳): 本稿では,線形構造方程式モデルに従属する非線形観測から有向非巡回グラフ(DAG)の位相を学習する問題に対処する。
近年の進歩は、組み合わせDAG構造学習タスクを連続最適化問題として捉えているが、既存の手法は非凸最適化の複雑さと競合しなければならない。
この制限を克服するために、潜在DAGは非負のエッジ重みのみを含むと仮定する。
この付加構造を利用することで、隣接行列の対数決定式に基づいて凸非巡回関数を用いて、サイクルを効果的に特徴づけ(かつ阻止)することができると論じる。
この凸性により、非負重み付きDAGを抽象凸最適化問題として学習する作業が緩和される。
本稿では,大域最小化器を返すことが保証される乗算器法に基づくDAG回収アルゴリズムを提案する。
さらに, 無限サンプルサイズ状態において, 本手法の凸性は真のDAG構造の回復を保証することを証明した。
いくつかの再現可能な合成データテストケースにおいて,本アルゴリズムの性能を実証的に検証し,最先端の代替品よりも優れていることを示す。
関連論文リスト
- $ψ$DAG: Projected Stochastic Approximation Iteration for DAG Structure Learning [6.612096312467342]
Directed A Graphs (DAGs) の構造を学ぶことは、ノード数に応じてスケールする可能なグラフの巨大な検索空間のため、大きな課題となる。
近年の進歩は、微分可能指数関数性制約を取り入れた連続最適化タスクとしてこの問題を再定義している。
本稿では,SGD(Gradient Descent)に基づく最適化手法と統合した近似手法を用いて,DAGを学習する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-31T12:13:11Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Linearization Algorithms for Fully Composite Optimization [61.20539085730636]
本稿では,完全合成最適化問題を凸コンパクト集合で解くための一階アルゴリズムについて検討する。
微分可能および非微分可能を別々に扱い、滑らかな部分のみを線形化することで目的の構造を利用する。
論文 参考訳(メタデータ) (2023-02-24T18:41:48Z) - Causal Structural Learning from Time Series: A Convex Optimization
Approach [12.4517307615083]
構造学習は、観測データから有向非巡回グラフ(DAG)を学習することを目的としている。
最近のDAG学習は、非常に非適応的な構造学習問題である。
近年開発されたモノトーン変分法(VI)を用いた因果学習のためのデータアプローチを提案する。
論文 参考訳(メタデータ) (2023-01-26T16:39:58Z) - On the Sparse DAG Structure Learning Based on Adaptive Lasso [39.31370830038554]
適応NOTEARS[30]という,事前定義されたしきい値のないデータ駆動型DAG構造学習手法を開発した。
適応型NOTEARSは特定の条件下でのオラクル特性を享受できることを示し, シミュレーションの結果, エッジのギャップをゼロに設定することなく, 提案手法の有効性を検証した。
論文 参考訳(メタデータ) (2022-09-07T05:47:59Z) - Truncated Matrix Power Iteration for Differentiable DAG Learning [47.69479930501961]
本稿では,列ベースDAG制約を近似するために,効率的な乱数行列パワーを持つ新しいDAG学習法を提案する。
実験により,DAG学習法は,様々な設定で従来の最先端技術よりも優れていた。
論文 参考訳(メタデータ) (2022-08-30T23:56:12Z) - Multi-task Learning of Order-Consistent Causal Graphs [59.9575145128345]
我々は、$K関連ガウス非巡回グラフ(DAG)の発見問題を考える。
マルチタスク学習環境下では, 線形構造方程式モデルを学習するためのMLE ($l_1/l$-regularized maximum chance estimator) を提案する。
理論的には、関係するタスクにまたがるデータを活用することで、因果順序を復元する際のサンプルの複雑さをより高めることができることを示す。
論文 参考訳(メタデータ) (2021-11-03T22:10:18Z) - DAGs with No Curl: An Efficient DAG Structure Learning Approach [62.885572432958504]
近年のDAG構造学習は連続的な非巡回性制約を伴う制約付き連続最適化問題として定式化されている。
本稿では,DAG空間の重み付き隣接行列を直接モデル化し,学習するための新しい学習フレームワークを提案する。
本手法は, 線形および一般化された構造方程式モデルにおいて, ベースラインDAG構造学習法よりも精度が高いが, 効率がよいことを示す。
論文 参考訳(メタデータ) (2021-06-14T07:11:36Z) - Fractal Structure and Generalization Properties of Stochastic
Optimization Algorithms [71.62575565990502]
最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。
さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
論文 参考訳(メタデータ) (2021-06-09T08:05:36Z) - Learning DAGs without imposing acyclicity [0.6526824510982799]
本研究では,非巡回性制約を課すことなく,データから有向非巡回グラフ(DAG)を学習可能であることを示す。
このアプローチは計算効率が良く、古典的な構造学習アルゴリズムのような複雑性の爆発の影響を受けない。
論文 参考訳(メタデータ) (2020-06-04T16:52:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。