論文の概要: Nonnegative DAG Learning via Concomitant Estimation
- arxiv url: http://arxiv.org/abs/2609.34595v1
- Date: Mon, 28 Sep 2026 08:30:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 12:04:25.949971
- Title: Nonnegative DAG Learning via Concomitant Estimation
- Title(参考訳): 共振器推定による非負DAG学習
- Abstract要約: 観測データから非負のエッジ重みを持つ有向非巡回グラフ(DAG)の学習問題について検討した。
重み付きグラフ構造と繰り返し雑音分散を共同で回復する非負・共振器DAG推定器を提案する。
- 参考スコア(独自算出の注目度): 25.970789484705318
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study the problem of learning directed acyclic graphs (DAGs) with nonnegative edge weights from observational data. We propose the Nonnegative and Concomitant (NoCo) DAG estimator, which jointly recovers the weighted graph structure and the exogenous noise variances in the linear structural equation model for the observations. Different from prior art, this noise-adaptive formulation blends a smoothed concomitant lasso criterion with a simpler log-determinant acyclicity constraint that exploits nonnegativity and yields a more benign optimization landscape. Specifically, nonnegative weights allow us to impose acyclicity directly on the adjacency matrix without elementwise squaring of its entries, thus avoiding the well-documented degeneracy of the Karush-Kuhn-Tucker conditions. Computationally, we develop a method of multipliers' algorithm that accommodates both homoscedastic and heteroscedastic noise profiles. Within each iteration, we use block successive convex approximation to minimize the augmented Lagrangian, alternating between proximal gradient steps for the adjacency matrix and closed-form updates for the noise scales. Simulated experiments demonstrate NoCo's improved structural and edge-weight recovery relative to competing methods in a variety of settings, highlighting the benefits of exploiting nonnegativity along with noise adaptivity.
- Abstract(参考訳): 観測データから非負のエッジ重みを持つ有向非巡回グラフ(DAG)の学習問題について検討した。
線形構造方程式モデルにおける重み付きグラフ構造と外因性雑音分散を共同で復元する非負・共振器DAG推定器を提案する。
従来の手法と異なり、この雑音適応型定式化は、スムーズな同伴ラッソ基準と、非負性を利用してより良質な最適化景観をもたらすより単純な対数決定的非巡回性制約とをブレンドする。
具体的には、非負の重みは、成分の要素的に一致することなく、隣接行列に直接非巡回性を課すことを可能にし、カルーシュ=クーン=タッカー条件の十分に文書化された退化を避けることができる。
計算学的に,同義語と異義語の両方のノイズプロファイルに対応する乗算器のアルゴリズムを開発した。
各繰り返しにおいて、ブロック連続凸近似を用いて拡張ラグランジアンを最小化し、隣接行列の近位勾配ステップと雑音スケールの閉形式更新とを交互に交互に行う。
シミュレーション実験は、ノイズ適応性とともに非負性性を利用する利点を強調し、様々な環境で競合する手法と比較して、NoCoが改善した構造的およびエッジウェイト回復を示す。
関連論文リスト
- Exploiting Non-Negativity in DAG Structure Learning [25.970789484705318]
本研究は,線形構造方程式モデルにより生成される結節観測から有向グラフ(DAG)を学習する問題に対処する。
正規化非負のDAG学習問題を定式化し、乗算器の手法に基づくアルゴリズムを開発する。
合成および実世界のデータを用いた実験により,提案手法は最先端の連続DAG学習法よりも優れていることが示された。
論文 参考訳(メタデータ) (2026-05-19T15:03:33Z) - Constrained Stochastic Spectral Preconditioning Converges for Nonconvex Objectives [48.91820744387913]
我々は,Muon と Scions に着目した事前条件付き勾配法を開発した。
我々は,様々な凸や非還元制約を扱えるアルゴリズム群を紹介した。
論文 参考訳(メタデータ) (2026-05-12T09:36:13Z) - Gradient Normalization Provably Benefits Nonconvex SGD under Heavy-Tailed Noise [60.92029979853314]
重み付き雑音下でのグラディエントDescence(SGD)の収束を確実にする上での勾配正規化とクリッピングの役割について検討する。
我々の研究は、重尾雑音下でのSGDの勾配正規化の利点を示す最初の理論的証拠を提供する。
我々は、勾配正規化とクリッピングを取り入れた加速SGD変種を導入し、さらに重み付き雑音下での収束率を高めた。
論文 参考訳(メタデータ) (2024-10-21T22:40:42Z) - Non-negative Weighted DAG Structure Learning [12.139158398361868]
本研究は,真DAGを夜間観測から学習する問題に対処する。
本稿では, ar を返すことが保証される手法に基づく DAG 回復アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-09-12T09:41:29Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - CoLiDE: Concomitant Linear DAG Estimation [12.415463205960156]
観測データから線形方程式への非巡回グラフ構造学習の問題に対処する。
本稿では,空間認識学習DAGのための新しい凸スコア関数を提案する。
論文 参考訳(メタデータ) (2023-10-04T15:32:27Z) - On the Sparse DAG Structure Learning Based on Adaptive Lasso [39.31370830038554]
適応NOTEARS[30]という,事前定義されたしきい値のないデータ駆動型DAG構造学習手法を開発した。
適応型NOTEARSは特定の条件下でのオラクル特性を享受できることを示し, シミュレーションの結果, エッジのギャップをゼロに設定することなく, 提案手法の有効性を検証した。
論文 参考訳(メタデータ) (2022-09-07T05:47:59Z) - Optimizing Information-theoretical Generalization Bounds via Anisotropic
Noise in SGLD [73.55632827932101]
SGLDにおけるノイズ構造を操作することにより,情報理論の一般化を最適化する。
低経験的リスクを保証するために制約を課すことで、最適なノイズ共分散が期待される勾配共分散の平方根であることを証明する。
論文 参考訳(メタデータ) (2021-10-26T15:02:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。