Fugu-MT 論文翻訳(概要): A Bregman Method for Structure Learning on Sparse Directed Acyclic Graphs

論文の概要: A Bregman Method for Structure Learning on Sparse Directed Acyclic Graphs

arxiv url: http://arxiv.org/abs/2011.02764v1
Date: Thu, 5 Nov 2020 11:37:44 GMT
ステータス: 処理完了
システム内更新日: 2022-09-29 11:30:49.477137
Title: A Bregman Method for Structure Learning on Sparse Directed Acyclic Graphs
Title（参考訳）: スパース指向非巡回グラフの構造学習のためのブレグマン法
Authors: Manon Romain and Alexandre d'Aspremont
Abstract要約: 構造学習のためのBregman近位勾配法を開発した。高い非線形反復に対する曲率の影響を計測する。様々な合成および実集合上で本手法をテストする。
参考スコア（独自算出の注目度）: 84.7328507118758
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We develop a Bregman proximal gradient method for structure learning on linear structural causal models. While the problem is non-convex, has high curvature and is in fact NP-hard, Bregman gradient methods allow us to neutralize at least part of the impact of curvature by measuring smoothness against a highly nonlinear kernel. This allows the method to make longer steps and significantly improves convergence. Each iteration requires solving a Bregman proximal step which is convex and efficiently solvable for our particular choice of kernel. We test our method on various synthetic and real data sets.
Abstract（参考訳）: 線形構造因果モデルに基づく構造学習のためのBregman近位勾配法を開発した。非凸であり、高い曲率を持ち、実際はNPハードであるが、ブレグマン勾配法は、高非線形カーネルに対して滑らかさを測定することで、曲率の影響の少なくとも一部を中和することができる。これにより、より長いステップを踏むことができ、収束を大幅に改善できる。各反復は、特定のカーネルの選択に対して凸で効率的に解けるブレグマン近位ステップを解く必要がある。本手法を様々な合成データと実データでテストする。

関連論文リスト

Gradient Methods with Online Scaling [19.218484733179356]
オンライン学習による勾配に基づく手法の収束を加速する枠組みを提案する。広範に使用される過勾配降下は勾配降下の収束により改善されることを示す。
論文参考訳（メタデータ） (2024-11-04T05:04:18Z)
Fast Unconstrained Optimization via Hessian Averaging and Adaptive Gradient Sampling Methods [0.3222802562733786]
ヘシアン・アブラッシングに基づくサブサンプルニュートン法による有限サム予測対象関数の最小化について検討する。これらの方法は不有効であり、ヘッセン近似の固定コストがかかる。本稿では,新しい解析手法を提案し,その実用化に向けた課題を提案する。
論文参考訳（メタデータ） (2024-08-14T03:27:48Z)
An Adaptive Stochastic Gradient Method with Non-negative Gauss-Newton Stepsizes [17.804065824245402]
機械学習の応用では、各損失関数は非負であり、平方根とその実数値平方根の構成として表すことができる。本稿では, ガウス・ニュートン法やレフスカルト法を適用して, 滑らかだが非負な関数の平均を最小化する方法を示す。
論文参考訳（メタデータ） (2024-07-05T08:53:06Z)
Integer Programming for Learning Directed Acyclic Graphs from Non-identifiable Gaussian Models [6.54203362045253]
本研究では,連続観測データから有向非巡回グラフを学習する問題について検討する。中規模の問題を学習するための混合整数プログラミングフレームワークを開発した。提案手法は最先端のアルゴリズムより優れ,ノイズの不均一性に対して頑健である。
論文参考訳（メタデータ） (2024-04-19T02:42:13Z)
Stochastic Gradient Descent for Gaussian Processes Done Right [86.83678041846971]
emphdone right -- 最適化とカーネルコミュニティからの具体的な洞察を使用するという意味で -- が、勾配降下は非常に効果的であることを示している。本稿では,直感的に設計を記述し,設計選択について説明する。本手法は,分子結合親和性予測のための最先端グラフニューラルネットワークと同程度にガウス過程の回帰を配置する。
論文参考訳（メタデータ） (2023-10-31T16:15:13Z)
Low-rank extended Kalman filtering for online learning of neural networks from streaming data [71.97861600347959]
非定常データストリームから非線形関数のパラメータを推定するための効率的なオンライン近似ベイズ推定アルゴリズムを提案する。この方法は拡張カルマンフィルタ (EKF) に基づいているが、新しい低ランク+斜角行列分解法を用いている。変分推論に基づく手法とは対照的に,本手法は完全に決定論的であり,ステップサイズチューニングを必要としない。
論文参考訳（メタデータ） (2023-05-31T03:48:49Z)
Linearization Algorithms for Fully Composite Optimization [61.20539085730636]
本稿では,完全合成最適化問題を凸コンパクト集合で解くための一階アルゴリズムについて検討する。微分可能および非微分可能を別々に扱い、滑らかな部分のみを線形化することで目的の構造を利用する。
論文参考訳（メタデータ） (2023-02-24T18:41:48Z)
Cyclic Block Coordinate Descent With Variance Reduction for Composite Nonconvex Optimization [26.218670461973705]
非漸近勾配ノルム保証を協調する問題の解法を提案する。本研究は,ニューラルネットの深部学習における循環還元方式の有効性を実証するものである。
論文参考訳（メタデータ） (2022-12-09T19:17:39Z)
Cogradient Descent for Dependable Learning [64.02052988844301]
双線形最適化問題に対処するために,CoGDアルゴリズムに基づく信頼度の高い学習法を提案する。 CoGDは、ある変数がスパーシティ制約を持つ場合の双線形問題を解くために導入された。また、特徴と重みの関連を分解するためにも使用できるため、畳み込みニューラルネットワーク(CNN)をより良く訓練するための我々の手法をさらに一般化することができる。
論文参考訳（メタデータ） (2021-06-20T04:28:20Z)
Cogradient Descent for Bilinear Optimization [124.45816011848096]
双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
論文参考訳（メタデータ） (2020-06-16T13:41:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。