論文の概要: StarNet: Gradient-free Training of Deep Generative Models using
Determined System of Linear Equations
- arxiv url: http://arxiv.org/abs/2101.00574v1
- Date: Sun, 3 Jan 2021 08:06:42 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-13 05:37:32.456331
- Title: StarNet: Gradient-free Training of Deep Generative Models using
Determined System of Linear Equations
- Title(参考訳): StarNet:線形方程式決定系を用いた深部生成モデルのグラディエントフリートレーニング
- Authors: Amir Zadeh, Santiago Benoit, Louis-Philippe Morency
- Abstract要約: 本稿では,線形方程式の解法に基づく深層生成モデルの学習手法を提案する。
StarNetと呼ばれるこのアプローチを使用するネットワークには、以下の望ましい特性があります。
- 参考スコア(独自算出の注目度): 47.72653430712088
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper we present an approach for training deep generative models
solely based on solving determined systems of linear equations. A network that
uses this approach, called a StarNet, has the following desirable properties:
1) training requires no gradient as solution to the system of linear equations
is not stochastic, 2) is highly scalable when solving the system of linear
equations w.r.t the latent codes, and similarly for the parameters of the
model, and 3) it gives desirable least-square bounds for the estimation of
latent codes and network parameters within each layer.
- Abstract(参考訳): 本稿では,線形方程式の確定解法のみに基づいて,深部生成モデルを訓練する手法を提案する。
このアプローチをStarNetと呼ぶネットワークは、次の望ましい性質を持つ: 1) 線形方程式の解に対する解の勾配を必要としない; 2) 線形方程式の系を解く際に高度にスケーラブルであり、同様にモデルのパラメータに対して、3) 遅延符号とネットワークパラメータを各層で推定するのに望ましい最小二乗境界を与える。
関連論文リスト
- Two-Point Deterministic Equivalence for Stochastic Gradient Dynamics in Linear Models [76.52307406752556]
ランダムリゾルダーの2点関数に対する新しい決定論的等価性を導出する。
勾配勾配を有する多種多様な高次元学習線形モデルの性能を統一的に導出する。
論文 参考訳(メタデータ) (2025-02-07T16:45:40Z) - A General Bayesian Framework for Informative Input Design in System Identification [86.05414211113627]
システム識別のための情報入力設計の問題に取り組む。
入力を選択し、真のシステムから対応する出力を観測し、モデルのパラメータを最適化し、データに最も合うようにします。
本手法は, 線形および非線形の様々なダイナミクスを用いて, モデルフリーベースラインより優れる。
論文 参考訳(メタデータ) (2025-01-28T01:57:51Z) - Solving Nonlinear Energy Supply and Demand System Using Physics-Informed Neural Networks [1.5728609542259502]
本稿では,非線形エネルギー需給システムの解法として物理情報ニューラルネットワーク(PINN)を用いる手法を提案する。
我々は、4つの出力を持つニューラルネットワークを設計し、各出力は微分方程式の非線形系における未知の関数の1つに対応する関数を近似する。
この問題に対するニューラルネットワークから得られる解は、次数4/5のルンゲ・クッタ法(RK45)との比較と評価において等価である。
論文 参考訳(メタデータ) (2024-12-22T12:37:59Z) - Reconstruction of dynamic systems using genetic algorithms with dynamic search limits [0.0]
時系列データを用いて動的システムの制御方程式を推定するために進化的計算手法が提案される。
本研究の主な貢献は、最小限のコントリビューションを持つ用語を除去するための遺伝的アルゴリズムの適切な修正と、局所的なオプティマから逃れるメカニズムである。
その結果,0.22未満の積分正方形誤差と,全系に対して0.99のR-二乗決定係数を用いて再構成を行った。
論文 参考訳(メタデータ) (2024-12-03T22:58:25Z) - Generalized Quadratic Embeddings for Nonlinear Dynamics using Deep
Learning [11.339982217541822]
本稿では非線形システムの力学をモデル化するためのデータ駆動手法を提案する。
本研究では,昇降原理に着想を得た2次系を共通構造として用いることを提案する。
論文 参考訳(メタデータ) (2022-11-01T10:03:34Z) - Unsupervised Reservoir Computing for Solving Ordinary Differential
Equations [1.6371837018687636]
通常の微分方程式(ODE)を満たす近似解を発見することができるエコー状態のリカレントニューラルネットワーク
ベイジアン最適化を用いて高次元ハイパーパラメータ空間における最適集合を効率よく発見し、1つの集合がロバストであり、異なる初期条件と時間範囲のODEを解くことができることを示す。
論文 参考訳(メタデータ) (2021-08-25T18:16:42Z) - Linear embedding of nonlinear dynamical systems and prospects for
efficient quantum algorithms [74.17312533172291]
有限非線形力学系を無限線型力学系(埋め込み)にマッピングする方法を述べる。
次に、有限線型系 (truncation) による結果の無限線型系を近似するアプローチを検討する。
論文 参考訳(メタデータ) (2020-12-12T00:01:10Z) - Deep neural network for solving differential equations motivated by
Legendre-Galerkin approximation [16.64525769134209]
線形微分方程式と非線形微分方程式の両方における様々なニューラルネットワークアーキテクチャの性能と精度について検討する。
我々は、微分方程式の解を予測するために、新しいレジェンダ-ガレルキンディープニューラルネットワーク(LGNet)アルゴリズムを実装した。
論文 参考訳(メタデータ) (2020-10-24T20:25:09Z) - Multipole Graph Neural Operator for Parametric Partial Differential
Equations [57.90284928158383]
物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。
線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。
実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
論文 参考訳(メタデータ) (2020-06-16T21:56:22Z) - Eigendecomposition-Free Training of Deep Networks for Linear
Least-Square Problems [107.3868459697569]
我々は、ディープネットワークのトレーニングに固有分解のないアプローチを導入する。
この手法は固有分解の明示的な微分よりもはるかに堅牢であることを示す。
我々の手法は収束特性が良く、最先端の結果が得られます。
論文 参考訳(メタデータ) (2020-04-15T04:29:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。