論文の概要: Robust normalizing flows using Bernstein-type polynomials
- arxiv url: http://arxiv.org/abs/2102.03509v1
- Date: Sat, 6 Feb 2021 04:32:05 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-09 16:04:09.575918
- Title: Robust normalizing flows using Bernstein-type polynomials
- Title(参考訳): ベルンシュタイン型多項式を用いたロバスト正規化フロー
- Authors: Sameera Ramasinghe, Kasun Fernando, Salman Khan, Nick Barnes
- Abstract要約: 正規化フロー(NFs)は、正確な密度評価とサンプリングを可能にする生成モデルのクラスである。
三角写像とベルンシュタイン型の増大に基づくNFを構築するための枠組みを提案する。
実世界のデータセットと合成データセットの両方を用いた実験により,提案手法の有効性を実証的に実証した。
- 参考スコア(独自算出の注目度): 31.533158456141305
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Normalizing flows (NFs) are a class of generative models that allows exact
density evaluation and sampling. We propose a framework to construct NFs based
on increasing triangular maps and Bernstein-type polynomials. Compared to the
existing (universal) NF frameworks, our method provides compelling advantages
like theoretical upper bounds for the approximation error, robustness, higher
interpretability, suitability for compactly supported densities, and the
ability to employ higher degree polynomials without training instability.
Moreover, we provide a constructive universality proof, which gives analytic
expressions of the approximations for known transformations. We conduct a
thorough theoretical analysis and empirically demonstrate the efficacy of the
proposed technique using experiments on both real-world and synthetic datasets.
- Abstract(参考訳): 正規化フロー(NFs)は、正確な密度評価とサンプリングを可能にする生成モデルのクラスである。
三角写像の増加とベルンシュタイン型多項式に基づくNF構築の枠組みを提案する。
既存の(普遍的な)nfフレームワークと比較して,近似誤差の理論的上限,ロバスト性,高い解釈性,コンパクトに支持された密度の適合性,高次多項式をトレーニング不安定に使用する能力など,説得力のあるアドバンテージを提供する。
さらに、既知の変換に対する近似の解析式を与える構成的普遍性証明を提供する。
理論解析を徹底し,実世界および合成データセットの実験を用いて提案手法の有効性を実証する。
関連論文リスト
- Iterative Preference Learning from Human Feedback: Bridging Theory and
Practice for RLHF under KL-Constraint [59.18441633176669]
本稿では,RLHFによる強化学習を用いた生成モデルのアライメント過程の理論的枠組みについて検討する。
我々は、標準的な数学的定式化、RLHFの逆KL正規化文脈帯域を考える。
我々は、オフライン、オンライン、ハイブリッドの3つの異なる設定でその振る舞いを調査し、有限サンプル理論的保証を持つ効率的なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-12-18T18:58:42Z) - Gauge-equivariant flow models for sampling in lattice field theories
with pseudofermions [51.52945471576731]
本研究は,フェルミオン行列式の推定器として擬フェルミオンを用いたフェルミオン格子場理論におけるフローベースサンプリングのためのゲージ不変アーキテクチャを提案する。
これは最先端の格子場理論計算におけるデフォルトのアプローチであり、QCDのような理論へのフローモデルの実践的応用に欠かせない。
論文 参考訳(メタデータ) (2022-07-18T21:13:34Z) - Learning Lattice Quantum Field Theories with Equivariant Continuous
Flows [10.124564216461858]
格子場理論の高次元確率分布から抽出する機械学習手法を提案する。
提案手法を$phi4$理論で検証し,提案したフローベース手法のサンプリング効率を体系的に上回っていることを示す。
論文 参考訳(メタデータ) (2022-07-01T09:20:05Z) - Controlling the Complexity and Lipschitz Constant improves polynomial
nets [55.121200972539114]
多項式ネットの結合CP分解(CCP)モデルとNested Coupled CP分解(NCP)モデルに対する新しい複雑性境界を導出する。
本研究では、6つのデータセットで実験的に評価し、モデルが逆摂動に対して頑健であるとともに精度も向上することを示す。
論文 参考訳(メタデータ) (2022-02-10T14:54:29Z) - Triangular Flows for Generative Modeling: Statistical Consistency,
Smoothness Classes, and Fast Rates [8.029049649310211]
三角流、あるいはKn"othe-Rosenblatt測度結合は、フローモデルを正規化するための重要な構成要素である。
三角流統計モデルに対する統計的保証とサンプル複雑性境界を示す。
論文 参考訳(メタデータ) (2021-12-31T18:57:37Z) - Optimizing Information-theoretical Generalization Bounds via Anisotropic
Noise in SGLD [73.55632827932101]
SGLDにおけるノイズ構造を操作することにより,情報理論の一般化を最適化する。
低経験的リスクを保証するために制約を課すことで、最適なノイズ共分散が期待される勾配共分散の平方根であることを証明する。
論文 参考訳(メタデータ) (2021-10-26T15:02:27Z) - Partial Counterfactual Identification from Observational and
Experimental Data [83.798237968683]
観測データと実験データの任意の組み合わせから最適境界を近似する有効なモンテカルロアルゴリズムを開発した。
我々のアルゴリズムは、合成および実世界のデータセットに基づいて広範囲に検証されている。
論文 参考訳(メタデータ) (2021-10-12T02:21:30Z) - Sparse NMF with Archetypal Regularization: Computational and Robustness
Properties [15.057021545475601]
正規化を用いたスパース非負行列分解(NMF)の問題を考える。
目標は、データポイントの集合を、魅力のある性質を持ついくつかの非負のスパース因子の非負の線形結合として表現することである。
論文 参考訳(メタデータ) (2021-04-08T06:06:48Z) - Learning Inconsistent Preferences with Gaussian Processes [14.64963271587818]
我々は,Chuらによる優先的なガウス過程を再考し,潜在ユーティリティ関数の値を通じてデータ項目のランク付けを強制するモデル化の仮定に挑戦する。
本稿では、より表現力のある遅延優先構造をデータ中に捉えることのできるpgpの一般化を提案する。
実験結果から, ランキングビリティの侵害は, 現実の優先データにおいてユビキタスである可能性が示唆された。
論文 参考訳(メタデータ) (2020-06-06T11:57:45Z) - A Unified Framework for Coupled Tensor Completion [42.19293115131073]
結合テンソル分解は、潜在結合因子に由来する事前知識を組み込むことで、結合データ構造を明らかにする。
TRは強力な表現能力を持ち、いくつかの多次元データ処理アプリケーションで成功している。
提案手法は, 合成データに関する数値実験で検証され, 実世界のデータに対する実験結果は, 回収精度の観点から, 最先端の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2020-01-09T02:15:46Z) - Learning Likelihoods with Conditional Normalizing Flows [54.60456010771409]
条件正規化フロー(CNF)はサンプリングと推論において効率的である。
出力空間写像に対する基底密度が入力 x 上で条件づけられた CNF について、条件密度 p(y|x) をモデル化する。
論文 参考訳(メタデータ) (2019-11-29T19:17:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。