論文の概要: Universality of parametric Coupling Flows over parametric diffeomorphisms

• arxiv url: http://arxiv.org/abs/2202.02906v2
• Date: Tue, 8 Feb 2022 07:32:34 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-09 11:52:15.824531
• Title: Universality of parametric Coupling Flows over parametric diffeomorphisms
• Title（参考訳）: パラメトリック微分同相写像上のパラメトリックカップリング流れの普遍性
• Authors: Junlong Lyu, Zhitang Chen, Chang Feng, Wenjing Cun, Shengyu Zhu, Yanhui Geng, Zhijie Xu, Yongwei Chen
• Abstract要約: Coupling Flows CFlowsに基づく可逆ニューラルネットワークは、画像合成やデータ圧縮など、さまざまな応用がある。 CFlows が Ck-ノルムの任意の微分同相を近似できることを示す。
• 参考スコア（独自算出の注目度）: 13.39432329310336
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Invertible neural networks based on Coupling Flows CFlows) have various applications such as image synthesis and data compression. The approximation universality for CFlows is of paramount importance to ensure the model expressiveness. In this paper, we prove that CFlows can approximate any diffeomorphism in C^k-norm if its layers can approximate certain single-coordinate transforms. Specifically, we derive that a composition of affine coupling layers and invertible linear transforms achieves this universality. Furthermore, in parametric cases where the diffeomorphism depends on some extra parameters, we prove the corresponding approximation theorems for our proposed parametric coupling flows named Para-CFlows. In practice, we apply Para-CFlows as a neural surrogate model in contextual Bayesian optimization tasks, to demonstrate its superiority over other neural surrogate models in terms of optimization performance.
• Abstract（参考訳）: 結合フローcflowsに基づく可逆ニューラルネットワークは、画像合成やデータ圧縮といった様々な応用がある。 CFlowsの近似普遍性はモデル表現性を保証するために最重要となる。 本稿では,CFlowsがC^k-ノルムの任意の微分同相を近似できることを示す。 具体的には、アフィン結合層と可逆線型変換の合成がこの普遍性を達成することを導出する。 さらに、微分同相がいくつかの余剰パラメータに依存するパラメトリックの場合、パラメトリックカップリングフローに対する対応する近似定理をパラメトリックフローと呼ぶ。 実際に,Para-CFlowsを文脈的ベイズ最適化タスクにおけるニューラルサロゲートモデルとして適用し,最適化性能の点で他のニューラルサロゲートモデルよりも優れていることを示す。

関連論文リスト

• Fisher Flow Matching for Generative Modeling over Discrete Data [12.69975914345141]
  離散データのための新しいフローマッチングモデルであるFisher-Flowを紹介する。 Fisher-Flowは、離散データ上のカテゴリー分布を考慮し、明らかに幾何学的な視点を採っている。 Fisher-Flowにより誘導される勾配流は, 前方KLの発散を低減するのに最適であることを示す。
  論文  参考訳（メタデータ） (2024-05-23T15:02:11Z)
• The Convex Landscape of Neural Networks: Characterizing Global Optima and Stationary Points via Lasso Models [75.33431791218302]
  ディープニューラルネットワーク(DNN)モデルは、プログラミング目的に使用される。 本稿では,凸型神経回復モデルについて検討する。 定常的非次元目的物はすべて,グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。 また, 静止非次元目的物はすべて, グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
  論文  参考訳（メタデータ） (2023-12-19T23:04:56Z)
• FineMorphs: Affine-diffeomorphic sequences for regression [1.1421942894219896]
  モデル状態は学習中に滑らかなベクトル場によって生成される微分同相によって最適に「再形」される。 アフィン変換とベクトル場は最適制御設定内で最適化される。 このモデルは次元を自然に減らし(あるいは増大させる)、最適なベクトル場を通して大きなデータセットに適応することができる。
  論文  参考訳（メタデータ） (2023-05-26T20:54:18Z)
• $\mathcal{C}^k$-continuous Spline Approximation with TensorFlow Gradient Descent Optimizers [2.0305676256390934]
  産業最適化問題に対する機械学習(ML)の「アウト・オブ・ボックス」アプリケーションを提案する。 我々はcam近似設定でデプロイ可能な$mathcalCk$-continuos関数のフィッティングのためのピースワイズモデル(スプライン)を導入する。 次に、機械学習フレームワークが提供する勾配勾配勾配最適化を用いて、近似品質と$mathcalCk$-continuityに関するモデルパラメータを最適化する。
  論文  参考訳（メタデータ） (2023-03-22T10:52:21Z)
• Dynamically-Scaled Deep Canonical Correlation Analysis [77.34726150561087]
  カノニカル相関解析 (CCA) は, 2つのビューの特徴抽出手法である。 本稿では,入力依存の正準相関モデルをトレーニングするための新しい動的スケーリング手法を提案する。
  論文  参考訳（メタデータ） (2022-03-23T12:52:49Z)
• Convex Potential Flows: Universal Probability Distributions with Optimal Transport and Convex Optimization [8.683116789109462]
  本稿では,可逆モデルの自然かつ効率的なパラメータ化であるConvex Potential Flows (CP-Flow)を紹介する。 CP-フローは強凸神経電位関数の勾配写像である。 CP-Flowは密度推定と変分推論の標準ベンチマークで競合的に動作することを示す。
  論文  参考訳（メタデータ） (2020-12-10T19:36:34Z)
• Probabilistic Circuits for Variational Inference in Discrete Graphical Models [101.28528515775842]
  変分法による離散的グラフィカルモデルの推論は困難である。 エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。 Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。 選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-22T05:04:38Z)
• NanoFlow: Scalable Normalizing Flows with Sublinear Parameter Complexity [28.201670958962453]
  正規化フロー(NFs)は、分析確率密度の推定と効率的な合成を可能にする深層生成モデルの顕著な方法となっている。 本稿では,1つのニューラルネットワーク密度推定器を用いて,複数の変換ステージをモデル化するNanoFlowというパラメータ化手法を提案する。
  論文  参考訳（メタデータ） (2020-06-11T09:35:00Z)
• Normalizing Flows with Multi-Scale Autoregressive Priors [131.895570212956]
  マルチスケール自己回帰前処理(mAR)を通した遅延空間におけるチャネルワイド依存性を導入する。 我々のmARは、分割結合フロー層(mAR-SCF)を持つモデルに先立って、複雑なマルチモーダルデータの依存関係をよりよく捉えます。 我々は,mAR-SCFにより画像生成品質が向上し,FIDとインセプションのスコアは最先端のフローベースモデルと比較して向上したことを示す。
  論文  参考訳（メタデータ） (2020-04-08T09:07:11Z)
• Supervised Learning for Non-Sequential Data: A Canonical Polyadic Decomposition Approach [85.12934750565971]
  特徴相互作用の効率的なモデリングは、非順序的タスクに対する教師あり学習の基盤となる。 この問題を緩和するため、モデルパラメータをテンソルとして暗黙的に表現することが提案されている。 表現性を向上するため,任意の高次元特徴ベクトルに特徴写像を適用できるようにフレームワークを一般化する。
  論文  参考訳（メタデータ） (2020-01-27T22:38:40Z)
• Model Fusion via Optimal Transport [64.13185244219353]
  ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。 これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
  論文  参考訳（メタデータ） (2019-10-12T22:07:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。