論文の概要: Semi-Discrete Normalizing Flows through Differentiable Tessellation
- arxiv url: http://arxiv.org/abs/2203.06832v1
- Date: Mon, 14 Mar 2022 03:06:31 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-15 14:01:13.920405
- Title: Semi-Discrete Normalizing Flows through Differentiable Tessellation
- Title(参考訳): 微分型テッセルレーションによる半離散正規化流れ
- Authors: Ricky T. Q. Chen, Brandon Amos, Maximilian Nickel
- Abstract要約: 本稿では,連続空間上の量子化境界を正確に評価し,テッセルレーションに基づく手法を提案する。
これは、微分可能なボロノイ・テッセルレーションによってパラメータ化された凸多面体上の正規化フローを構築することによって行われる。
我々は,データモダリティの多様さにまたがる既存手法の改善を示すとともに,Voronoi混合をベースラインモデルに組み込むことで,大きな利益を得ることができることを見出した。
- 参考スコア(独自算出の注目度): 31.474420819149724
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Mapping between discrete and continuous distributions is a difficult task and
many have had to resort to approximate or heuristical approaches. We propose a
tessellation-based approach that directly learns quantization boundaries on a
continuous space, complete with exact likelihood evaluations. This is done
through constructing normalizing flows on convex polytopes parameterized
through a differentiable Voronoi tessellation. Using a simple homeomorphism
with an efficient log determinant Jacobian, we can then cheaply parameterize
distributions on convex polytopes.
We explore this approach in two application settings, mapping from discrete
to continuous and vice versa. Firstly, a Voronoi dequantization allows
automatically learning quantization boundaries in a multidimensional space. The
location of boundaries and distances between regions can encode useful
structural relations between the quantized discrete values. Secondly, a Voronoi
mixture model has constant computation cost for likelihood evaluation
regardless of the number of mixture components. Empirically, we show
improvements over existing methods across a range of structured data
modalities, and find that we can achieve a significant gain from just adding
Voronoi mixtures to a baseline model.
- Abstract(参考訳): 離散分布と連続分布の間のマッピングは難しい作業であり、多くの人は近似的あるいはヒューリスティックなアプローチに頼る必要があった。
本研究では,連続空間上の量子化境界を直接学習し,正確な確率評価を行なえるテッセレーションベースアプローチを提案する。
これは微分可能なボロノイテッセレーションによってパラメータ化された凸ポリトープ上の正規化フローを構築することによって行われる。
効率的な対数決定型ヤコビアンを持つ単純同型を用いて、凸ポリトープ上の分布を安価にパラメータ化することができる。
このアプローチを、個別から連続へのマッピングと、その逆の2つのアプリケーション設定で検討します。
まず、ボロノイ量子化は多次元空間における量子化境界を自動的に学習することを可能にする。
領域間の境界と距離の位置は、量子化された離散値の間の有用な構造関係を符号化することができる。
第二に、ボロノイ混合モデルは、混合成分の数によらず、確率評価のための一定の計算コストを有する。
経験的に、さまざまな構造化データモダリティをまたいだ既存のメソッドに対する改善を示し、ベースラインモデルにvoronoiの混合物を追加するだけで大きな利益が得られることを見出します。
関連論文リスト
- Empirical Density Estimation based on Spline Quasi-Interpolation with
applications to Copulas clustering modeling [0.0]
密度推定は、様々な分野において、基礎となるデータの分布をモデル化し理解するための基礎的な手法である。
本稿では,擬似補間による密度の単変量近似を提案する。
提案アルゴリズムは人工データセットと実データセットで検証される。
論文 参考訳(メタデータ) (2024-02-18T11:49:38Z) - Generative Modeling on Manifolds Through Mixture of Riemannian Diffusion Processes [57.396578974401734]
一般多様体上に生成拡散過程を構築するための原理的枠組みを導入する。
従来の拡散モデルの認知的アプローチに従う代わりに、橋梁プロセスの混合を用いて拡散過程を構築する。
混合過程を幾何学的に理解し,データ点への接する方向の重み付け平均としてドリフトを導出する。
論文 参考訳(メタデータ) (2023-10-11T06:04:40Z) - Robust scalable initialization for Bayesian variational inference with
multi-modal Laplace approximations [0.0]
フル共分散構造を持つ変分混合は、パラメータ数による変動パラメータによる二次的な成長に苦しむ。
本稿では,変分推論のウォームスタートに使用できる初期ガウスモデル近似を構築する方法を提案する。
論文 参考訳(メタデータ) (2023-07-12T19:30:04Z) - Diffeomorphic Mesh Deformation via Efficient Optimal Transport for Cortical Surface Reconstruction [40.73187749820041]
メッシュ変形は、動的シミュレーション、レンダリング、再構成を含む多くの3次元視覚タスクにおいて重要な役割を果たす。
現在のディープラーニングにおける一般的なアプローチは、2つのメッシュからランダムにサンプリングされた2つの点雲とシャンファーの擬似距離を比較することで、2つの面間の差を測定するセットベースアプローチである。
本稿では,メッシュのスライスされたワッサーシュタイン距離を,セットベースアプローチを一般化する確率測度として表現したメッシュ変形の学習指標を提案する。
論文 参考訳(メタデータ) (2023-05-27T19:10:19Z) - Gradient Flows for Sampling: Mean-Field Models, Gaussian Approximations and Affine Invariance [10.153270126742369]
確率密度空間とガウス空間の両方における勾配流について検討する。
ガウス空間のフローは、フローのガウス近似として理解することができる。
論文 参考訳(メタデータ) (2023-02-21T21:44:08Z) - Counting Phases and Faces Using Bayesian Thermodynamic Integration [77.34726150561087]
本稿では,2パラメータ統計力学系における熱力学関数と位相境界の再構成手法を提案する。
提案手法を用いて,IsingモデルとTASEPの分割関数と位相図を正確に再構成する。
論文 参考訳(メタデータ) (2022-05-18T17:11:23Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Density Ratio Estimation via Infinitesimal Classification [85.08255198145304]
そこで我々は, DRE-inftyを提案する。 DRE-inftyは, 密度比推定(DRE)を, より簡単なサブプロブレムに還元する手法である。
モンテカルロ法にインスパイアされ、中間ブリッジ分布の無限連続体を介して2つの分布の間を滑らかに補間する。
提案手法は,複雑な高次元データセット上での相互情報推定やエネルギーベースモデリングなどの下流タスクにおいて良好に動作することを示す。
論文 参考訳(メタデータ) (2021-11-22T06:26:29Z) - Continuous normalizing flows on manifolds [0.342658286826597]
本稿では,最近導入されたニューラルODEと連続正規化フローを任意の滑らかな多様体に拡張する方法について述べる。
本稿では,これらの空間上のベクトル場をパラメータ化するための一般的な手法を提案する。
論文 参考訳(メタデータ) (2021-03-14T15:35:19Z) - The Connection between Discrete- and Continuous-Time Descriptions of
Gaussian Continuous Processes [60.35125735474386]
我々は、一貫した推定子をもたらす離散化が粗粒化下での不変性を持つことを示す。
この結果は、導関数再構成のための微分スキームと局所時間推論アプローチの組み合わせが、2次または高次微分方程式の時系列解析に役立たない理由を説明する。
論文 参考訳(メタデータ) (2021-01-16T17:11:02Z) - Inverse Learning of Symmetries [71.62109774068064]
2つの潜在部分空間からなるモデルで対称性変換を学ぶ。
我々のアプローチは、情報ボトルネックと連続的な相互情報正規化器の組み合わせに基づいています。
我々のモデルは, 人工的および分子的データセットにおける最先端の手法より優れている。
論文 参考訳(メタデータ) (2020-02-07T13:48:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。