論文の概要: Semi-Discrete Normalizing Flows through Differentiable Tessellation
- arxiv url: http://arxiv.org/abs/2203.06832v1
- Date: Mon, 14 Mar 2022 03:06:31 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-15 14:01:13.920405
- Title: Semi-Discrete Normalizing Flows through Differentiable Tessellation
- Title(参考訳): 微分型テッセルレーションによる半離散正規化流れ
- Authors: Ricky T. Q. Chen, Brandon Amos, Maximilian Nickel
- Abstract要約: 本稿では,連続空間上の量子化境界を正確に評価し,テッセルレーションに基づく手法を提案する。
これは、微分可能なボロノイ・テッセルレーションによってパラメータ化された凸多面体上の正規化フローを構築することによって行われる。
我々は,データモダリティの多様さにまたがる既存手法の改善を示すとともに,Voronoi混合をベースラインモデルに組み込むことで,大きな利益を得ることができることを見出した。
- 参考スコア(独自算出の注目度): 31.474420819149724
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Mapping between discrete and continuous distributions is a difficult task and
many have had to resort to approximate or heuristical approaches. We propose a
tessellation-based approach that directly learns quantization boundaries on a
continuous space, complete with exact likelihood evaluations. This is done
through constructing normalizing flows on convex polytopes parameterized
through a differentiable Voronoi tessellation. Using a simple homeomorphism
with an efficient log determinant Jacobian, we can then cheaply parameterize
distributions on convex polytopes.
We explore this approach in two application settings, mapping from discrete
to continuous and vice versa. Firstly, a Voronoi dequantization allows
automatically learning quantization boundaries in a multidimensional space. The
location of boundaries and distances between regions can encode useful
structural relations between the quantized discrete values. Secondly, a Voronoi
mixture model has constant computation cost for likelihood evaluation
regardless of the number of mixture components. Empirically, we show
improvements over existing methods across a range of structured data
modalities, and find that we can achieve a significant gain from just adding
Voronoi mixtures to a baseline model.
- Abstract(参考訳): 離散分布と連続分布の間のマッピングは難しい作業であり、多くの人は近似的あるいはヒューリスティックなアプローチに頼る必要があった。
本研究では,連続空間上の量子化境界を直接学習し,正確な確率評価を行なえるテッセレーションベースアプローチを提案する。
これは微分可能なボロノイテッセレーションによってパラメータ化された凸ポリトープ上の正規化フローを構築することによって行われる。
効率的な対数決定型ヤコビアンを持つ単純同型を用いて、凸ポリトープ上の分布を安価にパラメータ化することができる。
このアプローチを、個別から連続へのマッピングと、その逆の2つのアプリケーション設定で検討します。
まず、ボロノイ量子化は多次元空間における量子化境界を自動的に学習することを可能にする。
領域間の境界と距離の位置は、量子化された離散値の間の有用な構造関係を符号化することができる。
第二に、ボロノイ混合モデルは、混合成分の数によらず、確率評価のための一定の計算コストを有する。
経験的に、さまざまな構造化データモダリティをまたいだ既存のメソッドに対する改善を示し、ベースラインモデルにvoronoiの混合物を追加するだけで大きな利益が得られることを見出します。
関連論文リスト
- Empirical Density Estimation based on Spline Quasi-Interpolation with
applications to Copulas clustering modeling [0.0]
密度推定は、様々な分野において、基礎となるデータの分布をモデル化し理解するための基礎的な手法である。
本稿では,擬似補間による密度の単変量近似を提案する。
提案アルゴリズムは人工データセットと実データセットで検証される。
論文 参考訳(メタデータ) (2024-02-18T11:49:38Z) - Sampling and estimation on manifolds using the Langevin diffusion [48.898189211250234]
離散化マルコフ過程に基づく$mu_phi $の線形汎函数の2つの推定器を検討する。
誤差境界は、本質的に定義されたランゲヴィン拡散の離散化を用いてサンプリングと推定のために導出される。
論文 参考訳(メタデータ) (2023-12-22T18:01:11Z) - Robust scalable initialization for Bayesian variational inference with
multi-modal Laplace approximations [0.0]
フル共分散構造を持つ変分混合は、パラメータ数による変動パラメータによる二次的な成長に苦しむ。
本稿では,変分推論のウォームスタートに使用できる初期ガウスモデル近似を構築する方法を提案する。
論文 参考訳(メタデータ) (2023-07-12T19:30:04Z) - Diffeomorphic Deformation via Sliced Wasserstein Distance Optimization
for Cortical Surface Reconstruction [43.160141829169]
この計量は、セットベースのアプローチを一般化する確率測度として表されるメッシュ上のワッサーシュタイン距離をスライスして定義される。
我々は、入力表面をターゲット形状に変形させるために、ニューラルネットワークの常微分方程式(ODE)を用いて、表面上の点の軌跡をモデル化する。
大脳皮質表面の再構成実験は、複数のデータセットやメトリクスにおいて、我々のアプローチが他の競合する手法を上回ることを示した。
論文 参考訳(メタデータ) (2023-05-27T19:10:19Z) - Gradient Flows for Sampling: Mean-Field Models, Gaussian Approximations
and Affine Invariance [10.892894776497165]
確率密度空間とガウス空間の両方における勾配流について検討する。
ガウス空間のフローは、フローのガウス近似として理解することができる。
論文 参考訳(メタデータ) (2023-02-21T21:44:08Z) - Counting Phases and Faces Using Bayesian Thermodynamic Integration [77.34726150561087]
本稿では,2パラメータ統計力学系における熱力学関数と位相境界の再構成手法を提案する。
提案手法を用いて,IsingモデルとTASEPの分割関数と位相図を正確に再構成する。
論文 参考訳(メタデータ) (2022-05-18T17:11:23Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Density Ratio Estimation via Infinitesimal Classification [85.08255198145304]
そこで我々は, DRE-inftyを提案する。 DRE-inftyは, 密度比推定(DRE)を, より簡単なサブプロブレムに還元する手法である。
モンテカルロ法にインスパイアされ、中間ブリッジ分布の無限連続体を介して2つの分布の間を滑らかに補間する。
提案手法は,複雑な高次元データセット上での相互情報推定やエネルギーベースモデリングなどの下流タスクにおいて良好に動作することを示す。
論文 参考訳(メタデータ) (2021-11-22T06:26:29Z) - Continuous normalizing flows on manifolds [0.342658286826597]
本稿では,最近導入されたニューラルODEと連続正規化フローを任意の滑らかな多様体に拡張する方法について述べる。
本稿では,これらの空間上のベクトル場をパラメータ化するための一般的な手法を提案する。
論文 参考訳(メタデータ) (2021-03-14T15:35:19Z) - The Connection between Discrete- and Continuous-Time Descriptions of
Gaussian Continuous Processes [60.35125735474386]
我々は、一貫した推定子をもたらす離散化が粗粒化下での不変性を持つことを示す。
この結果は、導関数再構成のための微分スキームと局所時間推論アプローチの組み合わせが、2次または高次微分方程式の時系列解析に役立たない理由を説明する。
論文 参考訳(メタデータ) (2021-01-16T17:11:02Z) - Inverse Learning of Symmetries [71.62109774068064]
2つの潜在部分空間からなるモデルで対称性変換を学ぶ。
我々のアプローチは、情報ボトルネックと連続的な相互情報正規化器の組み合わせに基づいています。
我々のモデルは, 人工的および分子的データセットにおける最先端の手法より優れている。
論文 参考訳(メタデータ) (2020-02-07T13:48:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。