論文の概要: Unbalanced Sobolev Descent
- arxiv url: http://arxiv.org/abs/2009.14148v1
- Date: Tue, 29 Sep 2020 16:43:38 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-13 05:35:32.812685
- Title: Unbalanced Sobolev Descent
- Title（参考訳）: 非平衡ソボレフ降下
- Authors: Youssef Mroueh, Mattia Rigotti
- Abstract要約: 非平衡ソボレフ蛍光(USD)は、高次元の音源分布を、必ずしも同じ質量を持つとは限らないターゲット分布へ輸送する粒子降下アルゴリズムである。
USDは、ソボレフ・フィッシャー差動の証人関数の流れに沿って粒子を輸送し(対流ステップ)、この証人関数に関して粒子の質量を再考する(反応ステップ)。
本稿では,USD が従来の粒子降下アルゴリズムよりも高速に質量を保存・保存して分布を輸送する合成例を示す。
- 参考スコア（独自算出の注目度）: 31.777218621726284
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce Unbalanced Sobolev Descent (USD), a particle descent algorithm
for transporting a high dimensional source distribution to a target
distribution that does not necessarily have the same mass. We define the
Sobolev-Fisher discrepancy between distributions and show that it relates to
advection-reaction transport equations and the Wasserstein-Fisher-Rao metric
between distributions. USD transports particles along gradient flows of the
witness function of the Sobolev-Fisher discrepancy (advection step) and
reweighs the mass of particles with respect to this witness function (reaction
step). The reaction step can be thought of as a birth-death process of the
particles with rate of growth proportional to the witness function. When the
Sobolev-Fisher witness function is estimated in a Reproducing Kernel Hilbert
Space (RKHS), under mild assumptions we show that USD converges asymptotically
(in the limit of infinite particles) to the target distribution in the Maximum
Mean Discrepancy (MMD) sense. We then give two methods to estimate the
Sobolev-Fisher witness with neural networks, resulting in two Neural USD
algorithms. The first one implements the reaction step with mirror descent on
the weights, while the second implements it through a birth-death process of
particles. We show on synthetic examples that USD transports distributions with
or without conservation of mass faster than previous particle descent
algorithms, and finally demonstrate its use for molecular biology analyses
where our method is naturally suited to match developmental stages of
populations of differentiating cells based on their single-cell RNA sequencing
profile. Code is available at https://github.com/ibm/usd .
- Abstract（参考訳）: 非平衡ソボレフ降下法(unbalanced sobolev descent, usd)は、高次元の源分布を必ずしも同じ質量ではない対象分布に輸送する粒子降下アルゴリズムである。
分布間のソボレフ・フィッシャーの不一致を定義し、分布間の移流-反応輸送方程式とワッサーシュタイン-フィッシャー-ラオ計量との関係を示す。
USDは、ソボレフ・フィッシャーの差分(対流ステップ)の目撃関数の勾配に沿って粒子を輸送し、この目撃関数(反動ステップ)に関して粒子の質量を再考する。
反応過程は、証人関数に比例した成長速度の粒子の生死過程と考えることができる。
再現ケルネルヒルベルト空間(RKHS)においてソボレフ・フィッシャー目撃関数が推定されると、USDは(無限粒子の極限において)漸近的に最大平均離散性(MMD)の意味で目標分布に収束することを示す。
次に、ニューラルネットワークを用いてソボレフ・フィッシュの目撃者を推定する方法を2つ与え、その結果2つのニューラルusdアルゴリズムを得る。
1つ目はミラー降下による反応のステップを重みに実装し、2つ目は粒子の生死過程を通じて実装する。
本研究は, 単細胞RNAシークエンシングプロファイルに基づく分化細胞の個体群の発達段階と自然に一致させるのに適した分子生物学的解析法として, USDトランスポートが従来の粒子降下アルゴリズムよりも高速に質量を輸送することを示す合成例を示す。
コードはhttps://github.com/ibm/usdで入手できる。
関連論文リスト
- Your Absorbing Discrete Diffusion Secretly Models the Conditional Distributions of Clean Data [55.54827581105283]
本研究では, 吸収拡散の具体的なスコアを, クリーンデータの条件付き確率として表すことができることを示す。
時間に依存しない条件付き確率を特徴付ける時間条件のない専用拡散モデルを提案する。
5つのゼロショット言語モデルベンチマークにおける拡散モデル間のSOTA性能を実現する。
論文 参考訳（メタデータ） (2024-06-06T04:22:11Z) - Amortizing intractable inference in diffusion models for vision, language, and control [89.65631572949702]
本稿では,p(mathbfx)$以前の拡散生成モデルとブラックボックス制約,あるいは関数$r(mathbfx)$からなるモデルにおいて,データ上の後部サンプルである $mathbfxsim prm post(mathbfx)propto p(mathbfx)r(mathbfx)$について検討する。
我々は,データフリー学習目標である相対軌道バランスの正しさを,サンプルから抽出した拡散モデルの訓練のために証明する。
論文 参考訳（メタデータ） (2024-05-31T16:18:46Z) - Unraveling the Smoothness Properties of Diffusion Models: A Gaussian Mixture Perspective [29.27113653850964]
拡散過程のリプシッツ連続性と第二運動量特性の理論的理解を提供する。
この結果から, 共通データ分布下での拡散過程のダイナミクスについて, より深い理論的知見が得られた。
論文 参考訳（メタデータ） (2024-05-26T03:32:27Z) - Diffusion-based inpainting of incomplete Euclidean distance matrices of trajectories generated by a fractional Brownian motion [50.38638300332429]
フラクショナルブラウン軌道 (fBm) はランダム性と強いスケール自由相関を特徴とする。
ここでは,fBmの不完全距離行列に対応する劣化した画像の特定のデータセット上で,様々なメモリ指数において拡散確率モデルを検証した。
条件拡散生成は、fBm分布距離の統計を、異なる値の$H$指数で安定に再現する。
論文 参考訳（メタデータ） (2024-04-10T14:22:16Z) - Non-asymptotic Convergence of Discrete-time Diffusion Models: New Approach and Improved Rate [49.97755400231656]
我々はDT拡散過程下での分布のかなり大きなクラスに対する収束保証を確立する。
次に、明示的なパラメータ依存を持つ分布の多くの興味深いクラスに結果を専門化します。
そこで本研究では,新しい加速型サンプリング器を提案し,対応する正則サンプリング器の収束率を,全てのシステムパラメータに対して桁違いに向上することを示す。
論文 参考訳（メタデータ） (2024-02-21T16:11:47Z) - Computing Marginal and Conditional Divergences between Decomposable
Models with Applications [7.89568731669979]
本稿では,2つの分解可能なモデルの任意の限界分布と条件分布の正確なα-ベータの偏差を計算する手法を提案する。
提案手法を用いて,まずベンチマーク画像データセットに適用することにより,分布変化を解析する方法を示す。
本稿では,現代の超伝導量子コンピュータにおける誤差の定量化手法を提案する。
論文 参考訳（メタデータ） (2023-10-13T14:17:25Z) - Bayesian Inference for Jump-Diffusion Approximations of Biochemical
Reaction Networks [26.744964200606784]
マルコフ連鎖モンテカルロに基づく抽出可能なベイズ推定アルゴリズムを開発した。
このアルゴリズムは、部分的に観察されたマルチスケールの生死過程の例に対して数値的に評価される。
論文 参考訳（メタデータ） (2023-04-13T14:57:22Z) - Interference dynamics of matter-waves of SU($N$) fermions [0.0]
強相関SU($N$)フェルミオンのモータに関する2つの物理観測値の解析を行った。
ホモダインと自己ヘテロダインの干渉は、フェルミ分布の構造と粒子の相関に特異的に依存していることが判明した。
論文 参考訳（メタデータ） (2022-06-06T18:00:01Z) - A blob method method for inhomogeneous diffusion with applications to
multi-agent control and sampling [0.6562256987706128]
重み付き多孔質媒質方程式(WPME)に対する決定論的粒子法を開発し,その収束性を時間間隔で証明する。
提案手法は,マルチエージェントカバレッジアルゴリズムや確率測定のサンプリングに自然に応用できる。
論文 参考訳（メタデータ） (2022-02-25T19:49:05Z) - Mechanism for particle fractionalization and universal edge physics in
quantum Hall fluids [58.720142291102135]
我々は、FQH流体中の粒子分数化の正確な融合機構を明らかにするための第2量子化フレームワークを前進させる。
また、最低ランダウレベル(LLL)における位相順序を特徴付ける非局所作用素の凝縮の背後にある基本構造を明らかにする。
論文 参考訳（メタデータ） (2021-10-12T18:00:00Z) - Variational Transport: A Convergent Particle-BasedAlgorithm for Distributional Optimization [106.70006655990176]
分散最適化問題は機械学習や統計学で広く発生する。
本稿では,変分輸送と呼ばれる粒子に基づく新しいアルゴリズムを提案する。
目的関数がpolyak-Lojasiewicz (PL) (Polyak, 1963) の機能バージョンと滑らかな条件を満たすとき、変分輸送は線形に収束することを示す。
論文 参考訳（メタデータ） (2020-12-21T18:33:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。