論文の概要: Conditional Deep Inverse Rosenblatt Transports
- arxiv url: http://arxiv.org/abs/2106.04170v1
- Date: Tue, 8 Jun 2021 08:23:11 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-09 16:06:47.076865
- Title: Conditional Deep Inverse Rosenblatt Transports
- Title(参考訳): 条件付き逆ローゼンブラット輸送
- Authors: Tiangang Cui and Sergey Dolgov and Olivier Zahm
- Abstract要約: 統計的学習における条件付き信念の特徴付けの計算負担を軽減するために,新しいオフラインオンライン手法を提案する。
オフライン段階では、テンソル-トレイン形式において、信念ランダム変数と観察ランダム変数の合同法則を学習する。
オンラインフェーズでは、結果の順序保存条件付きトランスポートマップを使用して、新しい観測情報を得た条件付き信念をリアルタイムに評価する。
- 参考スコア(独自算出の注目度): 2.0625936401496237
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present a novel offline-online method to mitigate the computational burden
of the characterization of conditional beliefs in statistical learning. In the
offline phase, the proposed method learns the joint law of the belief random
variables and the observational random variables in the tensor-train (TT)
format. In the online phase, it utilizes the resulting order-preserving
conditional transport map to issue real-time characterization of the
conditional beliefs given new observed information. Compared with the
state-of-the-art normalizing flows techniques, the proposed method relies on
function approximation and is equipped with thorough performance analysis. This
also allows us to further extend the capability of transport maps in
challenging problems with high-dimensional observations and high-dimensional
belief variables. On the one hand, we present novel heuristics to reorder
and/or reparametrize the variables to enhance the approximation power of TT. On
the other, we integrate the TT-based transport maps and the parameter
reordering/reparametrization into layered compositions to further improve the
performance of the resulting transport maps. We demonstrate the efficiency of
the proposed method on various statistical learning tasks in ordinary
differential equations (ODEs) and partial differential equations (PDEs).
- Abstract(参考訳): 統計的学習における条件付き信念の特徴付けの計算負担を軽減する新しいオフラインオンライン手法を提案する。
オフラインフェーズでは,提案手法はテンソルトレイン(TT)フォーマットで,信念のランダム変数と観測のランダム変数の合同法則を学習する。
オンラインフェーズでは、結果の順序保存条件付きトランスポートマップを使用して、新しい観測情報を得た条件付き信念をリアルタイムに評価する。
最先端の正規化フロー技術と比較して,提案手法は関数近似に依存し,徹底的な性能解析を行う。
これにより、高次元の観測と高次元の信念変数による挑戦問題において、トランスポートマップの能力をさらに拡張することができる。
一方,TTの近似能力を高めるため,変数の並べ替えや再パラメータ化のための新しいヒューリスティックスを提案する。
一方,TTをベースとしたトランスポートマップとパラメータのリオーダー/リパラメトリゼーションを層状構造に統合することで,トランスポートマップの性能をさらに向上する。
常微分方程式(ODE)と偏微分方程式(PDE)の様々な統計的学習課題における提案手法の有効性を示す。
関連論文リスト
- Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。
物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。
PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
論文 参考訳(メタデータ) (2024-07-10T17:39:50Z) - State-Free Inference of State-Space Models: The Transfer Function Approach [132.83348321603205]
状態のない推論では、状態サイズが大きくなると大きなメモリや計算コストは発生しない。
提案した周波数領域転送関数のパラメトリゼーション特性を用いてこれを実現する。
長い畳み込みハイエナベースライン上での言語モデリングにおける難易度の改善を報告した。
論文 参考訳(メタデータ) (2024-05-10T00:06:02Z) - Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - Efficient Neural Network Approaches for Conditional Optimal Transport with Applications in Bayesian Inference [1.740133468405535]
静的および条件付き最適輸送(COT)問題の解を近似する2つのニューラルネットワークアプローチを提案する。
我々は、ベンチマークデータセットとシミュレーションに基づく逆問題を用いて、両アルゴリズムを競合する最先端のアプローチと比較する。
論文 参考訳(メタデータ) (2023-10-25T20:20:09Z) - A transport approach to sequential simulation-based inference [0.0]
静的モデルパラメータの逐次ベイズ推定を効率的に行うためのトランスポートベース手法を提案する。
この戦略は、パラメータとデータの合同分布から条件分布を抽出し、構造化された(例えば、ブロック三角形)輸送マップを推定する。
これにより、モデルのないオンラインフェーズにおける輸送マップによる後部密度の勾配に基づく特徴付けが可能になる。
論文 参考訳(メタデータ) (2023-08-26T18:53:48Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳(メタデータ) (2023-05-31T15:33:16Z) - On Hypothesis Transfer Learning of Functional Linear Models [8.557392136621894]
再生カーネル空間(RKHS)フレームワークを用いて,関数線形回帰(FLR)のための伝達学習(TL)について検討する。
我々は、RKHS距離を用いてタスク間の類似度を測定し、RKHSの特性に関連付けられた情報の転送を行う。
2つのアルゴリズムが提案され、1つは正のソースが分かっているときに転送を行い、もう1つはアグリゲーションを利用してソースに関する事前情報なしでロバストな転送を行う。
論文 参考訳(メタデータ) (2022-06-09T04:50:16Z) - Comparing Probability Distributions with Conditional Transport [63.11403041984197]
新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。
ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。
さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
論文 参考訳(メタデータ) (2020-12-28T05:14:22Z) - Deep composition of tensor-trains using squared inverse Rosenblatt
transports [0.6091702876917279]
本稿では, 逆ローゼンブラット輸送の関数テンソル-トレイン近似を一般化する。
我々は、この輸送を2乗テンソル-トレイン分解から効率的に計算する手法を開発した。
結果として生じる深い逆ローゼンブラット輸送は、テンソル近似とランダム変数への写像の能力を大きく拡張する。
論文 参考訳(メタデータ) (2020-07-14T11:04:18Z) - A Near-Optimal Gradient Flow for Learning Neural Energy-Based Models [93.24030378630175]
学習エネルギーベースモデル(EBM)の勾配流を最適化する新しい数値スキームを提案する。
フォッカー・プランク方程式から大域相対エントロピーの2階ワッサーシュタイン勾配流を導出する。
既存のスキームと比較して、ワッサーシュタイン勾配流は実データ密度を近似するより滑らかで近似的な数値スキームである。
論文 参考訳(メタデータ) (2019-10-31T02:26:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。