論文の概要: Embracing the chaos: analysis and diagnosis of numerical instability in variational flows

• arxiv url: http://arxiv.org/abs/2307.06957v1
• Date: Wed, 12 Jul 2023 23:13:10 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-17 16:11:56.348328
• Title: Embracing the chaos: analysis and diagnosis of numerical instability in variational flows
• Title（参考訳）: カオスを受け入れる:変動流における数値不安定の解析と診断
• Authors: Zuheng Xu, Trevor Campbell
• Abstract要約: 変動流中における数値不安定性がサンプリングの信頼性,密度評価,およびエビデンス低境界(ELBO)推定に及ぼす影響について検討した。 その結果, 数値不安定性が高いにもかかわらず, 流れの結果はアプリケーションに十分正確であることが判明した。
• 参考スコア（独自算出の注目度）: 19.366538729532856
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we investigate the impact of numerical instability on the reliability of sampling, density evaluation, and evidence lower bound (ELBO) estimation in variational flows. We first empirically demonstrate that common flows can exhibit a catastrophic accumulation of error: the numerical flow map deviates significantly from the exact map -- which affects sampling -- and the numerical inverse flow map does not accurately recover the initial input -- which affects density and ELBO computations. Surprisingly though, we find that results produced by flows are often accurate enough for applications despite the presence of serious numerical instability. In this work, we treat variational flows as dynamical systems, and leverage shadowing theory to elucidate this behavior via theoretical guarantees on the error of sampling, density evaluation, and ELBO estimation. Finally, we develop and empirically test a diagnostic procedure that can be used to validate results produced by numerically unstable flows in practice.
• Abstract（参考訳）: 本稿では,変動流における数値不安定性がサンプリングの信頼性,密度評価,エビデンスローバウンド(elbo)推定に与える影響について検討する。 数値フローマップは正確なマップ(サンプリングに影響する)から大きく逸脱し、数値逆フローマップは、密度とelbo計算に影響を与える初期入力を正確に回復することができない。 驚くべきことに、深刻な数値不安定が存在するにもかかわらず、流れによって生じる結果は、応用に十分正確であることが多い。 本研究では, 変動流を力学系として扱い, シャドーイング理論を活用し, サンプリング誤差, 密度評価, ELBO推定の理論的保証により, この挙動を解明する。 最後に,数値的に不安定な流れによる結果の検証に使用できる診断手法を開発し,実証的に検証する。

関連論文リスト

• Generative AI for fast and accurate Statistical Computation of Fluids [21.820160898966055]
  本稿では,高速で正確で頑健な統計計算の課題に対処する生成AIアルゴリズムを提案する。 GenCFDと呼ばれる我々のアルゴリズムは条件付きスコアベース拡散モデルに基づいている。
  論文  参考訳（メタデータ） (2024-09-27T00:26:18Z)
• Regulating Model Reliance on Non-Robust Features by Smoothing Input Marginal Density [93.32594873253534]
  信頼できる機械学習は、非ロバストな特徴に依存するモデルの厳密な規制を必要とする。 本稿では,モデル予測を入力に関連付けることによって,そのような特徴を記述・規制するフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-05T09:16:56Z)
• TabADM: Unsupervised Tabular Anomaly Detection with Diffusion Models [5.314466196448187]
  本稿では,非教師付き異常検出に有効な拡散型確率モデルを提案する。 本モデルは, 特異な拒絶手法を用いて, サンプルの密度を学習するよう訓練されている。 低密度領域のサンプルとして異常を同定する。
  論文  参考訳（メタデータ） (2023-07-23T14:02:33Z)
• Anomaly Detection with Variance Stabilized Density Estimation [49.46356430493534]
  本稿では, 観測試料の確率を最大化するための分散安定化密度推定問題を提案する。 信頼性の高い異常検知器を得るために,分散安定化分布を学習するための自己回帰モデルのスペクトルアンサンブルを導入する。 我々は52のデータセットで広範なベンチマークを行い、我々の手法が最先端の結果につながることを示した。
  論文  参考訳（メタデータ） (2023-06-01T11:52:58Z)
• Adapting to Continuous Covariate Shift via Online Density Ratio Estimation [64.8027122329609]
  分散シフトへの対処は、現代の機械学習における中心的な課題の1つだ。 歴史的情報を適切に再利用するオンライン手法を提案する。 我々の密度比推定法は, ダイナミックなリセットバウンドを楽しむことにより, 良好に動作できることが証明された。
  論文  参考訳（メタデータ） (2023-02-06T04:03:33Z)
• The Implicit Delta Method [61.36121543728134]
  本稿では,不確実性のトレーニング損失を無限に正規化することで機能する,暗黙のデルタ法を提案する。 有限差分により無限小変化が近似された場合でも, 正則化による評価の変化は評価推定器の分散に一定であることを示す。
  論文  参考訳（メタデータ） (2022-11-11T19:34:17Z)
• InFlow: Robust outlier detection utilizing Normalizing Flows [7.309919829856283]
  正規化フローは、敵攻撃を含むアウトリーチを確実に検出できることを示す。 本手法では, トレーニングに外部データを必要としないため, OOD検出の効率性を示す。
  論文  参考訳（メタデータ） (2021-06-10T08:42:50Z)
• The Hidden Uncertainty in a Neural Networks Activations [105.4223982696279]
  ニューラルネットワークの潜在表現の分布は、アウト・オブ・ディストリビューション(OOD)データの検出に成功している。 本研究は、この分布が、モデルの不確実性と相関しているかどうかを考察し、新しい入力に一般化する能力を示す。
  論文  参考訳（メタデータ） (2020-12-05T17:30:35Z)
• Balance-Subsampled Stable Prediction [55.13512328954456]
  本稿では, 分数分解設計理論に基づく新しいバランスサブサンプル安定予測法を提案する。 設計理論解析により,提案手法は分布シフトによって誘導される予測器間の共起効果を低減できることを示した。 合成および実世界の両方のデータセットに関する数値実験により、BSSPアルゴリズムは未知のテストデータ間で安定した予測を行うためのベースライン法を著しく上回っていることが示された。
  論文  参考訳（メタデータ） (2020-06-08T07:01:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。