論文の概要: Conditional Flow Models Convert Epistemic Uncertainty into Apparent Aleatoric Variance
- arxiv url: http://arxiv.org/abs/2610.29172v1
- Date: Wed, 21 Oct 2026 04:02:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:06.19919
- Title: Conditional Flow Models Convert Epistemic Uncertainty into Apparent Aleatoric Variance
- Title(参考訳): 条件流モデルによるてんかん不確かさのアレータリック変数への変換
- Abstract要約: 条件付きフローモデル(CFM)は、機械学習をまたいだ決定論的予測に置き換わっている。
多くの自然界では、CFMサンプルは真の条件分布よりも頻繁に大きな分散を持つ。
この効果は、モデルが条件変数への依存を解決していない場合に最も顕著である。
誘導分散トラックは、複雑な目標や不適合な目標をモデル化し、追加のトレーニングやデータにより減少することを示す。
- 参考スコア(独自算出の注目度): 29.68122297871103
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Conditional Flow Models (CFMs) are increasingly being used in place of deterministic predictors across machine learning, including for tasks that were classically formulated as regression. Given their success in such tasks, we ask the question: what useful information do the conditional distributions produced by CFMs carry beyond what a point predictor would provide? We identify a systematic phenomenon: in many natural regimes, CFM samples routinely have larger variance than the true conditional distribution, even in nearly deterministic regression problems. This effect is most pronounced where the model has not resolved the dependence on the conditioning variable, and thus the additional variance can be viewed as converting epistemic uncertainty in fitting the ground truth conditional distribution into apparent aleatoric variance in the generated samples. Through controlled synthetic and real-data experiments, and comparisons with explicit smoothing estimators, we show that the induced variance tracks model underfitting of complex or hard-to-fit targets, and decreases with additional training or data. We provide a theoretical account of the phenomenon in a simplified setting and demonstrate a consequent practical use-case of conditional flow-matching: designing high-coverage predictive sets that cover the ground-truth regression target.
- Abstract(参考訳): 条件付きフローモデル(CFM)は、リグレッションとして古典的に定式化されたタスクを含む、機械学習全体にわたる決定論的予測に代えて、ますます使われている。
CFMが生成する条件分布は、どの点予測器が提供するもの以上の有用な情報を持っているのか?
多くの自然界において、CFMサンプルは、ほぼ決定論的回帰問題においても、真の条件分布よりも頻繁に大きな分散を持つ。
この効果は, モデルが条件変数への依存性を解けていない場合に最も顕著であり, 付加的な分散は, 基底真理条件分布を生成標本中の見かけのアレラトリックな分散に適合させる際の認識の不確かさの変換とみなすことができる。
制御された合成および実データ実験、および明示的な滑らか化推定器との比較により、誘導された分散トラックモデルが複雑なターゲットや不適合なターゲットに不適合であり、追加のトレーニングやデータにより減少することを示す。
本稿では,この現象を簡易な設定で理論的に説明し,それに伴う条件付きフローマッチングの実践例を示す。
関連論文リスト
- Score Mismatch and Set-Constrained Sampling in Zero-Shot Conditional Discrete Diffusion [66.0716790920952]
スコアミスマッチした離散拡散モデルに対する最初の理論的解析を行う。
このようなミスマッチによる追加バイアスを明確に識別する一般KL発散上限を導出する。
代入確率は吸収率で無条件スコアで正確に表現できることを示す。
論文 参考訳(メタデータ) (2026-10-15T01:05:30Z) - Solving physics-constrained inverse problems with conditional flow matching [0.6567875008573567]
本稿では,物理制約付き逆問題に対する条件付きフローマッチングフレームワークを提案する。
ニューラルネットワークは、確率フロー常微分方程式の速度場を学習するために訓練される。
オーバートレーニングは生成した条件分布の振る舞いを誘導できることを示す。
論文 参考訳(メタデータ) (2026-03-14T21:43:48Z) - Emergence of Distortions in High-Dimensional Guided Diffusion Models [11.774563966512707]
CFG誘導サンプリングと真の条件分布のミスマッチとして定義される生成歪みの現象を定式化する。
標準CFGスケジュールはばらつきの縮小を防ぐことができないことを示す。
本稿では,クラス分離性を維持しながら多様性の喪失を緩和する負の誘導窓を特徴とする理論的動機付け型指導スケジュールを提案する。
論文 参考訳(メタデータ) (2026-01-31T13:19:45Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Unveil Conditional Diffusion Models with Classifier-free Guidance: A Sharp Statistical Theory [87.00653989457834]
条件付き拡散モデルは現代の画像合成の基礎となり、計算生物学や強化学習などの分野に広く応用されている。
経験的成功にもかかわらず、条件拡散モデルの理論はほとんど欠落している。
本稿では,条件拡散モデルを用いた分布推定の急激な統計的理論を提示することにより,ギャップを埋める。
論文 参考訳(メタデータ) (2024-03-18T17:08:24Z) - Understanding Pathologies of Deep Heteroskedastic Regression [25.509884677111344]
ヘテロスケダスティックモデルは各データポイントの平均ノイズと残留ノイズの両方を予測する。
極端に言えば、これらのモデルはすべてのトレーニングデータを完璧に適合させ、残音を完全に排除する。
他方では、一定で非形式的な平均を予測しながら残音を過度に補正する。
中間地盤の欠如を観察し, モデル正則化強度に依存する相転移を示唆した。
論文 参考訳(メタデータ) (2023-06-29T06:31:27Z) - User-defined Event Sampling and Uncertainty Quantification in Diffusion
Models for Physical Dynamical Systems [49.75149094527068]
拡散モデルを用いて予測を行い,カオス力学系に対する不確かさの定量化が可能であることを示す。
本研究では,雑音レベルが低下するにつれて真の分布に収束する条件付きスコア関数の確率的近似法を開発する。
推論時に非線形ユーザ定義イベントを条件付きでサンプリングすることができ、分布の尾部からサンプリングした場合でもデータ統計と一致させることができる。
論文 参考訳(メタデータ) (2023-06-13T03:42:03Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Covariate Shift in High-Dimensional Random Feature Regression [44.13449065077103]
共変量シフトは、堅牢な機械学習モデルの開発において重要な障害である。
現代の機械学習の文脈における理論的理解を示す。
論文 参考訳(メタデータ) (2021-11-16T05:23:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。