論文の概要: Radial Tail Repair: Post-Training Correction for Diffusion and Flow Models
- arxiv url: http://arxiv.org/abs/2610.16851v1
- Date: Mon, 12 Oct 2026 14:24:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-18 21:14:40.418422
- Title: Radial Tail Repair: Post-Training Correction for Diffusion and Flow Models
- Title(参考訳): 放射状爪修復術 : 拡散流モデルと流れモデルにおける訓練後補正
- Abstract要約: 拡散および流れマッチングモデルは、特に重み付きデータにおいて、分布尾を正確に表現するのに苦労する可能性がある。
完全な分布を再学習するのではなく、極端な状態におけるモデルの振る舞いだけを修正します。
難解な合成重尾分布と実際の気象と山火事のデータセットの実験は、この単純な補正が極端に尾のカバレッジを著しく改善することを示している。
- 参考スコア(独自算出の注目度): 1.5839621757142595
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion and flow-matching models may struggle to accurately represent distributional tails, especially for heavy-tailed data. Existing approaches often use heavy-tailed noise or modify the generative dynamics, requiring dedicated retraining and more difficult estimation. We take a simpler approach: rather than relearning the full distribution, we correct only the model's behavior in the extreme regime. Our method builds on the radial-angular decomposition of multivariate heavy tails, where radius and direction become asymptotically independent. This allows us to preserve the directional structure learned by the pretrained model and correct only its radial tail. We estimate the tail onset from reference and generated samples, then rescale generated extremes so that their radial survival matches the target distribution. The resulting method is a lightweight post-training correction applied to a frozen diffusion or flow-matching model, requiring neither retraining nor changes to its sampling dynamics. Experiments on challenging synthetic heavy-tailed distributions and real weather and wildfire datasets show that this simple correction substantially improves extreme-tail coverage using only a small number of fitting samples.
- Abstract(参考訳): 拡散および流れマッチングモデルは、特に重み付きデータにおいて、分布尾を正確に表現するのに苦労する可能性がある。
既存のアプローチでは、しばしばヘビーテールのノイズを使ったり、生成ダイナミクスを変更したりし、専用のリトレーニングとより難しい見積もりを必要としている。
完全な分布を再学習するのではなく、極端な状態におけるモデルの振る舞いだけを修正します。
本手法は,半径と方向が漸近的に独立となる多変量重尾の半径角分解に基づいて構築する。
これにより、事前訓練されたモデルで学習した方向構造を保存し、半径尾のみを修正することができる。
参照標本と生成標本から尾部開始点を推定し, 得られた極端値を再スケールし, 放射状生存率を目標分布と一致させる。
その結果, 凍結拡散モデルやフローマッチングモデルに適用した軽量なポストトレーニング補正が可能となり, 再トレーニングやサンプリングダイナミクスの変更は不要となった。
難解な合成重尾分布と実際の気象と山火事のデータセットの実験により、この単純な補正は、少数の適合サンプルだけで極端尾のカバレッジを大幅に改善することが示された。
関連論文リスト
- Direct Product Flow Matching: Decoupling Radial and Angular Dynamics for Few-Shot Adaptation [28.087854592514162]
近年のフローマッチング (FM) 法は視覚言語モデルの少数ショット適応を改善している。
既存のFM法は、事前訓練されたクロスモーダルな特徴に対する非互換な幾何学的先行性によって本質的に制約されていると論じる。
変形した積多様体上のアライメントを再構成するワープ積フローマッチング(WP-FM)を提案する。
論文 参考訳(メタデータ) (2026-05-06T15:51:26Z) - ADT: Tuning Diffusion Models with Adversarial Supervision [16.974169058917443]
拡散モデルは、真のデータ分布を近似するために前方ノイズ発生過程を反転させることで、優れた画像生成を実現している。
本稿では、最適化中の推論プロセスを刺激し、最終的な出力をトレーニングデータと整合させるために、Adrial Diffusion Tuning (ADT)を提案する。
ADTは、固定されたトレーニング済みのバックボーンと軽量なトレーニング可能なパラメータを備えたシアム-ネットワーク識別器を備えている。
論文 参考訳(メタデータ) (2025-04-15T17:37:50Z) - A solvable generative model with a linear, one-step denoiser [0.0]
本研究では,線形デノイザに基づく解析的抽出可能な単一ステップ拡散モデルを開発し,Kulback-Leibler分散の明示的な公式を示す。
大規模実用拡散モデルでは、拡散段数の増加が生産品質を高める理由を説明する。
論文 参考訳(メタデータ) (2024-11-26T19:00:01Z) - Reducing Bias in Pre-trained Models by Tuning while Penalizing Change [8.862970622361747]
大量のデータに基づいてトレーニングされた深層モデルには、トレーニング期間中に存在する暗黙のバイアスが組み込まれていることが多い。
新しいデータは、しばしば高価で、自律運転や医療意思決定のような分野では入手が困難である。
本稿では,事前学習モデルを用いて,事前検出したバイアスを軽減するために重みを適応する変化ペナライゼーションに基づく手法を提案する。
論文 参考訳(メタデータ) (2024-04-18T16:12:38Z) - LARA: A Light and Anti-overfitting Retraining Approach for Unsupervised
Time Series Anomaly Detection [49.52429991848581]
深部変分自動エンコーダに基づく時系列異常検出手法(VAE)のための光・反オーバーフィット学習手法(LARA)を提案する。
本研究の目的は,1) 再学習過程を凸問題として定式化し, 過度に収束できること,2) 履歴データを保存せずに活用するルミネートブロックを設計すること,3) 潜在ベクトルと再構成データの微調整を行うと, 線形形成が基底真実と微調整されたブロックとの誤りを最小に調整できることを数学的に証明することである。
論文 参考訳(メタデータ) (2023-10-09T12:36:16Z) - Structural Pruning for Diffusion Models [65.02607075556742]
Diff-Pruningは、既存のものから軽量拡散モデルの学習に適した効率的な圧縮手法である。
複数のデータセットにまたがって実施した経験的評価は,提案手法の2つの利点を浮き彫りにしている。
論文 参考訳(メタデータ) (2023-05-18T12:38:21Z) - Marginal Tail-Adaptive Normalizing Flows [15.732950126814089]
本稿では,尾の挙動を正確に捉えるための流れの正規化能力の向上に焦点をあてる。
自己回帰流の限界尾化性は,その基底分布の限界尾化性によって制御可能であることを証明した。
実験分析により,提案手法は,特に分布の尾部における精度を向上し,重み付きデータを生成可能であることが示された。
論文 参考訳(メタデータ) (2022-06-21T12:34:36Z) - Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。
パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文 参考訳(メタデータ) (2022-04-13T12:43:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。