論文の概要: Pseudorandom Streams within Diffusion Models Act as Learnable Inputs That Affect Generation Quality
- arxiv url: http://arxiv.org/abs/2608.02575v1
- Date: Mon, 03 Aug 2026 17:50:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.745347
- Title: Pseudorandom Streams within Diffusion Models Act as Learnable Inputs That Affect Generation Quality
- Title(参考訳): 生成品質に影響を与える学習可能な入力として機能する拡散モデル内の擬似ストリーム
- Abstract要約: 拡散モデルは決定論的入力に依存するが、有限精度のハードウェアでは、それらが消費する「ランダム性」は擬似ランダム規則によって生成される数値軌道として実現される。
実効損失と勾配は、各最適化ステップで消費される具体的な擬似ランダム値に依存するため、アクセス可能な軌道構造が学習可能な入力となり、トレーニングと生成の両方に影響を与えることが示される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Diffusion models rely on stochastic inputs, yet on finite-precision hardware, the "randomness" they consume is realized as deterministic numerical orbits generated by pseudorandom rules. Accessible orbit structure can become a learnable input and affect both training and generation because the realized loss and its gradient depend on the concrete pseudorandom values consumed at each optimization step. A small multilayer perceptron predicts the next value of an orbit from its recent history, measuring general sequence predictability. A diffusion probe replaces real images with online random tensors while preserving the diffusion architecture and training objective, measuring whether the target system can exploit orbit structure. After controlling marginal statistics and screening out clear dynamical and finite-precision failures, the remaining orbits still produce markedly different diffusion losses and generation quality on MNIST and CIFAR-10. Both measures show strong rank correlations with macroscopic generation degradation, although their local rankings differ. After normalization by the IID baseline, the probe loss and the real-data diffusion loss approximately follow an empirical power law, with different exponents on the two datasets. These results suggest that a pseudorandom source is not only a distributional choice, but also a model-dependent structured input.
- Abstract(参考訳): 拡散モデルは確率的な入力に依存するが、有限精度のハードウェアでは、それらが消費する「ランダム性」は擬似ランダム規則によって生成される決定論的数値軌道として実現される。
アクセシブル軌道構造は、各最適化ステップで消費される具体的な擬似ランダム値に依存するため、学習可能な入力となり、トレーニングと生成の両方に影響を与える可能性がある。
小さな多層パーセプトロンは、その最近の歴史から軌道の次の値を予測し、一般的なシーケンス予測可能性を測定する。
拡散プローブは、実際の画像をオンラインランダムテンソルに置き換え、拡散アーキテクチャとトレーニング目標を保存し、ターゲットシステムが軌道構造を活用できるかどうかを測定する。
限界統計を制御し、明確な力学と有限精度の故障を検査した後、残りの軌道は依然としてMNISTとCIFAR-10の拡散損失と生成品質を著しく異なるものにしている。
どちらの尺度も、局所的なランクは異なるが、マクロな生成劣化と強いランク相関を示す。
IIDベースラインによる正規化後、プローブ損失と実データ拡散損失は、2つのデータセットに異なる指数を持つ経験的パワー則にほぼ従う。
これらの結果は,擬似ランダムソースは分布選択だけでなく,モデル依存構造入力でもあることを示唆している。
関連論文リスト
- Augmented Inverse Hybrid Weighting: Robust Inference under Deterministic and Random Distribution Shifts [17.842727239557995]
本稿では,制度的なシフトを考慮に入れた上で,2つの集団法間の非体系的な変化を可能にする新しいモデルを提案する。
このような残留シフトは、学習可能な方法で表現できない確率空間へのランダムな摂動としてモデル化される。
純粋なランダム摂動の下で、この原理は回帰増強と分散-最適データセットレベルプーリングを使用するAIDW(Augmented Inverse Distance Weighting)をもたらす。
AIDWと標準強調重み付けを補間するAIHW(Augmented Inverse Hybrid Weighting)を開発した。
論文 参考訳(メタデータ) (2026-08-01T15:02:13Z) - From Atoms to Entropy: Optimal Noise Allocation for Diffusion Training in the Convex Regime [52.459513910242485]
拡散訓練における最適な雑音レベルアロケーションを研究するための一般統計フレームワークを開発する。
最適化されたトレーニングスケジュールは、有限個のノイズレベルに集中した原子最小値を持つことを示す。
次に,大規模実験におけるエントロピック・スケジュールの評価を行った。
論文 参考訳(メタデータ) (2026-07-10T20:59:06Z) - Mind the Residual Gap: Probabilistic Downscaling under Real-World Bias [11.400279490725042]
確率的なダウンスケーリングは、大気科学、気候モデリング、その他のマルチスケール物理システムにとって重要な課題である。
広く使われているパラダイムは、問題を決定論的平均予測器に分解し、続いて残留発生器に分解する。
本研究は,根本原因が標的誤診であり,訓練中に誘発される残差分布は,下降バイアスにより試験時間に要求されるものと体系的に異なることを示す。
論文 参考訳(メタデータ) (2026-06-29T18:47:34Z) - Why SGD is not Brownian Motion: A New Perspective on Stochastic Dynamics [92.39053980710702]
グラディエント・Descent (SGD) は通常ランゲヴィン過程としてモデル化され、ミニバッチノイズがブラウン運動として働くと仮定される。
この近似は、連続時間制限と、離散的なSGD更新を有限学習率で一致しないsqrt(eta)ノイズスケーリングに依存している。
ミニバッチサンプリングによって誘導されるゆらぎのある損失景観における決定論的力学としてのSGDの別の定式化を提案する。
論文 参考訳(メタデータ) (2026-05-21T15:50:40Z) - Which Layer Causes Distribution Deviation? Entropy-Guided Adaptive Pruning for Diffusion and Flow Models [77.55829017952728]
EntPrunerは、拡散およびフローモデルのためのエントロピー誘導自動プログレッシブプルーニングフレームワークである。
DiTモデルとSiTモデルの実験はEntPrunerの有効性を示し、最大2.22$times$推論スピードアップを達成する。
論文 参考訳(メタデータ) (2025-11-26T07:20:48Z) - Latent Space Score-based Diffusion Model for Probabilistic Multivariate Time Series Imputation [6.9295879301090535]
確率的時系列計算のための遅延空間スコアベース拡散モデル(LSSDM)を提案する。
LSSDMは、計算機構のより良い説明と不確実性解析を提供しながら、優れた計算性能を実現する。
論文 参考訳(メタデータ) (2024-09-13T15:32:26Z) - Predicting Cascading Failures with a Hyperparametric Diffusion Model [66.89499978864741]
拡散モデルのレンズによる電力グリッドのカスケード故障について検討する。
我々のモデルは、バイラル拡散原理と物理に基づく概念を統合する。
この拡散モデルはカスケード故障の痕跡から学習可能であることを示す。
論文 参考訳(メタデータ) (2024-06-12T02:34:24Z) - Generative inpainting of incomplete Euclidean distance matrices of trajectories generated by a fractional Brownian motion [46.1232919707345]
フラクショナルブラウン運動(fBm)はランダム性と強いスケールフリーの相関を特徴とする。
本稿では, 劣化した画像の特定のデータセット上で, 拡散に基づく塗布方法の動物園について検討する。
条件拡散生成は、異なるメモリ状態におけるfBmパスの組込み相関を容易に再現する。
論文 参考訳(メタデータ) (2024-04-10T14:22:16Z) - Bayesian Flow Networks [4.197165999892042]
本稿では,ベイジアン・フロー・ネットワーク(BFN)について述べる。ベイジアン・フロー・ネットワーク(BFN)は,独立分布の集合のパラメータをベイジアン推論で修正した新しい生成モデルである。
単純な事前および反復的な2つの分布の更新から始めると、拡散モデルの逆過程に似た生成手順が得られる。
BFNは動的にバイナライズされたMNISTとCIFAR-10で画像モデリングを行うために競合するログライクフレーションを実現し、text8文字レベルの言語モデリングタスクにおいて既知のすべての離散拡散モデルより優れている。
論文 参考訳(メタデータ) (2023-08-14T09:56:35Z) - Combating Mode Collapse in GANs via Manifold Entropy Estimation [70.06639443446545]
Generative Adversarial Networks (GAN) は、様々なタスクやアプリケーションにおいて魅力的な結果を示している。
GANのモード崩壊問題に対処するための新しいトレーニングパイプラインを提案する。
論文 参考訳(メタデータ) (2022-08-25T12:33:31Z) - Diffusion-GAN: Training GANs with Diffusion [135.24433011977874]
GAN(Generative Adversarial Network)は、安定してトレーニングすることが難しい。
フォワード拡散チェーンを利用してインスタンスノイズを生成する新しいGANフレームワークであるDiffusion-GANを提案する。
我々は,Diffusion-GANにより,最先端のGANよりも高い安定性とデータ効率で,よりリアルな画像を生成することができることを示す。
論文 参考訳(メタデータ) (2022-06-05T20:45:01Z) - Disentangling Generative Factors of Physical Fields Using Variational
Autoencoders [0.0]
本研究は,非線形次元低減のための変分オートエンコーダ (VAE) の利用について検討する。
不整合分解は解釈可能であり、生成的モデリングを含む様々なタスクに転送することができる。
論文 参考訳(メタデータ) (2021-09-15T16:02:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。