論文の概要: On the Limits of Latent Reuse in Diffusion Models
- arxiv url: http://arxiv.org/abs/2605.13448v1
- Date: Wed, 13 May 2026 12:42:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 23:30:28.044616
- Title: On the Limits of Latent Reuse in Diffusion Models
- Title(参考訳): 拡散モデルにおける潜伏再利用の限界について
- Authors: Yifeng Yu, Lu Yu,
- Abstract要約: 我々は、両方のデータセットがほぼ低次元であるが、異なる部分空間の近くにあるかもしれないソースターゲット設定について考察する。
ソース潜在空間の凍結と再利用は、2つの量で制御された目標領域のスコア誤差を誘導することを示す。
- 参考スコア(独自算出の注目度): 8.437829850850358
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Diffusion models are often trained in low-dimensional latent spaces, which are then reused for related but shifted datasets. In this work, we study when such latent reuse remains reliable under distribution shift. We consider a source-target setting in which both datasets are approximately low-dimensional but may lie near different subspaces. We show that freezing and reusing a source latent space induces a target-domain score error governed by two quantities: the principal-angle misalignment between the source and target subspaces, and the target ambient noise amplified by the diffusion time scale. Motivated by these limits, we further study mixed source-target training and characterize how the required shared latent dimension depends on the relative geometry of the two distributions. Our results provide theoretical guidance on when latent reuse is reliable and when learning a shared representation may be necessary.
- Abstract(参考訳): 拡散モデルは、しばしば低次元の潜在空間で訓練され、関連するがシフトしたデータセットのために再利用される。
本研究は, 分散シフトの下で, このような潜伏再利用が信頼性に保たれているかを検討するものである。
我々は、両方のデータセットがほぼ低次元であるが、異なる部分空間の近くにあるかもしれないソースターゲット設定について考察する。
本研究では,ソース遅延空間の凍結と再利用により,ソースとターゲット部分空間の主角ずれと拡散時間スケールで増幅されたターゲット環境雑音の2つの量で制御される目標領域スコア誤差が生じることを示す。
これらの限界により、混合音源目標学習を更に研究し、必要な共有潜在次元が2つの分布の相対幾何学にどのように依存するかを特徴付ける。
この結果から,潜在再利用がいつ信頼できるのか,共有表現の学習が必要なのか,という理論的ガイダンスが得られた。
関連論文リスト
- When Diffusion Model Can Ignore Dimension: An Entropy-Based Theory [2.205829309604458]
拡散モデルは画像などの高次元データに対して極めてよく機能する。
既存の収束理論は、なぜそのようなサンプルが高次元において効率的であり続けるのかを完全には説明していない。
我々は,データ分布がコンパクトな潜在表現を持つ場合,拡散サンプリングは高次元空間で有効であることを示す。
論文 参考訳(メタデータ) (2026-05-08T16:30:37Z) - Calibrating Biased Distribution in VFM-derived Latent Space via Cross-Domain Geometric Consistency [52.52950138164424]
特徴抽出にオフザシェルフ(ビジョン)基礎モデルを利用する場合、特徴分布の幾何学的形状はドメインやデータセット間で顕著な伝達性を示す。
我々は,我々の幾何学的知識誘導分布キャリブレーションフレームワークを,フェデレーション学習とロングテール認識の2つの人気かつ挑戦的な設定で具体化する。
長期学習において、サンプル豊富なカテゴリから移動された幾何学的知識を利用して、サンプル・スカース・テールクラスの真の分布を復元する。
論文 参考訳(メタデータ) (2025-08-19T05:22:59Z) - Generative Learning of Densities on Manifolds [3.081704060720176]
拡散モデルと多様体学習を組み合わせた生成モデリングフレームワークを提案する。
このアプローチは拡散マップを用いて、高次元データ(周囲)空間の低次元(ラテント)空間を発見できる。
論文 参考訳(メタデータ) (2025-03-05T23:29:06Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Score Approximation, Estimation and Distribution Recovery of Diffusion
Models on Low-Dimensional Data [68.62134204367668]
本稿では,未知の低次元線形部分空間上でデータをサポートする場合の拡散モデルのスコア近似,推定,分布回復について検討する。
適切に選択されたニューラルネットワークアーキテクチャでは、スコア関数を正確に近似し、効率的に推定することができる。
推定スコア関数に基づいて生成された分布は、データ幾何学構造を捕捉し、データ分布の近傍に収束する。
論文 参考訳(メタデータ) (2023-02-14T17:02:35Z) - Learning Conditional Invariance through Cycle Consistency [60.85059977904014]
本稿では,データセットの変動の有意義な要因と独立な要因を識別する新しい手法を提案する。
提案手法は,対象プロパティと残りの入力情報に対する2つの別個の潜在部分空間を含む。
我々は,より意味のある因子を同定し,よりスペーサーや解釈可能なモデルに導く合成および分子データについて実証する。
論文 参考訳(メタデータ) (2021-11-25T17:33:12Z) - Generative Model without Prior Distribution Matching [26.91643368299913]
変分オートエンコーダ(VAE)とその変分は、いくつかの先行分布を満たすために低次元の潜在表現を学習することによって古典的な生成モデルである。
我々は、先行変数に適合させるのではなく、先行変数が埋め込み分布と一致するように提案する。
論文 参考訳(メタデータ) (2020-09-23T09:33:24Z) - Learning to Match Distributions for Domain Adaptation [116.14838935146004]
本稿では,ドメイン間分布マッチングを自動的に学習する学習 to Match (L2M)を提案する。
L2Mは、メタネットワークを用いてデータ駆動方式で分布整合損失を学習することにより、誘導バイアスを低減する。
公開データセットの実験は、SOTA法よりもL2Mの方が優れていることを裏付けている。
論文 参考訳(メタデータ) (2020-07-17T03:26:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。