論文の概要: On the spectral properties of generative denoiser Jacobians

• arxiv url: http://arxiv.org/abs/2609.36210v1
• Date: Mon, 28 Sep 2026 20:09:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:46.995627
• Title: On the spectral properties of generative denoiser Jacobians
• Title（参考訳）: 生成デノイザージャコビアンのスペクトル特性について
• Abstract要約: 生成的復号化モデルは、ディープニューラルネットワークの復号器を訓練して複雑な分布からサンプルを学び、ノイズで破損したサンプルからクリーンなデータを復元する。 我々は、生成的認知モデルの違いを特徴づける手段として、デノイザー・ヤコビアンのスペクトルを分析した。
• 参考スコア（独自算出の注目度）: 80.99262780028015
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative denoising models, such as diffusion and flow-matching, learn to sample from complex distributions by training a deep neural network denoiser to recover clean data from noise-corrupted samples. While such models are typically compared on the quality of their synthesized samples, these metrics provide limited insight into how the underlying denoiser, which drives generation, differs. In this work, we propose to analyze the spectrum of the denoiser Jacobian as a tool to characterize these differences. Across pre-trained denoising models, we observe that better generative performance is associated with larger Jacobian eigenvalues. Motivated by this, we introduce a regularization scheme that controls the Jacobian spectrum by training the denoiser on perturbed inputs, with perturbations suppressing or amplifying Jacobian responses. On ImageNet, we test whether directly modifying the Jacobian spectral properties leads to improved generations. Our findings suggest that denoisers benefit from both strengthening responses along data-relevant principal eigen-directions and suppressing the noisy, data-irrelevant ones. This establishes the denoiser Jacobian as a useful tool for identifying differences between generative denoising models.
• Abstract（参考訳）: 拡散やフローマッチングといった生成的認知モデルでは、ディープニューラルネットワークデノイザをトレーニングして、複雑な分布からサンプルを学び、ノイズ崩壊したサンプルからクリーンなデータを復元する。 このようなモデルは通常、合成されたサンプルの品質で比較されるが、これらのメトリクスは、生成を駆動する下層のデノイザーがどのように異なるかについての限られた洞察を与える。 本研究では,これらの違いを特徴付けるツールとして,デノイザー・ヤコビアンのスペクトルを分析することを提案する。 事前学習された復調モデル全体では、より優れた生成性能はより大きいヤコビ固有値と結びついていることが観察される。 そこで本研究では,ジャコビアン応答の抑制や増幅を施した摂動入力のデノイザをトレーニングすることにより,ジャコビアンスペクトルを制御する正規化方式を提案する。 ImageNetでは、ヤコビのスペクトル特性を直接修正すると世代が向上するかどうかを検証している。 以上の結果から, 難聴者は, データ関連主固有方向に沿った応答の強化と, ノイズのないデータ関連方向の抑制の両立が示唆された。 このことは、生成的認知モデルの違いを特定するための有用なツールとして、デノイザー・ヤコビアンを確立している。

関連論文リスト

• Search-Augmented Masked Diffusion Models for Constrained Generation [47.47350674873298]
  Search-Augmented Masked Diffusion (SearchDiff)は、インフォメーションサーチを直接リバース・デノイング・プロセスに統合するトレーニング不要なニューロシンボリック推論フレームワークである。 SearchDiffは制約満足度とプロパティの定着性を大幅に改善し、離散拡散と自己回帰ベースラインを一貫して上回る。
  論文  参考訳（メタデータ） (2026-02-02T19:43:25Z)
• Mitigating the Noise Shift for Denoising Generative Models via Noise Awareness Guidance [54.88271057438763]
  ノイズアウェアネスガイダンス (NAG) は、事前に定義された騒音スケジュールと整合性を保つために、サンプリング軌道を明示的に制御する補正手法である。 NAGは一貫してノイズシフトを緩和し、主流拡散モデルの生成品質を大幅に改善する。
  論文  参考訳（メタデータ） (2025-10-14T13:31:34Z)
• On the Shape of Latent Variables in a Denoising VAE-MoG: A Posterior Sampling-Based Study [51.56484100374058]
  ガウス前駆体 (VAE-MoG) を用いた変分オートエンコーダの潜時空間を探索する。 モデルが基盤構造をどれだけうまく捉えているかを評価するために、ハミルトンモンテカルロ (HMC) を用いて、クリーンな入力で条件付けられた後続サンプルを描画し、ノイズの多いデータからエンコーダの出力と比較する。 モデルは正確に信号を再構成するが、統計的比較により、潜在空間における明らかなミスマッチが明らかになる。
  論文  参考訳（メタデータ） (2025-09-29T18:33:09Z)
• Noise Conditional Variational Score Distillation [60.38982038894823]
  騒音条件変化スコア蒸留(NCVSD)は, 予混合拡散モデルから生成消音剤を蒸留する新しい方法である。 この知見を変分スコア蒸留フレームワークに組み込むことで、生成的デノイザのスケーラブルな学習を可能にする。
  論文  参考訳（メタデータ） (2025-06-11T06:01:39Z)
• On the Relation Between Linear Diffusion and Power Iteration [42.158089783398616]
  相関機械として生成過程を研究する」 生成過程の早い段階で低周波が出現し, 固有値に依存する速度で, 偏極基底ベクトルが真のデータにより整合していることが示される。 このモデルにより、線形拡散モデルが、一般的な電力反復法と同様に、基礎データの先頭固有ベクトルに平均的に収束することを示すことができる。
  論文  参考訳（メタデータ） (2024-10-16T07:33:12Z)
• Conditional Denoising Diffusion for Sequential Recommendation [62.127862728308045]
  GAN(Generative Adversarial Networks)とVAE(VAE)の2つの顕著な生成モデル GANは不安定な最適化に苦しむ一方、VAEは後続の崩壊と過度に平らな世代である。 本稿では,シーケンスエンコーダ,クロスアテンティブデノナイジングデコーダ,ステップワイズディフューザを含む条件付きデノナイジング拡散モデルを提案する。
  論文  参考訳（メタデータ） (2023-04-22T15:32:59Z)
• DiffusionAD: Norm-guided One-step Denoising Diffusion for Anomaly Detection [80.20339155618612]
  DiffusionADは、再構成サブネットワークとセグメンテーションサブネットワークからなる、新しい異常検出パイプラインである。 高速なワンステップデノゲーションパラダイムは、同等の再現品質を維持しながら、数百倍の加速を達成する。 異常の出現の多様性を考慮し、複数のノイズスケールの利点を統合するためのノルム誘導パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-03-15T16:14:06Z)
• From Denoising Diffusions to Denoising Markov Models [38.33676858989955]
  デノイング拡散は、顕著な経験的性能を示す最先端の生成モデルである。 本稿では、この手法を広い範囲に一般化し、スコアマッチングのオリジナル拡張につながる統一フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-11-07T14:34:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。