論文の概要: MaDeL: Manifold-Decomposed Feature Losses for Generative Modeling
- arxiv url: http://arxiv.org/abs/2610.04419v1
- Date: Sat, 03 Oct 2026 10:15:49 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-06 20:33:51.400896
- Title: MaDeL: Manifold-Decomposed Feature Losses for Generative Modeling
- Title(参考訳): MaDeL: 生成モデリングのためのマニフォールド分解機能損失
- Abstract要約: 生成モデルは平均二乗誤差のような等方的目的によってしばしば訓練される。
しかし、低次元多様体の近くに集中したデータに対して、そのような損失は、有効変動を表す多様体に沿った変位と、それから逸脱し、無効なサンプルを生成する。
生成目的は、多様体を明示的に推定することなく、データから直接多様体-直交偏差から多様体-平行変動を区別できるかどうかを問う。
- 参考スコア(独自算出の注目度): 60.52920286643249
- License:
- Abstract: Generative models are often trained with isotropic objectives such as mean-squared error. For data concentrated near a low-dimensional manifold, however, such losses conflate displacement along the manifold, which may represent valid variation, with displacement away from it, which produces invalid samples. This mismatch is especially problematic in sparse, highly constrained domains, where ambient-space regression can encourage off-manifold interpolation. We ask whether a generative objective can distinguish manifold-parallel variation from manifold-orthogonal deviation directly from data, without explicitly estimating the manifold. We introduce a manifold-decomposed feature loss (MaDeL) that learns complementary representations from corrupted observations: one is trained to recover the clean sample, while the other is trained to recover the corruption. We show that, under a feature bottleneck, their Jacobians align with the tangent and normal spaces, exactly for linear manifolds and locally for smooth manifolds. Together, these representations define an anisotropic objective that separately measures intrinsic variation and off-manifold deviation. Across synthetic, Earth and climate science, and torsion-angle benchmarks, MaDeL improves support recovery and average angular $W_1$ under single-step sampling; on protein backbones, it reduces steric clashes across one- and few-step sampling budgets.
- Abstract(参考訳): 生成モデルは平均二乗誤差のような等方的目的によってしばしば訓練される。
しかし、低次元多様体の近くに集中したデータに対して、そのような損失は、有効変動を表す多様体に沿った変位と、それから逸脱し、無効なサンプルを生成する。
このミスマッチは、周囲空間のレグレッションがオフ・マニフォールド補間を促進するような、スパースで高度に制約された領域において特に問題となる。
生成目的は、多様体を明示的に推定することなく、データから直接多様体-直交偏差から多様体-平行変動を区別できるかどうかを問う。
劣化した観察から相補的表現を学習するMaDeL(MadeL)を導入し,一方はクリーンサンプルの復元を,他方は破損の回復を訓練する。
特徴ボトルネックの下で、それらのヤコビアンが接空間と正規空間と整列し、ちょうど線型多様体に対して、局所的に滑らかな多様体に対して成り立つことを示す。
これらの表現は、内在的変動とオフ・マニフォールド偏差を別々に測定する異方的目的を定義する。
MaDeLは、合成、地球、気候科学、およびトーションアングルのベンチマーク全体にわたって、サポート回復と1ステップのサンプリングで平均的な角度の$W_1$を改善し、タンパク質のバックボーンでは、1ステップと数ステップのサンプリング予算で立体衝突を減らす。
関連論文リスト
- Prototype-Anchored Generalized Manifold Regression for Unknown-Domain Object Detection [58.25418970608328]
単一ソースドメイン上でトレーニングされた検出器を複数の未確認領域に転送することを目的としたシングルドメイン一般化オブジェクト検出(Single-DGOD)について検討する。
既存の手法は主に、トレーニング分布を拡大するために、データ拡張やテキストプロンプトといったシミュレーション駆動の戦略に依存している。
本稿では, 未知領域の一般化を多様体回帰問題として定式化する, Visual-Text Dual Chain-of-Thought (MR-DCoT) を用いたマニフォールド回帰を提案する。
論文 参考訳(メタデータ) (2026-07-08T09:27:15Z) - Rethinking Structural Anomaly Detection: From Decision Boundaries to Projection Operators [51.771100367755544]
本稿では,既存手法の帰納バイアスとデータ構造とのミスマッチに対処する幾何学的視点を提案する。
具体的には、正規サンプルの多様体上の射影作用素を学習し、この射影によって変更される場合、サンプルを異常として定義する。
特に、プロジェクション品質の観点から、その成功と失敗を説明することによって、再構築に基づく手法の統一的な解釈を提供する。
論文 参考訳(メタデータ) (2026-06-13T12:37:20Z) - EquiReg: Equivariance Regularized Diffusion for Inverse Problems [67.01847869495558]
拡散に基づく逆問題解法における後方サンプリングを正規化するためのフレームワークであるEquiReg拡散法を提案する。
様々な解法に適用すると、EquiRegは線形および非線形画像復元タスクにおいて最先端の拡散モデルより優れる。
論文 参考訳(メタデータ) (2025-05-29T01:25:43Z) - Improving the Euclidean Diffusion Generation of Manifold Data by Mitigating Score Function Singularity [18.79543239655411]
一般的な多様体構造データに対するユークリッド拡散モデルの直接サンプリングについて検討する。
周辺空間におけるスコア関数のマルチスケール特異点を明らかにすることで,拡散生成サンプルの精度を損なうことができる。
本稿では、点関数の特異点構造を、多様体の接方向と正規方向に沿って分解することによって、精巧に理論的に解析する。
論文 参考訳(メタデータ) (2025-05-15T03:12:27Z) - Sampling and estimation on manifolds using the Langevin diffusion [45.57801520690309]
離散化マルコフ過程に基づく$mu_phi $の線形汎函数の2つの推定器を検討する。
誤差境界は、本質的に定義されたランゲヴィン拡散の離散化を用いてサンプリングと推定のために導出される。
論文 参考訳(メタデータ) (2023-12-22T18:01:11Z) - Convolutional Filtering on Sampled Manifolds [122.06927400759021]
サンプル多様体上の畳み込みフィルタリングは連続多様体フィルタリングに収束することを示す。
本研究は,ナビゲーション制御の問題点を実証的に明らかにした。
論文 参考訳(メタデータ) (2022-11-20T19:09:50Z) - Hard-label Manifolds: Unexpected Advantages of Query Efficiency for
Finding On-manifold Adversarial Examples [67.23103682776049]
画像分類モデルに対する最近のゼロオーダーのハードラベル攻撃は、ファーストオーダーのグラデーションレベルの代替品に匹敵する性能を示している。
最近、グラデーションレベルの設定では、通常の敵対的な例がデータ多様体から離れ、オンマニホールドの例が実際には一般化エラーであることが示されている。
雑音の多い多様体距離オラクルに基づく情報理論論的議論を提案し、敵の勾配推定を通じて多様体情報を漏洩させる。
論文 参考訳(メタデータ) (2021-03-04T20:53:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。