論文の概要: Local Hessian Spectral Filtering for Robust Intrinsic Dimension Estimation
- arxiv url: http://arxiv.org/abs/2605.01221v1
- Date: Sat, 02 May 2026 03:30:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-05 20:33:49.648304
- Title: Local Hessian Spectral Filtering for Robust Intrinsic Dimension Estimation
- Title(参考訳): ロバスト固有次元推定のための局所ヘシアンスペクトルフィルタリング
- Authors: Genki Osada,
- Abstract要約: 局所 Hessian Spectral Dimension (LHSD) を提案する。
LHSDはHessianの構成を完全に回避し、$D$で線形スケーラビリティを実現する。
合成および実データによる実験により、LHSDの優れた堅牢性と大規模拡散モデルにおける記憶の検出における有用性が確認された。
- 参考スコア(独自算出の注目度): 4.484170173286332
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While diffusion models enable new approaches for estimating Local Intrinsic Dimension (LID), existing methods fail in high-dimensional spaces where noise from vast normal directions overwhelms the tangent signal. We propose Local Hessian Spectral Dimension (LHSD), which resolves this by applying spectral filtering to the log-density Hessian, explicitly cutting off large eigenvalues associated with normal directions to count zero-curvature tangent directions. Implemented using Stochastic Lanczos Quadrature (SLQ), LHSD avoids full Hessian construction, achieving linear scalability with dimension $D$. Experiments on synthetic and real data confirm LHSD's superior robustness and its utility in detecting memorization in large-scale diffusion models.
- Abstract(参考訳): 拡散モデルは局所固有次元(LID)を推定するための新しいアプローチを可能にするが、既存の手法は、広い正規方向からのノイズが接点信号に圧倒される高次元空間では失敗する。
局所ヘシアンスペクトル次元(LHSD)を提案し、これは対数密度ヘシアンにスペクトルフィルタリングを適用し、正規方向に関連する大きな固有値を明示的にカットし、ゼロ曲率の接点方向をカウントすることで解決する。
Stochastic Lanczos Quadrature (SLQ)を用いて実装されたLHSDは、次元$D$で線形スケーラビリティを達成し、完全なヘッセン構造を避ける。
合成および実データによる実験により、LHSDの優れた堅牢性と大規模拡散モデルにおける記憶の検出における有用性が確認された。
関連論文リスト
- Topological Residual Asymmetry for Bivariate Causal Direction [1.2691047660244335]
トポロジカル残留非対称性(英: Topological Residual Asymmetric)は、加法ノイズモデルに対する幾何学的基準である。
0D持続ホモロジー関数を用いてバルクチューブコントラストの定量化を行う。
多くの挑戦的な合成および実データシナリオに対する実験は、メソッドの優越性を実証している。
論文 参考訳(メタデータ) (2026-01-31T00:38:53Z) - Evidence Slopes and Effective Dimension in Singular Linear Models [0.0]
ラプラス近似を実標準しきい値(RLCT)に置き換える特異学習理論
ラプラス/BIC時間対数 n の誤差が (d/2 %) 時間対数 n と線形に大きくなることを理論的かつ実証的に示す。
以上の結果から, 特異モデルにおけるラプラス故障の具体的な有限サンプル解析を行い, 簡単な線形設定において, 有効次元の実用的な推定指標としてエビデンス・スロープが有効であることを示す。
論文 参考訳(メタデータ) (2026-01-03T17:05:55Z) - Robust Tangent Space Estimation via Laplacian Eigenvector Gradient Orthogonalization [48.25304391127552]
データ多様体の接空間を推定することは、データ解析の基本的な問題である。
局所接空間推定を導くために,データのグローバル構造を利用したラプラシアン固有ベクトル勾配直交化法(LEGO)を提案する。
論文 参考訳(メタデータ) (2025-10-02T17:59:45Z) - Denoising diffusion probabilistic models are optimally adaptive to unknown low dimensionality [21.10158431913811]
DDPMは,本質的な低次元データの自動利用により,サンプリングスピードアップを実現することができるかを検討する。
DDPMの繰り返し複雑性は$k$とほぼ線形にスケールすることが証明され、KL分散を用いて分布の相違を測定するのに最適である。
論文 参考訳(メタデータ) (2024-10-24T14:36:12Z) - Closed-form Filtering for Non-linear Systems [83.91296397912218]
我々は密度近似と計算効率の面でいくつかの利点を提供するガウスPSDモデルに基づく新しいフィルタのクラスを提案する。
本研究では,遷移や観測がガウスPSDモデルである場合,フィルタリングを効率的にクローズド形式で行うことができることを示す。
提案する推定器は, 近似の精度に依存し, 遷移確率の正則性に適応する推定誤差を伴って, 高い理論的保証を享受する。
論文 参考訳(メタデータ) (2024-02-15T08:51:49Z) - Scaling Riemannian Diffusion Models [68.52820280448991]
非自明な多様体上の高次元タスクにスケールできることを示す。
我々は、$SU(n)$格子上のQCD密度と高次元超球面上の対照的に学習された埋め込みをモデル化する。
論文 参考訳(メタデータ) (2023-10-30T21:27:53Z) - Sampling from Gaussian Process Posteriors using Stochastic Gradient
Descent [43.097493761380186]
勾配アルゴリズムは線形系を解くのに有効な方法である。
最適値に収束しない場合であっても,勾配降下は正確な予測を導出することを示す。
実験的に、勾配降下は十分に大規模または不条件の回帰タスクにおいて最先端の性能を達成する。
論文 参考訳(メタデータ) (2023-06-20T15:07:37Z) - Random Smoothing Regularization in Kernel Gradient Descent Learning [24.383121157277007]
古典的ソボレフ空間に属する幅広い基底真理関数を適応的に学習できるランダムなスムーズな正規化のための枠組みを提案する。
我々の推定器は、基礎となるデータの構造的仮定に適応し、次元の呪いを避けることができる。
論文 参考訳(メタデータ) (2023-05-05T13:37:34Z) - Intrinsic dimension estimation for discrete metrics [65.5438227932088]
本稿では,離散空間に埋め込まれたデータセットの内在次元(ID)を推定するアルゴリズムを提案する。
我々は,その精度をベンチマークデータセットで示すとともに,種鑑定のためのメダゲノミクスデータセットの分析に応用する。
このことは、列の空間の高次元性にもかかわらず、蒸発圧が低次元多様体に作用することを示唆している。
論文 参考訳(メタデータ) (2022-07-20T06:38:36Z) - Nonlinear Isometric Manifold Learning for Injective Normalizing Flows [58.720142291102135]
アイソメトリーを用いて、多様体学習と密度推定を分離する。
また、確率分布を歪ませない明示的な逆数を持つ埋め込みを設計するためにオートエンコーダを用いる。
論文 参考訳(メタデータ) (2022-03-08T08:57:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。