論文の概要: Manifold Aware Denoising Score Matching (MAD)
- arxiv url: http://arxiv.org/abs/2603.02452v1
- Date: Mon, 02 Mar 2026 22:47:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-04 21:38:10.570595
- Title: Manifold Aware Denoising Score Matching (MAD)
- Title(参考訳): Manifold Aware Denoising Score Matching (MAD)
- Authors: Alona Levy-Jurgenson, Alvaro Prat, James Cuin, Yee Whye Teh,
- Abstract要約: 本稿では,その多様体を暗黙的に説明するために,周辺空間におけるスコアマッチングをデノベートするための簡単な修正を提案する。
いくつかの重要なケースに対して、既知のコンポーネント$sbase$を解析形式で導き出す。
- 参考スコア(独自算出の注目度): 20.097218508598406
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A major focus in designing methods for learning distributions defined on manifolds is to alleviate the need to implicitly learn the manifold so that learning can concentrate on the data distribution within the manifold. However, accomplishing this often leads to compute-intensive solutions. In this work, we propose a simple modification to denoising score-matching in the ambient space to implicitly account for the manifold, thereby reducing the burden of learning the manifold while maintaining computational efficiency. Specifically, we propose a simple decomposition of the score function into a known component $s^{base}$ and a remainder component $s-s^{base}$ (the learning target), with the former implicitly including information on where the data manifold resides. We derive known components $s^{base}$ in analytical form for several important cases, including distributions over rotation matrices and discrete distributions, and use them to demonstrate the utility of this approach in those cases.
- Abstract(参考訳): 多様体上で定義された分布を学習するための方法の設計において、学習が多様体内のデータ分布に集中できるようにするために、多様体を暗黙的に学習する必要がなくなる。
しかし、これを達成すれば、しばしば計算集約的な解決策がもたらされる。
本研究では, 周辺空間におけるスコアマッチングを暗黙的に考慮し, 計算効率を保ちながら, 多様体の学習の負担を軽減するために, 簡易な修正法を提案する。
具体的には、スコア関数を既知のコンポーネント $s^{base}$ と残りのコンポーネント $s-s^{base}$ (学習対象) に分解し、前者は暗黙的にデータ多様体の位置に関する情報を含む。
我々は、回転行列上の分布や離散分布を含むいくつかの重要なケースに対して、既知の成分$s^{base}$を解析的形式で導き出し、それらの場合においてこのアプローチの有用性を実証するためにそれらを用いる。
関連論文リスト
- Is Multi-Distribution Learning as Easy as PAC Learning: Sharp Rates with Bounded Label Noise [26.182166506085114]
k$分布の学習は、各分布が別々に学習されない限り、一定の雑音レベル下であっても、$k/2$で遅い速度でスケーリングすることを示した。
重要な技術的貢献は、ほぼ最適性を証明する統計的コストをキャプチャする構造化仮説テストフレームワークである。
論文 参考訳(メタデータ) (2026-02-24T16:00:15Z) - Dimension-free Score Matching and Time Bootstrapping for Diffusion Models [19.62665684173391]
拡散モデルは、様々な雑音レベルにおける対象分布のスコア関数を推定してサンプルを生成する。
本稿では,マーチンゲールに基づく誤り分解とシャープな分散境界を導入し,従属データから効率的な学習を可能にする。
これらの知見に基づいて,より高い雑音レベルにおいて精度を向上させるために,事前学習したスコアを活用する分散低減手法であるBootstrapped Score Matching (BSM)を提案する。
論文 参考訳(メタデータ) (2025-02-14T18:32:22Z) - S-CFE: Simple Counterfactual Explanations [22.262567049579648]
スパースデータに対する多様体対応の反実的説明を求める問題に対処する。
提案手法は,スパースかつ多様体に整列した反実的説明を効果的に生成する。
論文 参考訳(メタデータ) (2024-10-21T07:42:43Z) - Achieving More with Less: A Tensor-Optimization-Powered Ensemble Method [53.170053108447455]
アンサンブル学習(英: Ensemble learning)は、弱い学習者を利用して強力な学習者を生み出す方法である。
我々は、マージンの概念を活かした滑らかで凸な目的関数を設計し、強力な学習者がより差別的になるようにした。
そして、我々のアルゴリズムを、多数のデータセットの10倍の大きさのランダムな森林や他の古典的な手法と比較する。
論文 参考訳(メタデータ) (2024-08-06T03:42:38Z) - Learning general Gaussian mixtures with efficient score matching [16.06356123715737]
我々は、$d$次元で$k$ガウシアンの混合を学習する問題を研究する。
我々は、下層の混合成分について分離を前提としない。
我々は、ターゲット混合物から$dmathrmpoly(k/varepsilon)$サンプルを抽出し、サンプル-ポリノミカル時間で実行し、サンプリング器を構築するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-04-29T17:30:36Z) - Learning Distributions on Manifolds with Free-Form Flows [7.773439780305304]
本研究では,多様体上のデータ生成モデルであるManifold Free-Form Flows (M-FFF)を提案する。
M-FFF は、既知の射影を持つ任意の多様体に直接適応する。
従来のシングルステップメソッドと一貫して一致したり、性能が良くなったりします。
論文 参考訳(メタデータ) (2023-12-15T14:58:34Z) - Learning Invariant Molecular Representation in Latent Discrete Space [52.13724532622099]
本稿では,分散シフトに対する不変性とロバスト性を示す分子表現を学習するための新しい枠組みを提案する。
我々のモデルは、様々な分布シフトが存在する場合に、最先端のベースラインに対してより強力な一般化を実現する。
論文 参考訳(メタデータ) (2023-10-22T04:06:44Z) - Compound Batch Normalization for Long-tailed Image Classification [77.42829178064807]
本稿では,ガウス混合に基づく複合バッチ正規化法を提案する。
機能空間をより包括的にモデル化し、ヘッドクラスの優位性を減らすことができる。
提案手法は,画像分類における既存の手法よりも優れている。
論文 参考訳(メタデータ) (2022-12-02T07:31:39Z) - A manifold learning approach for gesture identification from
micro-Doppler radar measurements [1.4610038284393163]
我々は、その次元を除いて多様体に関する知識を一切必要としない多様体学習のためのカーネルベースの近似を提案する。
マイクロドップラーデータセットを用いて,提案手法の性能を実証する。
論文 参考訳(メタデータ) (2021-10-04T19:08:44Z) - Attentional-Biased Stochastic Gradient Descent [74.49926199036481]
深層学習におけるデータ不均衡やラベルノイズ問題に対処するための証明可能な手法(ABSGD)を提案する。
本手法は運動量SGDの簡易な修正であり,各試料に個別の重み付けを行う。
ABSGDは追加コストなしで他の堅牢な損失と組み合わせられるほど柔軟である。
論文 参考訳(メタデータ) (2020-12-13T03:41:52Z) - Learning Halfspaces with Tsybakov Noise [50.659479930171585]
テュバコフ雑音の存在下でのハーフスペースの学習可能性について検討する。
真半空間に関して誤分類誤差$epsilon$を達成するアルゴリズムを与える。
論文 参考訳(メタデータ) (2020-06-11T14:25:02Z) - Robustly Learning any Clusterable Mixture of Gaussians [55.41573600814391]
本研究では,高次元ガウス混合系の対向ロバスト条件下での効率的な学習性について検討する。
理論的に最適に近い誤り証明である$tildeO(epsilon)$の情報を、$epsilon$-corrupted $k$-mixtureで学習するアルゴリズムを提供する。
我々の主な技術的貢献は、ガウス混合系からの新しい頑健な識別可能性証明クラスターであり、これは正方形の定度証明システムによって捉えることができる。
論文 参考訳(メタデータ) (2020-05-13T16:44:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。