論文の概要: Limits of spectral learning under noise
- arxiv url: http://arxiv.org/abs/2606.13067v1
- Date: Thu, 11 Jun 2026 08:53:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-12 15:55:27.682424
- Title: Limits of spectral learning under noise
- Title(参考訳): 雑音下におけるスペクトル学習の限界
- Authors: Sabin Roman, Ljupco Todorovski, Saso Dzeroski, Marta Sales-Pardo, Roger Guimera,
- Abstract要約: 複数のベースと次元にまたがるスパーススペクトル表現を用いた加算ラベル雑音による教師付き回帰について検討した。
雑音は, 有効スペクトルモード数に依存する学習係数ベクトルにおいて, 予測可能なドリフトを誘導することを示す。
- 参考スコア(独自算出の注目度): 3.7450401861214035
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning functional relationships from noisy data is a central problem in scientific inference. Spectral methods approximate unknown functions by expanding them in a basis and estimating the corresponding coefficients from data, but the stability of these coefficients under noise remains poorly understood. Here we study supervised regression with additive label noise using sparse spectral representations across multiple bases and dimensions. We show that noise induces a predictable drift in the learned coefficient vector whose magnitude depends on the effective number of active spectral modes. After whitening the empirical feature geometry, we derive a closed-form expression for the overlap between noisy and noiseless coefficient vectors, revealing a universal degradation curve governed by a single intrinsic noise scale. Numerical experiments across Fourier, Legendre, Bessel, and Haar bases confirm the theoretical prediction. The results demonstrate that spectral learning exhibits a fundamental noise threshold beyond which coefficient estimates become unstable, placing intrinsic limits on recovering functional structure from noisy data.
- Abstract(参考訳): ノイズの多いデータから関数関係を学習することは、科学的推論における中心的な問題である。
スペクトル法は、それらをベースとして拡張し、データから対応する係数を推定することで未知の関数を近似するが、ノイズ下でのこれらの係数の安定性はよく分かっていない。
本稿では,多次元のスペクトル表現を用いた重み付きラベル雑音による教師付き回帰について検討する。
雑音は, 有効スペクトルモード数に依存する学習係数ベクトルにおいて, 予測可能なドリフトを誘導することを示す。
経験的特徴幾何を白化した後、ノイズのない係数ベクトルと雑音のない係数ベクトルの重なり合いに対する閉形式式を導出し、単一の固有雑音スケールによって支配される普遍的な劣化曲線を明らかにする。
フーリエ、ルジャンドル、ベッセル、ハールの各基地での数値実験により、理論的な予測が確定した。
その結果, スペクトル学習は, 係数推定が不安定となるような基本雑音閾値を示し, ノイズデータから関数構造を復元する上で本質的な制約を課していることがわかった。
関連論文リスト
- Anchoring the Eigengap: Cross-Modal Spectral Stabilization for Sample-Efficient Representation Learning [0.8326214193432122]
視力モデルが低データ状態,特にラベル付きサンプルが不足している医療画像において,急速に低下していることが示される。
我々は、回復可能な次元K(N)を定量化する有限サンプル表現学習の理論を開発する。
マルチモーダルトレーニングは,非モーダルモデルでも,より安定なモードを維持し,クラス分離を改善する。
論文 参考訳(メタデータ) (2026-05-09T07:49:43Z) - Learning spectral density functions in open quantum systems [0.0]
ノイズデータからスペクトル密度関数を再構成するために, 純劣化チャネルと振幅減衰チャネルを備えた正確に解像可能なスピンボソンモデルを用いる。
我々のニューラルネットワークは、ノイズ信号のフィルタリングと一般的な機能的依存関係の学習によって、構造化された密度を頑健に再構築する。
論文 参考訳(メタデータ) (2026-02-27T14:45:59Z) - Learn Beneficial Noise as Graph Augmentation [54.44813218411879]
本稿では,情報理論における雑音の有益効果を科学的に分析するPiNGDAを提案する。
我々は,事前定義された拡張値を持つ標準GCLが,点推定による有益雑音の推定に等価であることを証明した。
生成元はグラフトポロジとノード属性に対して有益な摂動を生成する方法を学ぶため、PiNGDAは既存の手法よりも信頼性が高い。
論文 参考訳(メタデータ) (2025-05-25T08:20:34Z) - FreSca: Scaling in Frequency Space Enhances Diffusion Models [55.75504192166779]
本稿では,潜時拡散モデルにおける周波数制御について検討する。
本稿では,低周波成分と高周波成分にノイズ差を分解する新しいフレームワークFreScaを紹介する。
FreScaはモデルの再トレーニングやアーキテクチャの変更なしに動作し、モデルとタスクに依存しない制御を提供する。
論文 参考訳(メタデータ) (2025-04-02T22:03:11Z) - Noisy Nonnegative Tucker Decomposition with Sparse Factors and Missing Data [28.226817588482565]
本研究では, 雑音下での非負データ回復のための, スパース非負のタッカー分解と補修法を提案する。
我々の理論結果は既存のテンソル法や行列法よりも優れている。
論文 参考訳(メタデータ) (2022-08-17T13:29:14Z) - The Optimal Noise in Noise-Contrastive Learning Is Not What You Think [80.07065346699005]
この仮定から逸脱すると、実際により良い統計的推定結果が得られることが示される。
特に、最適な雑音分布は、データと異なり、また、別の家族からさえも異なる。
論文 参考訳(メタデータ) (2022-03-02T13:59:20Z) - Adaptive Multi-View ICA: Estimation of noise levels for optimal
inference [65.94843987207445]
Adaptive MultiView ICA (AVICA) はノイズの多いICAモデルであり、各ビューは共有された独立したソースと付加的なノイズの線形混合である。
AVICAは、その明示的なMMSE推定器により、他のICA法よりも優れたソース推定値が得られる。
実脳磁図(MEG)データでは,分解がサンプリングノイズに対する感度が低く,ノイズ分散推定が生物学的に妥当であることを示す。
論文 参考訳(メタデータ) (2021-02-22T13:10:12Z) - Denoising Score Matching with Random Fourier Features [11.60130641443281]
Kernel Exponential Family を用いたDenoising Score matching の解析式をモデル分布として導出する。
得られた式はノイズのばらつきに明示的に依存するため、バリデーション損失はノイズレベルを調整するために簡単に使用できる。
論文 参考訳(メタデータ) (2021-01-13T18:02:39Z) - Contextual Linear Bandits under Noisy Features: Towards Bayesian Oracles [65.9694455739978]
特徴不確実性の下での文脈線形帯域問題について検討する。
本分析により, 最適仮説は, 雑音特性に応じて, 基礎となる実現可能性関数から著しく逸脱しうることが明らかとなった。
これは、古典的アプローチが非自明な後悔境界を保証できないことを意味する。
論文 参考訳(メタデータ) (2017-03-03T21:39:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。