論文の概要: Convergence for adaptive resampling of random Fourier features
- arxiv url: http://arxiv.org/abs/2509.03151v1
- Date: Wed, 03 Sep 2025 09:03:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-04 21:40:46.472077
- Title: Convergence for adaptive resampling of random Fourier features
- Title(参考訳): ランダムフーリエ特徴の適応的再サンプリングのための収束性
- Authors: Xin Huang, Aku Kammonen, Anamika Pandey, Mattias Sandberg, Erik von Schwerin, Anders Szepessy, Raúl Tempone,
- Abstract要約: 高次元のデータに対する機械学習ランダムフーリエ特徴法は、凸標準最小二乗問題と周波数の独立サンプリングに基づく最適化であるため、計算的かつ理論的に魅力的である。
この研究は、ノードの数とデータの量が無限大になる傾向があるため、最適な周波数を再サンプリングするデータ適応法を証明する。
繰り返しによる最小二乗問題の近似とともに、共役勾配と適応ランダムウォークステップに基づく数値計算により、回帰および分類問題の解析が確認される。
- 参考スコア(独自算出の注目度): 8.67484158637974
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The machine learning random Fourier feature method for data in high dimension is computationally and theoretically attractive since the optimization is based on a convex standard least squares problem and independent sampling of Fourier frequencies. The challenge is to sample the Fourier frequencies well. This work proves convergence of a data adaptive method based on resampling the frequencies asymptotically optimally, as the number of nodes and amount of data tend to infinity. Numerical results based on resampling and adaptive random walk steps together with approximations of the least squares problem by conjugate gradient iterations confirm the analysis for regression and classification problems.
- Abstract(参考訳): 高次元のデータに対する機械学習ランダムフーリエ特徴量法は、その最適化は凸標準最小二乗問題とフーリエ周波数の独立サンプリングに基づいているため、計算的かつ理論的に魅力的である。
課題は、フーリエ周波数をうまくサンプリングすることである。
この研究は、ノードの数とデータの量が無限大になる傾向があるため、周波数を漸近的に最適に再サンプリングするデータ適応手法の収束を証明している。
共役勾配反復による最小二乗問題の近似とともに、再サンプリングおよび適応ランダムウォークステップに基づく数値計算の結果、回帰および分類問題の解析が確認される。
関連論文リスト
- Scale-Adaptive Generative Flows for Multiscale Scientific Data [20.583125441867434]
フローベースの生成モデルは、マルチスケールのフーリエスペクトルで科学データをモデル化する際の課題に直面することがある。
鍵となる洞察は、ノイズが目標データよりも滑らかでないことであり、初期時間に近い境界ドリフト場を確保することである。
スペクトル整合雑音は標準的なホワイトノイズ法に比べて数値効率が向上することを示す。
論文 参考訳(メタデータ) (2025-09-03T03:17:49Z) - LSCD: Lomb-Scargle Conditioned Diffusion for Time series Imputation [55.800319453296886]
欠落または不規則なサンプルデータを持つ時系列は、機械学習において永続的な課題である。
我々は,不規則サンプルデータのパワースペクトルの信頼性の高い計算を可能にする,異なるLombiable-Scargle層を導入する。
論文 参考訳(メタデータ) (2025-06-20T14:48:42Z) - Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳(メタデータ) (2024-11-21T10:26:17Z) - Score-based Diffusion Models in Function Space [137.70916238028306]
拡散モデルは、最近、生成モデリングの強力なフレームワークとして登場した。
この研究は、関数空間における拡散モデルをトレーニングするためのDDO(Denoising Diffusion Operators)と呼ばれる数学的に厳密なフレームワークを導入する。
データ解像度に依存しない固定コストで、対応する離散化アルゴリズムが正確なサンプルを生成することを示す。
論文 参考訳(メタデータ) (2023-02-14T23:50:53Z) - Optimal Algorithms for the Inhomogeneous Spiked Wigner Model [89.1371983413931]
不均一な問題に対する近似メッセージパッシングアルゴリズム(AMP)を導出する。
特に,情報理論の閾値よりも大きい信号と雑音の比を必要とする既知のアルゴリズムが,ランダムよりも優れた処理を行うための統計的・計算的ギャップの存在を同定する。
論文 参考訳(メタデータ) (2023-02-13T19:57:17Z) - Diffusion Posterior Sampling for General Noisy Inverse Problems [50.873313752797124]
我々は、後方サンプリングの近似により、雑音(非線形)逆問題に対処するために拡散解法を拡張した。
本手法は,拡散モデルが様々な計測ノイズ統計を組み込むことができることを示す。
論文 参考訳(メタデータ) (2022-09-29T11:12:27Z) - Convergence of First-Order Methods for Constrained Nonconvex
Optimization with Dependent Data [7.513100214864646]
収束$tildeO(t-1/4)$とMoreautildeO(vareps-4)$がスムーズな非最適化のために最悪の場合の複雑性を示す。
適応的なステップサイズと最適収束度を持つ投影勾配法に基づく従属データに対する最初のオンライン非負行列分解アルゴリズムを得る。
論文 参考訳(メタデータ) (2022-03-29T17:59:10Z) - On Sparse High-Dimensional Graphical Model Learning For Dependent Time Series [12.94486861344922]
本稿では,スパース,高次元定常時系列の条件独立グラフ(CIG)を推定する問題を考察する。
スパースグループラッソに基づく周波数領域の定式化について述べる。
また,ベイズ情報基準に基づくチューニングパラメータの選択についても実験的に検討した。
論文 参考訳(メタデータ) (2021-11-15T16:52:02Z) - Large-Scale Learning with Fourier Features and Tensor Decompositions [3.6930948691311007]
決定論的フーリエ特徴のテンソル積構造を利用して、モデルパラメータを低ランクテンソル分解として表現することができる。
数値実験により、我々の低ランクテンソル法が対応する非パラメトリックモデルと同じ性能を得ることを示す。
論文 参考訳(メタデータ) (2021-09-03T14:12:53Z) - Non-Adaptive Adaptive Sampling on Turnstile Streams [57.619901304728366]
カラムサブセット選択、部分空間近似、射影クラスタリング、および空間サブリニアを$n$で使用するターンタイルストリームのボリュームに対する最初の相対エラーアルゴリズムを提供する。
我々の適応的なサンプリング手法は、様々なデータ要約問題に多くの応用をもたらしており、これは最先端を改善するか、より緩和された行列列モデルで以前に研究されただけである。
論文 参考訳(メタデータ) (2020-04-23T05:00:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。