論文の概要: Randomized Quasi-Monte Carlo Features for Kernel Approximation

• arxiv url: http://arxiv.org/abs/2503.06041v1
• Date: Sat, 08 Mar 2025 03:38:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-11 15:50:56.212576
• Title: Randomized Quasi-Monte Carlo Features for Kernel Approximation
• Title（参考訳）: カーネル近似のためのランダム化準モンテカルロ特徴
• Authors: Yian Huang, Zhen Huang,
• Abstract要約: ランダム化準モンテカルロ法(RQMC)のカーネルベース学習におけるランダム特徴近似への応用について検討する。 古典的モンテカルロ法(MC)と比較して、RQMCは決定論的近似誤差境界を改善する。 RQMC法は低次元と中程度の高次元の両方で安定した性能を維持していることを示す。
• 参考スコア（独自算出の注目度）: 3.105656247358225
• License:
• Abstract: We investigate the application of randomized quasi-Monte Carlo (RQMC) methods in random feature approximations for kernel-based learning. Compared to the classical Monte Carlo (MC) approach \citep{rahimi2007random}, RQMC improves the deterministic approximation error bound from $O_P(1/\sqrt{n})$ to $O(1/M)$ (up to logarithmic factors), matching the rate achieved by quasi-Monte Carlo (QMC) methods \citep{huangquasi}. Beyond the deterministic error bound guarantee, we further establish additional average error bounds for RQMC features: some requiring weaker assumptions and others significantly reducing the exponent of the logarithmic factor. In the context of kernel ridge regression, we show that RQMC features offer computational advantages over MC features while preserving the same statistical error rate. Empirical results further show that RQMC methods maintain stable performance in both low and moderately high-dimensional settings, unlike QMC methods, which suffer from significant performance degradation as dimension increases.
• Abstract（参考訳）: ランダム化準モンテカルロ法(RQMC)のカーネルベース学習におけるランダム特徴近似への応用について検討する。 古典的モンテカルロ (MC) アプローチである citep{rahimi2007random} と比較して、RQMC は決定論的近似誤差を$O_P(1/\sqrt{n})$から$O(1/M)$に改善し、準モンテカルロ (QMC) メソッド \citep{huangquasi} で達成される速度と一致する。 決定論的誤差境界保証の他に、より弱い仮定を必要とするものや対数係数の指数を著しく減少させるものなど、RQMC特徴に対する平均誤差境界を更に確立する。 カーネルリッジ回帰の文脈では、RQMC特徴は同じ統計誤差率を維持しながら、MC特徴よりも計算上の優位性を示すことを示す。 さらに, RQMC法は, 寸法が大きくなるにつれて顕著な性能劣化に悩まされるQMC法とは異なり, 低次元と中程度の高次元の両方で安定した性能を維持することが実証された。

関連論文リスト

• Uncertainty quantification for Markov chains with application to temporal difference learning [63.49764856675643]
  マルコフ連鎖のベクトル値および行列値関数に対する新しい高次元濃度不等式とベリー・エッシー境界を開発する。 我々は、強化学習における政策評価に広く用いられているTD学習アルゴリズムを解析する。
  論文  参考訳（メタデータ） (2025-02-19T15:33:55Z)
• Randomized Physics-Informed Machine Learning for Uncertainty Quantification in High-Dimensional Inverse Problems [49.1574468325115]
  本研究では,高次元逆問題における不確実性定量化のための物理インフォームド機械学習手法を提案する。 我々は解析的に、そして、ハミルトン・モンテカルロとの比較を通して、rPICKLE はベイズ則によって与えられる真の後続に収束することを示す。
  論文  参考訳（メタデータ） (2023-12-11T07:33:16Z)
• Model-Based Reparameterization Policy Gradient Methods: Theory and Practical Algorithms [88.74308282658133]
  Reization (RP) Policy Gradient Methods (PGM) は、ロボット工学やコンピュータグラフィックスにおける連続的な制御タスクに広く採用されている。 近年の研究では、長期強化学習問題に適用した場合、モデルベースRP PGMはカオス的かつ非滑らかな最適化環境を経験する可能性があることが示されている。 本稿では,長期モデルアンロールによる爆発的分散問題を緩和するスペクトル正規化法を提案する。
  論文  参考訳（メタデータ） (2023-10-30T18:43:21Z)
• Robust Uncertainty Quantification Using Conformalised Monte Carlo Prediction [6.86690482279886]
  不確実量化(UQ)手法は、予測毎のモデルの信頼性を推定する。 我々は新しい適応モンテカルロ(MC)ドロップアウト法と共形予測(CP)を組み合わせた新しいハイブリッドUQ手法であるMC-CPを紹介する。 MC-CPは、分類と回帰のベンチマークにおいて、MCドロップアウト、RAPS、CQRといった高度なUQ手法よりも大幅に改善されていることを示す。
  論文  参考訳（メタデータ） (2023-08-18T16:07:01Z)
• Reverse Diffusion Monte Carlo [19.35592726471155]
  逆拡散モンテカルロ(rdMC)と呼ばれる新しいモンテカルロサンプリングアルゴリズムを提案する。 rdMCはマルコフ連鎖モンテカルロ(MCMC)法とは異なる。
  論文  参考訳（メタデータ） (2023-07-05T05:42:03Z)
• Convergence Analysis of Stochastic Gradient Descent with MCMC Estimators [8.493584276672971]
  勾配降下(SGD)とその変種は機械学習に不可欠である。 本稿では,マルコフ連鎖モンテカルロ(MCMC)推定器を用いて勾配を計算するSGDアルゴリズムについて考察する。 MCMC-SGDはサドル点から脱出し、$(epsilon,epsilon1/4)$2次定常点に達することが示されている。
  論文  参考訳（メタデータ） (2023-03-19T08:29:49Z)
• Beyond Exponentially Fast Mixing in Average-Reward Reinforcement Learning via Multi-Level Monte Carlo Actor-Critic [61.968469104271676]
  本稿では,アクター・アクターとアクター・アクター・アクター・アルゴリズムに埋め込まれた平均報酬に対して,マルチレベルモンテカルロ推定器を用いて混合時間に適応したRL手法を提案する。 不安定な報酬を伴うRL問題において,安定性に要求される技術的条件の緩和効果が,実用上優れた性能に変換されることを実験的に示す。
  論文  参考訳（メタデータ） (2023-01-28T04:12:56Z)
• Convergence analysis of a quasi-Monte Carlo-based deep learning algorithm for solving partial differential equations [0.0]
  ポアソン方程式と静的シュリンガー方程式のノイマン問題の解法として準モンテカルロ法(QMC)をディープリッツ法(DRM)に適用することを提案する。 誤差推定では、深層学習アルゴリズムを用いてPDEを解いた誤差を一般化誤差、近似誤差、訓練誤差に分解する。 数値実験により,提案手法はすべてのケースにおいてより高速に収束し,ランダム化QMCベースのDRMの勾配推定器の分散はDRMよりもはるかに小さいことがわかった。
  論文  参考訳（メタデータ） (2022-10-28T15:06:57Z)
• Parallel Stochastic Mirror Descent for MDPs [72.75921150912556]
  無限水平マルコフ決定過程(MDP)における最適政策学習の問題を考える。 リプシッツ連続関数を用いた凸プログラミング問題に対してミラー・ディクセントの変種が提案されている。 このアルゴリズムを一般の場合において解析し,提案手法の動作中に誤差を蓄積しない収束率の推定値を得る。
  論文  参考訳（メタデータ） (2021-02-27T19:28:39Z)
• Efficient semidefinite-programming-based inference for binary and multi-class MRFs [83.09715052229782]
  分割関数やMAP推定をペアワイズMRFで効率的に計算する手法を提案する。 一般のバイナリMRFから完全多クラス設定への半定緩和を拡張し、解法を用いて再び効率的に解けるようなコンパクトな半定緩和を開発する。
  論文  参考訳（メタデータ） (2020-12-04T15:36:29Z)
• Optimal Thinning of MCMC Output [18.177473712344565]
  サンプルパスから固定基数のある状態の部分集合を振り返って選択する問題を考察する。 重圧縮を必要とする問題に適した,カーネルの差分最小化に基づく新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-05-08T10:54:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。