論文の概要: Orthogonal Random Features: Explicit Forms and Sharp Inequalities

• arxiv url: http://arxiv.org/abs/2310.07370v2
• Date: Sat, 19 Oct 2024 17:23:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-22 13:14:19.754605
• Title: Orthogonal Random Features: Explicit Forms and Sharp Inequalities
• Title（参考訳）: 直交ランダムな特徴:明示的な形式とシャープ不等式
• Authors: Nizar Demni, Hachem Kadri,
• Abstract要約: 直交乱数特徴に基づくカーネル近似のバイアスと分散を解析する。 正規化されたベッセル関数を用いてこれらの量に対して明示的な表現を提供する。
• 参考スコア（独自算出の注目度）: 5.8317379706611385
• License:
• Abstract: Random features have been introduced to scale up kernel methods via randomization techniques. In particular, random Fourier features and orthogonal random features were used to approximate the popular Gaussian kernel. Random Fourier features are built in this case using a random Gaussian matrix. In this work, we analyze the bias and the variance of the kernel approximation based on orthogonal random features which makes use of Haar orthogonal matrices. We provide explicit expressions for these quantities using normalized Bessel functions, showing that orthogonal random features does not approximate the Gaussian kernel but a Bessel kernel. We also derive sharp exponential bounds supporting the view that orthogonal random features are less dispersed than random Fourier features.
• Abstract（参考訳）: ランダム化技術によってカーネルメソッドをスケールアップするためにランダム機能が導入されている。 特に、人気のあるガウス核を近似するためにランダムフーリエ特徴と直交ランダム特徴が使われた。 この場合、ランダムフーリエはランダムガウス行列を用いて構築される。 本研究では,Haar直交行列を用いた直交ランダムな特徴に基づくカーネル近似のバイアスと分散を解析する。 正規化されたベッセル関数を用いてこれらの量に対して明示的な表現を提供し、直交ランダムな特徴がガウス核ではなくベッセル核に近似しないことを示す。 また、直交するランダムな特徴がランダムなフーリエ特徴よりも分散しないという視点を支持する鋭い指数的境界を導出する。

関連論文リスト

• New random projections for isotropic kernels using stable spectral distributions [0.0]
  スペクトルカーネル分布を$alpha$-stableランダムベクトルのスケール混合として分解する。 結果は、サポートベクターマシン、カーネルリッジレグレッション、その他のカーネルベースの機械学習技術に広く応用されている。
  論文  参考訳（メタデータ） (2024-11-05T03:28:01Z)
• Gradient Span Algorithms Make Predictable Progress in High Dimension [0.0]
  我々は、全ての「漸進的アルゴリズム」が、無限大となる傾向があるため、スケールされたランダム関数に決定論的に就いていることを証明した。 分布仮定はトレーニングに使用されるが、ランダムグラスやスピンも含む。
  論文  参考訳（メタデータ） (2024-10-13T19:26:18Z)
• von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
  円値ランダム関数上の表現的および解釈可能な分布の族を探索する。 結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。 後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
  論文  参考訳（メタデータ） (2024-06-19T01:57:21Z)
• Tanimoto Random Features for Scalable Molecular Machine Learning [2.5112706394511766]
  そこで本研究では,Tanimotoカーネルを大規模データセットにスケールアップするための2種類の新しいランダムな特徴を提案する。 これらのランダムな特徴は実世界のデータセットの谷本係数の近似に有効であることを示す。
  論文  参考訳（メタデータ） (2023-06-26T16:11:11Z)
• Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
  線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。 ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
  論文  参考訳（メタデータ） (2023-04-17T14:23:43Z)
• Simplex Random Features [53.97976744884616]
  ソフトマックスおよびガウスカーネルの非バイアス近似のための新しいランダム特徴(RF)機構であるSimplex Random Features (SimRFs)を提案する。 我々は,これらのカーネルの非バイアス推定値に対して,SimRFが最小平均二乗誤差(MSE)を提供することを示す。 ポイントワイドカーネル推定,非パラメトリック分類,スケーラブルトランスフォーマーなどの設定において,SimRFによる一貫したゲインを示す。
  論文  参考訳（メタデータ） (2023-01-31T18:53:39Z)
• Hybrid Random Features [60.116392415715275]
  ハイブリッドランダム特徴(HRF)と呼ばれるソフトマックスとガウス核の線形化のための新しいランダム特徴法を提案する。 HRFは、カーネル推定の品質を自動的に適応し、定義された関心領域の最も正確な近似を提供する。
  論文  参考訳（メタデータ） (2021-10-08T20:22:59Z)
• Towards Unbiased Random Features with Lower Variance For Stationary Indefinite Kernels [26.57122949130266]
  本アルゴリズムは,既存のカーネル近似法と比較して,より低い分散と近似誤差を達成する。 もともと選択されたカーネルの近似性が向上し、分類精度と回帰能力が向上する。
  論文  参考訳（メタデータ） (2021-04-13T13:56:50Z)
• Stochastic Saddle-Point Optimization for Wasserstein Barycenters [69.68068088508505]
  オンラインデータストリームによって生成される有限個の点からなるランダムな確率測度に対する人口推定バリセンタ問題を考察する。 本稿では,この問題の構造を用いて,凸凹型サドル点再構成を行う。 ランダム確率測度の分布が離散的な場合、最適化アルゴリズムを提案し、その複雑性を推定する。
  論文  参考訳（メタデータ） (2020-06-11T19:40:38Z)
• Scaling up Kernel Ridge Regression via Locality Sensitive Hashing [6.704115928005158]
  ランダムな双対関数の重み付け版を導入し、対応するカーネル関数が滑らかなガウス過程を生成することを示す。 重み付けされたランダムなバイナリ化特徴は、対応するカーネル行列にスペクトル近似を与え、カーネルリッジ回帰の効率的なアルゴリズムをもたらすことを示す。
  論文  参考訳（メタデータ） (2020-03-21T21:41:16Z)
• Optimal Iterative Sketching with the Subsampled Randomized Hadamard Transform [64.90148466525754]
  最小二乗問題に対する反復スケッチの性能について検討する。 本研究では、Haar行列とランダム化されたHadamard行列の収束速度が同一であることを示し、ランダムなプロジェクションを経時的に改善することを示した。 これらの手法は、ランダム化次元還元を用いた他のアルゴリズムにも適用することができる。
  論文  参考訳（メタデータ） (2020-02-03T16:17:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。