Fugu-MT 論文翻訳(概要): Orthogonal Random Features: Explicit Forms and Sharp Inequalities

論文の概要: Orthogonal Random Features: Explicit Forms and Sharp Inequalities

arxiv url: http://arxiv.org/abs/2310.07370v1
Date: Wed, 11 Oct 2023 10:40:43 GMT
ステータス: 処理完了
システム内更新日: 2023-10-12 23:14:03.069499
Title: Orthogonal Random Features: Explicit Forms and Sharp Inequalities
Title（参考訳）: 直交ランダム特徴:明示的な形式とシャープ不等式
Authors: Nizar Demni and Hachem Kadri
Abstract要約: 直交乱数特徴に基づくカーネル近似のバイアスと分散を解析する。正規化されたベッセル境界を用いてこれらの量に対して明示的な表現を提供し、鋭指数を導出する。
参考スコア（独自算出の注目度）: 6.889425872704067
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Random features have been introduced to scale up kernel methods via randomization techniques. In particular, random Fourier features and orthogonal random features were used to approximate the popular Gaussian kernel. The former is performed by a random Gaussian matrix and leads exactly to the Gaussian kernel after averaging. In this work, we analyze the bias and the variance of the kernel approximation based on orthogonal random features which makes use of Haar orthogonal matrices. We provide explicit expressions for these quantities using normalized Bessel functions and derive sharp exponential bounds supporting the view that orthogonal random features are more informative than random Fourier features.
Abstract（参考訳）: ランダム化技術によってカーネルメソッドをスケールアップするためにランダム機能が導入されている。特に、人気のあるガウス核を近似するためにランダムフーリエ特徴と直交ランダム特徴を用いた。前者はランダムなガウス行列によって実行され、平均化後のガウス核に正確に通じる。本研究では,haar直交行列を用いた直交ランダム特徴に基づいて,カーネル近似のバイアスと分散を分析する。正規化されたベッセル関数を用いてこれらの量を明示的に表現し、直交ランダム特徴はランダムフーリエ特徴よりも有益であるという考えを裏付ける鋭い指数境界を導出する。

関連論文リスト

New random projections for isotropic kernels using stable spectral distributions [0.0]
スペクトルカーネル分布を$alpha$-stableランダムベクトルのスケール混合として分解する。結果は、サポートベクターマシン、カーネルリッジレグレッション、その他のカーネルベースの機械学習技術に広く応用されている。
論文参考訳（メタデータ） (2024-11-05T03:28:01Z)
Gradient Span Algorithms Make Predictable Progress in High Dimension [0.0]
我々は、全ての「漸進的アルゴリズム」が、無限大となる傾向があるため、スケールされたランダム関数に決定論的に就いていることを証明した。分布仮定はトレーニングに使用されるが、ランダムグラスやスピンも含む。
論文参考訳（メタデータ） (2024-10-13T19:26:18Z)
von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
円値ランダム関数上の表現的および解釈可能な分布の族を探索する。結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
論文参考訳（メタデータ） (2024-06-19T01:57:21Z)
Tanimoto Random Features for Scalable Molecular Machine Learning [2.5112706394511766]
そこで本研究では,Tanimotoカーネルを大規模データセットにスケールアップするための2種類の新しいランダムな特徴を提案する。これらのランダムな特徴は実世界のデータセットの谷本係数の近似に有効であることを示す。
論文参考訳（メタデータ） (2023-06-26T16:11:11Z)
Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
論文参考訳（メタデータ） (2023-04-17T14:23:43Z)
Simplex Random Features [53.97976744884616]
ソフトマックスおよびガウスカーネルの非バイアス近似のための新しいランダム特徴(RF)機構であるSimplex Random Features (SimRFs)を提案する。我々は,これらのカーネルの非バイアス推定値に対して,SimRFが最小平均二乗誤差(MSE)を提供することを示す。ポイントワイドカーネル推定,非パラメトリック分類,スケーラブルトランスフォーマーなどの設定において,SimRFによる一貫したゲインを示す。
論文参考訳（メタデータ） (2023-01-31T18:53:39Z)
Hybrid Random Features [60.116392415715275]
ハイブリッドランダム特徴(HRF)と呼ばれるソフトマックスとガウス核の線形化のための新しいランダム特徴法を提案する。 HRFは、カーネル推定の品質を自動的に適応し、定義された関心領域の最も正確な近似を提供する。
論文参考訳（メタデータ） (2021-10-08T20:22:59Z)
Towards Unbiased Random Features with Lower Variance For Stationary Indefinite Kernels [26.57122949130266]
本アルゴリズムは,既存のカーネル近似法と比較して,より低い分散と近似誤差を達成する。もともと選択されたカーネルの近似性が向上し、分類精度と回帰能力が向上する。
論文参考訳（メタデータ） (2021-04-13T13:56:50Z)
Stochastic Saddle-Point Optimization for Wasserstein Barycenters [69.68068088508505]
オンラインデータストリームによって生成される有限個の点からなるランダムな確率測度に対する人口推定バリセンタ問題を考察する。本稿では,この問題の構造を用いて,凸凹型サドル点再構成を行う。ランダム確率測度の分布が離散的な場合、最適化アルゴリズムを提案し、その複雑性を推定する。
論文参考訳（メタデータ） (2020-06-11T19:40:38Z)
Scaling up Kernel Ridge Regression via Locality Sensitive Hashing [6.704115928005158]
ランダムな双対関数の重み付け版を導入し、対応するカーネル関数が滑らかなガウス過程を生成することを示す。重み付けされたランダムなバイナリ化特徴は、対応するカーネル行列にスペクトル近似を与え、カーネルリッジ回帰の効率的なアルゴリズムをもたらすことを示す。
論文参考訳（メタデータ） (2020-03-21T21:41:16Z)
Optimal Iterative Sketching with the Subsampled Randomized Hadamard Transform [64.90148466525754]
最小二乗問題に対する反復スケッチの性能について検討する。本研究では、Haar行列とランダム化されたHadamard行列の収束速度が同一であることを示し、ランダムなプロジェクションを経時的に改善することを示した。これらの手法は、ランダム化次元還元を用いた他のアルゴリズムにも適用することができる。
論文参考訳（メタデータ） (2020-02-03T16:17:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。