Fugu-MT 論文翻訳(概要): All Random Features Representations are Equivalent

論文の概要: All Random Features Representations are Equivalent

arxiv url: http://arxiv.org/abs/2406.18802v2
Date: Wed, 23 Oct 2024 23:04:36 GMT
ステータス: 翻訳完了
システム内更新日: 2024-10-25 12:51:13.067866
Title: All Random Features Representations are Equivalent
Title（参考訳）: すべてのランダムな特徴表現は等価である
Authors: Luke Sernau, Silvano Bonacina, Rif A. Saurous,
Abstract要約: すべてのランダムな特徴表現が同じ近似誤差を持つことを示す。つまり、最適なサンプルをすれば、好きな表現を自由に選択できるということです。
参考スコア（独自算出の注目度）: 2.8479897791887727
License:
Abstract: Random features are a powerful technique for rewriting positive-definite kernels as linear products. They bring linear tools to bear in important nonlinear domains like KNNs and attention. Unfortunately, practical implementations require approximating an expectation, usually via sampling. This has led to the development of increasingly elaborate representations with ever lower sample error. We resolve this arms race by deriving an optimal sampling policy. Under this policy all random features representations have the same approximation error, which we show is the lowest possible. This means that we are free to choose whatever representation we please, provided we sample optimally.
Abstract（参考訳）: ランダム機能は、正定値カーネルを線形積として書き換える強力な技術である。彼らは、KNNや注目のような重要な非線形領域に線形ツールをもたらす。残念ながら、実践的な実装では、通常サンプリングを通じて、期待を近似する必要がある。このことが、より低いサンプル誤差を持つより精巧な表現の開発につながった。我々は、最適なサンプリングポリシーを導出することで、この武器競争を解決する。このポリシーの下では、全てのランダムな特徴表現は近似誤差が同じであり、最も低いことが示される。つまり、最適なサンプルをすれば、好きな表現を自由に選択できるということです。

関連論文リスト

Optimal sampling for least-squares approximation [0.8702432681310399]
ランダムサンプルから(重み付けされた)最小二乗近似の解析において、クリスティーフェル関数を重要な量として導入する。ほぼ最適なサンプル複雑性を持つサンプリング戦略を構築するためにどのように使用できるかを示す。
論文参考訳（メタデータ） (2024-09-04T00:06:23Z)
Approximating a RUM from Distributions on k-Slates [88.32814292632675]
与えられた分布を平均で最もよく近似するRUMを求める一般化時間アルゴリズムを求める。我々の理論的結果は、実世界のデータセットに効果的でスケール可能なものを得るという、実践的な結果も得られます。
論文参考訳（メタデータ） (2023-05-22T17:43:34Z)
Best Policy Identification in Linear MDPs [70.57916977441262]
縮退した線形マルコフ+デルタ決定における最適同定問題について, 生成モデルに基づく固定信頼度設定における検討を行った。複雑な非最適化プログラムの解としての下位境界は、そのようなアルゴリズムを考案する出発点として用いられる。
論文参考訳（メタデータ） (2022-08-11T04:12:50Z)
Sampling from Arbitrary Functions via PSD Models [55.41644538483948]
まず確率分布をモデル化し,そのモデルからサンプリングする。これらのモデルでは, 少数の評価値を用いて, 高精度に多数の密度を近似することが可能であることが示され, それらのモデルから効果的にサンプルする簡単なアルゴリズムが提示される。
論文参考訳（メタデータ） (2021-10-20T12:25:22Z)
Local policy search with Bayesian optimization [73.0364959221845]
強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。局所探索のための政策勾配は、しばしばランダムな摂動から得られる。目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
論文参考訳（メタデータ） (2021-06-22T16:07:02Z)
Optimal scaling of random walk Metropolis algorithms using Bayesian large-sample asymptotics [0.6091702876917281]
高次元は、ランダムウォークメトロポリスアルゴリズムの最適スケーリングを見つけるためのチューニング規則の導出に有用であることが示されている。私たちは、異なる視点から最適なスケーリング問題、すなわち大きなサンプル問題に光を当てました。
論文参考訳（メタデータ） (2021-04-13T17:39:50Z)
Adversarial Estimation of Riesz Representers [21.510036777607397]
一般関数空間を用いてRiesz表現子を推定する逆フレームワークを提案する。臨界半径(Critical radius)と呼ばれる抽象的な量で非漸近平均平方レートを証明し、ニューラルネットワーク、ランダムな森林、カーネルヒルベルト空間を主要なケースとして再現する。
論文参考訳（メタデータ） (2020-12-30T19:46:57Z)
Pathwise Conditioning of Gaussian Processes [72.61885354624604]
ガウス過程後部をシミュレーションするための従来のアプローチでは、有限個の入力位置のプロセス値の限界分布からサンプルを抽出する。この分布中心の特徴づけは、所望のランダムベクトルのサイズで3次スケールする生成戦略をもたらす。条件付けのこのパスワイズ解釈が、ガウス過程の後部を効率的にサンプリングするのに役立てる近似の一般族をいかに生み出すかを示す。
論文参考訳（メタデータ） (2020-11-08T17:09:37Z)
Convex Representation Learning for Generalized Invariance in Semi-Inner-Product Space [32.442549424823355]
本研究では, 半ノルムにおける多種多様な一般化表現のアルゴリズムを開発し, 先頭の表現子を定式化し, 境界を定式化する。これにより、正確な予測とともに、我々の実験で確認されているように、表現を効率的かつ効果的に学習することができる。
論文参考訳（メタデータ） (2020-04-25T18:54:37Z)
Non-Adaptive Adaptive Sampling on Turnstile Streams [57.619901304728366]
カラムサブセット選択、部分空間近似、射影クラスタリング、および空間サブリニアを$n$で使用するターンタイルストリームのボリュームに対する最初の相対エラーアルゴリズムを提供する。我々の適応的なサンプリング手法は、様々なデータ要約問題に多くの応用をもたらしており、これは最先端を改善するか、より緩和された行列列モデルで以前に研究されただけである。
論文参考訳（メタデータ） (2020-04-23T05:00:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。