論文の概要: The Shooting Regressor; Randomized Gradient-Based Ensembles
- arxiv url: http://arxiv.org/abs/2009.06172v1
- Date: Mon, 14 Sep 2020 03:20:59 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-18 11:32:26.327075
- Title: The Shooting Regressor; Randomized Gradient-Based Ensembles
- Title(参考訳): 射撃レグレッサー;ランダム化された勾配に基づくアンサンブル
- Authors: Nicholas Smith
- Abstract要約: ランダム化と損失関数勾配を利用して予測を計算するアンサンブル法を提案する。
複数の弱相関推定器は、誤差面上のランダムにサンプリングされた点の勾配を近似し、最終解に集約する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: An ensemble method is introduced that utilizes randomization and loss
function gradients to compute a prediction. Multiple weakly-correlated
estimators approximate the gradient at randomly sampled points on the error
surface and are aggregated into a final solution. A scaling parameter is
described that controls a trade-off between ensemble correlation and precision.
Numerical methods for estimating optimal values of the parameter are described.
Empirical results are computed over a popular dataset. Inferential statistics
on these results show that the method is capable of outperforming existing
techniques in terms of increased accuracy.
- Abstract(参考訳): ランダム化と損失関数勾配を利用して予測を計算するアンサンブル法を提案する。
複数の弱相関推定器は、誤差面上のランダムにサンプリングされた点の勾配を近似し、最終解に集約する。
アンサンブル相関と精度の間のトレードオフを制御するスケーリングパラメータを記述する。
パラメータの最適値を推定するための数値的手法について述べる。
実験結果は一般的なデータセット上で計算される。
これらの結果に対する推論統計は,既存の手法を精度向上の観点から上回ることができることを示す。
関連論文リスト
- Positive definite nonparametric regression using an evolutionary
algorithm with application to covariance function estimation [0.0]
定常過程の共分散関数を推定するための新しい非パラメトリック回帰フレームワークを提案する。
提案手法は, 正定性, 等方性, 単調性を推定者に課すことができる。
提案手法は,長距離依存に対する信頼性の高い推定値を提供する。
論文 参考訳(メタデータ) (2023-04-25T22:01:14Z) - Optimized numerical gradient and Hessian estimation for variational
quantum algorithms [0.0]
チューナブルな数値推定器は回路量子ビット数に比例して指数関数的に減少する推定誤差を提供する。
パラメータシフト推定器は,任意の状況下での推定精度で標準の非スケール推定値を上回った。
論文 参考訳(メタデータ) (2022-06-25T12:58:44Z) - Posterior and Computational Uncertainty in Gaussian Processes [52.26904059556759]
ガウスのプロセスはデータセットのサイズとともに違法にスケールする。
多くの近似法が開発されており、必然的に近似誤差を導入している。
この余分な不確実性の原因は、計算が限られているため、近似後部を使用すると完全に無視される。
本研究では,観測された有限個のデータと有限個の計算量の両方から生じる組合せ不確実性を一貫した推定を行う手法の開発を行う。
論文 参考訳(メタデータ) (2022-05-30T22:16:25Z) - Estimating leverage scores via rank revealing methods and randomization [50.591267188664666]
任意のランクの正方形密度あるいはスパース行列の統計レバレッジスコアを推定するアルゴリズムについて検討した。
提案手法は,高密度およびスパースなランダム化次元性還元変換の合成と階調明細化法を組み合わせることに基づく。
論文 参考訳(メタデータ) (2021-05-23T19:21:55Z) - Path Sample-Analytic Gradient Estimators for Stochastic Binary Networks [78.76880041670904]
二進的アクティベーションや二進的重みを持つニューラルネットワークでは、勾配降下によるトレーニングは複雑である。
そこで本研究では,サンプリングと解析近似を併用した新しい推定法を提案する。
勾配推定において高い精度を示し、深部畳み込みモデルにおいてより安定かつ優れた訓練を行うことを示す。
論文 参考訳(メタデータ) (2020-06-04T21:51:21Z) - Carath\'eodory Sampling for Stochastic Gradient Descent [79.55586575988292]
本稿では,Tchakaloff と Carath'eodory の古典的な結果から着想を得た手法を提案する。
我々は、測定値の低減を行う降下ステップを適応的に選択する。
これをBlock Coordinate Descentと組み合わせることで、測定の削減を極めて安価に行えるようにします。
論文 参考訳(メタデータ) (2020-06-02T17:52:59Z) - Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。
本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
論文 参考訳(メタデータ) (2020-05-22T22:30:52Z) - Efficient Ensemble Model Generation for Uncertainty Estimation with
Bayesian Approximation in Segmentation [74.06904875527556]
アンサンブルセグメンテーションモデルを構築するための汎用的で効率的なセグメンテーションフレームワークを提案する。
提案手法では,層選択法を用いて効率よくアンサンブルモデルを生成することができる。
また,新たな画素単位の不確実性損失を考案し,予測性能を向上する。
論文 参考訳(メタデータ) (2020-05-21T16:08:38Z) - Estimating Basis Functions in Massive Fields under the Spatial Mixed
Effects Model [8.528384027684194]
大規模データセットでは、予測最大化(EM)アルゴリズムを用いた定位クリグが、通常の計算で禁止されるクリグ法に代わるものとして提案されている。
本研究では,空間混合効果(SME)モデルを用いた代替手法を開発したが,観測値と結び目の間の空間依存性の範囲をAECMアルゴリズムを用いて推定することで,さらなる柔軟性を実現することができる。
実験により,予測精度を犠牲にすることなく,余剰パラメータ推定の計算負担を最小化しながら,予測精度の向上を図っている。
論文 参考訳(メタデータ) (2020-03-12T19:36:40Z) - Non-asymptotic bounds for stochastic optimization with biased noisy
gradient oracles [8.655294504286635]
関数の測定値が推定誤差を持つ設定を捉えるために,バイアス付き勾配オラクルを導入する。
提案するオラクルは,例えば,独立分散シミュレーションと同一分散シミュレーションのバッチによるリスク計測推定の実践的な状況にある。
論文 参考訳(メタデータ) (2020-02-26T12:53:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。