論文の概要: Simulation comparisons between Bayesian and de-biased estimators in
low-rank matrix completion
- arxiv url: http://arxiv.org/abs/2103.11749v2
- Date: Fri, 1 Sep 2023 07:46:27 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-04 17:50:08.877369
- Title: Simulation comparisons between Bayesian and de-biased estimators in
low-rank matrix completion
- Title(参考訳): 低ランク行列完了におけるベイジアンとデバイアス推定器のシミュレーション比較
- Authors: The Tien Mai
- Abstract要約: 本稿では,学習課題のクラスである低ランク行列補完問題について検討する。
我々はベイズ的アプローチと最近導入された非バイアス推定器を比較し、利害関係の信頼区間を構築するのに有用な方法を提供する。
その結果,非バイアス推定器で得られた信頼区間の被曝率は,信頼区間よりも絶対的に低いことがわかった。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we study the low-rank matrix completion problem, a class of
machine learning problems, that aims at the prediction of missing entries in a
partially observed matrix. Such problems appear in several challenging
applications such as collaborative filtering, image processing, and genotype
imputation. We compare the Bayesian approaches and a recently introduced
de-biased estimator which provides a useful way to build confidence intervals
of interest. From a theoretical viewpoint, the de-biased estimator comes with a
sharp minimax-optimal rate of estimation error whereas the Bayesian approach
reaches this rate with an additional logarithmic factor. Our simulation studies
show originally interesting results that the de-biased estimator is just as
good as the Bayesian estimators. Moreover, Bayesian approaches are much more
stable and can outperform the de-biased estimator in the case of small samples.
In addition, we also find that the empirical coverage rate of the confidence
intervals obtained by the de-biased estimator for an entry is absolutely lower
than of the considered credible interval. These results suggest further
theoretical studies on the estimation error and the concentration of Bayesian
methods as they are quite limited up to present.
- Abstract(参考訳): 本稿では,部分的に観測された行列の欠落項目の予測を目的とした,機械学習のクラスである低ランク行列補完問題について検討する。
このような問題は、コラボレーティブフィルタリング、画像処理、ジェノタイプインプテーションといったいくつかの難しいアプリケーションに見られる。
ベイズ的アプローチと最近導入された非バイアス推定器を比較して,信頼区間を構築するための有用な方法を提案する。
理論的な見地から、非バイアス推定器は推定誤差の最小値の急激な最小値を伴い、ベイズ的手法は追加の対数係数でこの値に達する。
我々のシミュレーション研究は、偏差推定器がベイズ推定器と同等に優れているという興味深い結果を示した。
さらに、ベイズアプローチはより安定であり、小さなサンプルの場合、偏りのない推定値よりも優れる。
また,入力に対する非バイアス推定器によって得られた信頼区間の実証的カバレッジ率は,信頼区間よりも絶対的に低いことがわかった。
これらの結果は、推定誤差とベイズ法が現在までかなり限られているため、さらなる理論的研究を示唆している。
関連論文リスト
- A Mean Field Approach to Empirical Bayes Estimation in High-dimensional
Linear Regression [8.345523969593492]
高次元線形回帰における経験的ベイズ推定について検討する。
もともとCarbonetto and Stephens (2012) と Kim et al. (2022) で導入された変分経験ベイズアプローチを採用する。
これは、空間性のない高次元回帰設定において、最初の厳密な経験的ベイズ法を提供する。
論文 参考訳(メタデータ) (2023-09-28T20:51:40Z) - Scalable method for Bayesian experimental design without integrating
over posterior distribution [0.0]
実験問題のA-最適ベイズ設計における計算効率について検討する。
A-最適性はベイズの実験設計に広く用いられ、容易に解釈できる基準である。
本研究は, A-Optimal 実験設計における新しい可能性のないアプローチを提案する。
論文 参考訳(メタデータ) (2023-06-30T12:40:43Z) - A Tale of Sampling and Estimation in Discounted Reinforcement Learning [50.43256303670011]
割引平均推定問題に対して最小値の最小値を求める。
マルコフ過程の割引されたカーネルから直接サンプリングすることで平均を推定すると、説得力のある統計的性質が得られることを示す。
論文 参考訳(メタデータ) (2023-04-11T09:13:17Z) - On Variance Estimation of Random Forests [0.0]
本稿では,不完全U-統計量に基づく不偏分散推定器を開発する。
我々は,計算コストを増大させることなく,より低いバイアスとより正確な信頼区間のカバレッジを評価できることを示した。
論文 参考訳(メタデータ) (2022-02-18T03:35:47Z) - Learning to Estimate Without Bias [57.82628598276623]
ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。
本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。
BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
論文 参考訳(メタデータ) (2021-10-24T10:23:51Z) - Near-optimal inference in adaptive linear regression [60.08422051718195]
最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。
我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。
我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
論文 参考訳(メタデータ) (2021-07-05T21:05:11Z) - Robust W-GAN-Based Estimation Under Wasserstein Contamination [8.87135311567798]
Wasserstein汚染モデルに基づくいくつかの推定問題について検討し,生成ネットワーク(GAN)を動機とする計算可能なトラクタブル推定器を提案する。
具体的には,逆位置推定,共分散行列推定,線形回帰のためのwasserstein ganに基づく推定器の特性を分析する。
提案する推定器は,多くのシナリオにおいて最小限最適である。
論文 参考訳(メタデータ) (2021-01-20T05:15:16Z) - Learning Minimax Estimators via Online Learning [55.92459567732491]
確率分布のパラメータを推定するミニマックス推定器を設計する際の問題点を考察する。
混合ケースナッシュ平衡を求めるアルゴリズムを構築した。
論文 参考訳(メタデータ) (2020-06-19T22:49:42Z) - Nonparametric Estimation of the Fisher Information and Its Applications [82.00720226775964]
本稿では,大きさn$のランダムサンプルからフィッシャー情報の位置推定の問題について考察する。
Bhattacharyaにより提案された推定器を再検討し、収束率の向上を導出する。
クリッピング推定器と呼ばれる新しい推定器を提案する。
論文 参考訳(メタデータ) (2020-05-07T17:21:56Z) - Minimax Optimal Estimation of KL Divergence for Continuous Distributions [56.29748742084386]
Kullback-Leibler の同一および独立に分布するサンプルからの発散は、様々な領域において重要な問題である。
単純で効果的な推定器の1つは、これらのサンプル間の近辺 k に基づいている。
論文 参考訳(メタデータ) (2020-02-26T16:37:37Z) - Efficient Debiased Evidence Estimation by Multilevel Monte Carlo
Sampling [0.0]
ベイズ推論に基づくマルチレベルモンテカルロ法(MLMC)の最適化手法を提案する。
計算結果から,従来の推定値と比較すると,かなりの計算量の削減が確認できた。
論文 参考訳(メタデータ) (2020-01-14T09:14:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。