論文の概要: Adversarial Meta-Learning of Gamma-Minimax Estimators That Leverage
Prior Knowledge
- arxiv url: http://arxiv.org/abs/2012.05465v5
- Date: Thu, 3 Aug 2023 03:27:20 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-04 17:51:47.091524
- Title: Adversarial Meta-Learning of Gamma-Minimax Estimators That Leverage
Prior Knowledge
- Title(参考訳): 事前知識を活用したガンマ・ミニマックス推定器の対数メタラーニング
- Authors: Hongxiang Qiu, Alex Luedtke
- Abstract要約: ベイズ推定器は、事前の知識を組み込む手段としてよく知られている。
この知識が1つの事前で表現するには曖昧すぎる場合、別のアプローチが必要である。
ガンマ・ミニマックス推定器は、以前の分布のGamma$に対して最悪のベイズリスクを最小限に抑える。
- 参考スコア(独自算出の注目度): 0.030458514384586396
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayes estimators are well known to provide a means to incorporate prior
knowledge that can be expressed in terms of a single prior distribution.
However, when this knowledge is too vague to express with a single prior, an
alternative approach is needed. Gamma-minimax estimators provide such an
approach. These estimators minimize the worst-case Bayes risk over a set
$\Gamma$ of prior distributions that are compatible with the available
knowledge. Traditionally, Gamma-minimaxity is defined for parametric models. In
this work, we define Gamma-minimax estimators for general models and propose
adversarial meta-learning algorithms to compute them when the set of prior
distributions is constrained by generalized moments. Accompanying convergence
guarantees are also provided. We also introduce a neural network class that
provides a rich, but finite-dimensional, class of estimators from which a
Gamma-minimax estimator can be selected. We illustrate our method in two
settings, namely entropy estimation and a prediction problem that arises in
biodiversity studies.
- Abstract(参考訳): ベイズ推定器は、単一の事前分布で表現できる事前知識を組み込む手段としてよく知られている。
しかし、この知識が単一の事前で表現するには曖昧すぎる場合、別のアプローチが必要である。
ガンマ-ミニマックス推定器はそのようなアプローチを提供する。
これらの推定者は、利用可能な知識と互換性のある事前分布のセットの$\gamma$に対する最悪のベイズリスクを最小限に抑える。
伝統的に、ガンマ極大はパラメトリックモデルに対して定義される。
本研究では,一般モデルに対するガンマ・ミニマックス推定器を定義し,事前分布の集合が一般化モーメントによって制約された場合に,その計算を行う逆メタ学習アルゴリズムを提案する。
収束保証も用意されている。
また,ガンマ・ミニマックス推定器を選択可能な,リッチだが有限次元の推定器クラスを提供するニューラルネットワーククラスも導入する。
本手法は,生物多様性研究で発生するエントロピー推定と予測問題という2つの設定で説明する。
関連論文リスト
- Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳(メタデータ) (2023-11-08T00:10:21Z) - Estimation Beyond Data Reweighting: Kernel Method of Moments [9.845144212844662]
モーメントのカーネル法(KMM)と呼ばれる最大平均誤差に基づく経験的確率推定器を提供する。
条件付きモーメント制限タスクにおいて,本手法が競合性能を達成することを示す。
論文 参考訳(メタデータ) (2023-05-18T11:52:43Z) - Tractable and Near-Optimal Adversarial Algorithms for Robust Estimation
in Contaminated Gaussian Models [1.609950046042424]
ハマーの汚染されたガウスモデルの下での位置と分散行列の同時推定の問題を考える。
まず,非パラメトリック判別器を用いた生成逆数法に対応する最小$f$-divergence推定法について検討した。
ネスト最適化により実装可能な,単純なスプライン判別器を用いたトラクタブル逆数アルゴリズムを開発した。
提案手法は,$f$-divergenceと使用したペナルティに応じて,最小値の最適値またはほぼ最適値を達成する。
論文 参考訳(メタデータ) (2021-12-24T02:46:51Z) - Sequential Estimation under Multiple Resources: a Bandit Point of View [3.265773263570237]
SEMRは統計的推定とバンド理論の交叉と見なすことができる。
最終推定器の品質は平均二乗誤差によって評価される。
分布がガウス的でない場合であっても、設定の基本極限を決定するために下界を提案する。
論文 参考訳(メタデータ) (2021-09-29T20:19:09Z) - Bayesian decision-making under misspecified priors with applications to
meta-learning [64.38020203019013]
トンプソンサンプリングやその他のシーケンシャルな意思決定アルゴリズムは、文脈的包帯における探索と探索のトレードオフに取り組むための一般的なアプローチである。
性能は不特定な事前条件で優雅に低下することを示す。
論文 参考訳(メタデータ) (2021-07-03T23:17:26Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳(メタデータ) (2020-11-05T08:04:34Z) - A Discriminative Technique for Multiple-Source Adaptation [55.5865665284915]
本稿では,マルチソース適応のための新しい識別手法,MSA,問題を提案する。
我々のソリューションは、ソースドメインからのラベルなしデータから容易に正確に推定できる条件付き確率のみを必要とする。
実世界の応用実験により、新しい識別的MSAアルゴリズムは、以前の生成解よりも優れていたことがさらに証明された。
論文 参考訳(メタデータ) (2020-08-25T14:06:15Z) - Learning Minimax Estimators via Online Learning [55.92459567732491]
確率分布のパラメータを推定するミニマックス推定器を設計する際の問題点を考察する。
混合ケースナッシュ平衡を求めるアルゴリズムを構築した。
論文 参考訳(メタデータ) (2020-06-19T22:49:42Z) - Thompson Sampling Algorithms for Mean-Variance Bandits [97.43678751629189]
我々は平均分散MABのためのトンプソンサンプリング型アルゴリズムを開発した。
我々はまた、ガウシアンとベルヌーイの盗賊に対する包括的後悔の分析も提供する。
我々のアルゴリズムは、全てのリスク許容度に対して既存のLCBベースのアルゴリズムを著しく上回っている。
論文 参考訳(メタデータ) (2020-02-01T15:33:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。