論文の概要: XMSE-Aware Adaptive Empirical Bayes Estimation
- arxiv url: http://arxiv.org/abs/2606.26975v1
- Date: Thu, 25 Jun 2026 12:47:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 18:46:32.285184
- Title: XMSE-Aware Adaptive Empirical Bayes Estimation
- Title（参考訳）: XMSE-Aware Adaptive Empirical Bayes Estimation
- Authors: Minghao Chen, Jiale Zheng,
- Abstract要約: 経験的ベイズ (EB) 推定器は、最大可能性 (ML) の1階スカラーリスクと2階で非常に異なる振る舞いをすることができる。
最近の過剰平均二乗誤差(XMSE)分析は、カーネルが真のパラメータに不整合である場合、カーネルベースのEB推定はMLよりも悪い可能性があることを示している。
MLとEBの収縮を補間するXMSE対応混合推定器を提案する。
- 参考スコア（独自算出の注目度）: 9.08583070642464
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Empirical Bayes (EB) estimators can match the first-order asymptotic risk of maximum likelihood (ML) while behaving very differently at second order: recent excess mean squared error (XMSE) analysis shows that kernel-based EB estimation may be worse than ML when the kernel is poorly aligned with the true parameter. This paper turns that diagnostic into a design principle. We propose an XMSE-aware mixed estimator that interpolates between ML and EB shrinkage. Its fixed-weight XMSE is a scalar quadratic, yielding a closed-form oracle mixing weight that is no worse than both ML and the base EB estimator at the XMSE scale. A plug-in implementation based on finite-sample XMSE approximations is proved consistent, with a second-order oracle regret rate for an interior oracle weight. We further establish a transfer of the regret bound to the fixed-weight risk curve evaluated at the selected weight, a thresholded boundary rule, and extensions to compact kernel families and to finite and growing kernel dictionaries with high-probability oracle bounds. Finite impulse response simulations with SURE-tuned, hard-selection, and trace-corrected baselines, together with the public Silverbox and Cascaded Tanks benchmarks, show that the proposed estimator retains most of the benefit of regularization when it is helpful and retreats toward ML under kernel misspecification, with an identified finite-de analyzed on the benchmarks.
- Abstract（参考訳）: 最近の過剰平均二乗誤差(XMSE)分析は、カーネルが真のパラメータに不整合である場合、カーネルベースのEB推定はMLよりも悪い可能性があることを示している。
本稿では,その診断を設計原則に変換する。
MLとEBの収縮を補間するXMSE対応混合推定器を提案する。
固定重量XMSEは2次スカラーであり、XMSEスケールではMLと基底EB推定器の両方に劣らない閉形状のオラクル混合重量をもたらす。
有限サンプルXMSE近似に基づくプラグイン実装は、内部のオラクル重量に対する第2次オラクル後悔率と整合性を示す。
さらに、選択した重みで評価された固定重み付きリスク曲線、しきい値境界規則、コンパクトカーネルファミリーへの拡張、および高い確率でオラクル境界を持つ有限で成長するカーネル辞書への後悔の移動を確立する。
SURE-tuned, hard-selection, and trace-corrected baselines, with the public Silverbox and Cascaded Tanks benchmarks, shows that the proposed estimator haves most of regularization when it useful and retreats to ML under kernel misspecification, with a identified finite-de analysis on the benchmarks。
関連論文リスト
- Variational Approximated Restricted Maximum Likelihood Estimation for Spatial Data [0.0]
本研究では,ガウス固有条件付き自己回帰(ICAR)構造を用いてモデル化した空間データに対するスケーラブルな推論について考察する。
本稿では,ガウス変分分布を用いて抽出可能な限界確率を近似する変動制限最大度(VREML)フレームワークを提案する。
制限された可能性に基づいてエビデンスローバウンド(ELBO)を構築することにより、空間ランダム効果と分散成分を共同で推定する計算効率の良い座標平均アルゴリズムを導出する。
論文 参考訳（メタデータ） (2026-04-08T22:31:30Z) - Fast Model Selection and Stable Optimization for Softmax-Gated Multinomial-Logistic Mixture of Experts Models [40.216463162163976]
我々は,ソフトマックスゲート型マルチミリ波観測用MoEのバッチ最小化最適化アルゴリズムを開発した。
また,条件密度推定とパラメータ回復のための有限サンプル率も証明した。
生物学的タンパク質-タンパク質相互作用予測実験は、完全なパイプラインを検証する。
論文 参考訳（メタデータ） (2026-02-08T14:45:41Z) - Dendrograms of Mixing Measures for Softmax-Gated Gaussian Mixture of Experts: Consistency without Model Sweeps [41.371172458797524]
ゲーティングパラメータの共通翻訳、固有のゲート-エキスパート相互作用、およびタイトな数値-デノミネータ結合までの不特定性に対処する。
モデル選択には, 最適なパラメータ率を得る専門家の数を一貫したスイープフリーセレクタとして, デンドログラム誘導SGMoEを適応させる。
干ばつを識別できるトウモロコシの形質のデータセット上で、私たちのデンドログラム誘導SGMoEは2人の専門家を選別し、明確な混合階層を公開し、確率を早期に安定化し、解釈可能な遺伝子型フェノタイプマップを生成する。
論文 参考訳（メタデータ） (2025-10-14T17:23:44Z) - Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
生成のための教師なし共形推論フレームワークを提案する。
我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。
その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
論文 参考訳（メタデータ） (2025-09-26T23:40:47Z) - Decision from Suboptimal Classifiers: Excess Risk Pre- and Post-Calibration [52.70324949884702]
バッチ二分決定における近似的後続確率を用いた余剰リスクの定量化を行う。
我々は、再校正のみが後悔のほとんどに対処する体制と、後悔が集団的損失に支配される体制を識別する。
NLP実験では、これらの量によって、より高度なポストトレーニングの期待値が運用コストに値するかどうかが分かる。
論文 参考訳（メタデータ） (2025-03-23T10:52:36Z) - Rethinking Approximate Gaussian Inference in Classification [22.98941676304835]
分類タスクでは、ソフトマックス関数は予測確率を生成するためにユビキタスに使用される。
我々はそのような方法を記述するための共通形式論を発展させ、これはロジット空間上のガウス分布を出力すると見なす。
本稿では, ソフトマックスのアクティベーションを要素ワイドノルムCDFやシグモイドで置き換えることを提案する。
論文 参考訳（メタデータ） (2025-02-05T17:03:49Z) - Model-Based Epistemic Variance of Values for Risk-Aware Policy Optimization [59.758009422067]
モデルベース強化学習における累積報酬に対する不確実性を定量化する問題を考察する。
我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式(UBE)を提案する。
本稿では,リスク・サーキングとリスク・アバース・ポリシー最適化のいずれにも適用可能な汎用ポリシー最適化アルゴリズムQ-Uncertainty Soft Actor-Critic (QU-SAC)を導入する。
論文 参考訳（メタデータ） (2023-12-07T15:55:58Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳（メタデータ） (2020-11-05T08:04:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。