論文の概要: A theoretical framework for M-posteriors: frequentist guarantees and robustness properties
- arxiv url: http://arxiv.org/abs/2510.01358v1
- Date: Wed, 01 Oct 2025 18:37:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-03 16:59:20.824171
- Title: A theoretical framework for M-posteriors: frequentist guarantees and robustness properties
- Title(参考訳): M-ポスターの理論的枠組み--頻繁な保証とロバスト性
- Authors: Juraj Marusic, Marco Avella Medina, Cynthia Rush,
- Abstract要約: 本研究は,M-posteriorがM-estimation Losとそれ以前の軽度条件下で一貫した分布を示す。
M推定器を中心とした正規分布の周囲の確率におけるM後契約は、頻繁なロバスト性を示す。
我々は, 後部影響関数の新たな特徴と, 後部分布に適応したブレークポイントの新たな定義により, M後部特性を定式化する。
- 参考スコア(独自算出の注目度): 9.16331221881594
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We provide a theoretical framework for a wide class of generalized posteriors that can be viewed as the natural Bayesian posterior counterpart of the class of M-estimators in the frequentist world. We call the members of this class M-posteriors and show that they are asymptotically normally distributed under mild conditions on the M-estimation loss and the prior. In particular, an M-posterior contracts in probability around a normal distribution centered at an M-estimator, showing frequentist consistency and suggesting some degree of robustness depending on the reference M-estimator. We formalize the robustness properties of the M-posteriors by a new characterization of the posterior influence function and a novel definition of breakdown point adapted for posterior distributions. We illustrate the wide applicability of our theory in various popular models and illustrate their empirical relevance in some numerical examples.
- Abstract(参考訳): 我々は、広範に一般化された後続類に対する理論的枠組みを提供し、これは、頻繁な世界におけるM-推定子のクラスの自然なベイズ的後続体と見なすことができる。
我々は、このクラスM-フォレアーのメンバーを呼んで、M-推定損失とそれ以前の軽度条件下での漸近的に分布していることを示す。
特に、M-姿勢は、M-推定器を中心とする正規分布の周りの確率で収縮し、頻繁な一貫性を示し、参照M-推定器に依存するある程度の堅牢性を示す。
我々は, 後部影響関数の新たな特徴と, 後部分布に適応したブレークポイントの新たな定義により, M後部のロバスト性特性を定式化する。
様々な人気モデルにおいて、我々の理論の幅広い適用性を説明し、いくつかの数値的な例でそれらの経験的関連性を説明する。
関連論文リスト
- Predictively Oriented Posteriors [4.135680181585462]
我々はパラメータ推定と密度推定の両方の最も望ましい側面を組み合わせた新しい統計原理を提唱する。
PrO後部は予測最適モデル平均に$n-1/2$で収束する。
平均場ランゲヴィン動力学に基づく進化粒子からPrO後部を採取できることが示される。
論文 参考訳(メタデータ) (2025-10-02T11:33:26Z) - Inference on covariance structure in high-dimensional multi-view data [8.549941732144035]
後続計算は、高価で脆いマルコフ連鎖モンテカルロサンプリングまたは変分近似によって行われる。
提案手法は,少なくとも1つの視点で有効である潜在因子を推定・調整するためにスペクトル分解を用いる。
正確な不確実性を含むシミュレーションにおいて優れた性能を示し、がん細胞サンプルのマルチオミクスデータセットから4つの高次元ビューを統合する手法を適用した。
論文 参考訳(メタデータ) (2025-09-02T19:20:42Z) - In-Context Parametric Inference: Point or Distribution Estimators? [66.22308335324239]
償却点推定器は一般に後部推論より優れているが、後者は低次元問題では競争力がある。
実験の結果, 償却点推定器は一般に後部推定より優れているが, 後者は低次元問題では競争力があることがわかった。
論文 参考訳(メタデータ) (2025-02-17T10:00:24Z) - Addressing the Inconsistency in Bayesian Deep Learning via Generalized Laplace Approximation [17.224114053715528]
一般化されたラプラス近似を導入し、正規化損失のヘシアン計算に簡単な修正しか必要としない。
提案手法を最先端のニューラルネットワークと実世界のデータセットで評価し,一般化されたラプラス近似が予測性能を向上させることを示す。
論文 参考訳(メタデータ) (2024-05-22T11:11:42Z) - Variational excess risk bound for general state space models [0.0]
一般状態空間モデルに対する変分オートエンコーダ(VAE)について検討する。
本稿では, 変動分布の逆因数分解について検討し, VAEに関連する余剰リスクを解析する。
論文 参考訳(メタデータ) (2023-12-15T08:41:07Z) - Towards Demystifying the Generalization Behaviors When Neural Collapse
Emerges [132.62934175555145]
Neural Collapse(NC)は、トレーニング末期(TPT)におけるディープニューラルネットワークのよく知られた現象である
本稿では,列車の精度が100%に達した後も,継続訓練がテストセットの精度向上に繋がる理由を理論的に説明する。
我々はこの新たに発見された性質を「非保守的一般化」と呼ぶ。
論文 参考訳(メタデータ) (2023-10-12T14:29:02Z) - What Are Bayesian Neural Network Posteriors Really Like? [63.950151520585024]
ハミルトニアンモンテカルロは、標準およびディープアンサンブルよりも大きな性能向上を達成できることを示す。
また,深部分布は標準SGLDとHMCに類似しており,標準変動推論に近いことが示された。
論文 参考訳(メタデータ) (2021-04-29T15:38:46Z) - On the Generalization of Stochastic Gradient Descent with Momentum [58.900860437254885]
まず,アルゴリズムの安定性が一般化保証の確立に失敗する凸損失関数が存在することを示す。
滑らかなリプシッツ損失関数に対して、修正モーメントに基づく更新規則を解析し、一般化誤差の上界を認めることを示す。
強凸損失関数の特別な場合において、標準 SGDM の複数のエポックが SGDEM の特別な形式として一般化されるような運動量の範囲を見出す。
論文 参考訳(メタデータ) (2021-02-26T18:58:29Z) - Typical relaxation of perturbed quantum many-body systems [0.0]
我々は、時間依存の観測可能な予測値の解析的予測を確立する。
従来の理論と比較すると、摂動強度ははるかに大きい。
論文 参考訳(メタデータ) (2021-01-09T12:26:41Z) - Posterior Differential Regularization with f-divergence for Improving
Model Robustness [95.05725916287376]
クリーン入力とノイズ入力のモデル後部差を規則化する手法に着目する。
後微分正則化を$f$-divergencesの族に一般化する。
実験の結果, 後方微分を$f$-divergenceで正規化することで, モデルロバスト性の向上が期待できることがわかった。
論文 参考訳(メタデータ) (2020-10-23T19:58:01Z) - On the Generalization of Stochastic Gradient Descent with Momentum [84.54924994010703]
運動量に基づく勾配降下(SGD)の加速変種は、機械学習モデルを訓練する際に広く用いられる。
まず,標準重球運動量(SGDM)を持つSGDの複数のエポックに対する安定性ギャップが非有界となる凸損失関数が存在することを示す。
滑らかなリプシッツ損失関数に対しては、修正モーメントベースの更新規則、すなわち、幅広いステップサイズで初期運動量(SGDEM)を解析する。
論文 参考訳(メタデータ) (2018-09-12T17:02:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。