論文の概要: Robust Score Matching
- arxiv url: http://arxiv.org/abs/2501.05105v1
- Date: Thu, 09 Jan 2025 09:46:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-10 14:00:32.363497
- Title: Robust Score Matching
- Title(参考訳): ロバストスコアマッチング
- Authors: Richard Schwank, Andrew McCormack, Mathias Drton,
- Abstract要約: 本研究では,観測データが汚染された状況下で,一貫したパラメータ推定値が得られるロバストなスコアマッチング手法を開発した。
提案手法の特長は指数関数モデルにおける凸性を維持することである。
数値実験および降水データセットで支援回復について検討した。
- 参考スコア(独自算出の注目度): 1.2835555561822447
- License:
- Abstract: Proposed in Hyv\"arinen (2005), score matching is a parameter estimation procedure that does not require computation of distributional normalizing constants. In this work we utilize the geometric median of means to develop a robust score matching procedure that yields consistent parameter estimates in settings where the observed data has been contaminated. A special appeal of the proposed method is that it retains convexity in exponential family models. The new method is therefore particularly attractive for non-Gaussian, exponential family graphical models where evaluation of normalizing constants is intractable. Support recovery guarantees for such models when contamination is present are provided. Additionally, support recovery is studied in numerical experiments and on a precipitation dataset. We demonstrate that the proposed robust score matching estimator performs comparably to the standard score matching estimator when no contamination is present but greatly outperforms this estimator in a setting with contamination.
- Abstract(参考訳): Hyv\"arinen (2005) で提案されたスコアマッチングは、分布正規化定数の計算を必要としないパラメータ推定手順である。
本研究では,観測データが汚染された状況下で,一貫したパラメータ推定を行う頑健なスコアマッチング手法を開発するために,手法の幾何学的中央値を利用する。
提案手法の特長は指数関数モデルにおける凸性を維持することである。
したがって、新しい手法は、正規化定数の評価が難易度の高い非ガウス指数型家族図形モデルにとって特に魅力的である。
汚染が存在する場合には、そのようなモデルに対する回復保証が提供される。
さらに,数値実験および降水データセット上での支持回復について検討した。
提案したロバストスコアマッチング推定器は,汚染がない場合に標準スコアマッチング推定器と相容れない性能を示すが,汚染のある環境では,この推定器よりも大幅に優れることを示す。
関連論文リスト
- Deep Learning Methods for the Noniterative Conditional Expectation G-Formula for Causal Inference from Complex Observational Data [3.0958655016140892]
g-formula は観測データを用いて持続的治療戦略の因果効果を推定するために用いられる。
パラメトリックモデルはモデルの誤特定を受けており、バイアスのある因果推定をもたらす可能性がある。
NICE g-formula 推定器のための統合型ディープラーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-28T21:00:46Z) - Conformal Approach To Gaussian Process Surrogate Evaluation With
Coverage Guarantees [47.22930583160043]
適応型クロスコンフォーマル予測区間を構築する手法を提案する。
結果として生じる共形予測区間は、ベイズ的信頼性集合に類似した適応性のレベルを示す。
原子炉の蒸気発生器における閉鎖現象の高コスト・評価シミュレータのサロゲートモデリングの文脈において, 本手法の適用可能性を示す。
論文 参考訳(メタデータ) (2024-01-15T14:45:18Z) - Statistical Barriers to Affine-equivariant Estimation [10.077727846124633]
本研究では,ロバスト平均推定のためのアフィン同変推定器の定量的性能について検討する。
古典的推定器は定量的に準最適であるか、あるいは量的保証が欠如していることが分かる。
我々は、下界にほぼ一致する新しいアフィン同変推定器を構築する。
論文 参考訳(メタデータ) (2023-10-16T18:42:00Z) - A Tale of Sampling and Estimation in Discounted Reinforcement Learning [50.43256303670011]
割引平均推定問題に対して最小値の最小値を求める。
マルコフ過程の割引されたカーネルから直接サンプリングすることで平均を推定すると、説得力のある統計的性質が得られることを示す。
論文 参考訳(メタデータ) (2023-04-11T09:13:17Z) - The Implicit Delta Method [61.36121543728134]
本稿では,不確実性のトレーニング損失を無限に正規化することで機能する,暗黙のデルタ法を提案する。
有限差分により無限小変化が近似された場合でも, 正則化による評価の変化は評価推定器の分散に一定であることを示す。
論文 参考訳(メタデータ) (2022-11-11T19:34:17Z) - Statistical Efficiency of Score Matching: The View from Isoperimetry [96.65637602827942]
本研究では, スコアマッチングの統計的効率と推定される分布の等尺性との間に, 密接な関係を示す。
これらの結果はサンプル状態と有限状態の両方で定式化する。
論文 参考訳(メタデータ) (2022-10-03T06:09:01Z) - Near-optimal inference in adaptive linear regression [60.08422051718195]
最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。
我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。
我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
論文 参考訳(メタデータ) (2021-07-05T21:05:11Z) - Scalable Marginal Likelihood Estimation for Model Selection in Deep
Learning [78.83598532168256]
階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。
本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
論文 参考訳(メタデータ) (2021-04-11T09:50:24Z) - Tolerance and Prediction Intervals for Non-normal Models [0.0]
予測間隔は、繰り返しサンプリングにおいてランダムプロセスから将来の観察をカバーする。
寛容間隔は繰り返しサンプリングにおいて集団パーセンタイルをカバーし、しばしば中心的な量に基づいている。
論文 参考訳(メタデータ) (2020-11-23T17:48:09Z) - Nonparametric Score Estimators [49.42469547970041]
未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。
正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。
カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
論文 参考訳(メタデータ) (2020-05-20T15:01:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。