論文の概要: Cross-Fitting for Neural Posterior Estimation

• arxiv url: http://arxiv.org/abs/2610.26733v1
• Date: Mon, 19 Oct 2026 16:59:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 01:45:33.246423
• Title: Cross-Fitting for Neural Posterior Estimation
• Title（参考訳）: 神経後部推定のためのクロスフィッティング
• Abstract要約: NPEのトレーニング目標であるログライクフィフレーションは、トレーニングポイントに任意に高い密度を割り当てる後部近似を好んでいる。 CF-NPEは、後部の高次モーメントの推定から条件平均推定を分離するためにサンプル分割を用いる。 CF-NPEは標準のNPEよりも高いホールドアウトログライクレーションを実現し、キャリブレーションを改善するのが一般的である。
• 参考スコア（独自算出の注目度）: 5.144104651619037
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural Posterior Estimation (NPE) fits an amortized conditional density estimator to a simulated training set of complete-data realizations. NPE's training objective, log-likelihood, favors posterior approximations that assign arbitrarily high density to the training points, and typical families of amortized conditional density estimators (e.g., normalizing flows, Gaussian encoders) are flexible enough to oblige. The resulting policy of extreme overconfidence translates poorly to held-out data. Early stopping and other regularizers can prevent this degeneracy, but they are limited to selecting posterior approximations along an unfavorable optimization trajectory set by in-sample residuals, where the posterior mean is underfit while the posterior variance is overfit. To avoid this trade-off, we propose Cross-Fitting NPE (CF-NPE), which uses sample splitting to separate conditional-mean estimation from the estimation of the posterior's higher moments. Using $K$-fold cross-fitting, CF-NPE fits $K$ posterior-mean regressors and then fits a conditional density estimator to the resulting out-of-fold residuals. In experiments with synthetic data and in a cosmological application, CF-NPE achieves higher held-out log-likelihood than standard NPE and typically improves calibration. CF-NPE is most useful in high-dimensional, simulation-limited settings.
• Abstract（参考訳）: NPE(Neural Posterior Estimation)は、完全データ実現のシミュレーショントレーニングセットに、アモータイズされた条件密度推定器を適合させる。 NPEのトレーニング目標である対数的指向性(log-likelyhood)は、トレーニングポイントに任意の高密度を割り当てる後部近似を好んでおり、償却条件密度推定器(例えば、正規化フロー、ガウスエンコーダ)の典型的なファミリーは、義務を負うのに十分柔軟である。 極端な過信の政策は、保留データに乏しい。 早期停止や他の正規化器は、この縮退を防ぐことができるが、後部偏差が過度に適合している間、後部平均が不適合なサンプル残差によって設定された好ましくない最適化軌道に沿って後部近似を選択することに制限される。 このトレードオフを回避するために,サンプル分割を用いて後部の高次モーメントの推定から条件平均推定を分離するクロスフィッティングNPE(CF-NPE)を提案する。 CF-NPEは、$K$のクロスフィッティングを用いて、$K$の後方平均回帰器に適合し、その後、条件密度推定器を、結果として生じるアウト・オブ・フォールド残留物に適合させる。 合成データを用いた実験や宇宙論的な応用において、CF-NPEは標準のNPEよりも高い保留ログ類似度を達成し、キャリブレーションを改善するのが一般的である。 CF-NPEは、高次元のシミュレーション限定設定において最も有用である。

関連論文リスト

• Sample-Size Extrapolation in Simulation-Based Inference via Statistical Scaling [2.760143744213637]
  シミュレーションベース推論(SBI)では、広範囲のサンプルサイズでトレーニングされた神経後部推定器は、より大きなデータセットで不正確になる可能性がある。 統計的中心と明示的収縮率を組み合わせた中心推定NPE(CE-NPE)を提案する。 6つの通常のベンチマークでは、CE-NPEはテストされた全てのアモータイズされた推定器を、あらゆる範囲のサイズで参照後合意する。
  論文  参考訳（メタデータ） (2026-10-12T14:03:58Z)
• Adaptive Robust Confidence Sets in High Dimensions [60.353542776481596]
  本研究では,不確実性を同時に定量化することにより,情報理論的に最適な適応信頼セットを構築することができることを示す。 統計的には最適であるが、この構成は計算的に不可能である。
  論文  参考訳（メタデータ） (2026-10-11T16:00:46Z)
• Frequentist Consistency of Prior-Data Fitted Networks for Causal Inference [49.70323515651261]
  先行データ適合ネットワーク(PFN)に基づく基礎モデルは因果推論において強い経験的性能を示した。 PFNに基づく因果推定器が古典的頻繁な推定器と整合した不確実な定量化を提供するかどうかは不明である。
  論文  参考訳（メタデータ） (2026-03-12T15:14:35Z)
• Co-optimization for Adaptive Conformal Prediction [9.881784717196675]
  中心$m(x)$と半径$h(x)$を共同最適化することにより予測間隔を学習するフレームワークを提案する。 合成および実ベンチマークの実験は、CoCPが一貫して短い間隔で生成し、最先端の条件付きカバレッジ診断を実現することを示した。
  論文  参考訳（メタデータ） (2026-03-02T10:43:19Z)
• From Noisy Traces to Stable Gradients: Bias-Variance Optimized Preference Optimization for Aligning Large Reasoning Models [90.45197506653341]
  大規模推論モデルは最終回答を生成する前に中間的推論トレースを生成する。 LRMと人間の好みの整合性は、モデルデプロイメントにとって重要な前提条件であり、まだ過小評価されていない。 共通の回避策は1つのサンプル軌道を最適化し、トレースサンプリングからかなり勾配のばらつきをもたらす。
  論文  参考訳（メタデータ） (2025-10-06T17:58:01Z)
• Approximating Full Conformal Prediction for Neural Network Regression with Gauss-Newton Influence [8.952347049759094]
  我々は、保留データなしで、保留後のニューラルネットワーク回帰器の予測間隔を構築する。 ガウス・ニュートンの影響を利用して1回、局所摂動モデルパラメータを訓練する。
  論文  参考訳（メタデータ） (2025-07-27T13:34:32Z)
• Rejection via Learning Density Ratios [50.91522897152437]
  拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。 そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。 私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
  論文  参考訳（メタデータ） (2024-05-29T01:32:17Z)
• Leveraging Nested MLMC for Sequential Neural Posterior Estimation with Intractable Likelihoods [0.38233569758620045]
  ニューラルネットワークに基づく条件密度推定器を用いて適応的に提案されたシミュレーションから後部を学習することを目的とする。 Greenbergらによって提案された自動後部変換(APT)法は,高レベルのランタイムデータに対して良好に動作し,スケールする。 本稿では,APTをネスト推定問題として再検討する。 損失関数とその勾配に対するマルチモンテカルロ (MLMC) 推定器を構築し, 異なるシナリオに対応する。
  論文  参考訳（メタデータ） (2024-01-30T06:29:41Z)
• Robust Implicit Networks via Non-Euclidean Contractions [63.91638306025768]
  暗黙のニューラルネットワークは、精度の向上とメモリ消費の大幅な削減を示す。 彼らは不利な姿勢と収束の不安定さに悩まされる。 本論文は,ニューラルネットワークを高機能かつ頑健に設計するための新しい枠組みを提供する。
  論文  参考訳（メタデータ） (2021-06-06T18:05:02Z)
• TraDE: Transformers for Density Estimation [101.20137732920718]
  TraDEは自己回帰密度推定のための自己アテンションに基づくアーキテクチャである。 本稿では, 生成したサンプルを用いた回帰, 分布外検出, トレーニングデータにおける雑音に対する頑健性などのタスクについて述べる。
  論文  参考訳（メタデータ） (2020-04-06T07:32:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。