論文の概要: How Well Do Prior-Data Fitted Networks Amortize Bayesian Inference?

• arxiv url: http://arxiv.org/abs/2610.13764v1
• Date: Fri, 09 Oct 2026 15:49:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.658457
• Title: How Well Do Prior-Data Fitted Networks Amortize Bayesian Inference?
• Title（参考訳）: 事前データフィッティングネットワークはベイジアン推論にどの程度耐えられるか?
• Abstract要約: 本研究では, PFN の展開誤差を事前, 文脈, 償却誤差に分解し, 現実的な事前条件下で, 参照 PPD に対して後者を計測する。 残像の残像の残像の残像の残像の残像の残像の残像は,特に事前学習分布下でのテクストトラル設定において持続することがわかった。 本研究では,複数のベイズモデルの平均値について検討し,この不確実性を連続的に低減し,完全なTabICLv2モデルまで予測を改善することができることを示した。
• 参考スコア（独自算出の注目度）: 16.44502917151097
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Prior-data fitted networks (PFNs) are trained to approximate the Bayesian posterior predictive distribution (PPD) of a synthetic prior, yet results about the approximation quality are surprisingly thin. Taking an empirical risk minimization perspective, we decompose the deployment error of PFNs into prior, context, and amortization error, and measure the latter against a reference PPD under a realistic prior. Results show that PFNs generally recover the targeted PPD very well. Nevertheless, we find that parts of the residual amortization error persist, especially in \textit{rare} settings under the prior pretraining distribution, even when scaling the model size, which manifests in disagreement between independently pretrained PFNs and leaves uncertainty about the predictor at inference time. As a remedy, we study multiple types of Bayesian model averages and find that these can consistently reduce this uncertainty and improve predictions up to full-size TabICLv2 models.
• Abstract（参考訳）: 先行データ付きネットワーク (PFN) は, 合成前のベイズ後続予測分布 (PPD) を近似するために訓練されるが, 近似の質は驚くほど薄い。 実証的リスク最小化の観点から,PFNの展開誤差を事前,文脈,償却誤差に分解し,現実的な事前の基準PSDに対して測定する。 その結果, PFNは一般的に標的PDの回復が良好であった。 しかし, モデルサイズをスケールしても, 特に事前学習したPFN間の不一致を生じさせ, 予測時の予測値の不確実性を残している場合においても, 残像補正誤差の一部が持続することがわかった。 本研究では,複数のベイズモデルの平均値について検討し,この不確実性を連続的に低減し,完全なTabICLv2モデルまで予測を改善することができることを示した。

関連論文リスト

• Proper Scoring Rule-based Diffusion for Probabilistic Weather Forecasting [59.015610520217734]
  我々は,コンテキストとその劣化バージョンから,同じ将来状態を予測できる補助的条件記述タスクを導入する。 推測時には、予測器は、完全に破損したエンドポイントにおいて、単一の前方通過で各アンサンブル部材を生成することができる。
  論文  参考訳（メタデータ） (2026-09-29T22:47:10Z)
• Frequentist Consistency of Prior-Data Fitted Networks for Causal Inference [49.70323515651261]
  先行データ適合ネットワーク(PFN)に基づく基礎モデルは因果推論において強い経験的性能を示した。 PFNに基づく因果推定器が古典的頻繁な推定器と整合した不確実な定量化を提供するかどうかは不明である。
  論文  参考訳（メタデータ） (2026-03-12T15:14:35Z)
• Approximating Full Conformal Prediction for Neural Network Regression with Gauss-Newton Influence [8.952347049759094]
  我々は、保留データなしで、保留後のニューラルネットワーク回帰器の予測間隔を構築する。 ガウス・ニュートンの影響を利用して1回、局所摂動モデルパラメータを訓練する。
  論文  参考訳（メタデータ） (2025-07-27T13:34:32Z)
• Rejection via Learning Density Ratios [50.91522897152437]
  拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。 そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。 私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
  論文  参考訳（メタデータ） (2024-05-29T01:32:17Z)
• Posterior Uncertainty Quantification in Neural Networks using Data Augmentation [3.9860047080844807]
  深層アンサンブルは,既存の観測結果にのみ,将来のデータがサポートされることを前提として,基本的に不特定モデルクラスであることを示す。 一般的なデータ拡張手法を用いて,より現実的な予測分布を構築する手法であるMixupMPを提案する。 実験により,MixupMPは様々な画像分類データセットにおいて,優れた予測性能と不確かさの定量化を実現することが示された。
  論文  参考訳（メタデータ） (2024-03-18T17:46:07Z)
• Uncertainty-Calibrated Test-Time Model Adaptation without Forgetting [65.21599711087538]
  テスト時間適応(TTA)は、与えられたモデルw.r.t.を任意のテストサンプルに適用することにより、トレーニングデータとテストデータの間の潜在的な分散シフトに取り組むことを目指している。 事前の手法は各テストサンプルに対してバックプロパゲーションを実行するため、多くのアプリケーションに対して許容できない最適化コストがかかる。 本稿では, 有効サンプル選択基準を策定し, 信頼性および非冗長なサンプルを同定する, 効率的なアンチフォッティングテスト時間適応法を提案する。
  論文  参考訳（メタデータ） (2024-03-18T05:49:45Z)
• Generative Posterior Networks for Approximately Bayesian Epistemic Uncertainty Estimation [11.66240919177989]
  本稿では,ラベルのないデータを用いて高次元問題における不確実性を推定するGPN(Generative Posterior Networks)を提案する。 GPNは、関数上の事前分布を与えられた後続分布を直接近似する生成モデルである。
  論文  参考訳（メタデータ） (2023-12-29T00:43:41Z)
• Flat Seeking Bayesian Neural Networks [32.61417343756841]
  我々は、シャープネスを意識した後部における理論、ベイズ的設定、および変分推論アプローチを開発する。 具体的には、シャープネス認識後部から採取したモデルと、このシャープネス認識後部を推定する最適な近似後部モデルにより、平坦性が向上した。 我々は最先端のベイズニューラルネットワークによるシャープネス認識後部を応用して実験を行う。
  論文  参考訳（メタデータ） (2023-02-06T11:40:44Z)
• Density Estimation with Autoregressive Bayesian Predictives [1.5771347525430772]
  密度推定の文脈では、標準的なベイズ的アプローチは、後方予測をターゲットとする。 我々は、データを潜在空間にマッピングする自己回帰ニューラルネットワークを用いて、帯域幅の新たなパラメータ化を開発する。
  論文  参考訳（メタデータ） (2022-06-13T20:43:39Z)
• When in Doubt: Neural Non-Parametric Uncertainty Quantification for Epidemic Forecasting [70.54920804222031]
  既存の予測モデルは不確実な定量化を無視し、誤校正予測をもたらす。 不確実性を考慮した時系列予測のためのディープニューラルネットワークの最近の研究にもいくつかの制限がある。 本稿では,予測タスクを確率的生成過程としてモデル化し,EPIFNPと呼ばれる機能的ニューラルプロセスモデルを提案する。
  論文  参考訳（メタデータ） (2021-06-07T18:31:47Z)
• Unlabelled Data Improves Bayesian Uncertainty Calibration under Covariate Shift [100.52588638477862]
  後続正則化に基づく近似ベイズ推定法を開発した。 前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
  論文  参考訳（メタデータ） (2020-06-26T13:50:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。