論文の概要: Position: The Future of Bayesian Prediction Is Prior-Fitted

• arxiv url: http://arxiv.org/abs/2505.23947v1
• Date: Thu, 29 May 2025 18:56:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-02 19:47:52.633969
• Title: Position: The Future of Bayesian Prediction Is Prior-Fitted
• Title（参考訳）: ベイズ予測の未来が予見される
• Authors: Samuel Müller, Arik Reuter, Noah Hollmann, David Rügamer, Frank Hutter,
• Abstract要約: Prior-data Fitted Networks (PFN) は、この知見を活用するために設計された手法のクラスである。 PFNは、事前学習した計算を低データシナリオに効率的に割り当てることを可能にする。 このポジションペーパーは、PFNsや他の償却推論アプローチがベイズ推論の未来を表していると主張している。
• 参考スコア（独自算出の注目度）: 41.71468589060514
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Training neural networks on randomly generated artificial datasets yields Bayesian models that capture the prior defined by the dataset-generating distribution. Prior-data Fitted Networks (PFNs) are a class of methods designed to leverage this insight. In an era of rapidly increasing computational resources for pre-training and a near stagnation in the generation of new real-world data in many applications, PFNs are poised to play a more important role across a wide range of applications. They enable the efficient allocation of pre-training compute to low-data scenarios. Originally applied to small Bayesian modeling tasks, the field of PFNs has significantly expanded to address more complex domains and larger datasets. This position paper argues that PFNs and other amortized inference approaches represent the future of Bayesian inference, leveraging amortized learning to tackle data-scarce problems. We thus believe they are a fruitful area of research. In this position paper, we explore their potential and directions to address their current limitations.
• Abstract（参考訳）: ランダムに生成された人工データセット上でニューラルネットワークをトレーニングすると、データセット生成分布によって定義された前のデータをキャプチャするベイジアンモデルが得られる。 Prior-data Fitted Networks (PFN) は、この知見を活用するために設計された手法のクラスである。 多くのアプリケーションにおいて、事前学習のための計算資源が急速に増加し、新しい現実世界データの生成がほぼ停滞する中で、PFNは幅広いアプリケーションにおいてより重要な役割を担っている。 これにより、事前トレーニングされた計算を低データシナリオに効率的に割り当てることが可能になる。 もともとは小さなベイズ的モデリングタスクに適用されたが、PFNsの分野はより複雑なドメインやより大きなデータセットに対処するために大幅に拡張されている。 このポジションペーパーは、PFNsや他の償却推論アプローチがベイズ推論の未来を表現し、データ・スカース問題に対処するために償却学習を活用することを主張する。 したがって、彼らは実りある研究分野であると信じている。 本稿では,現状の限界に対処するために,その可能性と方向性について考察する。

関連論文リスト

• Prior-Fitted Networks Scale to Larger Datasets When Treated as Weak Learners [82.72552644267724]
  BoostPFNは、大規模なデータセットでトレーニングサンプルと同じサイズで、標準的なPFNよりもパフォーマンスがよい。 高い性能はPFNのトレーニング前サイズの最大50倍まで維持される。
  論文  参考訳（メタデータ） (2025-03-03T07:31:40Z)
• Scalable Spatiotemporal Prediction with Bayesian Neural Fields [3.3299088915999295]
  BayesNFは、階層的ベイズ推定と高容量推定のためのディープニューラルネットワークアーキテクチャを統合し、堅牢な予測の不確実性を実現する。 BayesNFは、数万の計測値を含む気候および公衆衛生データから予測問題を改善する。
  論文  参考訳（メタデータ） (2024-03-12T13:47:50Z)
• Cumulative Distribution Function based General Temporal Point Processes [49.758080415846884]
  CuFunモデルは、累積分布関数(CDF)を中心に回転するTPPに対する新しいアプローチを表す 提案手法は従来のTPPモデリングに固有のいくつかの重要な問題に対処する。 コントリビューションには、先駆的なCDFベースのTPPモデルの導入、過去の事象情報を将来の事象予測に組み込む方法論の開発が含まれている。
  論文  参考訳（メタデータ） (2024-02-01T07:21:30Z)
• Tackling Computational Heterogeneity in FL: A Few Theoretical Insights [68.8204255655161]
  我々は、計算異種データの形式化と処理を可能にする新しい集約フレームワークを導入し、分析する。 提案するアグリゲーションアルゴリズムは理論的および実験的予測から広範囲に解析される。
  論文  参考訳（メタデータ） (2023-07-12T16:28:21Z)
• Transformers Can Do Bayesian Inference [56.99390658880008]
  我々はPFN(Presideed Data Fitted Networks)を提案する。 PFNは、大規模機械学習技術におけるインコンテキスト学習を活用して、大規模な後部集合を近似する。 我々は、PFNがガウス過程をほぼ完璧に模倣し、難解問題に対する効率的なベイズ推定を可能にすることを示した。
  論文  参考訳（メタデータ） (2021-12-20T13:07:39Z)
• Diversity inducing Information Bottleneck in Model Ensembles [73.80615604822435]
  本稿では,予測の多様性を奨励することで,ニューラルネットワークの効果的なアンサンブルを生成する問題をターゲットにする。 そこで本研究では,潜伏変数の学習における逆損失の多様性を明示的に最適化し,マルチモーダルデータのモデリングに必要な出力予測の多様性を得る。 最も競争力のあるベースラインと比較して、データ分布の変化の下で、分類精度が大幅に向上した。
  論文  参考訳（メタデータ） (2020-03-10T03:10:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。