論文の概要: Pre-trained Tabular Foundation Models as Versatile Summary Networks for Neural Posterior Estimation

• arxiv url: http://arxiv.org/abs/2605.07765v1
• Date: Fri, 08 May 2026 14:07:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-11 19:43:39.09577
• Title: Pre-trained Tabular Foundation Models as Versatile Summary Networks for Neural Posterior Estimation
• Title（参考訳）: 神経後部推定のためのVersatile Summary Networkとしての事前学習タブラリ基礎モデル
• Authors: Elliot Pickens, Chiraag Gohel, Sidharth Satya,
• Abstract要約: シミュレーションに基づくベイズ推論(SBI)のためのトレーニング不要でモジュラーな要約ネットワークTabPFNについて検討する。 PFN-NPE: シミュレータ出力のための固定要約ネットワークとして事前訓練されたTabPFNエンコーダを使用し、その結果の要約と、その問題に選択された下流推論ヘッドとをペアリングする一般的なレシピを提案する。 診断検査では,TabPFN由来のサマリーは有用な後部位置情報と限界情報を保持することが多い。
• 参考スコア（独自算出の注目度）: 0.746464933382582
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this work, we study TabPFN as a training-free, modular summary network for simulation-based Bayesian inference (SBI). Tabular foundation models such as TabPFN are pretrained on broad families of synthetic tabular data-generating processes and adapt at test time through in-context learning, making them natural candidates for SBI, where posterior estimation often depends on learning informative summaries of simulated observations. We propose PFN-NPE: a general recipe that uses a pretrained TabPFN encoder as a fixed summary network for simulator outputs, then pairs the resulting summaries with a downstream inference head chosen for the problem. With normalizing flows as the default inference head, PFN-NPE matches established posterior approximation methods and sometimes outperforms them. More importantly, diagnostic probes show that the TabPFN-derived summaries often preserve useful posterior location and marginal information. These analyses also reveal a limitation in that TabPFN-derived summaries may struggle to represent the joint posterior structure even when the marginals are well recovered. Still, our experiments show that TabPFN can serve as an effective summary network across a diverse set of SBI settings, with the inference network left modular and task-dependent.
• Abstract（参考訳）: 本研究では,BabPFNをシミュレーションに基づくベイズ推論(SBI)のためのトレーニング不要でモジュラーな要約ネットワークとして検討する。 TabPFNのようなタブラル基礎モデルは、合成表表データ生成プロセスの幅広いファミリーで事前訓練され、文脈内学習を通じてテスト時に適応し、SBIの自然な候補となる。 PFN-NPE: シミュレータ出力のための固定要約ネットワークとして事前訓練されたTabPFNエンコーダを使用し、その結果の要約と、その問題に選択された下流推論ヘッドとをペアリングする一般的なレシピを提案する。 デフォルトの推論ヘッドとして正規化フローを用いると、PFN-NPEは確立された後続近似法と一致し、時にはそれより優れる。 さらに重要なことは、診断プローブによって、TabPFN由来の要約は、しばしば有用な後部位置と限界情報を保存していることを示している。 これらの分析は、TabPFN由来のサマリーが、縁がよく回復した場合でも、関節後部構造を表現するのに苦労する可能性があることの限界も示している。 それでも我々の実験では、TabPFNは様々なSBI設定にまたがる効果的な要約ネットワークとして機能し、推論ネットワークはモジュラリティとタスク依存を残している。

関連論文リスト

• Minimum Distance Summaries for Robust Neural Posterior Estimation [7.4716500353679685]
  シミュレーションベース推論(SBI)は、前シミュレーションペア上で神経後部推定器(NPE)をトレーニングすることで、償却ベイズ推論を可能にする。 プリミティブ・ディスタンス・サマリー(minimum-distance summaries)は,プレトレーニング済みのNPEとは独立に,クエリされたテスト時間サマリーを適応するプラグイン・ロバストなNPE手法である。
  論文  参考訳（メタデータ） (2026-02-09T20:06:15Z)
• Causal Pre-training Under the Fairness Lens: An Empirical Study of TabPFN [3.059960033014892]
  Tabular Prior-data Fitted Network (TabPFN) とその微調整版の評価を行った。 以上の結果から,TabPFNはベースラインに比べて高い予測精度を達成できるが,公平性の改善は適度で矛盾することがわかった。 以上の結果から,TabPFNの因果前訓練はアルゴリズム的公平性には不十分であることが示唆された。
  論文  参考訳（メタデータ） (2026-01-25T17:17:12Z)
• Effortless, Simulation-Efficient Bayesian Inference using Tabular Foundation Models [14.125143586947177]
  本研究では,TabPFNをSBIの自己回帰条件密度推定器として用いる方法を示す。 NPE-PFNは、推論ネットワークの選択、トレーニング、ハイパーパラメータチューニングの必要性を排除する。 モデルミス特定に優れたロバスト性を示し、TabPFNのコンテキストサイズ限界を超えるシミュレーション予算にスケールできる。
  論文  参考訳（メタデータ） (2025-04-24T15:29:39Z)
• TuneTables: Context Optimization for Scalable Prior-Data Fitted Networks [90.00817095558094]
  事前データ対応ネットワーク(PFN)は、事前学習とコンテキスト内学習を利用して、1つのフォワードパスで新しいタスクの強力なパフォーマンスを実現する。 我々は、大規模なデータセットをより小さな学習コンテキストに圧縮するPFNのパラメータ効率の良い微調整戦略であるTuneTablesを紹介した。 我々は、TuneTablesを解釈可能性ツールとして使用することができ、公平性目標を最適化することでバイアスを軽減することができることを示した。
  論文  参考訳（メタデータ） (2024-02-17T00:02:23Z)
• Joint Bayesian Inference of Graphical Structure and Parameters with a Single Generative Flow Network [59.79008107609297]
  本稿では,ベイジアンネットワークの構造上の結合後部を近似する手法を提案する。 サンプリングポリシが2フェーズプロセスに従う単一のGFlowNetを使用します。 パラメータは後部分布に含まれるため、これは局所確率モデルに対してより柔軟である。
  論文  参考訳（メタデータ） (2023-05-30T19:16:44Z)
• Transformers Can Do Bayesian Inference [56.99390658880008]
  我々はPFN(Presideed Data Fitted Networks)を提案する。 PFNは、大規模機械学習技術におけるインコンテキスト学習を活用して、大規模な後部集合を近似する。 我々は、PFNがガウス過程をほぼ完璧に模倣し、難解問題に対する効率的なベイズ推定を可能にすることを示した。
  論文  参考訳（メタデータ） (2021-12-20T13:07:39Z)
• Structural Learning of Probabilistic Sentential Decision Diagrams under Partial Closed-World Assumption [127.439030701253]
  確率感性決定図は構造化分解可能な回路のクラスである。 本稿では,回路の論理的基盤を暗黙的に提供する部分閉世界仮定に基づく新しいスキームを提案する。 予備実験では、提案手法がトレーニングデータに適切に適合し、基礎となる論理的基盤と整合性を維持した上で、テストデータによく適合することを示した。
  論文  参考訳（メタデータ） (2021-07-26T12:01:56Z)
• FF-NSL: Feed-Forward Neural-Symbolic Learner [70.978007919101]
  本稿では,Feed-Forward Neural-Symbolic Learner (FF-NSL) と呼ばれるニューラルシンボリック学習フレームワークを紹介する。 FF-NSLは、ラベル付き非構造化データから解釈可能な仮説を学習するために、Answer Setセマンティクスに基づく最先端のICPシステムとニューラルネットワークを統合する。
  論文  参考訳（メタデータ） (2021-06-24T15:38:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。