論文の概要: On the Uncertainty Quantification Ability of Tabular Foundation Models
- arxiv url: http://arxiv.org/abs/2606.01427v1
- Date: Sun, 31 May 2026 19:56:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:29.698036
- Title: On the Uncertainty Quantification Ability of Tabular Foundation Models
- Title(参考訳): 語彙基礎モデルの不確実性定量化能力について
- Authors: Tyler R. Johnson, Kian Ben-Jacob, Nima Negarandeh, Oriol Vendrell-Gallart, Ramin Bostanabad,
- Abstract要約: ガウス過程(GP)とタブラルプレデータフィットネットワーク(TabPFN)を比較した。
我々の発見は、明示的と学習的事前の間の重要なトレードオフを浮き彫りにした。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Foundation models (FMs) have achieved substantial success in generalizing across tasks without problemspecific training or fine-tuning. However, many critical applications in mechanics and computational science require not only accurate predictions but also reliable uncertainty quantification (UQ). Herein we investigate the UQ capabilities of tabular FMs in regression tasks through a comprehensive empirical study comparing Tabular Prior-Data Fitted Networks (TabPFN) against Gaussian processes (GPs). We systematically evaluate these two methods across a host of regression problems with varying complexity, dataset sizes, and input dimensionalities. We use a default setting to build all the GPs and for a fair comparison against TabPFN v2.5. Our findings highlight an important trade-off between explicit and learned priors: while TabPFN achieves highly competitive performance for complex, high-dimensional problems with sufficient data, GPs often provide superior predictive accuracy and UQ in data-scarce settings. Moreover, when the chosen kernel constitutes a good prior for the underlying function, GP performance can substantially exceed that of TabPFN. Our results can be reproduced from https://github.com/kianswarehouse/GPvsPFN.
- Abstract(参考訳): ファンデーションモデル(FM)は、問題固有のトレーニングや微調整なしでタスクを一般化することで大きな成功を収めた。
しかし、力学や計算科学における多くの重要な応用は、正確な予測だけでなく、信頼性のある不確実性定量化(UQ)も必要である。
本稿では,TabPFN(Tabular Prior-Data Fitted Networks)とGP(Gaussian Processs)を比較し,回帰タスクにおける表型FMのUQ能力について検討する。
我々は,これらの2つの手法を,複雑さ,データセットサイズ,入力次元の異なる一連の回帰問題に対して体系的に評価する。
すべてのGPを構築するためにデフォルトの設定を使い、TabPFN v2.5と公正に比較します。
TabPFNは十分なデータを持つ複雑な高次元問題に対して高い競合性能を達成しているが、GPはデータスカース設定において優れた予測精度とUQを提供することが多い。
さらに、選択されたカーネルが基底関数のよい事前を構成する場合、GP性能はTabPFNよりもかなり高い。
我々の結果はhttps://github.com/kianswarehouse/GPvsPFNから再現できる。
関連論文リスト
- Empirical Gaussian Processes [18.40952262882312]
経験的GPは、柔軟でデータ駆動のGPプリエントを構築するための原則化されたフレームワークである。
本研究では,経験的GPが学習曲線外挿と時系列予測ベンチマークの競合性能を達成することを示す。
論文 参考訳(メタデータ) (2026-02-12T15:39:08Z) - Causal Pre-training Under the Fairness Lens: An Empirical Study of TabPFN [3.059960033014892]
Tabular Prior-data Fitted Network (TabPFN) とその微調整版の評価を行った。
以上の結果から,TabPFNはベースラインに比べて高い予測精度を達成できるが,公平性の改善は適度で矛盾することがわかった。
以上の結果から,TabPFNの因果前訓練はアルゴリズム的公平性には不十分であることが示唆された。
論文 参考訳(メタデータ) (2026-01-25T17:17:12Z) - Gradient Free Deep Reinforcement Learning With TabPFN [23.140580395364207]
本稿では,Q関数近似器としてメタトレーニングされた変換器TabPFNを再利用した勾配自由深度RLフレームワークTabPFN RLを提案する。
我々はTabPFNを用いて推論のみを使用してQ値を予測する。
その結果,TabPFN などの既設ネットワークを高速かつ計算効率のよい RL の基盤として確立し,大規模な事前学習型トランスフォーマーによる勾配自由 RL の新たな方向性を開拓した。
論文 参考訳(メタデータ) (2025-09-14T13:09:58Z) - Tabular foundation model for GEOAI benchmark problems BM/AirportSoilProperties/2/2025 [2.07098502859192]
本稿では,GEOAIベンチマークBM/AirportSoilProperties/2/2025で定義されたサイト特性問題に対する Tabular Prior-Data Fitted Network (TabPFN) の新たな応用について述べる。
我々は、TabPFNをゼロトレーニング、少数ショット、空間内学習設定に適用し、大きな間接データベース(BID)から追加のコンテキストを提供する。
この研究は、TabPFNが汎用基礎モデルとして優れた精度とよく校正された予測分布を達成したことを示す。
論文 参考訳(メタデータ) (2025-09-03T10:21:18Z) - A Closer Look at TabPFN v2: Understanding Its Strengths and Extending Its Capabilities [51.08999772842298]
Tabular Prior-data Fitted Network v2 (TabPFN v2)は、さまざまな下流データセット間で、前例のないコンテキスト内学習性能を達成する。
本研究では,TabPFN v2が属性トークンをランダムに入力しても属性関係を推測可能であることを示す。
我々はTabPFN v2の制限がテスト時間分割・コンテキスト戦略によって対処できることを実証した。
論文 参考訳(メタデータ) (2025-02-24T17:38:42Z) - TuneTables: Context Optimization for Scalable Prior-Data Fitted Networks [90.00817095558094]
事前データ対応ネットワーク(PFN)は、事前学習とコンテキスト内学習を利用して、1つのフォワードパスで新しいタスクの強力なパフォーマンスを実現する。
我々は、大規模なデータセットをより小さな学習コンテキストに圧縮するPFNのパラメータ効率の良い微調整戦略であるTuneTablesを紹介した。
我々は、TuneTablesを解釈可能性ツールとして使用することができ、公平性目標を最適化することでバイアスを軽減することができることを示した。
論文 参考訳(メタデータ) (2024-02-17T00:02:23Z) - Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。
NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
論文 参考訳(メタデータ) (2021-10-26T10:45:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。