論文の概要: Empirical Evaluation of Out-Of-Distribution Performance of Tabular Foundation Models
- arxiv url: http://arxiv.org/abs/2607.26000v1
- Date: Tue, 28 Jul 2026 17:16:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-29 20:50:42.946304
- Title: Empirical Evaluation of Out-Of-Distribution Performance of Tabular Foundation Models
- Title（参考訳）: タブラル基礎モデルのアウトオーフ分布性能の実証評価
- Abstract要約: 我々は,9つのタブラル基礎モデル(TFM)のout-Of-Distribution(OOD)性能を実証評価する。
その結果, 事前学習戦略によらず, 評価済みのFMは, 分散シフト下で系統的に劣化することがわかった。
- 参考スコア（独自算出の注目度）: 1.9917667380910824
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Tabular Foundation Models (TFMs) have emerged as novel approaches for tabular predictive tasks, demonstrating competitive predictive performance to ensemble tree-based models. Most TFMs are trained and evaluated on independent and identically distributed data, but this assumption changes in real-world scenarios due to distribution shifts, which compromise the robustness of models. Limited research has been conducted of TFMs under distribution shifts. We present an empirical evaluation of Out-Of-Distribution (OOD) performance of nine TFMs, spanning diverse pre-training strategies and architectures: TabPFNv2, TabPFNv2.5, TabPFNv2.6, TabPFNv3, TabICL, TabICLv2, Mitra, LimiX and TabFM. Three real-world datasets from the TableShift study were considered (HELOC, Voting, Childhood Lead), covering label, socioeconomic, and geographic shift types. Our results show that all evaluated TFMs degrade systematically under distribution shift regardless of pre-training strategy, with shift gaps ranging from 0.003 to 0.060 depending on shift type. The relationship between in-distribution and OOD predictive performance documented for classical tabular models extends into TFMs. We also identified a scalability gap, as high-performing models demand significant memory and computational resources beyond what standard deployment infrastructure can support. This study extends existing benchmarks for OOD in tabular data, providing evidence to support their adoption in high-stakes domains characterized by structural distribution shifts.
- Abstract（参考訳）: Tabular Foundation Models (TFMs) は表形式の予測タスクの新たなアプローチとして登場し、木ベースのモデルをアンサンブルするための競合予測性能を実証している。
ほとんどのTFMは、独立および同一の分散データに基づいて訓練され、評価されるが、この仮定は、モデルの堅牢性を損なう分散シフトによって現実のシナリオを変化させる。
分散シフト下でのTFMの限定的な研究が実施されている。
本研究では,TabPFNv2,TabPFNv2.5,TabPFNv2.6,TabPFNv3,TabICL,TabICLv2,Mitra,LimiX,TabFM,TabPFNv2,TabPFNv2,TabPFNv 2,TabPFNv2,TabPFNv2.5,TabPFNv2,TabPFNv3,TabICLv2,TabICLv2,Mitra,LimiX,TabFM,TabFM,TabPFNv2,TabPFNv2, TabPFNv2,TabPFPFNv2,TabICLv2,TabFM,TabICLv2,TabICLv2,TabFM,TabFM,TabPFNvFNv2,TabFNv2,TabPFNv2,TabFNv 2,TabICL,TabICL,TabFM,TabFM,TabFM,TabFM,TabFM
TableShift研究から得られた実世界の3つのデータセット(HELOC, Voting, Childhood Lead)は、ラベル、社会経済、地理的シフトタイプをカバーしている。
以上の結果から, 事前学習戦略によらず, TFMは系統的に低下し, シフトタイプによっては0.003から0.060にずれがみられた。
古典的表形式モデルに記録された分布内と OOD 予測性能の関係は TFM に拡張される。
パフォーマンスの高いモデルでは、標準的なデプロイメントインフラストラクチャがサポートする以上の大きなメモリと計算リソースを必要としています。
本研究は, OOD の既存ベンチマークを表形式で拡張し, 構造分布シフトを特徴とするハイテイク領域における OOD の採用を裏付ける証拠を提供する。
関連論文リスト
- Causal Pre-training Under the Fairness Lens: An Empirical Study of TabPFN [3.059960033014892]
Tabular Prior-data Fitted Network (TabPFN) とその微調整版の評価を行った。
以上の結果から,TabPFNはベースラインに比べて高い予測精度を達成できるが,公平性の改善は適度で矛盾することがわかった。
以上の結果から,TabPFNの因果前訓練はアルゴリズム的公平性には不十分であることが示唆された。
論文 参考訳（メタデータ） (2026-01-25T17:17:12Z) - Mitra: Mixed Synthetic Priors for Enhancing Tabular Foundation Models [85.64873567417396]
実世界のデータに対して,その多様性,特異性,および性能のために選択された合成前駆体の硬化した混合物をトレーニングしたTFMであるMitraを紹介する。
Mitraは、TabPFNv2やTabICLのような最先端のTFMを、分類と回帰のベンチマークで一貫して上回っている。
論文 参考訳（メタデータ） (2025-10-24T07:15:06Z) - Estimating Time Series Foundation Model Transferability via In-Context Learning [74.65355820906355]
時系列基礎モデル(TSFM)は、大規模な事前訓練を通じて強力なゼロショット予測を提供する。
微調整は、公開データに制限のあるドメインのパフォーマンス向上に依然として不可欠である。
モデル選択をコンテキスト内学習問題として再キャストする転送可能性推定フレームワークであるTimeTicを紹介する。
論文 参考訳（メタデータ） (2025-09-28T07:07:13Z) - Towards Fair In-Context Learning with Tabular Foundation Models [6.4989916051093815]
トランスフォーマーを用いたインコンテクスト学習(ICL)におけるフェアネスの最初の研究について述べる。
最近提案された3つの基盤モデル(TabPFNv2、TabICL、TabDPT)をベンチマークデータセットで評価した。
実験の結果、不確実性に基づく戦略は、予測精度に最小限の影響を伴って、グループフェアネスの指標を一貫して改善することが示された。
論文 参考訳（メタデータ） (2025-05-14T15:53:14Z) - TabFSBench: Tabular Benchmark for Feature Shifts in Open Environments [45.368146581808276]
タブラルデータは様々な機械学習タスクで広く利用されている。
これまでの研究は主に分布シフトを緩和することに集中してきたが、特徴シフトは限定的な注目を集めた。
本稿では,表型データにおける特徴シフトに関する最初の包括的研究を行い,最初の表型特徴シフトベンチマーク(TabFSBench)を紹介する。
論文 参考訳（メタデータ） (2025-01-31T07:40:34Z) - Fully Test-time Adaptation for Tabular Data [48.67303250592189]
本稿では,FTTA法で予測のラベル分布を頑健に最適化できる,タブラルデータに対する完全テスト時間適応を提案する。
我々は6つのベンチマークデータセットに関する総合的な実験を行い、3つの指標を用いて評価した。
論文 参考訳（メタデータ） (2024-12-14T15:49:53Z) - Drift-Resilient TabPFN: In-Context Learning Temporal Distribution Shifts on Tabular Data [39.40116554523575]
In-Context Learning with a Prior-Data Fitted Network に基づく新しいアプローチである Drift-Resilient TabPFN を提案する。
先行した合成データセットのベイズ推定を近似することを学ぶ。
精度は0.688から0.744に向上し、OC AUCは0.786から0.832に向上し、キャリブレーションも強化された。
論文 参考訳（メタデータ） (2024-11-15T23:49:23Z) - An Empirical Study on Distribution Shift Robustness From the Perspective
of Pre-Training and Data Augmentation [91.62129090006745]
本稿では,事前学習とデータ拡張の観点から分布シフト問題を考察する。
我々は,事前学習とデータ拡張に焦点を当てた,最初の総合的な実証的研究を行った。
論文 参考訳（メタデータ） (2022-05-25T13:04:53Z) - Accuracy on the Line: On the Strong Correlation Between
Out-of-Distribution and In-Distribution Generalization [89.73665256847858]
分布外性能は,広範囲なモデルと分布シフトに対する分布内性能と強く相関していることを示す。
具体的には,CIFAR-10 と ImageNet の変種に対する分布内分布と分布外分布性能の強い相関関係を示す。
また,CIFAR-10-Cと組織分類データセットCamelyon17-WILDSの合成分布の変化など,相関が弱いケースについても検討した。
論文 参考訳（メタデータ） (2021-07-09T19:48:23Z) - BREEDS: Benchmarks for Subpopulation Shift [98.90314444545204]
本研究では,人口変動に対するモデルのロバスト性を評価する手法を開発した。
既存のデータセットの基盤となるクラス構造を利用して、トレーニングとテストの分散を構成するデータサブポピュレーションを制御する。
この手法をImageNetデータセットに適用し、様々な粒度のサブポピュレーションシフトベンチマークスイートを作成する。
論文 参考訳（メタデータ） (2020-08-11T17:04:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。