論文の概要: Beyond IID: How General Are Tabular Foundation Models, Really?
- arxiv url: http://arxiv.org/abs/2606.30410v1
- Date: Mon, 29 Jun 2026 14:55:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:16.291515
- Title: Beyond IID: How General Are Tabular Foundation Models, Really?
- Title(参考訳): IIDを超えて - タブラルファウンデーションモデルはいかに一般か?
- Abstract要約: 研究コミュニティは、多様なデータセットやタスクに関する基礎モデルをますます評価している。
標準ベンチマークは主に、表形式の基礎モデルがすでに優れているタスクのために定義されている。
BeyondArenaは、グラフデータのための最初の統一された総合的なベンチマークである。
- 参考スコア(独自算出の注目度): 76.03669797389378
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Foundation models for predictive machine learning on tabular data have recently gained significant traction in academia and industry. Research communities across disciplines are increasingly evaluating tabular foundation models on diverse datasets and tasks. However, these task- and discipline-specific evaluations remain largely inaccessible to model researchers because benchmark software and evaluation protocols are fragmented. As a result, model researchers rely on standard benchmarks, which are mostly defined for tasks where tabular foundation models already excel. The most challenging scenarios are excluded, limiting meaningful progress in the field by focusing on marginal improvements on IID data rather than on broader, more demanding challenges. To overcome this, we introduce BeyondArena, the first unified holistic benchmark for tabular data that supports diverse task types (IID, temporal, grouped), across sample size and feature dimensionality scales, with diverse feature types (with text, with high cardinality) from a broad range of disciplines. To enable unified benchmarking beyond standard benchmarks, we introduce Data Foundry, a Python framework and metadata schema for curating tabular datasets for predictive machine learning. Our results across 11 models and 142 curated datasets show that existing tabular foundation models excel on tiny- to medium-sized IID data, while traditional tree-based and deep learning models still dominate on non-IID, large, and high-dimensional datasets. BeyondArena guides model research for the most demanding challenges in tabular data, enabling progress towards truly foundational tabular models.
- Abstract(参考訳): 表形式のデータに基づく予測機械学習の基礎モデルは、最近、アカデミックや業界で大きな注目を集めている。
専門分野にわたる研究コミュニティは、多様なデータセットやタスクに関する表層基盤モデルの評価をますます進めている。
しかしながら、これらのタスクや規律固有の評価は、ベンチマークソフトウェアと評価プロトコルが断片化されているため、モデル研究者にはほとんどアクセスできない。
その結果、モデル研究者は標準ベンチマークを頼りにしており、主に表の基盤モデルがすでに優れているタスクのために定義されている。
最も困難なシナリオは除外され、より広範囲で要求の多い課題ではなく、IDDデータに対する限界的な改善に焦点を当てることで、この分野における有意義な進歩を制限する。
この問題を解決するために、BeyondArenaは、多種多様なタスクタイプ(IID、時間、グループ化)をサポートし、幅広い分野の多様な特徴タイプ(テキスト、高い濃度)で、サンプルサイズと特徴次元スケールにわたってサポートする、表型データのための最初の統一された総合的なベンチマークである。
標準ベンチマークを超えて統一ベンチマークを可能にするため、予測機械学習のための表形式のデータセットをキュレートするためのPythonフレームワークとメタデータスキーマであるData Foundryを紹介した。
従来の木モデルとディープラーニングモデルは,非IID,大規模,高次元のデータセットでは依然として支配的でありながら,11モデルと142のキュレートされたデータセットを対象とした結果から,既存の表層基盤モデルは小~中規模のIDDデータに対して優れていることが示された。
BeyondArenaは、表形式のデータにおいて最も要求の多い課題についてモデル研究をガイドし、真の基礎的な表形式のモデルに向けた前進を可能にする。
関連論文リスト
- Foundation Models for Credit Risk Prediction: A Game Changer? [12.43753732401141]
予測モデルは信用リスク管理において重要な役割を担い、デフォルト確率と損失の正確な推定を通じて重要な決定を導く。
多様なドメインからの広範なデータセットに基づいて事前訓練されたファンデーションモデルは、事前の知識を活用することで、顕著なパフォーマンスを誇示している。
論文 参考訳(メタデータ) (2026-05-18T09:52:48Z) - OmniTabBench: Mapping the Empirical Frontiers of GBDTs, Neural Networks, and Foundation Models for Tabular Data at Scale [82.32822441887886]
私たちはこれまでで最大のベンチマークであるOmniTabBenchを紹介します。
我々は、OmniTabBench上で、すべてのモデルファミリーから最先端モデルの大規模な評価を行い、支配的な勝者がいないことを確認した。
論文 参考訳(メタデータ) (2026-04-08T08:31:43Z) - Mitra: Mixed Synthetic Priors for Enhancing Tabular Foundation Models [85.64873567417396]
実世界のデータに対して,その多様性,特異性,および性能のために選択された合成前駆体の硬化した混合物をトレーニングしたTFMであるMitraを紹介する。
Mitraは、TabPFNv2やTabICLのような最先端のTFMを、分類と回帰のベンチマークで一貫して上回っている。
論文 参考訳(メタデータ) (2025-10-24T07:15:06Z) - LimiX: Unleashing Structured-Data Modeling Capability for Generalist Intelligence [61.46575527504109]
LimiX-16MとLimiX-2Mは、構造化されたデータを変数と欠落に対する共同分布として扱う。
サンプルサイズ,特徴次元,クラス数,カテゴリ間特徴比,欠落度,サンプル-特徴比の広い11種類の大規模構造化データベンチマークを対象としたLimiXモデルの評価を行った。
論文 参考訳(メタデータ) (2025-09-03T17:39:08Z) - Make Still Further Progress: Chain of Thoughts for Tabular Data Leaderboard [27.224577475861214]
機械学習の基本的なデータフォーマットであるタブラルデータは、競争や現実世界のアプリケーションで主に利用されている。
本研究では,大規模言語モデルを活用したテキスト内アンサンブルフレームワークを提案する。
提案手法は,各テストインスタンスの周囲のコンテキストを,その近傍と外部モデルのプールからの予測を用いて構築する。
論文 参考訳(メタデータ) (2025-05-19T17:52:58Z) - Representation Learning for Tabular Data: A Comprehensive Survey [23.606506938919605]
行と列として構造化されたタブラルデータは、機械学習の分類と回帰アプリケーションにおいて最も一般的なデータタイプの一つである。
ディープニューラルネットワーク(DNN)は、最近、表現学習の能力を通じて有望な結果を実証した。
既存の手法を一般化能力に応じて3つの主要なカテゴリに分類する。
論文 参考訳(メタデータ) (2025-04-17T17:58:23Z) - Deep Time Series Models: A Comprehensive Survey and Benchmark [60.742416934632416]
時系列は、その複雑でダイナミックな性質のために固有の課題を提示する。
近年、時系列コミュニティで顕著なブレークスルーが見られた。
多様な分析タスクのためのディープ時系列モデルの公正なベンチマークとして、時系列ライブラリ(TSLib)をリリースします。
論文 参考訳(メタデータ) (2024-07-18T08:31:55Z) - LaTable: Towards Large Tabular Models [63.995130144110156]
タブラル生成基盤モデルは、異なるデータセットの不均一な特徴空間のために構築が困難である。
LaTableは、これらの課題に対処し、異なるデータセットでトレーニング可能な、新しい拡散モデルである。
LaTableは、分散生成のベースラインよりも優れており、微調整されたLaTableは、より少ないサンプルで分散データセットをより良く生成できる。
論文 参考訳(メタデータ) (2024-06-25T16:03:50Z) - Why Tabular Foundation Models Should Be a Research Priority [65.75744962286538]
タブラルデータは、多くの分野において支配的なモダリティであるが、研究の注意がほとんど与えられず、スケールとパワーの面ではかなり遅れている。
私たちは現在、表形式の基礎モデル、あるいはLTM(Large Tabular Model)と呼ばれるものの開発を始める時が来たと信じています。
論文 参考訳(メタデータ) (2024-05-02T10:05:16Z) - Tabular Embedding Model (TEM): Finetuning Embedding Models For Tabular RAG Applications [0.0]
Tabular Embedding Model (TEM) は、表型検索・拡張生成(RAG)アプリケーションのためのファインチューン埋め込みモデルに対する新しいアプローチである。
TEMは現在のSOTA埋め込みモデルよりも優れているだけでなく、より小さく、より効率的なモデル構造でも優れている。
論文 参考訳(メタデータ) (2024-04-28T14:58:55Z) - Tabular Data: Is Deep Learning all you need? [21.994741050350132]
タブラルデータは、応用機械学習において最も一般的なデータフォーマットの1つである。
ディープラーニングモデルは、既存の古典的アプローチと公正に比較できるような条件下での包括的な評価の対象にはなっていない。
我々の調査は、ニューラルネットワーク、古典的ML、AutoML技術にまたがる17の最先端の手法をベンチマークすることで、このギャップを埋める。
論文 参考訳(メタデータ) (2024-02-06T12:59:02Z) - Why do tree-based models still outperform deep learning on tabular data? [0.0]
木をベースとしたモデルが中規模データの最先端のままであることを示す。
木系モデルとニューラルネットワーク(NN)の異なる帰納バイアスに関する実証的研究を行う。
論文 参考訳(メタデータ) (2022-07-18T08:36:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。