論文の概要: TabMF: Learning Dataset Representations with Tabular Foundation Models
- arxiv url: http://arxiv.org/abs/2610.13818v2
- Date: Mon, 12 Oct 2026 09:07:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-14 23:39:49.969303
- Title: TabMF: Learning Dataset Representations with Tabular Foundation Models
- Title(参考訳): TabMF: タブラル基礎モデルによるデータセット表現の学習
- Abstract要約: 本稿では、事前訓練された基礎モデル(TFM)を教師付きデータセットのエンコーダとして再利用するフレームワークであるTabMFを紹介する。
TabICLv2とTabPFN-2.5でTabMFをインスタンス化し、未確認の実際のデータセット上で6つのタスクにまたがる結果の表現を評価する。
2つのTabMFエンコーダは、評価された学習および古典的データセット表現のうち、最強の集約性能を得る。
- 参考スコア(独自算出の注目度): 21.842322228895373
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Representations of supervised datasets support higher-level machine-learning tasks such as dataset retrieval and distribution-shift monitoring. However, existing approaches typically rely either on hand-crafted meta-features or on dataset encoders trained specifically for representation learning. We introduce TabMF, a framework that repurposes pretrained tabular foundation models (TFMs) as encoders of supervised datasets. TabMF equips a predictive TFM with an architecture-aware dataset-level readout and adapts the model end-to-end using contrastive post-training on stochastic views of synthetic supervised datasets. We instantiate TabMF on TabICLv2 and TabPFN-2.5 and evaluate the resulting representations across six tasks on unseen real datasets. Simple frozen TFM readouts yield competitive representations, indicating that predictive pretraining already induces substantial dataset-level structure. The two TabMF encoders obtain the strongest aggregate performance among the evaluated learned and classical dataset representations, with particularly strong results in dataset retrieval, compact benchmark construction, and distribution-shift severity assessment.
- Abstract(参考訳): 教師付きデータセットの表現は、データセット検索や分散シフト監視といった高度な機械学習タスクをサポートする。
しかし、既存のアプローチは一般的に手作りのメタ機能か、表現学習に特化して訓練されたデータセットエンコーダに依存する。
本稿では,事前学習した表層基盤モデル(TFM)を教師付きデータセットのエンコーダとして再利用するフレームワークであるTabMFを紹介する。
TabMFは、アーキテクチャを意識したデータセットレベルの読み出しを備えた予測的FMを備え、合成教師付きデータセットの確率的ビューに対する対照的なポストトレーニングを用いて、モデルをエンドツーエンドに適応する。
TabICLv2とTabPFN-2.5でTabMFをインスタンス化し、未確認の実際のデータセット上で6つのタスクにまたがる結果の表現を評価する。
単純な凍結されたTFMの読み出しは競争力のある表現となり、予測事前学習が既にデータセットレベルの構造をかなり引き起こしていることを示している。
2つのTabMFエンコーダは、評価された学習および古典的なデータセット表現の中で、特にデータセット検索、コンパクトなベンチマーク構成、分散シフト重大度評価において、最強の集約性能を得る。
関連論文リスト
- MulTaBench: Benchmarking Multimodal Tabular Learning with Text and Image [52.47434184153733]
MulTaBenchは40のデータセットのベンチマークで、画像-タブラルタスクとテキスト-タブラルタスクを等しく分割する。
テキストと画像のモダリティにまたがって、ターゲット認識表現のチューニングによる利得が一般化されることを示す。
論文 参考訳(メタデータ) (2026-05-11T14:12:05Z) - Closing the Data Loop: Using OpenDataArena to Engineer Superior Training Datasets [46.480867560675584]
アドホックなキュレーションからOpenDataArena(ODA)を用いたクローズドループデータセットエンジニアリングフレームワークへのパラダイムシフトを提案する。
textbfODA-Math460-kは、AIMEやHMMTなどのベンチマークでステート・オブ・ザ・アーツ(SOTA)結果を達成するために、新しい2段階の難易度対応パイプラインを利用する特殊な数学推論データセットであり、textbfODA-Mixture (100k & 500k) はアンカー・アンド・アンカーで構築された一連のマルチドメイン命令データセットである。
論文 参考訳(メタデータ) (2025-12-30T17:46:38Z) - Mitra: Mixed Synthetic Priors for Enhancing Tabular Foundation Models [85.64873567417396]
実世界のデータに対して,その多様性,特異性,および性能のために選択された合成前駆体の硬化した混合物をトレーニングしたTFMであるMitraを紹介する。
Mitraは、TabPFNv2やTabICLのような最先端のTFMを、分類と回帰のベンチマークで一貫して上回っている。
論文 参考訳(メタデータ) (2025-10-24T07:15:06Z) - A Closer Look at TabPFN v2: Understanding Its Strengths and Extending Its Capabilities [51.08999772842298]
Tabular Prior-data Fitted Network v2 (TabPFN v2)は、さまざまな下流データセット間で、前例のないコンテキスト内学習性能を達成する。
本研究では,TabPFN v2が属性トークンをランダムに入力しても属性関係を推測可能であることを示す。
我々はTabPFN v2の制限がテスト時間分割・コンテキスト戦略によって対処できることを実証した。
論文 参考訳(メタデータ) (2025-02-24T17:38:42Z) - Zero-shot Meta-learning for Tabular Prediction Tasks with Adversarially Pre-trained Transformer [2.1677183904102257]
本稿では、実世界のデータセットを事前学習することなく、表形式の予測タスクでゼロショットメタ学習を行うことのできるAdversarially Pre-trained Transformer(APT)を提案する。
APTは、異なる合成データセットで意図的にモデルに挑戦する敵対的な合成データエージェントで事前訓練されている。
筆者らのフレームワークは,データセットの特徴をフィルタリングすることなく,小さな分類タスクにおける最先端のパフォーマンスと一致していることを示す。
論文 参考訳(メタデータ) (2025-02-06T23:58:11Z) - The MERIT Dataset: Modelling and Efficiently Rendering Interpretable Transcripts [0.0]
本稿では,学校レポートの文脈における完全ラベル付きデータセットであるMERITデータセットを紹介する。
その性質上、MERITデータセットは、制御された方法でバイアスを含む可能性があるため、言語モデル(LLM)で誘導されるバイアスをベンチマークするための貴重なツールである。
データセットの有用性を示すため,トークン分類モデルを用いたベンチマークを行い,SOTAモデルにおいてもデータセットが重要な課題となることを示す。
論文 参考訳(メタデータ) (2024-08-31T12:56:38Z) - Rethinking Pre-Training in Tabular Data: A Neighborhood Embedding Perspective [71.45945607871715]
メタ表現(TabPTM)を用いたタブラルデータ事前学習を提案する。
中心となる考え方は、データインスタンスを共有機能空間に埋め込むことで、各インスタンスは、近隣の固定数とそのラベルまでの距離で表現される。
101データセットの大規模な実験は、微調整の有無にかかわらず、分類タスクと回帰タスクの両方においてTabPTMの有効性を確認した。
論文 参考訳(メタデータ) (2023-10-31T18:03:54Z) - GraPPa: Grammar-Augmented Pre-Training for Table Semantic Parsing [117.98107557103877]
テーブルセマンティック解析のための効果的な事前学習手法GraPPaを提案する。
我々は、同期文脈自由文法を用いて、高自由度テーブル上に合成質問ペアを構築する。
実世界のデータを表現できるモデルの能力を維持するため、マスキング言語モデリングも含んでいる。
論文 参考訳(メタデータ) (2020-09-29T08:17:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。