論文の概要: TabFM-Auto: Self-Evolving Pipelines for Tabular Foundation Models

• arxiv url: http://arxiv.org/abs/2609.37989v1
• Date: Tue, 29 Sep 2026 16:50:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.756466
• Title: TabFM-Auto: Self-Evolving Pipelines for Tabular Foundation Models
• Title（参考訳）: TabFM-Auto: タブラル基礎モデルのための自己進化パイプライン
• Abstract要約: TabFM-Autoは、TabFMのエラーを減らすために、データクリーニング、機能エンジニアリング、コンテキスト選択、後処理を反復的に洗練する。 エージェントと言語モデルが異なる5つのTabFM-Auto構成が、全体的なポジションのトップ5を占めている。
• 参考スコア（独自算出の注目度）: 30.610062765286234
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Tabular foundation models achieve strong zero-shot accuracy on structured data by pretraining on synthetic tables, but they ignore the column names, task descriptions, and auxiliary files that carry dataset semantics. Meanwhile, self-evolving machine learning engineering (MLE) agents train models from scratch on each dataset, yet jointly searching over features, architectures, and hyperparameters is noisy and prone to overfitting. We introduce TabFM-Auto, which pairs a tabular foundation model, TabFM, with a language model agent that evolves the data pipeline around it. Guided by dataset metadata and validation feedback, TabFM-Auto iteratively refines data cleaning, feature engineering, context selection, and post-processing to reduce TabFM's error. Across all 51 datasets of the TabArena benchmark, five TabFM-Auto configurations with different agents and language models take the top five overall positions, and the best raises TabFM from 1785 to 2013 Elo. The discovered pipelines also transfer to other frozen tabular foundation models (+69 to +143 Elo) with no further search. On the 8 tabular competitions of MLE-Bench, TabFM-Auto ranks first overall among MLE agents.
• Abstract（参考訳）: タブラル基礎モデルは、合成テーブルで事前訓練することで、構造化データに対して強いゼロショット精度を達成するが、列名、タスク記述、セマンティックスを持つ補助ファイルは無視する。 一方、自己進化型機械学習エンジニアリング(MLE)エージェントは、データセットのスクラッチからモデルをトレーニングするが、機能やアーキテクチャ、ハイパーパラメータを共同で検索することはノイズが多く、過度に適合する傾向がある。 本稿では,タブ形式の基盤モデルであるTabFMと,その周辺のデータパイプラインを進化させる言語モデルエージェントを組み合わせたTabFM-Autoを紹介する。 データセットメタデータとバリデーションフィードバックによってガイドされたTabFM-Autoは、データクリーニング、機能エンジニアリング、コンテキスト選択、後処理を反復的に洗練し、TabFMのエラーを減らす。 TabArenaベンチマークの51のデータセット全体、異なるエージェントと言語モデルを備えた5つのTabFM-Auto設定が上位5位、最も多いのは1785年から2013 Eloである。 発見されたパイプラインは、他の凍結した表層基礎モデル(+69 - +143 Elo)にも転送され、さらなる探索は行われなかった。 MLE-Benchの8つの表形式での大会で、TabFM-AutoはMLEエージェントの中で第1位となった。

関連論文リスト

• TabFM: A Zero-Shot Foundation Model for Tabular Data [39.144463896125835]
  TabFMはタスク固有のチューニングなしで、1つのフォワードパスでゼロショット予測を生成する。 構造因果モデルから生成された合成表で完全に訓練される。 デフォルトのタブ形式のファンデーションモデルと、チューニングされたAutoMLパイプラインのパフォーマンスで第1位である。
  論文  参考訳（メタデータ） (2026-09-29T16:30:44Z)
• Generalization Can Emerge in Tabular Foundation Models From a Single Table [38.07740881271672]
  簡単な自己教師型事前学習は、単体の実テーブル上で、異種ベンチマーク間で驚くほど強力な転送を実現できることを示す。 次に、ほとんどのTFMが共有する事前学習手順に接続し、データセットから構築できるEmphtaskの数と品質が、下流のパフォーマンスの鍵であることを示します。
  論文  参考訳（メタデータ） (2025-11-12T19:12:40Z)
• Mitra: Mixed Synthetic Priors for Enhancing Tabular Foundation Models [85.64873567417396]
  実世界のデータに対して,その多様性,特異性,および性能のために選択された合成前駆体の硬化した混合物をトレーニングしたTFMであるMitraを紹介する。 Mitraは、TabPFNv2やTabICLのような最先端のTFMを、分類と回帰のベンチマークで一貫して上回っている。
  論文  参考訳（メタデータ） (2025-10-24T07:15:06Z)
• Visual-TableQA: Open-Domain Benchmark for Reasoning over Table Images [0.42970700836450476]
  Visual-TableQAは、複雑なデータに対する視覚的推論を評価し、拡張するために設計された、大規模でオープンなドメインデータセットである。 Visual-TableQAは2.5kのリッチな構造化されたテーブルと6kの推論集約型QAペアで構成され、いずれもUSD 100以下のコストで生産される。
  論文  参考訳（メタデータ） (2025-09-09T17:52:26Z)
• TabDiff: a Mixed-type Diffusion Model for Tabular Data Generation [91.50296404732902]
  グラフデータの混合型分布を1つのモデルでモデル化する共同拡散フレームワークであるTabDiffを紹介する。 我々の重要な革新は、数値データと分類データのための連立連続時間拡散プロセスの開発である。 TabDiffは、既存の競合ベースラインよりも優れた平均性能を実現し、ペアワイドカラム相関推定における最先端モデルよりも最大で22.5%改善されている。
  論文  参考訳（メタデータ） (2024-10-27T22:58:47Z)
• A Survey on Deep Tabular Learning [0.0]
  タブラルデータは、その不均一な性質と空間構造が欠如していることから、深層学習の独特な課題を提示する。 本調査では,早期完全接続ネットワーク(FCN)から,TabNet,SAINT,TabTranSELU,MambaNetといった先進アーキテクチャに至るまで,タブラルデータのディープラーニングモデルの進化を概観する。
  論文  参考訳（メタデータ） (2024-10-15T20:08:08Z)
• TabularFM: An Open Framework For Tabular Foundational Models [12.027087949876893]
  基礎モデル(FM)は大量のデータから一般化されたパターンを学習することができる。 FMに関するほとんどの研究は、主にテキストや画像のような非構造化データや、時系列のような半構造化データに焦点を当てている。 このギャップに対応するために、構造化データのためのFMを開発する最先端の手法を取り入れたTabularFMというフレームワークを導入する。
  論文  参考訳（メタデータ） (2024-06-14T08:46:33Z)
• TAP4LLM: Table Provider on Sampling, Augmenting, and Packing Semi-structured Data for Large Language Model Reasoning [55.33939289989238]
  テーブルベースタスクにおいて,大規模言語モデル(LLM)を効果的に活用するための汎用プリプロセッサスイートとして,TAP4LLMを提案する。 1)大きなテーブルをクエリセマンティクスに基づいて管理可能なサブテーブルに分解するテーブルサンプリング、(2)外部ソースやモデルから追加の知識でテーブルを拡張するテーブル拡張、(3)テーブルパッキングとシリアライゼーションによりテーブルをLLMの理解に適したさまざまなフォーマットに変換する。
  論文  参考訳（メタデータ） (2023-12-14T15:37:04Z)
• Rethinking Pre-Training in Tabular Data: A Neighborhood Embedding Perspective [71.45945607871715]
  メタ表現(TabPTM)を用いたタブラルデータ事前学習を提案する。 中心となる考え方は、データインスタンスを共有機能空間に埋め込むことで、各インスタンスは、近隣の固定数とそのラベルまでの距離で表現される。 101データセットの大規模な実験は、微調整の有無にかかわらず、分類タスクと回帰タスクの両方においてTabPTMの有効性を確認した。
  論文  参考訳（メタデータ） (2023-10-31T18:03:54Z)
• OmniTab: Pretraining with Natural and Synthetic Data for Few-shot Table-based Question Answering [106.73213656603453]
  最小限のアノテーションによるテーブルベースのQAモデルを構築した。 本稿では、自然データと合成データの両方を消費する全能事前学習手法を提案する。
  論文  参考訳（メタデータ） (2022-07-08T01:23:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。