論文の概要: Why Tabular Foundation Models Excel on Relational Data They Have Never Seen

• arxiv url: http://arxiv.org/abs/2611.02936v1
• Date: Mon, 02 Nov 2026 11:02:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 14:22:58.105499
• Title: Why Tabular Foundation Models Excel on Relational Data They Have Never Seen
• Title（参考訳）: タブラルファウンデーションがExcelをなぜ今まで見たことのない関係データでモデル化したのか
• Abstract要約: In-context Learning(ICL)とRDB固有の事前学習に基づく凍結基礎モデル(FM)は、実行可能なソリューションを提供する。 この研究で我々はまず、より多様な実験でこの現象を実証的に確認した。 そして、TFMがこれほど効果的に振る舞う理由について、複数の補完的な説明に直面して、私たちの主な貢献に目を向けます。
• 参考スコア（独自算出の注目度）: 15.869114092271467
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Given a relational database (RDB) storing heterogeneous tabular information, how can we predict missing (or future) values in some target column of interest? As candidate targets are numerous in enterprise settings, it is preferable to avoid learning a new model from scratch each time there is a new prediction task. Frozen foundation models (FMs) based on in-context learning (ICL) and RDB-specific pre-training provide a viable solution, but the ideal design still remains largely unresolved. Perhaps unexpectedly, preliminary evidence has recently shown that existing single-table FMs (aka TFMs), when combined with suitable parameter-free relational encoders, can be quite competitive in practice despite zero exposure to RDB pre-training or relational data of any kind. In this work we first empirically confirm this phenomenon with a more diverse array of experiments. We then turn to our main contribution, namely, surfacing multiple complementary explanations for why TFMs behave so effectively. These explanations ultimately hinge on innate synergies whereby parameter-free encoders map relational effects to fixed-length embeddings that loosely mimic distributions for which TFMs were originally designed; in so doing, desirable single-table properties transfer to relational settings (e.g., convergent posterior predictive distributions). Collectively, our analysis forges new pathways for improving RDB FMs, particularly when we prioritize interpretability and inevitable integration within agentic systems.
• Abstract（参考訳）: 不均一な表情報を格納するリレーショナルデータベース(RDB)を考えると、ターゲットとするカラムの欠落(あるいは将来)値をどうやって予測できるでしょうか? エンタープライズ環境では候補が多数存在するため、新しい予測タスクがあるたびに新しいモデルをスクラッチから学習するのを避けることが望ましい。 文脈内学習(ICL)とRDB固有の事前学習に基づく凍結基礎モデル(FM)は、実行可能なソリューションを提供するが、理想的な設計はほとんど未解決のままである。 おそらく意外なことに、既存の単一テーブルFM(別名TFM)と適切なパラメータフリーリレーショナルエンコーダを組み合わせると、RDB事前学習データやリレーショナルデータに全く触れていないにもかかわらず、実際にかなり競合する可能性があることが、最近予備的な証拠として示されている。 この研究で我々はまず、より多様な実験でこの現象を実証的に確認した。 そして、TFMがこれほど効果的に振る舞う理由について、複数の補完的な説明に直面して、私たちの主な貢献に目を向けます。 これらの説明は最終的には、パラメータフリーエンコーダがリレーショナル効果を、もともとTFMが設計された分布を緩やかに模倣する固定長埋め込みにマッピングする自然相乗効果にヒンジする。 特に,エージェントシステム内での解釈可能性や不可避な統合を優先する場合に,RDB FMを改善するための新たな経路を総合的に構築する。

関連論文リスト

• Path to Prior-Data Fitted Relational Models via Learned Latent Multi-table Representations [0.7211865874649033]
  本研究では,大量の合成タスクを事前学習することで,下流の微調整をほとんどあるいは全く行わないデータセットを一般化できることを示す。 グラフベースリレーショナル基礎モデルであるGriffinを,大量の合成リレーショナルデータベース上で事前学習する。 下流タスクを微調整する代わりに、訓練済みエンコーダを汎用リレーショナル表現学習器として使用し、その潜在表現を凍結したインコンテキスト予測器に渡す。
  論文  参考訳（メタデータ） (2026-10-16T07:43:20Z)
• ProximalFM: Amortized Proximal Causal Inference under Hidden Confounding [11.607770194832211]
  近因果推論では、プロキシ変数を使用して、隠れたコンバウンディングの下で効果を識別する。 構造因果モデルに適合する構造因果モデルから抽出した合成データに、オラクル対策品へのアクセスを学習する。 点推定を主眼とする先行文献と比較して,我々のモデルである ProximalFM は,条件平均処理効果(CATE)のベイズ後部分布を明示的にターゲットとしている。
  論文  参考訳（メタデータ） (2026-10-06T10:07:19Z)
• STEER: Reducing Inference Cost in Relational Foundation Models through Semantically Informed Sampling [2.025761610861237]
  本稿では,STEERを提案する。STEERは,予測タスクハンドに最も関係のあるテーブルに集中することで,推論コンテキストを縮小するサンプリング手法である。 STEERは、大規模言語モデルに対して、データベーススキーマの外部キーエッジを、与えられたタスクの関連層にランク付けするように促すことにより、関連情報を取得する。 ランキングはスキーマのみを使用するため、タスク毎に1回計算され、その後のすべての予測で再利用され、コストを償却する。
  論文  参考訳（メタデータ） (2026-10-01T01:36:43Z)
• Architecture Alignment With Sparse Priors in Tabular Foundation Models [10.863806811775069]
  タブラル基礎モデル(TFM)は、コンテキスト内学習を通じて、新しいデータセットに対する強力な予測を提供するため、ますます人気が高まっている。 しかし、リリースされたTFMは、事前訓練された事前、アーキテクチャ、目的において同時に異なり、それぞれの帰納的バイアスを無視する。 アーキテクチャが無関係な機能抑制に寄与するかどうかを問う。
  論文  参考訳（メタデータ） (2026-09-29T07:12:53Z)
• Posterior Augmented Flow Matching [64.1559809786948]
  後拡張フローマッチング(PAFM)はフローマッチング(FM)の一般化である PAFMは、異なるモデルスケールで最大3.4FID50KでFMよりも改善されていることを示す。
  論文  参考訳（メタデータ） (2026-05-01T17:59:59Z)
• Mitra: Mixed Synthetic Priors for Enhancing Tabular Foundation Models [85.64873567417396]
  実世界のデータに対して,その多様性,特異性,および性能のために選択された合成前駆体の硬化した混合物をトレーニングしたTFMであるMitraを紹介する。 Mitraは、TabPFNv2やTabICLのような最先端のTFMを、分類と回帰のベンチマークで一貫して上回っている。
  論文  参考訳（メタデータ） (2025-10-24T07:15:06Z)
• Revisiting Multivariate Time Series Forecasting with Missing Values [65.30332997607141]
  現実の時系列では欠落値が一般的である。 現在のアプローチでは、計算モジュールを使用して、不足した値を補う、計算済みの予測フレームワークが開発されている。 このフレームワークは、致命的な問題を見落としている: 欠落した値に対して基礎的な真理は存在せず、予測精度を劣化させる可能性のあるエラーの影響を受けやすいようにしている。 本稿では,Information Bottleneck原則に基づく新しいフレームワークであるConsistency-Regularized Information Bottleneck(CRIB)を紹介する。
  論文  参考訳（メタデータ） (2025-09-27T20:57:48Z)
• Boosting Factorization Machines via Saliency-Guided Mixup [125.15872106335692]
  我々は、MixupにインスパイアされたMixFMを紹介し、ファクトリゼーションマシン(FM)を強化するための補助的なトレーニングデータを生成する。 また、Saliency-Guided Mixup(SMFM)を利用した新しいファクトリゼーションマシンも提案した。
  論文  参考訳（メタデータ） (2022-06-17T09:49:00Z)
• Examining and Combating Spurious Features under Distribution Shift [94.31956965507085]
  我々は、最小限の統計量という情報理論の概念を用いて、ロバストで刺激的な表現を定義し、分析する。 入力分布のバイアスしか持たない場合でも、モデルはトレーニングデータから急激な特徴を拾い上げることができることを証明しています。 分析から着想を得た結果,グループDROは,グループ同士の相関関係を直接考慮しない場合に失敗する可能性が示唆された。
  論文  参考訳（メタデータ） (2021-06-14T05:39:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。