論文の概要: FTFM: Factorized Tabular Foundation Models
- arxiv url: http://arxiv.org/abs/2610.25558v1
- Date: Sun, 18 Oct 2026 21:53:31 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:34:28.952311
- Title: FTFM: Factorized Tabular Foundation Models
- Title(参考訳): FTFM:因子化タブラル基礎モデル
- Abstract要約: 本稿では,1行1列,1列1列で,その計算を因数分解しながら,セル表現を保存できるFactized Tabular Foundation Models(FTFM)を紹介する。
FTFMは、TabArenaやBeyondArenaといった主要なベンチマーク上での競合予測性能を実現している。
- 参考スコア(独自算出の注目度): 20.71178978151875
- License:
- Abstract: Tabular foundation models (TFMs) are becoming a powerful alternative to conventional tabular learning, adapting to new datasets in context without task-specific training. Current architectures, however, face a trade-off: models that preserve cell-level representations are expensive because they repeatedly attend across rows and columns, while faster models collapse each row into a fixed embedding and lose this fine-grained state. We introduce Factorized Tabular Foundation Models (FTFM), which preserve cell representations while factorizing their computation through one contextual latent per row and one per column. Cells no longer attend to one another directly; instead, each cell is updated through the interaction of its row and column latents, reducing repeated attention while retaining feature-specific information. FTFM achieves competitive predictive performance in tabular classification on major benchmarks such as TabArena and BeyondArena.
- Abstract(参考訳): タブラル基礎モデル(TFM)は従来の表型学習の強力な代替手段となり、タスク固有のトレーニングなしでコンテキスト内の新しいデータセットに適応している。
しかし、現在のアーキテクチャはトレードオフに直面している: セルレベルの表現を保存するモデルは、行や列をまたいで繰り返し参加するため高価である。
本稿では,1行1列,1列1列で,その計算を因数分解しながら,セル表現を保存できるFactized Tabular Foundation Models(FTFM)を紹介する。
細胞は互いに直接参加しなくなり、代わりに各細胞は行と列のラテントの相互作用によって更新され、特徴固有の情報を保持しながら繰り返し注意を減らされる。
FTFMは、TabArenaやBeyondArenaといった主要なベンチマークにおいて、表層分類における競合予測性能を達成する。
関連論文リスト
- Architecture Alignment With Sparse Priors in Tabular Foundation Models [10.863806811775069]
タブラル基礎モデル(TFM)は、コンテキスト内学習を通じて、新しいデータセットに対する強力な予測を提供するため、ますます人気が高まっている。
しかし、リリースされたTFMは、事前訓練された事前、アーキテクチャ、目的において同時に異なり、それぞれの帰納的バイアスを無視する。
アーキテクチャが無関係な機能抑制に寄与するかどうかを問う。
論文 参考訳(メタデータ) (2026-09-29T07:12:53Z) - MUL-T: Decoding Spatial Cellular Architecture in Multiplexed Tissue Images [2.2726869886741388]
MUL-Tは、組織アーキテクチャをマスク付きコンテキスト予測タスクとして再構成する軽量トランスフォーマーフレームワークである。
タスク固有の監督なしにコンテキスト化された埋め込みを学習することにより、モデルは高階の細胞間相互作用をキャプチャする。
MUL-Tは, コアレベル腫瘍パターン分類, 患者レベルグレーディング, PD-L1陽性率予測, クロスデータセット治療応答予測など, 臨床的に関係のあるいくつかの下流課題に対して評価した。
論文 参考訳(メタデータ) (2026-07-30T11:15:12Z) - The Power of Order: Fooling LLMs with Adversarial Table Permutations [49.84535222399142]
逆テーブル置換(Adversarial Table Permutation)は、モデル性能を最大限に破壊するために設計された最悪の順列を効率的に識別する勾配ベースの攻撃である。
実験の結果,ATPは広範囲のLDMの性能を著しく低下させることがわかった。
本研究は,現在のLLMが構造化データをどのように処理するかの根本的な弱点を明らかにし,信頼性の高い実世界のアプリケーションのための置換ロバストモデルの開発を急務に行う必要性を浮き彫りにした。
論文 参考訳(メタデータ) (2026-05-01T06:25:55Z) - RDBLearn: Simple In-Context Prediction Over Relational Databases [21.996337463952255]
簡単なレシピを簡単なレシピでリレーショナルな予測に拡張できることを示す。
本手法は,Scikit-learn-style estimator インタフェースを備えた使いやすいツールキットである textitRDBLearn に実装する。
RelBenchと4DBInferデータセットの広範なコレクションの中で、RDBLearnは私たちが評価した最も優れた基盤モデルアプローチです。
論文 参考訳(メタデータ) (2026-02-14T09:24:04Z) - Generalization Can Emerge in Tabular Foundation Models From a Single Table [38.07740881271672]
簡単な自己教師型事前学習は、単体の実テーブル上で、異種ベンチマーク間で驚くほど強力な転送を実現できることを示す。
次に、ほとんどのTFMが共有する事前学習手順に接続し、データセットから構築できるEmphtaskの数と品質が、下流のパフォーマンスの鍵であることを示します。
論文 参考訳(メタデータ) (2025-11-12T19:12:40Z) - Multimodal Tabular Reasoning with Privileged Structured Information [67.40011423365712]
ブリッジインfOrmation (sc Turbo) を用いたタブウラー推論(TabUlar Reasoning)について紹介する。
sc TurboはDeepSeek-R1をベースにした構造対応の推論トレースジェネレータの恩恵を受ける。
sc Turboは、複数のデータセットで最先端のパフォーマンス(+7.2%対以前のSOTA)を達成する。
論文 参考訳(メタデータ) (2025-06-04T15:46:30Z) - LaTable: Towards Large Tabular Models [63.995130144110156]
タブラル生成基盤モデルは、異なるデータセットの不均一な特徴空間のために構築が困難である。
LaTableは、これらの課題に対処し、異なるデータセットでトレーニング可能な、新しい拡散モデルである。
LaTableは、分散生成のベースラインよりも優れており、微調整されたLaTableは、より少ないサンプルで分散データセットをより良く生成できる。
論文 参考訳(メタデータ) (2024-06-25T16:03:50Z) - Rethinking Pre-Training in Tabular Data: A Neighborhood Embedding Perspective [71.45945607871715]
メタ表現(TabPTM)を用いたタブラルデータ事前学習を提案する。
中心となる考え方は、データインスタンスを共有機能空間に埋め込むことで、各インスタンスは、近隣の固定数とそのラベルまでの距離で表現される。
101データセットの大規模な実験は、微調整の有無にかかわらず、分類タスクと回帰タスクの両方においてTabPTMの有効性を確認した。
論文 参考訳(メタデータ) (2023-10-31T18:03:54Z) - TRUST: An Accurate and End-to-End Table structure Recognizer Using
Splitting-based Transformers [56.56591337457137]
本稿では,TRUSTと呼ばれるテーブル構造認識手法を提案する。
変換器は、大域的な計算、完全メモリ、並列計算のためにテーブル構造認識に適している。
我々はPubTabNetやSynthTableなど,いくつかの人気のあるベンチマークで実験を行い,新しい最先端の結果を得た。
論文 参考訳(メタデータ) (2022-08-31T08:33:36Z) - Robust (Controlled) Table-to-Text Generation with Structure-Aware
Equivariance Learning [24.233552674892906]
制御されたテーブル・トゥ・テキスト生成は、テーブルのハイライトされた部分の自然言語記述を生成する。
構造認識型自己認識機構で表を符号化する等分散学習フレームワークを提案する。
我々の技術は、既存のテーブル・ツー・テキスト生成モデルに自由にプラグインでき、T5ベースのモデルを改善し、ToTToとHiTabのパフォーマンスを改善しました。
論文 参考訳(メタデータ) (2022-05-08T23:37:27Z) - TCN: Table Convolutional Network for Web Table Interpretation [52.32515851633981]
テーブル内情報とテーブル間情報の両方を考慮した新しいテーブル表現学習手法を提案する。
カラムタイプ予測ではf1の4.8%、カラム対関係予測ではf1の4.1%で競合ベースラインを上回ることができる。
論文 参考訳(メタデータ) (2021-02-17T02:18:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。