論文の概要: TabDPT-Turbo: Efficient In-Context Learning for Tabular Prediction
- arxiv url: http://arxiv.org/abs/2608.01400v1
- Date: Sun, 02 Aug 2026 17:33:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.194546
- Title: TabDPT-Turbo: Efficient In-Context Learning for Tabular Prediction
- Title(参考訳): TabDPT-Turbo: 単語予測のための効率的なインコンテキスト学習
- Abstract要約: 文脈内学習によって駆動されるタブラル基礎モデルは、品質と人気が急速に高まっている。
Tab-Lite, CC18, CTR23上のTabDPT v1.1に匹敵するパフォーマンスを, 桁違いに高速に提供するTabDPT-Turboを提案する。
- 参考スコア(独自算出の注目度): 8.596879252293617
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Tabular foundation models, driven by in-context learning, have rapidly grown in quality and popularity. However, recent approaches with either cell-based architectures or retrieval have sacrificed efficiency for raw performance, restricting their utility in situations where compute is limited or inference speed is crucial. We adopt an alternate approach, sticking with row-based attention while incorporating long context pre-training to eliminate the need for retrieval. By combining this with architectural improvements and SSL pre-training on a newly-sourced, larger corpus of real data results, we present TabDPT-Turbo, a model that provides comparable default performance to TabDPT v1.1 on TabArena-Lite, CC18, and CTR23, at orders of magnitude faster. In our experiments, TabDPT-Turbo is the fastest model overall among leading foundation models. We have released the new model as TabDPT v1.2 at https://github.com/layer6ai-labs/TabDPT-inference.
- Abstract(参考訳): 文脈内学習によって駆動されるタブラル基礎モデルは、品質と人気が急速に高まっている。
しかし,近年のセルベースアーキテクチャや検索のアプローチは,計算能力の制限や推論速度が不可欠である状況において,性能の向上を犠牲にしている。
我々は、長いコンテキスト事前学習を取り入れながら、行ベースの注意に固執して、検索の必要をなくす、別のアプローチを採用する。
これをアーキテクチャの改善とSSLの事前トレーニングと組み合わせることで、TabArena-Lite, CC18, CTR23上のTabDPT v1.1に匹敵するパフォーマンスを、桁違いに高速に提供するモデルTabDPT-Turboを提案する。
我々の実験では、TabDPT-Turboは主要な基礎モデルの中では最速のモデルです。
私たちは新しいモデルを、https://github.com/layer6ai-labs/TabDPT-inferenceでTabDPT v1.2としてリリースしました。
関連論文リスト
- TabSwift: An Efficient Tabular Foundation Model with Row-Wise Attention [47.480923979431886]
タブラル基礎モデルは、ラベル付きトレーニング例から直接テストラベルを推測して、コンテキスト内学習を通じて予測を行う。
最近のモデルでは、ますます複雑なアーキテクチャによって精度が向上し、推論コストが高くなり、実用的なデプロイメントが制限されることが多い。
ライトウェイトな行ワイドアテンションのみのバックボーンは、2つの単純な拡張と高い競争力を維持することができることを示す。
論文 参考訳(メタデータ) (2026-06-05T14:55:30Z) - TabICLv2: A better, faster, scalable, and open tabular foundation model [18.594859017648346]
3つの柱上に構築された回帰と分類のための新しい最先端基盤モデルであるTabICLv2を紹介する。
Tabiclv2は、50GBのGPUメモリ下での百万規模のデータセットを効果的に一般化し、RealTabPFN-2.5よりも著しく高速である。
論文 参考訳(メタデータ) (2026-02-11T18:51:02Z) - End-to-End Compression for Tabular Foundation Models [20.50130399990578]
本稿では,学習データセットを潜在空間で圧縮するエンドツーエンド圧縮モデルTACOを提案する。
提案手法は推論時間で最大94倍高速で、最大97%のメモリを消費するTabArenaベンチマークでテストした。
論文 参考訳(メタデータ) (2026-02-05T13:33:58Z) - nanoTabPFN: A Lightweight and Educational Reimplementation of TabPFN [78.62756717376563]
NanoTabPFNはTabPFN v2アーキテクチャとそれに対応するトレーニングループの軽量実装である。
1つのGPUでの事前トレーニングから1分以内に、従来の機械学習ベースラインに匹敵するパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-11-05T16:52:51Z) - TabDPT: Scaling Tabular Foundation Models on Real Data [20.00390825519329]
ICLに基づく検索と自己教師付き学習を組み合わせた基礎モデルの学習手法を提案する。
事前学習フェーズに実際のデータを組み込むことで、学習が大幅に速くなり、見当たらないデータへの一般化が向上することを示す。
得られたモデルであるTabDPTは回帰 (CTR23) と分類 (CC18) のベンチマークで最高の性能を達成する。
論文 参考訳(メタデータ) (2024-10-23T18:00:00Z) - TuneTables: Context Optimization for Scalable Prior-Data Fitted Networks [90.00817095558094]
事前データ対応ネットワーク(PFN)は、事前学習とコンテキスト内学習を利用して、1つのフォワードパスで新しいタスクの強力なパフォーマンスを実現する。
我々は、大規模なデータセットをより小さな学習コンテキストに圧縮するPFNのパラメータ効率の良い微調整戦略であるTuneTablesを紹介した。
我々は、TuneTablesを解釈可能性ツールとして使用することができ、公平性目標を最適化することでバイアスを軽減することができることを示した。
論文 参考訳(メタデータ) (2024-02-17T00:02:23Z) - End-to-End Temporal Action Detection with 1B Parameters Across 1000 Frames [55.72994484532856]
時間的行動検出(TAD)は、エンドツーエンドのトレーニングで大幅に改善された。
メモリボトルネックのため、限られたスケールと限られたデータ量を持つモデルだけがエンドツーエンドのトレーニングを受けることができる。
エンド・ツー・エンドトレーニングのメモリ消費を削減し,10億のパラメータと入力映像を1,536フレームにスケールアップする。
論文 参考訳(メタデータ) (2023-11-28T21:31:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。