論文の概要: Tydra: An Efficient Hybrid Model for Tabular Data

• arxiv url: http://arxiv.org/abs/2608.21199v1
• Date: Fri, 21 Aug 2026 15:15:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-24 14:49:32.615839
• Title: Tydra: An Efficient Hybrid Model for Tabular Data
• Title（参考訳）: Tydra: 語彙データのための効率的なハイブリッドモデル
• Abstract要約: 本稿では,テキスト内学習のためのハイブリッドトランスフォーマー-状態空間モデル(SSM)アーキテクチャであるTydraを紹介する。 30のOpenMLデータセットに対して、Tydraは予測性能の大部分を維持しながら、TabPFNと比較して推論時間を30%削減する。
• 参考スコア（独自算出の注目度）: 35.34976827154068
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Transformer-based tabular foundation models such as TabPFN achieve strong predictive performance but incur quadratic computational cost with context length. On the other hand, subquadratic SSM-based alternatives such as Hydra trade away accuracy for efficiency. To balance both, we introduce Tydra, a hybrid Transformer-State Space Model (SSM) architecture for tabular in-context learning that interleaves attention and SSM layers. Across 30 OpenML datasets, Tydra reduces inference time by 30% relative to TabPFN while retaining much of its predictive performance. Tydra also outperforms an approximately ten-times-larger Hydra model while providing faster inference. The results indicate that hybrid architectures are a promising direction for tabular foundation models.
• Abstract（参考訳）: TabPFNのようなトランスフォーマーベースの表層基礎モデルは、強い予測性能を実現するが、文脈長で2次計算コストがかかる。 一方、HydraのようなサブクアッドラティックなSSMベースの代替品は、効率性のために正確性を排除している。 両者のバランスをとるために、Tydraは、注意とSSM層をインターリーブする表型インコンテキスト学習のためのハイブリッドトランスフォーマー・ステート・スペース・モデル(SSM)アーキテクチャである。 30のOpenMLデータセットに対して、Tydraは予測性能の大部分を維持しながら、TabPFNと比較して推論時間を30%削減する。 Tydraはまた、より高速な推論を提供しながら、およそ10倍のHydraモデルを上回っている。 その結果,ハイブリッドアーキテクチャは表層基礎モデルにとって有望な方向であることが示唆された。

関連論文リスト

• TabPFN-3: Technical Report [76.55249061301969]
  TabPFN-3はTabPFN上に構築され、1Mのトレーニング行を持つデータセットに最先端のパフォーマンスを拡大し、トレーニングと推論時間を大幅に短縮する。 TabPFN-3は、我々の以前の合成データのみに制限され、表の予測のフロンティアを劇的に押し上げます。 当社のAPIが提供するTabPFN-3-Plus(Thinking)では,TabArena上で200Elo以上の非TabPFNモデルに対して,これを活用しています。
  論文  参考訳（メタデータ） (2026-05-13T18:01:43Z)
• Latent Chain-of-Thought Improves Structured-Data Transformers [26.742304109602614]
  本稿では,遅延連鎖と,構造データに対する深さとループの影響について検討する。 我々は、潜在チェーン・オブ・シントが構造化データに対するテスト時間計算のスケーリングに有用な軸であることを示している。
  論文  参考訳（メタデータ） (2026-05-11T21:41:21Z)
• Mitra: Mixed Synthetic Priors for Enhancing Tabular Foundation Models [85.64873567417396]
  実世界のデータに対して,その多様性,特異性,および性能のために選択された合成前駆体の硬化した混合物をトレーニングしたTFMであるMitraを紹介する。 Mitraは、TabPFNv2やTabICLのような最先端のTFMを、分類と回帰のベンチマークで一貫して上回っている。
  論文  参考訳（メタデータ） (2025-10-24T07:15:06Z)
• State-Space Models for Tabular Prior-Data Fitted Networks [1.9815629827604246]
  本研究では,TabPFNにおけるトランスフォーマーの代替として,双方向線形時間構造状態空間モデルであるHydraを用いる可能性を検討する。 実験により,本手法は順序依存性を低減し,従来のTabPFNモデルと競合する予測性能を実現する。
  論文  参考訳（メタデータ） (2025-10-16T11:31:51Z)
• Measuring LLM Sensitivity in Transformer-based Tabular Data Synthesis [0.451520252387513]
  トランスフォーマーベースのモデルは、データ品質の点で他の最先端モデルよりも優れている。 高い計算コストは、プロサマーハードウェアを持つエンドユーザーには実現不可能な場合があります。 GReaTは、REaLTabFormerよりも低いランタイムを一貫して達成し、最も大きなデータセットでしか実行できない。
  論文  参考訳（メタデータ） (2025-09-25T05:48:48Z)
• A Survey on Deep Tabular Learning [0.0]
  タブラルデータは、その不均一な性質と空間構造が欠如していることから、深層学習の独特な課題を提示する。 本調査では,早期完全接続ネットワーク(FCN)から,TabNet,SAINT,TabTranSELU,MambaNetといった先進アーキテクチャに至るまで,タブラルデータのディープラーニングモデルの進化を概観する。
  論文  参考訳（メタデータ） (2024-10-15T20:08:08Z)
• Team up GBDTs and DNNs: Advancing Efficient and Effective Tabular Prediction with Tree-hybrid MLPs [20.67800392863432]
  タブラルデータセットは、様々なアプリケーションにおいて重要な役割を果たす。 強化決定木(GBDT)とディープニューラルネットワーク(DNN)の2つの顕著なモデルタイプは、異なる予測タスクでパフォーマンス上のアドバンテージを示している。 本稿では,GBDTとDNNの両方の利点を両立させる新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-13T07:13:32Z)
• Generative Table Pre-training Empowers Models for Tabular Prediction [71.76829961276032]
  本稿では,テーブル事前学習を利用した最初の試みであるTapTapを提案する。 TapTapは、プライバシ保護、リソースの低さ、価値計算の欠如、不均衡な分類など、さまざまなアプリケーションをサポートするための高品質な合成テーブルを生成することができる。 LightGBM、Multilayer Perceptron (MLP)、Transformerなどのバックボーンモデルと簡単に組み合わせることができる。
  論文  参考訳（メタデータ） (2023-05-16T06:37:38Z)
• Learning Large-scale Subsurface Simulations with a Hybrid Graph Network Simulator [57.57321628587564]
  本研究では3次元地下流体の貯留層シミュレーションを学習するためのハイブリッドグラフネットワークシミュレータ (HGNS) を提案する。 HGNSは、流体の進化をモデル化する地下グラフニューラルネットワーク(SGNN)と、圧力の進化をモデル化する3D-U-Netで構成されている。 産業標準地下フローデータセット(SPE-10)と1100万セルを用いて,HGNSが標準地下シミュレータの18倍の推算時間を短縮できることを実証した。
  論文  参考訳（メタデータ） (2022-06-15T17:29:57Z)
• Fast, Accurate, and Simple Models for Tabular Data via Augmented Distillation [97.42894942391575]
  本研究では、FAST-DADを用いて、任意の複雑なアンサンブル予測を、高木、無作為林、深層ネットワークなどの個々のモデルに抽出する。 我々の個々の蒸留モデルは、H2O/AutoSklearnのようなAutoMLツールが生成するアンサンブル予測よりも10倍高速で精度が高い。
  論文  参考訳（メタデータ） (2020-06-25T09:57:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。