論文の概要: Support-Compiled Feature Folding: More Evidence at Lower Memory Across Tabular Foundation Models

• arxiv url: http://arxiv.org/abs/2609.28208v1
• Date: Wed, 23 Sep 2026 14:45:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 00:05:18.076094
• Title: Support-Compiled Feature Folding: More Evidence at Lower Memory Across Tabular Foundation Models
• Title（参考訳）: サポートコンパイル機能フォールディング:タブラル基礎モデル全体の低メモリにおけるさらなるエビデンス
• Abstract要約: Support-Compiled Feature Foldingは、トレーニング不要の推論フレームワークである。 二次的特徴-相互作用の作業は、有界な局所作用集合を持つ線形幅の作業に変換される。 評価された6つのバックボーンすべてにおいて、データセット-マクロ精度とNLLを改善する。
• 参考スコア（独自算出の注目度）: 25.316091930922273
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Tabular foundation models face a feature-side scaling dilemma: full-width pairwise mixing grows quadratically with the number of columns, whereas feature selection saves memory by discarding evidence. We introduce Support-Compiled Feature Folding (SCFF), a training-free inference framework that resolves this dilemma without changing the frozen backbone. SCFF routes support-ranked features through bounded leaves of the native feature encoder, support-checks the residual evidence, and merges the encoded messages before a single contextual prediction. It thereby converts quadratic feature-interaction work into linear-in-width work with a bounded local working set, without ensembling predictions or training new parameters. On the exhaustive 18-dataset wide-table slice of fixed AMLB-29, TabZilla, and TabArena snapshots, SCFF improves dataset-macro accuracy and NLL on all six evaluated backbones. All four matched-width comparisons retain favorable 95 percent dataset-bootstrap intervals on locked folds, with relative error reductions up to 26.1 percent. Median paired GPU-memory savings are 2.09x to 2.36x, and the ratio of separately observed maximum peaks reaches 34.3x. Under a measured peak-memory ceiling, SCFF uses the saved budget to preserve more support-selected evidence, improving accuracy by 4.06 and 3.72 points over the widest feasible single leaf on predeclared wide-Core strata of TabICLv2 and TabPFN-3.
• Abstract（参考訳）: フル幅のペアワイドミキシングは列数で2次的に増加する一方、特徴選択はエビデンスを捨ててメモリを節約する。 凍結したバックボーンを変更せずにこのジレンマを解消するトレーニング不要な推論フレームワークであるSCFF(Support-Compiled Feature Folding)を導入する。 SCFFは、ネイティブ機能エンコーダのバウンドリーフを介してサポートランク付き機能をルーティングし、残余のエビデンスをチェックし、単一のコンテキスト予測の前にエンコードされたメッセージをマージする。 これにより、2次的特徴-相互作用の作業は、予測や新しいパラメータの訓練を伴わずに、有界な局所的な作業セットで線形-in-widthの作業に変換する。 固定されたAMLB-29、TabZilla、TabArenaスナップショットの網羅的な18データセットのワイドテーブルスライスでは、SCFFは6つの評価バックボーンすべてでデータセット-マクロ精度とNLLを改善している。 一致する幅の4つの比較は、ロックされた折り目において95%のデータセットブートストラップ間隔を保ち、相対誤差は26.1%まで減少する。 中間対のGPUメモリの節約率は2.09xから2.36xであり、分離して観測される最大ピークの比率は34.3xである。 SCFFは、ピークメモリの天井の下で、保存された予算を用いて、より支持選択された証拠を保存し、TabICLv2とTabPFN-3の事前宣言されたワイドコア層上で、最も広く実現可能な単一葉の精度を4.06と3.72ポイント向上させる。

関連論文リスト

• What Do Tabular Foundation Models Compute In Context? In-Situ Representation Refinement through Attention-Gated Updates [25.316091930922273]
  RefineICL-L24(RefineICL-L24)は、低ランクな特徴相互作用と型付きメモリを持つFFNフリーコンテキストスタックである。 ベンチマークインフォームされた継続は、38データセットのTabスナップショットで1644.8 Eloに達し、TabPFN-3より31.4 Eloである。
  論文  参考訳（メタデータ） (2026-09-23T10:54:31Z)
• On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability [57.03393882933515]
  Qwen3.8-Flash-Nextは125Bパラメータ、トークンあたり6Bアクティベートされ、加速器から保持されるn-gram埋め込みテーブルの51Bパラメータを持つスパースミックス・オブ・エキスパートモデルである。 トレーニング前の14のベンチマークでは、このモデルは前モデルの397B-A17Bを8点、残りを少なくとも2.6ポイント、アクティベートされたパラメータが1/3、トレーニングトークンが1/3、トレーニング用FLOPが1/9であった。
  論文  参考訳（メタデータ） (2026-08-31T06:35:07Z)
• Cross-Architecture Knowledge Distillation from a Vision Foundation Model to a Lightweight Visual State Space Model for Tea Leaf Disease Classification [10.122947222129108]
  DINOv2のような自己監督型ビジョンファウンデーションモデルは強力な機能を提供するが、フィールド展開には大きすぎる。 微調整DINOv2教師からコンパクトな双方向視覚空間モデルへのクロスアーキテクチャ知識の蒸留について検討した。 我々は,SSM学生が限られたデータで学習することを防ぐ2つのトレーニング安定問題を同定し,修正する。
  論文  参考訳（メタデータ） (2026-08-27T08:02:05Z)
• LimiX-2M: Mitigating Low-Rank Collapse and Attention Bottlenecks in Tabular Foundation Models [56.999481798138625]
  LimiX-2Mは2Mパラメータモデルであり、広く使われているベンチマークでTabPFN-v2とTabICLのベースラインを上回っている。 本稿では,強力なタブラル基礎モデル(TFM)のための統一トークン化・ルートフレームワークを提案する。 その結果、TFMにおける精度-効率トレードオフを改善するキーレバーとして、バリューアウェアトークン化とリードアウト整列ルーティングが強調された。
  論文  参考訳（メタデータ） (2026-06-03T06:07:33Z)
• PFF-Net: Patch Feature Fitting for Point Cloud Normal Estimation [81.94096000733127]
  点雲の頑健な正規推定のための特徴抽出の新しいアイデアを提案する。 我々は、様々なデータやジオメトリに対して適切なパッチサイズを選択する問題に対処するために、異なる近傍サイズのマルチスケール特徴の融合を利用する。 マルチスケールの特徴を集約した近似戦略により,各局所パッチのスケール適応を実現することができる。
  論文  参考訳（メタデータ） (2025-11-26T13:12:14Z)
• A Closer Look at TabPFN v2: Understanding Its Strengths and Extending Its Capabilities [51.08999772842298]
  Tabular Prior-data Fitted Network v2 (TabPFN v2)は、さまざまな下流データセット間で、前例のないコンテキスト内学習性能を達成する。 本研究では,TabPFN v2が属性トークンをランダムに入力しても属性関係を推測可能であることを示す。 我々はTabPFN v2の制限がテスト時間分割・コンテキスト戦略によって対処できることを実証した。
  論文  参考訳（メタデータ） (2025-02-24T17:38:42Z)
• Integral Continual Learning Along the Tangent Vector Field of Tasks [112.02761912526734]
  本稿では,特殊データセットからの情報を段階的に組み込んだ軽量連続学習手法を提案する。 ソースデータセットの0.4%まで小さく、小さな固定サイズのメモリバッファを保持しており、単純な再サンプリングによって更新される。 提案手法は,異なるデータセットに対して,様々なバッファサイズで高い性能を実現する。
  論文  参考訳（メタデータ） (2022-11-23T16:49:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。