論文の概要: Support-Compiled Feature Folding: More Evidence at Lower Memory Across Tabular Foundation Models

• arxiv url: http://arxiv.org/abs/2609.28208v2
• Date: Fri, 25 Sep 2026 15:49:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.046623
• Title: Support-Compiled Feature Folding: More Evidence at Lower Memory Across Tabular Foundation Models
• Title（参考訳）: サポートコンパイル機能フォールディング:タブラル基礎モデル全体の低メモリにおけるさらなるエビデンス
• Abstract要約: 凍結したバックボーンへのバウンドコールを通じて、広いテーブルをエンコードするトレーニング不要な推論フレームワークであるSupport-Compiled Feature Folding (SCFF)を紹介した。 SCFFはサポートランク付き機能を強力なCoreと候補のTailに整理し、それらを狭い機能グループに折り畳み、単一のコンテキスト予測の前にTailに追加されたエビデンスをチェックする。
• 参考スコア（独自算出の注目度）: 25.316091930922273
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Wide tables offer tabular foundation models more evidence, but accessing it can exhaust their memory: full-width pairwise mixing grows quadratically with the number of columns, while feature selection makes inputs affordable by discarding evidence. We ask whether using more features requires interacting over all of them at once. We introduce Support-Compiled Feature Folding (SCFF), a training-free inference framework that encodes wide tables through bounded calls to a frozen backbone. SCFF organizes support-ranked features into a strong Core and a candidate Tail, folds them into narrow feature groups, and support-checks the Tail's added evidence before a single contextual prediction. This converts quadratic feature-interaction work into linear-in-width work with a bounded local working set, without ensembling predictions or training new parameters. On the exhaustive 18-dataset wide-table slice of fixed AMLB-29, TabZilla, and TabArena snapshots, SCFF improves dataset-macro accuracy and NLL on all six evaluated backbones. All four matched-width comparisons retain favorable 95% dataset-bootstrap intervals on locked folds, with relative error reductions up to 26.1%. Median paired GPU-memory savings are 2.09-2.36x, and the ratio of separately observed maximum peaks reaches 34.3x. Under a measured peak-memory ceiling, SCFF uses the saved budget to preserve more support-selected evidence, improving accuracy by 4.06 and 3.72 points over the widest feasible single leaf on predeclared wide-Core strata of TabICLv2 and TabPFN-3.
• Abstract（参考訳）: ワイドテーブルは、表の基盤モデルにより多くのエビデンスを与えるが、それにアクセスするとメモリが枯渇する可能性がある: フル幅のペアワイドミキシングは、列の数で2倍に増加する一方、特徴選択はエビデンスを捨てて入力を安価にすることができる。 より多くの機能を使用するには、一度にすべての機能と対話する必要があるかどうかを問う。 凍結したバックボーンへのバウンドコールを通じて、広いテーブルをエンコードするトレーニング不要な推論フレームワークであるSupport-Compiled Feature Folding (SCFF)を紹介した。 SCFFはサポートランク付き機能を強力なCoreと候補のTailに整理し、それらを狭い機能グループに折り畳み、単一のコンテキスト予測の前にTailに追加されたエビデンスをチェックする。 これにより、2次的特徴-相互作用の作業は、予測や新しいパラメータのトレーニングを伴わずに、有界な局所的な作業セットで線形-幅の作業に変換される。 固定されたAMLB-29、TabZilla、TabArenaスナップショットの網羅的な18データセットのワイドテーブルスライスでは、SCFFは6つの評価バックボーンすべてでデータセット-マクロ精度とNLLを改善している。 一致する幅の4つの比較は、95%のデータセットブートストラップ間隔をロックされた折り返しで維持し、相対誤差は26.1%まで減少する。 中間対のGPUメモリの節約率は2.09-2.36xであり、分離して観測される最大ピークの比率は34.3xである。 SCFFは、ピークメモリの天井の下で、保存された予算を用いて、より支持選択された証拠を保存し、TabICLv2とTabPFN-3の事前宣言されたワイドコア層上で、最も広く実現可能な単一葉の精度を4.06と3.72ポイント向上させる。

関連論文リスト

• What Do Tabular Foundation Models Compute In Context? In-Situ Representation Refinement through Attention-Gated Updates [25.316091930922273]
  RefineICL-L24(RefineICL-L24)は、低ランクな特徴相互作用と型付きメモリを持つFFNフリーコンテキストスタックである。 ベンチマークインフォームされた継続は、38データセットのTabスナップショットで1644.8 Eloに達し、TabPFN-3より31.4 Eloである。
  論文  参考訳（メタデータ） (2026-09-23T10:54:31Z)
• On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability [57.03393882933515]
  Qwen3.8-Flash-Nextは125Bパラメータ、トークンあたり6Bアクティベートされ、加速器から保持されるn-gram埋め込みテーブルの51Bパラメータを持つスパースミックス・オブ・エキスパートモデルである。 トレーニング前の14のベンチマークでは、このモデルは前モデルの397B-A17Bを8点、残りを少なくとも2.6ポイント、アクティベートされたパラメータが1/3、トレーニングトークンが1/3、トレーニング用FLOPが1/9であった。
  論文  参考訳（メタデータ） (2026-08-31T06:35:07Z)
• Cross-Architecture Knowledge Distillation from a Vision Foundation Model to a Lightweight Visual State Space Model for Tea Leaf Disease Classification [10.122947222129108]
  DINOv2のような自己監督型ビジョンファウンデーションモデルは強力な機能を提供するが、フィールド展開には大きすぎる。 微調整DINOv2教師からコンパクトな双方向視覚空間モデルへのクロスアーキテクチャ知識の蒸留について検討した。 我々は,SSM学生が限られたデータで学習することを防ぐ2つのトレーニング安定問題を同定し,修正する。
  論文  参考訳（メタデータ） (2026-08-27T08:02:05Z)
• LimiX-2M: Mitigating Low-Rank Collapse and Attention Bottlenecks in Tabular Foundation Models [56.999481798138625]
  LimiX-2Mは2Mパラメータモデルであり、広く使われているベンチマークでTabPFN-v2とTabICLのベースラインを上回っている。 本稿では,強力なタブラル基礎モデル(TFM)のための統一トークン化・ルートフレームワークを提案する。 その結果、TFMにおける精度-効率トレードオフを改善するキーレバーとして、バリューアウェアトークン化とリードアウト整列ルーティングが強調された。
  論文  参考訳（メタデータ） (2026-06-03T06:07:33Z)
• PFF-Net: Patch Feature Fitting for Point Cloud Normal Estimation [81.94096000733127]
  点雲の頑健な正規推定のための特徴抽出の新しいアイデアを提案する。 我々は、様々なデータやジオメトリに対して適切なパッチサイズを選択する問題に対処するために、異なる近傍サイズのマルチスケール特徴の融合を利用する。 マルチスケールの特徴を集約した近似戦略により,各局所パッチのスケール適応を実現することができる。
  論文  参考訳（メタデータ） (2025-11-26T13:12:14Z)
• A Closer Look at TabPFN v2: Understanding Its Strengths and Extending Its Capabilities [51.08999772842298]
  Tabular Prior-data Fitted Network v2 (TabPFN v2)は、さまざまな下流データセット間で、前例のないコンテキスト内学習性能を達成する。 本研究では,TabPFN v2が属性トークンをランダムに入力しても属性関係を推測可能であることを示す。 我々はTabPFN v2の制限がテスト時間分割・コンテキスト戦略によって対処できることを実証した。
  論文  参考訳（メタデータ） (2025-02-24T17:38:42Z)
• Integral Continual Learning Along the Tangent Vector Field of Tasks [112.02761912526734]
  本稿では,特殊データセットからの情報を段階的に組み込んだ軽量連続学習手法を提案する。 ソースデータセットの0.4%まで小さく、小さな固定サイズのメモリバッファを保持しており、単純な再サンプリングによって更新される。 提案手法は,異なるデータセットに対して,様々なバッファサイズで高い性能を実現する。
  論文  参考訳（メタデータ） (2022-11-23T16:49:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。