論文の概要: When Tabular Foundation Models Transfer Across Modalities: A Systematic Evaluation Across 95 Datasets, 7 Modalities, and Two Regimes

• arxiv url: http://arxiv.org/abs/2606.02106v1
• Date: Mon, 01 Jun 2026 11:36:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-02 21:34:31.891781
• Title: When Tabular Foundation Models Transfer Across Modalities: A Systematic Evaluation Across 95 Datasets, 7 Modalities, and Two Regimes
• Title（参考訳）: タブラル基礎モデルがモダリティを横断した場合:95データセット,7モダリティ,2レジームの体系的評価
• Authors: Julien Lafrance,
• Abstract要約: パイプラインは、同じ凍結した機能で強力な軽量チューニングベースラインと幅広い競争力がある。 非常に優れた専門的なモデルや、すべてのタスクで高度に調整されたパイプラインとは一致しないが、近いままであり、非常に高速で、通常はフルバックボーンの微調整よりも4倍から200倍速く、しばしば同等の品質で動作している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We present a single classification pipeline that combines an Equiangular Tight Frame (ETF) preprocessing stage with a tabular foundation model for in-context inference, applied identically across modalities once data is mapped to fixed vector representations. We evaluate it on 95 datasets spanning seven signal modalities -- vision, audio, speech, text, molecular, time-series, and tabular. The main methodological contribution is to fix the comparison object: throughout the paper, performance is judged against the strongest lightweight tuned baseline on the same frozen features, while oracle selection, deployed selection, and specialized fine-tuning are reported separately. The pipeline is broadly competitive with strong lightweight tuned baselines on the same frozen features. It does not match the very best specialized models or heavily tuned pipelines on every task, but it stays close, and it runs much faster -- typically 4 to 200 times faster than full backbone fine-tuning, often at comparable quality. We describe how to deploy the pipeline in practice: when to apply ETF preprocessing, how to stop its training without a validation split, how to set up the in-context classifier, and how to calibrate the resulting probabilities. The calibration step is non-cosmetic: TabICL produces well-calibrated probabilities by construction, ETF preprocessing initially disrupts that calibration, and the post-hoc rescaling restores it -- yielding a per-prediction confidence signal that practitioners can use as a trust threshold for confidence-gated deployment. We also report where the pipeline should not be expected to help, and how to identify those cases in advance.
• Abstract（参考訳）: 本稿では,Equiangular Tight Frame (ETF) プリプロセッシングステージと,固定ベクトル表現にデータがマッピングされたときのモーダル性で同一に適用されたテキスト内推論のための表付き基礎モデルを組み合わせた単一分類パイプラインを提案する。 我々は、視覚、音声、音声、テキスト、分子、時系列、表の7つの信号モダリティにまたがる95のデータセットでこれを評価した。 主な方法論は, 比較対象の修正である。本論文では, 同じ凍結特性における最強の軽量チューニングベースラインに対して, 性能を判定する一方で, オラクルの選択, 展開選択, 特殊微調整を別々に報告する。 パイプラインは、同じ凍結した機能で強力な軽量チューニングベースラインと幅広い競争力がある。 非常に優れた専門的なモデルや、すべてのタスクで高度に調整されたパイプラインとは一致しないが、近いままであり、非常に高速で、通常はフルバックボーンの微調整よりも4倍から200倍速く、しばしば同等の品質で動作している。 ETF前処理の適用方法、検証分割なしでトレーニングを停止する方法、コンテキスト内分類器のセットアップ方法、結果の確率の校正方法など、パイプラインを実際にデプロイする方法を説明します。 キャリブレーションのステップは非コスメティックで、TabICLは建設によってよく校正された確率を生成し、ETF前処理は当初はキャリブレーションを中断し、ポストホック再スケーリングはそれを復元する。 また、パイプラインがどこに役に立たないかを報告し、これらのケースを事前に特定する方法を報告します。

関連論文リスト

• Self-Improving In-Context Learning [3.9202238580555417]
  本稿では,短時間の即時テストの埋め込みを最適化し,文脈内学習を改善することを提案する。 我々はこの信号を有界自己監督キャリブレーション法として定式化する。 ICLタスクの包括的なスイート全体において、提案されたキャリブレーションはベースモデルを改善したり、一致させたりすることで、ほとんどのタスクにおける分類固有のベースラインを一貫して上回る。
  論文  参考訳（メタデータ） (2026-05-22T03:01:34Z)
• Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
  マルチモーダル学習は、しばしば低品質データの課題に悩まされる。 コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。 私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
  論文  参考訳（メタデータ） (2026-05-05T14:48:52Z)
• Active In-Context Learning for Tabular Foundation Models [0.675253870287079]
  Tabular Active In-Context Learning (Tab-AICL) を形式化し、4つの取得ルールでインスタンス化する。 20の分類ベンチマークで、Tab-AICLは、トレーニングされた勾配ブースティングベースラインよりもコールドスタートサンプル効率を改善する。
  論文  参考訳（メタデータ） (2026-03-28T19:37:13Z)
• Scaling Unverifiable Rewards: A Case Study on Visual Insights [29.54766251030519]
  大規模言語モデル(LLM)エージェントは、テスト時間スケーリング(TTS)を通じて複雑な推論を自動化することができる。 Selective TTSは、マルチエージェントパイプラインの異なるステージにまたがって推論をスケールするプロセスベースの精錬フレームワークである。 提案した選択的TSは,計算予算の固定化により洞察品質を向上し,平均スコアを61.64から65.86に向上し,分散を低減した。
  論文  参考訳（メタデータ） (2025-12-27T17:01:38Z)
• Winning the Pruning Gamble: A Unified Approach to Joint Sample and Token Pruning for Efficient Supervised Fine-Tuning [71.30276778807068]
  サンプルプルーニングとトークンプルーニングを戦略的に協調する統合フレームワークを提案する。 Q-Tuningは、トレーニングデータの12.5%しか使用せず、全データSFTベースラインに対する平均38%の改善を実現している。
  論文  参考訳（メタデータ） (2025-09-28T13:27:38Z)
• BayesTTA: Continual-Temporal Test-Time Adaptation for Vision-Language Models via Gaussian Discriminant Analysis [41.09181390655176]
  CLIPのような視覚言語モデル(VLM)は、強いゼロショット認識を実現するが、実世界のシナリオに共通する時空間的な分散シフトの下で大幅に劣化する。 テスト分布が時間とともに徐々に変化するCT-TTA(textitContinal-Temporal Test-Time Adaptation)として、この実践的問題を定式化する。 我々は、時間的に一貫した予測を実行し、視覚表現を動的に調整する、ベイズ適応フレームワークであるtextitBayesTTAを提案する。
  論文  参考訳（メタデータ） (2025-07-11T14:02:54Z)
• Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
  クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。 我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
  論文  参考訳（メタデータ） (2023-12-27T09:03:43Z)
• Sequential Kernelized Independence Testing [77.237958592189]
  我々は、カーネル化依存度にインスパイアされたシーケンシャルなカーネル化独立試験を設計する。 シミュレーションデータと実データの両方にアプローチのパワーを実証する。
  論文  参考訳（メタデータ） (2022-12-14T18:08:42Z)
• Robust Continual Test-time Adaptation: Instance-aware BN and Prediction-balanced Memory [58.72445309519892]
  テストデータストリーム以外のデータストリームに対して堅牢な新しいテスト時間適応方式を提案する。 a)分布外サンプルの正規化を修正するIABN(Instance-Aware Batch Normalization)と、(b)クラスバランスのない方法で非i.d.ストリームからのデータストリームをシミュレートするPBRS(Predict- Balanced Reservoir Sampling)である。
  論文  参考訳（メタデータ） (2022-08-10T03:05:46Z)
• Pre-training Is (Almost) All You Need: An Application to Commonsense Reasoning [61.32992639292889]
  事前学習されたトランスモデルの微調整は、一般的なNLPタスクを解決するための標準的なアプローチとなっている。 そこで本研究では,可視性ランキングタスクをフルテキスト形式でキャストする新たなスコアリング手法を提案する。 提案手法は, ランダム再起動にまたがって, より安定した学習段階を提供することを示す。
  論文  参考訳（メタデータ） (2020-04-29T10:54:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。