論文の概要: GIST: Generator-state-Informed Supervision for Tabular Foundation Models

• arxiv url: http://arxiv.org/abs/2610.12904v1
• Date: Fri, 09 Oct 2026 02:52:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.361271
• Title: GIST: Generator-state-Informed Supervision for Tabular Foundation Models
• Title（参考訳）: GIST: タブラルファウンデーションモデルのためのジェネレータ状態インフォームド・スーパービジョン
• Abstract要約: 我々は,条件付きラベル分布に対するクエリ損失を平均化するために,TFM(Generator-state-Informed Supervision for TFMs)を提案する。 GISTはアーキテクチャや推論を変更することなく、TabArenaとTALENTの3つのアーキテクチャの平均ランクを改善している。
• 参考スコア（独自算出の注目度）: 7.531190803296963
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Tabular foundation models (TFMs) based on prior-data fitted networks typically use sampled hard query labels, leaving avoidable sampling variability in pretraining. A key observation is that intermediate generator states can reveal label uncertainty beyond a sampled outcome. We propose Generator-state-Informed Supervision for TFMs (GIST), which uses these states to average query losses over conditional label distributions. GIST jointly designs task generation and query supervision, using entropy-calibrated encodings to obtain tractable, input-consistent targets on supported label-dependent branches. We show that this averaging preserves the population objective and yields no larger gradient covariance at fixed parameters within each generating distribution. Under matched pretraining schedules, GIST improves mean rank across three architectures on both TabArena and TALENT without changing architecture or inference. Across these benchmarks and architectures, GIST wins 62.1% of paired dataset-level comparisons against the corresponding hard-label controls.
• Abstract（参考訳）: 事前データ適合型ネットワークに基づくタブラル基礎モデル(TFM)は、通常、サンプリングされたハードクエリラベルを使用し、事前トレーニングで回避可能なサンプリングのばらつきを残している。 重要な観察は、中間生成状態はサンプル結果を超えるラベルの不確実性を明らかにすることができることである。 我々は,これらの状態を用いて条件付きラベル分布に対するクエリ損失を平均化する,TFM(Generator-State-Informed Supervision for TFMs)を提案する。 GISTはタスク生成とクエリ管理を共同で設計し、エントロピー校正エンコーディングを使用して、サポート対象のラベル依存ブランチ上で、トラクタブルでインプット一貫性のあるターゲットを得る。 この平均化は人口目標を保ち、各生成分布内の固定パラメータにおいて大きな勾配共分散を生じないことを示す。 一致した事前トレーニングスケジュールの下では、GISTはアーキテクチャや推論を変更することなく、TabArenaとTALENTの3つのアーキテクチャの平均ランクを改善している。 これらのベンチマークとアーキテクチャ全体で、GISTは62.1%のデータセットレベル比較を、対応するハードラベルコントロールと比較している。

関連論文リスト

• Structure-Aware Graph Abstention for Reliable Selective Forecasting [0.838951778235462]
  構造ゲーティングを用いて選択的なMSEとTEMを一致した範囲で削減する。 我々のベンチマークでは、クロス変数構造がより意味のあるように見える最大の利得は普遍的ではなく、補完的な棄権信号を示している。
  論文  参考訳（メタデータ） (2026-10-06T13:23:51Z)
• NodeGround: A Node Classification Benchmark in the Graph Foundation Model Era [8.331524801839162]
  グラフ基礎モデル(GFM)とデータセット固有の教師あり学習を共通評価フレームワークに組み込んだノード分類ベンチマークであるNodeGroundを提案する。 このベンチマークは51のデータセットにまたがり、6つのGFMと15の教師付きメソッドを2つのラベルアベイラビリティ・レギュレーションで評価する。 結果は、グラフニューラルネットワーク全体を慎重に調整することを好む。
  論文  参考訳（メタデータ） (2026-09-30T13:06:59Z)
• Loss-Guided Pretraining Data Selection for Time-Series Foundation Models [19.58479715166882]
  時系列基礎モデル(TSFM)は、数十億の観測を含む異種コレクションに事前訓練されている。 静的なデータ選択フレームワークを導入し、各ウィンドウを基準予測器でスコアし、各ソースデータセットに中間間隔を保持する。 次に、基準損失スコアを定義し、サンプルの多様性を維持するためにデータセット階層化選択を適用する。
  論文  参考訳（メタデータ） (2026-09-29T11:08:45Z)
• Keep It on a Leash: Controllable Pseudo-label Generation Towards Realistic Long-Tailed Semi-Supervised Learning [88.48555005545694]
  ラベル付きデータセットから信頼できる擬似ラベルでラベル付きデータセットを拡張するための制御可能な擬似ラベル生成(CPG)フレームワークを提案する。 CPGは制御可能な自己強化最適化サイクルを介して動作する。 CPGは、最先端のメソッドを最大$textbf15.97%の精度で上回り、一貫した改善を実現している。
  論文  参考訳（メタデータ） (2025-10-05T01:52:19Z)
• Leveraging Instance Features for Label Aggregation in Programmatic Weak Supervision [75.1860418333995]
  Programmatic Weak Supervision (PWS) は、トレーニングラベルを効率的に合成するための広く普及したパラダイムとして登場した。 PWSのコアコンポーネントはラベルモデルであり、複数のノイズ管理ソースの出力をラベル関数として集約することで、真のラベルを推論する。 既存の統計ラベルモデルは一般的にLFの出力のみに依存し、基礎となる生成過程をモデル化する際のインスタンスの特徴を無視している。
  論文  参考訳（メタデータ） (2022-10-06T07:28:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。