論文の概要: PACE: Plug-and-Play Contextual Embedding for Feature Screening with Pretrained Tabular Foundation Models

• arxiv url: http://arxiv.org/abs/2609.23574v1
• Date: Sun, 20 Sep 2026 11:47:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:00.861761
• Title: PACE: Plug-and-Play Contextual Embedding for Feature Screening with Pretrained Tabular Foundation Models
• Title（参考訳）: PACE: 事前訓練されたタブラル基礎モデルによる特徴スクリーニングのためのプラグアンドプレイコンテキスト埋め込み
• Abstract要約: PACEは、わずかな追加の符号化コストだけで複雑な非線形依存の生空間スクリーニングを改善する。 PACEはさらに、タスク適合したセレクタと属性ベースのメソッドに対して、良好なパフォーマンスタイムのトレードオフを実現する。
• 参考スコア（独自算出の注目度）: 11.9800379075987
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In high-dimensional tabular learning, feature screening provides a lightweight, model-agnostic way to remove irrelevant features before model fitting. However, scoring raw values directly can miss nonlinear or distributional structure. We introduce PACE (Plug-and-Play Contextual Embedding), which inserts a frozen tabular foundation model (TFM) column encoder before an existing feature-scoring rule, expanding each feature into a higher-dimensional contextual representation. Across controlled studies, PACE improves raw-space screening of complex nonlinear dependence with only modest additional encoding cost. These gains translate to downstream prediction on TALENT datasets: PACE-DC improves binary AUC by 0.077 and multiclass macro-AUC by 0.064, with a median normalized RMSE improvement of 0.063 across ten learners. Matched random-weight and random-feature controls show that PACE gains from pretrained structure beyond generic dimensional expansion. PACE further achieves favorable performance--time trade-offs against task-fitted selectors and attribution-based methods, positioning pretrained column geometry as a reusable upstream primitive for tabular learning.
• Abstract（参考訳）: 高次元表型学習では、機能スクリーニングは、モデルフィッティングの前に無関係な機能を除去する軽量でモデルに依存しない方法を提供する。 しかし、生値を直接評価することは非線形構造や分布構造を見逃すことがある。 PACE(Plug-and-Play Contextual Embedding)を導入し、既存の特徴標示規則に先立って、凍結した表層基礎モデル(TFM)列エンコーダを挿入し、各機能を高次元の文脈表現に拡張する。 制御された研究全体で、PACEは、わずかな追加の符号化コストだけで複雑な非線形依存の生空間スクリーニングを改善する。 PACE-DCはバイナリAUCを0.077で改善し、マルチクラスマクロAUCを0.064で改善し、10人の学習者に対して平均正規化RMSEを0.063で改善した。 一致したランダム・ウェイトとランダム・フューチャー・コントロールは、PACEが一般的な次元展開を超えて事前訓練された構造から得られることを示している。 PACEはさらに、タスク適合したセレクタと属性ベースのメソッドとの良好なパフォーマンス-タイムトレードオフを実現し、事前訓練された列幾何学を表型学習のための再利用可能な上流プリミティブとして位置づける。

関連論文リスト

• EXAONE Tabular 1.0 : Technical Report [12.091751977253866]
  EXAONE Tabularは、分類と回帰のためのコンパクトモデルファミリである。 データセット固有の勾配更新なしで予測を生成する。 高い予測性能と高い効率を兼ね備えている。
  論文  参考訳（メタデータ） (2026-08-26T13:17:20Z)
• Structuring Semantic Embeddings for Principle Evaluation: A Prototype-Guided Contrastive Learning Approach [58.15427952222424]
  汎用的なテキスト埋め込みはそのようなタスクに広くデプロイされているが、意味的類似性は意味的に似ているがタスク固有の例を示すことができる。 本稿では,凍結したテキスト埋め込み上に構築された幾何正規化モジュールであるPGCL(Prototype-Guided Contrastive Learning)を紹介する。
  論文  参考訳（メタデータ） (2026-08-15T13:19:25Z)
• Balanced Adaptive Prototype Selection for Scalable TabPFN Inference on Large-Scale Tabular Data [1.9768907237963547]
  本稿では,スケーラブルなTabPFN推論のためのコンパクトな情報保存コンテキストを構築するためのフレームワークであるBa balanced Adaptive Prototype Selection (BAPS)を紹介する。 百万のHIGGSとSUSYデータセットの実験は、512のプロトタイプが強力な予測性能と信頼性のある校正を維持していることを示している。
  論文  参考訳（メタデータ） (2026-08-13T09:12:02Z)
• Miles: Metric Learning with Expandable Subspace for Pre-Trained Model-Based Class-Incremental Learning [57.237835833636154]
  本稿では,事前学習された知識の事前情報を活用するために,拡張可能なサブスペース(マイル)を用いたMetrIc Learningを提案する。 Milesは様々なCIL設定で最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2026-07-20T06:22:02Z)
• Matrix-Space Reinforcement Learning for Reusing Local Transition Geometry [25.028581947543277]
  行列空間強化学習(英: Matrix-Space Reinforcement Learning、MSRL)は、正の半定値行列記述子による軌跡セグメントを表す幾何学的抽象化である。 MSRLは0.73で、MSRLをゼロ(0.65)、TD-MPC-PT+FT(0.63)、TD-MPC(0.57)で上回っている。
  論文  参考訳（メタデータ） (2026-05-14T03:12:29Z)
• Efficient Learning of Sparse Representations from Interactions [9.381985901356922]
  従来の密集層の代わりに高次元スパース埋め込み層を学習するためのトレーニング戦略を提案する。 製品グレードの協調フィルタリングオートエンコーダELSAを改良し,推奨精度を損なうことなく,最大10倍の埋め込みサイズを実現した。
  論文  参考訳（メタデータ） (2026-02-10T16:09:58Z)
• Inverting Self-Organizing Maps: A Unified Activation-Based Framework [39.146761527401424]
  我々は,SOMの活性化パターンを逆転させて,微妙な幾何学的条件下での正確な入力を復元できることを示す。 我々は,MUSIC (Manifold-Aware Unified SOM Inversion and Control) 更新ルールを導入する。 合成ガウス混合系, MNIST と Faces in the Wild を用いたアプローチを検証した。
  論文  参考訳（メタデータ） (2026-01-20T11:02:54Z)
• A Closer Look at TabPFN v2: Understanding Its Strengths and Extending Its Capabilities [51.08999772842298]
  Tabular Prior-data Fitted Network v2 (TabPFN v2)は、さまざまな下流データセット間で、前例のないコンテキスト内学習性能を達成する。 本研究では,TabPFN v2が属性トークンをランダムに入力しても属性関係を推測可能であることを示す。 我々はTabPFN v2の制限がテスト時間分割・コンテキスト戦略によって対処できることを実証した。
  論文  参考訳（メタデータ） (2025-02-24T17:38:42Z)
• ALoRE: Efficient Visual Adaptation via Aggregating Low Rank Experts [71.91042186338163]
  ALoREは、Kroneckerによって構築された超複素パラメータ化空間をAggregate Low Rank Expertsに再利用する新しいPETL法である。 巧妙な設計のおかげで、ALoREは無視できる余分なパラメータを保持し、凍ったバックボーンに強制的にマージできる。
  論文  参考訳（メタデータ） (2024-12-11T12:31:30Z)
• Squeezeformer: An Efficient Transformer for Automatic Speech Recognition [99.349598600887]
  Conformerは、そのハイブリッドアテンション・コンボリューションアーキテクチャに基づいて、様々な下流音声タスクの事実上のバックボーンモデルである。 Squeezeformerモデルを提案する。これは、同じトレーニングスキームの下で、最先端のASRモデルよりも一貫して優れている。
  論文  参考訳（メタデータ） (2022-06-02T06:06:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。