論文の概要: Benchmarking Tabular Foundation Models for Conditional Density Estimation in Regression

• arxiv url: http://arxiv.org/abs/2603.26611v1
• Date: Fri, 27 Mar 2026 17:07:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-30 21:49:48.614221
• Title: Benchmarking Tabular Foundation Models for Conditional Density Estimation in Regression
• Title（参考訳）: 回帰における条件密度推定のためのベンチマークタブラリ基礎モデル
• Authors: Rafael Izbicki, Pedro L. C. Rodrigues,
• Abstract要約: 条件密度推定は、不均一性、多モード性、あるいは非対称不確実性の設定において必須である。 TabPFNやTabICLのようなテーブル基礎モデルは自然に予測分布を生成するが、汎用CDE手法としての有効性は体系的に評価されていない。 39の現実世界のデータセット上で、パラメトリック、ツリーベース、ニューラルCDEベースラインの多種多様なセットに対して、3つのモデル変種をベンチマークする。
• 参考スコア（独自算出の注目度）: 2.4816602844974835
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Conditional density estimation (CDE) - recovering the full conditional distribution of a response given tabular covariates - is essential in settings with heteroscedasticity, multimodality, or asymmetric uncertainty. Recent tabular foundation models, such as TabPFN and TabICL, naturally produce predictive distributions, but their effectiveness as general-purpose CDE methods has not been systematically evaluated, unlike their performance for point prediction, which is well studied. We benchmark three tabular foundation model variants against a diverse set of parametric, tree-based, and neural CDE baselines on 39 real-world datasets, across training sizes from 50 to 20,000, using six metrics covering density accuracy, calibration, and computation time. Across all sample sizes, foundation models achieve the best CDE loss, log-likelihood, and CRPS on the large majority of datasets tested. Calibration is competitive at small sample sizes but, for some metrics and datasets, lags behind task-specific neural baselines at larger sample sizes, suggesting that post-hoc recalibration may be a valuable complement. In a photometric redshift case study using SDSS DR18, TabPFN exposed to 50,000 training galaxies outperforms all baselines trained on the full 500,000-galaxy dataset. Taken together, these results establish tabular foundation models as strong off-the-shelf conditional density estimators.
• Abstract（参考訳）: 条件密度推定(CDE) - 与えられた表の共変量に対する応答の完全な条件分布を復元することは、不整合性、多モード性、不斉不整合性の設定において不可欠である。 最近の表層基盤モデルであるTabPFNやTabICLは、自然に予測分布を生成するが、汎用CDE法としての有効性は、ポイント予測のパフォーマンスとは異なり、体系的に評価されていない。 我々は、39の現実世界のデータセットをベースとしたパラメトリック、ツリーベース、ニューラルなCDEベースラインに対して、密度精度、キャリブレーション、計算時間を含む6つの測定値を使用して、3つの表の基盤モデル変異をベンチマークした。 すべてのサンプルサイズで、ファンデーションモデルは、テストされたほとんどのデータセット上で、最高のCDE損失、ログライクな状態、CRPSを達成する。 キャリブレーションは小さなサンプルサイズで競合するが、いくつかのメトリクスやデータセットでは、より大きなサンプルサイズでタスク固有のニューラルベースラインに遅れがあるため、ポストホックリカレーションは貴重な補完となる可能性がある。 SDSS DR18を用いた光度赤方偏移のケーススタディで、TabPFNは5万個の銀河のトレーニングを行った。 これらの結果は,厳密な既成条件密度推定器として表層基礎モデルを構築した。

関連論文リスト

• Scalable Learning of Multivariate Distributions via Coresets [48.02318786960811]
  我々は,多変量条件変換モデル(MCTM)のための新しいコアセットの構築を行い,そのスケーラビリティと訓練効率を向上させる。 提案手法は,重要サンプリングによる大幅なデータ削減を実現する。 これまでコアセットが組み込まれてきた従来のフルパラメトリックモデルと比較して,我々の半パラメトリックアプローチは適応性の向上を示す。
  論文  参考訳（メタデータ） (2026-03-20T09:28:43Z)
• TabularMath: Evaluating Computational Extrapolation in Tabular Learning via Program-Verified Synthesis [22.883505574924303]
  8KとAIMEに基づく検証プログラムから生成される114個の決定論的問題(233,472行)の診断ベンチマークであるTabularMathを提案する。 標準回帰指標では、TabPFN v2.5は、分布シフト下においてもR2=0.998の分布を達成し、正のR2を維持することができる。 丸みを帯びた一貫性(正確には整数の精度)を測定すると、別の図が現れる。 TabPFN v2.5は配布外データで10%以下に低下し、ICLは約40%を維持します。
  論文  参考訳（メタデータ） (2026-01-25T23:44:03Z)
• A recursive Bayesian neural network for constitutive modeling of sands under monotonic and cyclic loading [0.0]
  工学において、モデルは様々な排水条件、ストレスパス、ロード履歴をまたいだ土壌の挙動を捉える中心となる。 本研究では,時間列学習を一般化推論で統一する再帰的ベイズニューラルネットワーク(rBNN)フレームワークを提案する。 このフレームワークは、シミュレートされた3軸テストと実験的な3軸テストの両方にまたがる4つのデータセットに対して検証される。
  論文  参考訳（メタデータ） (2025-01-17T10:15:03Z)
• Latent Semantic Consensus For Deterministic Geometric Model Fitting [109.44565542031384]
  我々はLSC(Latent Semantic Consensus)と呼ばれる効果的な方法を提案する。 LSCは、モデルフィッティング問題をデータポイントとモデル仮説に基づく2つの潜在意味空間に定式化する。 LSCは、一般的な多構造モデルフィッティングのために、数ミリ秒以内で一貫した、信頼性の高いソリューションを提供することができる。
  論文  参考訳（メタデータ） (2024-03-11T05:35:38Z)
• Extrapolation to complete basis-set limit in density-functional theory by quantile random-forest models [0.41104099603771493]
  CBS限界に対する有限基底サイズの計算を外挿する機械学習モデルを見いだす。 完全収束計算に対する全エネルギー補正を推定するために、量子ランダムフォレストモデルを用いる。 提案手法は予測間隔も提供し,モデルの予測の不確かさを定量化する。
  論文  参考訳（メタデータ） (2023-03-26T15:43:37Z)
• Posterior Coreset Construction with Kernelized Stein Discrepancy for Model-Based Reinforcement Learning [78.30395044401321]
  我々は、強化学習(MBRL)のための新しいモデルベースアプローチを開発する。 ターゲット遷移モデルの仮定を緩和し、混合モデルの一般的な族に属する。 連続的な制御環境では、壁時計の時間を最大50%削減することができる。
  論文  参考訳（メタデータ） (2022-06-02T17:27:49Z)
• Bayesian Low-Rank Interpolative Decomposition for Complex Datasets [4.913248451323163]
  本稿では,特徴選択,低ランク近似,データ中の隠れパターンの同定によく用いられる補間分解(ID)の確率モデルを提案する。 我々は,CCLE EC50,CCLE IC50,CTRP EC50,MovieLens 100Kデータセットなど,さまざまな実世界のデータセット上でモデルを評価した。
  論文  参考訳（メタデータ） (2022-05-30T03:06:48Z)
• Test-time Batch Statistics Calibration for Covariate Shift [66.7044675981449]
  我々は,推論中に深層モデルを新しい環境に適応させることを提案する。 バッチ統計の校正に$alpha$-BNの一般的な定式化を提案する。 また、統合テスト時間適応フレームワークCoreを形成するための新しい損失関数も提示する。
  論文  参考訳（メタデータ） (2021-10-06T08:45:03Z)
• Improving Maximum Likelihood Training for Text Generation with Density Ratio Estimation [51.091890311312085]
  本稿では,テキスト生成で遭遇する大規模なサンプル空間において,効率よく安定な自動回帰シーケンス生成モデルのトレーニング手法を提案する。 本手法は,品質と多様性の両面で,最大類似度推定や他の最先端シーケンス生成モデルよりも安定に優れている。
  論文  参考訳（メタデータ） (2020-07-12T15:31:24Z)
• TraDE: Transformers for Density Estimation [101.20137732920718]
  TraDEは自己回帰密度推定のための自己アテンションに基づくアーキテクチャである。 本稿では, 生成したサンプルを用いた回帰, 分布外検出, トレーニングデータにおける雑音に対する頑健性などのタスクについて述べる。
  論文  参考訳（メタデータ） (2020-04-06T07:32:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。