論文の概要: A principled framework for uncertainty decomposition in TabPFN
- arxiv url: http://arxiv.org/abs/2602.04596v1
- Date: Wed, 04 Feb 2026 14:23:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-05 19:45:11.568184
- Title: A principled framework for uncertainty decomposition in TabPFN
- Title(参考訳): TabPFNにおける不確実性分解の原理的枠組み
- Authors: Sandra Fortini, Kenyon Ng, Sonia Petrone, Judith Rousseau, Susan Wei,
- Abstract要約: 本研究では,TabPFNにおける不確実性分解法を提案する。
予測更新のボラティリティによって決定される分散推定器をコンテキストに沿って導出する。
分類のためにエントロピーに基づく不確実性分解を得る。
- 参考スコア(独自算出の注目度): 3.1500610747796376
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: TabPFN is a transformer that achieves state-of-the-art performance on supervised tabular tasks by amortizing Bayesian prediction into a single forward pass. However, there is currently no method for uncertainty decomposition in TabPFN. Because it behaves, in an idealised limit, as a Bayesian in-context learner, we cast the decomposition challenge as a Bayesian predictive inference (BPI) problem. The main computational tool in BPI, predictive Monte Carlo, is challenging to apply here as it requires simulating unmodeled covariates. We therefore pursue the asymptotic alternative, filling a gap in the theory for supervised settings by proving a predictive CLT under quasi-martingale conditions. We derive variance estimators determined by the volatility of predictive updates along the context. The resulting credible bands are fast to compute, target epistemic uncertainty, and achieve near-nominal frequentist coverage. For classification, we further obtain an entropy-based uncertainty decomposition.
- Abstract(参考訳): TabPFNは、ベイズ予測を1つの前方パスに補正することで、教師付き表形式タスクにおける最先端のパフォーマンスを実現するトランスフォーマーである。
しかし、TabPFNには不確実性分解の方法はない。
ベイジアン・インコンテキスト学習者として、理想的な極限で振る舞うため、ベイジアン予測推論(BPI)問題として分解課題を論じる。
BPIの主要な計算ツールである予測モンテカルロは、非モデル化された共変体をシミュレートする必要があるため、ここで適用することは困難である。
そこで我々は,準マーチンゲール条件下で予測的CLTを証明し,教師付きセッティングの理論のギャップを埋める漸近的代替手段を追求する。
予測更新のボラティリティによって決定される分散推定器をコンテキストに沿って導出する。
その結果、信頼できるバンドは高速に計算でき、疫学的な不確実性を標的にし、ほぼ無数の頻繁なカバレッジを達成する。
分類のために、エントロピーに基づく不確実性分解を得る。
関連論文リスト
- ProbFM: Probabilistic Time Series Foundation Model with Uncertainty Decomposition [0.12489632787815884]
Time Series Foundation Models (TSFMs) はゼロショット財務予測のための有望なアプローチとして登場した。
現在のアプローチでは、制限的な分布仮定に依存したり、異なる不確実性の源を詳述したり、原則化された校正機構が欠如している。
本稿では,Deep Evidential Regression (DER) を利用した変圧器を用いた新しい確率的フレームワーク ProbFM を提案する。
論文 参考訳(メタデータ) (2026-01-15T17:02:06Z) - COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。
COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。
リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
論文 参考訳(メタデータ) (2025-06-25T07:04:49Z) - Epistemic Uncertainty in Conformal Scores: A Unified Approach [2.449909275410288]
等角予測法は、分布のない保証を持つ予測帯域を生成するが、不確実性を明示的に捉えることはできない。
モデルに依存しないアプローチである $texttEPICSCORE$ を導入する。
$texttEPICSCORE$は、限られたデータを持つ領域の予測間隔を適応的に拡張し、データが豊富であるコンパクト間隔を維持します。
論文 参考訳(メタデータ) (2025-02-10T19:42:54Z) - Fundamental Computational Limits in Pursuing Invariant Causal Prediction and Invariance-Guided Regularization [11.940138507727577]
異種環境からの不変な予測は、純粋にデータ駆動の方法で因果関係を学ぶための扉を開く。
サンプル効率を推定できる既存の方法は指数時間アルゴリズムに基づいている。
本稿では,追加条件下での計算的および統計的に効率的に推定できる手法を提案する。
論文 参考訳(メタデータ) (2025-01-29T00:29:36Z) - Model-Based Epistemic Variance of Values for Risk-Aware Policy Optimization [59.758009422067]
モデルベース強化学習における累積報酬に対する不確実性を定量化する問題を考察する。
我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式(UBE)を提案する。
本稿では,リスク・サーキングとリスク・アバース・ポリシー最適化のいずれにも適用可能な汎用ポリシー最適化アルゴリズムQ-Uncertainty Soft Actor-Critic (QU-SAC)を導入する。
論文 参考訳(メタデータ) (2023-12-07T15:55:58Z) - Calibrating Neural Simulation-Based Inference with Differentiable
Coverage Probability [50.44439018155837]
ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。
古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。
既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
論文 参考訳(メタデータ) (2023-10-20T10:20:45Z) - Model-Based Uncertainty in Value Functions [89.31922008981735]
MDP上の分布によって引き起こされる値の分散を特徴付けることに重点を置いている。
従来の作業は、いわゆる不確実性ベルマン方程式を解くことで、値よりも後方の分散を境界にしている。
我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式を提案する。
論文 参考訳(メタデータ) (2023-02-24T09:18:27Z) - The Implicit Delta Method [61.36121543728134]
本稿では,不確実性のトレーニング損失を無限に正規化することで機能する,暗黙のデルタ法を提案する。
有限差分により無限小変化が近似された場合でも, 正則化による評価の変化は評価推定器の分散に一定であることを示す。
論文 参考訳(メタデータ) (2022-11-11T19:34:17Z) - Prediction Sets Adaptive to Unknown Covariate Shift [18.105704797438417]
有限サンプル被覆保証付き予測集合は非形式的であることを示す。
そこで我々は,予測セットを効率的に構築する,新しいフレキシブルな分散フリー手法PredSet-1Stepを提案する。
論文 参考訳(メタデータ) (2022-03-11T17:53:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。