論文の概要: Embedding Foundation Model Predictions in Discrete-Choice Models with Structural Guarantees
- arxiv url: http://arxiv.org/abs/2606.26432v1
- Date: Wed, 24 Jun 2026 22:44:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 18:46:32.096174
- Title: Embedding Foundation Model Predictions in Discrete-Choice Models with Structural Guarantees
- Title（参考訳）: 構造保証付き離散長モデルにおける基礎モデル予測の埋め込み
- Abstract要約: タブラル基礎モデルは選択予測タスクにおいて高い精度を達成するが、その予測は経済論理に反することが多い。
本稿では,基礎モデルの予測選択確率を事前計算機能として利用し,それを多項ロジットユーティリティに組み込む2段階アダプタを提案する。
この構成は多項ロジットの置換率を正確に保存していることを証明し、解析的に計算可能な値が数学的保証となる。
- 参考スコア（独自算出の注目度）: 12.709654635425442
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Tabular foundation models achieve strong accuracy on choice prediction tasks, but their predictions often violate the economic logic those tasks require: raising a price can increase predicted demand, implied willingness-to-pay estimates are frequently negative or implausible, and unavailable alternatives receive nonzero probability. We propose a two-stage adapter that takes a foundation model's predicted choice probabilities as a precomputed feature and embeds them inside a multinomial logit's utility. In Stage 1, we fit the multinomial logit's structural coefficients by maximum likelihood with sign constraints; in Stage 2, we freeze those coefficients and fit a small neural correction operating on the foundation model's predictions. We prove that this composition exactly preserves the multinomial logit's marginal rate of substitution, so analytically computable value-of-time becomes a mathematical guarantee rather than an empirical accident. Across three datasets and two foundation models, the adapter gains 6.4 percentage points (pp) of test accuracy on average over the multinomial logit and up to 12.8 pp, maintains 100% cost monotonicity, and produces values of time within the published transportation-economics range on the transportation datasets. Performance degrades gracefully under foundation-model context restriction, retaining at least 6 pp of accuracy gain even at 10% of the original foundation-model context.
- Abstract（参考訳）: タブラル基礎モデルは選択予測タスクにおいて高い精度を達成するが、それらの予測はこれらのタスクに必要な経済論理に反することが多い。
本稿では,基礎モデルの予測選択確率を事前計算機能として利用し,それを多項ロジットユーティリティに組み込む2段階アダプタを提案する。
ステージ1では,多項ロジットの構造係数を最大確率で符号制約に適合させ,ステージ2ではこれらの係数を凍結し,基礎モデルの予測に基づいて小さなニューラル補正を行う。
この構成は多項ロジットの置換率を正確に保存するので、解析的に計算可能な値が経験的事故ではなく数学的保証となる。
3つのデータセットと2つの基礎モデルにまたがって、このアダプタは、マルチノミカルロジットの平均テスト精度が6.4ポイント(pp)、最大12.8ppに達し、100%コストの単調性を維持し、輸送データセットで公表された輸送経済の範囲内で時間の値を生成する。
ファンデーションモデルコンテキスト制限の下では、パフォーマンスは優雅に低下し、元のファンデーションモデルコンテキストの10%において、少なくとも6ppの精度が向上する。
関連論文リスト
- Auditing and Fixing Economic Validity in Tabular Foundation Models for Discrete Choice [12.709654635425442]
タブラル基礎モデルは選択予測タスクにおいて高い精度を達成する。
しかし、彼らの予測は、それらのタスクが必要とする経済論理に反することが多い。
実用最大化フレームワークに基礎モデル予測を組み込む2段階のアダプタを提案する。
論文 参考訳（メタデータ） (2026-05-26T05:13:20Z) - Rejection via Learning Density Ratios [50.91522897152437]
拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。
そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。
私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
論文 参考訳（メタデータ） (2024-05-29T01:32:17Z) - Regression Trees for Fast and Adaptive Prediction Intervals [2.6763498831034043]
本稿では,局所的なカバレッジ保証を伴う回帰問題に対して,予測間隔を調整するための一連の手法を提案する。
回帰木とランダムフォレストを適合度スコアでトレーニングすることで分割を作成する。
提案手法は多種多様な適合性スコアや予測設定に適用できるため,多種多様である。
論文 参考訳（メタデータ） (2024-02-12T01:17:09Z) - Calibrating Neural Simulation-Based Inference with Differentiable
Coverage Probability [50.44439018155837]
ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。
古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。
既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
論文 参考訳（メタデータ） (2023-10-20T10:20:45Z) - On the Temperature of Bayesian Graph Neural Networks for Conformal
Prediction [3.4546761246181696]
コンフォーマル予測(CP)は不確実性を定量化するための有望なフレームワークを提供する。
CP は、予測セットが所望の確率を持つ真のラベルを含むことを正式な確率的保証を保証する。
より効率的な予測セットをもたらす温度の存在を実証的に実証する。
論文 参考訳（メタデータ） (2023-10-17T10:24:25Z) - Two-stage Modeling for Prediction with Confidence [0.0]
分布シフト条件下でニューラルネットワークの性能を一般化することは困難である。
本稿では,分散シフト問題に対する新しい2段階モデルを提案する。
我々のモデルは、ほとんどのデータセットに対して信頼性の高い予測を提供することを示す。
論文 参考訳（メタデータ） (2022-09-19T08:48:07Z) - Uncertainty estimation of pedestrian future trajectory using Bayesian
approximation [137.00426219455116]
動的トラフィックシナリオでは、決定論的予測に基づく計画は信頼できない。
著者らは、決定論的アプローチが捉えられない近似を用いて予測中の不確実性を定量化する。
将来の状態の不確実性に対する降雨重量と長期予測の影響について検討した。
論文 参考訳（メタデータ） (2022-05-04T04:23:38Z) - Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。
本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文 参考訳（メタデータ） (2021-10-13T01:23:48Z) - Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。
提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
論文 参考訳（メタデータ） (2021-06-07T17:44:49Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳（メタデータ） (2020-06-26T13:50:19Z) - Estimation of Accurate and Calibrated Uncertainties in Deterministic
models [0.8702432681310401]
我々は,決定論的予測を確率論的予測に変換する手法を考案した。
そのためには,そのようなモデルの精度と信頼性(校正)を損なう必要がある。
隠れたノイズを正確に回収できる合成データと、大規模な実世界のデータセットの両方について、いくつかの例を示す。
論文 参考訳（メタデータ） (2020-03-11T04:02:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。