論文の概要: Conformalized Deep Splines for Optimal and Efficient Prediction Sets
- arxiv url: http://arxiv.org/abs/2311.00774v1
- Date: Wed, 1 Nov 2023 18:37:07 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-03 15:53:06.079642
- Title: Conformalized Deep Splines for Optimal and Efficient Prediction Sets
- Title(参考訳): 最適かつ効率的な予測セットのための共形深層スプライン
- Authors: Nathaniel Diamant, Ehsan Hajiramezanali, Tommaso Biancalani, Gabriele
Scalia
- Abstract要約: コンフォーマル推定(SPICE)による新しいコンフォーマル回帰法であるスプライン予測区間を提案する。
実験により実証的に検証したSPICEの普遍近似と最適性を示す。
ベンチマークデータセットの結果は、SPICE-NDモデルが最小平均予測セットサイズを達成することを示す。
- 参考スコア(独自算出の注目度): 4.676979941493237
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Uncertainty estimation is critical in high-stakes machine learning
applications. One effective way to estimate uncertainty is conformal
prediction, which can provide predictive inference with statistical coverage
guarantees. We present a new conformal regression method, Spline Prediction
Intervals via Conformal Estimation (SPICE), that estimates the conditional
density using neural-network-parameterized splines. We prove universal
approximation and optimality results for SPICE, which are empirically validated
by our experiments. SPICE is compatible with two different efficient-to-compute
conformal scores, one oracle-optimal for marginal coverage (SPICE-ND) and the
other asymptotically optimal for conditional coverage (SPICE-HPD). Results on
benchmark datasets demonstrate SPICE-ND models achieve the smallest average
prediction set sizes, including average size reductions of nearly 50% for some
datasets compared to the next best baseline. SPICE-HPD models achieve the best
conditional coverage compared to baselines. The SPICE implementation is made
available.
- Abstract(参考訳): 高精度な機械学習アプリケーションでは不確実性推定が重要である。
不確かさを推定する効果的な方法の1つは共形予測(conformal prediction)である。
本稿では,ニューラル・ネットワーク・パラメトリゼーション・スプラインを用いて条件密度を推定する,新しいコンフォメーション回帰手法Spline Prediction Intervals(SPICE)を提案する。
実験により実証的に検証したSPICEの普遍近似と最適性を示す。
SPICEは2つの異なる効率的なコンフォメーションスコアと互換性があり、一方は限界カバレッジ(SPICE-ND)に最適であり、もう一方は条件カバレッジ(SPICE-HPD)に最適である。
ベンチマークデータセットの結果、SPICE-NDモデルは、次の最良ベースラインと比較して、いくつかのデータセットの平均サイズを50%近く削減するなど、最小平均予測セットサイズを達成する。
SPICE-HPDモデルはベースラインと比較して最高の条件付きカバレッジを達成する。
SPICEの実装は利用可能である。
関連論文リスト
- Conformal Prediction with Learned Features [22.733758606168873]
本稿では,予測セットの条件付き妥当性を向上させるために,PLCP(Partition Learning Conformal Prediction)を提案する。
我々は,市販の機械学習モデルを用いて,勾配の交互化によるPLCPを効率的に実装する。
4つの実世界および合成データセットに対する実験結果から,PLCPの優れた性能を示した。
論文 参考訳(メタデータ) (2024-04-26T15:43:06Z) - Efficient adjustment for complex covariates: Gaining efficiency with
DOPE [56.537164957672715]
共変量によって表現される情報のサブセットを調整可能なフレームワークを提案する。
理論的な結果に基づいて,平均処理効果(ATE)の効率的な評価を目的とした,デバイアスドアウトカム適応確率推定器(DOPE)を提案する。
その結果,DOPE は様々な観測環境において ATE 推定のための効率的かつ堅牢な手法を提供することがわかった。
論文 参考訳(メタデータ) (2024-02-20T13:02:51Z) - PAC-Bayes Generalization Certificates for Learned Inductive Conformal
Prediction [27.434939269672288]
我々はPAC-Bayes理論を用いて、集合値予測器のカバレッジと効率の一般化境界を求める。
我々はこれらの理論結果を活用し、キャリブレーションデータを用いてモデルのパラメータやスコア関数を微調整する実用的なアルゴリズムを提供する。
我々は, 回帰および分類タスクに対するアプローチの評価を行い, ICP 上の Hoeffding bound-based PAC 保証を用いて, 基準値の調整を行った。
論文 参考訳(メタデータ) (2023-12-07T19:40:44Z) - Provably Efficient Bayesian Optimization with Unbiased Gaussian Process
Hyperparameter Estimation [52.035894372374756]
目的関数の大域的最適値にサブ線形収束できる新しいBO法を提案する。
本手法では,BOプロセスにランダムなデータポイントを追加するために,マルチアームバンディット法 (EXP3) を用いる。
提案手法は, 様々な合成および実世界の問題に対して, 既存の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-12T03:35:45Z) - Uncertainty Quantification over Graph with Conformalized Graph Neural
Networks [52.20904874696597]
グラフニューラルネットワーク(GNN)は、グラフ構造化データに基づく強力な機械学習予測モデルである。
GNNには厳密な不確実性見積が欠如しており、エラーのコストが重要な設定での信頼性の高いデプロイメントが制限されている。
本稿では,共形予測(CP)をグラフベースモデルに拡張した共形GNN(CF-GNN)を提案する。
論文 参考訳(メタデータ) (2023-05-23T21:38:23Z) - Amortized Variational Inference with Coverage Guarantees [20.189430920135873]
Amortized variational inference(英語版)は、新しい観測によって高速に計算できる後部近似を生成する。
コンフォーマル化補正ニューラル変分推論(CANVI)を提案する。
CANVIは各候補に基づいて共形予測器を構築し、予測効率と呼ばれる計量を用いて予測器を比較し、最も効率的な予測器を返す。
論文 参考訳(メタデータ) (2023-05-23T17:24:04Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Efficient and Differentiable Conformal Prediction with General Function
Classes [96.74055810115456]
本稿では,複数の学習可能なパラメータに対する共形予測の一般化を提案する。
本研究は, クラス内において, ほぼ有効な人口被覆率, ほぼ最適効率を実現していることを示す。
実験の結果,提案アルゴリズムは有効な予測セットを学習し,効率を著しく向上できることがわかった。
論文 参考訳(メタデータ) (2022-02-22T18:37:23Z) - Near-optimal inference in adaptive linear regression [60.08422051718195]
最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。
我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。
我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
論文 参考訳(メタデータ) (2021-07-05T21:05:11Z) - Distributional robustness of K-class estimators and the PULSE [4.56877715768796]
古典的Kクラス推定器は、Kクラス推定器とアンカー回帰との接続を確立することにより、そのような最適性を満たすことを証明する。
データ駆動型シミュレーションKクラス推定器として効率的に計算できることを示す。
弱い楽器の設定を含むいくつかの設定があり、他の推定値よりも優れています。
論文 参考訳(メタデータ) (2020-05-07T09:39:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。