論文の概要: Cross-Audit Projection for Model Risk Prediction
- arxiv url: http://arxiv.org/abs/2607.02328v1
- Date: Thu, 02 Jul 2026 15:35:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-03 19:45:08.904191
- Title: Cross-Audit Projection for Model Risk Prediction
- Title(参考訳): モデルリスク予測のためのクロスオーディト・プロジェクション
- Abstract要約: 経験的リスクによる二項分類では、$K$-fold CVは、経験的評価値よりもさらに悪いクラス固有のリスクを推定する上で、不十分に機能する可能性がある。
これらの知見は、クロスオーディット・プロジェクション(CAP)と呼ばれるモデルリスク予測の新しい2段階の手順を動機付けている。
結果のCAP推定器は、二階不偏性を実現しつつ、経験的リスクと一階的に等価である。
- 参考スコア(独自算出の注目度): 0.12183405753834557
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: For training-data-based model risk prediction, $K$-fold cross-validation~(CV) is widely used to mitigate the well-known over-optimism of the empirical risk and is often regarded as reliable. However, for binary classification via empirical risk minimization, our numerical studies reveal a surprising phenomenon: $K$-fold CV may perform poorly in estimating class-specific risks, even worse than the empirical estimator. We perform a higher-order asymptotic analysis showing that $K$-fold CV may converge at a slower rate, whereas the empirical estimator exhibits a second-order asymptotic bias that explains its over-optimism. These findings motivate a novel two-step procedure for model risk prediction, termed cross-audit projection (CAP). The cross-audit step adopts the same resampling scheme as $K$-fold CV to estimate over-optimism in subsamples, while the asymptotic-theory-informed projection step adjusts for the reduced sample size in bias correction of the empirical risk. The resulting CAP estimator is first-order asymptotically equivalent to the empirical risk while achieving second-order asymptotic unbiasedness. An accompanying inference procedure is also developed. Simulation studies support theoretical advantages of CAP and demonstrate favorable finite-sample performance. An application to breast cancer detection further illustrates the proposed method.
- Abstract(参考訳): トレーニングデータに基づくモデルリスク予測では、K$-fold Cross-validation~(CV)が経験的リスクの過度な最適化を緩和するために広く使用され、しばしば信頼できると見なされる。
しかし, 実験的リスク最小化による二分法分類では, 数値計算では驚くべき現象がみられた。
我々は,K$-fold CVが緩やかな速度で収束することを示す高次漸近的分析を行う一方,経験的推定器は2次漸近的バイアスを示し,過度な最適化を説明する。
これらの知見は、クロスオーディット・プロジェクション(CAP)と呼ばれるモデルリスク予測の新しい2段階の手順を動機付けている。
クロスオーディット・ステップはサブサンプルの過最適化を推定するために$K$-fold CVと同じ再サンプリング方式を採用するが、漸近理論インフォームド・プロジェクション・ステップは、経験的リスクのバイアス補正においてサンプルサイズを小さくする。
結果のCAP推定器は、経験的リスクと漸近的に同等であり、2次漸近的不偏性を達成する。
付随する推論手順も開発されている。
シミュレーション研究はCAPの理論的優位性をサポートし、良好な有限サンプル性能を示す。
乳がん検出への応用は,提案手法をさらに具体化するものである。
関連論文リスト
- Gradient boosting for extremes: sampling theory and application to insurance [0.0]
我々は、分布の共依存一般化ピークの推定に応用した勾配促進理論を開発する。
トレーニング中の勾配相関を著しく低減し,収束安定性を向上することを示す。
勾配上昇促進手法は, 入植コスト分布の尾に適しており, 開拓までの日数が, 尾の重みの主予測因子であることを明らかにする。
論文 参考訳(メタデータ) (2026-06-12T08:51:00Z) - From Cross-Validation to SURE: Asymptotic Risk of Tuned Regularized Estimators [0.3058685580689604]
CV($n$-fold cross-validation)で調整した正規化経験的リスク最小化推定器のリスク関数を導出する。
アウト・オブ・サンプル予測損失は、スタインの非バイアスリスク推定(SURE)によって調整された収縮推定器の2乗誤差損失(リスク関数)の分布に収束する。
論文 参考訳(メタデータ) (2026-03-20T18:05:39Z) - Statistical Estimation of Adversarial Risk in Large Language Models under Best-of-N Sampling [50.872910438715486]
大規模言語モデル(LLM)は、通常、単一ショットまたは低予算の逆のプロンプトの下で安全性を評価する。
我々は,Best-of-Nサンプリングの下でのジェイルブレイク脆弱性をモデル化するための,スケーリング対応のリスク推定手法であるSABERを提案する。
論文 参考訳(メタデータ) (2026-01-30T06:54:35Z) - Prediction-Powered Causal Inferences [59.98498488132307]
予測型因果推論(PPCI)に焦点をあてる
まず, 条件付きキャリブレーションにより, 人口レベルでの有効なPPCIが保証されることを示す。
次に、実験間での十分な表現制約伝達の妥当性を導入する。
論文 参考訳(メタデータ) (2025-02-10T10:52:17Z) - Mitigating optimistic bias in entropic risk estimation and optimization with an application to insurance [5.407319151576265]
エントロピーリスク尺度は、不確実な損失に関連する尾のリスクを説明するために広く使用されている。
経験的エントロピーリスク推定器のバイアスを軽減するために, 強く一貫したブートストラップ手法を提案する。
当社の手法は、住宅所有者に対してより高い(そしてより正確な)プレミアムを示唆している。
論文 参考訳(メタデータ) (2024-09-30T04:02:52Z) - Risk and cross validation in ridge regression with correlated samples [72.59731158970894]
我々は,データポイントが任意の相関関係を持つ場合,リッジ回帰のイン・オブ・サンプルリスクのトレーニング例を提供する。
この設定では、一般化されたクロスバリデーション推定器(GCV)がサンプル外リスクを正確に予測できないことを示す。
さらに、テストポイントがトレーニングセットと非自明な相関を持つ場合、時系列予測でしばしば発生する設定にまで分析を拡張します。
論文 参考訳(メタデータ) (2024-08-08T17:27:29Z) - Model-Based Epistemic Variance of Values for Risk-Aware Policy Optimization [59.758009422067]
モデルベース強化学習における累積報酬に対する不確実性を定量化する問題を考察する。
我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式(UBE)を提案する。
本稿では,リスク・サーキングとリスク・アバース・ポリシー最適化のいずれにも適用可能な汎用ポリシー最適化アルゴリズムQ-Uncertainty Soft Actor-Critic (QU-SAC)を導入する。
論文 参考訳(メタデータ) (2023-12-07T15:55:58Z) - Mitigating multiple descents: A model-agnostic framework for risk
monotonization [84.6382406922369]
クロスバリデーションに基づくリスクモノトナイズのための一般的なフレームワークを開発する。
本稿では,データ駆動方式であるゼロステップとワンステップの2つの手法を提案する。
論文 参考訳(メタデータ) (2022-05-25T17:41:40Z) - Surrogate Assisted Semi-supervised Inference for High Dimensional Risk
Prediction [3.10560974227074]
高次元予測器を用いたリスクモデリングのためのSAS(Surrogate Assisted Semi-supervised- Learning)アプローチを開発しています。
SAS法が高次元作業モデルに起因する予測リスクに対して有効な推論を提供することを実証する。
論文 参考訳(メタデータ) (2021-05-04T03:08:51Z) - PAC$^m$-Bayes: Narrowing the Empirical Risk Gap in the Misspecified
Bayesian Regime [75.19403612525811]
この研究は、2つのリスク間のトレードオフを分散することでギャップを埋めることのできるマルチサンプル損失を開発する。
実証的研究は予測分布の改善を示す。
論文 参考訳(メタデータ) (2020-10-19T16:08:34Z) - A One-step Approach to Covariate Shift Adaptation [82.01909503235385]
多くの機械学習シナリオにおけるデフォルトの前提は、トレーニングとテストサンプルは同じ確率分布から引き出されることである。
予測モデルと関連する重みを1つの最適化で共同で学習する新しいワンステップアプローチを提案する。
論文 参考訳(メタデータ) (2020-07-08T11:35:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。