論文の概要: When Is Accuracy Evidence? A Unified Theory of Generalisation, Validation, and Information Fusion
- arxiv url: http://arxiv.org/abs/2610.03465v1
- Date: Fri, 02 Oct 2026 15:40:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:30.45596
- Title: When Is Accuracy Evidence? A Unified Theory of Generalisation, Validation, and Information Fusion
- Title(参考訳): 正確性はいつ証明されるか : 一般化・検証・情報融合の統一理論
- Abstract要約: クロス・アッパーバウンド・バリデーション(CUBV)は、真のリスクに対する保守的なアッパーバウンドによってポイントワイドCVの精度を置き換える。
折り畳み方向のギャップ間の依存性は、結合したガウス代用行列によってモデル化される。
低次元の小さなサンプル設定では、個々の折りたたみモードが非表現のマイノリティモードであるため、K折り畳みは不確実性を高めることができる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: K-fold cross-validation (CV) is widely used as evidence of out-of-sample performance, although folds are neither independent experiments nor equally informative under heterogeneous data. Cross Upper-Bound Validation (CUBV) replaces point-wise CV accuracy by conservative upper bounds on true risk. Here we generalise CUBV through a single exponential framework in which the moment-generating function of the generalisation gap is controlled by a cumulant envelope gamma(lambda). This yields a family of risk bounds covering Hoeffding-, Bernstein-, dependency-aware, PAC-Bayesian, and heterogeneous source-fusion settings. For K-fold CV, dependence between fold-wise gaps is modelled through a joint sub-Gaussian proxy matrix. Under equicorrelation, this gives an effective number of folds, Keff = K/[1+(K-1)rho], showing that increasing K does not necessarily increase statistical evidence when folds are strongly dependent. The framework is also extended to posterior distributions over predictors and weighted multi-source fusion, where weights are selected by minimising an upper bound on future risk rather than empirical error alone. Experiments with trained linear classifiers on heterogeneous multimodal Gaussian mixtures compare K-fold CV with full-sample resubstitution plus risk correction. Bounds are evaluated by coverage and tightness. In low-dimensional small-sample settings, K-fold partitioning can increase uncertainty because individual folds under-represent minority modes, while corrected resubstitution can remain valid and tighter; this effect disappears as sample size increases. Overall, gamma-CUBV separates observed performance, uncertainty, dependence, model complexity, and confidence into explicit terms, providing a unified route from CV scores to risk statements and a principled validation criterion for heterogeneous small-sample applications such as neuroimaging.
- Abstract(参考訳): K-fold cross-validation (CV) はサンプル外性能の証拠として広く用いられているが、フォールドは独立した実験でも、異種データでも等しく有益ではない。
クロス・アッパーバウンド・バリデーション(CUBV)は、真のリスクに対する保守的なアッパーバウンドによってポイントワイドCVの精度を置き換える。
ここでは、一般化ギャップのモーメント生成関数が累積エンベロープガンマ(ラムダ)によって制御される単一の指数的フレームワークを通してCUBVを一般化する。
これにより、Hoeffding-、Bernstein-、Dependency-aware、PAC-Bayesian、および異種ソース融合設定をカバーするリスク境界のファミリーが得られる。
K-折りたたみCVでは、フォールドワイドギャップ間の依存性は、結合した準ガウスのプロキシマトリックスによってモデル化される。
等相関の下では、これは有効数の折りたたみを与える、Keff = K/[1+(K-1)rho] は、折りたたみが強く依存する場合、Kの増加が必ずしも統計的証拠を増大させるわけではないことを示す。
このフレームワークはまた、予測器と重み付けされた多ソース核融合による後部分布にも拡張され、そこでは、経験的エラー単独ではなく、将来のリスクに対する上限を最小化することによって重みが選択される。
ヘテロジニアス多モードガウス混合系の線形分類器を用いた実験では、K型CVとフルサンプル置換とリスク補正を比較した。
境界はカバレッジと厳密さによって評価される。
低次元の小さなサンプル環境では、個々の折り畳みが少数派モードで表されるため、K折り畳みは不確実性を高めるが、修正された置換はより有効で厳密であり、サンプルサイズが大きくなるにつれてこの効果は消失する。
全体として、ガンマ-CUBVは観察された性能、不確実性、依存、モデル複雑さ、信頼を明示的な用語に分離し、CVスコアからリスクステートメントへの統一された経路と、ニューロイメージングのような異種小サンプルアプリケーションに対する原則化された検証基準を提供する。
関連論文リスト
- Sharp training-conditional coverage for conformal prediction under covariate shift [0.0]
重み付き分割共形予測リウェイト 度合による校正スコア
キャリブレーションデータに基づくカバレッジ条件について検討する。
2点下界は、ルートmレートとカイ二乗寄与がシフトに固有のものであることを示している。
論文 参考訳(メタデータ) (2026-09-27T11:08:32Z) - Causal Variational Deep Embedding: A Family of Interventional Generators for Confounded Images [23.146237151956765]
CauVaDEは多様な介入サンプルを生成し、未確立の参照に対してFIDを改善している。
画像データベンチマークの実験では、CauVaDEは様々な介入サンプルを生成し、未確立の参照に対してFIDを改善している。
論文 参考訳(メタデータ) (2026-06-19T23:59:14Z) - How Useful is Causal Invariance for Domain Adaptation in Finite-Sample Settings? [58.740078141879984]
機械学習モデルは、トレーニングされたソースディストリビューションとは異なるターゲットディストリビューションにデプロイされると、しばしば劣化する。
因果関係に基づく領域一般化における最近の研究は、共用因果構造が不変な予測因子を誘導する方法を示している。
本稿では,完全あるいは部分的な因果知識が,教師付きドメイン適応を確実に改善できるかどうかについて検討する。
論文 参考訳(メタデータ) (2026-06-10T21:07:49Z) - From Cross-Validation to SURE: Asymptotic Risk of Tuned Regularized Estimators [0.3058685580689604]
CV($n$-fold cross-validation)で調整した正規化経験的リスク最小化推定器のリスク関数を導出する。
アウト・オブ・サンプル予測損失は、スタインの非バイアスリスク推定(SURE)によって調整された収縮推定器の2乗誤差損失(リスク関数)の分布に収束する。
論文 参考訳(メタデータ) (2026-03-20T18:05:39Z) - Risk and cross validation in ridge regression with correlated samples [72.59731158970894]
我々は,データポイントが任意の相関関係を持つ場合,リッジ回帰のイン・オブ・サンプルリスクのトレーニング例を提供する。
この設定では、一般化されたクロスバリデーション推定器(GCV)がサンプル外リスクを正確に予測できないことを示す。
さらに、テストポイントがトレーニングセットと非自明な相関を持つ場合、時系列予測でしばしば発生する設定にまで分析を拡張します。
論文 参考訳(メタデータ) (2024-08-08T17:27:29Z) - Is K-fold cross validation the best model selection method for Machine Learning? [0.0]
K-fold cross-validation (CV) は、機械学習の結果が偶然に生成される可能性を確認する最も一般的な手法である。
K-fold CVと実際のリスクの上界(K-fold CUBV)に基づく新しい統計試験が提案されている。
論文 参考訳(メタデータ) (2024-01-29T18:46:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。