論文の概要: Posterior Frequencies and the Cost of Not Fitting: A Correction to a Memorization Lower Bound
- arxiv url: http://arxiv.org/abs/2610.20402v1
- Date: Wed, 14 Oct 2026 16:04:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.245329
- Title: Posterior Frequencies and the Cost of Not Fitting: A Correction to a Memorization Lower Bound
- Title(参考訳): 後部周波数と不適合コスト--覚醒下界の補正
- Abstract要約: フェルドマンの暗記の下限は、トレーニングサンプルにどれだけの頻度で点が現れるかに基づいて周波数係数を割り当てる。
サンプリング前の一連の配列は、提案されたペナルティと実際の過剰リスクの比率を指数関数的に増加させる。
フルサンプル後部確率を用いて正確な置換を行う。
- 参考スコア(独自算出の注目度): 3.6095388702618405
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Feldman's memorization lower bound assigns a frequency coefficient based on how often a point appears in the training sample. We give an exact three-point counterexample to its conditional and averaged forms, using independent fair labels and a permutation-equivariant learner. A sequence of sampling priors makes the ratio of the proposed penalty to actual excess risk grow exponentially, ruling out a universal positive constant-factor repair. The priors vary with sample size, the offending profiles become rare, and both quantities vanish. Retaining the original model, we obtain an exact replacement using full-sample posterior probabilities. Under exchangeability, these depend on multiplicity and the complete frequency profile. We characterize the largest multiplicity-only coefficients valid for unrestricted learners. The original coefficient has the posterior-mean form of Good's exact frequency formula and is an occupancy-weighted average of the corrected coefficients.
- Abstract(参考訳): フェルドマンの暗記の下限は、トレーニングサンプルにどれだけの頻度で点が現れるかに基づいて周波数係数を割り当てる。
我々は,その条件付きおよび平均化された形式に対して,独立したフェアラベルと置換同変学習器を用いて,正確に3点の逆例を与える。
サンプリング前の一連の配列は、提案されたペナルティと実際の過剰リスクの比率を指数関数的に増加させ、普遍的な正の定数補修を除外する。
前者はサンプルサイズによって異なり、違反するプロファイルは希になり、両方の量が消滅する。
元のモデルを維持したまま、フルサンプル後部確率を用いた正確な置換が得られる。
交換性の下では、これらは多重度と完全周波数プロファイルに依存する。
制限のない学習者に対して有効な最大多重度のみの係数を特徴付ける。
元の係数はグッドの正確な周波数式の後平均形を持ち、補正された係数の占有重み付き平均である。
関連論文リスト
- Sharp training-conditional coverage for conformal prediction under covariate shift [0.0]
重み付き分割共形予測リウェイト 度合による校正スコア
キャリブレーションデータに基づくカバレッジ条件について検討する。
2点下界は、ルートmレートとカイ二乗寄与がシフトに固有のものであることを示している。
論文 参考訳(メタデータ) (2026-09-27T11:08:32Z) - SoftCVI: Contrastive variational inference with self-generated soft labels [2.5398014196797614]
変分推論とマルコフ連鎖モンテカルロ法がこのタスクの主要なツールである。
ソフトコントラスト変動推論(SoftCVI)を導入し、コントラスト推定フレームワークを用いて変動対象のファミリーを導出する。
我々は、SoftCVIを用いて、訓練や大量発見に安定な目標を定式化することができ、他の変分アプローチよりも頻繁に優れた推論が可能であることを発見した。
論文 参考訳(メタデータ) (2024-07-22T14:54:12Z) - Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。
本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。
これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
論文 参考訳(メタデータ) (2024-06-05T13:36:38Z) - Instance-Dependent Generalization Bounds via Optimal Transport [51.71650746285469]
既存の一般化境界は、現代のニューラルネットワークの一般化を促進する重要な要因を説明することができない。
データ空間における学習予測関数の局所リプシッツ正則性に依存するインスタンス依存の一般化境界を導出する。
ニューラルネットワークに対する一般化境界を実験的に解析し、有界値が有意義であることを示し、トレーニング中の一般的な正規化方法の効果を捉える。
論文 参考訳(メタデータ) (2022-11-02T16:39:42Z) - Universal Off-Policy Evaluation [64.02853483874334]
ユニバーサルオフ政治推定器(UnO)への第一歩を踏み出す
我々は, 平均, 分散, 分位数/中間数, 分位数範囲, cvar, および累積分布全体の推定と同時結合に uno を用いる。
論文 参考訳(メタデータ) (2021-04-26T18:54:31Z) - Detecting Label Noise via Leave-One-Out Cross Validation [0.0]
クリーンなサンプルと破損したサンプルの混合から実値のノイズラベルを同定し,修正するための簡単なアルゴリズムを提案する。
独立分散を伴う付加的なガウス雑音項をそれぞれと観測されたラベルに関連付けるヘテロ代用ノイズモデルを用いる。
提案手法は, 合成および実世界の科学データを用いた学習において, 劣化したサンプルを特定でき, より良い回帰モデルが得られることを示す。
論文 参考訳(メタデータ) (2021-03-21T10:02:50Z) - Tracking disease outbreaks from sparse data with Bayesian inference [55.82986443159948]
新型コロナウイルス(COVID-19)のパンデミックは、感染発生時の感染率を推定する新たな動機を与える。
標準的な手法は、より細かいスケールで共通する部分的な観測可能性とスパースなデータに対応するのに苦労する。
原理的に部分観測可能なベイズ的枠組みを提案する。
論文 参考訳(メタデータ) (2020-09-12T20:37:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。