論文の概要: Sharp Bounds on the Winner's Bias under Independent and Nonnegatively Correlated Noise
- arxiv url: http://arxiv.org/abs/2610.31948v1
- Date: Thu, 22 Oct 2026 21:48:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 01:38:06.302002
- Title: Sharp Bounds on the Winner's Bias under Independent and Nonnegatively Correlated Noise
- Title(参考訳): 独立性および非負性関連雑音下における勝者バイアスのシャープ境界
- Abstract要約: 我々は、最高の$M$のノイズがあり、偏りのないスコアが勝者の価値を最大$csqrtV$に上回ると報告する。
これは、任意の依存(sqrt(M-1)/M$)とノイズ(d. noise)の2つの極端でのみ知られていた。
- 参考スコア(独自算出の注目度): 0.19116784879310025
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reporting the best of $M$ noisy, unbiased scores overstates the winner's value by up to $c\sqrt{V}$, where $V$ is the total noise variance and the sharp constant $c$ depends on how the noise is dependent. It was known only at the two extremes, arbitrary dependence ($\sqrt{(M-1)/M}$) and i.i.d. noise. We determine it for two classes in between: for independent, not identically distributed noise it is $\sqrt{(M-1)/(2M)}$, and for pairwise nonnegatively correlated noise it is $(M-1)/M$; for uncorrelated noise this answers the maximum version of an open question about the expected range. Explicit finite constructions attain both. As a corollary, the bias of the cross-validation estimator is bounded sharply within each class. All theorems are formally verified in Lean 4. Across 448 language-model and classifier selection pipelines, designs with per-candidate items realize a median 0.75 of the independent-class ceiling. At a fixed item budget, scoring all candidates on shared items is markedly less optimistic than giving each candidate its own items.
- Abstract(参考訳): ベストな$M$ノイズを報告すると、未バイアススコアは勝者の値を最大$c\sqrt{V}$で上書きし、ここで$V$は全ノイズ分散であり、鋭い定数$c$はノイズがどのように依存しているかに依存する。
これは2つの極値、任意の依存($\sqrt{(M-1)/M}$)と雑音でのみ知られていた。
独立で、同一に分布しないノイズに対して$\sqrt{(M-1)/(2M)}$であり、ペアワイズ非負相関ノイズに対しては$(M-1)/M$である。
両立できる有限構成を明示する。
結論として、クロスバリデーション推定器のバイアスは各クラス内で急激に境界づけられる。
すべての定理はLean 4で正式に検証されている。
448言語モデルと分類器選択パイプラインの合計で、候補者ごとの設計は独立クラスの天井の中央値0.75を実現している。
固定アイテム予算では、共有アイテムですべての候補を評価することは、各候補に独自のアイテムを与えるよりも、明らかに楽観的ではない。
関連論文リスト
- Holdout Best-of-N: Unbiased Evaluation and Its Cost [0.8874804654735381]
本研究では,1候補あたりの独立スコア$K$の固定行列から,新スコア$J$を選択する政策について検討する。
この行列にのみ基づく単一の推定器は、候補者固有のスコア法則の独立かつ安定なすべての収集の下で、予想される判断報酬に対して全くバイアスがかからない。
論文 参考訳(メタデータ) (2026-10-06T17:26:05Z) - Parameter-Free Interval-Dynamic Regret under Heavy-Tailed Noise [55.29259818039367]
オンライン凸最適化を1ラウンドに1つの偏りのない下位段階と、未知の有限条件の雑音モーメントであるp$th, $1ple2$で検討する。
長さ$n$の固定区間$I$に対して、学習者は最適な全水平静的レートを含む1+log(T/n)$を達成する。
論文 参考訳(メタデータ) (2026-09-30T21:03:03Z) - Extreme classification: beating chance with one training example from each class [36.191356601153146]
すべての異なる分布と未知のアンバランスなクラスに対して、いかなる規則も役に立たないことを示す。
適応的なターゲットクラス選択の下では、公正なコイン以外の規則は、有限に支持されたペアの確率よりも厳格に劣る。
論文 参考訳(メタデータ) (2026-09-17T08:26:31Z) - Breaking the Total Variance Barrier: Sharp Sample Complexity for Linear Heteroscedastic Bandits with Fixed Action Set [93.03556214432615]
本稿では,学習過程を通じて動作セットをプレフィックスするヘテロセシダスティックノイズによる線形帯域問題を再検討する。
本稿では,情報ゲインを最大化するアクションを積極的に探求する,大規模アクション集合のための分散適応アルゴリズムのtexttVAEEを提案する。
音素平均依存率が避けられないことを示す固定作用集合に対して、ほぼ一致する下界を確立する。
論文 参考訳(メタデータ) (2026-07-26T14:24:34Z) - Is Multi-Distribution Learning as Easy as PAC Learning: Sharp Rates with Bounded Label Noise [26.182166506085114]
k$分布の学習は、各分布が別々に学習されない限り、一定の雑音レベル下であっても、$k/2$で遅い速度でスケーリングすることを示した。
重要な技術的貢献は、ほぼ最適性を証明する統計的コストをキャプチャする構造化仮説テストフレームワークである。
論文 参考訳(メタデータ) (2026-02-24T16:00:15Z) - Nonlinear Stochastic Gradient Descent and Heavy-tailed Noise: A Unified Framework and High-probability Guarantees [56.80920351680438]
本研究では,重音の存在下でのオンライン学習における高確率収束について検討する。
ノイズモーメントを仮定することなく、幅広い種類の非線形性を保証する。
論文 参考訳(メタデータ) (2024-10-17T18:25:28Z) - $L^1$ Estimation: On the Optimality of Linear Estimators [64.76492306585168]
この研究は、条件中央値の線型性を誘導する$X$上の唯一の先行分布がガウス分布であることを示している。
特に、条件分布 $P_X|Y=y$ がすべての$y$に対して対称であるなら、$X$ はガウス分布に従う必要がある。
論文 参考訳(メタデータ) (2023-09-17T01:45:13Z) - Allocating Divisible Resources on Arms with Unknown and Random Rewards [25.93048671326331]
我々は、各期間に複数の武器で再生可能資源の1単位を割り当てる意思決定者について検討する。
アームは未知でランダムな報酬であり、その手段は割り当てられたリソースに比例し、分散は割り当てられたリソースのオーダー$b$に比例する。
論文 参考訳(メタデータ) (2023-06-28T21:59:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。