論文の概要: Non-asymptotic estimates of the minimal risk in statistical learning
- arxiv url: http://arxiv.org/abs/2606.23295v1
- Date: Mon, 22 Jun 2026 13:09:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-24 22:44:52.6746
- Title: Non-asymptotic estimates of the minimal risk in statistical learning
- Title(参考訳): 統計的学習における最小リスクの非漸近的推定
- Authors: Liming Wu, Sen Yang,
- Abstract要約: 統計的学習における経験的リスク原理(ERP)の2種類の誤差確率に対する濃度不等式を証明した。
最小限のリスクの下位境界の信頼度は、トレーニングパラメータの数と入力ベクトルの次元に依存しないことが示されている。
- 参考スコア(独自算出の注目度): 4.385387101894569
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper we prove some concentration inequalities for two types of error probabilities in the Empirical Risk Principle (ERP) in statistical learning, which provide a lower bound and an upper bound for the minimal risk (in terms of the minimal empirical risk) with non-asymptotic high confidence. The usual boundedness condition of the empirical risk function is relaxed to the Gaussian or exponential integrability condition. The confidence of the lower bound of the minimal risk is shown to be independent of the number of training parameters and the dimension of the input vectors, allowing one to detect the deficiency of a learning machine efficiently; and the confidence of the upper bound of the minimal risk is proved to be high provided that the sample size $n$ is much greater than the box dimension of the parameter set $Θ$ in the Orlicz metric $d_{ψ_1}$ associated with the risk functions. Our work is based on Talagrand's concentration inequalities (the sharp versions by Bousquet and Klein-Rio), transport-entropy inequalities and the recent progress in the theory of empirical processes and statistical learning.
- Abstract(参考訳): 本稿では, 統計的学習における経験的リスク原理(ERP)の2種類の誤差確率に対する濃度不等式を証明し, 非漸近的高信頼度で最小限のリスク(最小限の経験的リスク)に対する上限値と上限値を与える。
経験的リスク関数の通常の有界性条件は、ガウス的あるいは指数的可積分性条件に緩和される。
最小リスクの下位境界の信頼度は、トレーニングパラメータの数と入力ベクトルの次元に独立していることが示され、学習機械の不足を効率的に検出でき、最小リスクの上限の信頼度が高いことが証明される。
我々の研究は、タラグランドの濃度不等式(ブーチェとクライン・リオによる鋭いバージョン)、輸送エントロピーの不等式、そして経験過程と統計的学習の理論の最近の進歩に基づいている。
関連論文リスト
- Statistical Estimation of Adversarial Risk in Large Language Models under Best-of-N Sampling [50.872910438715486]
大規模言語モデル(LLM)は、通常、単一ショットまたは低予算の逆のプロンプトの下で安全性を評価する。
我々は,Best-of-Nサンプリングの下でのジェイルブレイク脆弱性をモデル化するための,スケーリング対応のリスク推定手法であるSABERを提案する。
論文 参考訳(メタデータ) (2026-01-30T06:54:35Z) - Provable Risk-Sensitive Distributional Reinforcement Learning with
General Function Approximation [54.61816424792866]
本稿では,リスク感性分布強化学習(RS-DisRL)と静的リプシッツリスク対策(LRM),一般関数近似について紹介する。
モデルに基づく関数近似のためのモデルベース戦略であるtextttRS-DisRL-M と、一般値関数近似のためのモデルフリーアプローチである textttRS-DisRL-V の2つの革新的なメタアルゴリズムを設計する。
論文 参考訳(メタデータ) (2024-02-28T08:43:18Z) - Sharp error bounds for imbalanced classification: how many examples in the minority class? [6.74159270845872]
損失関数の再重み付け(英: reweighting the loss function)は、リスク測度内の真正と真負の率の平衡を許容する標準手順である。
この領域における重要な理論的研究にもかかわらず、既存の結果は不均衡な分類フレームワークにおける主要な課題に適切に対処していない。
希少なクラス確率がゼロに近づくような環境では、2つの寄与を示す。
論文 参考訳(メタデータ) (2023-10-23T11:45:34Z) - On the Variance, Admissibility, and Stability of Empirical Risk Minimization [57.63331017830154]
経験的リスク最小化(ERM: Empirical Risk Minimization)は、平均2乗誤差で最小限の最適値が得られる。
比較的軽度な仮定の下では、ERMの準最適性はその大きなバイアスによるものでなければならない。
論文 参考訳(メタデータ) (2023-05-29T15:25:48Z) - Mitigating multiple descents: A model-agnostic framework for risk
monotonization [84.6382406922369]
クロスバリデーションに基づくリスクモノトナイズのための一般的なフレームワークを開発する。
本稿では,データ駆動方式であるゼロステップとワンステップの2つの手法を提案する。
論文 参考訳(メタデータ) (2022-05-25T17:41:40Z) - Learning Bounds for Risk-sensitive Learning [86.50262971918276]
リスクに敏感な学習では、損失のリスク・アバース(またはリスク・シーキング)を最小化する仮説を見つけることを目的としている。
最適化された確実性等価性によって最適性を記述するリスク感応学習スキームの一般化特性について検討する。
論文 参考訳(メタデータ) (2020-06-15T05:25:02Z) - Asymptotic normality of robust risk minimizers [2.0432586732993374]
本稿では,古典的経験的リスクのロバストな類似と見なせるアルゴリズムの特性について検討する。
幅広いパラメトリック問題に対して、適切に定義されたリスクのロバストプロキシの最小化は、同じ速度で真のリスクの最小化に収束することを示す。
論文 参考訳(メタデータ) (2020-04-05T22:03:03Z) - Statistical Agnostic Mapping: a Framework in Neuroimaging based on
Concentration Inequalities [0.0]
ボクセルやマルチボクセルレベルでの統計アグノスティック(非パラメトリック)マッピングを導出する。
集中不平等に基づくニューロイメージングの新しい枠組みを提案する。
論文 参考訳(メタデータ) (2019-12-27T18:27:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。