論文の概要: Realizable Bayes-Consistency for General Metric Losses
- arxiv url: http://arxiv.org/abs/2605.03823v1
- Date: Tue, 05 May 2026 14:50:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-06 19:35:43.982563
- Title: Realizable Bayes-Consistency for General Metric Losses
- Title(参考訳): 一般的なメトリクス損失に対する実現可能なベイズ整合性
- Authors: Dan Tsir Cohen, Steve Hanneke, Aryeh Kontorovich,
- Abstract要約: 一般のメトリクス損失を伴う学習のための実現可能な環境における強普遍的ベイズ整合性について検討する。
具体的には、リスクがクラス内の最良リスクにほぼ確実に収束する分布自由学習が存在するという仮説クラス $mathcal H$ に必要かつ十分な条件を見出す。
- 参考スコア(独自算出の注目度): 38.88354044451659
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study strong universal Bayes-consistency in the realizable setting for learning with general metric losses, extending classical characterizations beyond $0$-$1$ classification \citep{bousquet_theory_2021, hanneke2021universalbayesconsistencymetric} and real-valued regression \citep{attias_universal_2024}. Given an instance space $(\mathcal X,ρ)$, a label space $(\mathcal Y,\ell)$ with possibly unbounded loss, and a hypothesis class $\mathcal H \subseteq \mathcal Y^{\mathcal X}$, we resolve the realizable case of an open problem presented in \citet{pmlr-v178-cohen22a}. Specifically, we find the necessary and sufficient conditions on the hypothesis class $\mathcal H$ under which there exists a distribution-free learning rule whose risk converges almost surely to the best-in-class risk (which is zero) for every realizable data-generating distribution. Our main contribution is this sharp characterization in terms of a combinatorial obstruction: Similarly to \citet{attias2024optimallearnersrealizableregression}, we introduce the notion of an infinite non-decreasing $(γ_k)$-Littlestone tree, where $γ_k \to \infty$. This extends the Littlestone tree structure used in \citet{bousquet_theory_2021} to the metric loss setting.
- Abstract(参考訳): 我々は、一般の計量損失を伴う学習のための実現可能な環境における強い普遍的ベイズ一貫性について研究し、古典的特徴付けを0$-$1$ classification \citep{bousquet_theory_2021, Hanneke2021universalbayesconsistencymetric} および実数値回帰 \citep{attias_universal_2024} を超えて拡張する。
例空間 $(\mathcal X,ρ)$, ラベル空間 $(\mathcal Y,\ell)$ が有界な損失を伴い、仮説クラス $\mathcal H \subseteq \mathcal Y^{\mathcal X}$ が与えられた場合、我々は \citet{pmlr-v178-cohen22a} で示される開問題の実現可能なケースを解決する。
具体的には、仮説クラス $\mathcal H$ に、リスクがほぼ確実に最良クラスリスク(0)に収束する分布自由学習則が存在するという、必要かつ十分な条件が見つかる。
我々の主な貢献は、組合せ障害の観点でこの鋭い特徴付けである: \citet{attias2024optimallearnersrealizableregression} と同様に、$γ_k \to \infty$ を無限に減少しない$(γ_k)$-リトルストーンツリーの概念を導入する。
これは、 \citet{bousquet_theory_2021} で使用されるLittlestoneツリー構造を、メトリック損失設定に拡張する。
関連論文リスト
- Online Realizable Regression and Applications for ReLU Networks [14.292982828097465]
近似三角形の不等式を満たす損失(擬似測度)下での対向モデルにおける実現可能なオンライン回帰について検討する。
我々の主な貢献は、具体的なダドリー型エントロピー積分により、$mathbbD_mathrmonl$を上界とする一般ポテンシャル法である。
論文 参考訳(メタデータ) (2026-02-22T13:02:25Z) - Sharp Rates in Dependent Learning Theory: Avoiding Sample Size Deflation for the Square Loss [33.18537822803389]
L2$ と $Psi_p$ の位相が我々の仮説クラス $mathscrF$, $mathscrF$ に同値であるときにいつでも、$mathscrF$ は弱準ガウス類であることを示す。
以上の結果から, 混合への直接的な依存は高次項に還元されるため, この問題は実現可能か否かを判断できる。
論文 参考訳(メタデータ) (2024-02-08T18:57:42Z) - Statistical Learning under Heterogeneous Distribution Shift [71.8393170225794]
ground-truth predictor is additive $mathbbE[mathbfz mid mathbfx,mathbfy] = f_star(mathbfx) +g_star(mathbfy)$.
論文 参考訳(メタデータ) (2023-02-27T16:34:21Z) - Near-Optimal SQ Lower Bounds for Agnostically Learning Halfspaces and
ReLUs under Gaussian Marginals [49.60752558064027]
ガウス境界の下では、半空間とReLUを不可知的に学習する基本的な問題について検討する。
我々の下限は、これらのタスクの現在の上限が本質的に最良のものであるという強い証拠を与える。
論文 参考訳(メタデータ) (2020-06-29T17:10:10Z) - Agnostic Learning of a Single Neuron with Gradient Descent [92.7662890047311]
期待される正方形損失から、最も適合した単一ニューロンを学習することの問題点を考察する。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
論文 参考訳(メタデータ) (2020-05-29T07:20:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。