論文の概要: Enhanced $H$-Consistency Bounds

• arxiv url: http://arxiv.org/abs/2407.13722v1
• Date: Thu, 18 Jul 2024 17:22:40 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-19 14:21:47.899046
• Title: Enhanced $H$-Consistency Bounds
• Title（参考訳）: 拡張$H$-consistency 境界
• Authors: Anqi Mao, Mehryar Mohri, Yutao Zhong,
• Abstract要約: 条件付き後悔に関するより一般的な不等式に基づく拡張された$H$一貫性境界を確立するための枠組みを提案する。 我々の定理は、既存の結果を特別な場合とみなすが、様々なシナリオにおいてより好ましい境界の導出を可能にする。 これには、標準のマルチクラス分類、Tsybakovノイズ条件下でのバイナリクラスとマルチクラス分類、二部分類が含まれる。
• 参考スコア（独自算出の注目度）: 30.389055604165222
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent research has introduced a key notion of $H$-consistency bounds for surrogate losses. These bounds offer finite-sample guarantees, quantifying the relationship between the zero-one estimation error (or other target loss) and the surrogate loss estimation error for a specific hypothesis set. However, previous bounds were derived under the condition that a lower bound of the surrogate loss conditional regret is given as a convex function of the target conditional regret, without non-constant factors depending on the predictor or input instance. Can we derive finer and more favorable $H$-consistency bounds? In this work, we relax this condition and present a general framework for establishing enhanced $H$-consistency bounds based on more general inequalities relating conditional regrets. Our theorems not only subsume existing results as special cases but also enable the derivation of more favorable bounds in various scenarios. These include standard multi-class classification, binary and multi-class classification under Tsybakov noise conditions, and bipartite ranking.
• Abstract（参考訳）: 近年の研究は、損失を補うために$H$-consistency boundsという重要な概念を導入している。 これらの境界は有限サンプル保証を提供し、ゼロワン推定誤差(または他の目標損失)と特定の仮説集合に対する代理損失推定誤差の関係を定量化する。 しかし, 先行境界は, 代理損失条件付き後悔の下位境界が, 目標条件付き後悔の凸関数として与えられることを条件として導出された。 より微細でより好ましい$H$一貫性境界を導出できるだろうか? 本研究では、この条件を緩和し、条件付き後悔に関するより一般的な不等式に基づいて、拡張された$H$一貫性境界を確立するための一般的な枠組みを示す。 我々の定理は、既存の結果を特別な場合として仮定するだけでなく、様々なシナリオにおいてより好ましい境界の導出を可能にする。 これには、標準のマルチクラス分類、Tsybakovノイズ条件下でのバイナリクラスとマルチクラス分類、二部分類が含まれる。

関連論文リスト

• A Universal Growth Rate for Learning with Smooth Surrogate Losses [30.389055604165222]
  2進分類におけるスムーズなマージンベースサロゲート損失に対して,0付近の平方根成長速度を証明した。 我々は、この分析を、一連の新しい結果でマルチクラス分類に拡張する。
  論文  参考訳（メタデータ） (2024-05-09T17:59:55Z)
• Top-$k$ Classification and Cardinality-Aware Prediction [30.389055604165222]
  和和と制約付き損失は、上位の$k$損失に対する$H$一貫性境界によって支持されることを示す。 本稿では、インスタンス依存型コスト依存学習を通じて、基数認識損失関数を導入する。 これらの損失を最小限に抑えることで、トップ$kの分類のための新しい濃度認識アルゴリズムが生まれる。
  論文  参考訳（メタデータ） (2024-03-28T17:45:03Z)
• Fixed-Budget Differentially Private Best Arm Identification [62.36929749450298]
  差分プライバシー制約下における固定予算制度における線形包帯のベストアーム識別(BAI)について検討した。 誤差確率に基づいてミニマックス下限を導出し、下限と上限が指数関数的に$T$で崩壊することを示した。
  論文  参考訳（メタデータ） (2024-01-17T09:23:25Z)
• Ranking with Abstention [27.3569897539488]
  そこで本研究では,学習者が限られたコストで予測を行うのを阻止できる,控えめなランキングの枠組みを紹介した。 線形関数の族と1つの隠れ層を持つニューラルネットワークの両方に対して、一連の$H$一貫性境界を示す。
  論文  参考訳（メタデータ） (2023-07-05T05:37:13Z)
• On the Importance of Gradient Norm in PAC-Bayesian Bounds [92.82627080794491]
  対数ソボレフ不等式の縮約性を利用する新しい一般化法を提案する。 我々は、この新たな損失段階的ノルム項が異なるニューラルネットワークに与える影響を実証的に分析する。
  論文  参考訳（メタデータ） (2022-10-12T12:49:20Z)
• $\mathscr{H}$-Consistency Estimation Error of Surrogate Loss Minimizers [38.56401704010528]
  本稿では,サロゲート損失推定誤差の観点から推定誤差を詳細に検討する。 このような保証を$mathscrH$-consistency estimation error boundsと呼ぶ。
  論文  参考訳（メタデータ） (2022-05-16T23:13:36Z)
• Sharp Bounds for Federated Averaging (Local SGD) and Continuous Perspective [49.17352150219212]
  Federated AveragingFedAvg(ローカルSGD)は、Federated Learning(FL)で最も人気のあるアルゴリズムの1つである。 微分方程式(SDE)の観点から、この量を解析する方法を示す。
  論文  参考訳（メタデータ） (2021-11-05T22:16:11Z)
• Sequential prediction under log-loss and misspecification [47.66467420098395]
  累積的後悔の観点から,ログロスに基づく逐次予測の問題を考える。 明確に特定され誤記された症例の累積的後悔が偶然に現れる。 分布自由あるいはPAC後悔を$o(1)$で特徴づける。
  論文  参考訳（メタデータ） (2021-01-29T20:28:23Z)
• On Lower Bounds for Standard and Robust Gaussian Process Bandit Optimization [55.937424268654645]
  有界ノルムを持つ関数のブラックボックス最適化問題に対するアルゴリズム非依存な下界を考える。 本稿では, 単純さ, 汎用性, エラー確率への依存性の向上など, 後悔の下位境界を導出するための新しい証明手法を提案する。
  論文  参考訳（メタデータ） (2020-08-20T03:48:14Z)
• Relative Deviation Margin Bounds [55.22251993239944]
  我々はRademacher複雑性の観点から、分布依存と一般家庭に有効な2種類の学習境界を与える。 有限モーメントの仮定の下で、非有界な損失関数に対する分布依存的一般化境界を導出する。
  論文  参考訳（メタデータ） (2020-06-26T12:37:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。