論文の概要: Sample Complexity of Uniform Convergence for Multicalibration
- arxiv url: http://arxiv.org/abs/2005.01757v2
- Date: Mon, 7 Jun 2021 15:28:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-07 00:28:06.139196
- Title: Sample Complexity of Uniform Convergence for Multicalibration
- Title(参考訳): 多校正のための一様収束のサンプル複雑性
- Authors: Eliran Shabat, Lee Cohen and Yishay Mansour
- Abstract要約: 多重校正誤差に対処し、予測誤差から分離する。
我々の研究は、多重校正誤差の統一収束保証のためのサンプル複雑性境界を与える。
- 参考スコア(独自算出の注目度): 43.10452387619829
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: There is a growing interest in societal concerns in machine learning systems,
especially in fairness. Multicalibration gives a comprehensive methodology to
address group fairness. In this work, we address the multicalibration error and
decouple it from the prediction error. The importance of decoupling the
fairness metric (multicalibration) and the accuracy (prediction error) is due
to the inherent trade-off between the two, and the societal decision regarding
the "right tradeoff" (as imposed many times by regulators). Our work gives
sample complexity bounds for uniform convergence guarantees of multicalibration
error, which implies that regardless of the accuracy, we can guarantee that the
empirical and (true) multicalibration errors are close. We emphasize that our
results: (1) are more general than previous bounds, as they apply to both
agnostic and realizable settings, and do not rely on a specific type of
algorithm (such as deferentially private), (2) improve over previous
multicalibration sample complexity bounds and (3) implies uniform convergence
guarantees for the classical calibration error.
- Abstract(参考訳): 機械学習システムにおける社会的関心、特に公正性への関心が高まっている。
マルチキャリブレーションは、グループフェアネスに対処するための包括的な方法論を提供する。
本研究では,多重校正誤差に対処し,予測誤差から分離する。
公正度メートル法(マルチイブレーション)と精度(予測誤差)を分離することの重要性は、両者の固有のトレードオフと「右のトレードオフ」に関する社会的な決定(規制当局が何度も課しているように)にある。
我々の研究は、多重校正誤差の均一収束を保証するためのサンプル複雑性境界を与えるので、精度に関わらず、経験的および(真の)多重校正誤差が近いことを保証できる。
我々は,(1)非依存的かつ実現可能な設定にも適用し,特定のタイプのアルゴリズム(例えばdeferentially private)には依存せず,(2)従来の多重校正サンプルの複雑性境界よりも改善され,(3)古典的な校正誤差に対する一様収束保証が提案される,という結果を強調した。
関連論文リスト
- Error Feedback under $(L_0,L_1)$-Smoothness: Normalization and Momentum [56.37522020675243]
機械学習の幅広い問題にまたがる正規化誤差フィードバックアルゴリズムに対する収束の最初の証明を提供する。
提案手法では,許容可能なステップサイズが大きくなったため,新しい正規化エラーフィードバックアルゴリズムは,各種タスクにおける非正規化エラーよりも優れていた。
論文 参考訳(メタデータ) (2024-10-22T10:19:27Z) - When is Multicalibration Post-Processing Necessary? [12.628103786954487]
多重校正は有意義な不確実性推定を保証する予測器の特性である。
本研究は,マルチキャリブレーション後処理の有用性を評価するための総合的研究である。
我々は,マルチキャリブレーション後処理の実用的,効果的な応用に有用な,多くの独立した観測結果を蒸留する。
論文 参考訳(メタデータ) (2024-06-10T17:26:39Z) - An Inexact Halpern Iteration with Application to Distributionally Robust
Optimization [9.529117276663431]
決定論的および決定論的収束設定におけるスキームの不正確な変種について検討する。
不正確なスキームを適切に選択することにより、(予想される)剰余ノルムの点において$O(k-1)収束率を許容することを示す。
論文 参考訳(メタデータ) (2024-02-08T20:12:47Z) - On Regularization and Inference with Label Constraints [62.60903248392479]
機械学習パイプラインにおけるラベル制約を符号化するための2つの戦略、制約付き正規化、制約付き推論を比較した。
正規化については、制約に不整合なモデルを前置することで一般化ギャップを狭めることを示す。
制約付き推論では、モデルの違反を訂正することで人口リスクを低減し、それによってその違反を有利にすることを示す。
論文 参考訳(メタデータ) (2023-07-08T03:39:22Z) - Low-Degree Multicalibration [16.99099840073075]
低Degree Multicalibration は、ますます強力なマルチグループフェアネスの概念の階層を定義する。
低次マルチキャリブレーションは完全マルチキャリブレーションよりもはるかに効率的であることを示す。
我々の研究は、低次多重校正がスイートスポット、ペアリング計算とサンプル効率を強い公正性と精度保証で表しているという説得力のある証拠を提示する。
論文 参考訳(メタデータ) (2022-03-02T17:24:55Z) - Controlling Multiple Errors Simultaneously with a PAC-Bayes Bound [21.273964864852612]
M型エラーの集合の経験的確率と真確率の間のKulback-Leibler分散をバウンダリングすることで、リッチな情報を提供することができる最初のPAC-Bayes境界を提供する。
我々の境界は、異なる誤分類の重大さが時間とともに変化する可能性がある場合に特に有用である。
論文 参考訳(メタデータ) (2022-02-11T11:35:21Z) - An Exploration of Multicalibration Uniform Convergence Bounds [25.500680663483624]
本稿では,経験的リスク最小化学習のためのサンプル複雑度を再パラメータ化することにより,多重校正誤差の均一収束境界を求めるフレームワークを提案する。
この枠組みから,マルチキャリブレーション誤差は分類器のアーキテクチャや基礎となるデータ分布に依存することを示す。
論文 参考訳(メタデータ) (2022-02-09T15:48:10Z) - A Unified Framework for Multi-distribution Density Ratio Estimation [101.67420298343512]
バイナリ密度比推定(DRE)は多くの最先端の機械学習アルゴリズムの基礎を提供する。
ブレグマン最小化の発散の観点から一般的な枠組みを開発する。
我々のフレームワークはバイナリDREでそれらのフレームワークを厳格に一般化する手法に導かれることを示す。
論文 参考訳(メタデータ) (2021-12-07T01:23:20Z) - Stochastic Gradient Descent-Ascent and Consensus Optimization for Smooth
Games: Convergence Analysis under Expected Co-coercivity [49.66890309455787]
本稿では,SGDA と SCO の最終的な収束保証として,期待されるコヒーレンシティ条件を導入し,その利点を説明する。
定常的なステップサイズを用いた場合、両手法の線形収束性を解の近傍に証明する。
我々の収束保証は任意のサンプリングパラダイムの下で保たれ、ミニバッチの複雑さに関する洞察を与える。
論文 参考訳(メタデータ) (2021-06-30T18:32:46Z) - Distribution-free binary classification: prediction sets, confidence
intervals and calibration [106.50279469344937]
分布自由条件における二項分類のための不確実性定量化(キャリブレーション、信頼区間、予測セット)の3つの概念について検討する。
固定幅と一様質量の両双対の双対確率に対する信頼区間を導出する。
我々の「三脚」定理の結果として、双有理確率に対するこれらの信頼区間は分布自由キャリブレーションに繋がる。
論文 参考訳(メタデータ) (2020-06-18T14:17:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。