論文の概要: Chebyshev-Cantelli PAC-Bayes-Bennett Inequality for the Weighted
Majority Vote
- arxiv url: http://arxiv.org/abs/2106.13624v1
- Date: Fri, 25 Jun 2021 13:23:20 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-28 17:55:05.838815
- Title: Chebyshev-Cantelli PAC-Bayes-Bennett Inequality for the Weighted
Majority Vote
- Title(参考訳): Chebyshev-Cantelli PAC-Bayes-Bennettの不等式
- Authors: Yi-Shan Wu, Andr\'es R. Masegosa, Stephan S. Lorenzen, Christian Igel,
Yevgeny Seldin
- Abstract要約: 我々は、重み付けされた多数決のリスクを期待する2次託宣を新たに提示する。
この境界はチェビシェフ・カンテッリの不等式の新しいパラメトリック形式に基づいている。
PAC-Bayes-Bennettの不等式も導出する。
- 参考スコア(独自算出の注目度): 20.36924568983982
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present a new second-order oracle bound for the expected risk of a
weighted majority vote. The bound is based on a novel parametric form of the
Chebyshev-Cantelli inequality (a.k.a.\ one-sided Chebyshev's), which is
amenable to efficient minimization. The new form resolves the optimization
challenge faced by prior oracle bounds based on the Chebyshev-Cantelli
inequality, the C-bounds [Germain et al., 2015], and, at the same time, it
improves on the oracle bound based on second order Markov's inequality
introduced by Masegosa et al. [2020]. We also derive the PAC-Bayes-Bennett
inequality, which we use for empirical estimation of the oracle bound. The
PAC-Bayes-Bennett inequality improves on the PAC-Bayes-Bernstein inequality by
Seldin et al. [2012]. We provide an empirical evaluation demonstrating that the
new bounds can improve on the work by Masegosa et al. [2020]. Both the
parametric form of the Chebyshev-Cantelli inequality and the PAC-Bayes-Bennett
inequality may be of independent interest for the study of concentration of
measure in other domains.
- Abstract(参考訳): 我々は、重み付けされた多数決のリスクを期待する2次託宣を新たに提示する。
この境界は、チェビシェフ=カンテリの不等式(英語版)(a.k.a.\ one-sided chebyshev's)の新たなパラメトリック形式に基づいている。
この新しい形式は、チェビシェフ・カンテリの不等式、C-バウンド [Germain et al., 2015] に基づく事前のオラクル境界が直面する最適化課題を解決し、同時に、マセゴサらによって導入された2階マルコフの不等式に基づくオラクル境界を改善する。
[2020].
また、私たちはpac-bayes-bennettの不等式を導出します。
PAC-Bayes-Bennettの不等式はセルディンらによってPAC-Bayes-Bernsteinの不等式を改善する。
[2012].
我々は,Masegosaらによる新たな限界が改善できることを実証的に評価する。
[2020].
チェビシェフ・カンテッリ不等式のパラメトリック形式とPAC-ベイズ・ベネット不等式は、他の領域における測度集中の研究には独立した関心を持つかもしれない。
関連論文リスト
- Towards Necessary and sufficient state condition for violation of a multi-settings Bell inequality [0.0]
我々は,任意の2量子状態の状態パラメータに基づいて,ベルの不等式に違反するホロデキ様基準を開発する。
提案された基準はベルの不等式に違反するのに十分であるが、以下の場合にも必要となる。
論文 参考訳(メタデータ) (2024-08-19T18:45:07Z) - PAPAL: A Provable PArticle-based Primal-Dual ALgorithm for Mixed Nash Equilibrium [58.26573117273626]
2プレイヤゼロサム連続ゲームにおける非AL平衡非漸近目的関数について考察する。
連続分布戦略のための粒子ベースアルゴリズムに関する新しい知見を述べる。
論文 参考訳(メタデータ) (2023-03-02T05:08:15Z) - Boosting device-independent cryptography with tripartite nonlocality [0.0]
デバイス非依存(DI)プロトコルは、2つ以上のパーティがベルの不等式をテストすると、非局所的な相関を観測することで、プライベートランダム性を証明する。
本稿では,DICKAプロトコルとDIREプロトコルを多部間ベルの不等式テストに基づいて検討する。
DICKAとDIREプロトコルは,三部構成のベルの不等式を用いた場合,二部構成のプロトコルよりも優れることを示す。
論文 参考訳(メタデータ) (2022-09-26T16:35:03Z) - Split-kl and PAC-Bayes-split-kl Inequalities [15.63537071742102]
我々は、klの不等式と低分散を活用できる能力を組み合わせた分割kl不等式(split-kl inequality)と呼ぶ。
ベルヌーイ確率変数の場合、kl不等式は経験的ベルンシュタインよりも厳密であり、経験的ベルンシュタイン不等式は kl よりも厳密である。
余剰損失の有界化に対する分割-kl不等式の適用について論じる。
論文 参考訳(メタデータ) (2022-06-01T18:42:02Z) - On the Equity of Nuclear Norm Maximization in Unsupervised Domain
Adaptation [53.29437277730871]
核ノルムは、教師なし領域適応モデルの転送可能性を高める力を示している。
クラスレベルとサンプルレベルから予測的差別性と株式の両方を最大化する2つの新たな損失が提案されている。
論文 参考訳(メタデータ) (2022-04-12T07:55:47Z) - A Unified Joint Maximum Mean Discrepancy for Domain Adaptation [73.44809425486767]
本論文は,最適化が容易なjmmdの統一形式を理論的に導出する。
統合JMMDから、JMMDは分類に有利な特徴ラベル依存を低下させることを示す。
本稿では,その依存を促進する新たなmmd行列を提案し,ラベル分布シフトにロバストな新しいラベルカーネルを考案する。
論文 参考訳(メタデータ) (2021-01-25T09:46:14Z) - Revisiting the equality conditions of the data processing inequality for
the sandwiched R\'enyi divergence [0.0]
データ処理における等価性は、最近Jenv cov'aによって証明された$alpha$の全範囲のPetzリカバリマップによるリカバリ可能性を示す。
また、Leditzky et al による前の結果を一般化して、新しい等式条件の集合を得る。
論文 参考訳(メタデータ) (2020-09-29T17:59:56Z) - On Lower Bounds for Standard and Robust Gaussian Process Bandit
Optimization [55.937424268654645]
有界ノルムを持つ関数のブラックボックス最適化問題に対するアルゴリズム非依存な下界を考える。
本稿では, 単純さ, 汎用性, エラー確率への依存性の向上など, 後悔の下位境界を導出するための新しい証明手法を提案する。
論文 参考訳(メタデータ) (2020-08-20T03:48:14Z) - Provably Good Batch Reinforcement Learning Without Great Exploration [51.51462608429621]
バッチ強化学習(RL)は、RLアルゴリズムを多くの高利得タスクに適用するために重要である。
最近のアルゴリズムは将来性を示しているが、期待された結果に対して過度に楽観的である。
より保守的な更新を行うため、ベルマンの最適性と評価のバックアップに小さな修正を加えることで、はるかに強力な保証が得られることを示す。
論文 参考訳(メタデータ) (2020-07-16T09:25:54Z) - Novel Change of Measure Inequalities with Applications to PAC-Bayesian
Bounds and Monte Carlo Estimation [29.919144859026016]
我々は、$f$-divergencesの変動表現が、測度の不等式を新しく変化させることを示す。
また、$alpha$-divergencesに対する測度不等式の乗法的変化と、Hammersley-Chapman-Robbinsの不等式の一般化版を示す。
論文 参考訳(メタデータ) (2020-02-25T05:36:22Z) - Distributionally Robust Bayesian Quadrature Optimization [60.383252534861136]
確率分布が未知な分布の不確実性の下でBQOについて検討する。
標準的なBQOアプローチは、固定されたサンプル集合が与えられたときの真の期待目標のモンテカルロ推定を最大化する。
この目的のために,新しい後方サンプリングに基づくアルゴリズム,すなわち分布的に堅牢なBQO(DRBQO)を提案する。
論文 参考訳(メタデータ) (2020-01-19T12:00:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。