Fugu-MT 論文翻訳(概要): Self-Bounding Majority Vote Learning Algorithms by the Direct Minimization of a Tight PAC-Bayesian C-Bound

論文の概要: Self-Bounding Majority Vote Learning Algorithms by the Direct Minimization of a Tight PAC-Bayesian C-Bound

arxiv url: http://arxiv.org/abs/2104.13626v1
Date: Wed, 28 Apr 2021 08:23:18 GMT
ステータス: 処理完了
システム内更新日: 2021-04-29 12:58:01.933414
Title: Self-Bounding Majority Vote Learning Algorithms by the Direct Minimization of a Tight PAC-Bayesian C-Bound
Title（参考訳）: タイトPAC-Bayesian C-Boundの直接最小化による自己境界多数投票学習アルゴリズム
Authors: Paul Viallard (LHC), Pascal Germain (ULaval), Amaury Habrard (LHC), Emilie Morvant (LHC)
Abstract要約: C-BoundのPAC-Bayesian保証に基づく自己拘束型多数決学習アルゴリズムを導出する。私たちのアルゴリズムはスケーラブルで、非空き保証と組み合わせた正確な予測器につながります。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In the PAC-Bayesian literature, the C-Bound refers to an insightful relation between the risk of a majority vote classifier (under the zero-one loss) and the first two moments of its margin (i.e., the expected margin and the voters' diversity). Until now, learning algorithms developed in this framework minimize the empirical version of the C-Bound, instead of explicit PAC-Bayesian generalization bounds. In this paper, by directly optimizing PAC-Bayesian guarantees on the C-Bound, we derive self-bounding majority vote learning algorithms. Moreover, our algorithms based on gradient descent are scalable and lead to accurate predictors paired with non-vacuous guarantees.
Abstract（参考訳）: PAC-ベイズ文学において、C-バウンド(C-Bound)は、多数決分類者のリスク(ゼロ・ワンの損失)とそのマージンの最初の2つの瞬間(すなわち、予想されるマージンと有権者の多様性)の洞察に富んだ関係を指す。これまで、このフレームワークで開発された学習アルゴリズムは、明示的なPAC-ベイズ一般化境界の代わりに、C-Boundの経験的なバージョンを最小化していた。本稿では, c-バウンド上でpac-ベイズ保証を直接最適化することで, 自発的多数決学習アルゴリズムを導出する。さらに、勾配勾配に基づくアルゴリズムはスケーラブルであり、非空き保証と組み合わせた正確な予測器につながる。

関連論文リスト

Multi-View Majority Vote Learning Algorithms: Direct Minimization of PAC-Bayesian Bounds [0.8039067099377079]
我々は PAC-Bayesian 理論を拡張し、R'enyi divergence に基づいた新しい PAC-Bayesian 境界を導入する。これらの境界は、伝統的なクルバック・リーブラーの発散を改善し、より洗練された複雑性尺度を提供する。また,多視点学習のためのC-boundの拡張とともに,第1次および第2次オラクルPAC-Bayesian境界を提案する。
論文参考訳（メタデータ） (2024-11-09T20:25:47Z)
Provably Efficient UCB-type Algorithms For Learning Predictive State Representations [55.00359893021461]
逐次決定問題は、予測状態表現(PSR)によってモデル化された低ランク構造が認められる場合、統計的に学習可能である本稿では,推定モデルと実モデル間の全変動距離を上限とする新しいボーナス項を特徴とする,PSRに対する最初のUCB型アプローチを提案する。 PSRに対する既存のアプローチとは対照的に、UCB型アルゴリズムは計算的トラクタビリティ、最優先の準最適ポリシー、モデルの精度が保証される。
論文参考訳（メタデータ） (2023-07-01T18:35:21Z)
PAC-Bayesian Learning of Optimization Algorithms [6.624726878647541]
PAC-Bayes理論を学習最適化の設定に適用する。証明可能な一般化保証(PAC-bounds)と高収束確率と高収束速度との間の明示的なトレードオフを持つ最適化アルゴリズムを学習する。この結果は指数族に基づく一般の非有界損失関数に対してPAC-Bayes境界に依存する。
論文参考訳（メタデータ） (2022-10-20T09:16:36Z)
Differentially Private Stochastic Gradient Descent with Low-Noise [49.981789906200035]
現代の機械学習アルゴリズムは、データからきめ細かい情報を抽出して正確な予測を提供することを目的としており、プライバシー保護の目標と矛盾することが多い。本稿では、プライバシを保ちながら優れたパフォーマンスを確保するために、プライバシを保存する機械学習アルゴリズムを開発することの実践的および理論的重要性について論じる。
論文参考訳（メタデータ） (2022-09-09T08:54:13Z)
On Leave-One-Out Conditional Mutual Information For Generalization [122.2734338600665]
残余条件付き相互情報(loo-CMI)の新しい尺度に基づく教師付き学習アルゴリズムのための情報理論の一般化境界を導出する。他のCMI境界とは対照的に、我々のloo-CMI境界は容易に計算でき、古典的なout-out-out-cross-validationのような他の概念と関連して解釈できる。ディープラーニングのシナリオにおいて予測された一般化ギャップを評価することにより,境界の質を実証的に検証する。
論文参考訳（メタデータ） (2022-07-01T17:58:29Z)
Learning Stochastic Majority Votes by Minimizing a PAC-Bayes Generalization Bound [15.557653926558638]
分類器の有限アンサンブルに対する多数票の対について検討し、その一般化特性について検討する。ディリクレ分布でインスタンス化し、予測されるリスクに対して閉じた形式と微分可能な表現を可能にする。結果の多数決学習アルゴリズムは、最先端の精度と(非空きな)厳密な境界から恩恵を得る。
論文参考訳（メタデータ） (2021-06-23T16:57:23Z)
Uniform-PAC Bounds for Reinforcement Learning with Linear Function Approximation [92.3161051419884]
線形関数近似を用いた強化学習について検討する。既存のアルゴリズムは、高い確率的後悔と/またはおよそ正当性(PAC)サンプルの複雑さの保証しか持たない。我々はFLUTEと呼ばれる新しいアルゴリズムを提案し、高い確率で最適ポリシーへの均一PAC収束を享受する。
論文参考訳（メタデータ） (2021-06-22T08:48:56Z)
Doubly Robust Off-Policy Actor-Critic: Convergence and Optimality [131.45028999325797]
ディスカウント型MDPのための2倍堅牢なオフポリチックAC(DR-Off-PAC)を開発した。 DR-Off-PACは、俳優と批評家の両方が一定のステップで同時に更新される単一のタイムスケール構造を採用しています。有限時間収束速度を研究し, dr-off-pac のサンプル複雑性を特徴とし, $epsilon$-accurate optimal policy を得る。
論文参考訳（メタデータ） (2021-02-23T18:56:13Z)
A General Framework for the Practical Disintegration of PAC-Bayesian Bounds [2.516393111664279]
我々は、分解された境界を与えるために原性を持つ新しいPAC-ベイズ一般化境界を導入する。我々の境界は容易に最適化でき、学習アルゴリズムの設計に使うことができる。
論文参考訳（メタデータ） (2021-02-17T09:36:46Z)
Adaptive Sampling for Best Policy Identification in Markov Decision Processes [79.4957965474334]
本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。最先端アルゴリズムの利点を論じ、解説する。
論文参考訳（メタデータ） (2020-09-28T15:22:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。