論文の概要: Block-Sample MAC-Bayes Generalization Bounds
- arxiv url: http://arxiv.org/abs/2602.12605v1
- Date: Fri, 13 Feb 2026 04:23:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-16 23:37:53.845584
- Title: Block-Sample MAC-Bayes Generalization Bounds
- Title(参考訳): ブロックサンプルMACベイズ一般化境界
- Authors: Matthias Frey, Jingge Zhu, Michael C. Gastpar,
- Abstract要約: ブロック・サンプル MAC-Bayes 境界の族を示す(ほぼ正しい)。
PAC-ベイズ境界は一般に高い確率で保たれる一般化誤差の有界を与えるが、MAC-ベイズ境界は同様の形式を持つが、期待される一般化誤差は有界である。
- 参考スコア(独自算出の注目度): 12.628001897418509
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present a family of novel block-sample MAC-Bayes bounds (mean approximately correct). While PAC-Bayes bounds (probably approximately correct) typically give bounds for the generalization error that hold with high probability, MAC-Bayes bounds have a similar form but bound the expected generalization error instead. The family of bounds we propose can be understood as a generalization of an expectation version of known PAC-Bayes bounds. Compared to standard PAC-Bayes bounds, the new bounds contain divergence terms that only depend on subsets (or \emph{blocks}) of the training data. The proposed MAC-Bayes bounds hold the promise of significantly improving upon the tightness of traditional PAC-Bayes and MAC-Bayes bounds. This is illustrated with a simple numerical example in which the original PAC-Bayes bound is vacuous regardless of the choice of prior, while the proposed family of bounds are finite for appropriate choices of the block size. We also explore the question whether high-probability versions of our MAC-Bayes bounds (i.e., PAC-Bayes bounds of a similar form) are possible. We answer this question in the negative with an example that shows that in general, it is not possible to establish a PAC-Bayes bound which (a) vanishes with a rate faster than $\mathcal{O}(1/\log n)$ whenever the proposed MAC-Bayes bound vanishes with rate $\mathcal{O}(n^{-1/2})$ and (b) exhibits a logarithmic dependence on the permitted error probability.
- Abstract(参考訳): ブロックサンプル MAC-Bayes 境界(ほぼ正しい)の族を示す。
PAC-ベイズ境界(おそらくほぼ正しい)は一般に高い確率で保たれる一般化誤差の有界を与えるが、MAC-ベイズ境界は同様の形式を持つが、期待される一般化誤差は有界である。
私たちが提案する境界の族は、既知のPAC-ベイズ境界の期待バージョンの一般化として理解することができる。
標準的なPAC-Bayes境界と比較すると、新しい境界はトレーニングデータのサブセット(または \emph{blocks})にのみ依存する発散項を含む。
提案された MAC-Bayes 境界は、従来の PAC-Bayes 境界と MAC-Bayes 境界の密度を大幅に改善する約束を持っている。
このことは、元のPAC-Bayes境界が以前の選択に関係なく空であるのに対して、提案された境界の族はブロックサイズの適切な選択に対して有限である、という単純な数値的な例で示される。
また、MAC-Bayes境界の高確率バージョン(すなわち、同様の形式のPAC-Bayes境界)が可能であるかどうかについても検討する。
一般に、PAC-Bayes境界を確立することは不可能であることを示す例で、負にこの疑問に答える。
a)$\mathcal{O}(1/\log n)$より速い速度で消滅するが、提案されたMAC-Bayes境界は、レート$\mathcal{O}(n^{-1/2})$で消滅し、(b)許容誤差確率に対数依存を示す。
関連論文リスト
- Fast Rates for Bandit PAC Multiclass Classification [73.17969992976501]
我々は,帯域幅フィードバックを用いたマルチクラスPAC学習について検討し,入力を$K$ラベルの1つに分類し,予測されたラベルが正しいか否かに制限する。
我々の主な貢献は、問題の無知な$(varepsilon,delta)$PACバージョンのための新しい学習アルゴリズムを設計することである。
論文 参考訳(メタデータ) (2024-06-18T08:54:04Z) - A unified recipe for deriving (time-uniform) PAC-Bayes bounds [31.921092049934654]
PAC-ベイジアン一般化境界を導出するための統一的枠組みを提案する。
私たちの境界は任意の時効値(すなわち、時間ユニフォーム)であり、すべての停止時間を保持することを意味する。
論文 参考訳(メタデータ) (2023-02-07T12:11:59Z) - Lower Bounds for Learning in Revealing POMDPs [88.23337313766355]
本稿では, 難易度の高い環境下での強化学習(RL)の基本的限界について検討する。
Emphmulti-steping POMDPs に対して、潜伏状態空間依存はサンプル複雑性において少なくとも$Omega(S1.5)$であることを示す。
論文 参考訳(メタデータ) (2023-02-02T18:59:30Z) - Concurrent Shuffle Differential Privacy Under Continual Observation [60.127179363119936]
個人的連続和問題(対数問題)について検討する。
並列シャッフルモデルでは,標準シャッフルモデルに比べて誤差が大幅に改善できることが示されている。
論文 参考訳(メタデータ) (2023-01-29T20:42:54Z) - Bayesian decision-making under misspecified priors with applications to
meta-learning [64.38020203019013]
トンプソンサンプリングやその他のシーケンシャルな意思決定アルゴリズムは、文脈的包帯における探索と探索のトレードオフに取り組むための一般的なアプローチである。
性能は不特定な事前条件で優雅に低下することを示す。
論文 参考訳(メタデータ) (2021-07-03T23:17:26Z) - Problem Dependent View on Structured Thresholding Bandit Problems [73.70176003598449]
我々は、Thresholding Bandit problem (TBP)における問題依存体制について検討する。
学習者の目的は、シーケンシャルゲームの終わりに、所定のしきい値を超える手段を持つアームセットを出力することである。
コンケーブ設定と単調設定の両方で誤差の確率を上下に設定する。
論文 参考訳(メタデータ) (2021-06-18T15:01:01Z) - PAC-Bayes, MAC-Bayes and Conditional Mutual Information: Fast rate
bounds that handle general VC classes [17.544630217945333]
条件付きPAC-Bayesianと相互情報(MI)の一般化境界を統一的に導出する。
一般VCクラスに対して非自明な PAC-Bayes と MI-スタイルのバウンダリが得られるが、最近、標準的な PAC-Bayesian/MI バウンダリでは不可能であることが示されている。
論文 参考訳(メタデータ) (2021-06-17T17:35:29Z) - How Tight Can PAC-Bayes be in the Small Data Regime? [39.15172162668061]
PAC-Bayesとテストセット境界は、小さなデータセットに対して作成できる。
PAC-Bayes境界は、よく用いられるチャーノフテストセット境界と驚くほど競合することを示した。
最もシャープなテストセット境界は、我々が考慮しているPAC-Bayes境界よりも、一般化誤差のより良い保証につながる。
論文 参考訳(メタデータ) (2021-06-07T12:11:32Z) - Geometry of Banach spaces: a new route towards Position Based
Cryptography [65.51757376525798]
我々は幾何学的機能解析の観点から位置ベース量子暗号(PBQC)について検討し,その量子ゲームとの関係について考察した。
私たちが関心を持っている主な質問は、PBQCプロトコルのセキュリティを損なうために、攻撃者の連合が共有しなければならない、最適な絡み合いの量を求めることです。
より複雑なバナッハ空間の型プロパティの理解は、仮定を捨て、我々のプロトコルを攻撃するのに使用されるリソースに条件のない低い境界をもたらすことを示します。
論文 参考訳(メタデータ) (2021-03-30T13:55:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。