論文の概要: On the disintegration of the stochastic majority vote: From PAC-Bayesian bounds to a self-bounding algorithm
- arxiv url: http://arxiv.org/abs/2609.16803v1
- Date: Tue, 15 Sep 2026 08:08:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 14:56:08.401175
- Title: On the disintegration of the stochastic majority vote: From PAC-Bayesian bounds to a self-bounding algorithm
- Title(参考訳): 確率的多数決の崩壊について:PAC-ベイズ境界から自己有界アルゴリズムへ
- Abstract要約: PAC-ベイズ理論は、重み付けされた多数決に対する一般化保証を提供する。
本稿では、多数決のためのデランドマイズフレームワークを提案し、保証を1つの決定論的多数決のための証明書に変換する。
- 参考スコア(独自算出の注目度): 8.44966073503768
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Weighted majority votes are central to many successful ensemble methods. PAC-Bayesian theory provides tight generalization guarantees for such models by analyzing the expected risk of stochastic classifiers, while analyzing the risk of deterministic majority votes relies on surrogate bounds. To avoid these surrogates, Zantedeschi et al. ( 2021) introduced guarantees for stochastic majority votes, but the resulting models remain randomized. In this paper, we propose a derandomization framework for stochastic majority votes. To do so, we apply recent advances in disintegrated PAC-Bayesian theory directly to the space of majority vote weight vectors, transforming stochastic guarantees into certificates for a single deterministic majority vote. We derive two families of high-probability generalization bounds, covering both data-independent and data-dependent constructions of the ensemble, which naturally lead to a self-bounding learning algorithm optimizing deterministic majority vote guarantees.
- Abstract(参考訳): 弱い過半数の票は、多くの成功したアンサンブルの方法の中心である。
PAC-ベイズ理論は、確率的分類器の予想されるリスクを分析しながら、決定論的多数決のリスクを分析することで、そのようなモデルに対する厳密な一般化を保証する。
これらのサロゲートを避けるため、Zantedeschi et al (2021) は確率的多数決の保証を導入したが、結果として得られたモデルは依然としてランダム化されている。
本稿では,確率的多数決のためのデランドマイズフレームワークを提案する。
そこで我々は, 多数決重みベクトルの空間に直接分解されたPAC-ベイズ理論の最近の進歩を適用し, 確率的保証を1つの決定論的多数決の証明に変換する。
我々は,データに依存しない,データに依存しないアンサンブルの構成を包含し,決定論的多数決保証を最適化する自己拘束型学習アルゴリズムを導出する,高確率一般化境界の2つのファミリーを導出する。
関連論文リスト
- Beyond Majority Voting: Efficient Best-Of-N with Radial Consensus Score [13.41454380481593]
Radial Consensus Score (RCS) は、N選択のための単純で効率的で訓練のない方法である。
RCSは、重み付きフレシェ平均(意味中心)を計算して意味的コンセンサスをモデル化する。
論文 参考訳(メタデータ) (2026-04-14T02:02:20Z) - A Framework for Bounding Deterministic Risk with PAC-Bayes: Applications to Majority Votes [4.664367264604233]
PAC-Bayes は、非可算仮説空間における一般化保証を得るための一般的なフレームワークである。
本研究では,PAC-ベイジアン保証から単一仮説の保持する保証を抽出する統一的な枠組みを提案する。
論文 参考訳(メタデータ) (2025-10-29T14:38:35Z) - Generating Fair Consensus Statements with Social Choice on Token-Level MDPs [7.5036512760759715]
タスクを多目的トークンレベルマルコフ決定プロセス(MDP)としてモデル化する。
各エージェントに対するトークンレベルの報酬は、それぞれのポリシー(例えば、パーソナライズされた言語モデル)から導かれる。
このアプローチは、そのようなポリシーが最適Q-函数を暗黙的に定義し、値関数なしで各生成ステップでの報酬を定量化する原則的な方法を提供する。
論文 参考訳(メタデータ) (2025-10-15T21:23:18Z) - Beyond Majority Voting: LLM Aggregation by Leveraging Higher-Order Information [57.397381631496906]
最適重み(OW)と逆サプライシング人気度(ISP)という2つの新しいアグリゲーションアルゴリズムを開発した。
我々の理論的分析は、これらの手法が軽微な仮定の下での多数決の本質的な制限を確実に緩和することを示している。
我々は,我々のアルゴリズムを人工データセット,UltraFeedbackやMMLUなどのLLMファインチューニングベンチマーク,実世界の医療環境ARMMAN上で実証的に検証した。
論文 参考訳(メタデータ) (2025-10-01T22:21:50Z) - A Principled Approach to Randomized Selection under Uncertainty: Applications to Peer Review and Grant Funding [61.86327960322782]
本稿では,各項目の品質の間隔推定に基づくランダム化意思決定の枠組みを提案する。
最適化に基づく最適化手法であるMERITを導入する。
MERITが既存のアプローチで保証されていない望ましい公理特性を満たすことを証明している。
論文 参考訳(メタデータ) (2025-06-23T19:59:30Z) - Bounded Rationality for LLMs: Satisficing Alignment at Inference-Time [52.230936493691985]
本稿では,2次基準のしきい値に基づく制約を満たしつつ,主目的を最大化し,アライメントの多面性に対処する推論フレームワークSITAlignを提案する。
我々は、満足度に基づく推論アライメントアプローチの準最適境界を導出することで理論的洞察を提供する。
論文 参考訳(メタデータ) (2025-05-29T17:56:05Z) - Learning Stochastic Majority Votes by Minimizing a PAC-Bayes
Generalization Bound [15.557653926558638]
分類器の有限アンサンブルに対する多数票の対について検討し、その一般化特性について検討する。
ディリクレ分布でインスタンス化し、予測されるリスクに対して閉じた形式と微分可能な表現を可能にする。
結果の多数決学習アルゴリズムは、最先端の精度と(非空きな)厳密な境界から恩恵を得る。
論文 参考訳(メタデータ) (2021-06-23T16:57:23Z) - Self-Bounding Majority Vote Learning Algorithms by the Direct
Minimization of a Tight PAC-Bayesian C-Bound [0.0]
C-BoundのPAC-Bayesian保証に基づく自己拘束型多数決学習アルゴリズムを導出する。
私たちのアルゴリズムはスケーラブルで、非空き保証と組み合わせた正確な予測器につながります。
論文 参考訳(メタデータ) (2021-04-28T08:23:18Z) - Selective Classification via One-Sided Prediction [54.05407231648068]
片側予測(OSP)に基づく緩和は、実際に関係する高目標精度体制において、ほぼ最適カバレッジが得られるSCスキームをもたらす。
理論的には,SCとOSPのバウンダリ一般化を導出し,その手法が小さな誤差レベルでのカバレッジにおいて,技術手法の状態を強く上回ることを示す。
論文 参考訳(メタデータ) (2020-10-15T16:14:27Z) - Adaptive Sampling for Best Policy Identification in Markov Decision
Processes [79.4957965474334]
本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。
最先端アルゴリズムの利点を論じ、解説する。
論文 参考訳(メタデータ) (2020-09-28T15:22:24Z) - Statistical Efficiency of Thompson Sampling for Combinatorial
Semi-Bandits [56.31950477139053]
半帯域フィードバック(CMAB)を用いたマルチアームバンディットの検討
我々は Combinatorial Thompson Smpling Policy (CTS) の変種を解析する。
この最終結果は,Y Combinatorial Bandit Policy (ESCB) の効率的なサンプリングに代わるものだ。
論文 参考訳(メタデータ) (2020-06-11T17:12:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。