Fugu-MT 論文翻訳(概要): Optimal Transport PAC-Bayes Bounds

論文の概要: Optimal Transport PAC-Bayes Bounds

arxiv url: http://arxiv.org/abs/2610.16560v1
Date: Mon, 12 Oct 2026 10:40:23 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-18 22:35:42.549193
Title: Optimal Transport PAC-Bayes Bounds
Title（参考訳）: 最適輸送PAC-Bayes境界
Abstract要約: PAC-ベイズ一般化境界は統計学習において最も分布依存的な保証の一つである。本研究では、KLの発散を一般最適輸送(OT)距離に置き換える新しいPAC-ベイズ境界を導出する。
参考スコア（独自算出の注目度）: 0.8602553195689512
License: http://creativecommons.org/licenses/by/4.0/
Abstract: PAC-Bayesian generalization bounds are among the strongest distribution-dependent guarantees in statistical learning and are typically expressed in terms of the Kullback-Leibler (KL) divergence between a prior and posterior distribution. While analytically convenient, the KL divergence requires the posterior to be absolutely continuous w.r.t. the prior, imposing support constraints that can substantially restrict the choice of posterior. Moreover, the KL divergence does not account for the underlying geometry of the probability space. In this work, we derive new PAC-Bayesian bounds replacing the KL divergence with general optimal transport (OT) distances, including the total variation and Wasserstein-$p$ distances.
Abstract（参考訳）: PAC-ベイズ一般化境界は統計学習における最強分布依存保証の1つであり、典型的には、先行分布と後分布の間のクルバック・リーブラー(KL)の偏差によって表される。解析的に便利であるが、KLの発散は後方が絶対連続であることを要求するため、後方の選択を著しく制限するサポート制約を課す。さらに、KL の発散は確率空間の基底幾何学を考慮しない。本研究では、KLの発散を全変量とワッサーシュタイン-$p$距離を含む一般最適輸送(OT)距離に置き換える新しいPAC-ベイズ境界を導出する。

関連論文リスト

A proximal subgradient method for nonconvex stochastic optimization under the Kurdyka-Łojasiewicz condition [39.146761527401424]
本研究は,期待されるコストの和を最小化するための近位次法を導入する。クルディカ・ロジャシエヴィチ(KL)特性を用いて、全軌道の1つの定常点への収束を保証する。
論文参考訳（メタデータ） (2026-08-05T23:07:27Z)
Toward Plasticity-Preserving KL Regularization for Capability Retention in LLM Reinforcement Learning [43.981833556858135]
完全出力分布から正当性条件付き応答分布への保存制約を狭める条件正規化フレームワークを提案する。 CoKLは,既存の正規化手法よりも目標タスク改善と事前能力維持のバランスが良好である。
論文参考訳（メタデータ） (2026-08-03T06:10:33Z)
Fast Rates for Offline Contextual Bandits with Forward-KL Regularization under Single-Policy Concentrability [54.40598524756038]
emphKullback-Leibler (KL) 正規化は強化学習アルゴリズムにおいてユビキタスである。近年の研究では、KLの逆正則化の下での意思決定において、$1$型高速速度が示されている。我々は、この問題を解決するための第一歩として、フォワードKL正規化オフラインCBの合理化分析を行う。
論文参考訳（メタデータ） (2026-05-09T23:17:46Z)
Statistical and Geometrical properties of regularized Kernel Kullback-Leibler divergence [7.273481485032721]
Bach [2022] が導入したカーネル共分散作用素によるクルバック・リーブラ発散の統計的および幾何学的性質について検討する。密度比を含む古典的なクルバック・リーブラー(KL)の発散とは異なり、KKLは再現可能なカーネルヒルベルト空間(RKHS)における共分散作用素(埋め込み)による確率分布を比較する。この斬新な発散は、確率分布と最大平均誤差のようなカーネル埋め込みメトリクスの間の標準のクルバック・リーバーと平行だが異なる側面を共有する。
論文参考訳（メタデータ） (2024-08-29T14:01:30Z)
Domain Adaptation with Cauchy-Schwarz Divergence [39.36943882475589]
教師なし領域適応(UDA)問題にコーシー=シュワルツの発散を導入する。 CS発散は、Kulback-Leibler発散よりも理論上より厳密な一般化誤差を提供する。距離距離測定および対角訓練に基づくUDAフレームワークにおいて,CSのばらつきが有用であることを示す。
論文参考訳（メタデータ） (2024-05-30T12:01:12Z)
Tighter Generalisation Bounds via Interpolation [16.74864438507713]
本稿では、$(f, Gamma)$-divergenceに基づいて、新しいPAC-Bayes一般化境界を導出するレシピを提案する。また、PAC-Bayes一般化バウンダリでは、一連の確率発散を補間する。
論文参考訳（メタデータ） (2024-02-07T18:55:22Z)
PAC-Bayes-Chernoff bounds for unbounded losses [9.987130158432755]
PAC-Bayes Oracle bound for unbounded loss that extends Cram'er-Chernoff bounds to the PAC-Bayesian set。我々のアプローチは、多くのPAC-Bayes境界における自由パラメータの正確な最適化など、Cram'er-Chernoff境界の性質を自然に活用する。
論文参考訳（メタデータ） (2024-01-02T10:58:54Z)
Integral Probability Metrics PAC-Bayes Bounds [22.534592918803813]
PAC-Bayes型一般化バウンダリを提案し、KL分割を様々な積分確率メトリック(IPM)に置き換えることを可能にする。得られた境界の顕著な特徴は、それらが最悪の場合において古典的一様収束境界の間を自然に補間することである。
論文参考訳（メタデータ） (2022-07-01T18:22:44Z)
Variational Refinement for Importance Sampling Using the Forward Kullback-Leibler Divergence [77.06203118175335]
変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
論文参考訳（メタデータ） (2021-06-30T11:00:24Z)
PAC$^m$-Bayes: Narrowing the Empirical Risk Gap in the Misspecified Bayesian Regime [75.19403612525811]
この研究は、2つのリスク間のトレードオフを分散することでギャップを埋めることのできるマルチサンプル損失を開発する。実証的研究は予測分布の改善を示す。
論文参考訳（メタデータ） (2020-10-19T16:08:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。