論文の概要: A PAC-Bayesian Perspective on Structured Prediction with Implicit Loss
Embeddings
- arxiv url: http://arxiv.org/abs/2012.03780v2
- Date: Mon, 21 Dec 2020 17:20:30 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-16 21:37:56.373000
- Title: A PAC-Bayesian Perspective on Structured Prediction with Implicit Loss
Embeddings
- Title（参考訳）: PAC-Bayesian Perspective on Structured Prediction with Implicit Loss Embeddings
- Authors: Th\'eophile Cantelobre and Benjamin Guedj and Mar\'ia P\'erez-Ortiz
and John Shawe-Taylor
- Abstract要約: PAC-Bayesは最近、予測分布の厳密なリスクバウンドを生成する能力に関心を寄せている。
我々は,リスクと過剰リスクの2つの一般化境界を示し,ile予測者の行動に対する洞察を与える。
2つの学習アルゴリズムはこれらの境界から導かれる。
- 参考スコア（独自算出の注目度）: 11.711761707845865
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Many practical machine learning tasks can be framed as Structured prediction
problems, where several output variables are predicted and considered
interdependent. Recent theoretical advances in structured prediction have
focused on obtaining fast rates convergence guarantees, especially in the
Implicit Loss Embedding (ILE) framework. PAC-Bayes has gained interest recently
for its capacity of producing tight risk bounds for predictor distributions.
This work proposes a novel PAC-Bayes perspective on the ILE Structured
prediction framework. We present two generalization bounds, on the risk and
excess risk, which yield insights into the behavior of ILE predictors. Two
learning algorithms are derived from these bounds. The algorithms are
implemented and their behavior analyzed, with source code available at
\url{https://github.com/theophilec/PAC-Bayes-ILE-Structured-Prediction}.
- Abstract（参考訳）: 多くの実用的な機械学習タスクは、いくつかの出力変数が予測され、相互依存と見なされる構造化予測問題として構成することができる。
構造化予測の最近の理論的進歩は、高速速度収束保証、特に暗黙的損失埋め込み(ile)フレームワークの獲得に焦点を当てている。
PAC-Bayesは最近、予測分布の厳密なリスクバウンドを生成する能力に関心を寄せている。
この研究は、 ILE Structured 予測フレームワークに関する新しい PAC-Bayes の視点を提案する。
我々は,リスクと過剰リスクの2つの一般化境界を示し,ile予測者の行動に対する洞察を与える。
2つの学習アルゴリズムはこれらの境界から導かれる。
アルゴリズムは実装され、ソースコードは \url{https://github.com/theophilec/PAC-Bayes-ILE-Structured-Prediction} で公開されている。
関連論文リスト
- PAC Prediction Sets Under Label Shift [52.30074177997787]
予測セットは、個々のラベルではなくラベルのセットを予測することによって不確実性を捉える。
ラベルシフト設定においてPAC保証付き予測セットを構築するための新しいアルゴリズムを提案する。
提案手法を5つのデータセットで評価する。
論文 参考訳（メタデータ） (2023-10-19T17:57:57Z) - Paging with Succinct Predictions [25.959849403994202]
予測情報を最小限に抑えるという新たな視点から学習増強型ページングについて検討する。
学習強化アルゴリズムの3つの望ましい特性をすべて満たす2つの設定のアルゴリズムを開発する。
論文 参考訳（メタデータ） (2022-10-06T09:26:34Z) - Robustification of Online Graph Exploration Methods [59.50307752165016]
我々は、古典的で有名なオンライングラフ探索問題の学習強化版について研究する。
本稿では,予測をよく知られたNearest Neighbor(NN)アルゴリズムに自然に統合するアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-12-10T10:02:31Z) - User-friendly introduction to PAC-Bayes bounds [0.6599344783327052]
統計的学習理論では、手続きの一般化能力(PAC-Bayesian あるいは PAC-Bayes bounds)を理解するために設計された一連のツールが存在する。
例えば、B. Guedj氏、F. Bach氏、P. Germain氏による"PAC-Bayesian trend and insights"というワークショップがある。
論文 参考訳（メタデータ） (2021-10-21T15:50:05Z) - Bayesian decision-making under misspecified priors with applications to
meta-learning [64.38020203019013]
トンプソンサンプリングやその他のシーケンシャルな意思決定アルゴリズムは、文脈的包帯における探索と探索のトレードオフに取り組むための一般的なアプローチである。
性能は不特定な事前条件で優雅に低下することを示す。
論文 参考訳（メタデータ） (2021-07-03T23:17:26Z) - PAC$^m$-Bayes: Narrowing the Empirical Risk Gap in the Misspecified
Bayesian Regime [75.19403612525811]
この研究は、2つのリスク間のトレードオフを分散することでギャップを埋めることのできるマルチサンプル損失を開発する。
実証的研究は予測分布の改善を示す。
論文 参考訳（メタデータ） (2020-10-19T16:08:34Z) - Learning Output Embeddings in Structured Prediction [73.99064151691597]
構造化予測に対する強力で柔軟なアプローチは、予測される構造化対象を潜在的に無限次元の特徴空間に埋め込むことである。
原空間における予測は、前像問題の解法により計算される。
本研究では,新しい特徴空間に出力埋め込みと回帰関数の有限近似を共同で学習することを提案する。
論文 参考訳（メタデータ） (2020-07-29T09:32:53Z) - PAC-Bayes Analysis Beyond the Usual Bounds [16.76187007910588]
本研究では,学習者が学習例の有限セットを観察する学習モデルに焦点を当てる。
学習したデータ依存分布はランダム化予測に使用される。
論文 参考訳（メタデータ） (2020-06-23T14:30:24Z) - PAC-Bayes unleashed: generalisation bounds with unbounded losses [12.078257783674923]
非有界損失関数を持つ学習問題に対する新しいPAC-Bayesian一般化法を提案する。
これにより、PAC-Bayes学習フレームワークの妥当性と適用性が拡張される。
論文 参考訳（メタデータ） (2020-06-12T15:55:46Z) - A General Framework for Consistent Structured Prediction with Implicit
Loss Embeddings [113.15416137912399]
構造化予測のための理論的・アルゴリズム的な枠組みを提案し,解析する。
問題に対して適切な幾何を暗黙的に定義する、損失関数の大規模なクラスについて検討する。
出力空間を無限の濃度で扱うとき、推定子の適切な暗黙の定式化が重要であることが示される。
論文 参考訳（メタデータ） (2020-02-13T10:30:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。