論文の概要: A PAC-Bayesian Perspective on Structured Prediction with Implicit Loss Embeddings

• arxiv url: http://arxiv.org/abs/2012.03780v2
• Date: Mon, 21 Dec 2020 17:20:30 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-16 21:37:56.373000
• Title: A PAC-Bayesian Perspective on Structured Prediction with Implicit Loss Embeddings
• Title（参考訳）: PAC-Bayesian Perspective on Structured Prediction with Implicit Loss Embeddings
• Authors: Th\'eophile Cantelobre and Benjamin Guedj and Mar\'ia P\'erez-Ortiz and John Shawe-Taylor
• Abstract要約: PAC-Bayesは最近、予測分布の厳密なリスクバウンドを生成する能力に関心を寄せている。 我々は,リスクと過剰リスクの2つの一般化境界を示し,ile予測者の行動に対する洞察を与える。 2つの学習アルゴリズムはこれらの境界から導かれる。
• 参考スコア（独自算出の注目度）: 11.711761707845865
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Many practical machine learning tasks can be framed as Structured prediction problems, where several output variables are predicted and considered interdependent. Recent theoretical advances in structured prediction have focused on obtaining fast rates convergence guarantees, especially in the Implicit Loss Embedding (ILE) framework. PAC-Bayes has gained interest recently for its capacity of producing tight risk bounds for predictor distributions. This work proposes a novel PAC-Bayes perspective on the ILE Structured prediction framework. We present two generalization bounds, on the risk and excess risk, which yield insights into the behavior of ILE predictors. Two learning algorithms are derived from these bounds. The algorithms are implemented and their behavior analyzed, with source code available at \url{https://github.com/theophilec/PAC-Bayes-ILE-Structured-Prediction}.
• Abstract（参考訳）: 多くの実用的な機械学習タスクは、いくつかの出力変数が予測され、相互依存と見なされる構造化予測問題として構成することができる。 構造化予測の最近の理論的進歩は、高速速度収束保証、特に暗黙的損失埋め込み(ile)フレームワークの獲得に焦点を当てている。 PAC-Bayesは最近、予測分布の厳密なリスクバウンドを生成する能力に関心を寄せている。 この研究は、 ILE Structured 予測フレームワークに関する新しい PAC-Bayes の視点を提案する。 我々は,リスクと過剰リスクの2つの一般化境界を示し,ile予測者の行動に対する洞察を与える。 2つの学習アルゴリズムはこれらの境界から導かれる。 アルゴリズムは実装され、ソースコードは \url{https://github.com/theophilec/PAC-Bayes-ILE-Structured-Prediction} で公開されている。

関連論文リスト

• Efficient pooling of predictions via kernel embeddings [0.24578723416255752]
  確率的予測は、可能な結果の集合上の確率分布である。 それらは典型的には、個々の予測分布を線形にプールすることで結合される。 各予測に割り当てられた重量は、過去の性能に基づいて推定できる。 これは、いくつかのトレーニングデータに対して適切なスコアリングルールを最適化する重みを見つけることで達成できる。
  論文  参考訳（メタデータ） (2024-11-25T10:04:37Z)
• Conformal Prediction for Hierarchical Data [5.580128181112309]
  コンフォーマル予測と予測再構成を組み合わせた第1ステップを提案する。 予測セットの効率を向上しつつ,SCPが付与した妥当性が保たれていることを示す。
  論文  参考訳（メタデータ） (2024-11-20T17:26:26Z)
• PageRank Bandits for Link Prediction [72.61386754332776]
  リンク予測は、リコメンダシステムやナレッジグラフ補完といった幅広いアプリケーションを用いたグラフ学習において重要な問題である。 本稿では,リンク予測を逐次的意思決定プロセスとして再構成し,各リンク予測インタラクションを逐次的に行う。 本稿では,PageRankとコンテキスト的帯域を結合した新しい融合アルゴリズム PRB (PageRank Bandits) を提案する。
  論文  参考訳（メタデータ） (2024-11-03T02:39:28Z)
• Paging with Succinct Predictions [25.959849403994202]
  予測情報を最小限に抑えるという新たな視点から学習増強型ページングについて検討する。 学習強化アルゴリズムの3つの望ましい特性をすべて満たす2つの設定のアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2022-10-06T09:26:34Z)
• Robustification of Online Graph Exploration Methods [59.50307752165016]
  我々は、古典的で有名なオンライングラフ探索問題の学習強化版について研究する。 本稿では,予測をよく知られたNearest Neighbor(NN)アルゴリズムに自然に統合するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-12-10T10:02:31Z)
• User-friendly introduction to PAC-Bayes bounds [0.6599344783327052]
  統計的学習理論では、手続きの一般化能力(PAC-Bayesian あるいは PAC-Bayes bounds)を理解するために設計された一連のツールが存在する。 例えば、B. Guedj氏、F. Bach氏、P. Germain氏による"PAC-Bayesian trend and insights"というワークショップがある。
  論文  参考訳（メタデータ） (2021-10-21T15:50:05Z)
• Bayesian decision-making under misspecified priors with applications to meta-learning [64.38020203019013]
  トンプソンサンプリングやその他のシーケンシャルな意思決定アルゴリズムは、文脈的包帯における探索と探索のトレードオフに取り組むための一般的なアプローチである。 性能は不特定な事前条件で優雅に低下することを示す。
  論文  参考訳（メタデータ） (2021-07-03T23:17:26Z)
• PAC$^m$-Bayes: Narrowing the Empirical Risk Gap in the Misspecified Bayesian Regime [75.19403612525811]
  この研究は、2つのリスク間のトレードオフを分散することでギャップを埋めることのできるマルチサンプル損失を開発する。 実証的研究は予測分布の改善を示す。
  論文  参考訳（メタデータ） (2020-10-19T16:08:34Z)
• Learning Output Embeddings in Structured Prediction [73.99064151691597]
  構造化予測に対する強力で柔軟なアプローチは、予測される構造化対象を潜在的に無限次元の特徴空間に埋め込むことである。 原空間における予測は、前像問題の解法により計算される。 本研究では,新しい特徴空間に出力埋め込みと回帰関数の有限近似を共同で学習することを提案する。
  論文  参考訳（メタデータ） (2020-07-29T09:32:53Z)
• A General Framework for Consistent Structured Prediction with Implicit Loss Embeddings [113.15416137912399]
  構造化予測のための理論的・アルゴリズム的な枠組みを提案し,解析する。 問題に対して適切な幾何を暗黙的に定義する、損失関数の大規模なクラスについて検討する。 出力空間を無限の濃度で扱うとき、推定子の適切な暗黙の定式化が重要であることが示される。
  論文  参考訳（メタデータ） (2020-02-13T10:30:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。