論文の概要: On Certified Generalization in Structured Prediction
- arxiv url: http://arxiv.org/abs/2306.09112v1
- Date: Thu, 15 Jun 2023 13:15:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-16 14:44:54.230885
- Title: On Certified Generalization in Structured Prediction
- Title(参考訳): 構造予測における認証一般化について
- Authors: Bastian Boll, Christoph Schn\"orr
- Abstract要約: 構造化予測では、対象オブジェクトは独立成分に分解されない豊富な内部構造を持つ。
一般化の速度は、構造化された例の数だけでなく、その大きさでスケールする、構造化予測のための新しいPAC-ベイジアンリスクバウンドを提案する。
- 参考スコア(独自算出の注目度): 1.776746672434207
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In structured prediction, target objects have rich internal structure which
does not factorize into independent components and violates common i.i.d.
assumptions. This challenge becomes apparent through the exponentially large
output space in applications such as image segmentation or scene graph
generation. We present a novel PAC-Bayesian risk bound for structured
prediction wherein the rate of generalization scales not only with the number
of structured examples but also with their size. The underlying assumption,
conforming to ongoing research on generative models, is that data are generated
by the Knothe-Rosenblatt rearrangement of a factorizing reference measure. This
allows to explicitly distill the structure between random output variables into
a Wasserstein dependency matrix. Our work makes a preliminary step towards
leveraging powerful generative models to establish generalization bounds for
discriminative downstream tasks in the challenging setting of structured
prediction.
- Abstract(参考訳): 構造化予測では、対象オブジェクトは独立成分に分解されず、一般的な仮定に反する豊富な内部構造を持つ。
この課題は、画像分割やシーングラフ生成といったアプリケーションにおける指数関数的に大きな出力空間を通じて明らかになる。
本稿では,構造化予測のための新しいpac-ベイズリスクを提示する。一般化の速度は,構造化例の数だけでなく,その大きさによってもスケールする。
生成モデルに関する現在進行中の研究に従えば、データは因子化基準測度のノッチ・ロセンブラット再配置によって生成されると仮定される。
これにより、ランダム出力変数間の構造をwasserstein依存性行列に明示的に蒸留することができる。
本研究は,構造化予測の難解な設定において,判別下流タスクの一般化境界を確立するために,強力な生成モデルを活用するための予備的なステップである。
関連論文リスト
- Approximate learning of parsimonious Bayesian context trees [0.0]
提案するフレームワークは、合成および実世界のデータ例に基づいてテストされる。
これは、実際のタンパク質配列やハニーポットコンピュータターミナルセッションに適合すると、既存のシーケンスモデルより優れている。
論文 参考訳(メタデータ) (2024-07-27T11:50:40Z) - Structured Language Generation Model for Robust Structure Prediction [6.4736137270915215]
損失校正・復号法における手法を用いて,シーケンス・ツー・シーケンスの問題を分類問題に還元するフレームワークを提案する。
実験結果から,SLGMはデータセット情報を明示せずに,データセット固有の微調整を追従し,置き換えることが可能であることが示唆された。
論文 参考訳(メタデータ) (2024-02-14T06:33:22Z) - Representation Disentaglement via Regularization by Causal
Identification [3.9160947065896803]
本稿では,不整合表現学習における基礎となるデータ生成過程の仮定を記述するために,因果コライダー構造モデルを提案する。
そこで本研究では,大規模生成モデルの挙動を因果同定によって課される絡み合った制約に整合させるモジュール型正規化エンジンReIを提案する。
論文 参考訳(メタデータ) (2023-02-28T23:18:54Z) - DIFFormer: Scalable (Graph) Transformers Induced by Energy Constrained
Diffusion [66.21290235237808]
本稿では,データセットからのインスタンスのバッチを進化状態にエンコードするエネルギー制約拡散モデルを提案する。
任意のインスタンス対間の対拡散強度に対する閉形式最適推定を示唆する厳密な理論を提供する。
各種タスクにおいて優れた性能を有する汎用エンコーダバックボーンとして,本モデルの適用性を示す実験を行った。
論文 参考訳(メタデータ) (2023-01-23T15:18:54Z) - Amortized Inference for Causal Structure Learning [72.84105256353801]
因果構造を学習することは、通常、スコアまたは独立テストを使用して構造を評価することを伴う探索問題を引き起こす。
本研究では,観測・干渉データから因果構造を予測するため,変分推論モデルを訓練する。
我々のモデルは、実質的な分布シフトの下で頑健な一般化能力を示す。
論文 参考訳(メタデータ) (2022-05-25T17:37:08Z) - Variational Causal Networks: Approximate Bayesian Inference over Causal
Structures [132.74509389517203]
離散DAG空間上の自己回帰分布をモデル化したパラメトリック変分族を導入する。
実験では,提案した変分後部が真の後部を良好に近似できることを示した。
論文 参考訳(メタデータ) (2021-06-14T17:52:49Z) - Learning Output Embeddings in Structured Prediction [73.99064151691597]
構造化予測に対する強力で柔軟なアプローチは、予測される構造化対象を潜在的に無限次元の特徴空間に埋め込むことである。
原空間における予測は、前像問題の解法により計算される。
本研究では,新しい特徴空間に出力埋め込みと回帰関数の有限近似を共同で学習することを提案する。
論文 参考訳(メタデータ) (2020-07-29T09:32:53Z) - A General Framework for Consistent Structured Prediction with Implicit
Loss Embeddings [113.15416137912399]
構造化予測のための理論的・アルゴリズム的な枠組みを提案し,解析する。
問題に対して適切な幾何を暗黙的に定義する、損失関数の大規模なクラスについて検討する。
出力空間を無限の濃度で扱うとき、推定子の適切な暗黙の定式化が重要であることが示される。
論文 参考訳(メタデータ) (2020-02-13T10:30:04Z) - Target-Embedding Autoencoders for Supervised Representation Learning [111.07204912245841]
本稿では,対象空間が高次元な純粋教師付き環境における一般化の枠組みを解析する。
我々は、教師付き予測のための目標埋め込みオートエンコーダ(TEA)の一般的なフレームワークのモチベーションと形式化を行い、特徴とターゲットの予測の両方から予測可能なように最適化された中間潜在表現を学習する。
論文 参考訳(メタデータ) (2020-01-23T02:37:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。