論文の概要: Generalized Score Matching for General Domains
- arxiv url: http://arxiv.org/abs/2009.11428v1
- Date: Thu, 24 Sep 2020 00:53:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-15 05:08:09.791644
- Title: Generalized Score Matching for General Domains
- Title(参考訳): 一般領域に対する一般化スコアマッチング
- Authors: Shiqing Yu, Mathias Drton, Ali Shojaie
- Abstract要約: 一般領域で支持される密度関数の推定は、データが実空間の固有部分集合に自然に制限されているときに発生する。
我々は、非常に一般的なドメインのクラスでサポートされている密度に対応するスコアマッチングの自然な一般化を提供する。
- 参考スコア(独自算出の注目度): 6.982738885923204
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Estimation of density functions supported on general domains arises when the
data is naturally restricted to a proper subset of the real space. This problem
is complicated by typically intractable normalizing constants. Score matching
provides a powerful tool for estimating densities with such intractable
normalizing constants, but as originally proposed is limited to densities on
$\mathbb{R}^m$ and $\mathbb{R}_+^m$. In this paper, we offer a natural
generalization of score matching that accommodates densities supported on a
very general class of domains. We apply the framework to truncated graphical
and pairwise interaction models, and provide theoretical guarantees for the
resulting estimators. We also generalize a recently proposed method from
bounded to unbounded domains, and empirically demonstrate the advantages of our
method.
- Abstract(参考訳): 一般領域で支持される密度関数の推定は、データが自然に実空間の固有部分集合に制限されたときに生じる。
この問題は典型的には難解な正規化定数によって複雑である。
スコアマッチングは、そのような難解な正規化定数で密度を推定する強力なツールを提供するが、もともと提案されていたように、$\mathbb{R}^m$ と $\mathbb{R}_+^m$ の密度に限られる。
本稿では,非常に一般的な領域で支持される密度に対応するスコアマッチングの自然な一般化を提案する。
このフレームワークをグラフィカルおよびペアワイズ相互作用モデルに応用し、その結果の推定値に対する理論的保証を提供する。
また,最近提案された手法を有界領域から非有界領域に一般化し,提案手法の利点を実証的に示す。
関連論文リスト
- Cross-Domain Ensemble Distillation for Domain Generalization [17.575016642108253]
クロスドメイン・アンサンブル蒸留(XDED)という,シンプルで効果的な領域一般化法を提案する。
本手法は,同じラベルを持つトレーニングデータから,異なるドメインから出力ロジットのアンサンブルを生成し,そのアンサンブルとのミスマッチに対して各出力をペナルティ化する。
本手法で学習したモデルは, 敵攻撃や画像の破損に対して堅牢であることを示す。
論文 参考訳(メタデータ) (2022-11-25T12:32:36Z) - Instance-Dependent Generalization Bounds via Optimal Transport [51.71650746285469]
既存の一般化境界は、現代のニューラルネットワークの一般化を促進する重要な要因を説明することができない。
データ空間における学習予測関数の局所リプシッツ正則性に依存するインスタンス依存の一般化境界を導出する。
ニューラルネットワークに対する一般化境界を実験的に解析し、有界値が有意義であることを示し、トレーニング中の一般的な正規化方法の効果を捉える。
論文 参考訳(メタデータ) (2022-11-02T16:39:42Z) - On the Importance of Gradient Norm in PAC-Bayesian Bounds [92.82627080794491]
対数ソボレフ不等式の縮約性を利用する新しい一般化法を提案する。
我々は、この新たな損失段階的ノルム項が異なるニューラルネットワークに与える影響を実証的に分析する。
論文 参考訳(メタデータ) (2022-10-12T12:49:20Z) - Constrained Maximum Cross-Domain Likelihood for Domain Generalization [14.91361835243516]
ドメインの一般化は、複数のソースドメイン上で一般化可能なモデルを学ぶことを目的としている。
本稿では,異なる領域の後方分布間のKL偏差を最小限に抑える新しい領域一般化法を提案する。
Digits-DG、PACS、Office-Home、MiniDomainNetの4つの標準ベンチマークデータセットの実験は、我々のメソッドの優れたパフォーマンスを強調している。
論文 参考訳(メタデータ) (2022-10-09T03:41:02Z) - Compound Domain Generalization via Meta-Knowledge Encoding [55.22920476224671]
マルチモーダル分布を再正規化するために,スタイル駆動型ドメイン固有正規化(SDNorm)を導入する。
組込み空間における関係モデリングを行うために,プロトタイプ表現,クラスセントロイドを利用する。
4つの標準ドメイン一般化ベンチマークの実験により、COMENはドメインの監督なしに最先端のパフォーマンスを上回ることが判明した。
論文 参考訳(メタデータ) (2022-03-24T11:54:59Z) - Provably Strict Generalisation Benefit for Invariance in Kernel Methods [0.0]
Elesedy と Zaidi arXiv:2102.10333 の函数空間パースペクティブの上に構築し、厳密な非ゼロ一般化の利点を導出する。
一般化は、カーネルと群の間の相互作用から生じる有効次元の概念によって支配される。
論文 参考訳(メタデータ) (2021-06-04T08:55:28Z) - Adaptive Domain-Specific Normalization for Generalizable Person
Re-Identification [81.30327016286009]
一般化可能なRe-IDのための適応型ドメイン固有正規化手法(AdsNorm)を提案する。
本研究では,一般化可能人物 Re-ID に対する適応領域特異的正規化手法 (AdsNorm) を提案する。
論文 参考訳(メタデータ) (2021-05-07T02:54:55Z) - An Online Learning Approach to Interpolation and Extrapolation in Domain
Generalization [53.592597682854944]
リスクを最小化するプレイヤーと新しいテストを示す敵の間のオンラインゲームとしてサブグループの一般化を再放送する。
両課題に対してERMは極小最適であることを示す。
論文 参考訳(メタデータ) (2021-02-25T19:06:48Z) - Failures of model-dependent generalization bounds for least-norm
interpolation [39.97534972432276]
最小ノルム線形回帰器の一般化性能に関するバウンダリを考察する。
訓練例における様々な自然な関節分布に対して、任意の有効な一般化境界は非常に緩くなければならない。
論文 参考訳(メタデータ) (2020-10-16T16:30:05Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。