論文の概要: Adaptive joint distribution learning
- arxiv url: http://arxiv.org/abs/2110.04829v1
- Date: Sun, 10 Oct 2021 15:51:01 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-12 16:41:49.023059
- Title: Adaptive joint distribution learning
- Title(参考訳): 適応型ジョイント分布学習
- Authors: Damir Filipovic and Michael Multerer and Paul Schneider
- Abstract要約: 我々はテンソル積再生カーネルヒルベルト空間(RKHS)に確率分布を埋め込む新しいフレームワークを開発する。
このフレームワークは、最大で数百万のデータポイントのサンプルサイズから推定されるラドン・ニコディム微分の低次元、正、正規化モデルに対応している。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We develop a new framework for embedding (joint) probability distributions in
tensor product reproducing kernel Hilbert spaces (RKHS). This framework
accommodates a low-dimensional, positive, and normalized model of a
Radon-Nikodym derivative, estimated from sample sizes of up to several million
data points, alleviating the inherent limitations of RKHS modeling.
Well-defined normalized and positive conditional distributions are natural
by-products to our approach. The embedding is fast to compute and naturally
accommodates learning problems ranging from prediction to classification. The
theoretical findings are supplemented by favorable numerical results.
- Abstract(参考訳): 我々は、テンソル積再生成核ヒルベルト空間 (rkhs) に確率分布を埋め込み(結合)するための新しいフレームワークを開発した。
このフレームワークは、RKHSモデリングの固有の制限を緩和し、最大数百万のデータポイントのサンプルサイズから推定されるラドン-ニコディム微分の低次元、正、正規化モデルに対応している。
よく定義された正規化および正条件分布は、我々のアプローチにとって自然な副産物である。
埋め込みは計算が速く、予測から分類まで学習の問題に自然に対応する。
理論的結果は良好な数値結果によって補足される。
関連論文リスト
- Non-asymptotic Convergence of Discrete-time Diffusion Models: New
Approach and Improved Rate [54.596887384531236]
我々は離散時間拡散モデルの下で、分布のかなり大きなクラスに対する収束保証を確立する。
パラメータ依存を明示した分布の興味深いクラスに対して,結果の専門化を行う。
本稿では,新しい加速サンプリング器を提案し,対応する正則サンプリング器の収束率を桁違いに向上することを示す。
論文 参考訳(メタデータ) (2024-02-21T16:11:47Z) - Score-based generative models break the curse of dimensionality in
learning a family of sub-Gaussian probability distributions [5.801621787540268]
標準ガウス測度に対する相対密度の観点から確率分布の複雑性の概念を導入する。
パラメータが適切に有界なニューラルネットワークで対数相対密度を局所的に近似できるなら、経験的スコアマッチングによって生成された分布はターゲット分布を近似する。
本証明の重要な要素は,前処理に付随する真のスコア関数に対する次元自由深部ニューラルネットワーク近似率を導出することである。
論文 参考訳(メタデータ) (2024-02-12T22:02:23Z) - Natural Bayesian Cram\'er-Rao Bound with an Application to Covariance
Estimation [53.28838377722963]
推定パラメータが多様体内にあり、先行分布に従う場合、新しいCram'er-Rao Bound (CRB) を開発する。
この導出は、幾何学的性質に基づく誤差基準とこの新しい境界との間の自然な不等式をもたらす。
論文 参考訳(メタデータ) (2023-11-08T15:17:13Z) - Chebyshev Particles [0.0]
まず、対象の後方分布を無限次元ユークリッド空間におけるサンプルの写像として考える。
重み付けされたリース分極量を最大化して、ペアの相互作用により、補正可能な部分多様体を識別する新しい基準を提案する。
我々は,合成データを用いた線形状態空間モデルと実世界のデータを用いた非線形ボラティリティモデルを用いたパラメータ推論実験により,高い性能を実現した。
論文 参考訳(メタデータ) (2023-09-10T16:40:30Z) - General regularization in covariate shift adaptation [1.5469452301122175]
データ分布の違いを伴わない標準教師付き学習と同等の精度を達成するために必要なサンプルの量は、最先端の分析によって証明されたものよりも少ないことを示す。
論文 参考訳(メタデータ) (2023-07-21T11:19:00Z) - Wrapped Distributions on homogeneous Riemannian manifolds [58.720142291102135]
パラメータ、対称性、モダリティなどの分布の性質の制御は、フレキシブルな分布の族を生み出す。
変動型オートエンコーダと潜在空間ネットワークモデル内で提案した分布を利用して,我々のアプローチを実証的に検証する。
論文 参考訳(メタデータ) (2022-04-20T21:25:21Z) - Robust Estimation for Nonparametric Families via Generative Adversarial
Networks [92.64483100338724]
我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。
我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。
技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
論文 参考訳(メタデータ) (2022-02-02T20:11:33Z) - Optimal regularizations for data generation with probabilistic graphical
models [0.0]
経験的に、よく調和された正規化スキームは、推論されたモデルの品質を劇的に改善する。
生成的ペアワイドグラフィカルモデルの最大Aポストエリオーリ(MAP)推論におけるL2とL1の正規化について検討する。
論文 参考訳(メタデータ) (2021-12-02T14:45:16Z) - Information Theoretic Structured Generative Modeling [13.117829542251188]
構造生成モデル (Structured Generative Model, SGM) と呼ばれる新しい生成モデルフレームワークが提案され, 簡単な最適化が可能となった。
この実装では、無限のガウス混合モデルを学習するために適合した単一白色ノイズ源への正則入力によって駆動される1つのニューラルネットワークを採用している。
予備的な結果は、SGMがデータ効率と分散、従来のガウス混合モデルと変分混合モデル、および敵ネットワークのトレーニングにおいてMINE推定を著しく改善することを示している。
論文 参考訳(メタデータ) (2021-10-12T07:44:18Z) - Near-optimal inference in adaptive linear regression [60.08422051718195]
最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。
我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。
我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
論文 参考訳(メタデータ) (2021-07-05T21:05:11Z) - A Note on Optimizing Distributions using Kernel Mean Embeddings [94.96262888797257]
カーネル平均埋め込みは、その無限次元平均埋め込みによる確率測度を表す。
カーネルが特徴的である場合、カーネルの総和密度を持つ分布は密度が高いことを示す。
有限サンプル設定でそのような分布を最適化するアルゴリズムを提供する。
論文 参考訳(メタデータ) (2021-06-18T08:33:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。