論文の概要: On the Normalizing Constant of the Continuous Categorical Distribution
- arxiv url: http://arxiv.org/abs/2204.13290v1
- Date: Thu, 28 Apr 2022 05:06:12 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-30 03:33:09.249796
- Title: On the Normalizing Constant of the Continuous Categorical Distribution
- Title（参考訳）: 連続圏分布の正規化定数について
- Authors: Elliott Gordon-Rodriguez, Gabriel Loaiza-Ganem, Andres Potapczynski,
John P. Cunningham
- Abstract要約: そのような分布の新しい族が発見されており、連続的な分類である。
この数学的単純さにもかかわらず、正規化定数に対する我々の理解は完全とは程遠いままである。
我々は、連続的なカテゴリー分布のより広い適用を可能にする理論的および方法論的な進歩を提示する。
- 参考スコア（独自算出の注目度）: 24.015934908123928
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Probability distributions supported on the simplex enjoy a wide range of
applications across statistics and machine learning. Recently, a novel family
of such distributions has been discovered: the continuous categorical. This
family enjoys remarkable mathematical simplicity; its density function
resembles that of the Dirichlet distribution, but with a normalizing constant
that can be written in closed form using elementary functions only. In spite of
this mathematical simplicity, our understanding of the normalizing constant
remains far from complete. In this work, we characterize the numerical behavior
of the normalizing constant and we present theoretical and methodological
advances that can, in turn, help to enable broader applications of the
continuous categorical distribution. Our code is available at
https://github.com/cunningham-lab/cb_and_cc/.
- Abstract（参考訳）: simplexでサポートされている確率分布は、統計と機械学習にまたがる幅広い応用を享受している。
近年、そのような分布の新しい族、すなわち連続カテゴリーが発見されている。
密度関数はディリクレ分布のそれに似ているが、初等関数のみを使用して閉じた形で書くことができる正規化定数を持つ。
この数学的単純さにもかかわらず、正規化定数に対する我々の理解は完成にはほど遠いままである。
本研究では,正規化定数の数値的挙動を特徴付けるとともに,連続的カテゴリ分布のより広い応用を可能にするための理論的・方法論的進歩を示す。
私たちのコードはhttps://github.com/cunningham-lab/cb_and_cc/で利用可能です。
関連論文リスト
- Non-asymptotic approximations for Pearson's chi-square statistic and its
application to confidence intervals for strictly convex functions of the
probability weights of discrete distributions [0.0]
多項確率に対する非漸近局所正規近似を開発した。
この結果を用いて離散分布の負エントロピーに対する信頼区間を求める。
論文 参考訳（メタデータ） (2023-09-05T01:18:48Z) - A Heavy-Tailed Algebra for Probabilistic Programming [53.32246823168763]
本稿では,確率変数の尾を解析するための体系的アプローチを提案する。
本稿では,確率型プログラミング言語コンパイラの静的解析(サンプル作成前)において,この手法をどのように利用できるかを示す。
実験結果から,重み付き代数を利用する推論アルゴリズムは,多数の密度モデリングおよび変分推論タスクにおいて優れた性能が得られることを確認した。
論文 参考訳（メタデータ） (2023-06-15T16:37:36Z) - $\omega$PAP Spaces: Reasoning Denotationally About Higher-Order,
Recursive Probabilistic and Differentiable Programs [64.25762042361839]
$omega$PAP 空間は表現的微分可能および確率的プログラミング言語についての推論のための空間である。
我々の意味論は、最も実践的な確率的で微分可能なプログラムに意味を割り当てるのに十分である。
確率プログラムのトレース密度関数のほぼすべての微分可能性を確立する。
論文 参考訳（メタデータ） (2023-02-21T12:50:05Z) - Evidential Softmax for Sparse Multimodal Distributions in Deep
Generative Models [38.26333732364642]
確率分布の多重性を保存するスパース正規化関数である$textitev-softmax$を提案する。
本稿では,多変量オートエンコーダや自動回帰アーキテクチャなど,多種多様な生成モデルについて評価する。
論文 参考訳（メタデータ） (2021-10-27T05:32:25Z) - Integrable Nonparametric Flows [5.9774834479750805]
本稿では,無限小変化のみを仮定した無限小正規化フローを確率分布に再構成する手法を提案する。
これは、フローの正規化という従来のタスクを逆転させる。
量子モンテカルロ問題と機械学習の潜在的な応用について論じる。
論文 参考訳（メタデータ） (2020-12-03T16:19:52Z) - Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。
テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。
以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
論文 参考訳（メタデータ） (2020-06-22T21:12:31Z) - Contextuality scenarios arising from networks of stochastic processes [68.8204255655161]
経験的モデルは、その分布が X 上の合同分布を極小化することができなければ文脈的と言える。
我々は、多くのプロセス間の相互作用という、文脈的経験的モデルの異なる古典的な源泉を示す。
長期にわたるネットワークの統計的挙動は、経験的モデルを一般的な文脈的かつ強い文脈的にする。
論文 参考訳（メタデータ） (2020-06-22T16:57:52Z) - Stein Variational Inference for Discrete Distributions [70.19352762933259]
離散分布を等価なピースワイズ連続分布に変換する単純な一般フレームワークを提案する。
提案手法は,ギブスサンプリングや不連続ハミルトニアンモンテカルロといった従来のアルゴリズムよりも優れている。
我々は,この手法がバイナライズニューラルネットワーク(BNN)のアンサンブルを学習するための有望なツールであることを実証した。
さらに、そのような変換は、勾配のないカーネル化されたStein差分に簡単に適用でき、離散分布の良性(GoF)テストを実行することができる。
論文 参考訳（メタデータ） (2020-03-01T22:45:41Z) - Generalized Sliced Distances for Probability Distributions [47.543990188697734]
我々は、一般化スライス確率測定(GSPM)と呼ばれる、幅広い確率測定値の族を紹介する。
GSPMは一般化されたラドン変換に根付いており、ユニークな幾何学的解釈を持つ。
GSPMに基づく勾配流を生成モデル応用に適用し、軽度な仮定の下では、勾配流が大域的最適に収束することを示す。
論文 参考訳（メタデータ） (2020-02-28T04:18:00Z) - The continuous categorical: a novel simplex-valued exponential family [23.983555024375306]
単純な値を持つデータに対する標準的な選択は、バイアスや数値問題など、いくつかの制限に悩まされていることを示す。
我々は,これらの制約を,単純度値データモデリングのための新しい指数関数列を導入することによって解決する。
ディリクレや他の典型的な選択とは異なり、連続な圏は確率的損失関数をよく表す。
論文 参考訳（メタデータ） (2020-02-20T04:28:02Z) - Generalized mean shift with triangular kernel profile [5.381004207943597]
平均シフトアルゴリズムは、特定のカーネルベースの形状をとる確率密度関数のモードを見つけるのに一般的な方法である。
それらに適応した新しい平均シフト多様体が導出可能であることを示し、有限個の反復の後に収束することが証明された。
論文 参考訳（メタデータ） (2020-01-07T16:46:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。