論文の概要: Probabilistic Generating Circuits -- Demystified
- arxiv url: http://arxiv.org/abs/2404.02912v1
- Date: Mon, 4 Mar 2024 10:40:09 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-07 23:07:46.844830
- Title: Probabilistic Generating Circuits -- Demystified
- Title(参考訳): 確率的生成回路-デミスタフィケーション
- Authors: Sanyam Agarwal, Markus Bläser,
- Abstract要約: 我々は,任意のPGCを,爆発だけで負の重みを持つPCに変換する方法を示す。
画像サイズが大きいカテゴリ変数に対する PGC は、NP = P でない限り、トラクタブルな残差化をサポートしないことを示す。
- 参考スコア(独自算出の注目度): 0.37445896443192567
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Zhang et al. (ICML 2021, PLMR 139, pp. 12447-1245) introduced probabilistic generating circuits (PGCs) as a probabilistic model to unify probabilistic circuits (PCs) and determinantal point processes (DPPs). At a first glance, PGCs store a distribution in a very different way, they compute the probability generating polynomial instead of the probability mass function and it seems that this is the main reason why PGCs are more powerful than PCs or DPPs. However, PGCs also allow for negative weights, whereas classical PCs assume that all weights are nonnegative. One of the main insights of our paper is that the negative weights are responsible for the power of PGCs and not the different representation. PGCs are PCs in disguise, in particular, we show how to transform any PGC into a PC with negative weights with only polynomial blowup. PGCs were defined by Zhang et al. only for binary random variables. As our second main result, we show that there is a good reason for this: we prove that PGCs for categorial variables with larger image size do not support tractable marginalization unless NP = P. On the other hand, we show that we can model categorial variables with larger image size as PC with negative weights computing set-multilinear polynomials. These allow for tractable marginalization. In this sense, PCs with negative weights strictly subsume PGCs.
- Abstract(参考訳): Zhang et al (ICML 2021, PLMR 139, pp. 12447-1245) は確率回路(PC)と行列点過程(DPP)を統合する確率生成回路(PGC)を導入した。
第一に、PGCは分布を全く異なる方法で保存し、確率質量関数の代わりに確率生成多項式を計算する。
しかしながら、PGCは負の重みを許容するが、古典的なPCは全ての重みが負でないと仮定する。
我々の論文の主な洞察の1つは、負の重みが異なる表現ではなく、PGCの力の原因であるということである。
PGCは、特に、任意のPGCを、多項式の爆発だけで負の重みを持つPCに変換する方法を示す。
PGCは二進確率変数に対してのみZhangらによって定義された。
画像サイズが大きい分類変数に対する PGCs は NP = P でない限りトラクタブルな辺化をサポートしていないことを証明する一方、画像サイズが大きい分類変数を負の重みを持つPCとしてモデル化できることが示される。
これらは、引き分け可能なマージン化を可能にする。
この意味で、負の重みを持つPCは、厳密な PGC を仮定する。
関連論文リスト
- On the Expressive Power of Tree-Structured Probabilistic Circuits [8.160496835449157]
我々は、$n$変数に対して、同じ確率分布を計算する同値木の大きさに準多項式上界$nO(log n)$が存在することを示す。
また,木面の深さ制限を考慮すれば,木面とDAG構造PCとの間には超ポリノミカルな分離が存在することを示す。
論文 参考訳(メタデータ) (2024-10-07T19:51:30Z) - Sum of Squares Circuits [8.323409122604893]
確率回路(PC)は、このトラクタビリティvs表現性トレードオフを理論的に分析できる枠組みを提供する。
負のパラメータによる減算混合を符号化する正方形PCは単調PCよりも指数関数的に表現可能であることを示す。
我々は、二乗PCと単調PCの両方よりも指数関数的に表現できる新しい種類のPCを定式化する。
論文 参考訳(メタデータ) (2024-08-21T17:08:05Z) - Probabilistic Circuits for Cumulative Distribution Functions [27.511363113215374]
2変数の確率変数上の分布に対して、これらの表現(PMFとCDF)は、時間内にもう1つに変換できるという意味で等価であることを示す。
連続変数の場合、PDFとCDFを演算するスムーズで分解可能なPCは、回路の葉だけを変更して効率よく変換できる。
論文 参考訳(メタデータ) (2024-08-08T05:33:21Z) - Simple Hardware-Efficient PCFGs with Independent Left and Right
Productions [77.12660133995362]
この研究は、独立した左右のプロダクションを持つ単純なPCFG形式であるemphSimplePCFGを導入している。
教師なしのアルゴリズムとして、我々の単純なPCFGは英語 PTB の平均 F1 65.1 を取得し、言語モデルとして、119.0 のパープレキシティを得る。
論文 参考訳(メタデータ) (2023-10-23T14:48:51Z) - Unified Negative Pair Generation toward Well-discriminative Feature Space for Face Recognition [2.816374336026564]
顔認識モデルは、$infmathcalSp > supmathcalSn$を満たす、よく識別可能な特徴空間(WDFS)を形成する。
本稿では,2つのPG戦略を組み合わせることにより,統一負対生成(UNPG)を提案する。
論文 参考訳(メタデータ) (2022-03-22T10:21:11Z) - HyperSPNs: Compact and Expressive Probabilistic Circuits [89.897635970366]
HyperSPNsは、小規模のニューラルネットワークを使用して大きなPCの混合重量を生成する新しいパラダイムである。
近年の文献で紹介されている2つの最先端PCファミリーに対する正規化戦略のメリットを示す。
論文 参考訳(メタデータ) (2021-12-02T01:24:43Z) - Surface Form Competition: Why the Highest Probability Answer Isn't
Always Right [70.71122438366142]
Domain Conditional Pointwise Mutual Informationは、サーフェスフォームの競争を補償します。
キャリブレーション機能とアンキャリブレーション機能の両方でゼロショット性能の一貫したゲインを実現します。
論文 参考訳(メタデータ) (2021-04-16T18:57:19Z) - CoPE: Conditional image generation using Polynomial Expansions [50.67390290190874]
入力変数を2つ拡張し,それらの自己相関と相互相関をキャプチャする,copeと呼ばれる汎用フレームワークを導入する。
CoPEは8つのデータセットを含む5つのタスク(クラスジェネレーション、逆問題、エッジ・ツー・イメージ翻訳、イメージ・ツー・イメージ翻訳、属性誘導生成)で評価される。
徹底的な評価は、CoPEが多様な条件生成タスクに取り組むのに役立つことを示唆している。
論文 参考訳(メタデータ) (2021-04-11T19:02:37Z) - Probabilistic Generating Circuits [50.98473654244851]
効率的な表現のための確率的生成回路(PGC)を提案する。
PGCは、非常に異なる既存モデルを統一する理論的なフレームワークであるだけでなく、現実的なデータをモデル化する大きな可能性も示している。
我々はPCとDPPの単純な組み合わせによって簡単に仮定されない単純なPGCのクラスを示し、一連の密度推定ベンチマークで競合性能を得る。
論文 参考訳(メタデータ) (2021-02-19T07:06:53Z) - Robustly Learning any Clusterable Mixture of Gaussians [55.41573600814391]
本研究では,高次元ガウス混合系の対向ロバスト条件下での効率的な学習性について検討する。
理論的に最適に近い誤り証明である$tildeO(epsilon)$の情報を、$epsilon$-corrupted $k$-mixtureで学習するアルゴリズムを提供する。
我々の主な技術的貢献は、ガウス混合系からの新しい頑健な識別可能性証明クラスターであり、これは正方形の定度証明システムによって捉えることができる。
論文 参考訳(メタデータ) (2020-05-13T16:44:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。