論文の概要: Bayesian Structure Scores for Probabilistic Circuits
- arxiv url: http://arxiv.org/abs/2302.12130v1
- Date: Thu, 23 Feb 2023 16:12:19 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-24 14:30:03.188616
- Title: Bayesian Structure Scores for Probabilistic Circuits
- Title(参考訳): 確率回路のためのベイズ構造スコア
- Authors: Yang Yang, Gennaro Gala and Robert Peharz
- Abstract要約: 確率回路(PC)は、抽出可能な推論を伴う確率の顕著な表現である。
我々は、決定論的PCのためのベイズ構造スコア、すなわちパラメータを疎外した構造可能性を開発する。
ログのように適合するトレーニング時間とモデルの間には、良好なトレードオフが達成されます。
- 参考スコア(独自算出の注目度): 13.441379161477272
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Probabilistic circuits (PCs) are a prominent representation of probability
distributions with tractable inference. While parameter learning in PCs is
rigorously studied, structure learning is often more based on heuristics than
on principled objectives. In this paper, we develop Bayesian structure scores
for deterministic PCs, i.e., the structure likelihood with parameters
marginalized out, which are well known as rigorous objectives for structure
learning in probabilistic graphical models. When used within a greedy cutset
algorithm, our scores effectively protect against overfitting and yield a fast
and almost hyper-parameter-free structure learner, distinguishing it from
previous approaches. In experiments, we achieve good trade-offs between
training time and model fit in terms of log-likelihood. Moreover, the
principled nature of Bayesian scores unlocks PCs for accommodating frameworks
such as structural expectation-maximization.
- Abstract(参考訳): 確率回路(PC)は、推定可能な確率分布の顕著な表現である。
pcにおけるパラメータ学習は厳密に研究されているが、構造学習はしばしば原理目的よりもヒューリスティックスに基づいている。
本稿では,確率的グラフィカルモデルにおける構造学習の厳密な目的としてよく知られる,決定論的PCのためのベイズ構造スコア,すなわちパラメータを疎外した構造確率を開発する。
グリーディカットセットアルゴリズムで使用する場合、我々のスコアは効率よくオーバーフィッティングを防ぎ、高速でほぼハイパーパラメータフリーな構造学習者となり、それ以前のアプローチと区別される。
実験では,ログ類似性の観点から,トレーニング時間とモデル適合のトレードオフを良好に達成する。
さらに、ベイズスコアの原理的な性質は、構造的期待最大化のような枠組みに適応するpcを解き放つ。
関連論文リスト
- Conformal Predictions for Probabilistically Robust Scalable Machine Learning Classification [1.757077789361314]
コンフォーマルな予測により、信頼性と堅牢な学習アルゴリズムを定義することができる。
基本的には、アルゴリズムが実際に使われるのに十分であるかどうかを評価する方法である。
本稿では,設計当初から信頼性の高い分類学習フレームワークを定義した。
論文 参考訳(メタデータ) (2024-03-15T14:59:24Z) - Probabilistic Dataset Reconstruction from Interpretable Models [8.31111379034875]
最適な解釈可能なモデルの方がコンパクトで、トレーニングデータに関する情報が、厳密に構築されたモデルよりも少ないことが示される。
この結果から,最適解釈可能なモデルの方がコンパクトで,学習データに関する情報が少ないことが示唆された。
論文 参考訳(メタデータ) (2023-08-29T08:10:09Z) - Provable Guarantees for Generative Behavior Cloning: Bridging Low-Level
Stability and High-Level Behavior [51.60683890503293]
生成モデルを用いた複雑な専門家による実演の行動クローニングに関する理論的枠組みを提案する。
任意の専門的軌跡の時間ごとのステップ分布に一致するトラジェクトリを生成することができることを示す。
論文 参考訳(メタデータ) (2023-07-27T04:27:26Z) - When Does Confidence-Based Cascade Deferral Suffice? [69.28314307469381]
カスケードは、推論コストをサンプル毎に適応的に変化させる古典的な戦略である。
deferralルールは、シーケンス内の次の分類子を呼び出すか、または予測を終了するかを決定する。
カスケードの構造に執着しているにもかかわらず、信頼に基づく推論は実際は極めてうまく機能することが多い。
論文 参考訳(メタデータ) (2023-07-06T04:13:57Z) - Compositional Probabilistic and Causal Inference using Tractable Circuit
Models [20.07977560803858]
我々は、構造化分解可能なPCにおける(マルジナル)決定性の新規な定式化であるmd-vtreesを紹介する。
我々は,PC上でのバックドア調整などの因果推論クエリに対して,最初のpolytimeアルゴリズムを導出する。
論文 参考訳(メタデータ) (2023-04-17T13:48:16Z) - Structural Learning of Probabilistic Sentential Decision Diagrams under
Partial Closed-World Assumption [127.439030701253]
確率感性決定図は構造化分解可能な回路のクラスである。
本稿では,回路の論理的基盤を暗黙的に提供する部分閉世界仮定に基づく新しいスキームを提案する。
予備実験では、提案手法がトレーニングデータに適切に適合し、基礎となる論理的基盤と整合性を維持した上で、テストデータによく適合することを示した。
論文 参考訳(メタデータ) (2021-07-26T12:01:56Z) - Probabilistic Generating Circuits [50.98473654244851]
効率的な表現のための確率的生成回路(PGC)を提案する。
PGCは、非常に異なる既存モデルを統一する理論的なフレームワークであるだけでなく、現実的なデータをモデル化する大きな可能性も示している。
我々はPCとDPPの単純な組み合わせによって簡単に仮定されない単純なPGCのクラスを示し、一連の密度推定ベンチマークで競合性能を得る。
論文 参考訳(メタデータ) (2021-02-19T07:06:53Z) - Differentiable TAN Structure Learning for Bayesian Network Classifiers [19.30562170076368]
本研究では,個別な入力特徴を持つベイズ型ネットワーク分類器に対する木拡大型ネーブベイズ構造(TAN)の学習について検討する。
提案手法は,可能なグラフ構造の空間上で最適化を行う代わりに,グラフ構造上の分布を学習する。
提案手法はランダムなTAN構造とChow-Liu TAN構造を一貫して上回る。
論文 参考訳(メタデータ) (2020-08-21T16:22:47Z) - Strudel: Learning Structured-Decomposable Probabilistic Circuits [37.153542210716004]
Strudelは構造化分解可能なPCのためのシンプルで高速で正確な学習アルゴリズムである。
より正確なシングルPCモデルをより少ないイテレーションで提供し、PCのアンサンブルを構築する際に学習を劇的にスケールする。
標準密度推定ベンチマークと挑戦的推論シナリオにこれらの利点を示す。
論文 参考訳(メタデータ) (2020-07-18T04:51:31Z) - A Constraint-Based Algorithm for the Structural Learning of
Continuous-Time Bayesian Networks [70.88503833248159]
連続時間ベイズネットワークの構造を学習するための制約に基づく最初のアルゴリズムを提案する。
我々は,条件付き独立性を確立するために提案した,異なる統計的テストと基礎となる仮説について論じる。
論文 参考訳(メタデータ) (2020-07-07T07:34:09Z) - Predictive Coding Approximates Backprop along Arbitrary Computation
Graphs [68.8204255655161]
我々は、コア機械学習アーキテクチャを予測的符号化に翻訳する戦略を開発する。
私たちのモデルは、挑戦的な機械学習ベンチマークのバックプロップと同等に機能します。
本手法は,ニューラルネットワークに標準機械学習アルゴリズムを直接実装できる可能性を高める。
論文 参考訳(メタデータ) (2020-06-07T15:35:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。