論文の概要: Recursive Bayesian Networks: Generalising and Unifying Probabilistic
Context-Free Grammars and Dynamic Bayesian Networks
- arxiv url: http://arxiv.org/abs/2111.01853v1
- Date: Tue, 2 Nov 2021 19:21:15 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-04 13:14:39.223155
- Title: Recursive Bayesian Networks: Generalising and Unifying Probabilistic
Context-Free Grammars and Dynamic Bayesian Networks
- Title(参考訳): 再帰ベイズネットワーク:確率的文脈自由文法と動的ベイズネットワークの一般化と統一
- Authors: Robert Lieck, Martin Rohrmeier
- Abstract要約: 確率的文脈自由文法 (PCFGs) と動的ベイズネットワーク (DBNs) は相補的な強みと制約を持つシーケンスモデルとして広く使われている。
本稿では,PCFGとDBNを一般化・統合するRecursive Bayesian Networks(RBNs)について述べる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Probabilistic context-free grammars (PCFGs) and dynamic Bayesian networks
(DBNs) are widely used sequence models with complementary strengths and
limitations. While PCFGs allow for nested hierarchical dependencies (tree
structures), their latent variables (non-terminal symbols) have to be discrete.
In contrast, DBNs allow for continuous latent variables, but the dependencies
are strictly sequential (chain structure). Therefore, neither can be applied if
the latent variables are assumed to be continuous and also to have a nested
hierarchical dependency structure. In this paper, we present Recursive Bayesian
Networks (RBNs), which generalise and unify PCFGs and DBNs, combining their
strengths and containing both as special cases. RBNs define a joint
distribution over tree-structured Bayesian networks with discrete or continuous
latent variables. The main challenge lies in performing joint inference over
the exponential number of possible structures and the continuous variables. We
provide two solutions: 1) For arbitrary RBNs, we generalise inside and outside
probabilities from PCFGs to the mixed discrete-continuous case, which allows
for maximum posterior estimates of the continuous latent variables via gradient
descent, while marginalising over network structures. 2) For Gaussian RBNs, we
additionally derive an analytic approximation, allowing for robust parameter
optimisation and Bayesian inference. The capacity and diverse applications of
RBNs are illustrated on two examples: In a quantitative evaluation on synthetic
data, we demonstrate and discuss the advantage of RBNs for segmentation and
tree induction from noisy sequences, compared to change point detection and
hierarchical clustering. In an application to musical data, we approach the
unsolved problem of hierarchical music analysis from the raw note level and
compare our results to expert annotations.
- Abstract(参考訳): 確率的文脈自由文法 (PCFGs) と動的ベイズネットワーク (DBNs) は相補的な強みと制約を持つシーケンスモデルとして広く使われている。
PCFGはネストした階層的依存関係(ツリー構造)を許容するが、潜伏変数(非終端記号)は離散的である必要がある。
対照的にDBNは連続的な潜伏変数を許容するが、依存関係は厳密なシーケンシャル(チェーン構造)である。
したがって、潜在変数が連続であり、ネストした階層的依存関係構造を持つと仮定すると、どちらも適用できない。
本稿では,PCFGとDBNを一般化・統合するRecursive Bayesian Networks(RBNs)について述べる。
RBNは、離散変数あるいは連続変数を持つ木構造ベイズネットワーク上の合同分布を定義する。
主な課題は、可能な構造と連続変数の指数的数に対する共同推論を行うことである。
解決策は2つあります
1) 任意の RBN に対して,PCFG から混合離散連続体への内部および外部確率を一般化する。
2)ガウス RBN に対して解析近似を導出し,ロバストパラメータ最適化とベイズ推定を可能にする。
RBNのキャパシティと多種多様な応用を2つの例に示す。 合成データを用いた定量的評価では, 変化点検出や階層的クラスタリングと比較して, ノイズ列からの分節化と木誘導に対するRBNの利点を実証し, 議論する。
音楽データへの応用として,原音レベルから階層音楽解析の未解決問題にアプローチし,その結果を専門家のアノテーションと比較する。
関連論文リスト
- Approximate learning of parsimonious Bayesian context trees [0.0]
提案するフレームワークは、合成および実世界のデータ例に基づいてテストされる。
これは、実際のタンパク質配列やハニーポットコンピュータターミナルセッションに適合すると、既存のシーケンスモデルより優れている。
論文 参考訳(メタデータ) (2024-07-27T11:50:40Z) - Joint Bayesian Inference of Graphical Structure and Parameters with a
Single Generative Flow Network [59.79008107609297]
本稿では,ベイジアンネットワークの構造上の結合後部を近似する手法を提案する。
サンプリングポリシが2フェーズプロセスに従う単一のGFlowNetを使用します。
パラメータは後部分布に含まれるため、これは局所確率モデルに対してより柔軟である。
論文 参考訳(メタデータ) (2023-05-30T19:16:44Z) - GFlowNet-EM for learning compositional latent variable models [115.96660869630227]
ラテントの後方のモデリングにおける重要なトレードオフは、表現性とトラクタブルな最適化の間にある。
非正規化密度からサンプリングするアルゴリズムであるGFlowNetsを提案する。
GFlowNetsをトレーニングして、後部から潜伏者へのサンプルをトレーニングすることにより、それらの強度をアモータライズされた変分アルゴリズムとして活用する。
論文 参考訳(メタデータ) (2023-02-13T18:24:21Z) - DynGFN: Towards Bayesian Inference of Gene Regulatory Networks with
GFlowNets [81.75973217676986]
遺伝子調節ネットワーク(GRN)は、遺伝子発現と細胞機能を制御する遺伝子とその産物間の相互作用を記述する。
既存の方法は、チャレンジ(1)、ダイナミックスから循環構造を識別すること、あるいはチャレンジ(2)、DAGよりも複雑なベイズ後部を学習することに焦点を当てるが、両方ではない。
本稿では、RNAベロシティ技術を用いて遺伝子発現の「速度」を推定できるという事実を活用し、両方の課題に対処するアプローチを開発する。
論文 参考訳(メタデータ) (2023-02-08T16:36:40Z) - On the Foundations of Cycles in Bayesian Networks [4.312746668772342]
本稿では,サイクルフリー設定を包括的かつ保守的に拡張したサイクリックBNのセマンティクスに関する基礎的研究を行う。
まず, BN上の完全関節分布の要件を局所的条件付き確率と独立性に整合させる制約に基づく意味論を提案する。
第二に、無限展開アプローチを形式化する2種類の極限意味論を導入し、マルコフ連鎖の構成によって計算可能であることを示した。
論文 参考訳(メタデータ) (2023-01-20T14:40:17Z) - Equivariant Transduction through Invariant Alignment [71.45263447328374]
グループ内ハードアライメント機構を組み込んだ,新しいグループ同変アーキテクチャを提案する。
我々のネットワーク構造は、既存のグループ同変アプローチよりも強い同変特性を発達させることができる。
また、SCANタスクにおいて、従来のグループ同変ネットワークよりも経験的に優れていたことが判明した。
論文 参考訳(メタデータ) (2022-09-22T11:19:45Z) - Bayesian Structure Learning with Generative Flow Networks [85.84396514570373]
ベイズ構造学習では、データから有向非巡回グラフ(DAG)上の分布を推定することに興味がある。
近年,ジェネレーティブ・フロー・ネットワーク(GFlowNets)と呼ばれる確率モデルのクラスが,ジェネレーティブ・モデリングの一般的なフレームワークとして紹介されている。
DAG-GFlowNetと呼ばれる本手法は,DAGよりも後方の正確な近似を提供する。
論文 参考訳(メタデータ) (2022-02-28T15:53:10Z) - DiBS: Differentiable Bayesian Structure Learning [38.01659425023988]
ベイズ構造学習(DiBS)のための汎用的で完全に微分可能なフレームワークを提案する。
DiBSは潜在確率グラフ表現の連続空間で動作する。
既存の研究とは対照的に、DiBSは局所的な条件分布の形式に依存しない。
論文 参考訳(メタデータ) (2021-05-25T11:23:08Z) - Unsupervised tree boosting for learning probability distributions [2.8444868155827634]
加法木アンサンブルの適合に基づく 教師なしツリーブースティングアルゴリズム
アルゴリズムへの積分は「残留化」という新しい概念であり、すなわち、観測から確率分布を減じて、後者のサンプリング分布から分布構造を除去する。
論文 参考訳(メタデータ) (2021-01-26T21:03:27Z) - A Constraint-Based Algorithm for the Structural Learning of
Continuous-Time Bayesian Networks [70.88503833248159]
連続時間ベイズネットワークの構造を学習するための制約に基づく最初のアルゴリズムを提案する。
我々は,条件付き独立性を確立するために提案した,異なる統計的テストと基礎となる仮説について論じる。
論文 参考訳(メタデータ) (2020-07-07T07:34:09Z) - Consistency of Spectral Clustering on Hierarchical Stochastic Block
Models [5.983753938303726]
実世界のネットワークにおけるコミュニティの階層構造について,汎用ブロックモデルを用いて検討する。
本手法の強い一貫性を,幅広いモデルパラメータで証明する。
既存のほとんどの研究とは異なり、我々の理論は接続確率が桁違いに異なるかもしれないマルチスケールネットワークをカバーしている。
論文 参考訳(メタデータ) (2020-04-30T01:08:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。