論文の概要: Restructuring Tractable Probabilistic Circuits
- arxiv url: http://arxiv.org/abs/2411.12256v1
- Date: Tue, 19 Nov 2024 06:10:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-20 13:37:48.357849
- Title: Restructuring Tractable Probabilistic Circuits
- Title(参考訳): トラクタブル確率回路の再構築
- Authors: Honghua Zhang, Benjie Wang, Marcelo Arenas, Guy Van den Broeck,
- Abstract要約: 確率回路(PC)は、トラクタブル推論をサポートする確率モデルのための統一表現である。
既存の乗算アルゴリズムでは、回路は同じ構造を尊重する必要がある。
異なるvtreeを重畳する回路を乗算する新しい時間アルゴリズムがもたらされることを示す。
- 参考スコア(独自算出の注目度): 33.76083310837078
- License:
- Abstract: Probabilistic circuits (PCs) is a unifying representation for probabilistic models that support tractable inference. Numerous applications of PCs like controllable text generation depend on the ability to efficiently multiply two circuits. Existing multiplication algorithms require that the circuits respect the same structure, i.e. variable scopes decomposes according to the same vtree. In this work, we propose and study the task of restructuring structured(-decomposable) PCs, that is, transforming a structured PC such that it conforms to a target vtree. We propose a generic approach for this problem and show that it leads to novel polynomial-time algorithms for multiplying circuits respecting different vtrees, as well as a practical depth-reduction algorithm that preserves structured decomposibility. Our work opens up new avenues for tractable PC inference, suggesting the possibility of training with less restrictive PC structures while enabling efficient inference by changing their structures at inference time.
- Abstract(参考訳): 確率回路(英: Probabilistic circuits、PC)は、可算推論をサポートする確率モデルの統一表現である。
制御可能なテキスト生成のようなPCの多くの応用は、2つの回路を効率的に乗算する能力に依存する。
既存の乗算アルゴリズムは、回路が同じ構造、すなわち変数スコープが同じvtreeに従って分解することを要求している。
本研究では、構造化された(分解可能な)PCを再構成するタスク、すなわち、対象のvtreeに適合するように構造化されたPCを変換するタスクを提案し、研究する。
本稿では,この問題に対する汎用的なアプローチを提案するとともに,異なるvtreeを重畳する回路を乗算する多項式時間アルゴリズムや,構造的デコンポシビリティを保った実用的な深度還元アルゴリズムを提案する。
提案手法は,PC構造が制約の少ないPC構造でトレーニング可能であり,推論時に構造を変更することで効率的な推論が可能であることを示唆する。
関連論文リスト
- On the Expressive Power of Tree-Structured Probabilistic Circuits [8.160496835449157]
我々は、$n$変数に対して、同じ確率分布を計算する同値木の大きさに準多項式上界$nO(log n)$が存在することを示す。
また,木面の深さ制限を考慮すれば,木面とDAG構造PCとの間には超ポリノミカルな分離が存在することを示す。
論文 参考訳(メタデータ) (2024-10-07T19:51:30Z) - Tractable Bounding of Counterfactual Queries by Knowledge Compilation [51.47174989680976]
本稿では, パール構造因果モデルにおいて, 因果関係などの部分的特定可能なクエリのバウンダリングの問題について議論する。
最近提案された反復EMスキームは初期化パラメータをサンプリングしてそれらの境界を内部近似する。
シンボルパラメータを実際の値に置き換えた回路構造を,単一のシンボル知識コンパイルによって得られることを示す。
論文 参考訳(メタデータ) (2023-10-05T07:10:40Z) - Transformers as Statisticians: Provable In-Context Learning with
In-Context Algorithm Selection [88.23337313766353]
この研究はまず、変換器がICLを実行するための包括的な統計理論を提供する。
コンテクストにおいて、トランスフォーマーは、幅広い種類の標準機械学習アルゴリズムを実装可能であることを示す。
エンフィングル変換器は、異なるベースICLアルゴリズムを適応的に選択することができる。
論文 参考訳(メタデータ) (2023-06-07T17:59:31Z) - Compositional Probabilistic and Causal Inference using Tractable Circuit
Models [20.07977560803858]
我々は、構造化分解可能なPCにおける(マルジナル)決定性の新規な定式化であるmd-vtreesを紹介する。
我々は,PC上でのバックドア調整などの因果推論クエリに対して,最初のpolytimeアルゴリズムを導出する。
論文 参考訳(メタデータ) (2023-04-17T13:48:16Z) - Stabilizing Q-learning with Linear Architectures for Provably Efficient
Learning [53.17258888552998]
本研究では,線形関数近似を用いた基本的な$Q$-learningプロトコルの探索変種を提案する。
このアルゴリズムの性能は,新しい近似誤差というより寛容な概念の下で,非常に優雅に低下することを示す。
論文 参考訳(メタデータ) (2022-06-01T23:26:51Z) - The Dual PC Algorithm and the Role of Gaussianity for Structure Learning
of Bayesian Networks [0.0]
デュアルPCアルゴリズムは,実行時間や基盤となるネットワーク構造の回復において,従来のPCアルゴリズムよりも優れていることを示す。
また、このデュアルPCアルゴリズムがガウスパウラモデルに適用可能であることを示し、その設定でその性能を示す。
論文 参考訳(メタデータ) (2021-12-16T17:27:29Z) - Learning algorithms from circuit lower bounds [0.0]
構成回路下界の様々な概念から効率的な学習アルゴリズムの既知の構成を再考する。
難しい問題を解こうとする多くのpサイズの回路の誤りを、特定のインタラクティブな方法で効率的に見つけることができれば、pサイズの回路は一様分布を通じてPACを学ぶことができることを証明します。
論文 参考訳(メタデータ) (2020-12-28T04:47:36Z) - Strudel: Learning Structured-Decomposable Probabilistic Circuits [37.153542210716004]
Strudelは構造化分解可能なPCのためのシンプルで高速で正確な学習アルゴリズムである。
より正確なシングルPCモデルをより少ないイテレーションで提供し、PCのアンサンブルを構築する際に学習を劇的にスケールする。
標準密度推定ベンチマークと挑戦的推論シナリオにこれらの利点を示す。
論文 参考訳(メタデータ) (2020-07-18T04:51:31Z) - Predictive Coding Approximates Backprop along Arbitrary Computation
Graphs [68.8204255655161]
我々は、コア機械学習アーキテクチャを予測的符号化に翻訳する戦略を開発する。
私たちのモデルは、挑戦的な機械学習ベンチマークのバックプロップと同等に機能します。
本手法は,ニューラルネットワークに標準機械学習アルゴリズムを直接実装できる可能性を高める。
論文 参考訳(メタデータ) (2020-06-07T15:35:47Z) - Einsum Networks: Fast and Scalable Learning of Tractable Probabilistic
Circuits [99.59941892183454]
我々は,PC用の新しい実装設計であるEinsum Networks (EiNets)を提案する。
中心となるのは、E EiNets は単一のモノリシックな einsum-operation に多数の算術演算を組み合わせている。
本稿では,PCにおける予測最大化(EM)の実装を,自動微分を利用した簡易化が可能であることを示す。
論文 参考訳(メタデータ) (2020-04-13T23:09:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。