論文の概要: Composing Non-Conjugate Factor Graphs with Closed-Form Variational Inference
- arxiv url: http://arxiv.org/abs/2605.29467v1
- Date: Thu, 28 May 2026 06:59:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-30 02:45:55.877159
- Title: Composing Non-Conjugate Factor Graphs with Closed-Form Variational Inference
- Title(参考訳): 閉形式変分推論による非共役係数グラフの構成
- Authors: Mykola Lukashchuk, Kyrylo Yemets, Wouter M. Kouw, Dmitry Bagaev, İsmail Şenöz, Jeff Beck, Bert de Vries,
- Abstract要約: 因子グラフプリミティブから構成される任意のモデルが、クローズドフォームの変分メッセージパッシングを許容することを示す。
それぞれのプリミティブがメッセージファミリの小さなセットを保存するため、構築は機能する。
静的アンサンブルから入力依存ゲーティング,スプリットブランチルーティングに至るまで,コンポジションの深さが増大する様子を実演する。
- 参考スコア(独自算出の注目度): 2.3394807949932495
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Stacking probabilistic building blocks into deeper architectures typically breaks closed-form inference. We show that closed-form inference can be preserved. We identify five factor-graph primitives: a bilinear factor, an exponential link, a Gamma prior, a Gaussian likelihood, and an equality node, and prove that any model composed from them admits closed-form variational message passing. The construction works because each primitive preserves a small set of message families: under mean-field factorization, messages on Gaussian variables remain Gaussian and messages on precision variables remain Gamma, while the only non-conjugate interface, the exponential link, remains tractable through the Gaussian moment-generating function and the sufficient statistics of the Gamma family. We demonstrate composition at increasing depth, from static ensembles through input-dependent gating to split-branch routing, and show that stacking routing layers encodes arbitrary decision trees, establishing universal function approximation with closed-form inference. Applied to ensemble time-series forecasting, the framework yields a Bayesian mixture of experts in which gating functions are inferred rather than learned, providing calibrated uncertainty over expert selection across five benchmark datasets.
- Abstract(参考訳): より深いアーキテクチャへの確率的ビルディングブロックの積み重ねは、通常、クローズドフォームの推論を壊します。
閉形式推論は保存可能であることを示す。
5つの因子グラフプリミティブ(双線型因子、指数的リンク、ガンマ先行、ガウス的可能性、等式ノード)を同定し、それらからなるモデルが閉形式の変分メッセージパッシングを認めることを証明した。
平均場分解の下では、ガウス変数のメッセージはガウス的のままであり、精度変数のメッセージはガムマのままであり、非共役インターフェースである指数的リンクはガウスモーメント生成関数とガムマファミリーの十分な統計によって抽出可能である。
静的アンサンブルから入力依存ゲーティングからスプリットブランチルーティングに至るまで,コンポジションを増大させ,任意の決定木を符号化し,閉形式推論による普遍関数近似を確立することを示す。
時系列予測のアンサンブルに適用されたこのフレームワークは、ゲーティング関数が学習ではなく推論されるベイズ的な専門家の混合物を生成し、5つのベンチマークデータセットのエキスパート選択に対するキャリブレートされた不確実性を提供する。
関連論文リスト
- Historical Consensus: Preventing Posterior Collapse via Iterative Selection of Gaussian Mixture Priors [4.284407845277412]
変分オートエンコーダ(VAE)は、しばしば後部崩壊に悩まされる。
アーキテクチャ上の制約による崩壊を避ける代わりに、完全に崩壊する可能性を排除します。
論文 参考訳(メタデータ) (2026-03-11T16:19:07Z) - Variational Bayesian Flow Network for Graph Generation [54.94088904387278]
グラフ生成のための変分ベイズフローネットワーク(VBFN)を提案する。
VBFNは、構造化精度で支配されるトラクタブルジョイントガウス変分信念ファミリーに対して変分リフトを行う。
合成グラフと分子グラフのデータセットでは、VBFNは忠実度と多様性を改善し、ベースライン法を超えている。
論文 参考訳(メタデータ) (2026-01-30T03:59:38Z) - Variable Elimination in Hybrid Factor Graphs for Discrete-Continuous Inference & Estimation [11.531046545925925]
ロボット工学のハイブリッド問題には 連続成分と離散成分の両方が含まれる
本稿では,ハイブリッドベイズネットワークを生成するための可変除去アルゴリズムとともに,効率的なハイブリッド係数グラフフレームワークを提案する。
我々は、不明瞭な測定値を持つSLAMデータセット上で、我々のフレームワークの適用性を実証する。
論文 参考訳(メタデータ) (2026-01-02T03:21:39Z) - On Learning-Curve Monotonicity for Maximum Likelihood Estimators [15.457993447565789]
最初の非自明な単調性は最大極大推定器を保証する。
ログ損失を伴う逐次予測では、前方KL分岐の単調性を示す。
逆 KL の発散に対して、フォークロアトリックは、非常に一般的な指数族に対して単調性をもたらす。
論文 参考訳(メタデータ) (2025-12-11T02:12:12Z) - Uncertainty-aware data assimilation through variational inference [1.0214749455979089]
決定論的機械学習アプローチに対する変分推論に基づく拡張を提案する。
我々の新しいモデルは、ほぼ完全に校正された予測が得られることを示す。
論文 参考訳(メタデータ) (2025-10-20T07:54:35Z) - A Heavy-Tailed Algebra for Probabilistic Programming [53.32246823168763]
本稿では,確率変数の尾を解析するための体系的アプローチを提案する。
本稿では,確率型プログラミング言語コンパイラの静的解析(サンプル作成前)において,この手法をどのように利用できるかを示す。
実験結果から,重み付き代数を利用する推論アルゴリズムは,多数の密度モデリングおよび変分推論タスクにおいて優れた性能が得られることを確認した。
論文 参考訳(メタデータ) (2023-06-15T16:37:36Z) - Graph Signal Sampling for Inductive One-Bit Matrix Completion: a
Closed-form Solution [112.3443939502313]
グラフ信号解析と処理の利点を享受する統合グラフ信号サンプリングフレームワークを提案する。
キーとなる考え方は、各ユーザのアイテムのレーティングをアイテムイットグラフの頂点上の関数(信号)に変換することである。
オンライン設定では、グラフフーリエ領域における連続ランダムガウス雑音を考慮したベイズ拡張(BGS-IMC)を開発する。
論文 参考訳(メタデータ) (2023-02-08T08:17:43Z) - Cumulant-free closed-form formulas for some common (dis)similarities
between densities of an exponential family [38.13659821903422]
本研究では、累積関数の明示的使用を回避した(dis)相似性公式を報告する。
提案手法では, 指数関数列の密度を部分的に分解するだけでよい。
論文 参考訳(メタデータ) (2020-03-05T07:46:22Z) - Improved guarantees and a multiple-descent curve for Column Subset
Selection and the Nystr\"om method [76.73096213472897]
我々は,データ行列のスペクトル特性を利用して近似保証を改良する手法を開発した。
我々のアプローチは、特異値減衰の既知の速度を持つデータセットのバウンダリが大幅に向上する。
RBFパラメータを変更すれば,改良された境界線と多重発振曲線の両方を実データセット上で観測できることが示される。
論文 参考訳(メタデータ) (2020-02-21T00:43:06Z) - Residual Correlation in Graph Neural Network Regression [39.54530450932135]
我々は条件付き独立仮定が予測力を著しく制限していることを示します。
この問題を解釈可能かつ効率的なフレームワークで解決する。
我々のフレームワークは、競合するベースラインよりもかなり高い精度を実現している。
論文 参考訳(メタデータ) (2020-02-19T16:32:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。