論文の概要: Reconsidering Dependency Networks from an Information Geometry Perspective
- arxiv url: http://arxiv.org/abs/2604.01117v1
- Date: Wed, 01 Apr 2026 16:40:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-02 16:44:32.094897
- Title: Reconsidering Dependency Networks from an Information Geometry Perspective
- Title(参考訳): 情報幾何学から見た依存ネットワークの再検討
- Abstract要約: 依存ネットワークは擬似ギブズサンプリングを通じて独立に学習された局所条件分布を結合する。
計算上の優位性にもかかわらず、依存関係ネットワークの理論的な基礎はいまだ不完全である。
本稿では,擬似ギブスサンプリングの情報幾何学的解析法を開発し,各サンプリングステップを全条件多様体へのm-射影として解釈する。
- 参考スコア(独自算出の注目度): 1.7802147489386628
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Dependency networks (Heckerman et al., 2000) provide a flexible framework for modeling complex systems with many variables by combining independently learned local conditional distributions through pseudo-Gibbs sampling. Despite their computational advantages over Bayesian and Markov networks, the theoretical foundations of dependency networks remain incomplete, primarily because their model distributions -- defined as stationary distributions of pseudo-Gibbs sampling -- lack closed-form expressions. This paper develops an information-geometric analysis of pseudo-Gibbs sampling, interpreting each sampling step as an m-projection onto a full conditional manifold. Building on this interpretation, we introduce the full conditional divergence and derive an upper bound that characterizes the location of the stationary distribution in the space of probability distributions. We then reformulate both structure and parameter learning as optimization problems that decompose into independent subproblems for each node, and prove that the learned model distribution converges to the true underlying distribution as the number of training samples grows to infinity. Experiments confirm that the proposed upper bound is tight in practice.
- Abstract(参考訳): 依存ネットワーク (Heckerman et al , 2000) は、擬似ギブスサンプリングを通じて独立に学習された局所条件分布を組み合わせることで、多くの変数を持つ複雑なシステムをモデル化するための柔軟なフレームワークを提供する。
ベイジアンネットワークとマルコフネットワークに対する計算上の優位性にもかかわらず、依存ネットワークの理論的な基礎は、主に擬似ギブスサンプリングの定常分布として定義されるモデル分布が閉形式表現を欠いているため、不完全のままである。
本稿では,擬似ギブスサンプリングの情報幾何学的解析法を開発し,各サンプリングステップを全条件多様体へのm-射影として解釈する。
この解釈に基づいて、完全条件分岐を導入し、確率分布の空間における定常分布の位置を特徴付ける上限を導出する。
次に、各ノードに対して独立したサブプロブレムに分解する最適化問題として、構造とパラメータ学習の両方を再構成し、学習したモデル分布が、トレーニングサンプルの数が無限に増加するにつれて、真の基底分布に収束することを証明する。
実験により提案された上限が実際に厳密であることが確認された。
関連論文リスト
- Geometry-Aware Dataset Condensation for Diffusion Model Training [103.45641113998839]
幾何学的分布アライメント問題として,実部分集合選択を再構成することを提案する。
本手法は,一方的な部分的最適輸送を組み込むことで,コンパクトな部分集合を全データ分布に選択的に整列させる。
拡散変形, 部分集合サイズ, 画像解像度, 訓練ラウンドにおける実験により, 本手法が優れた忠実度と分布範囲を実現することを示す。
論文 参考訳(メタデータ) (2026-06-04T08:53:58Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。
本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。
我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
論文 参考訳(メタデータ) (2024-10-03T09:07:13Z) - Generative Assignment Flows for Representing and Learning Joint Distributions of Discrete Data [2.6499018693213316]
離散確率変数の結合確率分布の表現のための新しい生成モデルを提案する。
このアプローチでは、分解分布の統計部分多様体上のランダム化代入フローによる測度輸送を用いる。
論文 参考訳(メタデータ) (2024-06-06T21:58:33Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Wrapped Distributions on homogeneous Riemannian manifolds [58.720142291102135]
パラメータ、対称性、モダリティなどの分布の性質の制御は、フレキシブルな分布の族を生み出す。
変動型オートエンコーダと潜在空間ネットワークモデル内で提案した分布を利用して,我々のアプローチを実証的に検証する。
論文 参考訳(メタデータ) (2022-04-20T21:25:21Z) - Investigating Shifts in GAN Output-Distributions [5.076419064097734]
本稿では,実学習データとGAN生成データの分布の可観測的変化を系統的に調査するためのループ学習手法を提案する。
全体として、これらの手法を組み合わせることで、現在のGANアルゴリズムの自然的制限を爆発的に調査することができる。
論文 参考訳(メタデータ) (2021-12-28T09:16:55Z) - Reconsidering Dependency Networks from an Information Geometry
Perspective [2.6778110563115542]
依存ネットワークは、多数の変数を含むシステムの潜在的な確率的グラフィカルモデルである。
依存ネットワークの構造は有向グラフで表され、各ノードは条件付き確率テーブルを持つ。
従属ネットワークとベイズネットワークは,学習した分布の精度においてほぼ同じ性能を示すことを示す。
論文 参考訳(メタデータ) (2021-07-02T07:05:11Z) - Decentralized Local Stochastic Extra-Gradient for Variational
Inequalities [125.62877849447729]
我々は、不均一(非IID)で多くのデバイスに分散する問題データを持つ領域上での分散変分不等式(VIs)を考察する。
我々は、完全に分散化された計算の設定を網羅する計算ネットワークについて、非常に一般的な仮定を行う。
理論的には, モノトン, モノトンおよび非モノトンセッティングにおける収束速度を理論的に解析する。
論文 参考訳(メタデータ) (2021-06-15T17:45:51Z) - AI Giving Back to Statistics? Discovery of the Coordinate System of
Univariate Distributions by Beta Variational Autoencoder [0.0]
本稿では、単変量経験分布を分類し、累積分布関数(CDF)の入力に基づいて2次元の潜伏空間で表現するためのニューラルネットワークのトレーニング経験について論じる。
潜在2次元座標系上の表現は、CDFの形状、基礎となる理論分布とそのパラメータの分類確率、情報エントロピー、歪みなど、重要な分布特性を乱す実世界のデータの付加メタデータと見なすことができる。
論文 参考訳(メタデータ) (2020-04-06T14:11:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。