論文の概要: Structured Nonparametric Variational Inference for Dependent Latent Modeling
- arxiv url: http://arxiv.org/abs/2606.15458v1
- Date: Sat, 13 Jun 2026 20:29:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 16:21:33.586188
- Title: Structured Nonparametric Variational Inference for Dependent Latent Modeling
- Title(参考訳): 依存遅延モデリングのための構造的非パラメトリック変分推論
- Authors: Yuda Shao, Zhiling Gu, Shan Yu,
- Abstract要約: 変分推論(VI)は現代のAIの中核エンジンであり、大規模確率モデルと生成モデルのスケーラブルな学習と不確実性を考慮したトレーニングを可能にする。
後続近似における潜在変数間の複雑な依存関係をモデル化する新しいフレームワークであるStructured Non Variational Inference (SN-VI)を提案する。
SN-VIは複雑な潜伏変数の依存関係を保持し、任意の形状の後方有界線の柔軟かつ正確な近似を提供する。
- 参考スコア(独自算出の注目度): 11.146941243243248
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Variational inference (VI) is a core engine of modern AI, enabling scalable approximate Bayesian learning and uncertainty-aware training of large probabilistic and generative models. In this paper, we propose Structured Nonparametric Variational Inference (SN-VI), a novel framework for modeling complex dependencies among latent variables in posterior approximation, leveraging multivariate spline techniques. Unlike traditional methods that rely on the mean-field assumption, SN-VI preserves intricate latent variable dependencies, providing a flexible and accurate approximation of posteriors with arbitrary shapes. We establish rigorous theoretical guarantees, including the derivation of the lower bound for the variational objective and proof of asymptotic consistency in posterior estimation. To facilitate practical implementation, we develop an algorithm that automatically identifies dependent latent variables and their underlying dependence structure, without requiring manual specification. Simulation studies validate the effectiveness of SN-VI in approximating posterior distributions with bounded support and complex dependencies. The proposed method has been successfully applied to high-dimensional structured data, including computer vision datasets and spatial transcriptomics. In these applications, SN-VI demonstrates improved generative model performance and effectively uncovers coupled biological signals through the learned dependency structure.
- Abstract(参考訳): 変分推論(VI)は現代のAIの中核エンジンであり、スケーラブルな近似ベイズ学習と大規模確率モデルと生成モデルの不確実性を考慮したトレーニングを可能にする。
本稿では,多変量スプライン技術を利用して,後続近似における潜伏変数間の複雑な依存関係をモデル化する新しいフレームワークであるStructured Nonparametric Variational Inference (SN-VI)を提案する。
平均場仮定に依存する従来の手法とは異なり、SN-VIは複雑な潜伏変数依存を保ち、任意の形状の後方の柔軟で正確な近似を提供する。
我々は、変動目標に対する下界の導出や、後続推定における漸近的一貫性の証明を含む厳密な理論的保証を確立する。
実践的な実装を容易にするため,手動による仕様記述を必要とせず,依存変数とその基盤となる依存構造を自動的に識別するアルゴリズムを開発した。
シミュレーション研究は、結合した支持と複雑な依存関係を持つ後部分布の近似におけるSN-VIの有効性を検証した。
提案手法はコンピュータビジョンデータセットや空間転写学を含む高次元構造データに適用されている。
これらの応用において、SN-VIは、生成モデルの性能を改善し、学習された依存構造を通して結合された生物学的信号を効果的に発見する。
関連論文リスト
- Graph Structured Combinatorial Semi-Bandit with Nonlinear Reward Associations through Separable Signals [9.51084845180104]
我々は,グラフに基づく因果報酬モデリングのためのルーチンを備えた,新しい汎用的かつ適応的な戦略を開発する。
時間的および時間的データボリュームの線形化に関する理論的性能保証を確立する。
我々は、ベンチマークされた合成データと実世界の輸送データの両方を用いて数値実験を行う。
論文 参考訳(メタデータ) (2026-06-12T17:11:56Z) - Non-Parametric Rehearsal Learning via Conditional Mean Embeddings [88.89267783967263]
本研究では,不必要な未来(AUF)問題をテキスト化するための非パラメトリックリハーサル学習手法を提案する。
具体的には、カーネル機械を用いてAUFの目的を、動作誘起分布変化から所望性モデリングを遠ざける統一表現に再構成する。
論文 参考訳(メタデータ) (2026-05-09T15:30:52Z) - Generative Flexible Latent Structure Regression (GFLSR) model [0.5586073503694489]
本稿では, この問題を解決するために, GFLSR(Generative Flexible Latent Structure Regression)モデル構造を提案する。
本稿では,ほとんどの線形連続潜時変数法が提案したフレームワークで表現可能であることを示す。
モデル構造では、パラメータと潜伏変数の収束を解析する。
論文 参考訳(メタデータ) (2025-08-06T12:37:45Z) - Nonparametric Automatic Differentiation Variational Inference with
Spline Approximation [7.5620760132717795]
複雑な構造を持つ分布に対するフレキシブルな後続近似を可能にする非パラメトリック近似法を開発した。
広く使われている非パラメトリック推論手法と比較して,提案手法は実装が容易であり,様々なデータ構造に適応する。
実験では, 複雑な後続分布の近似における提案手法の有効性を実証し, 不完全データを用いた生成モデルの性能向上を図った。
論文 参考訳(メタデータ) (2024-03-10T20:22:06Z) - Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field and Online Inference [47.460898983429374]
我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。
EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。
得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
論文 参考訳(メタデータ) (2023-12-10T15:22:30Z) - Distributionally Robust Model-based Reinforcement Learning with Large
State Spaces [55.14361269378122]
強化学習における3つの大きな課題は、大きな状態空間を持つ複雑な力学系、コストのかかるデータ取得プロセス、トレーニング環境の展開から現実の力学を逸脱させることである。
広範に用いられているKullback-Leibler, chi-square, および全変分不確実性集合の下で, 連続状態空間を持つ分布ロバストなマルコフ決定過程について検討した。
本稿では,ガウス過程と最大分散削減アルゴリズムを用いて,多出力名目遷移力学を効率的に学習するモデルベースアプローチを提案する。
論文 参考訳(メタデータ) (2023-09-05T13:42:11Z) - Latent Variable Representation for Reinforcement Learning [131.03944557979725]
モデルに基づく強化学習のサンプル効率を改善するために、潜在変数モデルが学習、計画、探索をいかに促進するかは理論上、実証上、不明である。
状態-作用値関数に対する潜在変数モデルの表現ビューを提供する。これは、抽出可能な変分学習アルゴリズムと楽観主義/悲観主義の原理の効果的な実装の両方を可能にする。
特に,潜伏変数モデルのカーネル埋め込みを組み込んだUPB探索を用いた計算効率の良い計画アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-12-17T00:26:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。