論文の概要: Instance-Adaptive Parametrization for Amortized Variational Inference

• arxiv url: http://arxiv.org/abs/2604.06796v1
• Date: Wed, 08 Apr 2026 08:11:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-09 17:30:51.417638
• Title: Instance-Adaptive Parametrization for Amortized Variational Inference
• Title（参考訳）: Amortized Variational Inferenceのためのインスタンス適応パラメトリゼーション
• Authors: Andrea Pollastro, Andrea Apicella, Francesco Isgrò, Roberto Prevete,
• Abstract要約: インスタンス適応型変分オートエンコーダ(IA-VAE)を提案する。 IA-VAE(IA-VAE)は、ハイパーネットワークが共有エンコーダの入力依存変調を生成するアモータイズされた変分推論フレームワークである。 真の後部が知られている合成データの実験では、IA-VAEはより正確な後部近似をもたらし、償却ギャップを減少させる。
• 参考スコア（独自算出の注目度）: 3.219880761967806
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Latent variable models, including variational autoencoders (VAE), remain a central tool in modern deep generative modeling due to their scalability and a well-founded probabilistic formulation. These models rely on amortized variational inference to enable efficient posterior approximation, but this efficiency comes at the cost of a shared parametrization, giving rise to the amortization gap. We propose the instance-adaptive variational autoencoder (IA-VAE), an amortized variational inference framework in which a hypernetwork generates input-dependent modulations of a shared encoder. This enables input-specific adaptation of the inference model while preserving the efficiency of a single forward pass. By leveraging instance-specific parameter modulations, the proposed approach can achieve performance comparable to standard encoders with substantially fewer parameters, indicating a more efficient use of model capacity. Experiments on synthetic data, where the true posterior is known, show that IA-VAE yields more accurate posterior approximations and reduces the amortization gap. Similarly, on standard image benchmarks, IA-VAE consistently improves held-out ELBO over baseline VAEs, with statistically significant gains across multiple runs. These results suggest that increasing the flexibility of the inference parametrization through instance-adaptive modulation is a key factor in mitigating amortization-induced suboptimality in deep generative models.
• Abstract（参考訳）: 変分オートエンコーダ(VAE)を含む潜在変数モデルは、スケーラビリティと十分に確立された確率的定式化のため、現代の深部生成モデリングにおいて中心的なツールのままである。 これらのモデルは、効率的な後続近似を可能にするために、償却変分推論に依存するが、この効率は共有パラメトリゼーションのコストがかかるため、償却ギャップが生じる。 本稿では,インスタンス適応型変分自動符号化(IA-VAE)を提案する。これは,ハイパーネットワークが共有エンコーダの入力依存変調を生成するアモータライズされた変分推論フレームワークである。 これにより、単一のフォワードパスの効率を保ちながら、入力固有の推論モデルの適応を可能にする。 インスタンス固有のパラメータ変調を利用することで、提案手法は、パラメータが大幅に少ない標準エンコーダに匹敵する性能を達成でき、モデルキャパシティをより効率的に利用できることを示す。 真の後部が知られている合成データの実験では、IA-VAEはより正確な後部近似をもたらし、償却ギャップを減少させる。 同様に、標準画像ベンチマークでは、IA-VAEはベースラインVAEよりもELBOを一貫して改善し、複数のランで統計的に有意な利得を得た。 これらの結果から, インスタンス適応変調による推論パラメトリゼーションの柔軟性の向上が, 深部生成モデルにおいて, 償却による準最適性を緩和する重要な要因であることが示唆された。

関連論文リスト

• Bayesian Experimental Design for Model Discrepancy Calibration: An Auto-Differentiable Ensemble Kalman Inversion Approach [0.0]
  自動微分可能アンサンブルカルマンインバージョン(AD-EKI)によるハイブリッドBEDフレームワークを提案する。 我々は実験的な設計を反復的に最適化し、標準BED法で処理される低次元物理パラメータの推論を分離する。 提案手法は古典的対流拡散BED例を用いて検討した。
  論文  参考訳（メタデータ） (2025-04-29T00:10:45Z)
• Efficient Source-Free Time-Series Adaptation via Parameter Subspace Disentanglement [0.7558576228782637]
  我々は、効率的なソースフリードメイン適応(SFDA)のためのフレームワークを提案する。 提案手法は,ソースモデル作成およびターゲット側適応のための改良されたパラダイムを導入する。 我々は,本フレームワークが様々なSFDA法と互換性があり,計算効率が高いことを実証した。
  論文  参考訳（メタデータ） (2024-10-03T02:12:03Z)
• Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field and Online Inference [47.460898983429374]
  我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。 EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。 得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
  論文  参考訳（メタデータ） (2023-12-10T15:22:30Z)
• Boosting Inference Efficiency: Unleashing the Power of Parameter-Shared Pre-trained Language Models [109.06052781040916]
  本稿ではパラメータ共有言語モデルの推論効率を向上させる手法を提案する。 また、完全あるいは部分的に共有されたモデルにつながる単純な事前学習手法を提案する。 その結果,本手法が自己回帰的および自己符号化的PLMに与える影響が示された。
  論文  参考訳（メタデータ） (2023-10-19T15:13:58Z)
• Distributional Learning of Variational AutoEncoder: Application to Synthetic Data Generation [0.7614628596146602]
  本稿では,VAEフレームワークの計算上の利点を犠牲にすることなく,モデル容量を拡大する手法を提案する。 VAEモデルのデコーダは、非対称ラプラス分布の無限混合からなる。 提案したモデルを合成データ生成に適用し,特にデータプライバシの調整が容易であることを示す。
  論文  参考訳（メタデータ） (2023-02-22T11:26:50Z)
• Regularizing Variational Autoencoder with Diversity and Uncertainty Awareness [61.827054365139645]
  変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。 よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
  論文  参考訳（メタデータ） (2021-10-24T07:58:13Z)
• On the Encoder-Decoder Incompatibility in Variational Text Modeling and Beyond [82.18770740564642]
  変分オートエンコーダ(VAE)は、潜時変数と償却変分推論を結合する。 我々は,データ多様体のパラメータ化が不十分なエンコーダ・デコーダの不整合性を観察する。 同一構造を持つ決定論的オートエンコーダとVAEモデルを結合した結合型VAEを提案する。
  論文  参考訳（メタデータ） (2020-04-20T10:34:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。