論文の概要: Meta-Learning with Shared Amortized Variational Inference

• arxiv url: http://arxiv.org/abs/2008.12037v1
• Date: Thu, 27 Aug 2020 10:28:13 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-24 06:58:27.982878
• Title: Meta-Learning with Shared Amortized Variational Inference
• Title（参考訳）: amortized variational inferenceを用いたメタラーニング
• Authors: Ekaterina Iakovleva, Jakob Verbeek, Karteek Alahari
• Abstract要約: 経験的ベイズメタラーニングモデルのための新しいアモータイズされた変分推論手法を提案する。 変動型オートエンコーダ手法を用いて、限られた訓練データに条件付きモデルパラメータの事前分布を学習する。
• 参考スコア（独自算出の注目度）: 33.54630534228469
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose a novel amortized variational inference scheme for an empirical Bayes meta-learning model, where model parameters are treated as latent variables. We learn the prior distribution over model parameters conditioned on limited training data using a variational autoencoder approach. Our framework proposes sharing the same amortized inference network between the conditional prior and variational posterior distributions over the model parameters. While the posterior leverages both the labeled support and query data, the conditional prior is based only on the labeled support data. We show that in earlier work, relying on Monte-Carlo approximation, the conditional prior collapses to a Dirac delta function. In contrast, our variational approach prevents this collapse and preserves uncertainty over the model parameters. We evaluate our approach on the miniImageNet, CIFAR-FS and FC100 datasets, and present results demonstrating its advantages over previous work.
• Abstract（参考訳）: 本稿では,モデルパラメータを潜在変数として扱う経験的ベイズメタラーニングモデルのための,新しい不定形変分推論スキームを提案する。 制限トレーニングデータに基づくモデルパラメータの事前分布を変分オートエンコーダ法を用いて学習する。 本稿では,モデルパラメータ上の条件付き前置分布と変動型後続分布とを同一の償却推論ネットワークで共有することを提案する。 後段はラベル付きサポートとクエリデータの両方を活用するが、条件付きプリミティブはラベル付きサポートデータのみに基づいている。 初期の研究ではモンテカルロ近似を頼りに、条件付き事前崩壊はディラックデルタ関数に作用することを示した。 対照的に、我々の変分アプローチは、この崩壊を防ぎ、モデルパラメータに対する不確実性を保持します。 本稿では,miniimagenet,cifar-fs,fc100データセットのアプローチを評価し,その利点を示す結果を示す。

関連論文リスト

• On conditional diffusion models for PDE simulations [53.01911265639582]
  スパース観測の予測と同化のためのスコアベース拡散モデルについて検討した。 本稿では,予測性能を大幅に向上させる自動回帰サンプリング手法を提案する。 また,条件付きスコアベースモデルに対する新たなトレーニング戦略を提案する。
  論文  参考訳（メタデータ） (2024-10-21T18:31:04Z)
• Influence Functions for Scalable Data Attribution in Diffusion Models [52.92223039302037]
  拡散モデルは、生成的モデリングに大きな進歩をもたらした。 しかし、彼らの普及はデータ属性と解釈可能性に関する課題を引き起こす。 本稿では,テキスト・インフルエンス・ファンクション・フレームワークを開発することにより,このような課題に対処することを目的とする。
  論文  参考訳（メタデータ） (2024-10-17T17:59:02Z)
• Ensemble Modeling for Multimodal Visual Action Recognition [50.38638300332429]
  マルチモーダル動作認識のためのアンサンブルモデリング手法を提案する。 我々は,MECCANO[21]データセットの長期分布を処理するために,焦点損失の変種を用いて,個別のモダリティモデルを個別に訓練する。
  論文  参考訳（メタデータ） (2023-08-10T08:43:20Z)
• Bayesian Additive Main Effects and Multiplicative Interaction Models using Tensor Regression for Multi-environmental Trials [0.0]
  本稿では,複数の因子が表現型予測に与える影響を考慮したベイズテンソル回帰モデルを提案する。 我々は、モデルのパラメータ間で生じる可能性のある識別可能性の問題を解決するための、事前分布のセットを採用する。 我々は2010年から2019年までのアイルランドにおける小麦生産に関する実世界のデータを分析して、我々のモデルの適用性を探る。
  論文  参考訳（メタデータ） (2023-01-09T19:54:50Z)
• Bayesian Neural Network Inference via Implicit Models and the Posterior Predictive Distribution [0.8122270502556371]
  本稿では,ベイズニューラルネットワークのような複雑なモデルにおいて,近似ベイズ推論を行うための新しい手法を提案する。 このアプローチはMarkov Chain Monte Carloよりも大規模データに対してスケーラブルである。 これは、サロゲートや物理モデルのような応用に有用であると考えています。
  論文  参考訳（メタデータ） (2022-09-06T02:43:19Z)
• Online Variational Filtering and Parameter Learning [26.79116194327116]
  状態空間モデル(SSM)におけるオンライン状態推定とパラメータ学習のための変分法を提案する。 我々は、モデルパラメータと状態の後方分布の変動近似の両方に関して、ログエビデンスの低い境界を同時に最適化するために勾配を用いる。 従来の手法と異なり,本手法では,過去の観測結果が組み込まれてから修正する必要がなく,更新のコストが一定であるように,完全にオンラインで運用することが可能である。
  論文  参考訳（メタデータ） (2021-10-26T10:25:04Z)
• MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood Inference from Sampled Trajectories [61.3299263929289]
  シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。 あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。 モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
  論文  参考訳（メタデータ） (2021-06-03T12:59:16Z)
• Deep Conditional Transformation Models [0.0]
  特徴集合上の結果変数条件の累積分布関数(CDF)を学習することは依然として困難である。 条件変換モデルは、条件付きCDFの大規模なクラスをモデル化できる半パラメトリックなアプローチを提供する。 我々は,新しいネットワークアーキテクチャを提案し,異なるモデル定義の詳細を提供し,適切な制約を導出する。
  論文  参考訳（メタデータ） (2020-10-15T16:25:45Z)
• Accounting for Unobserved Confounding in Domain Generalization [107.0464488046289]
  本稿では,データセットの組み合わせから頑健で一般化可能な予測モデルを学習する際の問題点について検討する。 堅牢なモデルを学ぶことの課題の一部は、保存されていない共同設立者の影響にある。 異なるモダリティの医療データに対するアプローチの実証的性能を実証する。
  論文  参考訳（メタデータ） (2020-07-21T08:18:06Z)
• Control as Hybrid Inference [62.997667081978825]
  本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。 連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
  論文  参考訳（メタデータ） (2020-07-11T19:44:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。