論文の概要: Exemplar VAE: Linking Generative Models, Nearest Neighbor Retrieval, and Data Augmentation

• arxiv url: http://arxiv.org/abs/2004.04795v3
• Date: Tue, 24 Nov 2020 18:51:11 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-15 02:01:35.177428
• Title: Exemplar VAE: Linking Generative Models, Nearest Neighbor Retrieval, and Data Augmentation
• Title（参考訳）: Exemplar VAE: 生成モデルのリンク、最近傍検索、データ拡張
• Authors: Sajad Norouzi, David J. Fleet, Mohammad Norouzi
• Abstract要約: 本稿では,パラメトリックモデルと非パラメトリックモデルとのギャップを埋める生成モデルであるExemplar VAEを紹介する。 そこからサンプルを抽出するために、まずトレーニングセットからランダムな例を描画し、次に変分してその例を潜在コードに変換する。 Exemplar VAEが密度推定および表現学習に与える影響を実証した。
• 参考スコア（独自算出の注目度）: 42.50518491072227
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We introduce Exemplar VAEs, a family of generative models that bridge the gap between parametric and non-parametric, exemplar based generative models. Exemplar VAE is a variant of VAE with a non-parametric prior in the latent space based on a Parzen window estimator. To sample from it, one first draws a random exemplar from a training set, then stochastically transforms that exemplar into a latent code and a new observation. We propose retrieval augmented training (RAT) as a way to speed up Exemplar VAE training by using approximate nearest neighbor search in the latent space to define a lower bound on log marginal likelihood. To enhance generalization, model parameters are learned using exemplar leave-one-out and subsampling. Experiments demonstrate the effectiveness of Exemplar VAEs on density estimation and representation learning. Importantly, generative data augmentation using Exemplar VAEs on permutation invariant MNIST and Fashion MNIST reduces classification error from 1.17% to 0.69% and from 8.56% to 8.16%.
• Abstract（参考訳）: 本稿では,パラメトリックモデルと非パラメトリックモデルとのギャップを埋める生成モデルであるExemplar VAEを紹介する。 Exemplar VAE は、Parzen ウィンドウ推定器に基づく潜在空間における非パラメトリック先行を持つ VAE の変種である。 そこからサンプルを抽出するために、まずトレーニングセットからランダムな例を描画し、その後確率論的にその例を潜在コードに変換し、新しい観察を行う。 本研究では,潜在空間における近似近辺探索を用いて,ログ周縁確率の下限を定義する手法として,検索拡張学習(research augmented training,rat)を提案する。 一般化を強化するために、モデルパラメータはexemplar leave-one-outとsubsamplingを使って学習される。 Exemplar VAEが密度推定および表現学習に与える影響を実証した。 重要なのは、置換不変量 MNIST と Fashion MNIST におけるexemplar VAE を用いた生成データ増大は、分類誤差を 1.17% から 0.69% に減らし、8.56% から 8.16% に減らしている。

関連論文リスト

• Consensus-Adaptive RANSAC [104.87576373187426]
  本稿では,パラメータ空間の探索を学習する新しいRANSACフレームワークを提案する。 注意機構は、ポイント・ツー・モデル残差のバッチで動作し、軽量のワンステップ・トランスフォーマーで見いだされたコンセンサスを考慮するために、ポイント・ツー・モデル推定状態を更新する。
  論文  参考訳（メタデータ） (2023-07-26T08:25:46Z)
• Unscented Autoencoder [3.0108936184913295]
  変分オートエンコーダ(VAE)は、潜伏変数を用いた深部生成モデリングにおける基礎的なアプローチである。 フィルタの分野からUnscented Kalman Filter (UKF) によく知られた分布近似である Unscented Transform (UT) を適用する。 我々は,VAE(Unscented Autoencoder, UAE)の新規な決定論的サンプリングフレーバーを,サンプル毎の後部における正規化のような用語で純粋に訓練した。
  論文  参考訳（メタデータ） (2023-06-08T14:53:02Z)
• Winner-Take-All Column Row Sampling for Memory Efficient Adaptation of Language Model [89.8764435351222]
  分散を低減した行列生成のために, WTA-CRS と呼ばれる新しい非バイアス推定系を提案する。 我々の研究は、チューニング変換器の文脈において、提案した推定器が既存のものよりも低い分散を示すという理論的および実験的証拠を提供する。
  論文  参考訳（メタデータ） (2023-05-24T15:52:08Z)
• Intra-class Adaptive Augmentation with Neighbor Correction for Deep Metric Learning [99.14132861655223]
  深層学習のためのクラス内適応拡張(IAA)フレームワークを提案する。 クラスごとのクラス内変動を合理的に推定し, 適応型合成試料を生成し, 硬質試料の採掘を支援する。 本手法は,検索性能の最先端手法を3%～6%向上させる。
  論文  参考訳（メタデータ） (2022-11-29T14:52:38Z)
• Missing Data Imputation and Acquisition with Deep Hierarchical Models and Hamiltonian Monte Carlo [2.666288135543677]
  混合型不完全データに対する階層型VAEモデルであるHH-VAEMを提案する。 実験の結果,HH-VAEMはデータ計算の欠如,教師付き学習,外れ値同定といったタスクにおいて,既存のベースラインよりも優れていた。 また,HH-VAEMで特徴が得られない場合に,情報ゲインを効率的に計算するためのサンプリングベース手法を提案する。
  論文  参考訳（メタデータ） (2022-02-09T17:50:52Z)
• ByPE-VAE: Bayesian Pseudocoresets Exemplar VAE [18.832764075388848]
  本稿では,ベイズ擬似コアセットに基づく新たなVAEの変種であるExemplar VAE(ByPE-VAE)を提案する。 ByPE-VAEは, 密度推定, 表現学習, 生成データ拡張といったタスクにおいて, 最先端のVAEよりも競争力の向上を達成できることを示す。
  論文  参考訳（メタデータ） (2021-07-20T07:02:19Z)
• Model-based multi-parameter mapping [0.0]
  定量的MRイメージングは、よりリッチな情報の内容と標準化された測定基準のためにますます好まれている。 推定はしばしば、異なる量のデータを分離して解くために、データのノイズサブセットを仮定する。 代わりに、生成モデルは定式化され、パラメータ推定を共同で回復するために反転することができる。
  論文  参考訳（メタデータ） (2021-02-02T17:00:11Z)
• Improved Semantic Role Labeling using Parameterized Neighborhood Memory Adaptation [22.064890647610348]
  本稿では,アクティベーションのメモリにおける近接するトークンのパラメータ化表現を用いたパラメータ化近傍メモリ適応(PNMA)手法を提案する。 単語埋め込みの種類に関係なく,PNMAはベースモデルのSRL性能を一貫して改善することを示す。
  論文  参考訳（メタデータ） (2020-11-29T22:51:25Z)
• Simple and Effective VAE Training with Calibrated Decoders [123.08908889310258]
  変分オートエンコーダ(VAE)は、複雑な分布をモデル化するための効果的で簡単な方法である。 復号分布の不確かさを学習する校正復号器の影響について検討する。 本稿では,一般的なガウス復号器の簡易かつ斬新な修正を提案し,その予測分散を解析的に計算する。
  論文  参考訳（メタデータ） (2020-06-23T17:57:47Z)
• Parameter Space Factorization for Zero-Shot Learning across Tasks and Languages [112.65994041398481]
  本稿では,ニューラルパラメータの空間に対するベイズ生成モデルを提案する。 タスク言語の組み合わせから得られたデータに基づいて、そのような潜伏変数よりも後部を推測する。 我々のモデルは、最先端のゼロショットの言語間転送手法よりも、同等か良い結果が得られる。
  論文  参考訳（メタデータ） (2020-01-30T16:58:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。