論文の概要: Supervising the Decoder of Variational Autoencoders to Improve Scientific Utility

• arxiv url: http://arxiv.org/abs/2109.04561v1
• Date: Thu, 9 Sep 2021 20:55:38 GMT
• ステータス: 処理完了
• システム内更新日: 2021-09-14 03:16:05.671339
• Title: Supervising the Decoder of Variational Autoencoders to Improve Scientific Utility
• Title（参考訳）: 変分オートエンコーダのデコーダによる科学的有用性向上
• Authors: Liyun Tu, Austin Talbot, Neil Gallagher, David Carlson
• Abstract要約: 確率的生成モデルは、仮説や設計実験を生成するために、推論されたパラメータを使用することができるため、科学的モデリングには魅力的である。 SVAE (Supervised Variational Autoencoders) はこの目的のために使用される。 我々は,デコーダに影響を与える2次監視フレームワーク(SOS-VAE)を開発し,予測潜在表現を誘導する。
• 参考スコア（独自算出の注目度）: 1.014927488137914
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Probabilistic generative models are attractive for scientific modeling because their inferred parameters can be used to generate hypotheses and design experiments. This requires that the learned model provide an accurate representation of the input data and yield a latent space that effectively predicts outcomes relevant to the scientific question. Supervised Variational Autoencoders (SVAEs) have previously been used for this purpose, where a carefully designed decoder can be used as an interpretable generative model while the supervised objective ensures a predictive latent representation. Unfortunately, the supervised objective forces the encoder to learn a biased approximation to the generative posterior distribution, which renders the generative parameters unreliable when used in scientific models. This issue has remained undetected as reconstruction losses commonly used to evaluate model performance do not detect bias in the encoder. We address this previously-unreported issue by developing a second order supervision framework (SOS-VAE) that influences the decoder to induce a predictive latent representation. This ensures that the associated encoder maintains a reliable generative interpretation. We extend this technique to allow the user to trade-off some bias in the generative parameters for improved predictive performance, acting as an intermediate option between SVAEs and our new SOS-VAE. We also use this methodology to address missing data issues that often arise when combining recordings from multiple scientific experiments. We demonstrate the effectiveness of these developments using synthetic data and electrophysiological recordings with an emphasis on how our learned representations can be used to design scientific experiments.
• Abstract（参考訳）: 確率的生成モデル(probabilistic generative model)は、推論されたパラメータが仮説の生成や設計実験に使用できるため、科学的モデリングにおいて魅力的である。 これは、学習モデルが入力データの正確な表現を提供し、科学的問題に関連する結果を効果的に予測する潜在空間を与える必要がある。 SVAE(Supervised Variational Autoencoder)はこの目的のために使われており、注意深く設計されたデコーダを解釈可能な生成モデルとして使用でき、教師付き目的によって予測潜在表現が保証される。 残念なことに、教師付き目的により、エンコーダは生成後続分布に対する偏りのある近似を学習せざるを得ず、科学的モデルで使用する場合、生成パラメータは信頼できない。 この問題は、モデル性能を評価するために一般的に使用される再構成損失がエンコーダのバイアスを検知しないため、未検出のままである。 本稿では,デコーダに影響を与える2次監視フレームワーク(SOS-VAE)を開発し,予測潜在表現を誘導する手法を提案する。 これにより、関連するエンコーダが信頼できる生成解釈を維持する。 我々は,SVAEと新たなSOS-VAEの中間的選択肢として機能し,予測性能向上のための生成パラメータの偏りのトレードオフを可能にするために,この手法を拡張した。 また、この手法を用いて、複数の科学実験からの録音を組み合わせる際にしばしば発生する欠落データ問題にも対処する。 本研究は, 合成データと電気生理学的記録を用いて, 科学的実験を設計するために, 学習した表現をどのように利用できるかに注目した。

関連論文リスト

• An Investigation on Machine Learning Predictive Accuracy Improvement and Uncertainty Reduction using VAE-based Data Augmentation [2.517043342442487]
  深層生成学習は、特定のMLモデルを使用して、既存のデータの基盤となる分布を学習し、実際のデータに似た合成サンプルを生成する。 本研究では,変分オートエンコーダ(VAE)を用いた深部生成モデルを用いて,データ拡張の有効性を評価することを目的とする。 本研究では,拡張データを用いてトレーニングしたディープニューラルネットワーク(DNN)モデルの予測において,データ拡張が精度の向上につながるかどうかを検討した。
  論文  参考訳（メタデータ） (2024-10-24T18:15:48Z)
• Protect Before Generate: Error Correcting Codes within Discrete Deep Generative Models [3.053842954605396]
  本稿では,離散潜在変数モデルにおける変分推論を強化する新しい手法を提案する。 我々は誤り訂正符号(ECC)を活用し、潜伏表現に冗長性を導入する。 この冗長性は変分後部によって利用され、より正確な推定値が得られる。
  論文  参考訳（メタデータ） (2024-10-10T11:59:58Z)
• Generative Modeling of Regular and Irregular Time Series Data via Koopman VAEs [50.25683648762602]
  モデルの新しい設計に基づく新しい生成フレームワークであるKoopman VAEを紹介する。 クープマン理論に触発され、線形写像を用いて潜在条件事前力学を表現する。 KoVAEは、いくつかの挑戦的な合成および実世界の時系列生成ベンチマークにおいて、最先端のGANおよびVAEメソッドより優れている。
  論文  参考訳（メタデータ） (2023-10-04T07:14:43Z)
• Koopman Invertible Autoencoder: Leveraging Forward and Backward Dynamics for Temporal Modeling [13.38194491846739]
  我々は、Koopman Invertible Autoencoders (KIA) と呼ぶ、Koopman演算子理論に基づく新しい機械学習モデルを提案する。 KIAは、無限次元ヒルベルト空間における前方と後方のダイナミクスをモデル化することによって、システムの固有の特性を捉えている。 これにより,低次元表現を効率よく学習し,長期システムの挙動をより正確に予測することが可能になる。
  論文  参考訳（メタデータ） (2023-09-19T03:42:55Z)
• Complexity Matters: Rethinking the Latent Space for Generative Modeling [65.64763873078114]
  生成的モデリングにおいて、多くの成功したアプローチは、例えば安定拡散のような低次元の潜在空間を利用する。 本研究では, モデル複雑性の観点から潜在空間を再考することにより, 未探索の話題に光を当てることを目的としている。
  論文  参考訳（メタデータ） (2023-07-17T07:12:29Z)
• Disentanglement via Latent Quantization [60.37109712033694]
  本研究では,組織化された潜在空間からの符号化と復号化に向けた帰納的バイアスを構築する。 本稿では,基本データレコーダ (vanilla autoencoder) と潜時再構成 (InfoGAN) 生成モデルの両方に追加することで,このアプローチの広範な適用性を実証する。
  論文  参考訳（メタデータ） (2023-05-28T06:30:29Z)
• DAE : Discriminatory Auto-Encoder for multivariate time-series anomaly detection in air transportation [68.8204255655161]
  識別オートエンコーダ(DAE)と呼ばれる新しい異常検出モデルを提案する。 通常のLSTMベースのオートエンコーダのベースラインを使用するが、いくつかのデコーダがあり、それぞれ特定の飛行フェーズのデータを取得する。 その結果,DAEは精度と検出速度の両方で良好な結果が得られることがわかった。
  論文  参考訳（メタデータ） (2021-09-08T14:07:55Z)
• Autoencoding Variational Autoencoder [56.05008520271406]
  我々は,この行動が学習表現に与える影響と,自己整合性の概念を導入することでそれを修正する結果について検討する。 自己整合性アプローチで訓練されたエンコーダは、敵攻撃による入力の摂動に対して頑健な(無神経な)表現につながることを示す。
  論文  参考訳（メタデータ） (2020-12-07T14:16:14Z)
• Unsupervised Anomaly Detection with Adversarial Mirrored AutoEncoders [51.691585766702744]
  本稿では,識別器のミラー化ワッサースタイン損失を利用して,よりセマンティックレベルの再構築を行う逆自動エンコーダの変種を提案する。 我々は,再建基準の代替として,異常スコアの代替尺度を提案した。 提案手法は,OOD検出ベンチマークにおける異常検出の最先端手法よりも優れている。
  論文  参考訳（メタデータ） (2020-03-24T08:26:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。