論文の概要: Failure Modes of Variational Autoencoders and Their Effects on
Downstream Tasks
- arxiv url: http://arxiv.org/abs/2007.07124v4
- Date: Tue, 15 Mar 2022 22:11:26 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-10 13:48:41.963562
- Title: Failure Modes of Variational Autoencoders and Their Effects on
Downstream Tasks
- Title(参考訳): 変分オートエンコーダの故障モードと下流作業への影響
- Authors: Yaniv Yacoby, Weiwei Pan, Finale Doshi-Velez
- Abstract要約: 変分自動エンコーダ(VAEs)は、多くの下流タスクで広く使われている、深部生成潜在変数モデルである。
本稿では、VAEトレーニングが病態を示し、これらの障害モードを特定の下流タスクに対する望ましくない影響に結びつける条件について述べる。
- 参考スコア(独自算出の注目度): 28.36260646471421
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Variational Auto-encoders (VAEs) are deep generative latent variable models
that are widely used for a number of downstream tasks. While it has been
demonstrated that VAE training can suffer from a number of pathologies,
existing literature lacks characterizations of exactly when these pathologies
occur and how they impact downstream task performance. In this paper, we
concretely characterize conditions under which VAE training exhibits
pathologies and connect these failure modes to undesirable effects on specific
downstream tasks, such as learning compressed and disentangled representations,
adversarial robustness, and semi-supervised learning.
- Abstract(参考訳): 変分自動エンコーダ(VAEs)は、多くの下流タスクで広く使われている、深部生成潜在変数モデルである。
VAEトレーニングが多くの病理に悩まされることは実証されているが、既存の文献では、これらの病理の発生時期と、それが下流のタスクパフォーマンスに与える影響について、正確には特徴づけられていない。
本稿では,vae訓練が病理を呈する条件を具体化し,これらの障害モードを,圧縮・不等角表現の学習,逆ロバスト性,半教師付き学習といった下流タスクに好ましくない影響に結びつける。
関連論文リスト
- Enhancing Training Data Attribution for Large Language Models with Fitting Error Consideration [74.09687562334682]
Debias and Denoise Attribution (DDA) と呼ばれる新しいトレーニングデータ属性法を導入する。
提案手法は既存のアプローチよりも優れており,平均91.64%のAUCを実現している。
DDAは、様々なソースとLLaMA2、QWEN2、Mistralのような異なるスケールのモデルに対して、強力な汎用性とスケーラビリティを示す。
論文 参考訳(メタデータ) (2024-10-02T07:14:26Z) - AiGAS-dEVL: An Adaptive Incremental Neural Gas Model for Drifting Data Streams under Extreme Verification Latency [6.7236795813629]
ストリーミング設定では、データフローはパターン(コンセプトドリフト)の非定常性をもたらす要因によって影響を受ける。
本稿では,AiGAS-dEVLという新しい手法を提案する。これは,時間とともにストリーム内で検出されるすべての概念の分布を特徴付けるために,神経ガスの増大に依存する。
我々のアプローチは、時間とともにこれらの点の挙動をオンライン分析することで、特徴空間における概念の進化が定義できるようになることを明らかにしている。
論文 参考訳(メタデータ) (2024-07-07T14:04:57Z) - Identifying and Mitigating Model Failures through Few-shot CLIP-aided
Diffusion Generation [65.268245109828]
本稿では,突発的相関に付随する障害モードのテキスト記述を生成するためのエンドツーエンドフレームワークを提案する。
これらの記述は拡散モデルのような生成モデルを用いて合成データを生成するのに使うことができる。
本実験では, ハードサブポピュレーションの精度(sim textbf21%$)が著しく向上した。
論文 参考訳(メタデータ) (2023-12-09T04:43:49Z) - Robustness and Generalization Performance of Deep Learning Models on
Cyber-Physical Systems: A Comparative Study [71.84852429039881]
調査は、センサーの故障やノイズなど、様々な摂動を扱うモデルの能力に焦点を当てている。
我々は,これらのモデルの一般化と伝達学習能力を,アウト・オブ・ディストリビューション(OOD)サンプルに公開することによって検証する。
論文 参考訳(メタデータ) (2023-06-13T12:43:59Z) - Semantic Latent Space Regression of Diffusion Autoencoders for Vertebral
Fracture Grading [72.45699658852304]
本稿では,教師なし特徴抽出器として生成拡散オートエンコーダモデルを訓練するための新しい手法を提案する。
フラクチャーグレーディングを連続回帰としてモデル化し, フラクチャーのスムーズな進行を反映した。
重要なことに,本手法の創成特性は,与えられた脊椎の様々な段階を可視化し,自動グルーピングに寄与する特徴を解釈し,洞察することを可能にする。
論文 参考訳(メタデータ) (2023-03-21T17:16:01Z) - Benchmarking Heterogeneous Treatment Effect Models through the Lens of
Interpretability [82.29775890542967]
治療のパーソナライズされた効果を見積もるのは複雑だが、普及している問題である。
ヘテロジニアス処理効果推定に関する機械学習文献の最近の進歩は、洗練されたが不透明なツールの多くを生み出した。
我々は、ポストホックな特徴重要度法を用いて、モデルの予測に影響を及ぼす特徴を特定する。
論文 参考訳(メタデータ) (2022-06-16T17:59:05Z) - Stabilizing Adversarially Learned One-Class Novelty Detection Using
Pseudo Anomalies [22.48845887819345]
異常スコアは、逆学習されたジェネレータの再構成損失と/または識別器の分類損失を用いて定式化されている。
トレーニングデータにおける異常な例の有効性は、そのようなネットワークの最適化を困難にしている。
本研究では,判別器の基本的役割を,実データと偽データとの識別から,良質データと悪質データとの区別に転換することで,そのような不安定性を克服する堅牢な異常検出フレームワークを提案する。
論文 参考訳(メタデータ) (2022-03-25T15:37:52Z) - The Effect of the Loss on Generalization: Empirical Study on Synthetic
Lung Nodule Data [13.376247652484274]
異なる損失関数が学習される特徴に結びつき、その結果、未確認データに対する分類器の一般化能力に影響を及ぼすことを示す。
本研究は、医用画像処理タスクのためのディープラーニングソリューションの設計に関する重要な知見を提供する。
論文 参考訳(メタデータ) (2021-08-10T17:58:01Z) - An Active Learning Method for Diabetic Retinopathy Classification with
Uncertainty Quantification [3.7220380160016626]
不確実性定量のためのハイブリッドモデルと、不一致データを注釈付けするためのアクティブラーニングアプローチを提案する。
糖尿病網膜症分類の枠組みについて検討し,様々な指標で最先端のパフォーマンスを達成した。
論文 参考訳(メタデータ) (2020-12-24T16:59:15Z) - Anomaly Detection With Conditional Variational Autoencoders [1.3541554606406663]
我々は,Deep Conditional Variational Autoencoder (CVAE) を利用して,階層的に構造化されたデータを対象としたメトリクスとともに,元の損失関数を定義する。
CERN大ハドロン衝突型加速器における多くの粒子物理学実験の基本的な構成要素であるトリガーシステムを監視する。
論文 参考訳(メタデータ) (2020-10-12T08:39:37Z) - Learning perturbation sets for robust machine learning [97.6757418136662]
我々は、潜在空間の制約領域上に設定された摂動を定義する条件生成器を用いる。
学習した摂動集合の質を定量的かつ質的に測定する。
我々は、学習した摂動集合を利用して、敵画像の破損や逆光の変動に対して経験的かつ確実に堅牢なモデルを訓練する。
論文 参考訳(メタデータ) (2020-07-16T16:39:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。