論文の概要: A survey on Variational Autoencoders from a GreenAI perspective
- arxiv url: http://arxiv.org/abs/2103.01071v1
- Date: Mon, 1 Mar 2021 15:26:39 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-03 15:53:18.145523
- Title: A survey on Variational Autoencoders from a GreenAI perspective
- Title（参考訳）: GreenAIからみた変分オートエンコーダに関する調査
- Authors: A. Asperti, D. Evangelista, E. Loli Piccolomini
- Abstract要約: 変分オートエンコーダ(VAE)は、統計や情報理論の要素と深層ニューラルネットワークが提供する柔軟性を融合する強力な生成モデルである。
この記事では、最も成功し、最近のVAEのバリエーションについて比較評価する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Variational AutoEncoders (VAEs) are powerful generative models that merge
elements from statistics and information theory with the flexibility offered by
deep neural networks to efficiently solve the generation problem for high
dimensional data. The key insight of VAEs is to learn the latent distribution
of data in such a way that new meaningful samples can be generated from it.
This approach led to tremendous research and variations in the architectural
design of VAEs, nourishing the recent field of research known as unsupervised
representation learning. In this article, we provide a comparative evaluation
of some of the most successful, recent variations of VAEs. We particularly
focus the analysis on the energetic efficiency of the different models, in the
spirit of the so called Green AI, aiming both to reduce the carbon footprint
and the financial cost of generative techniques. For each architecture we
provide its mathematical formulation, the ideas underlying its design, a
detailed model description, a running implementation and quantitative results.
- Abstract（参考訳）: 変分オートエンコーダ(VAE)は、統計や情報理論の要素とディープニューラルネットワークが提供する柔軟性を融合して高次元データの生成問題を効率的に解く強力な生成モデルである。
VAEの重要な洞察は、データから新しい意味のあるサンプルを生成するような方法でデータの潜在分布を学ぶことです。
このアプローチは、VAEのアーキテクチャ設計における膨大な研究とバリエーションをもたらし、非教師なし表現学習として知られる最近の研究分野を物語った。
この記事では、VAEの最も成功した最近のバリエーションのいくつかの比較評価を提供します。
特に、グリーンAIの精神のもと、さまざまなモデルのエネルギー効率の分析に焦点を当て、カーボンフットプリントの削減と再生技術の経済的コストの削減を目指しています。
各アーキテクチャに対して、数学的定式化、設計の基礎となる考え方、詳細なモデル記述、実行中の実装、定量的結果を提供する。
関連論文リスト
- AI-Aided Kalman Filters [65.35350122917914]
カルマンフィルタ(KF)とその変種は、信号処理において最も著名なアルゴリズムの一つである。
最近の進歩は、古典的なカルマン型フィルタリングでディープニューラルネットワーク(DNN)を融合させる可能性を示している。
本稿では,KF型アルゴリズムにAIを組み込むための設計アプローチについて,チュートリアル形式で概説する。
論文 参考訳（メタデータ） (2024-10-16T06:47:53Z) - iGAiVA: Integrated Generative AI and Visual Analytics in a Machine Learning Workflow for Text Classification [2.0094862015890245]
視覚分析(VA)を用いて,大規模言語モデルを用いた合成データの生成を誘導する手法を提案する。
本稿では,データ不足の種別について論じ,その識別を支援するVA技術について述べるとともに,対象データ合成の有効性を実証する。
論文 参考訳（メタデータ） (2024-09-24T08:19:45Z) - Visual Prompting Upgrades Neural Network Sparsification: A Data-Model Perspective [64.04617968947697]
より優れた重量空間を実現するために、新しいデータモデル共設計視点を導入する。
具体的には、提案したVPNフレームワークでニューラルネットワークのスパーシフィケーションをアップグレードするために、カスタマイズされたVisual Promptが実装されている。
論文 参考訳（メタデータ） (2023-12-03T13:50:24Z) - DA-VEGAN: Differentiably Augmenting VAE-GAN for microstructure
reconstruction from extremely small data sets [110.60233593474796]
DA-VEGANは2つの中心的なイノベーションを持つモデルである。
$beta$-variational autoencoderはハイブリッドGANアーキテクチャに組み込まれている。
このアーキテクチャに特化して、独自の差別化可能なデータ拡張スキームが開発されている。
論文 参考訳（メタデータ） (2023-02-17T08:49:09Z) - EmbedDistill: A Geometric Knowledge Distillation for Information
Retrieval [83.79667141681418]
大規模なニューラルモデル(トランスフォーマーなど)は、情報検索(IR)のための最先端のパフォーマンスを達成する
本研究では,大規模教師モデルで学習したクエリとドキュメント間の相対的幾何を利用した新しい蒸留手法を提案する。
提案手法は, 両エンコーダ (DE) とクロスエンコーダ (CE) の2種類の教師モデルから, 95～97%の教師性能を維持できる1/10の非対称な学生への蒸留に成功した。
論文 参考訳（メタデータ） (2023-01-27T22:04:37Z) - Interpretability of an Interaction Network for identifying $H
\rightarrow b\bar{b}$ jets [4.553120911976256]
近年、ディープニューラルネットワークに基づくAIモデルは、これらのアプリケーションの多くで人気が高まっている。
我々は、高揚した$Hto bbarb$ jetを識別するために設計されたインタラクションネットワーク(IN)モデルを調べることで、AIモデルの解釈可能性を検討する。
さらに、INモデル内の隠れレイヤの活動を、ニューラルアクティベーションパターン(NAP)ダイアグラムとして記述する。
論文 参考訳（メタデータ） (2022-11-23T08:38:52Z) - A Detailed Study of Interpretability of Deep Neural Network based Top
Taggers [3.8541104292281805]
説明可能なAI(XAI)の最近の進歩により、研究者はディープニューラルネットワーク(DNN)の内部動作を探索できる。
大型ハドロン衝突型加速器(LHC)における高エネルギー陽子-陽子衝突におけるトップクォーク崩壊からのジェットの解釈可能性について検討する。
本研究は,既存のXAI手法の大きな落とし穴を明らかにし,これらのモデルの一貫性と意味のある解釈をいかに克服できるかを説明する。
論文 参考訳（メタデータ） (2022-10-09T23:02:42Z) - Design Amortization for Bayesian Optimal Experimental Design [70.13948372218849]
予測情報ゲイン(EIG)のバウンダリに関してパラメータ化された変分モデルを最適化する。
実験者が1つの変分モデルを最適化し、潜在的に無限に多くの設計に対してEIGを推定できる新しいニューラルアーキテクチャを提案する。
論文 参考訳（メタデータ） (2022-10-07T02:12:34Z) - Rethinking Generalization of Neural Models: A Named Entity Recognition
Case Study [81.11161697133095]
NERタスクをテストベッドとして、異なる視点から既存モデルの一般化挙動を分析する。
詳細な分析による実験は、既存のニューラルNERモデルのボトルネックを診断する。
本論文の副産物として,最近のNER論文の包括的要約を含むプロジェクトをオープンソース化した。
論文 参考訳（メタデータ） (2020-01-12T04:33:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。