Fugu-MT 論文翻訳(概要): Maximum Entropy Auto-Encoding

論文の概要: Maximum Entropy Auto-Encoding

arxiv url: http://arxiv.org/abs/2104.07448v1
Date: Tue, 13 Apr 2021 09:21:19 GMT
ステータス: 処理完了
システム内更新日: 2021-04-16 14:51:39.860239
Title: Maximum Entropy Auto-Encoding
Title（参考訳）: 最大エントロピーオートエンコーディング
Authors: Paul M Baggenstoss
Abstract要約: 最適な再構成を用いたオートエンコーダは,従来のオートエンコーダを大きく上回っている。実験では、平均二乗再構成誤差は最大2倍に減少した。
参考スコア（独自算出の注目度）: 11.80267432402723
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: In this paper, it is shown that an auto-encoder using optimal reconstruction significantly outperforms a conventional auto-encoder. Optimal reconstruction uses the conditional mean of the input given the features, under a maximum entropy prior distribution. The optimal reconstruction network, which is called deterministic projected belied network (D-PBN), resembles a standard reconstruction network, but with special non-linearities that mist be iteratively solved. The method, which can be seen as a generalization of maximum entropy image reconstruction, extends to multiple layers. In experiments, mean square reconstruction error reduced by up to a factor of two. The performance improvement diminishes for deeper networks, or for input data with unconstrained values (Gaussian assumption).
Abstract（参考訳）: 本稿では,最適再構成を用いたオートエンコーダが従来のオートエンコーダを大きく上回ることを示す。最適再構成は、与えられた特徴の入力の条件平均を最大エントロピー事前分布の下で用いる。決定論的射影ベリードネットワーク(D-PBN)と呼ばれる最適再構成ネットワークは、標準的な再構成ネットワークに似ているが、ミストを反復的に解決する特別な非線形性を持つ。この手法は最大エントロピー画像再構成の一般化と見なすことができ、複数の層に拡張される。実験では、平均正方形再構成誤差を最大2倍に削減した。パフォーマンス改善は、深いネットワークや、制約のない値の入力データ(ガウシアン仮定)では減少する。

関連論文リスト

Iterative Soft Shrinkage Learning for Efficient Image Super-Resolution [91.3781512926942]
画像超解像(SR)は、CNNからトランスフォーマーアーキテクチャへの広範なニューラルネットワーク設計を目撃している。本研究は,市販のネットワーク設計を生かし,基礎となる計算オーバーヘッドを低減するため,超高解像度イテレーションにおけるネットワークプルーニングの可能性について検討する。本研究では, ランダムネットワークのスパース構造を最適化し, 重要でない重みを小さめに微調整することにより, 反復型軟収縮率(ISS-P)法を提案する。
論文参考訳（メタデータ） (2023-03-16T21:06:13Z)
Variational Laplace Autoencoders [53.08170674326728]
変分オートエンコーダは、遅延変数の後部を近似するために、償却推論モデルを用いる。完全分解ガウス仮定の限定的後部表現性に対処する新しい手法を提案する。また、深部生成モデルのトレーニングのための変分ラプラスオートエンコーダ(VLAE)という一般的なフレームワークも提示する。
論文参考訳（メタデータ） (2022-11-30T18:59:27Z)
Reducing Redundancy in the Bottleneck Representation of the Autoencoders [98.78384185493624]
オートエンコーダは教師なしニューラルネットワークの一種であり、様々なタスクを解くのに使用できる。本稿では,ボトルネック表現における特徴冗長性を明示的に罰する手法を提案する。我々は,3つの異なるデータセットを用いた次元削減,MNISTデータセットを用いた画像圧縮,ファッションMNISTを用いた画像デノナイズという,さまざまなタスクにまたがってアプローチを検証した。
論文参考訳（メタデータ） (2022-02-09T18:48:02Z)
Spectral Compressive Imaging Reconstruction Using Convolution and Contextual Transformer [6.929652454131988]
本稿では,CCoT(Contextual Transformer)ブロックというハイブリッドネットワークモジュールを提案する。提案したCCoTブロックを,一般化された交互投影アルゴリズムに基づく深層展開フレームワークに統合し,さらにGAP-CTネットワークを提案する。
論文参考訳（メタデータ） (2022-01-15T06:30:03Z)
Global Optimality Beyond Two Layers: Training Deep ReLU Networks via Convex Programs [39.799125462526234]
我々は凸最適化のレンズを通して隠れ正規化機構を明らかにするための新しい統一フレームワークを開発した。我々は、合成データセットと実データセットの両方を含む実験を通して、理論的結果を数値的に検証する。
論文参考訳（メタデータ） (2021-10-11T18:00:30Z)
Non-Gradient Manifold Neural Network [79.44066256794187]
ディープニューラルネットワーク(DNN)は通常、勾配降下による最適化に数千のイテレーションを要します。非次最適化に基づく新しい多様体ニューラルネットワークを提案する。
論文参考訳（メタデータ） (2021-06-15T06:39:13Z)
Regularization-Agnostic Compressed Sensing MRI Reconstruction with Hypernetworks [21.349071909858218]
正規化重みの関数として分離された再構成ネットワークのパラメータを生成するためにハイパーネットワークを利用する新しい戦略を提案する。実験時, アンダーサンプル画像の場合, 我々のモデルは, 異なる量の正規化で高速に再構成を計算できる。特に全体的な品質が類似した状況において,これらの復元の変動性を分析する。
論文参考訳（メタデータ） (2021-01-06T18:55:37Z)
Iterative Network for Image Super-Resolution [69.07361550998318]
単一画像超解像(SISR)は、最近の畳み込みニューラルネットワーク(CNN)の発展により、大幅に活性化されている。本稿では、従来のSISRアルゴリズムに関する新たな知見を提供し、反復最適化に依存するアプローチを提案する。反復最適化の上に,新しい反復型超解像ネットワーク (ISRN) を提案する。
論文参考訳（メタデータ） (2020-05-20T11:11:47Z)
Sparse aNETT for Solving Inverse Problems with Deep Learning [2.5234156040689237]
逆問題を解決するためのスパース再構成フレームワーク(aNETT)を提案する。非線形スペーシング変換として機能するオートエンコーダネットワーク$D circ E$をトレーニングする。スパースCTでは数値的な結果が得られた。
論文参考訳（メタデータ） (2020-04-20T18:43:13Z)
TopologyGAN: Topology Optimization Using Generative Adversarial Networks Based on Physical Fields Over the Initial Domain [2.0263791972068628]
そこで我々はTopologyGANと呼ばれる新しいデータ駆動トポロジ最適化モデルを提案する。位相GANは、条件付き生成逆数ネットワーク(cGAN)のジェネレータへの入力として、元の未最適化物質領域で計算された様々な物理場を利用するベースラインのcGANと比較すると、TopologyGANは平均二乗誤差を約3ドル、平均絶対誤差を2.5ドル削減する。
論文参考訳（メタデータ） (2020-03-05T14:40:11Z)
MSE-Optimal Neural Network Initialization via Layer Fusion [68.72356718879428]
ディープニューラルネットワークは、さまざまな分類と推論タスクに対して最先端のパフォーマンスを達成する。グラデーションと非進化性の組み合わせは、学習を新しい問題の影響を受けやすいものにする。確率変数を用いて学習した深層ネットワークの近傍層を融合する手法を提案する。
論文参考訳（メタデータ） (2020-01-28T18:25:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。