論文の概要: A Meta-learning Formulation of the Autoencoder Problem
- arxiv url: http://arxiv.org/abs/2207.06676v1
- Date: Thu, 14 Jul 2022 06:04:30 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-15 14:12:36.013525
- Title: A Meta-learning Formulation of the Autoencoder Problem
- Title(参考訳): オートエンコーダ問題のメタラーニング定式化
- Authors: Andrey A. Popov, Arash Sarshar, Austin Chennault, Adrian Sandu
- Abstract要約: オートエンコーダの正準定式化は,その性能を損なう可能性のあるいくつかの欠陥に悩まされていることを示す。
自動エンコーダ問題を,次元削減タスクを明示的に解決する2段階最適化手順として再構成する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A rapidly growing area of research is the use of machine learning approaches
such as autoencoders for dimensionality reduction of data and models in
scientific applications. We show that the canonical formulation of autoencoders
suffers from several deficiencies that can hinder their performance. Using a
meta-learning approach, we reformulate the autoencoder problem as a bi-level
optimization procedure that explicitly solves the dimensionality reduction
task. We prove that the new formulation corrects the identified deficiencies
with canonical autoencoders, provide a practical way to solve it, and showcase
the strength of this formulation with a simple numerical illustration.
- Abstract(参考訳): 急速に成長する研究領域は、科学応用におけるデータとモデルの次元的低減にオートエンコーダのような機械学習アプローチを使用することである。
オートエンコーダの標準的定式化は、性能を阻害するいくつかの欠陥に苦しむことを示している。
メタラーニング手法を用いて,次元低減タスクを明示的に解く二段階最適化手法としてオートエンコーダ問題を再構成する。
新たな定式化により,正準オートエンコーダで同定された欠陥を正し,それを解決するための実用的な方法を提供し,この定式化の強みを簡単な数値的図解で示している。
関連論文リスト
- Fast Dual-Regularized Autoencoder for Sparse Biological Data [65.268245109828]
本研究では,近傍正規化行列補完問題に対する浅層オートエンコーダを開発する。
本研究は, 薬物と薬物の相互作用と薬物の放出関連性を予測する上で, 既存の最先端技術に対するアプローチの速度と精度の優位性を実証する。
論文 参考訳(メタデータ) (2024-01-30T01:28:48Z) - Targeted collapse regularized autoencoder for anomaly detection: black hole at the center [3.924781781769534]
オートエンコーダは通常のクラスを超えて一般化することができ、いくつかの異常なサンプルに対して小さな再構成誤差を達成できる。
我々は、ニューラルネットワークコンポーネントの追加、計算の関与、煩雑なトレーニングの代わりに、再構成損失を計算的に軽い用語で補うという、驚くほど簡単な方法を提案する。
これは、オートエンコーダに基づく異常検出アルゴリズムのブラックボックスの性質を緩和し、さらなる利点、障害事例、潜在的な新しい方向の解明のための道筋を提供する。
論文 参考訳(メタデータ) (2023-06-22T01:33:47Z) - On Robust Numerical Solver for ODE via Self-Attention Mechanism [82.95493796476767]
我々は,内在性雑音障害を緩和し,AIによって強化された数値解法を,データサイズを小さくする訓練について検討する。
まず,教師付き学習における雑音を制御するための自己認識機構の能力を解析し,さらに微分方程式の数値解に付加的な自己認識機構を導入し,簡便かつ有効な数値解法であるAttrを提案する。
論文 参考訳(メタデータ) (2023-02-05T01:39:21Z) - Fundamental Limits of Two-layer Autoencoders, and Achieving Them with
Gradient Methods [91.54785981649228]
本稿では,非線形二層型オートエンコーダについて述べる。
本結果は,人口リスクの最小化要因を特徴付け,その最小化要因が勾配法によって達成されることを示す。
符号アクティベーション関数の特別な場合において、この解析は、シャローオートエンコーダによるガウス音源の損失圧縮の基本的な限界を確立する。
論文 参考訳(メタデータ) (2022-12-27T12:37:34Z) - Benign Autoencoders [0.0]
我々は最適なエンコーダとデコーダのペアを見つける問題を定式化し、その解を「良性オートエンコーダ」(BAE)と呼ぶ。
我々は、BAEが生成問題の最適圧縮性次元である多様体にデータを投影することを証明した。
実例として,分散シフト下での識別器の性能を向上させるために,BAEが最適で低次元の潜在表現を見出す方法を示す。
論文 参考訳(メタデータ) (2022-10-02T21:36:27Z) - On a Mechanism Framework of Autoencoders [0.0]
本稿では,オートエンコーダの機構に関する理論的枠組みを提案する。
ReLUオートエンコーダの結果は、いくつかの非ReLUケースに一般化される。
PCAや決定木と比較して,次元の縮小と分類における(一般化された)オートエンコーダの利点が示された。
論文 参考訳(メタデータ) (2022-08-15T03:51:40Z) - The dynamics of representation learning in shallow, non-linear
autoencoders [3.1219977244201056]
非線形浅層オートエンコーダにおける特徴学習のダイナミクスについて検討する。
長時間のダイナミクスの分析では、シグモダルオートエンコーダが重みで学習できないことが説明されている。
本研究では,現実的なデータセット上での非線形オートエンコーダの一般化ダイナミクスを正確に記述する。
論文 参考訳(メタデータ) (2022-01-06T15:57:31Z) - Non-intrusive surrogate modeling for parametrized time-dependent PDEs
using convolutional autoencoders [0.0]
パラメータ化時間依存PDEによる複雑系の予測モデリングのための機械学習に基づく非侵襲的代理モデリング手法を提案する。
我々は、畳み込みオートエンコーダをフィードフォワードニューラルネットワークと組み合わせて、問題のパラメトリック空間から解空間への低コストで正確なマッピングを確立する。
論文 参考訳(メタデータ) (2021-01-14T11:34:58Z) - MetaSDF: Meta-learning Signed Distance Functions [85.81290552559817]
ニューラルな暗示表現で形状を一般化することは、各関数空間上の学習先行値に比例する。
形状空間の学習をメタラーニング問題として定式化し、勾配に基づくメタラーニングアルゴリズムを利用してこの課題を解決する。
論文 参考訳(メタデータ) (2020-06-17T05:14:53Z) - Discovering Representations for Black-box Optimization [73.59962178534361]
ブラックボックス最適化符号化は手作業で行うのではなく,自動的に学習可能であることを示す。
学習された表現は、標準的なMAP-Elitesよりも桁違いに少ない評価で高次元の問題を解くことができることを示す。
論文 参考訳(メタデータ) (2020-03-09T20:06:20Z) - Learning Autoencoders with Relational Regularization [89.53065887608088]
データ分散のオートエンコーダを学習するための新しいフレームワークを提案する。
エンフレレーショナル正規化によるモデルと対象分布の差を最小限にする
我々はこのフレームワークを2つのスケーラブルアルゴリズムで実装し、確率的および決定論的オートエンコーダの両方に適用する。
論文 参考訳(メタデータ) (2020-02-07T17:27:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。