論文の概要: How to boost autoencoders?
- arxiv url: http://arxiv.org/abs/2110.15307v1
- Date: Thu, 28 Oct 2021 17:21:25 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-29 16:20:00.905058
- Title: How to boost autoencoders?
- Title(参考訳): オートエンコーダの強化は?
- Authors: Sai Krishna, Thulasi Tholeti, Sheetal Kalyani
- Abstract要約: 本稿では,オートエンコーダの高速化に関わる課題について論じ,それを克服するためのフレームワークを提案する。
高速化されたアンサンブルの有用性は、オートエンコーダを広く採用している2つのアプリケーション(異常検出とクラスタリング)で実証されている。
- 参考スコア(独自算出の注目度): 13.166222736288432
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autoencoders are a category of neural networks with applications in numerous
domains and hence, improvement of their performance is gaining substantial
interest from the machine learning community. Ensemble methods, such as
boosting, are often adopted to enhance the performance of regular neural
networks. In this work, we discuss the challenges associated with boosting
autoencoders and propose a framework to overcome them. The proposed method
ensures that the advantages of boosting are realized when either output
(encoded or reconstructed) is used. The usefulness of the boosted ensemble is
demonstrated in two applications that widely employ autoencoders: anomaly
detection and clustering.
- Abstract(参考訳): オートエンコーダは、多くのドメインのアプリケーションを持つニューラルネットワークのカテゴリであり、そのパフォーマンスの改善は機械学習コミュニティから大きな関心を集めている。
ブーピングのようなアンサンブル法は、通常のニューラルネットワークの性能を高めるためにしばしば用いられる。
本稿では,オートエンコーダの高速化に伴う課題について議論し,その克服のためのフレームワークを提案する。
提案手法は, 出力(エンコードまたは再構成)が使用される場合に, ブースティングの利点を実現する。
ブーストアンサンブルの有用性は,オートエンコーダを広く採用する2つのアプリケーション (異常検出とクラスタリング) で実証された。
関連論文リスト
- Adversarial Autoencoders in Operator Learning [6.03891813540831]
代表的な2つのニューラルネットワークアーキテクチャは、DeepONetsとKoopman Autoencodersである。
オートエンコーダの対向的な追加により、機械学習の様々な領域におけるオートエンコーダの性能が向上した。
論文 参考訳(メタデータ) (2024-12-10T03:54:55Z) - Triple-Encoders: Representations That Fire Together, Wire Together [51.15206713482718]
コントラスト学習(Contrastive Learning)は、バイエンコーダを介して発話間の相対距離を埋め込み空間に符号化する表現学習法である。
本研究では,これら独立に符号化された発話から分散発話混合物を効率よく計算する三重エンコーダを提案する。
トリプルエンコーダはバイエンコーダよりも大幅に改善され、シングルベクトル表現モデルよりもゼロショットの一般化が向上することがわかった。
論文 参考訳(メタデータ) (2024-02-19T18:06:02Z) - Joint Channel Estimation and Feedback with Masked Token Transformers in
Massive MIMO Systems [74.52117784544758]
本稿では,CSI行列内の固有周波数領域相関を明らかにするエンコーダデコーダに基づくネットワークを提案する。
エンコーダ・デコーダネットワーク全体がチャネル圧縮に使用される。
提案手法は,共同作業における現状のチャネル推定およびフィードバック技術より優れる。
論文 参考訳(メタデータ) (2023-06-08T06:15:17Z) - Surrogate Gradient Spiking Neural Networks as Encoders for Large
Vocabulary Continuous Speech Recognition [91.39701446828144]
スパイクニューラルネットワークは, 代理勾配法を用いて, 通常のリカレントニューラルネットワークのように訓練可能であることを示す。
彼らは音声コマンド認識タスクについて有望な結果を示した。
繰り返し発生する非スパイキングとは対照的に、ゲートを使わずに爆発する勾配問題に対して堅牢性を示す。
論文 参考訳(メタデータ) (2022-12-01T12:36:26Z) - Learning to Improve Code Efficiency [27.768476489523163]
Google Code Jamコンペティションから、大規模な競合プログラミングデータセットを分析します。
効率的なコードは確かに稀であり、中央値ランタイムと90分の1のソリューションとでは2倍の違いがある。
我々は、機械学習を用いてヒントの形で規範的なフィードバックを自動的に提供し、プログラマが高性能なコードを書くよう誘導することを提案する。
論文 参考訳(メタデータ) (2022-08-09T01:28:30Z) - Efficient spike encoding algorithms for neuromorphic speech recognition [5.182266520875928]
スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックプロセッサの実装に非常に効果的である。
実値信号は、SNNに適さない実値信号として符号化される。
本稿では,話者独立桁分類システムにおける4つのスパイク符号化手法について検討する。
論文 参考訳(メタデータ) (2022-07-14T17:22:07Z) - A New Clustering-Based Technique for the Acceleration of Deep
Convolutional Networks [2.7393821783237184]
MCA(Model Compression and Acceleration)技術は、大規模な事前学習ネットワークをより小さなモデルに変換するために用いられる。
本稿では,採用したセントロイド/表現量を増やすクラスタリングに基づく手法を提案する。
これは、被雇用者に対して特別な構造を課すことによって達成され、これは、目の前の問題の特異性によって実現される。
論文 参考訳(メタデータ) (2021-07-19T18:22:07Z) - Quantized Neural Networks via {-1, +1} Encoding Decomposition and
Acceleration [83.84684675841167]
本稿では,量子化されたニューラルネットワーク(QNN)をマルチブランチバイナリネットワークに分解するために,-1,+1を用いた新しい符号化方式を提案する。
本稿では,大規模画像分類,オブジェクト検出,セマンティックセグメンテーションにおける提案手法の有効性を検証する。
論文 参考訳(メタデータ) (2021-06-18T03:11:15Z) - ALF: Autoencoder-based Low-rank Filter-sharing for Efficient
Convolutional Neural Networks [63.91384986073851]
オートエンコーダを用いた低ランクフィルタ共有技術(ALF)を提案する。
ALFは、ネットワークパラメータの70%、オペレーションの61%、実行時間の41%を削減し、精度の低下を最小限にしている。
論文 参考訳(メタデータ) (2020-07-27T09:01:22Z) - Revisiting Role of Autoencoders in Adversarial Settings [32.22707594954084]
本稿では,自己エンコーダの対向ロバスト性の性質について述べる。
我々は,自己エンコーダの対角強靭性の発見は,今後の敵防衛研究や応用の手がかりとなると信じている。
論文 参考訳(メタデータ) (2020-05-21T16:01:23Z) - Learning Autoencoders with Relational Regularization [89.53065887608088]
データ分散のオートエンコーダを学習するための新しいフレームワークを提案する。
エンフレレーショナル正規化によるモデルと対象分布の差を最小限にする
我々はこのフレームワークを2つのスケーラブルアルゴリズムで実装し、確率的および決定論的オートエンコーダの両方に適用する。
論文 参考訳(メタデータ) (2020-02-07T17:27:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。