Fugu-MT 論文翻訳(概要): Maximum and Leaky Maximum Propagation

論文の概要: Maximum and Leaky Maximum Propagation

arxiv url: http://arxiv.org/abs/2105.10277v1
Date: Fri, 21 May 2021 11:04:49 GMT
ステータス: 処理完了
システム内更新日: 2021-05-25 03:18:37.783958
Title: Maximum and Leaky Maximum Propagation
Title（参考訳）: 最大及び漏洩最大伝播
Authors: Wolfgang Fuhl
Abstract要約: 余分な接続を追加する代わりに、我々のアプローチは最大値のみを伝播するか、または漏れやすい定式化において、両者の比率を伝搬する。本評価では,提案手法が残差接続に匹敵し,他の興味深い特性を有することを示す。
参考スコア（独自算出の注目度）: 3.962145079528281
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In this work, we present an alternative to conventional residual connections, which is inspired by maxout nets. This means that instead of the addition in residual connections, our approach only propagates the maximum value or, in the leaky formulation, propagates a percentage of both. In our evaluation, we show on different public data sets that the presented approaches are comparable to the residual connections and have other interesting properties, such as better generalization with a constant batch normalization, faster learning, and also the possibility to generalize without additional activation functions. In addition, the proposed approaches work very well if ensembles together with residual networks are formed.
Abstract（参考訳）: 本稿では,maxout netsに触発された従来型残差接続の代替案を提案する。これは、残余接続を追加する代わりに、我々のアプローチは最大値のみを伝播する、または漏れやすい定式化において、両方の比率を伝搬することを意味する。本評価では,提案手法が残差接続に匹敵するもので,一定のバッチ正規化による一般化の改善,学習の高速化,追加のアクティベーション機能なしで一般化する可能性など,興味深い特性を持つことを示す。さらに,残差ネットワークと組み合わさったアンサンブルが形成されると,提案手法はうまく機能する。

関連論文リスト

Network reconstruction via the minimum description length principle [0.0]
階層的ベイズ推定と重み量子化に基づく別の非パラメトリック正則化スキームを提案する。提案手法は最小記述長 (MDL) の原理に従い, データの最大圧縮を可能にする重み分布を明らかにする。提案手法は, 人工ネットワークと経験ネットワークの再構築において, 体系的に精度を向上することを示した。
論文参考訳（メタデータ） (2024-05-02T05:35:09Z)
Enhancing Neural Subset Selection: Integrating Background Information into Set Representations [53.15923939406772]
対象値が入力集合とサブセットの両方に条件付けされている場合、スーパーセットのテクスティ不変な統計量を関心のサブセットに組み込むことが不可欠であることを示す。これにより、出力値がサブセットとその対応するスーパーセットの置換に不変であることを保証する。
論文参考訳（メタデータ） (2024-02-05T16:09:35Z)
Learning a Gaussian Mixture for Sparsity Regularization in Inverse Problems [2.375943263571389]
逆問題では、スパーシティ事前の組み込みは、解に対する正則化効果をもたらす。本稿では,ガウスの混合として事前に定式化された確率的疎性について提案する。我々は、このネットワークのパラメータを推定するために、教師なしのトレーニング戦略と教師なしのトレーニング戦略をそれぞれ導入した。
論文参考訳（メタデータ） (2024-01-29T22:52:57Z)
Improving Multimodal Joint Variational Autoencoders through Normalizing Flows and Correlation Analysis [0.0]
一方向後部はディープ・カノニカル・相関解析(英語版)の埋め込みで条件付けされている。また、正規化フローを使用して、単調な後部を豊かにし、より多様なデータ生成を実現しています。
論文参考訳（メタデータ） (2023-05-19T17:15:34Z)
HyperImpute: Generalized Iterative Imputation with Automatic Model Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文参考訳（メタデータ） (2022-06-15T19:10:35Z)
APS: Active Pretraining with Successor Features [96.24533716878055]
非エントロピーと後継指標であるHansenFastを再解釈して組み合わせることで、難解な相互情報を効率的に最適化できることを示す。提案手法は,非エントロピーを用いて環境を探索し,探索したデータを効率的に活用して動作を学習する。
論文参考訳（メタデータ） (2021-08-31T16:30:35Z)
Learning Multimodal VAEs through Mutual Supervision [72.77685889312889]
MEMEは、相互監督を通じて暗黙的にモダリティ間の情報を結合する。我々は、MEMEが、部分的および完全観察スキームの双方で標準メトリクスのベースラインを上回ることを実証する。
論文参考訳（メタデータ） (2021-06-23T17:54:35Z)
Universal Approximation of Residual Flows in Maximum Mean Discrepancy [24.493721984271566]
リプシッツ残差ブロックからなる正規化流のクラスである残留流について検討する。残差流は最大平均差の普遍近似であることを示す。
論文参考訳（メタデータ） (2021-03-10T00:16:33Z)
Slice Sampling for General Completely Random Measures [74.24975039689893]
本稿では, 後続推定のためのマルコフ連鎖モンテカルロアルゴリズムについて, 補助スライス変数を用いてトランケーションレベルを適応的に設定する。提案アルゴリズムの有効性は、いくつかの一般的な非パラメトリックモデルで評価される。
論文参考訳（メタデータ） (2020-06-24T17:53:53Z)
Robust model training and generalisation with Studentising flows [22.757298187704745]
本稿では、ロバストな(特に耐性のある)統計からの洞察に基づいて、これらの手法をさらに改善する方法について論じる。本稿では, ガウス分布の簡易なドロップイン置換として, 太い尾の潜伏分布を持つフローベースモデルを提案する。いくつかの異なるデータセットの実験により、提案手法の有効性が確認された。
論文参考訳（メタデータ） (2020-06-11T16:47:01Z)
Approximation Schemes for ReLU Regression [80.33702497406632]
我々はReLU回帰の根本的な問題を考察する。目的は、未知の分布から引き出された2乗損失に対して、最も適したReLUを出力することである。
論文参考訳（メタデータ） (2020-05-26T16:26:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。