Fugu-MT 論文翻訳(概要): Maximum and Leaky Maximum Propagation

論文の概要: Maximum and Leaky Maximum Propagation

arxiv url: http://arxiv.org/abs/2105.10277v1
Date: Fri, 21 May 2021 11:04:49 GMT
ステータス: 翻訳完了
システム内更新日: 2021-05-25 03:18:37.783958
Title: Maximum and Leaky Maximum Propagation
Title（参考訳）: 最大及び漏洩最大伝播
Authors: Wolfgang Fuhl
Abstract要約: 余分な接続を追加する代わりに、我々のアプローチは最大値のみを伝播するか、または漏れやすい定式化において、両者の比率を伝搬する。本評価では,提案手法が残差接続に匹敵し,他の興味深い特性を有することを示す。
参考スコア（独自算出の注目度）: 3.962145079528281
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In this work, we present an alternative to conventional residual connections, which is inspired by maxout nets. This means that instead of the addition in residual connections, our approach only propagates the maximum value or, in the leaky formulation, propagates a percentage of both. In our evaluation, we show on different public data sets that the presented approaches are comparable to the residual connections and have other interesting properties, such as better generalization with a constant batch normalization, faster learning, and also the possibility to generalize without additional activation functions. In addition, the proposed approaches work very well if ensembles together with residual networks are formed.
Abstract（参考訳）: 本稿では,maxout netsに触発された従来型残差接続の代替案を提案する。これは、残余接続を追加する代わりに、我々のアプローチは最大値のみを伝播する、または漏れやすい定式化において、両方の比率を伝搬することを意味する。本評価では,提案手法が残差接続に匹敵するもので,一定のバッチ正規化による一般化の改善,学習の高速化,追加のアクティベーション機能なしで一般化する可能性など,興味深い特性を持つことを示す。さらに,残差ネットワークと組み合わさったアンサンブルが形成されると,提案手法はうまく機能する。

関連論文リスト

Soft Forward-Backward Representations for Zero-shot Reinforcement Learning with General Utilities [55.52456333246921]
フォワード・バックワードアルゴリズムは、任意の標準RL問題をほぼ解決できるポリシーの族を検索することができる。汎用ユーティリティを用いたRLのより大きい問題クラスに取り組み、その目的は占有率の任意の微分可能関数である。この複雑さは、フォワード・バックワードアルゴリズムの新たな最大エントロピー(ソフト)変種によって捉えられることを示す。
論文参考訳（メタデータ） (2026-02-06T15:24:37Z)
The Affine Divergence: Aligning Activation Updates Beyond Normalisation [0.0]
勾配降下時の数学的理想と効果的なアクティベーション更新の間には、体系的なミスマッチが存在する。正規化はパラメータ化スケーリングによるアクティベーション関数のような写像の方が優れており、最適化時の表現の優先順位付けを支援することが主張されている。これは、経験的に検証されたいくつかの新しい関数を導き、モデル生成に対するアフィン+非線形アプローチに関する疑問を提起する理論原理的なアプローチを構成する。
論文参考訳（メタデータ） (2025-12-24T00:31:22Z)
Calibrated Multimodal Representation Learning with Missing Modalities [100.55774771852468]
マルチモーダル表現学習は、それらを統一潜在空間に整列させることにより、異なるモダリティを調和させる。最近の研究は、従来のクロスモーダルアライメントを一般化して、強化されたマルチモーダル・シナジーを生成するが、すべてのモダリティを共通の例に含める必要がある。我々は、アンカーシフトの観点から、この問題に関する理論的洞察を提供する。モーダルの欠如に起因する不完全なアライメントを校正するために,マルチモーダル表現学習のためのCalMRLを提案する。
論文参考訳（メタデータ） (2025-11-15T05:01:43Z)
Adaptive Initial Residual Connections for GNNs with Theoretical Guarantees [7.831509538890674]
異なるノードが異なる残差強度を持つ適応的残差スキームについて検討する。特に、埋め込みのディリクレエネルギーがゼロから離れていることを示す。これはアダプティブな設定だけでなく、アクティベーション関数との静的な残留接続に対しても初めて理論上の保証となる。
論文参考訳（メタデータ） (2025-11-10T01:08:37Z)
Principled Multimodal Representation Learning [70.60542106731813]
マルチモーダル表現学習は、多様なデータモダリティを統合することにより、統一された表現空間を作ろうとする。最近の進歩は、複数のモードの同時アライメントを調査しているが、いくつかの課題が残っている。複数モーダルの同時アライメントを実現する新しいフレームワークであるPMRL(Principled Multimodal Representation Learning)を提案する。
論文参考訳（メタデータ） (2025-07-23T09:12:25Z)
Network reconstruction via the minimum description length principle [0.0]
階層的ベイズ推定と重み量子化に基づく別の非パラメトリック正則化スキームを提案する。提案手法は最小記述長 (MDL) の原理に従い, データの最大圧縮を可能にする重み分布を明らかにする。提案手法は, 人工ネットワークと経験ネットワークの再構築において, 体系的に精度を向上することを示した。
論文参考訳（メタデータ） (2024-05-02T05:35:09Z)
Enhancing Neural Subset Selection: Integrating Background Information into Set Representations [53.15923939406772]
対象値が入力集合とサブセットの両方に条件付けされている場合、スーパーセットのテクスティ不変な統計量を関心のサブセットに組み込むことが不可欠であることを示す。これにより、出力値がサブセットとその対応するスーパーセットの置換に不変であることを保証する。
論文参考訳（メタデータ） (2024-02-05T16:09:35Z)
Learning a Gaussian Mixture for Sparsity Regularization in Inverse Problems [2.375943263571389]
逆問題では、スパーシティ事前の組み込みは、解に対する正則化効果をもたらす。本稿では,ガウスの混合として事前に定式化された確率的疎性について提案する。我々は、このネットワークのパラメータを推定するために、教師なしのトレーニング戦略と教師なしのトレーニング戦略をそれぞれ導入した。
論文参考訳（メタデータ） (2024-01-29T22:52:57Z)
Improving Multimodal Joint Variational Autoencoders through Normalizing Flows and Correlation Analysis [0.0]
一方向後部はディープ・カノニカル・相関解析(英語版)の埋め込みで条件付けされている。また、正規化フローを使用して、単調な後部を豊かにし、より多様なデータ生成を実現しています。
論文参考訳（メタデータ） (2023-05-19T17:15:34Z)
HyperImpute: Generalized Iterative Imputation with Automatic Model Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文参考訳（メタデータ） (2022-06-15T19:10:35Z)
APS: Active Pretraining with Successor Features [96.24533716878055]
非エントロピーと後継指標であるHansenFastを再解釈して組み合わせることで、難解な相互情報を効率的に最適化できることを示す。提案手法は,非エントロピーを用いて環境を探索し,探索したデータを効率的に活用して動作を学習する。
論文参考訳（メタデータ） (2021-08-31T16:30:35Z)
Learning Multimodal VAEs through Mutual Supervision [72.77685889312889]
MEMEは、相互監督を通じて暗黙的にモダリティ間の情報を結合する。我々は、MEMEが、部分的および完全観察スキームの双方で標準メトリクスのベースラインを上回ることを実証する。
論文参考訳（メタデータ） (2021-06-23T17:54:35Z)
Universal Approximation of Residual Flows in Maximum Mean Discrepancy [24.493721984271566]
リプシッツ残差ブロックからなる正規化流のクラスである残留流について検討する。残差流は最大平均差の普遍近似であることを示す。
論文参考訳（メタデータ） (2021-03-10T00:16:33Z)
Slice Sampling for General Completely Random Measures [74.24975039689893]
本稿では, 後続推定のためのマルコフ連鎖モンテカルロアルゴリズムについて, 補助スライス変数を用いてトランケーションレベルを適応的に設定する。提案アルゴリズムの有効性は、いくつかの一般的な非パラメトリックモデルで評価される。
論文参考訳（メタデータ） (2020-06-24T17:53:53Z)
Robust model training and generalisation with Studentising flows [22.757298187704745]
本稿では、ロバストな(特に耐性のある)統計からの洞察に基づいて、これらの手法をさらに改善する方法について論じる。本稿では, ガウス分布の簡易なドロップイン置換として, 太い尾の潜伏分布を持つフローベースモデルを提案する。いくつかの異なるデータセットの実験により、提案手法の有効性が確認された。
論文参考訳（メタデータ） (2020-06-11T16:47:01Z)
Approximation Schemes for ReLU Regression [80.33702497406632]
我々はReLU回帰の根本的な問題を考察する。目的は、未知の分布から引き出された2乗損失に対して、最も適したReLUを出力することである。
論文参考訳（メタデータ） (2020-05-26T16:26:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。