論文の概要: Enumeration of max-pooling responses with generalized permutohedra
- arxiv url: http://arxiv.org/abs/2209.14978v1
- Date: Thu, 29 Sep 2022 17:45:54 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-30 18:26:06.542991
- Title: Enumeration of max-pooling responses with generalized permutohedra
- Title(参考訳): 一般化Permutohedraによる最大プール応答の列挙
- Authors: Laura Escobar, Patricio Gallardo, Javier Gonz\'alez-Anaya, Jos\'e L.
Gonz\'alez, Guido Mont\'ufar and Alejandro H. Morales
- Abstract要約: 最大プーリング層(英: Max-pooling layer)は、入力座標のシフトしたウィンドウの最大値を取ることで入力アレイをサンプリングする関数である。
このようなポリトープの面を特徴付け、1次元最大プーリング層における頂点数と面数の生成関数と閉式を得る。
- 参考スコア(独自算出の注目度): 55.41644538483948
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We investigate the combinatorics of max-pooling layers, which are functions
that downsample input arrays by taking the maximum over shifted windows of
input coordinates, and which are commonly used in convolutional neural
networks. We obtain results on the number of linearity regions of these
functions by equivalently counting the number of vertices of certain Minkowski
sums of simplices. We characterize the faces of such polytopes and obtain
generating functions and closed formulas for the number of vertices and facets
in a 1D max-pooling layer depending on the size of the pooling windows and
stride, and for the number of vertices in a special case of 2D max-pooling.
- Abstract(参考訳): 入力座標のシフトウィンドウを最大にすることで入力配列をダウンサンプルし、畳み込みニューラルネットワークでよく使用される関数であるmax-pooling layerの組合せについて検討する。
単純度のあるミンコフスキー和の頂点数を同値に数えることで、これらの関数の線型性領域の数に関する結果を得る。
このようなポリトープの面を特徴付けるとともに、プール窓やストライドの大きさに応じて1Dマックスプーリング層における頂点数と面数の生成関数と閉式を得るとともに、2Dマックスプーリングの特別な場合において頂点数を求める。
関連論文リスト
- MaxCutPool: differentiable feature-aware Maxcut for pooling in graph neural networks [5.524804393257921]
本稿では,属性グラフ,すなわちノードやエッジに関連付けられた特徴を持つグラフにおいて,MAXCUTを計算するための新しい手法を提案する。
我々のアプローチは、基礎となるグラフトポロジに対して堅牢であり、完全に微分可能であり、MAXCUTを他の目的と共に共同で最適化するソリューションを見つけることができる。
論文 参考訳(メタデータ) (2024-09-08T14:06:25Z) - Polynomial-Time Solutions for ReLU Network Training: A Complexity
Classification via Max-Cut and Zonotopes [70.52097560486683]
我々は、ReLUネットワークの近似の難しさがマックス・カッツ問題の複雑さを反映しているだけでなく、特定の場合において、それと完全に一致することを証明した。
特に、$epsilonleqsqrt84/83-1approx 0.006$とすると、目的値に関して相対誤差$epsilon$でReLUネットワーク対象の近似グローバルデータセットを見つけることはNPハードであることが示される。
論文 参考訳(メタデータ) (2023-11-18T04:41:07Z) - Data Topology-Dependent Upper Bounds of Neural Network Widths [52.58441144171022]
まず、3層ニューラルネットワークがコンパクトな集合上のインジケータ関数を近似するように設計可能であることを示す。
その後、これは単純複体へと拡張され、その位相構造に基づいて幅の上界が導かれる。
トポロジカルアプローチを用いて3層ReLUネットワークの普遍近似特性を証明した。
論文 参考訳(メタデータ) (2023-05-25T14:17:15Z) - Lower Bounds on the Depth of Integral ReLU Neural Networks via Lattice
Polytopes [3.0079490585515343]
我々は、$lceillog_(n)rceil$ hidden layerが$n$の最大値を計算するために本当に必要であることを示す。
この結果は、ニューラルネットワークと熱帯の幾何学によるニュートンポリトープの双対性に基づいている。
論文 参考訳(メタデータ) (2023-02-24T10:14:53Z) - Efficient Graph Field Integrators Meet Point Clouds [59.27295475120132]
点雲を符号化するグラフ上での効率的な場積分のためのアルゴリズムを2種類提案する。
第1のクラスであるSeparatorFactorization(SF)は、ポイントメッシュグラフの有界属を利用するが、第2のクラスであるRFDiffusion(RFD)は、ポイントクラウドの一般的なepsilon-nearest-neighborグラフ表現を使用する。
論文 参考訳(メタデータ) (2023-02-02T08:33:36Z) - Reconstruction of Convex Polytope Compositions from 3D Point-clouds [3.04585143845864]
対応する入力ポイントクラウドに完全に適合する凸ポリトープの組成(結合)を再構築することは、難しい最適化の問題です。
本稿ではまず,まず平面の集合を抽出し,次に入力点雲を弱凸クラスタに分割し,各分割に適合する平面の交点として凸多面体の集合を生成するパイプラインを提案する。
最良充填凸ポリトープの探索は、適応面の集合上の最適化問題として定式化し、進化的アルゴリズムを用いて解く。
論文 参考訳(メタデータ) (2021-04-27T00:14:55Z) - Sharp bounds for the number of regions of maxout networks and vertices
of Minkowski sums [1.1602089225841632]
rank-k maxout ユニットは、最大 $k$ 線形関数を計算する関数です。
本稿では,最大単位を持つ人工フィードフォワードニューラルネットワークで表現可能な関数の線形領域数について報告する。
論文 参考訳(メタデータ) (2021-04-16T14:33:21Z) - A Parallelizable Lattice Rescoring Strategy with Neural Language Models [62.20538383769179]
自動音声認識のためのニューラルネットワークモデル(LM)を用いた効率的な格子相関のための後部格子拡張アルゴリズムを提案する。
スイッチボードデータセットにおける実験により,提案手法が同等の認識性能を得た。
PyTorchで訓練されたニューラル LM をKaldi との格子再構成に簡単に統合することで、並列再描画法により柔軟性が向上する。
論文 参考訳(メタデータ) (2021-03-08T21:23:12Z) - Maximal function pooling with applications [4.446564162927513]
Maxfun プールは Hardy-Littlewood maximal 機能に触発されます。
これは、最大プールや平均プールなど、最も人気のあるプーリング関数のいくつかに代わる実行可能な選択肢として提示されている。
まず、畳み込みスパース符号化の文脈で、次に画像分類のための2つのアプリケーションでmaxfunプーリングの特徴を実証します。
論文 参考訳(メタデータ) (2021-03-01T20:30:04Z) - Implicit Convex Regularizers of CNN Architectures: Convex Optimization
of Two- and Three-Layer Networks in Polynomial Time [70.15611146583068]
本稿では,ReLUアクティベーションを用いた畳み込みニューラルネットワーク(CNN)のトレーニングについて検討する。
我々は,データサンプル数,ニューロン数,データ次元に関して,厳密な凸最適化を導入する。
論文 参考訳(メタデータ) (2020-06-26T04:47:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。