論文の概要: An Interpretive Constrained Linear Model for ResNet and MgNet
- arxiv url: http://arxiv.org/abs/2112.07441v1
- Date: Tue, 14 Dec 2021 14:52:44 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-15 14:20:08.216536
- Title: An Interpretive Constrained Linear Model for ResNet and MgNet
- Title（参考訳）: resnetとmgnetのための解釈制約付き線形モデル
- Authors: Juncai He, Jinchao Xu, Lian Zhang, Jianqing Zhu
- Abstract要約: 畳み込みニューラルネットワーク(CNN)を用いた画像分類のための解釈可能な数学的モデルとして、制約付き線形データフィーチャーマッピングモデルを提案する。
線形系に対する従来の反復的スキームとResNet型およびMgNet型モデルの基本ブロックのアーキテクチャとの詳細な関係を確立する。
修正されたResNetモデルでは、元のモデルと比較してパラメータが少ないが、より正確な結果が得られる。
- 参考スコア（独自算出の注目度）: 4.407784399315197
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a constrained linear data-feature-mapping model as an
interpretable mathematical model for image classification using a convolutional
neural network (CNN). From this viewpoint, we establish detailed connections
between the traditional iterative schemes for linear systems and the
architectures of the basic blocks of ResNet- and MgNet-type models. Using these
connections, we present some modified ResNet models that compared with the
original models have fewer parameters and yet can produce more accurate
results, thereby demonstrating the validity of this constrained learning
data-feature-mapping assumption. Based on this assumption, we further propose a
general data-feature iterative scheme to show the rationality of MgNet. We also
provide a systematic numerical study on MgNet to show its success and
advantages in image classification problems and demonstrate its advantages in
comparison with established networks.
- Abstract（参考訳）: 畳み込みニューラルネットワーク(cnn)を用いた画像分類のための解釈可能な数学的モデルとして,制約付き線形データ特徴マッピングモデルを提案する。
この観点から、線形系における従来の反復的スキームとResNet型およびMgNet型モデルの基本ブロックのアーキテクチャとの詳細な関係を確立する。
これらの接続を用いて、元のモデルと比較してパラメータが少なく、より正確な結果が得られる修正されたresnetモデルを示し、この制約付き学習データ特徴マップの妥当性を示す。
この仮定に基づいて、MgNetの合理性を示す一般的なデータ機能反復スキームを提案する。
また,mgnetについて,画像分類問題におけるその成功と優位性を示すための系統的数値的研究を行い,確立されたネットワークとの比較でその利点を示す。
関連論文リスト
- Telematics Combined Actuarial Neural Networks for Cross-Sectional and
Longitudinal Claim Count Data [0.0]
本稿では,Mario W"uthrich と Michael Merz が提案した,CANN (Combined Actuarial Network) フレームワークに基づく自動車保険の断面的および縦断的請求数モデルを提案する。
論文 参考訳（メタデータ） (2023-08-03T12:40:44Z) - MAgNET: A Graph U-Net Architecture for Mesh-Based Simulations [0.5185522256407782]
我々は、任意のグラフ構造化データに対応するために、よく知られた畳み込みニューラルネットワークを拡張するMagNETを提案する。
固体の力学における非線形有限要素シミュレーションのサロゲートモデリングにおけるMAgNETの予測能力を示す。
論文 参考訳（メタデータ） (2022-11-01T19:23:45Z) - Graph Polynomial Convolution Models for Node Classification of
Non-Homophilous Graphs [52.52570805621925]
本研究では,高階グラフ畳み込みからの効率的な学習と,ノード分類のための隣接行列から直接学習する。
得られたモデルが新しいグラフと残留スケーリングパラメータをもたらすことを示す。
提案手法は,非親和性パラメータのノード分類における精度の向上を実証する。
論文 参考訳（メタデータ） (2022-09-12T04:46:55Z) - A Bayesian Perspective on Training Speed and Model Selection [51.15664724311443]
モデルのトレーニング速度の測定値を用いて,その限界確率を推定できることを示す。
線形モデルと深部ニューラルネットワークの無限幅限界に対するモデル選択タスクの結果を検証する。
以上の結果から、勾配勾配勾配で訓練されたニューラルネットワークが、一般化する関数に偏りがある理由を説明するための、有望な新たな方向性が示唆された。
論文 参考訳（メタデータ） (2020-10-27T17:56:14Z) - Recurrent Graph Tensor Networks: A Low-Complexity Framework for
Modelling High-Dimensional Multi-Way Sequence [24.594587557319837]
我々は、リカレントニューラルネットワーク(RNN)における隠れ状態のモデリングを近似するグラフフィルタフレームワークを開発する。
提案するフレームワークは、複数のマルチウェイシーケンスモデリングタスクを通じて検証され、従来のRNNに対してベンチマークされる。
提案したRGTNは,標準RNNよりも優れるだけでなく,従来のRNNと関連する次元の曲線を緩和できることを示す。
論文 参考訳（メタデータ） (2020-09-18T10:13:36Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳（メタデータ） (2020-07-02T17:55:47Z) - Kernel and Rich Regimes in Overparametrized Models [69.40899443842443]
過度にパラメータ化された多層ネットワーク上の勾配勾配は、RKHSノルムではないリッチな暗黙バイアスを誘発できることを示す。
また、より複雑な行列分解モデルと多層非線形ネットワークに対して、この遷移を実証的に示す。
論文 参考訳（メタデータ） (2020-02-20T15:43:02Z) - Revisiting Graph based Collaborative Filtering: A Linear Residual Graph
Convolutional Network Approach [55.44107800525776]
グラフ畳み込みネットワーク(GCN)は、最先端のグラフベースの表現学習モデルである。
本稿では、GCNベースの協調フィルタリング(CF)ベースのレコメンダシステム(RS)について再検討する。
単純なグラフ畳み込みネットワークの理論と整合して,非線形性を取り除くことで推奨性能が向上することを示す。
本稿では,ユーザ・イテム相互作用モデリングを用いたCF用に特別に設計された残差ネットワーク構造を提案する。
論文 参考訳（メタデータ） (2020-01-28T04:41:25Z) - On generalized residue network for deep learning of unknown dynamical
systems [3.350695583277162]
我々は、ディープニューラルネットワーク(DNN)を用いた未知の力学系を学習するための一般的な数値的手法を提案する。
提案手法は,残余ネットワーク(ResNet)を有効なニューラルネットワーク構造として同定した最近の研究に基づいている。
論文 参考訳（メタデータ） (2020-01-23T01:50:22Z) - Model Fusion via Optimal Transport [64.13185244219353]
ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。
これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
論文 参考訳（メタデータ） (2019-10-12T22:07:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。