論文の概要: Multilayer Multiset Neuronal Networks -- MMNNs
- arxiv url: http://arxiv.org/abs/2308.14541v1
- Date: Mon, 28 Aug 2023 12:55:13 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-29 13:53:07.971088
- Title: Multilayer Multiset Neuronal Networks -- MMNNs
- Title（参考訳）: 多層多セットニューロンネットワーク --mmnn
- Authors: Alexandre Benatti, Luciano da Fontoura Costa
- Abstract要約: 本研究は,2層以上の類似性ニューロンを組み込んだ多層神経回路網について述べる。
また,回避すべき画像領域に割り当てられる反プロトタイプ点の利用についても検討した。
- 参考スコア（独自算出の注目度）: 55.2480439325792
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The coincidence similarity index, based on a combination of the Jaccard and
overlap similarity indices, has noticeable properties in comparing and
classifying data, including enhanced selectivity and sensitivity, intrinsic
normalization, and robustness to data perturbations and outliers. These
features allow multiset neurons, which are based on the coincidence similarity
operation, to perform effective pattern recognition applications, including the
challenging task of image segmentation. A few prototype points have been used
in previous related approaches to represent each pattern to be identified, each
of them being associated with respective multiset neurons. The segmentation of
the regions can then proceed by taking into account the outputs of these
neurons. The present work describes multilayer multiset neuronal networks
incorporating two or more layers of coincidence similarity neurons. In
addition, as a means to improve performance, this work also explores the
utilization of counter-prototype points, which are assigned to the image
regions to be avoided. This approach is shown to allow effective segmentation
of complex regions despite considering only one prototype and one
counter-prototype point. As reported here, the balanced accuracy landscapes to
be optimized in order to identify the weight of the neurons in subsequent
layers have been found to be relatively smooth, while typically involving more
than one attraction basin. The use of a simple gradient-based optimization
methodology has been demonstrated to effectively train the considered neural
networks with several architectures, at least for the given data type,
configuration of parameters, and network architecture.
- Abstract（参考訳）: jaccardとオーバーラップ類似度指標の組み合わせに基づく一致類似度指標は、選択性と感度の向上、本質的正規化、データの摂動と外れ値に対するロバスト性を含むデータの比較と分類において顕著な特性を有する。
これらの特徴により、偶然の類似性操作に基づくマルチセットニューロンは、画像分割の課題を含む効果的なパターン認識アプリケーションを実行することができる。
以前の関連するアプローチでは、各パターンを識別するためにいくつかのプロトタイプポイントが使われており、それぞれが各マルチセットニューロンに関連付けられている。
領域のセグメンテーションは、これらのニューロンの出力を考慮して進行することができる。
本研究は,2層以上の類似性ニューロンを組み込んだ多層神経回路網について述べる。
また,性能向上の手段として,回避すべき画像領域に割り当てられる反プロトタイプ点の利用についても検討した。
このアプローチは, 1つのプロトタイプと1つのカウンタープロトタイプポイントのみを考慮しても, 複雑な領域の効果的なセグメント化を可能にする。
ここで述べたように、後続の層におけるニューロンの重みを特定するために最適化すべきバランスの取れた正確な風景は比較的滑らかであり、典型的には複数のアトラクション盆地を含んでいる。
少なくとも与えられたデータタイプ、パラメータの構成、ネットワークアーキテクチャなど、いくつかのアーキテクチャで検討されたニューラルネットワークを効果的にトレーニングするために、単純な勾配に基づく最適化手法の使用が実証されている。
関連論文リスト
- Heterogenous Memory Augmented Neural Networks [84.29338268789684]
ニューラルネットワークのための新しいヘテロジニアスメモリ拡張手法を提案する。
学習可能なメモリトークンをアテンション機構付きで導入することにより、膨大な計算オーバーヘッドを伴わずに性能を効果的に向上させることができる。
In-distriion (ID) と Out-of-distriion (OOD) の両方の条件下での様々な画像およびグラフベースのタスクに対するアプローチを示す。
論文 参考訳（メタデータ） (2023-10-17T01:05:28Z) - Memorization with neural nets: going beyond the worst case [5.662924503089369]
実際には、ディープニューラルネットワークはトレーニングデータを簡単に補間できることが多い。
しかし、実世界のデータについては、暗記能力によって提案されるよりもネットワークサイズが小さいような良質な構造の存在を直感的に期待する。
2つのクラスを持つ固定有限データセットを与えられた場合、高い確率で3層ニューラルネットワークを時間内に補間する単純なランダム化アルゴリズムを導入する。
論文 参考訳（メタデータ） (2023-09-30T10:06:05Z) - Two Approaches to Supervised Image Segmentation [55.616364225463066]
本研究は、深層学習とマルチセットニューロンのアプローチの比較実験を開発する。
ディープラーニングアプローチは、画像セグメンテーションの実行の可能性を確認した。
代替のマルチセット手法では、計算資源をほとんど必要とせずに精度を向上することができた。
論文 参考訳（メタデータ） (2023-07-19T16:42:52Z) - WLD-Reg: A Data-dependent Within-layer Diversity Regularizer [98.78384185493624]
ニューラルネットワークは、勾配に基づく最適化と共同で訓練された階層構造に配置された複数の層で構成されている。
我々は、この従来の「中間層」フィードバックを補うために、同じ層内での活性化の多様性を促進するために、追加の「中間層」フィードバックを補うことを提案する。
本稿では,提案手法が複数のタスクにおける最先端ニューラルネットワークモデルの性能を向上させることを実証した広範な実証研究を提案する。
論文 参考訳（メタデータ） (2023-01-03T20:57:22Z) - Sparse Interaction Additive Networks via Feature Interaction Detection
and Sparse Selection [10.191597755296163]
我々は,必要な特徴の組み合わせを効率的に識別する,抽出可能な選択アルゴリズムを開発した。
提案するスパース・インタラクション・アダプティブ・ネットワーク(SIAN)は,単純かつ解釈可能なモデルから完全に接続されたニューラルネットワークへのブリッジを構築する。
論文 参考訳（メタデータ） (2022-09-19T19:57:17Z) - SRPN: similarity-based region proposal networks for nuclei and cells
detection in histology images [13.544784143012624]
組織像における核・細胞検出のための類似性に基づく領域提案ネットワーク(SRPN)を提案する。
埋め込み層と呼ばれるカスタマイズされた畳み込み層は、ネットワーク構築のために設計されている。
組織像における多臓器核検出とシグナレットリング細胞検出の課題について,提案手法を検証した。
論文 参考訳（メタデータ） (2021-06-25T10:56:54Z) - Random Features for the Neural Tangent Kernel [57.132634274795066]
完全接続型ReLUネットワークのニューラルタンジェントカーネル(NTK)の効率的な特徴マップ構築を提案する。
得られた特徴の次元は、理論と実践の両方で比較誤差境界を達成するために、他のベースライン特徴マップ構造よりもはるかに小さいことを示しています。
論文 参考訳（メタデータ） (2021-04-03T09:08:12Z) - Deep Representational Similarity Learning for analyzing neural
signatures in task-based fMRI dataset [81.02949933048332]
本稿では、表現類似度分析(RSA)の深部拡張であるDRSL(Deep Representational similarity Learning)を開発する。
DRSLは、多数の被験者を持つfMRIデータセットにおける様々な認知タスク間の類似性を分析するのに適している。
論文 参考訳（メタデータ） (2020-09-28T18:30:14Z) - VINNAS: Variational Inference-based Neural Network Architecture Search [2.685668802278155]
スパース畳み込みニューラルネットワークを探索するための可変変分推論に基づくNAS法を提案する。
提案手法は,非ゼロパラメータの約2倍の精度で最先端の精度を示しながら,多様なネットワークセルを探索する。
論文 参考訳（メタデータ） (2020-07-12T21:47:35Z) - Similarity of Neural Networks with Gradients [8.804507286438781]
本稿では,特徴ベクトルと勾配ベクトルの両方を利用してニューラルネットワークの表現を設計することを提案する。
提案手法はニューラルネットワークの類似性を計算するための最先端の手法を提供する。
論文 参考訳（メタデータ） (2020-03-25T17:04:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。