論文の概要: Comparisons among different stochastic selection of activation layers
for convolutional neural networks for healthcare
- arxiv url: http://arxiv.org/abs/2011.11834v1
- Date: Tue, 24 Nov 2020 01:53:39 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-21 12:28:01.966017
- Title: Comparisons among different stochastic selection of activation layers
for convolutional neural networks for healthcare
- Title(参考訳): 医療用畳み込みニューラルネットワークにおけるアクティベーション層の異なる確率的選択の比較
- Authors: Loris Nanni, Alessandra Lumini, Stefano Ghidoni and Gianluca Maguolo
- Abstract要約: ニューラルネットワークのアンサンブルを用いて生体医用画像の分類を行う。
ReLU, leaky ReLU, Parametric ReLU, ELU, Adaptive Piecewice Linear Unit, S-Shaped ReLU, Swish, Mish, Mexican Linear Unit, Parametric Deformable Linear Unit, Soft Root Sign。
- 参考スコア(独自算出の注目度): 77.99636165307996
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Classification of biological images is an important task with crucial
application in many fields, such as cell phenotypes recognition, detection of
cell organelles and histopathological classification, and it might help in
early medical diagnosis, allowing automatic disease classification without the
need of a human expert. In this paper we classify biomedical images using
ensembles of neural networks. We create this ensemble using a ResNet50
architecture and modifying its activation layers by substituting ReLUs with
other functions. We select our activations among the following ones: ReLU,
leaky ReLU, Parametric ReLU, ELU, Adaptive Piecewice Linear Unit, S-Shaped
ReLU, Swish , Mish, Mexican Linear Unit, Gaussian Linear Unit, Parametric
Deformable Linear Unit, Soft Root Sign (SRS) and others.
As a baseline, we used an ensemble of neural networks that only use ReLU
activations. We tested our networks on several small and medium sized
biomedical image datasets. Our results prove that our best ensemble obtains a
better performance than the ones of the naive approaches. In order to encourage
the reproducibility of this work, the MATLAB code of all the experiments will
be shared at https://github.com/LorisNanni.
- Abstract(参考訳): 生物学的画像の分類は、細胞表現型認識、細胞小器官の検出、病理組織分類など多くの分野において重要な課題であり、ヒトの専門家を必要とせずに疾患の自動分類を可能にする早期診断に役立つ可能性がある。
本稿では,ニューラルネットワークのアンサンブルを用いて生体画像の分類を行う。
我々はResNet50アーキテクチャを使ってこのアンサンブルを作成し、ReLUを他の関数に置換することでアクティベーション層を変更する。
ReLU, leaky ReLU, Parametric ReLU, ELU, Adaptive Piecewice Linear Unit, S-Shaped ReLU, Swish , Mish, Mexican Linear Unit, Gaussian Linear Unit, Parametric Deformable Linear Unit, Soft Root Sign (SRS)などです。
ベースラインとして、ReLUアクティベーションのみを使用するニューラルネットワークのアンサンブルを使用しました。
中小規模のバイオメディカル画像データセットでネットワークをテストしました。
その結果,我々の最善のアンサンブルは,ナイーブなアプローチよりも優れたパフォーマンスを得ることができた。
この作業の再現性を促進するため、すべての実験のMATLABコードはhttps://github.com/LorisNanni.comで共有される。
関連論文リスト
- CAF-YOLO: A Robust Framework for Multi-Scale Lesion Detection in Biomedical Imagery [0.0682074616451595]
CAF-YOLOは、畳み込みニューラルネットワーク(CNN)とトランスフォーマーの強みを活用する、医学的対象検出のための、巧妙で堅牢な方法である。
ACFMモジュールはグローバル機能とローカル機能の両方のモデリングを強化し、長期的な機能依存のキャプチャを可能にする。
MSNNは多様なスケールにまたがる特徴を抽出することで、マルチスケールの情報集約を改善する。
論文 参考訳(メタデータ) (2024-08-04T01:44:44Z) - ReLUs Are Sufficient for Learning Implicit Neural Representations [17.786058035763254]
暗黙的神経表現学習におけるReLUアクティベーション関数の使用について再考する。
2次B-スプラインウェーブレットにインスパイアされ、ディープニューラルネットワーク(DNN)の各層にReLUニューロンに一連の簡単な制約を組み込む。
我々は、一般的な信念とは対照的に、ReLUニューロンのみからなるDNNに基づいて最先端のINRを学習できることを実証した。
論文 参考訳(メタデータ) (2024-06-04T17:51:08Z) - Affine-Consistent Transformer for Multi-Class Cell Nuclei Detection [76.11864242047074]
本稿では, 原子核位置を直接生成する新しいアフィン一貫性変換器 (AC-Former) を提案する。
本稿では,AAT (Adaptive Affine Transformer) モジュールを導入し,ローカルネットワークトレーニングのためのオリジナル画像をワープするための重要な空間変換を自動学習する。
実験結果から,提案手法は様々なベンチマークにおいて既存の最先端アルゴリズムを著しく上回ることがわかった。
論文 参考訳(メタデータ) (2023-10-22T02:27:02Z) - A Comprehensive Survey and Performance Analysis of Activation Functions
in Deep Learning [23.83339228535986]
さまざまなタイプの問題に対処するために、さまざまなタイプのニューラルネットワークが導入されている。
ニューラルネットワークの主な目標は、非線形分離可能な入力データをより線形分離可能な抽象的特徴に変換することである。
最もポピュラーで一般的な非線形層は、ロジスティックシグモド、タン、ReLU、ELU、Swish、Mishなどのアクティベーション関数(AF)である。
論文 参考訳(メタデータ) (2021-09-29T16:41:19Z) - Medulloblastoma Tumor Classification using Deep Transfer Learning with
Multi-Scale EfficientNets [63.62764375279861]
本稿では,エンド・ツー・エンドのMB腫瘍分類を提案し,様々な入力サイズとネットワーク次元の一致した移動学習を提案する。
161ケースのデータセットを用いて、より大規模な入力解像度を持つ事前学習されたEfficientNetが、大幅な性能改善をもたらすことを実証した。
論文 参考訳(メタデータ) (2021-09-10T13:07:11Z) - Deep ensembles based on Stochastic Activation Selection for Polyp
Segmentation [82.61182037130406]
本研究は,大腸内視鏡検査における画像分割,特に正確なポリープ検出とセグメンテーションを扱う。
イメージセグメンテーションの基本アーキテクチャはエンコーダとデコーダで構成されている。
我々はデコーダのバックボーンを変更することで得られるDeepLabアーキテクチャのバリエーションを比較した。
論文 参考訳(メタデータ) (2021-04-02T02:07:37Z) - Neural Cellular Automata Manifold [84.08170531451006]
ニューラルセルラーオートマタのニューラルネットワークアーキテクチャは、より大きなNNにカプセル化可能であることを示す。
これにより、NAAの多様体を符号化する新しいモデルを提案し、それぞれが異なる画像を生成することができる。
生物学的には、我々のアプローチは転写因子の役割を担い、細胞の分化を促進する特定のタンパク質への遺伝子マッピングを調節する。
論文 参考訳(メタデータ) (2020-06-22T11:41:57Z) - Non-linear Neurons with Human-like Apical Dendrite Activations [81.18416067005538]
XOR論理関数を100%精度で学習し, 標準的なニューロンに後続のアピーカルデンドライト活性化(ADA)が認められた。
コンピュータビジョン,信号処理,自然言語処理の6つのベンチマークデータセットについて実験を行った。
論文 参考訳(メタデータ) (2020-02-02T21:09:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。