論文の概要: Operational vs Convolutional Neural Networks for Image Denoising
- arxiv url: http://arxiv.org/abs/2009.00612v1
- Date: Tue, 1 Sep 2020 12:15:28 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-23 00:26:55.945700
- Title: Operational vs Convolutional Neural Networks for Image Denoising
- Title(参考訳): 画像デノイジングのためのオペレーショナル対畳み込みニューラルネットワーク
- Authors: Junaid Malik, Serkan Kiranyaz, Moncef Gabbouj
- Abstract要約: 畳み込みニューラルネットワーク(CNN)は近年,適応学習能力により画像デノナイズ技術として好まれている。
データ変換のコアに新たな非線形性を埋め込むための柔軟性を向上するヘテロジニアスネットワークモデルを提案する。
ONNとCNNの比較評価は、線形演算子に富んだONNが等価かつよく知られた深層構成のCNNに対して優れたノイズ発生性能を達成できるという決定的な証拠が得られる。
- 参考スコア(独自算出の注目度): 25.838282412957675
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Convolutional Neural Networks (CNNs) have recently become a favored technique
for image denoising due to its adaptive learning ability, especially with a
deep configuration. However, their efficacy is inherently limited owing to
their homogenous network formation with the unique use of linear convolution.
In this study, we propose a heterogeneous network model which allows greater
flexibility for embedding additional non-linearity at the core of the data
transformation. To this end, we propose the idea of an operational neuron or
Operational Neural Networks (ONN), which enables a flexible non-linear and
heterogeneous configuration employing both inter and intra-layer neuronal
diversity. Furthermore, we propose a robust operator search strategy inspired
by the Hebbian theory, called the Synaptic Plasticity Monitoring (SPM) which
can make data-driven choices for non-linearities in any architecture. An
extensive set of comparative evaluations of ONNs and CNNs over two severe image
denoising problems yield conclusive evidence that ONNs enriched by non-linear
operators can achieve a superior denoising performance against CNNs with both
equivalent and well-known deep configurations.
- Abstract(参考訳): 畳み込みニューラルネットワーク(CNN)は、適応学習能力、特に深い構成により、画像のデノナイズに好まれる技術となっている。
しかしながら、それらの効果は本質的には、線形畳み込みのユニークな使用による均質なネットワーク形成によって制限される。
本研究では,データ変換のコアに追加の非線形性を埋め込むための柔軟性を高める異種ネットワークモデルを提案する。
そこで本研究では,層間および層内ニューロンの多様性を生かした,柔軟性のある非線形・不均質な構成を実現するオペレーショナルニューロンまたはオペレーショナルニューラルネットワーク(onn)のアイデアを提案する。
さらに,任意のアーキテクチャにおいて非線型性に対してデータ駆動型選択を行うことができるシンナプティック可塑性モニタリング(spm)と呼ばれる,ヒュービアン理論に触発されたロバストな演算子探索戦略を提案する。
ONNとCNNの比較評価は、線形演算子に富んだONNが等価かつよく知られた深層構成のCNNに対して優れたノイズ発生性能を達成できるという決定的な証拠が得られる。
関連論文リスト
- Defending Spiking Neural Networks against Adversarial Attacks through Image Purification [20.492531851480784]
Spiking Neural Networks(SNN)は、神経科学と機械学習のギャップを埋めることを目的としている。
SNNは畳み込みニューラルネットワークのような敵の攻撃に弱い。
本稿では,SNNの堅牢性を高めるための生物学的にインスパイアされた手法を提案する。
論文 参考訳(メタデータ) (2024-04-26T00:57:06Z) - Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。
我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。
本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文 参考訳(メタデータ) (2024-03-18T18:01:01Z) - From Alexnet to Transformers: Measuring the Non-linearity of Deep Neural Networks with Affine Optimal Transport [32.39176908225668]
本稿では,DNNの非線形性シグネチャの概念を紹介する。これはディープニューラルネットワークの非線形性を測定するための,理論上初めての音響解である。
提案した非線形署名の実用性を明らかにするための実験結果について述べる。
論文 参考訳(メタデータ) (2023-10-17T17:50:22Z) - Signal Processing for Implicit Neural Representations [80.38097216996164]
Inlicit Neural Representation (INR)は、マルチ層パーセプトロンを介して連続したマルチメディアデータを符号化する。
既存の作業は、その離散化されたインスタンスの処理を通じて、そのような連続的な表現を操作する。
本稿では,INSP-Netと呼ばれる暗黙的ニューラル信号処理ネットワークを提案する。
論文 参考訳(メタデータ) (2022-10-17T06:29:07Z) - Deep Architecture Connectivity Matters for Its Convergence: A
Fine-Grained Analysis [94.64007376939735]
我々は、勾配降下訓練におけるディープニューラルネットワーク(DNN)の収束に対する接続パターンの影響を理論的に特徴づける。
接続パターンの単純なフィルタリングによって、評価対象のモデルの数を削減できることが示される。
論文 参考訳(メタデータ) (2022-05-11T17:43:54Z) - Image denoising by Super Neurons: Why go deep? [31.087153520130112]
合成画像と実世界画像の両方におけるスーパーニューロンの利用について検討する。
以上の結果から,同じ幅と深さで,超ニューロンを持つSelf-ONNsはデノナイジング性能を著しく向上させることが明らかとなった。
論文 参考訳(メタデータ) (2021-11-29T20:52:10Z) - Convolutional versus Self-Organized Operational Neural Networks for
Real-World Blind Image Denoising [25.31981236136533]
初めてDeep Self-ONNを採用することで、現実世界の盲目の画像消音問題に取り組みます。
ディープセルフオンはPSNRで最大1.76dBの性能向上で常に優れた結果を達成します。
論文 参考訳(メタデータ) (2021-03-04T14:49:17Z) - Self-Organized Operational Neural Networks for Severe Image Restoration
Problems [25.838282412957675]
畳み込みニューラルネットワーク(CNN)に基づく離散学習は、ノイズとクリーンのイメージペアのトレーニング例から学習することで、画像復元を行うことを目的としている。
これは畳み込みに基づく変換の本質的な線形性によるものであり、深刻な復元問題に対処するには不十分である。
画像復元のための自己組織型ONN(Self-ONN)を提案する。
論文 参考訳(メタデータ) (2020-08-29T02:19:41Z) - Exploiting Heterogeneity in Operational Neural Networks by Synaptic
Plasticity [87.32169414230822]
最近提案されたネットワークモデルであるオペレーショナルニューラルネットワーク(ONN)は、従来の畳み込みニューラルネットワーク(CNN)を一般化することができる。
本研究では, 生体ニューロンにおける本質的な学習理論を示すSynaptic Plasticityパラダイムに基づいて, ネットワークの隠蔽ニューロンに対する最強演算子集合の探索に焦点をあてる。
高難易度問題に対する実験結果から、神経細胞や層が少なくても、GISベースのONNよりも優れた学習性能が得られることが示された。
論文 参考訳(メタデータ) (2020-08-21T19:03:23Z) - Network Diffusions via Neural Mean-Field Dynamics [52.091487866968286]
本稿では,ネットワーク上の拡散の推論と推定のための新しい学習フレームワークを提案する。
本研究の枠組みは, ノード感染確率の正確な進化を得るために, モリ・ズワンジッヒ形式から導かれる。
我々のアプローチは、基礎となる拡散ネットワークモデルのバリエーションに対して多用途で堅牢である。
論文 参考訳(メタデータ) (2020-06-16T18:45:20Z) - Self-Organized Operational Neural Networks with Generative Neurons [87.32169414230822]
ONNは、任意の非線型作用素をカプセル化できる一般化されたニューロンモデルを持つ異種ネットワークである。
我々は,各接続の結節演算子を適応(最適化)できる生成ニューロンを有する自己組織型ONN(Self-ONNs)を提案する。
論文 参考訳(メタデータ) (2020-04-24T14:37:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。