論文の概要: Neural Echos: Depthwise Convolutional Filters Replicate Biological Receptive Fields

• arxiv url: http://arxiv.org/abs/2401.10178v1
• Date: Thu, 18 Jan 2024 18:06:22 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-19 15:34:55.008680
• Title: Neural Echos: Depthwise Convolutional Filters Replicate Biological Receptive Fields
• Title（参考訳）: ニューラルエコー:生物学的受容場を再現する奥行き畳み込みフィルタ
• Authors: Zahra Babaiee, Peyman M. Kiasari, Daniela Rus, Radu Grosu
• Abstract要約: 哺乳類網膜で観察される生体受容野を,深部核が効果的に複製していることを示す証拠を提示する。 生体受容の分野からインスピレーションを得る手法を提案する。
• 参考スコア（独自算出の注目度）: 56.69755544814834
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: In this study, we present evidence suggesting that depthwise convolutional kernels are effectively replicating the structural intricacies of the biological receptive fields observed in the mammalian retina. We provide analytics of trained kernels from various state-of-the-art models substantiating this evidence. Inspired by this intriguing discovery, we propose an initialization scheme that draws inspiration from the biological receptive fields. Experimental analysis of the ImageNet dataset with multiple CNN architectures featuring depthwise convolutions reveals a marked enhancement in the accuracy of the learned model when initialized with biologically derived weights. This underlies the potential for biologically inspired computational models to further our understanding of vision processing systems and to improve the efficacy of convolutional networks.
• Abstract（参考訳）: 本研究では,哺乳類網膜で観察される生体受容野の構造的複雑さを,深部核が効果的に複製していることを示す。 我々は、この証拠を裏付ける様々な最先端モデルから訓練されたカーネルの分析を行う。 この興味深い発見に触発されて,生物受容分野からインスピレーションを得る初期化手法を提案する。 奥行きの畳み込みを特徴とする複数のCNNアーキテクチャを用いたImageNetデータセットの実験的解析により,生物由来の重みによる初期化において,学習モデルの精度が著しく向上したことが明らかになった。 これにより、生物学的にインスパイアされた計算モデルが視覚処理システムの理解を深め、畳み込みネットワークの有効性を向上させる可能性を秘めている。

関連論文リスト

• Deep Continuous Networks [21.849285945717632]
  空間的連続フィルタとニューラルODEの連続深度フレームワークを組み合わせたディープ連続ネットワーク(DCN)を提案する。 これにより、トレーニング中のフィルタの空間的サポートを学習し、特徴写像の連続的な進化をモデル化し、DCNを生物学的モデルに密接にリンクすることができる。 パラメータとデータ効率を改善し,メタパラメトリゼーションを可能にする標準画像分類・再構成問題に対して,DCNは汎用性が高く,高い適用性を示す。
  論文  参考訳（メタデータ） (2024-02-02T16:50:18Z)
• Unveiling the Unseen: Identifiable Clusters in Trained Depthwise Convolutional Kernels [56.69755544814834]
  深部分離型畳み込みニューラルネットワーク(DS-CNN)の最近の進歩は、新しいアーキテクチャをもたらす。 本稿では,DS-CNNアーキテクチャのもう一つの顕著な特性を明らかにする。
  論文  参考訳（メタデータ） (2024-01-25T19:05:53Z)
• Morphological Profiling for Drug Discovery in the Era of Deep Learning [13.307277432389496]
  形態素プロファイリングの分野における最近の進歩を概観する。 このパイプラインでは、ディープラーニングの適用に特に重点を置いています。
  論文  参考訳（メタデータ） (2023-12-13T05:08:32Z)
• Tertiary Lymphoid Structures Generation through Graph-based Diffusion [54.37503714313661]
  本研究では,最先端のグラフベース拡散モデルを用いて生物学的に意味のある細胞グラフを生成する。 本研究では, グラフ拡散モデルを用いて, 3次リンパ構造(TLS)の分布を正確に学習できることを示す。
  論文  参考訳（メタデータ） (2023-10-10T14:37:17Z)
• Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
  この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。 我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
  論文  参考訳（メタデータ） (2023-03-30T02:40:28Z)
• Multi-level Data Representation For Training Deep Helmholtz Machines [0.0]
  我々は,Human Image Perception 機構を用いて,複雑な検索空間において,Helmholtz Machine と呼ばれる生物学的に妥当な生成モデルの学習を指導する。 我々は,マルチレベルデータ表現を用いて,異なる解像度の視覚的キューをネットワークの隠蔽層に提供することで,この問題を解決することを提案する。 いくつかの画像データセットの結果は、モデルがより優れた全体的な品質を得るだけでなく、生成された画像のより広範な多様性を得ることができることを示した。
  論文  参考訳（メタデータ） (2022-10-26T16:55:40Z)
• Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
  識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。 データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
  論文  参考訳（メタデータ） (2022-02-01T17:11:13Z)
• Deep Unrolled Recovery in Sparse Biological Imaging [62.997667081978825]
  ディープ・アルゴリズム・アンローリング(Deep Algorithm Unrolling)は、反復的アルゴリズムの解釈可能性と教師付きディープラーニングの性能向上を組み合わせたディープ・アーキテクチャを開発するためのモデルベースのアプローチである。 この枠組みは生体イメージングの応用に適しており、測定プロセスを記述する物理モデルが存在し、回復すべき情報がしばしば高度に構造化されている。
  論文  参考訳（メタデータ） (2021-09-28T20:22:44Z)
• Evolution Is All You Need: Phylogenetic Augmentation for Contrastive Learning [1.7188280334580197]
  生物配列埋め込みの自己監視型表現学習は、下流タスクにおける計算リソースの制約を緩和する。 進化的系統的増補を用いた対比学習が表現学習の目的として利用できることを示す。
  論文  参考訳（メタデータ） (2020-12-25T01:35:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。