論文の概要: Convolutional Neural Generative Coding: Scaling Predictive Coding to
Natural Images
- arxiv url: http://arxiv.org/abs/2211.12047v1
- Date: Tue, 22 Nov 2022 06:42:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-23 17:10:41.292386
- Title: Convolutional Neural Generative Coding: Scaling Predictive Coding to
Natural Images
- Title(参考訳): 畳み込みニューラル生成符号化:自然画像への予測符号化のスケーリング
- Authors: Alexander Ororbia, Ankur Mali
- Abstract要約: 畳み込み型神経生成符号化(Conv-NGC)を開発した。
我々は、潜伏状態マップを段階的に洗練する柔軟な神経生物学的動機付けアルゴリズムを実装した。
本研究は,脳にインスパイアされたニューラル・システムによる再建と画像復調の課題に対する効果について検討する。
- 参考スコア(独自算出の注目度): 79.07468367923619
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, we develop convolutional neural generative coding (Conv-NGC), a
generalization of predictive coding to the case of
convolution/deconvolution-based computation. Specifically, we concretely
implement a flexible neurobiologically-motivated algorithm that progressively
refines latent state maps in order to dynamically form a more accurate internal
representation/reconstruction model of natural images. The performance of the
resulting sensory processing system is evaluated on several benchmark datasets
such as Color-MNIST, CIFAR-10, and Street House View Numbers (SVHN). We study
the effectiveness of our brain-inspired neural system on the tasks of
reconstruction and image denoising and find that it is competitive with
convolutional auto-encoding systems trained by backpropagation of errors and
notably outperforms them with respect to out-of-distribution reconstruction
(including on the full 90k CINIC-10 test set).
- Abstract(参考訳): 本研究では,畳み込み/畳み込みに基づく計算を行う場合の予測符号化の一般化である畳み込みニューラルネットワーク生成符号化(conv-ngc)を開発した。
具体的には,より正確な自然画像の内部表現/再構成モデルを動的に形成するために,潜在状態マップを段階的に洗練する柔軟な神経生物学的動機付けアルゴリズムを具体的に実装する。
得られたセンサ処理システムの性能は、Color-MNIST、CIFAR-10、Street House View Numbers (SVHN) などのベンチマークデータセットで評価される。
我々は,脳にインスパイアされたニューラルシステムが,再建作業や画像復調作業における効果について検討し,誤りのバックプロパゲーションによって訓練された畳み込み自動符号化システムと競合し,アウト・オブ・ディストリビューション(全90k CINIC-10テストセットを含む)に関しては,それらより優れていることを発見した。
関連論文リスト
- Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。
我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。
本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文 参考訳(メタデータ) (2024-03-18T18:01:01Z) - Neural information coding for efficient spike-based image denoising [0.5156484100374058]
本研究では,ガウス聴覚のためのスパイキングニューラルネットワーク(SNN)について検討する。
本稿では,Leaky Integrate and Fire(LIF)ニューロンによる情報変換処理の形式的解析を提案する。
我々は、その性能を古典的なレートコーディング機構と比較する。
その結果, LIFニューロンを用いたSNNは, 計算コストを抑えつつ, 競争性能を向上できることがわかった。
論文 参考訳(メタデータ) (2023-05-15T09:05:32Z) - Exploring the Rate-Distortion-Complexity Optimization in Neural Image
Compression [26.1947289647201]
ニューラル画像圧縮におけるRDC最適化について検討する。
復号化複雑性を最適化目標の要素として定量化することで、RDCトレードオフを正確に制御できるようになりました。
産業的要求に応じて空間的依存関係を適応的に利用するために、可変複雑性ニューラルネットワークが設計されている。
論文 参考訳(メタデータ) (2023-05-12T03:56:25Z) - Permutation Equivariant Neural Functionals [92.0667671999604]
この研究は、他のニューラルネットワークの重みや勾配を処理できるニューラルネットワークの設計を研究する。
隠れた層状ニューロンには固有の順序がないため, 深いフィードフォワードネットワークの重みに生じる置換対称性に着目する。
実験の結果, 置換同変ニューラル関数は多種多様なタスクに対して有効であることがわかった。
論文 参考訳(メタデータ) (2023-02-27T18:52:38Z) - A Deep Learning-based in silico Framework for Optimization on Retinal
Prosthetic Stimulation [3.870538485112487]
シリコン網膜インプラントモデルパルス2パーセプションによってシミュレーションされた知覚を最適化するニューラルネットワークベースのフレームワークを提案する。
パイプラインは、トレーニング可能なエンコーダ、トレーニング済み網膜インプラントモデル、トレーニング済み評価器から構成される。
論文 参考訳(メタデータ) (2023-02-07T16:32:05Z) - Modality-Agnostic Variational Compression of Implicit Neural
Representations [96.35492043867104]
Inlicit Neural Representation (INR) としてパラメータ化されたデータの関数的ビューに基づくモーダリティ非依存型ニューラル圧縮アルゴリズムを提案する。
潜時符号化と疎性の間のギャップを埋めて、ソフトゲーティング機構に非直線的にマッピングされたコンパクト潜時表現を得る。
このような潜在表現のデータセットを得た後、ニューラル圧縮を用いてモーダリティ非依存空間におけるレート/歪みトレードオフを直接最適化する。
論文 参考訳(メタデータ) (2023-01-23T15:22:42Z) - The Predictive Forward-Forward Algorithm [79.07468367923619]
本稿では,ニューラルネットワークにおける信頼割当を行うための予測フォワード(PFF)アルゴリズムを提案する。
我々は,有向生成回路と表現回路を同時に同時に学習する,新しい動的リカレントニューラルネットワークを設計する。
PFFは効率よく学習し、学習信号を伝達し、フォワードパスのみでシナプスを更新する。
論文 参考訳(メタデータ) (2023-01-04T05:34:48Z) - Learning Optimal K-space Acquisition and Reconstruction using
Physics-Informed Neural Networks [46.751292014516025]
深層ニューラルネットワークは、アンサンプされたk空間データの再構成に応用され、再構成性能が改善されている。
本研究は,k空間サンプリング軌道を正規微分方程式(ODE)問題と考えることによって学習する新しい枠組みを提案する。
実験は、異なるシーケンスで取得された様々な生き残りデータセット(例えば、脳と膝の画像)で実施された。
論文 参考訳(メタデータ) (2022-04-05T20:28:42Z) - Convolutional Analysis Operator Learning by End-To-End Training of
Iterative Neural Networks [3.6280929178575994]
本稿では、反復ニューラルネットワークのエンドツーエンドトレーニングにより、畳み込みスペーシングフィルタを効率的に学習する方法を示す。
我々は,非カルテシアン2次元心血管MRI例に対するアプローチを検証し,得られたフィルタが,デカップリングプレトレーニングにより得られたものよりも,対応する再構成アルゴリズムに適していることを示した。
論文 参考訳(メタデータ) (2022-03-04T07:32:16Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。