論文の概要: Predictive Coding, Variational Autoencoders, and Biological Connections
- arxiv url: http://arxiv.org/abs/2011.07464v2
- Date: Sat, 23 Oct 2021 20:15:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-25 07:04:15.516079
- Title: Predictive Coding, Variational Autoencoders, and Biological Connections
- Title(参考訳): 予測符号化,変分オートエンコーダ,生物結合
- Authors: Joseph Marino
- Abstract要約: 本稿では、理論的神経科学から予測符号化、および機械学習から変分オートエンコーダをレビューする。
両領域の共通起源と数学的枠組みを同定する。
各領域はそれぞれの領域で顕著であるため、神経科学と機械学習の対話において、よりしっかりとこれらの領域を繋ぐことは有用である。
- 参考スコア(独自算出の注目度): 8.416702808274042
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper reviews predictive coding, from theoretical neuroscience, and
variational autoencoders, from machine learning, identifying the common origin
and mathematical framework underlying both areas. As each area is prominent
within its respective field, more firmly connecting these areas could prove
useful in the dialogue between neuroscience and machine learning. After
reviewing each area, we discuss two possible correspondences implied by this
perspective: cortical pyramidal dendrites as analogous to (non-linear) deep
networks and lateral inhibition as analogous to normalizing flows. These
connections may provide new directions for further investigations in each
field.
- Abstract(参考訳): 本稿では、理論的神経科学と変分オートエンコーダから予測符号化を機械学習から検証し、両方の領域の共通起源と数学的枠組みを同定する。
各領域はそれぞれの領域で顕著であるため、神経科学と機械学習の対話において、よりしっかりとこれらの領域を繋ぐことは有用である。
各領域を概観した後, 皮質ピラミッド状デンドライトは(非線形)深部ネットワークに類似したものであり, 横方向の抑制は正規化フローに類似したものである。
これらの接続は、各分野におけるさらなる調査のための新しい方向を提供する可能性がある。
関連論文リスト
- Conditional computation in neural networks: principles and research trends [48.14569369912931]
本稿では,ニューラルネットワークの設計にテクトコンディショナリ計算を適用するという,新たな領域の原理とアイデアを要約する。
特に、入力に条件付きで計算グラフの一部を動的に活性化または非活性化するニューラルネットワークに焦点を当てる。
論文 参考訳(メタデータ) (2024-03-12T11:56:38Z) - Unsupervised Learning of Invariance Transformations [105.54048699217668]
近似グラフ自己同型を見つけるためのアルゴリズムフレームワークを開発する。
重み付きグラフにおける近似自己同型を見つけるために、このフレームワークをどのように利用できるかについて議論する。
論文 参考訳(メタデータ) (2023-07-24T17:03:28Z) - Binary Multi Channel Morphological Neural Network [5.551756485554158]
本稿では,畳み込みニューラルネットワーク上に構築されたBiMoNNを紹介する。
ネットワーク全体をバイナライズするために,BiMoNNとモルフォロジー演算子との等価性を実証する。
これらは古典的形態学演算子を学習し、医用画像アプリケーションで有望な結果を示すことができる。
論文 参考訳(メタデータ) (2022-04-19T09:26:11Z) - Deep Learning in Random Neural Fields: Numerical Experiments via Neural
Tangent Kernel [10.578941575914516]
大脳皮質の生物学的ニューラルネットワークは神経野を形成する。
野のニューロンは独自の受容野を持ち、2つのニューロン間の接続重みはランダムであるが、受容野に近接しているときに非常に相関している。
このような多層ニューラルネットワークは、ノイズ障害によって入力パターンが変形する場合、従来のモデルよりも頑健であることを示す。
論文 参考訳(メタデータ) (2022-02-10T18:57:10Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z) - A singular Riemannian geometry approach to Deep Neural Networks II.
Reconstruction of 1-D equivalence classes [78.120734120667]
入力空間における出力多様体内の点の事前像を構築する。
我々は、n-次元実空間から(n-1)-次元実空間へのニューラルネットワークマップの場合の簡易性に焦点をあてる。
論文 参考訳(メタデータ) (2021-12-17T11:47:45Z) - Neural Fields in Visual Computing and Beyond [54.950885364735804]
機械学習の最近の進歩は、座標ベースニューラルネットワークを用いた視覚コンピューティング問題の解決への関心が高まっている。
ニューラルネットワークは、3D形状と画像の合成、人体のアニメーション、3D再構成、ポーズ推定に成功している。
本報告は、文脈、数学的基礎、および、ニューラルネットワークに関する文献の広範なレビューを提供する。
論文 参考訳(メタデータ) (2021-11-22T18:57:51Z) - Exploring Deep Registration Latent Spaces [6.081958519524934]
本研究では,ディープラーニングに基づく登録手法の解釈可能性に着目した。
我々は符号化空間を分解し、新しい基底を生成する。
肺と海馬MRIに焦点を当てた2つの異なるデータセットを用いて実験を行った。
論文 参考訳(メタデータ) (2021-07-23T13:54:21Z) - A neural anisotropic view of underspecification in deep learning [60.119023683371736]
ニューラルネットが問題の未特定化を扱う方法が,データ表現に大きく依存していることを示す。
深層学習におけるアーキテクチャ的インダクティブバイアスの理解は,これらのシステムの公平性,堅牢性,一般化に対処する上で基本的であることを強調した。
論文 参考訳(メタデータ) (2021-04-29T14:31:09Z) - Incorporating Domain Knowledge into Deep Neural Networks [2.2186394337073527]
ドメイン知識の導入は、科学的アシスタントの構築だけでなく、人間と機械の協調によるデータの理解に関わる多くの分野にも特に関心がある。
本稿では,これらの知識を論理的および数値的制約としてエンコードする2つの幅広い手法について検討し,これらの手法のサブカテゴリで得られた手法と結果について述べる。
論文 参考訳(メタデータ) (2021-02-27T10:39:43Z) - Neural Rule Ensembles: Encoding Sparse Feature Interactions into Neural
Networks [3.7277730514654555]
決定木を用いて、関連する特徴とその相互作用をキャプチャし、抽出した関係をニューラルネットワークにエンコードするマッピングを定義する。
同時に、機能選択により、アートツリーベースのアプローチの状況と比較して、コンパクトな表現の学習が可能になる。
論文 参考訳(メタデータ) (2020-02-11T11:22:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。