論文の概要: Predictive Coding: a Theoretical and Experimental Review
- arxiv url: http://arxiv.org/abs/2107.12979v1
- Date: Tue, 27 Jul 2021 17:44:21 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-28 14:32:13.698331
- Title: Predictive Coding: a Theoretical and Experimental Review
- Title(参考訳): Predictive Coding:理論的および実験的レビュー
- Authors: Beren Millidge, Anil Seth, Christopher L Buckley
- Abstract要約: 予測符号化の中核となる数学的構造と論理を包括的にレビューする。
我々はまた、予測符号化を実装可能な神経生物学的に現実的なマイクロ回路から、フレームワーク内での様々な古典的および最近の研究をレビューした。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Predictive coding offers a potentially unifying account of cortical function
-- postulating that the core function of the brain is to minimize prediction
errors with respect to a generative model of the world. The theory is closely
related to the Bayesian brain framework and, over the last two decades, has
gained substantial influence in the fields of theoretical and cognitive
neuroscience. A large body of research has arisen based on both empirically
testing improved and extended theoretical and mathematical models of predictive
coding, as well as in evaluating their potential biological plausibility for
implementation in the brain and the concrete neurophysiological and
psychological predictions made by the theory. Despite this enduring popularity,
however, no comprehensive review of predictive coding theory, and especially of
recent developments in this field, exists. Here, we provide a comprehensive
review both of the core mathematical structure and logic of predictive coding,
thus complementing recent tutorials in the literature. We also review a wide
range of classic and recent work within the framework, ranging from the
neurobiologically realistic microcircuits that could implement predictive
coding, to the close relationship between predictive coding and the widely-used
backpropagation of error algorithm, as well as surveying the close
relationships between predictive coding and modern machine learning techniques.
- Abstract(参考訳): 予測コーディングは、脳の中核機能は、世界の生成モデルに関して予測誤差を最小化することであると仮定する、皮質機能の潜在的統一的な説明を提供する。
この理論はベイズ人の脳の枠組みと密接に関連しており、過去20年間、理論と認知神経科学の分野に大きな影響を与えてきた。
大規模な研究は、改良された理論と拡張された予測符号化の数学的モデルの両方を実証的に検証し、また、脳における実装に対する潜在的な生物学的妥当性と、理論によってなされる具体的な神経生理学的および心理学的予測を評価することに基づいている。
しかし、この持続的な人気にもかかわらず、予測符号化理論、特にこの分野での最近の発展に関する包括的なレビューは存在しない。
ここでは、予測符号化のコアとなる数学的構造と論理の両方を包括的にレビューし、最近の文献のチュートリアルを補完する。
また,予測符号化を実装可能な神経生物学的に現実的なマイクロ回路から,予測符号化と広く使用されている誤りアルゴリズムのバックプロパゲーションとの密接な関係,予測符号化と現代の機械学習技術との密接な関係を調査した。
関連論文リスト
- CogDPM: Diffusion Probabilistic Models via Cognitive Predictive Coding [62.075029712357]
本研究は認知拡散確率モデル(CogDPM)を紹介する。
CogDPMは拡散モデルの階層的サンプリング能力に基づく精度推定法と拡散モデル固有の性質から推定される精度重み付きガイダンスを備える。
我々は,Universal Kindomの降水量と表面風速データセットを用いた実世界の予測タスクにCogDPMを適用した。
論文 参考訳(メタデータ) (2024-05-03T15:54:50Z) - Predictive Coding and Stochastic Resonance: Towards a Unified Theory of
Auditory (Phantom) Perception [6.416574036611064]
脳機能の機械的理解を得るためには、仮説駆動実験には生物学的に妥当な計算モデルが伴わなければならない。
本稿では,人工知能,心理学,神経科学の交差点における最近の研究について概説する。
脳内でユビキタスである2つの基本的な処理原則は、多数の実験結果に最も適していると結論付けます。
論文 参考訳(メタデータ) (2022-04-07T10:47:58Z) - Hybrid Predictive Coding: Inferring, Fast and Slow [62.997667081978825]
本稿では,反復型と償却型の両方を原則的に組み合わせたハイブリッド予測符号化ネットワークを提案する。
我々は,本モデルが本質的に不確実性に敏感であり,最小計算費用を用いて正確な信念を得るためにバランスを適応的にバランスさせることを実証した。
論文 参考訳(メタデータ) (2022-04-05T12:52:45Z) - Long-range and hierarchical language predictions in brains and
algorithms [82.81964713263483]
深層言語アルゴリズムは隣接した単語の予測に最適化されているが、人間の脳は長距離で階層的な予測を行うように調整されている。
本研究は、予測符号化理論を強化し、自然言語処理における長距離および階層的予測の重要な役割を示唆する。
論文 参考訳(メタデータ) (2021-11-28T20:26:07Z) - The Neural Coding Framework for Learning Generative Models [91.0357317238509]
本稿では,脳の予測処理理論に触発された新しい神経生成モデルを提案する。
同様に、私たちの生成モデルにおける人工ニューロンは、隣接するニューロンが何をするかを予測し、予測が現実にどの程度一致するかに基づいてパラメータを調整します。
論文 参考訳(メタデータ) (2020-12-07T01:20:38Z) - Variational Bayes Neural Network: Posterior Consistency, Classification
Accuracy and Computational Challenges [0.3867363075280544]
本稿では,変分ベイズニューラルネットワーク推定手法と関連する統計理論について述べる。
この開発は、軽度の認知障害からアルツハイマー病へ移行するための予測ツールを構築する、重要なバイオメディカルエンジニアリングアプリケーションによって動機付けられている。
論文 参考訳(メタデータ) (2020-11-19T00:11:27Z) - Relaxing the Constraints on Predictive Coding Models [62.997667081978825]
予測符号化(英: Predictive coding)は、脳が行う主計算が予測誤差の最小化であるとする皮質機能の影響力のある理論である。
アルゴリズムの標準的な実装は、同じ前方と後方の重み、後方の非線形微分、1-1エラーユニット接続といった、潜在的に神経的に予測できない特徴を含んでいる。
本稿では,これらの特徴はアルゴリズムに不可欠なものではなく,Hebbianの更新ルールを用いてパラメータセットを直接あるいは学習することで,学習性能に悪影響を及ぼすことなく除去可能であることを示す。
論文 参考訳(メタデータ) (2020-10-02T15:21:37Z) - Neuro-symbolic Neurodegenerative Disease Modeling as Probabilistic
Programmed Deep Kernels [93.58854458951431]
本稿では、神経変性疾患のパーソナライズされた予測モデリングのための、確率的プログラムによる深層カーネル学習手法を提案する。
我々の分析は、ニューラルネットワークとシンボリック機械学習のアプローチのスペクトルを考慮する。
我々は、アルツハイマー病の予測問題について評価を行い、深層学習を超越した結果を得た。
論文 参考訳(メタデータ) (2020-09-16T15:16:03Z) - Predictive coding in balanced neural networks with noise, chaos and
delays [24.76770648963407]
本稿では,バランスの度合いと重み障害の度合いを関連付けることができるバランス予測符号化モデルを提案する。
我々の研究は、神経ノイズ、シナプス障害、カオス、シナプス遅延、予測ニューラルコードの忠実さとのバランスを識別するための一般的な理論的枠組みを提供し、解決する。
論文 参考訳(メタデータ) (2020-06-25T05:03:27Z) - Rationalizing Medical Relation Prediction from Corpus-level Statistics [27.5727760575915]
本稿では、人間の記憶の動作に関する既存の理論、例えばリコールと認識の理論に着想を得た、新しい解釈可能なフレームワークを提案する。
実世界の公的な臨床データセットで実験を行い、我々のフレームワークは、神経ベースラインモデルの包括的なリストに対して、競争力のある予測性能を達成するだけでなく、その予測を正当化する根拠も提示できることを示した。
論文 参考訳(メタデータ) (2020-05-02T17:39:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。