論文の概要: Iterative VAE as a predictive brain model for out-of-distribution generalization

• arxiv url: http://arxiv.org/abs/2012.00557v1
• Date: Tue, 1 Dec 2020 15:02:38 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-30 20:06:29.866580
• Title: Iterative VAE as a predictive brain model for out-of-distribution generalization
• Title（参考訳）: 分布一般化のための予測脳モデルとしての反復的vae
• Authors: Victor Boutin, Aimen Zerroug, Minju Jung, Thomas Serre
• Abstract要約: iVAEs は PCNs と VAEs のどちらよりも分布シフトに優れていた。 本研究では,人間の心理物理学的データに対して検査可能な個人サンプルの認識可能性の新しい尺度を提案する。
• 参考スコア（独自算出の注目度）: 7.006301658267125
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Our ability to generalize beyond training data to novel, out-of-distribution, image degradations is a hallmark of primate vision. The predictive brain, exemplified by predictive coding networks (PCNs), has become a prominent neuroscience theory of neural computation. Motivated by the recent successes of variational autoencoders (VAEs) in machine learning, we rigorously derive a correspondence between PCNs and VAEs. This motivates us to consider iterative extensions of VAEs (iVAEs) as plausible variational extensions of the PCNs. We further demonstrate that iVAEs generalize to distributional shifts significantly better than both PCNs and VAEs. In addition, we propose a novel measure of recognizability for individual samples which can be tested against human psychophysical data. Overall, we hope this work will spur interest in iVAEs as a promising new direction for modeling in neuroscience.
• Abstract（参考訳）: トレーニングデータを超えて、新たな分散的画像分解に一般化する能力は、霊長類のビジョンの目印です。 予測脳は、予測符号化ネットワーク(PCN)によって実証され、神経計算の顕著な神経科学理論となっている。 近年の機械学習における変分オートエンコーダ(VAE)の成功に触発されて,PCNとVAEの対応関係を厳格に導き出した。 これはvaes (ivaes) の反復拡張を pcn の可算な変分拡張として考える動機付けである。 さらに,iVAEsは,PCNやVAEよりも分布シフトに優れることを示した。 また,人間の心理物理学的データに対して検査できる個別サンプルの認識可能性の新たな尺度を提案する。 全体として、この研究が神経科学のモデリングの新しい方向性としてiVAEへの関心を喚起することを願っている。

関連論文リスト

• A prescriptive theory for brain-like inference [0.0]
  Evidence Lower Bound (ELBO) の最大化はベイズ後部推論を行うスパイクニューラルネットワークに繋がることを示す。 結果のモデルである反復型Poisson VAEは、以前の脳にインスパイアされた予測モデルよりも生物学的ニューロンと密接な関係を持つ。 これらの結果は,ELBOの最適化とPoissonの仮定が相まって,NeuroAIにおける規範的理論の確立の基盤となることを示唆している。
  論文  参考訳（メタデータ） (2024-10-25T06:00:18Z)
• Predictive Coding Networks and Inference Learning: Tutorial and Survey [0.7510165488300368]
  予測符号化ネットワーク(PCN)は、予測符号化の神経科学的な枠組みに基づいている。 バックプロパゲーション(BP)で訓練された従来のニューラルネットワークとは異なり、PCNは推論学習(IL)を利用する。 本質的に確率的(グラフィック的)潜在変数モデルとして、PCNは教師付き学習と教師なし(生成的)モデリングの両方に汎用的なフレームワークを提供する。
  論文  参考訳（メタデータ） (2024-07-04T18:39:20Z)
• Poisson Variational Autoencoder [0.0]
  変分オートエンコーダ(VAE)はベイズ推定を用いて感覚入力を解釈する。 本稿では,予測符号化の原理と,インプットを離散スパイク数にエンコードするVAEを組み合わせた新しいアーキテクチャを開発する。 我々の研究は、脳のような感覚処理を研究するための解釈可能な計算フレームワークを提供する。
  論文  参考訳（メタデータ） (2024-05-23T12:02:54Z)
• Neuroformer: Multimodal and Multitask Generative Pretraining for Brain Data [3.46029409929709]
  最先端のシステム神経科学実験は大規模なマルチモーダルデータを生み出し、これらのデータセットは分析のための新しいツールを必要とする。 視覚領域と言語領域における大きな事前学習モデルの成功に触発されて、我々は大規模な細胞分解性神経スパイクデータの解析を自己回帰生成問題に再構成した。 我々はまず、シミュレーションデータセットでNeuroformerを訓練し、本質的なシミュレートされた神経回路の動作を正確に予測し、方向を含む基盤となる神経回路の接続性を推定した。
  論文  参考訳（メタデータ） (2023-10-31T20:17:32Z)
• Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
  ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。 我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。 我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
  論文  参考訳（メタデータ） (2023-10-02T03:25:32Z)
• Transferability of coVariance Neural Networks and Application to Interpretable Brain Age Prediction using Anatomical Features [119.45320143101381]
  グラフ畳み込みネットワーク(GCN)は、トポロジー駆動のグラフ畳み込み演算を利用して、推論タスクのためにグラフをまたいだ情報を結合する。 我々は、共分散行列をグラフとして、共分散ニューラルネットワーク(VNN)の形でGCNを研究した。 VNNは、GCNからスケールフリーなデータ処理アーキテクチャを継承し、ここでは、共分散行列が極限オブジェクトに収束するデータセットに対して、VNNが性能の転送可能性を示すことを示す。
  論文  参考訳（メタデータ） (2023-05-02T22:15:54Z)
• EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
  本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。 メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
  論文  参考訳（メタデータ） (2022-02-21T18:59:03Z)
• The Neural Coding Framework for Learning Generative Models [91.0357317238509]
  本稿では,脳の予測処理理論に触発された新しい神経生成モデルを提案する。 同様に、私たちの生成モデルにおける人工ニューロンは、隣接するニューロンが何をするかを予測し、予測が現実にどの程度一致するかに基づいてパラメータを調整します。
  論文  参考訳（メタデータ） (2020-12-07T01:20:38Z)
• Learning identifiable and interpretable latent models of high-dimensional neural activity using pi-VAE [10.529943544385585]
  本稿では,潜在モデルと従来のニューラルエンコーディングモデルから重要な要素を統合する手法を提案する。 我々の手法であるpi-VAEは、同定可能な変分自動エンコーダの最近の進歩にインスパイアされている。 人工データを用いてpi-VAEを検証し,それをラット海馬およびマカク運動野の神経生理学的データセットの解析に応用した。
  論文  参考訳（メタデータ） (2020-11-09T22:00:38Z)
• Neuro-symbolic Neurodegenerative Disease Modeling as Probabilistic Programmed Deep Kernels [93.58854458951431]
  本稿では、神経変性疾患のパーソナライズされた予測モデリングのための、確率的プログラムによる深層カーネル学習手法を提案する。 我々の分析は、ニューラルネットワークとシンボリック機械学習のアプローチのスペクトルを考慮する。 我々は、アルツハイマー病の予測問題について評価を行い、深層学習を超越した結果を得た。
  論文  参考訳（メタデータ） (2020-09-16T15:16:03Z)
• Rethinking Generalization of Neural Models: A Named Entity Recognition Case Study [81.11161697133095]
  NERタスクをテストベッドとして、異なる視点から既存モデルの一般化挙動を分析する。 詳細な分析による実験は、既存のニューラルNERモデルのボトルネックを診断する。 本論文の副産物として,最近のNER論文の包括的要約を含むプロジェクトをオープンソース化した。
  論文  参考訳（メタデータ） (2020-01-12T04:33:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。