論文の概要: Predictive Learning in Energy-based Models with Attractor Structures

• arxiv url: http://arxiv.org/abs/2501.13997v1
• Date: Thu, 23 Jan 2025 11:04:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-27 14:57:59.061708
• Title: Predictive Learning in Energy-based Models with Attractor Structures
• Title（参考訳）: トラクタ構造を持つエネルギーモデルにおける予測学習
• Authors: Xingsi Dong, Pengxiang Yuan, Si Wu,
• Abstract要約: 本稿では、エネルギーベースモデル(EBM)を用いて、ニューラルシステム内の動作後の観測を予測するための微妙なプロセスをキャプチャするフレームワークを提案する。 実験による評価では,様々なシナリオにまたがって有効性を示す。
• 参考スコア（独自算出の注目度）: 5.542697199599134
• License:
• Abstract: Predictive models are highly advanced in understanding the mechanisms of brain function. Recent advances in machine learning further underscore the power of prediction for optimal representation in learning. However, there remains a gap in creating a biologically plausible model that explains how the neural system achieves prediction. In this paper, we introduce a framework that employs an energy-based model (EBM) to capture the nuanced processes of predicting observation after action within the neural system, encompassing prediction, learning, and inference. We implement the EBM with a hierarchical structure and integrate a continuous attractor neural network for memory, constructing a biologically plausible model. In experimental evaluations, our model demonstrates efficacy across diverse scenarios. The range of actions includes eye movement, motion in environments, head turning, and static observation while the environment changes. Our model not only makes accurate predictions for environments it was trained on, but also provides reasonable predictions for unseen environments, matching the performances of machine learning methods in multiple tasks. We hope that this study contributes to a deep understanding of how the neural system performs prediction.
• Abstract（参考訳）: 予測モデルは脳機能のメカニズムを理解する上で非常に進歩している。 機械学習の最近の進歩は、学習における最適な表現のための予測の力をさらに強調している。 しかし、神経システムが予測をどのように達成するかを説明する生物学的に妥当なモデルを作成するには、まだギャップがある。 本稿では、エネルギーモデル(EBM)を用いて、ニューラルネットワーク内での動作後の観測を予測し、予測、学習、推論を含むニュアンスな過程をキャプチャするフレームワークを提案する。 EBMを階層構造で実装し、生物学的に妥当なモデルを構築しながら、連続的なアトラクタニューラルネットワークをメモリに組み込む。 実験による評価では,様々なシナリオにまたがって有効性を示す。 行動範囲には、視線の動き、環境内の動き、頭部の回転、環境の変化に伴う静的な観察が含まれる。 私たちのモデルは、トレーニングされた環境の正確な予測を行うだけでなく、見えない環境の適切な予測も提供し、機械学習メソッドのパフォーマンスを複数のタスクで一致させます。 この研究が、神経系がどのように予測を行うかの深い理解に寄与することを願っています。

関連論文リスト

• Scientific machine learning in ecological systems: A study on the predator-prey dynamics [1.4633779950109127]
  我々は、学習データやニューラルネットワークにのみ依存して、システムの事前の知識なしに、基礎となる微分方程式を明らかにすることを目指している。 本稿では,LotkaVolterraシステムの予測と予測に,Neural ODEとUDEの両方を効果的に活用できることを実証する。 基礎となるダイナミクスを効果的に回復し、トレーニングデータを大幅に減らして正確な予測を行うことで、UDEがニューラルODEより優れているかを観察した。
  論文  参考訳（メタデータ） (2024-11-11T10:40:45Z)
• BLEND: Behavior-guided Neural Population Dynamics Modeling via Privileged Knowledge Distillation [6.3559178227943764]
  本稿では,特権的知識蒸留による行動誘導型ニューラル人口動態モデリングフレームワークBLENDを提案する。 特権情報として行動を考えることにより、行動観察(私的特徴)と神経活動(正規特徴)の両方を入力として扱う教師モデルを訓練する。 学生モデルは神経活動のみを用いて蒸留される。
  論文  参考訳（メタデータ） (2024-10-02T12:45:59Z)
• CogDPM: Diffusion Probabilistic Models via Cognitive Predictive Coding [62.075029712357]
  本研究は認知拡散確率モデル(CogDPM)を紹介する。 CogDPMは拡散モデルの階層的サンプリング能力に基づく精度推定法と拡散モデル固有の性質から推定される精度重み付きガイダンスを備える。 我々は,Universal Kindomの降水量と表面風速データセットを用いた実世界の予測タスクにCogDPMを適用した。
  論文  参考訳（メタデータ） (2024-05-03T15:54:50Z)
• Neural Foundations of Mental Simulation: Future Prediction of Latent Representations on Dynamic Scenes [3.2744507958793143]
  我々は、目標駆動型モデリングアプローチと高密度神経生理学的データと人間の行動的読み出しを組み合わせることで、この問題を阻害する。 具体的には,豊かで倫理的に関連のある環境の将来の状態を予測するために,知覚認知ネットワークのいくつかのクラスを構築し,評価する。 これらのモデルクラス間での強い差別化は、さまざまな環境内と環境内の両方で、神経的および行動的データを予測できる能力である。
  論文  参考訳（メタデータ） (2023-05-19T15:56:06Z)
• Learning Theory of Mind via Dynamic Traits Attribution [59.9781556714202]
  本稿では,過去のトラジェクトリからアクターの潜在特性ベクトルを生成するニューラルToMアーキテクチャを提案する。 この特性ベクトルは、予測ニューラルネットワークの高速重み付けスキームを介して予測機構を乗法的に変調する。 実験により,高速重量はエージェントの特性をモデル化し,マインドリーディング能力を向上させるために優れた誘導バイアスを与えることが示された。
  論文  参考訳（メタデータ） (2022-04-17T11:21:18Z)
• EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
  本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。 メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
  論文  参考訳（メタデータ） (2022-02-21T18:59:03Z)
• Convolutional Motif Kernel Networks [1.104960878651584]
  我々のモデルは、小さなデータセットでしっかりと学習でき、関連する医療予測タスクで最先端のパフォーマンスを達成できることを示す。 提案手法はDNAおよびタンパク質配列に利用することができる。
  論文  参考訳（メタデータ） (2021-11-03T15:06:09Z)
• The Neural Coding Framework for Learning Generative Models [91.0357317238509]
  本稿では,脳の予測処理理論に触発された新しい神経生成モデルを提案する。 同様に、私たちの生成モデルにおける人工ニューロンは、隣接するニューロンが何をするかを予測し、予測が現実にどの程度一致するかに基づいてパラメータを調整します。
  論文  参考訳（メタデータ） (2020-12-07T01:20:38Z)
• Learning to Abstract and Predict Human Actions [60.85905430007731]
  ビデオにおける人間の活動の階層構造をモデル化し,行動予測におけるそのような構造の効果を実証する。 イベントの部分的階層を観察し、その構造を複数の抽象化レベルで将来の予測にロールアウトすることで、人間の活動の構造を学習できる階層型ニューラルネットワークであるHierarchical-Refresher-Anticipatorを提案する。
  論文  参考訳（メタデータ） (2020-08-20T23:57:58Z)
• The large learning rate phase of deep learning: the catapult mechanism [50.23041928811575]
  問題解決可能なトレーニングダイナミクスを備えたニューラルネットワークのクラスを提示する。 現実的なディープラーニング環境において,モデルの予測とトレーニングのダイナミクスとの間には,よい一致がある。 我々の結果は、異なる学習率でトレーニングされたモデルの特性に光を当てたと信じています。
  論文  参考訳（メタデータ） (2020-03-04T17:52:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。