論文の概要: Developing hierarchical anticipations via neural network-based event segmentation

• arxiv url: http://arxiv.org/abs/2206.02042v1
• Date: Sat, 4 Jun 2022 18:54:31 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-07 14:01:00.732331
• Title: Developing hierarchical anticipations via neural network-based event segmentation
• Title（参考訳）: ニューラルネットワークに基づくイベントセグメンテーションによる階層的予測の開発
• Authors: Christian Gumbsch, Maurits Adam, Birgit Elsner, Georg Martius, Martin V.Butz
• Abstract要約: 我々は、自律的に学習された潜在イベントコードによる階層的予測の開発をモデル化する。 本稿では,学習バイアスが緩やかに変化する潜在状態の発達を促進する階層的再帰型ニューラルネットワークアーキテクチャを提案する。 より高いレベルのネットワークは、潜伏状態が変化しがちな状況を予測することを学ぶ。
• 参考スコア（独自算出の注目度）: 14.059479351946386
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Humans can make predictions on various time scales and hierarchical levels. Thereby, the learning of event encodings seems to play a crucial role. In this work we model the development of hierarchical predictions via autonomously learned latent event codes. We present a hierarchical recurrent neural network architecture, whose inductive learning biases foster the development of sparsely changing latent state that compress sensorimotor sequences. A higher level network learns to predict the situations in which the latent states tend to change. Using a simulated robotic manipulator, we demonstrate that the system (i) learns latent states that accurately reflect the event structure of the data, (ii) develops meaningful temporal abstract predictions on the higher level, and (iii) generates goal-anticipatory behavior similar to gaze behavior found in eye-tracking studies with infants. The architecture offers a step towards autonomous, self-motivated learning of compressed hierarchical encodings of gathered experiences and the exploitation of these encodings for the generation of highly versatile, adaptive behavior.
• Abstract（参考訳）: 人間は様々な時間スケールと階層レベルで予測できる。 これにより、イベントエンコーディングの学習が重要な役割を果たすように思われる。 本研究では,自律的に学習した潜在イベントコードによる階層的予測の開発をモデル化する。 本稿では,ニューラルネットワークの階層的再帰的アーキテクチャについて述べる。その階層的学習バイアスは,センサモジュレータシーケンスを圧縮する潜伏状態の疎化を促進させる。 より高いレベルのネットワークは、潜伏状態が変化する傾向がある状況を予測することを学ぶ。 シミュレーションされたロボットマニピュレータを使って (i)データのイベント構造を正確に反映する潜在状態を学習する。 (ii)より高いレベルで有意義な時間的抽象的予測を発達させ、 (iii)乳児の視線追跡研究に見られる視線行動と同様の目標予測行動を生成する。 このアーキテクチャは、収集された経験の圧縮階層的エンコーディングの自律的で自己動機的な学習と、これらのエンコーディングを高度に多目的で適応的な振る舞いを生み出すために活用するためのステップを提供する。

関連論文リスト

• Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
  この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。 我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
  論文  参考訳（メタデータ） (2023-03-30T02:40:28Z)
• A developmental approach for training deep belief networks [0.46699574490885926]
  ディープ信念ネットワーク(Deep belief Network、DBN)は、知覚データから環境の豊かな内部表現を抽出できるニューラルネットワークである。 階層のすべての層にまたがる接続重みを共同で更新できるDBNの反復学習アルゴリズムiDBNを提案する。 我々の研究は、神経認知発達のモデリングにiDBNを使うことへの道を開いた。
  論文  参考訳（メタデータ） (2022-07-12T11:37:58Z)
• Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
  識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。 データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
  論文  参考訳（メタデータ） (2022-02-01T17:11:13Z)
• Differentiable Generalised Predictive Coding [2.868176771215219]
  本稿では,脳の機能を内部生成モデルの階層的洗練とみなすニューラルプロセス理論と相反する,微分可能な力学モデルについて述べる。 我々の研究は、勾配に基づく予測符号化の既存の実装を拡張し、非線形状態パラメータ化のためのディープニューラルネットワークを統合することができる。
  論文  参考訳（メタデータ） (2021-12-02T22:02:56Z)
• Backprop-Free Reinforcement Learning with Active Neural Generative Coding [84.11376568625353]
  動的環境におけるエラー(バックプロップ)のバックプロパゲーションを伴わない行動駆動型生成モデルの学習のための計算フレームワークを提案する。 我々は、まばらな報酬でも機能するインテリジェントエージェントを開発し、推論として計画の認知理論からインスピレーションを得ている。 我々のエージェントの堅牢な性能は、神経推論と学習のためのバックプロップフリーアプローチがゴール指向の行動を促進するという有望な証拠を提供する。
  論文  参考訳（メタデータ） (2021-07-10T19:02:27Z)
• Towards a Predictive Processing Implementation of the Common Model of Cognition [79.63867412771461]
  本稿では,ニューラル生成符号化とホログラフィック連想記憶に基づく認知モデルの実装について述べる。 提案システムは,多様なタスクから継続的に学習し,大規模に人的パフォーマンスをモデル化するエージェントを開発するための基盤となる。
  論文  参考訳（メタデータ） (2021-05-15T22:55:23Z)
• Latent Event-Predictive Encodings through Counterfactual Regularization [0.9449650062296823]
  本稿では,新しい正則化方式を用いたSUGAR(Surprise-GAted Recurrent Neural Network)を提案する。 隠れたグラフ構造を交互に並べてシーケンスを生成する階層的シーケンス予測タスクでモデルをテストします。
  論文  参考訳（メタデータ） (2021-05-12T18:30:09Z)
• Learning to Abstract and Predict Human Actions [60.85905430007731]
  ビデオにおける人間の活動の階層構造をモデル化し,行動予測におけるそのような構造の効果を実証する。 イベントの部分的階層を観察し、その構造を複数の抽象化レベルで将来の予測にロールアウトすることで、人間の活動の構造を学習できる階層型ニューラルネットワークであるHierarchical-Refresher-Anticipatorを提案する。
  論文  参考訳（メタデータ） (2020-08-20T23:57:58Z)
• Self-organization of multi-layer spiking neural networks [4.859525864236446]
  発達する脳における複雑な構造の形成を可能にする重要なメカニズムは、神経活動の経時的波の出現である。 多層ニューラルネットワークをシームレスに積み重ねることのできる動的システムの形でモジュール式ツールキットを提案する。 我々のフレームワークは、多層パーセプトロンからオートエンコーダまで、幅広いアーキテクチャの自己組織化に繋がる。
  論文  参考訳（メタデータ） (2020-06-12T01:44:48Z)
• Towards a Neural Model for Serial Order in Frontal Cortex: a Brain Theory from Memory Development to Higher-Level Cognition [53.816853325427424]
  そこで本研究では,未熟な前頭前野 (PFC) が側頭葉信号の階層的パターンを検出する主要な機能を利用していることを提案する。 我々の仮説では、PFCは順序パターンの形で時間的配列の階層構造を検出し、それらを脳の異なる部分で階層的に情報をインデックスするために利用する。 これにより、抽象的な知識を操作し、時間的に順序付けられた情報を計画するための言語対応の脳にツールを提供する。
  論文  参考訳（メタデータ） (2020-05-22T14:29:51Z)
• Fostering Event Compression using Gated Surprise [0.5801044612920815]
  生成的イベント予測モデルは、知覚モチーフデータをコンテキスト体験のチャンクに分割することによって形成される。 ここでは、このプロセスをモデル化した階層的、驚きに満ちたリカレントニューラルネットワークアーキテクチャを紹介する。 本モデルは,複数のイベント処理タスクにおいて,異なるイベント圧縮を開発することを示し,最高の性能を実現する。
  論文  参考訳（メタデータ） (2020-05-12T11:57:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。