論文の概要: Latent Event-Predictive Encodings through Counterfactual Regularization
- arxiv url: http://arxiv.org/abs/2105.05894v1
- Date: Wed, 12 May 2021 18:30:09 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-14 13:54:15.669889
- Title: Latent Event-Predictive Encodings through Counterfactual Regularization
- Title(参考訳): 反事実正規化による潜在事象予測エンコーディング
- Authors: Dania Humaidan, Sebastian Otte, Christian Gumbsch, Charley Wu, Martin
V. Butz
- Abstract要約: 本稿では,新しい正則化方式を用いたSUGAR(Surprise-GAted Recurrent Neural Network)を提案する。
隠れたグラフ構造を交互に並べてシーケンスを生成する階層的シーケンス予測タスクでモデルをテストします。
- 参考スコア(独自算出の注目度): 0.9449650062296823
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A critical challenge for any intelligent system is to infer structure from
continuous data streams. Theories of event-predictive cognition suggest that
the brain segments sensorimotor information into compact event encodings, which
are used to anticipate and interpret environmental dynamics. Here, we introduce
a SUrprise-GAted Recurrent neural network (SUGAR) using a novel form of
counterfactual regularization. We test the model on a hierarchical sequence
prediction task, where sequences are generated by alternating hidden graph
structures. Our model learns to both compress the temporal dynamics of the task
into latent event-predictive encodings and anticipate event transitions at the
right moments, given noisy hidden signals about them. The addition of the
counterfactual regularization term ensures fluid transitions from one latent
code to the next, whereby the resulting latent codes exhibit compositional
properties. The implemented mechanisms offer a host of useful applications in
other domains, including hierarchical reasoning, planning, and decision making.
- Abstract(参考訳): インテリジェントシステムにとって重要な課題は、継続的データストリームから構造を推論することだ。
事象予測認知の理論は、脳が感覚運動情報をコンパクトなイベントエンコーディングにセグメントし、環境力学を予測し解釈するために使用されることを示唆している。
本稿では,新しい正則化方式を用いたSUGAR(Surprise-GAted Recurrent Neural Network)を提案する。
階層的シーケンス予測タスクでモデルをテストし,隠れグラフ構造を交互に生成する。
我々のモデルは、タスクの時間的ダイナミクスを潜在事象予測エンコーディングに圧縮し、ノイズのある隠れ信号が与えられた瞬間にイベント遷移を予測することを学習する。
反事実正規化項の追加により、1つの潜在コードから次のコードへの流体遷移が保証され、結果として生じる潜在コードは合成特性を示す。
実装されたメカニズムは、階層的推論、計画、意思決定など、他のドメインで有用なアプリケーション群を提供する。
関連論文リスト
- Trajectory Forecasting through Low-Rank Adaptation of Discrete Latent Codes [36.12653178844828]
トラジェクトリ予測は、一連のエージェントの将来の動きを予測できるため、ビデオ監視分析に不可欠である。
本稿では,離散潜在空間を用いたベクトル量子変分オートエンコーダ(VQ-VAEs)を導入し,後方崩壊問題に対処する。
このような2段階のフレームワークは、インスタンスレベルの離散化によって強化され、正確で多様な予測につながることを示す。
論文 参考訳(メタデータ) (2024-05-31T10:13:17Z) - Uncovering the Missing Pattern: Unified Framework Towards Trajectory
Imputation and Prediction [60.60223171143206]
軌道予測は、観測されたシーケンスから実体運動や人間の行動を理解する上で重要な作業である。
現在の方法では、観測されたシーケンスが完了したと仮定し、欠落した値の可能性を無視する。
本稿では,グラフに基づく条件変動リカレントニューラルネットワーク (GC-VRNN) の統一フレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-28T14:27:27Z) - Developing hierarchical anticipations via neural network-based event
segmentation [14.059479351946386]
我々は、自律的に学習された潜在イベントコードによる階層的予測の開発をモデル化する。
本稿では,学習バイアスが緩やかに変化する潜在状態の発達を促進する階層的再帰型ニューラルネットワークアーキテクチャを提案する。
より高いレベルのネットワークは、潜伏状態が変化しがちな状況を予測することを学ぶ。
論文 参考訳(メタデータ) (2022-06-04T18:54:31Z) - Hybrid Predictive Coding: Inferring, Fast and Slow [62.997667081978825]
本稿では,反復型と償却型の両方を原則的に組み合わせたハイブリッド予測符号化ネットワークを提案する。
我々は,本モデルが本質的に不確実性に敏感であり,最小計算費用を用いて正確な信念を得るためにバランスを適応的にバランスさせることを実証した。
論文 参考訳(メタデータ) (2022-04-05T12:52:45Z) - Differentiable Generalised Predictive Coding [2.868176771215219]
本稿では,脳の機能を内部生成モデルの階層的洗練とみなすニューラルプロセス理論と相反する,微分可能な力学モデルについて述べる。
我々の研究は、勾配に基づく予測符号化の既存の実装を拡張し、非線形状態パラメータ化のためのディープニューラルネットワークを統合することができる。
論文 参考訳(メタデータ) (2021-12-02T22:02:56Z) - DeepExpress: Heterogeneous and Coupled Sequence Modeling for Express
Delivery Prediction [41.49535437719119]
消費者の配送要求を正確に見積もるには、ショッピング行動、天気状況、イベント、ビジネスキャンペーン、そしてそれらの結合といったシーケンシャルな要因が伴わなければならない。
DeepExpressは、シークエンスと機能の間の複雑な結合を学ぶために、古典的なSeq2seqフレームワークを拡張したディープラーニングベースの表現配信シーケンス予測モデルである。
論文 参考訳(メタデータ) (2021-08-18T14:24:19Z) - CCVS: Context-aware Controllable Video Synthesis [95.22008742695772]
プレゼンテーションでは、古いビデオクリップから新しいビデオクリップを合成するための自己教師付き学習アプローチを紹介している。
時間的連続性のための文脈情報と微妙な制御のための補助情報に基づいて合成過程を規定する。
論文 参考訳(メタデータ) (2021-07-16T17:57:44Z) - Temporal Predictive Coding For Model-Based Planning In Latent Space [80.99554006174093]
時間的に予測可能な環境要素を符号化するために,時間的予測符号化を用いた情報理論的手法を提案する。
本稿では,DMControl タスクの背景を複雑な情報を含む自然なビデオに置き換える,標準的な DMControl タスクの挑戦的な修正について評価する。
論文 参考訳(メタデータ) (2021-06-14T04:31:15Z) - PredRNN: A Recurrent Neural Network for Spatiotemporal Predictive
Learning [109.84770951839289]
歴史的文脈からビジュアルダイナミクスを学習するための新しいリカレントネットワークであるPredRNNを紹介する。
本手法は,3つの標準データセット上で高い競争結果が得られることを示す。
論文 参考訳(メタデータ) (2021-03-17T08:28:30Z) - Representation Learning for Sequence Data with Deep Autoencoding
Predictive Components [96.42805872177067]
本稿では,シーケンスデータの有用な表現が潜在空間における単純な構造を示すべきという直感に基づく,シーケンスデータの自己教師型表現学習法を提案する。
我々は,過去と将来のウィンドウ間の相互情報である潜在特徴系列の予測情報を最大化することにより,この潜時構造を奨励する。
提案手法は,ノイズの多い動的システムの潜時空間を復元し,タスク予測のための予測特徴を抽出し,エンコーダを大量の未ラベルデータで事前訓練する場合に音声認識を改善する。
論文 参考訳(メタデータ) (2020-10-07T03:34:01Z) - Fostering Event Compression using Gated Surprise [0.5801044612920815]
生成的イベント予測モデルは、知覚モチーフデータをコンテキスト体験のチャンクに分割することによって形成される。
ここでは、このプロセスをモデル化した階層的、驚きに満ちたリカレントニューラルネットワークアーキテクチャを紹介する。
本モデルは,複数のイベント処理タスクにおいて,異なるイベント圧縮を開発することを示し,最高の性能を実現する。
論文 参考訳(メタデータ) (2020-05-12T11:57:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。