論文の概要: The generalized Hierarchical Gaussian Filter
- arxiv url: http://arxiv.org/abs/2305.10937v1
- Date: Thu, 18 May 2023 12:55:31 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-19 15:17:30.715864
- Title: The generalized Hierarchical Gaussian Filter
- Title(参考訳): 一般化階層型ガウスフィルタ
- Authors: Lilian Aline Weber, Peter Thestrup Waade, Nicolas Legrand, Anna Hedvig
M{\o}ller, Klaas Enno Stephan, Christoph Mathys
- Abstract要約: 認知神経科学において、認知と学習の生成モデルは、精神障害の概念を伝えるために用いられる。
我々は、HGFの基盤となる生成モデルの空間を、状態値間の非線形階層的結合の形式を含むように拡張する。
我々の開発は、経験的データ分析のための階層ベイズモデルの高度に柔軟な実装を可能にし、オープンソースソフトウェアとして利用可能です。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Hierarchical Bayesian models of perception and learning feature prominently
in contemporary cognitive neuroscience where, for example, they inform
computational concepts of mental disorders. This includes predictive coding and
hierarchical Gaussian filtering (HGF), which differ in the nature of
hierarchical representations. Predictive coding assumes that higher levels in a
given hierarchy influence the state (value) of lower levels. In HGF, however,
higher levels determine the rate of change at lower levels. Here, we extend the
space of generative models underlying HGF to include a form of nonlinear
hierarchical coupling between state values akin to predictive coding and
artificial neural networks in general. We derive the update equations
corresponding to this generalization of HGF and conceptualize them as
connecting a network of (belief) nodes where parent nodes either predict the
state of child nodes or their rate of change. This enables us to (1) create
modular architectures with generic computational steps in each node of the
network, and (2) disclose the hierarchical message passing implied by
generalized HGF models and to compare this to comparable schemes under
predictive coding. We find that the algorithmic architecture instantiated by
the generalized HGF is largely compatible with that of predictive coding but
extends it with some unique predictions which arise from precision and
volatility related computations. Our developments enable highly flexible
implementations of hierarchical Bayesian models for empirical data analysis and
are available as open source software.
- Abstract(参考訳): 階層的ベイズモデルによる知覚と学習は、現代の認知神経科学において顕著に特徴付けられる。
これには、階層的表現の性質が異なる予測符号化と階層的ガウスフィルタリング(HGF)が含まれる。
予測符号化は、与えられた階層内の上位レベルが下位レベルの状態(値)に影響すると仮定する。
しかし、HGFでは、より高いレベルが低いレベルでの変化率を決定する。
本稿では,hgfを基盤とする生成モデルの空間を拡張し,予測符号化と一般のニューラルネットワークに類似した状態値間の非線形階層結合の形式を含む。
我々は、HGFのこの一般化に対応する更新方程式を導出し、親ノードが子ノードの状態や変化率を予測する(信じる)ノードのネットワークを接続するものとして概念化する。
これにより、(1)ネットワークの各ノードに汎用的な計算ステップを持つモジュラーアーキテクチャを作成し、(2)一般化されたHGFモデルによって示唆される階層的メッセージパッシングを開示し、これを予測符号化の下で同等のスキームと比較することができる。
一般化されたHGFによってインスタンス化されるアルゴリズムアーキテクチャは、予測符号化とほとんど互換性があるが、精度とボラティリティに関する計算から生じるいくつかのユニークな予測によって拡張されている。
我々の開発は、経験的データ分析のための階層ベイズモデルの高度に柔軟な実装を可能にし、オープンソースソフトウェアとして利用可能です。
関連論文リスト
- Graph as a feature: improving node classification with non-neural graph-aware logistic regression [2.952177779219163]
Graph-aware Logistic Regression (GLR) はノード分類タスク用に設計された非神経モデルである。
GNNにアクセスできる情報のごく一部しか使わない従来のグラフアルゴリズムとは異なり、提案モデルではノードの特徴とエンティティ間の関係を同時に活用する。
論文 参考訳(メタデータ) (2024-11-19T08:32:14Z) - Discovering Message Passing Hierarchies for Mesh-Based Physics Simulation [61.89682310797067]
DHMPを導入し,異なるノード選択手法を用いてメッセージパッシングネットワークの動的階層を学習する。
本実験はDHMPの有効性を実証し,近年の固定階層型メッセージパッシングネットワークと比較して平均22.7%改善した。
論文 参考訳(メタデータ) (2024-10-03T15:18:00Z) - A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。
我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。
GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
論文 参考訳(メタデータ) (2024-06-19T22:30:08Z) - What Improves the Generalization of Graph Transformers? A Theoretical Dive into the Self-attention and Positional Encoding [67.59552859593985]
自己アテンションと位置エンコーディングを組み込んだグラフトランスフォーマーは、さまざまなグラフ学習タスクのための強力なアーキテクチャとして登場した。
本稿では,半教師付き分類のための浅いグラフ変換器の理論的検討について紹介する。
論文 参考訳(メタデータ) (2024-06-04T05:30:16Z) - DeepHGNN: Study of Graph Neural Network based Forecasting Methods for Hierarchically Related Multivariate Time Series [5.029860184826624]
本稿では,複雑な階層構造における予測を目的とした新しい階層型GNN(DeepHGNN)フレームワークを提案する。
DeepHGNNは、様々な階層レベルの予測精度とコヒーレンスを保証し、それらをまたいだ信号を共有する。
複数の最先端モデルに対する包括的評価セットにより,DeepHGNNの優れた性能が確認された。
論文 参考訳(メタデータ) (2024-05-29T02:06:17Z) - Predicting Transonic Flowfields in Non-Homogeneous Unstructured Grids Using Autoencoder Graph Convolutional Networks [0.0]
本稿では,計算流体力学(CFD)においてよく用いられる非均一非構造格子による問題に対処することに焦点を当てる。
我々のアプローチの核となるのは幾何学的深層学習、特にグラフ畳み込みネットワーク(GCN)の利用である。
新規なAutoencoder GCNアーキテクチャは、情報を遠隔ノードに伝播し、影響力のある点を強調することにより、予測精度を向上させる。
論文 参考訳(メタデータ) (2024-05-07T15:18:21Z) - Differentiable Generalised Predictive Coding [2.868176771215219]
本稿では,脳の機能を内部生成モデルの階層的洗練とみなすニューラルプロセス理論と相反する,微分可能な力学モデルについて述べる。
我々の研究は、勾配に基づく予測符号化の既存の実装を拡張し、非線形状態パラメータ化のためのディープニューラルネットワークを統合することができる。
論文 参考訳(メタデータ) (2021-12-02T22:02:56Z) - Hierarchical Message-Passing Graph Neural Networks [12.207978823927386]
本稿では,新しい階層型メッセージパッシンググラフニューラルネットワークフレームワークを提案する。
鍵となるアイデアは、フラットグラフ内のすべてのノードをマルチレベルなスーパーグラフに再編成する階層構造を生成することである。
階層型コミュニティ対応グラフニューラルネットワーク(HC-GNN)と呼ばれる,このフレームワークを実装した最初のモデルを提案する。
論文 参考訳(メタデータ) (2020-09-08T13:11:07Z) - Dual-constrained Deep Semi-Supervised Coupled Factorization Network with
Enriched Prior [80.5637175255349]
本稿では、DS2CF-Netと呼ばれる、拡張された事前制約付きDual-Constrained Deep Semi-Supervised Coupled Factorization Networkを提案する。
隠れた深い特徴を抽出するために、DS2CF-Netは、深い構造と幾何学的な構造に制約のあるニューラルネットワークとしてモデル化される。
我々のネットワークは、表現学習とクラスタリングのための最先端の性能を得ることができる。
論文 参考訳(メタデータ) (2020-09-08T13:10:21Z) - Dynamic Hierarchical Mimicking Towards Consistent Optimization
Objectives [73.15276998621582]
一般化能力を高めたCNN訓練を推進するための汎用的特徴学習機構を提案する。
DSNに部分的にインスパイアされた私たちは、ニューラルネットワークの中間層から微妙に設計されたサイドブランチをフォークしました。
カテゴリ認識タスクとインスタンス認識タスクの両方の実験により,提案手法の大幅な改善が示された。
論文 参考訳(メタデータ) (2020-03-24T09:56:13Z) - Embedding Graph Auto-Encoder for Graph Clustering [90.8576971748142]
グラフ自動エンコーダ(GAE)モデルは、半教師付きグラフ畳み込みネットワーク(GCN)に基づく
我々は、グラフクラスタリングのための特定のGAEベースのモデルを設計し、その理論、すなわち、埋め込みグラフオートエンコーダ(EGAE)と整合する。
EGAEは1つのエンコーダと2つのデコーダで構成される。
論文 参考訳(メタデータ) (2020-02-20T09:53:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。