論文の概要: Columnar-Embedder: A Biologically Inspired Cortical Architecture for Binary Sparse Distributed Graph Representations
- arxiv url: http://arxiv.org/abs/2608.20408v1
- Date: Wed, 12 Aug 2026 03:31:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-31 05:49:59.221772
- Title: Columnar-Embedder: A Biologically Inspired Cortical Architecture for Binary Sparse Distributed Graph Representations
- Title(参考訳): Columnar-Embedder: バイナリスパース分散グラフ表現のための生物学的にインスパイアされた皮質アーキテクチャ
- Abstract要約: グラフノードのスパース分散表現を学習するためのカラムナー・エンベッドダーアーキテクチャを提案する。
このアーキテクチャは、ポータビリティ、ノイズに対するレジリエンス、データの破損に対する堅牢性を示す。
5つのグラフベンチマークにおいて、SDRの性能は実数値密度埋め込みと競合する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Finding a representative description of graph entities that captures their structural roles and homophily is a challenging goal for graph embedding techniques due to the non-Euclidean nature of graphs. Traditionally, Graph embeddings achieve top performance via random-walk methods and graph neural networks. However, these methods are transductive and utilize an expensive global optimization via softmax or a dense representation trained in an end-to-end pipeline with gradient descent. Nonetheless, other variants of GNNs can map to unseen nodes; they still rely on iterative message passing and backpropagation, incurring high computational and memory costs. Conversely, the mammalian cortex solves structurally similar problems by learning to map its input stream of patterns into a compact representation for downstream regions. We present the biologically inspired Columnar-Embedder architecture for learning binary Sparse Distributed Representations (SDRs) of graph nodes. The learning is driven by a local Bienenstock-Cooper-Munro (BCM) Hebbian rule modulated by positive pointwise mutual information (PPMI) computed from online streams of random walks. Continuous learning from streaming random-walk pairs without labels, backpropagation, or supervision enables the architecture to exhibit natural resistance to catastrophic forgetting. Across five graph benchmarks, the performance of SDRs is competitive with that of real-valued dense embeddings on node classification and link prediction, while the architecture exhibits portability, resilience to noise, and robustness to data corruption.
- Abstract(参考訳): グラフの構造的役割とホモフィリーを捉えるグラフエンティティの代表的な記述を見つけることは、グラフの非ユークリッド的な性質のため、グラフ埋め込み技術の挑戦的な目標である。
従来、グラフ埋め込みはランダムウォーク法やグラフニューラルネットワークを通じて最高のパフォーマンスを達成する。
しかし、これらの手法はトランスダクティブであり、ソフトマックスによる高価なグローバル最適化や、勾配勾配のパイプラインで訓練された高密度表現を利用する。
それにもかかわらず、他のGNNの変種は未確認のノードにマップできるが、それでも反復的なメッセージパッシングとバックプロパゲーションに依存しており、高い計算とメモリコストが生じる。
逆に、哺乳類の大脳皮質は、入力されたパターンのストリームを下流領域のコンパクトな表現にマッピングすることを学ぶことで、構造的に類似した問題を解く。
本稿では,グラフノードのバイナリスパース分散表現(SDR)を学習するための,生物学的にインスパイアされたColumnar-Embedderアーキテクチャを提案する。
学習は、ランダムウォークのオンラインストリームから計算されたポジティブポイントワイド相互情報(PPMI)によって変調された、BCM(Bienenstock-Cooper-Munro) Hebbianルールによって駆動される。
ラベルやバックプロパゲーション、監視のないランダムウォークペアのストリーミングからの継続的な学習により、アーキテクチャは破滅的な忘れに対する自然な抵抗を示すことができる。
5つのグラフベンチマークにおいて、SDRの性能はノード分類とリンク予測の精度の高い埋め込みと競合する一方、アーキテクチャはポータビリティ、ノイズに対するレジリエンス、データの破損に対する堅牢性を示す。
関連論文リスト
- From GNNs to Trees: Multi-Granular Interpretability for Graph Neural Networks [29.032055397116217]
解釈可能なグラフニューラルネットワーク(GNN)は、モデル予測の背後にある理由を明らかにすることを目的としている。
既存の部分グラフベースの解釈可能なメソッドは、局所構造上のオーバーエンハンシスに悩まされる。
グラフ分類のための新しいツリーライクな解釈フレームワーク(TIF)を提案する。
論文 参考訳(メタデータ) (2025-05-01T07:22:51Z) - LASE: Learned Adjacency Spectral Embeddings [9.227991604045416]
グラフ入力から結節隣接スペクトル埋め込み(ASE)を学習する。
LASEは解釈可能で、パラメータ効率が高く、未観測のエッジを持つ入力に対して堅牢である。
LASEレイヤは、Graph Convolutional Network (GCN)と完全に接続されたGraph Attention Network (GAT)モジュールを組み合わせる。
論文 参考訳(メタデータ) (2024-12-23T17:35:19Z) - Deep Manifold Graph Auto-Encoder for Attributed Graph Embedding [51.75091298017941]
本稿では,属性付きグラフデータに対する新しいDeep Manifold (Variational) Graph Auto-Encoder (DMVGAE/DMGAE)を提案する。
提案手法は,最先端のベースラインアルゴリズムを,一般的なデータセット間でのダウンストリームタスクの差を大きく越える。
論文 参考訳(メタデータ) (2024-01-12T17:57:07Z) - NodeFormer: A Scalable Graph Structure Learning Transformer for Node
Classification [70.51126383984555]
本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。
効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。
グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
論文 参考訳(メタデータ) (2023-06-14T09:21:15Z) - Addressing Heterophily in Node Classification with Graph Echo State
Networks [11.52174067809364]
ノード分類のためのグラフエコー状態ネットワーク(GESN)を用いた異種グラフの課題に対処する。
GESNはグラフのための貯水池計算モデルであり、ノードの埋め込みは訓練されていないメッセージパッシング関数によって計算される。
実験の結果, 貯水池モデルでは, ほぼ完全に訓練された深層モデルに対して, より優れた精度あるいは同等の精度が得られることがわかった。
論文 参考訳(メタデータ) (2023-05-14T19:42:31Z) - Learning Graph Structure from Convolutional Mixtures [119.45320143101381]
本稿では、観測されたグラフと潜伏グラフのグラフ畳み込み関係を提案し、グラフ学習タスクをネットワーク逆(デコンボリューション)問題として定式化する。
固有分解に基づくスペクトル法の代わりに、近似勾配反復をアンロール・トランケートして、グラフデコンボリューションネットワーク(GDN)と呼ばれるパラメータ化ニューラルネットワークアーキテクチャに到達させる。
GDNは、教師付き方式でグラフの分布を学習し、損失関数を適応させることでリンク予測やエッジウェイト回帰タスクを実行し、本質的に帰納的である。
論文 参考訳(メタデータ) (2022-05-19T14:08:15Z) - Optimal Propagation for Graph Neural Networks [51.08426265813481]
最適グラフ構造を学習するための二段階最適化手法を提案する。
また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
論文 参考訳(メタデータ) (2022-05-06T03:37:00Z) - Graph Pooling with Node Proximity for Hierarchical Representation
Learning [80.62181998314547]
本稿では,ノード近接を利用したグラフプーリング手法を提案し,そのマルチホップトポロジを用いたグラフデータの階層的表現学習を改善する。
その結果,提案したグラフプーリング戦略は,公開グラフ分類ベンチマークデータセットの集合において,最先端のパフォーマンスを達成できることが示唆された。
論文 参考訳(メタデータ) (2020-06-19T13:09:44Z) - Block-Approximated Exponential Random Graphs [77.4792558024487]
指数乱グラフ(ERG)の分野における重要な課題は、大きなグラフ上の非自明なERGの適合である。
本稿では,非自明なERGに対する近似フレームワークを提案する。
我々の手法は、数百万のノードからなるスパースグラフにスケーラブルである。
論文 参考訳(メタデータ) (2020-02-14T11:42:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。