論文の概要: Designing a Good Virtual Node: Addressable and Cardinality-Preserving Global Memory for Message Passing Architectures

• arxiv url: http://arxiv.org/abs/2608.02709v1
• Date: Mon, 03 Aug 2026 17:44:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-05 15:30:22.905713
• Title: Designing a Good Virtual Node: Addressable and Cardinality-Preserving Global Memory for Message Passing Architectures
• Title（参考訳）: 優れた仮想ノードを設計する: メッセージパッシングアーキテクチャのためのアドレスとカーディナリティを保存するグローバルメモリ
• Abstract要約: 仮想記憶が自己注意なしで有限容量ボトルネックを緩和できることを示す。 グローバルメモリは独立して書き込み可能で読みやすい状態に分解されるべきである。 マルチプライシティを意識したTwo-Radius、モチーフカウント、制約付きリンクセット予測の実験は、(O(nMd)演算コストでこのアドレス可能および濃度保存仮想メモリをサポートする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Virtual nodes give message-passing neural networks a simple global communication route, but the standard node--VN--node pipeline compresses the graph into one homogeneous state and broadcasts it identically to every node. Building on the Two-Radius analysis of Mishayev et al., we ask how auxiliary virtual memory can relieve this finite-capacity bottleneck without self-attention. We identify two requirements. First, the global memory should be factorized into independently writable and readable states: this can be achieved using addressable cross-attention slots. Second, addressability alone does not preserve multiplicity, because softmax attention is invariant to uniform replication. Inserting each slot query as a private key/value anchor recovers the discarded normalization mass and yields, on bounded color domains, an injective multiset representation able to implement a 1-WL refinement. Experiments on multiplicity-aware Two-Radius, motif counting, and constrained link-set prediction support this addressable and cardinality-preserving virtual memory at (O(nMd)) arithmetic cost.
• Abstract（参考訳）: 仮想ノードは、メッセージパッシングニューラルネットワークに単純なグローバル通信経路を与えるが、標準的なノード-VN-ノードパイプラインはグラフを1つの均一な状態に圧縮し、すべてのノードと同一にブロードキャストする。 MishayevらによるTwo-Radius解析に基づいて、補助仮想記憶が自己注意なしにこの有限容量ボトルネックを緩和できるのかを問う。 私たちは2つの要件を特定します。 まず、グローバルメモリは独立して書き込み可能で読みやすい状態に分解されるべきである。 第二に、ソフトマックスの注意は均一な複製に不変であるため、アドレナビリティだけでは多重性を保たない。 秘密鍵/値アンカーとして各スロットクエリを挿入すると、破棄された正規化質量が回復し、有界カラードメイン上で、1-WLの洗練を実装可能なインジェクティブマルチセット表現が生成される。 マルチプライシティ対応のTwo-Radius、モチーフカウント、制約付きリンクセット予測の実験は、(O(nMd))算術コストでこのアドレス可能および濃度保存仮想メモリをサポートする。

関連論文リスト

• Lngram v2: Latent N-Gram Memory with Interpretable Discrete Representations [8.050927352582827]
  トランスフォーマーにはネイティブなルックアップ機構がなく、ローカルな静的パターンを認識して再利用するためには、繰り返し密集した計算が必要である。 Lngram v1は、離散的なn-gramアドレッシングを通じてトークン化非依存の条件記憶を導入する。 Lngram v2はルート数、メモリ次元、バックボーン幅を分離する。
  論文  参考訳（メタデータ） (2026-09-03T06:33:23Z)
• A Compositional Theory of Causally Masked Transformers [50.88598486616582]
  モデルが実装した力学から直接表現性を導出する形式化を開発する。 各アテンションヘッドは、レイヤ内で独立して自身の状態を更新する。 修正されたソフトアテンションは、不可逆なチェックリストのような状態をサポートする。
  論文  参考訳（メタデータ） (2026-07-29T14:47:19Z)
• Optimal GHZ-State Distribution in LOSR Quantum Networks via Local Decoding from Information Sets [40.76168869865134]
  任意の大きさの正規ネットワークと均一ネットワークの予想を証明する。 ネットワークのハイパーエッジを線形符号の座標で識別することにより、各ノードに発生したエッジが情報集合を形成すると、固定された局所ユニタリのコレクションが元の状態を(N)パーティーGHZ状態に変換する(dm-M)。 これらの結果から,複数粒子源と共有ランダム性は,絡み合い分布のリアルタイムな古典的通信に取って代わることができることが示された。
  論文  参考訳（メタデータ） (2026-06-19T14:53:28Z)
• A Tight Expressivity Hierarchy for GNN-Based Entity Resolution in Master Data Management [2.4366811507669115]
  型付き実体属性グラフ上での4つの理論分離理論を証明する。 各述語について、我々は厳密な境界を証明し、必要な適応を欠く全てのMPNNによって証明不可能なグラフペアを構築する。 実践者は、より単純なアーキテクチャが機能しないことを保証するため、最も安価な適応セットを選択できる。
  論文  参考訳（メタデータ） (2026-03-28T06:38:03Z)
• GSPN-2: Efficient Parallel Sequence Modeling [101.33780567131716]
  一般化空間伝搬ネットワーク(GSPN)は2次自己アテンションを直線走査型伝搬方式に置き換えることでこの問題に対処する。 GSPN-2は、視覚アプリケーションにおけるグローバル空間コンテキストをモデル化するための新しい効率フロンティアを確立する。
  論文  参考訳（メタデータ） (2025-11-28T07:26:45Z)
• Heterogenous Memory Augmented Neural Networks [84.29338268789684]
  ニューラルネットワークのための新しいヘテロジニアスメモリ拡張手法を提案する。 学習可能なメモリトークンをアテンション機構付きで導入することにより、膨大な計算オーバーヘッドを伴わずに性能を効果的に向上させることができる。 In-distriion (ID) と Out-of-distriion (OOD) の両方の条件下での様々な画像およびグラフベースのタスクに対するアプローチを示す。
  論文  参考訳（メタデータ） (2023-10-17T01:05:28Z)
• DISCO: Distributed Inference with Sparse Communications [4.463769269318892]
  分散コンピューティングは、単一ノードのメモリ消費を減らすための一般的なアプローチである。 本稿では,各レイヤの推論を複数のノードに分散する「階層モデル並列化」について検討する。 画像分類,オブジェクト検出,セマンティックセグメンテーション,画像スーパーレゾリューションなど,様々なCVタスクに対するdisCOフレームワークの利点を示す。
  論文  参考訳（メタデータ） (2023-02-22T07:20:34Z)
• Binary Graph Convolutional Network with Capacity Exploration [58.99478502486377]
  ネットワークパラメータと入力ノード属性の両方を二項化するバイナリグラフ畳み込みネットワーク(Bi-GCN)を提案する。 我々のBi-GCNは、ネットワークパラメータと入力データの両方で平均31倍のメモリ消費を削減でき、推論速度を平均51倍に加速できる。
  論文  参考訳（メタデータ） (2022-10-24T12:05:17Z)
• Asymmetric Transfer Hashing with Adaptive Bipartite Graph Learning [95.54688542786863]
  既存のハッシュ法では、クエリと検索サンプルは同じドメイン内の同質な特徴空間にあると仮定する。 教師なし/半教師付き/教師付き実現のための非対称トランスファーハッシュ(ATH)フレームワークを提案する。 非対称ハッシュ関数と二部グラフを共同最適化することにより、知識伝達が達成できるだけでなく、特徴アライメントによる情報損失も回避できる。
  論文  参考訳（メタデータ） (2022-06-25T08:24:34Z)
• Memory-based Message Passing: Decoupling the Message for Propogation from Discrimination [6.7605701314795095]
  メッセージパッシングはグラフニューラルネットワーク(GNN)の基本手順である 本稿では、各ノードのメッセージを識別のための自己埋め込み部と伝搬のためのメモリ部に分離するメモリベースのメッセージパッシング(MMP)手法を提案する。 私たちのMMPは、従来のGNNのパフォーマンス向上に役立つ追加レイヤとして機能する一般的なスキルです。
  論文  参考訳（メタデータ） (2022-02-01T14:15:32Z)
• Rethinking Space-Time Networks with Improved Memory Coverage for Efficient Video Object Segmentation [68.45737688496654]
  各オブジェクトのマスク特徴を再エンコードすることなく,フレーム間の直接対応性を確立する。 対応によって、現在のクエリフレーム内の全てのノードは、過去の特徴を連想的に集約することによって推測される。 すべてのメモリノードにコントリビュートする機会があることを検証し、そのような多彩な投票がメモリ効率と推論精度の両方に有益であることを示した。
  論文  参考訳（メタデータ） (2021-06-09T16:50:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。