論文の概要: AnchorRM: Parallel Intra-Batch State Reconstruction with Anchor-Based Residual Memory for Temporal Graph Neural Networks

• arxiv url: http://arxiv.org/abs/2610.27558v1
• Date: Tue, 20 Oct 2026 03:15:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.599758
• Title: AnchorRM: Parallel Intra-Batch State Reconstruction with Anchor-Based Residual Memory for Temporal Graph Neural Networks
• Title（参考訳）: AnchorRM: 時間的グラフニューラルネットワークのためのアンカーベース残差メモリを用いた並列バッチ内状態再構成
• Abstract要約: 時間グラフニューラルネットワークは、進化する相互作用履歴を捉えるために、繰り返しノードメモリに依存する。 時間的ミニバッチは、計算効率と時間的忠実さのトレードオフをもたらす。 本稿では,イベント固有のバッチ内ノード状態を再構成するアンカーベース残メモリ機構であるAnchorRMを提案する。
• 参考スコア（独自算出の注目度）: 21.257843115741256
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Memory-based temporal graph neural networks (TGN) rely on recurrent node memories to capture evolving interaction histories. However, temporal mini-batching introduces a trade-off between computational efficiency and temporal fidelity: when a node appears multiple times within the same batch, later interactions are evaluated using stale pre-batch memory because the intermediate memory updates have not yet been committed. This problem becomes more severe as temporal batch size increases. To overcome this challenge, we propose AnchorRM, an anchor-based residual memory mechanism that reconstructs event-specific intra-batch node states without executing sequential recurrent updates. AnchorRM treats the last committed node memory at the beginning of each batch as a pre-batch fixed anchor and uses causally preceding same-batch interactions to infer the missing state evolution relative to that anchor. The learned residual then calibrates the anchor to reconstruct an event-specific node memory for each interaction. Because each event-specific residual is predicted directly from the fixed anchor and its causal history, reconstructed states do not depend on previously reconstructed states and can therefore be computed in parallel within the batch while preserving temporal causality. Experiments across four temporal graph datasets and three memory-based backbones demonstrate that AnchorRM achieves an average 6.16x training speedup (up to 10.05x) and 28.67x batch scaling (up to 40x). These results demonstrate that AnchorRM substantially improves the scalability and training efficiency of memory-based temporal graph learning while maintaining competitive predictive performance.
• Abstract（参考訳）: メモリベースの時間グラフニューラルネットワーク(TGN)は、進化する相互作用履歴を捉えるために、繰り返しノードメモリに依存する。 しかし、時間的ミニバッチは計算効率と時間的忠実度の間にトレードオフをもたらす: あるノードが同じバッチ内で複数回出現したとき、中間メモリ更新がまだ実行されていないため、後続の相互作用は古いプレバッチメモリを用いて評価される。 時間的バッチサイズが大きくなるにつれて、この問題はさらに深刻になる。 この課題を克服するために,AnchorRMを提案する。AnchorRMは,イベント固有のバッチノード状態を逐次更新せずに再構築するアンカーベースの残メモリ機構である。 AnchorRMは、各バッチの開始時の最後のコミットノードメモリを、前バッチ固定アンカーとして扱い、同バッチのインタラクションに因果的に先行して、そのアンカーに対する不足状態の進化を推測する。 学習した残基は、アンカーを校正して、各インタラクションのためのイベント固有のノードメモリを再構築する。 各事象特異的残差は固定アンカーとその因果履歴から直接予測されるため、再構成された状態は以前の再構成状態に依存しないため、時間的因果性を保持しながらバッチ内で並列に計算することができる。 4つの時間グラフデータセットと3つのメモリベースのバックボーンによる実験により、AnchorRMは平均6.16倍のトレーニングスピードアップ(10.05倍)と28.67倍のバッチスケーリング(最大40倍)を達成した。 これらの結果から、AnchorRMは、競合予測性能を維持しつつ、メモリベースの時間グラフ学習のスケーラビリティと訓練効率を大幅に向上することを示した。

関連論文リスト

• Continuous Memory Machines [5.919150747124057]
  本稿では,行列値の短期記憶状態と長期記憶状態の繰り返しアーキテクチャであるContinuous Memory Machine (CMM)を紹介する。 短期記憶は最近の神経活動を追跡し、一意にパラメータ化されたニューロンレベルのモデルでこれらの活動パターンを計算に使用する。 永続的な長期記憶は後続使用のための情報を格納し、Transformerは両方のメモリストアを共同で更新する。
  論文  参考訳（メタデータ） (2026-10-06T07:52:50Z)
• When Quantization Breaks Memory: Recurrent-State Write-Back in Low-Precision Temporal Inference [0.0]
  リカレントネットワークでは、量子化された状態は次のステップで格納され、返されるので、その状態を保存するために使われるルールは、その後の計算を変更できる。 本稿では,この規則を示すためにリカレント状態書き込みを導入し,蛍光寿命イメージングのためのコンパクトなGRUエンコーダデコーダにおいてその効果を分離する。 本研究は,低精度リカレントダイナミクスの鍵となるリカレント状態書き込みを定式化し,量子化されたリカレント推論のための中心設計として状態記憶インタフェースを同定する。
  論文  参考訳（メタデータ） (2026-09-03T21:23:35Z)
• MARCH: Scaling Recurrent Memory with Content-Routed State Anchors [41.39470291507015]
  トランスフォーマーはその強い長文検索能力の多くを、コンテキスト長で成長するトークンレベルのメモリに負っている。 リカレントな代替手段は、履歴全体を固定サイズの状態に圧縮することで効率的な復号化を提供する。 メモリ・アンカー・ルーティング(Memory-Anchor Routing across Context History, MARCH)は、状態空間モデルを固定次元を超えて効果的にスケールするネットワークアーキテクチャである。
  論文  参考訳（メタデータ） (2026-08-12T13:45:01Z)
• Memory is Reconstructed, Not Retrieved: Graph Memory for LLM Agents [51.30250860677378]
  本稿では,連想記憶グラフとアクティブな再構成機構を組み合わせたフレームワークであるMRAgentを提案する。 Cue-Tag-Contentグラフ上で実行することで,メモリアクセスに直接推論を統合する。 LoCoMoベンチマークとLongMemEvalベンチマークの実験は、強いベースラインよりも大幅に改善されている。
  論文  参考訳（メタデータ） (2026-06-04T11:29:46Z)
• SinkRec: Mitigating Semantic State Sink in Long Sequence Recommendation with Memory-Conditioned Gated Delta Networks [31.41875429254432]
  セマンティックステートシンクを緩和するハイブリッドメモリ-遷移ループアーキテクチャであるSinkRecを提案する。 SinkRecは、繰り返し発生するローカルパターンを学習可能な条件記憶に外部化する。 TDGDは、メモリに隠された更新を抑え、メモリに整合した読み出し応答を除去することで、リカレント書き込みと読み出しをメモリで浄化する。
  論文  参考訳（メタデータ） (2026-06-03T09:10:06Z)
• Rethinking Memory as Continuously Evolving Connectivity [63.58181883607843]
  既存のメモリ拡張LDMエージェントは、メモリを事前定義された表現と固定された検索パイプラインを備えた静的リポジトリとして扱う。 メモリをヘテロジニアスなグラフとしてモデル化し,そのトポロジを3段階にわたって段階的に洗練する,コネクティビティ進化型メモリフレームワークであるFluxMemを提案する。 LoCoMo、Mind2Web、GAIAなど、根本的に異なる3つのベンチマークにおいて、FluxMemは一貫した最先端のパフォーマンスを実現し、複雑なエージェント環境において強力な適応と一般化を示す。
  論文  参考訳（メタデータ） (2026-05-27T17:35:34Z)
• Latent Recurrent Transformer: Architecture Exploration, Training Strategies, and Scaling Behavior [107.2098567818173]
  Latent Recurrent Transformer (LRT) は自己回帰変換器の軽量化である。 LRTは、次のトークンのリカレントメモリとして、前のトークンから高レベルなソース層隠れステートを再利用する。
  論文  参考訳（メタデータ） (2026-05-26T10:10:26Z)
• Attend Locally, Remember Linearly: Linear Attention as Cross-Frame Memory for Autoregressive Video Diffusion [61.57938553036056]
  ARL2は、二次的なクロスフレームアテンションを固定サイズのリカレント状態に置き換えるハイブリッドアテンションモジュールである。 本研究では,フレーム内ソフトマックスブランチとフレーム間リカレント線形ブランチの2つに分割し,ストリームコンテキストの固定サイズ状態を維持する。 75%の層がハイブリッドリニアアテンションに置き換えられ、最大2.26ウォールクロックのスピードアップと54%のメモリ削減を実現した。
  論文  参考訳（メタデータ） (2026-05-15T19:33:45Z)
• FlashMem: Distilling Intrinsic Latent Memory via Computation Reuse [4.210760734549566]
  FlashMemは、計算再利用を通じて、過渡的推論状態から直接固有のメモリを蒸留するフレームワークである。 実験によると、FlashMemは5倍の推論遅延を減らしながら、重いベースラインのパフォーマンスと一致している。
  論文  参考訳（メタデータ） (2026-01-09T03:27:43Z)
• Temporal Memory Relation Network for Workflow Recognition from Surgical Video [53.20825496640025]
  本研究では, 長期および多スケールの時間パターンを関連づける, エンドツーエンドの時間メモリ関係ネットワーク (TMNet) を提案する。 我々はこのアプローチを2つのベンチマーク手術ビデオデータセットで広範囲に検証した。
  論文  参考訳（メタデータ） (2021-03-30T13:20:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。