論文の概要: SHiPPO: Recurrent Memory with Transported Polynomial Projections
- arxiv url: http://arxiv.org/abs/2607.03055v1
- Date: Fri, 03 Jul 2026 07:44:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.507939
- Title: SHiPPO: Recurrent Memory with Transported Polynomial Projections
- Title（参考訳）: SHiPPO: 輸送されたポリノミアルプロジェクションによるリカレントメモリ
- Authors: Tomoya Mizuguchi, Bum Jun Kim,
- Abstract要約: 我々は、移動路フレームにHiPPO係数のメモリを持ち上げる、転送されたプロジェクションメモリであるSHiPPO(Sylvester HiPPO)を紹介する。
選択SSM実行には、コントローラ互換の右アクションで制限されたグループ局所化を導出する。
制御された診断では、現在の書き込みランクが大きくなると通常の予測誤差が向上するが、既に書き込まれたメモリの順序に敏感な変更を回復できない。
- 参考スコア（独自算出の注目度）: 3.5808917363708734
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: HiPPO gives recurrent states memory semantics as coefficients of online polynomial projections, but in fixed channel coordinates. Modern selective SSMs, by contrast, rely on token-dependent control and channel interaction. We introduce SHiPPO (Sylvester HiPPO), a transported projection-memory prior that lifts HiPPO coefficient memories into a moving channel frame. For any fixed or realized right-transport path, SHiPPO transports the approximation family and channel metric together; conditional on that path, the state is ordinary HiPPO in a tied moving frame and follows Sylvester coefficient dynamics, preserving the left online-memory operator while adding right-action transport. For selective-SSM execution, we derive a restricted group-local realization with controller-compatible right actions, exponential-adjusted updates, exact block-affine scan, and recurrent decoding. We also give a simultaneous-reducibility criterion identifying when right transports collapse to static mixing plus independent scalar or blockwise banks. Controlled diagnostics show that larger current-token write rank improves ordinary prediction error but cannot recover order-sensitive changes to already-written memory; transported-memory variants recover this signal, which disappears when the transport pathway is removed. A finite-field associative-recall diagnostic with interleaved bindings, operations, and queries provides complementary autoregressive evidence while leaving the preferred right-action realization open. Taken together, these results support SHiPPO as a mechanistically grounded transported-memory prior, with evidence focused on memory mechanisms rather than broad sequence-modeling dominance.
- Abstract（参考訳）: HiPPOは、オンライン多項式射影の係数としてメモリセマンティクスを繰り返す状態を与えるが、固定チャネル座標では成立しない。
対照的に、現代の選択的SSMはトークン依存制御とチャネル相互作用に依存している。
我々は、移動路フレームにHiPPO係数のメモリを持ち上げる、転送されたプロジェクションメモリであるSHiPPO(Sylvester HiPPO)を紹介する。
SHiPPOは、固定または実現された任意の右輸送経路に対して、近似族とチャネル計量を一緒に輸送する;その経路上の条件は、状態は、連結された移動フレーム内の通常のHiPPOであり、シルベスター係数のダイナミクスに従い、左のオンラインメモリ演算子を保存し、右作用輸送を追加する。
選択SSM実行には、コントローラ互換の右アクション、指数調整更新、正確なブロックアフィンスキャン、繰り返し復号化によるグループローカル化を導出する。
また、適切な輸送が静的な混合と独立スカラーバンクやブロックワイドバンクに崩壊したときの同時再現性基準も提示する。
制御された診断では、現在の書き込みランクが大きくなると通常の予測誤差が向上するが、既に書き込まれたメモリの順序に敏感な変更を回復することはできない。
インターリーブドバインディング、操作、クエリによる有限フィールド連想-リコール診断は、好まれる右アクション実現をオープンにして、補完的な自己回帰的証拠を提供する。
これらの結果は、SHiPPOを機械的に基底化されたトランスポートメモリとしてサポートし、広いシーケンスモデリング優位性よりもメモリ機構に重点を置いている。
関連論文リスト
- Planning-aligned Token Compression for Long-Context Autonomous Driving [95.59023657139208]
条件付きVQ-VA上に構築した計画整合型ワーキングメモリフレームワークを提案する。
圧縮は歴史的軌跡と学習した計画意図の両方で条件付けられている。
歴史的文脈が行動の正確性に最も重要となる高信号動的シナリオについて評価する。
論文 参考訳（メタデータ） (2026-06-05T17:16:21Z) - Memory is Reconstructed, Not Retrieved: Graph Memory for LLM Agents [51.30250860677378]
本稿では,連想記憶グラフとアクティブな再構成機構を組み合わせたフレームワークであるMRAgentを提案する。
Cue-Tag-Contentグラフ上で実行することで,メモリアクセスに直接推論を統合する。
LoCoMoベンチマークとLongMemEvalベンチマークの実験は、強いベースラインよりも大幅に改善されている。
論文 参考訳（メタデータ） (2026-06-04T11:29:46Z) - Rethinking Memory as Continuously Evolving Connectivity [63.58181883607843]
既存のメモリ拡張LDMエージェントは、メモリを事前定義された表現と固定された検索パイプラインを備えた静的リポジトリとして扱う。
メモリをヘテロジニアスなグラフとしてモデル化し,そのトポロジを3段階にわたって段階的に洗練する,コネクティビティ進化型メモリフレームワークであるFluxMemを提案する。
LoCoMo、Mind2Web、GAIAなど、根本的に異なる3つのベンチマークにおいて、FluxMemは一貫した最先端のパフォーマンスを実現し、複雑なエージェント環境において強力な適応と一般化を示す。
論文 参考訳（メタデータ） (2026-05-27T17:35:34Z) - Latent Recurrent Transformer: Architecture Exploration, Training Strategies, and Scaling Behavior [107.2098567818173]
Latent Recurrent Transformer (LRT) は自己回帰変換器の軽量化である。
LRTは、次のトークンのリカレントメモリとして、前のトークンから高レベルなソース層隠れステートを再利用する。
論文 参考訳（メタデータ） (2026-05-26T10:10:26Z) - A Parametric Memory Head for Continual Generative Retrieval [52.66674234249913]
生成情報検索(GenIR)は、検索を単一のニューラルモデルに統合し、クエリから直接ドキュメント識別子(ドシデント)をデコードする。
逐次適応は、新たに追加された文書の検索を改善するが、以前のスライスの性能は著しく低下することを示す。
本稿では,モジュール型パラメトリックメモリヘッドで適応モデルを拡張するメモリのみの安定化ステージである,後適応メモリチューニング(PAMT)を提案する。
論文 参考訳（メタデータ） (2026-04-25T17:38:51Z) - Endogenous Information in Routing Games: Memory-Constrained Equilibria, Recall Braess Paradoxes, and Memory Design [2.28438857884398]
本研究では,旅行者が特定の行動セットではなく,記憶されたルートや表面化されたルートを最適化するルーティングゲームについて検討する。
本稿では、内因性リコールのためのトラクタブル設計理論を開発し、それを明示的な有限メモリマイクロモデルに接続する。
より大規模な記憶のために、明示的なLRU-to-TTL-to-salience近似パイプラインを開発し、サロゲートマップの誤差を固定点と福祉点の誤差に変換する収縮に基づく境界を追加する。
論文 参考訳（メタデータ） (2026-04-13T17:08:47Z) - Agentic Unlearning: When LLM Agent Meets Machine Unlearning [45.60284810359578]
パラメータとメモリ経路をまたいだ共同学習フレームワークであるSingchronized Backflow Unlearning(SBU)を提案する。
SBUは、保持されたデータに対する限定的な劣化を伴う、両方の経路にまたがる標的となるプライベート情報のトレースを削減する。
論文 参考訳（メタデータ） (2026-02-06T07:13:13Z) - SEDM: Scalable Self-Evolving Distributed Memory for Agents [23.182291416527764]
SEDMは、メモリをパッシブリポジトリからアクティブな自己最適化コンポーネントに変換する検証可能で適応的なフレームワークである。
また,SEDMは,強いメモリベースラインに比べてトークンオーバーヘッドを低減しつつ,推論精度を向上することを示した。
結果は、SEDMをオープンエンドのマルチエージェントコラボレーションのためのスケーラブルで持続可能なメモリメカニズムとして強調する。
論文 参考訳（メタデータ） (2025-09-11T14:37:37Z) - SHERL: Synthesizing High Accuracy and Efficient Memory for Resource-Limited Transfer Learning [63.93193829913252]
本稿では,リソース制限シナリオに対するSHERLと呼ばれる革新的なMETL戦略を提案する。
初期経路では、中間出力は反冗長動作によって統合される。
遅延ルートでは、最小限の遅延事前トレーニングされたレイヤを利用することで、メモリオーバーヘッドのピーク需要を軽減できる。
論文 参考訳（メタデータ） (2024-07-10T10:22:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。