論文の概要: Structured Sparse Memory for Recurrent Reasoning

• arxiv url: http://arxiv.org/abs/2609.33270v1
• Date: Sun, 27 Sep 2026 06:25:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 01:38:33.571238
• Title: Structured Sparse Memory for Recurrent Reasoning
• Title（参考訳）: Recurrent Reasoning のための構造化スパースメモリ
• Abstract要約: CHARMは、リカレント推論と構造化されたタスクメモリ、合成データ、推論時アグリゲーションを組み合わせた、コンパクトなハイブリッドARCモデルである。 本稿では, 繰り返し推論と構造化タスクメモリ, 合成データ, 推論時間アグリゲーションを組み合わせた, コンパクトなハイブリッドARCモデルであるCHARMを用いて, この状況について検討する。
• 参考スコア（独自算出の注目度）: 5.885294387757582
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recurrent models trained from scratch have recently become competitive on ARC-style reasoning tasks, but the usual framing around small recurrent backbones overlooks two important parts of the system: task-conditioned memory and synthetic augmentation data. We study this regime through CHARM, a compact hybrid ARC model that combines recurrent reasoning with structured task memory, synthetic data, and inference-time aggregation. In existing approaches, task-conditioned memory supplies a large hidden source of capacity, reaching more than 30x the size of the recurrent backbone. We introduce a compositional sparse embedding (CoSE) for task conditioning that reduces learned task-memory parameters by over 90% while improving pass@2 in controlled ARC ablations. For the recurrent backbone, recurrent depth helps only when balanced with learning horizon. Combining these ingredients, our system reaches 84% pass@2 on ARC-AGI-1 and 46.7% pass@2 on ARC-AGI-2 public evaluation. The benefits of structured memory also generalize to unseen puzzles and other domains. Our code, dataset, and model checkpoints are available at https://github.com/water-vapor/charm.
• Abstract（参考訳）: スクラッチからトレーニングされたリカレントモデルは、最近ARCスタイルの推論タスクで競合するようになっているが、小さなリカレントバックボーンに関する通常のフレーミングは、タスク条件付きメモリと合成拡張データという2つの重要な部分を見下ろしている。 本稿では, 繰り返し推論と構造化タスクメモリ, 合成データ, 推論時間アグリゲーションを組み合わせた, コンパクトなハイブリッドARCモデルであるCHARMを用いて, この状況について検討する。 既存の手法では、タスク条件付きメモリは大量のキャパシティを隠蔽し、リカレントバックボーンの30倍以上の大きさに達する。 本研究では,タスクコンディショニングのための合成スパース埋め込み(CoSE)を導入し,学習したタスクメモリパラメータを90%以上削減し,制御されたARCアブリゲーションにおけるpass@2を改善した。 リカレントバックボーンでは、再カレントディープは学習地平線とバランスを取る場合にのみ有効である。 これらの成分を組み合わせることで,ARC-AGI-1では84% pass@2,ARC-AGI-2では46.7% pass@2となる。 構造化メモリの利点は、目に見えないパズルや他の領域にも一般化される。 私たちのコード、データセット、モデルチェックポイントはhttps://github.com/water-vapor/charm.comで公開されています。

関連論文リスト

• RPMem: Learning Long-Term Recurrent Parametric Memory Across Sessions for LLM Agents [8.24616125117741]
  長時間実行されるLLMエージェントは、セッション間で持続し、進化するメモリを必要とする。 既存のアプローチは、クロスセッションメモリの進化を限定的にサポートする。 RPMemは、各セッションをモデルに依存しない潜在メモリにコンパイルする2段階アーキテクチャである。
  論文  参考訳（メタデータ） (2026-09-20T08:51:10Z)
• Memory is Reconstructed, Not Retrieved: Graph Memory for LLM Agents [51.30250860677378]
  本稿では,連想記憶グラフとアクティブな再構成機構を組み合わせたフレームワークであるMRAgentを提案する。 Cue-Tag-Contentグラフ上で実行することで,メモリアクセスに直接推論を統合する。 LoCoMoベンチマークとLongMemEvalベンチマークの実験は、強いベースラインよりも大幅に改善されている。
  論文  参考訳（メタデータ） (2026-06-04T11:29:46Z)
• Evoking User Memory: Personalizing LLM via Recollection-Familiarity Adaptive Retrieval [59.295767860331004]
  RF-Memは、親しみやすい不確実性誘導デュアルパスメモリレトリバーである。 それは、人間のようなデュアルプロセス認識をレトリバーに埋め込む。 一定の予算とレイテンシの制約の下で、ワンショット検索とフルコンテキスト推論を一貫して上回る。
  論文  参考訳（メタデータ） (2026-03-10T06:31:44Z)
• AMA: Adaptive Memory via Multi-Agent Collaboration [54.490349689939166]
  複数の粒度にまたがるメモリ管理に協調エージェントを活用する新しいフレームワークであるAMA(Adaptive Memory via Multi-Agent Collaboration)を提案する。 AMAは、ステート・オブ・ザ・アートのベースラインを著しく上回り、トークンの消費をフルコンテキストの手法と比べて約80%削減する。
  論文  参考訳（メタデータ） (2026-01-28T08:09:49Z)
• From RAG to Memory: Non-Parametric Continual Learning for Large Language Models [6.380729797938521]
  検索強化世代(RAG)は、新しい情報を導入する主要な方法となっている。 最近のRAGは、知識グラフのような様々な構造を持つベクトル埋め込みを拡大して、いくつかのギャップ、すなわちセンスメイキングと連想性に対処している。 我々は,現実的,感覚的,連想的なメモリタスクにおいて,標準RAGを総合的に上回るフレームワークであるHippoRAG 2を提案する。
  論文  参考訳（メタデータ） (2025-02-20T18:26:02Z)
• MemoRAG: Boosting Long Context Processing with Global Memory-Enhanced Retrieval Augmentation [60.04380907045708]
  Retrieval-Augmented Generation (RAG)は、この問題に対処するための有望な戦略と考えられている。 我々は,グローバルメモリ拡張検索による新しいRAGフレームワークであるMemoRAGを提案する。 MemoRAGは、様々な長期コンテキスト評価タスクにおいて優れたパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-09-09T13:20:31Z)
• SHERL: Synthesizing High Accuracy and Efficient Memory for Resource-Limited Transfer Learning [63.93193829913252]
  本稿では,リソース制限シナリオに対するSHERLと呼ばれる革新的なMETL戦略を提案する。 初期経路では、中間出力は反冗長動作によって統合される。 遅延ルートでは、最小限の遅延事前トレーニングされたレイヤを利用することで、メモリオーバーヘッドのピーク需要を軽減できる。
  論文  参考訳（メタデータ） (2024-07-10T10:22:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。