論文の概要: ReLMem: Learning Recurrent Memory for Longitudinal EHR Modeling
- arxiv url: http://arxiv.org/abs/2609.37587v1
- Date: Tue, 29 Sep 2026 13:43:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.576476
- Title: ReLMem: Learning Recurrent Memory for Longitudinal EHR Modeling
- Title（参考訳）: ReLMem: 縦型EHRモデリングのためのリカレントメモリの学習
- Abstract要約: Recurrent Longitudinal Memory (ReLMem, Recurrent Longitudinal Memory) は、固定容量の患者記憶を維持するためのフレームワークである。
我々は、繰り返し更新を通してタスク関連情報を保存するための多重粒度最適化戦略を開発した。
EHRに基づく薬物の予測では、ReLMemはフルヒストリーベースラインのF1スコアに近づき、平均的な保存履歴を97.1%削減した。
- 参考スコア（独自算出の注目度）: 32.37363729573032
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Longitudinal electronic health record (EHR) modeling requires integrating new visits with an expanding patient history. Yet the continual accumulation of clinical information imposes increasing computational and memory costs on large language models (LLMs) when they process and retain complete patient histories. A practical alternative is visit-wise recurrent compression, which incorporates each incoming visit into a compact, continually updated patient memory. However, under a fixed memory budget, successive updates must integrate new information without progressively losing critical historical evidence needed to subsequent tasks. To address this challenge, we introduce Recurrent Longitudinal Memory (ReLMem), a framework that learns to maintain fixed-capacity patient memory for efficient downstream prediction with a frozen LLM. ReLMem equips this LLM with lightweight compression adapters to recurrently update the memory from its previous state and each incoming visit, without rereading earlier records. Specifically, we develop a multi-granularity optimization strategy to preserve task-relevant information throughout recurrent updates and support downstream prediction from the final memory. The intermediate supervision aligns attention outputs from compressed memory and the full history under identical queries, while prediction supervision minimizes cross-entropy with ground truth answers conditioned on the final memory. On EHR-based medication prediction, ReLMem approaches the F1 scores of full-history baseline while reducing average retained historical storage by 97.1%. Under the same memory budget, it improves macro- and micro-F1 over the strongest compressed-memory baseline by 4.66 and 4.75 percentage points, respectively. These results highlight the value of learning recurrent patient memory for efficient longitudinal EHR modeling.
- Abstract（参考訳）: 縦断的電子健康記録(EHR)モデリングでは、新規訪問と患者履歴の拡充が求められる。
しかし、臨床情報の連続的な蓄積は、患者の完全な履歴を処理および保持する際に、大きな言語モデル(LLM)の計算コストと記憶コストを増大させる。
事実上の代替手段としてビジターワイズ・リカレント圧縮があり、各ビジターをコンパクトで継続的に更新された患者メモリに組み込む。
しかし、固定メモリの予算の下では、連続した更新は、その後のタスクに必要な重要な歴史的証拠を徐々に失わずに、新しい情報を統合する必要がある。
この課題に対処するために,固定容量の患者記憶の維持を学習するフレームワークであるRecurrent Longitudinal Memory (ReLMem)を導入する。
ReLMemはこのLLMに軽量な圧縮アダプタを装備し、以前のレコードを読み取ることなく、以前の状態と到着した各訪問からメモリをリカレントに更新する。
具体的には、繰り返し更新を通してタスク関連情報を保存し、最終記憶からの下流予測をサポートするための多粒度最適化戦略を開発する。
中間監督は圧縮メモリと全履歴からの注意出力を同一のクエリで調整し、一方予測監督は最終記憶に条件付けられた接地真理解との交叉エントロピーを最小化する。
EHRに基づく薬物の予測では、ReLMemはフルヒストリーベースラインのF1スコアに近づき、平均的な保存履歴を97.1%削減した。
同じメモリ予算の下では、最強の圧縮メモリベースラインに対してマクロF1とマイクロF1をそれぞれ4.66ポイントと4.75ポイント改善する。
これらの結果は, 患者記憶を学習し, 効率のよい縦型EHRモデルを構築することの意義を浮き彫りにした。
関連論文リスト
- Retrieval-Driven Memory Reconsolidation for Long-Term LLM Agents [39.55670043123564]
既存のメモリシステムは、新しい情報が到着したときにメモリを更新する。
検索フィードバックは、将来のアクセスのためにメモリを再編成するために利用されることはめったにない。
LLMエージェントの長期記憶を継続的に進化させるフレームワークである textbfREALM を提案する。
論文 参考訳（メタデータ） (2026-09-13T05:17:37Z) - MEMPROBE: Probing Long-Term Agent Memory via Hidden User-State Recovery [58.64329475683699]
我々は、長期記憶は監査可能な相互作用後のアーティファクトとして評価されるべきであると主張している。
我々は、メモリを備えたエージェントがシミュレーションユーザを支援するベンチマークであるMEMPROBEで、このビューをインスタンス化する。
私たちは、成功したアシストと回復可能なメモリが、異なる機能として振る舞うことに気付きました。
論文 参考訳（メタデータ） (2026-06-23T13:52:46Z) - MemoryWAM: Efficient World Action Modeling with Persistent Memory [80.90899269062128]
本稿では,効率的な永続メモリを持つ世界アクションモデルであるMemoryWAMを紹介する。
調整された注意機構は、詳細な短期コンテキストと圧縮された長期コンテキストの両方の検索を可能にする。
MemoryWAMは、シミュレーションと実世界の両方において、強力な視覚言語アクション(VLA)とWAMベースラインを上回っている。
論文 参考訳（メタデータ） (2026-06-18T17:59:51Z) - RecMem: Recurrence-based Memory Consolidation for Efficient and Effective Long-Running LLM Agents [16.625864201773343]
RecMemは、受信するインタラクションをサブ意識のメモリ層に格納し、軽量な埋め込みモデルを使用してエンコードする。
実験により、RecMemは3つのSOTAメモリシステムのメモリ構築トークンコストを最大87%削減し、精度を上回ります。
論文 参考訳（メタデータ） (2026-05-15T15:17:36Z) - Is One Score Enough? Rethinking the Evaluation of Sequentially Evolving LLM Memory [50.857546269660276]
本稿では,大規模言語モデル(LLM)メモリを逐次進化させる診断評価フレームワークであるSeqMem-Evalを紹介する。
最終的なパフォーマンスのみに焦点を当てるのではなく、SeqMem-Evalは、シーケンシャル推論において、メモリ状態がどのように進化し、一般化し、エクスペリエンスを集約し、有用な情報を保持するかを評価する。
論文 参考訳（メタデータ） (2026-05-14T20:15:22Z) - NextMem: Towards Latent Factual Memory for LLM-based Agents [58.35585202907478]
NextMemは、自動回帰型オートエンコーダを使用して、潜時メモリを効率的に構築する、潜時ファクトメモリフレームワークである。
大規模な実験は、NextMemが優れたパフォーマンスを達成することを示す。
論文 参考訳（メタデータ） (2026-02-26T14:35:27Z) - Neuromem: A Granular Decomposition of the Streaming Lifecycle in External Memory for LLMs [31.958776309037546]
我々は、インターリーブされた挿入・検索プロトコルの下で外部メモリモジュールをベンチマークするスケーラブルなテストベッドであるNeuromemを紹介する。
メモリが丸ごと増大するにつれて、パフォーマンスは一般的に低下し、時間関連のクエリは依然として最も難しいカテゴリです。
論文 参考訳（メタデータ） (2026-02-15T02:53:37Z) - Lost in the Middle: An Emergent Property from Information Retrieval Demands in LLMs [9.799025120435108]
大きな言語モデル(LLM)は、重要な情報が長いコンテキストの中間にあるときにしばしば劣化する。
我々は,この行動が情報損失の欠陥を示すだけでなく,事前学習中に異なる情報検索要求に適応することを提案する。
このU字型性能曲線は、LLMが長期記憶と短期記憶の要求をシミュレートする2つの単純な記憶パラダイムでスクラッチから訓練されるときに現れることを示す。
論文 参考訳（メタデータ） (2025-10-11T16:22:53Z) - Stable Hadamard Memory: Revitalizing Memory-Augmented Agents for Reinforcement Learning [64.93848182403116]
現在のディープラーニングメモリモデルは、部分的に観察可能で長期にわたる強化学習環境で苦労している。
本稿では,強化学習エージェントのための新しい記憶モデルであるStable Hadamard Memoryを紹介する。
我々の手法は、部分的に観測可能なベンチマークに挑戦する上で、最先端のメモリベースの手法よりも大幅に優れています。
論文 参考訳（メタデータ） (2024-10-14T03:50:17Z) - Adversarially Diversified Rehearsal Memory (ADRM): Mitigating Memory Overfitting Challenge in Continual Learning [0.0]
継続的な学習は、それまでの知識を忘れずに、静止しないデータ分布を学習することに焦点を当てる。
リハーサルベースのアプローチは、破滅的な忘れに対処するために一般的に使用される。
本稿では、メモリ過度に適合する課題に対処するために、Adversarially Diversified Rehearsal Memoryを導入する。
論文 参考訳（メタデータ） (2024-05-20T06:56:43Z) - Memformer: A Memory-Augmented Transformer for Sequence Modeling [55.780849185884996]
本稿では、シーケンスモデリングのための効率的なニューラルネットワークであるMemformerを紹介する。
我々のモデルは長いシーケンスを処理する際に線形時間複雑性と一定メモリ空間複雑性を実現する。
論文 参考訳（メタデータ） (2020-10-14T09:03:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。