論文の概要: Beyond Sequences: Distilling Structured Decision Memory for LLM Recommendation
- arxiv url: http://arxiv.org/abs/2610.11501v1
- Date: Thu, 08 Oct 2026 08:40:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.899602
- Title: Beyond Sequences: Distilling Structured Decision Memory for LLM Recommendation
- Title(参考訳): LLMレコメンデーションのための構造決定メモリの蒸留
- Abstract要約: 我々は,明示的かつ構造化された決定証拠を根拠として,MARI(Memory-Augmented Recommendation with Interpretability)を提案する。
Mariは、ユーザの過去の論理を構造化決定記憶(Structured Decision Memories, SDM)としてアーカイブするDMB(Decision Memory Bank)を維持している。
Mariは、標準的な次世代予測と新しく導入されたDifficult Choice Predictionタスクにおいて、最先端のベースラインを大幅に上回っている。
- 参考スコア(独自算出の注目度): 6.238503098370278
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite the adoption of large language models (LLMs) in recommendation systems, prevailing approaches mostly model single-type behaviors (e.g., views or purchases). Even when incorporating multiple behaviors, existing methods flatten heterogeneous actions into homogeneous token sequences, ignoring their distinct decision-making roles. This flattening fails to capture semantic hierarchies and contextual nuances in complex decision-making, such as trade-offs between price and quality. Consequently, performance degrades in critical ``difficult-choice'' scenarios involving highly similar items. To bridge this gap, we propose MARI (Memory-Augmented Recommendation with Interpretability), which grounds predictions in explicit, structured decision evidence. MARI maintains a Decision Memory Bank (DMB) that archives users' past rationales as Structured Decision Memories (SDMs): concise records of goals, constraints, and trade-offs. These SDMs are generated offline via Post-Hoc Decision Distillation from heterogeneous behaviors and user-generated content. By retrieving relevant SDMs to augment LLM reasoning, MARI achieves interpretability and scalability without the prohibitive cost of processing long raw sequences. Extensive experiments show MARI significantly outperforms state-of-the-art baselines on standard next-item prediction and a newly introduced Difficult Choice Prediction task, incurring low latency overhead by decoupling memory construction from online inference. Qualitative analyses reveal actionable, human-readable insights into user decision-making, marking a concrete step toward reasoning-aware recommendation systems.
- Abstract(参考訳): 大規模言語モデル(LLM)がレコメンデーションシステムに採用されているにも関わらず、一般的なアプローチは、主に単一タイプの振る舞い(ビューや購入など)をモデル化している。
複数の振る舞いを取り入れた場合でも、既存の方法は不均一なアクションを均質なトークンシーケンスに平らにし、それぞれの決定の役割を無視する。
このフラット化は、価格と品質のトレードオフのような複雑な意思決定における意味的階層や文脈的ニュアンスを捉えることに失敗する。
その結果、非常に類似したアイテムを含む‘difficult-choice’という重要なシナリオでパフォーマンスが低下する。
このギャップを埋めるために、明示的な構造化された決定証拠を根拠として、MARI(Memory-Augmented Recommendation with Interpretability)を提案する。
MARIは、ユーザの過去の論理を構造化決定記憶(Structured Decision Memories、SDM)としてアーカイブする決定記憶銀行(DMB)を維持している。
これらのSDMは、異種行動とユーザ生成コンテンツからポストホック決定蒸留を介してオフラインで生成される。
関連SDMを検索してLLM推論を増大させることにより、MARIは長い生の配列を処理することの禁止コストを伴わずに、解釈性とスケーラビリティを実現する。
大規模な実験により、MARIは、標準的な次世代予測と新しく導入されたDifficult Choice Predictionタスクで最先端のベースラインを大幅に上回り、オンライン推論からメモリ構築を分離することでレイテンシーのオーバーヘッドを低くすることを示した。
質的な分析により、ユーザの意思決定に対する実用的な、人間可読な洞察が明らかとなり、推論対応レコメンデーションシステムへの具体的な一歩が示される。
関連論文リスト
- Learning What to Remember: Observability-Safe Memory Retention via Constrained Optimization for Long-Horizon Language Agents [16.193335398478386]
ロングホライゾンの言語エージェントは、観測、トレースの推論、および検索された事実のウィンドウを蓄積する。
既存のシステムは、保持を局所的に扱い、可観測性制約の下での長期的な影響をモデル化しない。
我々は,オンライン・オブザーバブル機能とオフライン・アベイラビリティ・インスペクションの厳格な分離を強制する学習強化フレームワークOSL-MRを提案する。
論文 参考訳(メタデータ) (2026-06-09T09:15:33Z) - MIITA: Memory-Induced Inference-Time Adaptation for Continual Learning with Small Language Models [64.2820121997882]
MIITAはメモリ駆動型推論時間適応フレームワークである。
教師付きエクスペリエンスをセマンティックアンカーを備えたコンパクトな修正指向プロトタイプとして格納し、セマンティックおよび不確実性ベースのキューを使用して推論時にそれらを検索する。
実験により、MIITAは最終性能を継続的に改善し、固定メモリの予算下での忘れを軽減している。
論文 参考訳(メタデータ) (2026-05-20T03:03:04Z) - DecisionLLM: Large Language Models for Long Sequence Decision Exploration [26.033533195580933]
大規模言語モデル(LLM)は複雑な推論や計画タスクにおいて顕著な成功を収めた。
本研究では,LLMのオフライン意思決定タスクへの適用について検討する。
トラジェクトリデータを自然言語のタスク記述と整合させることで、我々のモデルは将来的な決定を自動回帰的に予測できる。
論文 参考訳(メタデータ) (2026-01-15T07:42:02Z) - Beyond Heuristics: A Decision-Theoretic Framework for Agent Memory Management [49.71055327567513]
メモリ管理は、不確実性の下でのシーケンシャルな意思決定問題と見なされるべきである。
私たちの貢献は、新しいアルゴリズムではなく、アプローチの限界を明確にする原則的なリフレーミングです。
論文 参考訳(メタデータ) (2025-12-25T08:23:03Z) - Towards Large Language Models with Self-Consistent Natural Language Explanations [11.085839471231552]
大きな言語モデル(LLM)は、解釈容易なパスを提供するようだ。
しかし、研究によると、これらのポストホックな説明は真の決定過程を誤って表現していることが多い。
論文 参考訳(メタデータ) (2025-06-09T08:06:33Z) - Breaking Determinism: Fuzzy Modeling of Sequential Recommendation Using Discrete State Space Diffusion Model [66.91323540178739]
シークエンシャルレコメンデーション(SR)は、ユーザーが過去の行動に基づいて興味を持つかもしれない項目を予測することを目的としている。
我々はSRを新しい情報理論の観点から再検討し、逐次モデリング手法がユーザの行動のランダム性と予測不可能性を適切に把握できないことを発見した。
ファジィ情報処理理論に触発された本論文では,制限を克服し,ユーザの関心事の進化をよりよく捉えるために,ファジィなインタラクションシーケンスの組を導入する。
論文 参考訳(メタデータ) (2024-10-31T14:52:01Z) - Making Large Language Models Better Planners with Reasoning-Decision Alignment [70.5381163219608]
マルチモーダリティ強化LLMに基づくエンドツーエンド意思決定モデルを提案する。
ペア化されたCoTと計画結果との推論・決定アライメントの制約を提案する。
提案する大規模言語プランナをRDA-Driverとして推論・決定アライメントする。
論文 参考訳(メタデータ) (2024-08-25T16:43:47Z) - MR-Ben: A Meta-Reasoning Benchmark for Evaluating System-2 Thinking in LLMs [55.20845457594977]
大規模言語モデル(LLM)は、問題解決と意思決定の能力の向上を示している。
本稿ではメタ推論技術を必要とするプロセスベースのベンチマークMR-Benを提案する。
メタ推論のパラダイムは,システム2のスロー思考に特に適しています。
論文 参考訳(メタデータ) (2024-06-20T03:50:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。