論文の概要: MILES: Modular Instruction Memory with Learnable Selection for Self-Improving LLM Reasoning

• arxiv url: http://arxiv.org/abs/2607.06974v1
• Date: Wed, 08 Jul 2026 03:51:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-09 22:50:30.277316
• Title: MILES: Modular Instruction Memory with Learnable Selection for Self-Improving LLM Reasoning
• Title（参考訳）: MILES: 自己改善LDM推論のための学習可能な選択付きモジュラインストラクションメモリ
• Abstract要約: MILESは、ステップワイズメモリを動的に拡張し、現実的なテスト時間制約の下で正確性に最適化されたメモリ構成を適用するフレームワークである。 MILESは、優れた精度と効率のトレードオフを達成しつつ、従来手法と一貫して一致または性能を向上する。
• 参考スコア（独自算出の注目度）: 17.668597279485407
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) increasingly improve their reasoning at test time via additional computation, yet most existing works treat each problem in isolation. When problems arrive sequentially, accumulating reusable experience across them can further improve performance. Existing memory-based methods either store whole-solution templates that generalize poorly to novel problems or use heuristic step-level selection that is not optimized for final-answer correctness. Learning selection policies requires large-scale training data and fixed action spaces, making such approaches unsuitable for test-time settings where memory expands incrementally and only limited supervision is available. We propose MILES (Modular Instruction Memory with LEarnable Selection for self-improving LLM reasoning), a framework that dynamically expands step-wise memory and applies correctness-optimized memory composition under realistic test-time constraints. MILES maintains modular memory units consisting of asymmetric pairs of sub-goal embeddings and sub-instructions, each associated with a learnable selection head. This memory structure enables a coarse-to-fine retrieval mechanism: The coarse level enables memory expansion and collects supervision for training selection heads from confident samples, while the fine stage applies learned selection heads to rerank coarse-level candidates and guide reasoning for uncertain samples. MILES consistently matches or outperforms prior methods while achieving superior accuracy-efficiency tradeoffs. Extensive experiments demonstrate its effectiveness, robustness, and transferability.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、追加の計算によってテスト時の推論を改善するが、既存のほとんどの研究はそれぞれの問題を分離して扱う。 問題が順次やってくると、再利用可能なエクスペリエンスを蓄積することで、パフォーマンスがさらに向上する。 既存のメモリベースの手法では、新しい問題に難解な解法テンプレートを格納するか、最終回答の正しさに最適化されていないヒューリスティックなステップレベルの選択を使用するかのどちらかである。 学習選択ポリシは大規模なトレーニングデータと固定アクションスペースを必要とするため、メモリが漸進的に拡張され、限られた監視しかできないテスト時間設定には適さない。 MILES(Modular Instruction Memory with LEarnable Selection for self-improving LLM reasoning)を提案する。 MILESは、非対称なサブゴール埋め込みとサブ命令からなるモジュラーメモリユニットを維持し、それぞれが学習可能な選択ヘッドに関連付けられている。 粗いレベルは、メモリ拡張を可能にし、自信のあるサンプルから選択ヘッドを訓練するための監督を収集する一方、微細なステージでは、学習された選択ヘッドを適用して、粗いレベルの候補をリランクし、不確実なサンプルをガイドする。 MILESは、優れた精度と効率のトレードオフを達成しつつ、従来手法と一貫して一致または性能を向上する。 大規模な実験は、その有効性、堅牢性、および伝達性を示す。

関連論文リスト

• Verifiable Memory: Learning Unified Memory Management with Local and Global Verifiers for Large Language Model Agents [12.763061404384601]
  大規模言語モデル(LLM)エージェントは、再利用可能な情報を保持し、有界な活動コンテキストを制御し、長い水平相互作用の間、以前の証拠を回復しなければならない。 本稿では,LTM,アクティブコンテキスト,エピソード履歴を異なる状態として表現し,一つのメモリ操作ポリシで制御するフレームワークであるVerMemを提案する。
  論文  参考訳（メタデータ） (2026-08-04T05:06:24Z)
• Unifying Data, Memory, and Compute Efficiency in LLM training: A Survey [14.047214709513135]
  この調査は制約中心の視点を採用し、データ効率(トレーニング方法)、メモリ効率(トレーニングの適合方法)、予算意識(FLOPの使用場所)の3つのボトルネックに関する最近の進捗を整理する。 我々は、優れたデータの異なる概念が異なる体制で支配されているという新たな証拠を強調し、最適なサブセットは普遍的ではなく、タスク目標とリソース予算に依存していることを示唆している。 我々は、最適化、データ選択、復号化が有限なFLOP予算を明示的に考慮しなければならない計算統治プロセスとしてのトレーニングと推論の枠組みを定めている。
  論文  参考訳（メタデータ） (2026-06-09T11:09:58Z)
• Learning What to Remember: Observability-Safe Memory Retention via Constrained Optimization for Long-Horizon Language Agents [16.193335398478386]
  ロングホライゾンの言語エージェントは、観測、トレースの推論、および検索された事実のウィンドウを蓄積する。 既存のシステムは、保持を局所的に扱い、可観測性制約の下での長期的な影響をモデル化しない。 我々は,オンライン・オブザーバブル機能とオフライン・アベイラビリティ・インスペクションの厳格な分離を強制する学習強化フレームワークOSL-MRを提案する。
  論文  参考訳（メタデータ） (2026-06-09T09:15:33Z)
• MIITA: Memory-Induced Inference-Time Adaptation for Continual Learning with Small Language Models [64.2820121997882]
  MIITAはメモリ駆動型推論時間適応フレームワークである。 教師付きエクスペリエンスをセマンティックアンカーを備えたコンパクトな修正指向プロトタイプとして格納し、セマンティックおよび不確実性ベースのキューを使用して推論時にそれらを検索する。 実験により、MIITAは最終性能を継続的に改善し、固定メモリの予算下での忘れを軽減している。
  論文  参考訳（メタデータ） (2026-05-20T03:03:04Z)
• GoTTA be Diverse: Rethinking Memory Policies for Test-Time Adaptation [54.70334474895361]
  テスト時間適応(TTA)は、事前訓練されたモデルが、分散シフトの下でラベルのないテストストリームにオンラインで適応できるようにする。 ほとんどのTTA研究は適応の目的に焦点を当てているが、実用的なストリームはどのサンプルが適応を駆動するかを選択するのに使用されるメモリにも大きく依存している。 本稿では,クラスバランスアロケーションと特徴空間の多様性を組み合わせた多様性を考慮したメモリポリシーであるGOTTAについて紹介する。
  論文  参考訳（メタデータ） (2026-05-19T14:18:46Z)
• Is One Score Enough? Rethinking the Evaluation of Sequentially Evolving LLM Memory [50.857546269660276]
  本稿では,大規模言語モデル(LLM)メモリを逐次進化させる診断評価フレームワークであるSeqMem-Evalを紹介する。 最終的なパフォーマンスのみに焦点を当てるのではなく、SeqMem-Evalは、シーケンシャル推論において、メモリ状態がどのように進化し、一般化し、エクスペリエンスを集約し、有用な情報を保持するかを評価する。
  論文  参考訳（メタデータ） (2026-05-14T20:15:22Z)
• NextMem: Towards Latent Factual Memory for LLM-based Agents [58.35585202907478]
  NextMemは、自動回帰型オートエンコーダを使用して、潜時メモリを効率的に構築する、潜時ファクトメモリフレームワークである。 大規模な実験は、NextMemが優れたパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2026-02-26T14:35:27Z)
• Fine-Mem: Fine-Grained Feedback Alignment for Long-Horizon Memory Management [63.48041801851891]
  Fine-Memは、きめ細かいフィードバックアライメントのために設計された統一されたフレームワークである。 MemalphaとMemoryAgentBenchの実験は、Fin-Memが強いベースラインを一貫して上回ることを示した。
  論文  参考訳（メタデータ） (2026-01-13T11:06:17Z)
• Learn to Memorize: Optimizing LLM-based Agents with Adaptive Memory Framework [33.739298910759544]
  メモリサイクルをモデル化し,適応型・データ駆動型メモリフレームワークを用いたLCMエージェントの最適化を提案する。 具体的には、メモリ検索を容易にするためのMoEゲート関数を設計し、メモリ利用を改善するための学習可能な集約プロセスを提案し、メモリ記憶に適応するためのタスク固有のリフレクションを開発する。
  論文  参考訳（メタデータ） (2025-08-15T12:22:52Z)
• PARMESAN: Parameter-Free Memory Search and Transduction for Dense Prediction Tasks [5.5127111704068374]
  この研究は、トランスダクティブ推論によるディープラーニングの柔軟性に対処する。 我々は,高密度予測タスクを解くためにメモリモジュールを活用するスケーラブルな手法であるPARMESANを提案する。 提案手法は,一般的なアーキテクチャと互換性があり,標準で1D,2D,3Dグリッドベースのデータに転送する。
  論文  参考訳（メタデータ） (2024-03-18T12:55:40Z)
• Revisiting Zeroth-Order Optimization for Memory-Efficient LLM Fine-Tuning: A Benchmark [166.40879020706151]
  本稿では、微調整時のメモリコスト低減のためのソリューションとして、BPフリーゼロオーダー最適化(ZO)への移行を提案する。 従来のZO-SGD法とは異なり、我々の研究はより広い範囲のZO最適化手法に探索を広げる。 本研究は,タスクアライメントの重要性,前方勾配法の役割,アルゴリズムの複雑さと微調整性能のバランスについて,これまで見過ごされてきた最適化原理を明らかにした。
  論文  参考訳（メタデータ） (2024-02-18T14:08:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。