論文の概要: MiLoop: Selective Memory Propagation for Neural Combinatorial Optimization

• arxiv url: http://arxiv.org/abs/2610.01685v1
• Date: Thu, 01 Oct 2026 13:42:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:24.153241
• Title: MiLoop: Selective Memory Propagation for Neural Combinatorial Optimization
• Title（参考訳）: MiLoop:Neural Combinatorial Optimizationのための選択型メモリプロパゲーション
• Abstract要約: Memory-in-the-Loop (MiLoop)は、問題を段階的に最適化するためのソリューションを構築することを学ぶ構築的なフレームワークである。 MiLoopは、現在の埋め込みをアテンションレイヤの前に履歴メモリと融合し、その後に適応ゲート更新を適用する。 実験によると、MiLoopは100万から1000万のノードのインスタンス上で、高品質なソリューションを一貫して生成している。
• 参考スコア（独自算出の注目度）: 5.148446408735684
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Constructive neural combinatorial optimization (NCO) has emerged as a promising paradigm that learns to construct solutions to combinatorial optimization problems (COPs) step by step, which reduces reliance on handcrafted rules and enables fast inference. While many methods with dynamic embeddings generalize well, they typically rebuild subproblem representations from scratch at each step using deep attention stacks. Many high-performing methods in this category rely on solution labels or pseudo-labels for efficient training, or on aggressive search space pruning during reinforcement learning (RL). To address these limitations, we propose Memory-in-the-Loop (MiLoop), a purely RL-based constructive framework that leverages the multi-step computation already required by a rollout for selective memory propagation. Each rollout provides solution-quality feedback for learning while propagating historical representations, thereby enabling a shallow policy to learn effective dynamic embeddings without external solution labels or training-time search-space pruning. Specifically, MiLoop fuses current embeddings with historical memory before the attention layers and applies adaptive gated updates afterward. The updated representations support both current decisions and stepwise reuse. Extensive experiments across four COPs demonstrate that MiLoop consistently produces high-quality solutions on instances ranging from 100 to 10 million nodes, highlighting its strong generalization ability.
• Abstract（参考訳）: 構成的ニューラルネットワーク最適化(NCO)は、手作業によるルールへの依存を低減し、高速な推論を可能にする、組合せ最適化問題(COP)のソリューション構築をステップバイステップで学習する、有望なパラダイムとして登場した。 動的埋め込みを持つ多くのメソッドはよく一般化されるが、一般的に、各ステップで深い注意スタックを使用して、スクラッチからサブプロブレム表現を再構築する。 このカテゴリの多くのハイパフォーマンスな手法は、効率的なトレーニングのためのソリューションラベルや擬似ラベル、強化学習(RL)における攻撃的な探索空間プルーニングに依存している。 これらの制約に対処するために、我々は、選択的なメモリ伝搬のためにロールアウトで既に必要とされているマルチステップ計算を利用する純粋にRLベースの構成的フレームワークであるMemory-in-the-Loop (MiLoop)を提案する。 各ロールアウトは、歴史的表現を伝播しながら学習のためのソリューション品質フィードバックを提供するので、浅いポリシーで、外部のソリューションラベルやトレーニング時間検索スペースプルーニングを使わずに効果的な動的埋め込みを学べる。 具体的には、MiLoopは現在の埋め込みをアテンションレイヤの前に履歴メモリと融合させ、その後に適応ゲート更新を適用する。 更新された表現は、現在の決定と段階的な再利用の両方をサポートする。 4つのCOPにわたる大規模な実験により、MiLoopは100万から1000万のノードのインスタンス上で、高品質なソリューションを一貫して生成し、その強力な一般化能力を強調している。

関連論文リスト

• MILES: Modular Instruction Memory with Learnable Selection for Self-Improving LLM Reasoning [17.668597279485407]
  MILESは、ステップワイズメモリを動的に拡張し、現実的なテスト時間制約の下で正確性に最適化されたメモリ構成を適用するフレームワークである。 MILESは、優れた精度と効率のトレードオフを達成しつつ、従来手法と一貫して一致または性能を向上する。
  論文  参考訳（メタデータ） (2026-07-08T03:51:37Z)
• RECALL: REpresentation-aligned Catastrophic-forgetting ALLeviation via Hierarchical Model Merging [33.22889542330089]
  大規模言語モデル(LLM)の内部表現は、学習知識の信頼できるプロキシとして機能する。 本稿では,過去データにアクセスせずに連続的な学習を行うための表現認識モデル統合フレームワークRECALLを提案する。
  論文  参考訳（メタデータ） (2025-10-23T12:17:37Z)
• A Memory Efficient Randomized Subspace Optimization Method for Training Large Language Models [22.725326215887435]
  本稿では,事前学習および微調整を行う大規模言語モデルのためのランダム化部分空間最適化フレームワークを提案する。 提案手法は,高次元学習問題を一連の低次元サブプロブレムに分解する。 この構造的次元減少により,アクティベーションと状態の両方のメモリ使用量を同時に削減できる。
  論文  参考訳（メタデータ） (2025-02-11T03:32:10Z)
• SHERL: Synthesizing High Accuracy and Efficient Memory for Resource-Limited Transfer Learning [63.93193829913252]
  本稿では,リソース制限シナリオに対するSHERLと呼ばれる革新的なMETL戦略を提案する。 初期経路では、中間出力は反冗長動作によって統合される。 遅延ルートでは、最小限の遅延事前トレーニングされたレイヤを利用することで、メモリオーバーヘッドのピーク需要を軽減できる。
  論文  参考訳（メタデータ） (2024-07-10T10:22:35Z)
• Revisiting Zeroth-Order Optimization for Memory-Efficient LLM Fine-Tuning: A Benchmark [166.40879020706151]
  本稿では、微調整時のメモリコスト低減のためのソリューションとして、BPフリーゼロオーダー最適化(ZO)への移行を提案する。 従来のZO-SGD法とは異なり、我々の研究はより広い範囲のZO最適化手法に探索を広げる。 本研究は,タスクアライメントの重要性,前方勾配法の役割,アルゴリズムの複雑さと微調整性能のバランスについて,これまで見過ごされてきた最適化原理を明らかにした。
  論文  参考訳（メタデータ） (2024-02-18T14:08:48Z)
• Amortizing intractable inference in large language models [56.92471123778389]
  難治性後部分布のサンプルとして, 償却ベイズ推定を用いる。 我々は,LLMファインチューニングの分散マッチングパラダイムが,最大習熟の代替となることを実証的に実証した。 重要な応用として、チェーン・オブ・ソート推論を潜在変数モデリング問題として解釈する。
  論文  参考訳（メタデータ） (2023-10-06T16:36:08Z)
• Large-scale Fully-Unsupervised Re-Identification [78.47108158030213]
  大規模未ラベルデータから学ぶための2つの戦略を提案する。 第1の戦略は、近傍関係に違反することなく、それぞれのデータセットサイズを減らすために、局所的な近傍サンプリングを行う。 第2の戦略は、低時間上限の複雑さを持ち、メモリの複雑さを O(n2) から O(kn) に k n で還元する新しい再帰的手法を利用する。
  論文  参考訳（メタデータ） (2023-07-26T16:19:19Z)
• Reinforcement Learning for Branch-and-Bound Optimisation using Retrospective Trajectories [72.15369769265398]
  機械学習は分岐のための有望なパラダイムとして登場した。 分岐のための単純かつ効果的なRLアプローチであるレトロ分岐を提案する。 我々は現在最先端のRL分岐アルゴリズムを3～5倍に上回り、500の制約と1000の変数を持つMILP上での最高のILメソッドの性能の20%以内である。
  論文  参考訳（メタデータ） (2022-05-28T06:08:07Z)
• Reversible Action Design for Combinatorial Optimization with Reinforcement Learning [35.50454156611722]
  強化学習(rl)は、これらの問題に取り組むための新しいフレームワークとして最近登場した。 最先端の実証性能を示すだけでなく、様々な種類のCOPに一般化する汎用RLフレームワークを提案します。
  論文  参考訳（メタデータ） (2021-02-14T18:05:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。