論文の概要: MVMoE: Multi-Task Vehicle Routing Solver with Mixture-of-Experts

• arxiv url: http://arxiv.org/abs/2405.01029v2
• Date: Mon, 6 May 2024 11:35:57 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-07 12:36:45.051983
• Title: MVMoE: Multi-Task Vehicle Routing Solver with Mixture-of-Experts
• Title（参考訳）: MVMoE:Mixture-of-Expertsを用いたマルチタスク車両ルーティングソリューション
• Authors: Jianan Zhou, Zhiguang Cao, Yaoxin Wu, Wen Song, Yining Ma, Jie Zhang, Chi Xu,
• Abstract要約: MRMoE(Mixed-of-experts)を用いたマルチタスク車両ルーティング解法を提案する。 我々はMVMoEの階層的ゲーティング機構を開発し、経験的性能と計算複雑性のトレードオフを良好に提供する。 実験により,本手法は10種類のVRPのゼロショット一般化性能を著しく向上させる。
• 参考スコア（独自算出の注目度）: 26.790392171537754
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Learning to solve vehicle routing problems (VRPs) has garnered much attention. However, most neural solvers are only structured and trained independently on a specific problem, making them less generic and practical. In this paper, we aim to develop a unified neural solver that can cope with a range of VRP variants simultaneously. Specifically, we propose a multi-task vehicle routing solver with mixture-of-experts (MVMoE), which greatly enhances the model capacity without a proportional increase in computation. We further develop a hierarchical gating mechanism for the MVMoE, delivering a good trade-off between empirical performance and computational complexity. Experimentally, our method significantly promotes zero-shot generalization performance on 10 unseen VRP variants, and showcases decent results on the few-shot setting and real-world benchmark instances. We further conduct extensive studies on the effect of MoE configurations in solving VRPs, and observe the superiority of hierarchical gating when facing out-of-distribution data. The source code is available at: https://github.com/RoyalSkye/Routing-MVMoE.
• Abstract（参考訳）: 車両ルーティング問題(VRP)を解決するための学習は、多くの注目を集めている。 しかし、ほとんどのニューラルソルバは特定の問題に対して独立して構成され、訓練されているだけで、より汎用的で実践的ではない。 本稿では,VRPの変種を同時に扱える統一型ニューラルソルバを開発することを目的とする。 具体的には,Mix-of-experts (MVMoE) を用いたマルチタスク車両ルーティング方式を提案する。 さらに,MVMoEの階層的ゲーティング機構を開発し,経験的性能と計算複雑性の良好なトレードオフを提供する。 実験により,10のVRP変種に対してゼロショットの一般化性能を著しく向上させ,少数の設定と実世界のベンチマークインスタンスに対して良好な結果を示す。 さらに,VRPの解法におけるMoE構成の影響について広範な研究を行い,分布外データに直面する場合の階層的ゲーティングの優位性について検討した。 ソースコードは、https://github.com/RoyalSkye/Routing-MVMoE.comで入手できる。

関連論文リスト

• FactorLLM: Factorizing Knowledge via Mixture of Experts for Large Language Models [50.331708897857574]
  本稿では,高度に訓練された高密度FFNを余分なサブネットワークに分解する新しいアプローチであるFacterLLMを紹介する。 FactorLLMは、最大85%のモデル性能を確保しながら、推論速度を30%以上増加させながら、ソースモデルに匹敵するパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-08-15T16:45:16Z)
• Towards Efficient Pareto Set Approximation via Mixture of Experts Based Model Fusion [53.33473557562837]
  大規模深層ニューラルネットワークに対する多目的最適化問題を解くことは、損失ランドスケープの複雑さと高価な計算コストのために難しい課題である。 本稿では,専門家(MoE)をベースとしたモデル融合を用いて,この問題を実用的でスケーラブルに解決する手法を提案する。 特殊な単一タスクモデルの重みをまとめることで、MoEモジュールは複数の目的間のトレードオフを効果的に捉えることができる。
  論文  参考訳（メタデータ） (2024-06-14T07:16:18Z)
• Cross-Problem Learning for Solving Vehicle Routing Problems [24.212686893913826]
  既存のニューラルネットワークは、特定の車両ルーティング問題(VRP)に対して、スクラッチから深いアーキテクチャを訓練することが多い。 本稿では,異なる下流VRP変種に対するトレーニングを実証的に支援するクロスプロブレム学習を提案する。
  論文  参考訳（メタデータ） (2024-04-17T18:17:50Z)
• Learning to Deliver: a Foundation Model for the Montreal Capacitated Vehicle Routing Problem [5.295700401553376]
  モントリオール静電容量車両ルーティング問題(FM-MCVRP)の基礎モデルについて述べる。 FM-MCVRPは、キャパシタント車両ルーティング問題(CVRP)の変種に対する高品質な解を近似する新しいディープラーニング(DL)モデルである。 FM-MCVRP はトレーニングデータよりも優れた MCVRP ソリューションを生成し,トレーニング中に見られない大規模問題に一般化することを示した。
  論文  参考訳（メタデータ） (2024-02-28T16:02:29Z)
• Multi-Task Learning for Routing Problem with Cross-Problem Zero-Shot Generalization [18.298695520665348]
  車両ルーティング問題(VRP)は多くの現実世界のアプリケーションで見られる。 本研究では,クロスプロブレム一般化という重要な課題に取り組むための最初の試みを行う。 提案モデルでは、ゼロショットの一般化方式で、見当たらない属性の組み合わせでVRPを解くことができる。
  論文  参考訳（メタデータ） (2024-02-23T13:25:23Z)
• A Multi-Head Ensemble Multi-Task Learning Approach for Dynamical Computation Offloading [62.34538208323411]
  共有バックボーンと複数の予測ヘッド(PH)を組み合わせたマルチヘッドマルチタスク学習(MEMTL)手法を提案する。 MEMTLは、追加のトレーニングデータを必要とせず、推測精度と平均平方誤差の両方でベンチマーク手法より優れている。
  論文  参考訳（メタデータ） (2023-09-02T11:01:16Z)
• Towards Omni-generalizable Neural Methods for Vehicle Routing Problems [14.210085924625705]
  本稿では,VRPにおけるサイズと分布の両面での一般化を考慮した,挑戦的かつ現実的な設定について検討する。 提案するメタラーニングフレームワークは,推論中に新しいタスクに迅速に適応する能力を持つモデルを効果的に学習することを可能にする。
  論文  参考訳（メタデータ） (2023-05-31T06:14:34Z)
• Reinforcement Learning for Branch-and-Bound Optimisation using Retrospective Trajectories [72.15369769265398]
  機械学習は分岐のための有望なパラダイムとして登場した。 分岐のための単純かつ効果的なRLアプローチであるレトロ分岐を提案する。 我々は現在最先端のRL分岐アルゴリズムを3～5倍に上回り、500の制約と1000の変数を持つMILP上での最高のILメソッドの性能の20%以内である。
  論文  参考訳（メタデータ） (2022-05-28T06:08:07Z)
• Progressive Multi-stage Interactive Training in Mobile Network for Fine-grained Recognition [8.727216421226814]
  再帰型モザイク発電機(RMG-PMSI)を用いたプログレッシブ多段階インタラクティブトレーニング手法を提案する。 まず、異なる位相の異なる画像を生成する再帰モザイク発生器(RMG)を提案する。 次に、異なるステージの特徴は、異なるステージの対応する特徴を強化し補完するマルチステージインタラクション(MSI)モジュールを通過する。 RMG-PMSIは高い堅牢性と伝達性で性能を大幅に向上させることができる。
  論文  参考訳（メタデータ） (2021-12-08T10:50:03Z)
• Efficient Model-Based Multi-Agent Mean-Field Reinforcement Learning [89.31889875864599]
  マルチエージェントシステムにおける学習に有効なモデルベース強化学習アルゴリズムを提案する。 我々の理論的な貢献は、MFCのモデルベース強化学習における最初の一般的な後悔の限界である。 コア最適化問題の実用的なパラメトリゼーションを提供する。
  論文  参考訳（メタデータ） (2021-07-08T18:01:02Z)
• Model Fusion via Optimal Transport [64.13185244219353]
  ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。 これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
  論文  参考訳（メタデータ） (2019-10-12T22:07:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。