論文の概要: LaT: LLM-as-Trainer for Multi-Task Vehicle Routing Solvers

• arxiv url: http://arxiv.org/abs/2607.17708v1
• Date: Mon, 20 Jul 2026 09:02:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-21 18:48:37.55733
• Title: LaT: LLM-as-Trainer for Multi-Task Vehicle Routing Solvers
• Title（参考訳）: LLM-as-Trainer for Multi-Task Vehicle Routing Solvers (特集:LLM-as-Trainer)
• Authors: Yang Wang, Ya-Hui Jia, Wei-Neng Chen, Yi Mei, Wen Song, Zhiguang Cao,
• Abstract要約: LLM-as-Trainer (LaT) は、訓練済みの大規模言語モデルを外部トレーナーとして使用するプラグイン・アンド・プレイのトレーニングパラダイムである。 LaTは定期的にクロスタスク検証メトリクスを分析して、ステージワイズガイダンスベクターを生成する。 16のVRP変種に対する実験により、LaTは訓練された変種と目に見えない変種の両方において、最先端のマルチタスクニューラルソルバのソリューション品質を改善することが示された。
• 参考スコア（独自算出の注目度）: 38.3136053148872
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-task neural solvers aim to handle multiple Vehicle Routing Problem (VRP) variants within a unified model, avoiding separate training for each constraint combination. However, VRP variants differ in optimization difficulty, while existing methods lack stage-wise feedback on their training status, making the model biased to some specific variants. Although meta-learning can support adaptive training, it typically requires bi-level optimization and additional gradient updates, increasing computational cost. To address this limitation, we propose LLM-as-Trainer (LaT), a plug-and-play training paradigm that uses a pretrained large language model as an external trainer. LaT periodically analyzes cross-task validation metrics to generate a stage-wise guidance vector. This vector is combined with the current task's constraint vector and injected into each encoder layer, providing the neural solver with additional training information during subsequent policy optimization. Experiments on 16 VRP variants show that LaT improves the solution quality of several state-of-the-art multi-task neural solvers on both trained and unseen variants, supporting the effectiveness and generality of the proposed training paradigm.
• Abstract（参考訳）: マルチタスクニューラルソルバは、統一モデル内で複数の車両ルーティング問題(VRP)を扱い、各制約の組み合わせに対する個別のトレーニングを避けることを目的としている。 しかし、VRPの変種は最適化の難しさが異なるが、既存の手法ではトレーニングステータスに対する段階的なフィードバックがなく、モデルが特定の変種に偏っている。 メタラーニングは適応トレーニングをサポートすることができるが、通常は二段階最適化と追加の勾配更新を必要とし、計算コストが増大する。 この制限に対処するために,プレトレーニング済みの大規模言語モデルを外部トレーナーとして使用するプラグイン・アンド・プレイのトレーニングパラダイムであるLLM-as-Trainer(LaT)を提案する。 LaTは定期的にクロスタスク検証メトリクスを分析して、ステージワイズガイダンスベクターを生成する。 このベクトルは現在のタスクの制約ベクトルと結合され、各エンコーダ層に注入され、その後のポリシー最適化中に追加のトレーニング情報を提供する。 16のVRP変種に対する実験により、LaTはトレーニングと見えない変種の両方において、最先端のマルチタスクニューラルネットワークのソリューション品質を改善し、提案されたトレーニングパラダイムの有効性と汎用性をサポートすることが示された。

関連論文リスト

• MTL-KD: Multi-Task Learning Via Knowledge Distillation for Generalizable Neural Vehicle Routing Solver [20.386780842875442]
  本研究は知識蒸留(MTL-KD)による新しいマルチタスク学習手法を提案する。 提案手法は,複数の異なるRLベースの単一タスクモデルから単一重デコーダモデルへのポリシー知識の転送,ラベルなしトレーニング,多種多様なタスクにおけるモデルの一般化能力の向上を効果的に行う。 最大1000ノードのVRP変異体6種と10種のVRP変異体に対する実験結果から,提案手法が一様および実世界のベンチマークにおいて常に優れた性能を発揮することが示された。
  論文  参考訳（メタデータ） (2025-06-03T14:35:36Z)
• AutoHete: An Automatic and Efficient Heterogeneous Training System for LLMs [68.99086112477565]
  トランスフォーマーベースの大規模言語モデル(LLM)は、シーケンスモデリングやテキスト生成において例外的な機能を示した。 既存の異種トレーニング手法は、トレーニング可能なモデルの規模を大幅に拡大するが、かなりの通信オーバーヘッドとCPUワークロードを導入している。 本稿では,シングルGPU環境とマルチGPU環境の両方に互換性のある,自動的で効率的なヘテロジニアストレーニングシステムであるAutoHeteを提案する。
  論文  参考訳（メタデータ） (2025-02-27T14:46:22Z)
• ATE-SG: Alternate Through the Epochs Stochastic Gradient for Multi-Task Neural Networks [44.99833362998488]
  本稿では,ハードパラメータ共有マルチタスクニューラルネットワーク(MTNN)のための新しい代替トレーニング手法を提案する。 提案した代替トレーニング手法では,タスク固有の重みをエポックを通じて交互に更新し,モデルのマルチヘッドアーキテクチャを活用する。 実証実験では、訓練の正規化と計算要求の削減が実証された。
  論文  参考訳（メタデータ） (2023-12-26T21:33:03Z)
• A Multi-Head Ensemble Multi-Task Learning Approach for Dynamical Computation Offloading [62.34538208323411]
  共有バックボーンと複数の予測ヘッド(PH)を組み合わせたマルチヘッドマルチタスク学習(MEMTL)手法を提案する。 MEMTLは、追加のトレーニングデータを必要とせず、推測精度と平均平方誤差の両方でベンチマーク手法より優れている。
  論文  参考訳（メタデータ） (2023-09-02T11:01:16Z)
• Effective Adaptation in Multi-Task Co-Training for Unified Autonomous Driving [103.745551954983]
  本稿では,3つの下流タスクにおけるMoCoやSimCLRなど,多種多様な自己監督手法の転送性能について検討する。 彼らのパフォーマンスは、サブ最適か、あるいはシングルタスクベースラインよりもはるかに遅れていることに気付きました。 汎用マルチタスクトレーニングのための,単純かつ効果的な事前訓練-適応-ファインチューンパラダイムを提案する。
  論文  参考訳（メタデータ） (2022-09-19T12:15:31Z)
• UPDeT: Universal Multi-agent Reinforcement Learning via Policy Decoupling with Transformers [108.92194081987967]
  タスクに適合する1つのアーキテクチャを設計し、汎用的なマルチエージェント強化学習パイプラインを最初に試行する。 従来のRNNモデルとは異なり、トランスフォーマーモデルを用いてフレキシブルなポリシーを生成する。 提案方式はUPDeT(Universal Policy Decoupling Transformer)と名付けられ,動作制限を緩和し,マルチエージェントタスクの決定プロセスをより説明しやすいものにする。
  論文  参考訳（メタデータ） (2021-01-20T07:24:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。