論文の概要: Evaluating Curriculum Learning Strategies in Neural Combinatorial
Optimization
- arxiv url: http://arxiv.org/abs/2011.06188v1
- Date: Thu, 12 Nov 2020 04:21:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-26 06:13:01.764985
- Title: Evaluating Curriculum Learning Strategies in Neural Combinatorial
Optimization
- Title(参考訳): ニューラルコンビネータ最適化におけるカリキュラム学習戦略の評価
- Authors: Michal Lisicki, Arash Afkanpour, Graham W. Taylor
- Abstract要約: NCOは問題解決のために、問題に依存しない効率的なニューラルネットワークベースの戦略を設計することを目指している。
現在のアプローチの欠点の1つは、複数の問題サイズのトレーニングの非効率性である。
本研究では、既存のアーキテクチャが競争力のある性能を達成するのに役立つカリキュラムベースのトレーニング手順を設計することに焦点を当てる。
- 参考スコア(独自算出の注目度): 15.398857578319435
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural combinatorial optimization (NCO) aims at designing problem-independent
and efficient neural network-based strategies for solving combinatorial
problems. The field recently experienced growth by successfully adapting
architectures originally designed for machine translation. Even though the
results are promising, a large gap still exists between NCO models and classic
deterministic solvers, both in terms of accuracy and efficiency. One of the
drawbacks of current approaches is the inefficiency of training on multiple
problem sizes. Curriculum learning strategies have been shown helpful in
increasing performance in the multi-task setting. In this work, we focus on
designing a curriculum learning-based training procedure that can help existing
architectures achieve competitive performance on a large range of problem sizes
simultaneously. We provide a systematic investigation of several training
procedures and use the insights gained to motivate application of a
psychologically-inspired approach to improve upon the classic curriculum
method.
- Abstract(参考訳): neural combinatorial optimization(nco)は、問題に依存しない効率的なニューラルネットワークに基づくコンビネーション問題を解決する戦略を設計することを目的としている。
この分野は最近、元々機械翻訳用に設計されたアーキテクチャをうまく適応させることで成長を経験した。
結果は有望だが、精度と効率の両面で、NCOモデルと古典的決定論的解法の間には大きなギャップが残っている。
現在のアプローチの欠点の1つは、複数の問題サイズのトレーニングの非効率性である。
カリキュラム学習戦略は、マルチタスク環境でのパフォーマンス向上に役立つことが示されている。
本研究では,既存のアーキテクチャが幅広い問題サイズで同時に競争性能を達成するのに役立つカリキュラム学習に基づく学習手順の設計に着目する。
本稿では,いくつかのトレーニング手順を体系的に調査し,古典的なカリキュラム手法を改善するための心理的なアプローチの適用を動機づけるために得られた知見を利用する。
関連論文リスト
- Offline reinforcement learning for job-shop scheduling problems [1.3927943269211593]
本稿では,複雑な制約を伴う最適化問題に対して,新しいオフラインRL法を提案する。
我々のアプローチは、エッジ属性のアクションを符号化し、専門家ソリューションの模倣と期待される報酬のバランスをとる。
本手法がジョブショップスケジューリングおよびフレキシブルジョブショップスケジューリングベンチマークに与える影響を実証する。
論文 参考訳(メタデータ) (2024-10-21T07:33:42Z) - Decision-focused Graph Neural Networks for Combinatorial Optimization [62.34623670845006]
最適化問題に取り組むための新たな戦略は、従来のアルゴリズムに代わるグラフニューラルネットワーク(GNN)の採用である。
GNNや従来のアルゴリズムソルバがCOの領域で人気が高まっているにもかかわらず、それらの統合利用とエンドツーエンドフレームワークにおけるそれらの相関について限定的な研究がなされている。
我々は、GNNを利用してCO問題に補助的なサポートで対処する決定に焦点を当てたフレームワークを導入する。
論文 参考訳(メタデータ) (2024-06-05T22:52:27Z) - Instance-Conditioned Adaptation for Large-scale Generalization of Neural Combinatorial Optimization [15.842155380912002]
本研究は,ニューラル最適化の大規模一般化のための新しいインスタンス・コンディション適応モデル(ICAM)を提案する。
特に,NCOモデルのための強力なインスタンス条件付きルーティング適応モジュールを設計する。
我々は,ラベル付き最適解を使わずに,モデルがクロススケールな特徴を学習することのできる,効率的な3段階強化学習ベーストレーニング手法を開発した。
論文 参考訳(メタデータ) (2024-05-03T08:00:19Z) - An Efficient Learning-based Solver Comparable to Metaheuristics for the
Capacitated Arc Routing Problem [67.92544792239086]
我々は,高度メタヒューリスティックスとのギャップを著しく狭めるため,NNベースの解法を導入する。
まず,方向対応型注意モデル(DaAM)を提案する。
第2に、教師付き事前学習を伴い、堅牢な初期方針を確立するための教師付き強化学習スキームを設計する。
論文 参考訳(メタデータ) (2024-03-11T02:17:42Z) - Efficient Meta Neural Heuristic for Multi-Objective Combinatorial
Optimization [35.09656455088854]
本稿では,多目的最適化問題を解くために,効率的なメタニューラルベクトル(EMNH)を提案する。
EMNHは、ソリューションの品質と学習効率の点で最先端のニューラルネットワークより優れている。
論文 参考訳(メタデータ) (2023-10-22T08:59:02Z) - On the Generalization of Neural Combinatorial Optimization Heuristics [0.7049738935364298]
提案手法は,2つの最先端モデルの一般化を著しく改善することを示す。
我々は、個別の学習課題として、与えられたインスタンス分布上でのCO問題の解法を定式化する。
新しいタスクに適応する能力の最適化を目的として,様々なタスクのモデル学習のためのメタラーニング手法について検討する。
論文 参考訳(メタデータ) (2022-06-01T22:39:35Z) - Neural Combinatorial Optimization: a New Player in the Field [69.23334811890919]
本稿では,ニューラルネットワークに基づくアルゴリズムの古典的最適化フレームワークへの導入に関する批判的分析を行う。
性能, 転送可能性, 計算コスト, 大規模インスタンスなど, これらのアルゴリズムの基本的側面を分析するために, 総合的研究を行った。
論文 参考訳(メタデータ) (2022-05-03T07:54:56Z) - Efficient Model-Based Multi-Agent Mean-Field Reinforcement Learning [89.31889875864599]
マルチエージェントシステムにおける学習に有効なモデルベース強化学習アルゴリズムを提案する。
我々の理論的な貢献は、MFCのモデルベース強化学習における最初の一般的な後悔の限界である。
コア最適化問題の実用的なパラメトリゼーションを提供する。
論文 参考訳(メタデータ) (2021-07-08T18:01:02Z) - Deep Multi-Task Learning for Cooperative NOMA: System Design and
Principles [52.79089414630366]
我々は,近年のディープラーニング(DL)の進歩を反映した,新しいディープ・コラボレーティブなNOMAスキームを開発する。
我々は,システム全体を包括的に最適化できるように,新しいハイブリッドカスケードディープニューラルネットワーク(DNN)アーキテクチャを開発した。
論文 参考訳(メタデータ) (2020-07-27T12:38:37Z) - Learning to Stop While Learning to Predict [85.7136203122784]
多くのアルゴリズムにインスパイアされたディープモデルは全ての入力に対して固定深度に制限される。
アルゴリズムと同様に、深いアーキテクチャの最適深さは、異なる入力インスタンスに対して異なるかもしれない。
本稿では, ステアブルアーキテクチャを用いて, この様々な深さ問題に対処する。
学習した深層モデルと停止ポリシーにより,多様なタスクセットのパフォーマンスが向上することを示す。
論文 参考訳(メタデータ) (2020-06-09T07:22:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。