論文の概要: Pareto Multi-Task Learning
- arxiv url: http://arxiv.org/abs/1912.12854v1
- Date: Mon, 30 Dec 2019 08:58:40 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-17 02:06:12.533744
- Title: Pareto Multi-Task Learning
- Title（参考訳）: paretoのマルチタスク学習
- Authors: Xi Lin, Hui-Ling Zhen, Zhenhua Li, Qingfu Zhang, Sam Kwong
- Abstract要約: マルチタスク学習は複数の相関タスクを同時に解くための強力な方法である。
異なるタスクが互いに衝突する可能性があるため、すべてのタスクを最適化するひとつのソリューションを見つけることは、しばしば不可能である。
近年,マルチタスク学習を多目的最適化として活用することにより,タスク間のトレードオフが良好である1つのパレート最適解を求める方法が提案されている。
- 参考スコア（独自算出の注目度）: 53.90732663046125
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-task learning is a powerful method for solving multiple correlated
tasks simultaneously. However, it is often impossible to find one single
solution to optimize all the tasks, since different tasks might conflict with
each other. Recently, a novel method is proposed to find one single Pareto
optimal solution with good trade-off among different tasks by casting
multi-task learning as multiobjective optimization. In this paper, we
generalize this idea and propose a novel Pareto multi-task learning algorithm
(Pareto MTL) to find a set of well-distributed Pareto solutions which can
represent different trade-offs among different tasks. The proposed algorithm
first formulates a multi-task learning problem as a multiobjective optimization
problem, and then decomposes the multiobjective optimization problem into a set
of constrained subproblems with different trade-off preferences. By solving
these subproblems in parallel, Pareto MTL can find a set of well-representative
Pareto optimal solutions with different trade-off among all tasks.
Practitioners can easily select their preferred solution from these Pareto
solutions, or use different trade-off solutions for different situations.
Experimental results confirm that the proposed algorithm can generate
well-representative solutions and outperform some state-of-the-art algorithms
on many multi-task learning applications.
- Abstract（参考訳）: マルチタスク学習は、複数の相関タスクを同時に解く強力な方法である。
しかしながら、異なるタスクが互いに衝突する可能性があるため、すべてのタスクを最適化する単一のソリューションを見つけることはしばしば不可能である。
近年,マルチタスク学習を多目的最適化として活用することにより,タスク間のトレードオフが良好である1つのパレート最適解を求める方法が提案されている。
本稿では,この概念を一般化し,異なるタスク間で異なるトレードオフを表現できる分散paretoソリューションのセットを探索するために,新しいpareto multi-task learningアルゴリズム(pareto mtl)を提案する。
提案手法は,まずマルチタスク学習問題を多目的最適化問題として定式化し,その後,多目的最適化問題をトレードオフ選択の異なる制約付き部分問題に分解する。
これらのサブプロブレムを並列に解くことで、パレート MTL は全てのタスクで異なるトレードオフを持つよく表現可能なパレート最適解の集合を見つけることができる。
実践者はこれらのParetoソリューションから好みのソリューションを簡単に選択したり、異なる状況で異なるトレードオフソリューションを使うことができます。
実験結果から,提案アルゴリズムはよく表現可能な解を生成し,多くのマルチタスク学習アプリケーションにおいて最先端のアルゴリズムより優れることを確認した。
関連論文リスト
- UCB-driven Utility Function Search for Multi-objective Reinforcement Learning [75.11267478778295]
マルチオブジェクト強化学習(MORL)エージェントでは、意思決定行動の最適化を行う。
重みベクトル w でパラメータ化される線型効用関数の場合に焦点を当てる。
学習過程の異なる段階で最も有望な重みベクトルを効率的に探索する上信頼境界に基づく手法を提案する。
論文 参考訳（メタデータ） (2024-05-01T09:34:42Z) - Multi-Task Learning with Multi-Task Optimization [31.518330903602095]
最適化されているが、よく分散されたモデルの集合が、1つのアルゴリズムパスで異なるトレードオフを具現化していることを示す。
様々な問題設定を解決するために,マルチタスク最適化を用いたマルチタスク学習を提案する。
論文 参考訳（メタデータ） (2024-03-24T14:04:40Z) - Pareto Manifold Learning: Tackling multiple tasks via ensembles of
single-task models [50.33956216274694]
マルチタスク学習(MTL)では、タスクは、ソリューションへの最適化を導くのではなく、互いに達成したパフォーマンスを競い、制限することができる。
重み空間におけるアンサンブル手法であるTextitPareto Manifold Learningを提案する。
論文 参考訳（メタデータ） (2022-10-18T11:20:54Z) - Pareto Set Learning for Neural Multi-objective Combinatorial
Optimization [6.091096843566857]
多目的最適化(MOCO)の問題は、現実世界の多くのアプリケーションで見られる。
我々は,与えられたMOCO問題に対するパレート集合全体を,探索手順を伴わずに近似する学習ベースアプローチを開発した。
提案手法は,多目的走行セールスマン問題,マルチコンディショニング車両ルーティング問題,複数クナップサック問題において,ソリューションの品質,速度,モデル効率の面で,他の方法よりも優れていた。
論文 参考訳（メタデータ） (2022-03-29T09:26:22Z) - Discovering Diverse Solutions in Deep Reinforcement Learning [84.45686627019408]
強化学習アルゴリズムは通常、特定のタスクの単一のソリューションを学ぶことに限定される。
連続的あるいは離散的な低次元潜在変数に条件付きポリシーを訓練することにより、無限に多くの解を学習できるRL法を提案する。
論文 参考訳（メタデータ） (2021-03-12T04:54:31Z) - Controllable Pareto Multi-Task Learning [55.945680594691076]
マルチタスク学習システムは,複数のタスクを同時に解決することを目的としている。
固定されたモデルキャパシティでは、タスクは互いに衝突し、システムは通常、それらすべてを学ぶためにトレードオフをしなければならない。
本研究では,異なるタスク間のリアルタイムなトレードオフ制御を実現するための,新しい制御可能なマルチタスク学習フレームワークを提案する。
論文 参考訳（メタデータ） (2020-10-13T11:53:55Z) - Small Towers Make Big Differences [59.243296878666285]
マルチタスク学習は、複数の機械学習タスクを同時に解決することを目的としている。
マルチタスク学習問題に対する優れた解法は、Paretoの最適性に加えて一般化可能であるべきである。
本稿では,マルチタスクモデルのためのパラメータ下自己助詞の手法を提案し,両世界のベストを達成した。
論文 参考訳（メタデータ） (2020-08-13T10:45:31Z) - Efficient Continuous Pareto Exploration in Multi-Task Learning [34.41682709915956]
本稿では,機械学習問題における最適解の連続解析手法を提案する。
サンプルベーススパース線形システムを提案することにより、現代の機械学習問題に対する多目的最適化の理論結果をスケールアップする。
論文 参考訳（メタデータ） (2020-06-29T23:36:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。