論文の概要: A Foliated View of Transfer Learning
- arxiv url: http://arxiv.org/abs/2008.00546v1
- Date: Sun, 2 Aug 2020 19:30:59 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-03 19:30:50.029413
- Title: A Foliated View of Transfer Learning
- Title(参考訳): 伝達学習の分離的視点
- Authors: Janith Petangoda, Nick A. M. Monk and Marc Peter Deisenroth
- Abstract要約: トランスファーラーニングは、既知のソリューションから関連するタスクに関連知識を移すことによって、新しいタスクが解決される学習プロセスを考える。
これは実験的に研究されているが、関連するタスクが何か、どのように悪用されるのかを明らかにする転写学習に関する基礎的な記述が欠けている。
本稿では,タスク間の関連性を定義し,このような関係を表現する数学的枠組みとして葉を同定する。
- 参考スコア(独自算出の注目度): 13.71317837122096
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Transfer learning considers a learning process where a new task is solved by
transferring relevant knowledge from known solutions to related tasks. While
this has been studied experimentally, there lacks a foundational description of
the transfer learning problem that exposes what related tasks are, and how they
can be exploited. In this work, we present a definition for relatedness between
tasks and identify foliations as a mathematical framework to represent such
relationships.
- Abstract(参考訳): 転送学習は、既知のソリューションから関連するタスクへ関連する知識を転送することにより、新しいタスクが解決される学習プロセスを考える。
これは実験的に研究されているが、関連するタスクが何であるか、どのように悪用されるかを明らかにする、転送学習問題の基本的な説明が欠けている。
本研究では,タスク間の関連性の定義を提示し,このような関係を表現する数学的枠組みとして葉を同定する。
関連論文リスト
- Disentangling and Mitigating the Impact of Task Similarity for Continual Learning [1.3597551064547502]
部分的に類似したタスクの継続的な学習は、人工知能ニューラルネットワークの課題となる。
高い入力特徴類似性と低い読み出し類似性は、知識伝達と保持の両方において破滅的である。
フィッシャー情報量に基づく重み正規化は,タスクの類似性にかかわらず,保持率を著しく向上させる。
論文 参考訳(メタデータ) (2024-05-30T16:40:07Z) - Evaluating the structure of cognitive tasks with transfer learning [67.22168759751541]
本研究では,脳波復号処理における深層学習表現の伝達可能性について検討した。
最近リリースされた2つのEEGデータセット上で、最先端デコードモデルを用いて広範な実験を行う。
論文 参考訳(メタデータ) (2023-07-28T14:51:09Z) - The Role of Exploration for Task Transfer in Reinforcement Learning [8.817381809671804]
移行学習の文脈で、探索-探索-探索トレードオフを再検討する。
本研究は、強化学習探索手法をレビューし、それらを組織化する分類を定義し、これらの手法の違いをタスク転送の文脈で分析し、今後の研究への道筋を提案する。
論文 参考訳(メタデータ) (2022-10-11T01:23:21Z) - Multi-Source Transfer Learning for Deep Model-Based Reinforcement
Learning [0.6445605125467572]
強化学習における重要な課題は、エージェントが与えられたタスクをマスターするために必要な環境との相互作用の数を減らすことである。
伝達学習は、以前に学習したタスクから知識を再利用することでこの問題に対処することを提案する。
本研究の目的は,モジュール型マルチソーストランスファー学習技術を用いて,これらの課題に対処することである。
論文 参考訳(メタデータ) (2022-05-28T12:04:52Z) - Relational Experience Replay: Continual Learning by Adaptively Tuning
Task-wise Relationship [54.73817402934303]
本稿では,2段階の学習フレームワークである経験連続再生(ERR)を提案する。
ERRは、すべてのベースラインの性能を一貫して改善し、現在の最先端の手法を超えることができる。
論文 参考訳(メタデータ) (2021-12-31T12:05:22Z) - On the relationship between disentanglement and multi-task learning [62.997667081978825]
ハードパラメータ共有に基づくマルチタスク学習と絡み合いの関係について,より詳しく検討する。
マルチタスクニューラルネットワークトレーニングの過程において, 絡み合いが自然に現れることを示す。
論文 参考訳(メタデータ) (2021-10-07T14:35:34Z) - Learning to Transfer: A Foliated Theory [18.58482811176484]
伝達の学習は、関連する知識を新しい関連するタスクに移すことができるような方法で、タスクへの学習ソリューションを考える。
これは、一般的な学習だけでなく、学習プロセスの効率向上にも重要である。
このような基礎を提供する葉の微分幾何学的理論を用いた枠組みを導入する。
論文 参考訳(メタデータ) (2021-07-22T15:46:45Z) - Distribution Matching for Heterogeneous Multi-Task Learning: a
Large-scale Face Study [75.42182503265056]
マルチタスク学習は、共有学習アルゴリズムによって複数のタスクを共同で学習する方法論として登場した。
我々は異種mtlに対処し,検出,分類,回帰問題を同時に解決する。
大規模な顔分析のための最初のフレームワークであるFaceBehaviorNetを構築し、すべての顔行動タスクを共同で学習する。
論文 参考訳(メタデータ) (2021-05-08T22:26:52Z) - A Taxonomy of Similarity Metrics for Markov Decision Processes [62.997667081978825]
近年、伝達学習は強化学習(RL)アルゴリズムをより効率的にすることに成功した。
本稿では,これらの指標を分類し,これまでに提案されている類似性の定義を分析する。
論文 参考訳(メタデータ) (2021-03-08T12:36:42Z) - Phase Transitions in Transfer Learning for High-Dimensional Perceptrons [12.614901374282868]
伝達学習は、関連するソースタスクから学んだ知識を活用することにより、対象タスクの一般化性能の向上を目指す。
後者の質問は、転送元情報が実際にターゲットタスクの一般化性能を減少させるいわゆる負の転送現象に関連しています。
本稿では,関連する1対のパーセプトロン学習タスクを解析し,転送学習の理論解析を行う。
論文 参考訳(メタデータ) (2021-01-06T08:29:22Z) - Auxiliary Learning by Implicit Differentiation [54.92146615836611]
補助的なタスクによるニューラルネットワークのトレーニングは、関心のあるメインタスクのパフォーマンスを改善するための一般的なプラクティスである。
そこで我々は,暗黙の識別に基づく両課題を対象とした新しいフレームワークAuxiLearnを提案する。
まず、有用な補助関数が知られている場合、全ての損失を1つのコヒーレントな目的関数に組み合わせたネットワークの学習を提案する。
第二に、有用な補助タスクが知られていない場合、意味のある新しい補助タスクを生成するネットワークの学習方法について述べる。
論文 参考訳(メタデータ) (2020-06-22T19:35:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。