論文の概要: Feasibility of Transfer Learning: A Mathematical Framework

• arxiv url: http://arxiv.org/abs/2305.12985v1
• Date: Mon, 22 May 2023 12:44:38 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-23 16:15:29.938802
• Title: Feasibility of Transfer Learning: A Mathematical Framework
• Title（参考訳）: 転校学習の実現可能性:数学的枠組み
• Authors: Haoyang Cao and Haotian Gu and Xin Guo
• Abstract要約: それは、必要な数学的概念を確立し、伝達学習のための数学的枠組みを構築することから始まる。 そして、3段階の転送学習手順を最適化問題として特定・定式化し、実現可能性問題の解決を可能にする。
• 参考スコア（独自算出の注目度）: 4.530876736231948
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Transfer learning is a popular paradigm for utilizing existing knowledge from previous learning tasks to improve the performance of new ones. It has enjoyed numerous empirical successes and inspired a growing number of theoretical studies. This paper addresses the feasibility issue of transfer learning. It begins by establishing the necessary mathematical concepts and constructing a mathematical framework for transfer learning. It then identifies and formulates the three-step transfer learning procedure as an optimization problem, allowing for the resolution of the feasibility issue. Importantly, it demonstrates that under certain technical conditions, such as appropriate choice of loss functions and data sets, an optimal procedure for transfer learning exists. This study of the feasibility issue brings additional insights into various transfer learning problems. It sheds light on the impact of feature augmentation on model performance, explores potential extensions of domain adaptation, and examines the feasibility of efficient feature extractor transfer in image classification.
• Abstract（参考訳）: 転送学習は、新しい学習タスクのパフォーマンスを改善するために、以前の学習タスクからの既存の知識を活用するための一般的なパラダイムである。 数多くの実証的な成功を享受し、多くの理論研究に影響を与えた。 本稿では,伝達学習の実現可能性について論じる。 それは、必要な数学的概念を確立し、伝達学習のための数学的枠組みを構築することから始まる。 そして、3段階転送学習手順を最適化問題として特定・定式化し、実現可能性問題の解決を可能にする。 重要なのは、損失関数やデータセットの適切な選択など、特定の技術的条件下では、転送学習の最適な手順が存在することだ。 実現可能性に関する本研究は、様々な伝達学習問題にさらなる洞察をもたらす。 特徴増強がモデル性能に与える影響に光を当て、ドメイン適応の可能性を探り、画像分類における効率的な特徴抽出器転送の可能性を検討する。

関連論文リスト

• Risk of Transfer Learning and its Applications in Finance [2.966069495345018]
  本稿では,トランスファーリスクの新たな概念を提案し,その特性を分析し,トランスファー学習のトランスファー可能性を評価する。 数値計算の結果,伝達リスクと全体の伝達学習性能との間に強い相関関係が認められた。
  論文  参考訳（メタデータ） (2023-11-06T17:23:54Z)
• Feasibility and Transferability of Transfer Learning: A Mathematical Framework [4.031388559887924]
  我々は、転送学習の一般的な手順のための数学的枠組みを初めて構築する。 また、トランスファー学習のトランスファー可能性を評価するために、トランスファーリスクという新しい概念を提案する。
  論文  参考訳（メタデータ） (2023-01-27T05:54:53Z)
• Learning to Transfer: A Foliated Theory [18.58482811176484]
  伝達の学習は、関連する知識を新しい関連するタスクに移すことができるような方法で、タスクへの学習ソリューションを考える。 これは、一般的な学習だけでなく、学習プロセスの効率向上にも重要である。 このような基礎を提供する葉の微分幾何学的理論を用いた枠組みを導入する。
  論文  参考訳（メタデータ） (2021-07-22T15:46:45Z)
• Unsupervised Transfer Learning for Spatiotemporal Predictive Networks [90.67309545798224]
  我々は、教師なし学習されたモデルの動物園から別のネットワークへ知識を伝達する方法を研究する。 私たちのモチベーションは、モデルは異なるソースからの複雑なダイナミクスを理解することが期待されていることです。 提案手法は,時間的予測のための3つのベンチマークで大幅に改善され,重要度が低いベンチマークであっても,ターゲットのメリットが得られた。
  論文  参考訳（メタデータ） (2020-09-24T15:40:55Z)
• Transfer Learning in Deep Reinforcement Learning: A Survey [64.36174156782333]
  強化学習は、シーケンシャルな意思決定問題を解決するための学習パラダイムである。 近年、ディープニューラルネットワークの急速な発展により、強化学習の顕著な進歩が見られた。 転校学習は 強化学習が直面する様々な課題に 対処するために生まれました
  論文  参考訳（メタデータ） (2020-09-16T18:38:54Z)
• Importance Weighted Policy Learning and Adaptation [89.46467771037054]
  政治外学習の最近の進歩の上に構築された,概念的にシンプルで,汎用的で,モジュール的な補完的アプローチについて検討する。 このフレームワークは確率論的推論文学のアイデアにインスパイアされ、堅牢な非政治学習と事前の行動を組み合わせる。 提案手法は,メタ強化学習ベースラインと比較して,ホールドアウトタスクにおける競合適応性能を実現し,複雑なスパース・リワードシナリオにスケールすることができる。
  論文  参考訳（メタデータ） (2020-09-10T14:16:58Z)
• What is being transferred in transfer learning? [51.6991244438545]
  事前訓練した重量からトレーニングを行うと、モデルは損失景観の同じ流域に留まることを示す。 事前学習した重みからトレーニングする場合、モデルは損失ランドスケープの同じ流域に留まり、そのようなモデルの異なるインスタンスは特徴空間と類似しており、パラメータ空間は近接している。
  論文  参考訳（メタデータ） (2020-08-26T17:23:40Z)
• Uniform Priors for Data-Efficient Transfer [65.086680950871]
  もっとも移動可能な特徴は埋め込み空間において高い均一性を有することを示す。 我々は、未確認のタスクやデータへの適応を容易にする能力の正規化を評価する。
  論文  参考訳（メタデータ） (2020-06-30T04:39:36Z)
• Limits of Transfer Learning [0.0]
  我々は、転送する情報の集合を慎重に選択する必要性と、転送される情報とターゲット問題との依存関係の必要性を示す。 これらの結果は、機械学習のためのアルゴリズム検索フレームワークの上に構築され、転送を用いた幅広い学習問題に適用できる。
  論文  参考訳（メタデータ） (2020-06-23T01:48:23Z)
• Task-Feature Collaborative Learning with Application to Personalized Attribute Prediction [166.87111665908333]
  本稿では,TFCL(Task-Feature Collaborative Learning)と呼ばれる新しいマルチタスク学習手法を提案する。 具体的には、まず、特徴とタスクの協調的なグループ化を活用するために、不均一なブロック対角構造正規化器を用いたベースモデルを提案する。 実際の拡張として,重なり合う機能と難易度を区別することで,基本モデルを拡張します。
  論文  参考訳（メタデータ） (2020-04-29T02:32:04Z)
• Inter- and Intra-domain Knowledge Transfer for Related Tasks in Deep Character Recognition [2.320417845168326]
  ImageNetデータセットでディープニューラルネットワークを事前トレーニングすることは、ディープラーニングモデルをトレーニングするための一般的なプラクティスである。 1つのタスクで事前トレーニングを行い、新しいタスクで再トレーニングするテクニックは、トランスファーラーニング(transfer learning)と呼ばれる。 本稿では,文字認識タスクにおけるDeep Transfer Learningの有効性について分析する。
  論文  参考訳（メタデータ） (2020-01-02T14:18:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。