論文の概要: Understanding Knowledge Transferability for Transfer Learning: A Survey

• arxiv url: http://arxiv.org/abs/2507.03175v1
• Date: Thu, 03 Jul 2025 21:06:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-08 15:46:34.60853
• Title: Understanding Knowledge Transferability for Transfer Learning: A Survey
• Title（参考訳）: 転帰学習における知識伝達可能性の理解 : アンケート調査より
• Authors: Haohua Wang, Jingge Wang, Zijie Zhao, Yang Tan, Yanru Wu, Hanbing Liu, Jingyun Yang, Enming Zhang, Xiangyu Chen, Zhengze Rong, Shanxin Guo, Yang Li,
• Abstract要約: 伝達学習は、ソースタスクからの知識の伝達を可能にし、ターゲットタスクのパフォーマンスを改善する。 広く使われているにもかかわらず、知識の伝達可能性を確実に評価する方法は依然として課題である。 我々は、伝達可能性の指標を統一した分類法を提供し、伝達可能な知識タイプと測定に基づいてそれらを分類する。
• 参考スコア（独自算出の注目度）: 9.351787368829013
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Transfer learning has become an essential paradigm in artificial intelligence, enabling the transfer of knowledge from a source task to improve performance on a target task. This approach, particularly through techniques such as pretraining and fine-tuning, has seen significant success in fields like computer vision and natural language processing. However, despite its widespread use, how to reliably assess the transferability of knowledge remains a challenge. Understanding the theoretical underpinnings of each transferability metric is critical for ensuring the success of transfer learning. In this survey, we provide a unified taxonomy of transferability metrics, categorizing them based on transferable knowledge types and measurement granularity. This work examines the various metrics developed to evaluate the potential of source knowledge for transfer learning and their applicability across different learning paradigms emphasizing the need for careful selection of these metrics. By offering insights into how different metrics work under varying conditions, this survey aims to guide researchers and practitioners in selecting the most appropriate metric for specific applications, contributing to more efficient, reliable, and trustworthy AI systems. Finally, we discuss some open challenges in this field and propose future research directions to further advance the application of transferability metrics in trustworthy transfer learning.
• Abstract（参考訳）: トランスファーラーニングは人工知能において必須のパラダイムとなり、ソースタスクから知識を伝達することで、ターゲットタスクのパフォーマンスを向上させることができる。 このアプローチは、特に事前学習や微調整といった技術を通じて、コンピュータビジョンや自然言語処理といった分野で大きな成功を収めている。 しかし、広く使われているにもかかわらず、いかに確実に知識の伝達可能性を評価するかは依然として課題である。 伝達可能性測定の理論的基盤を理解することは、伝達学習の成功を保証するために重要である。 本調査では,伝達可能性指標を統一的に分類し,伝達可能な知識タイプと測定粒度に基づいて分類する。 本研究は,これらの指標を慎重に選択する必要性を強調する学習パラダイムにまたがって,伝達学習における情報源知識の可能性と適用性を評価するために開発された様々な指標について検討する。 この調査は、さまざまな条件下で異なるメトリクスがどのように機能するかに関する洞察を提供することによって、研究者や実践者が特定のアプリケーションに最も適したメトリックを選択し、より効率的で信頼性があり、信頼できるAIシステムに寄与することを目的としている。 最後に、この分野でのオープンな課題について論じ、信頼に値する伝達学習における伝達可能性指標の適用をさらに進めるための今後の研究方向性を提案する。

関連論文リスト

• Trustworthy Transfer Learning: A Survey [42.8355039035467]
  我々は、知識伝達可能性と信頼性の観点から、伝達学習を理解する。 本稿では,様々な側面から信頼できる伝達学習の総合的なレビューを行う。 我々は,伝達学習を信頼性と信頼性のある方法で理解するためのオープンな質問と今後の方向性を強調した。
  論文  参考訳（メタデータ） (2024-12-18T18:03:51Z)
• Bayesian Transfer Learning [13.983016833412307]
  トランスファーラーニング」は、関連分野のデータを活用することにより、関心領域における推論および/または予測精度の向上を目指す。 本稿では,新しい学習課題を導く上で,事前知識に基づく学習の概念と自然に相容れないにもかかわらず,比較的注意を払われたバイーシアン学習のアプローチを取り上げる。 本稿では,これらの手法がドメイン間の転送に最適な情報を見つける問題にどのように対処するかを論じる。
  論文  参考訳（メタデータ） (2023-12-20T23:38:17Z)
• Similarity-based Knowledge Transfer for Cross-Domain Reinforcement Learning [3.3148826359547523]
  我々は,エンコーダ・デコーダのセットを用いて,異なる空間に適合する半教師付きアライメント損失を開発する。 従来の手法と比較して、我々の手法は専門家のポリシーによって整列、ペア化、あるいは収集されるデータを必要としない。
  論文  参考訳（メタデータ） (2023-12-05T19:26:01Z)
• Feasibility of Transfer Learning: A Mathematical Framework [4.530876736231948]
  それは、必要な数学的概念を確立し、伝達学習のための数学的枠組みを構築することから始まる。 そして、3段階の転送学習手順を最適化問題として特定・定式化し、実現可能性問題の解決を可能にする。
  論文  参考訳（メタデータ） (2023-05-22T12:44:38Z)
• Transferability Estimation Based On Principal Gradient Expectation [68.97403769157117]
  クロスタスク転送性は、自己整合性を維持しながら転送結果と互換性がある。 既存の転送可能性メトリクスは、ソースとターゲットタスクを会話することで、特定のモデルに基づいて推定される。 本稿では,タスク間の転送可能性を評価するための簡易かつ効果的な手法であるPGEを提案する。
  論文  参考訳（メタデータ） (2022-11-29T15:33:02Z)
• Transferability in Deep Learning: A Survey [80.67296873915176]
  知識を習得し再利用する能力は、ディープラーニングにおける伝達可能性として知られている。 本研究は,深層学習における異なる孤立領域と伝達可能性との関係を関連付けるための調査である。 我々はベンチマークとオープンソースライブラリを実装し、転送可能性の観点からディープラーニング手法の公平な評価を可能にする。
  論文  参考訳（メタデータ） (2022-01-15T15:03:17Z)
• A Taxonomy of Similarity Metrics for Markov Decision Processes [62.997667081978825]
  近年、伝達学習は強化学習(RL)アルゴリズムをより効率的にすることに成功した。 本稿では,これらの指標を分類し,これまでに提案されている類似性の定義を分析する。
  論文  参考訳（メタデータ） (2021-03-08T12:36:42Z)
• What is being transferred in transfer learning? [51.6991244438545]
  事前訓練した重量からトレーニングを行うと、モデルは損失景観の同じ流域に留まることを示す。 事前学習した重みからトレーニングする場合、モデルは損失ランドスケープの同じ流域に留まり、そのようなモデルの異なるインスタンスは特徴空間と類似しており、パラメータ空間は近接している。
  論文  参考訳（メタデータ） (2020-08-26T17:23:40Z)
• Uniform Priors for Data-Efficient Transfer [65.086680950871]
  もっとも移動可能な特徴は埋め込み空間において高い均一性を有することを示す。 我々は、未確認のタスクやデータへの適応を容易にする能力の正規化を評価する。
  論文  参考訳（メタデータ） (2020-06-30T04:39:36Z)
• Uncovering the Connections Between Adversarial Transferability and Knowledge Transferability [27.65302656389911]
  我々は,知識伝達可能性と敵対的伝達可能性の関連性を分析し,実証する。 我々の理論的研究は、対向移動可能性は知識伝達可能性を示し、その逆であることを示している。 多様なデータセットの様々なシナリオに対する広範な実験を行い、対向移動可能性と知識伝達可能性との正の相関を示す。
  論文  参考訳（メタデータ） (2020-06-25T16:04:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。