論文の概要: To Share or not to Share: Predicting Sets of Sources for Model Transfer
Learning
- arxiv url: http://arxiv.org/abs/2104.08078v1
- Date: Fri, 16 Apr 2021 12:44:40 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-19 14:35:48.874624
- Title: To Share or not to Share: Predicting Sets of Sources for Model Transfer
Learning
- Title(参考訳): 共有するか否か:モデル伝達学習のためのソースセットの予測
- Authors: Lukas Lange, Jannik Str\"otgen, Heike Adel, Dietrich Klakow
- Abstract要約: モデル転送が様々な領域とタスクのシーケンスラベリングに及ぼす影響について検討する。
モデル類似性とサポートベクタマシンに基づく提案手法は,予測可能な情報源を予測し,最大24F1ポイントの性能向上を実現する。
- 参考スコア(独自算出の注目度): 22.846469609263416
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In low-resource settings, model transfer can help to overcome a lack of
labeled data for many tasks and domains. However, predicting useful transfer
sources is a challenging problem, as even the most similar sources might lead
to unexpected negative transfer results. Thus, ranking methods based on task
and text similarity may not be sufficient to identify promising sources. To
tackle this problem, we propose a method to automatically determine which and
how many sources should be exploited. For this, we study the effects of model
transfer on sequence labeling across various domains and tasks and show that
our methods based on model similarity and support vector machines are able to
predict promising sources, resulting in performance increases of up to 24 F1
points.
- Abstract(参考訳): 低リソース設定では、モデル転送は多くのタスクやドメインに対するラベル付きデータの欠如を克服するのに役立ちます。
しかし、最も類似したソースでさえ予期せぬ負の転送結果をもたらす可能性があるため、有用な転送ソースを予測することは難しい問題である。
したがって、タスクとテキストの類似性に基づくランキング手法は、有望な情報源を特定するには不十分である。
そこで本研究では,どのソースを利用すべきかを自動的に判断する手法を提案する。
そこで本研究では,様々なドメインやタスクのシーケンスラベリングに対するモデル転送の影響を調査し,モデル類似性とサポートベクターマシンに基づく手法が有望なソースを予測できることを示し,最大24f1ポイントの性能向上を実現した。
関連論文リスト
- Balancing Discriminability and Transferability for Source-Free Domain
Adaptation [55.143687986324935]
従来のドメイン適応(DA)技術は、ドメイン不変表現を学習することでドメイン転送性を改善することを目的としている。
ラベル付けされたソースとラベル付けされていないターゲットへの同時アクセス要件は、ソースフリーなDA設定に適さない。
そこで本研究では,原文と翻訳サンプルの混在が識別可能性と伝達可能性のトレードオフを促進することを示す新しい知見を導出する。
論文 参考訳(メタデータ) (2022-06-16T09:06:22Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Source data selection for out-of-domain generalization [0.76146285961466]
ソースデータセットの貧弱な選択は、ターゲットのパフォーマンスを低下させる可能性がある。
マルチバンド理論とランダム探索に基づく2つのソース選択手法を提案する。
提案手法は, 利用可能なサンプルのランダムな選択よりも優れた再重み付けされたサブサンプルの存在を診断するものであるとみなすことができる。
論文 参考訳(メタデータ) (2022-02-04T14:37:31Z) - Source-Free Domain Adaptive Fundus Image Segmentation with Denoised
Pseudo-Labeling [56.98020855107174]
ドメイン適応は通常、ソースドメインデータにアクセスして、ターゲットデータとのドメインアライメントのために配布情報を利用する必要があります。
多くの実世界のシナリオでは、プライバシの問題により、ターゲットドメインのモデル適応中にソースデータがアクセスできない場合がある。
本稿では,本問題に対する新たな擬似ラベル付け手法を提案する。
論文 参考訳(メタデータ) (2021-09-19T06:38:21Z) - Evaluating the Values of Sources in Transfer Learning [38.93955146476584]
SEAL-Shapは、ソースの有用性を定量化する効率的なソース評価フレームワークである。
我々のフレームワークは有用な転送ソースを選択するのに有効であるだけでなく、ソース値も直感的なソースとターゲットの類似性にマッチする。
論文 参考訳(メタデータ) (2021-04-26T13:35:24Z) - Unsupervised Multi-source Domain Adaptation Without Access to Source
Data [58.551861130011886]
Unsupervised Domain Adaptation (UDA)は、ラベル付きソースドメインから知識を転送することで、ラベル付きドメインの予測モデルを学ぶことを目的としている。
本稿では,ソースモデルと適切な重み付けを自動的に組み合わせ,少なくとも最良のソースモデルと同等の性能を発揮する新しい効率的なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-04-05T10:45:12Z) - Unsupervised Domain Adaptation in the Absence of Source Data [0.7366405857677227]
本稿では、ソース領域から自然軸に沿って変化する対象領域にソース分類器を適応させる教師なしの手法を提案する。
分布シフトが明るさ、コントラスト、回転を伴うシナリオにおいて本手法を検証し、ラベル付きデータに制限されたシナリオにおいて微調整ベースラインよりも優れた性能を示すことを示す。
論文 参考訳(メタデータ) (2020-07-20T16:22:14Z) - Multi-source Attention for Unsupervised Domain Adaptation [15.900069711477542]
ソース選択をアテンション学習問題としてモデル化し、特定のターゲットインスタンスのソースに対してアテンションを学習する。
この目的のために、まずソース固有の分類モデルと、ソースとターゲットドメイン間の関連性マップを独立に学習する。
次に、ソース固有のモデルの予測を集約するソースについて、注目度を学習する。
論文 参考訳(メタデータ) (2020-04-14T15:51:02Z) - Universal Source-Free Domain Adaptation [57.37520645827318]
ドメイン適応のための新しい2段階学習プロセスを提案する。
Procurementの段階では、今後のカテゴリギャップやドメインシフトに関する事前知識を前提とせず、将来的なソースフリーデプロイメントのためのモデルの提供を目標としています。
Deploymentの段階では、幅広いカテゴリギャップをまたいで動作可能な統一適応アルゴリズムを設計することを目的としている。
論文 参考訳(メタデータ) (2020-04-09T07:26:20Z) - Do We Really Need to Access the Source Data? Source Hypothesis Transfer
for Unsupervised Domain Adaptation [102.67010690592011]
Unsupervised adaptUDA (UDA) は、ラベル付きソースデータセットから学んだ知識を活用して、新しいラベル付きドメインで同様のタスクを解決することを目的としている。
従来のUDAメソッドは、モデルに適応するためには、通常、ソースデータにアクセスする必要がある。
この作業は、訓練済みのソースモデルのみが利用できる実践的な環境に取り組み、ソースデータなしでそのようなモデルを効果的に活用してUDA問題を解決する方法に取り組みます。
論文 参考訳(メタデータ) (2020-02-20T03:13:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。