論文の概要: Label Alignment Regularization for Distribution Shift
- arxiv url: http://arxiv.org/abs/2211.14960v1
- Date: Sun, 27 Nov 2022 22:54:48 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-29 16:16:17.626105
- Title: Label Alignment Regularization for Distribution Shift
- Title（参考訳）: 分布シフトのためのラベルアライメント規則化
- Authors: Ehsan Imani, Guojun Zhang, Jun Luo, Pascal Poupart, Yangchen Pan
- Abstract要約: 教師なし領域適応のための正規化法を導出する。
ラベルシフト問題に対して,本手法が有効であることを示す実験を行った。
また、一般的に見られるMNIST-USPSドメイン適応タスクのセットに基づいて、ドメイン適応ベースラインの軽度な改善を報告した。
- 参考スコア（独自算出の注目度）: 28.030342667323723
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent work reported the label alignment property in a supervised learning
setting: the vector of all labels in the dataset is mostly in the span of the
top few singular vectors of the data matrix. Inspired by this observation, we
derive a regularization method for unsupervised domain adaptation. Instead of
regularizing representation learning as done by popular domain adaptation
methods, we regularize the classifier so that the target domain predictions can
to some extent ``align" with the top singular vectors of the unsupervised data
matrix from the target domain. In a linear regression setting, we theoretically
justify the label alignment property and characterize the optimality of the
solution of our regularization by bounding its distance to the optimal
solution. We conduct experiments to show that our method can work well on the
label shift problems, where classic domain adaptation methods are known to
fail. We also report mild improvement over domain adaptation baselines on a set
of commonly seen MNIST-USPS domain adaptation tasks and on cross-lingual
sentiment analysis tasks.
- Abstract（参考訳）: 最近の研究は、教師付き学習環境でラベルアライメント特性を報告している。データセット内の全てのラベルのベクトルは、データマトリックスの最も少ない特異ベクトルのスパンにある。
この観察に触発されて,教師なし領域適応のための正規化法を導出する。
一般的なドメイン適応法によって行われる表現学習を正則化する代わりに、対象領域の予測が対象領域から教師なしデータ行列の最上位の特異ベクトルである程度 ``align" できるように分類器を正則化する。
線形回帰設定では, ラベルアライメント特性を理論的に正当化し, 最適解までの距離を限定することで正規化の解の最適性を特徴付ける。
従来のドメイン適応手法が失敗することが知られているラベルシフト問題に対して,本手法がうまく機能することを示す実験を行う。
また、一般的に見られるMNIST-USPSドメイン適応タスクと言語間感情分析タスクに基づいて、ドメイン適応ベースラインを軽度に改善する。
関連論文リスト
- Adaptive Betweenness Clustering for Semi-Supervised Domain Adaptation [108.40945109477886]
分類領域アライメントを実現するために,G-ABC (Adaptive Betweenness Clustering) と呼ばれる新しいSSDA手法を提案する。
提案手法は従来のSSDA手法よりも優れており,提案したG-ABCアルゴリズムの優位性を示している。
論文 参考訳（メタデータ） (2024-01-21T09:57:56Z) - Self-training through Classifier Disagreement for Cross-Domain Opinion
Target Extraction [62.41511766918932]
オピニオンターゲット抽出(OTE)またはアスペクト抽出(AE)は意見マイニングの基本的な課題である。
最近の研究は、現実世界のシナリオでよく見られるクロスドメインのOTEに焦点を当てている。
そこで本稿では,ドメイン固有の教師と学生のネットワークから出力されるモデルが未学習のターゲットデータと一致しない対象サンプルを選択するためのSSLアプローチを提案する。
論文 参考訳（メタデータ） (2023-02-28T16:31:17Z) - Domain Generalization through the Lens of Angular Invariance [44.76809026901016]
ドメイン一般化(Domain Generalization, DG)は、複数のソースドメインで訓練された分類器を、ドメインシフトを伴う見えないターゲットドメインに一般化することを目的としている。
我々は、Angular Invariance Domain Generalization Network (AIDGN) と呼ばれる新しいディープDG手法を提案する。
論文 参考訳（メタデータ） (2022-10-28T02:05:38Z) - Latent Space Regularization for Unsupervised Domain Adaptation in
Semantic Segmentation [14.050836886292869]
セマンティックセグメンテーションにおけるドメインの不一致を減らすために、機能レベルの空間形成正規化戦略を紹介します。
このような手法の有効性を自律運転環境で検証する。
論文 参考訳（メタデータ） (2021-04-06T16:07:22Z) - Instance Level Affinity-Based Transfer for Unsupervised Domain
Adaptation [74.71931918541748]
ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。
まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。
ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
論文 参考訳（メタデータ） (2021-04-03T01:33:14Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳（メタデータ） (2020-10-09T15:42:35Z) - Discriminative Cross-Domain Feature Learning for Partial Domain
Adaptation [70.45936509510528]
部分的なドメイン適応は、より大きく多様なソースドメインからの知識を、より少ないクラス数でより小さなターゲットドメインに適応させることを目的としています。
ドメイン適応の最近の実践は、ターゲットドメインの擬似ラベルを組み込むことで、効果的な特徴を抽出する。
ターゲットデータを少数のソースデータのみにアライメントすることが不可欠である。
論文 参考訳（メタデータ） (2020-08-26T03:18:53Z) - Discriminative Feature Alignment: Improving Transferability of
Unsupervised Domain Adaptation by Gaussian-guided Latent Alignment [27.671964294233756]
本研究では,ラベル付きデータ領域から近似推論モデルを学習するための教師なし領域適応問題に着目した。
教師なしのドメイン適応の成功は、主にクロスドメイン機能アライメントに依存している。
本稿では,2つの領域の潜在特徴分布を事前分布の導出の下で整列するガウス誘導型潜時アライメント手法を提案する。
そのような間接的な方法では、2つの領域からのサンプル上の分布は共通の特徴空間、すなわち前の領域の空間上に構築される。
論文 参考訳（メタデータ） (2020-06-23T05:33:54Z) - Domain Adaptation by Class Centroid Matching and Local Manifold
Self-Learning [8.316259570013813]
本稿では,対象領域のデータ分散構造を徹底的に探索できる新しい領域適応手法を提案する。
対象領域内の同一クラスタ内のサンプルを個人ではなく全体とみなし、クラスセントロイドマッチングにより擬似ラベルを対象クラスタに割り当てる。
提案手法の目的関数を理論的収束保証を用いて解くために,効率的な反復最適化アルゴリズムを設計した。
論文 参考訳（メタデータ） (2020-03-20T16:59:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。