論文の概要: Regularized Conditional Alignment for Multi-Domain Text Classification
- arxiv url: http://arxiv.org/abs/2312.11572v1
- Date: Mon, 18 Dec 2023 05:52:05 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-20 18:20:59.636647
- Title: Regularized Conditional Alignment for Multi-Domain Text Classification
- Title(参考訳): 多領域テキスト分類のための規則化条件アライメント
- Authors: Juntao Hu, Yuan Wu
- Abstract要約: 本稿では,正規化条件アライメント(RCA)と呼ばれる手法を提案する。
我々は、ラベルのないデータに関する予測の不確実性を抑制するために、エントロピーの最小化と仮想対位トレーニングを採用している。
2つのベンチマークデータセットによる実験結果から、我々のRCAアプローチは最先端のMDTC技術より優れていることが示された。
- 参考スコア(独自算出の注目度): 6.629561563470492
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The most successful multi-domain text classification (MDTC) approaches employ
the shared-private paradigm to facilitate the enhancement of domain-invariant
features through domain-specific attributes. Additionally, they employ
adversarial training to align marginal feature distributions. Nevertheless,
these methodologies encounter two primary challenges: (1) Neglecting
class-aware information during adversarial alignment poses a risk of
misalignment; (2) The limited availability of labeled data across multiple
domains fails to ensure adequate discriminative capacity for the model. To
tackle these issues, we propose a method called Regularized Conditional
Alignment (RCA) to align the joint distributions of domains and classes, thus
matching features within the same category and amplifying the discriminative
qualities of acquired features. Moreover, we employ entropy minimization and
virtual adversarial training to constrain the uncertainty of predictions
pertaining to unlabeled data and enhance the model's robustness. Empirical
results on two benchmark datasets demonstrate that our RCA approach outperforms
state-of-the-art MDTC techniques.
- Abstract(参考訳): 最も成功したマルチドメインテキスト分類(MDTC)アプローチは、ドメイン固有の属性によるドメイン不変性の向上を促進するために、共有プライベートパラダイムを使用している。
さらに、彼らは限界特徴分布を調整するために敵の訓練を施している。
しかし,これらの手法は,(1)敵対的アライメント中のクラス認識情報の無視は誤認識のリスクを生じ,(2)複数のドメインにまたがるラベル付きデータの可用性の制限は,モデルの適切な識別能力を確保するのに失敗する。
これらの課題に対処するために、ドメインとクラスの連立分布を整列させ、同じカテゴリ内の特徴をマッチングし、取得した特徴の識別特性を増幅するRCA(Regularized Conditional Alignment)手法を提案する。
さらに,エントロピー最小化と仮想敵意学習を用いて,ラベルなしデータに関する予測の不確実性を抑制し,モデルの頑健性を高める。
2つのベンチマークデータセットの実証結果は、rcaアプローチが最先端mdtc技術よりも優れていることを示している。
関連論文リスト
- Rethinking Domain Generalization: Discriminability and Generalizability [31.967801550742312]
ドメイン一般化(DG)は、優れた識別可能性を維持しつつ、強力な一般化性を持つ堅牢なモデルを開発する。
DMDA(Distriminative Microscopic Distribution Alignment)という新しいフレームワークを提案する。
DMDAはSelective Channel Pruning(SCP)とMicro-level Distribution Alignment(MDA)の2つのコアコンポーネントを組み込んでいる。
論文 参考訳(メタデータ) (2023-09-28T14:45:54Z) - Joint Attention-Driven Domain Fusion and Noise-Tolerant Learning for
Multi-Source Domain Adaptation [2.734665397040629]
マルチソースUnsupervised Domain Adaptationはラベル付きデータを持つ複数のソースドメインからラベル付きターゲットドメインに知識を転送する。
異なるドメインとターゲットドメイン内のノイズの多い擬似ラベル間の分散の相違は、どちらもパフォーマンスのボトルネックにつながる。
本稿では,意識駆動型ドメイン融合(ADNT)と雑音耐性学習(ADNT)を統合し,上記の2つの問題に対処するアプローチを提案する。
論文 参考訳(メタデータ) (2022-08-05T01:08:41Z) - Co-Regularized Adversarial Learning for Multi-Domain Text Classification [19.393393465837377]
マルチドメインテキスト分類(MDTC)は、複数のドメインから利用可能なすべてのリソースを活用して、これらのドメインをうまく一般化できる予測モデルを学ぶことを目的としている。
近年,多くのMDTC手法が対向学習,共有私的パラダイム,エントロピー最小化を採用して最先端の成果を上げている。
ドメイン分割の最小化はドメインアライメントの成功を完全に保証できない、(2)限界特徴分布のアライメントは学習特徴の識別性を完全に保証できない、(3)標準エントロピーの最小化は、ラベルなしデータの予測を過度に信頼し、ディスクを劣化させる、という3つの問題に直面している。
論文 参考訳(メタデータ) (2022-01-30T12:15:41Z) - Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。
SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
論文 参考訳(メタデータ) (2021-12-12T06:11:16Z) - Margin Preserving Self-paced Contrastive Learning Towards Domain
Adaptation for Medical Image Segmentation [51.93711960601973]
クロスモーダル医療画像セグメンテーションのための自己ペースコントラスト学習モデルを保存する新しいマージンを提案する。
プログレッシブに洗練されたセマンティックプロトタイプの指導により、埋め込み表現空間の識別性を高めるために、コントラスト損失を減少させる新しいマージンが提案される。
クロスモーダル心セグメンテーションタスクの実験は、MPSCLが意味セグメンテーション性能を大幅に改善することを示した。
論文 参考訳(メタデータ) (2021-03-15T15:23:10Z) - Mixup Regularized Adversarial Networks for Multi-Domain Text
Classification [16.229317527580072]
マルチドメインテキスト分類(MDTC)モデルの性能は,共有プライベートパラダイムと敵対的トレーニングによって大幅に向上した。
しかし、既存の方法には2つの問題がある。
この2つの問題に対処するために、MRAN(Mixup regularized adversarial network)を提案する。
論文 参考訳(メタデータ) (2021-01-31T15:24:05Z) - Towards Fair Knowledge Transfer for Imbalanced Domain Adaptation [61.317911756566126]
本研究では,不均衡なドメイン間学習における公平性問題に対処するTowards Fair Knowledge Transferフレームワークを提案する。
具体的には、新規なクロスドメインミックスアップ生成を利用して、ターゲット情報でマイノリティソースセットを増強し、公正性を高める。
本モデルでは,2つのベンチマークで全体の精度を20%以上向上させる。
論文 参考訳(メタデータ) (2020-10-23T06:29:09Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z) - Adaptively-Accumulated Knowledge Transfer for Partial Domain Adaptation [66.74638960925854]
部分ドメイン適応(PDA)は、ソースドメインラベル空間がターゲットドメインを置き換えるとき、現実的で困難な問題を扱う。
本稿では,2つの領域にまたがる関連カテゴリを整合させる適応的知識伝達フレームワーク(A$2KT)を提案する。
論文 参考訳(メタデータ) (2020-08-27T00:53:43Z) - Contradictory Structure Learning for Semi-supervised Domain Adaptation [67.89665267469053]
現在の逆順応法は、クロスドメインの特徴を整列させようとする。
1)条件分布ミスマッチ、2)決定境界のソース領域へのバイアス。
本稿では,対向構造の学習を統一することで,半教師付きドメイン適応のための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2020-02-06T22:58:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。