論文の概要: Is Domain Adaptation Always Helpful? A Frozen-Backbone Study of Cross-Domain Sentiment Transfer
- arxiv url: http://arxiv.org/abs/2607.05937v1
- Date: Tue, 07 Jul 2026 07:40:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-08 21:24:51.433137
- Title: Is Domain Adaptation Always Helpful? A Frozen-Backbone Study of Cross-Domain Sentiment Transfer
- Title(参考訳): ドメイン適応は常に役に立つか? クロスドメイン感作の凍結-バックボーン研究
- Abstract要約: 本研究は,凍結埋没骨の制御されたファミリーを評価するための予備的ケーススタディである。
我々は、DANN(Domain-Adrial Neural Networks)、MMD(Maximum Discrepancy)、SCL(Supervised Contrastive Learning)を用いて、消費者レビューに軽量なアダプタを訓練する。
財務的な部分集合において、明示的なドメイン適応は、小さな汎用的なバックボーンの実質的なパフォーマンスを回復しているように見える。
- 参考スコア(独自算出の注目度): 9.389197755500986
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sentiment analysis with frozen pre-trained language model (PLM) backbones has become a common paradigm, yet the practical benefit of explicit domain adaptation remains unclear, particularly when backbones encode varying degrees of target-domain knowledge. We present a preliminary case study evaluating a controlled family of frozen embedding backbones (Qwen3-Embedding 0.6B, 4B, 8B), alongside RoBERTa-base and FinBERT. We train a lightweight MLP adapter on consumer reviews using Domain-Adversarial Neural Networks (DANN), Maximum Mean Discrepancy (MMD), and Supervised Contrastive Learning (SCL), and evaluate transfer to movie reviews (SST-2) and a heavily restricted subset of financial news (Financial PhraseBank). Within this constrained sample, we observe two distinct transfer patterns. On SST-2, domain adaptation provides negligible gain regardless of scale. On the financial subset, explicit domain adaptation appears to recover substantial performance for small general-purpose backbones. Notably, we find that adversarial alignment (DANN) is associated with degraded performance for domain-specialized backbones like FinBERT, consistent with erosion of pre-existing domain-specific structure, whereas supervised contrastive loss appears to preserve it. These preliminary findings suggest that the efficacy of explicit domain adaptation is highly contingent on whether the frozen backbone already possesses target-domain coverage.
- Abstract(参考訳): フリーズプレトレーニング言語モデル(PLM)のバックボーンを用いた知覚分析は共通のパラダイムとなっているが、特にターゲットドメイン知識の様々なレベルをコード化している場合、明示的なドメイン適応の実践的メリットは明らかでない。
本研究は,RoBERTa-baseおよびFinBERTと共に凍結埋没後骨(Qwen3-Embedding 0.6B, 4B, 8B)の制御ファミリーを評価する予備的ケーススタディである。
本稿では,DANN(Domain-Adversarial Neural Networks),MMD(Maximum Mean Discrepancy),SCL(Supervised Contrastive Learning)を用いて,消費者レビューの軽量MLPアダプタをトレーニングし,映画レビュー(SST-2)と金融ニュース(Financial PhraseBank)の高度に制限されたサブセットを評価する。
この制約されたサンプルでは、2つの異なる転送パターンが観察される。
SST-2では、ドメイン適応はスケールに関係なく無視できるゲインを提供する。
財務的な部分集合において、明示的なドメイン適応は、小さな汎用的なバックボーンの実質的なパフォーマンスを回復しているように見える。
特に,対戦性アライメント(DANN)は,既存のドメイン固有構造の侵食と整合して,FinBERTのようなドメイン特化バックボーンの性能低下と関連している。
これらの予備的な知見は,凍結した背骨が既に標的領域のカバレッジを持っているかどうかにおいて,明示的な領域適応の有効性が極めて高いことを示唆している。
関連論文リスト
- How Useful is Causal Invariance for Domain Adaptation in Finite-Sample Settings? [58.740078141879984]
機械学習モデルは、トレーニングされたソースディストリビューションとは異なるターゲットディストリビューションにデプロイされると、しばしば劣化する。
因果関係に基づく領域一般化における最近の研究は、共用因果構造が不変な予測因子を誘導する方法を示している。
本稿では,完全あるいは部分的な因果知識が,教師付きドメイン適応を確実に改善できるかどうかについて検討する。
論文 参考訳(メタデータ) (2026-06-10T21:07:49Z) - An Uncertainty-guided Tiered Self-training Framework for Active Source-free Domain Adaptation in Prostate Segmentation [10.061310311839856]
Source-free Domain Adaptation (SFDA)は、プライバシとセキュリティ上の問題に対処するために、深いセグメンテーションモデルを適用するための有望なテクニックである。
安定したドメイン適応を実現するための新しい不確実性誘導型自己学習(UGTST)フレームワークを提案する。
論文 参考訳(メタデータ) (2024-07-03T08:13:16Z) - Gradually Vanishing Gap in Prototypical Network for Unsupervised Domain Adaptation [32.58201185195226]
プロトタイプネットワーク(GVG-PN)におけるGradually Vanishing Gapという効率的なUDAフレームワークを提案する。
我々のモデルは,グローバルとローカルの両方の観点からの伝達学習を実現する。
いくつかのUDAベンチマークの実験では、提案されたGVG-PNがSOTAモデルより明らかに優れていることが検証された。
論文 参考訳(メタデータ) (2024-05-28T03:03:32Z) - Unsupervised Domain Adaptation for Anatomical Landmark Detection [5.070344284426738]
非教師なし領域適応(UDA)の設定下での解剖学的ランドマーク検出のための新しい枠組みを提案する。
このフレームワークは、自己学習とドメインの敵対的学習を活用して、適応中のドメインギャップに対処する。
脳波および肺のランドマーク検出実験は,領域間隙を広いマージンで低減し,他のUDA法より一貫して優れる手法の有効性を示した。
論文 参考訳(メタデータ) (2023-08-25T10:22:13Z) - Cyclically Disentangled Feature Translation for Face Anti-spoofing [61.70377630461084]
循環不整合特徴変換ネットワーク(CDFTN)と呼ばれる新しい領域適応手法を提案する。
CDFTNは、(1)ソースドメイン不変の生長特徴と2)ドメイン固有のコンテンツ特徴とを持つ擬似ラベル付きサンプルを生成する。
ソースドメインラベルの監督の下で、合成擬似ラベル付き画像に基づいてロバスト分類器を訓練する。
論文 参考訳(メタデータ) (2022-12-07T14:12:34Z) - Exploring Sequence Feature Alignment for Domain Adaptive Detection
Transformers [141.70707071815653]
本稿では,検出変圧器の適応に特化して設計された新しいシーケンス特徴アライメント(SFA)法を提案する。
SFAはドメインクエリベースの機能アライメント(DQFA)モジュールとトークンワイド機能アライメント(TDA)モジュールで構成される。
3つの挑戦的なベンチマーク実験により、SFAは最先端のドメイン適応オブジェクト検出方法より優れていることが示された。
論文 参考訳(メタデータ) (2021-07-27T07:17:12Z) - Contrastive Learning and Self-Training for Unsupervised Domain
Adaptation in Semantic Segmentation [71.77083272602525]
UDAはラベル付きソースドメインからラベルなしターゲットドメインへの効率的な知識伝達を試みている。
本稿では,領域にまたがるカテゴリ別センタロイドを適応させるコントラスト学習手法を提案する。
提案手法を自己学習で拡張し,メモリ効率の良い時間アンサンブルを用いて一貫性と信頼性の高い擬似ラベルを生成する。
論文 参考訳(メタデータ) (2021-05-05T11:55:53Z) - Improving Unsupervised Domain Adaptation by Reducing Bi-level Feature
Redundancy [14.94720207222332]
本稿では,UDAを両面的に改善する上で,特徴冗長性を低減することの重要性を強調した。
最初のレベルでは、転送可能な非相関正規化モジュールを用いて、コンパクトなドメイン特化機能を保証する。
第2のレベルでは、ドメイン共有表現によって引き起こされるドメイン不変特徴冗長性は、代替ブランド性によってさらに軽減される。
論文 参考訳(メタデータ) (2020-12-28T08:00:56Z) - Towards Stable and Comprehensive Domain Alignment: Max-Margin
Domain-Adversarial Training [38.12978698952838]
適応再構成ネットワーク(ARN)を設計し,MDAT(Max-margin Domain-Adversarial Training)を提案する。
ARNは、余分なネットワーク構造を伴わずに、機能レベルとピクセルレベルのドメインアライメントを実行する。
我々のアプローチは、他の最先端のドメインアライメント手法よりも優れています。
論文 参考訳(メタデータ) (2020-03-30T07:48:52Z) - Supervised Domain Adaptation using Graph Embedding [86.3361797111839]
領域適応法は、2つの領域間の分布がシフトし、それを認識しようとすると仮定する。
グラフ埋め込みに基づく汎用フレームワークを提案する。
提案手法が強力なドメイン適応フレームワークにつながることを示す。
論文 参考訳(メタデータ) (2020-03-09T12:25:13Z) - A Balanced and Uncertainty-aware Approach for Partial Domain Adaptation [142.31610972922067]
この研究は、特にターゲットドメインのクラスラベルがソースドメインのサブセットである場合に、教師なしのドメイン適応問題に対処する。
本稿では,ドメイン逆境学習に基づく新しいドメイン適応手法 BA$3$US を提案し,BAA(Ba balanced Adversarial Alignment)とAUS(Adaptive Uncertainty Suppression)の2つの新しい手法を提案する。
複数のベンチマーク実験の結果、BA$3$USが部分的なドメイン適応タスクの最先端を超越していることが示されている。
論文 参考訳(メタデータ) (2020-03-05T11:37:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。