論文の概要: Maximum Batch Frobenius Norm for Multi-Domain Text Classification
- arxiv url: http://arxiv.org/abs/2202.00537v1
- Date: Sat, 29 Jan 2022 14:37:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-02 13:30:12.113854
- Title: Maximum Batch Frobenius Norm for Multi-Domain Text Classification
- Title(参考訳): マルチドメインテキスト分類のための最大バッチフロベニウスノルム
- Authors: Yuan Wu, Diana Inkpen, Ahmed El-Roby
- Abstract要約: マルチドメインテキスト分類における特徴識別性を高めるために,最大バッチフロベニウスノルム(MBF)法を提案する。
2つのMDTCベンチマーク実験により,我々のMBFアプローチは最先端技術の性能を効果的に向上できることが示された。
- 参考スコア(独自算出の注目度): 19.393393465837377
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-domain text classification (MDTC) has obtained remarkable achievements
due to the advent of deep learning. Recently, many endeavors are devoted to
applying adversarial learning to extract domain-invariant features to yield
state-of-the-art results. However, these methods still face one challenge:
transforming original features to be domain-invariant distorts the
distributions of the original features, degrading the discriminability of the
learned features. To address this issue, we first investigate the structure of
the batch classification output matrix and theoretically justify that the
discriminability of the learned features has a positive correlation with the
Frobenius norm of the batch output matrix. Based on this finding, we propose a
maximum batch Frobenius norm (MBF) method to boost the feature discriminability
for MDTC. Experiments on two MDTC benchmarks show that our MBF approach can
effectively advance the performance of the state-of-the-art.
- Abstract(参考訳): マルチドメインテキスト分類(MDTC)は深層学習の出現によって顕著な成果を得た。
近年, ドメイン不変の特徴を抽出し, 最先端の成果を得るために, 敵対学習を適用する取り組みが盛んに行われている。
しかし、これらの方法は依然として1つの課題に直面している: 元の特徴をドメイン不変に変換することは、元の特徴の分布を歪曲し、学習した特徴の識別性を低下させる。
この問題に対処するために、まずバッチ分類出力行列の構造を調査し、学習した特徴の識別性がバッチ出力行列のフロベニウスノルムと正の相関を持つことを理論的に正当化する。
そこで本研究では,MDTCの特徴識別性を高めるために,最大バッチFrobenius norm (MBF)法を提案する。
2つのMDTCベンチマーク実験により、我々のMBFアプローチは最先端技術の性能を効果的に向上できることが示された。
関連論文リスト
- Regularized Multi-output Gaussian Convolution Process with Domain Adaptation [0.0]
多出力ガウス過程 (MGP) は複数の出力をモデル化する伝達学習法として注目されている。
高い柔軟性と汎用性にもかかわらず、MGPはトランスファーラーニングに適用する際の2つの重要な課題に直面している。
1つ目は負の転送であり、出力の間に共有情報がないときに発生する。
第二の課題は入力領域の不整合であり、一般的には移動学習において研究されているが、MGPでは研究されていない。
論文 参考訳(メタデータ) (2024-09-04T14:56:28Z) - Stochastic Adversarial Networks for Multi-Domain Text Classification [9.359945319927675]
本稿では,ドメイン固有の特徴抽出器のパラメータを革新的にモデル化するAdversarial Network(SAN)を紹介する。
提案手法は, ドメインラベルの平滑化と頑健な擬似ラベル正規化を統合して, 対人訓練の安定性を高める。
2つの主要なMDTCベンチマークで評価したSANの性能は、現在の最先端手法に対する競争優位性を示している。
論文 参考訳(メタデータ) (2024-05-28T00:02:38Z) - SOFARI: High-Dimensional Manifold-Based Inference [8.860162863559163]
我々は2つのSOFARI変種を導入し、強力で弱い潜伏要因を扱えるようにし、後者は広範囲のアプリケーションをカバーする。
そこで我々は,SOFARIが潜在左因子ベクトルと特異値の両方に対して偏差補正推定器を提供し,その平均零正規分布を疎分散で楽しむことを示す。
本稿では,SOFARIの有効性を概説し,シミュレーション例による理論結果の正当化と,経済予測における実データの適用について述べる。
論文 参考訳(メタデータ) (2023-09-26T16:01:54Z) - Convolutional autoencoder-based multimodal one-class classification [80.52334952912808]
1クラス分類は、単一のクラスからのデータを用いた学習のアプローチを指す。
マルチモーダルデータに適した深層学習一クラス分類法を提案する。
論文 参考訳(メタデータ) (2023-09-25T12:31:18Z) - Synergies between Disentanglement and Sparsity: Generalization and
Identifiability in Multi-Task Learning [79.83792914684985]
我々は,最大スパース基底予測器が不整合表現をもたらす条件を提供する新しい識別可能性の結果を証明した。
この理論的な結果から,両レベル最適化問題に基づくアンタングル表現学習の実践的アプローチを提案する。
論文 参考訳(メタデータ) (2022-11-26T21:02:09Z) - Unitary Approximate Message Passing for Matrix Factorization [90.84906091118084]
行列分解 (MF) を一定の制約で考慮し, 様々な分野の応用を見いだす。
我々は,効率の良いメッセージパッシング実装であるUAMPMFを用いて,MFに対するベイズ的アプローチを開発する。
UAMPMFは、回復精度、ロバスト性、計算複雑性の観点から、最先端のアルゴリズムを著しく上回ることを示す。
論文 参考訳(メタデータ) (2022-07-31T12:09:32Z) - Learning Multiresolution Matrix Factorization and its Wavelet Networks
on Graphs [11.256959274636724]
多分解能行列分解法(MMF)は高速行列分解法では珍しい。
本稿では、強化学習とスティーフェル多様体の最適化を組み合わせることで、因子化を巧みに最適化するMMFの学習可能なバージョンを提案する。
得られたウェーブレット基底は、従来のMMFアルゴリズムよりも優れており、標準学習タスクに頑健に展開可能な、この種の分解の最初のバージョンを提供する。
論文 参考訳(メタデータ) (2021-11-02T23:14:17Z) - Learning with Multiclass AUC: Theory and Algorithms [141.63211412386283]
ROC曲線 (AUC) の下の領域は、不均衡学習やレコメンダシステムといった問題に対するよく知られたランキング基準である。
本稿では,マルチクラスAUCメトリクスを最適化することで,多クラススコアリング関数を学習する問題について検討する。
論文 参考訳(メタデータ) (2021-07-28T05:18:10Z) - MCDAL: Maximum Classifier Discrepancy for Active Learning [74.73133545019877]
近年の最先端のアクティブラーニング手法は, 主にGAN(Generative Adversarial Networks)をサンプル取得に活用している。
本稿では,MCDAL(Maximum Discrepancy for Active Learning)と呼ぶ新しいアクティブラーニングフレームワークを提案する。
特に,両者の差分を最大化することにより,より厳密な決定境界を学習する2つの補助的分類層を利用する。
論文 参考訳(メタデータ) (2021-07-23T06:57:08Z) - Feature Weighted Non-negative Matrix Factorization [92.45013716097753]
本稿では,FNMF(Feature weighted Non- negative Matrix Factorization)を提案する。
FNMFはその重要性に応じて特徴の重みを適応的に学習する。
提案する最適化アルゴリズムを用いて効率的に解くことができる。
論文 参考訳(メタデータ) (2021-03-24T21:17:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。