論文の概要: Neural Contrastive Clustering: Fully Unsupervised Bias Reduction for Sentiment Classification

• arxiv url: http://arxiv.org/abs/2204.10467v1
• Date: Fri, 22 Apr 2022 02:34:41 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-25 13:01:19.639023
• Title: Neural Contrastive Clustering: Fully Unsupervised Bias Reduction for Sentiment Classification
• Title（参考訳）: 神経コントラストクラスタリング:感覚分類のための完全に教師なしバイアス削減
• Authors: Jared Mowery
• Abstract要約: 感情分類における相関バイアスは、しばしば議論の的になっているトピックに関する会話で生じる。 本研究では、感情分類ラベルに基づくクラスタを、教師なしトピックモデリングによって生成されたクラスタと対比するために、逆学習を用いる。 これにより、ニューラルネットワークは、バイアス付き分類結果を生成するトピック関連の特徴を学習するのを妨げる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Background: Neural networks produce biased classification results due to correlation bias (they learn correlations between their inputs and outputs to classify samples, even when those correlations do not represent cause-and-effect relationships). Objective: This study introduces a fully unsupervised method of mitigating correlation bias, demonstrated with sentiment classification on COVID-19 social media data. Methods: Correlation bias in sentiment classification often arises in conversations about controversial topics. Therefore, this study uses adversarial learning to contrast clusters based on sentiment classification labels, with clusters produced by unsupervised topic modeling. This discourages the neural network from learning topic-related features that produce biased classification results. Results: Compared to a baseline classifier, neural contrastive clustering approximately doubles accuracy on bias-prone sentences for human-labeled COVID-19 social media data, without adversely affecting the classifier's overall F1 score. Despite being a fully unsupervised approach, neural contrastive clustering achieves a larger improvement in accuracy on bias-prone sentences than a supervised masking approach. Conclusions: Neural contrastive clustering reduces correlation bias in sentiment text classification. Further research is needed to explore generalizing this technique to other neural network architectures and application domains.
• Abstract（参考訳）: 背景:ニューラルネットワークは相関バイアスによってバイアス付き分類結果を生成する(これらの相関関係が原因と効果の関係を表現していない場合でも、入力と出力の相関を学習してサンプルを分類する)。 目的: 本研究は, 相関バイアスを緩和する, 完全に教師なしの手法を導入し, ソーシャルメディアデータに対する感情分類で実証した。 方法: 感情分類における相関バイアスは、議論を呼ぶトピックに関する会話でしばしば生じる。 そこで本研究では,感情分類ラベルに基づくクラスタと教師なしトピックモデリングによるクラスタを対比するために,逆学習を用いる。 これにより、ニューラルネットワークは、バイアス付き分類結果を生成するトピック関連の特徴を学習することを妨げる。 結果: ベースライン分類器と比較して, ニューラルコントラッシブクラスタリングは, F1スコアに悪影響を及ぼすことなく, 人のラベル付きソーシャルメディアデータに対するバイアスが伴う文の精度を約2倍に向上させた。 完全に教師なしのアプローチであるにもかかわらず、ニューラルコントラッシブクラスタリングは、教師付きマスキングアプローチよりもバイアスが発生しやすい文の精度が向上する。 結論: ニューラルコントラッシブクラスタリングは感情テキスト分類における相関バイアスを低減する。 この技術を他のニューラルネットワークアーキテクチャやアプリケーションドメインに一般化するためのさらなる研究が必要である。

関連論文リスト

• Causality and Independence Enhancement for Biased Node Classification [56.38828085943763]
  各種グラフニューラルネットワーク(GNN)に適用可能な新しい因果性・独立性向上(CIE)フレームワークを提案する。 提案手法は,ノード表現レベルでの因果的特徴と突発的特徴を推定し,突発的相関の影響を緩和する。 我々のアプローチCIEは、GNNの性能を大幅に向上するだけでなく、最先端の debiased ノード分類法よりも優れています。
  論文  参考訳（メタデータ） (2023-10-14T13:56:24Z)
• Debiasing Counterfactuals In the Presence of Spurious Correlations [0.98342301244574]
  我々は、(i)人気のデバイアス分類器と(ii)対実画像生成の両方を統合した、最初のエンドツーエンドトレーニングフレームワークを紹介する。 以上の結果から, 人口全体にわたる一般化可能なマーカーを学習し, (ii) 急激な相関を無視し, 根底にある疾患の病理に焦点をあてる脱バイアス法が実証された。
  論文  参考訳（メタデータ） (2023-08-21T19:01:45Z)
• How does Contrastive Learning Organize Images? [8.077578967149561]
  コントラスト学習(Contrastive Learning)は、同じ入力の増大と異なる入力の相違の表現において類似性を強調している。 近年の研究はこの直接的な関係に挑戦し、帰納的バイアスの重要な役割を浮き彫りにしている。 この差を捉えるために、RLD(Relative Local Density)メトリクスを導入します。
  論文  参考訳（メタデータ） (2023-05-17T14:10:54Z)
• Self-supervised debiasing using low rank regularization [59.84695042540525]
  純粋な相関は、ディープニューラルネットワークの強いバイアスを引き起こし、一般化能力を損なう可能性がある。 ラベルのないサンプルと互換性のある自己監督型脱バイアスフレームワークを提案する。 注目すべきは,提案フレームワークが自己教師付き学習ベースラインの一般化性能を著しく向上させることである。
  論文  参考訳（メタデータ） (2022-10-11T08:26:19Z)
• Contrastive Clustering: Toward Unsupervised Bias Reduction for Emotion and Sentiment Classification [0.0]
  本研究は、新型コロナウイルスのトピックに対するバイアスの影響を評価する。 新型コロナウイルス(COVID-19)のソーシャルメディアテキストに適用した場合、バイアスを減らすための自動アルゴリズムを実証する。
  論文  参考訳（メタデータ） (2021-11-14T20:58:04Z)
• LOGAN: Local Group Bias Detection by Clustering [86.38331353310114]
  コーパスレベルでバイアスを評価することは、モデルにバイアスがどのように埋め込まれているかを理解するのに十分ではない、と我々は主張する。 クラスタリングに基づく新しいバイアス検出手法であるLOGANを提案する。 毒性分類および対象分類タスクの実験は、LOGANが局所領域のバイアスを特定することを示している。
  論文  参考訳（メタデータ） (2020-10-06T16:42:51Z)
• Identifying Spurious Correlations for Robust Text Classification [9.457737910527829]
  そこで本研究では,テキスト分類におけるスプリアスと真の相関を区別する手法を提案する。 我々は、治療効果推定器から得られる特徴を用いて、突発的な相関を「遺伝子」と区別する。 4つのデータセットの実験は、このアプローチを使って特徴の選択を知らせることが、より堅牢な分類につながることを示唆している。
  論文  参考訳（メタデータ） (2020-10-06T03:49:22Z)
• Learning from Failure: Training Debiased Classifier from Biased Classifier [76.52804102765931]
  ニューラルネットワークは、所望の知識よりも学習が簡単である場合にのみ、素早い相関に依存することを学習していることを示す。 本稿では,一対のニューラルネットワークを同時にトレーニングすることで,障害に基づくデバイアス化手法を提案する。 本手法は,合成データセットと実世界のデータセットの両方において,各種バイアスに対するネットワークのトレーニングを大幅に改善する。
  論文  参考訳（メタデータ） (2020-07-06T07:20:29Z)
• Decorrelated Clustering with Data Selection Bias [55.91842043124102]
  本稿では,データ選択バイアスを伴うクラスタリングのためのデコリレーション正規化K-Meansアルゴリズム(DCKM)を提案する。 DCKMアルゴリズムは,選択バイアスによって生じる予期せぬ特徴相関を除去する必要があることを示す。
  論文  参考訳（メタデータ） (2020-06-29T08:55:50Z)
• Learning from Aggregate Observations [82.44304647051243]
  本研究では,一組のインスタンスに監視信号が与えられる集合観察から学習する問題について検討する。 本稿では,多種多様な集合観測に適合する一般的な確率的枠組みを提案する。 単純な極大解は様々な微分可能なモデルに適用できる。
  論文  参考訳（メタデータ） (2020-04-14T06:18:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。