Fugu-MT 論文翻訳(概要): Accurate Use of Label Dependency in Multi-Label Text Classification Through the Lens of Causality

論文の概要: Accurate Use of Label Dependency in Multi-Label Text Classification Through the Lens of Causality

arxiv url: http://arxiv.org/abs/2310.07588v1
Date: Wed, 11 Oct 2023 15:28:44 GMT
ステータス: 処理完了
システム内更新日: 2023-10-12 22:12:35.103734
Title: Accurate Use of Label Dependency in Multi-Label Text Classification Through the Lens of Causality
Title（参考訳）: 因果レンズによる多ラベルテキスト分類におけるラベル依存の正確な利用
Authors: Caoyun Fan, Wenqing Chen, Jidong Tian, Yitian Li, Hao He, Yaohui Jin
Abstract要約: マルチラベルテキスト分類は、各テキストに最も関連性の高いラベルを割り当てることを目的としている。ラベル依存は、モデルは望ましくない予測バイアスに悩まされる可能性がある。本稿では,相関バイアスを排除し,因果関係に基づく予測を行うために,CFTC(CounterFactual Text)を提案する。
参考スコア（独自算出の注目度）: 25.36416774024584
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Multi-Label Text Classification (MLTC) aims to assign the most relevant labels to each given text. Existing methods demonstrate that label dependency can help to improve the model's performance. However, the introduction of label dependency may cause the model to suffer from unwanted prediction bias. In this study, we attribute the bias to the model's misuse of label dependency, i.e., the model tends to utilize the correlation shortcut in label dependency rather than fusing text information and label dependency for prediction. Motivated by causal inference, we propose a CounterFactual Text Classifier (CFTC) to eliminate the correlation bias, and make causality-based predictions. Specifically, our CFTC first adopts the predict-then-modify backbone to extract precise label information embedded in label dependency, then blocks the correlation shortcut through the counterfactual de-bias technique with the help of the human causal graph. Experimental results on three datasets demonstrate that our CFTC significantly outperforms the baselines and effectively eliminates the correlation bias in datasets.
Abstract（参考訳）: マルチラベルテキスト分類(MLTC)は、各テキストに最も関連性の高いラベルを割り当てることを目的としている。既存のメソッドは、ラベル依存がモデルの性能を改善するのに役立つことを示している。しかし、ラベル依存の導入はモデルが望ましくない予測バイアスに苦しむ可能性がある。本研究では,モデルがラベル依存度を誤用していること,すなわち,予測にテキスト情報やラベル依存度を用いるのではなく,ラベル依存度における相関ショートカットを利用する傾向について,バイアスを分類する。因果推論により,相関バイアスを排除し,因果関係に基づく予測を行うために,CFTC(CounterFactual Text Classifier)を提案する。具体的には、CFTCはまず、ラベル依存に埋め込まれた正確なラベル情報を抽出し、人間の因果グラフの助けを借りて、デバイアス法によって相関ショートカットをブロックする。 3つのデータセットの実験結果から、CFTCはベースラインを著しく上回り、データセットの相関バイアスを効果的に排除することを示した。

関連論文リスト

Towards Robust Text Classification: Mitigating Spurious Correlations with Causal Learning [2.7813683000222653]
本稿では,因果関係へのモデル依存を軽減するために,因果相関ロバスト (CCR) を提案する。 CCRは、逆確率重み付け(IPW)損失関数とともに、反ファクト推論に基づく因果的特徴選択法を統合する。グループラベルを持たないメソッド間でのCCRの最先端性能を示し、場合によってはグループラベルを利用するモデルと競合する。
論文参考訳（メタデータ） (2024-11-01T21:29:07Z)
Substituting Data Annotation with Balanced Updates and Collective Loss in Multi-label Text Classification [19.592985329023733]
MLTC(Multi-label text classification)は、あるテキストに複数のラベルを割り当てるタスクである。本報告では,MLTCの問題点を,ラベル数に比例して,利用可能な監視信号の大きさが線形であるアノテーションフリーおよび希少アノテーション設定で検討する。提案手法は,(1)事前学習した言語モデルを用いて,入力テキストを事前ラベル候補の集合にマッピングし,(2)ラベル記述による署名付きラベル依存グラフの計算,(3)ラベル依存グラフに沿ったメッセージパスによる事前ラベル候補の更新を行う。
論文参考訳（メタデータ） (2023-09-24T04:12:52Z)
Dist-PU: Positive-Unlabeled Learning from a Label Distribution Perspective [89.5370481649529]
本稿では,PU学習のためのラベル分布視点を提案する。そこで本研究では,予測型と基底型のラベル分布間のラベル分布の整合性を追求する。提案手法の有効性を3つのベンチマークデータセットで検証した。
論文参考訳（メタデータ） (2022-12-06T07:38:29Z)
Leveraging Instance Features for Label Aggregation in Programmatic Weak Supervision [75.1860418333995]
Programmatic Weak Supervision (PWS) は、トレーニングラベルを効率的に合成するための広く普及したパラダイムとして登場した。 PWSのコアコンポーネントはラベルモデルであり、複数のノイズ管理ソースの出力をラベル関数として集約することで、真のラベルを推論する。既存の統計ラベルモデルは一般的にLFの出力のみに依存し、基礎となる生成過程をモデル化する際のインスタンスの特徴を無視している。
論文参考訳（メタデータ） (2022-10-06T07:28:53Z)
Multi-label Classification with High-rank and High-order Label Correlations [62.39748565407201]
従来の手法では, ラベル行列を低ランク行列係数化した潜在ラベル空間に変換することにより, 高階ラベル相関を捕えることができた。本稿では,高次ラベル相関を明示的に記述する簡易かつ効果的な手法を提案し,同時にラベル行列の高次値を維持する。 12個のベンチマークデータセットの比較研究により,マルチラベル分類における提案アルゴリズムの有効性が検証された。
論文参考訳（メタデータ） (2022-07-09T05:15:31Z)
Instance-Dependent Partial Label Learning [69.49681837908511]
部分ラベル学習は、典型的には弱教師付き学習問題である。既存のほとんどのアプローチでは、トレーニングサンプルの間違ったラベルがランダムに候補ラベルとして選択されていると仮定している。本稿では,各例が実数で構成された潜在ラベル分布と関連していると仮定する。
論文参考訳（メタデータ） (2021-10-25T12:50:26Z)
Fine-grained Entity Typing via Label Reasoning [41.05579329042479]
本稿では,細粒度なエンティティラベルを逐次推論するemphLabel Reasoning Network(LRN)を提案する。実験により、LRNは標準的な超微粒なエンティティ型ベンチマークで最先端のパフォーマンスを達成することが示された。
論文参考訳（メタデータ） (2021-09-13T07:08:47Z)
Label Confusion Learning to Enhance Text Classification Models [3.0251266104313643]
ラベル混乱モデル(lcm)はラベル間の意味的重複を捉えるためにラベル混乱を学習する。 lcmは、元のホットラベルベクトルを置き換えるより優れたラベル分布を生成することができる。 5つのテキスト分類ベンチマークデータセットの実験により、広く使われているディープラーニング分類モデルに対するLCMの有効性が明らかにされた。
論文参考訳（メタデータ） (2020-12-09T11:34:35Z)
A Study on the Autoregressive and non-Autoregressive Multi-label Learning [77.11075863067131]
本稿では,ラベルとラベルの依存関係を共同で抽出する自己アテンションに基づく変分エンコーダモデルを提案する。したがって、ラベルラベルとラベル機能の両方の依存関係を保ちながら、すべてのラベルを並列に予測することができる。
論文参考訳（メタデータ） (2020-12-03T05:41:44Z)
Few-shot Slot Tagging with Collapsed Dependency Transfer and Label-enhanced Task-adaptive Projection Network [61.94394163309688]
本稿では,現在最先端の少数ショット分類モデルであるTapNetに基づくラベル強化タスク適応プロジェクションネットワーク(L-TapNet)を提案する。実験結果から,本モデルは1ショット設定で14.64点のF1スコアで最強の少ショット学習ベースラインを著しく上回っていることがわかった。
論文参考訳（メタデータ） (2020-06-10T07:50:44Z)
Multi-Label Text Classification using Attention-based Graph Neural Network [0.0]
ラベル間の注意的依存構造を捉えるために,グラフアテンションネットワークに基づくモデルを提案する。提案モデルでは, 従来の最先端モデルと比較して, 類似あるいは良好な性能が得られた。
論文参考訳（メタデータ） (2020-03-22T17:12:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。