論文の概要: Gen-Z: Generative Zero-Shot Text Classification with Contextualized Label Descriptions

• arxiv url: http://arxiv.org/abs/2311.07115v1
• Date: Mon, 13 Nov 2023 07:12:57 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-14 15:28:24.745368
• Title: Gen-Z: Generative Zero-Shot Text Classification with Contextualized Label Descriptions
• Title（参考訳）: Gen-Z:文脈付きラベル記述を用いたゼロショットテキスト分類
• Authors: Sachin Kumar, Chan Young Park, Yulia Tsvetkov
• Abstract要約: ゼロショットテキスト分類のための生成的プロンプトフレームワークを提案する。 GEN-Zはラベルの自然言語記述に基づく入力テキストのLM可能性を測定する。 データソースの文脈化によるゼロショット分類は、ゼロショットベースラインと少数ショットベースラインの両方を一貫して上回っていることを示す。
• 参考スコア（独自算出の注目度）: 50.92702206798324
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language model (LM) prompting--a popular paradigm for solving NLP tasks--has been shown to be susceptible to miscalibration and brittleness to slight prompt variations, caused by its discriminative prompting approach, i.e., predicting the label given the input. To address these issues, we propose Gen-Z--a generative prompting framework for zero-shot text classification. GEN-Z is generative, as it measures the LM likelihood of input text, conditioned on natural language descriptions of labels. The framework is multivariate, as label descriptions allow us to seamlessly integrate additional contextual information about the labels to improve task performance. On various standard classification benchmarks, with six open-source LM families, we show that zero-shot classification with simple contextualization of the data source of the evaluation set consistently outperforms both zero-shot and few-shot baselines while improving robustness to prompt variations. Further, our approach enables personalizing classification in a zero-shot manner by incorporating author, subject, or reader information in the label descriptions.
• Abstract（参考訳）: 言語モデル(lm)プロンプト--nlpタスクを解決するための一般的なパラダイム--入力が与えられたラベルを予測する識別的プロンプトアプローチによって引き起こされる、わずかなプロンプトバリエーションに対する誤解と脆さの影響を受けやすいことが示されている。 これらの問題に対処するため,ゼロショットテキスト分類のための生成促進フレームワークGen-Zを提案する。 gen-Zは、ラベルの自然言語記述に基づいて入力テキストのLM可能性を測定するため、生成する。 ラベル記述により、ラベルに関する追加のコンテキスト情報をシームレスに統合し、タスクパフォーマンスを向上させることができます。 各種標準分類ベンチマークにおいて、6つのオープンソースLMファミリーを用いて、評価セットのデータソースの文脈化によるゼロショット分類が、ゼロショットベースラインと少数ショットベースラインの両方を一貫して上回り、変動を促すロバスト性を改善していることを示す。 また, ラベル記述に著者, 主題, 読者情報を組み込むことにより, ゼロショット方式で分類をパーソナライズすることができる。

関連論文リスト

• CoA: Chain-of-Action for Generative Semantic Labels [5.016605351534376]
  CoA(Chain-of-Action)メソッドは、画像の文脈的に関連する特徴に沿ったラベルを生成する。 CoAは、豊かで価値のある文脈情報が推論時の生成性能を改善するという観察に基づいて設計されている。
  論文  参考訳（メタデータ） (2024-11-26T13:09:14Z)
• Description-Enhanced Label Embedding Contrastive Learning for Text Classification [65.01077813330559]
  モデル学習プロセスにおける自己監督型学習(SSL)と新しい自己監督型関係関係(R2)分類タスクの設計 テキスト分類とR2分類を最適化対象として扱うテキスト分類のための関係学習ネットワーク(R2-Net)の関係について検討する。 ラベルセマンティックラーニングのためのマルチアスペクト記述を得るためのWordNetからの外部知識。
  論文  参考訳（メタデータ） (2023-06-15T02:19:34Z)
• Label Agnostic Pre-training for Zero-shot Text Classification [4.9081735096855565]
  現実世界の応用では、与えられたテキストを記述するための無限ラベル空間が存在する。 我々は2つの新しいシンプルで効果的な事前学習戦略、ImplicitとExplicitの事前学習を導入する。 これらのメソッドは、タスクレベルの理解を構築するためにモデルを条件付けすることを目的として、列車時のモデルにアスペクトレベルの理解を注入します。
  論文  参考訳（メタデータ） (2023-05-25T22:55:32Z)
• Imprecise Label Learning: A Unified Framework for Learning with Various Imprecise Label Configurations [91.67511167969934]
  imprecise label learning (ILL)は、様々な不正確なラベル構成で学習を統合するためのフレームワークである。 我々は、ILLが部分ラベル学習、半教師付き学習、雑音ラベル学習にシームレスに適応できることを実証した。
  論文  参考訳（メタデータ） (2023-05-22T04:50:28Z)
• The Benefits of Label-Description Training for Zero-Shot Text Classification [35.27224341685012]
  事前訓練された言語モデルはゼロショットテキスト分類を改善した。 最小限の努力でゼロショット精度をさらに向上する簡単な方法を提案する。
  論文  参考訳（メタデータ） (2023-05-03T16:19:31Z)
• Empowering Sentence Encoders with Prompting and Label Retrieval for Zero-shot Text Classification [5.484132137132862]
  我々のフレームワークであるRaLPは、文エンコーダでラベル候補をエンコードし、入力テキスト埋め込みと最もよく似たラベルを割り当てる。 RaLPは、様々なクローズドセット分類とマルチチョイスQAデータセットに基づいて、はるかに大きなベースラインよりも、競争力や強いパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2022-12-20T16:18:03Z)
• Self-Adaptive Label Augmentation for Semi-supervised Few-shot Classification [121.63992191386502]
  Few-shotの分類は、ラベル付きサンプルがわずかにあれば、新しいタスクをうまく一般化できるモデルを学ぶことを目的としている。 そこで本研究では,手動で定義した指標を用いて,ラベルのない各サンプルに適切なラベルを割り当てる半教師付き小ショット分類手法を提案する。 SALAの目新しいところは、タスク適応計量であり、エンドツーエンドの方法で異なるタスクに対するメトリックを適応的に学習することができる。
  論文  参考訳（メタデータ） (2022-06-16T13:14:03Z)
• Unsupervised Ranking and Aggregation of Label Descriptions for Zero-Shot Classifiers [8.434227773463022]
  本当のゼロショット設定では、開発セットがないため、良いラベル記述を設計することは難しい。 本研究では, ラベル記述を教師なしの方法で選択するために, 繰り返し評価分析の確率モデルをどのように利用できるかを検討する。
  論文  参考訳（メタデータ） (2022-04-20T14:23:09Z)
• Knowledgeable Prompt-tuning: Incorporating Knowledge into Prompt Verbalizer for Text Classification [68.3291372168167]
  我々は、外部知識を言語化に取り入れることに集中し、知識に富んだプロンプトチューニング(KPT)を形成する。 我々は,外部知識ベース(KB)を用いてラベル語空間を拡張し,拡張されたラベル語空間で予測する前に PLM 自体で拡張されたラベル語空間を洗練する。 ゼロと少数ショットのテキスト分類タスクの実験は、知識のあるプロンプトチューニングの有効性を示す。
  論文  参考訳（メタデータ） (2021-08-04T13:00:16Z)
• Unsupervised Person Re-identification via Multi-label Classification [55.65870468861157]
  本稿では,教師なしのReIDを多ラベル分類タスクとして定式化し,段階的に真のラベルを求める。 提案手法は,まず,各人物画像に単一クラスラベルを割り当てることから始まり,ラベル予測のために更新されたReIDモデルを活用することで,多ラベル分類へと進化する。 マルチラベル分類におけるReIDモデルのトレーニング効率を高めるために,メモリベースマルチラベル分類損失(MMCL)を提案する。
  論文  参考訳（メタデータ） (2020-04-20T12:13:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。