Fugu-MT 論文翻訳(概要): Flexible Job Classification with Zero-Shot Learning

論文の概要: Flexible Job Classification with Zero-Shot Learning

arxiv url: http://arxiv.org/abs/2209.12678v1
Date: Tue, 30 Aug 2022 18:18:21 GMT
ステータス: 処理完了
システム内更新日: 2022-10-02 23:58:11.748463
Title: Flexible Job Classification with Zero-Shot Learning
Title（参考訳）: ゼロショット学習によるフレキシブルジョブ分類
Authors: Thom Lake
Abstract要約: 本研究は、微調整言語モデルを用いたゼロショットマルチラベル文書分類の研究である。実験では、ゼロショット学習がこの環境で非常に効果的であることが示されている。推奨システムからよく知られたフィルタ/再ランク分解を採用することで、計算負担を大幅に削減することができる。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Using a taxonomy to organize information requires classifying objects (documents, images, etc) with appropriate taxonomic classes. The flexible nature of zero-shot learning is appealing for this task because it allows classifiers to naturally adapt to taxonomy modifications. This work studies zero-shot multi-label document classification with fine-tuned language models under realistic taxonomy expansion scenarios in the human resource domain. Experiments show that zero-shot learning can be highly effective in this setting. When controlling for training data budget, zero-shot classifiers achieve a 12% relative increase in macro-AP when compared to a traditional multi-label classifier trained on all classes. Counterintuitively, these results suggest in some settings it would be preferable to adopt zero-shot techniques and spend resources annotating more documents with an incomplete set of classes, rather than spreading the labeling budget uniformly over all classes and using traditional classification techniques. Additional experiments demonstrate that adopting the well-known filter/re-rank decomposition from the recommender systems literature can significantly reduce the computational burden of high-performance zero-shot classifiers, empirically resulting in a 98% reduction in computational overhead for only a 2% relative decrease in performance. The evidence presented here demonstrates that zero-shot learning has the potential to significantly increase the flexibility of taxonomies and highlights directions for future research.
Abstract（参考訳）: 分類学を用いて情報を整理するには、適切な分類クラスで対象(文書、画像など)を分類する必要がある。ゼロショット学習の柔軟な性質は、分類器が分類学的修正に自然に適応できるため、このタスクに魅力的である。本稿では,人間資源領域における現実的な分類展開シナリオの下で,微調整言語モデルを用いたゼロショットマルチラベル文書の分類について検討する。実験により、ゼロショット学習は、この設定で非常に効果的であることが示されている。トレーニングデータ予算を制御する場合、ゼロショット分類器は、すべてのクラスで訓練された従来のマルチラベル分類器と比較して、マクロAPの12%の相対的な増加を達成する。これらの結果は、すべてのクラスに統一的にラベル付け予算を分散し、従来の分類技術を使用するよりも、ゼロショット技術を採用し、より多くのドキュメントに不完全なクラスセットを注釈付けするリソースを費やすことが好ましいことを示唆している。その他の実験では、推奨システムの文献からよく知られたフィルタ/再ランク分解を採用すると、高性能ゼロショット分類器の計算負担が大幅に減少し、性能の2%しか低下しない計算オーバーヘッドが98%減少することを示した。ここで示された証拠は、ゼロショット学習は分類学の柔軟性を著しく高め、将来の研究の方向性を強調する可能性があることを示している。

関連論文リスト

Retrieval Augmented Zero-Shot Text Classification [16.947810072442188]
QZeroは、ウィキペディアからサポートカテゴリを検索することでクエリを再構築する、新しいトレーニングフリーな知識増強手法である。 6つの多様なデータセットを対象とした実験により、QZeroは、再トレーニングを必要とせずに、最先端の静的およびコンテキスト埋め込みモデルの性能を向上させることを示した。
論文参考訳（メタデータ） (2024-06-21T15:28:50Z)
Liberating Seen Classes: Boosting Few-Shot and Zero-Shot Text Classification via Anchor Generation and Classification Reframing [38.84431954053434]
短いショットとゼロショットのテキスト分類は、ラベル付きサンプルやラベル付きサンプルが全くない新しいクラスからのサンプルを認識することを目的としている。少数ショットとゼロショットのテキスト分類のためのシンプルで効果的な戦略を提案する。
論文参考訳（メタデータ） (2024-05-06T15:38:32Z)
Enhancing Visual Continual Learning with Language-Guided Supervision [76.38481740848434]
継続的な学習は、モデルが以前獲得した知識を忘れずに新しいタスクを学習できるようにすることを目的としている。ワンホットラベルが伝達する少ない意味情報は,タスク間の効果的な知識伝達を妨げている,と我々は主張する。具体的には, PLM を用いて各クラスのセマンティックターゲットを生成し, 凍結し, 監視信号として機能する。
論文参考訳（メタデータ） (2024-03-24T12:41:58Z)
Exploring Vacant Classes in Label-Skewed Federated Learning [113.65301899666645]
クライアント間の局所的なラベル分布の相違を特徴とするラベルスキューは、連合学習において大きな課題となる。本稿では, ラベルスキュード・フェデレート学習における新しい手法であるFedVLSについて紹介する。
論文参考訳（メタデータ） (2024-01-04T16:06:31Z)
Geometry-Aware Adaptation for Pretrained Models [15.715395029966812]
本稿では、argmaxをFr'echet平均に置き換え、標準予測規則のドロップイン置換を提案する。提案したアプローチであるLokiは、ImageNet上のSimCLRよりも29.7%向上しています。そのような指標が得られない場合、Lokiはクラス埋め込みから自己派生メトリクスを使用でき、事前訓練されたゼロショットモデルの10.5%の改善が得られる。
論文参考訳（メタデータ） (2023-07-23T04:48:41Z)
Continual Learning in Open-vocabulary Classification with Complementary Memory Systems [19.337633598158778]
オープン語彙画像分類におけるフレキシブルで効率的な連続学習法を提案する。サンプルのクラスが模範クラス内にあるというゼロショット推定確率を用いて、CLIPゼロショットモデルと模範モデルからの予測を組み合わせる。また,遅延学習の原則を適応した"ツリープローブ"手法を提案し,競合精度の高い新しい例からバッチ学習線形モデルへの高速学習を実現する。
論文参考訳（メタデータ） (2023-07-04T01:47:34Z)
Zero-Shot Text Classification with Self-Training [8.68603153534916]
ゼロショット分類器を最も確実な予測で微調整することで、幅広いテキスト分類タスクにおいて大幅な性能向上が期待できることを示す。自己学習は、手元にあるタスクにゼロショットモデルを適用する。
論文参考訳（メタデータ） (2022-10-31T17:55:00Z)
Prototypical Classifier for Robust Class-Imbalanced Learning [64.96088324684683]
埋め込みネットワークに付加的なパラメータを必要としないtextitPrototypealを提案する。プロトタイプは、訓練セットがクラス不均衡であるにもかかわらず、すべてのクラスに対してバランスと同等の予測を生成する。我々は, CIFAR-10LT, CIFAR-100LT, Webvision のデータセットを用いて, プロトタイプが芸術の状況と比較した場合, サブスタンスの改善が得られることを検証した。
論文参考訳（メタデータ） (2021-10-22T01:55:01Z)
SCARF: Self-Supervised Contrastive Learning using Random Feature Corruption [72.35532598131176]
本稿では,特徴のランダムなサブセットを乱してビューを形成するコントラスト学習手法であるSCARFを提案する。 SCARFは既存の戦略を補完し、オートエンコーダのような代替手段より優れていることを示す。
論文参考訳（メタデータ） (2021-06-29T08:08:33Z)
No Fear of Heterogeneity: Classifier Calibration for Federated Learning with Non-IID Data [78.69828864672978]
実世界のフェデレーションシステムにおける分類モデルのトレーニングにおける中心的な課題は、非IIDデータによる学習である。このアルゴリズムは, 近似されたssian混合モデルからサンプリングした仮想表現を用いて分類器を調整する。実験の結果,CIFAR-10,CIFAR-100,CINIC-10など,一般的なフェデレーション学習ベンチマークにおけるCCVRの現状が示された。
論文参考訳（メタデータ） (2021-06-09T12:02:29Z)
CLASTER: Clustering with Reinforcement Learning for Zero-Shot Action Recognition [52.66360172784038]
各インスタンスを個別に最適化するのではなく,すべてのトレーニングサンプルを同時に考慮したクラスタリングモデルを提案する。提案手法をCLASTERと呼び,すべての標準データセットの最先端性を常に改善することを確認する。
論文参考訳（メタデータ） (2021-01-18T12:46:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。