Fugu-MT 論文翻訳(概要): Large Language Models as Batteries-Included Zero-Shot ESCO Skills Matchers

論文の概要: Large Language Models as Batteries-Included Zero-Shot ESCO Skills Matchers

arxiv url: http://arxiv.org/abs/2307.03539v1
Date: Fri, 7 Jul 2023 12:04:12 GMT
ステータス: 処理完了
システム内更新日: 2023-07-10 12:40:50.211961
Title: Large Language Models as Batteries-Included Zero-Shot ESCO Skills Matchers
Title（参考訳）: 電池内蔵ゼロショットESCOスキルマッチとしての大規模言語モデル
Authors: Benjamin Clavi\'e and Guillaume Souli\'e
Abstract要約: 大規模言語モデル(LLM)に基づくジョブ記述からスキル抽出のためのエンドツーエンドゼロショットシステムを提案する。 ESCOのスキル全体に関する総合的なトレーニングデータを生成し,求職者からのスキル言及を抽出するために分類器を訓練する。また、類似性検索を用いてスキル候補を生成し、第2のLCMを用いて再ランク付けする。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Understanding labour market dynamics requires accurately identifying the skills required for and possessed by the workforce. Automation techniques are increasingly being developed to support this effort. However, automatically extracting skills from job postings is challenging due to the vast number of existing skills. The ESCO (European Skills, Competences, Qualifications and Occupations) framework provides a useful reference, listing over 13,000 individual skills. However, skills extraction remains difficult and accurately matching job posts to the ESCO taxonomy is an open problem. In this work, we propose an end-to-end zero-shot system for skills extraction from job descriptions based on large language models (LLMs). We generate synthetic training data for the entirety of ESCO skills and train a classifier to extract skill mentions from job posts. We also employ a similarity retriever to generate skill candidates which are then re-ranked using a second LLM. Using synthetic data achieves an RP@10 score 10 points higher than previous distant supervision approaches. Adding GPT-4 re-ranking improves RP@10 by over 22 points over previous methods. We also show that Framing the task as mock programming when prompting the LLM can lead to better performance than natural language prompts, especially with weaker LLMs. We demonstrate the potential of integrating large language models at both ends of skills matching pipelines. Our approach requires no human annotations and achieve extremely promising results on skills extraction against ESCO.
Abstract（参考訳）: 労働市場のダイナミクスを理解するには、労働力に必要なスキルを正確に特定する必要がある。この取り組みをサポートするために、自動化技術がますます開発されている。しかし,既存のスキルが多すぎるため,求職者からのスキルの自動抽出は困難である。 ESCO(European Skills, Competences, Qualifications and Occupations)フレームワークは、13,000以上の個別スキルをリストアップする有用なリファレンスを提供する。しかしながら、スキル抽出は依然として困難であり、ESCO分類学の職位と正確に一致することは未解決の問題である。本研究では,大規模言語モデル(LLM)に基づくジョブ記述からスキルを抽出するエンドツーエンドのゼロショットシステムを提案する。 ESCOのスキル全体に関する総合的なトレーニングデータを生成し,求職者からのスキル言及を抽出するために分類器を訓練する。また、類似性検索を用いてスキル候補を生成し、第2のLCMを用いて再ランク付けする。合成データを使用することで、RP@10スコアは従来の遠隔監視手法よりも10ポイント高い。 GPT-4の再ランク付けは、RP@10を以前のメソッドよりも22ポイント以上改善する。また、LLMのプロンプト時にタスクをモックプログラミングとしてフレイミングすることで、自然言語のプロンプトよりもパフォーマンスが向上することを示す。スキルマッチングパイプラインの両端に,大規模言語モデルを統合する可能性を示す。提案手法は人間のアノテーションを必要とせず,ESCOに対するスキル抽出において極めて有望な結果が得られる。

関連論文リスト

Comparative Analysis of Encoder-Based NER and Large Language Models for Skill Extraction from Russian Job Vacancies [0.0]
本研究では,エンコーダとLarge Language Models(LLMs)を併用した名前付きエンティティ認識手法を比較し,ロシアの職種からスキルを抽出する。その結果、従来のNERモデル、特にDeepPavlov RuBERT NERは、精度、精度、リコール、推測時間など、様々な指標でLLMを上回ります。この研究は、自然言語処理(NLP)の分野と労働市場、特に非英語の文脈におけるその応用に寄与する。
論文参考訳（メタデータ） (2024-07-29T09:08:40Z)
Agentic Skill Discovery [19.5703917813767]
言語条件付きロボット技術により、Large Language Models (LLMs) の高レベル推論を低レベルロボット制御に適用することができる。残る課題は、さまざまな基本的なスキルを取得することです。 LLMによって完全に駆動されるスキル発見のための新しいフレームワークを導入する。
論文参考訳（メタデータ） (2024-05-23T19:44:03Z)
Acquiring Diverse Skills using Curriculum Reinforcement Learning with Mixture of Experts [58.220879689376744]
強化学習(Reinforcement Learning, RL)は, 優れた政策獲得のための強力なアプローチである。多様なスキルを学習するための textbfDiverse textbfSkill textbfLearning (Di-SkilL) を提案する。本稿では,Di-SkilLが多種多様なパフォーマンススキルを学習できるロボットシミュレーションタスクについて述べる。
論文参考訳（メタデータ） (2024-03-11T17:49:18Z)
Rethinking Skill Extraction in the Job Market Domain using Large Language Models [20.256353240384133]
スキル抽出は、仕事の投稿や履歴書などの文書で言及されているスキルと資格を識別する。手動でアノテートしたデータへの依存は、そのようなアプローチの一般化可能性を制限する。本稿では,これらの課題を克服するための文脈内学習の活用について検討する。
論文参考訳（メタデータ） (2024-02-06T09:23:26Z)
NNOSE: Nearest Neighbor Occupational Skill Extraction [55.22292957778972]
作業スキルデータセットの複雑さに対処する。我々は、データセット統一方式で類似したスキルを検索するために、外部データストアを使用します。我々は、データセット間設定において、頻度の低いパターンを予測し、最大30%のスパンF1で性能向上を観察する。
論文参考訳（メタデータ） (2024-01-30T15:18:29Z)
Skill-Mix: a Flexible and Expandable Family of Evaluations for AI models [50.11814354654953]
AIエージェントの主な能力は、必要に応じて、学習した基本的なスキルを柔軟に組み合わせることである。この研究は、スキルを組み合わせる能力を測定するための新しい評価であるSkill-Mixを導入している。
論文参考訳（メタデータ） (2023-10-26T16:55:05Z)
Extreme Multi-Label Skill Extraction Training using Large Language Models [19.095612333241288]
本稿では,スキル抽出のための精度の高い完全合成ラベル付きデータセットを生成するための費用対効果のアプローチについて述べる。以上の結果より,textitR-Precision@5では15～25ポイントの連続的な増加が見られた。
論文参考訳（メタデータ） (2023-07-20T11:29:15Z)
Democratizing LLMs for Low-Resource Languages by Leveraging their English Dominant Abilities with Linguistically-Diverse Prompts [75.33019401706188]
大規模言語モデル(LLM)は、少数の例を単純に観察することで、効果的にタスクを実行することが知られている。我々は,LLMが任意の言語から英語に翻訳するよう促すために,多種多様な高ソース言語から合成例を組み立てることを提案する。我々の教師なしプロンプト法は、英語と13のIndic言語と21のアフリカ低リソース言語間の翻訳において、異なる大きさのLLMにおける教師付き少ショット学習と同等に機能する。
論文参考訳（メタデータ） (2023-06-20T08:27:47Z)
A Survey of Knowledge Enhanced Pre-trained Language Models [78.56931125512295]
我々は、知識強化事前学習言語モデル(KE-PLMs)の包括的なレビューを行う。 NLUでは、言語知識、テキスト知識、知識グラフ(KG)、ルール知識の4つのカテゴリに分類する。 NLGのKE-PLMは、KGベースと検索ベースに分類される。
論文参考訳（メタデータ） (2022-11-11T04:29:02Z)
Design of Negative Sampling Strategies for Distantly Supervised Skill Extraction [19.43668931500507]
本稿では,リテラルマッチングによる遠隔監視に基づく,スキル抽出のためのエンドツーエンドシステムを提案する。 ESCO分類を用いて、関連するスキルからネガティブな例を選択することで、最大の改善が得られます。我々は,タスクのさらなる研究を促進するために,研究目的のベンチマークデータセットをリリースする。
論文参考訳（メタデータ） (2022-09-13T13:37:06Z)
Example-Driven Model-Based Reinforcement Learning for Solving Long-Horizon Visuomotor Tasks [85.56153200251713]
長軸ビズモータタスクの完了に適したプリミティブスキルを学習するためのモデルベースRL手法EMBRを紹介する。フランカ・エミカのロボットアームでは、EMBRによってロボットは85%の成功率で3つの長い水平視運動タスクを完了できることがわかった。
論文参考訳（メタデータ） (2021-09-21T16:48:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。