論文の概要: Towards an evolutionary-based approach for natural language processing

• arxiv url: http://arxiv.org/abs/2004.13832v1
• Date: Thu, 23 Apr 2020 18:44:12 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-10 08:45:28.888162
• Title: Towards an evolutionary-based approach for natural language processing
• Title（参考訳）: 自然言語処理への進化的アプローチに向けて
• Authors: Luca Manzoni, Domagoj Jakobovic, Luca Mariot, Stjepan Picek, Mauro Castelli
• Abstract要約: 本稿では,GP と NLP ツール Word2vec を組み合わせた最初の概念証明を提案する。 第一の考え方は、一度単語がベクトル空間に移動されると、従来のGP演算子はベクトル上でうまく働き、それによって意味のある単語を出力として生成する、というものである。
• 参考スコア（独自算出の注目度）: 14.760703384346984
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Tasks related to Natural Language Processing (NLP) have recently been the focus of a large research endeavor by the machine learning community. The increased interest in this area is mainly due to the success of deep learning methods. Genetic Programming (GP), however, was not under the spotlight with respect to NLP tasks. Here, we propose a first proof-of-concept that combines GP with the well established NLP tool word2vec for the next word prediction task. The main idea is that, once words have been moved into a vector space, traditional GP operators can successfully work on vectors, thus producing meaningful words as the output. To assess the suitability of this approach, we perform an experimental evaluation on a set of existing newspaper headlines. Individuals resulting from this (pre-)training phase can be employed as the initial population in other NLP tasks, like sentence generation, which will be the focus of future investigations, possibly employing adversarial co-evolutionary approaches.
• Abstract（参考訳）: 自然言語処理(NLP)に関連するタスクは、機械学習コミュニティによる大規模な研究の焦点となっている。 この分野への関心が高まったのは、主に深層学習の成功によるものである。 しかし、遺伝的プログラミング(gp)はnlpタスクに関してスポットライトを浴びていなかった。 本稿では,gp とよく確立された nlp ツール word2vec を組み合わせた最初の概念実証手法を提案する。 主なアイデアは、単語がベクトル空間に移動されると、従来のgp演算子がベクトルにうまく取り組み、結果として意味のある単語を出力として生成できるということである。 このアプローチの適合性を評価するために,既存の新聞記事の見出しを実験的に評価する。 この(事前の)訓練段階から得られた個人は、文生成のような他のnlpタスクの初期集団として採用され、将来の調査の焦点となり、おそらくは逆共進化的アプローチを採用する。

関連論文リスト

• A survey of neural-network-based methods utilising comparable data for finding translation equivalents [0.0]
  NLPの最も一般的なアプローチとして,必要な辞書コンポーネントの1つを自動生成する手法を提案する。 記述法の改善に欠かせないので,レキソグラフィの観点から解析する。 この調査は、NLPフィールドがレキシコグラフィーの洞察の恩恵を受けることができるため、NLPフィールドとレキシコグラフィーフィールドの接続を奨励する。
  論文  参考訳（メタデータ） (2024-10-19T16:10:41Z)
• The Nature of NLP: Analyzing Contributions in NLP Papers [77.31665252336157]
  我々は,NLP研究を構成するものについて,研究論文から定量的に検討する。 以上の結果から,NLPにおける機械学習の関与は,90年代前半から増加傾向にあることが明らかとなった。 2020年以降、言語と人々への関心が復活した。
  論文  参考訳（メタデータ） (2024-09-29T01:29:28Z)
• Pre-Trained Language Models for Keyphrase Prediction: A Review [2.7869482272876622]
  キーフレーズ予測(KP)は、その内容を要約できる文書中のキーフレーズを特定するのに不可欠である。 最近の自然言語処理の進歩は、ディープラーニング技術を用いたより効率的なKPモデルを開発した。 本稿では,キーフレーズ予測のための事前学習言語モデル(PLM-KP)の話題を幅広く検討する。
  論文  参考訳（メタデータ） (2024-09-02T09:15:44Z)
• Natural Language Processing for Dialects of a Language: A Survey [56.93337350526933]
  最先端自然言語処理(NLP)モデルは、大規模なトレーニングコーパスでトレーニングされ、評価データセットで最上位のパフォーマンスを報告します。 この調査は、これらのデータセットの重要な属性である言語の方言を掘り下げる。 方言データセットに対するNLPモデルの性能劣化と言語技術のエクイティへのその影響を動機として,我々はデータセットやアプローチの観点から,方言に対するNLPの過去の研究を調査した。
  論文  参考訳（メタデータ） (2024-01-11T03:04:38Z)
• Unsupervised Chunking with Hierarchical RNN [62.15060807493364]
  本稿では,非階層的手法で単語をグループ化する構文的タスクであるチャンキングに対する教師なしアプローチを紹介する。 本稿では,単語-チャンク・チャンク-文合成をモデル化した2層階層型階層型リカレントニューラルネットワーク(HRNN)を提案する。 CoNLL-2000データセットの実験では、既存の教師なし手法よりも顕著な改善が見られ、フレーズF1スコアが最大6ポイント向上した。
  論文  参考訳（メタデータ） (2023-09-10T02:55:12Z)
• A Survey of Knowledge Enhanced Pre-trained Language Models [78.56931125512295]
  我々は、知識強化事前学習言語モデル(KE-PLMs)の包括的なレビューを行う。 NLUでは、言語知識、テキスト知識、知識グラフ(KG)、ルール知識の4つのカテゴリに分類する。 NLGのKE-PLMは、KGベースと検索ベースに分類される。
  論文  参考訳（メタデータ） (2022-11-11T04:29:02Z)
• Meta Learning for Natural Language Processing: A Survey [88.58260839196019]
  ディープラーニングは自然言語処理(NLP)分野において主要な技術である。 ディープラーニングには多くのラベル付きデータが必要です。 メタ学習は、より良いアルゴリズムを学ぶためのアプローチを研究する機械学習の分野である。
  論文  参考訳（メタデータ） (2022-05-03T13:58:38Z)
• Meta-Embeddings for Natural Language Inference and Semantic Similarity tasks [0.0]
  Word Representationsは、ほぼ全ての高度な自然言語処理(NLP)アプリケーションの中核となるコンポーネントである。 本稿では,主要なNLPタスクに効率よく取り組むために,SOTA(State-of-the-Art)モデルから派生したメタ埋め込みを提案する。
  論文  参考訳（メタデータ） (2020-12-01T16:58:01Z)
• Heads-up! Unsupervised Constituency Parsing via Self-Attention Heads [27.578115452635625]
  そこで本研究では, PLM の注目点から区切り木を抽出する, 完全に教師なしの構文解析手法を提案する。 我々は、トランスフォーマーのアテンションヘッドを、その特性に基づいてランク付けし、最終ツリーを生成するために、上位のヘッドのアンサンブルを作成します。 我々の実験は、PLMが暗黙的に学習する文法を分析するツールとしても利用できる。
  論文  参考訳（メタデータ） (2020-10-19T13:51:40Z)
• Task-specific Objectives of Pre-trained Language Models for Dialogue Adaptation [79.0866650271659]
  PrLMを利用する一般的なプロセスは、まずタスク非依存のLMトレーニング目標を持つ大規模汎用コーパス上で事前トレーニングを行い、タスク固有のトレーニング目標を持つタスクデータセットを微調整する。 タスク固有の目的を持つドメイン内タスク関連コーパスにタスク固有の事前学習を導入する。 この手順は、特定のタスクのモデル理解能力を高めるために、元の2つのステージの間に置かれる。
  論文  参考訳（メタデータ） (2020-09-10T16:46:46Z)
• Probing the Natural Language Inference Task with Automated Reasoning Tools [6.445605125467574]
  自然言語推論(NLI)タスクは、現在のNLPにおいて重要なタスクである。 我々はNLIタスクの論理構造を調べるために他の手法を用いる。 我々は、機械指向の自然言語がNLI文のパースにどの程度うまく利用できるか、また、自動定理証明器が結果の式に対していかにうまく推論できるかを示す。
  論文  参考訳（メタデータ） (2020-05-06T03:18:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。