Fugu-MT 論文翻訳(概要): Very Large Language Model as a Unified Methodology of Text Mining

論文の概要: Very Large Language Model as a Unified Methodology of Text Mining

arxiv url: http://arxiv.org/abs/2212.09271v2
Date: Tue, 20 Dec 2022 17:03:30 GMT
ステータス: 処理完了
システム内更新日: 2022-12-21 14:36:31.363059
Title: Very Large Language Model as a Unified Methodology of Text Mining
Title（参考訳）: テキストマイニングの統一手法としての超大言語モデル
Authors: Meng Jiang
Abstract要約: テキストデータマイニングは、言語テキストから必須情報を抽出するプロセスである。様々なデータセットが収集され、様々な種類のタスクのために様々なアルゴリズムが設計される。私は、非常に大きな言語モデル(VLLM)がテキストマイニングの効果的な統一手法となるという青空の考えを提示します。
参考スコア（独自算出の注目度）: 17.653623842967807
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Text data mining is the process of deriving essential information from language text. Typical text mining tasks include text categorization, text clustering, topic modeling, information extraction, and text summarization. Various data sets are collected and various algorithms are designed for the different types of tasks. In this paper, I present a blue sky idea that very large language model (VLLM) will become an effective unified methodology of text mining. I discuss at least three advantages of this new methodology against conventional methods. Finally I discuss the challenges in the design and development of VLLM techniques for text mining.
Abstract（参考訳）: テキストデータマイニングは、言語テキストから必須情報を抽出するプロセスである。典型的なテキストマイニングタスクには、テキスト分類、テキストクラスタリング、トピックモデリング、情報抽出、テキスト要約などがある。様々なデータセットが収集され、様々な種類のタスクのために様々なアルゴリズムが設計される。本稿では,非常に大きな言語モデル(VLLM)が,テキストマイニングの効果的な統一手法となる,という青空の考えを示す。従来の手法に対する新しい手法の少なくとも3つの利点について論じる。最後に,テキストマイニングのためのVLLM技術の設計と開発における課題について論じる。

関連論文リスト

GigaCheck: Detecting LLM-generated Content [72.27323884094953]
本稿では,GigaCheckを提案することによって生成したテキスト検出の課題について検討する。本研究は,LLM生成テキストとLLM生成テキストを区別する手法と,Human-Machine協調テキストにおけるLLM生成間隔を検出する手法について検討する。具体的には,テキスト内のAI生成間隔をローカライズするために,コンピュータビジョンから適応したDETRのような検出モデルと組み合わせて,微調整の汎用LLMを用いる。
論文参考訳（メタデータ） (2024-10-31T08:30:55Z)
WAS: Dataset and Methods for Artistic Text Segmentation [57.61335995536524]
本稿では,芸術的テキストセグメンテーションの課題に焦点を当て,実際の芸術的テキストセグメンテーションデータセットを構築する。本稿では,モデルが特別な形状のストローク領域を無視するのを防ぐために,レイヤワイド・モーメント・クエリを用いたデコーダを提案する。また,大域構造に焦点を合わせるために,骨格支援ヘッドを提案する。
論文参考訳（メタデータ） (2024-07-31T18:29:36Z)
Exploration of Masked and Causal Language Modelling for Text Generation [6.26998839917804]
本稿では,テキスト生成タスクにおける因果言語モデリング手法の広範な比較を行う。まず、定量的な指標を用いて、コヒーレンスと文法的正当性を分析する定性的な人的評価を行う。その結果、すべてのデータセットでテキスト生成において、CLMは一貫して上回っていることがわかった。
論文参考訳（メタデータ） (2024-05-21T09:33:31Z)
Uzbek text summarization based on TF-IDF [0.0]
本稿では,ウズベク語における要約課題について実験する。この手法はTF-IDFアルゴリズムに基づくテキスト抽象化に基づいている。テキスト全体の重要な部分にn-gram法を適用することで、与えられたテキストを要約する。
論文参考訳（メタデータ） (2023-03-01T12:39:46Z)
A Survey of Pretrained Language Models Based Text Generation [97.64625999380425]
テキスト生成は、入力データから人間の言語で可読で読みやすいテキストを生成することを目的としている。ディープラーニングは、ニューラルジェネレーションモデル、特に事前学習言語モデル(PLM)のパラダイムにより、この分野を大幅に進歩させた。 PLM上でのテキスト生成は、学術と産業の両方において有望な方向と見なされている。
論文参考訳（メタデータ） (2022-01-14T01:44:58Z)
Pre-training Language Model Incorporating Domain-specific Heterogeneous Knowledge into A Unified Representation [49.89831914386982]
本研究では, 構造化されていないテキスト, 半構造化されたテキスト, 十分に構造化されたテキストを含む, あらゆる形式のテキストに対して, 統一された事前学習言語モデル (PLM) を提案する。提案手法は,データの1/4のみを用いて,プレーンテキストの事前学習に優れる。
論文参考訳（メタデータ） (2021-09-02T16:05:24Z)
Pretrained Language Models for Text Generation: A Survey [46.03096493973206]
本稿では、テキスト生成のための事前学習言語モデル(PLM)のトピックにおいて達成された大きな進歩について概説する。我々は、既存のPLMを異なる入力データに適応させ、生成したテキストの特別な特性を満たす方法について論じる。
論文参考訳（メタデータ） (2021-05-21T12:27:44Z)
A Survey of Knowledge-Enhanced Text Generation [81.24633231919137]
テキスト生成の目標は、機械を人間の言語で表現できるようにすることである。入力テキストを出力テキストにマッピングすることを学ぶことで、目的を達成するために、様々なニューラルエンコーダデコーダモデルが提案されている。この問題に対処するために、研究者は入力テキスト以外の様々な種類の知識を生成モデルに組み込むことを検討してきた。
論文参考訳（メタデータ） (2020-10-09T06:46:46Z)
Matching Text with Deep Mutual Information Estimation [0.0]
本稿では,深い相互情報推定を組み込んだ汎用テキストマッチングのためのニューラルネットワークを提案する。提案手法は,Deep Info Max (TIM) を用いたテキストマッチングであり,表現の教師なし学習手法と統合されている。自然言語推論,パラフレーズ識別,解答選択など,いくつかのタスクにおけるテキストマッチング手法の評価を行った。
論文参考訳（メタデータ） (2020-03-09T15:25:37Z)
Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer [64.22926988297685]
下流タスクで微調整される前に、まずデータリッチタスクでモデルが事前訓練されるトランスファーラーニングは、自然言語処理(NLP)において強力な手法として登場した。本稿では,すべてのテキストベースの言語問題をテキスト・トゥ・テキスト・フォーマットに変換する統一フレームワークにより,NLPのためのトランスファー学習手法を導入する状況について検討する。
論文参考訳（メタデータ） (2019-10-23T17:37:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。