論文の概要: Breaking the Bank with ChatGPT: Few-Shot Text Classification for Finance

• arxiv url: http://arxiv.org/abs/2308.14634v1
• Date: Mon, 28 Aug 2023 15:04:16 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-29 13:26:02.783042
• Title: Breaking the Bank with ChatGPT: Few-Shot Text Classification for Finance
• Title（参考訳）: ChatGPTで銀行を破る-財務面のテキスト分類は少ない
• Authors: Lefteris Loukas, Ilias Stogiannidis, Prodromos Malakasiotis, Stavros Vassos
• Abstract要約: GPT-3.5とGPT-4によるインコンテキスト学習は、必要な技術的専門知識を最小化し、高価なGPUコンピューティングの必要性を排除する。 トレーニング済みでマスキングされた他の言語モデルをSetFitで微調整して、フルデータと少数ショットの両方で最先端の結果を得る。 その結果, GPT-3.5 と GPT-4 のクエリは, より少ない例でも, 微調整, 非生成モデルより優れていることがわかった。
• 参考スコア（独自算出の注目度）: 4.305568120980929
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: We propose the use of conversational GPT models for easy and quick few-shot text classification in the financial domain using the Banking77 dataset. Our approach involves in-context learning with GPT-3.5 and GPT-4, which minimizes the technical expertise required and eliminates the need for expensive GPU computing while yielding quick and accurate results. Additionally, we fine-tune other pre-trained, masked language models with SetFit, a recent contrastive learning technique, to achieve state-of-the-art results both in full-data and few-shot settings. Our findings show that querying GPT-3.5 and GPT-4 can outperform fine-tuned, non-generative models even with fewer examples. However, subscription fees associated with these solutions may be considered costly for small organizations. Lastly, we find that generative models perform better on the given task when shown representative samples selected by a human expert rather than when shown random ones. We conclude that a) our proposed methods offer a practical solution for few-shot tasks in datasets with limited label availability, and b) our state-of-the-art results can inspire future work in the area.
• Abstract（参考訳）: Banking77データセットを用いて,金融分野における会話型GPTモデルによるテキスト分類を容易かつ短時間で行うことを提案する。 提案手法では,GPT-3.5とGPT-4を用いたテキスト内学習により,必要な技術的専門知識を最小化し,高速かつ正確な結果が得られるとともに,高価なGPUコンピューティングの必要性を解消する。 さらに,最近のコントラスト学習技術であるSetFitを用いて,事前学習されたマスク付き言語モデルを微調整し,フルデータおよび少数ショット設定の両方で最先端の結果を得る。 その結果, GPT-3.5 と GPT-4 のクエリは, より少ない例でも, 微調整, 非生成モデルより優れていることがわかった。 しかし、これらのソリューションに関連するサブスクリプション料金は、小規模組織にとってコストがかかると考えられている。 最後に、生成モデルが与えられたタスクにおいて、ランダムなタスクではなく、人間の専門家によって選択された代表的なサンプルを示す場合、よりよいパフォーマンスを示すことが分かる。 結論として a) 提案手法は,ラベルアベイラビリティに制限のあるデータセットにおける少数タスクに対して実用的なソリューションを提供する。 b) 最先端の成果は,この分野の今後の業績を刺激することができる。

関連論文リスト

• Selecting Between BERT and GPT for Text Classification in Political Science Research [4.487884986288122]
  低データシナリオにおけるBERTモデルとGPTモデルの有効性を評価する。 パフォーマンス、使いやすさ、コストの観点から、これらのアプローチを比較して結論付けます。
  論文  参考訳（メタデータ） (2024-11-07T07:29:39Z)
• Optimizing Performance: How Compact Models Match or Exceed GPT's Classification Capabilities through Fine-Tuning [0.0]
  非生成の小型モデルは、ゼロショット学習設定でGPT-3.5およびGPT-4モデルより優れている。 細調整されたモデルは、市場感情を決定するタスクに基づいて微調整されたときに、GPT-3.5に匹敵する結果を示す。
  論文  参考訳（メタデータ） (2024-08-22T09:10:43Z)
• One-Shot Open Affordance Learning with Foundation Models [54.15857111929812]
  私たちは、モデルがベースオブジェクトカテゴリ毎に1つの例でトレーニングされる、ワンショットのオープンアフォーダンスラーニング(OOAL)を紹介します。 本稿では,視覚的特徴と手頃なテキスト埋め込みとの整合性を高める,シンプルで効果的な設計の視覚言語フレームワークを提案する。 2つのアベイランスセグメンテーションのベンチマーク実験により、提案手法はトレーニングデータの1%未満で最先端のモデルより優れていることが示された。
  論文  参考訳（メタデータ） (2023-11-29T16:23:06Z)
• Making LLMs Worth Every Penny: Resource-Limited Text Classification in Banking [3.9412826185755017]
  LLM(Lew-shot and Large Language Model)は、クラス毎にたった1～5つの例で効果的に機能する。 我々の研究は、バンクス77財務意図検出データセットによるこれらの手法のパフォーマンスとコストのトレードオフに対処する。 今後の研究に刺激を与えるため、人間の専門家によるBanking77のキュレートされたサブセットと、広範なエラー分析を提供する。
  論文  参考訳（メタデータ） (2023-11-10T15:10:36Z)
• Are ChatGPT and GPT-4 General-Purpose Solvers for Financial Text Analytics? A Study on Several Typical Tasks [36.84636748560657]
  ChatGPTやGPT-4のような大規模言語モデルは、ジェネラリストモデルの例外的な能力を示している。 このようなモデルは金融分野でどの程度有効か?
  論文  参考訳（メタデータ） (2023-05-10T03:13:54Z)
• Guiding Generative Language Models for Data Augmentation in Few-Shot Text Classification [59.698811329287174]
  我々は、GPT-2を用いて、分類性能を向上させるために、人工訓練インスタンスを生成する。 実験の結果,少数のラベルインスタンスでGPT-2を微調整すると,一貫した分類精度が向上することがわかった。
  論文  参考訳（メタデータ） (2021-11-17T12:10:03Z)
• Reframing Instructional Prompts to GPTk's Language [72.69833640335519]
  本稿では,モデル設計者が言語モデルに対して効果的なプロンプトを作成するためのリフレーミング手法を提案する。 その結果、リフレーミングはサンプルの複雑さを減らしながら、数ショットの学習性能を14%向上させることがわかった。 GPT3では、大規模なデータセットでモデルやプロンプトをチューニングすることは不可能である。
  論文  参考訳（メタデータ） (2021-09-16T09:44:43Z)
• What Makes Good In-Context Examples for GPT-$3$? [101.99751777056314]
  GPT-$3$はNLPタスクの広い範囲でその優れた性能のために多くの注目を集めています。 その成功にもかかわらず、我々はGPT-$3$の実証結果が文脈内例の選択に大きく依存していることを発見した。 本研究では,文脈内事例を適切に選択するためのより効果的な戦略が存在するかを検討する。
  論文  参考訳（メタデータ） (2021-01-17T23:38:40Z)
• Evaluating data augmentation for financial time series classification [85.38479579398525]
  2つの最先端ディープラーニングモデルを用いて,ストックデータセットに適用したいくつかの拡張手法を評価する。 比較的小さなデータセット拡張手法では、リスク調整された戻り値のパフォーマンスが最大400%向上する。 より大きなストックデータセット拡張メソッドでは、最大40%の改善が達成される。
  論文  参考訳（メタデータ） (2020-10-28T17:53:57Z)
• Investigating Pretrained Language Models for Graph-to-Text Generation [55.55151069694146]
  Graph-to-text生成は、グラフベースのデータから流動的なテキストを生成することを目的としている。 本稿では,3つのグラフ領域,つまり表現,ウィキペディア知識グラフ(KG),科学的なKGについて検討する。 我々は, PLM の BART と T5 が新たな最先端の成果を達成し, タスク適応型事前学習戦略が性能をさらに向上することを示す。
  論文  参考訳（メタデータ） (2020-07-16T16:05:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。