論文の概要: FinPT: Financial Risk Prediction with Profile Tuning on Pretrained Foundation Models

• arxiv url: http://arxiv.org/abs/2308.00065v1
• Date: Sat, 22 Jul 2023 09:27:05 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-06 11:11:37.796122
• Title: FinPT: Financial Risk Prediction with Profile Tuning on Pretrained Foundation Models
• Title（参考訳）: FinPT:事前学習基盤モデルに基づくプロファイル調整による金融リスク予測
• Authors: Yuwei Yin, Yazheng Yang, Jian Yang, Qi Liu
• Abstract要約: FinPTは、金融リスク予測のための新しいアプローチであり、大規模な事前訓練された基礎モデルに基づいてプロファイルチューニングを行う。 FinBenchは、デフォルト、詐欺、チャーンといった金融リスクに関する高品質なデータセットのセットである。
• 参考スコア（独自算出の注目度）: 32.7825479037623
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Financial risk prediction plays a crucial role in the financial sector. Machine learning methods have been widely applied for automatically detecting potential risks and thus saving the cost of labor. However, the development in this field is lagging behind in recent years by the following two facts: 1) the algorithms used are somewhat outdated, especially in the context of the fast advance of generative AI and large language models (LLMs); 2) the lack of a unified and open-sourced financial benchmark has impeded the related research for years. To tackle these issues, we propose FinPT and FinBench: the former is a novel approach for financial risk prediction that conduct Profile Tuning on large pretrained foundation models, and the latter is a set of high-quality datasets on financial risks such as default, fraud, and churn. In FinPT, we fill the financial tabular data into the pre-defined instruction template, obtain natural-language customer profiles by prompting LLMs, and fine-tune large foundation models with the profile text to make predictions. We demonstrate the effectiveness of the proposed FinPT by experimenting with a range of representative strong baselines on FinBench. The analytical studies further deepen the understanding of LLMs for financial risk prediction.
• Abstract（参考訳）: 金融リスク予測は金融セクターにおいて重要な役割を果たす。 機械学習手法は、潜在的なリスクを自動的に検出し、労働コストを削減するために広く応用されている。 しかし,近年,この分野の発展は,次の2つの事実によって遅れている。 1)アルゴリズムは、特に生成型aiと大規模言語モデル(llm)の急速な進歩の文脈において、やや時代遅れである。 2) 統合的でオープンソースの金融指標の欠如は,長年にわたって関連する研究を妨げてきた。 これらの課題に対処するために、FinPTとFinBenchを提案する: 前者は、大規模な事前訓練された基盤モデルに基づいてプロファイルチューニングを行う金融リスク予測の新しいアプローチであり、後者は、デフォルト、詐欺、チャーンといった金融リスクに関する高品質なデータセットのセットである。 FinPTでは、事前に定義された命令テンプレートに財務表データを埋め込み、LLMを誘導して自然言語の顧客プロファイルを取得し、プロファイルテキストで大規模基盤モデルを微調整して予測する。 提案するfinptの有効性を,finbench 上の代表的な強基線を用いて検証することで実証する。 分析研究は、金融リスク予測のためのLLMの理解をさらに深めている。

関連論文リスト

• Large Language Models for Financial Aid in Financial Time-series Forecasting [0.4218593777811082]
  金融支援の時系列予測は、限られた歴史的データセットと高次元財務情報のために困難である。 我々は、従来のアプローチよりも優れた性能を示すために、事前訓練されたLPM(GPT-2をバックボーンとする)、トランスフォーマー、線形モデルなど、最先端の時系列モデルを用いている。
  論文  参考訳（メタデータ） (2024-10-24T12:41:47Z)
• SNFinLLM: Systematic and Nuanced Financial Domain Adaptation of Chinese Large Language Models [6.639972934967109]
  大規模言語モデル (LLM) は、金融業界において自然言語処理を推進するための強力なツールとなっている。 SNFinLLMという中国の金融ドメイン向けに設計された新しい大規模言語モデルを提案する。 SNFinLLMは、質問への回答、財務調査レポートの要約、感情の分析、財務計算の実行など、ドメイン固有のタスクに優れています。
  論文  参考訳（メタデータ） (2024-08-05T08:24:24Z)
• Advancing Anomaly Detection: Non-Semantic Financial Data Encoding with LLMs [49.57641083688934]
  本稿では,Large Language Models (LLM) 埋め込みを用いた財務データにおける異常検出の新しい手法を提案する。 実験により,LLMが異常検出に有用な情報をもたらし,モデルがベースラインを上回っていることが確認された。
  論文  参考訳（メタデータ） (2024-06-05T20:19:09Z)
• FinLangNet: A Novel Deep Learning Framework for Credit Risk Prediction Using Linguistic Analogy in Financial Data [7.920794613231792]
  FinLangNetは、言語構造を反映する構造において、クレジットローンの軌跡を概念化する。 我々はFinLangNetが従来の統計手法を超越して信用リスクを予測することを示した。
  論文  参考訳（メタデータ） (2024-04-19T17:01:46Z)
• AlphaFin: Benchmarking Financial Analysis with Retrieval-Augmented Stock-Chain Framework [48.3060010653088]
  我々はAlphaFinデータセットをリリースし、従来の研究データセット、リアルタイム財務データ、手書きのチェーン・オブ・プリート(CoT)データを組み合わせています。 次に、AlphaFinデータセットを使用して、金融分析タスクを効果的に処理するために、Stock-Chainと呼ばれる最先端の手法をベンチマークします。
  論文  参考訳（メタデータ） (2024-03-19T09:45:33Z)
• FinBen: A Holistic Financial Benchmark for Large Language Models [75.09474986283394]
  FinBenは、24の財務タスクにまたがる36のデータセットを含む、最初の大規模なオープンソース評価ベンチマークである。 FinBenは、幅広いタスクとデータセット、ストックトレーディングの最初の評価、新しいエージェントと検索可能な生成(RAG)の評価、およびテキスト要約、質問応答、株式トレーディングのための3つの新しいオープンソース評価データセットを提供する。
  論文  参考訳（メタデータ） (2024-02-20T02:16:16Z)
• PIXIU: A Large Language Model, Instruction Data and Evaluation Benchmark for Finance [63.51545277822702]
  PIXIUは、命令データ付き微調整LLaMAに基づく最初の金融大規模言語モデル(LLM)を含む包括的なフレームワークである。 我々はLLaMAを細調整してFinMAを提案する。 我々は、FinMAと既存のLLMを詳細に分析し、重要な財政課題に対処する際の長所と短所を明らかにする。
  論文  参考訳（メタデータ） (2023-06-08T14:20:29Z)
• Measuring Consistency in Text-based Financial Forecasting Models [10.339586273664725]
  FinTrustは財務文書の論理的一貫性を評価する評価ツールである。 金融予測のための最先端NLPモデルの整合性は乏しいことを示す。 意味保存による性能劣化の分析は,現在のテキストベースの手法が市場情報の堅牢な予測に適していないことを示唆している。
  論文  参考訳（メタデータ） (2023-05-15T10:32:26Z)
• Bayesian Bilinear Neural Network for Predicting the Mid-price Dynamics in Limit-Order Book Markets [84.90242084523565]
  伝統的な時系列計量法は、価格力学を駆動する多層相互作用の真の複雑さを捉えることができないことが多い。 最先端の2次最適化アルゴリズムを採用することで、時間的注意を払ってベイジアン双線形ニューラルネットワークを訓練する。 予測分布を用いて推定パラメータとモデル予測に関連する誤差や不確実性を解析することにより、ベイズモデルと従来のML代替品を徹底的に比較する。
  論文  参考訳（メタデータ） (2022-03-07T18:59:54Z)
• FinQA: A Dataset of Numerical Reasoning over Financial Data [52.7249610894623]
  我々は、大量の財務文書の分析を自動化することを目的として、財務データに関する深い質問に答えることに重点を置いている。 我々は,金融専門家が作成した財務報告に対して質問回答のペアを用いた,新たな大規模データセットFinQAを提案する。 その結果、人気があり、大規模で、事前訓練されたモデルは、金融知識を得るための専門的な人間には程遠いことが示される。
  論文  参考訳（メタデータ） (2021-09-01T00:08:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。