論文の概要: Discovering material information using hierarchical Reformer model on financial regulatory filings

• arxiv url: http://arxiv.org/abs/2204.05979v1
• Date: Mon, 28 Mar 2022 19:47:34 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-17 09:07:28.178112
• Title: Discovering material information using hierarchical Reformer model on financial regulatory filings
• Title（参考訳）: 金融規制書類における階層的改革モデルを用いた材料情報の発見
• Authors: Francois Mercier, Makesh Narsimhan
• Abstract要約: 金融規制書類から大規模文書レベルのデータセットであるSEDARを処理可能な階層的改革者([15])モデルを構築した。 このモデルを用いて,規制書類を用いて貿易量変化を予測可能であることを示す。 取引量の変化をうまく予測するためにモデルを微調整することは、このモデルが金融市場からの見解を捉え、規制書類の処理が有益であることを示している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Most applications of machine learning for finance are related to forecasting tasks for investment decisions. Instead, we aim to promote a better understanding of financial markets with machine learning techniques. Leveraging the tremendous progress in deep learning models for natural language processing, we construct a hierarchical Reformer ([15]) model capable of processing a large document level dataset, SEDAR, from canadian financial regulatory filings. Using this model, we show that it is possible to predict trade volume changes using regulatory filings. We adapt the pretraining task of HiBERT ([36]) to obtain good sentence level representations using a large unlabelled document dataset. Finetuning the model to successfully predict trade volume changes indicates that the model captures a view from financial markets and processing regulatory filings is beneficial. Analyzing the attention patterns of our model reveals that it is able to detect some indications of material information without explicit training, which is highly relevant for investors and also for the market surveillance mandate of financial regulators.
• Abstract（参考訳）: 金融に対する機械学習のほとんどの応用は、投資決定のための予測タスクに関連している。 その代わり、機械学習技術で金融市場の理解を深めることを目指している。 自然言語処理のためのディープラーニングモデルの大幅な進歩を生かして、大容量文書レベルのデータセットであるSEDARを処理する階層的改革者([15])モデルを、カナダの金融規制書類から構築する。 このモデルを用いて,規制書類を用いて取引量の変化を予測できることを示す。 我々は,hibert ([36]) の事前学習タスクを適応させ,大きなラベルなし文書データセットを用いた文章レベルの表現を得る。 取引量の変化をうまく予測するためにモデルを微調整することは、このモデルが金融市場からの見解を捉え、規制書類の処理が有益であることを示している。 本モデルで注目パターンを解析した結果,投資家や金融規制当局の市場監視業務に極めて関係のある,明示的なトレーニングをせずに資料情報の表示を検出できることが判明した。

関連論文リスト

• BreakGPT: Leveraging Large Language Models for Predicting Asset Price Surges [55.2480439325792]
  本稿では,時系列予測や資産価格の急上昇の予測に特化して,新たな大規模言語モデル(LLM)アーキテクチャであるBreakGPTを紹介する。 我々は、最小限のトレーニングで財務予測を行うための有望なソリューションとしてBreakGPTを紹介し、局所的およびグローバルな時間的依存関係をキャプチャする強力な競合相手として紹介する。
  論文  参考訳（メタデータ） (2024-11-09T05:40:32Z)
• FinVision: A Multi-Agent Framework for Stock Market Prediction [0.0]
  本研究では,金融取引タスクに特化して設計されたマルチモーダルマルチエージェントシステムを提案する。 提案手法の重要な特徴はリフレクションモジュールの統合である。
  論文  参考訳（メタデータ） (2024-10-29T06:02:28Z)
• Harnessing Earnings Reports for Stock Predictions: A QLoRA-Enhanced LLM Approach [6.112119533910774]
  本稿では、命令ベースの新しい手法と量子化低ランク適応(QLoRA)圧縮を組み合わせることで、LLM(Large Language Models)命令を微調整することで、高度なアプローチを提案する。 近年の市場指標やアナリストの成績等「外部要因」を統合して、リッチで教師付きデータセットを作成する。 この研究は、最先端のAIを微調整された財務データに統合する能力を実証するだけでなく、AI駆動の財務分析ツールを強化するための将来の研究の道を開く。
  論文  参考訳（メタデータ） (2024-08-13T04:53:31Z)
• Advancing Anomaly Detection: Non-Semantic Financial Data Encoding with LLMs [49.57641083688934]
  本稿では,Large Language Models (LLM) 埋め込みを用いた財務データにおける異常検出の新しい手法を提案する。 実験により,LLMが異常検出に有用な情報をもたらし,モデルがベースラインを上回っていることが確認された。
  論文  参考訳（メタデータ） (2024-06-05T20:19:09Z)
• AlphaFin: Benchmarking Financial Analysis with Retrieval-Augmented Stock-Chain Framework [48.3060010653088]
  我々はAlphaFinデータセットをリリースし、従来の研究データセット、リアルタイム財務データ、手書きのチェーン・オブ・プリート(CoT)データを組み合わせています。 次に、AlphaFinデータセットを使用して、金融分析タスクを効果的に処理するために、Stock-Chainと呼ばれる最先端の手法をベンチマークします。
  論文  参考訳（メタデータ） (2024-03-19T09:45:33Z)
• Numerical Claim Detection in Finance: A New Financial Dataset, Weak-Supervision Model, and Market Analysis [4.575870619860645]
  ファイナンシャルドメインにおけるクレーム検出タスクのための新たな財務データセットを構築した。 本稿では,対象物の専門家(SME)の知識を集約関数に組み込んだ,新たな弱スーパービジョンモデルを提案する。 ここでは、利益の急落と楽観的な指標への回帰の依存を観察する。
  論文  参考訳（メタデータ） (2024-02-18T22:55:26Z)
• Large Language Model Adaptation for Financial Sentiment Analysis [2.0499240875882]
  一般言語モデルは、金融に特化されたタスクでは不足する傾向にある。 1.5B未満のパラメータを持つ2つの基礎モデルは、幅広い戦略を用いて適応されている。 小型LLMは大規模モデルに匹敵する性能を有しつつ,パラメータやデータの観点からも効率がよいことを示す。
  論文  参考訳（メタデータ） (2024-01-26T11:04:01Z)
• Towards a Foundation Purchasing Model: Pretrained Generative Autoregression on Transaction Sequences [0.0]
  本稿では,金融取引の文脈的埋め込みを得るための生成事前学習手法を提案する。 さらに,510億の取引を含む180の発行銀行のデータコーパスを用いて,埋め込みモデルの大規模事前学習を行う。
  論文  参考訳（メタデータ） (2024-01-03T09:32:48Z)
• PIXIU: A Large Language Model, Instruction Data and Evaluation Benchmark for Finance [63.51545277822702]
  PIXIUは、命令データ付き微調整LLaMAに基づく最初の金融大規模言語モデル(LLM)を含む包括的なフレームワークである。 我々はLLaMAを細調整してFinMAを提案する。 我々は、FinMAと既存のLLMを詳細に分析し、重要な財政課題に対処する際の長所と短所を明らかにする。
  論文  参考訳（メタデータ） (2023-06-08T14:20:29Z)
• Can ChatGPT Forecast Stock Price Movements? Return Predictability and Large Language Models [51.3422222472898]
  ニュース見出しを用いて,ChatGPTのような大規模言語モデル(LLM)の株価変動を予測する能力について述べる。 我々は,情報容量制約,過小反応,制限対アビタージュ,LLMを組み込んだ理論モデルを構築した。
  論文  参考訳（メタデータ） (2023-04-15T19:22:37Z)
• Large Language Models with Controllable Working Memory [64.71038763708161]
  大規模言語モデル(LLM)は、自然言語処理(NLP)の一連のブレークスルーをもたらした。 これらのモデルをさらに切り離すのは、事前訓練中に内在する膨大な量の世界的知識だ。 モデルの世界知識が、文脈で提示された事実情報とどのように相互作用するかは、まだ解明されていない。
  論文  参考訳（メタデータ） (2022-11-09T18:58:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。