論文の概要: Logic-guided Deep Reinforcement Learning for Stock Trading
- arxiv url: http://arxiv.org/abs/2310.05551v1
- Date: Mon, 9 Oct 2023 09:20:13 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-12 06:41:09.191782
- Title: Logic-guided Deep Reinforcement Learning for Stock Trading
- Title(参考訳): 株式取引のための論理誘導深層強化学習
- Authors: Zhiming Li, Junzhe Jiang, Yushi Cao, Aixin Cui, Bozhi Wu, Bo Li, Yang
Liu
- Abstract要約: 我々はSYENS(Program Synthesis-based Ensemble Strategy)と呼ばれる新しい論理誘導取引フレームワークを提案する。
我々は、キャッシュトレーディングとマージントレーディング設定の下で、30ダウ・ジョーンズ株のSYENSを評価する。
- 参考スコア(独自算出の注目度): 9.90198830519937
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep reinforcement learning (DRL) has revolutionized quantitative finance by
achieving excellent performance without significant manual effort. Whereas we
observe that the DRL models behave unstably in a dynamic stock market due to
the low signal-to-noise ratio nature of the financial data. In this paper, we
propose a novel logic-guided trading framework, termed as SYENS (Program
Synthesis-based Ensemble Strategy). Different from the previous
state-of-the-art ensemble reinforcement learning strategy which arbitrarily
selects the best-performing agent for testing based on a single measurement,
our framework proposes regularizing the model's behavior in a hierarchical
manner using the program synthesis by sketching paradigm. First, we propose a
high-level, domain-specific language (DSL) that is used for the depiction of
the market environment and action. Then based on the DSL, a novel program
sketch is introduced, which embeds human expert knowledge in a logical manner.
Finally, based on the program sketch, we adopt the program synthesis by
sketching a paradigm and synthesizing a logical, hierarchical trading strategy.
We evaluate SYENS on the 30 Dow Jones stocks under the cash trading and the
margin trading settings. Experimental results demonstrate that our proposed
framework can significantly outperform the baselines with much higher
cumulative return and lower maximum drawdown under both settings.
- Abstract(参考訳): 深層強化学習(DRL)は、重要な手作業なしに優れたパフォーマンスを達成し、量的金融に革命をもたらした。
一方、DRLモデルは、金融データの信号-雑音比の低い性質のため、動的株式市場では不安定に振る舞う。
本稿では,SYENS(Program Synthesis-based Ensemble Strategy)と呼ばれる新しい論理誘導型トレーディングフレームワークを提案する。
提案手法は,1つの計測値に基づいてテストに最適なエージェントを任意に選択する前段階のアンサンブル強化学習戦略と異なり,スケッチ・パラダイムによるプログラム合成を用いて,モデルの動作を階層的に規則化する手法を提案する。
まず、市場環境と行動の描写に使用される高レベルドメイン特化言語(DSL)を提案する。
次に、dslに基づいて、人間の専門家の知識を論理的に埋め込んだ新しいプログラムスケッチを導入する。
最後に、プログラムスケッチに基づいて、パラダイムをスケッチし、論理的かつ階層的な取引戦略を合成することにより、プログラム合成を採用する。
我々は、キャッシュトレーディングとマージントレーディング設定の下で、30ダウ・ジョーンズ株のSYENSを評価する。
実験の結果,提案するフレームワークは, 累積リターンが大幅に向上し, 両方の設定下での最大ドローダウンも低減できることがわかった。
関連論文リスト
- End-to-End Policy Learning of a Statistical Arbitrage Autoencoder
Architecture [0.5439020425818999]
統計的アービタージュ(StatArb)におけるオートエンコーダアーキテクチャの有用性について検討する。
我々は、Ornstein-Uhlenbeck(OU)プロセスに基づいた取引戦略を導出するために、米国株のリターンに基づいて訓練された標準のAutoencoderを使用します。
政策学習アプローチを採用し、ポートフォリオトレーディングポリシの空間のニューラルネットワーク表現にAutoencoderネットワークを組み込む。
論文 参考訳(メタデータ) (2024-02-13T05:53:00Z) - Entropy-Regularized Token-Level Policy Optimization for Large Language
Models [76.02428537504323]
大規模言語モデル(LLM)は、対話的な意思決定タスクにおいてインテリジェントなエージェントとして期待されている。
本稿では,トークンレベルでのLLMの最適化に適したエントロピー拡張RL法である,エントロピー正規化トークンレベル最適化(ETPO)を導入する。
その結果,ETPO は CodeLlama-7B モデルで有効な性能向上を実現し,RLHF から受け継いだ変種 PPO ベースラインを超越していることがわかった。
論文 参考訳(メタデータ) (2024-02-09T07:45:26Z) - Let's reward step by step: Step-Level reward model as the Navigators for
Reasoning [64.27898739929734]
Process-Supervised Reward Model (PRM)は、トレーニングフェーズ中にステップバイステップのフィードバックをLLMに提供する。
LLMの探索経路を最適化するために,PRMからのステップレベルのフィードバックを応用した欲求探索アルゴリズムを提案する。
提案手法の汎用性を探るため,コーディングタスクのステップレベル報酬データセットを自動生成する手法を開発し,コード生成タスクにおける同様の性能向上を観察する。
論文 参考訳(メタデータ) (2023-10-16T05:21:50Z) - SALMON: Self-Alignment with Principle-Following Reward Models [84.31474052176343]
本稿では,基本言語モデルと人間の監督を最小限に整合させる新しいアプローチ,すなわちSALMONを提案する。
私たちのアプローチの中心は、原則に従う報酬モデルです。
提案手法をLLaMA-2-70bベース言語モデルに適用し,Dromedary-2というAIアシスタントを開発した。
論文 参考訳(メタデータ) (2023-10-09T17:56:53Z) - When Demonstrations Meet Generative World Models: A Maximum Likelihood
Framework for Offline Inverse Reinforcement Learning [62.00672284480755]
本稿では, 専門家エージェントから, 一定の有限個の実演において観測された動作を過小評価する報酬と環境力学の構造を復元することを目的とする。
タスクを実行するための正確な専門知識モデルは、臨床的意思決定や自律運転のような安全に敏感な応用に応用できる。
論文 参考訳(メタデータ) (2023-02-15T04:14:20Z) - Asynchronous Deep Double Duelling Q-Learning for Trading-Signal
Execution in Limit Order Book Markets [5.202524136984542]
我々は、エージェントを訓練し、高周波取引信号を個々のリミット注文を配置するトレーディング戦略に変換するために、深層強化学習を採用している。
ABIDESリミテッドオーダーブックシミュレータをベースとして,強化学習型オープンAIジム環境を構築した。
我々はRLエージェントが在庫管理の効果的な取引戦略を学習し、同じ信号にアクセス可能なベンチマークトレーディング戦略より優れていることを見出した。
論文 参考訳(メタデータ) (2023-01-20T17:19:18Z) - A Novel Deep Reinforcement Learning Based Automated Stock Trading System
Using Cascaded LSTM Networks [3.593955557310285]
そこで我々は,まずLSTMを用いて日次データから時系列特徴を抽出し,抽出した特徴を訓練エージェントに供給する,DRLベースの株式取引システムを提案する。
米国の市場におけるDJIと中国の株式市場におけるSSE50の実験は、当社のモデルが累積リターンとシャープ比で従来のベースラインモデルを上回っていることを示している。
論文 参考訳(メタデータ) (2022-12-06T03:22:06Z) - Astock: A New Dataset and Automated Stock Trading based on
Stock-specific News Analyzing Model [21.05128751957895]
我々はNLP支援株自動取引アルゴリズムを体系的に研究するプラットフォームを構築した。
それぞれの株について財務的なニュースを提供する。
私たちは各株に様々な株価要因を提供します。
より財務的な指標からパフォーマンスを評価する。
論文 参考訳(メタデータ) (2022-06-14T05:55:23Z) - Efficient Model-based Multi-agent Reinforcement Learning via Optimistic
Equilibrium Computation [93.52573037053449]
H-MARL (Hallucinated Multi-Agent Reinforcement Learning) は,環境と数回交流した後の平衡政策を学習する。
自律運転シミュレーションベンチマークにおいて,本手法を実験的に実証した。
論文 参考訳(メタデータ) (2022-03-14T17:24:03Z) - Bitcoin Transaction Strategy Construction Based on Deep Reinforcement
Learning [8.431365407963629]
本研究では,PPO(Deep reinforcement Learning Algorithm-proximal Policy Optimization)に基づく,高速ビットコイン自動取引のためのフレームワークを提案する。
提案したフレームワークは、ボラティリティと急上昇の期間を通じて過剰なリターンを得ることができるため、ディープラーニングに基づく単一暗号通貨取引戦略を構築するための扉を開くことができる。
論文 参考訳(メタデータ) (2021-09-30T01:24:03Z) - Universal Trading for Order Execution with Oracle Policy Distillation [99.57416828489568]
本稿では,不完全な市場状態と注文実行のための最適な行動シーケンスとのギャップを埋める,新たなユニバーサル取引ポリシー最適化フレームワークを提案する。
本研究の枠組みは,完全情報を持つ託宣教師による実践的最適実行に向けて,共通政策の学習を指導する上で有効であることを示す。
論文 参考訳(メタデータ) (2021-01-28T05:52:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。