論文の概要: AlphaPareto: Formulaic Alpha Discovery with LLM-Guided Multi-Objective Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2609.34188v1
- Date: Mon, 28 Sep 2026 03:03:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-04 06:06:38.19719
- Title: AlphaPareto: Formulaic Alpha Discovery with LLM-Guided Multi-Objective Reinforcement Learning
- Title(参考訳): AlphaPareto: LLM誘導多目的強化学習による定式アルファディスカバリ
- Abstract要約: フォーミュラ的アルファ発見は量的取引における中核的な課題である。
最近の強化学習(RL)法はマルコフ決定過程(MDP)としてこの課題を定式化している
定式化アルファ発見のためのRL法であるAlphaParetoを提案する。
- 参考スコア(独自算出の注目度): 3.508403393359925
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Formulaic alpha discovery is a core challenge in quantitative trading, as identifying alphas that work well together remains difficult. Recent reinforcement learning (RL) methods formulate this task as a Markov decision process (MDP), but two important issues remain unresolved. First, as the alpha pool evolves, the reward function changes accordingly, making the MDP inherently non-stationary. Second, most existing methods optimize a single objective, typically predictive power, while ignoring other important properties of a high-quality alpha pool. Motivated by these challenges, we propose AlphaPareto, an RL method for formulaic alpha discovery. To address non-stationarity, AlphaPareto augments the state to include both the alpha under construction and the current alpha pool, and applies a large language model (LLM) to encode the pool. This design allows the agent to adapt to the evolving search environment. To overcome the limitation of single-objective reward design, AlphaPareto replaces the scalar reward with a multi-objective vector-valued reward that simultaneously captures predictive power, temporal stability, perturbation robustness, and diversity, and optimizes these objectives through a Pareto-regularized learning procedure. Empirical applications to real-world datasets show that our AlphaPareto method outperforms its competitors.
- Abstract(参考訳): フォーミュラ的なアルファ発見は、定量取引における中核的な課題であり、うまく機能するアルファを特定することは依然として困難である。
近年の強化学習 (RL) 法はマルコフ決定過程 (MDP) としてこの課題を定式化しているが, 2つの重要な問題が未解決のままである。
まず、アルファプールが進化するにつれて報酬関数が変化し、MDPは本質的に非定常となる。
第二に、既存のほとんどの手法は、高品質なアルファプールの他の重要な特性を無視しながら、単一の目標、典型的には予測能力を最適化する。
これらの課題に触発され、我々は公式なアルファ発見のためのRL法であるAlphaParetoを提案する。
非定常性に対処するため、AlphaParetoは、構築中のアルファと現在のアルファプールの両方を含むように状態を拡張し、プールをエンコードするために大きな言語モデル(LLM)を適用する。
この設計により、エージェントは進化する検索環境に適応できる。
単目的報酬設計の限界を克服するため、AlphaParetoはスカラー報酬を、予測力、時間的安定性、摂動堅牢性、多様性を同時に捉えた多目的ベクトル値報酬に置き換え、Pareto-regularized学習手順を通じてこれらの目的を最適化する。
実世界のデータセットに対する実証的な応用は、私たちのAlphaParetoメソッドが競合より優れていることを示している。
関連論文リスト
- AlphaGRPO: Unlocking Self-Reflective Multimodal Generation in UMMs via Decompositional Verifiable Reward [52.7128440950672]
我々はAlphaGRPOを提案し、追加のコールドスタートステージなしでマルチモーダル生成能力を向上する。
我々のアプローチは、高度な推論タスクを実行するためのモデルの本質的な可能性を解き放つ。
実世界のマルチモーダル世代を安定的に管理する上での課題に対処するために、DVReward(Decompositional Verifiable Reward)を導入する。
論文 参考訳(メタデータ) (2026-05-12T17:59:47Z) - Alpha-R1: Alpha Screening with LLM Reasoning via Reinforcement Learning [28.326583684637853]
信号の崩壊と政権交代は、非定常市場におけるデータ駆動型投資戦略に繰り返し挑戦する。
既存の因子ベースの手法は、アルファを数値時系列に還元し、ある因子が経済的に関係しているかどうかを決定する意味論的論理を見渡すのが一般的である。
文脈認識型アルファスクリーニングのための強化学習により訓練された8Bパラメータ推論モデルであるAlpha-R1を提案する。
論文 参考訳(メタデータ) (2025-12-29T14:50:23Z) - Cognitive Alpha Mining via LLM-Driven Code-Based Evolution [29.71597480304934]
我々は,コードレベルのアルファ表現とLLMによる推論と進化的探索を組み合わせた認知的アルファマイニングフレームワーク(CogAlpha)を紹介する。
LLMを適応認知エージェントとして扱うことで、我々のフレームワークは、プロンプトや金銭的フィードバックを通じて、アルファ候補を反復的に洗練し、変異し、再結合します。
A-共有平衡の実験は、CogAlphaが既存の方法よりも優れた予測精度、堅牢性、一般化を持つアルファを一貫して発見することを示した。
論文 参考訳(メタデータ) (2025-11-24T07:45:59Z) - $\text{Alpha}^2$: Discovering Logical Formulaic Alphas using Deep Reinforcement Learning [28.491587815128575]
深部強化学習(DRL)を用いたアルファ発見のための新しい枠組みを提案する。
DRLでガイドされた探索アルゴリズムは、潜在的なアルファ結果の値推定に基づいて探索空間をナビゲートする。
実世界の株式市場での実証実験は、さまざまな論理的かつ効果的なアルファを識別するtextAlpha2$の能力を実証している。
論文 参考訳(メタデータ) (2024-06-24T10:21:29Z) - Entropy-Regularized Token-Level Policy Optimization for Language Agent Reinforcement [67.1393112206885]
大規模言語モデル(LLM)は、対話的な意思決定タスクにおいてインテリジェントなエージェントとして期待されている。
本稿では,トークンレベルでのLLMの最適化に適したエントロピー拡張RL法である,エントロピー正規化トークンレベル最適化(ETPO)を導入する。
我々は,データサイエンスコード生成を多段階対話型タスクのシリーズとしてモデル化したシミュレーション環境におけるETPOの有効性を評価する。
論文 参考訳(メタデータ) (2024-02-09T07:45:26Z) - Generating Synergistic Formulaic Alpha Collections via Reinforcement
Learning [20.589583396095225]
我々は、相乗的なアルファの集合のマイニングを優先する新しいアルファマイニングフレームワークを提案する。
我々のフレームワークは、これまでのアプローチよりも高いリターンを達成することができることを示す。
論文 参考訳(メタデータ) (2023-05-25T13:41:07Z) - SUNRISE: A Simple Unified Framework for Ensemble Learning in Deep
Reinforcement Learning [102.78958681141577]
SUNRISEは単純な統一アンサンブル法であり、様々な非政治的な深層強化学習アルゴリズムと互換性がある。
SUNRISEは, (a) アンサンブルに基づく重み付きベルマンバックアップと, (b) 最上位の自信境界を用いて行動を選択する推論手法を統合し, 効率的な探索を行う。
論文 参考訳(メタデータ) (2020-07-09T17:08:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。