論文の概要: Reinforcement Learning for Execution under Dynamic Fees in a Closed-Loop DEX Simulator
- arxiv url: http://arxiv.org/abs/2607.10960v1
- Date: Sun, 12 Jul 2026 23:47:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-14 17:47:21.288221
- Title: Reinforcement Learning for Execution under Dynamic Fees in a Closed-Loop DEX Simulator
- Title(参考訳): 閉ループDEXシミュレータにおける動的姿勢下での実行のための強化学習
- Abstract要約: 自動市場メーカ(AMM)に対してトレーダーが直面するダイナミック手数料がますます提案されている
トレーダ対応手数料は変化せず、トレーダタイプは遅延しており、リプレイされたテープはシーケンシャルな決定環境ではない。
本研究は,信号が不足している最小限の閉ループシミュレータを構築した。
- 参考スコア(独自算出の注目度): 0.8528384027684189
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Trader-facing dynamic fees are increasingly proposed for automated market makers (AMMs), but historical data do not identify how order flow would respond: trader-facing fees do not vary, trader types are latent, and a replayed tape is not a sequential decision environment. We therefore construct a minimal closed-loop simulator in which the missing signal exists by construction: two constant-product pools repriced by an equilibrium-inspired dynamic-fee rule, fee-sensitive noise flow, and closed-form CEX--AMM arbitrage. Equilibrium is used as a closure principle, not as an object the trader learns. Against a tuned benchmark ladder of schedule, planning, lookahead, and tabular policies, a small DQN is the only evaluated valid policy whose paired improvement over tuned one-step routing excludes zero. On a reserved final block of 1{,}000 seeds with completion forced to 1.0 for every policy, it reduces implementation shortfall under every tested intra-step ordering, by $13.3\bps$ of order notional under the pre-specified agent-last ordering, and the edge is concentrated in, and learned from, dynamic-fee environments: under constant fees the paired difference is indistinguishable from zero. The result is model-conditioned counterfactual evidence about execution control in AMMs, not evidence about historical traders, equilibrium play, or deployable profit.
- Abstract(参考訳): 自動市場メーカ(AMM)ではトレーダー対応のダイナミック料金がますます提案されているが、過去のデータでは、トレーダー対応の手数料は変化せず、トレーダータイプは遅れており、リプレイされたテープはシーケンシャルな意思決定環境ではない。
そこで我々は、平衡に着想を得たダイナミックフィールールとチャージ感度ノイズフローと閉形CEX--AMM仲裁という2つの定積プールを組み込んだ最小の閉ループシミュレータを構築した。
平衡は、トレーダーが学ぶ対象としてではなく、閉鎖原理として使用される。
スケジュール、計画、ルックアヘッド、表形式のポリシーの調整されたベンチマークラグに対して、調整されたワンステップルーティングに対するペア改善がゼロである唯一の評価済みのポリシーは、小さなDQNである。
1{,}000の種子の予約された最終ブロックでは、すべてのポリシーで1.0に強制され、テスト済みのステップ内順序付けの全ての実装不足を13.3\bps$で減らし、エッジは動的フィー環境に集中し、学習される: 一定の手数料の下で、ペアの差はゼロから区別できない。
その結果は、AMMにおける実行制御に関するモデル付き実証であり、歴史的トレーダーや均衡プレイ、デプロイ可能な利益に関する証拠ではない。
関連論文リスト
- CLQT: A Closed-Loop, Cost-Aware, Strategy-Consistent Benchmark for Diagnostic Evaluation of LLM Portfolio-Management Agents [0.9924185669370708]
CLQTはクローズドループ取引の評価をランキングではなく診断として再設定する。
CLQTは、完全にクローズドループで、コストを意識し、戦略に一貫性があり、時間的に制限された環境である。
論文 参考訳(メタデータ) (2026-06-29T04:26:30Z) - TAPO: Tool-Aware Policy Optimization via Credit Transfer for Multimodal Search Agents [54.08846865906602]
ツール強化マルチモーダルサーチエージェントにおいて,クレジットミス割り当てをGRPOの系統的障害モードとして特徴付ける。
本稿では,情報取得ツールのパラメータ決定性を利用したツール・アウェア・ポリシー・オプティマイズ(TAPO)を提案する。
論文 参考訳(メタデータ) (2026-06-04T07:15:43Z) - Scaling Laws for Agent Harnesses via Effective Feedback Compute [53.68149869349268]
emphEffective Feedback Compute (EFC)は、情報的、有効、非冗長な場合にのみフィードバックを信用し、その後の決定のために保持するトレースレベルのスケーリング座標である。
EFCベースの座標は、生の計算ベースラインよりも失敗率を常に予測する。
論文 参考訳(メタデータ) (2026-05-28T09:45:47Z) - BAPR: Bayesian amnesic piecewise-robust reinforcement learning for non-stationary continuous control [19.34848029403215]
現実の制御システムは、段階的な定常状態の下で動作し、状態が変化する前に、力学は長期にわたって安定している。
標準的なロバストなRL法は基本的なジレンマに直面しており、グローバルな保守的な政策は安定した期間にパフォーマンスを無駄にし、一方、局地的な適応的な政策は、体制変更が未検出であるときに破滅的な失敗を危険にさらす。
我々は,頑健なアンサンブルRLでベイズオンライン変化検出を統一するtextbfBAPRを提案する。
論文 参考訳(メタデータ) (2026-05-15T16:49:05Z) - Synthetic American Option Pricing via Jump-HMM-Driven Heston Implied Volatility [5.087681397628885]
インプリートボラティリティに基づく合成オプション価格の合成データ生成装置を開発した。
本研究では,本フレームワークを実際の近日貸付・呼出契約,価格パスの前方シミュレーション,経路条件によるインプリート変動の回復に応用する。
このフレームワークは、オープンソースのJuliaパッケージとしてリリースされている。
論文 参考訳(メタデータ) (2026-05-13T18:07:14Z) - ValueBlindBench: Agreement-Gated Stress Testing of LLM-Judged Investment Rationales Before Returns Are Observable [1.8689252029357564]
本稿では,事前登録された合意付きストレステストプロトコルであるValueBlindBenchを紹介する。
ValueBlindBench は LLM-judged Investment-rationale のクレームがパブリッシュ可能、資格あり、無効かを決定する。
論文 参考訳(メタデータ) (2026-04-28T05:04:20Z) - Anchor-and-Resume Concession Under Dynamic Pricing for LLM-Augmented Freight Negotiation [5.225967186005105]
ライヴスプレッドから$を導出することで、適応が可能になるが、新しい問題が発生する: 価格変更によって、公式が以前のオファーを撤回し、モノトニック性に違反する可能性がある。
両制約に対処する2次元アンカー・アンド・レジュームフレームワークを提案する。
スプレッド由来の$$は、各負荷のマージン構造を正しい譲歩姿勢にマッピングする一方、アンカー・アンド・レジューム機構は、任意の価格シフトの下で単調に非減少するオファーを保証する。
論文 参考訳(メタデータ) (2026-04-22T16:17:07Z) - Unleashing Implicit Rewards: Prefix-Value Learning for Distribution-Level Optimization [74.91418266859297]
インプシットプロセス報酬モデル(PRM)は、推論プロセスに沿ってきめ細かな報酬信号を提供する。
トレーニングはシーケンスレベルの集約のみを制限しますが、推論はローカルステップの品質を反映するためにトークンレベルのスコアが必要です。
本稿では,予測精度を推定するプレフィックス条件付き値関数を直接学習する新しいインプリシット・プレフィックス・バリュー・リワード・モデル(IPVRM)を提案する。
また,サンプルトークンと高確率候補トークンの両方に対してTDの利点を演算する分散レベルRL(DistRL)を提案する。
論文 参考訳(メタデータ) (2026-04-14T18:19:54Z) - Improving Search Agent with One Line of Code [68.58667107354253]
ツールベースのエージェント強化学習(TARL)は,検索エージェントが外部ツールと対話できるようにトレーニングするための,有望なパラダイムとして登場した。
textbfSearch textbfAgent textbfPolicy textbfOptimization (textbfSAPO)を提案する。
論文 参考訳(メタデータ) (2026-03-10T04:07:39Z) - Unifying Stable Optimization and Reference Regularization in RLHF [64.16830602324345]
本稿では、報酬ハッキングの防止と安定したポリシー更新の維持を目標とする統一正規化手法を提案する。
我々の単純で原則化されたアライメント目的は、監督された微調整の損失を軽減し、優れたトレードオフをもたらし、アライメント結果と実装の複雑さの両方を明らかに改善する。
論文 参考訳(メタデータ) (2026-02-12T03:31:19Z) - Robust Offline Reinforcement Learning for Non-Markovian Decision Processes [48.9399496805422]
本研究では,ロバストな非マルコフRLの学習問題について検討する。
本研究では,不確実性セットの異なるタイプ下でのロバストな値に対して,新しいデータセット蒸留と低信頼境界(LCB)設計を導入する。
さらに、オフラインの低ランク非マルコフ決定プロセスに適した新しいI型集中係数を導入することにより、我々のアルゴリズムが$epsilon$-optimal robust policyを見つけることができることを証明した。
論文 参考訳(メタデータ) (2024-11-12T03:22:56Z) - Autoregressive Bandits [58.46584210388307]
本稿では,オンライン学習環境であるAutoregressive Banditsを提案する。
報酬プロセスの軽微な仮定の下では、最適ポリシーを便利に計算できることが示される。
次に、新しい楽観的後悔最小化アルゴリズム、すなわちAutoRegressive Upper Confidence Bound (AR-UCB)を考案し、$widetildemathcalO left( frac(k+1)3/2sqrtnT (1-G)のサブ線形後悔を被る。
論文 参考訳(メタデータ) (2022-12-12T21:37:36Z) - Bandit Linear Optimization for Sequential Decision Making and
Extensive-Form Games [102.23975166536326]
tree-form sequential decision making (tfsdm) は、エージェントと潜在的に敵対的な環境の間のツリー形式の相互作用をモデル化することで、古典的なワンショット意思決定を拡張する。
これは、各プレイヤーが幅広い形式のゲームで直面するオンライン意思決定問題、およびマルコフ決定プロセス、およびエージェントが観測された履歴を条件とする部分観察可能なマルコフ決定プロセスをキャプチャする。
本稿では, (i) 線形時間損失と (ii) $o(sqrtt)$ cumulative regret の両方を提供する拡張dmのバンディット線形最適化問題に対する最初のアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-03-08T05:00:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。