論文の概要: Mixture-of-Experts for Cryptocurrency Order Execution: Training Stability, Tail Risk, and Failure Modes
- arxiv url: http://arxiv.org/abs/2610.03369v1
- Date: Fri, 02 Oct 2026 14:27:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:30.418218
- Title: Mixture-of-Experts for Cryptocurrency Order Execution: Training Stability, Tail Risk, and Failure Modes
- Title(参考訳): 暗号命令実行のための試験の混合:訓練安定度、タイルリスク、障害モード
- Abstract要約: DDQLに対する平均的な実装不足は、学習済みの構成が大幅に改善されることはない。
命令実行のための深い強化学習ポリシーは、訓練種によって大きく異なる可能性がある。
アクロスシード分散は、K=8$で最低であるが、非モノトンであり、家族的な調整には堅牢ではない。
- 参考スコア(独自算出の注目度): 41.99844472131922
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep reinforcement-learning policies for order execution can vary substantially across training seeds, so apparent architectural gains may reflect favourable training realisations rather than reproducible properties of the architecture. We evaluate vanilla Double Deep Q-Learning (DDQL), K-means-partitioned mixtures of DDQL experts at $K \in \{2, 4, 8\}$, and dense networks parameter-matched to the $K{=}4$ and $K{=}8$ expert budgets on 5-minute mean-aggregated BTC/USDT limit order book data from Binance. No learned configuration significantly improves mean implementation shortfall over DDQL. Under the reported specification, all have higher mean shortfall than TWAP (0.39 bps) and immediate liquidation (0.21 bps) in an environment whose frictionless replay and terminal-urgency penalty make early liquidation nearly costless; 11/100 vanilla-DDQL runs, versus none in either MoE $K{\geq}4$ arm, converge to a policy that waits until forced liquidation. We then decompose this specification on a device-matched baseline. Annealed exploration alone eliminates observed collapses (12/100 to 0/100; exact McNemar $p{=}4.9{\times}10^{-4}$), matching the elimination under expert partitioning. Combining annealed exploration with the aligned reward restores collapse in 19/30 runs; with all three specification changes, it rises to 48/100. In this environment, expert partitioning is unnecessary to suppress collapse and appears to mask a training-specification failure rather than confer an intrinsic performance benefit. No MoE $K{=}8$ run collapses under any of the six specifications tested. Across-seed dispersion is lowest at $K{=}8$ but non-monotone and not robust to family-wise adjustment, while within-policy tail risk worsens monotonically with $K$. The apparent attribution of the failure mode reverses between 30 and 100 seeds, illustrating the importance of repeated-seed evaluation.
- Abstract(参考訳): 注文実行のための深い強化学習ポリシーは、訓練種によって大きく異なる可能性があるため、明らかなアーキテクチャ上の利益は、アーキテクチャの再現可能な性質よりも、好ましいトレーニング実現を反映している可能性がある。
バニラDouble Deep Q-Learning(DDQL),K-means-partitioned Mixs of DDQL experts at $K \in \{2, 4, 8\}$, and dense network parameter-matched to the $K{=}4$ and $K{=}8$ expert budgets on 5- minutes mean-aggregated BTC/USDT limit order data。
DDQLに対する平均的な実装不足は、学習済みの構成が大幅に改善されることはない。
報告された仕様では、摩擦のないリプレイと終端緊急時ペナルティによって早期の清算がほとんどコストがかからない環境では、TWAP (0.39 bps) と即時清算 (0.21 bps) よりも平均的不足率が高く、11/100のバニラ-DDQLが実行され、一方のMoE $K{\geq}4$ 腕では、強制清算を待つポリシーに収束する。
次に、デバイスマッチングベースラインでこの仕様を分解します。
加熱された探査だけで観測された崩壊(12/100から0/100、正確にはマクネマール$p{=}4.9{\times}10^{-4}$)は、専門家分割の下での除去と一致する。
熱処理された探索とアライメントされた報酬を組み合わせることで、19/30ランで崩壊し、3つの仕様がすべて変更され、48/100に上昇する。
この環境では、専門家のパーティショニングは崩壊を抑制するために不要であり、本質的なパフォーマンスの恩恵を与えるのではなく、トレーニング固有の障害を隠蔽しているように見える。
No MoE $K{=}8$ run collapses under any the six spec test。
Across-seedvariance は、$K{=}8$ で最低値であるが、非モノトンであり、家族的な調整には堅牢ではない。
失敗モードの明らかな寄与は30種から100種の間で逆転し, 繰り返し種評価の重要性が示唆された。
関連論文リスト
- Scaling Zero-Order Pretraining through Model Sharding [23.669341805296924]
ゼロオーダー最適化(ZO)はバックプロパゲーションのない列車であり、前方のみのハードウェアと非微分不能な損失に関係している。
SOMAは、同時摂動近似を使用して、N$のデータクラスタ上でLSTM専門家を独立に訓練する。
テスト対象のモノリシックなZO制御に対して,モデム推論によりトレーニング計算効率が向上することを示す。
論文 参考訳(メタデータ) (2026-09-29T16:00:23Z) - SANE: State Anomaly Neutralization for Stable Extreme-Context Delta-Rule Models [53.86918766240095]
Delta-Ruleリカレントモデルは固定サイズの状態を維持しており、$O(1)$の推論メモリが可能であるが、極端なコンテキスト外挿では不安定になる可能性がある。
我々は,チャンク内並列構造を保ちながら,チャンク境界における適応$tanh$圧縮を適用したtextbfState Anomaly Neutralization (SANE)を提案する。
論文 参考訳(メタデータ) (2026-08-23T10:41:07Z) - ShortOPD: Recovering Pruned LLMs with Short-to-Long On-Policy Distillation [72.54604107217669]
textscpass@$k$は圧縮後にほぼ消滅するが、textscpass@$k$は繰り返しサンプリングの下でほぼ回復する。
回復は、密集したトークンレベルの監督の下で、圧縮されたモデル自身のオン政治状態で訓練すべきである。
我々は,教師が確認した反復接尾辞を検知する短時間のOPDスケジュールであるtextbfshortopdを提案する。
論文 参考訳(メタデータ) (2026-07-14T17:50:50Z) - Displacement Is Not Direction: Evaluating Fidelity Metrics for Quantized LLM Deployment [0.7249731529275342]
高精度参照に対するKL偏差(KLD)のような忠実度指標は、ベンチマーク品質の低コストプロキシとして実際に使用されることが多い。
KLDは全コホートに対するベンチマークスコアと強く相関していることがわかった。
しかし、この関係は、ほぼベースラインのサイレントゾーンにおいて非重要な状態に崩壊する。
論文 参考訳(メタデータ) (2026-06-17T19:59:26Z) - MEMSAD: Gradient-Coupled Anomaly Detection for Memory Poisoning in Retrieval-Augmented Agents [0.0]
検索強化エージェントに対するメモリ中毒攻撃を,統合評価フレームワークを用いたStackelbergゲームとして定式化する。
ASR-R: 0.25〜1.00$) による攻撃成功度を4倍に向上させる。
私たちの主な貢献は、勾配結合に接地したキャリブレーションに基づく防御であるMEMSADである。
論文 参考訳(メタデータ) (2026-05-05T08:15:41Z) - Fundamental Limits of Neural Network Sparsification: Evidence from Catastrophic Interpretability Collapse [7.167095059974211]
本研究では, 可変オートエンコーダ-スパースオートエンコーダアーキテクチャにおける重大容量制約下での機能生存について検討する。
本稿では,活動ニューロンを500から50以上の訓練エポックに段階的に減少させる適応的空間性スケジューリングフレームワークを提案する。
グローバルな表現の質は安定しているが、局所的な特徴解釈可能性は体系的に崩壊する。
論文 参考訳(メタデータ) (2026-03-18T00:16:38Z) - From Continual Learning to SGD and Back: Better Rates for Continual Linear Models [50.11453013647086]
以前見られたタスクの損失を、$k$の繰り返しの後、忘れること、すなわち、分析する。
実現可能な最小二乗の設定において、新しい最上界を創出する。
我々は、タスクを繰り返しないランダム化だけで、十分に長いタスクシーケンスで破滅的な事態を防げることを初めて証明した。
論文 参考訳(メタデータ) (2025-04-06T18:39:45Z) - Exploiting Pre-trained Models for Drug Target Affinity Prediction with Nearest Neighbors [58.661454334877256]
薬物-標的結合親和性(DTA)予測は、薬物発見に不可欠である。
DTA予測へのディープラーニング手法の適用にもかかわらず、達成された精度は依然として準最適である。
事前学習したDTA予測モデルに適用した非表現埋め込みに基づく検索手法である$k$NN-DTAを提案する。
論文 参考訳(メタデータ) (2024-07-21T15:49:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。