論文の概要: Understanding the Inner Workings of a State-Space Foundation Model for Limit Order Books

• arxiv url: http://arxiv.org/abs/2610.28753v1
• Date: Tue, 20 Oct 2026 18:01:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.111373
• Title: Understanding the Inner Workings of a State-Space Foundation Model for Limit Order Books
• Title（参考訳）: 限界順序書における状態空間モデルの内部動作の理解
• Abstract要約: 自己回帰的基礎モデルは、制限順序書(LOB)のメッセージフローを生成して市場をシミュレートする最先端の機能を提供します。 この研究は、これらのモデルが実際に市場ミクロ構造について何を学んでいるのかを問う。
• 参考スコア（独自算出の注目度）: 42.4291608141092
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Autoregressive foundation models offer state-of-the-art capabilities to simulate the market by generating the message flow of limit order books (LOBs). Yet, without understanding their inner workings, research directions are hard to narrow and practical use in real-world trading environments remains uncertain. This study therefore asks what these models actually learn about market microstructure. We find that, similarly to games where sequence models build an internal representation of the board, an 8.2M-parameter Mamba-3 state-space model trained autoregressively on the tokenized message stream of eight large-cap US equities learns an internal representation of the market and its dynamics. In particular, order-flow imbalance, a central driver of short-horizon price moves, is decodable at $R^2 \approx 0.59$, far above controls and baselines. This representation extends to unseen stocks, suggesting that these models learn general representations rather than ticker-specific patterns. The model also generalizes across metrics beyond order-flow imbalance: results hold across traded volume and volatility. Additionally, the representation is causally steerable: pushing the state along a feature's axis shifts the model's next-message beliefs as that feature implies, monotonically in dose, consistent with the emergence of a world model.
• Abstract（参考訳）: 自己回帰基盤モデルは、制限順序書(LOB)のメッセージフローを生成することで市場をシミュレートする最先端の機能を提供します。 しかし、その内部の作業を理解しないまま、研究の方向性は狭くなり、現実世界の貿易環境での実践的利用は依然として不確実である。 この研究は、これらのモデルが実際に市場ミクロ構造について何を学んでいるのかを問うものである。 シークエンスモデルがボードの内部表現を構築するゲームと同様に、8つの大口米国株式のトークン化されたメッセージストリームに基づいて自己回帰的に訓練された8.2MパラメータのMamba-3状態空間モデルが市場とそのダイナミクスの内部表現を学習する。 特に、短期水平移動の中心ドライバであるオーダーフロー不均衡は、コントロールやベースラインよりもはるかに高い$R^2 \approx 0.59$でデオード可能である。 この表現は目に見えないストックにまで拡張され、これらのモデルがチッカー固有のパターンよりも一般的な表現を学ぶことを示唆している。 モデルはまた、注文フローの不均衡を超えたメトリクスを一般化する: 結果は、取引されたボリュームとボラティリティにまたがる。 特徴の軸に沿って状態を押すと、その特徴が意味する次のメッセージの信念がシフトする。

関連論文リスト

• What Do Foundation Models for Market Microstructure Learn? A Controlled Study with Synthetic Limit Order Books [52.171034819111945]
  我々は,潜在パラメータが知られているシミュレータから,GPTスタイルのモデルを順序流で学習する。 学習された予測は、トークン当たり1ミリナット以内のベイズ最適値と一致する。 実NASDAQデータでは、ゼロショット転送はシミュレーターが実際の流れをいかにうまくカバーするかによって設定される。
  論文  参考訳（メタデータ） (2026-10-14T12:38:49Z)
• M3: A State-Event Generative Foundation Model for Market Microstructure Dynamics [7.074091586839605]
  市場マイクロ構造シミュレーションは、電子金融市場での流動性、価格、秩序の流れの進化をモデル化することを目的としている。 市場マイクロ構造力学のためのステートイベント生成基盤モデルであるtextbfM3 (underline Microstructure underlineModel) を提案する。
  論文  参考訳（メタデータ） (2026-07-29T12:46:38Z)
• Learning Implicit Causal World Models from Multi-Agent Demonstrations [0.16921396880325776]
  モデルに基づく強化学習では、世界モデルは内部シミュレータとして存在するが、それらのトレーニングはしばしば因果メカニズムと統計的相関を混同する。 本稿では,インプリシット因果世界モデルを導入して,事前に定義された因果グラフを必要とせず,オフラインでの実証から環境動態を復元する。
  論文  参考訳（メタデータ） (2026-07-28T23:18:38Z)
• Inverting the Bellman Equation: From $Q$-Values to World Models [57.827849584133425]
  我々は、十分に豊富な報酬関数のセットで訓練された価値に基づくエージェントが、ユニークで正確な世界モデルを暗黙的にエンコードしていることを証明した。 ttReacherエージェントの暗黙の世界モデルにのみ訓練されたポリシーは、位置のみのトレーニングにもかかわらず、分布外、速度に基づく目標に準最適であることがわかった。
  論文  参考訳（メタデータ） (2026-06-19T07:26:14Z)
• Sensorimotor World Models: Perception for Action via Inverse Dynamics [59.121736411156384]
  Inverse dynamics regularization で訓練されたエンド・ツー・エンドのセンサモレータ・ワールドモデルを導入する。 表現の崩壊を防ぎ、アクション整列表現を誘導する。 コンパクトで解釈可能な潜在空間を学習し、単純な2Dおよび3D制御タスク間の競合計画性能を実現する。
  論文  参考訳（メタデータ） (2026-06-18T11:25:16Z)
• Self-Improving World Modelling with Latent Actions [53.93276450137471]
  世界の内部モデリングは推論と計画に不可欠である。 状態のみのシーケンスから学習する自己改善フレームワークSWIRLを提案する。
  論文  参考訳（メタデータ） (2026-02-05T19:04:41Z)
• ByteGen: A Tokenizer-Free Generative Model for Orderbook Events in Byte Space [11.523583937607622]
  LOBイベントの生のバイトストリームを直接操作する新しい生成モデルByteGenを紹介する。 私たちの仕事は、機能エンジニアリングとトークン化の完全な排除であり、モデルが最も基本的な表現から市場のダイナミクスを学べるようにします。 ByteGenは、金融市場の重要な事実を再現し、現実的な価格分布、大口リターン、バーストイベントのタイミングを生成する。
  論文  参考訳（メタデータ） (2025-08-04T09:48:42Z)
• Deep Learning Meets Queue-Reactive: A Framework for Realistic Limit Order Book Simulation [0.0]
  MDQR(Multidimensional Deep Queue-Reactive Model)を提案する。 このモデルは待ち行列独立の仮定を緩和し、市場特徴で状態空間を豊かにし、注文サイズの分布をモデル化する。 Bund Futures Marketのデータを用いて、MDQRは市場影響の平方根法則、クロスキュー相関、現実的なオーダーサイズパターンなどの重要な市場特性を捉えていることを示す。
  論文  参考訳（メタデータ） (2025-01-15T14:19:20Z)
• Large Language Models with Controllable Working Memory [64.71038763708161]
  大規模言語モデル(LLM)は、自然言語処理(NLP)の一連のブレークスルーをもたらした。 これらのモデルをさらに切り離すのは、事前訓練中に内在する膨大な量の世界的知識だ。 モデルの世界知識が、文脈で提示された事実情報とどのように相互作用するかは、まだ解明されていない。
  論文  参考訳（メタデータ） (2022-11-09T18:58:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。