論文の概要: Flide: Accelerating Decision Inference with Exact State Forking

• arxiv url: http://arxiv.org/abs/2610.42148v1
• Date: Fri, 30 Oct 2026 17:59:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.869691
• Title: Flide: Accelerating Decision Inference with Exact State Forking
• Title（参考訳）: Flide: 厳密な状態フォークによる決定推論の高速化
• Abstract要約: Flideは、決定要求の論理木構造を物理的実行から切り離す、効率的で正確な推論エンジンである。 Flideは、標準の注意と繰り返し発生するGated DeltaNetレイヤの両方にわたってGPU-Residentインデックスを使用して、リクエスト依存関係をナビゲートする。 vLLM や SGLang よりも 9.5 倍高速で、float32 の参照に近づいたままである。
• 参考スコア（独自算出の注目度）: 36.78211888835242
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Decision models such as Jev have emerged as a highly promising paradigm for LLM agent systems, providing lightweight and reliable categorical reasoning for rapid System One execution. However, existing generation-oriented inference engines fail to support these workloads effectively, suffering from severe prefix recomputation overheads or distorted output probabilities. To address this challenge, we propose Flide, an efficient and exact inference engine that decouples the logical tree structure of a decision request from its physical execution within a single flattened token stream. Through ForkAttention, Flide navigates request dependencies using GPU-resident indices across both standard attention and recurrent Gated DeltaNet layers, guaranteeing in exact arithmetic that every query branch evaluates identically to an isolated forward pass. By expressing branch topologies directly in GPU-resident metadata, Flide accommodates diverse request mixtures with a compact set of pre-recorded execution graphs while enabling expanding agent histories to resume from checkpoints saved in earlier passes. Extensive evaluations on public hybrid and decision models demonstrate that Flide answers queries up to 9.5 times faster than vLLM and SGLang while staying closest to a float32 reference in total variation distance. By unifying physical execution throughput with mathematical exactness, Flide establishes a principled foundation for scalable, latency-critical decision intelligence in agent systems.
• Abstract（参考訳）: Jevのような決定モデルは、LLMエージェントシステムにとって非常に有望なパラダイムとして登場し、迅速なSystem One実行のための軽量で信頼性の高い分類的推論を提供する。 しかし、既存の世代指向推論エンジンは、重度のプレフィックスの計算オーバーヘッドや歪んだ出力確率に悩まされ、これらのワークロードを効果的にサポートできない。 この課題に対処するために,決定要求の論理木構造を1つのフラット化されたトークンストリーム内での物理実行から分離する,効率的かつ正確な推論エンジンであるFlideを提案する。 ForkAttentionを通じて、Flideは標準の注目と繰り返し発生するGated DeltaNetレイヤの両方にわたってGPU-Residentインデックスを使用してリクエスト依存関係をナビゲートし、すべてのクエリブランチが分離されたフォワードパスと同一に評価することを保証する。 ブランチトポロジをGPU対応メタデータで直接表現することで、Flideは、事前記録された実行グラフのコンパクトなセットと多様なリクエストミックスに対応し、エージェント履歴を拡張して、以前のパスに保存されたチェックポイントから再開することができる。 公開ハイブリッドおよび決定モデルに関する広範囲な評価により、Flide は vLLM や SGLang よりも 9.5 倍高速なクエリに答える一方で、float32 の参照に最も近い全変動距離を保っていることが示されている。 物理実行スループットを数学的精度で統一することにより、Flideはエージェントシステムにおけるスケーラブルでレイテンシクリティカルな決定インテリジェンスの基礎を確立する。

関連論文リスト

• Dynamic analysis enhances issue resolution [53.50448142467294]
  DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。 テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。 Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
  論文  参考訳（メタデータ） (2026-03-23T14:48:54Z)
• Beyond Scattered Acceptance: Fast and Coherent Inference for DLMs via Longest Stable Prefixes [10.877713536966601]
  Longestahead Prefix(LSP)スケジューラは、モノリシックプレフィックスの吸収に基づく、トレーニング不要でモデルに依存しない推論パラダイムである。 LSPは1つのフォワードパスを介してトークンの安定性を評価し、安定な予測の連続した左整列ブロックを動的に識別する。 原子のコミットメントの前に、言語や構造的受容の境界を画定する。
  論文  参考訳（メタデータ） (2026-03-05T18:25:26Z)
• Arbor: A Framework for Reliable Navigation of Critical Conversation Flows [0.19573380763700712]
  本稿では,決定木ナビゲーションを専門的なノードレベルのタスクに分解するフレームワークであるArborを紹介する。 Abortは平均ターン精度を29.4ポイント改善し、ターン毎のレイテンシを57.1%削減し、ターン毎のコストを平均14.4倍削減する。
  論文  参考訳（メタデータ） (2026-02-16T11:09:02Z)
• It Takes Two to Tango: A Holistic Simulator for Joint Order Scheduling and Multi-Agent Path Finding in Robotic Warehouses [18.101514832695067]
  WareRoverはOSとMAPFの動的結合を強制する総合シミュレーションプラットフォームである。 標準ベンチマークとは異なり、WareRoverは順序ストリーム、物理を意識した動作制約、非線形回復機構を単一の評価ループに統合する。
  論文  参考訳（メタデータ） (2026-02-15T05:51:58Z)
• DriveTransformer: Unified Transformer for Scalable End-to-End Autonomous Driving [62.62464518137153]
  DriveTransformerは、スケールアップを簡単にするためのシンプルなE2E-ADフレームワークである。 タスク・セルフ・アテンション、センサー・クロス・アテンション、時間的クロス・アテンションという3つの統合された操作で構成されている。 シミュレーションされたクローズドループベンチマークBench2Driveと、FPSの高い実世界のオープンループベンチマークnuScenesの両方で、最先端のパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2025-03-07T11:41:18Z)
• COrAL: Order-Agnostic Language Modeling for Efficient Iterative Refinement [80.18490952057125]
  反復改良は、複雑なタスクにおける大規模言語モデル(LLM)の能力を高める効果的なパラダイムとして登場した。 我々はこれらの課題を克服するために、コンテキストワイズ順序非依存言語モデリング(COrAL)を提案する。 当社のアプローチでは、管理可能なコンテキストウィンドウ内で複数のトークン依存関係をモデル化しています。
  論文  参考訳（メタデータ） (2024-10-12T23:56:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。