論文の概要: Simthesizer: An Agent-Driven Simulation Framework for LLM Serving Systems
- arxiv url: http://arxiv.org/abs/2608.24650v2
- Date: Wed, 26 Aug 2026 03:57:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-27 14:15:15.22564
- Title: Simthesizer: An Agent-Driven Simulation Framework for LLM Serving Systems
- Title（参考訳）: Simthesizer: LLMサービングシステムのためのエージェント駆動シミュレーションフレームワーク
- Abstract要約: エージェント駆動型シミュレータ開発を実現するフレームワークであるSimthesizerを提案する。
Simthesizerは、完全なサービスワークフローを均一に表現する構成可能なシミュレータインフラストラクチャを導入している。
同一のワークロードでは、Simthesizerは2つの最先端シミュレータよりも最大284.96xと23.19x高速をシミュレートする。
- 参考スコア（独自算出の注目度）: 10.265484416904352
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: System-level simulation is an essential tool for exploring the rapidly expanding design space of LLM serving systems, where real deployments remain costly and often infeasible. However, modern LLM serving now evolves faster than human-driven simulator development can track, and emerging workloads and mechanisms, from agentic workflows to disaggregated serving, no longer fit the monolithic simulation pipeline that existing simulators assume. Each new mechanism therefore demands an invasive rewrite, leaving a widening development gap between deployed serving systems and the simulators that model them. To close this gap, we present Simthesizer, a framework that realizes agent-driven simulator development. Simthesizer introduces a composable simulator infrastructure that uniformly expresses the complete serving workflow, including the control decisions that coordinate it, and realizes it as a unified dynamic graph in Simthesizer simulator. Synthesizer agent, a harnessed coding agent, then lowers natural-language feature requests onto this abstraction under simulator-specific guardrails and fidelity validation, evolving one shared simulator instead of building a new one for every feature. Under the same coding agent and harnesses, extensions built on Simthesizer follow a vLLM-based real system with 2.51% average throughput error, versus 6.03% for extensions built on existing simulators. On identical workloads, Simthesizer also simulates up to 284.96x and 23.19x faster than two state-of-the-art simulators, LLMServingSim2.0 and Vidur, respectively.
- Abstract（参考訳）: システムレベルのシミュレーションは、LLMサービスシステムの設計空間を急速に拡大させる上で欠かせないツールである。
しかしながら、現代のLLMサービス提供は、人間駆動シミュレータ開発よりも高速に進化し、エージェントワークフローから分離されたサービス提供に至るまで、既存のシミュレータが想定するモノリシックなシミュレーションパイプラインに適合しない、新たなワークロードとメカニズムを追跡および実行することができる。
したがって、それぞれの新しいメカニズムは侵入的な書き換えを必要とし、デプロイされたサービスシステムとそれらをモデル化するシミュレータの間の開発ギャップを拡大する。
このギャップを埋めるために,エージェント駆動シミュレータ開発を実現するSimthesizerを提案する。
Simthesizerは、完全なサービスワークフローを均一に表現する構成可能なシミュレータインフラを導入し、調整する制御決定を含み、Simthesizerシミュレータで統一された動的グラフとして実現している。
使用済みのコーディングエージェントであるSynthesizer Agentは、シミュレータ固有のガードレールと忠実性検証の下で、自然言語機能要求をこの抽象化に下降させ、すべての機能のために新しいものを構築する代わりに、ひとつの共有シミュレータを進化させる。
同じコーディングエージェントとハーネスの下で、Simthesizer上に構築された拡張は、vLLMベースの実システムに従い、平均スループットエラーが2.51%であるのに対して、既存のシミュレータ上に構築された拡張では6.03%である。
同一のワークロードでは、Simthesizerは2つの最先端シミュレータLLMServingSim2.0とVidurよりも最大284.96xと23.19x高速をシミュレートする。
関連論文リスト
- GASE: Gaussian Splatting-Based Automated System for Reconstructing Embodied-Simulation Environments [63.222920701596564]
実世界での実施エージェントの訓練には熟練したオペレーターと高価なハードウェアが必要である。
シミュレーション環境は、大規模で費用対効果の高いデータ拡張を可能にすることで、魅力的な代替手段を提供する。
シミュレーションシーンを最小限のsim-to-realギャップで高速に構築することは、ロボット学習において重要な目標となっている。
論文 参考訳（メタデータ） (2026-06-16T05:00:42Z) - IR-SIM: A Lightweight Skill-Native Simulator for Navigation, Learning, and Benchmarking [59.6657632820611]
IR-SIMは、迅速なシナリオ構築、ベンチマーク、ロボット学習のために設計された、スキルネイティブなナビゲーションシミュレータである。
シナリオは、モバイルロボットキネマティクス、幾何学的衝突チェック、LiDARセンシング、可視化、行動モジュールを指定するYAML設定ファイルで完全に定義されている。
実験では、複数のタスクにおいてIR-SIMの利便性と汎用性を示す。
論文 参考訳（メタデータ） (2026-06-07T16:55:37Z) - LychSim: A Controllable and Interactive Simulation Framework for Vision Research [13.971578506119647]
Unreal Engine 5上に構築された高度に制御可能でインタラクティブなシミュレーションフレームワークであるLychSimを紹介します。
LychSimは、(1)エンジンの複雑さを抽象化するPython APIの合理化、(2)様々なアウト・オブ・ディストリビューション(OOD)による多様な高忠実な環境を生成可能なプロシージャデータパイプライン、(3)エージェントLLMを推論するためにシミュレータを動的にクローズループグラウンドに変換するModel Context Protocol(MCP)のネイティブな統合、の3つの主要な設計に基づいて構築されている。
論文 参考訳（メタデータ） (2026-05-12T17:40:38Z) - Mind the Sim2Real Gap in User Simulation for Agentic Tasks [101.69142591891234]
ユーザシミュレーションにおけるSim2Realのギャップを形式化し、実際の人間に対して$$$-benchプロトコルを実行する最初の研究を示す。
LLMシミュレータは過度に協調的であり、スタイリスティックに均一であり、現実的なフラストレーションや曖昧さを欠いている。
これらの知見は, LLMベースのユーザシミュレータをエージェント開発サイクルで使用する際の人間による検証の重要性を強調した。
論文 参考訳（メタデータ） (2026-03-11T19:12:31Z) - LLMServingSim 2.0: A Unified Simulator for Heterogeneous and Disaggregated LLM Serving Infrastructure [4.1898448424363695]
インフラを提供する大規模言語モデル(LLM)は、異質性や非凝集性へとシフトしている。
本稿では,LLMServingSim 2.0について述べる。LLMServingSim 2.0は,ランタイム駆動のハードウェア-ソフトウェアインタラクションを明示的かつ解析可能なものにするシステムレベルのシミュレータである。
論文 参考訳（メタデータ） (2026-02-26T14:22:17Z) - SimuAgent: An LLM-Based Simulink Modeling Assistant Enhanced with Reinforcement Learning [3.1436750864792375]
我々は,Simulinkに適したモデリングおよびシミュレーションエージェントであるSimuAgentを紹介する。
SimuAgentはXMLを簡潔な辞書スタイルのPython表現に置き換え、トークン数を劇的に削減する。
2段階で訓練された軽量な計画実行アーキテクチャは、エージェントに低レベルのツールスキルと高レベルの設計推論の両方を装備する。
論文 参考訳（メタデータ） (2026-01-08T18:10:35Z) - Simulating Environments with Reasoning Models for Agent Training [55.98861707136674]
トレーニング用の起動環境の構築は重く、脆く、進捗を制限します。
我々はSimia-SFTとSimia-RLの2つのフレームワークを提案する。
Simia-SFTとSimia-RLは、環境工学を使わずにスケーラブルなエージェントトレーニングを可能にする。
論文 参考訳（メタデータ） (2025-11-03T18:29:57Z) - LLMs as Scalable, General-Purpose Simulators For Evolving Digital Agent Training [55.72784274656801]
構造化されたUI状態と遷移を生成するスケーラブルなパラダイムを導入し、大規模にトレーニングトラジェクトリを合成する。
このパラダイムは、多様なUI状態のためのデジタルワールドシミュレータ、コヒーレント探索のためのガイド付きロールアウトプロセス、軌道ラッパーを統合している。
WebArenaとAndroidWorldの実験では、UI-Simulatorは実際のUIでトレーニングされたオープンソースエージェントと競合するか、あるいは超越している。
論文 参考訳（メタデータ） (2025-10-16T17:59:38Z) - G-Sim: Generative Simulations with Large Language Models and Gradient-Free Calibration [48.948187359727996]
G-Simは、厳密な経験的校正によるシミュレータ構築を自動化するハイブリッドフレームワークである。
信頼性のある因果的インフォームドシミュレータを生成し、データ効率を軽減し、堅牢なシステムレベルの介入を可能にする。
論文 参考訳（メタデータ） (2025-06-10T22:14:34Z) - Phantora: Maximizing Code Reuse in Simulation-based Machine Learning System Performance Estimation [13.326000659635378]
Phantoraは、機械学習トレーニングワークロードのパフォーマンス見積のための、ハイブリッドGPUクラスタシミュレータである。
MLフレームワークのソースコードをシミュレーションで直接再利用することが可能で、再実装の必要がなくなる。
Phantoraは最先端のトレーニングフレームワークを3つサポートしている。
論文 参考訳（メタデータ） (2025-05-02T22:36:24Z) - LLMServingSim: A HW/SW Co-Simulation Infrastructure for LLM Inference Serving at Scale [17.00936774784349]
大規模言語モデル(LLM)サービスシステムにおいて、汎用的なハードウェア・ソフトウェア動作を正確にモデル化できるシミュレーション基盤が欠如している。
本稿では,LLMServingSimと呼ばれる効率的なシミュレーションツールを開発し,LCMサービスシステムにおける今後の研究を支援することを目的とする。
論文 参考訳（メタデータ） (2024-08-10T09:26:15Z) - Waymax: An Accelerated, Data-Driven Simulator for Large-Scale Autonomous
Driving Research [76.93956925360638]
Waymaxは、マルチエージェントシーンにおける自動運転のための新しいデータ駆動シミュレータである。
TPU/GPUなどのハードウェアアクセラレータで完全に動作し、トレーニング用のグラフ内シミュレーションをサポートする。
我々は、一般的な模倣と強化学習アルゴリズムのスイートをベンチマークし、異なる設計決定に関するアブレーション研究を行った。
論文 参考訳（メタデータ） (2023-10-12T20:49:15Z) - In Situ Framework for Coupling Simulation and Machine Learning with
Application to CFD [51.04126395480625]
近年、流体力学計算を容易にする機械学習(ML)の多くの成功例が報告されている。
シミュレーションが大きくなるにつれて、従来のオフライン学習のための新しいトレーニングデータセットの生成は、I/Oとストレージのボトルネックを生み出します。
この作業は、この結合を単純化し、異種クラスタでのその場トレーニングと推論を可能にするソリューションを提供する。
論文 参考訳（メタデータ） (2023-06-22T14:07:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。