論文の概要: Decoupling Readiness from Release for Tail-Aware Scheduling of Agentic LLM Workflows

• arxiv url: http://arxiv.org/abs/2609.10964v1
• Date: Thu, 10 Sep 2026 01:35:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-11 23:53:35.176129
• Title: Decoupling Readiness from Release for Tail-Aware Scheduling of Agentic LLM Workflows
• Title（参考訳）: エージェントLLMワークフローのタイルアウェアスケジューリングのためのリリース準備の切り離し
• Abstract要約: テールリスク対応のターンリリーススケジューリング手法では、次にどのターンをリリースするかを共同で決定する。 そこで本研究では,次回リリース予定のターンを共同で決定する,テールリスク対応ターンリリーススケジューリング手法を提案する。
• 参考スコア（独自算出の注目度）: 25.368121854431035
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Agentic LLM workflows consist of sequences of model turns interleaved with tool interactions, so their end-to-end completion time depends not only on inference speed but also on when ready turns are released. Most runtimes release each turn immediately upon readiness. Under contention, this eager release policy can accumulate released but unfinished work; once submitted, those turns can no longer be reordered by the workflow-level policy, increasing tail latency. We present a tail-risk-aware turn release scheduling method that jointly decides which ready turn to release next and how much released but unfinished work to maintain. The method uses a mean--Conditional Value-at-Risk (CVaR) objective to capture the evolving tail risk of unfinished workflows, incorporates online estimates of turn work when prioritizing ready turns, and adapts the released work budget to observed queue pressure. We evaluate the method using real agent execution traces from software engineering tasks across multiple LLMs and workflow arrival rates. The method performs comparably to eager release under light load and substantially reduces the P95 of workflow flow time under contention, achieving up to a \(3.50\times\) speedup.
• Abstract（参考訳）: エージェントLLMワークフローは、ツールインタラクションにインターリーブされたモデルターンのシーケンスで構成されているため、そのエンドツーエンドの完了時間は、推論速度だけでなく、整列がリリースされるタイミングにも依存する。 ほとんどのランタイムは、準備が整うとすぐにリリースします。 競合の下では、この熱心にリリースされるリリースポリシーは、リリースされるが未完了の作業を蓄積することができる。 そこで本研究では,次回のリリース予定時期と,未完了の作業量とを共同で決定する,テールリスク対応ターンリリーススケジューリング手法を提案する。 本手法では,未完成のワークフローの進化するテールリスクを捉えるために,平均値-at-Risk(CVaR)の目標を用いて,既定のターンを優先順位付けする際のターンワークのオンライン推定を取り入れ,リリースした作業予算を待ち行列の圧力に適応させる。 ソフトウェア工学のタスクから複数のLLMとワークフローの到着率にまたがる実エージェント実行トレースを用いて,本手法の評価を行った。 本手法は、光負荷下でのエキサイティングリリースと互換性があり、競合下でのワークフローフロー時間のP95を大幅に低減し、最大3.50\times\)スピードアップを達成する。

関連論文リスト

• Substrate-Portable Execution for Production LLM Workflows [0.0]
  実行セマンティクスは、しばしば1つのランタイムに結合される。 Rufusはリアルタイムサービス、非同期バックグラウンドタスク、高ボリュームバッチワークロードをサポートする。 本稿では,ワークフロー定義を実行基盤から分離するバインディング適応型エージェント実行プラットフォームを提案する。
  論文  参考訳（メタデータ） (2026-09-05T14:52:35Z)
• COVENANT: Natural-Language Workflow Compilation for Aligned Agent Execution [12.755574564434788]
  本稿では,ワークフロー対応エージェント実行のためのコンパイラ・アンド・インタープリタアーキテクチャであるCOVENANTを提案する。 私たちの重要な洞察は、ワークフロー命令をプロンプトではなく、ソースプログラムとして扱うことです。 COVENANTは命令をワークフロー抽象構文木(WAST)に変換し、ワークフロー制御フローグラフ(WCFG)に変換する。
  論文  参考訳（メタデータ） (2026-07-28T07:59:50Z)
• On Time, Within Budget: Constraint-Driven Online Resource Allocation for Agentic Workflows [37.22092976146466]
  エージェントシステムは、サブタスクを特別なモデルやツールに割り当て、依存関係に応じて調整するオーケストレーション実行ファイルを実行することで、複雑なユーザリクエストをますます解決します。 ワークフローは特定の予算内に完了し、特定の期限前に完了しなければならない。 これにより、平均的な効率最適化から、ワークフロー全体が明確な予算と期限の制約の下で正常に完了する確率の最大化へとゴールをシフトします。
  論文  参考訳（メタデータ） (2026-05-07T12:24:21Z)
• Claw-Eval-Live: A Live Agent Benchmark for Evolving Real-World Workflows [67.92316850084575]
  ワークフローエージェントのライブベンチマークであるClaw-Eval-Liveを紹介する。 各リリースは、公開ワークフロー要求信号から構築される。 Claw-Eval-Liveは実行トレース、監査ログ、サービス状態、実行後のワークスペースアーティファクトを記録する。
  論文  参考訳（メタデータ） (2026-04-30T17:23:19Z)
• VineLM: Trie-Based Fine-Grained Control for Agentic Workflows [4.984467399543813]
  VineLMは、モデル選択プレフィックスの注釈付きトリエとして実行可能な実行を表す。 VineLMは、モデル選択プレフィックスの注釈付きトリエとして実行可能な実行を表す。
  論文  参考訳（メタデータ） (2026-04-09T15:31:22Z)
• B-PASTE: Beam-Aware Pattern-Guided Speculative Execution for Resource-Constrained LLM Agents [0.0]
  LLMエージェントはインターリーブされた推論とアクションのループで実行され、将来のツールコールは現在の推論ステップが完了するまで起動できない。 B-PASTEは、単一のツールからの推測を、厳密なリソース制約の下で局所的な分岐仮説に引き上げるビーム対応拡張である。
  論文  参考訳（メタデータ） (2026-04-09T07:42:17Z)
• Chimera: Latency- and Performance-Aware Multi-agent Serving for Heterogeneous LLMs [62.17306142810532]
  ヘテロジニアスLSMクラスタ上で動作するマルチエージェントワークフローの予測スケジューリングシステムであるChimeraを提案する。 Chimeは最高のレイテンシをトレースし、エンドツーエンドのレイテンシを1.2-2.4$times$で削減し、タスクパフォーマンスを平均8.0-9.5ポイント改善する。
  論文  参考訳（メタデータ） (2026-03-23T17:01:42Z)
• FlowSteer: Interactive Agentic Workflow Orchestration via End-to-End Reinforcement Learning [49.369614288007334]
  FlowSteerは、エージェントと実行可能なキャンバス環境として軽量なポリシーモデルを採用する、エンドツーエンドの強化学習フレームワークである。 FlowSteerは様々なタスクでベースラインを大幅に上回ることを示す。
  論文  参考訳（メタデータ） (2026-02-02T05:30:42Z)
• Flow: Modularized Agentic Workflow Automation [53.073598156915615]
  大規模言語モデル(LLM)を利用したマルチエージェントフレームワークは、自動計画とタスク実行において大きな成功を収めている。 しかし, 実行中のエージェントの効果的な調整は十分に研究されていない。 本稿では,エージェントによる継続的なワークフロー改善を可能にするアクティビティ・オン・頂点(AOV)グラフを定義する。 提案するマルチエージェントフレームワークは,サブタスクの効率的な同時実行,効果的なゴール達成,エラー耐性の向上を実現している。
  論文  参考訳（メタデータ） (2025-01-14T04:35:37Z)
• Benchmarking Agentic Workflow Generation [80.74757493266057]
  複数面シナリオと複雑なグラフワークフロー構造を備えた統合ワークフロー生成ベンチマークであるWorfBenchを紹介する。 また,サブシーケンスとサブグラフマッチングアルゴリズムを利用したシステム評価プロトコルWorfEvalを提案する。 我々は、生成されたタスクが下流のタスクを強化し、推論中により少ない時間で優れたパフォーマンスを達成することを観察する。
  論文  参考訳（メタデータ） (2024-10-10T12:41:19Z)
• Better than the Best: Gradient-based Improper Reinforcement Learning for Network Scheduling [60.48359567964899]
  パケット遅延を最小限に抑えるため,制約付き待ち行列ネットワークにおけるスケジューリングの問題を考える。 我々は、利用可能な原子ポリシーよりも優れたスケジューラを生成するポリシー勾配に基づく強化学習アルゴリズムを使用する。
  論文  参考訳（メタデータ） (2021-05-01T10:18:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。