論文の概要: FlowMaker: From Tasks to Cost-Efficient Generative AI Workflow Deployments
- arxiv url: http://arxiv.org/abs/2610.24861v1
- Date: Sat, 17 Oct 2026 20:28:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-22 15:40:50.688963
- Title: FlowMaker: From Tasks to Cost-Efficient Generative AI Workflow Deployments
- Title（参考訳）: FlowMaker: タスクからコスト効率のよい生成AIワークフローデプロイメントへ
- Abstract要約: 本稿では,タスクレベルのインターフェースを公開し,ユーザに代わってワークフローのバリエーションを選択するFlowMakerについて紹介する。
これを実現するために、高速かつオンザフライな決定のための制約付き負荷対応プルーニングアルゴリズムを設計する。
- 参考スコア（独自算出の注目度）: 0.4078247440919473
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Generative AI workflows execute user tasks by composing sequences of LLM calls, where each call performs a sub-task (e.g., summarization or translation), forming a workflow. Executing such workflows requires decisions over workflow structure, model assignments, and deployment configurations, which jointly determine latency, cost, and accuracy under dynamic workloads and resource constraints. Existing systems optimize these decisions in isolation or fix them early, leading to suboptimal cost and goodput. We make two key observations. First, efficient serving requires jointly exploring all combinations of workflows, model choices, and deployment configurations under dynamic cluster state. Second, reuse of deployed LLMs is critical for reducing cost, but must be performed on-the-fly, as reuse depends on current load and resource availability. Together, these make selecting a workflow-variant-a combination of workflow, models, and deployment configuration-a time-critical problem. We present FlowMaker, which exposes a task-level interface and selects workflow-variants on behalf of users. To realize this, we design a constraint-guided load-aware pruning algorithm for fast, on-the-fly decisions. FlowMaker improves goodput by up to 10.14$\times$ and reduces cost by up to 2.77$\times$ compared to state-of-the-art baselines, including Murakkab.
- Abstract（参考訳）: ジェネレーティブAIワークフローは、LLMコールのシーケンスを構成し、各呼び出しがサブタスク(例えば、要約や変換)を実行し、ワークフローを形成することによって、ユーザタスクを実行する。
このようなワークフローの実行には、ワークフロー構造やモデル割り当て、デプロイメント設定に関する決定が必要で、動的ワークロードやリソース制約の下でレイテンシ、コスト、精度を共同で決定する。
既存のシステムは、これらの決定を分離して最適化するか、早期に修正する。
私たちは2つの重要な観察をします。
まず、効率的なサービスには、ワークフロー、モデル選択、動的クラスタ状態下でのデプロイメント設定のすべての組み合わせを共同で検討する必要があります。
第二に、デプロイされたLLMの再利用はコスト削減に不可欠であるが、現在の負荷とリソース可用性に依存するため、オンザフライで実行する必要がある。
これらを組み合わせることで、ワークフロー、モデル、デプロイメント構成の組み合わせをワークフローの変種として選択することが可能になる。
本稿では,タスクレベルのインターフェースを公開し,ユーザに代わってワークフローのバリエーションを選択するFlowMakerについて紹介する。
これを実現するために、高速かつオンザフライな決定のための制約付き負荷対応プルーニングアルゴリズムを設計する。
FlowMakerは10.14$\times$まで改善し、Murakkabを含む最先端のベースラインと比較して2.77$\times$までコストを削減している。
関連論文リスト
- Designing Agentic AI Workflow Portfolios under Imperfect Selection and Compute Cost [6.605722864302966]
本稿では,企業が複数のワークフローを実行するポートフォリオ・アンド・セレクタパラダイムについて検討し,最終回答を選択する。
我々は、正確な定式化、線形プログラミング緩和、ランダム化されたラウンドリング手順、計算可能な性能証明を開発する。
最高のスタンドアロンワークフローとは対照的に、ポートフォリオ最適化では、それぞれ3.1、7.5、0.9ポイントのホールドアウトセレクタ精度が向上している。
論文 参考訳（メタデータ） (2026-09-16T05:02:11Z) - FlowBank: Query-Adaptive Agentic Workflows Optimization through Precompute-and-Reuse [58.80348559239392]
大規模言語モデル(LLM)ベースのマルチエージェントシステムはますます強力になっている。
タスクレベルのメソッドはかなりのオフライン計算に費やしますが、単一のワークフローのみをデプロイします。
クエリレベルのメソッドは、クエリ毎の新しいワークフローを相当なコストで合成する。
本稿では,ポートフォリオベースのエージェントワークフロー最適化フレームワークであるFlowBankを紹介する。
論文 参考訳（メタデータ） (2026-06-09T17:58:21Z) - On Time, Within Budget: Constraint-Driven Online Resource Allocation for Agentic Workflows [37.22092976146466]
エージェントシステムは、サブタスクを特別なモデルやツールに割り当て、依存関係に応じて調整するオーケストレーション実行ファイルを実行することで、複雑なユーザリクエストをますます解決します。
ワークフローは特定の予算内に完了し、特定の期限前に完了しなければならない。
これにより、平均的な効率最適化から、ワークフロー全体が明確な予算と期限の制約の下で正常に完了する確率の最大化へとゴールをシフトします。
論文 参考訳（メタデータ） (2026-05-07T12:24:21Z) - Learning to Compose for Cross-domain Agentic Workflow Generation [56.630382886594184]
クロスドメインワークフロー生成のためのオープンソースのLLMを作成します。
さまざまなドメインにわたる再利用可能なワークフロー機能のコンパクトなセットを学びます。
当社の1パスジェネレータは、20イテレーションを消費するSOTAリファインメントベースラインを超えています。
論文 参考訳（メタデータ） (2026-02-11T18:27:22Z) - Murakkab: Resource-Efficient Agentic Workflow Orchestration in Cloud Platforms [7.6151320996822625]
MurakkabはエージェントAIアプリケーションのためのリソース効率の高いサービスシステムである。
サービスレベルの目標(SLO)を維持しつつ、使用量を最大2.8ドル、エネルギー消費を3.7ドル、コストを4.3ドルに削減することを示す。
多様なGPUに対する評価では、MurakkabはSLOを維持しながらGPU使用量を最大2.8$times$、エネルギー消費を3.7$times$、コストを4.3$times$に削減している。
論文 参考訳（メタデータ） (2025-08-22T17:41:27Z) - Flow: Modularized Agentic Workflow Automation [53.073598156915615]
大規模言語モデル(LLM)を利用したマルチエージェントフレームワークは、自動計画とタスク実行において大きな成功を収めている。
しかし, 実行中のエージェントの効果的な調整は十分に研究されていない。
本稿では,エージェントによる継続的なワークフロー改善を可能にするアクティビティ・オン・頂点(AOV)グラフを定義する。
提案するマルチエージェントフレームワークは,サブタスクの効率的な同時実行,効果的なゴール達成,エラー耐性の向上を実現している。
論文 参考訳（メタデータ） (2025-01-14T04:35:37Z) - Benchmarking Agentic Workflow Generation [80.74757493266057]
複数面シナリオと複雑なグラフワークフロー構造を備えた統合ワークフロー生成ベンチマークであるWorfBenchを紹介する。
また,サブシーケンスとサブグラフマッチングアルゴリズムを利用したシステム評価プロトコルWorfEvalを提案する。
我々は、生成されたタスクが下流のタスクを強化し、推論中により少ない時間で優れたパフォーマンスを達成することを観察する。
論文 参考訳（メタデータ） (2024-10-10T12:41:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。