論文の概要: FlowCompile: An Optimizing Compiler for Structured LLM Workflows

• arxiv url: http://arxiv.org/abs/2605.13647v1
• Date: Wed, 13 May 2026 15:06:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-14 23:30:28.127438
• Title: FlowCompile: An Optimizing Compiler for Structured LLM Workflows
• Title（参考訳）: FlowCompile: 構造化LLMワークフローのための最適化コンパイラ
• Authors: Junyan Li, Zhang-Wei Hong, Maohao Shen, Yang Zhang, Chuang Gan,
• Abstract要約: FlowCompileは、高品質で再利用可能なトレードオフセットを特定するためにコンパイル時の設計スペース探索を実行する構造化LLMコンパイラである。 実験によると、FlowCompileは最適化されたワークフロー構成とルーティングベースのベースラインを一貫して上回り、最大6.4倍のスピードアップを提供する。
• 参考スコア（独自算出の注目度）: 44.34248788469801
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Structured LLM workflows, where specialized LLM sub-agents execute according to a predefined graph, have become a powerful abstraction for solving complex tasks. Optimizing such workflows, i.e., selecting configurations for each sub-agent to balance accuracy and latency, is challenging due to the combinatorial design space over model choices, reasoning budgets, and workflow structures. Existing cost-aware methods largely treat workflow optimization as a routing problem, selecting a configuration at inference time for each query according to the accuracy-latency objective used during training. We argue that structured LLM workflows can also be optimized from a compilation perspective: before deployment, the system can globally explore the workflow design space and construct a reusable set of workflow-level configurations spanning diverse accuracy-latency trade-offs. Drawing inspiration from machine learning compilers, we introduce FlowCompile, a structured LLM workflow compiler that performs compile-time design space exploration to identify a high-quality, reusable trade-off set. FlowCompile decomposes a workflow into sub-agents, profiles each sub-agent under diverse configurations, and composes these measurements through a structure-aware proxy to estimate workflow-level accuracy and latency. It then identifies diverse high-quality configurations in a single compile-time pass, without retraining or online adaptation. Experiments across diverse workflows and challenging benchmarks show that FlowCompile consistently outperforms heuristically optimized workflow configurations and routing-based baselines, delivering up to 6.4x speedup. The compiled configuration set further serves as a reusable optimization artifact, enabling flexible deployment under varying runtime preferences and supporting downstream selection or routing.
• Abstract（参考訳）: 構造化LLMワークフローでは,特定のLLMサブエージェントが事前に定義されたグラフに従って実行され,複雑なタスクを解くための強力な抽象化となっている。 このようなワークフローの最適化、すなわち、精度とレイテンシのバランスをとるために各サブエージェントの設定を選択することは、モデル選択、推論予算、ワークフロー構造に対する組合せ設計空間のために難しい。 既存のコスト対応手法は、ワークフロー最適化をルーティング問題として扱い、トレーニング中に使用する精度-遅延目標に応じて、各クエリの推論時間における構成を選択する。 デプロイ前に、システムはワークフロー設計空間をグローバルに探索し、さまざまな精度とレイテンシのトレードオフにまたがるワークフローレベルの再利用可能な構成セットを構築することができます。 機械学習コンパイラからインスピレーションを得たFlowCompileは、構造化されたLLMワークフローコンパイラで、コンパイル時の設計空間探索を実行し、高品質で再利用可能なトレードオフセットを特定する。 FlowCompileはワークフローをサブエージェントに分解し、さまざまな構成下で各サブエージェントをプロファイルし、これらの測定を構造認識プロキシを通じて構成し、ワークフローレベルの精度とレイテンシを推定する。 その後、トレーニングやオンライン適応なしに、単一のコンパイル時のパスでさまざまな高品質な設定を識別する。 さまざまなワークフローと挑戦的なベンチマークによる実験によると、FlowCompileは、ヒューリスティックに最適化されたワークフロー構成とルーティングベースのベースラインを一貫して上回り、最大6.4倍のスピードアップを提供する。 コンパイルされた設定セットはさらに再利用可能な最適化アーティファクトとして機能し、ランタイムの好みに応じて柔軟なデプロイを可能にし、下流の選択やルーティングをサポートする。

関連論文リスト

• FlowBot: Inducing LLM Workflows with Bilevel Optimization and Textual Gradients [33.54212868461948]
  強力なAIシステムを構築するための既存のアプローチは、一般的に人為的なパイプラインとプロンプトに依存している。 本稿では,エージェントとワークフローを自動的に誘導するデータ駆動型アプローチについて述べる。 テキストscFlowBotインジェクションによって発見されたLSMは,強いベースラインに対して競争的に機能することがわかった。
  論文  参考訳（メタデータ） (2026-04-29T03:37:56Z)
• From Static Templates to Dynamic Runtime Graphs: A Survey of Workflow Optimization for LLM Agents [39.457720579458]
  大規模言語モデル(LLM)ベースのシステムは、タスクの解決に人気が高まっている。 本稿では,そのような計算を設計・最適化するための最近の手法について概観する。
  論文  参考訳（メタデータ） (2026-03-23T17:42:59Z)
• FlowMind: Execute-Summarize for Structured Workflow Generation from LLM Reasoning [5.153212048436295]
  LLMは推論やツールの使用によって複雑なタスクを解くことができるが、これらのソリューションを構造化されたものに正確に翻訳することは依然として難しい。 ツール使用のシーケンスとしてモデル化し、タスクを解決し、それらを確実に構築できるメカニズムを設計するものとして問題を再構築する。 本稿では,ワークフロー構築からタスク実行を分離するExecute-Summarize(ES)フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-12T10:04:42Z)
• Understanding and Optimizing Agentic Workflows via Shapley value [49.508008396810624]
  エージェント構成の分析と最適化に協調ゲーム理論を利用する最初のフレームワークであるShapleyFlowを紹介した。 ShagleyFlowは、各コンポーネントのコントリビューションの詳細な属性を可能にし、タスク固有の最適設定の識別を容易にする。
  論文  参考訳（メタデータ） (2025-02-01T18:07:34Z)
• Flow: Modularized Agentic Workflow Automation [53.073598156915615]
  大規模言語モデル(LLM)を利用したマルチエージェントフレームワークは、自動計画とタスク実行において大きな成功を収めている。 しかし, 実行中のエージェントの効果的な調整は十分に研究されていない。 本稿では,エージェントによる継続的なワークフロー改善を可能にするアクティビティ・オン・頂点(AOV)グラフを定義する。 提案するマルチエージェントフレームワークは,サブタスクの効率的な同時実行,効果的なゴール達成,エラー耐性の向上を実現している。
  論文  参考訳（メタデータ） (2025-01-14T04:35:37Z)
• Benchmarking Agentic Workflow Generation [80.74757493266057]
  複数面シナリオと複雑なグラフワークフロー構造を備えた統合ワークフロー生成ベンチマークであるWorfBenchを紹介する。 また,サブシーケンスとサブグラフマッチングアルゴリズムを利用したシステム評価プロトコルWorfEvalを提案する。 我々は、生成されたタスクが下流のタスクを強化し、推論中により少ない時間で優れたパフォーマンスを達成することを観察する。
  論文  参考訳（メタデータ） (2024-10-10T12:41:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。