論文の概要: FlowBot: Inducing LLM Workflows with Bilevel Optimization and Textual Gradients

• arxiv url: http://arxiv.org/abs/2604.26258v2
• Date: Fri, 01 May 2026 01:42:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-04 13:37:10.91958
• Title: FlowBot: Inducing LLM Workflows with Bilevel Optimization and Textual Gradients
• Title（参考訳）: FlowBot: 双方向最適化とテキストグラディエントを備えたLLMワークフローの導入
• Authors: Hongyeon Yu, Young-Bum Kim, Yoon Kim,
• Abstract要約: 強力なAIシステムを構築するための既存のアプローチは、一般的に人為的なパイプラインとプロンプトに依存している。 本稿では,エージェントとワークフローを自動的に誘導するデータ駆動型アプローチについて述べる。 テキストscFlowBotインジェクションによって発見されたLSMは,強いベースラインに対して競争的に機能することがわかった。
• 参考スコア（独自算出の注目度）: 33.54212868461948
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM workflows, which coordinate structured calls to individual LLMs/agents to achieve a particular goal, offer a promising path towards building powerful AI systems that can tackle diverse tasks. However, existing approaches for building such workflows generally rely on human-crafted pipelines and prompts, which presents a substantial bottleneck in real world deployment. How can we automatically induce LLM-based agents and workflows in a data-driven way? This paper describes a simple data-driven approach for automatically inducing agents and LLM workflows. We formulate workflow induction as a bilevel optimization problem: an outer loop which optimizes a high-level sketch of the workflow (in particular how the LLM calls should be structured), and an inner loop which optimizes each individual LLM call one-by one. Both loops are optimized with ``textual gradients'' where for the inner loop we optimize each component in a modular way through ``backpropagating'' textual gradients layer-by-layer. We find that LLM workflows discovered through our \textsc{FlowBot} (work\textbf{flow} induction through \textbf{b}ilevel \textbf{o}ptimization and \textbf{t}extual gradients) approach performs competitively against strong baselines that make use of human-crafted or generated workflows.
• Abstract（参考訳）: LLMワークフローは、特定の目標を達成するために個々のLLM/エージェントへの構造化コールをコーディネートすることで、多様なタスクに対処可能な強力なAIシステムを構築するための有望な道筋を提供する。 しかしながら、そのようなワークフローを構築するための既存のアプローチは、一般的に人為的なパイプラインとプロンプトに依存している。 LLMベースのエージェントとワークフローをデータ駆動方式で自動生成するには、どうすればよいのか? 本稿では,エージェントとLLMワークフローを自動生成するシンプルなデータ駆動方式について述べる。 本稿では、ワークフローの高レベルなスケッチを最適化する外ループ(特にLLM呼び出しの構造化方法)と、各LCM呼び出しを1回ずつ最適化する内ループという2段階最適化問題としてワークフロー誘導を定式化する。 両方のループは ``textual gradients'' で最適化されています。 LLMのワークフローは, 人為的なワークフローや生成されたワークフローを利用する強力なベースラインに対して, 競争的に作用することがわかった。

関連論文リスト

• LLM for Large-Scale Optimization Model Auto-Formulation: A Lightweight Few-Shot Learning Approach [10.44190976207354]
  LEAN-LLM-OPTは大規模なOPTimizationオートフォーミュレーションのためのワークフローフレームワークである。 モデリングタスクを構造化されたサブタスクに分解し、機械的なデータ処理操作を補助ツールにオフロードする。 大規模最適化モデリングタスクにおいて高い性能を達成し、最先端のアプローチと競合する。
  論文  参考訳（メタデータ） (2026-01-14T17:09:57Z)
• AdaptFlow: Adaptive Workflow Optimization via Meta-Learning [31.322983791187646]
  AdaptFlowは、モデルに依存しないメタラーニングにインスパイアされた自然言語ベースのメタラーニングフレームワークである。 素早いサブタスクレベルの適応を可能にする一般的なワークフローを学習する。 手作業で作成し、ベースラインを自動的に検索することで、一貫してパフォーマンスが向上する。
  論文  参考訳（メタデータ） (2025-08-11T14:52:59Z)
• LLM-AutoDiff: Auto-Differentiate Any LLM Workflow [58.56731133392544]
  自動プロンプト工学(APE)のための新しいフレームワーク LLM-AutoDiff について紹介する。 LLMs-AutoDiffは、各テキスト入力をトレーニング可能なパラメータとして扱い、フリーズした後方エンジンを使用して、テキスト勾配に対するフィードバック・アキンを生成する。 精度とトレーニングコストの両方において、既存のテキスト勾配ベースラインを一貫して上回ります。
  論文  参考訳（メタデータ） (2025-01-28T03:18:48Z)
• WorkflowLLM: Enhancing Workflow Orchestration Capability of Large Language Models [105.46456444315693]
  ワークフローオーケストレーションにおける大規模言語モデルの能力を高めるための,データ中心のフレームワークであるLLMを提案する。 最初は106,763のサンプルで大規模な微調整Benchを構築し、28のカテゴリにわたる83のアプリケーションから1,503のAPIをカバーしている。 LlamaLlamaは複雑なAPIをオーケストレーションする能力を示しながら、優れた一般化性能を実現している。
  論文  参考訳（メタデータ） (2024-11-08T09:58:02Z)
• Benchmarking Agentic Workflow Generation [80.74757493266057]
  複数面シナリオと複雑なグラフワークフロー構造を備えた統合ワークフロー生成ベンチマークであるWorfBenchを紹介する。 また,サブシーケンスとサブグラフマッチングアルゴリズムを利用したシステム評価プロトコルWorfEvalを提案する。 我々は、生成されたタスクが下流のタスクを強化し、推論中により少ない時間で優れたパフォーマンスを達成することを観察する。
  論文  参考訳（メタデータ） (2024-10-10T12:41:19Z)
• AutoFlow: Automated Workflow Generation for Large Language Model Agents [39.72700864347576]
  大規模言語モデル(LLM)は、複雑な自然言語を理解する上で大きな進歩を見せている。 LLMエージェントが与えられたタスクを解決するための効果的で信頼性の高い手順に従うようにするために、手動で設計されるのが通常である。 複雑なタスクを解決するためにエージェントを自動的に生成するフレームワークであるAutoFlowを提案する。
  論文  参考訳（メタデータ） (2024-07-01T21:05:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。