Fugu-MT 論文翻訳(概要): FlowBot: Inducing LLM Workflows with Bilevel Optimization and Textual Gradients

論文の概要: FlowBot: Inducing LLM Workflows with Bilevel Optimization and Textual Gradients

arxiv url: http://arxiv.org/abs/2604.26258v1
Date: Wed, 29 Apr 2026 03:37:56 GMT
ステータス: 翻訳完了
システム内更新日: 2026-04-30 15:59:36.240492
Title: FlowBot: Inducing LLM Workflows with Bilevel Optimization and Textual Gradients
Title（参考訳）: FlowBot: 双方向最適化とテキストグラディエントを備えたLLMワークフローの導入
Abstract要約: このようなパイプラインを構築するための既存のアプローチは、一般的に人為的なプロンプトに依存します。本稿では,LPMを自動生成するシンプルなデータ駆動方式について述べる。 textscBot (textbfbilevel textbfoptimization と textbftextual によるworktextbfflowインジェクション) によって発見された LLM は,強いベースラインに対して競争的に作用することがわかった。
参考スコア（独自算出の注目度）: 33.54212868461948
License: http://creativecommons.org/licenses/by/4.0/
Abstract: LLM workflows, which coordinate structured calls to individual LLMs (each augmented with varying instructions and tools) to achieve a particular goal, offer a promising path towards extending the capabilities of LLMs and building powerful systems that can tackle diverse tasks. However, existing approaches for building such workflows generally rely on human-crafted pipelines and prompts, which presents a substantial bottleneck in real world deployment. How can automatically induce and optimize such workflows in a data-driven way? This paper describes a simple data-driven approach for automatically inducing LLM workflows. We formulate workflow induction as a bilevel optimization problem: an outer loop which optimizes a high-level sketch of the workflow (in particular how the LLM calls should be structured), and an inner loop which optimizes each individual LLM call one-by one. Both loops are optimized with ``textual gradients'' where for the inner loop we optimize each component in a modular way through ``backpropagating'' textual gradients layer-by-layer. We find that LLM workflows discovered through our \textsc{FlowBot} (work\textbf{flow} induction through \textbf{b}ilevel \textbf{o}ptimization and \textbf{t}extual gradients) approach performs competitively against strong baselines that make use of human-crafted or automatically-generated workflows.
Abstract（参考訳）: LLMワークフローは、特定の目標を達成するために個々のLLM(それぞれ異なる命令やツールで強化された)への構造化コールを調整し、LLMの機能を拡張し、多様なタスクに対処できる強力なシステムを構築するための、有望な道筋を提供する。しかしながら、そのようなワークフローを構築するための既存のアプローチは、一般的に人為的なパイプラインとプロンプトに依存している。データ駆動の方法で、このようなワークフローを自動生成し、最適化するにはどうすればよいのか? 本稿では,LLMワークフローを自動生成するシンプルなデータ駆動方式について述べる。本稿では、ワークフローの高レベルなスケッチを最適化する外ループ(特にLLM呼び出しの構造化方法)と、各LCM呼び出しを1回ずつ最適化する内ループという2段階最適化問題としてワークフロー誘導を定式化する。両方のループは ``textual gradients'' で最適化されています。 LLMのワークフローは, 人為的なワークフローや自動生成ワークフローを利用する強力なベースラインに対して, 競合的に動作することがわかった。

関連論文リスト

Coupled Hierarchical Search over Topology and Execution for Agentic Workflow Synthesis [64.2820121997882]
エージェントワークフロー設計を自動化する,トレーニング不要でテスト時の階層型検索アーキテクチャであるHierFlowを紹介した。 HierFlowはインテリジェントなゲーティングモジュールを通じて効率を最大化し、コンテキスト要求に基づいて実行レベル検索を選択的にトリガーする。質問応答、数学的推論、コード生成ベンチマークにわたる包括的なテストは、HierFlowが一貫して強力なベースラインを上回っていることを確認する。
論文参考訳（メタデータ） (2026-05-20T01:56:11Z)
FlowCompile: An Optimizing Compiler for Structured LLM Workflows [44.34248788469801]
FlowCompileは、高品質で再利用可能なトレードオフセットを特定するためにコンパイル時の設計スペース探索を実行する構造化LLMコンパイラである。実験によると、FlowCompileは最適化されたワークフロー構成とルーティングベースのベースラインを一貫して上回り、最大6.4倍のスピードアップを提供する。
論文参考訳（メタデータ） (2026-05-13T15:06:36Z)
LLM for Large-Scale Optimization Model Auto-Formulation: A Lightweight Few-Shot Learning Approach [10.44190976207354]
LEAN-LLM-OPTは大規模なOPTimizationオートフォーミュレーションのためのワークフローフレームワークである。モデリングタスクを構造化されたサブタスクに分解し、機械的なデータ処理操作を補助ツールにオフロードする。大規模最適化モデリングタスクにおいて高い性能を達成し、最先端のアプローチと競合する。
論文参考訳（メタデータ） (2026-01-14T17:09:57Z)
AdaptFlow: Adaptive Workflow Optimization via Meta-Learning [31.322983791187646]
AdaptFlowは、モデルに依存しないメタラーニングにインスパイアされた自然言語ベースのメタラーニングフレームワークである。素早いサブタスクレベルの適応を可能にする一般的なワークフローを学習する。手作業で作成し、ベースラインを自動的に検索することで、一貫してパフォーマンスが向上する。
論文参考訳（メタデータ） (2025-08-11T14:52:59Z)
LLM-AutoDiff: Auto-Differentiate Any LLM Workflow [58.56731133392544]
自動プロンプト工学(APE)のための新しいフレームワーク LLM-AutoDiff について紹介する。 LLMs-AutoDiffは、各テキスト入力をトレーニング可能なパラメータとして扱い、フリーズした後方エンジンを使用して、テキスト勾配に対するフィードバック・アキンを生成する。精度とトレーニングコストの両方において、既存のテキスト勾配ベースラインを一貫して上回ります。
論文参考訳（メタデータ） (2025-01-28T03:18:48Z)
WorkflowLLM: Enhancing Workflow Orchestration Capability of Large Language Models [105.46456444315693]
ワークフローオーケストレーションにおける大規模言語モデルの能力を高めるための,データ中心のフレームワークであるLLMを提案する。最初は106,763のサンプルで大規模な微調整Benchを構築し、28のカテゴリにわたる83のアプリケーションから1,503のAPIをカバーしている。 LlamaLlamaは複雑なAPIをオーケストレーションする能力を示しながら、優れた一般化性能を実現している。
論文参考訳（メタデータ） (2024-11-08T09:58:02Z)
Benchmarking Agentic Workflow Generation [80.74757493266057]
複数面シナリオと複雑なグラフワークフロー構造を備えた統合ワークフロー生成ベンチマークであるWorfBenchを紹介する。また,サブシーケンスとサブグラフマッチングアルゴリズムを利用したシステム評価プロトコルWorfEvalを提案する。我々は、生成されたタスクが下流のタスクを強化し、推論中により少ない時間で優れたパフォーマンスを達成することを観察する。
論文参考訳（メタデータ） (2024-10-10T12:41:19Z)
ComfyGen: Prompt-Adaptive Workflows for Text-to-Image Generation [87.39861573270173]
本稿では,各ユーザプロンプトに自動的にワークフローをカスタマイズすることを目的とする,プロンプト適応型ワークフロー生成の新しいタスクを紹介する。本稿では,この課題に対処する2つの LLM ベースの手法を提案する。ユーザ・参照データから学習するチューニングベース手法と,既存のフローを選択するために LLM を使用するトレーニングフリー手法である。本研究は,現場における既存研究の方向性を補完し,テキスト・画像生成の品質向上のための新たな経路を提供することを示す。
論文参考訳（メタデータ） (2024-10-02T16:43:24Z)
AutoFlow: Automated Workflow Generation for Large Language Model Agents [39.72700864347576]
大規模言語モデル(LLM)は、複雑な自然言語を理解する上で大きな進歩を見せている。 LLMエージェントが与えられたタスクを解決するための効果的で信頼性の高い手順に従うようにするために、手動で設計されるのが通常である。複雑なタスクを解決するためにエージェントを自動的に生成するフレームワークであるAutoFlowを提案する。
論文参考訳（メタデータ） (2024-07-01T21:05:02Z)
LLM as a Complementary Optimizer to Gradient Descent: A Case Study in Prompt Tuning [69.95292905263393]
グラデーションベースとハイレベルなLLMは、協調最適化フレームワークを効果的に組み合わせることができることを示す。本稿では,これらを相互に補完し,組み合わせた最適化フレームワークを効果的に連携させることができることを示す。
論文参考訳（メタデータ） (2024-05-30T06:24:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。