論文の概要: From Search to Synthesis: Training LLMs as Zero-Shot Workflow Generators
- arxiv url: http://arxiv.org/abs/2606.30704v1
- Date: Mon, 29 Jun 2026 14:17:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:18.958461
- Title: From Search to Synthesis: Training LLMs as Zero-Shot Workflow Generators
- Title(参考訳): 検索から合成へ:ゼロショットワークフロージェネレータとしてのLCMの訓練
- Abstract要約: 大規模言語モデル(LLM)は幅広いタスクで優れていますが、インスタンス固有のソリューションでは、信頼性の高いデプロイメントに必要な構造的一貫性が欠如しています。
本稿では、メタ学習問題としてワークフロー生成を論じるMetaFlowを提案する。
合成ワークフローデータに基づく微調整と、検証可能な報酬を伴う強化学習の2段階を訓練する。
得られたモデルは訓練されたタスクに有効であり、訓練されていないタスクや新しい演算子集合に強い一般化を示す。
- 参考スコア(独自算出の注目度): 17.263246226058474
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) excel across a wide range of tasks, yet their instance-specific solutions often lack the structural consistency needed for reliable deployment. Workflows that encode recurring algorithmic patterns at the task level provide a principled framework, offering robustness across instance variations, interpretable traces for debugging, and reusability across problem instances. However, manually designing such workflows requires significant expertise and effort, limiting their broader application. While automatic workflow generation could address this bottleneck, existing methods either produce instance-specific solutions without learning task-level patterns, or cannot generalize beyond their training configurations. We present MetaFlow, which casts workflow generation as a meta-learning problem: given a task and an operator set, the model learns to compose solution strategies. MetaFlow trains in two stages: supervised fine-tuning on synthetic workflow data, followed by reinforcement learning with verifiable rewards (RLVR) that uses execution feedback across problem instances in the task to improve end-to-end success. The resulting model produces effective workflows for trained tasks and exhibits strong generalization to untrained tasks and novel operator sets. Across benchmarks in question answering, code generation, and mathematical reasoning, MetaFlow achieves performance comparable to state-of-the-art baselines on in-domain tasks with single inference, while demonstrating remarkable zero-shot generalization capabilities on out-of-domain tasks and operator sets.
- Abstract(参考訳): 大規模言語モデル(LLM)は幅広いタスクで優れていますが、インスタンス固有のソリューションでは、信頼性の高いデプロイメントに必要な構造的一貫性が欠如しています。
タスクレベルで繰り返し発生するアルゴリズムパターンをエンコードするワークフローは、インスタンスのバリエーション間の堅牢性、デバッグのための解釈可能なトレース、問題インスタンス間の再利用性を提供する、原則化されたフレームワークを提供する。
しかし、そのようなワークフローを手動で設計するには、非常に専門知識と労力が必要であり、より広範なアプリケーションを制限する。
ワークフローの自動生成はこのボトルネックに対処する可能性があるが、既存のメソッドはタスクレベルのパターンを学習せずにインスタンス固有のソリューションを生成するか、あるいはトレーニング設定を超えて一般化できない。
タスクとオペレータセットが与えられたら、そのモデルがソリューション戦略を構成することを学習する。
MetaFlowは、合成ワークフローデータの微調整を監督し、続いて、タスク内の問題インスタンス全体にわたる実行フィードバックを使用してエンドツーエンドの成功を改善する、検証可能な報酬(RLVR)による強化学習を行う。
得られたモデルは、訓練されたタスクに対して効果的なワークフローを生成し、訓練されていないタスクや新しい演算子集合に対して強力な一般化を示す。
問題に答えるベンチマーク、コード生成、数学的推論など、MetaFlowは単一の推論でドメイン内タスクの最先端ベースラインに匹敵するパフォーマンスを実現します。
関連論文リスト
- From Specification to Execution: AI Assisted Scientific Workflow Management [0.7507031378170735]
本稿では,AIを活用した科学ワークフロー管理手法を提案する。
このメソッドは、ワークフローの意図、設計、実装を分離する構造化された仕様フェーズを導入し、コード生成に先立って検証を可能にする。
本手法は, 並列性, 反復性, 依存性集約構造で選択された医用画像にフェデレートした学習ワークフローを用いて評価する。
論文 参考訳(メタデータ) (2026-06-16T19:21:09Z) - FlowMind: Execute-Summarize for Structured Workflow Generation from LLM Reasoning [5.153212048436295]
LLMは推論やツールの使用によって複雑なタスクを解くことができるが、これらのソリューションを構造化されたものに正確に翻訳することは依然として難しい。
ツール使用のシーケンスとしてモデル化し、タスクを解決し、それらを確実に構築できるメカニズムを設計するものとして問題を再構築する。
本稿では,ワークフロー構築からタスク実行を分離するExecute-Summarize(ES)フレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-12T10:04:42Z) - Learning to Compose for Cross-domain Agentic Workflow Generation [56.630382886594184]
クロスドメインワークフロー生成のためのオープンソースのLLMを作成します。
さまざまなドメインにわたる再利用可能なワークフロー機能のコンパクトなセットを学びます。
当社の1パスジェネレータは、20イテレーションを消費するSOTAリファインメントベースラインを超えています。
論文 参考訳(メタデータ) (2026-02-11T18:27:22Z) - DyFlow: Dynamic Workflow Framework for Agentic Reasoning [79.19799197382478]
DyFlowは動的ワークフロー生成フレームワークで、タスク要求とリアルタイム中間フィードバックに基づいて推論手順を適応的に構築し、調整する。
社会的推論,生物医学的タスク,数学的問題解決,コード生成など,さまざまな領域でDyFlowを体系的に評価する。
結果は、DyFlowが既存のベースラインを大幅に上回り、Pass@kの改善を実現し、さまざまなドメインにわたって堅牢な一般化を示すことを示した。
論文 参考訳(メタデータ) (2025-09-30T10:36:23Z) - Learning Task Representations from In-Context Learning [67.66042137487287]
大規模言語モデル(LLM)は、文脈内学習(ICL)において顕著な習熟性を示した。
ICLプロンプトにおけるタスク情報をアテンションヘッドの関数として符号化するための自動定式化を導入する。
提案手法は,テキスト中の実演からタスク固有の情報を抽出し,テキストと回帰タスクの両方で優れる。
論文 参考訳(メタデータ) (2025-02-08T00:16:44Z) - Flow: Modularized Agentic Workflow Automation [53.073598156915615]
大規模言語モデル(LLM)を利用したマルチエージェントフレームワークは、自動計画とタスク実行において大きな成功を収めている。
しかし, 実行中のエージェントの効果的な調整は十分に研究されていない。
本稿では,エージェントによる継続的なワークフロー改善を可能にするアクティビティ・オン・頂点(AOV)グラフを定義する。
提案するマルチエージェントフレームワークは,サブタスクの効率的な同時実行,効果的なゴール達成,エラー耐性の向上を実現している。
論文 参考訳(メタデータ) (2025-01-14T04:35:37Z) - Benchmarking Agentic Workflow Generation [80.74757493266057]
複数面シナリオと複雑なグラフワークフロー構造を備えた統合ワークフロー生成ベンチマークであるWorfBenchを紹介する。
また,サブシーケンスとサブグラフマッチングアルゴリズムを利用したシステム評価プロトコルWorfEvalを提案する。
我々は、生成されたタスクが下流のタスクを強化し、推論中により少ない時間で優れたパフォーマンスを達成することを観察する。
論文 参考訳(メタデータ) (2024-10-10T12:41:19Z) - Task-Distributionally Robust Data-Free Meta-Learning [99.56612787882334]
Data-Free Meta-Learning (DFML)は、複数の事前学習モデルを活用することで、独自のトレーニングデータを必要とせずに、新しいタスクを効率的に学習することを目的としている。
TDS(Task-Distribution Shift)とTDC(Task-Distribution Corruption)の2つの大きな課題を初めて明らかにした。
論文 参考訳(メタデータ) (2023-11-23T15:46:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。