論文の概要: Reducing Batch Makespan for LLM Agent Workloads through Inference-Environment Coordination
- arxiv url: http://arxiv.org/abs/2611.16661v1
- Date: Thu, 12 Nov 2026 11:38:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.459588
- Title: Reducing Batch Makespan for LLM Agent Workloads through Inference-Environment Coordination
- Title(参考訳): 推論環境調整によるLLMエージェントワークロードのバッチ化
- Abstract要約: バッチですべてのタスクを完了するのに要する時間であるバッチメースパンを削減するために,協調最適化を提案する。
これらの手法はLing-3.xモデルの訓練と評価に成功している。
- 参考スコア(独自算出の注目度): 25.10363972947707
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Efficient batch execution of agent tasks is critical to LLM training and development workflows, including benchmark evaluation, synthetic-data generation, and RL rollouts. Since these tasks alternate between LLM inference and environment interaction, we present coordinated optimizations to reduce batch makespan, the time required to complete all tasks in a batch. For hybrid LLMs, a workload-based resource model guides GPU-memory allocation between key-value (KV) cache and recurrent state and provides a reference sample concurrency to exploit parallelism while limiting recomputation. Trajectory-aware routing and scheduling promote cache reuse while balancing worker load. Under constrained environment capacity, we decouple sample admission from environment execution and introduce Chain-Advancing Action Scheduling (CAAS), which prioritizes long chains using observed progress to shorten the batch tail. Controlled replay combines actual inference with recorded environment responses and durations for ablations of individual optimizations. Live evaluations with Ling-3.0-Flash and Ling-3.1-Flash on the BFCL, SWE-bench Multilingual, WideSearch, and MCP-Atlas benchmarks demonstrate makespan reductions of 10.4% to 65.0%, while evaluation scores remain aligned. Furthermore, these methods have been successfully applied to training and evaluation workflows for the Ling-3.x model series, accelerating the model-development cycle.
- Abstract(参考訳): エージェントタスクの効率的なバッチ実行は、ベンチマーク評価、合成データ生成、RLロールアウトを含むLLMトレーニングおよび開発ワークフローにとって重要である。
これらのタスクはLLM推論と環境相互作用を交互に行うため,バッチの処理時間を削減し,全てのタスクをバッチで完了させるのに要する時間を短縮する最適化手法を提案する。
ハイブリッドLLMでは、ワークロードベースのリソースモデルは、キー値(KV)キャッシュとリカレント状態の間のGPUメモリ割り当てをガイドし、再計算を制限しながら並列性を活用するための参照サンプル並行性を提供する。
トラジェクトリ対応のルーティングとスケジューリングは、ワーカー負荷のバランスを保ちながらキャッシュの再利用を促進する。
制約された環境容量の下では、サンプルの受け入れを環境実行から切り離し、観察された進捗を利用して長い連鎖を優先順位付けしてバッチ尾を短くするChain-Advancing Action Scheduling (CAAS)を導入する。
制御されたリプレイは、実際の推論と記録された環境応答と個々の最適化の短縮期間を組み合わせる。
Ling-3.0-FlashとLing-3.1-FlashのBFCL、SWE-bench Multilingual、WideSearch、MCP-Atlasベンチマークによるライブ評価は、10.4%から65.0%に減少し、評価スコアは引き続き一致している。
さらに、これらの手法はLing-3.xモデルシリーズのトレーニングおよび評価ワークフローにうまく適用され、モデル開発サイクルが加速された。
関連論文リスト
- EnvSched: Environment-Aware Scheduling for Rollout-Efficient Agent Reinforcement Learning [56.6497820000254]
本稿では,ロールアウト履歴から学習するオンラインスケジューラであるEnvSched(Environment-aware Scheduling)を紹介する。
Qwen3-8BのRLでは、40ステップの後にBFCL-v3、tau-Bench、ACEBench-Agentの平均スコアが48.81に達する。
また、同じトレーニング予算でモデルサイズのダウンストリームのパフォーマンスも向上する。
論文 参考訳(メタデータ) (2026-10-27T17:38:52Z) - REPREC: Representation Driven Parameter-Efficient Recommendation System [2.7992557071345305]
大規模言語モデル(LLM)は、自然言語タスクとして定式化することで、シーケンシャルなレコメンデーションに適用されている。
従来の作業は、入力条件付けやLLMファインチューニングを通じて、協調的およびシーケンシャルな信号を統合することでパーソナライズを改善した。
本稿では,軽量なユーザ表現アライメントアライメントを通じてLLMベースのシーケンシャルレコメンデーションを再構築する軽量フレームワークであるREPRECを提案する。
論文 参考訳(メタデータ) (2026-07-24T22:45:33Z) - FlowTrain: Flow-Based Decoupled Training for Industrial-Grade Vision-Language Models [31.501910341506164]
FlowTrainは、視覚言語計算モデルのためのフローベースの分離されたトレーニングフレームワークである。
VLMトレーニングを、統一メモリプールを介して調整されたプロデューサとコンシューマのデータフローとして再構成する。
実世界のワークロードの実験では、FlowTrainは50%MFU以上、最大1.7倍のスループット改善を実現している。
論文 参考訳(メタデータ) (2026-06-22T09:33:44Z) - Chimera: Latency- and Performance-Aware Multi-agent Serving for Heterogeneous LLMs [62.17306142810532]
ヘテロジニアスLSMクラスタ上で動作するマルチエージェントワークフローの予測スケジューリングシステムであるChimeraを提案する。
Chimeは最高のレイテンシをトレースし、エンドツーエンドのレイテンシを1.2-2.4$times$で削減し、タスクパフォーマンスを平均8.0-9.5ポイント改善する。
論文 参考訳(メタデータ) (2026-03-23T17:01:42Z) - AceGRPO: Adaptive Curriculum Enhanced Group Relative Policy Optimization for Autonomous Machine Learning Engineering [52.67783579040657]
AceGRPOは、エージェントの学習フロンティアにおけるタスクを優先順位付けして学習効率を最大化する機械学習システムである。
我々のトレーニングされたAce-30Bモデルは、MLE-Bench-Lite上で100%有効な応募率を実現し、プロプライエタリなフロンティアモデルの性能にアプローチし、より大きなオープンソースベースラインを上回ります。
論文 参考訳(メタデータ) (2026-02-08T10:55:03Z) - CollaPipe: Adaptive Segment-Optimized Pipeline Parallelism for Collaborative LLM Training in Heterogeneous Edge Networks [57.95170323315603]
CollaPipeは、コラボレーティブパイプライン並列性とフェデレーションアグリゲーションを統合し、自己進化型ネットワークをサポートする分散学習フレームワークである。
CollaPipeでは、エンコーダ部分は可変サイズのセグメントに適応的に分割され、パイプライン並列トレーニングのためにモバイルデバイスにデプロイされ、デコーダは生成タスクを処理するためにエッジサーバにデプロイされる。
トレーニング効率を向上させるために,モデルセグメント,マイクロバッチ,帯域幅,送信電力を適応的に割り当てる共同最適化問題を定式化する。
論文 参考訳(メタデータ) (2025-09-24T07:54:01Z) - LeMix: Unified Scheduling for LLM Training and Inference on Multi-GPU Systems [20.108099254767613]
本稿では,並列大規模言語モデル(LLM)の運用と訓練を共同で行うシステムであるLeMixを提案する。
LeMixはオフラインプロファイリング、実行予測機構、実行時スケジューリングを統合し、リソース割り当てを動的に適応させる。
評価の結果、LeMixはスループットを最大3.53倍改善し、推論損失を最大0.61倍削減し、応答時間SLOの最大2.12倍向上した。
論文 参考訳(メタデータ) (2025-07-28T19:03:26Z) - Adaptive Policy Synchronization for Scalable Reinforcement Learning [0.0]
ClusterEnvは、分散環境実行のための軽量インターフェースである。
オンプレミスとオフラインの両方をサポートし、最小限の変更で既存のトレーニングコードに統合され、クラスタ上で効率的に実行される。
論文 参考訳(メタデータ) (2025-07-15T05:07:12Z) - Ring-lite: Scalable Reasoning via C3PO-Stabilized Reinforcement Learning for LLMs [51.21041884010009]
Ring-liteは、強化学習(RL)により最適化されたMixture-of-Experts(MoE)ベースの大規模言語モデルである
我々のアプローチは、挑戦的なベンチマーク上でのSOTA(State-of-the-art)の小規模推論モデルの性能と一致する。
論文 参考訳(メタデータ) (2025-06-17T17:12:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。