論文の概要: VibeServe: Can AI Agents Build Bespoke LLM Serving Systems?

• arxiv url: http://arxiv.org/abs/2605.06068v1
• Date: Thu, 07 May 2026 11:54:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-08 22:27:11.739566
• Title: VibeServe: Can AI Agents Build Bespoke LLM Serving Systems?
• Title（参考訳）: VibeServe: AIエージェントはBespoke LLM Servingシステムを構築することができるか?
• Abstract要約: 本稿では,LLMサービススタック全体をエンドツーエンドに生成する最初のエージェントループであるVibeServeを提案する。 既存のスタックが高度に最適化された標準的なデプロイメント設定では、VibeServeはvLLMと競合し続けている。 非標準的なシナリオでは、VibeServeはジェネリックシステムが見逃す機会を利用して既存のシステムより優れている。
• 参考スコア（独自算出の注目度）: 7.395579663607589
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: For years, we have built LLM serving systems like any other critical infrastructure: a single general-purpose stack, hand-tuned over many engineer-years, meant to support every model and workload. In this paper, we take the opposite bet: a multi-agent loop that automatically synthesizes bespoke serving systems for different usage scenarios. We propose VibeServe, the first agentic loop that generates entire LLM serving stacks end-to-end. VibeServe uses an outer loop to plan and track the search over system designs, and an inner loop to implement candidates, check correctness, and measure performance on the target benchmark. In the standard deployment setting, where existing stacks are highly optimized, VibeServe remains competitive with vLLM, showing that generation-time specialization need not come at the cost of performance. More interestingly, in non-standard scenarios, VibeServe outperforms existing systems by exploiting opportunities that generic systems miss in six scenarios involving non-standard model architectures, workload knowledge, and hardware-specific optimizations. Together, these results suggest a different point in the design space for infrastructure software: generation-time specialization rather than runtime generality. Code is available at https://github.com/uw-syfi/vibe-serve.
• Abstract（参考訳）: 長年にわたり、私たちは、他の重要なインフラストラクチャと同じように、LLMサービスシステムを構築してきました。 本稿では,異なる利用シナリオを対象とした自動生成を行うマルチエージェントループについて,その逆の賭けを行う。 本稿では,LLMサービススタック全体をエンドツーエンドに生成する最初のエージェントループであるVibeServeを提案する。 VibeServeは外部ループを使用してシステム設計の探索を計画し追跡し、内部ループを使用して候補を実装し、正確性を確認し、ターゲットベンチマークのパフォーマンスを測定する。 既存のスタックが高度に最適化された標準的なデプロイメント設定では、VibeServeはvLLMと競合し続けている。 より興味深いことに、非標準のシナリオでは、VibeServeは、非標準モデルアーキテクチャ、ワークロード知識、ハードウェア固有の最適化を含む6つのシナリオにおいて、ジェネリックシステムが見逃す機会を活用することで、既存のシステムより優れています。 これらの結果は、インフラストラクチャソフトウェアの設計領域において、ランタイムの汎用性ではなく、世代毎の特殊化という異なる点を示唆している。 コードはhttps://github.com/uw-syfi/vibe-serve.comで入手できる。

関連論文リスト

• The Time is Here for Just-in-Time Systems: Challenges and Opportunities [102.80383421480155]
  キーバリューストアのようなコアシステムは、これまで何年もかけて構築されてきました。 LLMベースのコーディングエージェントは、これまでとは違ったアプローチで、ジャスト・イン・タイム・システム(Just-in-Time Systems)を実現している、と私たちは主張する。 本稿では,JITシステム合成パイプラインであるJitskitについて述べる。
  論文  参考訳（メタデータ） (2026-05-22T18:03:41Z)
• StarVLA-$α$: Reducing Complexity in Vision-Language-Action Systems [89.12403322299963]
  StarVLA-$は、制御条件下でのVLA設計選択を研究するための単純だが強力なベースラインである。 我々は,アクションモデリング戦略,ロボット固有の事前訓練,インターフェースエンジニアリングなど,いくつかの重要な設計軸を再評価する。 我々の1つのジェネラリストモデルは、公開現実のRoboChallengeベンチマークで$_0.5$を20%上回ります。
  論文  参考訳（メタデータ） (2026-04-13T17:30:01Z)
• MASEval: Extending Multi-Agent Evaluation from Models to Systems [77.09381093359598]
  MASEvalはフレームワークに依存しないライブラリで、システム全体を分析の単位として扱う。 研究者はエージェントシステムのすべてのコンポーネントを探索し、原則化されたシステム設計のための新たな道を開くことができる。
  論文  参考訳（メタデータ） (2026-03-09T18:46:17Z)
• AIConfigurator: Lightning-Fast Configuration Optimization for Multi-Framework LLM Serving [16.664502126572856]
  AIConfiguratorは、Large Language Model(LLM)推論のための統一されたパフォーマンスモデリングシステムである。 GPUベースのプロファイリングを必要とせずに、迅速なフレームワークベースの構成検索を可能にする。 これは、高密度モデルのパフォーマンスを最大40%向上させる優れたサービス構成を特定する。
  論文  参考訳（メタデータ） (2026-01-09T20:03:57Z)
• EnvScaler: Scaling Tool-Interactive Environments for LLM Agent via Programmatic Synthesis [101.67583081810136]
  大規模言語モデル(LLM)は、様々な現実世界環境においてエージェントとして機能するよう訓練されることが期待されている。 このプロセスはリッチで多様なツール・インタラクション・サンドボックスに依存している。 スケーラブルなツールインタラクション環境のための自動化フレームワークであるEnvScalerを提案する。
  論文  参考訳（メタデータ） (2026-01-09T14:32:06Z)
• Optimizing PyTorch Inference with LLM-Based Multi-Agent Systems [1.2289544895833646]
  マルチエージェントPyTorch最適化システムを比較するためのフレームワークを提案する。 エラー修正エージェントと組み合わせた場合,エクスプロイトヘビー戦略が最善であることを示す。 最も優れた実装は、H100 GPU上で平均2.88倍のスピードアップを達成する。
  論文  参考訳（メタデータ） (2025-11-21T05:37:38Z)
• UniVA: Universal Video Agent towards Open-Source Next-Generation Video Generalist [107.04196084992907]
  次世代ビデオジェネラリストのためのオールニ対応マルチエージェントフレームワークUniVAを紹介する。 UniVAはPlan-and-Actのデュアルエージェントアーキテクチャを採用しており、高度に自動化されプロアクティブなワークフローを駆動している。 また、理解、編集、セグメンテーション、生成にまたがるマルチステップビデオタスクのベンチマークスイートUniVA-Benchについても紹介する。
  論文  参考訳（メタデータ） (2025-11-11T17:58:13Z)
• Towards Online Code Specialization of Systems [1.470243173272826]
  我々は性能クリティカルな低レベルシステムに対して、根本的に異なるアプローチを提唱する。 我々はジャスト・イン・タイムのコンパイルを利用して、開発者が特定した特殊化ポイントに基づいてシステムコードを変更する。 ネットワークスタックのような低レベルのシステムコードでも,オンラインの特殊化(i)が実現可能であること,(ii)複雑なコストモデルを必要としないシステム性能の向上,(iii)手作業による探索に比べて開発者の努力が低くなることを実証する。
  論文  参考訳（メタデータ） (2025-01-20T09:55:15Z)
• Multi-Objective Deep Reinforcement Learning for Optimisation in Autonomous Systems [3.2826250607043796]
  MORL(Multi-Objective Reinforcement Learning)技術は存在するが、実世界のASシステムではなくRLベンチマークで採用されている。 本研究では,DWN(Deep W-Learning)と呼ばれるMORL技術を用いて,実行時性能最適化のための最適構成を求める。 我々はDWNとepsilon-greedyアルゴリズムとDeep Q-Networksの2つの単目的最適化実装を比較した。
  論文  参考訳（メタデータ） (2024-08-02T11:16:09Z)
• Demystifying AI Platform Design for Distributed Inference of Next-Generation LLM models [8.02264001053969]
  大きな言語モデル(LLM)は、広範囲のアプリケーションで顕著なパフォーマンスを示しており、しばしば人間の専門家よりも優れています。 LLMの継続的なイノベーションが最適化に役立ち、モデルアーキテクチャはブレークネックスピードで進化しているため、サービスレベルオブジェクト(SLO)を満たすためのハードウェア要件は、オープンな研究課題のままである。 我々は、多様なLLMモデルアーキテクチャとAIプラットフォーム設計パラメータの関係を効率的にナビゲートする分析ツールGenZを提案する。
  論文  参考訳（メタデータ） (2024-06-03T18:00:50Z)
• Beyond Sole Strength: Customized Ensembles for Generalized Vision-Language Models [55.5610165938949]
  ファインチューニング型視覚言語モデル (VLM) はその実用的価値から人気が高まっている。 本稿では、より弱いVLMを活用してロバストな単一モデルの一般化を促進するための協調可能性について検討する。 それぞれが特定のシナリオに合わせてカスタマイズされた3つのアンサンブル戦略を導入する。 提案したアンサンブル戦略はゼロショット,ベース・ツー・ニュー,クロスデータセットの一般化に基づいて評価され,新たな最先端性能を実現する。
  論文  参考訳（メタデータ） (2023-11-28T05:17:25Z)
• Never Train from Scratch: Fair Comparison of Long-Sequence Models Requires Data-Driven Priors [44.5740422079]
  標準的なデノベーション目的による事前トレーニングは、複数のアーキテクチャで劇的に向上することを示す。 先行研究とは対照的に、適切に事前訓練された場合の長距離アリーナでのS4の性能に適合するバニラトランスフォーマーが見つかる。
  論文  参考訳（メタデータ） (2023-10-04T17:17:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。