Fugu-MT 論文翻訳(概要): Efficient Vision-Language-Action Management and Serving for Robot Factories

論文の概要: Efficient Vision-Language-Action Management and Serving for Robot Factories

arxiv url: http://arxiv.org/abs/2609.12075v1
Date: Thu, 10 Sep 2026 18:04:22 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-15 07:38:31.501591
Title: Efficient Vision-Language-Action Management and Serving for Robot Factories
Title（参考訳）: ロボットファクトリーにおける視覚・言語・行動管理の効率化と課題
Abstract要約: Vision-Language-Action (VLA) モデルは2段階の設計によって高いロボット操作能力を示す。ロボットは安全のために厳格なServiceLevel Objectives(SLO)を満たさなければならないため、VLA推論は本質的に遅延クリティカルである。我々は、マルチGPUエッジサーバ上でのマルチロボット、マルチモデル要求のためのVLAサービスおよび管理システムであるRobionを設計する。
参考スコア（独自算出の注目度）: 1.2034276571105524
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Vision-Language-Action (VLA) models show high robotic manipulation capabilities via a two-stage design: a Vision-Language Model (VLM) stage followed by an Action Diffusion Transformer (ADiT) stage. Since robots must meet strict Service-Level Objectives (SLOs) for safety, VLA inference is inherently latency-critical. Meeting these SLOs requires high-end GPUs, yet weight, cost, and power constraints preclude integrating such GPUs on-robot. Prior works offload VLA inference to edge servers that serve many robots on VLA models. However, current VLA systems lack support for multi-request, multi-model execution on a multi-GPU server under SLOs, while existing serving systems for multi-stage models are optimized for throughput and stage disaggregation across separate GPUs, which are ill-suited for the millisecond-scale stages of VLA models. We design Robion, the first VLA serving and management system for multi-robot, multi-model requests on multi-GPU edge servers that meets SLOs. Our serving engine disaggregates the VLM and ADiT stages within a GPU via two streams, dynamically restricting the SMs on VLM stream so ADiT always finds SMs to run alongside it, and co-locates multiple models by sharing these streams across them, prioritizing requests by least remaining SLO time. Our management engine enables flexible model placements on multi-GPU servers, and integrates an intelligent traffic controller that maximizes per-model batching under the chosen placement while bounding each GPU's load to meet SLOs. For individual models, Robion serves on average 6.7$\times$ and 1.5$\times$ higher robot load within 98% SLO attainment over vLLM-Omni, the most widely used multi-stage serving system, and Monolithic, which runs VLM and ADiT as a single pipeline, respectively. In a large-scale experiment of serving 8 different models on a 4-GPU server, Robion can serve up to 64 robots within 98% SLO attainment.
Abstract（参考訳）: Vision-Language-Action (VLA) モデルは2段階の設計により高いロボット操作能力を示す:Vision-Language Model (VLM) ステージとAction Diffusion Transformer (ADiT) ステージ。ロボットは安全のために厳格なサービスレベルオブジェクト(SLO)を満たさなければならないため、VLA推論は本質的に遅延クリティカルである。これらのSLOを満たすには、ハイエンドGPUが必要であるが、重量、コスト、電力制限は、そのようなGPUをロボット上で統合することを妨げる。前者はVLA推論をエッジサーバにオフロードし、VLAモデル上で多くのロボットにサービスを提供する。しかしながら、現在のVLAシステムは、SLOのマルチGPUサーバ上でのマルチリクエスト、マルチモデル実行をサポートしておらず、既存のマルチステージモデルのサービスシステムは、異なるGPU間でのスループットとステージ分散のために最適化されており、VLAモデルのミリ秒スケールのステージには不適である。我々は,SLOに適合するマルチGPUエッジサーバ上で,マルチロボット,マルチモデル要求のための最初のVLAサービス管理システムであるRobionを設計する。我々のサービスエンジンは、GPU内のVLMおよびADiTステージを2つのストリームで分解し、VLMストリーム上のSMを動的に制限するので、ADiTは常にそれと一緒に走るSMを見つけ、これらのストリームを共有して複数のモデルを共同配置し、リクエストを最小のSLO時間で優先順位付けする。当社の管理エンジンは,マルチGPUサーバ上でフレキシブルなモデル配置を実現するとともに,選択した配置下でモデル毎のバッチ処理を最大化し,各GPUの負荷をSLOに制限するインテリジェントなトラヒックコントローラを統合する。個々のモデルでは、ロビオンは平均6.7$\times$と1.5$\times$で、最も広く使われているマルチステージサービスシステムであるvLLM-Omniよりも98%のSLO達成率でロボット負荷を高くし、単一のパイプラインとしてVLMとADiTを走らせるモノリシックである。 4-GPUサーバ上で8つの異なるモデルを提供する大規模な実験では、ロビオンは98%のSLO達成で最大64個のロボットを動作させることができる。

関連論文リスト

Beyond Data Scaling: Representation-Centric Continued Pre-training for Vision-Language-Action Models [120.24139942108405]
ロボットデータのスケーリングは、一般のVision-Language-Action(VLA)モデルを構築する上で重要である。固定されたロボットデータ予算の下では、継続した事前訓練は限られた軌道を伝達可能な視覚行動知識に変換する必要がある。本稿では,VLA指向のVLMバックボーンであるVLActを提案する。
論文参考訳（メタデータ） (2026-08-27T17:59:40Z)
ReactVLA: Fast and Lightweight Reactive Robot Manipulation via Improved Mean Flow Action Generation [6.976481623762446]
textttReactVLAは、リアルタイムロボット操作のための軽量で低レイテンシなVLAフレームワークである。 textttReactVLAは、同じサイズのVLAベースラインを一貫して上回る。現実世界のポリシーのレイテンシを38.6ミリ秒以下に短縮し、物理ロボットプラットフォームでの高速な反応性制御を可能にする。
論文参考訳（メタデータ） (2026-06-12T08:33:37Z)
Serving Heterogeneous LoRA Adapters in Distributed LLM Inference Systems [11.584593298674688]
Low-Rank Adaptation (LoRA)は,大規模言語モデル(LLM)のパラメータ効率向上のためのデファクト手法となった。プロダクションでは、LoRAベースのモデルが大規模に提供され、数百のアダプタがベースモデルを共有するマルチテナント環境を生成する。作業負荷を考慮した動的アダプタ配置とルーティングフレームワークであるLoRAServeについて述べる。
論文参考訳（メタデータ） (2025-11-28T05:04:02Z)
dVLA: Diffusion Vision-Language-Action Model with Multimodal Chain-of-Thought [66.78110237549087]
VLA(Vision-Language-Action)モデルは、ロボット工学の次世代パラダイムとして登場しつつある。単一システムにおける視覚認識,言語推論,ロボット制御を統一する拡散型VLAであるdVLAを紹介する。
論文参考訳（メタデータ） (2025-09-30T02:36:11Z)
SmolVLA: A Vision-Language-Action Model for Affordable and Efficient Robotics [37.82471658370026]
視覚言語モデル(VLM)は、豊富な視覚的および言語的知識を符号化した大規模マルチモーダルデータセットで事前訓練された。 SmolVLAは、トレーニングと推論の両方のコストを大幅に削減する、小さく、効率的で、コミュニティ主導のVLAである。
論文参考訳（メタデータ） (2025-06-02T16:30:19Z)
DeeR-VLA: Dynamic Inference of Multimodal Large Language Models for Efficient Robot Execution [114.61347672265076]
実世界のロボットのためのMLLMの開発は、ロボットプラットフォームで利用可能な計算能力とメモリ容量が典型的に限られているため、難しい。活性化MLLMのサイズを自動的に調整するロボットビジョンランゲージ・アクション・モデル(DeeR)の動的早期実行フレームワークを提案する。 DeeR は LLM の計算コストを 5.2-6.5x に削減し、GPU のメモリを 2-6x に削減した。
論文参考訳（メタデータ） (2024-11-04T18:26:08Z)
Mini-InternVL: A Flexible-Transfer Pocket Multimodal Model with 5% Parameters and 90% Performance [78.48606021719206]
Mini-InternVL は 1B から 4B までのパラメータを持つ一連の MLLM であり、パラメータの 5% しか持たない性能の90% を達成している。我々は,ダウンストリームタスクにおける特化モデルの転送と性能向上を可能にする,Mini-InternVLの統一適応フレームワークを開発した。
論文参考訳（メタデータ） (2024-10-21T17:58:20Z)
A Dual Process VLA: Efficient Robotic Manipulation Leveraging VLM [0.26334346517416873]
VLA(Vision-Language-Action)モデルでは、視覚コンテキストと言語コマンドを統合することで、ロボットが複雑なタスクを実行できる。これを解決するために,デュアルプロセス理論に着想を得た階層型フレームワークであるDual Process VLA(DP-VLA)を提案する。 RoboCasaデータセットの実験結果は、DP-VLAがより高速な推論とより高いタスク成功率を達成することを示した。
論文参考訳（メタデータ） (2024-10-21T00:36:02Z)
NVLM: Open Frontier-Class Multimodal LLMs [64.00053046838225]
NVLM 1.0は、フロンティアクラスのマルチモーダル言語モデル(LLM)のファミリーであり、視覚言語タスクの最先端結果を実現する。トレーニング効率とマルチモーダル推論能力を両立させる新しいアーキテクチャを提案する。我々は、NVLM-1.0モデルのための生産級マルチモーダリティを開発し、視覚言語タスクに優れる。
論文参考訳（メタデータ） (2024-09-17T17:59:06Z)
OpenVLA: An Open-Source Vision-Language-Action Model [131.74098076670103]
我々は、970kの現実世界のロボットデモの多様なコレクションに基づいて訓練されたオープンソースのVLAであるOpenVLAを紹介した。 OpenVLAは汎用的な操作の強力な結果を示し、RT-2-X (55B) のようなクローズドモデルよりも16.5%高い絶対的なタスク成功率を示した。モデルチェックポイント、微調整ノートブック、そしてOpen X-Embodimentデータセット上で大規模にVLAをトレーニングするためのビルトインサポートを備えたPyTorchをリリースしています。
論文参考訳（メタデータ） (2024-06-13T15:46:55Z)
Multi-model Machine Learning Inference Serving with GPU Spatial Partitioning [7.05946599544139]
高スループット機械学習(ML)推論サーバは、オンラインサービスアプリケーションには不可欠である。これらのサーバは、一貫したサービスレベルの目的(SLO)をサポートするために、各リクエストに対してバウンドレイテンシを提供しなければならない。本稿では,マルチモデルML推論サーバのための新しいML推論スケジューリングフレームワークを提案する。
論文参考訳（メタデータ） (2021-09-01T04:46:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。