論文の概要: EcoVLA: Energy-Efficient Device-Edge Co-Inference for Vision-Language-Action Models under Real-Time Constraints
- arxiv url: http://arxiv.org/abs/2608.15502v1
- Date: Sun, 16 Aug 2026 03:08:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.322735
- Title: EcoVLA: Energy-Efficient Device-Edge Co-Inference for Vision-Language-Action Models under Real-Time Constraints
- Title(参考訳): EcoVLA:実時間制約下におけるビジョン・ランゲージ・アクションモデルのためのエネルギー効率の良いデバイスエッジ共推論
- Abstract要約: Vision-Language-Action(VLA)モデルは、Embodied AIの有望な基盤として登場した。
その高い推論コストは、ロボットシステムへの展開に重大な課題をもたらす。
本稿では,VLAモデルの適応型デバイスエッジ共推論フレームワークであるEcoVLAを提案する。
- 参考スコア(独自算出の注目度): 23.410324128942168
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Vision-Language-Action (VLA) models have emerged as a promising foundation for Embodied AI, but their high inference cost poses significant challenges for deployment in robotic systems. In practice, on-device inference is constrained by limited compute capacity and energy budgets, struggling to simultaneously satisfy real-time control and energy efficiency requirements. Alternatively, offloading the inference workload to an edge server is susceptible to fluctuations in system conditions, introducing unpredictable latency risks. Device-edge co-inference offers a promising solution, but systematic research tailored to VLA models remains scarce, particularly a unified co-inference framework that jointly addresses real-time constraints and system-level energy efficiency. Thus, we propose EcoVLA, an adaptive device-edge co-inference framework for VLA models that maximizes system energy efficiency under real-time constraints. EcoVLA first introduces a unified stage-level abstraction over different VLA paradigms, establishing an architecture-agnostic co-inference design space. It then formulates a joint device-edge-network latency and energy prediction model to enable rapid runtime evaluation of candidate co-inference schemes. Building on this, EcoVLA continuously selects the energy-optimal scheme satisfying real-time constraints with millisecond-level overhead, adapting to runtime variations in network and system states. Furthermore, EcoVLA incorporates a lightweight transmission mechanism for inter-stage intermediate tensors to reduce the communication overhead incurred by cross-device collaboration. Experimental results across VLA models show that EcoVLA improves system energy efficiency by up to 236% over existing co-inference approaches under a 20 Hz action output frequency constraint, while consistently maintaining SLO satisfaction under dynamic network and edge workload conditions.
- Abstract(参考訳): VLA(Vision-Language-Action)モデルは、Embodied AIの有望な基盤として登場したが、その高い推論コストは、ロボットシステムへの展開に重大な課題をもたらす。
実際には、オンデバイス推論は限られた計算能力とエネルギー予算によって制約され、リアルタイム制御とエネルギー効率の要求を同時に満たすのに苦労している。
あるいは、エッジサーバへの推論ワークロードのオフロードは、システムの状態の変動の影響を受けやすいため、予測不可能なレイテンシリスクが発生する。
デバイスエッジのコ推論は有望な解決策を提供するが、VLAモデルに適した体系的な研究は依然として乏しく、特にリアルタイムの制約とシステムレベルのエネルギー効率に共同で対処する統合されたコ推論フレームワークである。
そこで本稿では,VLAモデルの適応型デバイスエッジコ推論フレームワークであるEcoVLAを提案する。
EcoVLAはまず、異なるVLAパラダイムに対する統一されたステージレベルの抽象化を導入し、アーキテクチャに依存しないコ推論設計空間を確立した。
次に、結合デバイス-エッジ-ネットワークレイテンシとエネルギー予測モデルを定式化し、候補共推論スキームの迅速な実行時評価を可能にする。
これに基づいて、EcoVLAはミリ秒レベルのオーバーヘッドでリアルタイム制約を満たすエネルギー最適化スキームを連続的に選択し、ネットワークおよびシステム状態のランタイム変動に適応する。
さらに、EcoVLAは、デバイス間コラボレーションによる通信オーバーヘッドを低減するために、中間テンソル間の軽量伝送機構を組み込んでいる。
VLAモデルによる実験結果から,20Hzの動作出力周波数制約下での既存の共振器アプローチに比べて,EcoVLAは最大236%の効率向上を実現し,動的ネットワークおよびエッジワークロード条件下でのSLO満足度を維持した。
関連論文リスト
- Algorithm-Architecture Co-Design for Efficient VLA Inference via Speculative Inference and Verification [24.0529851878964]
VLA(Vision-Language-Action)モデルは、組み込みAIの分野では目覚ましい能力を示しているが、その高い計算コストと予測されるアクション長によって、リアルタイムなデプロイメントが妨げられている。
提案するSpecVLAは,動作長,推論遅延,タスク信頼性を適応的にバランスさせるアルゴリズム・システム協調設計フレームワークである。
論文 参考訳(メタデータ) (2026-08-16T08:59:22Z) - SpikeVLA: Vision-Language-Action Models with Spiking Neural Networks [12.869788965652619]
SpikeVLAはエネルギー効率のよいナビゲーションを実現するためのスパイクVLAアーキテクチャである。
視覚エンコーダのSpike-Vは、高密度連続層をイベント駆動スパイク層に置き換え、視覚表現学習のエネルギー消費を減らす。
マルチモーダルスパイク大言語モデルであるSpike-Lは、スパイクダイナミックスとトークンレベルのイベント駆動性によって、クロスモーダル推論を再構成し、計算コストをさらに下げる。
論文 参考訳(メタデータ) (2026-06-26T07:45:45Z) - Towards Systematic Generalization for Power Grid Optimization Problems [13.619002117559958]
AC Optimal Power Flow (ACOPF) とSecurity-Constrained Unit Commitment (SCUC) は、電力系統運用における基本的な最適化問題である。
本稿では,ACOPFとSCUCを共用する学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-03T19:23:37Z) - Hierarchical Task Offloading and Trajectory Optimization in Low-Altitude Intelligent Networks Via Auction and Diffusion-based MARL [37.79695337425523]
低高度インテリジェントネットワーク(LAIN)は、災害対応、環境モニタリング、リアルタイムセンシングといったミッションクリティカルなアプリケーションをサポートすることができる。
これらのシステムは、エネルギー制約のあるUAV、タスク到着、異種コンピューティングリソースなど、重要な課題に直面している。
本稿では,UAV軌道計画とタスクオフロード決定を協調的に最適化する,時間依存型整数型非線形計画問題の解法を提案する。
論文 参考訳(メタデータ) (2025-12-05T08:14:45Z) - Efficient Onboard Vision-Language Inference in UAV-Enabled Low-Altitude Economy Networks via LLM-Enhanced Optimization [61.55616421408666]
低高度経済ネットワーク(LAENets)は、航空監視、環境検知、セマンティックデータ収集など、様々な応用を可能にしている。
オンボードビジョン(VLM)は、リアルタイムな推論を提供するが、オンボードの動的ネットワーク条件は限られている。
動的LEENet条件下での通信効率を向上させるUAV対応LEENetシステムを提案する。
論文 参考訳(メタデータ) (2025-10-11T05:11:21Z) - dVLA: Diffusion Vision-Language-Action Model with Multimodal Chain-of-Thought [66.78110237549087]
VLA(Vision-Language-Action)モデルは、ロボット工学の次世代パラダイムとして登場しつつある。
単一システムにおける視覚認識,言語推論,ロボット制御を統一する拡散型VLAであるdVLAを紹介する。
論文 参考訳(メタデータ) (2025-09-30T02:36:11Z) - Backscatter Device-aided Integrated Sensing and Communication: A Pareto Optimization Framework [59.30060797118097]
統合センシング・通信(ISAC)システムは、密集した都市非視線シナリオにおいて大きな性能劣化に遭遇する可能性がある。
本稿では,自然環境に分散した受動的BDを利用した後方散乱近似(BD)支援ISACシステムを提案する。
論文 参考訳(メタデータ) (2025-07-12T17:11:06Z) - SP-VLA: A Joint Model Scheduling and Token Pruning Approach for VLA Model Acceleration [70.72227437717467]
VLA(Vision-Language-Action)モデルは、その強力な制御能力に注目が集まっている。
計算コストが高く、実行頻度も低いため、ロボット操作や自律ナビゲーションといったリアルタイムタスクには適さない。
本稿では,共同スケジューリングモデルとプルーニングトークンにより,VLAモデルを高速化する統一フレームワークSP-VLAを提案する。
論文 参考訳(メタデータ) (2025-06-15T05:04:17Z) - SOLVE: Synergy of Language-Vision and End-to-End Networks for Autonomous Driving [51.47621083057114]
SOLVEは、ビジョンランゲージモデルとエンド・ツー・エンド(E2E)モデルを相乗化して自動運転車の計画を強化する革新的なフレームワークである。
提案手法は,VLMとE2Eコンポーネント間の包括的インタラクションを実現するために,共有ビジュアルエンコーダによる機能レベルでの知識共有を重視している。
論文 参考訳(メタデータ) (2025-05-22T15:44:30Z) - A Safe Genetic Algorithm Approach for Energy Efficient Federated
Learning in Wireless Communication Networks [53.561797148529664]
フェデレートラーニング(FL)は、従来の集中型アプローチとは対照的に、デバイスが協調的にモデルトレーニングを行う分散技術として登場した。
FLの既存の取り組みにもかかわらず、その環境影響は、無線ネットワークへの適用性に関するいくつかの重要な課題が特定されているため、まだ調査中である。
現在の研究は遺伝的アルゴリズム(GA)アプローチを提案しており、FLプロセス全体のエネルギー消費と不要な資源利用の両方を最小化することを目標としている。
論文 参考訳(メタデータ) (2023-06-25T13:10:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。