論文の概要: INAR-VL: Input-Aware Routing for Edge-Cloud Vision-Language Inference
- arxiv url: http://arxiv.org/abs/2605.18853v1
- Date: Wed, 13 May 2026 12:44:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-20 15:03:08.671254
- Title: INAR-VL: Input-Aware Routing for Edge-Cloud Vision-Language Inference
- Title(参考訳): INAR-VL:エッジクラウドビジョンランゲージ推論のための入力対応ルーティング
- Authors: Ahmed Šabanović, Paul Joe Maliakel, Ivona Brandić,
- Abstract要約: マルチモーダル推論のための軽量エッジクラウドルーティングシステム INAR-VL を2層配置で提案する。
INAR-VLはエッジ上で36%のリクエストを実行し、レイテンシを24%削減し、エネルギーを26%削減し、クラウドレベルの精度を97%維持することを示した。
- 参考スコア(独自算出の注目度): 0.8633013637160062
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Edge deployment of Vision-Language Models (VLMs) faces a tradeoff between latency and accuracy: cloud execution provides high-quality predictions but incurs communication delay and energy cost, while edge-only execution is faster but less accurate due to limited model capacity. This trade-off is further complicated by heterogeneity in image quality and reasoning complexity, making static placement suboptimal. We present INAR-VL, a lightweight edge-cloud routing system for multimodal inference in a two-tier deployment. INAR-VL maintains complementary VLMs across edge and cloud and uses lightweight image and text complexity signals to guide routing and model selection, executing simple queries locally while offloading complex ones when beneficial. Evaluation on visual question answering shows that INAR-VL executes 36% of requests on the edge, reduces latency by 24%, lowers energy by 26%, and preserves 97% of cloud-level accuracy.
- Abstract(参考訳): VLM(Vision-Language Models)のエッジデプロイメントは、レイテンシと精度のトレードオフに直面している。クラウド実行は高品質な予測を提供するが、通信遅延とエネルギーコストを発生させる。
このトレードオフは画像品質の不均一性や推論の複雑さによってさらに複雑になり、静的配置が最適になる。
マルチモーダル推論のための軽量エッジクラウドルーティングシステム INAR-VL を2層配置で提案する。
INAR-VLはエッジとクラウドをまたいだ補完的なVLMを維持しており、ルーティングとモデル選択をガイドするために、軽量な画像とテキストの複雑さ信号を使用して、簡単なクエリをローカルに実行し、有用であれば複雑なものをオフロードする。
視覚的質問応答の評価によると、INAR-VLはエッジ上で36%のリクエストを実行し、レイテンシを24%削減し、エネルギーを26%削減し、クラウドレベルの精度を97%維持している。
関連論文リスト
- ETA-VLA: Efficient Token Adaptation via Temporal Fusion and Intra-LLM Sparsification for Vision-Language-Action Models [14.841746872486333]
本稿では,VLAモデルの効率的なToken AdaptationフレームワークであるETA-VLAを提案する。
ETA-VLAは最先端のベースラインに匹敵する運転性能が得られることを示す。
提案手法は, 85%の視覚トークンを抽出し, FLOPを61%削減するが, NAVSIM v2ベンチマークでは元の精度の94%を維持している。
論文 参考訳(メタデータ) (2026-03-26T06:53:42Z) - AgentVLN: Towards Agentic Vision-and-Language Navigation [78.739525400071]
VLN (Vision-and-Language Navigation) は、複雑な自然言語命令を、見えない環境での長距離ナビゲーションに接地するために、エンボディエージェントを必要とする。
本稿では,エッジコンピューティングプラットフォーム上に展開可能な,新規かつ効率的なナビゲーションフレームワークであるAgentVLNを提案する。
論文 参考訳(メタデータ) (2026-03-18T12:43:47Z) - Bandwidth-adaptive Cloud-Assisted 360-Degree 3D Perception for Autonomous Vehicles [0.7557499794873328]
自動運転の鍵となる課題は、厳しいレイテンシの制約の下で、周囲の障害物に関するリアルタイムな状況認識を維持することである。
本稿では,V2X通信を利用して部分的にクラウドに処理をオフロードする手法を提案する。
提案手法では,トランスフォーマーモデルを用いて,マルチカメラセンサデータを総合的なBird's-Eye View(BEV)表現に融合する。
論文 参考訳(メタデータ) (2026-02-27T10:12:02Z) - Vision-Language Models on the Edge for Real-Time Robotic Perception [0.22940141855172028]
6G内のエッジインテリジェンス、特にOpen RANとMulti- Access Edge Computingは、これらの課題に対処するための経路を提供する。
本研究は,Unitree G1ヒューマノイドロボットを具現化したテストベッドとして,ORAN/MECインフラストラクチャ上でのビジョンランゲージモデルの展開について検討する。
その結果,エッジデプロイメントはクラウドに近い精度を保ちながら,エンドツーエンドのレイテンシを5%削減できることがわかった。
論文 参考訳(メタデータ) (2026-01-21T12:09:48Z) - InfiniteVL: Synergizing Linear and Sparse Attention for Highly-Efficient, Unlimited-Input Vision-Language Models [49.08289742711585]
我々は、Gated DeltaNetとSWA(Slide window attention)を相乗化する線形複雑VLMアーキテクチャであるInfiniteVLを提案する。
InfiniteVLは、一定のレイテンシとメモリフットプリントを維持しながら、3.6時間以上の推論高速化を実現する。
ストリーミングビデオ理解のシナリオでは、長期メモリキャッシュを保持しながら、24FPSのリアルタイムプリフィル速度を安定的に維持する。
論文 参考訳(メタデータ) (2025-12-09T17:18:32Z) - AVERY: Adaptive VLM Split Computing through Embodied Self-Awareness for Efficient Disaster Response Systems [6.294240680169978]
災害時の無人航空機(UAV)は、CNNが提供できない複雑なクエリー可能な知性を必要とする。
本稿では,適応型分割計算によるVLMデプロイメントを実現するフレームワークであるAVERYを紹介する。
論文 参考訳(メタデータ) (2025-11-22T18:42:04Z) - Efficient Onboard Vision-Language Inference in UAV-Enabled Low-Altitude Economy Networks via LLM-Enhanced Optimization [61.55616421408666]
低高度経済ネットワーク(LAENets)は、航空監視、環境検知、セマンティックデータ収集など、様々な応用を可能にしている。
オンボードビジョン(VLM)は、リアルタイムな推論を提供するが、オンボードの動的ネットワーク条件は限られている。
動的LEENet条件下での通信効率を向上させるUAV対応LEENetシステムを提案する。
論文 参考訳(メタデータ) (2025-10-11T05:11:21Z) - Open-Vocabulary Spatio-Temporal Scene Graph for Robot Perception and Teleoperation Planning [55.90805559207812]
動的リモートシーンでは、双方向通信における伝送遅延は、リモート認識状態とオペレータ意図の間のギャップを生じさせる。
本稿では,時間的ダイナミクスと軽量遅延アノテーションを用いて,オープン語彙認識を充実させる表現を提案する。
提案手法はReplicaベンチマークで74%のノード精度を実現し,Concept.Graphよりも優れていた。
論文 参考訳(メタデータ) (2025-09-27T04:31:24Z) - Aligned Vector Quantization for Edge-Cloud Collabrative Vision-Language Models [19.938589623698338]
我々はLLaVA-AlignedVQと呼ばれるエッジクラウド協調VQAシステムを導入する。
LLaVA-AlignedVQは、中間特性を効率的に圧縮する新しいアラインドベクトル量子化アルゴリズム(AlignedVQ)を備えている。
実験により、LLaVA-AlignedVQは中間特性の約1365倍圧縮速度を達成することが示された。
論文 参考訳(メタデータ) (2024-11-08T20:48:37Z) - Perceiver-VL: Efficient Vision-and-Language Modeling with Iterative
Latent Attention [100.81495948184649]
本稿では,長いビデオやテキストなどの高次元マルチモーダル入力を効率的に処理する視覚・言語フレームワークPerceiver-VLを提案する。
我々のフレームワークは、多くの最先端のトランスフォーマーベースモデルで使用される自己注意の二次的な複雑さとは対照的に、線形複雑性でスケールする。
論文 参考訳(メタデータ) (2022-11-21T18:22:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。