論文の概要: EMMI: Edge Multi-Modal Intelligence for Communication-Efficient MLLM Inference via Fused Representation Compression
- arxiv url: http://arxiv.org/abs/2609.11058v1
- Date: Thu, 10 Sep 2026 04:04:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 23:53:35.2075
- Title: EMMI: Edge Multi-Modal Intelligence for Communication-Efficient MLLM Inference via Fused Representation Compression
- Title(参考訳): EMMI:融合表現圧縮による通信効率の良いMLLM推論のためのエッジマルチモーダルインテリジェンス
- Abstract要約: 近年のMLLM(Large Language mod-els)の進歩は、エッジインテリジェンスに新たな機会をもたらしている。
リソース制約のあるエッジプラットフォームにこれらの機能をデプロイすることは、現代のMLLMの計算、メモリ、通信要求が大きいため、依然として困難である。
本稿では,エッジデバイスとサーバリソース間のコンパクトな表現を伝達するエッジマルチモーダルインテリジェンス(EMMI)を提案する。
- 参考スコア(独自算出の注目度): 0.9131273927745728
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Recent advances in multimodal large language mod- els (MLLMs) have opened new opportunities for edge intelligence by enabling reasoning across heterogeneous sensor modalities, such as vision, text, and telemetry data. However, deploying these capabilities on resource-constrained edge platforms remains challenging due to the substantial computational, memory, and communication demands of modern MLLMs. Rather than transmitting raw sensor observations or partitioning neural networks at intermediate layers, Edge Multi-Modal Intelligence (EMMI) communicates a compact representation between edge devices and server resources, enabling communication-efficient edge MLLM inference. To achieve this, EMMI performs modality-specific encoding, cross-modal representation fusion, and learned compression at the edge, transmitting only a compact latent representation to server-side resources for high-capacity MLLM reasoning. This representation-centric design reduces communication overhead, preserves local data privacy, and provides a fixed-size interface between heterogeneous edge devices and server-side MLLMs. Evaluation on a representative multimodal benchmark demonstrates that EMMI can reduce the communication payload by 32x while maintaining comparable downstream accuracy, resulting in up to a 3.4x reduction in estimated end-to-end inference latency under bandwidth-constrained edge conditions.
- Abstract(参考訳): 近年のMLLM(Multimodal large language mod-els)の進歩は、視覚、テキスト、テレメトリデータなどの異種センサモーダルの推論を可能にすることにより、エッジインテリジェンスのための新たな機会を開拓している。
しかし、現代のMLLMの計算、メモリ、通信要求がかなり大きいため、これらの機能をリソース制約付きエッジプラットフォームにデプロイすることは依然として困難である。
エッジマルチモードインテリジェンス(EMMI)は、中間層で生のセンサ観測やニューラルネットワークのパーティショニングを行う代わりに、エッジデバイスとサーバリソース間のコンパクトな表現を通信し、通信効率のよいエッジMLLM推論を可能にする。
これを実現するため、EMMIは、高容量MLLM推論のためのサーバ側リソースに、コンパクトな潜在表現のみを送信し、モダリティ固有符号化、クロスモーダル表現融合、学習圧縮を行う。
この表現中心の設計は、通信オーバーヘッドを低減し、ローカルデータのプライバシを保持し、異種エッジデバイスとサーバ側のMLLM間の固定サイズインターフェースを提供する。
代表的マルチモーダルベンチマークによる評価は、EMMIが通信ペイロードを32倍の精度で削減し、帯域幅に制約のあるエッジ条件下での予測エンドツーエンドの推論遅延を最大3.4倍に削減できることを示している。
関連論文リスト
- From Semantic to Token Communication: The Next Paradigm for Large-Model-Driven 6G Intelligent Connectivity [94.51565447227847]
6Gネットワークは、通信システムを信頼性の高いビット配信から、意味認識とタスク指向の接続へと駆動している。
強力なマルチモーダル理解と生成能力を持つ大規模モデル(LM)がこのシフトを加速した。
現在のLM駆動セマンティックコミュニケーション(SemCom)は断片化されている。
トークンは、この欠落した抽象化の自然な候補である、と我々は主張する。
論文 参考訳(メタデータ) (2026-09-09T18:11:38Z) - Diffusion Language Models for Mobile Edge Agentic AI: Foundations, Applications, and Challenges [58.887152635127165]
拡散言語モデル(DLM)は、モバイルエッジエージェント人工知能(AI)の非自己回帰的な代替手段を提供する
DLMは複数の不確実なトークンを並列に更新し、生成プロセスを通して双方向のコンテキストを利用することができる。
この調査は、DLMの基礎をレビューし、レイテンシ、メモリ、エネルギ、帯域幅、プライバシ、信頼性制約の下でのエッジ設定に対する適合性を分析します。
論文 参考訳(メタデータ) (2026-09-04T06:16:49Z) - Progressive Semantic Communication for Efficient Edge-Cloud Vision-Language Models [0.3004066195320147]
VLM(Vision-Language Models)は、リソース制約のある組み込みプラットフォームへのデプロイが困難である。
クラウドへの完全なオフロード推論は、帯域幅に制限のある環境では現実的ではないことが多い。
エッジクラウドVLM推論のためのプログレッシブセマンティック通信フレームワークを提案する。
論文 参考訳(メタデータ) (2026-04-29T10:16:06Z) - Federated Learning-Enabled Hybrid Language Models for Communication-Efficient Token Transmission [87.68447072141402]
ハイブリッド言語モデル(HLM)は、エッジデバイス上でのSLM(Small Language Model)の低レイテンシ効率と、集中型サーバ上でのLLM(Large Language Model)の高精度を組み合わせたものである。
我々は、不確実性を考慮した推論とフェデレートラーニング(FL)を統合する通信効率の高いHLMフレームワークであるFedHLMを提案する。
論文 参考訳(メタデータ) (2025-06-30T02:56:11Z) - Task-Oriented Multimodal Token Transmission in Resource-Constrained Multiuser Networks [19.42660454288912]
本稿では,効率的なマルチモーダル情報融合と利用のためのタスク指向マルチモーダルトークン伝送方式を提案する。
トークン伝送の効率を向上させるため,クロスモーダルアライメントやタスク指向微調整を含む2段階トレーニングアルゴリズムを設計した。
我々は、交互最適化手法を用いて、ユーザ間での帯域幅、電力割り当て、トークン長を共同で最適化する。
論文 参考訳(メタデータ) (2025-05-06T14:17:05Z) - Task-Oriented Feature Compression for Multimodal Understanding via Device-Edge Co-Inference [54.53508601749513]
本稿では,マルチモーダル理解のためのタスク指向特徴圧縮(TOFC)手法を提案する。
圧縮効率を向上させるために、視覚特徴の特性に基づいて複数のエントロピーモデルを適応的に選択する。
その結果,TOFCはデータ転送オーバーヘッドを最大52%削減し,システム遅延を最大63%削減できることがわかった。
論文 参考訳(メタデータ) (2025-03-17T08:37:22Z) - Split Learning in Computer Vision for Semantic Segmentation Delay Minimization [25.0679083637967]
分割学習(SL)を用いたセマンティックセグメンテーションにおける推論遅延を最小化する新しい手法を提案する。
SLはリソース制約のあるデバイスのためのリアルタイムコンピュータビジョン(CV)アプリケーションのニーズに合わせて調整されている。
論文 参考訳(メタデータ) (2024-12-18T19:07:25Z) - Collaborative Automatic Modulation Classification via Deep Edge Inference for Hierarchical Cognitive Radio Networks [19.303303020775555]
階層的認知無線ネットワークでは、エッジまたはクラウドサーバは、エッジデバイスが収集したデータを変調分類に利用する。
本稿では、エッジデバイスとインテリジェントな共推論のためのエッジサーバを共同で動員するエッジ学習(EL)ベースのフレームワークを提案する。
論文 参考訳(メタデータ) (2024-09-12T11:14:25Z) - Large AI Model Empowered Multimodal Semantic Communications [48.73159237649128]
本稿では,Large AI Model-based Multimodal SC (LAMMSC) フレームワークを提案する。
まず、条件付きマルチモーダルアライメント(MMA)を提案し、マルチモーダルデータと非モーダルデータ間の変換を可能にする。
次に、パーソナライズされたLLMベースの知識ベース(LKB)を提案し、ユーザがパーソナライズされたセマンティック抽出やリカバリを行うことができる。
最後に,CGE(Generative Adversarial Network-based Channel Estimation)を用いて,無線チャネルの状態情報を推定する。
論文 参考訳(メタデータ) (2023-09-03T19:24:34Z) - Computational Intelligence and Deep Learning for Next-Generation
Edge-Enabled Industrial IoT [51.68933585002123]
エッジ対応産業用IoTネットワークにおける計算知能とディープラーニング(DL)の展開方法について検討する。
本稿では,新しいマルチエグジットベースフェデレーションエッジ学習(ME-FEEL)フレームワークを提案する。
特に、提案されたME-FEELは、非常に限られたリソースを持つ産業用IoTネットワークにおいて、最大32.7%の精度を達成することができる。
論文 参考訳(メタデータ) (2021-10-28T08:14:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。