論文の概要: Toward Real-Time Edge AI: Model-Agnostic Task-Oriented Communication with Visual Feature Alignment
- arxiv url: http://arxiv.org/abs/2412.00862v1
- Date: Sun, 01 Dec 2024 15:52:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-04 15:42:43.277992
- Title: Toward Real-Time Edge AI: Model-Agnostic Task-Oriented Communication with Visual Feature Alignment
- Title(参考訳): リアルタイムエッジAIに向けて:視覚的特徴アライメントを用いたモデル非依存のタスク指向コミュニケーション
- Authors: Songjie Xie, Hengtao He, Shenghui Song, Jun Zhang, Khaled B. Letaief,
- Abstract要約: タスク指向通信はエッジ推論システムの通信効率を向上させるための有望なアプローチを示す。
リアルタイムアプリケーションは、未完成のカバレッジやエッジサーバの潜在的な誤動作など、現実的な課題に直面している。
本研究では,多様なシステム間で共有アンカーデータを利用する新しいフレームワークを提案する。
- 参考スコア(独自算出の注目度): 23.796344455232227
- License:
- Abstract: Task-oriented communication presents a promising approach to improve the communication efficiency of edge inference systems by optimizing learning-based modules to extract and transmit relevant task information. However, real-time applications face practical challenges, such as incomplete coverage and potential malfunctions of edge servers. This situation necessitates cross-model communication between different inference systems, enabling edge devices from one service provider to collaborate effectively with edge servers from another. Independent optimization of diverse edge systems often leads to incoherent feature spaces, which hinders the cross-model inference for existing task-oriented communication. To facilitate and achieve effective cross-model task-oriented communication, this study introduces a novel framework that utilizes shared anchor data across diverse systems. This approach addresses the challenge of feature alignment in both server-based and on-device scenarios. In particular, by leveraging the linear invariance of visual features, we propose efficient server-based feature alignment techniques to estimate linear transformations using encoded anchor data features. For on-device alignment, we exploit the angle-preserving nature of visual features and propose to encode relative representations with anchor data to streamline cross-model communication without additional alignment procedures during the inference. The experimental results on computer vision benchmarks demonstrate the superior performance of the proposed feature alignment approaches in cross-model task-oriented communications. The runtime and computation overhead analysis further confirm the effectiveness of the proposed feature alignment approaches in real-time applications.
- Abstract(参考訳): タスク指向通信は、学習ベースのモジュールを最適化し、関連するタスク情報を抽出し、伝達することにより、エッジ推論システムの通信効率を向上させるための有望なアプローチを示す。
しかし、リアルタイムアプリケーションは、未完成のカバレッジやエッジサーバの潜在的な誤動作など、現実的な課題に直面している。
この状況は、異なる推論システム間のクロスモデル通信を必要とし、あるサービスプロバイダのエッジデバイスが、別のサービスからのエッジサーバと効果的に連携できるようにする。
多様なエッジシステムの独立した最適化は、しばしば、既存のタスク指向通信のクロスモデル推論を妨げる不整合な特徴空間につながる。
そこで本研究では,多様なシステム間で共有アンカーデータを利用する新しいフレームワークを提案する。
このアプローチは、サーバベースのシナリオとオンデバイスシナリオの両方において、機能アライメントの課題に対処する。
特に、視覚特徴の線形不変性を利用して、エンコードされたアンカーデータ特徴を用いた線形変換を推定する効率的なサーバベースの特徴アライメント手法を提案する。
デバイス上でのアライメントのために,視覚特徴の角度保存特性を活用し,アンカーデータによる相対表現を符号化し,推論中に追加のアライメント手順を使わずにモデル間通信を効率化する。
コンピュータビジョンベンチマークによる実験結果から,クロスモデルタスク指向通信における特徴アライメント手法の優れた性能が示された。
ランタイムおよび計算オーバーヘッド解析により、リアルタイムアプリケーションにおいて提案した特徴アライメント手法の有効性をさらに確認する。
関連論文リスト
- Take What You Need: Flexible Multi-Task Semantic Communications with Channel Adaptation [51.53221300103261]
本稿では,マスク付きオートエンコーダアーキテクチャに基づく,チャネル適応型・マルチタスク対応のセマンティックコミュニケーションフレームワークについて紹介する。
チャネル認識抽出器を用いて、リアルタイムのチャネル条件に応じて、関連情報を動的に選択する。
画像再構成や物体検出などのタスクにおける従来の手法と比較して,本手法の優れた性能を示す実験結果が得られた。
論文 参考訳(メタデータ) (2025-02-12T09:01:25Z) - RLOMM: An Efficient and Robust Online Map Matching Framework with Reinforcement Learning [15.616652008152098]
本稿では,多様なシナリオを扱う際の堅牢性を確保しつつ,高精度かつ効率的なマッチングを実現する新しいフレームワークを提案する。
まず,オンライン地図マッチング問題をオンラインマルコフ決定プロセスとしてモデル化することから始める。
次に、モデルのロバスト性を高めるために、リアルタイムデータのロバスト処理を可能にする強化学習法を設計する。
論文 参考訳(メタデータ) (2025-02-05T11:26:32Z) - Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。
既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。
ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-29T19:02:54Z) - Energy-efficient Task Adaptation for NLP Edge Inference Leveraging
Heterogeneous Memory Architectures [68.91874045918112]
Adapter-ALBERTは、様々なタスクにわたる最大データ再利用のための効率的なモデル最適化である。
検証されたNLPエッジアクセラレータ上でシミュレーションを行うことにより、モデルを不均一なオンチップメモリアーキテクチャにマッピングする利点を実証する。
論文 参考訳(メタデータ) (2023-03-25T14:40:59Z) - Task-Oriented Over-the-Air Computation for Multi-Device Edge AI [57.50247872182593]
エッジAIをサポートするための6Gネットワークは、AIタスクの効率的かつ効率的な実行に焦点を当てたタスク指向のテクニックを備えている。
本稿では,マルチデバイススプリット推論システムにおけるタスク指向オーバー・ザ・エア計算(AirComp)方式を提案する。
論文 参考訳(メタデータ) (2022-11-02T16:35:14Z) - Task-Oriented Sensing, Computation, and Communication Integration for
Multi-Device Edge AI [108.08079323459822]
本稿では,AIモデルの分割推論と統合センシング通信(ISAC)を併用した,新しいマルチインテリジェントエッジ人工レイテンシ(AI)システムについて検討する。
推定精度は近似的だが抽出可能な計量、すなわち判別利得を用いて測定する。
論文 参考訳(メタデータ) (2022-07-03T06:57:07Z) - Task-Oriented Communication for Multi-Device Cooperative Edge Inference [14.249444124834719]
協調エッジ推論は、単一デバイスの限られた感知能力を克服することができるが、通信オーバーヘッドを大幅に増加させ、過度の遅延を引き起こす可能性がある。
タスク指向方式で局所特徴抽出と分散特徴符号化を最適化する学習型通信方式を提案する。
論文 参考訳(メタデータ) (2021-09-01T03:56:20Z) - Learning Task-Oriented Communication for Edge Inference: An Information
Bottleneck Approach [3.983055670167878]
ローエンドエッジ装置は、ローカルデータサンプルの抽出された特徴ベクトルを強力なエッジサーバに送信して処理する。
帯域幅が限られているため、データを低遅延推論のための情報的かつコンパクトな表現に符号化することが重要である。
特徴抽出,ソース符号化,チャネル符号化を協調的に最適化する学習型通信方式を提案する。
論文 参考訳(メタデータ) (2021-02-08T12:53:32Z) - Weakly supervised cross-domain alignment with optimal transport [102.8572398001639]
画像オブジェクトとテキストシーケンス間のクロスドメインアライメントは多くの視覚言語タスクの鍵となる。
本稿では,画像とテキスト間の微粒な意味的類似点の同定と最適化のための新しいアプローチについて検討する。
論文 参考訳(メタデータ) (2020-08-14T22:48:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。