論文の概要: Exposing AI Inference as a Telco Network API over the 5G User Plane
- arxiv url: http://arxiv.org/abs/2610.15062v1
- Date: Sat, 10 Oct 2026 16:55:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.14807
- Title: Exposing AI Inference as a Telco Network API over the 5G User Plane
- Title(参考訳): 5Gユーザプレーン上でのTelco Network APIとしてのAI推論の公開
- Abstract要約: 現在のモバイルシステムはテンソルを輸送できるが、テンソルの操作的意味を与える推論コンテキストを公開または理解しない。
本研究は,CAMARAライクなアプリケーションプログラムインターフェース(API)を通じてスプリット推論を公開する,オンデマンドの推論抽象化であるInference on Demand(IoD)を提案する。
分割可能なビジュアルAIワークロードを用いて、プログラマブルユーザプレーン関数(UPF)ベースのテストベッド上でIoDを評価する。
- 参考スコア(独自算出の注目度): 0.046603287532620725
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Supporting edge Artificial Intelligence (AI) inference as a network service is challenging because current mobile systems can transport tensors but do not expose or understand the inference context that gives those tensors operational meaning. Prior studies have addressed this gap through dynamic partitioning, collaborative inference, and split pipelines; however, these solutions remain application-bound, network-blind, or context-free. This work proposes Inference on Demand (IoD), an inference-on-demand abstraction that exposes split inference through a CAMARA-like Application Program Interface (API) and carries a split-aware tensor context in-band across the 5G user plane path. We evaluate the IoD on a programmable user plane function (UPF)-based testbed using a partitionable visual AI workload, showing that adaptive split selection can operate as a network-facing service while avoiding the rigid cost profile of static configurations. Including our findings, split inference becomes more than offloading when the service intent, runtime partitioning, and tensor transport are made visible to the mobile data plane. This opens a path toward network-native AI services, in which programmable telco infrastructure coordinates computation, context, and connectivity for user-facing applications.
- Abstract(参考訳): ネットワークサービスとしてのエッジ人工知能(AI)推論のサポートは、現在のモバイルシステムがテンソルを転送できるが、それらテンソルが運用上の意味を持つ推論コンテキストを公開または理解できないため、難しい。
これまでの研究では、動的パーティショニング、協調推論、分割パイプラインを通じてこのギャップに対処してきたが、これらのソリューションはアプリケーションバウンド、ネットワークブラインド、コンテキストフリーのままである。
Inference on Demand (IoD)は、CAMARAのようなアプリケーション・プログラム・インタフェース(API)を通じてスプリット・推論を公開し、5Gユーザ・プレーン・パスにまたがってスプリット・アウェア・テンソル・コンテキストをインバンドで実行する推論・オン・デマンド・抽象化である。
我々は,プログラム可能なユーザプレーン関数(UPF)ベースのテストベッド上で,分割可能なビジュアルAIワークロードを用いてIoDを評価し,静的構成の厳密なコストプロファイルを回避しつつ,適応的な分割選択がネットワーク対応サービスとして動作することを示す。
私たちの発見を含め、スプリット推論は、サービスインテント、ランタイムパーティショニング、テンソルトランスポートがモバイルデータプレーンで見えるようになると、オフロード以上のものになります。
これにより、ネットワークネイティブなAIサービスへの道が開かれ、プログラマブルな通信インフラは、ユーザ向けアプリケーションの計算、コンテキスト、接続をコーディネートする。
関連論文リスト
- Tensor Computing Interface: An Application-Oriented, Lightweight Interface for Portable High-Performance Tensor Network Applications [0.0]
テンソルネットワーク(TN)は、量子科学と人工知能の中心的な計算ツールである。
テンソル計算フレームワーク間の統一されたソフトウェアインターフェースの欠如は、TNアプリケーションのポータビリティを著しく制限する。
アプリケーション指向で軽量なプログラミングアプリケーションインターフェースであるComputer Interface (TCI)を紹介します。
論文 参考訳(メタデータ) (2025-12-30T00:35:07Z) - HERMES: Heterogeneous Application-Enabled Routing Middleware for Edge-IoT Systems [0.0]
本研究は,アプリケーション認識決定を動的に取り入れることで,ルーティングの柔軟性を向上させるソフトウェアフレームワークを提案する。
この研究の核となるのは、異種デバイス、特にESP8266、ESP32、Raspberry Pi 3BのマルチホップWi-Fiネットワークを確立することである。
このフレームワークは、ニューラルネットワークの推論計算の分散を含むエッジインテリジェンスのユースケースを通じて、物理的なテストベッド上で検証された。
論文 参考訳(メタデータ) (2025-12-01T16:04:03Z) - A projection-based framework for gradient-free and parallel learning [50.96641619247761]
私たちはこのパラダイムを実現するJAXベースのソフトウェアフレームワークであるPJAXを紹介します。
PJAXは基本演算に対する射影演算子を構成し、実現可能性問題に対する解演算子を自動的に導出する。
各種アーキテクチャ(MLP、CNN、RNN)を標準ベンチマークでPJAXを用いてトレーニングし、その汎用性を実証する。
論文 参考訳(メタデータ) (2025-06-06T08:44:56Z) - AI Flow at the Network Edge [58.31090055138711]
AI Flowは、デバイス、エッジノード、クラウドサーバ間で利用可能な異種リソースを共同で活用することで、推論プロセスを合理化するフレームワークである。
この記事では、AI Flowのモチベーション、課題、原則を特定するためのポジションペーパーとして機能する。
論文 参考訳(メタデータ) (2024-11-19T12:51:17Z) - Open RAN LSTM Traffic Prediction and Slice Management using Deep
Reinforcement Learning [7.473473066047965]
本稿では,分散深部強化学習(DDRL)を用いたORANスライシングの新しい手法を提案する。
シミュレーションの結果,ネットワーク性能が著しく向上し,特に違反の低減が図られた。
これは、動的xAppの一部として、予測rAppと分散アクターの情報を共同で使用することの重要性を強調している。
論文 参考訳(メタデータ) (2024-01-12T22:43:07Z) - Deep Reinforcement Learning for Trajectory Path Planning and Distributed
Inference in Resource-Constrained UAV Swarms [6.649753747542209]
本研究の目的は,UAVSwarmにおける分散協調推論要求と経路計画のためのモデルの設計である。
定式化問題はNPハードであるため、最適解を見つけることは極めて複雑である。
我々は、広範囲なシミュレーションを行い、その結果を、我々のモデルが競合モデルより優れていることを示す最先端の研究と比較する。
論文 参考訳(メタデータ) (2022-12-21T17:16:42Z) - SOLIS -- The MLOps journey from data acquisition to actionable insights [62.997667081978825]
本稿では,基本的なクロスプラットフォームテンソルフレームワークとスクリプト言語エンジンを使用しながら,すべての要件をサポートする統合デプロイメントパイプラインとフリー・ツー・オペレートアプローチを提案する。
しかし、このアプローチは、実際のプロダクショングレードシステムに機械学習機能を実際にデプロイするために必要な手順やパイプラインを提供していない。
論文 参考訳(メタデータ) (2021-12-22T14:45:37Z) - Scalable Perception-Action-Communication Loops with Convolutional and
Graph Neural Networks [208.15591625749272]
視覚に基づくグラフアグリゲーション・アンド・推論(VGAI)を用いた知覚-行動-コミュニケーションループの設計を提案する。
我々のフレームワークは、畳み込みとグラフニューラルネットワーク(CNN/GNN)のカスケードによって実装され、エージェントレベルの視覚知覚と特徴学習に対処する。
我々は、VGAIが他の分散コントローラに匹敵する性能を得ることを示した。
論文 参考訳(メタデータ) (2021-06-24T23:57:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。