論文の概要: CR^2: Cost-Aware Risk-Controlled Routing for Wireless Device-Edge LLM Inference

• arxiv url: http://arxiv.org/abs/2605.12001v1
• Date: Tue, 12 May 2026 11:50:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.832105
• Title: CR^2: Cost-Aware Risk-Controlled Routing for Wireless Device-Edge LLM Inference
• Title（参考訳）: CR^2:無線デバイスエッジLPM推論のためのコスト認識型リスク制御ルーティング
• Authors: Nan Xue, Shengkang Chen, Zhiyong Chen, Jiangchao Yao, Yaping Sun, Zixia Hu, Meixia Tao,
• Abstract要約: 大規模言語モデル(LLM)は集中型クラウドからモバイルエッジ環境に移行する。 軽量オンデバイスモデルとより強力なエッジモデルの間のクエリレベルのルーティングは、このトレードオフをナビゲートするための柔軟なメカニズムを提供する。 既存のルータは、集中クラウド設定とトークンレベルのコストの最適化のために設計されており、無線エッジデプロイメントにおける動的レイテンシとエネルギーオーバーヘッドをキャプチャできない。
• 参考スコア（独自算出の注目度）: 52.849509991178884
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large language models (LLMs) move from centralized clouds to mobile edge environments, efficient serving must balance latency, energy consumption, and accuracy under constrained device-edge resources. Query-level routing between lightweight on-device models and stronger edge models provides a flexible mechanism to navigate this trade-off. However, existing routers are designed for centralized cloud settings and optimize token-level costs, failing to capture the dynamic latency and energy overheads in wireless edge deployments. In this paper, we formulate mobile edge LLM routing as a deployment-constrained, cost-aware decision problem, and propose CR^2, a two-stage device-edge routing framework. CR^2 decouples a lightweight on-device margin gate from an edge-side utility selector for deferred queries. The margin gate operates on frozen query embeddings and a user-specified cost weight to predict whether local execution is utility-optimal relative to the best edge alternative under the target operating point. We further introduce a conformal risk control (CRC) calibration procedure that maps each operating point to an acceptance threshold, enabling explicit control of the marginal false-acceptance risk under the full-information utility reference. Experiments on the routing task show that CR^2 closely matches a full-information reference router using only device-side signals before deferral. Compared with strong query-level baselines, CR^2 consistently improves the deployable accuracy-cost Pareto frontier and reduces normalized deployment cost by up to 16.9% at matched accuracy.
• Abstract（参考訳）: 大規模言語モデル(LLM)が集中クラウドからモバイルエッジ環境に移行するにつれ、効率的なサービス提供は、制約されたデバイスエッジリソースの下でのレイテンシ、エネルギー消費、精度のバランスを取る必要がある。 軽量オンデバイスモデルとより強力なエッジモデルの間のクエリレベルのルーティングは、このトレードオフをナビゲートするための柔軟なメカニズムを提供する。 しかし、既存のルータは集中的なクラウド設定とトークンレベルのコストの最適化のために設計されており、無線エッジデプロイメントにおける動的レイテンシとエネルギーオーバーヘッドをキャプチャできない。 本稿では,モバイルエッジLLMルーティングを,デプロイメント制約付き,コストを考慮した決定問題として定式化し,2段階のデバイスエッジルーティングフレームワークであるCR^2を提案する。 CR^2は、遅延クエリのためのエッジ側ユーティリティセレクタから軽量のオンデバイスマージンゲートを分離する。 マージンゲートは、凍結したクエリの埋め込みとユーザ指定のコスト重みで動作し、ローカル実行がターゲットの動作点の下で最適なエッジ代替品に対して実用的最適かどうかを予測する。 さらに、各操作点を受入閾値にマッピングし、全情報ユーティリティ参照に基づく限界誤受容リスクの明示的な制御を可能にする共形リスク制御(CRC)キャリブレーション手法を導入する。 ルーティングタスクの実験では、CR^2はdeferralの前にデバイス側信号のみを使用して、完全な情報参照ルータと密に一致している。 強力なクエリレベルのベースラインと比較して、CR^2はデプロイ可能な精度の高いParetoフロンティアを一貫して改善し、一致した精度で正規化されたデプロイメントコストを最大16.9%削減する。

関連論文リスト

• ConsRoute:Consistency-Aware Adaptive Query Routing for Cloud-Edge-Device Large Language Models [7.869130026927]
  ConsRouteは、大規模言語モデルのための軽量でセマンティックな、適応的なルーティングフレームワークである。 ConsRouteは、エンドツーエンドのレイテンシと推論コストを40%近く削減しながら、ほぼクラウドのパフォーマンス(=95%)を達成することを示す。
  論文  参考訳（メタデータ） (2026-03-22T13:54:12Z)
• Efficient and Interpretable Multi-Agent LLM Routing via Ant Colony Optimization [58.59491516762626]
  マルチエージェントシステム(MAS)のための効率的かつ解釈可能なルーティングフレームワークAMRO-Sを提案する。 AMRO-Sは、意味条件付き経路選択問題としてMASルーティングをモデル化し、3つのキーメカニズムを通してルーティング性能を向上させる。 5つの公開ベンチマークと高速ストレステストによる大規模な実験により、AMRO-Sは強いルーティングベースラインに対する品質-コストトレードオフを一貫して改善することを示した。
  論文  参考訳（メタデータ） (2026-03-13T12:26:05Z)
• RACER: Risk-Aware Calibrated Efficient Routing for Large Language Models [23.345746575717545]
  LLMルーティングを$-VOR問題として定式化し、予測セットサイズを最小化し、不正なリスクを抑える。 提案するRACERは、ベースルータを出力モデルに拡張し、その後、出力を改善するために集約することができる。 理論的には、RACERはポストホックかつモデルに依存しない方法で、未確認テストデータに対して厳密な分布自由リスク制御を実現する。
  論文  参考訳（メタデータ） (2026-02-20T08:23:03Z)
• Reliable LLM-Based Edge-Cloud-Expert Cascades for Telecom Knowledge Systems [54.916243942641444]
  大規模言語モデル(LLM)は、通信などの分野において、自動化の鍵となる存在として浮上している。 本研究では,問合せパイプラインによる意思決定を支援する,エッジクラウドに精通したLLMベースの知識システムについて検討する。
  論文  参考訳（メタデータ） (2025-12-23T03:10:09Z)
• Cost-Aware Contrastive Routing for LLMs [57.30288453580456]
  我々は、プロンプトとモデルの両方を共有埋め込み空間にマッピングする軽量フレームワークであるコストスペクトルコントラストルーティング(CSCR)を紹介します。 CSCRはベースラインを一貫して上回り、精度とコストのトレードオフを最大25%改善した。
  論文  参考訳（メタデータ） (2025-08-17T20:16:44Z)
• On-Device LLM for Context-Aware Wi-Fi Roaming [4.8099196240978275]
  無線LAN(Wi-Fi)におけるローミングは、動的モバイル環境におけるシームレスな接続を維持する上で重要な課題である。 デバイス上での大規模言語モデル(LLM)の最初のクロス層利用について紹介する。
  論文  参考訳（メタデータ） (2025-05-07T07:04:49Z)
• Reliability-Optimized User Admission Control for URLLC Traffic: A Neural Contextual Bandit Approach [4.958511942948984]
  超信頼性低レイテンシ通信(URLLC)は、次世代無線ネットワークにおける幅広い新興サービスの基盤となっている。 URLLCは、URLLCトラフィックをサポートするのに十分なリソースがあるかどうかを積極的に判断するネットワークの能力に依存している。 ニューラルネットワークに基づく新しい手法が提案されている。
  論文  参考訳（メタデータ） (2024-01-05T20:26:08Z)
• Adaptive Federated Pruning in Hierarchical Wireless Networks [69.6417645730093]
  Federated Learning(FL)は、サーバがプライベートデータセットにアクセスすることなく、複数のデバイスによって更新されたモデルを集約する、プライバシ保護の分散学習フレームワークである。 本稿では,無線ネットワークにおけるHFLのモデルプルーニングを導入し,ニューラルネットワークの規模を小さくする。 提案するHFLは,モデルプルーニングを伴わないHFLと比較して学習精度が良く,通信コストが約50%削減できることを示す。
  論文  参考訳（メタデータ） (2023-05-15T22:04:49Z)
• Structure-aware reinforcement learning for node-overload protection in mobile edge computing [3.3865605512957457]
  本研究は,エッジノードの過負荷を防止するための適応型入出力制御ポリシーを提案する。 このフレームワークは,ノードオーバーロード保護問題に対して,割引価格設定で動作するように拡張する。 実験により, SALMUTにより得られた全割引コストは, 最先端の深部RLアルゴリズムに類似していることが判明した。
  論文  参考訳（メタデータ） (2021-06-29T18:11:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。