論文の概要: How Far Can Lightweight LLMs Go in Intent-to-SLO Translation?
- arxiv url: http://arxiv.org/abs/2611.07982v1
- Date: Thu, 05 Nov 2026 13:12:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.695383
- Title: How Far Can Lightweight LLMs Go in Intent-to-SLO Translation?
- Title(参考訳): 軽快なLLMはどの程度の速さで翻訳できるのか?
- Abstract要約: Intent-based Network (IBN) は、ネットワークが演算子定めの目標から構成を導出するプロビジョニングを約束する。
大きな言語モデル(LLM)は、管理ループにコストとエネルギーを加えます。
軽量オープン LLM がこのステップを引き継ぐことができるか?
信頼性の高いISNの鍵となるオープンな課題として頑健な意図検証が残されている16のモデルのうち15の構成において、無効な意図の拒絶を現実的に表現していることが示される。
- 参考スコア(独自算出の注目度): 4.213126978679049
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Intent-based networking (IBN) promises QoS provisioning in which the network derives the configuration from operator-stated goals. Its first step, translating a natural-language intent into enforceable service-level objectives (SLOs) grounded in a live snapshot of the network state, increasingly relies on large language models (LLMs). These large models add cost and energy to the management loop and typically require multi-GPU, cloud-hosted infrastructure. Can lightweight open LLMs take over this step dependably? We answer this question with a five-dimensional evaluation of ten LLMs with <10B parameters from five families, under four prompting setups, on 716 placement intents. We evaluate translation performance, intent validation, hallucination, energy impact, and robustness to diverse phrasing. The best configurations translate intents with a strict F1 of 0.943 and reject up to 191 of 195 invalid intents. With few-shot reasoning, the strongest models hallucinate unsupported QoS requirements in only about one response in a hundred, whereas the zero-shot setup struggles. A translated intent costs 0.044-0.148 Wh of GPU energy without reasoning, and added energy cost for reasoning pays off for the weaker models. Furthermore, we show that realistic rephrasing lowers the rejection of invalid intents in 15 of 16 configurations for the best-performing models, leaving robust intent validation as a key open challenge for reliable IBN. Our code and data are available: https://github.com/ggck43/intent2slo.
- Abstract(参考訳): Intent-based networking (IBN)は、ネットワークが演算子定めの目標から構成を導出するQoSプロビジョニングを約束する。
その最初のステップは、ネットワーク状態のライブスナップショットに基づいて、自然言語の意図を強制可能なサービスレベル目標(SLO)に変換することで、大規模言語モデル(LLM)にますます依存している。
これらの大きなモデルは、管理ループにコストとエネルギを追加し、通常、マルチGPU、クラウドホスト型インフラストラクチャを必要とします。
軽量オープン LLM がこのステップを確実に引き継ぐことができるだろうか?
716の配置意図に基づいて,5つのファミリーから<10Bのパラメータを持つ10個のLLMの5次元評価を行った。
我々は,翻訳性能,意図の検証,幻覚,エネルギー影響,多種多様なフレーズに対する頑健さを評価した。
最良の構成は、厳密なF1の0.943でインテントを翻訳し、195個の無効インテントのうち191個を拒絶する。
数発の推論では、最強のQoS要求は100回に1回しか応答しないが、ゼロショットのセットアップは苦戦している。
翻訳されたインテントは推論なしでGPUエネルギー0.044-0.148Whを消費し、推論のためのエネルギーコストはより弱いモデルに支払われる。
さらに, 現実的な言い換えにより, 最良性能モデルの16構成のうち15構成において, 無効な意図の拒絶が減少し, 信頼性の高いIBNにとって重要な課題であるロバストな意図検証が残されていることを示す。
私たちのコードとデータは、https://github.com/ggck43/intent2slo.comで利用可能です。
関連論文リスト
- Efficient Multilingual Reasoning Transfer via Progressive Code-Switching [51.49388869532955]
トランスファーアプローチは典型的には、強いLEMからの蒸留されたターゲット言語推論のトレースや、外部の審査モデルからのオンライン監視に依存している。
軽量翻訳のみを必要とするより効率的な転送フレームワークであるPCS(Progressive Code-Switching)を提案する。
PCSは、ターゲット言語と英語の推論のパフォーマンスギャップを著しく狭め、より言語に一貫性のある推論をもたらす。
論文 参考訳(メタデータ) (2026-07-01T06:13:16Z) - Intent Engine: Natural-Language Intent Translation for Intent-Driven Orchestration in the Compute Continuum [0.12891210250935145]
本稿では,計算連続型サービス配置のための検証済みSLOアーチファクトを構成する自然言語インテントアーキテクチャであるIntent Engineについて述べる。
Intrepid Engineは、既存のインテント駆動オーケストレーションおよび配置フレームワークのための意図獲得およびSLO構築層として機能する。
論文 参考訳(メタデータ) (2026-06-30T14:13:55Z) - Less Is More: Engineering Challenges of On-Device Small Language Model Integration in a Mobile Application [0.0]
オンデバイススモールランゲージモデル(SLM)は、モバイルユーザ(クラウド依存がなく、デバイスを離れるデータもない)に対して、完全にオフラインでプライベートなAIエクスペリエンスを約束する。
本稿では,SLMをPalbritaに組み込むことによるエンジニアリング上の課題を,AndroidのワードガッセングゲームであるPalbritaに記録するケーススタディについて述べる。
論文 参考訳(メタデータ) (2026-04-27T16:05:39Z) - Do Large Language Models Understand Conversational Implicature -- A case study with a chinese sitcom [4.142301960178498]
SwordsmanImpは、会話の不適応を目的とした中国初のマルチターン対話ベースのデータセットである。
200の注意深い手作りの質問が含まれており、すべての注釈がグリサンの最大値が違反している。
以上の結果から, GPT-4は, 複数質問に対する人間レベルの精度(94%)を達成できることがわかった。
GPT-3.5やいくつかのオープンソースモデルを含む他のモデルは、複数の質問に対して20%から60%の低い精度を示している。
論文 参考訳(メタデータ) (2024-04-30T12:43:53Z) - Anti-LM Decoding for Zero-shot In-context Machine Translation [59.26037416204157]
本研究は, 文脈内機械翻訳の弱点に対処するために, 減衰係数を付加したアンチランゲージモデルを提案する。
3つのモデルタイプとサイズ,3つの言語方向,およびグリージーデコーディングとビームサーチの両方に対して実験を行う。
論文 参考訳(メタデータ) (2023-11-14T17:09:43Z) - Mitigating Hallucinations and Off-target Machine Translation with
Source-Contrastive and Language-Contrastive Decoding [53.84948040596055]
修正された復号化目標を用いて、障害ケースを緩和する2つの関連手法を提案する。
大規模多言語モデルM2M-100 (418M) とSMaLL-100の実験は、これらの手法が幻覚やターゲット外の翻訳を抑制することを示した。
論文 参考訳(メタデータ) (2023-09-13T17:15:27Z) - AWQ: Activation-aware Weight Quantization for LLM Compression and Acceleration [54.692405042065815]
LLM低ビット量のみの量子化のためのハードウェアフレンドリーなアプローチであるActivation-Aware Weight Quantization (AWQ)を提案する。
AWQ は 1% の正重みしか保護せず,命令調整型 LM とマルチモーダル LM の量子化性能に優れる。
また,4ビットオンデバイスLLM/VLMに適した,効率的なフレキシブルな推論フレームワークであるTinyChatを実装した。
論文 参考訳(メタデータ) (2023-06-01T17:59:10Z) - Exploring Zero and Few-shot Techniques for Intent Classification [4.645378725672337]
会話型NLUプロバイダは、数千の意図分類モデルにスケールする必要があることが多い。
本稿では,この低リソース制約を用いた4つの異なるゼロと少数ショットの意図分類手法について検討する。
論文 参考訳(メタデータ) (2023-05-11T22:07:27Z) - Multimodal Chain-of-Thought Reasoning in Language Models [94.70184390935661]
言語(テキスト)と視覚(画像)のモダリティを2段階のフレームワークに組み込んだマルチモーダルCoTを提案する。
その結果,ScienceQA と A-OKVQA のベンチマークは,提案手法の有効性を示した。
論文 参考訳(メタデータ) (2023-02-02T07:51:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。