論文の概要: When to Call an LLM: A Confidence-Gated Hybrid for Cost-Effective Emotion Recognition in Conversational AI
- arxiv url: http://arxiv.org/abs/2609.17977v1
- Date: Wed, 16 Sep 2026 01:05:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:53.585723
- Title: When to Call an LLM: A Confidence-Gated Hybrid for Cost-Effective Emotion Recognition in Conversational AI
- Title(参考訳): LLMを呼ぶとき--会話型AIにおけるコスト効果感情認識のための信頼度学習ハイブリッド
- Abstract要約: 会話における感情認識(Emotion Recognition in conversation,ERC)は、エージェントアシストプロンプト、エスカレーションルーティング、コール後分析の背後にある生産能力である。
本報告では,対話記述型ERCにおける3つのデプロイメントオプションのシステムレベル比較について報告する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Emotion recognition in conversation (ERC) is a production capability behind agent-assist prompts, escalation routing, and post-call analytics in contact-center-as-a-service (CCaaS) platforms, where cost and latency constraints matter as much as accuracy. We report a systems-level comparison of three deployment options for dialogue-contextual ERC: a low-cost stacked ensemble (sentence embeddings, windowed context, RandomForest/XGBoost/logistic-regression stacking), off-the-shelf LLM prompting (GPT-4o-mini; zero-shot, few-shot, chain-of-thought), and a confidence-gated hybrid that escalates only the ensemble's least-confident predictions to the LLM - modeled on IVA-to-human-agent escalation policies used in production contact centers. On IEMOCAP, the ensemble significantly outperforms every LLM configuration (0.595 vs. 0.460-0.536 weighted F1, p < 0.0001) at a fraction of the cost and sub-10ms latency; on MELD and CMU-MOSI the ranking reverses, showing neither pure system is a safe default. The confidence-gated hybrid resolves this by Pareto-dominating both pure systems on all three datasets (0.620, 0.643, 0.824 weighted F1) while routing the majority of traffic through the near-zero-cost ensemble, translating to roughly $10-85 per million utterances versus $99-170 for an LLM-only pipeline. The escalation policy is not an opaque cost/accuracy dial: escalated turns disproportionately follow an emotion or sentiment shift, giving operators an interpretable, auditable routing signal, and the ensemble's confidence is well-calibrated and safely under- rather than over-confident. The pattern holds across three datasets and two LLM providers. Confidence-gated cascading is established in general ML systems; our contribution is showing it transfers cleanly to dialogue-contextual ERC, yielding a concrete deployment recipe for CCaaS and conversational-AI platforms deciding how to allocate LLM spend.
- Abstract(参考訳): 会話における感情認識(ERC)は、コストとレイテンシの制約が同等の精度で重要である、コンタクトセンタ・アズ・ア・サービス(CCaaS)プラットフォームにおけるエージェントアシストプロンプト、エスカレーションルーティング、コール後の分析の背後にある生産機能である。
本報告では,低コストな積み重ねアンサンブル(センテンス埋め込み,ウィンドウコンテキスト,RandomForest/XGBoost/物流回帰),オフ・ザ・シェルフLLMプロンプト(GPT-4o-mini;ゼロショット,少数ショット,チェーン・オブ・シンクレット),およびアンサンブルの最小信頼度予測のみをLLMにエスカレートする信頼度付きハイブリッド(IVAから人間へのエスカレーションポリシーをモデルとしたLLM)の3つのデプロイメントオプションをシステムレベルで比較検討する。
IEMOCAPでは、アンサンブルは全てのLCM構成(0.595対0.460-0.536重み付きF1, p < 0.0001)をコストと10ms以下のレイテンシで大幅に上回っている。
信頼に満ちたハイブリッドは、両方の純粋なシステムを3つのデータセット(0.620, 0.643, 0.824 重み付き F1)で支配する一方で、ほぼゼロコストのアンサンブルを通してトラフィックの大半をルーティングし、約10-85パーセンタンスに変換し、LSMのみのパイプラインでは99-170ドルである。
エスカレーションポリシーは不透明なコスト/精度のダイヤルではなく、エスカレートされたターンは、感情や感情の変化を不均等に追従し、オペレーターに解釈可能で監査可能なルーティング信号を与え、アンサンブルの信頼度は、過信ではなく、十分に評価され、安全である。
このパターンは3つのデータセットと2つのLLMプロバイダにまたがる。
信頼に満ちたカスケーディングは一般的なMLシステムで確立されており、このコントリビューションは対話コンテキストのERCにきれいに移行し、CCaaSや会話型AIプラットフォーム向けの具体的なデプロイメントレシピを作成できることを示している。
関連論文リスト
- From Production Traffic to Post-Training: Building a Self-Hosted LLM That Covers the Corporate Request Mix [55.08143827481755]
200以上の内部アプリケーションから1つのモデルにトラフィックを集約します。
我々は、各軸ごとに別々のGRPOエキスパートを訓練し、2段階のSLERPを介してそれらをマージする。
このモデルは、プラットフォームトラフィックの50%、月1億6600万リクエストをサービスコストのごく一部で吸収する。
論文 参考訳(メタデータ) (2026-09-01T17:39:26Z) - TriAgent: Divergence-Aware Multi-Agent Committees for Cost-Efficient Financial Sentiment Analysis [0.9861185030860833]
TriAgentは、コンテキストの粒度によって成文化されたマルチエージェント委員会である。
3方向のディバージェンス指数は粒度の不一致を測る。
コード、レキシコン、SCDがリリースされる。
論文 参考訳(メタデータ) (2026-07-22T06:20:32Z) - Safety-Aware Evaluation of LLM-Generated Driver Intervention Messages through Multi-Task Risk Fusion [0.0]
BLEUやBERTScoreのような汎用メトリクスは、リスク・緊急アライメント、認知負荷、ドライバーの受け入れ可能性など、介入固有の品質次元をキャプチャできない。
本稿では,ハイブリッドアーキテクチャによる5次元評価を行うドメイン固有測度であるドライバ・セーフティ・アウェア・インターベンションスコア(DSAIS)を提案する。
論文 参考訳(メタデータ) (2026-06-21T22:50:55Z) - R2V Agent: Teaching SLMs When to Ask for Help [13.959667066774124]
対話型エージェントのためのリスク校正型SLM-LLMルーティングフレームワークである textbfR2V-Agent を紹介する。
R2Vは、蒸留された小型言語モデル (SLM) ポリシー、より強力な教師 LLM、各ステップで候補アクションをスコアする軽量プロセス検証器、およびキャリブレーションされたステップレベルのルータの4つのコンポーネントを組み合わせている。
論文 参考訳(メタデータ) (2026-05-15T20:10:24Z) - ComplexMCP: Evaluation of LLM Agents in Dynamic, Interdependent, and Large-Scale Tool Sandbox [61.862814740220806]
$textbfComplexMCP$は厳格な条件下でエージェントを評価するために設計されたベンチマークである。
Model Context Protocol (MCP)上に構築された$textbfComplexMCP$は300以上の精巧にテストされたツールを提供する。
論文 参考訳(メタデータ) (2026-05-11T16:20:51Z) - Unsolvability Ceiling in Multi-LLM Routing: An Empirical Study of Evaluation Artifacts [0.07812854697536452]
6つのベンチマークで206,000のクエリモデルペアを持つマルチ層LSMルーティングについて大規模に検討する。
報告された未解決性のかなりの部分は, 評価成果物に起因していることが示されている。
論文 参考訳(メタデータ) (2026-05-08T07:49:24Z) - LLM Readiness Harness: Evaluation, Observability, and CI Gates for LLM/RAG Applications [51.56484100374058]
評価をデプロイメント決定ワークフローに変換するLLMおよびRAGアプリケーションのための準備性ハーネスを提案する。
このシステムは、最小限のAPI契約の下で、自動ベンチマーク、OpenTelemetryオブザーバビリティ、CI品質ゲートを組み合わせる。
チケットルーティングとBEIRタスクのハーネスを、完全なAzureマトリックスカバレッジで評価する。
論文 参考訳(メタデータ) (2026-03-28T18:03:32Z) - Federated Learning-Enabled Hybrid Language Models for Communication-Efficient Token Transmission [87.68447072141402]
ハイブリッド言語モデル(HLM)は、エッジデバイス上でのSLM(Small Language Model)の低レイテンシ効率と、集中型サーバ上でのLLM(Large Language Model)の高精度を組み合わせたものである。
我々は、不確実性を考慮した推論とフェデレートラーニング(FL)を統合する通信効率の高いHLMフレームワークであるFedHLMを提案する。
論文 参考訳(メタデータ) (2025-06-30T02:56:11Z) - Uncertainty-Aware Hybrid Inference with On-Device Small and Remote Large Language Models [49.48313161005423]
ハイブリッド言語モデル(HLM)アーキテクチャは、モバイル端末で動作する小さな言語モデル(SLM)と、無線ネットワークの基地局(BS)にホストされる大きな言語モデル(LLM)を統合する。
HLMトークン生成プロセスは、投機的推論の原則に従っている: SLMの語彙分布はLSMにアップロードされ、LPMによって再サンプリングされる。
本研究では,不確実性を考慮したHLM (Uncertainty-aware opportunistic HLM) という新しいHLM構造を提案する。
論文 参考訳(メタデータ) (2024-12-17T09:08:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。