論文の概要: Uncertainty-Aware Sequential Decision Rules for Event-Triggered LLM Invocation in Streaming Systems
- arxiv url: http://arxiv.org/abs/2607.13048v1
- Date: Sat, 27 Jun 2026 08:18:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-19 21:54:20.412171
- Title: Uncertainty-Aware Sequential Decision Rules for Event-Triggered LLM Invocation in Streaming Systems
- Title(参考訳): ストリーミングシステムにおけるイベントトリガーLDM呼び出しの不確実性を考慮したシーケンス決定規則
- Abstract要約: 大規模言語モデル(LLM)と軽量な高速モデルをペアにするストリーミング推論パイプライン
我々はこれをリスクベースの逐次停止問題とみなし、観測履歴上のリスク関数がしきい値を超えるとトリガーポリシーが発火する。
その結果,引き金を除く最小時間,スムーズなペーストによるしきい値ポリシーの最適性,推定パラメータ下でのSPRT保証の近似,の6つの結果が得られた。
- 参考スコア(独自算出の注目度): 3.556355987197792
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Streaming inference pipelines increasingly pair lightweight fast models with Large Language Models (LLMs) that provide rich semantic understanding at substantial cost. The central question of when to invoke the LLM has received limited formal treatment. We cast this as a risk-based sequential stopping problem, where a trigger policy fires when a risk functional over the observation history exceeds a threshold. Within this framework, we prove six results: a minimum inter-event time bound excluding trigger chattering; optimality of threshold policies via smooth pasting; approximate SPRT guarantees under estimated parameters; O(sqrt(T log T)) regret for stationary streams, extending to O(sqrt((C_T + 1) T log T)) under C_T changepoints; O(1/sqrt(T)) convergence of online gradient descent for adaptive thresholds; and a calibration-to-miss-rate transfer inequality. Several classical trigger families, including event-triggered, optimal stopping, SPRT, CUSUM, and Bayesian triggers, can be expressed as special cases of this framework. On turbofan degradation data (CMAPSS) with real LLM calls, we empirically verify the theoretical assumptions, ablate the risk function design, compare against six baselines including a RouteLLM-style router and contextual bandits, and analyze cost sensitivity and LLM failure modes. The results confirm sublinear regret, with alpha < 1 for all principled triggers; high diagnostic quality, with 92.9 percent of 1600 LLM diagnoses reaching grounding score >= 0.75 under our rubric; and that anomaly-score-driven risk functions dominate alternatives by roughly an order of magnitude on the Pareto AUC.
- Abstract(参考訳): ストリーム推論パイプラインは、かなりのコストでリッチなセマンティック理解を提供するLarge Language Models(LLMs)と、ますます軽量な高速モデルとペアになっていきます。
LLMをいつ呼び出すかという中心的な問題は、限定的な正式な治療を受けている。
我々はこれをリスクベースの逐次停止問題とみなし、観測履歴上のリスク関数がしきい値を超えるとトリガーポリシーが発火する。
本枠組みでは, トリガチャタリングを除いた最小イベント間時間, 滑らかなペーストによるしきい値ポリシーの最適性, 推定パラメータによるSPRT保証の近似, 定常ストリームに対するO(sqrt(T log T)) 後悔, C_T 変更点におけるO(sqrt((C_T + 1) T log T)) への拡張, O(1/sqrt(T)) 適応しきい値に対するオンライン勾配勾配の収束, キャリブレーション-ミスレート転送の不等式, の6つの結果を示す。
イベントトリガー、最適停止、SPRT、CUSUM、ベイズトリガーを含む古典的なトリガーファミリーは、このフレームワークの特別なケースとして表現できる。
実LLMコールによるターボファン劣化データ (CMAPSS) について, 理論的仮定を実証的に検証し, リスク関数設計を緩和し, ルータLLM型ルータとコンテキスト帯域を含む6つのベースラインを比較し, コスト感受性とLCM故障モードを解析した。
その結果,すべての原則的トリガに対するα < 1, 診断精度の高い1600 LLM診断の92.9%が接地スコア>=0.75に到達し, 異常スコア駆動型リスク関数がPareto AUCの約1桁の選択肢を支配していることがわかった。
関連論文リスト
- MemRiskBench: Trace-Aware Risk-Preserving Evaluation for Long-Horizon LLM Agents [5.605743575854166]
MemRiskBenchは、完全なトレースログを持ち、パス/フェイルパスにLLM-as-judgeを含まない120文字のスクリプトベンチマークである。
リスク保存サブセットセレクタは、トレーサグラウンド決定性特徴を用いたリスクタイプカバレッジとハイリスク検出を保持する。
すべてのエピソード、トレース、スコアリング実装、セレクタがリリースされ、再現可能な評価と、デプロイされたLDMエージェントのリスク評価をサポートする。
論文 参考訳(メタデータ) (2026-09-14T03:31:19Z) - Retrieval-Guided Fine-Tuning as Noisy Estimation: Risk bounds and Architectural Analysis [1.381684956393831]
Retrieval-Guided Fine-Tuning (RAG-FT)は、検索したデータをトレーニング対象に直接組み込むが、トレーニング中のノイズ検索の統計的結果は理論的には不十分である。
RAG-FTが目標と全コーパスの両方のトレーニングよりも低いリスクを達成できる明示的な有限サンプル条件を導出する。
我々は、注意推定器のバイアスが正確な検索でも$(n2q)$とばらつき、OLSリスクはすべてのノイズに対して$(d/n)$であることを示した。
論文 参考訳(メタデータ) (2026-09-13T12:51:02Z) - CauTion: Knowing When to Trust LLMs for Ensemble Causal Discovery [51.07538881798502]
大規模言語モデル(LLM)は、統計的推論を補完する将来的なドメイン知識の源を提供する。
我々は、LLMドメイン知識を統計的因果探索アルゴリズムのアンサンブルに確実に統合するフレームワークであるCauTionを提案する。
CauTionは、データ中心とLLM拡張ベースラインの両方を一貫して上回る。
論文 参考訳(メタデータ) (2026-06-02T13:07:43Z) - Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。
NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
論文 参考訳(メタデータ) (2026-05-21T16:45:31Z) - Variational Neural Belief Parameterizations for Robust Dexterous Grasping under Multimodal Uncertainty [5.4872967954342675]
リスクに敏感なPOMDPは、スケールの低さ、勾配に基づく最適化、条件付き値-アット・リスクの推定といった粒子フィルタの信念を使用する。
代わりに、潜在接触パラメータとオブジェクトのポーズに対する変分推論として把握獲得を定式化し、微分可能なガウス混合による信念を表現する。
論文 参考訳(メタデータ) (2026-04-28T17:40:49Z) - Beyond the Attention Stability Boundary: Agentic Self-Synthesizing Reasoning Protocols [6.357772907811544]
SSRP(Self- Synthesizing Reasoning Protocols)は、アーキテクチャ計画と手続き実行の分離を実装するメタ認知フレームワークである。
提案する実験層は,浅電流に基づく検索パイロット,高エントロピーSOP,セマンティックハイジャック3ホップ多要素合成タスクの3種類である。
以上の結果から,GPT 5.4の非定常バニラ基準線が0.1%に崩壊し,SSRPは715X耐力限界を達成した。
論文 参考訳(メタデータ) (2026-04-27T14:13:30Z) - LLM Readiness Harness: Evaluation, Observability, and CI Gates for LLM/RAG Applications [51.56484100374058]
評価をデプロイメント決定ワークフローに変換するLLMおよびRAGアプリケーションのための準備性ハーネスを提案する。
このシステムは、最小限のAPI契約の下で、自動ベンチマーク、OpenTelemetryオブザーバビリティ、CI品質ゲートを組み合わせる。
チケットルーティングとBEIRタスクのハーネスを、完全なAzureマトリックスカバレッジで評価する。
論文 参考訳(メタデータ) (2026-03-28T18:03:32Z) - Information Fidelity in Tool-Using LLM Agents: A Martingale Analysis of the Model Context Protocol [69.11739400975445]
モデルコンテキストプロトコル(MCP)エージェントにおけるエラー蓄積を解析するための最初の理論的枠組みを紹介する。
累積歪みが線形成長と高確率偏差を$O(sqrtT)$で表すことを示す。
主な発見は、意味重み付けは歪みを80%減らし、周期的再接地は、エラー制御の約9ステップごとに十分である。
論文 参考訳(メタデータ) (2026-02-10T21:08:53Z) - Mitigating Spurious Correlations in NLI via LLM-Synthesized Counterfactuals and Dynamic Balanced Sampling [0.0]
自然言語推論(NLI)モデルは、意味論的推論よりも、素早い相関にしばしば依存する。
既存の緩和戦略は、しばしば高いアノテーションコストを発生させるか、微調整中に破滅的な忘れを引き起こす。
これらの制限に対処する自動化されたスケーラブルなパイプラインを提案する。
論文 参考訳(メタデータ) (2025-12-20T18:30:54Z) - Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
生成のための教師なし共形推論フレームワークを提案する。
我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。
その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
論文 参考訳(メタデータ) (2025-09-26T23:40:47Z) - Ensuring Safety in an Uncertain Environment: Constrained MDPs via Stochastic Thresholds [28.4976864705409]
本稿では,マルコフ決定過程(CMDP)をしきい値に制約し,未知かつ不確実な環境下での強化学習の安全性を目標とした。
我々は、不確実かつ動的環境との相互作用から採取したGrowingWindow推定器を利用して閾値を推定し、悲観的・楽観的閾値(SPOT)を設計する。
SPOTは悲観的および楽観的なしきい値設定の両方で強化学習を可能にする。
論文 参考訳(メタデータ) (2025-04-07T11:58:19Z) - Provably Efficient CVaR RL in Low-rank MDPs [58.58570425202862]
リスクに敏感な強化学習(RL)について検討する。
本稿では, CVaR RLにおける探索, 搾取, 表現学習の相互作用のバランスをとるための, 新たなアッパー信頼境界(UCB)ボーナス駆動アルゴリズムを提案する。
提案アルゴリズムは,各エピソードの長さが$H$,アクション空間が$A$,表現の次元が$d$であるような,エプシロン$最適CVaRのサンプル複雑性を実現する。
論文 参考訳(メタデータ) (2023-11-20T17:44:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。