論文の概要: Route Before Response: Fail-Closed Routing for LLM-Enabled Customer-Service Software
- arxiv url: http://arxiv.org/abs/2611.07534v1
- Date: Thu, 05 Nov 2026 06:44:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.571389
- Title: Route Before Response: Fail-Closed Routing for LLM-Enabled Customer-Service Software
- Title(参考訳): 応答前の経路: LLM対応顧客サービスソフトウェアのためのフェイルクローズドルーティング
- Abstract要約: RouteBRは、1つのモデルコールがプライマリサービスアクションと登録されたオブジェクトを提案するコントローラである。
実際の金融機関における秘密要求パターンから600件のプライバシ保護シナリオを構築した。
166件の非ディスパッチMAINおよびFLIPケースにおいて、RouteBRは偽のディスパッチを発生しない。
- 参考スコア(独自算出の注目度): 18.36425902702306
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM-enabled customer-service software in financial institutions must choose a downstream service before responding. Classifiers and LLM routers can identify a relevant label or destination, but a composed application must still verify dispatch permission and entity registration. We study this integration problem as boundary-aware pre-response routing. We present RouteBR, a controller in which one model call proposes a primary service action and registered object, then deterministic code checks identifiers and versioned rules before dispatch or a specified non-dispatch outcome. Lower-ranked candidates cannot replace a blocked primary route. We construct 600 privacy-preserving scenarios from recurring confidential-request patterns at a real financial institution; three engineers jointly reviewed the scenarios and labels. On the 200-case CONFIRM MAIN split, RouteBR reaches 97.5% final-path exact match. A matched one-call baseline given the same rules reaches 95.5%, whereas a diagnostic baseline without the rule program obtains 94.0% action accuracy but only 41.0% final-path exact match. Across 166 non-dispatch MAIN and FLIP cases, RouteBR produces no false dispatch. The artifact pairs all 1,960 prediction rows with raw receipts while excluding gold and reviewer fields from model requests. These results support separating model proposals from code-owned, replayable execution. Our implementation is available at https://github.com/YgcCoder/RouteBR.
- Abstract(参考訳): 金融機関におけるLLM対応のカスタマーサービスソフトウェアは、応答する前にダウンストリームサービスを選択する必要がある。
分類器とLLMルータは関連するラベルや宛先を識別できるが、構成されたアプリケーションはディスパッチ許可とエンティティ登録を検証しなければならない。
本稿では,この統合問題を境界対応型プレレスポンスルーティングとして検討する。
RouteBRは、1つのモデルコールがプライマリサービスアクションと登録されたオブジェクトを提案し、決定論的コードはディスパッチ前または特定の非ディスパッチ結果の前に識別子とバージョニングされたルールをチェックします。
下級候補は、ブロックされた一次ルートを置き換えることはできない。
3人のエンジニアが共同でシナリオとラベルをレビューし、実際の金融機関で秘密要求パターンを繰り返すことによって600のプライバシ保護シナリオを構築しました。
200ケースのCONFIRM MAINスプリットでは、RouteBRは97.5%の最終パスの正確な試合に到達した。
同じ規則が与えられた一致したワンコールベースラインは95.5%に達する一方、ルールプログラムのない診断ベースラインは94.0%のアクション精度を得るが、最終パスの正確な一致は41.0%しか得られない。
166件の非ディスパッチMAINおよびFLIPケースにおいて、RouteBRは偽のディスパッチを発生しない。
アーティファクトは1,960行の予測行と生のレシートをペアリングし、モデル要求から金とレビュアーフィールドを除外する。
これらの結果は、コード所有で再生可能な実行からモデル提案を分離するのをサポートする。
私たちの実装はhttps://github.com/YgcCoder/RouteBRで公開されています。
関連論文リスト
- Governing Enterprise AI Traffic at Scale: Design and Operation of a Policy-Driven, Multi-Vendor LLM Gateway on Envoy [0.029316801942271303]
PayPalにおけるCosmos LLM Gatewayの設計と運用について述べる。
ゲートウェイは12,000人以上の開発者と数百のビジネスユースケースに対応している。
99.999%で100モデル以上のトークンを1日に約200億枚処理している。
論文 参考訳(メタデータ) (2026-10-26T14:33:48Z) - Before They Can Solve: Predicting Post-Training Coding-Agent Performance from Base Models [87.94969284553706]
エンド・ツー・エンドのpass@$K$は、成功した振る舞いがベースモデルのディストリビューションにすでに現れるかどうかをテストする。
コールドスタートからハーネスを駆動するために、ベースチェックポイントを必要としない3つのスクリーンを構築します。
3つの画面はいずれも、ポストトレーニング後のSWE-bench Verified pass@$1$と密接に一致して、コホートをランク付けする。
論文 参考訳(メタデータ) (2026-10-07T17:37:19Z) - FlexRouter: Learning Complementary Model Sets for Flexible LLM Routing [71.04470934007537]
既存のルーティングメソッドはLLMを独立してスコア付けし、上位$kのモデルを選択する。
これはモデル相関を無視し、厳格な計算予算を強制する。
モデリングを明示的にモデル化するルーティングフレームワークであるFlexを提案します。
論文 参考訳(メタデータ) (2026-09-29T21:44:05Z) - From Routing Signals to Selective Review: Visual regrounding in MoE VLMs [48.07726955428853]
視覚言語モデル(VLM)は偽の視覚的前提を受け入れ、対象の物体の色、数、位置、状態について疑問に答える。
本稿では,Mixture-of-Experts (MoE)VLMにおける内部ルーティング決定を活用するための最初のフレームワークを提案する。
提案手法は,MoE VLMによってすでに作成されており,低コストな検出と選択的な視覚的リグラウンドを支援することができる。
論文 参考訳(メタデータ) (2026-09-29T17:49:07Z) - Auditing Agent Actions through Query-Conditioned Attribution [7.93056778736348]
既存の属性の定式化は、多様な監査対象に対して疑問特異的なトレースを提供しない。
我々は、自然言語監査クエリを入力とする新しいタスクである、クエリ条件付きエージェントアクション属性を定式化する。
提案手法は,オープンウェイトベースラインよりも推論コストの低いソースとエビデンスを一貫して達成する。
論文 参考訳(メタデータ) (2026-09-27T15:37:05Z) - Trust, but Validate the Instrument: Auditing AI-Generated RTL Verification Plans on Authored Security-Regression Proxies [2.8082364345698387]
SecTB-RTLは、31のタスクと124のハードウェアセキュリティレグレッションをカバーする監査可能なフレームワークである。
決定論的非AIベースラインは資源制限の増大で36、75、78のミュータントを殺した。
論文 参考訳(メタデータ) (2026-09-17T07:54:54Z) - AgentProv: Auditing Agentic LLM API Providers via Tool-use Policy Probes [38.37599802008238]
商用LLM APIは特定の基盤モデルを宣伝するが、提供されたバックボーンは静かに代用され、定量化され、あるいはラップされることがある。
既存の監査はすべて、テキスト出力チャネルからバックボーンアイデンティティを決定する。
本稿では,AgentProv(AgentProv)について紹介する。
論文 参考訳(メタデータ) (2026-08-30T08:22:12Z) - From Sampled Outcomes to Capability Distributions: Rethinking Supervision for LLM Routing [79.19755531338872]
既存のルーティングメソッドは、クエリに対するモデルの単一応答を、トレーニングの能力ラベルとして扱う。
この仮定はルーティング管理にシステマティックノイズを導入し、学習されたルーティングポリシーの信頼性を低下させることを示す。
本稿では, DARS(Distribution-Aware Routing Supervision)を提案する。
論文 参考訳(メタデータ) (2026-06-05T05:42:00Z) - TwinRouterBench: Fast Static and Live Dynamic Evaluation for Realistic Agentic LLM Routing [24.63595849324157]
2トラックのステップレベルのルーティングベンチマークであるTwinBenchを紹介した。
静的トラックは、SWE-bench、BFCL、mtRAG、QMSum、PinchBenchの520インスタンスから970のルータ可視プレフィックスを提供する。
ダイナミックトラックは、500ケースのSWE-bench Verifiedスイートでルーターを走らせるハーネスを提供する。
論文 参考訳(メタデータ) (2026-05-14T08:58:59Z) - LLM Readiness Harness: Evaluation, Observability, and CI Gates for LLM/RAG Applications [51.56484100374058]
評価をデプロイメント決定ワークフローに変換するLLMおよびRAGアプリケーションのための準備性ハーネスを提案する。
このシステムは、最小限のAPI契約の下で、自動ベンチマーク、OpenTelemetryオブザーバビリティ、CI品質ゲートを組み合わせる。
チケットルーティングとBEIRタスクのハーネスを、完全なAzureマトリックスカバレッジで評価する。
論文 参考訳(メタデータ) (2026-03-28T18:03:32Z) - DoVer: Intervention-Driven Auto Debugging for LLM Multi-Agent Systems [48.971606069204825]
DoVerは、大規模言語モデル(LLM)ベースのマルチエージェントシステムのための介入駆動デバッグフレームワークである。
ターゲットの介入を通じて、アクティブな検証によって仮説生成を増強する。
DoVerは失敗試験の18~28%を成功させ、最大16%のマイルストーンを達成し、失敗仮説の30~60%を検証または否定する。
論文 参考訳(メタデータ) (2025-12-07T09:23:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。