論文の概要: FailureAtlas: A Taxonomy of Failure Modes in Multi-Provider LLM Serving Infrastructure

• arxiv url: http://arxiv.org/abs/2607.17525v1
• Date: Mon, 20 Jul 2026 03:58:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-21 18:48:37.494862
• Title: FailureAtlas: A Taxonomy of Failure Modes in Multi-Provider LLM Serving Infrastructure
• Title（参考訳）: FailureAtlas: マルチプロバイダLLM実行インフラストラクチャにおける障害モードの分類
• Abstract要約: フェーとは,エホリギン層(ネットワーク/トランスポート,ストリーミング/プロトコール,ステート/セッション,モデルビヘイビア,ガバナンス/コスト)とエフェデテクタビリティ(ロード対サイレント)によって障害を分類する2軸分類法である。 最も運用的に深刻な障害は、HTTP200を返却し、標準のヘルスチェックをすべてパスし、アプリケーション状態の破損を検知するためにセマンティックレベルの可観測性を必要とする方法です。
• 参考スコア（独自算出の注目度）: 0.6117371161379209
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-provider LLM gateways reverse proxies that route, load-balance, and rate-limit requests across foundation-model APIs have become critical production infrastructure. Yet the failure modes specific to this architectural layer remain undocumented, scattered across issue trackers and post-mortems with no unifying framework. We introduce \fa{}, a two-axis taxonomy that classifies failures by their \emph{origin layer} (Network/Transport, Streaming/Protocol, State/Session, Model~Behavior, Governance/Cost) and their \emph{detectability} (Loud vs.\ Silent). We populate this taxonomy with five verified catalog entries sourced from public bug reports and first-hand stress testing, each accompanied by a mechanistic root-cause analysis. Three entries include standalone reproduction scripts. Our principal finding is that the most operationally severe failures are \emph{silent}: they return HTTP~200, pass every standard health check, and corrupt application state in ways that require semantic-level observability to detect. Two such silent failures a concurrency race condition causing history loss and a streaming index collision corrupting tool-call payloads were discovered first-hand during \cb{} evaluation campaigns.
• Abstract（参考訳）: ファンデーションモデルAPI間のルーティング、ロードバランス、レート制限要求を逆プロキシとするマルチプロデューサのLLMゲートウェイは、重要な運用インフラストラクチャになっています。 しかし、このアーキテクチャ層に特有の障害モードは文書化されておらず、イシュートラッカや反省会に散らばっていて、統一フレームワークはありません。 ネットワーク/トランスポート、ストリーミング/プロトコール、状態/セッション、モデル~振る舞い、ガバナンス/コスト)とemph{detectability}(ラウド対)によって障害を分類する2軸分類法である \fa{} を紹介します。 サイレント(Silent)。 我々は,この分類を,公的なバグ報告とストレステストから得られた5つの検証済みカタログに,それぞれに機械的根本原因分析を伴って導入する。 3つの項目には、スタンドアロンの複製スクリプトが含まれる。 最も運用上の重大な障害は、HTTP~200を返却し、標準のヘルスチェックをすべてパスし、アプリケーション状態の破損を検知するためにセマンティックレベルの可観測性を必要とする、という、‘emph{silent}’です。 このような2つのサイレント障害は, 履歴損失の原因となる並行競合条件と, ストリーミングインデックスの衝突によるツールコールペイロードの破損を引き起こした。

関連論文リスト

• DCFA: Dual-view Causal-inspired Attribution for Failure Reasoning in LLM-based Multi-agent Systems [61.11435469308521]
  大規模言語モデルシステムにおける障害帰属のためのトレーニング不要フレームワークDCFAを提案する。 DCFAは、システムトレースから構造化因果インスパイアされた依存性グラフを構築するグローバルモジュールを統合する。 実験の結果、DCFAは最先端のベースラインよりもステップレベルの精度を最大8.27%向上することが示された。
  論文  参考訳（メタデータ） (2026-09-04T05:29:31Z)
• Automata from Agent Traces: Failure and Next-Step Prediction [1.16693435589939]
  トレースコーパス全体を1つのコンパクト有限状態機械 (FSM) に分解し, LLM エージェントの挙動のための構造基板として機能する。 障害予測では、州ごとの行動特徴がAUROCで最大0.94まで到達し、オンラインのモニターが失敗点を通過点より上回っている。
  論文  参考訳（メタデータ） (2026-08-24T17:58:01Z)
• PluginEval: A Diagnostic Benchmark for Fine-Grained Error Attribution in Function Calling [11.1017602726296]
  大規模言語モデルは、ますます自律的なエージェントとして機能している。 現在のベンチマークには3つの制限がある。 Evalは、2段階のフレームワークで構築されたベンチマークである。
  論文  参考訳（メタデータ） (2026-08-09T13:25:54Z)
• Fantastic Adaptive Taxonomies and How to Use Them [100.20614173157708]
  AdaMASTは、実行トレースをコンパクトでエビデンスに基づく障害分類に変換する。 コードには手書きのコードはなく、人間による注釈もない。 エージェント・システム・サーチでは、失敗候補の分類コード診断が自由形式より優れている。
  論文  参考訳（メタデータ） (2026-07-17T17:41:16Z)
• The Patchwork Problem in LLM-Generated Code [3.4562767039451674]
  本稿では,リポジトリアーティファクトのグラフ表現に対する一貫性不変量として構造コヒーレンスを定式化する。 2つのフロンティアモデルに対する実証的な評価によると、構造的失敗の大部分は、型チェック、テスト、SASTを完全に回避している。
  論文  参考訳（メタデータ） (2026-07-09T23:01:54Z)
• Can Code Specify a System Precisely Enough to Formally Verify It? [0.0]
  本報告では,業務用レストラン・ポイント・オブ・セールシステムの支払ワークフローを実運用ソフトウェアで評価する。 コアプロトコルは、正確に定義された障害モデルの下で手作りのラインアクティベートされたモデルに対して正しい。 生産用サンドボックスの1つのプローブは、全リカバリはしごを到達不能にする応答形状のばらつきを露呈した。
  論文  参考訳（メタデータ） (2026-07-06T13:39:00Z)
• Where Do Deep-Research Agents Go Wrong? Span-Level Error Localization in Agent Trajectories [51.22051230894794]
  最終回答に基づく評価は、エージェントが成功するかどうかを示すが、どの部分の軌道が答えを信頼できないかを示すものではない。 2つのエージェントフレームワーク、3つのバックボーンモデル、3つのベンチマークから2,790の実際のトラジェクトリを収集し、生ログをセマンティックスパンに変換し、エキスパートレビューを通じて有害なエラースパンを注釈付けします。 我々は,エージェントの主張を追跡するクレーム中心の監査フレームワークであるDRIFTを提案する。
  論文  参考訳（メタデータ） (2026-06-01T10:50:26Z)
• OrgForge: A Multi-Agent Simulation Framework for Verifiable Synthetic Corporate Corpora [0.0]
  本稿では,厳密な物理認識境界を強制するオープンソースのマルチエージェントシミュレーションフレームワークOrgForgeを紹介する。 アクターローカルクロックは、すべてのアーティファクトタイプにわたって因果タイムスタンプの正しさを強制する。 N日間のシミュレーションを実行すると、OrgForgeはインターリーブされたSlackスレッド、チケット、Confluenceページ、Gitのプルリクエスト、Eメールを生成する。
  論文  参考訳（メタデータ） (2026-03-16T09:02:24Z)
• Arbiter: Detecting Interference in LLM Agent System Prompts [0.0]
  Arbiterは、システムプロンプト内の干渉パターンを検出するために、形式的評価ルールとマルチモデルLCMスカーリングを組み合わせたフレームワークである。 Claude Code (Anthropic), Codex CLI (OpenAI), Gemini CLI (Google)の3つの主要なコーディングエージェントシステムに適用される。
  論文  参考訳（メタデータ） (2026-03-09T22:29:47Z)
• ProbeLLM: Automating Principled Diagnosis of LLM Failures [89.44131968886184]
  ProbeLLMはベンチマークに依存しない自動探索フレームワークで、個々の障害から構造的障害モードへの脆弱性発見を増大させる。 ProbeLLMは、検証可能なテストケースにプローブを制限し、ツールの拡張された生成と検証を活用することで、信頼性のある証拠として障害発見を根拠とする。
  論文  参考訳（メタデータ） (2026-02-13T14:33:13Z)
• AgentRx: Diagnosing AI Agent Failures from Execution Trajectories [9.61742219198197]
  構造化されたAPI、インシデント管理、オープンなWeb/ファイルタスクにまたがる115の障害トラジェクトリのベンチマークをリリースする。 各トラジェクトリには、臨界障害ステップと、基底理論から派生したクロスドメイン障害分類のカテゴリが注釈付けされている。 本稿では,ドメインに依存しない自動診断フレームワークであるAgentRXについて述べる。
  論文  参考訳（メタデータ） (2026-02-02T18:54:07Z)
• Why Does the LLM Stop Computing: An Empirical Study of User-Reported Failures in Open-Source LLMs [50.075587392477935]
  オープンソースのDeepSeek、Llama、Qwenのエコシステムから、705の現実世界の失敗に関する大規模な実証的研究を行った。 ホワイトボックスオーケストレーションは、モデルアルゴリズムの欠陥からデプロイメントスタックのシステム的脆弱性へと、信頼性のボトルネックを移動させます。
  論文  参考訳（メタデータ） (2026-01-20T06:42:56Z)
• Where LLM Agents Fail and How They can Learn From Failures [62.196870049524364]
  大規模言語モデル(LLM)エージェントは、複雑なマルチステップタスクの解決において有望であることを示す。 単一ルート原因エラーがその後の決定を通じて伝播する、障害のカスケードに対する脆弱性を増幅する。 現在のシステムは、モジュール的で体系的な方法でエージェントエラーを包括的に理解できるフレームワークを欠いている。 AgentErrorTaxonomyは、メモリ、リフレクション、計画、アクション、システムレベルの操作にまたがる障害モードのモジュール分類である。
  論文  参考訳（メタデータ） (2025-09-29T18:20:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。