論文の概要: Uncovering and Understanding Hidden Dependencies in the LLM API Reseller Ecosystem via Prefix-Cache Side Channels

• arxiv url: http://arxiv.org/abs/2608.20732v1
• Date: Fri, 21 Aug 2026 04:35:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-24 14:49:32.376418
• Title: Uncovering and Understanding Hidden Dependencies in the LLM API Reseller Ecosystem via Prefix-Cache Side Channels
• Title（参考訳）: プリフィックスキャッシュサイドチャネルによるLLM APIリセラーエコシステムの隠れた依存性の解明と理解
• Abstract要約: LLM APIの再販は、現代のLLMサービスの重要なアクセス層となっている。 既存の研究は個々のリセラーを監査するが、リセラー全体で隠された依存関係をほとんど可視化しない。 CacheTracerは、このような隠された依存関係をAPIのみで測定する最初の方法です。
• 参考スコア（独自算出の注目度）: 14.313473801403404
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: LLM API resellers have become an important access layer to modern LLM services. However, multi-level resale creates an opaque supply chain: a user's request may traverse undisclosed upstream resellers, each of which can inspect or modify prompts and responses, inducing ecosystem-level confidentiality and integrity risks. Existing studies audit individual resellers, but provide little visibility into hidden dependencies across resellers. We present CacheTracer, the first API-only measurement of such hidden dependencies. Our key insight is to exploit prefix-cache reuse as a side channel to measure dependency via cache-reach relations. CacheTracer operationalizes this insight with two primitives: Flood populates fresh cache state through one endpoint, and Prove probes whether another can reuse it while excluding probe-created hits. We then conduct a real-world measurement study with CacheTracer on 39 reseller endpoints, sending 1.1 million API requests across 636 endpoint pairs. Our measurements reveal a deep, concentrated cache-reach structure: 37.1% of measured pairs exhibit shared cache reach, the containment order spans seven layers, and one cache reach is contained within at least 31 of other nodes. We further find that the recovered structure is model-specific. We also evaluate the validity of CacheTracer through both real-world consistency checks and controlled experiments. The results show its high reliability and accuracy. These findings reveal substantial hidden dependencies among seemingly independent API resellers. Such deep and concentrated dependencies can create a large potential blast radius, where a confidentiality or integrity failure along a common upstream path may affect users across multiple downstream resellers.
• Abstract（参考訳）: LLM APIの再販は、現代のLLMサービスの重要なアクセス層となっている。 しかし、マルチレベル再販は、不透明なサプライチェーンを生成する: ユーザの要求は、未開示の上流再販業者を横切り、それぞれがプロンプトや応答を検査または修正し、エコシステムレベルの機密性や整合性リスクを引き起こすことができる。 既存の研究は個々のリセラーを監査するが、リセラー全体で隠された依存関係をほとんど可視化しない。 CacheTracerは、このような隠された依存関係をAPIのみで測定する最初の方法です。 私たちの重要な洞察は、キャッシュとキャッシュの関係を通じて依存性を測定するために、サイドチャネルとしてプレフィックスとキャッシュの再利用を利用することです。 CacheTracerは、この洞察を2つのプリミティブで運用する。 Floodは1つのエンドポイントを通じて、新鮮なキャッシュ状態をポップアップする。 次に、39のリセラーエンドポイント上でCacheTracerを使って実世界の計測調査を行い、636のエンドポイントペア間で11万のAPIリクエストを送信する。 測定されたペアの37.1%は共有キャッシュリーチを示し、封じ込め順序は7層にまたがっており、1つのキャッシュリーチは他の31ノードに含まれている。 さらに、復元された構造がモデル固有であることが判明した。 また,実世界の整合性チェックと制御実験により,CacheTracerの有効性を評価する。 その結果,信頼性と精度が向上した。 これらの発見は、一見独立したAPI再販業者の間に、かなりの依存性が隠されていることを示している。 このような深く集中した依存関係は、共通の上流経路に沿った機密性や整合性障害が、複数の下流再販業者のユーザに影響を与えるような、大きな爆発半径を生み出す可能性がある。

関連論文リスト

• KeyPooling: Measuring Where LLM API Relay Paths Collapse Prompt Cache Isolation [53.952294884822955]
  大規模言語モデル(LLM)APIは、顧客の認証を別々に行うが、多くの場合、共有プロバイダ認証を通じて要求を転送する。 KeyPoolingは、キャッシュのルックアップと書き込みを通じて顧客のアイデンティティをトレースする測定方法である。 すべての顧客がプロバイダ強化されたドメインに入る必要があります。
  論文  参考訳（メタデータ） (2026-08-18T08:12:34Z)
• Governing the KV Cache: Preventing Timing Side-Channel Leakage in Multi-Tenant LLM Inference [0.0]
  キーバリュー(KV)キャッシュは、現代の大言語モデル(LLM)推論における主要なスループット最適化である。 3つの攻撃がそれを悪用し、保護されていないvLLMとSGに対する攻撃の成功率が最大100%に達する。 我々は3つの攻撃ファミリーのプレフィックスキャッシュパスに対処するガバナンス層であるKVGovを紹介する。
  論文  参考訳（メタデータ） (2026-08-10T07:47:57Z)
• Cache-Related Smells in GitLab CI/CD: Comprehensive Catalog, Automated Detection, and Empirical Evidence [1.6312989763677892]
  GitLab CI/CDには、キャッシュ関連の10の臭いの包括的なカタログがあります。 そこで本研究では,10種類の匂いを自動的に検出するCROSSERを提案する。
  論文  参考訳（メタデータ） (2026-04-20T07:02:36Z)
• Don't Break the Cache: An Evaluation of Prompt Caching for Long-Horizon Agentic Tasks [1.2292307778008844]
  本稿では,3大言語モデル(LLM)プロバイダ間でのプロンプトキャッシュの総合評価について述べる。 以上の結果から,プロンプトキャッシングによりAPIコストが45～80%削減され,プロバイダ間で13～31%短縮された。
  論文  参考訳（メタデータ） (2026-01-09T18:41:57Z)
• Auditing Prompt Caching in Language Model APIs [77.02079451561718]
  大規模言語モデル(LLM)における即時キャッシュによるプライバシリークについて検討する。 OpenAIを含む7つのAPIプロバイダのユーザ間でのグローバルキャッシュ共有を検出します。 OpenAIの埋め込みモデルがデコーダのみのトランスフォーマーであることの証拠が見つかりました。
  論文  参考訳（メタデータ） (2025-02-11T18:58:04Z)
• vCache: Verified Semantic Prompt Caching [95.16654660556975]
  本稿では,ユーザ定義エラー率保証を備えた最初の検証済みセマンティックキャッシュであるvCacheを提案する。 オンライン学習アルゴリズムを使用して、キャッシュされたプロンプト毎に最適な閾値を推定し、追加のトレーニングなしで信頼性の高いキャッシュ応答を可能にする。 我々の実験によると、vCacheは特定のエラー境界を一貫して満たし、最先端の静的な閾値と微調整された埋め込みベースラインより優れています。
  論文  参考訳（メタデータ） (2025-02-06T04:16:20Z)
• Efficient Inference of Vision Instruction-Following Models with Elastic Cache [76.44955111634545]
  我々は,命令追従型大規模視覚言語モデルの効率的なデプロイのための新しい戦略であるElastic Cacheを紹介する。 本稿では,冗長キャッシュを具現化する重要なキャッシュマージ戦略を提案する。 命令符号化では,キャッシュの重要性を評価するために周波数を利用する。 様々なLVLMの結果は、Elastic Cacheが効率を向上するだけでなく、言語生成における既存のプルーニングメソッドよりも優れていることを示している。
  論文  参考訳（メタデータ） (2024-07-25T15:29:05Z)
• Lazy Layers to Make Fine-Tuned Diffusion Models More Traceable [70.77600345240867]
  新たな任意の任意配置(AIAO)戦略は、微調整による除去に耐性を持たせる。 拡散モデルの入力/出力空間のバックドアを設計する既存の手法とは異なり,本手法では,サンプルサブパスの特徴空間にバックドアを埋め込む方法を提案する。 MS-COCO,AFHQ,LSUN,CUB-200,DreamBoothの各データセットに関する実証研究により,AIAOの堅牢性が確認された。
  論文  参考訳（メタデータ） (2024-05-01T12:03:39Z)
• Accelerating Deep Learning Classification with Error-controlled Approximate-key Caching [72.50506500576746]
  我々は、近似キーキャッシングと名付けた新しいキャッシングパラダイムを提案する。 近似キャッシュはDL推論の負荷を軽減し、システムのスループットを向上するが、近似誤差を導入する。 我々は古典的なLRUと理想的なキャッシュのキャッシュシステム性能を解析的にモデル化し、期待される性能のトレース駆動評価を行い、提案手法の利点を最先端の類似キャッシュと比較した。
  論文  参考訳（メタデータ） (2021-12-13T13:49:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。