論文の概要: An Embarrassingly Simple Detector for Model Extraction Attacks in Large Language Model API Traffic

• arxiv url: http://arxiv.org/abs/2606.05725v1
• Date: Thu, 04 Jun 2026 05:33:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-05 22:39:44.576324
• Title: An Embarrassingly Simple Detector for Model Extraction Attacks in Large Language Model API Traffic
• Title（参考訳）: 大規模言語モデルAPIトラフィックにおけるモデル抽出攻撃のための恥ずかしいほど単純な検出器
• Authors: Shuze Liu, Qianwen Guo, Yushun Dong,
• Abstract要約: 大規模言語モデル(LLM)はホストAPIを通じてますますデプロイされ、モデルの抽出がモデルのオーナシップとサービスのセキュリティに対する現実的な脅威となる。 我々は、良性キャリブレーションされた交通窓分布試験としてモデル抽出監視を定式化する。 入力クエリをセマンティック空間に埋め込み、それらの集合分布が過去の良性トラフィックから逸脱するかどうかをテストする。
• 参考スコア（独自算出の注目度）: 16.151531550259993
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly deployed through hosted APIs, making model extraction a practical threat to model ownership and service security. However, individual extraction queries often resemble benign requests, and existing evaluations often focus on single-query anomaly scoring or pure benign-versus-attacker user settings. We formulate model extraction monitoring as benign-calibrated traffic-window distribution testing and show that an embarrassingly simple detector is effective: embed incoming queries into a semantic space and test whether their aggregate distribution deviates from historical benign traffic. We instantiate the detector with maximum mean discrepancy (MMD), using only benign-vs-benign comparisons to set the decision threshold. We evaluate on fourteen attacker-normal query pairs from four extraction scenarios and compare with adapted PRADA, SEAT, CAP, DATE, and marginal Mahalanobis baselines. Across three random seeds, MMD achieves 0.3% benign FPR, 100.0% pure-attacker TPR, 90.5% average TPR over attacker fractions, and 95.1% balanced accuracy. These results show that benign-calibrated distribution testing is a strong empirical baseline for model extraction detection in both user-level and mixed multi-user LLM API traffic. Code is released at: https://github.com/LabRAI/mmd-llm-mea-detection.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、ホストAPIを通じてますますデプロイされ、モデルの抽出がモデルのオーナシップとサービスのセキュリティに対する現実的な脅威となる。 しかし、個々の抽出クエリは良性要求によく似ており、既存の評価では、単一クエリの異常スコアや純粋な良性攻撃者ユーザ設定に重点を置いていることが多い。 我々は,モデル抽出監視を良性校正型トラフィックウィンドウ分布試験として定式化し,入力クエリを意味空間に埋め込んで,それらの集合分布が歴史的良性トラフィックから逸脱するかどうかをテストするという,恥ずかしいほど単純な検出方法が有効であることを示す。 決定しきい値を設定するために、良性-vs-良性比較のみを用いて、最大平均誤差 (MMD) で検出器をインスタンス化する。 4つの抽出シナリオから14の攻撃的正規クエリ対を評価し,適応型PRADA, SEAT, CAP, DATE, マハラノビスベースラインと比較した。 3つのランダムな種全体で、MDDは0.3%の良性FPR、100.0%の純攻撃性TPR、90.5%の平均TPR、95.1%の精度を達成している。 これらの結果から, 良性校正分布試験は, ユーザレベルと混在するマルチユーザLLM APIトラフィックの両方において, モデル抽出検出のための強力な経験的ベースラインであることが示唆された。 コードは、https://github.com/LabRAI/mmd-llm-mea-detectionでリリースされている。

関連論文リスト

• Beyond Raw Detection Scores: Markov-Informed Calibration for Boosting Machine-Generated Text Detection [105.14032334647932]
  機械生成テキスト(MGT)は偽情報やフィッシングなどのリスクを生じさせ、信頼性の高い検出の必要性を強調している。 MGTの統計的に区別可能な特徴を抽出するメトリックベース法は、オーバーフィットしがちな複雑なモデルベース法よりも実用的であることが多い。 本稿では,2つのコンテキスト検出スコアの関係をモデル化したマルコフ情報を用いたスコアキャリブレーション手法を提案する。
  論文  参考訳（メタデータ） (2026-02-08T16:06:12Z)
• Model Equality Testing: Which Model Is This API Serving? [59.005869726179455]
  APIプロバイダは、基本モデルの定量化、透かし、微調整を行い、出力分布を変更することができる。 モデル平等テスト(Model Equality Testing)は,2サンプルテスト問題である。 単純な文字列カーネル上に構築されたテストは、歪みの範囲に対して77.4%の中央値を達成する。
  論文  参考訳（メタデータ） (2024-10-26T18:34:53Z)
• COFT-AD: COntrastive Fine-Tuning for Few-Shot Anomaly Detection [19.946344683965425]
  FSADの課題に対処する新しい手法を提案する。 重みをモデル化するために、大規模なソースデータセットで事前トレーニングされたモデルを使用します。 提案手法の有効性を示すために,3つの制御されたADタスクと4つの実世界のADタスクに対して,数発の異常検出を行った。
  論文  参考訳（メタデータ） (2024-02-29T09:48:19Z)
• Low-Cost High-Power Membership Inference Attacks [15.240271537329534]
  メンバーシップ推論攻撃は、特定のデータポイントがモデルのトレーニングに使用されたかどうかを検出することを目的としている。 我々は,計算オーバーヘッドの少ない,堅牢なメンバシップ推論攻撃を行うための新しい統計的試験を設計する。 RMIAは、機械学習における実用的かつ正確なデータプライバシーリスク評価の基礎を成している。
  論文  参考訳（メタデータ） (2023-12-06T03:18:49Z)
• DetectGPT: Zero-Shot Machine-Generated Text Detection using Probability Curvature [143.5381108333212]
  大規模な言語モデルからサンプリングされたテキストは、モデルのログ確率関数の負の曲率領域を占有する傾向にあることを示す。 次に、与えられたLLMから通路が生成されるかどうかを判断するための新しい曲率ベースの基準を定義する。 我々は、モデルサンプル検出のための既存のゼロショット法よりもディテクターGPTの方が識別性が高いことを発見した。
  論文  参考訳（メタデータ） (2023-01-26T18:44:06Z)
• Suppressing Poisoning Attacks on Federated Learning for Medical Imaging [4.433842217026879]
  本稿では, ビザンチン障害に対する耐性を有する分散型外乱抑制法(DOS)を提案する。 提案手法は,異なるクライアントのローカルパラメータ更新間の距離を計算し,各クライアントに対してアウトラヤスコアを求める。 得られたアウトリーチスコアはソフトマックス関数を用いて正規化重みに変換され、局所パラメータの重み付け平均がグローバルモデル更新に使用される。
  論文  参考訳（メタデータ） (2022-07-15T00:43:34Z)
• Learnable Locality-Sensitive Hashing for Video Anomaly Detection [44.19433917039249]
  ビデオ異常検出(英語: Video Anomaly Detection, VAD)とは、通常サンプルのみが利用可能なトレーニングセットで発生していない異常事象を特定することを指す。 本稿では,すべての標準データを効率よく,かつ柔軟に活用するための,距離に基づく新しいVAD手法を提案する。
  論文  参考訳（メタデータ） (2021-11-15T15:25:45Z)
• Unsupervised Anomaly Detection with Adversarial Mirrored AutoEncoders [51.691585766702744]
  本稿では,識別器のミラー化ワッサースタイン損失を利用して,よりセマンティックレベルの再構築を行う逆自動エンコーダの変種を提案する。 我々は,再建基準の代替として,異常スコアの代替尺度を提案した。 提案手法は,OOD検出ベンチマークにおける異常検出の最先端手法よりも優れている。
  論文  参考訳（メタデータ） (2020-03-24T08:26:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。