論文の概要: Practical Secrets Extraction against Black-box LLMs

• arxiv url: http://arxiv.org/abs/2609.36941v1
• Date: Tue, 29 Sep 2026 07:52:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.294641
• Title: Practical Secrets Extraction against Black-box LLMs
• Title（参考訳）: ブラックボックスLDMに対する実用秘密抽出
• Abstract要約: 大規模言語モデル(LLM)は、CodexやClaude Codeのような自律的なコーディングエージェントをますます強力にします。 しかし、既存の抽出監査は、主にモデルの重みやトークン確率へのアクセスを前提としている。 商用のAPIベースのLCMに対して,出力のみアクセス下でのブラックボックス秘密抽出フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 43.83301139239
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) increasingly power autonomous coding agents such as Codex and Claude Code, yet their training corpora may contain confidential credentials exposed in public repositories or collected from private development artifacts, creating risks of memorization and subsequent leakage. Existing extraction audits, however, largely assume access to model weights or token probabilities. In this work, we present a black-box secret extraction framework for commercial, API-based LLMs under output-only access. It comprises (i) \emph{Cross-Validated Secret Knowledge Distillation}, which uses semantics-preserving prompt variants, response cross-validation, and provider-specific format filtering to distill secret-relevant behavior into a local white-box proxy; and (ii) \emph{Proxy-Guided Secret Extraction and Candidate Filtering}, which combines truncated top-$p$ sampling with local token entropy, $N$-gram frequency profiling, and provider-specific structural priors. On controlled API-key benchmarks, our framework improves recovery effectiveness and real-key rates over representative baselines while reducing extraction latency. A responsible real-world evaluation further recovers masked provider-specific credentials from three independently deployed black-box LLM systems spanning OpenAI and Claude Code, showing that memorized secrets can be exposed under output-only access.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、CodexやClaude Codeのような自律的なコーディングエージェントをますます強力にしますが、トレーニングコーパスには、公開リポジトリに公開されたり、プライベート開発アーティファクトから収集された機密情報が含まれ、記憶とその後の漏洩のリスクを生み出します。 しかし、既存の抽出監査は、主にモデルの重みやトークン確率へのアクセスを前提としている。 本研究では,商用のAPIベースのLCMを対象としたブラックボックス秘密抽出フレームワークを,出力のみのアクセス下で提案する。 構成 i) セマンティックス保存プロンプト変種、応答クロスバリデーション、プロバイダ固有のフォーマットフィルタリングを使用して、シークレット関連動作をローカルなホワイトボックスプロキシに蒸留するemph{Cross-Validated Secret Knowledge Distillation} truncated top-$p$ sample with local token entropy, $N$-gram frequency profiling, and provider-specific Structure priors. (ii) \emph{Proxy-Guided Secret extract and Candidate Filtering}。 制御されたAPIキーベンチマークでは,抽出遅延を低減しつつ,リカバリ効率と代表ベースラインに対するリアルタイムレートを改善した。 責任ある実世界の評価により、OpenAIとClaude Codeにまたがる3つの独立したデプロイされたブラックボックスLLMシステムから、マスクされたプロバイダ固有の認証がさらに回復される。

関連論文リスト

• Caught in the Act(ivation): Toward Pre-Output and Multi-Turn Detection of Credential Exfiltration by LLM Agents [0.0]
  出力トークンが出力される前に,アクティベーションプローブがクレデンシャルアクセスを検出できるかどうかを検討する。 第3に,マルチターンフィルタを累積情報フロー問題として扱う。 その結果、クレデンシャル・エミッション・ディフェンスは、事前出力監視、カナリア検出、時間的漏洩会計を併用すべきであることが示唆された。
  論文  参考訳（メタデータ） (2026-06-02T18:53:17Z)
• Beyond Indistinguishability: Measuring Extraction Risk in LLM APIs [12.914333266854102]
  LLM APIにおけるデータ抽出の防止には,識別不可能性が十分でなく,必要もないことを示す。 我々は、抽出と識別不可能性に基づくプライバシ間のプライバシゲーム分離を形式化する。 モデルトレーニング、APIアクセス、デコード構成を横断する実行可能な緩和ガイドラインを提供します。
  論文  参考訳（メタデータ） (2026-04-20T18:00:22Z)
• Privacy-Preserving Prompt Injection Detection for LLMs Using Federated Learning and Embedding-Based NLP Classification [0.0]
  本稿では,フェデレート学習と埋め込みに基づく分類に基づくプライバシー保護型インジェクション検出フレームワークを提案する。 その結果, 生データを露出することなく効果的なインジェクション検出が可能であることが示唆された。
  論文  参考訳（メタデータ） (2025-11-15T17:11:14Z)
• SMA: Who Said That? Auditing Membership Leakage in Semi-Black-box RAG Controlling [50.66950115630554]
  Retrieval-Augmented Generation(RAG)とそのMultimodal Retrieval-Augmented Generation(MRAG)は、大規模言語モデル(LLM)の知識カバレッジと文脈理解を著しく向上させる。 しかし、検索とマルチモーダル融合によるコンテンツの曖昧さは、既存のメンバーシップ推論手法を事前学習、外部検索、ユーザ入力に確実に属性付けできないようにし、プライバシー漏洩の説明責任を損なう。 本稿では,検索制御機能を備えた半ブラックボックス設定において,生成したコンテンツの微粒なソース属性を実現するための,SMA (Source-aware Membership Audit) を提案する。
  論文  参考訳（メタデータ） (2025-08-12T17:32:24Z)
• Beyond Next Token Probabilities: Learnable, Fast Detection of Hallucinations and Data Contamination on LLM Output Distributions [60.43398881149664]
  LLM出力シグナチャの効率的な符号化を訓練した軽量アテンションベースアーキテクチャであるLOS-Netを紹介する。 非常に低い検出レイテンシを維持しながら、さまざまなベンチマークやLLMで優れたパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2025-03-18T09:04:37Z)
• LeakAgent: RL-based Red-teaming Agent for LLM Privacy Leakage [78.33839735526769]
  LeakAgentは、プライバシー漏洩のための新しいブラックボックスレッドチームフレームワークである。 我々のフレームワークは、敵のプロンプトを生成するための攻撃エージェントとして強化学習を通じてオープンソースのLLMを訓練する。 我々は,LeakAgentが既存のルールベースのデータ抽出手法と,システムリーク時の自動手法を著しく上回っていることを示す。
  論文  参考訳（メタデータ） (2024-12-07T20:09:01Z)
• Decoding Secret Memorization in Code LLMs Through Token-Level Characterization [6.92858396995673]
  コード大言語モデル(LLM)は、プログラムコードの生成、理解、操作において顕著な能力を示した。 LLMは必然的に機密情報の記憶につながり、深刻なプライバシーリスクを生じさせる。 トークン確率に基づいて,コードLLMが生成した実・偽の秘密を特徴付ける新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-10-11T14:39:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。