論文の概要: Inference-Engine Fingerprinting Attacks are Practical: Exploring Model-Driven Environmental Discovery, Exploitation, and Escape

• arxiv url: http://arxiv.org/abs/2609.20614v1
• Date: Thu, 17 Sep 2026 15:59:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:54.364689
• Title: Inference-Engine Fingerprinting Attacks are Practical: Exploring Model-Driven Environmental Discovery, Exploitation, and Escape
• Title（参考訳）: 推論エンジンによるフィンガープリント攻撃は現実的 - モデル駆動型環境発見, 爆発, 脱出を探求する
• Abstract要約: モデルを実行する特定のエンジンを決定するために,モデルが一致していない場合,推論エンジンのフィンガープリントを行うことができることを示す。 エージェントハーネスによって、モデルがそれらの指紋を利用してローカルエンジンを識別できることを実証する。 我々は、フィンガープリント攻撃をより困難にするため、推論エンジンを変更できるいくつかの方法について議論した。
• 参考スコア（独自算出の注目度）: 8.284409529512718
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Frontier AI models are rapidly gaining the ability to exploit vulnerabilities in complex pieces of software. The risk is not theoretical, as evidenced by recent sandbox escapes performed by frontier models at OpenAI and Anthropic. Discussions of how to sandbox inference stack components often focus on components other than the inference engine itself (e.g., network proxies or code execution environments). However, the inference engine is an attractive target for a misaligned model. For example, if a model can trigger exploits in that engine merely by generating specially-crafted output tokens, the model can initiate a multi-step, to-the-bare-metal exploit chain in the engine, without relying on vulnerabilities in other components of the inference stack, and without assistance from externally-provided, maliciously-crafted input tokens. In this paper, we show that a misaligned model can perform inference engine fingerprinting to determine the specific engine (e.g., vLLM, SGLang) which executes the model. Once the engine has been fingerprinted, the model can leverage engine-specific exploits to take control of the engine using only carefully-selected output tokens. We provide concrete examples of model fingerprints in five popular engines, and demonstrate how realistic agentic harnesses allow a model to leverage those fingerprints to identify the local engine. We also describe a proof-of-concept, to-the-bare-metal exploit chain that originates from a fingerprinted (and subsequently compromised) inference engine. We conclude by discussing several ways that inference engines could be changed to make fingerprinting attacks more difficult.
• Abstract（参考訳）: 最先端のAIモデルは、複雑なソフトウェアで脆弱性を悪用する能力が急速に向上している。 このリスクは理論的なものではなく、OpenAIとAnthhropicでフロンティアモデルによって実施された最近のサンドボックスエスケープによって証明されている。 推論スタックコンポーネントをサンドボックスする方法に関する議論は、しばしば推論エンジン自身(例えば、ネットワークプロキシやコード実行環境)以外のコンポーネントに焦点を当てる。 しかし、推論エンジンは不整合モデルにとって魅力的なターゲットである。 例えば、特別な出力トークンを生成するだけで、モデルがエンジン内のエクスプロイトをトリガーできる場合、モデルは、推論スタックの他のコンポーネントの脆弱性に頼ることなく、外部から提供され、悪意のある入力トークンの助けなしに、エンジン内のマルチステップのto-the-bare-metalエクスプロイトチェーンを開始することができる。 本稿では,そのモデルを実行する特定のエンジン(例えば,vLLM,SGLang)を決定するために,不整合モデルが推論エンジンのフィンガープリントを実行可能であることを示す。 エンジンがフィンガープリントされると、エンジン固有のエクスプロイトを利用して、慎重に選択された出力トークンのみを使用してエンジンを制御できる。 5つの一般的なエンジンにおいて,モデル指紋の具体例を示し,モデルがそれらの指紋を利用して局所的なエンジンを識別できる実例を示した。 また、指紋付き(そしてその後侵害された)推論エンジンから派生した、概念実証、to-the-bare-metalエクスプロイトチェーンについても記述する。 我々は、フィンガープリント攻撃をより困難にするため、推論エンジンを変更できるいくつかの方法について議論した。

関連論文リスト

• Stealing Reasoning Traces from Proprietary LLM APIs [84.58379404903394]
  我々は、暗号化された推論トレースのためのスケーラブルな復号化ジェイルブレイクを開発する。 抗蒸留機構を回避し、敵がプロプライエタリなモデルの推論を抽出できるようにする。 それは必然的に、推論プロセス内に隠された有害な情報を明らかにします。
  論文  参考訳（メタデータ） (2026-08-10T17:24:50Z)
• A Behavioral Fingerprint for Large Language Models: Provenance Tracking via Refusal Vectors [43.11304710234668]
  安全アライメントによって引き起こされる行動パターンを活用する新しいフィンガープリントフレームワークを提案する。 76の子孫モデルを対象とした大規模識別タスクにおいて,本手法は正しいモデル群を同定する際の精度を100%向上する。 本稿では,このプライベートフィンガープリントを,公開で検証可能なプライバシー保護アーティファクトに変換するための理論的枠組みを提案する。
  論文  参考訳（メタデータ） (2026-02-10T05:57:35Z)
• Engineering Attack Vectors and Detecting Anomalies in Additive Manufacturing [0.13999481573773068]
  筆者らはCrealityのフラッグシップモデルK1 MaxとEnder 3の2種類のFDMシステムに対するサイバー攻撃について検討した。 我々の脅威モデルはマルチレイヤーのMan-in-the-Middle(MitM)侵入であり、敵はユーザインターフェースからプリンタファームウェアへのアップロード中にGコードファイルをインターセプトし、操作する。 実版印刷時に発生する構造化機械ログを解析する非教師なし侵入検知システム(IDS)を提案する。
  論文  参考訳（メタデータ） (2026-01-01T16:27:52Z)
• Every Step Counts: Decoding Trajectories as Authorship Fingerprints of dLLMs [63.82840470917859]
  本稿では,dLLMの復号化機構をモデル属性の強力なツールとして利用できることを示す。 本稿では、デコードステップ間の構造的関係を捉え、モデル固有の振る舞いをよりよく明らかにする、DDM(Directed Decoding Map)と呼ばれる新しい情報抽出手法を提案する。
  論文  参考訳（メタデータ） (2025-10-02T06:25:10Z)
• AuthPrint: Fingerprinting Generative Models Against Malicious Model Providers [5.450474861880874]
  本稿では,認証モデルの出力空間から隠れ指紋を抽出し,検知器を訓練する信頼性検証器を提案する。 検証中、この検出器は、特別なハードウェアやモデル修正を必要とせずに、新しい出力が認定されたモデルと一致しているかどうかを判断できる。 GANと拡散モデルの両方でFPR@95%TPRをほぼゼロとする実験を行った。
  論文  参考訳（メタデータ） (2025-08-06T12:17:38Z)
• Fingerprint Vector: Enabling Scalable and Efficient Model Fingerprint Transfer via Vector Addition [23.282821424581]
  我々はフィンガープリントベクトルと呼ばれる新しいメカニズムを提案する。 指紋をバックドアベースの微調整でベースモデルに埋め込み、タスク固有のパラメータデルタを指紋ベクトルとして抽出する。 キーデシダラタにまたがる直接注入に匹敵する、あるいは優れたパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2024-09-13T14:04:39Z)
• Stealth edits to large language models [76.53356051271014]
  モデルの編集可能性を評価するために、1つのメトリックを使用できることを示す。 また、ステルス攻撃に対する言語モデルの脆弱性を明らかにします。
  論文  参考訳（メタデータ） (2024-06-18T14:43:18Z)
• Model Pairing Using Embedding Translation for Backdoor Attack Detection on Open-Set Classification Tasks [63.269788236474234]
  バックドア検出のためのオープンセット分類タスクにモデルペアを用いることを提案する。 このスコアは、異なるアーキテクチャのモデルがあるにもかかわらず、バックドアの存在を示す指標であることを示している。 この技術は、オープンセット分類タスク用に設計されたモデル上のバックドアの検出を可能にするが、文献ではほとんど研究されていない。
  論文  参考訳（メタデータ） (2024-02-28T21:29:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。