論文の概要: ShadowPickle: Evading Machine Learning Model Scanners via Stealthy Pickle Deserialization Attacks

• arxiv url: http://arxiv.org/abs/2607.17503v1
• Date: Mon, 20 Jul 2026 03:18:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-21 18:48:37.488337
• Title: ShadowPickle: Evading Machine Learning Model Scanners via Stealthy Pickle Deserialization Attacks
• Title（参考訳）: ShadowPickle: ステルスなピクルスデシリアライズ攻撃による機械学習モデルスキャナのエベイディング
• Abstract要約: モデルホスティングハブは、信頼されたユーザ環境上でリモートコード実行を可能にするサプライチェーン攻撃に対して脆弱である。 攻撃者はしばしばモデルハブを介して悪意ある事前訓練MLモデル(PTM)を配布する。 我々は,SHADOWPICKLEと呼ばれるPTMとモデルハブに対する新たな攻撃を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Model hosting hubs (e.g., Hugging Face) are vulnerable to supply chain attacks that enable remote code execution on trusted user environments. Attackers often distribute malicious Pre-trained ML models (PTMs) via model hubs. In this paper, we present novel attacks against PTMs and model hubs called SHADOWPICKLE. SHADOWPICKLE includes three (3) stealthy pickle deserialization attacks that enable malicious behaviors and evade state-of-the-art (SOTA) model scanners. These attacks leverage the external module import mechanism of the Pickle Virtual Machine (VM) to execute malicious payloads during deserialization. Additionally, we provide PICKLEBENCH, a dynamic and extensible benchmark for automatically injecting SHADOWPICKLE into arbitrary benign PTM models. Our evaluation shows that SHADOWPICKLE evades ten SOTA scanners, and four model hubs. SHADOWPICKLE (Overwritten) has a 63% evasion rate across scanners, and up to 50% higher evasion rates than existing attacks. Besides, PICKLEBENCH is up to 25.6% more challenging than three SOTA benchmarks. Finally, we provide security recommendations for mitigating our attacks and improving the effectiveness of existing scanners. Our findings highlight the limitations of existing PTM scanners and suggest directions for improvements.
• Abstract（参考訳）: モデルホスティングハブ(例えばHugging Face)は、信頼されたユーザ環境上でリモートコード実行を可能にするサプライチェーン攻撃に対して脆弱である。 攻撃者はしばしばモデルハブを介して悪意ある事前訓練MLモデル(PTM)を配布する。 本稿では,SHADOWPICKLEと呼ばれるPTMとモデルハブに対する新たな攻撃について述べる。 SHADOWPICKLEには、3つのステルスなピクルスデシリアライズ攻撃が含まれており、悪意ある振る舞いを可能とし、最先端のSOTA(State-of-the-art)モデルスキャナーを回避する。 これらの攻撃は、ピクル仮想マシン(VM)の外部モジュールインポート機構を利用して、デシリアライズ時に悪意のあるペイロードを実行する。 さらに、任意の良性PTMモデルにSHADOWPICKLEを自動的に注入するための動的で拡張可能なベンチマークであるPICKLEBENCHを提供する。 SHADOWPICKLEは10個のSOTAスキャナーと4つのモデルハブを回避している。 SHADOWPICKLE (Overwritten)は、スキャナ間で63%の回避率を持ち、既存の攻撃よりも50%高い回避率を持つ。 さらに、PICKLEBENCHは3つのSOTAベンチマークよりも25.6%も難しい。 最後に、攻撃を軽減し、既存のスキャナーの有効性を改善するためのセキュリティレコメンデーションを提供する。 本研究は,既存のPTMスキャナの限界を強調し,改善の方向性を示唆するものである。

関連論文リスト

• FlipGuard: Defending Large Language Models Against Quantization-Conditioned Backdoor Attacks [11.27557330957057]
  量子化に先立ってモデル重みを選択的に摂動するプロアクティブディフェンスフレームワークであるFlipGuardを紹介する。 ウェイトパターンと量子化境界の間の敵の正確なアライメントを壊すことで、FlipGuardはトレーニングデータへのアクセスやサンプルのトリガを必要とせずに、バックドアのアクティベーションを抑える。
  論文  参考訳（メタデータ） (2026-06-27T15:02:42Z)
• Transferable Backdoor Attacks for Code Models via Sharpness-Aware Adversarial Perturbation [37.091275561451695]
  既存のコードモデルに対するバックドア攻撃は、転送可能性とステルスネスの基本的なトレードオフに直面します。 シャープネス対応トランスファー可能なバックドア(STAB)を提案する。 STABは、完全な犠牲者データを必要とすることなく、転送可能性とステルス性の両方を達成する。
  論文  参考訳（メタデータ） (2026-02-11T08:26:47Z)
• MISLEADER: Defending against Model Extraction with Ensembles of Distilled Models [56.09354775405601]
  モデル抽出攻撃は、クエリアクセスを通じてブラックボックスモデルの機能を複製することを目的としている。 既存のディフェンスでは、アタッカークエリにはオフ・オブ・ディストリビューション(OOD)サンプルがあることを前提としており、不審な入力を検出し破壊することができる。 OOD仮定に依存しない新しい防衛戦略であるMISLEADERを提案する。
  論文  参考訳（メタデータ） (2025-06-03T01:37:09Z)
• Zero-Trust Artificial Intelligence Model Security Based on Moving Target Defense and Content Disarm and Reconstruction [4.0208298639821525]
  本稿では,モデル動物園とファイル転送機構を通じてAIモデルを配布する際の課題について検討する。 モデルファイルの物理的なセキュリティは重要であり、厳格なアクセス制御とアタック防止ソリューションを必要とする。 これは、既知のAIモデルリポジトリとHuggingFaceモデル動物園からの実際のマルウェア攻撃に対して検証されている間、100%の武装解除率を示す。
  論文  参考訳（メタデータ） (2025-03-03T17:32:19Z)
• A Formal Analysis of SCTP: Attack Synthesis and Patch Verification [7.331862211069559]
  SCTP設計の安全性について検討し,厳密なアプローチを形式的手法に根ざして検討した。 攻撃者は仲間のポートとIPを隠蔽できる外部者であり、攻撃者は悪意のあるピアであるEvil-Server、攻撃者が捕獲して再生できるReplay、パケットを変更できないOn-Path、攻撃者がピア間のチャネルを制御するOn-Pathの4つのモデルを定義します。
  論文  参考訳（メタデータ） (2024-03-08T20:38:56Z)
• Model Supply Chain Poisoning: Backdooring Pre-trained Models via Embedding Indistinguishability [61.549465258257115]
  そこで我々は,PTMに埋め込まれたバックドアをモデルサプライチェーンに効率的に移動させる,新しい,より厳しいバックドア攻撃であるTransTrojを提案する。 実験の結果,本手法はSOTAタスク非依存のバックドア攻撃より有意に優れていた。
  論文  参考訳（メタデータ） (2024-01-29T04:35:48Z)
• Data-Free Hard-Label Robustness Stealing Attack [67.41281050467889]
  本稿では,Data-Free Hard-Label Robustness Stealing(DFHL-RS)攻撃について紹介する。 ターゲットモデルのハードラベルをクエリするだけで、モデル精度とロバスト性の両方を盗むことができる。 本手法は,AutoAttackに対して77.86%,頑健な39.51%の精度を実現する。
  論文  参考訳（メタデータ） (2023-12-10T16:14:02Z)
• Isolation and Induction: Training Robust Deep Neural Networks against Model Stealing Attacks [51.51023951695014]
  既存のモデル盗難防衛は、被害者の後部確率に偽りの摂動を加え、攻撃者を誤解させる。 本稿では,モデルステルス防衛のための新規かつ効果的なトレーニングフレームワークである分離誘導(InI)を提案する。 モデルの精度を損なうモデル予測に摂動を加えるのとは対照的に、我々はモデルを訓練して、盗むクエリに対して非形式的なアウトプットを生成する。
  論文  参考訳（メタデータ） (2023-08-02T05:54:01Z)
• DRSM: De-Randomized Smoothing on Malware Classifier Providing Certified Robustness [58.23214712926585]
  我々は,マルウェア検出領域の非ランダム化スムース化技術を再設計し,DRSM(De-Randomized Smoothed MalConv)を開発した。 具体的には,実行可能ファイルの局所構造を最大に保ちながら,逆数バイトの影響を確実に抑制するウィンドウアブレーション方式を提案する。 私たちは、マルウェア実行ファイルの静的検出という領域で、認証された堅牢性を提供する最初の人です。
  論文  参考訳（メタデータ） (2023-03-20T17:25:22Z)
• Omni: Automated Ensemble with Unexpected Models against Adversarial Evasion Attack [35.0689225703137]
  機械学習に基づくセキュリティ検出モデルは、敵の回避攻撃の影響を受けやすい。 我々はオムニ(Omni)と呼ばれる手法を提案し、「予期せぬモデル」のアンサンブルを作成する方法を探る。 5種類の敵対的回避攻撃による研究において,オムニは防衛戦略として有望なアプローチであることを示す。
  論文  参考訳（メタデータ） (2020-11-23T20:02:40Z)
• Adversarial EXEmples: A Survey and Experimental Evaluation of Practical Attacks on Machine Learning for Windows Malware Detection [67.53296659361598]
  EXEmplesは、比較的少ない入力バイトを摂動することで、機械学習に基づく検出をバイパスすることができる。 我々は、機械学習モデルに対する過去の攻撃を包含し、一般化するだけでなく、3つの新たな攻撃を含む統一フレームワークを開発する。 これらの攻撃はFull DOS、Extended、Shiftと呼ばれ、DOSヘッダをそれぞれ操作し、拡張し、第1セクションの内容を変更することで、敵のペイロードを注入する。
  論文  参考訳（メタデータ） (2020-08-17T07:16:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。