論文の概要: Lifecycle-Aware Dynamic Analysis for Secure ML Model Execution

• arxiv url: http://arxiv.org/abs/2606.19023v1
• Date: Wed, 17 Jun 2026 12:49:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-18 17:16:51.165055
• Title: Lifecycle-Aware Dynamic Analysis for Secure ML Model Execution
• Title（参考訳）: 安全MLモデル実行のためのライフサイクル対応動的解析
• Authors: Gabriele Digregorio, Marco Di Gennaro, Francesco Pastore, Stefano Zanero, Stefano Longari, Michele Carminati,
• Abstract要約: トレーニング済み機械学習(ML)モデルへの依存度が高まっているため、新たなアタックサーフェスが導入されている。 最近の脆弱性は、しばしば既存の防御をバイパスして、悪意のある振る舞いをモデルアーティファクトに埋め込むことができることを示している。 本稿では,攻撃がホストシステムのモデル実行に与える影響に着目したソリューションを提案する。
• 参考スコア（独自算出の注目度）: 5.18451633489276
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The growing reliance on pre-trained Machine Learning (ML) models has introduced new attack surfaces. Recent vulnerabilities demonstrate that malicious behavior can be embedded within model artifacts, often bypassing existing defenses. Current model-scanning solutions primarily rely on static, format-specific rules or known attack signatures, which limit their ability to generalize across frameworks and to detect novel exploitation paths. In contrast, we propose a solution that focuses on the effects an attack has on the host system executing the model and builds on foundational intuitions about ML model execution. In particular, we observe that ML models operate within well-defined lifecycle phases and that, within each phase, interactions with the host system are highly structured and predictable. We translate these intuitions into Moat, a dynamic lifecycle-aware approach for securing ML model execution, and instantiate this design in Re-Moat, our reference implementation. We evaluate Re-Moat across multiple ML frameworks using 77,974 real-world model artifacts from the Hugging Face Hub, 31 Proofs-of-Concept (PoCs) from CVEs, and 334 models from a state-of-the-art dataset, and compare it against state-of-the-art model-scanning solutions. Our results show that our approach detects all evaluated attack classes while maintaining a close-to-zero false-positive rate, validating our intuitions and motivating dynamic analysis for securing ML model execution.
• Abstract（参考訳）: トレーニング済み機械学習(ML)モデルへの依存度が高まっているため、新たなアタックサーフェスが導入されている。 最近の脆弱性は、しばしば既存の防御をバイパスして、悪意のある振る舞いをモデルアーティファクトに埋め込むことができることを示している。 現在のモデルスキャンソリューションは主に静的なフォーマット固有のルールや既知のアタックシグネチャに依存しており、フレームワークをまたいで一般化し、新しいエクスプロイトパスを検出する能力を制限する。 対照的に,攻撃がホストシステムに与える影響に着目し,MLモデルの実行に関する基礎的な直観に基づいて構築する手法を提案する。 特に、MLモデルが明確に定義されたライフサイクルフェーズ内で動作し、各フェーズにおいてホストシステムとのインタラクションが高度に構造化され、予測可能であることを観察する。 これらの直感を、MLモデル実行を保証する動的ライフサイクル認識アプローチであるMoatに変換し、参照実装であるRe-Moatでこの設計をインスタンス化する。 我々は、Hugging Face Hubの77,974の現実世界のモデルアーティファクト、CVEの31のProofs-of-Concept(PoC)、最先端のデータセットの334のモデルを使用して、複数のMLフレームワークにわたるRe-Moatを評価し、最先端のモデルスキャンソリューションと比較した。 提案手法は, 疑似偽陽性率を維持しながら, 評価された攻撃クラスをすべて検出し, 直観を検証し, MLモデル実行を確保するための動的解析の動機付けを行う。

関連論文リスト

• Malicious ML Model Detection by Learning Dynamic Behaviors [0.0]
  悪意のある攻撃は、例えばモデルローディング中に、信頼されたユーザー環境上で任意のコードを実行することができる。 動的解析と機械学習(ML)を用いて良性PTMの挙動を学習し、悪意のあるPTMを検出する新しい手法を提案する。 我々は,Hugging FaceやMalHugなど,さまざまなソースから25,000以上の良性および悪意のあるPTMを用いてDynaHugを評価する。
  論文  参考訳（メタデータ） (2026-04-21T13:12:42Z)
• Reshaping Action Error Distributions for Reliable Vision-Language-Action Models [69.38615670891038]
  ロボット操作において、視覚言語アクション(VLA)モデルは、一般化可能でスケーラブルなロボットポリシーを学ぶための有望なパラダイムとして登場した。 連続動作型VLAモデルに焦点をあて、トレーニング中の動作誤差分布を再構成することにより、従来のMSEベースの回帰を超越する。 複数の代表的VLAアーキテクチャ上で、標準、少数ショット、ノイズの多い設定にまたがるアプローチを評価します。
  論文  参考訳（メタデータ） (2026-02-04T05:37:09Z)
• Adversarially Robust and Interpretable Magecart Malware Detection [1.3266402517619371]
  Magecartのスキミング攻撃は、オンライン決済システムにおけるクライアント側のセキュリティとユーザ信頼に対する重大な脅威として浮上している。 本稿では,実世界のデータセットを用いた機械学習(ML)モデルの比較研究を通じて,Magecart攻撃の堅牢かつ説明可能な検出を実現するという課題に対処する。
  論文  参考訳（メタデータ） (2025-11-06T15:13:29Z)
• Secure Confidential Business Information When Sharing Machine Learning Models [15.330821160739232]
  CPI(Confidential Property Inference)攻撃は、共有機械学習(ML)モデルを利用して、モデルプロバイダのプライベートモデルトレーニングデータの機密性を明らかにする。 既存の防御は、CPI攻撃がターゲットとする特定のMLモデルに適応しないと仮定することが多い。 本稿では,現実の敵の応答性を明示的に考慮した,新たな防御手法を提案する。
  論文  参考訳（メタデータ） (2025-09-19T18:49:49Z)
• Continuous Management of Machine Learning-Based Application Behavior [3.316045828362788]
  機械学習モデルの非機能特性は、監視、検証、維持されなければならない。 MLベースのアプリケーションの安定な非機能動作を保証することを目的としたマルチモデルアプローチを提案する。 非機能的プロパティフェアネスに着目した実世界のシナリオで,我々のソリューションを実験的に評価した。
  論文  参考訳（メタデータ） (2023-11-21T15:47:06Z)
• SecurityNet: Assessing Machine Learning Vulnerabilities on Public Models [74.58014281829946]
  本研究では, モデル盗難攻撃, メンバーシップ推論攻撃, パブリックモデルにおけるバックドア検出など, いくつかの代表的な攻撃・防御の有効性を解析する。 実験により,これらの攻撃・防御性能は,自己学習モデルと比較して,公共モデルによって大きく異なることが示された。
  論文  参考訳（メタデータ） (2023-10-19T11:49:22Z)
• Predictable MDP Abstraction for Unsupervised Model-Based RL [93.91375268580806]
  予測可能なMDP抽象化(PMA)を提案する。 元のMDPで予測モデルを訓練する代わりに、学習されたアクション空間を持つ変換MDPでモデルを訓練する。 我々はPMAを理論的に解析し、PMAが以前の教師なしモデルベースRLアプローチよりも大幅に改善することを示す。
  論文  参考訳（メタデータ） (2023-02-08T07:37:51Z)
• Training Meta-Surrogate Model for Transferable Adversarial Attack [98.13178217557193]
  クエリーを許可しない場合、ブラックボックスモデルに対する逆攻撃を考える。 この設定では、多くの手法が代理モデルを直接攻撃し、得られた敵の例をターゲットモデルを騙すために転送する。 メタサロゲートモデル(Meta-Surrogate Model:MSM)は,このモデルに対する攻撃が,他のモデルに容易に転送できることを示す。
  論文  参考訳（メタデータ） (2021-09-05T03:27:46Z)
• SafeAMC: Adversarial training for robust modulation recognition models [53.391095789289736]
  通信システムには、Deep Neural Networks(DNN)モデルに依存する変調認識など、多くのタスクがある。 これらのモデルは、逆方向の摂動、すなわち、誤分類を引き起こすために作られた知覚不能な付加音に影響を受けやすいことが示されている。 本稿では,自動変調認識モデルのロバスト性を高めるために,逆方向の摂動を伴うモデルを微調整する逆方向トレーニングを提案する。
  論文  参考訳（メタデータ） (2021-05-28T11:29:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。