論文の概要: Vulnerable Models in the AI Supply Chain: An Empirical Study of Adoption, Propagation, and Usage Patterns

• arxiv url: http://arxiv.org/abs/2610.12893v1
• Date: Fri, 09 Oct 2026 02:27:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.356471
• Title: Vulnerable Models in the AI Supply Chain: An Empirical Study of Adoption, Propagation, and Usage Patterns
• Title（参考訳）: AIサプライチェーンにおける脆弱性モデル--導入、伝播、利用パターンの実証的研究
• Abstract要約: InsightDBでフラグ付けされたHuggingFace上での16,977の脆弱性モデルの使用と伝播について検討した。 私たちの分析によると、これらの脆弱性のあるモデルは、公開されているにもかかわらず、5,000以上のオープンソースリポジトリの21,000以上のコードロケーションに表示されています。 開発者はしばしばセキュリティパラメータをバイパスしたり、寛容なフレームワークのデフォルトに信頼を委譲したりします。
• 参考スコア（独自算出の注目度）: 0.5352699766206809
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rapid integration of Artificial Intelligence (AI) models has established a complex supply chain, but many of these shared artifacts harbor severe vulnerabilities such as insecure serialization and architectural backdoors. While prior efforts have extensively scanned model registries to flag malicious artifacts, a critical gap remains in understanding how developers actually adopt and integrate these unsafe models into downstream software systems. We bridge this gap by conducting a large-scale empirical study on the usage and propagation of 16,977 known vulnerable models on HuggingFace flagged by InsightDB. We track their prevalence across GitHub repositories, software packages, fine-tuning chains, and deployed applications. Our analysis reveals that, despite being publicly flagged, these vulnerable models appear in over 21,000 code locations across more than 5,000 open-source repositories, with 3,757 distinct flagged models (22.1\%) actively referenced in at least one project. To understand how these models are integrated in code and identify recurring usage patterns, we categorize and analyze the recurring patterns surrounding them via a customized pipeline that combines Code Property Graphs extraction with a tailored Frequent Subgraph Mining approach. Across all patterns, we find no evidence of provenance verification or model sanitization logic, with developers frequently bypassing security parameters or delegating trust to permissive framework defaults. These findings underscore that scanning model files alone is insufficient, highlighting the urgent need for context-aware security analysis and stricter integration guardrails at the application layer of the AI supply chain.
• Abstract（参考訳）: 人工知能(AI)モデルの迅速な統合は複雑なサプライチェーンを確立しているが、これらの共有アーティファクトの多くは、安全でないシリアライゼーションやアーキテクチャのバックドアといった深刻な脆弱性を抱えている。 以前の取り組みでは、悪意のあるアーティファクトにフラグを付けるためにモデルレジストリを広範囲にスキャンしていたが、開発者がこれらの安全でないモデルを下流のソフトウェアシステムに実際に導入し、統合する方法を理解する上で、重大なギャップが残っている。 我々は、InsightDBによってフラグ付けされたHuggingFace上で16,977の既知の脆弱性モデルの使用と伝播に関する大規模な実証的研究を行うことで、このギャップを橋渡しする。 GitHubリポジトリ、ソフトウェアパッケージ、微調整チェーン、デプロイされたアプリケーションにまたがるそれらの頻度を追跡します。 我々の分析によると、これらの脆弱性のあるモデルは、公開フラグ付けされているにもかかわらず、5,000以上のオープンソースリポジトリに21,000以上のコードロケーションに表示され、3,757の異なるフラグ付きモデル(22.1\%)が少なくとも1つのプロジェクトでアクティブに参照されている。 これらのモデルがどのようにコードに統合され、繰り返し使用されるパターンを特定するかを理解するために、コードプロパティグラフ抽出と調整された周波数サブグラフマイニングのアプローチを組み合わせた、カスタマイズされたパイプラインを通じて、それらを取り巻く繰り返しパターンを分類し、分析する。 開発者はしばしばセキュリティパラメータをバイパスしたり、寛容なフレームワークのデフォルトに信頼を委譲したりします。 これらの結果は、モデルファイルのスキャンだけでは不十分であることを強調し、AIサプライチェーンのアプリケーション層における、コンテキスト対応のセキュリティ分析とより厳格な統合ガードレールの必要性を強調している。

関連論文リスト

• Hunting Vulnerability Variants in AI Infra: Measurement and Reference-Driven Detection [13.80230589366637]
  本稿では,AI赤外線における脆弱性変異の測定について述べる。 688のGitHubリポジトリと251の公開脆弱性を分析します。 我々は、既知のケースから転送可能な脆弱性セマンティクスを抽出する参照駆動型マルチエージェントフレームワークINFRASCOPEを提案する。
  論文  参考訳（メタデータ） (2026-05-19T16:07:41Z)
• Dynamic analysis enhances issue resolution [53.50448142467294]
  DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。 テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。 Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
  論文  参考訳（メタデータ） (2026-03-23T14:48:54Z)
• CREDIT: Certified Ownership Verification of Deep Neural Networks Against Model Extraction Attacks [54.04030169323115]
  我々は、モデル抽出攻撃(MEA)に対する認証された所有権検証であるCREDITを紹介する。 DNNモデル間の類似性を定量化し、実用的な検証しきい値を提案し、このしきい値に基づいてオーナシップ検証を行うための厳密な理論的保証を提供する。 我々は、さまざまなドメインやタスクにまたがるいくつかの主流データセットに対するアプローチを広範囲に評価し、最先端のパフォーマンスを実現した。
  論文  参考訳（メタデータ） (2026-02-23T23:36:25Z)
• An Empirical Study on Remote Code Execution in Machine Learning Model Hosting Ecosystems [4.409447722044799]
  モデルローディング中の信頼できないコードの実行は、モデル共有プラットフォームに対するセキュリティ上の懸念である。 5つの主要なモデル共有プラットフォームにわたるカスタムモデルローディングプラクティスに関する、最初の大規模な実証的研究を行います。
  論文  参考訳（メタデータ） (2026-01-20T17:13:42Z)
• OpenRT: An Open-Source Red Teaming Framework for Multimodal LLMs [36.57820295876294]
  MLLMの安全性評価のための統一的,モジュール型,高スループットのRed-teamingフレームワークであるOpenRTを紹介した。 OpenRTのコアとなるのは,5次元にわたるモジュール分離を可能にする対角カーネルを導入することで,自動化された再チームのパラダイムシフトだ。 このフレームワークは、ホワイトボックス勾配、マルチモーダル摂動、高度なマルチエージェント進化戦略など、37の多様な攻撃手法を統合している。
  論文  参考訳（メタデータ） (2026-01-04T16:41:33Z)
• Every Step Counts: Decoding Trajectories as Authorship Fingerprints of dLLMs [63.82840470917859]
  本稿では,dLLMの復号化機構をモデル属性の強力なツールとして利用できることを示す。 本稿では、デコードステップ間の構造的関係を捉え、モデル固有の振る舞いをよりよく明らかにする、DDM(Directed Decoding Map)と呼ばれる新しい情報抽出手法を提案する。
  論文  参考訳（メタデータ） (2025-10-02T06:25:10Z)
• Deep Learning Models for Robust Facial Liveness Detection [56.08694048252482]
  本研究では,現代のアンチスプーフィング手法の欠陥に対処する新しい深層学習モデルを用いて,ロバストな解を提案する。 テクスチャ解析と実際の人間の特性に関連する反射特性を革新的に統合することにより、我々のモデルは、顕著な精度でレプリカと真の存在を区別する。
  論文  参考訳（メタデータ） (2025-08-12T17:19:20Z)
• A Rusty Link in the AI Supply Chain: Detecting Evil Configurations in Model Repositories [9.095642871258455]
  本研究は,Hugging Face上での悪意のある構成に関する最初の包括的研究である。 特に、元々モデルの設定を意図した設定ファイルは、不正なコードを実行するために利用することができる。
  論文  参考訳（メタデータ） (2025-05-02T07:16:20Z)
• Models Are Codes: Towards Measuring Malicious Code Poisoning Attacks on Pre-trained Model Hubs [10.252989233081395]
  本稿では,Hugging Faceプラットフォームに着目した,事前訓練されたモデルハブに対する悪意のあるコード中毒攻撃に関する最初の系統的研究について述べる。 我々は、データセット読み込みスクリプト抽出、モデルデシリアライズ、パターンマッチングを組み合わせたHugging Face用に設計されたエンドツーエンドパイプラインであるMalHugを提案する。 MalHugは705Kモデルと176Kデータセットを監視し、91の悪意のあるモデルと9の悪意のあるデータセット読み込みスクリプトを発見した。
  論文  参考訳（メタデータ） (2024-09-14T08:47:22Z)
• Enhancing Multiple Reliability Measures via Nuisance-extended Information Bottleneck [77.37409441129995]
  トレーニングデータに制限がある現実的なシナリオでは、データ内の多くの予測信号は、データ取得のバイアスからより多く得る。 我々は,相互情報制約の下で,より広い範囲の摂動をカバーできる敵の脅威モデルを考える。 そこで本研究では,その目的を実現するためのオートエンコーダベーストレーニングと,提案したハイブリッド識別世代学習を促進するための実用的なエンコーダ設計を提案する。
  論文  参考訳（メタデータ） (2023-03-24T16:03:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。