論文の概要: Exposing Vulnerability Monoculture Through Systemic Adversarial Robustness

• arxiv url: http://arxiv.org/abs/2610.27353v1
• Date: Mon, 19 Oct 2026 22:30:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.534809
• Title: Exposing Vulnerability Monoculture Through Systemic Adversarial Robustness
• Title（参考訳）: 系統的対向ロバスト性による脆弱性の排除
• Abstract要約: 本稿では、モデルプールの脆弱性の共有を、それを利用するために必要な攻撃の多様性を通じて、新たな尺度である、SAR(Systemic Adversarial Robustness)を紹介する。 視覚と大言語モデルの共有脆弱性を実証的に検証し,その共有脆弱性曲線を特徴付ける。 本フレームワークは,モデル集団のより厳密な敵対的評価のための測定可能なターゲットとして,脆弱性のモノカルチャーを確立することを目的とする。
• 参考スコア（独自算出の注目度）: 12.444071418968107
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Beneath the apparent diversity of foundation models lies an increasingly homogeneous technical stack of common training pipelines, distillation methods, and data. These shared algorithmic choices can expose an otherwise distinct model ecosystem to concentrated risks leading to a vulnerability monoculture. Yet current practice in assessing adversarial robustness is restricted to individual robustness scores and attack transfer rates, leaving open the unexplored fundamental question: how many attacks suffice for catastrophic widespread compromise? In this paper, we investigate the empirical nature of shared vulnerabilities within a model pool and introduce Systemic Adversarial Robustness (SAR), a novel measure of shared vulnerability of a model pool through the attack diversity needed to exploit it. Specifically, SAR interpolates between single-attack transferability and independent per-model robustness: small values reveal a vulnerability monoculture, whereas large values indicate that failures are dispersed across models. We theoretically formulate SAR as a partial set-cover problem with provable approximation guarantees---enabling the development of scalable algorithms to empirically measure the systemic adversarial robustness. We empirically test the shared vulnerability of vision and large language models and characterize their shared collective vulnerability curve. Specifically, we demonstrate that model pools distilled from DeepSeek-R1 and Claude Opus 4.6 exhibit lower estimated systemic robustness than their corresponding parent pools, revealing a potential systemic cost of frontier-model distillation. Our framework seeks to establish vulnerability monoculture as a measurable target for a more wholistic adversarial evaluation of model populations.
• Abstract（参考訳）: 基礎モデルの明らかな多様性の下には、共通の訓練パイプライン、蒸留方法、データの均質な技術的スタックがある。 これらの共有アルゴリズムの選択は、他の異なるモデルエコシステムを、脆弱性のモノカルチャーにつながる集中的なリスクに公開することができる。 しかし、現在の敵のロバスト性を評価する実践は、個々のロバスト性スコアと攻撃移動率に制限されている。 本稿では,モデルプールにおける共有脆弱性の実証的性質について検討し,それを利用するために必要な攻撃多様性を通じて,モデルプールの共有脆弱性の新たな尺度であるSAR(Systemic Adversarial Robustness)を導入する。 特に、SARはシングルアタックトランスファービリティと独立したモデルごとのロバストネスを補間する:小さな値は脆弱性のモノカルチャーを示し、大きな値はモデル間で障害が分散していることを示している。 我々はSARを証明可能な近似保証を持つ部分的集合被覆問題として定式化し、システム的対向ロバスト性を実証的に測定するスケーラブルなアルゴリズムの開発を促進する。 視覚と大言語モデルの共有脆弱性を実証的に検証し,その共有脆弱性曲線を特徴付ける。 具体的には,DeepSeek-R1およびClaude Opus 4.6から蒸留したモデルプールが,対応する親プールよりも低いシステムロバスト性を示し,フロンティアモデル蒸留のシステムコストが期待できることを示した。 本フレームワークは,モデル集団のより厳密な敵対的評価のための測定可能なターゲットとして,脆弱性のモノカルチャーを確立することを目的とする。

関連論文リスト

• On the MIA Vulnerability Gap Between Private GANs and Diffusion Models [51.53790101362898]
  GAN(Generative Adversarial Networks)と拡散モデルが高品質な画像合成のための主要なアプローチとして登場している。 差分自己生成モデルが直面するプライバシーリスクの統一的および実証的分析について述べる。
  論文  参考訳（メタデータ） (2025-09-03T14:18:22Z)
• Exploiting Edge Features for Transferable Adversarial Attacks in Distributed Machine Learning [54.26807397329468]
  この研究は、分散ディープラーニングシステムにおいて、これまで見過ごされていた脆弱性を探究する。 中間的特徴をインターセプトする敵は、依然として深刻な脅威となる可能性がある。 本稿では,分散環境に特化して設計されたエクスプロイト戦略を提案する。
  論文  参考訳（メタデータ） (2025-07-09T20:09:00Z)
• Benchmarking the Spatial Robustness of DNNs via Natural and Adversarial Localized Corruptions [49.546479320670464]
  本稿では,セグメンテーションモデルの空間的ロバスト性を評価するための特別な指標を紹介する。 本稿では,モデルロバスト性をより深く理解する手法として,地域対応型マルチアタック・アタック・アタック・アタック・アタック・アタック・アタック・アタック・アタック・アタック・アタック・アタック・アタック・アタック分析を提案する。 その結果、モデルがこれらの2種類の脅威に異なる反応を示すことが明らかとなった。
  論文  参考訳（メタデータ） (2025-04-02T11:37:39Z)
• Robust Knowledge Distillation in Federated Learning: Counteracting Backdoor Attacks [12.227509826319267]
  フェデレートラーニング(FL)は、データのプライバシを保持しながら、複数のデバイス間で協調的なモデルトレーニングを可能にする。 悪意のある参加者が世界モデルに侵入できるバックドア攻撃の影響を受けやすい。 本稿では,制約的仮定に頼らずにモデル整合性を高める新しい防御機構であるロバスト知識蒸留(RKD)を提案する。
  論文  参考訳（メタデータ） (2025-02-01T22:57:08Z)
• Towards Million-Scale Adversarial Robustness Evaluation With Stronger Individual Attacks [26.422616504640786]
  本稿では,ロジット空間ではなく,確率空間における対角的マージン・アタック(Probability Margin Attack, PMA)を提案する。 我々は、百万スケールのデータセットCC1Mを作成し、それを用いて、敵に訓練されたImageNetモデルの最初の百万スケールの対角ロバスト性評価を行う。
  論文  参考訳（メタデータ） (2024-11-20T10:41:23Z)
• Transferable Adversarial Attacks on SAM and Its Downstream Models [87.23908485521439]
  本稿では,セグメント・アプライス・モデル(SAM)から微調整した様々な下流モデルに対する敵攻撃の可能性について検討する。 未知のデータセットを微調整したモデルに対する敵攻撃の有効性を高めるために,ユニバーサルメタ初期化(UMI)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-26T15:04:04Z)
• Trust but Verify: Assigning Prediction Credibility by Counterfactual Constrained Learning [123.3472310767721]
  予測信頼性尺度は統計学と機械学習において基本的なものである。 これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。 この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
  論文  参考訳（メタデータ） (2020-11-24T19:52:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。