論文の概要: CrACK: Adversarial Attacks on Cross-Model Consistency in Collaborative Vision Foundation Models

• arxiv url: http://arxiv.org/abs/2609.07499v1
• Date: Mon, 07 Sep 2026 13:47:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-12 00:13:17.807686
• Title: CrACK: Adversarial Attacks on Cross-Model Consistency in Collaborative Vision Foundation Models
• Title（参考訳）: CrACK:コラボレーティブビジョンファウンデーションモデルにおけるクロスモデル一貫性に対する敵対的攻撃
• Abstract要約: CLIP、SAM、DINOといったVision Foundation Modelを統合する、トレーニング不要のコラボレーティブパイプラインは、強力なオープン語彙密度予測を実現する。 入力画素,モデル重み,トレーニングデータを変更することなく,このインターフェースを利用する推論時攻撃であるCrACKを提案する。 実験により、CrACKは破滅的な劣化を引き起こすが、個々のモデルはそのまま独立して出力を出力し続ける。
• 参考スコア（独自算出の注目度）: 16.64134816858303
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Training-free collaborative pipelines that integrate Vision Foundation Models such as CLIP, SAM, and DINO achieve strong open-vocabulary dense prediction and are increasingly deployed in safety-critical applications. The security of these systems is commonly assumed to follow from the robustness of their individual models. We challenge this assumption. We identify a vulnerability shared by every collaborative pipeline: each model consumes the intermediate output of another without verifying semantic consistency, an unverified premise that we term the semantic-spatial alignment dependency. Existing adversarial attacks target a single model and overlook this premise, leaving the inter-model interface entirely unguarded. We propose CrACK (Cross-model Adversarial Consistency attack), an inference-time attack that exploits this interface without modifying any input pixel, model weight, or training data. CrACK operates in two stages: Adversarial Affinity Contradiction Injection corrupts the cross-modal affinity matrix by inverting SAM encoder features under the guidance of CLIP patch-level semantics, and Semantic Interface Poisoning steers the prediction through a max-distance label permutation derived from CLIP text embeddings. Experiments on four collaborative pipelines across eight benchmarks show that CrACK causes catastrophic degradation while every individual model continues to produce its unchanged standalone output, rendering per-model defenses structurally blind. The corruption further cascades into large vision-language model reasoning, driving models such as LLaVA to produce erroneous responses from visually intact inputs. Our results show that the security of a collaborative AI system cannot be reduced to the robustness of its components, and that inter-model feature interfaces must be treated as first-class security boundaries.
• Abstract（参考訳）: CLIP、SAM、DINOといったVision Foundation Modelを統合するトレーニング不要のコラボレーティブパイプラインは、強力なオープン語彙密度予測を実現し、安全クリティカルなアプリケーションにますますデプロイされている。 これらのシステムのセキュリティは、一般的に個々のモデルの堅牢性から従うと仮定される。 私たちはこの仮定に挑戦する。 各モデルはセマンティックな一貫性を検証せずに他の中間出力を消費するが、これはセマンティックな空間的アライメント依存(semantic-spatial alignment)と呼ぶ不確実な前提である。 既存の敵攻撃は単一のモデルをターゲットにしており、この前提を見落とし、モデル間インターフェースは完全に守られていないままである。 我々は,入力画素,モデル重み,トレーニングデータを変更することなく,このインタフェースを利用する推論時間攻撃であるCrACKを提案する。 Adversarial Affinity Contradiction Injectionは、CLIPパッチレベルのセマンティクスのガイダンスの下でSAMエンコーダ機能を反転させることによって、クロスモーダルアフィニティマトリックスを破損させる。 8つのベンチマークで4つのコラボレーティブパイプラインの実験は、CrACKが破滅的な劣化を引き起こし、各モデルが相変わらず独立した出力を生成し続け、モデルごとの防御が構造的に見えなくなることを示している。 汚職はさらに大きな視覚言語モデル推論へと発展し、LLaVAのようなモデルで視覚的に無傷な入力から誤応答を発生させる。 この結果から,協調型AIシステムのセキュリティをコンポーネントの堅牢性に還元することはできないこと,モデル間機能インターフェースを一級セキュリティ境界として扱う必要があること,などが示唆された。

関連論文リスト

• Safe Vision Language Action Models via Barrier Enhanced Flow Matching [0.0]
  本稿では,フローマッチング生成モデルと公式な制御バリア関数の安全性を保証するモジュール型推論フレームワークを提案する。 滑らかなLog-Sum-Exponentialアグリゲーションバリアを利用することで、アクションチャンク全体の安全性を強制する。 2つのロボット操作プラットフォームと2次元ナビゲーションベンチマークによるアプローチの検証を行い、モデルの成功率を低下させることなく、信頼性の高い安全性を実現することを検証する。
  論文  参考訳（メタデータ） (2026-07-31T15:56:19Z)
• Dual Adversarial Fine-tuning for Enhancing Robustness of Large Vision Language Model [73.59026525350808]
  2つのモードからの視覚的および意味的な監視信号を協調的に最適化する二重対向微調整フレームワークを提案する。 本手法は, ゼロショット分類, 画像キャプション, 視覚的質問応答タスクにおいて, 対向ロバスト性評価における最先端手法よりも優れている。
  論文  参考訳（メタデータ） (2026-07-21T10:49:29Z)
• CIAware-Bench: Benchmarking Control Intervention Awareness Across Frontier LLMs [100.38986535324284]
  我々は、フロンティアモデル全体でのtextbfcontrol textbfintervention (CI) の認識を測定するベンチマークである textbfCIAware-Bench を紹介する。 CIAware-Benchは、モデルが自身の軌跡を制御介入によって修正されたものと区別できるかどうかをテストする。
  論文  参考訳（メタデータ） (2026-06-09T16:24:16Z)
• Provable Robustness against Backdoor Attacks via the Primal-Dual Perspective on Differential Privacy [51.758416625168]
  ランダムな平滑化は、敵の摂動に対する堅牢性を証明するための強力なツールである。 本稿では,複雑な構成機構の認証のためのフレームワークを提案する。 複雑な脅威モデル下での堅牢性を証明するために複合メカニズムを使用するための原則的で一般的なフレームワークを提供する。
  論文  参考訳（メタデータ） (2026-05-20T22:17:29Z)
• Shape and Substance: Dual-Layer Side-Channel Attacks on Local Vision-Language Models [2.1198879079315573]
  デバイス上のビジョンランゲージモデル(VLM)は、ローカル実行を通じてデータのプライバシを約束する。 動的高分解能前処理へのアーキテクチャシフトは,アルゴリズム的なサイドチャネルを導入している。 ローカルなVLMに対する2層アタック・フレームワークを実演する。
  論文  参考訳（メタデータ） (2026-03-26T12:53:49Z)
• The Trojan in the Vocabulary: Stealthy Sabotage of LLM Composition [31.827344197678126]
  トケナイザー移植はサプライチェーンの脆弱性を導入する。 係数再利用の幾何学を利用して、我々の攻撃は非対称的な実現可能性ギャップを生み出す。 実験的に、攻撃は訓練なしで、スペクトルの模倣を達成し、異常検出を回避する。
  論文  参考訳（メタデータ） (2025-12-31T19:00:03Z)
• When Robots Obey the Patch: Universal Transferable Patch Attacks on Vision-Language-Action Models [81.7618160628979]
  VLA(Vision-Language-Action)モデルは敵の攻撃に弱いが、普遍的かつ移動可能な攻撃は未発見のままである。 UPA-RFAS(Universal Patch Attack via Robust Feature, Attention, and Semantics)は、単一の物理的パッチを共有機能空間で学習する統合フレームワークである。 多様なVLAモデル、操作スイート、物理実行の実験は、UPA-RFASがモデル、タスク、視点を一貫して移行していることを示している。
  論文  参考訳（メタデータ） (2025-11-26T09:16:32Z)
• TRAP: Targeted Redirecting of Agentic Preferences [3.6293956720749425]
  本稿では,拡散型セマンティックインジェクションを用いてエージェントの意思決定を制御する,生成的敵対的フレームワークであるTRAPを紹介する。 提案手法は, 負のプロンプトに基づく劣化と正のセマンティック最適化を組み合わせ, シームズ意味ネットワークとレイアウト対応空間マスキングによって導かれる。 TRAPはLLaVA-34B、Gemma3、Mistral-3.1など主要なモデルで100%の攻撃成功率を達成した。
  論文  参考訳（メタデータ） (2025-05-29T14:57:16Z)
• CeTAD: Towards Certified Toxicity-Aware Distance in Vision Language Models [16.5022773312661]
  本稿では,ジェイルブレイク攻撃に対する大規模視覚言語モデルの保護を目的とした,普遍的な認証防衛フレームワークを提案する。 まず、悪意のある応答と意図した応答のセマンティックな差異を定量化する新しい距離尺度を提案する。 そして, ランダム化スムーシングを用いて, 形式的堅牢性を保証するための回帰認証手法を考案する。
  論文  参考訳（メタデータ） (2025-03-08T17:33:55Z)
• Transferable Adversarial Attacks on SAM and Its Downstream Models [87.23908485521439]
  本稿では,セグメント・アプライス・モデル(SAM)から微調整した様々な下流モデルに対する敵攻撃の可能性について検討する。 未知のデータセットを微調整したモデルに対する敵攻撃の有効性を高めるために,ユニバーサルメタ初期化(UMI)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-26T15:04:04Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。