論文の概要: The Security Threat of Compressed Projectors in Large Vision-Language Models

• arxiv url: http://arxiv.org/abs/2506.00534v1
• Date: Sat, 31 May 2025 12:43:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-04 21:47:33.184144
• Title: The Security Threat of Compressed Projectors in Large Vision-Language Models
• Title（参考訳）: 大型ビジョンランゲージモデルにおける圧縮プロジェクタのセキュリティ脅威
• Authors: Yudong Zhang, Ruobing Xie, Xingwu Sun, Jiansheng Chen, Zhanhui Kang, Di Wang, Yu Wang,
• Abstract要約: 適切な視覚言語プロジェクタの選択は、大きな視覚言語モデルのトレーニングの成功に不可欠である。 評価の結果,セキュリティプロファイルに有意な差異が認められた。
• 参考スコア（独自算出の注目度）: 31.32392410215498
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The choice of a suitable visual language projector (VLP) is critical to the successful training of large visual language models (LVLMs). Mainstream VLPs can be broadly categorized into compressed and uncompressed projectors, and each offering distinct advantages in performance and computational efficiency. However, their security implications have not been thoroughly examined. Our comprehensive evaluation reveals significant differences in their security profiles: compressed projectors exhibit substantial vulnerabilities, allowing adversaries to successfully compromise LVLMs even with minimal knowledge of structural information. In stark contrast, uncompressed projectors demonstrate robust security properties and do not introduce additional vulnerabilities. These findings provide critical guidance for researchers in selecting optimal VLPs that enhance the security and reliability of visual language models. The code will be released.
• Abstract（参考訳）: 視覚言語プロジェクタ(VLP)の選択は、大きな視覚言語モデル(LVLM)のトレーニングの成功に不可欠である。 メインストリームのVLPは圧縮プロジェクタと非圧縮プロジェクタに広く分類することができ、それぞれが性能と計算効率において明確な利点を提供する。 しかし、そのセキュリティ上の意味については詳しく調べられていない。 圧縮プロジェクターは重大な脆弱性を示し、敵は構造情報の最小限の知識でもLVLMを妥協できる。 対照的に、圧縮されていないプロジェクタは堅牢なセキュリティ特性を示し、追加の脆弱性を導入しない。 これらの知見は、視覚言語モデルのセキュリティと信頼性を高める最適なVLPを選択する上で、研究者にとって重要な指針となる。 コードはリリースされます。

関連論文リスト

• Video-SafetyBench: A Benchmark for Safety Evaluation of Video LVLMs [51.90597846977058]
  Video-SafetyBenchは、ビデオテキスト攻撃下でのLVLMの安全性を評価するために設計された最初のベンチマークである。 ビデオテキストのペアは2,264で、48のきめ細かいアンセーフなカテゴリにまたがっている。 安全性評価のためのセマンティックなビデオを生成するために,ビデオ意味論を主題画像とモーションテキストに分解する制御可能なパイプラインを設計する。
  論文  参考訳（メタデータ） (2025-05-17T05:06:38Z)
• Transferable Adversarial Attacks on Black-Box Vision-Language Models [63.22532779621001]
  敵対的攻撃は、テキストのみのコンテキストとビジョンのみのコンテキストにおいて、オープンソースからプロプライエタリなブラックボックスモデルに移行することができる。 攻撃者は、特定の攻撃者による視覚情報の解釈を誘導するために、摂動を作れます。 普遍的な摂動 -- 広い範囲のイメージに適用可能な修正 -- は、これらの誤解釈を一貫して引き起こすことを発見した。
  論文  参考訳（メタデータ） (2025-05-02T06:51:11Z)
• PSA-VLM: Enhancing Vision-Language Model Safety through Progressive Concept-Bottleneck-Driven Alignment [28.008884416277954]
  本稿では,視覚的モダリティの安全性向上を目的とした,プログレッシブなコンセプトベースアライメント戦略であるPSA-VLMを提案する。 提案手法は,VLMの安全性ベンチマークにおいて,最先端の安全性を実現する。
  論文  参考訳（メタデータ） (2024-11-18T13:01:57Z)
• Safety Alignment for Vision Language Models [21.441662865727448]
  安全モジュールの追加により視覚言語モデル(VLM)の視覚的モダリティ安全アライメントを強化する。 提案手法は使いやすさ,高い柔軟性,強力な制御性を備え,モデル全体の性能に最小限の影響を与えながら安全性を向上させる。
  論文  参考訳（メタデータ） (2024-05-22T12:21:27Z)
• B-AVIBench: Towards Evaluating the Robustness of Large Vision-Language Model on Black-box Adversarial Visual-Instructions [73.97665608366447]
  LVLM(Large Vision-Language Models)は、ユーザからの視覚的指示に応答する上で、大きな進歩を見せている。 画像とテキストを含むこれらの命令は、意図的および意図しない攻撃の両方に影響を受けやすい。 B-AVIBenchは,様々なブラックボックス・アドミラル・ビジュアル・インストラクションに直面する場合のLVLMのロバスト性を解析するためのフレームワークである。
  論文  参考訳（メタデータ） (2024-03-14T12:51:07Z)
• Adversarial Prompt Tuning for Vision-Language Models [86.5543597406173]
  AdvPT(Adversarial Prompt Tuning)は、視覚言語モデル(VLM)における画像エンコーダの対向ロバスト性を高める技術である。 我々は,AdvPTが白箱攻撃や黒箱攻撃に対する抵抗性を向上し,既存の画像処理による防御技術と組み合わせることで相乗効果を示すことを示した。
  論文  参考訳（メタデータ） (2023-11-19T07:47:43Z)
• On Evaluating Adversarial Robustness of Large Vision-Language Models [64.66104342002882]
  大規模視覚言語モデル(VLM)のロバスト性を,最も現実的で高リスクな環境で評価する。 特に,CLIP や BLIP などの事前学習モデルに対して,まず攻撃対象のサンプルを作成する。 これらのVLM上のブラックボックスクエリは、ターゲットの回避の効果をさらに向上させることができる。
  論文  参考訳（メタデータ） (2023-05-26T13:49:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。